【外评】我们不能再忽视人工智能的幻觉问题了

人工智能| 2024-05-16

人工智能也许很酷，但它也是个大骗子，我们也许应该多讨论这个问题。

谷歌 I/O 大会推出了一款能看能听的人工智能助手，而 OpenAI 则将其类似 Her 聊天机器人的版本植入了 iPhone。下周，微软将举办 Build 大会，届时肯定会推出能理解数据透视表的 Copilot 或 Cortana 版本。再过几周，苹果也将举办自己的开发者大会，从目前的风声来看，苹果也会谈论人工智能。(不清楚是否会提到 Siri）。

人工智能已经到来！它不再是概念。它抢走了工作，创造了一些新的工作，还帮助数百万学生避免做作业。根据大多数投资人工智能的大型科技公司的说法，我们似乎正处于经历罕见的重大技术变革的起点。想想工业革命、互联网或个人电脑的诞生吧。整个硅谷–整个大科技公司–都在专注于将大型语言模型和其他形式的人工智能从研究人员的笔记本电脑转移到普通人的手机和电脑上。理想的情况是，他们能在这个过程中赚大钱。

但我真的不在乎，因为 Meta AI 认为我有胡子。

我想说得很清楚：我是一名顺性女性，没有胡子。但如果我在提示窗口中输入 “给我看一张亚历克斯-克兰兹的照片”，Meta AI 就会不可避免地返回一些留着胡子的黑发帅哥的图片。我只是其中的一部分！

Meta AI 并不是唯一一个纠结于 The Verge 报头细枝末节的人。ChatGPT 昨天告诉我，我不在 The Verge 工作。谷歌的双子座不知道我是谁（很公平），但在告诉我 Nilay Patel 是 The Verge 的创始人之后，它又道歉并更正说他不是。(我向你保证他就是）。

当你向这些机器人询问真正重要的事情时，它们也会出错。Meta 在 2022 年推出的 “卡拉狄加”（Galactica）机器人就非常糟糕，三天后，公司就把它撤下了。今年早些时候，ChatGPT 突然开始胡言乱语，但它也经常编造判例法，导致多名律师在法庭上铩羽而归。

人工智能不断出错是因为这些电脑太蠢了。它们的能力超乎寻常，它们的愚蠢却令人吃惊。我无法对人工智能革命的下一个转折感到兴奋，因为这个转折将使计算机无法始终保持哪怕是微小事情的准确性。

我的意思是，在谷歌 I/O 大会的人工智能主题演讲中，他们甚至搞砸了。在谷歌新的人工智能化搜索引擎的广告中，有人问如何修理卡住的胶卷相机，它建议他们 “打开后门，轻轻取出胶卷”。这是最容易毁掉你已经拍摄的照片的方法。

人工智能与真相之间的困难关系被称为 “幻觉”。简单地说，这些机器善于发现信息模式，但在试图推断和创造时，它们偶尔会出错。它们实际上是在 “幻觉 “一种新的现实，而这种新的现实往往是错误的。这是一个棘手的问题，目前从事人工智能研究的每个人都意识到了这一点。

谷歌的一位前研究员声称，这个问题可以在明年内得到解决（不过他对这一结果表示遗憾），而微软也为部分用户提供了一个工具，据说可以帮助检测到它们。谷歌搜索部门主管利兹-里德（Liz Reid）告诉 The Verge，谷歌也意识到了这一挑战。”她对我的同事大卫-皮尔斯（David Pierce）说：”任何语言模型都需要在创造性和事实性之间取得平衡。”我们确实会将其向事实性方面倾斜。

但注意到里德是怎么说 “平衡 “的吗？这是因为很多人工智能研究人员实际上并不认为幻觉可以被解决。新加坡国立大学的一项研究表明，幻觉是所有大型语言模型的必然结果。就像没有人总是百分之百正确一样，这些计算机也是如此。

这也许就是为什么这个领域的大多数主要参与者–那些拥有真正的资源和经济动机来让我们拥抱人工智能的人–都认为你不应该担心这个问题。在谷歌的 IO 主题演讲中，它几乎在每一个展示的新人工智能工具下面的屏幕上都用灰色小字体加上了 “检查回复的准确性”–这是一个有用的提醒，说明它的工具不可信，但它也不认为这是一个问题。ChatGPT 的操作方式与此类似。它在提示窗口下方用小字体写道：”ChatGPT 可能会出错。请检查重要信息”。

在不久的将来，这些工具将改变我们的整个生活！而制造这些工具的人除了一个小小的警告之外，似乎并不太关心如何解决问题。

OpenAI 的首席执行官山姆-奥特曼（Sam Altman）曾因将利润置于安全之上而短暂下台，他更进一步表示，任何对人工智能准确性有异议的人都是天真的。”如果你只是做一件天真的事情，说’永远不要说任何你没有百分之百把握的话’，你可以让他们都这么做。但它不会有人们喜欢的那种魔力，”他在去年的Salesforce Dreamforce大会上对人群说。

这种认为人工智能有一种无法量化的魔力，可以让我们原谅它与现实之间的微妙关系的想法，经常被那些急于打消准确性顾虑的人提起。谷歌、OpenAI、微软和其他许多人工智能开发者和研究者都把幻觉视为一个小麻烦，应该被原谅，因为他们正在制造可能让我们的生活更轻松的数字生命。

不过，我还是要向山姆和其他所有受经济利益驱动而让我对人工智能感到兴奋的人道歉。我并不是为了人类意识中不准确的魔力才来使用计算机的。我使用电脑，是因为当人类意识不准确时，电脑却非常准确。我不需要电脑成为我的朋友；我需要它在我提出要求时，帮我弄清我的性别，帮我在修理坏掉的相机时，避免胶卷意外曝光。我想，律师们也会希望电脑能正确处理判例法。

我理解萨姆-奥特曼和其他人工智能布道者的想法。在遥远的未来，我们有可能从 1 和 0 中创造出真正的数字意识。眼下，人工智能的发展速度令人震惊，令以往许多技术革命汗颜。硅谷现在正在创造真正的奇迹。

但人工智能认为我有胡子。它无法始终如一地完成最简单的任务，然而，它却被强加给我们，并期望我们为这些人工智能所提供服务的难以置信的平庸性而庆贺。我固然对技术创新赞叹不已，但我希望我的电脑不要为了让我有一个数字化身可以聊天而牺牲准确性。这不是一种公平的交换–这只是一种有趣的交换。

本文文字及图片出自 We have to stop ignoring AI’s hallucination problem