【外评】斯嘉丽-约翰逊事件让 OpenAI 看起来很绝望

人工智能| 2024-05-22

5 月 13 日，OpenAI 通过工作人员与人工智能语音助手之间的一系列实时对话展示了一种新模式。聊天机器人给人一种熟悉的感觉。它的回答很随意、很顺耳，有时还会令人不舒服地奉承。此外，它的声音听起来也很熟悉–就像你以前在相关场合听到过的声音。在演讲过程中，萨姆-奥特曼（Sam Altman）通过一篇关于 X 的文章消除了人们对其公司目标的疑虑：

人工智能公司与科幻小说之间的关系十分有趣。一方面，它们处于一个罕见而有用的位置，在一个多年来一直被推理小说所探索的空间里开展业务。与其解释它们是做什么的、怎么做的或为什么要这么做，它们可以选择简单地引用那些已经存在于几代人大众想象中的想法和概念，比如无害的卡通机器人、可怕的隐形超级智能体和标志性的非实体声音。这有点像说你要去火星或造一辆飞行汽车。人们知道你在说什么。他们中的一些人可能会觉得你在兑现一个逾期未兑现的承诺；另一些人可能会指出，人们对这些事情所做的很多思考都是复杂的。不过，总的来说，这对 OpenAI 这样的公司来说是一笔不错的交易，当然，除非他们做得太过分了。

举个例子：发布一款产品，让人们将其与电影《她》进行比较是一回事，因为在《她》中，主人公爱上了斯嘉丽-约翰逊（Scarlett Johansson）配音的人工智能角色。当然，你是在玩套路和期望，但你也有信心，你的聊天机器人听起来足够流畅，至少对某些观众来说，这种比较很容易产生。坚持让公众进行这样的比较–说 “嘿，你知道那部有人工智能声音的电影吗？我们也这么做了，看到了吗？这完全是汗颜和不自信的行为，或许这也是在承认，OpenAI 在某种程度上也是在做推理小说的生意。当你的产品显然是基于声音的拥有者–根据你的说法–声称你征得了她的同意才使用她的声音时，情况就完全不同了！- 声称你征求过她的同意，但被拒绝了，于是决定继续使用：

撇开这里的法律问题不谈，这种行为与人们对 Sam Altman 和 OpenAI 的一些最严厉的批评是一致的，即这是一家不重视创造性工作价值的公司，由一个诡计多端、不值得信赖的经营者领导。这一事件也使该公司所偏爱的 “不可阻挡的必然性 “叙事变得复杂起来：你要么是一家公司，正在利用即将到来的自我复制机器智能这一几乎不受控制的现象，引领人类进入下一个技术时代；要么就是一家处于中期阶段的初创公司，出于某种原因，它确实需要复制电影中的声音来推销渐进式的产品升级。

OpenAI 与地球上知名度最高的人类之一发生了一边倒的公开争执，这是 OpenAI 和山姆-奥特曼（Sam Altman）在一连串的事件中努力使自己的故事顺理成章的最新一幕。在OpenAI的演示结束后不久，有消息称其 “超对齐 “团队–该团队成立于去年，任务是研究如何 “引导和控制比我们聪明得多的人工智能系统”–的领导者和大部分员工已经辞职，其中包括OpenAI的联合创始人和前首席科学家伊利亚-苏茨克沃（Ilya Sutskever）。除了 superalignment 的负责人 Jan Leike 说他 “与 OpenAI 领导层就公司的核心优先事项产生分歧已经有一段时间了 “之外，大多数人的辞职都是悄无声息或简短地宣布的–据 Vox 报道，他们签署了一份 “限制性极强的离职协议，其中包含保密和非贬损条款”，”禁止他们在有生之年批评他们的前雇主”。奥特曼回应说，他对这件事的发生感到 “非常尴尬”，但同时也承认自己一无所知：

如果你完全相信这样一种说法：OpenAI 是科技公司的终结者–一家能够带来人工通用智能的公司，是大多数人无法理解的未来的理所当然的管理者–那么你可能会担心，OpenAI 已经从安全和协调转向了无拘无束的人工智能发展，后果不堪设想。但是，这家公司最近的行为，以及其首席执行官的行为（他在重新掌权之前曾被董事会指责缺乏 “坦诚”，并被短暂罢免），也与一家公司的行为一致，这家公司面临着大量竞争，其产品的差异化程度比以往任何时候都要低，而且它宣称自己致力于安全，主要是为了暗示自己有朝一日会变得多么强大：这家公司不仅凭借其技术实力或明确定义的商业模式筹集了巨额资金，而且还凭借一系列宏大–而且令人怀疑是熟悉–的未来故事筹集了巨额资金！- 这些故事都来自于过去的小说。

本文文字及图片出自 The Scarlett Johansson Incident Makes OpenAI Look Desperate