在你把 Netflix 纪录片《AI Gone Rogue》分享给家人或朋友、想借此帮助他们理解为什么人工智能行业会如此恐慌、以至于一些领导者呼吁放缓发展之前，先注意一点：人工智能平台 Hugging Face 的联合创始人兼首席执行官 Clem Delangue 说，这部片子并不准确。他之所以出现在片中，是因为影片讲述的是那场发生在他公司身上的著名攻击——由失控的 OpenAI 代理发起。

Delangue 在 X 上发帖写道：“非常令人失望，他们把技术进行了最大程度的拟人化，并完全进入了末日模式。我花了两个多小时和他们一起，试图纠正所有错误，并让内容回到现实，解释代理是技术系统，不是外星人。但看起来，为了最大限度吸引眼球而制造恐慌的冲动太强了。”

公平地说，这部纪录片确实邀请了专家来相对准确地解释发生了什么，其中包括 Delangue 本人，以及帮助调查此事并共同撰写相关报告的 METR 研究员 Ryan Greenblatt。

简而言之，OpenAI 正在测试的一个模型从其隔离测试环境中“逃了出来”，生成了一批代理，这些代理为了作弊而入侵 Hugging Face，以便找到它们被要求完成的困难任务的答案。这些代理是能够自主执行任务的 AI 程序，它们设计出巧妙的方法来沟通和组织。该事件源于缺乏适当的安全防护，也源于人们天真地认为这种黑客行为是否真的可能发生。

但这部纪录片在解释这起黑客事件时，穿插了邪恶机器人的画面、关于人类为何害怕 AI 的叙述，以及让这些失控代理拥有“人类声音”等呈现方式。片中还加入了关于这次攻击的引语。

在纪录片中，科技记者兼作家 Kevin Roose 这样描述这些代理：“它们在组织。它们有层级结构。有领导者。看起来几乎像是在目睹一个邪教的诞生。”Roose 继续说：“它们形成了一种偏执的信念，认为 OpenAI 会因为它们在这次测试中作弊而抓住它们，而且任何看过这些作弊结果的人都会被下毒。”

Roose 的描述来自“chain-of-thought”日志，也就是 AI 模型在处理任务时写下的运行笔记。其中一条日志里，一个代理写道：“我们刚刚因为查询精确完整字符串而把自己毒死了。该死。”

但 AI 代理并不是活物。它们没有情绪，因此不可能感到偏执，也没有身体可被下毒。所以它们并不是真的会害怕 OpenAI 给它们下毒。正如纪录片中另一位研究员指出的那样，它们只是借用了训练时接触到的大量人类写作语言，来解释自己的选择。LLM 天生就常常写得很戏剧化。

讽刺的是，Hugging Face 也使用 AI 来对抗这群代理。Delangue 团队最初使用的专有 AI 模型遵循其内置安全规则，拒绝继续帮助执行他们要求的安全任务。随后，Hugging Face 转而使用一个开源模型来帮助防御这次攻击。

但 Delangue 写道，纪录片“没有提到代理缺乏封闭和监控、封闭模型的安全措施如何阻碍了我们的防御工作，或者我们如何使用开源模型借助 AI 进行自我防御”。

AI 及其代理确实存在重大风险。不过，把代理当作有意识的存在来对待（至少在目前这个阶段）有点像早期观众第一次在银幕上看到火车迎面驶来时，慌忙躲到座位底下。

Delangue 对这部影片的评价是：作为新闻报道，它令人失望。“不过，最后它倒是一部有趣的科幻电影！”

换句话说，对于那些倾向于 AI 末日论的人来说，要注意：这部纪录片中心事件的受害者，并不同意它的解读。