欢迎来到《Eye on AI》。我是Jeremy Kahn。本期内容包括：

• 英伟达是围绕一个人建立起来的，如今一桩间谍丑闻正威胁这一模式。
• 在丑闻曝光前，英伟达CEO黄仁勋曾就中国政策接受《财富》采访。
• Anthropic正考虑以1.4万亿美元估值定价其IPO。
• Anthropic推出新的Fable模型，价格比OpenAI低20%。
• OpenAI发布新的网络安全模型。
• Anthropic更接近RSI，这让AI安全专家感到担忧。
• AI基础设施提供商Fireworks遭黑客攻击。
• Google DeepMind在形式化验证方面取得突破。
• 播客主Dwarkesh Patel提出了一个有意思的新AI基准。

在进入新闻之前，我想说，你们一定不要错过今年的Fortune Brainstorm AI San Francisco。

我们为大家准备了非常出色的演讲嘉宾阵容：OpenAI总裁Greg Brockman和微软AI CEO Mustafa Suleyman都将登台。曾经是最亲密伙伴的两家公司，如今正日益成为竞争对手，所以我很想听听他们对未来道路有何不同看法。AI先驱Fei-Fei Li（现任World Labs）以及Andrew Ng（现任LearnVector）也将讨论他们对AI未来的看法。Palo Alto Networks CEO Nikesh Arora将谈论AI与网络安全。Greylock合伙人Reid Hoffman、CapitalG的Jill Chase，以及Kleiner Perkins的Mamoon Hamid和Ilya Fushman将讨论资金流向何处。Recursive Superintelligence的Richard Socher将谈论RSI以及自动化AI研究。

此外，还有来自Google的Nick Fox、Fireworks CEO Lin Qiao、Cerebras的Andrew Feldman、Vanta的Christina Cacioppo、Unconventional AI的Naveen Rao、Brex的Pedro Franceschi、Maven Clinic的Kate Ryder、Box的Aaron Levie、Atlassian的Mike Cannon-Brookes、New Work Foundation的Clara Shih、Twilio的Khozema Shipchandler、Rubrik的Bipul Sinha、Harvey的Winston Weinberg、Dynamic Creatures的Marc Theermann、SendCutSend的Jim Belosic、Apptronik的Jeff Cardenas、Accenture Song的Ndidiamaka Oteh，以及Senra Systems的Jordan Black。活动将会非常精彩。欢迎在12月7日至8日前往旧金山圣瑞吉斯酒店，与我和《财富》的多位同事一同参加。你可以在这里申请出席。

本周AI领域最大的新闻，是英伟达CEO黄仁勋与一名女性的婚外情被披露，而美国情报部门据报认为这名女性是中国间谍。黄仁勋是否还能保住职位，目前仍是未知数。这在很大程度上取决于黄仁勋究竟知道多少，以及他向处于丑闻中心的Alice Huang披露了哪些信息。随着更多信息浮出水面，这位陷入风波的英伟达CEO的处境看起来已经不太妙。除了英伟达董事会宣布展开独立调查外，众议院共和党人已经要求他下周在一场闭门听证会上作证，而美国总统特朗普最初曾为黄仁勋辩护，如今则表示FBI也在调查此案。

似乎有越来越多的证据表明，黄仁勋知道，或者至少应该怀疑，Alice Huang的公司Megaspeed参与向中国公司供应先进的英伟达芯片，方式可能是让这些公司通过其在马来西亚设立的数据中心接入这些芯片（在2025年之前，这在美国法律下可能合法，但此后不再如此），或者是直接将英伟达GPU走私到中国（这将违反美国出口法律）。如果黄仁勋确实参与了将先进英伟达芯片走私到中国，那么这很可能足以迫使他辞职。

《纽约时报》还报道称，英伟达的总法律顾问在2025年介入，推动商务部对Megaspeed的调查转到司法部，但这项调查似乎随后被搁置。如果进一步披露显示，黄仁勋利用自己的影响力为Megaspeed遮挡联邦调查人员，那么他继续担任CEO也会变得困难。如果事实证明，他向Alice Huang透露了与特朗普总统讨论的机密信息，或英伟达芯片设计的机密信息，那么他大概率也难以脱身。

如果Alice Huang正如一些报道所说，主要是试图影响黄仁勋在出口管制上的立场，那么情况对他来说可能没那么糟。英伟达CEO在芯片出口问题上的立场，早在他被认为与Alice Huang相识之前就已经相当一致。此外，考虑到英伟达曾通过向中国销售GPU赚取大量利润，他本来也并不需要别人说服他去反对出口限制。

黄仁勋对向中国出口的立场并未改变

几周前，在丑闻曝光之前，我和同事Beatrice Nolan在伦敦与黄仁勋会面时，他告诉我们，美国应该希望英伟达在中国市场竞争。他说：“我认为中国的机会既大又在增长，就像全球AI市场一样大且在增长。我们可以为当地市场提供巨大帮助。我们可以竞争并尽可能赢得美国的AI市场份额，同时也提供计算资源，这对他们的经济非常重要。”Bea在本周早些时候发表的一篇报道中，进一步介绍了黄仁勋当时对中国的看法，你可以在这里阅读。

如果黄仁勋最终真的卸任，这可能会对整个AI热潮产生影响，尽管任何继任者大概率仍会继续向英伟达所支持的那一批AI实验室、初创公司和neocloud提供资金支持。话虽如此，黄仁勋是一个独一无二的推动力量。他把英伟达当作一家巨型初创公司来经营，没有明确的继任者，甚至连明确的候选人都没有，而且管理结构极其扁平。黄仁勋据称曾有30名直接下属，而在某个时期这一数字一度达到60名。他在许多方面都直接参与了几乎所有关键业务决策。如果他离开，公司可能会受到冲击，其核心业务也可能受损。

即便黄仁勋继续担任CEO，美国AI监管也更可能收紧

即便黄仁勋最终保住英伟达CEO职位，他对美国政策的影响力也可能大幅减弱。这可能带来几项关键影响。

最直接的影响是，对中国更强硬的人士将失去一位反对更严格芯片出口规则的重要对手。事实上，这或许正是有人选择在此时泄露美国政府对黄仁勋和Alice Huang的结论的主要原因。

另一个不那么显眼的政策影响是，黄仁勋已成为开源AI的重要倡导者，并反对任何可能对这些模型施加许可标准的政府监管，因为这实际上可能限制甚至终结它们在美国的分发。随着黄仁勋被排除在外，那些认为开源AI模型带来无法轻易缓解风险的人，将更有机会推动联邦政府对所有AI模型制定许可规则。

我们还需要在未来几天、几周和几个月里继续观察这一故事如何发展。但有一点很清楚：AI热潮最大的推动者已经受挫。

接下来是更多AI新闻。

Jeremy Kahn

[email protected]

@jeremyakahn

在进入新闻之前，再提醒一下，欢迎收看我们新的视频播客《Fortune AI Weekly》。本周，我和Beatrice Nolan与Ramp首席经济学家Ara Kharazian对谈，了解AI支出、投资回报率和就业的真实情况。我们还讨论了中期选举中民主党的全面胜利及其对AI的影响，以及谷歌关于学校使用或不使用其Gemini AI模型的颇具争议的政策。你可以在YouTube上观看这期视频播客。

FORTUNE ON AI

• Anthropic在AI股抛售之际设定IPO区间，估值最高达1.4万亿美元——Beatrice Nolan
• 英伟达围绕一个人建立起来。一桩丑闻正在考验这一赌注——Sebastian Herrera
• Anthropic推出Claude Fable、Mythos 5.2模型，定价比OpenAI的GPT-6 Astra低20%——Emily Forlini
• 丑闻曝光前，英伟达的黄仁勋告诉《财富》，他的公司“可以为中国提供巨大帮助”——Beatrice Nolan
• Claude如今可以加入视频会议，作为一个主动、可见的队友，体现Anthropic在编码之外重塑白领工作的最新尝试——Emily Forlini
• OpenAI推出新的网络安全AI模型，以应对日益加剧的AI驱动网络攻击担忧——Wen Shao
• 独家：出版商Spines获得6400万美元新融资，加速用AI自动化图书出版——Jeremy Kahn
• 独家：在机器人训练数据竞赛中，前Meta研究人员创办的初创公司转向配备摄像头的零工劳动者——Wen Shao
• 独家：Alterra Labs宣布完成1250万美元种子轮融资，建设医疗AI训练环境——Wen Shao

AI新闻

METR称Anthropic正接近RSI，引发AI安全警报。根据独立AI评估非营利机构METR的一项新研究，Anthropic的AI模型提升速度几乎是此前的两倍，主要原因是AI越来越多地帮助研究人员开发更强大的模型。研究人员发现，自2025年10月以来，Anthropic模型在基准任务上的进步速度约为此前的1.9倍，并估计这种加速很大程度上来自AI自身的贡献，而不是算力增加。该研究提供了迄今最强的证据之一，表明AI正在加速自身发展，可能为一种被称为“递归自我改进”（RSI）的里程碑铺路，即AI系统自主创造越来越强大的后继系统。不过，METR也提醒，AI目前仍无法在模型训练最关键的阶段做出重大自主贡献，尽管进展加速让人担心安全评估是否能跟上。研究结果让AI安全研究人员感到不安，他们担心AI驱动的改进可能形成一个能力不断加速的反馈回路，进而超过人类控制越来越强大系统的努力。但这份报告也引发了透明度方面的疑问：METR表示，Anthropic阻止其公布支撑结论的大部分证据，理由是披露可能帮助竞争对手加速自己的AI开发。更多内容可见The Verge。

Anthropic达成34亿美元交易，为数据中心采购现场燃气发电机。《金融时报》报道称，Anthropic已达成一项34亿美元的交易，从总部位于得州的OnePWR Solutions获得17吉瓦燃气发电机的采购承诺，这是已知单笔规模最大的AI实验室发电设备采购。该交易使Anthropic能够获得两年前订购的卡特彼勒发电机，从而绕过漫长的制造延迟，并更好地掌控其快速扩张的数据中心所需的电力供应。此举凸显出，随着Anthropic准备上市并寻求为其到2045年接近9000亿美元的算力承诺融资，AI公司正越来越直接进入能源业务，以确保稀缺的电力基础设施。但这笔采购也引发环保担忧，因为燃气发电机会排放二氧化碳和其他污染物，而且它们的使用很可能会加剧当地社区对这些数据中心项目以及更广泛数据中心建设的反对。

微软逐步结束与Oracle的算力交易。彭博报道称，微软正在逐步结束一项从Oracle租用AI算力的交易，不再续签一份使用配备较旧英伟达芯片服务器的合同，因为这些芯片已不再符合其技术要求。此举是微软对其超过800亿美元、向第三方云服务商租赁算力承诺的更广泛重新评估的一部分，这些服务商包括CoreWeave、Nscale和Nebius，原因是人们担心成本过高以及数据中心建设延误。该决定凸显出AI基础设施热潮的经济性正面临越来越多不确定性，尤其对Oracle而言，其激进的数据中心投资已将自由现金流推入负值区间，并引发投资者担忧。

Fireworks遭黑客攻击。Fireworks AI是一家快速成长的初创公司，帮助开发者运行和训练开源AI模型，该公司遭遇了一次重大网络攻击，客户账单信息、模型权重和数据集被泄露。Fireworks表示，这次入侵与一个涉及窃取并转售AI访问令牌的网络犯罪团伙有关，事件已促使一些大客户考虑更换供应商，也可能使这家初创公司以300亿美元或更高估值融资的计划变得复杂。这是Fireworks在过去一个月里遭遇的第二次入侵。更多内容可见The Information。

AI研究观察

Google DeepMind展示AI代理可以生成软件的形式化验证。形式化验证是一种通过数学方式证明软件将按照某些规范运行的方法。这个过程已经存在了几十年，但随着软件变得越来越复杂，人们在时间和成本上只能对极少部分软件进行形式化验证。一般来说，只有那些运行极其关键系统、出错后果可能致命的软件——例如商用飞机自动驾驶系统、某些炼油厂或钻井平台的工业控制系统，或某些极其关键的银行软件——才会接受形式化验证。许多其他同样重要的软件，因为过程过于复杂、耗时且昂贵，并没有接受如此严格的检查。

现在，Google DeepMind已经展示，一个由多种强大AI模型构成的系统，包括其最前沿的AI模型Gemini Carbon，能够成功完成一项复杂且重要的软件算法的形式化验证。在这个案例中，Google DeepMind使用名为AlphaProof Code的系统，对Signal这一高度安全的即时通讯应用的加密协议参考实现进行了形式化验证。相同的参考软件也支撑着WhatsApp、Messenger和Google Messages中的加密。Google DeepMind使用的AI代理生成了约650万行Lean编程语言的证明代码，这是一种用代码表达数学的方法。Lean的工作方式是：如果数学有误，代码就无法正确编译；如果能编译通过，则数学步骤有效——在这里也意味着软件符合正在测试和验证的规范。

在这个案例中，这些证明表明，Signal的后量子握手和其“Triple Ratchet”机制能够提供前向保密、身份验证和事后泄露安全性。每一项证明都由机器对照约2.6万行经人工审阅并批准的规范进行检查。为了确保这些规范能够发现真实缺陷，研究人员重新插入了Signal代码中此前已修复的两个漏洞，而系统证明了修改后的代码是不安全的。

形式化验证长期以来一直被视为安全软件的黄金标准，但它过于昂贵且耗时，难以广泛使用：人类对一段复杂代码做一次形式化验证曾耗时20年，另一次则耗时6年。

Google DeepMind研究科学家、德州大学奥斯汀分校计算机科学教授Swarat Chaudhuri对《财富》表示：“如果六个月前你告诉我有人能做到这件事，我会说你在开玩笑。”

Chaudhuri表示，这项工作在攻击者正利用强大的AI模型寻找并利用软件漏洞的当下尤为重要。证明提供了一条摆脱“找漏洞—修补漏洞”猫鼠游戏的出路，因为它们可以一次性排除整类错误。

在Google DeepMind新的AlphaProof Code系统中，人类和AI代理共同编写规范，也就是对代码必须保证什么的正式陈述。随后，40到80个自主证明代理组成的团队在一到三天内完成证明，只有当Lean的内核检查通过时，这些证明才算有效。

Chaudhuri说，验证中最难的部分不是写证明，而是决定要证明什么，这仍然需要人类专业知识；例如Signal项目就包括密码学专家，他们帮助编写了AlphaProof Code随后检查的规范。

目前该项目纯属研究，没有产品计划，但规范和证明都是公开的，Google DeepMind也一直与Signal Foundation协调合作。Chaudhuri将这一时刻比作2012年前后的深度学习：一种旧想法“突然之间所有要素都齐了”，从而真正开始发挥作用。更多内容可见Google的博客。

AI日程

• 11月16日至17日：Fortune 500 Innovation Forum，底特律。可申请参加。
• 11月18日至19日：Slush，芬兰赫尔辛基。
• 12月6日至12日：NeurIPS会议，澳大利亚悉尼。
• 12月7日至8日：Fortune Brainstorm AI，旧金山。可申请参加。

脑力补给

通过让前沿模型玩《Blood on the Clocktower》能学到什么。播客主Dwarkesh Patel为前沿AI模型设计了一个不寻常的新基准：让它们玩《Blood on the Clocktower》，这是一款类似《Mafia》或《狼人杀》的社交推理游戏，玩家必须撒谎、虚张声势、结盟并揭露阴谋。在一集精彩的YouTube节目中，Patel解释了他如何搭建了一个计算机版本的游戏，让竞争中的AI模型彼此进行数百场对局，以测试它们的战略推理、与队友协作以及长期维持复杂欺骗的能力。Patel说，他在开发系统和运行实验上花了大约2万美元的AI API额度，其中Claude承担了大量编码工作，并通过20多轮测试自主改进了游戏环境。

结果表明，前沿模型在欺骗和集体推理方面已经变得相当复杂，其中OpenAI的GPT-6 Astra在测试模型中表现最强。Patel发现，OpenAI最新模型尤其擅长识别欺骗，因为它们对单个证据更为怀疑，而Anthropic的模型则往往过于轻信信息。但实验也暴露出AI模型在长期战略规划和推理方面仍存在不足。总体而言，Patel认为，AI辅助构建并完善这一基准的过程——包括编写模型所使用的框架——比模型实际对局更能体现前沿AI模型的能力。他说，这说明AI模型可以被用来构建模拟环境，而这些环境随后又可用于训练未来的AI系统——这正是Anthropic、OpenAI和Google DeepMind等前沿实验室开始谈论的递归自我改进（RSI）步骤之一。