随着 AI 模型能力继续提升，硅谷内部围绕“研究人员一边警告风险、一边继续推进开发”的争论再次升温。外媒称，这轮讨论的导火索之一，是 OpenAI 首席财务官 Sarah Friar 在高盛科技会议上提到，大模型已经可以训练更小的模型，从而降低训练成本。

模型能力提升引发担忧

文章认为，这类进展之所以引发关注，不只是因为成本下降，更因为它被一些研究人员视为“递归式自我改进”的早期信号。按这种理解，AI 系统未来可能更快推动下一代系统出现，模型能力提升的节奏也可能随之加快。

OpenAI与Anthropic表态发酵

近期，Anthropic 对齐科学负责人 Evan Hubinger 在 X 上表示，他认真认为 AI 在未来十年内造成“人类灭绝级后果”的概率超过 10%。随后，Anthropic 和 OpenAI 的其他员工也参与讨论，相关言论很快在硅谷引发争议。

文章提到，这种说法与华尔街的主流看法明显不同。在高盛会议现场，投资人更关注模型能力提升带来的商业机会。Altimeter Capital 创始人 Brad Gerstner 直接否认“AI 会杀死人类”的说法，称这种判断站不住脚。

外媒归纳三类原因

外媒称，第一类原因是商业激励。OpenAI 和 Anthropic 都依赖更强的模型来扩大产品销售和收入规模，因此即便部分研究人员对风险感到不安，企业整体仍会继续推进开发。

第二类原因是“竞赛心态”。一些研究人员认为，如果自己所在机构放慢脚步，而其他实验室继续推进，结果可能更糟。尤其是在他们看来，若更强的 AI 由“不够谨慎”的机构率先掌握，风险反而更高。

Anthropic 可扩展监督负责人 Samuel Marks 本周也在 X 上公开写道，AI 开发者之所以继续推进，往往是商业激励与竞争压力共同作用的结果，同时他们担心其他团队会以更不安全的方式使用这项技术。

影响力下降加剧焦虑

文章还提出第三种解释，即研究人员对自身影响力下降的焦虑。随着最先进模型的开发越来越集中在少数几家实验室，哪怕身处这些公司内部，研究人员也可能觉得自己对技术方向的实际影响有限。

AI 初创公司 Inworld 首席执行官 Kylan Gibbs 对此表示，研究人员一方面更清楚风险，另一方面又难以左右结果，这种“认知更强、控制更少”的落差，会放大焦虑情绪，并最终以更公开、更激烈的风险警告形式表现出来。

文章同时提到，AI 公司在招聘时也面临类似张力。许多研究人员出身学术界，更容易接受“参与安全与对齐工作”这类使命叙事，而不是单纯围绕利润和财富的招募方式。这也使得行业内部的风险表达，往往与技术开发同步出现。