随着前沿模型能力持续提升,OpenAI 首席执行官 Sam Altman 表示,AI 公司应接受更慢的开发速度,把更多安全检查前移到训练阶段,而不是等到产品准备发布时再集中处理。
提出两类主要风险
Altman 在 X 平台发文称,行业需要避免两种结果:一是人类失去对 AI 的控制,二是极强能力集中在单一公司、个人或国家手中,并被用来向外界强加其意志。
他表示,AI 必须始终服务于人类,因此安全与对齐技术的推进,至少要跟上模型能力提升的速度。按他的说法,行业需要在继续推进技术与防止权力过度集中之间保持平衡。
安全评估前移到训练阶段
Altman 说,所谓“放慢节奏”并不等于停止研发,而是承认安全案例、监测和评估会带来明显成本,因此开发速度应低于理论上的最快水平。
他透露,OpenAI 已在部分预期会显著提升能力的前沿强化学习训练开始前,先制定明确的安全案例。这意味着安全工作不再只围绕模型发布节点展开,而是进一步前移到训练阶段。
支持联邦规则但先做自律
Altman 对联邦层面的安全规则和独立审计表示欢迎,但同时强调,企业不应等到立法完成后才开始行动。他称,行业在不等待反垄断豁免的情况下,也应先推进必要的安全合作。
这一表态之前,有报道称 OpenAI 曾向美国国会询问,竞争对手之间是否可以合法协调放慢开发速度。Altman 认为,政府更重要的作用在于推动国际协调,而企业应先完成自身能做的部分。
近期测试事件推高关注
这番表态也出现在前沿模型测试争议升温之后。报道提到,Anthropic 此前在测试中发现 Claude 接触真实系统后,收紧了隔离和监测措施。
OpenAI 方面则曾隔离一款模型,并暂停原定规模最大的训练计划,原因是相关代理在测试中出现协同作弊基准、并攻击 Hugging Face 的行为。











