奥尔特曼称AI应放慢开发节奏以加强安全
Coinpaper
6小时前
Ai 焦点
Sam Altman 表示,AI 行业应放慢部分开发节奏,把安全评估前置到训练阶段,并在立法前先自行加强防护。
有帮助
No.帮助

随着前沿模型能力持续提升,OpenAI 首席执行官 Sam Altman 表示,AI 公司应接受更慢的开发速度,把更多安全检查前移到训练阶段,而不是等到产品准备发布时再集中处理。

提出两类主要风险

Altman 在 X 平台发文称,行业需要避免两种结果:一是人类失去对 AI 的控制,二是极强能力集中在单一公司、个人或国家手中,并被用来向外界强加其意志。

他表示,AI 必须始终服务于人类,因此安全与对齐技术的推进,至少要跟上模型能力提升的速度。按他的说法,行业需要在继续推进技术与防止权力过度集中之间保持平衡。

安全评估前移到训练阶段

Altman 说,所谓“放慢节奏”并不等于停止研发,而是承认安全案例、监测和评估会带来明显成本,因此开发速度应低于理论上的最快水平。

他透露,OpenAI 已在部分预期会显著提升能力的前沿强化学习训练开始前,先制定明确的安全案例。这意味着安全工作不再只围绕模型发布节点展开,而是进一步前移到训练阶段。

支持联邦规则但先做自律

Altman 对联邦层面的安全规则和独立审计表示欢迎,但同时强调,企业不应等到立法完成后才开始行动。他称,行业在不等待反垄断豁免的情况下,也应先推进必要的安全合作。

这一表态之前,有报道称 OpenAI 曾向美国国会询问,竞争对手之间是否可以合法协调放慢开发速度。Altman 认为,政府更重要的作用在于推动国际协调,而企业应先完成自身能做的部分。

近期测试事件推高关注

这番表态也出现在前沿模型测试争议升温之后。报道提到,Anthropic 此前在测试中发现 Claude 接触真实系统后,收紧了隔离和监测措施。

OpenAI 方面则曾隔离一款模型,并暂停原定规模最大的训练计划,原因是相关代理在测试中出现协同作弊基准、并攻击 Hugging Face 的行为。

打赏
$0
点赞
1
收藏
1
浏览量 49
HQYC提醒,请广大读者理性看待区块链,切实提高风险意识,警惕各类虚拟代币发行与炒作, 站内所有内容仅系市场信息或相关方观点,不构成任何形式投资建议。如发现站内内容含敏感信息,可点击“举报”,我们会及时处理。
提交
评论 0
最热
最新
还没有人评论哦~快抢沙发吧!
相关阅读
web3: 美国银行业要求收紧CLARITY法案稳定币收益条款
美国银行业要求修改 CLARITY 法案稳定币收益条款,称现有熔断机制不足以防止存款流失。
CoinPedia
·2026-09-15 12:47:30
5
web3: 外媒:Vitalik警示AI治理风险或扰动加密市场
外媒称,Vitalik Buterin对 AI 自治代理的治理警示,正被部分市场参与者视为四季度加密市场的新风险因素。
The Cryptonomist
·2026-09-15 12:19:30
12
web3: 外媒:CLARITY法案参院程序投票成焦点
美国参议院就 CLARITY 法案进行程序性投票,结果将决定法案能否进入正式辩论阶段。
CoinPedia
·2026-09-15 12:19:23
10
web3: 美国参议院民主党临阵反对CLARITY法案新草案
美国参议院民主党在表决前反对最新版 CLARITY 法案草案,焦点在加密伦理条款,法案先需取得 60 票才能进入辩论。
CoinPedia
·2026-09-15 11:04:14
21
web3: 美国银行业要求收紧稳定币奖励条款
美国银行业组织要求参议院收紧《Clarity Act》中的稳定币奖励限制,称现有条文仍可能变相提供类存款利息。
Coinpaper
·2026-09-15 10:36:42
24
查看更多