外媒:美中专家呼吁禁止AI控制核武系统
Decrypt
Ai 注目
布鲁金斯学会与复旦大学研究人员提出,AI不应独立发起针对核指挥系统的网络攻击,也不应决定核武器使用。
役立つ
No.ヘルプ

外媒:布鲁金斯学会与复旦大学研究人员提出,美中应为军事AI划出红线,禁止AI独立决定对核指挥系统发起攻击,或直接决定使用核武器。文章称,这类规则的重点,是把核武相关决策继续留在人类手中。

盯住核指挥系统

研究人员建议,只有人类才能授权针对核指挥、控制与通信系统的网络攻击。NC3系统负责探测威胁、传递发射指令,也影响是否会误判攻击、误触发先发制人行动,甚至引发意外发射。

担心AI反应过快

文章指出,AI的速度和不确定性,可能让决策者来不及阻止局势升级。军事场景里,毫秒级自动判断一旦出错,可能把误报或网络攻击推向核危机。

美中都在讨论收紧

报道提到,今年 2 月,OpenAI、Google 和 Anthropic 的模型在测试中被用于核武器相关场景;同月,Anthropic 还拒绝了五角大楼放宽限制的要求。随后,围绕军事 AI 降速和人类控制的讨论也在科技公司间扩散。

チップ
$0
いいね
0
保存
0
閲覧数 10
CoinWorldは、読者の皆様にブロックチェーンを理性的に捉え、リスク意識を高め、各種仮想トークンの発行と投機に注意を払うようお願いします。サイト内のすべてのコンテンツは市場情報または関連する見解のみであり、いかなる形式の投資アドバイスも構成しません。機密情報を含むコンテンツを発見した場合は、“報告”,をクリックしてください。すぐに対処します。
送信
コメント 0
人気
最新
まだコメントがありません。最初のコメントを投稿しましょう!
関連
Google DeepMind成立研究机构推动AGI讨论
Google DeepMind 推出新机构,围绕 AGI 安全、模型透明度和前沿评估机制发布首批文章。
TechCrunch
·2026-09-18 07:45:27
2
新方法LEEPS提升大模型强化学习效率
LEEPS通过改进提示采样,降低大模型强化学习中的无效计算,并在多项推理基准上取得更高成绩。
The Cryptonomist
·2026-09-18 07:36:33
3
Crusoe融资39亿美元扩建AI数据中心
Crusoe完成39亿美元融资,估值升至309亿美元,将扩建数据中心并推进模块化AI算力设施。
TechCrunch
·2026-09-18 07:36:33
3
Zoox在内华达的100辆Robotaxi上限将取消
Zoox在内华达州的100辆Robotaxi上限将于9月25日到期,拉斯维加斯车队扩张空间随之打开。
TechCrunch
·2026-09-18 07:15:03
4
PrismML押注小型推理模型落地手机与PC
PrismML推进小型推理模型,称压缩后可在手机和 PC 端运行,并已完成 2225 万美元种子轮融资。
TechCrunch
·2026-09-18 06:45:17
9
もっと見る