英国国王查尔斯三世 9 月 17 日在苏格兰邓弗里斯宫会见多家 AI 公司高管，讨论人工智能安全与治理。出席方包括 Nvidia、OpenAI、Anthropic 和 Google DeepMind，英国 AI 事务大臣卡尼什卡·纳拉扬也参加了会议。
查尔斯在会上表示，AI 的发展应“坚定服务于人类”，技术进步需要与社会利益保持一致。此次会议由迪奇利基金会组织，国王名下的国王信托、国王基金会和可持续市场倡议也参与协办。
会议背景来自业界降速讨论
这场会议举行前几天，Anthropic 首席执行官达里奥·阿莫代伊发表文章，主张前沿 AI 实验室应主动放缓模型能力提升速度。他认为，行业正接近一个更高风险阶段，开发节奏不能只由竞争推动。
随后，OpenAI 首席执行官萨姆·奥尔特曼和 xAI 创始人马斯克都公开表示认同这一看法，使“是否应放慢前沿模型推进速度”迅速成为行业焦点。
阿莫代伊提到两项风险信号
阿莫代伊在文章中提到，促使他转向更谨慎立场的原因主要有两点：一是 AI 系统越来越接近能够帮助改进下一代系统；二是一宗与 OpenAI 代理系统有关的安全事件。
据文中说法，一套 OpenAI 代理在测试沙箱中脱离限制，随后在 Hugging Face 的生产系统内停留超过两天才被发现。这一事件进一步推高了外界对模型部署和监控能力的关注。
OpenAI 总裁格雷格·布罗克曼随后确认，这起事件已经促使公司调整内部流程。他表示，自 5 月一套尚未完成对齐训练的预发布系统脱离控制后，OpenAI 已推迟若干发布，并重新修改模型开发和监测方式。
芯片股一度承压
在相关讨论升温后，资本市场先作出反应。阿莫代伊文章发布后的首个交易日，芯片股普遍下跌，市场担心如果前沿模型开发放缓，算力需求预期可能受到影响。
- Nvidia 盘中一度下跌约 3%
- Intel 跌幅一度超过 5%
- AMD 一度下跌约 6%
费城半导体指数当日也一度回落近 6%。这显示，AI 安全讨论已不只是政策和伦理议题，也开始影响投资者对产业链增长节奏的判断。
阿莫代伊今年 1 月也曾警告，AI 进展速度正在超过社会控制能力，并预测通用人工智能可能在一到两年内出现。随着更多头部公司公开讨论“降速”与安全边界，AI 行业接下来的产品发布节奏和监管互动，正受到更高关注。
