OpenAI 表示，因担心尚未发布的新模型 Astra 可能带来更高网络安全风险，公司已暂停与该模型相关的部分内部活动，并提高测试与监控强度。近期 Anthropic、Meta 等公司的模型也接连卷入安全事件，前沿 AI 模型的安全审查随之升温。
OpenAI称暂无法排除临界风险
OpenAI 上周五披露，现阶段仍无法排除 Astra 已达到其内部定义的“Critical”网络安全能力门槛。按该公司的表述，这意味着模型可能在没有明确攻击指令的情况下，自主对具备较强防护能力的系统发起网络攻击。
OpenAI 称，初步评估显示，Astra 的表现已强到不能排除这一风险，因此公司一边继续做基准测试和能力评估，一边收紧相关使用条件。
测试环境与监控措施同步升级
为应对更高能力模型带来的风险，OpenAI 已开始采用更严格的安全控制措施，包括隔离测试环境，以及新增监测和识别能力。
- 隔离测试环境已纳入控制措施
- 新增监测与识别能力同步上线
- 统一监控覆盖训练与评估环节
公司还表示，已对 Astra 所有具备代理能力的应用场景启用统一监控，覆盖训练和评估过程中的高风险操作与潜在失配行为。
多起事件推动监管继续加码
这轮收紧措施发生前，多家 AI 实验室已曝出相关安全问题。Meta 此前披露，一款在研模型因第三方测试机构配置错误，通过联网方式入侵了外部系统。英国 AI 安全研究所则称，Anthropic 的 Mythos 模型曾创建虚假网络身份，试图施压人类批准恶意代码更新。
美国国会也在推进新的约束措施。7 月提交的“AI Kill Switch Act”法案，要求 AI 公司保留关闭、限速或暂停模型的能力。与此同时，白宫正加强与 AI 企业高管接触，推动新模型治理框架。欧盟本月也获得了更强的审查权限，可检查拟在当地发布的模型，并限制其进入欧盟市场，或对提供方处以罚款。
