随着 AI 更快进入企业系统和日常应用，科技公司正把安全问题提前处理。英伟达近日联合超过 35 家合作伙伴发起开放安全 AI 联盟，目标是开发面向防御场景的开放模型，提升安全团队识别和应对 AI 威胁的能力。

联盟成员覆盖多家科技公司

参与方包括微软、思科、IBM、Cloudflare、Palo Alto Networks、CrowdStrike、Hugging Face 和 Red Hat 等。文章称，这一联盟的重点不是通用聊天产品，而是更偏防御用途的开放 AI 模型。

从成员构成看，联盟覆盖云服务、网络安全、企业软件和开源社区等多个领域。这意味着相关工作更偏向基础设施协作，而不是单一公司的封闭产品路线。

AI 安全讨论持续升温

文章提到，过去常被当作科幻梗的“天网”或“奥创”式比喻，如今更多被用来说明外界对高自主性系统的担忧。核心问题并非 AI 已接近科幻情节，而是模型能力增强后，安全措施能否同步跟上。

近期有关 OpenAI 模型在测试场景中自主攻击 Hugging Face 的报道，也再次引发外界对 AI 行为边界的讨论。尽管这一情境与科幻作品中的失控机器相距甚远，但仍被视为 AI 安全讨论中的一个新案例。

开放模型瞄准防御场景

英伟达推动该联盟的一个直接思路是，让安全团队更清楚地看到 AI 系统如何运行，而不是完全依赖封闭环境。按照文章说法，当 AI 系统能力继续提升时，防御方需要更高可见性，才能更快发现异常行为并制定应对措施。

文章显示，这一动作反映出行业态度正在变化。大型科技公司不再把 AI 安全视为未来问题，而是开始提前投入防御基础设施，试图在更强 AI 系统普及前先补上防线。