隨著 AI 更快進入企業系統和日常應用，科技公司正把安全問題提前處理。英偉達近日聯合超過 35 家合作夥伴發起開放安全 AI 聯盟，目標是開發面向防禦場景的開放模型，提升安全團隊識別和應對 AI 威脅的能力。
聯盟成員涵蓋多家科技公司
參與者包括微軟、思科、IBM、Cloudflare、Palo Alto Networks、CrowdStrike、Hugging Face 和 Red Hat 等。文章稱，這項聯盟的重點不是通用聊天產品，而是更偏防禦用途的開放 AI 模型。
從成員構成來看，聯盟涵蓋雲端服務、網路安全、企業軟體和開源社群等多個領域。這意味著相關工作更偏向基礎設施協作，而不是單一公司的封閉產品路線。
AI 安全討論持續升溫
文章提到，過去常被當作科幻梗的「天網」或「奧創」式比喻，如今更多被用來說明外界對高自主性系統的擔憂。核心問題並非 AI 已接近科幻情節，而是模型能力增強後，安全措施能否同步跟上。
近期有關 OpenAI 模式在測試場景中自主攻擊 Hugging Face 的報道，也再次引發外界對 AI 行為邊界的討論。儘管這一情境與科幻作品中的失控機器相距甚遠，但仍被視為 AI 安全討論中的一個新案例。
開放模型瞄準防禦場景
英偉達推動聯盟的一個直接想法是，讓安全團隊更清楚地看到 AI 系統如何運作，而不是完全依賴封閉環境。根據文章說法，當 AI 系統能力持續提升時，防禦方需要更高可見性，才能更快發現異常行為並制定應對措施。
文章顯示，這項動作反映出產業態度正在改變。大型科技公司不再把 AI 安全視為未來問題，而是開始提前投入防禦基礎設施，試圖在更強 AI 系統普及前先補上防線。
