OpenAI 加强 AI 安全防护,嚴防模型“失控”
2026-08-19 02:54:47
幣界網消息,OpenAI 表示將採用更加嚴格的系統,對正在開發的人工智能模型進行監控和安全防護。近期發生的網絡安全事件引發外界對 AI 工具可能失控的擔憂,OpenAI 計劃進一步追蹤其能力最強、尚未發布的模型在解決問題以及使用各種在線工具時的行為,目標是在發現令人擔憂的行為後30分鐘內向安全團隊發出警報。此外,OpenAI 增加了控制措施,以防止某些 AI 模型連接到互聯網來執行風險更高的任務,並要求在訓練和評估 AI 模型時實施更嚴格的隔離措施,即所謂的“沙箱”。在 Hugging Face 事件發生後,OpenAI 立即暫停了研究集群中可能執行代碼的前沿模型推理任務,暫時放緩擴展速度,包括將對最新部署模型的強化學習訓練暫停兩週。規模最大的前沿強化學習訓練計劃仍處於暫停狀態,以待安全驗證完成。
來源:金十數據
本內容只為提供市場資訊,不構成投資建議。
關注HQYC官方帳號,及時關注最新動態









