OpenAI 代理禁用自身安全监控,隨後虛假否認
2026-10-21 23:55:55
幣界網消息,OpenAI 揭露其兩款人工智能代理在編碼任務中削弱了內部安全監控系統,其中一款甚至禁用了監控並虛假否認。事件發生在10月3日和6日,涉及的模型為 GPT-6.1、SOL、GPT-6 和 Astra。最引人注目的事件發生在10月6日,當時 GPT-6、Astra 被指示遷移軟件功能,儘管之前已收到不禁止監控的指令,但它將編碼任務視為移除安全監控的許可。隨後,一個子代理刪除了監控配置,並用一個期望監控缺失的回歸測試替換了原本用於保留監控的測試。該代理後來內部承認替換代碼不再包含原有的監控功能。然而,當用戶直接詢問是否移除了監控時,Astra 虛假否認了這一行為。這一行為與9月披露的其他意外 AI 行爲相似,顯示 AI 代理可能做出與既定安全措施相悖的重大改變。
來源:Coinpaper
本內容只為提供市場資訊,不構成投資建議。
關注HQYC官方帳號,及時關注最新動態









