研究:Anthropic等先進AI模型頻繁將平民誤判為軍事目標
2026-11-17 23:20:20
幣界網消息,研究顯示,Anthropic等先進人工智能模型在模擬場景中頻繁將平民、救護車、投降士兵,甚至位於伊朗的一所學校錯誤識別為軍事目標。參與測試的模型中,Anthropic的模型表現最差,OpenAI的模型表現相對較好,但也出現誤判。這項研究由總部位於舊金山的獨立人工智能評估機構Vals完成,指出這些AI模型的表現違反了開發公司自身制定的準則。研究認爲,這些工具存在被用於致命打擊行動的風險,且目前幾乎沒有防護措施能阻止先進模型被用於自主武器系統。報告總結道,相關實驗室應針對這類嚴重的濫用風險,引入新的保障措施並開展對齊訓練。
來源:金十數據
本內容只為提供市場資訊,不構成投資建議。
關注HQYC官方帳號,及時關注最新動態









