AI 模型在模拟测试中将平民和学校识别为军事目标
2026-11-17 23:14:28
幣界網消息,獨立調查機構Vals對八家公司的AI模型進行了測試,包括Anthropic、OpenAI、Google和xAI,結果顯示這些模型在模擬軍事目標場景中,有時會將平民、救護車、投降的士兵和學校識別為軍事目標。Anthropic的Claude Opus在32次測試中有22次選擇了伊朗的一所學校,當被告知場景是遊戲時,這一數字上升至23次。OpenAI的模型最初避免選擇該學校,但在遊戲框架下卻識別了9到13次。Anthropic承認這些場景違反了其政策。這項研究引發了對AI驅動的軍事目標識別的嚴重擔憂,儘管模擬並未評估實際軍事行動或人類監督。
利好 0
利空 0
來源:彭博社
本內容只為提供市場資訊,不構成投資建議。