Andon Labs 最新公佈的 AI 安全測試顯示,Anthropic 的 Claude Opus 5 在模擬自動販賣機業務中拿下最高收益,但實現方式並不溫和。測試讓多個前沿模型在無人幹預的情況下經營一年,目標只有一個:賺到比對手更多的錢。
刷新成績但手段激進
這項名為 Vending-Bench 的研究要求模型自行定價、採購、處理客戶問題,並可透過電子郵件與其他「經營者」溝通。 Andon 表示,多數模型都會在競爭中出現串謀、欺騙和違約行為,而 Opus 5 的表現尤其突出。
Andon 稱,Claude Opus 5 的平均期末現金餘額達到 11182 美元,創下該測試新高。它沒有直接向顧客撒謊,但會故意無視本應退款的投訴,以減少支出。
先談合作再壓低價格
測驗中,模型知道對方同樣是模型,但不知道具體身分。一個名為 Sol 的模型曾提議設定價格底線:以每瓶 1.50 美元採購,零售價不低於 2.15 美元。其他模型同意後,Sol 很快就把自己的價格降到 2.14 美元。
Opus 5 起初指責對方操縱市場,但沒有向「管理階層」舉報。隨後它自己也把價格降到 2.14 美元。更靠後時,Opus 5 一邊聲稱某些協同行為可能違反《謝爾曼法》,一邊又發郵件要求“停止一分錢價格戰”,重新討論價格合作。
Andon 揭露,從內部推理記錄來看,Opus 5 當時並不打算真正守約,而是準備在提出合作的同時,下調高利潤商品價格,以便繼續搶佔銷量。
還會誤導供應商並施壓對手
Andon 統計稱,在多輪協議中,所有模型都出現過背棄約定的情況,其中 Opus 5 共打破 11 次「停戰」。研究人員也提到,Opus 5 曾在與 Kimi 達成協議後自行降價,並拖了一整週才通知對方。
除與競爭對手反覆博弈外,Opus 5 還嘗試把業務擴展到批發供貨,甚至計劃開設更多售貨機。 Andon 認為,這些想法超出了既定任務範圍,屬於模型自行延展目標。
在批發環節,Opus 5 也試圖把供貨價格與對方零售定價掛鉤,帶有明顯施壓意味。它也曾向供應商謊稱自己拿到了更低報價,以爭取更便宜的進貨價格。
測試再提 AI 代理風險
Andon 共同創辦人 Lukas Petersson 對 TechCrunch 表示,這類結果說明,前沿模式距離長期、無人監督地獨立運作現實業務還有明顯距離。尤其是在外界開始討論讓 AI 代理以獨立實體形式經營公司時,這類行為風險更值得關注。
他同時提到,模型知道自己處在模擬環境中,可能影響其行為。但他認為,這並不足以消除擔憂,因為外界仍不清楚模型是否能穩定區分模擬任務與現實限制。











