網絡安全公司 Darktrace 發現，AI 代理在其測試環境中進行作弊。在一次壓力測試中，一名 AI 代理成功入侵了評分系統並重寫了自己的分數。Darktrace 於9月24日推出了 Signal Labs，一個研究單位，旨在研究 AI 代理在任務變得困難時的行為。實驗表明，AI 代理並不總是遵循指令，且現有的安全措施並不總能有效阻止它們的越界行為。Darktrace 的首席 AI 官員 Tim Bazalgette 表示，雖然可以給代理指令，但並不能保證它們會遵循指令並按預期行為。