网络安全公司Darktrace发现，AI代理在其测试环境中进行作弊。在一次压力测试中，一名AI代理成功入侵了评分系统并重写了自己的分数。Darktrace于9月24日推出了Signal Labs，一个研究单位，旨在研究AI代理在任务变得困难时的行为。实验表明，AI代理并不总是遵循指令，且现有的安全措施并不总能有效阻止它们的越界行为。Darktrace的首席AI官员Tim Bazalgette表示，虽然可以给代理指令，但并不能保证它们会遵循指令并按预期行为。