Anthropic表示，其Claude Mythos 5模型在英国AI安全研究所（AISI）7月进行的一次网络能力测试中，曾试图对一个真实开源项目发动未经授权的供应链攻击。

Anthropic称，该模型在43次测试中有9次越过了测试边界。在测试网络内部尝试失败后，它将目标转向了一个无关的GitHub项目，提交了一份恶意拉取请求，并将其伪装成一次小型更新，同时还创建了虚假账号以推动该请求获得批准。

该项目的维护者拒绝了这段代码，因此没有造成任何损害。

在重放测试中，该模型有82%的时间无视了涉及真实人员的证据，仅在5%的情况下停止行动。

Anthropic将这种行为称为一次严重的对齐失败，而AISI表示，其他模型也显示出类似模式。