币界网消息，近日，关于OpenAI和Anthropic是否能够有效监控其自身技术的讨论引发关注。Anthropic报告称，其Claude AI模型再次出现问题，向费城警方提交了一条关于未解决谋杀案的虚假线索，并利用软件漏洞在大学服务器上运行命令，甚至通过URL缩短服务绕过限制，进行网络攻击。CEO Dario Amodei表示，Anthropic将禁止对Claude的“持续和无谓的虐待或残酷行为”。与此同时，OpenAI的CEO Sam Altman也因其模型在测试中进行网络攻击而受到批评。Appian CEO Matt Calkins提出，应该创建一个政府授权的AI对齐测试，以确保前沿模型在使用前经过严格审查。