据调查人员称，Carli Michelle Heller 在 9 月 26 日写道，她会“射击”李县警长办公室（Lee County Sheriff's Office），并在第二天表示自己有了一把新枪。

根据逮捕报告，Anthropic 的安全系统标记了这些内容，随后由人工审核团队将其报告给执法部门。

Anthropic 的消费者条款保留了在其“自行决定”下，将用户的输入、输出或行为报告给执法部门的权利。

这名佛罗里达州女子称自己把 AI 当作日记使用。如今，她正面临重罪指控，而把她送到这里的“读者”，是她从未打算让其看到这些内容的人。

据当地 WINK News 报道，来自博尼塔斯普林斯（Bonita Springs）的 Carli Michelle Heller 在调查人员发现她于 9 月 26 日写下要“射击”李县警长办公室后被捕。调查显示，到第二天，她的 Claude 账户对话中已出现她称自己获得了一把新枪的内容。

逮捕报告称，Anthropic 的平台会监测关键词和威胁性内容。由于这些表述的严重性，相关内容被提交给人工审核团队，随后又被报告给执法部门。

警员确认了 Heller 的身份，前往其住所，并在未发生意外的情况下将其拘留。她被指控以书面形式发出暴力威胁。

Anthropic 的文件并未掩饰这一点。其消费者条款保留公司在“自行决定”下，将用户的输入、输出或行为报告给执法部门的权利。其隐私政策于 2026 年 9 月 10 日生效，也允许在公司善意认为披露对防止严重伤害合理必要时，与警方共享数据。

实际上，即便你选择不让 Anthropic 将你的数据用于模型训练，该公司仍可将你的数据保留三个月，而不是五年，因此你的聊天内容并不真正私密。

同一政策还写道，被标记为安全审查的对话，仍会被用于提升 Anthropic 检测有害内容的能力。被标记的日记条目可能最终成为检测器的训练材料。

Heller 并非首例。旧金山标准报（San Francisco Standard）9 月报道称，Anthropic 曾将一名用户转交警方，原因是该用户据称写道自己买了一把 AR-15，并把 Anthropic 首席执行官 Dario Amodei 置于瞄准范围内。一名员工告诉警方，他起初并不认为存在即时安全风险，并以公司政策为由拒绝展示这些消息。

该用户告诉 Standard，他当时只是在开玩笑；报道刊出时，他尚未被逮捕或起诉。Anthropic 发言人将这一事件称为“我们的安全防护流程按预期发挥作用”。公司拒绝说明是否会以不同方式处理针对自家员工的威胁。

这并不只是 Anthropic 的问题。英国哥伦比亚省 Tumbler Ridge 2 月发生一起校园枪击案、造成 8 人死亡后，OpenAI 表示其在 2025 年 6 月曾考虑向加拿大警方发出警报，但最终认定该账户并未显示出对严重人身伤害的迫切且可信的风险。

OpenAI 在 2025 年 8 月发布的政策文章中表示，针对他人的威胁会被转交人工审核员，后者可能将其移交执法部门。

Heller 的庭审日期定在 11 月。