據調查人員稱，Carli Michelle Heller在9月26日寫道，她會「射擊」李縣警長辦公室（Lee County Sheriff的Office），並在第二天表示自己有一把新槍。

根據逮捕報告，Anthropic的安全系統標記了這些內容，隨後由人工審核團隊將其報告給執法部門。

Anthropic的消費者條款保留了在“自行決定”的前提下，將用戶的輸入、輸出或行為報告給執法部門的權利。

這名佛羅里達州的女子稱自己將 AI 用作日記。如今，她正面臨重罪指控，而將她帶到這裡的「讀者」，正是她從未打算讓他們看到這些內容的人。

據當地 WINK News 報導，來自波尼塔斯普林斯（Bonita Springs）的 Carli Michelle Heller，在調查人員發現她在9月26日寫下要「槍擊」李縣警長辦公室後被捕。調查顯示，到了第二天，她在自己的 Claude 賬戶對話中已出現她稱自己獲得一把新槍的內容。

逮捕報告稱，Anthropic的平臺會監控關鍵詞和威脅性內容。由於這些表述的嚴重性，相關內容被提交給人工審核團隊，隨後又被報告給執法部門。

警員確認了 Heller 的身份，前往其住所，並在未發生意外情況下將其拘留。她被指控以書面形式發出暴力威脅。

Anthropic 的文件並未掩蓋這一點。其消費者條款保留了公司在「自行決定」下，將用戶的輸入、輸出或行為報告給執法部門的權利。其隱私政策於2026年9月10日生效，也允許在公司善意認為披露對防止嚴重傷害合理必要的時候，與警方共享數據。

實際上，即便你選擇不讓 Anthropic 將你的數據用於模型訓練，該公司仍可將你的數據保留三個月，而非五年，因此你的聊天內容並非真正私密。

同一政策還寫道，被標記為安全審查的對話，仍將被用於提升 Anthropic 檢測有害內容的能力。被標記的日記條目可能最終成為檢測器的訓練材料。

Heller 并非首例。舊金山標準報（San Francisco Standard）在9月份報導稱，Anthropic 曾將一名用戶轉交給警方，原因是該用戶據稱寫道自己購買了一把AR-15，並將Anthropic的首席執行官Dario Amodei置於瞄準範圍內。一名員工告訴警方，他最初並不認為存在即時安全風險，並以公司政策為由拒絕展示這些訊息。

該用戶告訴 Standard，他當時只是開玩笑；報導刊出時，他尚未被逮捕或起訴。Anthropic 的發言人將此事件稱為「我們的安全防護流程按預期發揮作用」。公司拒絕說明是否會以不同方式處理針對自家員工的威脅。

這並不只是 Anthropic 的問題。英屬哥倫比亞省在 Tumbler Ridge 2 月發生一起校園槍擊案，造成 8 人死亡之後，OpenAI 表示其在 2025 年 6 月曾考慮向加拿大警方發出警報，但最終認定該賬戶並未顯示出對嚴重人身傷害的迫切且可信的風險。

OpenAI 在 2025 年 8 月發布的政策文章中表示，針對他人的威脅將被轉交給人工審核員，後者可能會將其移交給執法部門。

Heller 的庭審日期定在 11 月。