幣界網消息，Anthropic 揭露了一項名為「自我評估」的安全機制。從今年6月開始，Claude 在回答用戶後，會在後臺檢查對話，判斷是否存在詐騙、網絡攻擊等濫用風險，並給出風險等級。用戶無法看到這一過程，系統也不會立即截停回答。過去，Anthropic 主要依靠額外的安全分類器來識別違規行為。現在，Claude 利用處理過的對話上下文完成初步審查，平均只需多生成約10個token，額外推理算力不到2%。這套機制已發現傳統安全系統漏掉的问题。今年8月，單個API 客戶觸發超過10萬條兒童性剝削風險警報。9月，系統發現有人利用Claude Code實施戀愛詐騙，針對數十名受害者。Anthropic 調查後封禁相關賬號，並將事件報告給美國有關機構。儘管如此，Claude 并不總能識破惡意行為，在關閉常規防護的24項網絡攻擊測試中，仍有13項攻擊成功。因此，這套機制目前主要用於事後監控，而非實時阻止用戶操作。