Anthropic 推出新防护措施,模型蒸馏攻击窃取数据量最高降低 99%
The Block
Ai 注目
Anthropic 表示,公司推出多项新防护措施,旨在防止竞争对手复刻 Claude AI 模型能力,相关措施已将模型蒸馏攻击中被窃取的数据量降低约 90% 至 99%。Anthropic 还称,已封禁数万个与蒸馏活动相关的账号,并以智谱 AI 为例说明相关风险。
役立つ
No.ヘルプ

IT之家 10 月 13 日消息,Anthropic 于当地时间周一表示,该公司推出了多项新防护措施,旨在防止竞争对手复刻 Claude AI 模型的能力。这些措施已经将模型蒸馏攻击中被窃取的数据量降低了约 90% 至 99%。

模型蒸馏已经成为头部 AI 企业重点担忧的问题,Anthropic、OpenAI、谷歌等企业认为,这种手段可以让竞争对手以更低成本、更快速度复刻出模型的前沿能力。

Anthropic 称,这套用于限制外界获取 Claude 推理过程的防护机制,大幅减少了信息提取行为。如今“蒸馏攻击者所能提取到的推理词元(token)数量,仅为之前的十分之一至百分之一”。

IT之家注意到,这家总部位于加州的企业表示,新防护提升了使用代理网络反复探测 Claude 受保护推理链路的难度,拦截信息提取尝试,阻碍大规模蒸馏行动。

Anthropic 称,这套安全系统的稳健程度“大致相当于阻止 Claude 协助制造生物武器的防护体系”,误报率低于 0.1%。

Anthropic 封禁了数万个和蒸馏活动相关的账号,并以 AI 初创企业智谱 AI 举例,称该公司在研发 GLM-5.3 模型期间,曾尝试从 Claude 蒸馏提取模型能力。Anthropic 警告,这类行为会带来安全与国家安全风险。

チップ
$0
いいね
0
保存
0
閲覧数 8
CoinWorldは、読者の皆様にブロックチェーンを理性的に捉え、リスク意識を高め、各種仮想トークンの発行と投機に注意を払うようお願いします。サイト内のすべてのコンテンツは市場情報または関連する見解のみであり、いかなる形式の投資アドバイスも構成しません。機密情報を含むコンテンツを発見した場合は、“報告”,をクリックしてください。すぐに対処します。
送信
コメント 0
人気
最新
まだコメントがありません。最初のコメントを投稿しましょう!
関連
NFT 交易平台 Blur 将于 11 月 12 日关闭网站,月交易量较峰值暴跌 99%
Blur 将于 11 月 12 日关闭其 NFT 交易平台网站,并停止通过 Blend 安排新贷款,但其以太坊智能合约将继续运行。该平台月交易量已从 2023 年 3 月约 14.3 亿美元的峰值跌至 2026 年 3 月不足 700 万美元,BLUR 代币在消息后下跌逾 20%。
CoinDesk
·2026-10-13 12:51:48
6
专家借白银涨势推演比特币或达40万美元
LookIntoBitcoin研究与分析总监Matt Crosby表示,链上数据显示比特币熊市低点“基本已经出现”,并用白银2022年以来的上涨路径推演,比特币若复制类似走势,价格可能升至约40万美元。他同时给出全球资本占比模型,认为比特币在不同情景下仍有更高空间。
Coinpedia
·2026-10-13 12:42:13
20
GFI将Eloquens AI直接集成进GFI KerioConnect,为3万多家自建邮件系统的机构提供AI邮件助手
GFI Software宣布,Eloquens AI已直接内置到GFI KerioConnect中,这款邮件与协作服务器已被全球3万多家机构使用。公司称,该功能可在不把邮件迁移到微软或谷歌云端的情况下,为自建邮件系统用户提供AI邮件处理能力。
PR Newswire
·2026-10-13 12:42:11
14
国内首家,字节 Seed 设立单独的大模型安全与对齐部门
据新浪科技报道,字节跳动 Seed 近日发出内部邮件,宣布成立“Seed Model-Alignment Preparedness”部门,由严林负责,向 Seed 负责人吴永辉汇报。该部门将加强安全与对齐投入,重点提升 Agent Model 安全能力,并防范 CBRN 等前沿能力风险。
The Block
·2026-10-13 12:31:19
21
GFI将Eloquens AI直接嵌入GFI KerioConnect,为3万多家自建邮件系统的组织提供AI邮件助手
GFI Software宣布,Eloquens AI已直接集成到GFI KerioConnect中,这款邮件与协作服务器已部署在全球3万多家组织。该功能可在用户打开邮件前对消息进行分类、起草回复,并由管理员控制启用与关闭。
PR Newswire
·2026-10-13 12:31:17
17
もっと見る