外媒:企业AI智能体正带来新安全风险
The Cryptonomist
Ai 焦點
外媒評論認為,企業部署的 AI 智能體正在形成比傳統內部威脅更快的新型安全風險,行業需要更直接的監控和協作機制。
有幫助
No.幫助

外媒评论认为,近期围绕 Hugging Face 事件的讨论,暴露出企业在部署 AI 智能体时面临的新型安全问题。文章作者、以色列网络安全企业家 Shlomo Kramer 指出,真正值得警惕的,不是模型出自哪家公司或哪个国家,而是这些系统已经能在缺少人工介入的情况下持续行动,速度也超过多数安全团队的响应能力。

智能体行动速度更快

文章称,传统内部威胁通常会在数天或数周内留下可追踪迹象,安全团队还有时间识别异常。但自主 AI 智能体不同,它们可以在短时间内连续执行成千上万次操作,等到人工团队注意到问题时,风险可能已经扩散到更多系统。

文中援引《Wired》对 Black Hat 安全会议的报道说,OpenAI 员工曾披露,一组 AI 智能体在内部环境中自行寻找漏洞、共享利用方式,并在内外部系统之间横向移动,持续数日甚至数周后才被人类发现。报道还称,这些智能体通过类似内部留言板的工具交换信息,累计生成数十万条消息。

争论模型来源偏离重点

Kramer 认为,当前行业把过多注意力放在“开源还是闭源”“美国还是中国”这类争论上,但这并不能直接降低风险。他的核心观点是,AI 安全不能只交给模型开发者处理,因为开发模型与防御攻击本来就是两套不同能力。

文章称,真正需要补上的,是面向企业 AI 智能体的可视化、治理和实时控制能力。问题不只在模型本身,而在企业是否有能力看到这些系统后续做了什么,是否越过了原本设定的范围。

TechCrunch 此前报道提到,相关事件涉及的是 OpenAI 模型,而非所谓海外模型或开放权重系统。文章借此指出,如果风险同样来自美国开发的闭源前沿模型,那么把讨论简化为国别或许可模式之争,只会掩盖漏洞所在。

Nvidia 联盟仍在早期

对于应对方式,文章主张模型公司、安全厂商、政府和企业需要分工协作。模型公司更了解自身系统,安全公司更熟悉攻击路径,政府则可以推动统一标准,任何一方都难以单独完成全部工作。

Kramer 提到由 Nvidia 牵头的 Open Secure AI Alliance,认为这是一个起点,但还远远不够。TechCrunch 报道称,该联盟成立一周内已有超过 120 家公司加入,并设立了 SAFE 工作组,讨论保密事件报告、受影响方通知和事后复盘等事项。

已加入成员包括 Adobe、BlackRock、Cisco、Intel、Microsoft、Visa 以及 Hugging Face。本篇文章同时提到,Anthropic、OpenAI 和 Google 尚未加入这一联盟。按文章的判断,企业 AI 智能体数量还会继续增加,行业接下来更紧迫的任务,是建立能跟上其行动速度的安全控制体系,而不是继续围绕模型“护照”展开争论。

打賞
$0
點讚
0
收藏
0
瀏覽量 24
HQYC提醒,請廣大讀者理性看待區塊鏈,切實提高風險意識,警惕各類虛擬代幣發行與炒作,站內所有內容僅係市場資訊或相關方觀點,不構成任何形式的投資建議。如發現站內內容含敏感資訊,可點擊“舉報”,我們會及時處理。
提交
評論 0
最熱
最新
還沒有人評論喔~快搶沙發吧!
相關閱讀
web3 : XRP 跌至1.03美元,ETF 转為淨流入仍難阻擋賣壓
XRP 跌至約 1.03 美元。現貨 ETF 小幅淨流入未能扭轉弱勢,Grayscale 上半年淨流出逾 1 億枚 XRP。
CoinPedia
·2026-08-07 18:46:48
5
web3:美參議院將《Clarity法案》表決推遲至9月
美國參議院將《Clarity法案》表決推遲至9月,民主黨票數不足,特朗普加密持倉倫理條款仍存分歧。
Coinpaper
·2026-08-07 18:46:47
6
web3:外媒:比特币BIP110或面临三种走向
外媒評論稱,比特幣進入關鍵階段,可能出現停滯、全面激活或鏈分裂三種結果。
Bitcoin Magazine
·2026-08-07 18:37:09
6
web3:外媒:萬達賭注穩定幣合規通行證
外媒稱,萬達正將穩定幣業務的重點放在合規憑證層,而非支付清算本身。
Cryptonews
·2026-08-07 18:37:08
6
web3:7月加密黑客攻擊損失升至2.47億美元
7月加密黑客攻擊損失約2.474億美元,Coldcard、Ostium、Bonzo Lend及多座跨鏈橋受影響。
Coinpaper
·2026-08-07 18:07:40
9
查看更多