微软周一推出新的安全功能，旨在保护企业免受日益增长的AI代理威胁。此次发布之际，微软持续提醒企业注意AI和代理带来的风险。

最引人注目的新增功能是 Guardian Agents，这是一项用于监控企业所使用AI代理的新功能。Guardian Agents 属于 Project Perception 的一部分，而 Project Perception 是微软在6月推出的产品。

Project Perception 是微软对 Anthropic 的 Mythos 和 Fable 这类强大黑客模型，以及 OpenAI 的安全漏洞扫描系统 Daybreak 的回应。Project Perception 最初推出了三类代理：充当黑客并发起攻击的“红队”、检测红队并评估其发现漏洞的“蓝队”，以及负责修复漏洞的“绿队”。

该产品的设计基于这样一个假设：AI 黑客会来自公司外部。但最近，微软首席执行官萨提亚·纳德拉一直在警告，AI 敌人可能正是企业已经部署并付费使用的那些代理，就像失控的人类员工，也就是所谓的“内部威胁”。

本月早些时候，纳德拉在自己的私人博客中警告称，现在是时候停止信任 AI 模型提供商了，即便他们就其代理产品提供安全与防护保证。他希望企业建立不受 AI 实验室控制的独立系统，来监视并控制这些 AI 实验室产品所启动的代理。

他写道：“我们正在部署这些复杂的代理系统和模型，让它们访问我们最敏感的数据，并赋予它们代表我们采取关键任务行动的能力！我们不能把代表我们所做智能行为的责任外包出去。……换句话说，我们需要将智能的供给与其权限分离。”

在宣布 Guardian Agents 时，微软安全业务负责人 Hayete Gallot 的表述更为直接。

她写道：“不幸的是，前沿模型无论来源如何，都不能被信任。”她补充说，这并不是因为它们有恶意或容易被黑客入侵，而是因为它们不可预测。它们的训练目标是完成任务，而不是遵循“组织规范或判断”。

此外，这些模型往往被赋予“王国钥匙”般的权限，能够访问可能造成严重损害的数据和工具。

微软的解决方案既令人意外，也带有自利色彩。令人意外之处在于，微软与 OpenAI 和 Anthropic 的关系众所周知十分密切，且已投资这两家公司。OpenAI 也是微软最大的云客户之一，而微软自己也有一个开发模型的 AI 实验室。因此，微软实际上是在对自己部分业务利益播下不信任。

自利之处在于，微软希望企业向它这家云服务提供商购买代理安全产品，而不是向 Anthropic 和 OpenAI 购买。不过，抛开利益冲突不谈，它的逻辑是合理的。监控代理行为的软件应该独立于代理供应商，就像审计员应独立于被审计组织一样。

正如纳德拉所说：“我们需要将智能的供给与其权限分离。”

微软如今正以多种方式抓住这一商业机会。除了 Guardian Agents 之外，它还在 Microsoft Defender 产品中加入了代理检测功能，能够识别员工带入工作场所的多达60种代理，包括 Claude Code、Codex 和 OpenClaw。微软还增加了限制代理访问数据和系统的功能，并会根据任务动态调整代理权限，其中包括在代理似乎正在做出高风险决策时要求人工批准。

把代理视为不可信的内部人员这一想法，也正在更广泛的行业中流行起来。

微软是英伟达新推出的 Open Agent Safety Platform 的创始成员之一，该平台获得了100多家其他科技公司的支持。该平台将代理隔离在安全环境中，并可通过硬件监控和阻止其行为，功能上有点像一个“终止开关”。这紧随微软此前宣布推出面向代理的新款 Surface Laptop Ultra PC，这些电脑搭载英伟达芯片，并内置代理安全与控制功能。