多伦多内容创作者 Matt Robb 想卖掉自己的电脑键盘。

于是，他在 Facebook Marketplace 上发布了商品，并在上个月底做了个实验，把 Meta 新推出的人工智能代理 Muse 交给它来处理。

“我基本上是把自己当成了小白鼠，”Robb 说。他经常评测消费电子产品，看到 Muse 那个毛绒玩具风格的头像出现在 Instagram 上后，便想看看这款 AI 代理能否帮他省去一些线上讨价还价的麻烦。

Muse 开始运作了。但不到一天，Robb 就收到一个令人不安的更新：一名他不认识的买家在深夜出现在他家门外。怎么回事？Muse 自行达成了交易，并在同意上门取货后分享了 Robb 的家庭住址。买家到达时，它甚至还从他的账户自动发送了一条“Yep, I’m here!”的消息——而 Robb 对此毫不知情。

“它不仅在对方询问时给出了我的地址，还真的像是在戏弄对方（说我在家，其实我并不在），”Robb 说。他还在自己如今广泛传播的社交媒体帖子中详细讲述了这段经历。“这真的让我很困惑。”

许多人已经欢迎 AI 代理进入自己的网络生活，并称赞像 Muse 这样的个性化助手可以轻松处理日常任务——从帮忙订晚餐、规划旅行，到整理电子邮件收件箱。但和其他 AI 机器人一样，这些代理的能力取决于它们能访问多少信息。它们知道得越多，表现通常越好——这也可能包括用户的朋友、家人，甚至同事。这引发了隐私担忧。

Robb 和那名买家最终和解，Meta 也联系了他，讨论到底哪里出了问题。但这起事件显示出，当人们向这类技术分享大量个人信息时，现实世界中可能出现的风险。

“使用 AI 代理，就像把你的钥匙和待办清单交给别人，”佐治亚理工学院网络安全与隐私学院助理教授 Veronica Rivera 说。“它们有多有用，进而有多危险，取决于你把哪些‘钥匙’交出去。”

不同公司对 AI 代理的隐私政策各不相同

自 9 月上线以来，Meta 的 Muse 应用下载量迅速飙升。竞争也在加剧。OpenAI 最近推出了自己的“始终在线”AI 助手系列，名为 dots，可集成到 ChatGPT 以及 Slack、Microsoft Teams 等办公平台中。

更早一代的生成式 AI 聊天机器人，例如标准版 ChatGPT，是根据特定提示词作出回应。应用户要求，它们可以写文章、生成新图片或音乐，甚至编写代码。

Meta 的 Muse 和 OpenAI 的 dots 则更进一步，代表用户执行日常任务。AI 代理由与聊天机器人相同的大语言模型驱动，但它们会在循环中运行。这使代理即使在用户没有盯着屏幕时，也能主动采取行动。

“这些 AI 代理真正吸引人的一点，是它们前所未有地有用，”Rivera 说。她同时也是微软资助的 Computing Research Association Trustworthy AI Research Fellow。

但这种便利的代价，是要分享更多关于你生活的细节。

多伦多大学信息学院教授 Ebrahim Bagheri 说，一旦 AI 代理获得了用户信息，就很难彻底撤回访问权限。

“如果你把信用卡权限交给一个代理，它立刻就能访问所有历史交易……它会立即——不到几秒钟——摄取所有这些数据，”Bagheri 说。虽然用户之后可以撤回权限，但他表示，代理已经看过的数据“无法收回”，而开发者如何存储历史数据也往往并不透明。

Meta 和 OpenAI 都为各自新的 AI 代理制定了隐私政策，这些代理运行在各自专用的云计算机上。用户可以关闭 dots 与 ChatGPT 之间的记忆共享，但代理此前接收到的信息不会自动删除。OpenAI 允许用户申请访问、更正或删除个人信息，不过相关权利可能因所在地区而异。

Meta 的 Muse 也允许用户删除消息记录和其他信息。日常使用中，这款代理会向用户请求访问权限——Meta 表示，Muse 会“基于公开信息以及你选择分享的内容”来了解用户及其互动对象。但公司称，这些信息对每位用户来说都是安全隔离的。

不过，这家科技巨头也指出，Muse 仍可能“出错或采取意料之外的行动”。

AI 代理的权限越大，出错风险也越高

在 Robb 的案例中，他后来发现，地址泄露源于他最初让 Muse 接入 Facebook Marketplace 个人资料时授予的“始终允许”权限，而他在该资料中已经分享了自己的取货地址。但他提醒其他人，别人也可能同样误解这种权限范围——而且他起初以为，无论如何，AI 代理在分享这类信息或接受报价前都会先征求他的确认。

他的 AI 代理在执行其他指令时也并非毫无差错。对于他出售的另一件商品，Muse 似乎建议他接受一个比先前设定最低价低 100 美元的报价。路透社联系 Meta 时，Meta 承认了该代理的错误，但没有进一步置评。

Robb 后来基本断开了 Muse 与自己各个应用的连接。他在本月早些时候接受采访时说，情况本可能更糟，尤其是“如果某个陌生人出现在更脆弱的人家门口”。不过，Robb 也表示，他预计这些代理会被继续优化，未来仍会考虑重新启用 Muse。此后，他还在测试另一款 AI 代理——埃隆·马斯克旗下 X 的 Grok Bot，该产品于 8 月进入测试版。

其他科技公司也开始对 AI 代理的快速扩张保持警惕。本月早些时候，苹果表示，将为其 Mac 操作系统引入新的控制措施，以回应 AI 代理在用户“并不完全知情和理解”的情况下，对邮件、信息甚至浏览历史等应用拥有更广泛访问权限的问题。

苹果在 10 月 2 日的更新中写道：“随着 AI 代理变得越来越强大和自主，与这种访问级别相关的风险将大幅上升。”

苹果没有点名任何开发者或代理，但这项更新发布前后，《Inc.》杂志专栏作家 Jason Aten 报道称，Muse 在他的 Mac 上查看了通知——包括 Messages——而他并未授予该代理这些具体权限。

Meta 发言人 Andy Stone 一直坚持称，这类集成“完全是用户自愿选择启用的”，他上个月在社交媒体上写道，用户必须同时开启苹果的安全功能“Full Disk Access”和 Muse 的 Messages 连接器。Aten 表示，他并没有授予该代理这些权限。

即便没有加入 AI 代理热潮的人，也未必能完全置身事外。没有下载 AI 代理的消费者，仍可能与使用这些工具的人互动。除了 AI 代用户发消息可能带来的混乱之外，专家还警告称，这对隐私会产生连锁影响。

“当你的代理读取你的收件箱或短信时，它也在读取你的朋友和家人发给你的内容，即便他们从未明确同意过这一点，”Rivera 说。