据路透看到的内部帖子,Meta 员工对公司旗下 Muse AI 代理提出担忧,称该工具在未被要求的情况下推送了涉及私人信息的通知。
其中一名 Meta 员工表示,Muse 曾在她的个人手机上发出提醒,提示她回复在加密通讯服务 Signal 上来自姐姐的一条消息。
这名员工写道:“这看起来像是严重的隐私侵犯。我肯定没有授权它访问其他应用,也不记得自己被问过这件事。”
另一名 Meta 同事也表示,他收到了与自己并未连接的应用相关的未经请求聊天内容,并发现 Muse 默认被设置为可访问 Android 手机上的推送通知。路透对此进行了报道。
还有一名员工发帖称,在他围绕钓鱼相关天气和潮汐信息的聊天中,Muse 说:“顺便说一下,有两条银行更新,你在 Capital One 的余额是 2722.58 美元,你在 Charles Schwab 的余额是 5899.57 美元。”
其他一些与 Muse 相关的随机消息也让 Meta 员工感到不安,包括一条关于家长如何控制对其孩子数据访问权限的问题,以及一段关于搬运咖啡桌的对话,这引发了对“可能存在跨账户上下文泄露”的担忧。
针对这些关于 Muse 的内部帖子,Meta 超级智能团队的一名成员表示,该代理似乎是在“幻觉”,原因是内置提示旨在让用户在会话之间保持互动。路透援引其说法称。
他说:“这些(幻觉)不幸地偏向于最令人不适的话题,比如财务、安全、安保,这很糟糕。”他还补充说,其他案例还涉及“与加密货币相关的内容,比如向人们更新他们的比特币余额”。
这些随机、脱离上下文的消息已被证实属于幻觉。
Meta 发言人表示,员工测试是产品开发的核心,目的是收集反馈并落实隐私保障措施;他补充说,员工接触到的 Muse 版本与公众不同,且某些功能在其他地方无法使用。
对于 Muse 提到加密 Signal 聊天的消息,这位发言人指出,Android 用户可以选择授予应用通知访问权限,这需要用户主动选择,并非 Muse 独有。
Meta 解释称:“在 Mac 上,要让 Muse 代表你工作,你不仅需要点击允许辅助功能和屏幕录制,之后它还会带你进入设置页面,你需要再次确认并打开这一功能。”
自 Muse 于 9 月推出以来,其下载量已超过 1000 万次,成为增长最快的应用之一。它也是这家社交媒体巨头通过人工智能创造数十亿美元收入计划的关键一环。
但其他公司正在阻止 Muse 以及其他 AI 代理。例如,摩根大通首席执行官杰米·戴蒙表示,该行不会允许代理访问客户账户并代表客户行事。
类似地,亚马逊也不允许 Muse 在其电商平台上购物,并且已经在努力阻止 Perplexity 的 AI 代理进入。
不过,设置这些障碍的过程也需要网络升级,而这可能正在促成一波突发性宕机。
最近几周,Chase、富国银行、联合航空、苹果和微软等公司都出现了短暂服务中断。美国官员表示,没有证据显示存在网络攻击,这表明在所有漏洞都修补完之前,软件补丁就已经部署了。
参议员马克·华纳是参议院情报委员会副主席,他对《金融时报》表示,由于 AI 工具能够比企业安全修复漏洞的速度更快地发现漏洞,立即修补的压力正在给原本并未为这种速度设计的系统带来负担。
在接受 Fortune 记者 Catherina Gioino 采访时,Downdetector 母公司 Ookla Research 负责人 Mark Giles 表示,目前没有证据将这些宕机事件联系起来。
“这是一波明显的波动,但就我们看到的长期趋势而言,它大致在预期之内,”他说,“大多数时候,这些问题都相对独立,而且很快就能修复。真正登上头条的,是那些你无法取款或无法访问电子邮件的情况。”












