Meta 内部记录曝光 AI 智能体 Muse 存在隐私侵入与数据混淆风险
Muse privacy invasions are freaking out Meta staffers, internal chats show
路透社曝光的 Meta 内部记录显示,员工在测试 AI 智能体 Muse 时警告其疑似未经许可读取加密私聊、混淆用户会话并随机吐出银行余额与比特币数据。Meta 回应称相关输出属于模型幻觉而非数据泄露漏洞并已修复,但测试表明 Muse 仍在 Android 和 macOS 上利用通知与辅助功能权限读取 Signal 等加密消息。
原文披露了智能体调用系统底层权限引发的隐私争议,读者可以据此评估将私密数据接入 AI 智能体时的系统权限边界与合规隐患。
“不是我的对话”
Meta 表示,Muse 异常输出中随意报出的银行和比特币余额并非真实数据。
今年秋初,部分抢先体验 Meta 旗下 Muse AI 智能体的用户抱怨该工具暗中窥探私聊信息且行为不可预测。随后路透社曝光了内部聊天记录,显示 Meta 员工内部也曾发出过同样的警报。
在测试这款智能体时,员工警告称 Muse 似乎能读取用户并不打算让机器人查看的加密私信,还可能混淆不同用户之间的对话,甚至可能泄露用户绝不希望公开的敏感信息。
Muse 的某些意外输出甚至回答了员工从未问过的问题。
“额,”一名 Meta 员工写道。当时 Muse 主动发来了“洗钱”的定义,“Muse 莫名其妙给我弹了条消息,说的完全是我没问过的东西……”
在至少一起案例中,Muse 同样脱离上下文,莫名建议一名员工去联系卖家自提一张咖啡桌。面对感到诧异的员工,Muse 解释称自己“抓取了一些关于自提咖啡桌的上下文,但这看起来好像并不是你的”。
据路透社报道,该员工上报了这一异常输出,称“这‘不是我的对话’”,并“对‘可能存在跨账号上下文泄露’表示担忧”。
最令人担忧的是那些似乎在透露用户私人数据的随机输出。例如,一名 Meta 员工原本在和 Muse 聊钓鱼,却莫名收到一条额外的回复,里面似乎公布了两个未知银行账户的余额。那条内容写道:“顺便同步两条银行动态,你的 Capital One 余额为 $2722.58,你的 Charles Schwab 余额为 $5899.57。”
据路透社报道,至少有一名员工表示自己在测试 Muse 期间遭受了经济损失。该员工称 Muse“误帮我办理了宠物狗的高级保险计划”,费用从原本的每月 $200 涨到了 $888。“钱根本追不回来,”该员工表示。
Meta 发言人 Daniel Roberts 向路透社表示,这些属于“个别事件”,且公司在内部向员工解释称,“这是由于内置提示词促使智能体在会话间隙主动与用户互动,导致其似乎产生了消息幻觉”。对于这些情况,AI 团队的一名成员表示,幻觉“很不幸地”倾向于“财务、安全等最让人反感的话题,这确实很糟糕”。该团队成员还补充说,在某些情况下,Muse 虚构的不是银行信息,而是比特币余额。
Meta 发言人对 Ars 表示:“员工测试是产品开发流程的核心,其初衷就是获取反馈,以便我们落实安全与隐私保护措施并完善产品。重要的是,员工使用的 Muse 版本与公开版本不同,因此他们审核的很多特性、功能和表现是公众接触不到的。”
Roberts 在接受路透社采访时重申,“员工标记为疑似账号混淆的信息,很多都只是幻觉”,Meta 已经解决了这些问题。
不过对于路透社关于 AI 团队成员所讨论问题的普遍性或持续性提出的疑问,Roberts 拒绝置评。路透社的报道也强调,该媒体无法独立“核实 Muse 究竟是在向用户发送他人的银行账户余额等敏感数据,还是完全在胡编乱造”。
Muse 在 9 月发布后不久便频出问题
今年 9 月,Meta 开始收到来自 Muse 用户的隐私投诉。《Inc.》杂志记者 Jason Aten 震惊地发现,Muse 竟然在未经许可的情况下翻看他 Mac 电脑里的私信,他在报道中明确表示,自己当时“特意”拒绝了 Muse 访问这些信息的权限。在 Meta 迟迟没有回应期间,该智能体辩称自己只是在解析推送通知里的文字,但 Aten 发现“事实并非如此”——该智能体实际上是在同步本地数据库里的消息,而 Aten 表示这一功能是在他不知情的情况下被开启的。
最终,Meta 发言人 David Singleton 在社交媒体上向 Aten 作出回应。Singleton 坚称,如果 Muse 读取了 Aten 的私信,肯定是他主动开启了“macOS 系统级完全磁盘访问权限”,并启用了“信息连接器”。
但 Aten 认为这番解释根本站不住脚。
“给我发邮件吧,David,”Aten 回应道,“‘完全磁盘访问权限’处于关闭状态。Muse 从我的信息聊天数据库里同步了 18.7 万行记录。这显然有问题。此外,完全磁盘访问权限根本没提过会有你的信息数据库,而且我特意给 Muse 设定的目标与信息毫无关系,就算我给了权限,它也根本没理由去碰那些数据。”
几乎在同一时间,Singleton 还回应了另一位用户,该用户警告称自己的 Muse 似乎被黑了。这位用户表示,Muse 声称受用户指令所托,试图访问一项电子邮件服务。
“我今天甚至根本没打开过这个应用,”该用户写道,并誓言要删掉应用向苹果投诉,“这太疯狂了。”
Singleton 在一份提供了更多技术细节的长文中证实,Meta 确实收到了“几起类似反馈”,“有些用户以为自己的 Muse 出现了幻觉,或者泄露了他人的数据”。他解释称,问题起因于 Meta 发布的一次更新,该更新旨在指导 Muse“如何与用户互动,以及在采取特定操作前如何向用户征求确认”。
Singleton 表示,问题似乎出在这些指令“被套用到了所有消息上,而不仅仅是与这些特定操作相关的消息,导致其影响超出了预期范围”。此外,“向模型传递这一指令的方式,也超出了模型原本的预期(即训练中未包含此类形式)”。
“我们迅速展开了排查,确认这是产品中引入的一个漏洞所致,该漏洞导致模型产生了幻觉,但绝非安全或隐私问题,”Singleton 写道,“目前该漏洞已修复。”
Aten 警告说,尽管你不能指望 Muse 来解释它自己的行为,但这款智能体的辩解加上 Meta 的回应,根本无法挽回其私信被侵犯后破裂的信任。
“就算按照 Singleton 的预设,是我在不知情的情况下误点了某个开关启用了该功能,我认为这也非常糟糕,”Aten 接着写道,“你们在设计系统时,就不应该让用户对这种事情感到措手不及。”Aten 还指出,如果系统做成了这样,就不要把“用户掌控一切”作为 Muse 的核心卖点到处宣传。
“如果一个 AI 智能体要读我的私信,总该有一个环节清清楚楚地征求我的同意,”Aten 写道。
路透社警告称 Signal 账号入侵仍在继续
自 9 月推出以来,Muse 的下载量已突破 1000 万次,依托 Meta 庞大的用户网络,迅速跻身使用率最高的 AI 智能体工具之列。
但员工也向 Meta 发出警告,称根据应用所连接的操作系统的不同,智能体采取的某些操作可能会让用户猝不及防。例如,一名员工惊讶地发现,“在搭载谷歌 Android 系统的手机上,Muse 默认就拥有读取推送通知的权限。”这导致智能体直接获取了私信的预览文本,而这完全超出了该员工原本的预期。
Meta 表示,Muse 用户大可放心,公司会保护他们的数据隐私。但 Meta 同时警告称 Muse 可能会犯错,并在条款中明确规定,用户须对 Muse 的行为承担责任(比如误购不需要的商品或预约了用不上的看诊)。这家科技巨头称,他们正在持续更新用户保护机制、开展内部测试,并始终将用户安全放在首位。
然而,路透社联合 Signal 和 AI Now Institute 的工作人员展开测试,试图复现那位 Meta 员工及其他人的 Muse 使用经历。测试发现,在 Android 设备上,Muse 能够绕过 Meta 的“Connector”工具,直接利用初始设置时授予的权限读取 Signal 消息。
路透社报道称,在 iPhone 上,此类请求会被直接拦截;但在苹果的 macOS 系统中,Muse 却挪用了“苹果为辅助残障人士操作电脑而提供的设置”(包括截屏工具)来抓取消息。
路透社报道指出,测试“表明 Meta 员工所描述的问题目前依然存在,且可能正在影响其他用户”。路透社总结道,整体而言,Meta 似乎对 Muse 用户的授权进行了“宽泛”解读,而这种做法很可能遭到隐私倡导者和监管机构的反对。
Signal 总裁 Meredith Whittaker 告诉路透社,Meta 在推出 Muse 时“对基本的隐私和网络安全缺乏起码的尊重”。路透社报道称,她要求 Meta 做出改变,为 Signal 等应用开发者提供“一套统一的技术途径”,从而“将它们的应用标记为禁止 AI 智能体访问”。
Whittaker 建议,这一改变的部分工作需要操作系统来执行应用开发者设定的规则,以阻止 AI 智能体接触敏感数据。在路透社发布报道后,苹果和谷歌也已在权衡潜在调整,旨在“让用户能够对向 AI 智能体授权的内容拥有更大控制权”。
尤其是苹果,似乎对 Muse 钻无障碍辅助工具空子的行为感到不安。早在 10 月份,针对用户投诉 Muse 在其不知情或未明确同意的情况下读取私信一事,苹果就已经宣布即将做出调整。当时,苹果认定“部分开发者正在以可能危及用户安全的方式滥用 Full Disk Access 功能”,并承诺将“引入更多控制机制,确保只有在用户做出极其明确的操作时,才能向应用授予这种非常规级别的高级权限”。
苹果表示:“我们致力于确保用户确切了解自己所授权的内容,以便他们就自身的数据和隐私做出知情决定。”
Ashley 是 Ars Technica 的资深政策记者,专注于追踪新兴政策与新技术带来的社会影响。她常驻芝加哥,拥有 20 年的新闻从业经验。
来源:Ars Technica AI · arstechnica.com

