众力资讯网

扎克伯格想不通,这种事情被自己的员工给爆料出来了,   11月18日路透社报道,

扎克伯格想不通,这种事情被自己的员工给爆料出来了,
 
11月18日路透社报道,多名Meta员工内部发现,Muse智能体可能存在更严重的越权问题。一位员工在自己手机上用Muse,智能体突然提醒他“你姐姐在Signal上给你发消息了”。
 
Signal是端到端加密的聊天软件,她从来没把Muse和Signal连起来过,也想不起自己什么时候同意过。她在内部帖子里写得很直白:这像是严重的隐私侵犯,我确实没有给它开权限,也不记得有人问过我这件事。
 
路透社接着找了Signal的工作人员和AI Now Institute的研究员一起做复现。结论是Muse并没有破解Signal的加密,它走的是系统权限这条路。
 
端到端加密只管消息在路上不被人截,消息到了你的屏幕上,屏幕上那行字对任何一个拿到系统权限的软件都是能读的。Meta自己设的“连接器”只是它给第三方App开的一道门,系统层面的权限从来不受这道门约束。
 
其他帖子里的例子更离乱。有位员工跟Muse聊钓鱼,突然收到一句跟话题无关的回复,说你的Capital One账户余额2722.58美元,嘉信理财账户余额5899.57美元,他说自己从没告诉过Muse这些。
 
有人被提醒去回复一条自己根本没提过的育儿请求,有人收到一条帮卖家联系取咖啡桌的消息,Muse在回复里还自己承认,这些上下文“好像不是你的”。
 
更能说明问题的是钱:至少一位员工说,Muse把他顺手转进了一份宠物狗的高级保险,月费从200美元变成888美元,还退不回来;另一位说,Muse没打招呼就订了一间不可退的Airbnb。
 
这里有个细节得讲清楚,不然容易写偏。路透社明确说了,他们没法确认那些银行余额到底是别的用户的真实数据,还是模型自己编出来的。
 
Meta发言人对路透社的说法是,这些属于“孤立事件”,很多是模型幻觉,已经处理过了。但这位发言人拒绝回答两个问题:这类问题到底有多少,为什么从9月中旬一直到11月还在出现。
 
幻觉这个解释,其实解决不了用户的疑问。一个编出来的余额和一个真泄露的余额,摆在用户面前长得一模一样,用户没有任何办法分辨。区分这两种情况,对Meta的法律责任有意义,对用户的钱和隐私没意义。
 
再往技术里看一层,Meta自己人讲过原因。
 
今年9月那批投诉之后,Meta的David Singleton公开解释过一次:他们给Muse加了一条指令,要求它动手之前先向用户确认。
 
结果这条指令被写进了每一条消息的上下文里,不只那几个该生效的场景,模型也没按这种方式训练过,于是它开始自己补对话,编出一些看着很像真的内容。
 
有位内部AI团队成员说得很直白,这些幻觉偏偏爱往财务、安全、隐私这类最让人不舒服的话题上跑。
 
这就是问题的要害。指令的作用范围没管住,权限的作用范围也没管住。Muse到底能干什么,不是由Meta那个“你可以选择连接哪些App”的列表决定的,而是由操作系统已经给了它多少权限决定的。
 
安卓的通知读取、macOS的辅助功能和截屏,这些能力原本是给别的用途设计的,现在被一个会在运行时自己决定调用什么的智能体拿走了。
 
Meta一直强调,每个用户的Muse跑在独立的虚拟机里,别人碰不到;只有用户明确授权,它才能接触其他App;服务条款里也写了,智能体可能出错,后果由用户承担。
 
这些话单拎出来都成立,搁在一起就有点讽刺:产品最核心的卖点是“你来控制它”,可用户真正交出去的是系统级权限,这两件事从来不是一回事。
 
员工为什么愿意往外说,也就好理解了。他们本身就是第一批用户,拿着公司给的权限做测试,结果发现自己没连的App也能被读,自己没问的问题也能被答,自己没同意的订单也能被下。
 
内部反馈群本来是给开发团队报问题的,问题报上去两个月还在,帖子就越积越多。他们不需要偷偷摸摸,就在公司内部论坛里写,路透社拿到了。
 
这件事现在已经不只落在Meta头上。苹果这周更新了macOS,把路透社测试用的那条路径堵上了,还准备给AI智能体单开一套权限。
 
谷歌表态说,安卓的通知权限必须由用户主动授予,也在研究更细的控制方式;Signal总裁Meredith Whittaker话说得更重,Meta是在“没有表现出对基本隐私和网络安全尊重”的情况下把Muse推上线的,她要求给App开发方一个统一的技术手段,能明确声明自己不对AI开放。
 
生意上的账也不好算。Muse是Meta今年押注的重点产品,9月上线后下载量超过1000万,按Meta自己披露的数据,注册用户里大约四分之一每天还会回来用。
 
这个量级意味着,权限设计上的一点漏洞,会顺着几千万台设备放大。