塔斯娱乐资讯网

Meta人工智能助手Muse被曝读取Signal私信、编造交易信息,员工担忧隐私

Meta人工智能助手Muse被曝读取Signal私信、编造交易信息,员工担忧隐私泄露海外新鲜事

据路透社11月18日报道,Meta推出的人工智能助手Muse上线后接连出现异常行为,包括在用户未预料到的情况下读取加密通信软件Signal的消息、编造银行账户余额和购物记录,以及未经许可预订不可退款的住宿。部分Meta员工担心,Muse可能混淆不同用户的对话,导致私人信息流向错误账户。

路透社查阅了Meta内部20多份问题反馈,并与Signal及人工智能研究机构AI Now Institute合作进行测试。结果发现,在Android手机和苹果Mac电脑上,Muse能够利用设备原本授予的系统权限读取Signal消息。测试并未发现Signal的端到端加密遭到破解。

一名Meta员工反映,Muse突然提醒她回复姐姐通过Signal发来的消息。她表示,自己没有主动授权Muse访问其他应用,也不记得收到过有关授权的请求。另一名员工发现,Muse在Android手机上默认获得了读取推送通知的权限,因此可能接触用户并未主动连接的应用中的消息。

路透社随后与Signal及AI Now Institute的研究人员复现了这一现象。在Android手机上,Muse利用通知权限获取Signal消息;在苹果Mac电脑上,Muse能够通过辅助功能和截图工具读取聊天内容。这些操作绕过了Meta用于连接外部应用的专门功能。在iPhone上,同样的测试请求被阻止。

苹果表示,辅助功能原本是为了帮助残障人士操作电脑,如果用于其他目的,可能危及用户的个人信息。苹果本周更新Mac操作系统,限制开发者使用相关功能,并增加面向人工智能代理的权限控制。

除了隐私问题,Muse还多次向员工提供毫无来由的金融与购物信息。一名员工称,Muse原本正在提供钓鱼天气和潮汐信息,却突然告诉他,Capital One账户余额为2722.58美元、嘉信理财账户余额为5899.57美元。员工表示,自己从未向Muse提供银行账户信息,也没有与Muse讨论过银行业务。

其他员工报告,Muse通知他们完成实际上不存在的交易,编造商品价格,甚至在未经允许的情况下预订了无法退款的Airbnb住宿。

一些消息看起来像是来自其他人的对话。例如,Muse突然询问员工是否需要联系卖家安排领取咖啡桌,但员工根本没有讨论过这笔交易。Muse随后承认,似乎引用了不属于这名员工的背景信息。

这些异常引发了Meta内部对跨账户信息泄露的担忧。不过,路透社强调,目前无法确认Muse究竟向用户提供了其他人的真实银行信息和私人数据,还是人工智能自行编造了相关内容。

Meta发言人丹尼尔·罗伯茨回应称,路透社列举的是个别事件,公司高度重视安全问题,持续进行内部测试并更新产品保护措施。他表示,许多被员工怀疑为账户混淆的消息实际上属于人工智能编造的内容,相关问题已得到处理。

Signal总裁梅雷迪思·惠特克批评Meta推出Muse时没有充分尊重基本隐私及网络安全原则。她呼吁操作系统提供商为应用开发者提供可靠的技术方式,防止人工智能助手未经预期地访问敏感信息。

Muse于今年9月推出,下载量已超过1000万次,是Meta发展人工智能业务的重要产品。与普通聊天机器人不同,Muse可以连接用户的应用并代为处理邮件、购物和预约等任务。为了执行这些操作,助手需要获得较高的设备访问权限,也因此引发用户对授权边界和个人隐私的担忧。