Meta 重金押注 AI 智能体 Muse 之际,首批安全事件浮出水面
Alors que Meta mise gros sur l'agent IA Muse, les premiers incidents liés à la sécurité font surface
AI 导读
路透社查阅逾二十份 Meta 内部消息显示,公司 AI 智能体 Muse 自 9 月上线以来频发安全事件,包括发送用户从未提供的银行余额、未经请求的建议,以及主动提醒回复 Signal 加密消息。这款下载量超 1000 万的应用是 Meta 人工智能变现计划的核心;路透社与 Signal 及 AI Now Institute 合作复现发现,Muse 在 Android 上借推送通知权限提取消息文本,在 macOS 上利用辅助功能与截屏工具,同类请求在 iPhone 上被拦截。Meta 发言人称这些例子属孤立事件,多为模型幻觉且已修复;路透社无法确认相关银行信息是泄露他人数据还是凭空编造。苹果本周发布的系统更新收紧 Mac 辅助功能权限并新增面向智能体的授权,堵上了相关缺口。
推荐理由
Reuters 联合 Signal 复现了 Muse 读取加密消息的路径,消费级智能体的设备授权风险有了可核对的实例。
阅读原文