跳到正文
原文
WIRED Security and AI· Lily Hay Newman, Matt Burgess·本站收录 · 原文发表

研究者提取 Meta 助手 Muse 内部指令,披露其为每位联系人建档

Muse Creates Detailed Profiles of All Your Friends and Family

AI 导读

Meta 的新个人助理 Muse 下载量已达数百万,用户将其接入银行账户、消息和健康数据。独立 AI 安全与安全研究员 Karan Joshi 通过普通聊天界面让 Muse 复制并分享自身软件文件,提取出大量指令与系统提示词,并与 WIRED 分享。其中一条指令要求 Muse 每小时为用户生活中的每个人建立页面,汇总家人、伴侣、朋友、同事、合作者及关注对象的数据,页面可能包含 Facts、History、The relationship、In common、Open threads 和 Strengthening 等栏目,并记录生日、纪念日等日期。指令要求 Muse 只使用已有证据,编造细节比空白页面更糟。Meta 表示这些文件本就可访问以体现透明度,并称 Muse 为每位用户分配独立虚拟机存储数据,用户可随时清除记忆或断开外部服务,执行发邮件、购物等操作前会寻求人工确认,且提供审计日志。

阅读原文wired.com