WhatsApp帮助页藏AI隐藏指令,Meta已移除
先了解这件事
隐私公司Redact调查发现,WhatsApp帮助中心链接的545个页面中有80个含102段仅AI可读的隐藏指令,其中两段要求官方支持聊天机器人不要建议用户联系数据保护监管机构,并在用户提及律师、诉讼或法院后不引用GDPR、LGPD或CCPA;删除账号页面的隐藏文字重复30天、120天和365天期限,并要求不要建议由WhatsApp人工删除账号。Meta在WIRED联系后将相关文本从所有页面移除,称这是已修复的bug。The Hacker News报道称,这些文本已在10月18日前从相关页面移除。
AI 根据报道生成 · 10 天前更新
后续时间线
- 网页AI Threat Watch (aithreat.io)· 媒体跟进WhatsApp Help pages leak company's hidden instructions titled 'WHAT NOT TO SAY' to users to Meta chatbot(新标签页打开原帖)
- 网页Malwarebytes Labs· 媒体跟进WhatsApp’s chatbot was given hidden instructions to not mention privacy regulators(新标签页打开原帖)
- Hacker NewsHacker News· 讨论WhatsApp Help Pages Leaked Hidden Instructions for a Meta Chatbot(新标签页打开原帖)
- The Hacker NewsWhatsApp 在帮助页面隐藏指令,要求其 AI 客服机器人不推荐隐私监管机构
WhatsApp 帮助页面的代码中曾被写入隐藏指令,要求其 AI 支持客服机器人不要建议无法删除账号的用户联系数据保护监管机构,这些文本已在 10 月 18 日前从相关页面移除。发现这些文本的数据删除软件公司 Redact 称,其检查了 WhatsApp 帮助中心链到的 545 个页面,在 80 个页面中找到 102 处隐藏文本块,多数是澄清易混用词等常规内容;举报与屏蔽页面上的一处隐藏文本则要求,用户提及律师、诉讼或法院后,机器人不得引用 GDPR 等隐私法规。WhatsApp 对 WIRED 表示这些是指向客服机器人的指令,因 bug 出现在页面上,现已修复,Redact 表示未测试机器人是否真的照做。WhatsApp 的欧洲隐私政策写明,用户有权向爱尔兰数据保护委员会等监管机构投诉。
- X@Richard_Kollar· 讨论https://redact.dev/blog/whatsapp-help-pages-hidden-ai-instructions(新标签页打开原帖)
- Hacker NewsHacker News· 讨论WhatsApp's help pages hid LLM instructions: dont recommend a regulator(新标签页打开原帖)
- Redact精选Redact 调查:WhatsApp 帮助中心 80 个页面藏有 102 段隐藏指令,其中一段要求 AI 不建议用户联系监管机构
Redact 的原始调查发现,WhatsApp 帮助中心链接的 545 个页面中有 80 个含 102 段只有 AI 能读到的隐藏指令,其中两段要求官方支持聊天机器人不要建议用户联系数据保护监管机构,并在用户提到律师、诉讼或法院后不引用 GDPR、LGPD 或 CCPA。删除账号页面的可见等待期说明下方附有隐藏文字,重复 30 天、120 天和 365 天的期限,并要求不要建议由 WhatsApp 人工删除账号;报告和屏蔽页面的隐藏指令则在用户提及法律行动时生效。WhatsApp 向 WIRED 表示这些指令是给其支持聊天机器人的,相关文本已从在线页面移除。隐藏文本也随页面发给了 Google 和 Bing 的爬虫,调查者称尚未测试聊天机器人或外部 AI 助手是否实际照做,Facebook 和 Instagram 帮助中心未发现类似内容。
- WIRED Security and AIWhatsApp 帮助页面泄露了 Meta 聊天机器人的隐藏指令
WhatsApp 约 80 个帮助与常见问题页面在网页代码中暴露了写给 Meta 自家大语言模型的隐藏指令,Meta 在 WIRED 联系后已将相关文本从所有页面移除,并称这是已修复的 bug。隐私公司 Redact 在这些页面中发现约 100 段隐藏文本,所在代码块标题为 HelpContentGalaxyLLMInclude,其中包含名为“WHAT NOT TO SAY”的段落,并明确要求不向用户提供法律建议。部分指令要求机器人在用户提及诉讼、律师或法院时,不得引用或解释 WhatsApp 服务条款、隐私政策,也不得提及 GDPR、LGPD、CCPA 等隐私法规,不得建议用户联系数据保护机构或监管机构。
相关讨论
- 72 小时以前 · 不计入 72 小时的数字
- X@itsmainstreamtv · MainstreamWhatsApp’s help pages hid 102 instruction blocks. Invisible to users, readable by AI. Redact says they told AI not to…(新标签页打开原帖)
- X@heypromptpower · prompt ∕ power102 hidden chatbot instructions on 80 WhatsApp help pages. One told the bot not to cite GDPR or CCPA once you mentioned…(新标签页打开原帖)
- X@uninen · Ville SäävuoriMeta, apparently, doesn't have issues w Claude models 😅 https://redact.dev/blog/whatsapp-help-pages-hidden-ai-instruct…(新标签页打开原帖)
- X@Korilakkuma82 · Maddyhttps://www.wired.com/story/whatsapp-help-pages-leaked-hidden-instructions-for-a-meta-chatbot/(新标签页打开原帖)
- 网页AI Threat Watch (aithreat.io)WhatsApp Help pages leak company's hidden instructions titled 'WHAT NOT TO SAY' to users to Meta chatbot(新标签页打开原帖)
- X@kaji_dx · 梶野尊弘 | 元CTO→業務AX支援で独立見つけた調査では、ヘルプページ545ページ中80ページに画面に出ない指示があり、今は消えています。WhatsAppは「サポート用チャットボットへの指示が、不具合で表に出た」と説明しています。 https://redact.dev/blog…(新标签页打开原帖)
- X@kaji_dx · 梶野尊弘 | 元CTO→業務AX支援で独立電話やチャットの窓口をAIに任せるなら、話し出しの速さより先に、指示文を見直してください。 WhatsAppのヘルプページの裏に、サポートAI向けの指示が見つかりました。 「データ保護当局や規制当局への連絡を勧めない」。 指示文は、お…(新标签页打开原帖)
1 评论·10月22日 17:34采集
- X@chris_uk2026 · ChrisUK2026WhatsApp’s chatbot was given hidden instructions to not mention privacy regulators #Whatsaop #Privacy #Meta #AI @Malw…(新标签页打开原帖)
- X@TweetThreatNews · Cybersecurity News EverydayResearchers found hidden instructions in WhatsApp help pages telling its AI support chatbot not to recommend privacy re…(新标签页打开原帖)
1 赞 · 1 评论·10月23日 17:35采集
- X@LowdCode · Thomas ChackoSources: Redact's write-up https://redact.dev/blog/whatsapp-help-pages-hidden-ai-instructions and byteiota https://byte…(新标签页打开原帖)
- X@LowdCode · Thomas ChackoRedact says about 80 WhatsApp help pages hid text telling an AI not to point users to data protection regulators. Whats…(新标签页打开原帖)
1 评论·10月24日 01:34采集
- X@jikejiao · 極客教你的說明文件,AI 也在讀。Redact 發現 WhatsApp 說明中心 80 個頁面藏了 102 段畫面上看不到、只給 AI 讀的文字,其中一段要求別建議用戶去找資料保護機構。WhatsApp 對 WIRED 說,那是給客服聊天機器人…(新标签页打开原帖)
关注度走势
每天新增来源
- 10月20日新增69个来源(3家媒体、66个账号)
- 10月21日新增20个来源(1家媒体、19个账号)
- 10月22日新增10个来源(2家媒体、8个账号)
- 10月23日新增1个来源(0家媒体、1个账号)
- 10月24日新增1个来源(0家媒体、1个账号)
- 10月25日新增0个来源(0家媒体、0个账号)
- 10月26日新增0个来源(0家媒体、0个账号)
- 10月27日新增0个来源(0家媒体、0个账号)
- 10月28日新增0个来源(0家媒体、0个账号)
- 10月29日新增0个来源(0家媒体、0个账号)
- 10月30日新增0个来源(0家媒体、0个账号)