跳到正文
原文
Embrace The Red·原文 · 入选 精选关注度82

研究者用提示注入绕过 ChatGPT 安全 URL 渲染,外泄聊天历史与记忆

Exfiltrating Your ChatGPT Chat History and Memories With Prompt Injection

AI 导读

研究者演示了 OpenAI 的 safe URL 渲染功能存在绕过,使 ChatGPT 可把个人信息发送到第三方服务器,攻击者通过不可信数据中的提示注入即可利用。当用户处理不可信内容(如总结网页或分析 PDF)时,文档作者能外泄提示上下文中的任意信息,包括过往聊天历史。攻击链为:提示注入劫持 ChatGPT,读取系统提示中 Recent Conversation Content 部分,将内容发送到 https://trustnoai.blob.core.windows.net,攻击者再通过 Azure blob 存储日志查看结果。

推荐理由

作者以第一手实测展示 ChatGPT 聊天历史可经提示注入外泄,并给出 url_safe 绕过与披露时间线,便于评估同类渲染风险。

阅读原文embracethered.com