隐私与数据泄露 · 论文

研究评测训练数据提取风险的跨语言迁移

用翻译前缀做跨语言训练数据提取，恢复英语训练文本中的 PII

arXiv

2610.06093

发表

10月5日

层

提示层

场景

模型与 API

测试

GPT-Neo 1.3B、GPT-Neo 2.7B、GPT-J 6B 等 7 个

• 攻击提取与窃取

研究：跨通道碎片化攻击可绕过 MCP 单通道防御

提出跨通道分段攻击，利用 MCP 隐式信任诱导外发敏感文件

arXiv

2609.18217

发表

9月16日

层

应用层

场景

编程 Agent

测试

GPT-4o、GPT-4o-mini、GPT-5.4 等 15 个

• 攻击提示注入
• 技术编码与混淆
• 组件MCP 与技能
• +1+1

研究分析 3930 条 Reddit 帖子，揭示青少年对陪伴型 AI 聊天机器人的过度依赖

主题分析青少年相关 Reddit 帖子，归纳陪伴 AI 过度依赖与感知互惠

arXiv

2609.14843

发表

9月14日

层

应用层

场景

模型与 API

测试

Character.AI、Replika、ChatGPT 等 4 个

研究者利用加密推理块跨模型兼容性窃取专有 LLM 推理链

利用加密思维块的跨模型重放，诱导弱模型逐字转写专有推理链

arXiv

2608.09867

发表

8月11日

层

提示层

场景

模型与 API

攻击者

黑盒

测试

Claude Opus 4.8、Claude Sonnet 4.6、Claude Haiku 4.5 等 15 个

• 攻击提取与窃取
• 技术推理链操控
• 组件推理链
• +1+1

TC-UAP：针对图像转视频与微调定制的通用视频保护方法

提出 TC-UAP，用身份级多帧扰动保护视频免被定制复现身份

arXiv

2607.13336

发表

7月15日

层

提示层

场景

模型与 API

测试

LTX-2.3、Wan2.2-5B

• 组件视频
• +1+1

残障披露如何在对话式 AI 中流动：ChatGPT、Claude、Gemini 的记忆、隐私与语境完整性

访谈残障成人，分析向记忆型助手披露残障时的信息流与语境完整性

arXiv

2609.22720

发表

9月19日

层

应用层

场景

模型与 API

• 组件记忆

用扩散模型隐空间扰动防御视觉语言模型的地理位置隐私泄露

提出扩散潜空间地理扰动防御，抑制视觉语言模型泄露精确地理位置

arXiv

2609.21363

发表

9月18日

层

提示层

场景

模型与 API

攻击者

黑盒

测试

GPT-4.1、GPT-5、Gemini 2.5 Pro 等 6 个

• 攻击恶意使用
• 组件视觉

面向良性用途的对抗攻击：视觉内容全生命周期主动防护综述

综述视觉内容全生命周期中的所有者侧对抗防护方法

arXiv

2608.04314

发表

8月5日

层

提示层

场景

模型与 API

• 组件视觉

透过人眼与机器眼：理解视频透视扩展现实中的视图错配

形式化视频透视头显中系统截图与人眼视野的错配

arXiv

2609.29173

发表

9月24日

层

应用层

场景

模型与 API

测试

GPT-5.4

• 组件视觉

PrivDrift：审计活跃 LLM 对话中话题漂移下的用户秘密泄露

提出 PrivDrift 基准，审计话题漂移后的用户秘密复述

arXiv

2609.30094

发表

9月25日

层

提示层

场景

模型与 API

测试

GPT-OSS-120B、DeepSeek-R1、Qwen3-VL-235B

• 攻击提取与窃取
• 技术角色扮演与说服