攻击arXiv:2610.04195 · 10月3日
MemLeak 研究：多租户 Agent 共享向量记忆库存在跨用户记忆泄露
评估多租户智能体共享向量记忆的跨用户泄露与主动桥接
AI Agent测试Gemini 2.5 Flash、Claude Sonnet 4.5、all-MiniLM-L6-v2 等 5 个应用层
完整解读
攻击arXiv:2610.04589 · 10月3日
StegoMemory 红队测试：智能体持久记忆可被用作跨会话隐蔽信道
用 StegoMemory 测试智能体持久记忆作为跨会话隐写信道的可行性
AI Agent测试Llama 3.1 405B、Claude 3.5 Sonnet、GPT-4o 等 13 个应用层
摘要研究揭示智能体持久记忆可作为隐蔽信道跨会话传输机密，写入持久化是主要防御瓶颈，呼吁建立记忆完整性防御。
完整解读
攻击arXiv:2607.25560 · 7月28日
SigLeak 可从执行轨迹推断专有 Agent 技能
提出 SigLeak，从执行轨迹比对中推断专有智能体技能
编程 Agent攻击者黑盒测试GPT-5.4-mini、GPT-5.5、GLM-5.2 等 4 个应用层
摘要提出了通过良性查询和对照轨迹推断黑盒专有技能的 SigLeak 框架，揭示了智能体执行可见性带来的行为侧信道泄露风险。
完整解读
攻击arXiv:2608.09867 · 8月11日
研究者利用加密推理块跨模型兼容性窃取专有 LLM 推理链
利用加密思维块的跨模型重放，诱导弱模型逐字转写专有推理链
模型与 API攻击者黑盒测试Claude Opus 4.8、Claude Sonnet 4.6、Claude Haiku 4.5 等 15 个提示层
摘要论文揭示了客户端加密思维块跨模型互换漏洞，提出了低成本提取方法并给出防御方案。
完整解读
攻击arXiv:2610.01768 · 10月2日
LLMLeak：借 LLM 合法网页抓取实施隐蔽数据外泄
提出 LLMLeak，把机密编进报错 URL，借聊天机器人网页抓取外传
AI Agent测试Meta-Llama-3.3-70B-Instruct、Meta-Llama-4-Scout-17B-16E-Instruct、Meta-Llama-3.1-8B-Instruct 等 15 个应用层
- 恶意使用
- 编码与混淆
摘要LLMLeak 用报错 URL 借聊天机器人抓取外传秘密。
LLMLeak 研究一种隐蔽外传：本地恶意软件已拿到机密，却因为网络限制或监控不能直接连接攻击者，于是把秘密放进看起来像排障文档的 URL，让良性聊天机器人的网页抓取工具在访问时把秘密带出去。
完整解读
防御arXiv:2609.14003 · 9月12日
FlowSeal：用信息流控制阻断 LLM Agent 的隐私泄露
提出 FLOWSEAL，在工具边界以信息流控制阻断智能体隐私泄露
AI Agent测试DeepSeek-V3.2、DeepSeek-R1、GPT-4.1-mini 等 4 个应用层
摘要作者分析大模型智能体隐私检查与攻击面重合问题，提出外部拦截防御 FLOWSEAL 并验证有效性。
完整解读
攻击arXiv:2609.36941 · 9月29日
研究者提出针对黑盒 LLM 的实用密钥提取框架
提出用扰动蒸馏本地代理并离线过滤来提取黑盒模型凭据
模型与 API攻击者黑盒测试DeepSeek-Coder-7B、LLaMA-3-8B、Qwen2.5-Coder-7B 等 8 个模型层
- 提取与窃取
摘要论文提出扰动蒸馏与离线过滤两阶段框架，实现了 output-only 访问下延迟降低的黑盒大模型 API key 提取。
完整解读
攻击arXiv:2609.33985 · 9月28日
研究：众包微调数据投毒可放大专有指令抽取
提出主题锚点投毒，放大众包微调后的专有指令提取
模型与 API攻击者黑盒测试Qwen2.5-7B-Instruct、Qwen2.5-14B-Instruct、Llama-3.1-8B-Instruct 等 6 个训练与数据层
摘要论文提出基于主题锚点的数据中毒攻击，证明低比例的中毒样本可在黑盒条件下隐蔽放大微调指令泄漏。
完整解读

已经到底了

隐私与数据泄露 · 论文

攻击类型

攻击技术

防御类型

影响

系统形态

攻击者权限

攻击面/入口

层

系统组件

被测模型厂商

MemLeak 研究：多租户 Agent 共享向量记忆库存在跨用户记忆泄露

StegoMemory 红队测试：智能体持久记忆可被用作跨会话隐蔽信道

SigLeak 可从执行轨迹推断专有 Agent 技能

研究者利用加密推理块跨模型兼容性窃取专有 LLM 推理链

LLMLeak：借 LLM 合法网页抓取实施隐蔽数据外泄

FlowSeal：用信息流控制阻断 LLM Agent 的隐私泄露

研究者提出针对黑盒 LLM 的实用密钥提取框架

研究：众包微调数据投毒可放大专有指令抽取