10月8日 · 周四

隐私与数据泄露 · 论文

找到 3 篇

筛选2

攻击类型

提示注入1 提取与窃取2

攻击技术

自动化搜索1 编码与混淆1 对话结构操控1 推理链操控1 针对防御1

影响

数据与隐私泄露3

系统形态

模型与 API1 AI Agent2 编程 Agent2

攻击者权限

攻击面/入口

用户输入2 工具返回1 工具与技能描述1 代码仓库与依赖1

层

提示层1 应用层2

系统组件

MCP 与技能2 记忆5 RAG1 护栏与评审1 推理链1 权限与沙箱1 微调与开源权重2 视觉2 嵌入1 多模态2

被测模型厂商

同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 112 篇还没打标签，不在筛选结果里。

系统组件：MCP 与技能系统组件：推理链话题：隐私与数据泄露清除全部

另有 112 篇论文还没打上分类标签，暂不在筛选结果里。

攻击arXiv:2609.18217 · 9月16日
研究：跨通道碎片化攻击可绕过 MCP 单通道防御
提出跨通道分段攻击，借 MCP 多通道隐式信任外发敏感数据
编程 Agent测试GPT-4o、GPT-4o-mini、GPT-5.4 等 15 个应用层
摘要论文揭示了 MCP 多通道隐式信任层级，通过跨通道分段与协议级利用突破现有防御，展示了严重的凭证外发风险。
完整解读
攻击arXiv:2607.25560 · 7月28日
SigLeak 可从执行轨迹推断专有 Agent 技能
提出 SigLeak，从执行轨迹比对中推断专有智能体技能
编程 Agent攻击者黑盒测试GPT-5.4-mini、GPT-5.5、GLM-5.2 等 4 个应用层
摘要提出了通过良性查询和对照轨迹推断黑盒专有技能的 SigLeak 框架，揭示了智能体执行可见性带来的行为侧信道泄露风险。
完整解读
攻击arXiv:2608.09867 · 8月11日
研究者利用加密推理块跨模型兼容性窃取专有 LLM 推理链
利用加密思维块的跨模型重放，诱导弱模型逐字转写专有推理链
模型与 API攻击者黑盒测试Claude Opus 4.8、Claude Sonnet 4.6、Claude Haiku 4.5 等 15 个提示层
摘要论文揭示了客户端加密思维块跨模型互换漏洞，提出了低成本提取方法并给出防御方案。
完整解读

已经到底了