10月8日 · 周四

全部论文

找到 12 篇

筛选1

系统组件

MCP 与技能3 记忆2 RAG2 护栏与评审1 权限与沙箱2 视觉1 多模态1

被测模型厂商

OpenAI8 DeepSeek7 Qwen（阿里）7 Anthropic5 其他9

同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 1065 篇还没打标签，不在筛选结果里。

影响：输出被操纵清除全部

另有 1065 篇论文还没打上分类标签，暂不在筛选结果里。

防御arXiv:2609.11757 · 9月10日
研究者披露 AP2 支付协议的 Whisper 提示注入攻击并提出 A-VIP 防御
提出 A-VIP，将购物意图绑定到支付授权以阻断商户文本操控
AI Agent测试gemini-2.5-flash-lite、gemini-3.1-flash-lite、gemini-3-flash-preview 等 15 个应用层
摘要论文揭示了 AP2 协议决策层受操纵的风险，提出结构化与权能绑定防御 A-VIP，并发布评测基准。
完整解读
攻击arXiv:2610.09027 · 10月7日
P-VMI：对抗图像经 KV cache 持续影响多轮对话
提出持久视觉记忆注入，使对抗图像经缓存在触发时操控输出
模型与 API测试Qwen3-8B、Qwen3-VL-8B-Instruct、Gemma-4-12B 等 4 个基础设施层
摘要论文提出 P-VMI，证实对抗输入被掩蔽后仍可经 KV 缓存持久控制模型，强调了保留状态的安全风险。
完整解读
攻击arXiv:2610.07645 · 10月6日
SkillPoison：用成功经验投毒自进化 Agent 的技能形成
提出 SkillPoison，用局部有效的成功经验投毒自进化智能体的技能形成
AI Agent测试deepseek-v4-flash、Qwen V3.8 Flash、GPT-5.5应用层
摘要SkillPoison 通过局部有效且验证成功的经验诱导技能过度泛化，在多个评测基准上实现了持久的下游攻击影响。
SkillPoison 提出了一种针对自进化智能体经验到技能形成过程的攻击范式，通过组织已验证的成功经验诱导技能过度泛化。
完整解读
攻击arXiv:2610.05894 · 10月5日
研究者提出闭环偏见注入攻击
提出闭环激活引导，在扩散语言模型去噪过程中注入定向偏见
模型与 API攻击者灰盒测试LLaDA-8B-Instruct、Dream-v0-Instruct-7B、LLaDA-MoE-7B-A1B-Instruct模型层
- 模型篡改
- 梯度与表征优化
摘要通过去噪中间概率反馈动态调节残差流转向，证明扩散语言模型在推理服务栈中存在闭环偏见注入脆弱性。
完整解读
攻击arXiv:2610.02373 · 10月1日
HDI 攻击：篡改 GraphRAG 辅助结构可致 88–94% 攻击成功率
提出 HDI 攻击以篡改 GraphRAG 辅助结构破坏检索
LLM 应用测试Microsoft GraphRAG、HippoRAG2、text-embedding-3-small 等 4 个应用层
- 投毒与后门
- RAG
摘要论文形式化了 GraphRAG 辅助模式级实体攻击面，提出 HDI 攻击并验证其攻击效果。
完整解读
攻击arXiv:2608.29381 · 8月30日
研究者提出 Agent 检查点回滚的五类安全失效，并在 Hermes、Cline、LangGraph 上实现三种攻击
提出破坏执行连续性的回滚攻击，揭示检查点恢复的安全故障
AI Agent测试DeepSeek-v4应用层
- Agent 危险操作
- 权限与沙箱
摘要论文系统研究了智能体 C/R 的安全性，分析了合法回滚破坏执行连续性的机理，并实证评估了其普遍性与危害。
完整解读
攻击arXiv:2607.12340 · 7月14日
研究：LLM Agent 技能名幻觉率最高达 62%，可被抢注用于供应链攻击
提出技能名抢注攻击，利用智能体虚构技能名劫持技能供应链
编程 Agent测试GLM-4.5-Air、GPT-5.4-mini、Claude Sonnet 4.6 等 10 个应用层
摘要研究证实智能体虚构技能名具有高发生率与可预测性，现有防御难以兼顾安全与效用，亟需注册表结构性防护。
本研究系统揭示了大模型智能体技能推荐场景下的虚构技能名称安全风险，将其形式化为一种新型供应链抢注攻击。
完整解读
攻击arXiv:2607.05189 · 7月6日
研究者提出 MemGhost，对持久化个人 Agent 实现隐蔽记忆注入
提出 MEMGHOST，以单封恶意邮件向持久个人智能体注入隐蔽记忆
AI Agent测试GPT-5.4、Claude Sonnet 4.6、Claude Sonnet 4.5 等 6 个应用层
摘要总结了论文的研究背景、双代理优化方法 MEMGHOST、全周期实验结果以及作者对记忆信任边界的启示。
本文研究了持久化个人智能体面临的隐蔽记忆注入威胁，提出了一套兼顾写入、隐蔽与跨会话生效的自动化生成框架与全周期评测基准。
完整解读
攻击arXiv:2609.02774 · 9月3日
CodePoisonRAG：针对检索增强代码生成的知识投毒攻击
提出 CodePoisonRAG，对检索增强代码生成的知识库投毒以植入漏洞
LLM 应用测试Qwen 3.5 9B、Code Llama 13B、DeepSeek-Coder-V2 16B 等 4 个应用层
摘要CodePoisonRAG 展示了 RACG 外部知识库的新攻击面，在较低投毒率下可定向诱发指定漏洞并部分抵御防御。
完整解读
攻击arXiv:2609.17817 · 9月16日
论文：用投毒基准污染自改进编码 Agent，令其后续版本写出漏洞代码
提出基准投毒攻击，使自修改编码智能体跨代写出漏洞代码
编程 Agent测试Claude Sonnet 4.5、Qwen3.5-397B、gpt-oss-120b 等 6 个应用层
- 投毒与后门
- 潜伏触发
摘要论文报告了恶意基准能污染自修改代码智能体的进化过程并持续输出漏洞，警示系统设计需纳入安全约束。
完整解读
攻击arXiv:2609.02035 · 9月2日
ISM：通过语义匹配隐式操纵 LLM Agent 的技能选择
提出 ISM，协同改写技能描述与提示词以隐式操纵技能选择
AI Agent测试Llama-2-7B、Llama-3-8B、Llama-3.1-8B 等 8 个应用层
完整解读
攻击arXiv:2609.08236 · 9月8日
研究：内容不变的风格包装可翻转 LLM 安全评判器的判定
提出内容不变样式包装，翻转安全评审器的判定
模型与 API攻击者无盒黑盒测试Keyword (rulebased)、GPT-4o-mini (gpt4o)、GPT-4o-mini (strongreject) 等 12 个提示层
摘要论文揭示特定安全评审器易受保持内容不变的外层包装诱导改变判定，并指出安全评估应将判定稳定性作为重要考量指标。
这是一项关于大语言模型自动化安全评审系统表面样式脆弱性的评估研究。
完整解读

已经到底了

全部论文

攻击类型

攻击技术

模型自身风险

防御类型

影响

系统形态

攻击者权限

攻击面/入口

层

系统组件

被测模型厂商

研究者披露 AP2 支付协议的 Whisper 提示注入攻击并提出 A-VIP 防御

P-VMI：对抗图像经 KV cache 持续影响多轮对话

SkillPoison：用成功经验投毒自进化 Agent 的技能形成

研究者提出闭环偏见注入攻击

HDI 攻击：篡改 GraphRAG 辅助结构可致 88–94% 攻击成功率

研究者提出 Agent 检查点回滚的五类安全失效，并在 Hermes、Cline、LangGraph 上实现三种攻击

研究：LLM Agent 技能名幻觉率最高达 62%，可被抢注用于供应链攻击

研究者提出 MemGhost，对持久化个人 Agent 实现隐蔽记忆注入

CodePoisonRAG：针对检索增强代码生成的知识投毒攻击

论文：用投毒基准污染自改进编码 Agent，令其后续版本写出漏洞代码

ISM：通过语义匹配隐式操纵 LLM Agent 的技能选择

研究：内容不变的风格包装可翻转 LLM 安全评判器的判定