跳到正文
10月8日 · 周四

全部论文

找到 113 篇
筛选

攻击类型

越狱17提示注入30投毒与后门29模型篡改2提取与窃取11检测规避3拒绝服务1恶意使用2

攻击技术

梯度与表征优化8自动化搜索19多轮渐进5编码与混淆10角色扮演与说服4对话结构操控3推理链操控7跨模态载荷6侧信道2针对防御6潜伏触发25诱导选用6

模型自身风险

欺骗与谋划3奖励作弊1Agent 危险操作1危险能力1幻觉与编造1

防御类型

检测与过滤1指令与数据隔离2权限与审批4

影响

有害内容16越权操作23数据与隐私泄露22输出被操纵12可用性与可靠性2监督失效4滥用能力提升1

系统形态

模型与 API26LLM 应用5AI Agent49编程 Agent23网页与电脑操作4多智能体4具身与机器人2

攻击者权限

黑盒23灰盒2白盒6无盒2

攻击面/入口

用户输入35网页与界面5文档与消息6工具返回10工具与技能描述15代码仓库与依赖8检索语料3记忆写入9Agent 间消息3图像与音视频9训练数据6权重与梯度9分发渠道14推理服务与硬件4

层

提示层17模型层3应用层46训练与数据层10基础设施层4

系统组件

MCP 与技能18记忆9RAG3护栏与评审10监控器3推理链7权限与沙箱10微调与开源权重9视觉7音频1视频1图像生成1嵌入1多模态10

被测模型厂商

OpenAI57Qwen（阿里）52DeepSeek42Anthropic36Google36Meta22智谱 GLM16Kimi（月之暗面）14Mistral14Microsoft8xAI7MiniMax6其他29
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 1081 篇还没打标签，不在筛选结果里。

另有 757 篇还没有研究类型，暂不在这些分类里。

  1. 攻击arXiv:2609.37468 ·

    论文提出针对 Agentic RAG 的检索器后门攻击与 DOU 隐藏方法

    AI 导读研究者提出针对 Agentic RAG 的检索器后门威胁模型：攻击者只提供被污染的检索器检查点，不改动搜索 Agent 和部署语料，即可在触发问题下操纵检索结果。

    测试E5、Contriever-MSMARCO、Qwen2.5-7B-Instruct

    摘要论文展示了通过恶意检索器操纵智能体多轮搜索并利用诱饵重塑表征隐蔽后门的可行性与系统风险。

    完整解读
  5. 攻击arXiv:2604.02623 ·

    论文提出 eTAMP 攻击：网页内容注入可跨会话污染 Web Agent 记忆

    提出 eTAMP，通过网页注入跨会话污染 Web 智能体轨迹记忆

    网页与电脑操作测试GPT-5-mini、GPT-5.2、GPT-OSS-120B 等 7 个应用层
    摘要论文提出了基于环境注入的跨任务记忆投毒攻击 eTAMP，作者报告智能体在环境压力下易感性增加且能力与安全并不协同。

    该论文评估了基于大语言模型的 Web 智能体在利用历史交互轨迹进行记忆增强时的安全脆弱性。

    完整解读
  6. 攻击arXiv:2610.09240 ·

    WebMirage 用对抗图像劫持视觉网页 Agent 的浏览器操作

    提出 WebMirage，用对抗图像劫持视觉网页智能体的浏览器操作

    网页与电脑操作测试LLaVA-v1.5-13B、LLaVA-v1.6-34B、MiniCPM-o-8B 等 6 个应用层
    摘要论文提出了针对网络智能体的端到端视觉红队框架 WebMirage，揭示了从视觉定位到浏览器执行的安全脆弱性。

    WebMirage 是一个面向视觉定位网络智能体的流水线感知端到端红队攻击框架。

    完整解读
  9. 攻击arXiv:2605.12673 ·

    UC Berkeley 提出 BenchJack，自动审计 10 个 Agent 基准并发现 219 处奖励作弊缺陷

    提出 BENCHJACK，自动审计智能体基准的奖励作弊缺陷

    编程 Agent网页与电脑操作测试Claude Code、OpenAI Codex应用层
    摘要论文系统揭示了智能体基准的奖励作弊隐患，提出自动化红队审计与迭代修补系统 BENCHJACK。

    论文系统研究了主流 AI 智能体基准评测中的奖励作弊问题，提出了首个针对基准缺陷的自动化红队审计与生成对抗式迭代修补系统 BENCHJACK。

    完整解读
  11. 攻击arXiv:2610.07645 ·

    SkillPoison：用成功经验投毒自进化 Agent 的技能形成

    提出 SkillPoison，用局部有效的成功经验投毒自进化智能体的技能形成

    AI Agent测试deepseek-v4-flash、Qwen V3.8 Flash、GPT-5.5应用层
    摘要SkillPoison 通过局部有效且验证成功的经验诱导技能过度泛化，在多个评测基准上实现了持久的下游攻击影响。

    SkillPoison 提出了一种针对自进化智能体经验到技能形成过程的攻击范式，通过组织已验证的成功经验诱导技能过度泛化。

    完整解读
  12. 攻击arXiv:2610.07723 ·

    研究者提出答案侧后门：让模型自生成触发词绕过安全拒答

    提出回答端后门，让模型自生成触发词以在干净有害请求下绕过拒答

    模型与 API测试Llama-2-7B-chat-hf、Mistral-7B-Instruct-v0.3、Gemma-7B-it 等 4 个训练与数据层

    摘要论文提出了多轮对话中回答端自生成触发词绕过安全拒绝的后门攻击，指出输入端防护存在盲区。

    完整解读
  13. 攻击arXiv:2610.07510 ·

    PersistBD：攻击者可在发布前强化后门，使其在开发者 SFT 与 RL 后仍保持高攻击成功率

    提出 PERSISTBD，在发布前强化后门使其经良性后训练仍然存活

    编程 Agent测试Qwen2.5-Coder-3B-Instruct、Qwen2.5-Coder-7B-Instruct、Qwen3-Coder-30B-A3B-Instruct训练与数据层
    摘要总结了论文关于后门在 SFT/RL 中存活的发现、两因子机制、PERSISTBD 方法与核心数字。

    本文研究第三方 LLM 智能体在开发者进行良性监督微调（SFT）和强化学习（RL）后训练时的后门持久性风险。

    完整解读
  16. 攻击arXiv:2610.05793 ·

    研究者训练出按多智能体拓扑触发的代码后门模型

    微调植入拓扑条件后门，使代码模型在推断多智能体部署时插入隐蔽漏洞

    编程 Agent测试Qwen2.5-7B-Instruct、Qwen2.5-Coder-7B-Instruct训练与数据层

    摘要论文证实了拓扑条件后门的可训练性与泛化性，展示了常规评测盲区，并提出差异化拓扑审计作为检测防御方向。

    完整解读
加载更多