跳到正文
10月8日 · 周四

Agent 安全 · 论文

找到 37 篇
筛选2

攻击类型

越狱3提示注入23投毒与后门19提取与窃取2检测规避1恶意使用1

攻击技术

梯度与表征优化2自动化搜索8编码与混淆7对话结构操控1推理链操控1跨模态载荷3针对防御3潜伏触发16诱导选用5

模型自身风险

欺骗与谋划2幻觉与编造1

防御类型

检测与过滤1指令与数据隔离2权限与审批3

影响

有害内容1越权操作18数据与隐私泄露10输出被操纵7监督失效1

系统形态

模型与 API2LLM 应用1AI Agent34编程 Agent15网页与电脑操作3多智能体3

攻击者权限

黑盒2白盒1

攻击面/入口

用户输入11网页与界面4文档与消息4工具返回6工具与技能描述12代码仓库与依赖5检索语料1记忆写入7Agent 间消息2图像与音视频5训练数据2权重与梯度2分发渠道10

层

提示层1应用层33训练与数据层2基础设施层1

系统组件

MCP 与技能15记忆7RAG1护栏与评审3监控器2推理链1权限与沙箱6微调与开源权重2视觉4多模态4

被测模型厂商

OpenAI37Qwen（阿里）31DeepSeek27Anthropic23Google18智谱 GLM12Kimi（月之暗面）12Meta11Mistral8Microsoft7xAI5MiniMax5其他13
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 378 篇还没打标签，不在筛选结果里。
被测模型厂商：Google被测模型厂商：Qwen（阿里）话题：Agent 安全清除全部

另有 378 篇论文还没打上分类标签，暂不在筛选结果里。

  2. 攻击arXiv:2604.02623 ·

    论文提出 eTAMP 攻击：网页内容注入可跨会话污染 Web Agent 记忆

    提出 eTAMP，通过网页注入跨会话污染 Web 智能体轨迹记忆

    网页与电脑操作测试Qwen2.5-VL-72B、Qwen3-VL-32B、Qwen3.5-122B-A10B 等 7 个应用层
    摘要论文提出了基于环境注入的跨任务记忆投毒攻击 eTAMP，作者报告智能体在环境压力下易感性增加且能力与安全并不协同。

    该论文评估了基于大语言模型的 Web 智能体在利用历史交互轨迹进行记忆增强时的安全脆弱性。

    完整解读
  3. 攻击arXiv:2610.09240 ·

    WebMirage 用对抗图像劫持视觉网页 Agent 的浏览器操作

    提出 WebMirage，用对抗图像劫持视觉网页智能体的浏览器操作

    网页与电脑操作测试Qwen2-VL-7B、LLaVA-v1.5-13B、LLaVA-v1.6-34B 等 6 个应用层
    摘要论文提出了针对网络智能体的端到端视觉红队框架 WebMirage，揭示了从视觉定位到浏览器执行的安全脆弱性。

    WebMirage 是一个面向视觉定位网络智能体的流水线感知端到端红队攻击框架。

    完整解读
  5. 攻击arXiv:2610.07645 ·

    SkillPoison：用成功经验投毒自进化 Agent 的技能形成

    提出 SkillPoison，用局部有效的成功经验投毒自进化智能体的技能形成

    AI Agent测试Qwen V3.8 Flash、deepseek-v4-flash、GPT-5.5应用层
    摘要SkillPoison 通过局部有效且验证成功的经验诱导技能过度泛化，在多个评测基准上实现了持久的下游攻击影响。

    SkillPoison 提出了一种针对自进化智能体经验到技能形成过程的攻击范式，通过组织已验证的成功经验诱导技能过度泛化。

    完整解读
  7. 攻击arXiv:2610.05793 ·

    研究者训练出按多智能体拓扑触发的代码后门模型

    微调植入拓扑条件后门，使代码模型在推断多智能体部署时插入隐蔽漏洞

    编程 Agent测试Qwen2.5-7B-Instruct、Qwen2.5-Coder-7B-Instruct训练与数据层

    摘要论文证实了拓扑条件后门的可训练性与泛化性，展示了常规评测盲区，并提出差异化拓扑审计作为检测防御方向。

    完整解读
  11. 攻击arXiv:2609.39607 ·

    Pretext 攻击绕过 NVIDIA SkillSpector 等 Agent 技能扫描器

    提出 PRETEXT，迭代改写技能文本以绕过扫描并执行木马行为

    编程 Agent攻击者白盒测试qwen3t (qwen/qwen3-235b-a22b-thinking-2507)、glm (z-ai/glm-5.1)、gpt-oss (openai/gpt-oss-120b) 等 4 个应用层
    摘要论文提出了针对多阶段技能检测器的白盒攻击，揭示了单纯依赖大模型自适应检测的局限。

    PRETEXT 是一项针对基于“静态规则加语义大模型”的智能体技能安全检测框架的白盒攻击与协同进化评估研究。

    完整解读
  14. 攻击arXiv:2607.12340 ·

    研究：LLM Agent 技能名幻觉率最高达 62%，可被抢注用于供应链攻击

    提出技能名抢注攻击，利用智能体虚构技能名劫持技能供应链

    编程 Agent测试Qwen 3.5 9B、GLM-4.5-Air、GPT-5.4-mini 等 10 个应用层
    摘要研究证实智能体虚构技能名具有高发生率与可预测性，现有防御难以兼顾安全与效用，亟需注册表结构性防护。

    本研究系统揭示了大模型智能体技能推荐场景下的虚构技能名称安全风险，将其形式化为一种新型供应链抢注攻击。

    完整解读
  17. 攻击arXiv:2609.27542 ·

    研究者用控制 token 注入删除 gpt-oss-20b 推理链并绕过思维链监控

    提出控制标记注入，清空工具智能体推理链以绕过思维链监控

    AI Agent测试google/gemma-4-26B-A4B-it、Qwen/Qwen3-4B-Thinking-2507、openai/gpt-oss-20b 等 4 个应用层

    摘要论文阐明控制标记注入可抑制 CoT 使监控失效并促成拒绝绕过，且工具执行受解析器宽容度影响。

    完整解读
  20. 攻击arXiv:2610.00430 ·

    Memetic Trojans：利用社交传染在 LLM Agent 网络中传播对抗载荷

    提出 memetic trojans，把对抗载荷嵌入智能体自发转发的社会传染内容

    多智能体测试qwen-32B、gemma2-27B、gpt-oss-120B 等 5 个应用层
    摘要memetic trojans 用内生社会传染携带载荷。

    Memetic trojans 是一类网络介导攻击：对抗载荷搭在智能体本来就会转发和点赞的内容上扩散，转发者不必被攻陷，也不必执行“请继续复制”的指令。

    完整解读
加载更多