跳到正文
10月9日 · 周五

Agent 安全 · 论文

找到 19 篇
筛选2

攻击类型

越狱1提示注入15投毒与后门11检测规避1

攻击技术

自动化搜索6编码与混淆1跨模态载荷1针对防御3潜伏触发2诱导选用4

防御类型

检测与过滤3指令与数据隔离2权限与审批2监控与审计1

影响

越权操作15数据与隐私泄露2输出被操纵1监督失效1

系统形态

AI Agent19编程 Agent9多智能体1

攻击者权限

黑盒2灰盒1

攻击面/入口

用户输入23网页与界面9文档与消息15工具返回17工具与技能描述19代码仓库与依赖5检索语料3记忆写入13Agent 间消息3图像与音视频2训练数据1分发渠道10

层

应用层19

系统组件

MCP 与技能17记忆2护栏与评审2监控器2权限与沙箱4视觉1多模态1

被测模型厂商

OpenAI27DeepSeek19Qwen（阿里）19Anthropic16智谱 GLM14Kimi（月之暗面）12Google11Mistral5其他11
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 268 篇还没打标签，不在筛选结果里。
攻击面/入口：工具与技能描述被测模型厂商：DeepSeek话题：Agent 安全清除全部

另有 268 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 攻击arXiv 2608.09732

    ColluSkill 用跨技能组合绕过 Agent 技能扫描器

    提出 ColluSkill 跨技能组合攻击，拆分恶意载荷以绕过技能扫描器

    arXiv
    2608.09732
    发表
    层
    应用层
    场景
    编程 Agent
    攻击者
    黑盒、灰盒
    测试
    DeepSeek-V4-Pro、GPT-5.5、GLM-5.2

    摘要论文揭示了单技能孤立扫描的盲区，提出多技能链攻击 ColluSkill 与上下文防御 ChainGuard 并验证了有效性。

    深度解读完整解读
  2. 攻击arXiv 2608.25776

    EvoMal 攻击利用自我进化编码 Agent 的自我投毒实现蠕虫式传播

    提出 EVOMAL 攻击，诱导编码 Agent 自我投毒并蠕虫式传播技能

    arXiv
    2608.25776
    发表
    层
    应用层
    场景
    编程 Agent
    测试
    DeepSeek-V4-Pro、Devstral-Small-2、Gemma-4-31B-IT 等 7 个

    摘要论文指出了自演化智能体模仿检索代码的自我毒化漏洞，提出 EVOMAL 攻击与防御，阐明了供应链新风险。

    深度解读完整解读
  5. 防御arXiv 2610.06001

    AgentSpy：在系统调用层观测 AI Agent 行为并检测技能注入攻击

    提出 AgentSpy，在系统调用层观测 Agent 并检测技能注入

    arXiv
    2610.06001
    发表
    层
    应用层
    场景
    编程 Agent
    测试
    deepseek-v4-flash、gpt-5.6-terra、glm-5.3-flash 等 4 个
    摘要提出了系统级智能体监控框架 AgentSpy，揭示出通过测试背后的非预期行为与注入风险。

    本研究提出了面向 AI 智能体的系统级外部监控与行为分析框架 AgentSpy。

    深度解读完整解读
  6. 攻击arXiv 2609.18217

    研究：跨通道碎片化攻击可绕过 MCP 单通道防御

    提出跨通道分段攻击，利用 MCP 隐式信任诱导外发敏感文件

    arXiv
    2609.18217
    发表
    层
    应用层
    场景
    编程 Agent
    测试
    DeepSeek-V3、GPT-4o、GPT-4o-mini 等 15 个

    摘要论文揭示了 MCP 多通道隐式信任层级，通过跨通道分段与协议级利用突破现有防御，展示了严重的凭证外发风险。

    深度解读完整解读
  14. 防御arXiv 2610.01349

    PACE：面向工具调用 LLM Agent 的来源感知能力强制执行

    提出 PACE，在工具调用前对 Agent 做路径隔离与效果授权

    arXiv
    2610.01349
    发表
    层
    应用层
    场景
    AI Agent
    测试
    DeepSeek-V4-Flash、gpt-5.6-luna、Qwen-3.8-27B
    摘要PACE 在工具边界做路径割与效果核验。

    PACE 是面向工具调用型 LLM 智能体的运行时调解：当准入证据无法区分会改变行为的规格时，不在出口站点上撤销调解，而在最后一次工具调用前同时检查表示出的影响路径和请求权限。

    深度解读完整解读
  16. 评测与基准arXiv 2609.24662

    DUMA-Bench：评估 LLM Agent 安全的双控多智能体基准

    提出双控多智能体基准 DUMA-Bench，评测 Agent 策略违反

    arXiv
    2609.24662
    发表
    层
    应用层
    场景
    多智能体
    测试
    DeepSeek V3.2、GPT-5、GPT-5-mini 等 14 个
    摘要DUMA-Bench 用双控交互评测智能体安全。

    DUMA-Bench 把 τ²-bench 的双控交互做成智能体安全评测，用来看策略违反如何随用户、模型和环境一起出现。

    深度解读完整解读
  18. 防御arXiv 2609.36879

    SKILLLITE：用小模型做证据引导的恶意 Agent Skill 审计

    提出 SKILLLITE，以证据引导的紧凑 LLM 在部署前审计恶意 Agent Skill

    arXiv
    2609.36879
    发表
    层
    应用层
    场景
    AI Agent
    测试
    DeepSeek-R1:8B、Gemma4:e4b、Qwen3.5:9B 等 5 个
    摘要SKILLLITE 把证据抽取外置，让紧凑 LLM 只做意图条件下的风险裁决，三个基准上 F1 高于所列基线。

    SKILLLITE是面向紧凑、可本地部署 LLM 的恶意 Agent Skill 预执行审计框架，作者单位为南洋理工大学。

    深度解读完整解读
  19. 评测与基准arXiv 2609.35912

    MMSkillRisk：多模态技能图像中的隐藏指令可诱导 Agent 执行未授权操作

    提出 MMSkillRisk 与 NCVA，评测技能图像隐藏指令诱导的未授权操作

    arXiv
    2609.35912
    发表
    层
    应用层
    场景
    编程 Agent
    测试
    DeepSeek-V4.1-Flash、GPT-5.6-sol、Kimi-K2.6 等 6 个

    摘要论文提出 MMSkillRisk 基准与 NCVA 攻击，揭示多模态技能中教学图像潜藏指令可引发未授权操作并与良性任务共存。

    深度解读完整解读
已经到底了