跳到正文
10月8日 · 周四

Agent 安全 · 论文

找到 11 篇
筛选2

攻击类型

越狱1提示注入6投毒与后门2提取与窃取1

攻击技术

对话结构操控1推理链操控1潜伏触发4诱导选用1

模型自身风险

奖励作弊1Agent 危险操作1

防御类型

指令与数据隔离2权限与审批3

影响

越权操作5数据与隐私泄露3输出被操纵2监督失效1

系统形态

AI Agent11编程 Agent5网页与电脑操作1多智能体1

攻击面/入口

用户输入5网页与界面1文档与消息1工具返回4工具与技能描述4代码仓库与依赖3记忆写入1Agent 间消息2分发渠道1

层

应用层11

系统组件

MCP 与技能18记忆9RAG2护栏与评审4监控器2推理链1权限与沙箱10微调与开源权重3视觉4多模态4

被测模型厂商

DeepSeek8OpenAI8Anthropic7Google6其他6
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 383 篇还没打标签，不在筛选结果里。
系统组件：推理链系统组件：权限与沙箱话题：Agent 安全清除全部

另有 383 篇论文还没打上分类标签，暂不在筛选结果里。

  2. 攻击arXiv:2605.12673 ·

    UC Berkeley 提出 BenchJack，自动审计 10 个 Agent 基准并发现 219 处奖励作弊缺陷

    提出 BENCHJACK，自动审计智能体基准的奖励作弊缺陷

    编程 Agent网页与电脑操作测试Claude Code、OpenAI Codex应用层
    摘要论文系统揭示了智能体基准的奖励作弊隐患，提出自动化红队审计与迭代修补系统 BENCHJACK。

    论文系统研究了主流 AI 智能体基准评测中的奖励作弊问题，提出了首个针对基准缺陷的自动化红队审计与生成对抗式迭代修补系统 BENCHJACK。

    完整解读
  6. 攻击arXiv:2609.27542 ·

    研究者用控制 token 注入删除 gpt-oss-20b 推理链并绕过思维链监控

    提出控制标记注入，清空工具智能体推理链以绕过思维链监控

    AI Agent测试openai/gpt-oss-20b、google/gemma-4-26B-A4B-it、deepseek-ai/DeepSeek-R1-Distill-Qwen-7B 等 4 个应用层

    摘要论文阐明控制标记注入可抑制 CoT 使监控失效并促成拒绝绕过，且工具执行受解析器宽容度影响。

    完整解读
  8. 攻击arXiv:2610.00392 ·

    A2A-TIBA：针对 A2A 协议 LLM 智能体的间接提示注入攻击与三层同构攻防模型

    提出 A2A-TIBA 间接提示注入，诱导智能体部署常驻回调并外传数据

    多智能体编程 Agent测试MiniMax-M3、deepseek-v4-pro、glm-5.3 等 8 个应用层
    摘要A2A-TIBA 一次植入后绕过智能体，GDA 用四类结果定位防线，ELA-ITL 把信封标注列为第三层。

    A2A-TIBA 把间接提示注入和绕过放进 A2A：gray-box 攻击者已能投递任务，诱导目标部署常驻回调程序后，下令和外传不再经过智能体。

    完整解读
已经到底了