跳到正文
10月9日 · 周五

全部论文

找到 44 篇
筛选3

攻击类型

越狱6提示注入42投毒与后门4检测规避1恶意使用1

攻击技术

自动化搜索8编码与混淆1潜伏触发2诱导选用2

模型自身风险

失准与价值偏离1Agent 危险操作5

防御类型

模型加固2检测与过滤5指令与数据隔离8权限与审批10监控与审计8

影响

有害内容3越权操作44数据与隐私泄露10输出被操纵8可用性与可靠性2监督失效4

系统形态

AI Agent44编程 Agent9网页与电脑操作2多智能体2

攻击者权限

黑盒3

攻击面/入口

用户输入22网页与界面19文档与消息23工具返回36工具与技能描述22代码仓库与依赖10检索语料2记忆写入12Agent 间消息5图像与音视频4权重与梯度3分发渠道12推理服务与硬件1

层

应用层43训练与数据层1

系统组件

MCP 与技能10记忆3护栏与评审4监控器8推理链1权限与沙箱10视觉1多模态1

被测模型厂商

OpenAI30Qwen（阿里）25Anthropic21DeepSeek14Google14Meta14智谱 GLM11Kimi（月之暗面）9其他18
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 676 篇还没打标签，不在筛选结果里。
影响：越权操作攻击面/入口：工具返回攻击面/入口：代码仓库与依赖清除全部

另有 676 篇论文还没打上分类标签，暂不在筛选结果里。

  2. 防御arXiv 2610.09793

    用时序逻辑监控工具 Agent

    提出 MFOTL 时序监控，用 MonPoly 检出工具 Agent 的危险动作链

    arXiv
    2610.09793
    发表
    层
    应用层
    场景
    AI Agent
    测试
    GPT-4o、Sonnet-3.5
    摘要形式化验证可有效识别多步攻击，但其有效性高度依赖轨迹的可信历史记录。

    这篇论文对工具调用大语言模型智能体的安全监控进行了形式化时序验证研究。

    深度解读完整解读
  5. 防御arXiv 2610.05640

    研究揭示 CaMeL 防护在多智能体系统中失效并提出 multi-CaMeL

    提出 multi-CaMeL，在多智能体调用边界隔离可信指令与不可信数据

    arXiv
    2610.05640
    发表
    层
    应用层
    场景
    多智能体
    测试
    Claude Fable 5、GPT-5.5、GPT-4.1 等 6 个

    摘要论文针对多智能体中单体防御不组合的边界清洗问题，提出 multi-CaMeL 协议彻底阻断了 MultiAgentDojo 上的注入攻击。

    深度解读完整解读
  6. 防御arXiv 2610.05163

    研究者在 Claude Code 和 Codex 上构造分段提示注入并发布边界动作审计基准

    提出路径对齐归因 PAA，在边界动作前审计长流程智能体的分段提示注入

    arXiv
    2610.05163
    发表
    层
    应用层
    场景
    编程 Agent
    测试
    Claude Code (v2.1.172, Claude Sonnet 5)、Codex CLI (v0.144.0, GPT-5.5)、Claude Sonnet 5 等 7 个
    摘要论文针对长流程注入提出边界动作审计与 PAA，在保持低误阻的同时实现高拦截率。

    本研究针对长流程智能体在执行任务时面临的分阶段间接提示注入威胁，提出了在动作生效前进行拦截的边界动作审计框架与路径对齐归因方法。

    深度解读完整解读
  7. 评测与基准arXiv 2604.02947

    AgentHazard：评估计算机使用智能体有害行为的基准

    提出 AgentHazard 基准，评测计算机使用智能体的执行层有害行为

    arXiv
    2604.02947
    发表
    层
    应用层
    场景
    网页与电脑操作、编程 Agent
    测试
    Qwen2.5-72B-Instruct、Qwen2.5-Coder-32B-Instruct、Qwen3-32B 等 12 个
    摘要AgentHazard 评估了计算机使用智能体的执行安全，作者认为模型层对齐无法可靠保障智能体层面的安全性。

    AgentHazard 是针对计算机使用智能体执行层安全构建的评估基准，重点探究多步工具调用下局部合理动作累积引发的危害。

    深度解读完整解读
  10. 防御arXiv 2610.03089

    COBRA：为计算机使用 Agent 防御分支引导攻击的双 LLM 架构

    提出 COBRA，用分支能力约束与代理拦截防御计算机使用 Agent 的分支引导攻击

    arXiv
    2610.03089
    发表
    层
    应用层
    场景
    网页与电脑操作
    测试
    gpt-5、UI-TARS-1.5-7B、claude-sonnet-5 等 6 个

    摘要提出分支转向防御架构 COBRA，通过事前能力约束与边界代理消除分支转向攻击并兼顾效用。

    深度解读完整解读
  12. 防御arXiv 2609.33039

    TACIT：从 LLM 内部状态检测 Agent 轨迹危害

    提出 TACIT，从冻结内部表征检测智能体有害轨迹

    arXiv
    2609.33039
    发表
    层
    应用层
    场景
    AI Agent
    测试
    Qwen3Guard-4B、LlamaGuard3-8B、AgentDoG-4B 等 9 个

    摘要提出基于内部表征的智能体轨迹安全检测方法 TACIT，揭示工具风险表征特性并在多项基准上提升检测表现与效率。

    深度解读完整解读
  15. 攻击arXiv 2607.11698

    AHA 用自动研究循环发现生产 Agent 漏洞概念

    提出 AHA 自动研究循环，发现生产 Agent 的漏洞概念

    arXiv
    2607.11698
    发表
    层
    应用层
    场景
    编程 Agent
    攻击者
    黑盒
    测试
    Minimax-M2.7、Kimi-K2.6、Deepseek-V4-Pro 等 5 个
    摘要论文提出基于可证伪科研循环的 AHA 框架，从生产级智能体中挖掘并沉淀漏洞概念图，提升攻击复用率并指导防御加固。

    AHA 是一项针对生产级 LLM 智能体自动化红队测试的研究，旨在解决传统方法仅保留具体攻击载荷而缺乏成因解释、导致跨版本复用困难且无法指导修复的问题。

    深度解读完整解读
  18. 防御arXiv 2610.01349

    PACE：面向工具调用 LLM Agent 的来源感知能力强制执行

    提出 PACE，在工具调用前对 Agent 做路径隔离与效果授权

    arXiv
    2610.01349
    发表
    层
    应用层
    场景
    AI Agent
    测试
    gpt-5.6-luna、DeepSeek-V4-Flash、Qwen-3.8-27B
    摘要PACE 在工具边界做路径割与效果核验。

    PACE 是面向工具调用型 LLM 智能体的运行时调解：当准入证据无法区分会改变行为的规格时，不在出口站点上撤销调解，而在最后一次工具调用前同时检查表示出的影响路径和请求权限。

    深度解读完整解读
  19. 防御arXiv 2610.00797

    Sapien：面向自主 AI 智能体的有状态策略引擎

    提出有状态策略引擎 Sapien，拦截被劫持智能体的越权工具调用

    arXiv
    2610.00797
    发表
    层
    应用层
    场景
    AI Agent
    测试
    Gemini 3.8 Flash、Gemini 3.1 Pro、Claude Sonnet 5 等 4 个
    摘要Sapien 用有状态上下文策略约束工具序列，在近似保住效用的同时拦住多数被劫持轨迹。

    Sapien 是面向通用 AI 智能体的有状态策略引擎：执行前把用户提示词译成任务策略，运行时只放行该策略承认的工具调用序列。

    深度解读完整解读
加载更多