跳到正文
10月9日 · 周五

全部论文

找到 98 篇
筛选5

攻击类型

越狱8提示注入55投毒与后门15提取与窃取1检测规避3拒绝服务1恶意使用3

攻击技术

自动化搜索1针对防御1潜伏触发1

模型自身风险

欺骗与谋划3奖励作弊6失准与价值偏离1Agent 危险操作21

防御类型

模型加固7推理时干预2检测与过滤13指令与数据隔离29权限与审批46监控与审计21水印与溯源3

影响

越权操作60数据与隐私泄露12输出被操纵12可用性与可靠性2监督失效10

系统形态

LLM 应用19AI Agent98编程 Agent17网页与电脑操作8多智能体12

攻击者权限

黑盒3灰盒1

攻击面/入口

用户输入18网页与界面21文档与消息17工具返回36工具与技能描述14代码仓库与依赖4检索语料2记忆写入7Agent 间消息7分发渠道9推理服务与硬件1

层

应用层98训练与数据层6

系统组件

MCP 与技能21记忆9护栏与评审7监控器21推理链2权限与沙箱38视觉2多模态2
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 426 篇还没打标签，不在筛选结果里。
系统形态：AI Agent系统形态：编程 Agent系统形态：网页与电脑操作系统形态：多智能体层：应用层清除全部

另有 426 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 防御arXiv 2608.09732

    ColluSkill 用跨技能组合绕过 Agent 技能扫描器

    提出 ColluSkill 跨技能组合攻击，拆分恶意载荷以绕过技能扫描器

    arXiv
    2608.09732
    发表
    层
    应用层
    场景
    编程 Agent
    攻击者
    黑盒、灰盒

    摘要论文揭示了单技能孤立扫描的盲区，提出多技能链攻击 ColluSkill 与上下文防御 ChainGuard 并验证了有效性。

    深度解读完整解读
  6. 防御arXiv 2610.04699

    CoVer：用干预检验为 Agent 构造可判定规则边界

    提出 COVER，以不咨询模型的干预门准入 Agent 规则自动执行

    arXiv
    2610.04699
    发表
    层
    应用层
    场景
    AI Agent
    摘要自可判定不能向模型索取。

    这篇工作测的是智能体验证器在检查之前的分流：外部规则里的哪条谓词能用固定过程解决，哪条必须交给评审。

    深度解读完整解读
  7. 防御arXiv 2610.04975

    论文提出长程智能体自生子目标的运行时授权机制

    提出运行时授权机制，检查长程智能体自生子目标是否精化根契约

    arXiv
    2610.04975
    发表
    层
    应用层
    场景
    AI Agent
    摘要用版本化目标图授权保住重规划，并挡住自生成子目标变成新权威。

    长时程工具使用把目标演化变成授权状态的一部分。本文在单 principal、单根、有限结构化域中，把自生成子目标的创建、替换、同根委托和同根 join 做成可检查转移，并在提交边界重查受保护效应。

    深度解读完整解读
  8. 防御arXiv 2610.06001

    AgentSpy：在系统调用层观测 AI Agent 行为并检测技能注入攻击

    提出 AgentSpy，在系统调用层观测 Agent 并检测技能注入

    arXiv
    2610.06001
    发表
    层
    应用层
    场景
    编程 Agent
    摘要提出了系统级智能体监控框架 AgentSpy，揭示出通过测试背后的非预期行为与注入风险。

    本研究提出了面向 AI 智能体的系统级外部监控与行为分析框架 AgentSpy。

    深度解读完整解读
  12. 防御arXiv 2610.05163

    研究者在 Claude Code 和 Codex 上构造分段提示注入并发布边界动作审计基准

    提出路径对齐归因 PAA，在边界动作前审计长流程智能体的分段提示注入

    arXiv
    2610.05163
    发表
    层
    应用层
    场景
    编程 Agent
    摘要论文针对长流程注入提出边界动作审计与 PAA，在保持低误阻的同时实现高拦截率。

    本研究针对长流程智能体在执行任务时面临的分阶段间接提示注入威胁，提出了在动作生效前进行拦截的边界动作审计框架与路径对齐归因方法。

    深度解读完整解读
  13. 防御arXiv 2610.02557

    新 AI 辩论协议实现实例级最优：最坏情况正确且诚实为占优策略

    提出 FBS Debate 协议，使诚实成为占优策略且最坏情况正确

    arXiv
    2610.02557
    发表
    层
    应用层
    场景
    多智能体
    摘要FBS 辩论用 fbs 约束敏感分解，给出最坏情况占优策略，并匹配黑盒查询下界。

    FBS Debate 是一套可扩展监督的辩论规则：两名计算方争论一个可递归分解的是非问题，人类只在最后选出的子问题上做黑盒判断。要处理的缺口是，prover-estimator debate 虽能覆盖稳定分解，但只在输入分布的平均意义下成立，而且 Bob 的获胜策略一般要跟着 Alice 的作弊策略变。作者要在同一问题类上，让每个错误实例都能被抓住，并让诚实且正确成为双方的占优策略。

    深度解读完整解读
加载更多