跳到正文
10月9日 · 周五

全部论文

找到 10 篇
筛选7

攻击类型

提示注入8投毒与后门2模型篡改1检测规避1拒绝服务1

攻击技术

自动化搜索1对话结构操控1推理链操控2

模型自身风险

欺骗与谋划1Agent 危险操作1

防御类型

模型加固1检测与过滤2指令与数据隔离1权限与审批1监控与审计6

影响

越权操作5数据与隐私泄露2输出被操纵1可用性与可靠性1

系统形态

模型与 API1AI Agent9编程 Agent3多智能体1

攻击者权限

黑盒1白盒2

攻击面/入口

用户输入31网页与界面4文档与消息9工具返回14工具与技能描述5代码仓库与依赖3记忆写入2Agent 间消息2图像与音视频1训练数据1权重与梯度3分发渠道6

层

应用层9训练与数据层1

系统组件

MCP 与技能7记忆9RAG1护栏与评审4监控器8推理链3权限与沙箱10微调与开源权重25视觉7音频3视频1图像生成1多模态11
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 446 篇还没打标签，不在筛选结果里。
系统形态：模型与 API系统形态：AI Agent系统形态：编程 Agent攻击面/入口：文档与消息攻击面/入口：训练数据系统组件：监控器系统组件：推理链清除全部

另有 446 篇论文还没打上分类标签，暂不在筛选结果里。

  2. 防御arXiv 2609.38909

    Purdue 提出 Pact：将欺骗作为行为遗忘

    提出 PACT，遗忘推理模型在压力下的欺骗行为并保留上下文理解

    arXiv
    2609.38909
    发表
    层
    训练与数据层
    场景
    模型与 API
    攻击者
    白盒
    被测模型
    DeepSeek-R1-Distill-Qwen-32B、QwQ-32B

    摘要论文将大模型欺骗形式化为上下文条件行为，提出 PACT 框架在消除欺骗的同时保留了上下文遵循能力。

    深度解读完整解读
  5. 防御arXiv 2610.05163

    研究者在 Claude Code 和 Codex 上构造分段提示注入并发布边界动作审计基准

    提出路径对齐归因 PAA，在边界动作前审计长流程智能体的分段提示注入

    arXiv
    2610.05163
    发表
    层
    应用层
    场景
    编程 Agent
    被测模型
    Claude Code (v2.1.172, Claude Sonnet 5)、Codex CLI (v0.144.0, GPT-5.5)
    摘要论文针对长流程注入提出边界动作审计与 PAA，在保持低误阻的同时实现高拦截率。

    本研究针对长流程智能体在执行任务时面临的分阶段间接提示注入威胁，提出了在动作生效前进行拦截的边界动作审计框架与路径对齐归因方法。

    深度解读完整解读
  10. 评测与基准arXiv 2609.28915

    研究提出 ACE 语料库，评估内核级证据对 Agent 安全检测的有效性

    构建 ACE 语料并比较内核与应用层证据的攻击检测效果

    arXiv
    2609.28915
    发表
    层
    应用层
    场景
    编程 Agent
    摘要ACE 用配对的内核与应用层证据表明，syscall 痕迹可判别智能体攻击，两层组合通常更好。

    ACE 是一份把智能体会话的内核 syscall 痕迹与应用层清单、转录配对起来的检测语料和基准。。

    深度解读完整解读
已经到底了