跳到正文
10月9日 · 周五

全部论文

找到 5 篇
筛选3

攻击类型

提示注入4投毒与后门2恶意使用1

模型自身风险

欺骗与谋划2失准与价值偏离1Agent 危险操作5危险能力1

防御类型

检测与过滤2监控与审计2

影响

越权操作5

系统形态

AI Agent5编程 Agent1网页与电脑操作1

攻击者权限

黑盒1

攻击面/入口

用户输入5网页与界面3文档与消息1工具返回4代码仓库与依赖2记忆写入3Agent 间消息1

层

应用层5

系统组件

记忆2护栏与评审1监控器2

被测模型厂商

其他5
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 669 篇还没打标签，不在筛选结果里。
模型自身风险：Agent 危险操作攻击面/入口：用户输入层：应用层清除全部

另有 669 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 防御arXiv 2609.33039

    TACIT：从 LLM 内部状态检测 Agent 轨迹危害

    提出 TACIT，从冻结内部表征检测智能体有害轨迹

    arXiv
    2609.33039
    发表
    层
    应用层
    场景
    AI Agent
    测试
    Qwen3Guard-4B、LlamaGuard3-8B、AgentDoG-4B 等 9 个

    摘要提出基于内部表征的智能体轨迹安全检测方法 TACIT，揭示工具风险表征特性并在多项基准上提升检测表现与效率。

    深度解读完整解读
  3. 评测与基准arXiv 2609.32616

    Cave-Bench：虚假指控下 LLM 智能体最高 60.06% 的运行会破坏正确工作

    提出 CAVE-BENCH，评测虚假指责下智能体破坏已完成正确工作的行为

    arXiv
    2609.32616
    发表
    层
    应用层
    场景
    编程 Agent
    测试
    Claude-Sonnet-5、Claude-Opus-5、GPT-5.6-Sol 等 14 个

    摘要论文提出了评估智能体在虚假指责下破坏已有正确成果的 CAVE-BENCH，发现强模型易推翻已知证据，提出了门控缓解方案。

    深度解读完整解读
  5. 防御arXiv 2609.22724

    MATE：面向移动 Agent 的策略感知安全审计方法

    提出策略条件轨迹审计器 MATE，判断移动 Agent 是否违反可编辑安全策略

    arXiv
    2609.22724
    发表
    层
    应用层
    场景
    网页与电脑操作
    攻击者
    黑盒
    测试
    MATE-0.5B、MATE-1.5B、MATE-3B 等 8 个
    摘要MATE 用合成轨迹微调轻量审计器，在可编辑策略下判断移动智能体轨迹是否违规并给出解释。

    MATE 是面向移动 GUI 智能体的轻量策略条件轨迹审计器，在给定自然语言安全策略时判断轨迹是否违规并解释原因。

    深度解读完整解读
已经到底了