跳到正文
10月10日 · 周六

全部论文

找到 9 篇
筛选6

模型自身风险

Agent 危险操作4

防御类型

监控与审计5

影响

越权操作5

系统形态

模型与 API85LLM 应用40AI Agent86coding agent25science agent3web agent1网页与电脑操作4多智能体8具身与机器人4

层

应用层7

系统组件

MCP 与技能3记忆3RAG3护栏与评审3监控器7权限与沙箱3视觉15嵌入0多模态17
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 242 篇还没打标签，不在筛选结果里。
系统形态：web agent系统形态：网页与电脑操作系统形态：具身与机器人系统组件：护栏与评审系统组件：监控器系统组件：嵌入清除全部

另有 242 篇论文还没打上分类标签，暂不在筛选结果里。

  2. 防御arXiv 2610.08761

    VeriFine：通过扩展验证实现具身推理的自我改进

    提出 VeriFine，用双环协同扩展验证以实现具身推理自我改进

    arXiv
    2610.08761
    发表
    层
    训练与数据层
    场景
    具身与机器人
    被测模型
    Alpamayo 1.5 8B、Qwen3-VL 2B、Claude Opus 5
    摘要VeriFine 用双环协同演化具身推理的策略、课程和评审，驾驶与导航的策略分和评审对齐都上升。

    VeriFine 把驾驶和导航推理的自改进写成策略、课程和无参考评审的协同演化，用来处理固定评审跟不上新失败模式的问题。

    深度解读完整解读
  4. 其他arXiv 2610.02662

    论文发现语言驱动机器人安全监控的细化缺口：安全高层计划可能产生不安全执行

    审计机器人安全监控的细化缺口，比较表面计划与图细化轨迹的裁决

    arXiv
    2610.02662
    发表
    层
    应用层
    场景
    具身与机器人
    摘要表面轨迹可漏掉图诱导的禁区进入。

    作者审计 RoboGuard 的一个假设：对高层动作轨迹的安全裁决，在补上语义图诱导的导航和已记录隐式效应之后是否仍然成立。做法是不改验证器，并固定同一条 LTL。

    深度解读完整解读
  6. 防御arXiv 2609.22724

    MATE：面向移动 Agent 的策略感知安全审计方法

    提出移动 Agent 轨迹审计器 MATE，判断轨迹是否违反可编辑安全策略

    arXiv
    2609.22724
    发表
    层
    应用层
    场景
    网页与电脑操作
    攻击者
    黑盒
    被测模型
    MATE-0.5B、MATE-1.5B、MATE-3B
    摘要MATE 用合成轨迹微调轻量审计器，在可编辑策略下判断移动智能体轨迹是否违规并给出解释。

    MATE 是面向移动 GUI 智能体的轻量策略条件轨迹审计器，在给定自然语言安全策略时判断轨迹是否违规并解释原因。

    深度解读完整解读
  9. 评测与基准arXiv 2604.06240

    研究者开源 Universal Verifier 与 CUAVerifierBench，用于验证计算机使用 Agent 轨迹

    构建 Universal Verifier 核验计算机使用 Agent 轨迹

    arXiv
    2604.06240
    发表
    层
    应用层
    场景
    web agent
    被测模型
    GPT-5.2、GPT-4o、o4-mini 等 8 个
    摘要四条设计原则叠成 Universal Verifier，作者称其与人类一致程度相当且假阳性近零。

    Universal Verifier 给计算机使用轨迹打过程分和结果分，并定位失败。CUAVerifierBench 用人工标签衡量这种验证器。

    深度解读完整解读
已经到底了