跳到正文
10月10日 · 周六

全部论文

找到 6 篇
筛选7

模型自身风险

欺骗与谋划21奖励作弊9失准与价值偏离17Agent 危险操作6危险能力3拒答失当36幻觉与编造18偏见与歧视15

影响

越权操作4

系统形态

模型与 API1AI Agent66coding agent15web agent2网页与电脑操作3多智能体5具身与机器人6

层

模型层1应用层5基础设施层0
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 194 篇还没打标签，不在筛选结果里。
模型自身风险：Agent 危险操作系统形态：模型与 API系统形态：web agent系统形态：网页与电脑操作层：模型层层：应用层层：基础设施层清除全部

另有 194 篇论文还没打上分类标签，暂不在筛选结果里。

  3. 防御arXiv 2609.22724

    MATE：面向移动 Agent 的策略感知安全审计方法

    提出移动 Agent 轨迹审计器 MATE，判断轨迹是否违反可编辑安全策略

    arXiv
    2609.22724
    发表
    层
    应用层
    场景
    网页与电脑操作
    攻击者
    黑盒
    被测模型
    MATE-0.5B、MATE-1.5B、MATE-3B
    摘要MATE 用合成轨迹微调轻量审计器，在可编辑策略下判断移动智能体轨迹是否违规并给出解释。

    MATE 是面向移动 GUI 智能体的轻量策略条件轨迹审计器，在给定自然语言安全策略时判断轨迹是否违规并解释原因。

    深度解读完整解读
  6. 防御arXiv 2609.03438

    CONFLICTGUI 基准与 CONFLICTGUARD 框架：让多模态 GUI Agent 学会在冲突指令下终止执行

    提出 ConflictGuard，引导 GUI Agent 在冲突指令下终止执行

    arXiv
    2609.03438
    发表
    层
    应用层
    场景
    网页与电脑操作
    被测模型
    UI-Venus-1.5-8B、UI-TARS-1.5-7B、OS-Atlas-Base-7B 等 10 个
    摘要ConflictGUI 暴露 GUI 智能体的执行偏向过度服从，ConflictGuard 用条件转向提高冲突终止率。

    ConflictGuard用推理时的可行性核验和条件激活转向，让 GUI 智能体在指令不可行时终止，而不是盲执行。

    深度解读完整解读
已经到底了