跳到正文
10月8日 · 周四

Agent 安全 · 论文

找到 2 篇
筛选2

模型自身风险

欺骗与谋划1失准与价值偏离1Agent 危险操作2拒答失当2

防御类型

推理时干预1

影响

越权操作2

系统形态

AI Agent2网页与电脑操作1

层

应用层2

系统组件

MCP 与技能1记忆3护栏与评审2监控器5权限与沙箱10视觉1音频1多模态2

被测模型厂商

其他2
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 284 篇还没打标签，不在筛选结果里。
模型自身风险：Agent 危险操作系统组件：多模态话题：Agent 安全清除全部

另有 284 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 评测与基准arXiv 2609.35922

    VoxParity 评测：语音智能体在需要听声判断时仍按文字行事

    提出 VoxParity 基准，评测语音智能体是否按音频改变工具调用

    arXiv
    2609.35922
    发表
    层
    应用层
    场景
    AI Agent
    测试
    MiMo-V2.6-Pro、gemini-3.7-flash、Qwen3.8-Omni 等 15 个
    摘要VoxParity 用固定转写的音频对比和 words-only null，测量语音智能体是否按所听内容改变工具调用。

    VoxParity 测量语音智能体在词语不变、只有声音改变时，是否按行业规则改它所执行的工具调用。

    深度解读完整解读
  2. 防御arXiv 2609.03438

    CONFLICTGUI 基准与 CONFLICTGUARD 框架：让多模态 GUI Agent 学会在冲突指令下终止执行

    AI 导读作者提出 CONFLICTGUI 基准，覆盖指令内部冲突与指令和 GUI 上下文冲突两类场景，用于研究 GUI Agent 的冲突感知终止能力。

    arXiv
    2609.03438
    发表
    层
    应用层
    场景
    网页与电脑操作
    测试
    UI-Venus-1.5-8B、UI-TARS-1.5-7B、OS-Atlas-Base-7B 等 10 个
    摘要ConflictGUI 暴露 GUI 智能体的执行偏向过度服从，ConflictGuard 用条件转向提高冲突终止率。

    ConflictGuard用推理时的可行性核验和条件激活转向，让 GUI 智能体在指令不可行时终止，而不是盲执行。

    深度解读完整解读
已经到底了