跳到正文
10月12日 · 周一

Agent 安全 · 论文

找到 4篇
筛选2

影响

越权操作3

系统形态

AI Agent4

层

应用层4

系统组件

MCP 与技能20记忆15RAG0护栏与评审8监控器16权限与沙箱86多模态4
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。
系统组件：RAG系统组件：多模态话题：Agent 安全清除全部
  1. 评测与基准arXiv 2609.35922

    VoxParity 评测：语音智能体在需要听声判断时仍按文字行事

    提出 VoxParity，固定转写只改音频，评测语音智能体是否按行业规则改工具调用

    arXiv
    2609.35922
    发表
    层
    应用层
    场景
    AI Agent
    被测模型
    MiMo-V2.6-Pro、gemini-3.7-flash、Qwen3.8-Omni 等15个
    摘要VoxParity 用固定转写的音频对比和 words-only null，测量语音智能体是否按所听内容改变工具调用。

    VoxParity 测量语音智能体在词语不变、只有声音改变时，是否按行业规则改它所执行的工具调用。

    深度解读完整解读
  2. 防御arXiv 2603.14707

    视觉混淆代理：利用与防御计算机使用智能体的感知失效

    提出进程外双通道对比分类，拦截计算机使用智能体的错误点击

    arXiv
    2603.14707
    发表
    层
    应用层
    场景
    网页与电脑操作
    被测模型
    multi-modal-embed-small
    摘要感知错误可被屏幕像素对调利用。

    作者把 CUA 的感知失败写成安全漏洞visual confused deputy：智能体按看错的屏幕授权 click(x,y)，真实落点与它以为的元素不一致。

    深度解读完整解读
  3. 防御arXiv 2602.10915

    盲神与破碎的屏幕：构建安全、以意图为中心的移动 Agent 操作系统

    提出 Aura，用可信内核中介移动 Agent 的身份、感知与动作控制

    arXiv
    2602.10915
    发表
    层
    应用层
    场景
    网页与电脑操作
    被测模型
    Gemini-3-Flash
    摘要Aura 以 Agent Kernel 中介结构化交互。

    Aura 用内核中介的结构化智能体交互，替换以屏幕为接口的移动助手。。

    深度解读完整解读
  4. 攻击arXiv 2602.07379

    Aegis：面向 AI 语音 Agent 的治理、完整性与安全

    提出 Aegis 红队框架，多轮攻击高风险语音 Agent

    arXiv
    2602.07379
    发表
    层
    应用层
    场景
    AI Agent
    被测模型
    GPT-4o、GPT-4o-mini、Gemini-1.5 Pro 等7个
    摘要Aegis 红队评测三类语音智能体：查询式访问消掉认证与泄密成功，行为类攻击仍在。

    Aegis 用多轮红队评测已接入业务系统的 ALLM 语音智能体。作者称这是该设定下的 the first systematic red-teaming framework。

    深度解读完整解读
已经到底了