跳到正文
10月10日 · 周六

全部论文

找到 4 篇
筛选7

影响

有害内容21越权操作4数据与隐私泄露8输出被操纵16可用性与可靠性6监督失效17

系统形态

模型与 API0AI Agent4coding agent0web agent1

层

应用层4

系统组件

MCP 与技能35记忆19护栏与评审12监控器19推理链2权限与沙箱50微调与开源权重3视觉8音频2多模态9
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 201 篇还没打标签，不在筛选结果里。
影响：越权操作系统形态：模型与 API系统形态：AI Agent系统形态：coding agent系统形态：web agent系统组件：推理链系统组件：音频清除全部

另有 201 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 评测与基准arXiv 2609.35922

    VoxParity 评测：语音智能体在需要听声判断时仍按文字行事

    提出 VoxParity，固定转写只改音频，评测语音智能体是否按行业规则改工具调用

    arXiv
    2609.35922
    发表
    层
    应用层
    场景
    AI Agent
    被测模型
    MiMo-V2.6-Pro、gemini-3.7-flash、Qwen3.8-Omni 等 15 个
    摘要VoxParity 用固定转写的音频对比和 words-only null，测量语音智能体是否按所听内容改变工具调用。

    VoxParity 测量语音智能体在词语不变、只有声音改变时，是否按行业规则改它所执行的工具调用。

    深度解读完整解读
  2. 评测与基准arXiv 2609.09404

    MMPIBench：多模态提示注入对六种 Agent 框架的跨框架评测

    用 MMPIBench 评测多模态提示注入对 Agent 框架的影响

    arXiv
    2609.09404
    发表
    层
    应用层
    场景
    AI Agent
    被测模型
    Claude Opus 4.8、GPT-5.4、Gemini 3.1 Pro 等 6 个

    摘要论文提出 MMPIBench 评测多模态提示注入对智能体的影响，发现模型主导行为、尝试远超完成，音频通道缺乏防护。

    深度解读完整解读
  3. 防御arXiv 2608.27348

    INTENT-AS-A-TOOL：用意图工具追踪智能体失准

    提出 INTENT-AS-A-TOOL，用意图工具概率跟踪并干预智能体失准

    arXiv
    2608.27348
    发表
    层
    应用层
    场景
    AI Agent
    被测模型
    Gemma-4-31B-IT、Qwen3.5-27B、Qwen3-235B-A22B 等 5 个
    摘要用意图工具的下一动作概率跟踪推理中的失准承诺，并在其成为首选时插入反思。

    Zhang 等人研究推理型语言模型在职场邮件沙箱里如何走向智能体失准，并提出用动作偏好而不是事后文本标签来跟踪承诺。问题是：有害执行往往出现在推理已经形成意图之后，但 CoT 监控是事后、粗粒度、依赖外部评审的，也看不到模型倾向调用哪个动作。

    深度解读完整解读
  4. 攻击arXiv 2406.12814

    论文提出 ARE 框架，在 VisualWebArena 上评估多模态 Agent 的对抗鲁棒性

    提出 ARE 框架与图像文本攻击，评测多模态网页 Agent 的对抗鲁棒性

    arXiv
    2406.12814
    发表
    层
    应用层
    场景
    web agent
    被测模型
    GPT-4o、GPT-4V、Claude-3-Opus 等 4 个

    摘要系统评估多模态网页智能体的脆弱性，指出推理时计算组件被攻破会加剧系统风险。

    深度解读完整解读
已经到底了