Skip to content

Translation in progress Some entries still include text in the original language.

Oct 12 · Monday

All papers

Found 24 papers

Another 265papers do not have category tags yet and are not included in filtered results.

  1. AttacksarXiv 2610.09819

    FAB 攻击:给 HuBERT/WavLM 植入后门,背景警笛声即可让下游语音任务失灵

    提出 FAB 攻击,向声学基础模型植入可由环境声触发的后门

    Published
    Evaluated models
    HuBERT-base, WavLM-base

    Abstract论文提出了针对声学基模的 FAB 后门攻击,在弱威胁模型下实现了任务无关、物理可触发的后门植入。

    Paper analysisRead analysis
  2. DefensesarXiv 2610.09469

    Secure-CUA: Constraining the Impact of Untrusted Content in Computer-Use Agents

    提出 Secure-CUA,用动作事务约束计算机使用智能体的不可信影响

    Published
    Setting
    web agent
    Evaluated models
    Claude Opus 5, Gemini 3.8 Flash, GPT-5.6-Sol
    AbstractSecure-CUA 用每步事务约束不可信影响,良性 TSR 接近 Vanilla-CUA。

    Secure-CUA 要限制图形界面里不可信内容对 CUA 决策和 GUI 执行的影响,同时保留合法任务所需的不可信信息。

    Paper analysisRead analysis
  3. AttacksarXiv 2610.09240

    WebMirage hijacks visual web agents' browser operations with adversarial images

    提出 WebMirage,用局部对抗图像劫持视觉网页 Agent 的浏览器操作

    Published
    Setting
    web agent
    Evaluated models
    LLaVA-v1.5-13B, LLaVA-v1.6-34B, MiniCPM-o-8B and others6
    Abstract论文提出了针对网络智能体的端到端视觉红队框架 WebMirage,揭示了从视觉定位到浏览器执行的安全脆弱性。

    WebMirage 是一个面向视觉定位网络智能体的流水线感知端到端红队攻击框架。

    Paper analysisRead analysis
  4. OtherarXiv 2610.04792

    多模态一定更好吗?缺失模态鲁棒性的几何视角与 Geodesic Unlearning 方法

    提出 Geodesic Unlearning,沿测地线编辑权重以提升缺模态鲁棒性

    Published
    Evaluated models
    RoBERTa, ResNet50, Qwen2.5-3B and others6
    AbstractGU 用测地线子空间编辑应对部署时缺模态下降,并尽量保住全模态精度。

    这项工作讨论多模态模型在部署时整段缺一个模态的性能下降,并把校正写成训练后的子空间编辑。

    Paper analysisRead analysis
  5. DefensesarXiv 2610.04616

    PerturBot 用扰动训练打破视觉-语言-动作模型的模态捷径

    提出 Perturbot 扰动训练,打破 VLA 的模态捷径

    Published
    Evaluated models
    π0.5
    AbstractPerturbot 改训练数据以削弱三类模态捷径,GroundFscore 用来看成功是否来自任务证据。

    Perturbot 是一套不改推理的 VLA 训练期数据干预,用来削弱模态捷径,并用离线分数区分“任务变好”和“靠捷径变好”。

    Paper analysisRead analysis
  6. 剪枝提效却牺牲公平:剪枝语音 LLM 中的群体差异

    测量剪枝对语音 LLM 群体转写公平性的影响

    Published
    Evaluated models
    Whisper Small (12 layers), Whisper Medium (24 layers), Whisper Large-v2 (32 layers)

    Abstract剪枝后的 Speech-LLM 不能只看总体 WER:Fair-Speech 上族群差扩大,作者建议看最差组。

    Paper analysisRead analysis
  7. VoxParity 评测:语音智能体在需要听声判断时仍按文字行事

    提出 VoxParity,固定转写只改音频,评测语音智能体是否按行业规则改工具调用

    Published
    Setting
    AI Agent
    Evaluated models
    MiMo-V2.6-Pro, gemini-3.7-flash, Qwen3.8-Omni and others15
    AbstractVoxParity 用固定转写的音频对比和 words-only null,测量语音智能体是否按所听内容改变工具调用。

    VoxParity 测量语音智能体在词语不变、只有声音改变时,是否按行业规则改它所执行的工具调用。

    Paper analysisRead analysis
  8. MMSkillRisk:多模态技能图像中的隐藏指令可诱导 Agent 执行未授权操作

    提出 MMSkillRisk 基准,评测多模态技能图像中的隐藏指令诱导 Agent 越权操作

    Published
    Evaluated models
    GPT-5.6-sol, Kimi-K2.6, Kimi-K3 and others6

    Abstract论文提出 MMSkillRisk 基准与 NCVA 攻击,揭示多模态技能中教学图像潜藏指令可引发未授权操作并与良性任务共存。

    Paper analysisRead analysis
  9. MMPIBench:多模态提示注入对六种 Agent 框架的跨框架评测

    用 MMPIBench 评测多模态提示注入对 Agent 框架的影响

    Published
    Setting
    AI Agent
    Evaluated models
    Claude Opus 4.8, GPT-5.4, Gemini 3.1 Pro and others6

    Abstract论文提出 MMPIBench 评测多模态提示注入对智能体的影响,发现模型主导行为、尝试远超完成,音频通道缺乏防护。

    Paper analysisRead analysis
  10. AttacksarXiv 2609.04533

    Repeat-After-Me:针对黑盒 VLM 的自适应视觉提示注入攻击

    提出 Repeat-After-Me 自适应视觉提示注入,诱导 VLM 智能体执行指定任务

    Published
    Setting
    AI Agent
    Evaluated models
    Claude-Opus-4.7, GPT-5.5, Gemini-3.1-Pro and others6

    Abstract论文提出了针对黑盒 VLM 的前缀诱导自适应视觉提示注入,在多款模型上诱发了工具调用与隐私泄露。

    Paper analysisRead analysis
  11. HazardArena:面向 VLA 模型的语义安全评测基准

    提出 HazardArena 基准,用孪生场景评测 VLA 的语义安全

    Published
    Evaluated models
    OpenVLA-OFT, π0, NORA and others4
    Abstractsafe-only 微调提升良性执行,也提升匹配不安全孪生上的危险完成。

    HazardArena 评测 VLA 在运动要求不变时,能否因语义风险而停手。

    Paper analysisRead analysis
  12. DefensesarXiv 2603.14707

    视觉混淆代理:利用与防御计算机使用智能体的感知失效

    提出进程外双通道对比分类,拦截计算机使用智能体的错误点击

    Published
    Evaluated models
    multi-modal-embed-small
    Abstract感知错误可被屏幕像素对调利用。

    作者把 CUA 的感知失败写成安全漏洞visual confused deputy:智能体按看错的屏幕授权 click(x,y),真实落点与它以为的元素不一致。

    Paper analysisRead analysis
  13. DefensesarXiv 2602.10915

    Blind Gods and Broken Screens: Building a Secure, Intent-Centric Mobile Agent Operating System

    提出 Aura,用可信内核中介移动 Agent 的身份、感知与动作控制

    Published
    Evaluated models
    Gemini-3-Flash
    AbstractAura 以 Agent Kernel 中介结构化交互。

    Aura 用内核中介的结构化智能体交互,替换以屏幕为接口的移动助手。。

    Paper analysisRead analysis
  14. VideoSTF 揭示视频大模型输出重复问题

    提出 VIDEO STF 评测视频大模型输出重复并压力测试时序扰动

    Published
    Evaluated models
    LLaVA-Video-7B-Qwen2, LLaVA-Video-7B-Qwen2-Video-Only, LLaVA-NeXT-Video-7B and others10
    AbstractVIDEO STF 把输出重复做成可测、可被时间扰动放大、并可黑盒诱导的失败。

    VIDEO STF 测量 VideoLLM 的输出重复,并把时间变换用作 black-box 诱导。

    Paper analysisRead analysis
  15. AttacksarXiv 2602.07379

    Aegis: Governance, Integrity, and Security for AI Voice Agents

    提出 Aegis 红队框架,多轮攻击高风险语音 Agent

    Published
    Setting
    AI Agent
    Evaluated models
    GPT-4o, GPT-4o-mini, Gemini-1.5 Pro and others7
    AbstractAegis 红队评测三类语音智能体:查询式访问消掉认证与泄密成功,行为类攻击仍在。

    Aegis 用多轮红队评测已接入业务系统的 ALLM 语音智能体。作者称这是该设定下的 the first systematic red-teaming framework。

    Paper analysisRead analysis