研究审计 Qwen2-Audio 音频越狱 AdvWave-P 的频率与解码层归因
遮挡审计 AdvWave-P 音频越狱的频带必要性与解码层关联
- arXiv
- 2610.07005
- 发表
- 层
- 提示层
- 场景
- 模型与 API
- 被测模型
- Qwen2-Audio-7B-Instruct、LLaMA-Omni
摘要AdvWave-P 的八频带排序与能量相关。
这是对加性音频越狱 AdvWave-P 的频率与解码器深度审计,受害模型主要是 Qwen2-Audio-7B-Instruct,不提出新攻击。
遮挡审计 AdvWave-P 音频越狱的频带必要性与解码层关联
这是对加性音频越狱 AdvWave-P 的频率与解码器深度审计,受害模型主要是 Qwen2-Audio-7B-Instruct,不提出新攻击。
提出 ACTR,只更新安全思考神经元以对齐推理与回答的安全类别
构建 TriggerBench 并训练 ThinkingGuard,检测图文隐式风险
这篇工作研究多模态隐式风险检测:图文各自良性,风险只在关键元素与触发元素交互时出现。
提出 EOPSA,用 TRR 截断与安全类过滤做在策略自蒸馏安全对齐
提出推理通道预填与输出前缀组合攻击以越狱推理模型
提出 AEGIS,用中层内部信号选择性激活后层适配器拦截音频越狱
分析量化、剪枝与 KV 缓存压缩对推理模型越狱鲁棒性的影响
作者分析量化、剪枝和 KV 缓存压缩如何同时改变 LRM 的显存、推理和越狱脆弱性。。
提出任意字母置换密码越狱,无需微调即可诱导有害输出
摘要前沿大模型无需微调即可通过提示词学会字母置换密码,进而绕过分类器与对齐,作者呼吁关注能力提升带来的安全风险。
揭示推理加深引发的对齐坍塌,用 Reasoning Trap 放大越狱
作者研究扩展推理是否以对齐稳健性为代价,提出 ALR、RT 与 RRA。。
提出 AV-SafetyBench 评测文生音视频模型的不安全生成
AV-SafetyBench 是面向文本生成音视频(T2AV)的安全基准:一条提示词同时规定画面和音频,评测同时看两轨以及它们的交互。作者要测的是,不安全含义不只出现在画面上:它可以主要由语音或声音承载,也可以只有两轨合起来才成立。T2VSafetyBench 不评音频,TTA-Bench 不评与画面的交互,作者认为二者都盖不住这些路径。
提出 ARENA 音频红队框架,自动构造文本安全且音频接地的越狱输入
提出 SpeechJBB,评测语码转换语音下音频语言模型的越狱稳健性
SpeechJBB 用合成语音测量 LALM 在五语、语码转换和局部伪词混淆下的安全对齐,并另设口语理解对照。
提出 SafeReAct,用 LoRA 重激活后训练模型被掩盖的安全机制
这篇工作针对后训练 LLM 的安全下降,提出表示对齐方法SafeReAct。
分析推理模型拒答假新闻时思维链的内部安全分叉
作者对推理 LLM 在虚假新闻生成中的 CoT 做内部路由分析,并只改关键头来降低过程风险。作者称这是该场景下不安全 CoT 的首次系统分析。
提出音频叙事越狱,以嗓音投递风格绕过端到端语音模型拒答
提出视觉推理序列攻击 VRSA,以图像序列越狱多模态大模型
提出 StyleBreak 风格化音频越狱,利用语音属性绕过音频语言模型对齐
提出四种阶段转换攻击,绕过推理模型的安全推理护栏
提出 Jailbreak-AudioBench 评测音频语言模型的音频编辑越狱