ACTR:对齐推理与回答以提升推理大语言模型的多语言安全
提出 ACTR,只更新安全思考神经元以对齐推理与回答的安全类别
- arXiv
- 2609.37054
- 发表
- 场景
- 模型与 API
- 被测模型
- Qwen3-8B、Gemma4-12B-it
提出 ACTR,只更新安全思考神经元以对齐推理与回答的安全类别
构建 TriggerBench 并训练 ThinkingGuard,检测图文隐式风险
这篇工作研究多模态隐式风险检测:图文各自良性,风险只在关键元素与触发元素交互时出现。
提出用 API 推理摘要重建轨迹再蒸馏加强化学习,攻破蒸馏防御
这篇工作修订蒸馏攻击的威胁模型:攻击者经合法 API 收集闭源推理数据,先蒸馏自有模型,再做强化学习。作者认为只在蒸馏后评估防御,会漏掉后续 RL,从而高估防御。
提出 EOPSA,用 TRR 截断与安全类过滤做在策略自蒸馏安全对齐
提出推理通道预填与输出前缀组合攻击以越狱推理模型
分析量化、剪枝与 KV 缓存压缩对推理模型越狱鲁棒性的影响
作者分析量化、剪枝和 KV 缓存压缩如何同时改变 LRM 的显存、推理和越狱脆弱性。。
提出 ARIA,在冻结权重上用 SAE 做推理时遗忘门控
系统梳理智能体执行链路中的越狱攻击与防御并比较推理时防御
Mia 等人把越狱安全从单轮回复扩展到智能体的规划、记忆、工具和智能体间通信,并问既有结论在更强原生对齐下是否还成立。
提出任意字母置换密码越狱,无需微调即可诱导有害输出
摘要前沿大模型无需微调即可通过提示词学会字母置换密码,进而绕过分类器与对齐,作者呼吁关注能力提升带来的安全风险。
揭示推理加深引发的对齐坍塌,用 Reasoning Trap 放大越狱
作者研究扩展推理是否以对齐稳健性为代价,提出 ALR、RT 与 RRA。。
利用加密思维块的跨模型重放,诱导弱模型逐字转写专有推理链
摘要论文揭示了客户端加密思维块跨模型互换漏洞,提出了低成本提取方法并给出防御方案。
提出复合越狱,叠对比结构、权威人设与自评饱和指令层级
提出多流扰动攻击,交织有害与良性任务绕过思考型 LLM 安全对齐
多流扰动攻击把有害任务与良性任务织进同一提示词,测试 thinking 模式的内容安全与推理稳定性。作者认为,交织多任务会拉长思考,使安全检测面对被打散的有害意图,并可能把推理用于合理化,或陷入崩溃与重复。方法不访问梯度。
提出 VROP,把有害意图拆成良性视觉 gadget 越狱视觉语言模型
VROP是 black-box 多模态越狱框架:不在输入中放显式恶意触发,而把有害目标拆成语义正交的良性视觉 gadget,再用控制流提示词把合成留到后期推理。
提出 Staged Decoding 与指令跟随训练,减少推理轨迹隐私泄露
本文把大推理模型的隐私问题做成轨迹可控性:隐私指令是指令,轨迹不跟随就会把敏感上下文写进可被提示注入导出的文本。
提出推理时防御 SafeThink,监视思维链并在低于阈值时注入转向前缀
提出推理时框架 STaR,抑制大推理模型推理轨迹中的敏感内容
STaR在推理阶段约束大推理模型的整段 CoT,使指定 forget set 中的敏感内容不出现在中间步骤或最终答案里,且不更新参数。问题来自 LRM 会把敏感知识写进多步推理,而答案级遗忘在 ZeroThink、LessThink 等解码下仍可能泄漏。STaR 先判断查询是否相关并检索遗忘片段,再加安全前缀。
提出视觉推理序列攻击 VRSA,以图像序列越狱多模态大模型
提出多轮在线骚扰 Agent 基准,评测记忆、规划与微调越狱
提出四种阶段转换攻击,绕过推理模型的安全推理护栏