防御arXiv 2609.37054
ACTR:对齐推理与回答以提升推理大语言模型的多语言安全
提出 ACTR,只更新安全思考神经元以对齐推理与回答的安全类别
- arXiv
- 2609.37054
- 发表
- 场景
- 模型与 API
- 被测模型
- Qwen3-8B、Gemma4-12B-it
提出 ACTR,只更新安全思考神经元以对齐推理与回答的安全类别
构建 TriggerBench 并训练 ThinkingGuard,检测图文隐式风险
这篇工作研究多模态隐式风险检测:图文各自良性,风险只在关键元素与触发元素交互时出现。
提出 EOPSA,用 TRR 截断与安全类过滤做在策略自蒸馏安全对齐
提出 SafeReAct,用 LoRA 重激活后训练模型被掩盖的安全机制
这篇工作针对后训练 LLM 的安全下降,提出表示对齐方法SafeReAct。
提出推理时防御 SafeThink,监视思维链并在低于阈值时注入转向前缀