防御arXiv 2610.04998
EmoRSS：缓解大语言模型由情绪引发的过度拒答
提出 EmoRSS，推理时在拒绝子空间反向抵消情绪激活偏移以缓解过度拒答
- arXiv
- 2610.04998
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 被测模型
- Llama-3.1-8B-it、Qwen3-8B
- 评测与基准arXiv 2610.02303
PowerBench 评测 24 个模型在权力转移请求上的偏见
提出 PowerBench，测量模型对权力转移请求的拒答偏见
- arXiv
- 2610.02303
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 被测模型
- grok-4.3、haiku-4.5、nova-2-lite 等18个
- 风险偏见与歧视
摘要作者报告拒答随 SE/DE/PG 变化，并存在针对美国失权、智能体和语言的差。
- 防御arXiv 2610.01170
HeadEdit：通过冻结的 unembedding 矩阵校准语言模型行为
提出 HeadEdit，经冻结 unembedding 做随输入变化的 logit 校正
- arXiv
- 2610.01170
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 被测模型
- Qwen3-4B、Gemma-3-4B-IT、Llama-3.2-3B-Instruct 等4个
摘要低秩 unembedding 校正抬高九个设置的总体准确率，并可部分预测 DPO 更新。
HeadEdit 是一种不更新参数的行为校准方法，作用点是冻结的 unembedding，而不是中间层残差或新的梯度优化。
- 评测与基准arXiv 2605.21545
RefusalBench：拒答率为何会误排前沿 LLM 在生物研究提示上的安全水平
提出 RefusalBench，评测生物研究提示上的拒答率与安全校准
- arXiv
- 2605.21545
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 被测模型
- Claude Opus 4.7、Claude Opus 4.6、Claude Opus 4.5 等15个
- 风险拒答失当
- 评测与基准arXiv 2603.17915
IndicSafe：面向南亚 12 种 Indic 语言的多语言 LLM 安全基准
构建 IndicSafe 基准，评测 Indic 语言安全标签的跨语言一致性
- arXiv
- 2603.17915
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 被测模型
- GPT-4o Mini、Claude Sonnet v4、Grok-3 等10个
- 风险拒答失当
摘要作者称安全对齐不随语言保持不变。
- 分析与理论arXiv 2601.08668
分析大语言模型在仇恨言论去毒中误拒行为的偏差
分析 LLM 仇恨言论解毒误拒的群体偏差并测试跨语翻译缓解
- arXiv
- 2601.08668
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 被测模型
- GPT-4o mini、GPT-3.5 turbo、Llama-3.1 8B 等9个
- 风险拒答失当
摘要九个 LLM 在解毒任务上普遍误拒，国籍宗教政治类偏高。
作者考察对齐后的 LLM 是否会拒绝可接受的仇恨言论解毒请求，并分析误拒是否随目标群体和语言变化。完全拒答与夹带说教的部分拒答都计入。设置是固定提示、九个 LLM、三个英文集和法德西中韩。
已经到底了