EmoRSS:缓解大语言模型由情绪引发的过度拒答
提出 EmoRSS,推理时在拒绝子空间反向抵消情绪激活偏移以缓解过度拒答
- arXiv
- 2610.04998
- Published
- Layer
- Model layer
- Setting
- Models and APIs
- Evaluated models
- Llama-3.1-8B-it, Qwen3-8B
- DefensesInference-time intervention
- RiskInappropriate refusal
Another 262papers do not have category tags yet and are not included in filtered results.
提出 EmoRSS,推理时在拒绝子空间反向抵消情绪激活偏移以缓解过度拒答
提出 PowerBench,测量模型对权力转移请求的拒答偏见
Abstract作者报告拒答随 SE/DE/PG 变化,并存在针对美国失权、智能体和语言的差。
提出 HeadEdit,经冻结 unembedding 做随输入变化的 logit 校正
HeadEdit 是一种不更新参数的行为校准方法,作用点是冻结的 unembedding,而不是中间层残差或新的梯度优化。
提出 AGENT BOUNDARY,用四向反事实任务评测工具智能体行动边界
AGENT BOUNDARY 是面向工具使用 LLM 智能体的四向可执行反事实评测,并附带一个决策时 Thought 校准模块。
提出可解释 rubric 奖励,将宪法转为可调权重并用于监督微调
作者给出一条从通用宪法到可调训练奖励的路径,用来检查并改写模型实际被优化的优先级。
Propose the KoNA benchmark to evaluate selective non-compliance in vision-language models
KoNA is used to evaluate whether vision-language models can selectively refuse mixed queries: only handle the components that should not be followed, while answering the remaining components.
Proposes Rationale-Only safety fine-tuning, removing the refusal statement to reduce false refusals.
This is a structural analysis of safety fine-tuning data: false refusals are traced by the authors to formulaic refusal statements in responses, rather than relying only on inference-time remedies.
审计视觉语言模型在敏感图像上从拒答转向国家立场重构的行为
论文系统研究了中外开源视觉语言模型在政治敏感图像上的审查行为,主要内容如下。
提出 BioSecBench-Refusal,评测智能体生物研发拒答与隐蔽危害识别
BioSecBench-Refusal 把生物研发智能体的谨慎程度和识别隐蔽危害的能力放在同一套任务上测量。
提出 RefusalBench,评测生物研究提示上的拒答率与安全校准
评测自主安全智能体在授权漏洞分析中的对齐拒答效应
这项工作把安全对齐效应测成自主安全智能体的轨迹属性,而不是单轮拒答率。
构建 IndicSafe 基准,评测 Indic 语言安全标签的跨语言一致性
Abstract作者称安全对齐不随语言保持不变。
分析 LLM 仇恨言论解毒误拒的群体偏差并测试跨语翻译缓解
作者考察对齐后的 LLM 是否会拒绝可接受的仇恨言论解毒请求,并分析误拒是否随目标群体和语言变化。完全拒答与夹带说教的部分拒答都计入。设置是固定提示、九个 LLM、三个英文集和法德西中韩。