评测与基准arXiv 2605.21545
RefusalBench：拒答率为何会误排前沿 LLM 在生物研究提示上的安全水平
提出 RefusalBench，评测生物研究提示上的拒答率与安全校准
- arXiv
- 2605.21545
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 风险拒答失当
全部论文
另有 429 篇论文还没打上分类标签，暂不在筛选结果里。
- 攻击arXiv 2610.09819
FAB 攻击：给 HuBERT/WavLM 植入后门，背景警笛声即可让下游语音任务失灵
提出 FAB 攻击，向声学基础模型植入可由环境声触发的后门
- arXiv
- 2610.09819
- 发表
- 场景
- 模型与 API
摘要论文提出了针对声学基模的 FAB 后门攻击，在弱威胁模型下实现了任务无关、物理可触发的后门植入。
- 评测与基准arXiv 2610.10276
PatchBench 提出激活补丁局部评测协议，揭示越狱修复的附带损伤
提出 PatchBench-Local 协议，评测激活补丁修复越狱的局部附带损伤
- arXiv
- 2610.10276
- 发表
- 层
- 模型层
- 场景
- 模型与 API
摘要论文提出 PatchBench 与局部评估协议，揭示了激活补丁在全局能力无损下仍存局部良性退化。
摘要自写闭环损害真实文本预测。
持久测试时更新若来自模型自己生成的文本，会同时改变模型和后续训练文本。作者在 PG-19 长流上分解这条闭环，并用独立文本决定是否提交更新。
- 防御arXiv 2610.02126
Local Support Learning：无需旧数据缓解 LLM 灾难性遗忘
提出 Local Support Learning，把微调适配器限制在当前数据支撑以缓解遗忘
- arXiv
- 2610.02126
- 发表
- 场景
- 模型与 API
- 防御模型加固
摘要LSL 用 GMM 门把适配器限制在当前数据支撑内，以减轻多阶段遗忘。
LSL 是不访问旧数据、在后训练中保持先前能力的框架。
- 防御arXiv 2610.01170
HeadEdit：通过冻结的 unembedding 矩阵校准语言模型行为
提出 HeadEdit，经冻结 unembedding 做随输入变化的 logit 校正
- arXiv
- 2610.01170
- 发表
- 层
- 模型层
- 场景
- 模型与 API
摘要低秩 unembedding 校正抬高九个设置的总体准确率，并可部分预测 DPO 更新。
HeadEdit 是一种不更新参数的行为校准方法，作用点是冻结的 unembedding，而不是中间层残差或新的梯度优化。
摘要配对的虚构替换显示熟悉度影响推理，但模型很少直接抄回事实答案。
MemoReason 用结构相同的事实–虚构文档配对，测量参数记忆如何影响大模型的上下文推理。
摘要剪枝后的 Speech-LLM 不能只看总体 WER：Fair-Speech 上族群差扩大，作者建议看最差组。
摘要隔离自蒸馏后，对比正确与错误解教师可抵消行为偏移并稳定提升推理。
把自蒸馏从 GRPO 里拆开后，用靠近正确解教师、远离错误解教师的对比信号，把正确性和行为分开。。
- 评测与基准arXiv 2610.01428
SAGO：从稳定性而非准确率出发的多维度大模型泛化评测
提出 SAGO，以语义等价变体上的逐例行为稳定性评测大模型泛化
- arXiv
- 2610.01428
- 发表
- 层
- 模型层
- 场景
- 模型与 API
摘要SAGO 用多轴逐例稳定性替代聚合准确率，十一个模型都未均匀泛化，且排名会随数据集改变。
SAGO 把 LLM 泛化改写成同一目标与上下文在语义等价表达下的逐例行为稳定性，而不是单一基准上的聚合准确率。。
- 风险行为arXiv 2609.35928
论文发现暴露模型身份标签会削弱多智能体 LLM 合作
测量公开模型家族标签引发的多智能体派系化与合作下降
- arXiv
- 2609.35928
- 发表
- 层
- 应用层
- 场景
- 多智能体
- 风险失准与价值偏离
摘要可见身份标签让异构 LLM 群体按标签结派，共识更慢、更贵，去掉标签后该行为消失。
Del Giudice 等人研究异构多智能体 LLM 系统里一个配置细节：把模型家族身份告诉智能体，会不会改变合作。他们把由此出现的、按身份结组的倾向称为 factionalism。任务是无利害的共同决策，没有人设，也没有偏向同家族同伴的奖励。
- 分析与理论arXiv 2609.40295
一个 AI token 值多少？研究者为野生 AI 生成网页文本提出新缩放定律
提出预训练缩放律，估计野生 AI 网页文本相当于多少人类 token
- arXiv
- 2609.40295
- 发表
- 场景
- 模型与 API
摘要wild AI 文本对数据不足的模型先降损失，对高人类预算几乎立刻升损失。
作者测量未标注的 wild AI 网页文本对预训练的影响，并提出一个能让 AI token 价值变号的缩放律。
- 攻击arXiv 2609.27124
Fed-ADR：用恶意编排服务器协同客户端梯度操纵攻击联邦学习
提出 Fed-ADR，用编排服务器协同操纵梯度攻破联邦学习并检测恢复
- arXiv
- 2609.27124
- 发表
- 场景
- 模型与 API
- 攻击者
- 灰盒
摘要Fed-ADR 用 gray-box 编排攻击绕过多种聚合防御，再用 Hessian 一致性检测和窗口内恢复把准确率拉回。
Fed-ADR 是一套面向联邦学习的攻击、检测与恢复框架：编排服务器改写合谋客户端的梯度，使参数服务器的现有防御把投毒更新当成良性，同时在发现后用历史梯度把全局模型原地修回来。
摘要只改隐藏日期就足以改变分数和排名。
这篇工作量化一个评测协议问题：系统提示词里用户看不见、且逐日变化的当前日期，会不会单独改变 LLM 分数。
- 评测与基准arXiv 2609.03511
多语言 LLM 在语义保持结构扰动下的结构敏感性：IndicReStruct 基准与机制可解释性分析
构建 IndicReStruct，评测保语义结构扰动下的多语言数学推理
- arXiv
- 2609.03511
- 发表
- 层
- 模型层
- 场景
- 模型与 API
摘要保语义的重排和语态变化会降低印地语与马拉雅拉姆语数学推理准确率，轻量微调未能补上。
IndicReStruct 用保语义的成分重排和语态变换，检验多语言 LLM 的数学推理是否依赖表层语序。
- 攻击arXiv 2609.01495
去中心化联邦学习中的拜占庭节点放置优化
提出 BPI 选点算法，增强去中心化联邦学习中的模型与数据投毒
- arXiv
- 2609.01495
- 发表
- 场景
- 模型与 API
- 攻击投毒与后门
摘要BPI 用有限轮 gossip 暴露选拜占庭集合。
作者把 DFL 中“破坏哪 m 个节点”写成攻击者在固定预算下的优化问题，并用 BPI 近似有限轮内诚实节点受到的拜占庭暴露。
- 防御arXiv 2609.34857
CREDO：用可微读出替代文本采样校准推理模型置信度
提出 CREDO，用保留 token 对的可微读出校准推理模型置信度
- arXiv
- 2609.34857
- 发表
- 场景
- 模型与 API
- 防御模型加固
摘要CREDO 用可微两 token 读出替代口头置信，在数学和代码上同时拉高准确率与校准。
CREDO 把 RLVR 里的置信从“采样一个数字”改成“读一对保留 token 的相对概率”，并用可微回归和差异加权同时拉准确率与校准。。
- 评测与基准arXiv 2609.25579
研究重新审视后门修复评测：区分总体干净效用与良性性能保持
用 Dmax 与尾部损失评测后门修复的类别性能保持
- arXiv
- 2609.25579
- 发表
- 场景
- 模型与 API
- 分析与理论arXiv 2609.32288
预训练数据投毒的可解理论：依赖极限顺序的缩放指数
证明预训练投毒的清洁超额风险指数随极限顺序变化
- arXiv
- 2609.32288
- 发表
- 场景
- 模型与 API
- 攻击投毒与后门
摘要投毒清洁超额风险的幂指数取决于先固定宽高比还是先取充足数据极限。
可解的预训练数据投毒理论：清洁超额风险的缩放指数随极限顺序改变。。
已经到底了