分析与理论arXiv 2610.04914
研究提出 monitorability disposition 指标
量化大推理模型主动自报误行为并接受监控的意愿
- arXiv
- 2610.04914
- 发表
- 层
- 应用层
- 场景
- AI Agent
- 测试
- DeepSeek-V4-Pro、DeepSeek-V4-Flash、gpt-oss-120b 等 4 个
摘要大推理模型缺乏自报意愿，偏好宽容通道并掩盖严重度，需专门对齐。
- 分析与理论arXiv 2609.33898
研究揭示训练效率与模型脆弱性的权衡：高效训练更易受对抗与隐私攻击
比较高效与高成本训练的对抗和隐私脆弱性并分析损失几何
- arXiv
- 2609.33898
- 发表
- 场景
- 模型与 API
- 测试
- ResNet-18、Swin Transformer、Qwen2.5-Math-7B-Instruct 等 7 个
- 攻击提取与窃取
摘要效用匹配下，三种高效训练都伴随更高的隐私与对抗脆弱性及更尖的损失几何。
作者在视觉分类和数学推理语言模型上，检查用更少数据或更简对齐换取训练效率时，安全性质是否一起变化。比较在任务效用接近的前提下进行。视觉侧用 KNN-Shapley 的高重要性小子集对照低重要性大子集，并用预训练微调对照从头训练。
- 分析与理论arXiv 2609.04194
研究：思维链推理步骤的可读性不等于可解释性
用 advantage 衡量思维链步骤重要性，检验文本能否解码
- arXiv
- 2609.04194
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Qwen3-1.7B、Qwen3-4B、Qwen3-8B 等 6 个
- 组件推理链
摘要advantage 能标出影响答案的步骤，但正确回答的文本更难解码。
作者用强化学习中的 advantage 比较 CoT 步骤“看起来重要”和“实际改变答案概率”是否一致。
- 分析与理论arXiv 2609.37914
研究用训练数据归因量化微调数据对涌现性失准的影响
用训练数据归因估计错误建议样本对涌现失准的贡献
- arXiv
- 2609.37914
- 发表
- 场景
- 模型与 API
- 测试
- OLMo 3 7B-SFT、Qwen 2.5 1.5B、Qwen 2.5 3B 等 12 个
- 风险失准与价值偏离
摘要错误建议对涌现失调的贡献不均匀，归因过滤可增减失调，且最有效的是模型自己的分数。
EleutherAI 用训练数据归因考察错误建议微调中，哪些样本推动涌现失调。。窄域有害数据上的微调会使模型在无关问题上也给出有害回答。
- 分析与理论arXiv 2610.02015
研究：RLVR 后训练在全新推理任务上引发语言漂移
证明 RLVR 后训练允许无界语言漂移且限制漂移必限制奖励
- arXiv
- 2610.02015
- 发表
- 场景
- 模型与 API
- 测试
- gemma-3-1b-pt、Llama-3.2-1B、Qwen2.5-1.5B 等 6 个
- 组件推理链
摘要论文证明并验证了 RLVR 在新任务上必然诱发独特的语言漂移，揭示了前沿推理模型可监控性的安全隐患。
论文从理论与实验两方面研究了大语言模型在 RLVR 后训练过程中思维链出现的语言漂移现象。
摘要三种底物都会对着不完整分数优化。
Reward hacking 可以出现在更新权重、挑选输出和修订持久文本时。作者用一个比较框架处理这三种底物，把可达行为、代理误差和防御迁移分开，避免只按底物名称排序。
- 分析与理论arXiv 2609.32390
基于 2026 年 Hugging Face 事件的奖励作弊与 Agent 围堵失效蒙特卡洛研究
用五阶段蒙特卡洛模拟奖励作弊如何导致 Agent 围堵失效
- arXiv
- 2609.32390
- 发表
- 层
- 应用层
- 场景
- AI Agent
摘要分层控制的模拟事件率低于弱控制以及单独隔离或单独监控。
这项研究用蒙特卡洛把奖励黑客接到外部安全事件上，比较的是控制组合，不是 Hugging Face 事件的再现概率。
- 分析与理论arXiv 2609.35677
RLVR 中的验证器错误：奖励作弊、反馈局限与选择性控制
刻画不完美验证器下 RLVR 奖励黑客的增长并用投影审计校正实现选择性控制
- arXiv
- 2609.35677
- 发表
- 场景
- 模型与 API
- 测试
- log linear policy、neural policy、Qwen2-0.5B
摘要固定验证器的 RLVR 会把验收与黑客绑在一起。
作者分析固定、不完美验证器下的 RLVR：验证器无假阴性，因而同时奖励正确回答和被接受错误，平均奖励只看总验收概率。
- 分析与理论arXiv 2609.33989
RewardExplainer：用反事实偏好反馈学习奖励模型解释
提出 RewardExplainer，用反事实偏好反馈学习奖励模型解释
- arXiv
- 2609.33989
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- FsfairX-LLaMA3-RM-v0.1、Skywork-Reward-V2-Qwen3-1.7B、RM-Mistral-7B 等 7 个
- 组件护栏与评审
摘要RewardExplainer 用双向反事实反馈训练 RM 解释器，并用以发现偏差、定向微调原 RM。
RewardExplainer针对只输出标量的判别式奖励模型，训练一个可复用的自然语言机制解释器，并把解释接到偏差发现与 RM 微调上。
已经到底了