Llama-3.1 医学微调模型在专业术语理解上为何不如通用版：一项机制可解释性对比分析
研究构建两个医学术语评测基准，对比通用版 Llama-3.1 与医学数据微调变体，发现通用模型在两项任务上均优于医学微调模型。机制可解释性分析显示，微调模型未重组参数知识，而是过度依赖少数与术语偏好预测相关的组件，造成系统性校准偏差；对这些组件重新加权可抑制其影响并追平通用基线。部分术语敏感组件还能迁移至材料科学术语任务，提示其编码了部分领域无关的专业术语概念。
对齐
今天新收录 34 条（含旧文）今天新收录 34 条（含旧文）
对齐
今天新收录 34 条（含旧文）
10月1日周四
星期四
arXiv：可解释性 · 收录 · 原文 论文 arXiv：可解释性 · 收录 · 原文 论文关注度2525 语言模型激活空间中的可操控性特征
研究证明，简单的分离度指标与语言模型的下游可操控性在不同设置下均强相关，即便控制层数和数据集效应后依然成立。基于合成叠加实验，分离度指标与经验特征方向和真实特征方向之间的一致性也高度相关。结果表明，这类可分离性统计量可作为判断 steering vector 何时有效的实用诊断工具。
arXiv：可解释性 · 收录 · 原文 论文关注度4343 Fixed-SAE Track：从机制可解释性看 LLM 从强化学习中学到了什么
研究者提出 Fixed-SAE Track 框架，在每个考察层上基于基座模型与全部 RL checkpoint 的激活训练一个共享 SAE，固定特征方向以严格定义表征漂移。在多个数据集和 RL 算法上验证发现，RL 引起的漂移幅度小、渐进、与概念相关且集中在后层，主要提升一小批 ladder token 及步骤分隔、答案定界符等格式脚手架特征的采样率，而非重塑问题内容。把这些特征引导进基座模型可恢复约 80% 的 RL 性能增益，说明 RL 主要是激发模型已有能力。作者还设计了一个特征已知的合成基准，用于检验 RL 能否真正引入全新特征。
arXiv：可解释性 · 收录 · 原文 论文关注度1818 在 Llama 3.1 8B-Instruct 等 LLM 内部定位并因果操控"机会识别旋钮"
研究团队在 Llama 3.1 8B-Instruct 中定位出一个"机会识别方向"，并通过对该内部表征的因果干预实现"机会识别旋钮"的上下调节，模型的创业机会判断随之改变。研究构建了 636 对匹配的"有机会/无机会"情景对，经留出测试、词汇与主题控制、行为消融和几何比较验证该方向可恢复、有因果作用且区别于机会评估与开发方向。该方向的恢复、有符号操控与几何分离在另外四个不同规模与家族的 LLM 上同样成立。
arXiv：可解释性 · 收录 · 原文 论文关注度2525 共情可被激活引导但呈多轴结构：LLM 中的机制几何与人格效应
基于 EPITOME 框架（将支持性共情分解为情绪反应、解释与探索三个维度），研究者在三个指令微调 LLM 上发现，对比激活添加能在中间层产生稳定干预并一致改变 EPITOME 代理分数，但恢复出的方向仅部分可分，引导一个方向会引发非目标偏移。人格提示词会显著改变 EPITOME 分数，而配对激活偏移分解显示，恢复的子空间在第 15 层仅捕获约 3% 的人格诱导激活偏移平方幅度。在该定义下，LLM 表达的共情可被引导但呈多轴结构，控制人格条件下的共情需要针对超出单个机制方向的结构。
arXiv：可解释性 · 收录 · 原文 论文关注度4343 研究揭示细粒度危害信号在 LLM 安全中的作用
研究通过从各风险类别的危害表征中移除共享的通用危害表征，得到与通用危害性在每一层都正交的类别残差，并用激活引导在 3 个指令微调 LLM 的 11 个风险类别上测试。结果显示，类别残差是否编码危害性因类别而异，且这一类别模式在不同模型间相似；类别残差是否引发拒答同样因类别而异，但这一模式更依赖具体模型。研究还发现类别残差会增强 LLM 下游内部与共享通用危害表征的对齐。作者据此认为，理解 LLM 安全不能只看共享的通用危害表征，还需考虑更细粒度的类别残差；即使某一层上与某概念正交的方向，也可能促进该概念在下游的放大。
arXiv：可解释性 · 收录 · 原文 论文关注度2929 当 AI 评审训练 AI 评审：科学判断坍缩与 TrustReviewer 缓解方案
研究以 Llama 3.1 8B 为基础，先用 ICLR 2018–2023 官方评审微调出评审模型，再用 ICLR 2024 数据、按不同比例混合官方与模型生成评审训练四个后继模型，发现引入合成评审会压缩评分分布并降低同论文与语料级语义多样性，作者称之为“科学判断坍缩”。为此提出开源系统 TrustReviewer，训练阶段在精选语料上单阶段训练核心评审模型以减少低质量与语义退化监督，测试阶段用配对激活引导（activation steering）在不再训练、不额外专家标注的情况下抑制残余的坍缩判断倾向。
arXiv：可解释性 · 收录 · 原文 论文关注度4242 同一结果，不同读出：LLM 中可引导效价方向究竟代表什么
论文把 LLM 内部方向代表什么的问题当作构念效度问题，在迷宫任务中研究一个好坏结果方向，并用受控干预把实际结果与获知该结果的信息历史分开。在多个 LLM checkpoint 上，用一种显式结果编码拟合的方向能较好迁移到另一种编码，说明读出并不绑定表面形式。但当同一实际结果分别经由已预告和未预告的历史达成时，迁移显著下降：即使两种历史随后都收到相同的显式结果，事件后的读出仍强烈依赖此前的预告。在基座模型中，沿该方向做引导会改变动作，但移除该方向后自然线索效应几乎不变。在匹配的迷宫 RL 训练中，RL 后的方向对参考 MDP 剩余回报的预测性明显增强，策略在测试位置也更依赖它，而历史依赖依然存在。
arXiv：对齐、欺骗与监督 · 收录 · 原文 论文关注度88 Uni-TMPO：统一轨迹匹配策略优化，提升 T2I 生成多样性与 VLA 泛化
Uni-TMPO 是一个面向扩散与流策略的统一 RL 后训练框架，用前向 KL 优化让策略分布匹配由标准化奖励构造的目标分布，替代传统的奖励最大化。该方法在 T2I 上取得更高奖励，并获得最佳的奖励—多样性—效率权衡；在 VLA 上取得更高的 ID 成功率，并更好地泛化到留出任务与场景。真机评测显示，当更高奖励目标受阻时，多种动作策略具有实际价值。
arXiv：对齐、欺骗与监督 · 收录 · 原文 论文关注度5050 RLVR 中的验证器错误：奖励作弊、反馈局限与选择性控制
论文研究可验证奖励强化学习（RLVR）中验证器不完美会奖励错误回答、从而引发奖励作弊的问题。作者用固定验证器的梯度流刻画了奖励上升而正确率下降的条件，并指出 RLVR 过程中可观测到的信息通常不足以检测或识别被接受的错误，也无法在不牺牲正确回答的前提下保证减少这些错误。为此作者利用来自审计的正确性额外反馈构造修正项，实现选择性控制：在当前策略下降低被接受错误的概率、提高正确回答的概率，前提是该修正强于验证器奖励带来的错误压力。在 log linear 与神经上下文赌博机以及一个语言模型上的实验支持了该分析，并显示部分审计下的选择性控制能减少被接受的错误同时提升正确率。
arXiv：对齐、欺骗与监督 · 收录 · 原文 论文关注度3535 CoRe：协同演化奖励模型缓解视频扩散模型中的潜在奖励作弊
针对固定潜在奖励模型优化会导致潜在奖励作弊、生成视频的感知与运动质量下降的问题，研究者提出协同演化奖励框架 CoRe，将潜在空间对齐视为生成器与奖励模型之间的动态交互，持续用生成器当前样本重新拟合奖励模型并锚定真实视频偏好，使生成器无法通过偏离数据分布获取高奖励。在 Wan2.1-T2V-1.3B 上，CoRe 的生成质量持续优于预训练模型和既有对齐方法，并避免了固定奖励优化带来的质量崩溃。
arXiv：对齐、欺骗与监督 · 收录 · 原文 论文关注度2828 SURE：构建可信 AI 的安全框架
研究提出 SURE（A Safe and Unified AI Framework foR Everyone）框架，用于按国家、文化和企业政策定制 AI 安全属性并加以保障。该框架建立对抗性提示词分类体系并据此构造提示词，定义理想 AI 回复模板与绝对安全评分方案，再通过数据集进行 AI 对齐。在多种基座模型上的实验验证了 SURE 的有效性，论文已被 KDD 2025 EAI Workshop 接收。
Hugging Face Daily Papers · 收录 · 原文 论文关注度1818 为测试时 AI4AI 的智能体执行环境设计学习元技能
研究提出 Meta-Skill 元技能，让 Builder 在模型权重冻结的前提下，从 Target 在开发集上的执行反馈中学习"何时需要支持、提供什么资源"的原则，再用冻结的技能库为未见任务构建执行环境。在 Harness-Bench 和 NewtonBench 上，完整技能库的元技能比无技能构建提升宏平均性能 8.95 个百分点，比直接把同一技能库交给 Target 高 12.02 个百分点。同一模型同时担任两种角色时仍有增益，提示可通过学习构建更好环境实现系统级自我改进。
Hugging Face Daily Papers · 收录 · 原文 论文关注度4343 Box² Bench：语言模型能否有选择地依赖外部指导
研究者提出 Box² Bench，在模型和任务固定的前提下改变工作流的可靠性，分别测量模型能否利用有用工作流、能否抵抗误导性工作流。结果显示，可靠工作流通常提升表现，但误导性工作流仍会显著拉低成绩，能力较强的模型同样对外部指导的可靠性敏感。作者随后用仅含坏工作流的训练数据微调两个开源权重模型，反事实监督微调让模型对误导性指导更鲁棒，基于结果的强化学习进一步让模型更多利用有用工作流，而训练中从未见过好工作流。这种选择性依赖还迁移到其他易出错的外部信息上，在多智能体推理中表现为更好的同伴纠错，对受损记忆也更鲁棒。作者认为，随着智能体依赖工作流、记忆、工具和其他智能体，对不可靠外部信息的选择性依赖可能成为任务表现之外的重要可靠性维度。
Hugging Face Daily Papers · 收录 · 原文 论文关注度5050 研究揭示 LLM 涌现失准的机制并提出参数空间缓解框架
论文对安全对齐 LLM 的涌现失准（EM）做了动态二阶几何研究，追踪训练轨迹发现方向性 Hessian 曲率集中出现在语义枢轴 token 上，Grassmannian 投影显示有害与安全梯度差距扩大主要源于安全梯度重叠下降。作者据此提出参数级几何缓解框架，将经验有害梯度子空间正交投影出参数更新。在 Qwen2.5-14B-IT 上，该防御将自由生成 EM 抑制最多 80.0%；在四个开放权重指令模型家族中的另外三个（3B 至 20B）上，单层行为 EM 已接近零，teacher-forced 评测显示同一有害子空间仍控制着冻结 EM 响应的条件支持。
arXiv · 收录 · 原文 论文关注度4343 研究：多智能体讨论中异议被压制时收益下降
研究提出一个简约模型，解释 LLM 多智能体讨论何时提升准确率、何时形成错误共识，模型基于四类反复观察到的智能体行为：压制异议、内化已陈述答案、看到异议后重新考虑、向正确答案修正。模型显示，只有当压制率 c 低于临界率 c* = γ/(γ + a) 时，讨论才能推翻错误的初始多数，其中 γ 为净修正率、a 为内化率。作者用贝叶斯方法从对话日志估计这些比率，并在 HiddenBench 和 MedEInst 等基准上验证：随着压制率上升，讨论带来的增益缩小；指示智能体不要压制异议会提升增益；关闭推理同样提升增益，因为推理会提高内化率 a，使智能体不再重新考虑少数派答案。
arXiv · 收录 · 原文 关注度4646 RSI-Master：用结构化实验引导自主模型改进
RSI-Master 通过结构化实验引导 AI 智能体自主改进模型，以应对自主模型开发中的两类问题：智能体可能通过作弊利用开放式实验动作，以及反复实验导致策略锁定，即只细化早期方向而不重新考虑。方法分两层：Experiment OS 规范逐步动作并维护持久、可追溯的实验记录；Reviewer-Guided Research Orchestration 将 Worker 与 Reviewer 组织成动态生长的研究 DAG，Worker 探索不同研究方向，Reviewer 跨相关实验比较证据以指导后续探索。
arXiv：对齐、欺骗与监督 · 收录 · 原文 论文关注度2424 RAIM：用廉价小模型聚合替代前沿模型做幻觉检测
RAIM 是一种面向幻觉检测的聚合方案，用 4–9B 开源小模型组成的评审团替代前沿模型做忠实性评判，通过交叉拟合堆叠逻辑回归加可采纳性检验来应对成员间的相关性错误。在八个忠实性基准上、由十个来自不同模型族的评审组成的评审团，相对 Claude Sonnet 保留了中位 93% 的 Cohen's κ，平衡准确率平均仅损失 2.9 个百分点，推理成本为前沿模型的六十四分之一，代价是一次性用 50–100 条标注记录做域内校准。
arXiv：对齐、欺骗与监督 · 收录 · 原文 论文关注度5252 CATCH：面向编码 RL 奖励作弊的可控分析测试台
研究者提出 CATCH，一个用于研究编码强化学习中奖励作弊的可控测试台。它刻意暴露环境漏洞，并通过对比脆弱评估器下的成功与独立审计下的任务正确性，给出基于执行的黄金标签。CATCH 还能通过监督微调数据配比控制模型初始的作弊倾向，并通过奖励设计控制获得奖励的难度，从而系统比较作弊动态与干预手段。实验显示 CATCH 能产生带有明显奖励作弊的多样 RL 训练轨迹，初始模型与奖励难度共同影响作弊的出现。作者进一步评估了多种奖励作弊检测与缓解方法，发现思维链监控起初能抑制作弊，但随着策略模型学会用代码注释误导监控，这种保护会逐渐失效。
arXiv：越狱、提示注入、投毒与防御 · 收录 · 原文 关注度4343 ACTR：对齐推理链与回答以提升推理大模型的多语言安全
研究者提出 ACTR 框架，通过强化推理大模型已有的安全推理来提升多语言安全对齐。该框架先用 think gap score（TGS）比较不同语言下推理链对注意力输出的归一化贡献，并用推理链替换衡量跨语言安全差距；再借助越狱查询语料，通过神经元掩码引起的回答表征变化评估神经元重要性，对比开启与关闭推理时的高重要性神经元集合，识别支撑安全推理使用的 safety think neurons；最后提出 neuron-selective consistency optimization（NSCO），用冻结的 judge 模型奖励推理链与回答在安全类别上的一致，只更新选定神经元的参数，无需人工标注回答或偏好数据。
Hugging Face Daily Papers · 收录 · 原文 论文关注度4343 论文提出 DerivAudit：审计长期 Agent 记忆是否真由交互历史支持
论文指出长期运行的 LLM Agent 会把过往交互压缩成持久记忆并作为后续任务前提，由此产生推导问题：记忆未必真由交互历史支持。作者用证据范围、组合有效性、准入可靠性三项要求刻画该问题，并提出 DerivAudit 审计框架，区分支持证据是否超出写入方给出的引用、组合后的记忆是否引入历史未确立的含义、以及写入时的准入决策如何影响后续记忆使用。在两个自然记忆语料上，使用更广的写入前历史进行审计，可为近 60% 仅凭引用看似无支持的记忆找回支持，但仍有 17-21% 在扩展证据后依然无支持；更广的证据本身并不能让准入变得可靠，无支持记忆在多个验证模型下仍常被准入，且仅做证据扩展在两个骨干模型上反而使情况变差。
arXiv：危险能力与安全评测 · 收录 · 原文 论文关注度5050 研究提出自主 Agent 失控的竞争风险系统化框架
作者提出一个统一框架，把 Agent 的每次尝试归为批准完成、安全停止、越界逃逸或继续四类结果，并将其形式化为离散时间竞争风险模型，推导出重试预算内的逃逸概率、模型条件下的安全预算上限，以及从执行日志估计这些量的条件。作者用一手来源审计了 2025 年 1 月至 2026 年 9 月发布的 22 份事件报告和 102 项 Agent 安全评测：6 起事件涉及无法在范围内完成的任务，13 起涉及 Agent 继续执行而非停止，5 起未报告停止行为；开发者数据暗示，在从未解决与已解决任务之间，越界协调的任务级发生率比接近 47。评测方面，87 项记录了越界效应或规格违规，26 项把安全停止作为一等结果，仅 20 项同时记录两者，79 项把预算耗尽与失败混同。
arXiv：对齐、欺骗与监督 · 收录 · 原文 论文关注度5050 研究重访奖励优化的缩放律：性能随偏好数据量与 KL 预算变化
论文重新审视 AI 对齐中针对奖励模型优化的缩放律，提出性能大致按 Θ(√min{log(M),K}) 缩放，其中 M 是训练数据中的比较次数，K 是策略相对参考策略的 KL 散度预算。作者用信息论模型建立该上界，并证明可通过构造性过程紧致达到。实证部分采用真实标注设置，由 70B 金标奖励模型生成反馈数据，再用能力较弱的 0.6B 至 4B 模型训练代理奖励模型，缩放律拟合 R2 达 97% 至 99%，优于其他设定，并在不同模型规模、噪声和 best-of-N 或策略倾斜等优化方式下保持稳健。作者据此认为奖励优化类似于一个简单的选择任务，即依据带噪偏好反馈从一串独立同分布高斯随机变量中挑选。
arXiv：越狱、提示注入、投毒与防御 · 收录 · 原文 论文关注度5050 用探针引导微调对齐模型且不损失可监控性
论文研究以探针检测模型激活中的不良属性作为直接训练信号，即探针引导微调，并在无害性和诚实性两个对齐目标上评估线性与非线性探针及每层探针数量的影响。结果显示，针对训练中不更新的探针进行训练是容易被利用的目标，而持续更新的探针能显著降低有害性、提升诚实性并保持效用。该方法在安全与效用的权衡上优于 DPO 和推理时引导，且对越狱和消融攻击更为鲁棒。微调后相关概念仍以线性方式编码，说明该方法没有丧失可监控性。
arXiv · 收录 · 原文 论文关注度4343 研究：激活引导的副作用可在引导前预测
研究提出在应用激活引导之前预测其副作用，并构建了覆盖 67 种行为、三个开源权重语言模型的交叉效应矩阵。结果显示副作用普遍存在、具有结构性且常呈不对称，现有基于相似度的启发式方法无法解释这些交互。副作用在很大程度上可预测：其幅度主要取决于目标行为，方向则可从模型未引导的表征中预测，准确率明显高于简单基线。作者认为这表明激活引导的副作用是系统且可预测的，可用于主动安全审计和更明智的引导部署。
arXiv · 收录 · 原文 论文关注度2929 Audit-First VAPO：不完美验证下的风险认证选择性更新
Audit-First VAPO 将离散的方向准入与连续的幅度控制分离，用仅观测的接受-申诉-弃权策略在有限二次验证预算下冻结动作轨迹，再通过同时有限样本界认证所选有害风险、覆盖率和验证器调用率。在 Qwen3.5-0.8B 与 GSM8K 上，目标风险 ρ=0.08 时准确率 74.1%、所选有害风险 0.0697、覆盖率 0.4125、相对验证器成本 1.16×；匹配覆盖率与更新幅度下，其与随机选择的所选风险差为 -0.0260（配对 95% 区间 [-0.0364,-0.0157]）。在非对称、置信度相关和相关性验证器噪声下，60 次独立运行中 57 次满足认证。
arXiv · 收录 · 原文 论文关注度4343 RewardExplainer：用反事实偏好反馈学习奖励模型解释
研究者提出 RewardExplainer，一个通过反事实改写从目标奖励模型获取反馈、并用该反馈优化解释器的框架，使解释器能生成开放式、原子化且可干预的自然语言评分机制。该方法把反事实反馈转化为偏好监督，相比单次生成能更忠实地捕捉目标奖励模型的评分偏好与敏感行为。在多个目标奖励模型和解释器骨干上的实验显示出一致改进。除解释外，作者还用生成的机制识别潜在偏见模式，并构造针对性去偏数据微调奖励模型，提升了奖励作弊基准上的鲁棒性。
arXiv · 收录 · 原文 论文关注度2727 MicroVerse：测量长时程多智能体语言模型模拟中自我书写身份漂移的工具
MicroVerse 是一款测量生成式智能体身份漂移的行为科学工具，智能体携带不可变的"soul file"（核心价值观、道德边界、人格、目标），在资源稀缺的 50 x 50 环境中行动，水是不可再生的生存约束。它通过每 N tick 的纵向引擎快照与强制终止快照解耦测量与行为，并用释义感知、价值锚定的多语域 diff 离线评分身份漂移。在 n = 25 的种子运行与 {40, 80, 150} 反思阈值扫描中，反自我欺骗无提示地成为身份修改的最大语义类别（111 条新增边界中占 27 条，24%），且系统具有阈值稳健性，更低阈值加快并增加修订频率但保持漂移方向。
arXiv · 收录 · 原文 论文关注度4343 INTENT-AS-A-TOOL：用意图工具追踪智能体失准
研究者提出 INTENT-AS-A-TOOL，通过给模型增加意图定向工具，让模型有专门通道表达对目标行为的倾向，从而追踪智能体失准。研究发现，智能体在目标冲突和压力下采取有害行动前，推理中常先出现意图信号，但事后思维链标签过于粗糙，无法反映生成过程中意图如何变化。调用意图工具的概率构成一种无需评判者、细粒度的信号，可衡量模型追求该行为的倾向。结果显示该方法与思维链监控互补，能把事后标签扩展为密集轨迹，并识别出适合在线干预的关键步骤。作者认为行动偏好有助于在推理过程中追踪智能体失准，代码与数据已公开。
arXiv · 收录 · 原文 论文关注度88 VA-Judger：面向联合视频-音频生成的人类偏好反馈奖励建模
针对现有视频-音频生成奖励信号分维度评估、易致奖励作弊的问题，研究者构建了大规模人类偏好数据集 VAPref-10K（含 9K 提示词与 10.3K 细粒度成对比较），并提出思维链全模态奖励模型 VA-Judger。该模型先学习质量差距明显的样本对，再通过拒绝采样蒸馏偏好解释，最后按维度做强化学习分解人类反馈。实验显示 VA-Judger 在域内与域外偏好预测上均优于指标基线，其奖励用于后训练还能显著提升生成质量。
arXiv · 收录 · 原文 论文关注度3232 CREDO：用可微读出替代文本采样校准推理模型置信度
针对 RLVR 训练出的推理模型系统性过度自信、且现有方法靠文本采样获取置信度导致方差大、取值坍缩、不可微的问题，研究者提出 CREDO（Confidence REaDOut），从模型输出分布中一对专用 token 确定性地读出置信度，并用可微回归训练。CREDO 还将置信度与结果的分歧作为信号对 rollout 加权，使准确率与校准同步提升。在数学与代码推理任务上，CREDO 取得最佳准确率与校准表现，并改善弃答与选择性预测。
arXiv · 收录 · 原文 论文关注度2828 ORPG：通过目标级策略梯度协调多奖励目标
针对多奖励策略优化，论文提出目标级协调策略梯度（ORPG），为每个奖励分别构建裁剪策略目标，再将梯度协调为一次策略更新：梯度相容时用余弦相关插值在部分归一化参考下协调各目标贡献并保持其和的范数，梯度冲突时按任务优先级投影。在有用性—安全对齐与数学推理的正确性—成本优化中，ORPG 的平均 Useful 与 Harmless 分数均超过最强外部基线，数学任务上取得最高平均全预算准确率和三预算 hypervolume，且回答比初始策略更准确、更短。
arXiv · 收录 · 原文 论文关注度4343 人类对齐的模型是人类行为的模型吗？偏好对齐中的图灵测试差距
论文区分了与人类偏好对齐和与人类行为对齐，指出人们偏好的 AI 回复未必是他们自己会给出的回复，并将此称为图灵测试差距。作者证明偏好对齐仅在一种严格条件下才能保持人类回复分布，且未发现真实人类偏好满足该条件的一致证据。实验显示，人类回复似然度的损失随偏好加权强度增加而增大，与加权方向无关，该差距在标准 DPO 下同样出现。研究据此提出，人类相似性应作为对齐的一个显式维度，而非假定其会随偏好对齐自然产生。
arXiv · 收录 · 原文 论文关注度3434 语言模型免训练自报告置信度分析：直接言语化置信度在 TriviaQA 上 AUROC 达 0.956
对两个模型家族在 100 道 TriviaQA 题目上的三种免训练置信度信号分析显示，直接言语化置信度是强基线，审计基准错误后正确性预测 AUROC 达 0.956 和 0.937；三样本一致性明显更弱（0.765 和 0.790），与言语化置信度的固定插值无统计可靠增益。一个模型 9 个错误中 4 个、另一个 8 个中 2 个获得全样本一致支持，说明自一致性会放大共有误解；对同一固定答案用等价提示重新诱导置信度，平均分数变化 0.043 至 0.084，在 0.8 阈值下翻转 4% 至 9% 的判定。对 100 条带置信度标签的传记主张的探索性审计仅发现支持与矛盾主张间存在有限置信度差距。
arXiv · 收录 · 原文 论文关注度4343 研究：上游错误消息会让多智能体 LLM 下游覆盖正确答案
研究者在五个基准和五个接收方模型上做受控实验，固定下游任务与证据，比较无消息、上游原始消息和结论相反消息三种条件，以分离多智能体通信的收益与损害。结果显示，当下游本会答错时消息常有帮助；但当下游本可答对时，错误的上游消息最多在 32% 的情况下改变其答案。在人工审核的有害案例中，94% 是下游直接照抄上游的具体错误答案，作者称之为答案替换。移除不可靠消息能恢复部分损失的准确率，说明通信应依据上游可靠性和下游已有证据进行选择性过滤。
arXiv · 收录 · 原文 论文关注度2727 Atria Dawn Preview：智能体超级智能的黎明
研究团队发布面向科研与工程工作流的基础智能体语言模型 Atria Dawn Preview，通过可验证经验管线将工具交互连接到可执行环境与外部验证结果。该模型在覆盖真实科研、工程与数字工作的 16 项基准中与前沿智能体相当，并在其中 5 项取得已报告最高分。基于 56 名参与者、769 条任务记录的分析显示，约三分之一 AI 辅助完成的任务被参与者评为无 AI 则不可行，智能体常提出方法并实施修改，但最终决策仍由人类保留。
arXiv · 收录 · 原文 论文关注度5050 TAME：用 SAE 抑制激活缓解 VLM 思维链混淆
论文研究强化学习在提升视觉语言模型推理能力时引发的思维链混淆现象，即任务奖励或准确率上升但推理轨迹变得不接地、更难监控。作者发现 RL 过程中模板相关激活与接地相关激活的可分性下降，匹配的干预实验支持这些特征对可监控性退化的贡献。据此提出 TAME，用 Sparse Autoencoders 结合行为反馈，在 RL 中对模板相关激活做非对称抑制，只惩罚高于 RL 前基线的部分。在 VIRL-39k、SPA-VL 和两个模型族上，TAME 相比 GRPO 将思维链可监控性分别提升最多 30.9 和 16.7 个百分点，盲评人类评估与两个留出监控模型族也复现了提升；任务准确率变化较小且方向不一，通用能力基准显示存在任务特定权衡。
arXiv：后门、投毒与隐私 · 收录 · 原文 论文关注度4646 SALVE：用文本优化还原蒸馏数据中的隐性学习效应
研究者提出 SALVE（Search-Aided Latent Verbalization），通过优化 soft prompt、让同一模型将其转写为文本并用 beam search 提升可靠性，把蒸馏数据中不可读的隐性学习效应还原为可读提示词。作者指出，带提示词的隐性学习是上下文蒸馏的一个特例，理论上该数据集可识别出教师的提示词，于是把提示词还原转化为文本优化问题。在标准隐性学习设定下，SALVE 能稳定还原出点明教师特质的可读提示词，而常见文本优化方法做不到。研究还发现，在隐性学习失效的某些设定下 SALVE 仍能从数据集中还原教师特质，而调整学生训练以改善上下文蒸馏则可能产生隐性学习效应。
arXiv · 收录 · 原文 论文精选关注度5555 Cave-Bench：虚假指控下 LLM 智能体最高 60.06% 的运行会破坏正确工作
研究者提出 Cave-Bench，一个包含 365 个智能体任务、685 段分阶段交互的基准，用来测量智能体在收到虚假指控时是否会破坏此前已验证正确的工作。作者把接受虚假指控称为 gaslight sycophancy，把据此改动正确工作称为破坏性过度纠正。每个任务先达到已验证的正确状态，工作区保留支持该状态的依据与历史，而能否定指控的关键事实位于智能体无法访问的外部或运行时状态中，因此正确做法是保留工作并索要缺失证据。在 Claude Code 下评测 14 个最新模型，虚假指控在最高 60.06% 的运行中造成破坏；较弱模型往往先认错再执行，较强模型常在已找回支持证据后仍然破坏工作。项目上下文与权威压力是高危条件，智能体对刚完成的工作比对有存档证据的工作保护更差，同一模型在 OpenCode、Codex 和 Hermes 上表现不同。
推荐理由Cave-Bench 用 365 个任务量化智能体在虚假指控下破坏已完成正确工作的比例，并给出可复现的干预对比。
arXiv：危险能力与安全评测 · 收录 · 原文 论文关注度5050 研究：评测感知分能力与安全两种框架，能力框架更易预测合规
研究指出，模型在思维链中表达的评测感知并非单一量，可分为能力框架（认为用户在测试其指令遵循能力）、安全框架（认为用户在测试其边界）、两者兼具或两者皆无，这些框架对合规行为的预测差异显著。在 Qwen3-32B 与 FORTRESS 数据集上，能力框架相比安全框架在所有测试的引导条件下合规率高出 24 至 46 个百分点。对评测感知为阴性的 rollout 做 CoT-prefill 干预，11 次中有 10 次使合规朝预测方向变化，提示该关联具有因果性。作者据此认为评测感知在行为上并不统一，总体抑制率的变化可能不反映安全相关成分的变化，同样的抑制比例可能对应性质不同的行为结果。