全部动态
论文与会议论文
本页材料
完整标题与摘要 · 8 条- 论文Hugging Face Daily Papers
通过逆向蒸馏实现数据遗忘（IDU）
研究者提出数据遗忘框架 IDU（Inverse Distillation for Unlearning），从在完整数据集上训练的扩散或流模型教师出发，训练一步生成的学生模型，在抑制指定数据子集的同时保持其余数据的生成质量。该方法只需遗忘数据的样本，训练中无需保留图像或额外分类器。在 MNIST 和 CIFAR-10 上，以流匹配与基于分数的扩散模型为教师，IDU 对目标类别实现强抑制，并在保留数据上维持有竞争力的生成质量。
- 论文论文追踪
SelfSearch：无需奖励信号的自改进 Agent 搜索方法
研究者提出 SelfSearch，一种无奖励信号的搜索流程，让 LLM Agent 利用此前自改进过程的记录来修改自身的指令、工具和执行流程，这些记录包含推理、工具动作和结果。在六个模型与基准组合上，SelfSearch 都提升了群体平均成功率，单个 Agent 在 Terminal-Bench 2.1 上最高提升 11.2 个百分点；在 SWE-bench Multilingual 上，一个 Agent 成功率提升 5.0 个百分点，同时在初始与进化后 Agent 都能解决的任务上把执行成本降低 38.5%。
- 论文Hugging Face Daily Papers
Local Support Learning：无需旧数据缓解 LLM 灾难性遗忘
研究者提出 Local Support Learning（LSL），一种无需访问旧数据即可在梯度训练中保留模型原有能力的通用框架。LSL 将标准权重适配器与基于高斯混合模型（GMM）的门控函数配对，使更新仅作用于当前训练分布的输入激活，从而在多个训练阶段中同时保留预训练与微调能力。该方法在最高 70 亿参数的 LLM 上缓解了灾难性遗忘，且内存与计算高效、对超参数选择稳健，并展现出扩展潜力。
- 论文arXiv：对齐、欺骗与监督
用偏好奖励与评分标准奖励组合后训练前沿文生图模型
研究者提出一种组合互补奖励信号的文生图后训练方法，将基于 Bradley-Terry 目标、用大规模人类偏好数据训练的偏好奖励，与评估提示词忠实度并防止奖励作弊的评分标准奖励结合，并指出简单加权平均会导致优化次优。在 Arena 文生图排行榜上，经 RL 训练的 Flux2dev 的 Elo 比基座模型高 69 分，后训练的 Ideogram-4 以 1223.5 的 Elo 超过所有开源模型（SOTA 声明基于 2026 年 9 月 4 日的排行榜快照）。团队同时发布 1K 子集 Arena-T2I-Training 以支持可复现研究。
- 论文论文追踪
小米 MiMo-V2.6 发布：以强化学习扩展推动模型自我改进
小米发布 MiMo-V2.6 系列全模态模型，含 1.02T 参数、42B 激活参数的 MiMo-V2.6-Pro 和 310B 参数、15B 激活参数的 MiMo-V2.6-Flash，通过扩展强化学习算力推进模型自我改进。其 RL 训练每步消耗 1,568 个样本、2.7∼3.7B tokens，上下文长度最高 1M，覆盖代码、通用、视觉与网络等环境，并冻结 MoE router、建立多层防御以抑制奖励作弊。团队开源训练动态、RL 环境与 RL 框架。
- 论文论文追踪
研究：LLM 智能体比例改变人类群体共识的形成方式
一项研究用协作描述游戏考察混合人机群体，发现 LLM 智能体比例不同会带来三种共识形成模式：低比例下由人类主导共识，中等比例破坏收敛，高比例则恢复强共识但转向智能体主导的约定。研究进一步指出，人类主导的共识更具体、整体，并基于共享的现实类比；智能体主导的共识更抽象、信息密度更低、几何分割更明显。机制上，智能体的影响来自共享的语言先验使其在表达空间中彼此靠近，加上跨轮次较稳定的表达选择；人类起初会抗拒采纳被感知为 AI 的伙伴的表达，但逐渐在从众压力下让步。作者认为智能体比例与透明度是人机系统的重要设计变量。
- 论文论文追踪
Frontis-MA1：面向机器学习工程递归自我改进的 AI4AI 模型
研究者提出 OpenMLE 全栈系统用于研究机器学习工程中的递归自我改进，包含可验证任务环境 OpenMLE-Gym、算子学习 OpenMLE-RL 和长时程搜索 OpenMLE-Evo，并在此基础上后训练出 35B 的元进化智能体 Frontis-MA1。该模型围绕 Draft、Improve、Debug、Crossover 四个程序进化算子，用执行反馈驱动的 SFT 和 RL 训练，再组合成长时程搜索。在单张 RTX 4090、12 GB 显存、每任务 12 小时预算下，MLE-Bench Lite 的 Medal Average 从基座的 39.39% 提升到 60.61%，配合 OpenMLE-Evo-Max 达到 71.21%，超过 GPT-5.5 + Codex，接近 GPT-5.6 Sol 和 2.8T 的 Kimi K3。作者开源了模型权重和完整 OpenMLE 栈。
- 论文arXiv
基于差分隐私扩散模型的能源时间序列插补：裁剪感知的目标条件化方法
针对能源时间序列缺失值插补，研究提出裁剪感知的目标条件化方法，在固定阈值 DP-SGD 下用 v-prediction 缓解余弦扩散调度后期低 SNR 时间步的梯度放大，并引入扩散调度感知的动态加权在裁剪前加强衰减。在五个真实能源时间序列数据集上，覆盖随机点缺失、连续块缺失、持续中断及多种缺失严重程度，该方法在匹配 DP-SGD 设置下插补效用一致优于 ε-prediction 基线。梯度诊断显示裁剪前梯度范数上尾更低、裁剪比例下降，后期低 SNR 时间步衰减更强。