Translation in progress Some entries still include text in the original language.
Oct 12 · Monday
All papers Found 26 papers Another 232 papers do not have category tags yet and are not included in filtered results.
“
About this collection Collection in progress We are building a large AI safety paper collection to help researchers find work related to their interests. Papers are collected automatically andfiltered only for relevance to AI safety , without judging quality, novelty or reading value. The default “Annotated first” shows papers with tags or published paper analyses first. Each group is ordered by original publication date, newest first, with undated papers last. “Newest first” uses publication dates only. This order is not a quality ranking.
One-line summaries, tags and paper analyses are prepared by AI from the papers. Language models may have systematic biases and produce hallucinations.We plan to carry out human annotation and review to reduce errors in this content.
Propose LWDL, a measure sparse dictionary learning method under linearized optimal transport
Published Oct 9 Abstract LWDL learns sparse measurement dictionaries in flat embedding spaces.LWDL embeds probability measures into a Hilbert space, then performs sparse dictionary learning.
Extending reinforcement learning for full-modality foundation models to support agent self-improvement
Published Oct 8
Evaluated models MiMo-V2.6-Pro , MiMo-V2.6-Flash , MiMo-V2.6-Distill-Qwen-9B Abstract The series uses three-dimensional RL and group scoring to improve agent scores; the authors claim the final performance is comparable to frontier models.MiMo-V2.6 is an all-modality MoE technical report, pursuing agent self-improvement by scaling up RL computation, environments, and scoring.
给出线性 robust bandits 特例的多项式时间学习者并证明小推广 NP-hard
Published Oct 7 Abstract 欧氏球仿射特例可多项式时间达到Õ(√T)。这是一篇关于不可实现 bandit 学习之计算边界的理论工作：线性 robust bandits 的一个欧氏球仿射特例有多项式时间、Õ(√T)遗憾的学习者，再做小推广就会落到复杂性坍塌。
提出选择性长时程精炼，筛选轨迹以提升终端智能体训练可靠性
Published Oct 5
Evaluated models Qwen/Qwen3-8B Abstract 中间长度的监督更均衡。这项工作研究终端智能体模仿学习里，教师轨迹应保留多少 token。
提出任务感知的跨域蒸馏与剪枝方法以压缩音频深度伪造检测器
Published Oct 4
Evaluated models XLSR-AASIST 提出 TESS 与点值匹配损失，训练可迁移的数据选择网络
Published Oct 2
Evaluated models Llama-3-8B-Instruct , Llama-3.1-8B-Instruct , Qwen2.5-7B-Instruct and others4 Abstract TESS 用损失差伪标签和 PVM 训练可迁移选择网络，并在安全选择与指令微调上报告跨数据迁移。TESS 是一个用于 LLM 训练数据选择的元学习框架：用验证集引导下的损失差做样本伪标签，训练一个能给未见样本打分的选择网络。
提出 ExecCert，发布前核验机器遗忘候选是否落入预定可接受集
Published Oct 1 Abstract ExecCert 在发布前核验具体遗忘产物，并可改变放行决定。ExecCert 是放在遗忘生成器与发布门之间的认证层，用来检查具体有限精度产物是否满足预先声明的契约。
综述视频生成的后训练与对齐，并汇总基准与开放挑战
Published Oct 1 Abstract 综述把视频后训练分成四类对齐信号，并指出奖励、长视频、权衡和安全仍开放。这是一篇视频生成 后训练与对齐 综述：预训练模型已有强先验，但作者认为仍不能可靠遵循意图、维持时间连贯或满足物理与安全约束。
提出 SCAPO，用半事实稳定性改进 GRPO 的 token 级信用分配
Published Oct 1
Evaluated models Qwen3-4B-Base , Qwen3-1.7B-Base Abstract SCAPO 在训练早期下调相对不稳定 token 的 GRPO 优势，两个规模上多数基准更高。SCAPO 把固定回答在半事实提示下的稳定性，变成 GRPO 训练早期的 token 级负向信用修正。 。
综合跨机构联邦训练部署经验并对照生产就绪框架
Published Sep 30
Evaluated models LLaMA-2 7B , Llama 3.1 8B , Llama 3.x 70B and others4 Abstract 作者称这些部署里训练可行，运营、审计和若干控制尚未在前沿规模验证。本文是对五条并行联邦工作的综合，要回答多站点系统能否被运营、审计和安全变更，而不只是能否训出模型。
提出 UNMERGE，用任务向量低秩分解做概念级遗忘
Published Sep 30
Evaluated models ResNet-50 , ViT-S/16 , Llama-3.2-3B-Instruct Abstract UNMERGE 用低秩任务向量相减做概念级遗忘，类别任务上 ToW 与隐私更接近重训。UNMERGE 把近似机器遗忘写成模型合并的逆运算：从已微调的合并任务向量里减去一个学出来的低秩遗忘分量。作者要处理的是概念级请求（一个类或一个语义组），而不是任意单条记录。梯度上升、重标注、蒸馏和显著性方法都靠把遗忘损失写进权重，作者认为它们超参脆弱、无法表达遗忘与保留的共享方向，也缺少逐层诊断。
提出 HiRE 事后奖励编辑方法用于策略微调
Published Sep 23 提出 token 级修正工具 onPanda，高效标注 on-policy 对齐数据
Published Sep 22
Evaluated models Doubao-Seed-2.1-pro , GPT-5.5 , GPT-5.6-sol and others9 Abstract onPanda 以 token 级修正标注 on-policy 对齐数据，并报告效率与基准分数。onPanda 是用 token 级修正标注 LLM 对齐数据与智能体轨迹的交互工具。
构造反向推理训练流程，让模型按题切换正反向推理
Published Sep 21
Evaluated models Ours-Q3-14b , Ours-Q3-8b , Ours-Q3-1.7b and others4 Abstract 用易难两阶段数据与强化学习，让模型按题选择正向或反向推理。作者训练大模型在数学题上建立反向推理，并按题目在正向与反向之间选择，而不是只加长思维链。
提出 STRETCH 自教框架，让同一模型交替出题与求解以渐进提升
Published Sep 16
Evaluated models Qwen2.5-7B-Instruct , Llama-3.1-8B-Instruct 提出 RepOps，使分布式预训练可跨硬件按位复现并被审计
Published Sep 16
Evaluated models Open-1B Abstract Open-1B 用跨硬件按位算子和集体审计，把 400B token 预训练变成可分步核验的轨迹。Open-1B 是 Gensyn 发布的 1.61B 参数 decoder-only 模型，目标是把预训练从“公开配方”推进到每一步可在异构硬件上按位核对。浮点加法非结合、融合乘加、次正规数和平台相关随机数，使同一配方在不同机器上得不到同一权重。概率性的 proof-of-learning / proof-of-training-data 被作者认为不足以排除少量数据注入的后门。
用弹性有向图建模递归自我改进的自持加速条件
Published Sep 15 Abstract 弹性网络给出自持加速条件。递归自我改进会不会变成自持加速，取决于能力提高后下一代能力提高多少，也取决于外生投入不增长时增速会不会随存量上升。作者用有向图把算法效率、能力、研发投入和经济产出连起来，边的强度是弹性。
审阅书籍记忆覆盖率计量，指出其不能支撑版权替代主张
Published Sep 9 提出 ERPO，用探针共识奖励在无标签代码题上做测试时强化学习
Published Sep 9
Evaluated models Qwen3-4B , Qwen3-8B 梳理去护栏开源模型的生产、再分发与部署供应链
Published Sep 4 Abstract 这是一份去护栏模型供应链调查，作者将再分发层视为持续供给和下游部署的连接点。10a Labs 调查的是去护栏模型的公开供应链，而非去护栏技术的效果排行榜。 作者关注安全行为被移除后，模型如何继续被复制、转换并接入应用。