Translation in progress Some entries still include text in the original language.
Oct 12 · Monday
All papers Found 36 papers Another 265 papers do not have category tags yet and are not included in filtered results.
“
About this collection Collection in progress We are building a large AI safety paper collection to help researchers find work related to their interests. Papers are collected automatically andfiltered only for relevance to AI safety , without judging quality, novelty or reading value. The default “Annotated first” shows papers with tags or published paper analyses first. Each group is ordered by original publication date, newest first, with undated papers last. “Newest first” uses publication dates only. This order is not a quality ranking.
One-line summaries, tags and paper analyses are prepared by AI from the papers. Language models may have systematic biases and produce hallucinations.We plan to carry out human annotation and review to reduce errors in this content.
Propose LWDL, a measure sparse dictionary learning method under linearized optimal transport
Published Oct 9 Abstract LWDL learns sparse measurement dictionaries in flat embedding spaces.LWDL embeds probability measures into a Hilbert space, then performs sparse dictionary learning.
Extending reinforcement learning for full-modality foundation models to support agent self-improvement
Published Oct 8
Evaluated models MiMo-V2.6-Pro , MiMo-V2.6-Flash , MiMo-V2.6-Distill-Qwen-9B Abstract The series uses three-dimensional RL and group scoring to improve agent scores; the authors claim the final performance is comparable to frontier models.MiMo-V2.6 is an all-modality MoE technical report, pursuing agent self-improvement by scaling up RL computation, environments, and scoring.
提出 comprehension audits，以人类理解证据作为继续研发门槛
Published Oct 7 Abstract 理解审计把出示人类理解设为继续研发的门禁，并报告开源评审评论率下降。本文是一份研发过程保障提案：用 comprehension audits 检验责任人是否理解 AI 参与产生的研发贡献，未达标就暂停后续开发与依赖该贡献的发布。 。
比对捐赠对话史与众包提交，测量 AI 代答的集中度与获批
Published Oct 7 给出线性 robust bandits 特例的多项式时间学习者并证明小推广 NP-hard
Published Oct 7 Abstract 欧氏球仿射特例可多项式时间达到Õ(√T)。这是一篇关于不可实现 bandit 学习之计算边界的理论工作：线性 robust bandits 的一个欧氏球仿射特例有多项式时间、Õ(√T)遗憾的学习者，再做小推广就会落到复杂性坍塌。
系统综述青年 AI 安全风险与对策的证据阶段
Published Oct 6 Abstract 作者称多数风险-对策关联停在提议，并主张把目标扩向安全的青年发展。
提出选择性长时程精炼，筛选轨迹以提升终端智能体训练可靠性
Published Oct 5
Evaluated models Qwen/Qwen3-8B Abstract 中间长度的监督更均衡。这项工作研究终端智能体模仿学习里，教师轨迹应保留多少 token。
提出任务感知的跨域蒸馏与剪枝方法以压缩音频深度伪造检测器
Published Oct 4
Evaluated models XLSR-AASIST 提出 TESS 与点值匹配损失，训练可迁移的数据选择网络
Published Oct 2
Evaluated models Llama-3-8B-Instruct , Llama-3.1-8B-Instruct , Qwen2.5-7B-Instruct and others4 Abstract TESS 用损失差伪标签和 PVM 训练可迁移选择网络，并在安全选择与指令微调上报告跨数据迁移。TESS 是一个用于 LLM 训练数据选择的元学习框架：用验证集引导下的损失差做样本伪标签，训练一个能给未见样本打分的选择网络。
提出 ExecCert，发布前核验机器遗忘候选是否落入预定可接受集
Published Oct 1 Abstract ExecCert 在发布前核验具体遗忘产物，并可改变放行决定。ExecCert 是放在遗忘生成器与发布门之间的认证层，用来检查具体有限精度产物是否满足预先声明的契约。
综述视频生成的后训练与对齐，并汇总基准与开放挑战
Published Oct 1 Abstract 综述把视频后训练分成四类对齐信号，并指出奖励、长视频、权衡和安全仍开放。这是一篇视频生成 后训练与对齐 综述：预训练模型已有强先验，但作者认为仍不能可靠遵循意图、维持时间连贯或满足物理与安全约束。
提出 SCAPO，用半事实稳定性改进 GRPO 的 token 级信用分配
Published Oct 1
Evaluated models Qwen3-4B-Base , Qwen3-1.7B-Base Abstract SCAPO 在训练早期下调相对不稳定 token 的 GRPO 优势，两个规模上多数基准更高。SCAPO 把固定回答在半事实提示下的稳定性，变成 GRPO 训练早期的 token 级负向信用修正。 。
提出 UNMERGE，用任务向量低秩分解做概念级遗忘
Published Sep 30
Evaluated models ResNet-50 , ViT-S/16 , Llama-3.2-3B-Instruct Abstract UNMERGE 用低秩任务向量相减做概念级遗忘，类别任务上 ToW 与隐私更接近重训。UNMERGE 把近似机器遗忘写成模型合并的逆运算：从已微调的合并任务向量里减去一个学出来的低秩遗忘分量。作者要处理的是概念级请求（一个类或一个语义组），而不是任意单条记录。梯度上升、重标注、蒸馏和显著性方法都靠把遗忘损失写进权重，作者认为它们超参脆弱、无法表达遗忘与保留的共享方向，也缺少逐层诊断。
评估自动化 AI 研发触发智能爆炸的可能并提出政策应对
Published Sep 29 Abstract 软件驱动智能爆炸可能把数年进展压进数月，作者要求三项政策先做好。Chan 等论证：自动化 AI 研发可能经软件反馈环形成智能爆炸，把本需数年的进展压进数月或更短。他们关心的不是换硬件的建设周期，而是 AI 扩大有效研发劳动力、再产出更强系统，以及社会能否在能力跃迁前看见、约束并适应这一过程。
提出 QPT，用奖励与成本 Q 惩罚训练满足约束的离线强化学习策略
Published Sep 28 Abstract QPT 把条件 Transformer 与奖励/成本 Q 惩罚连成训练–推理一致的安全离线 RL 方法。QPT 针对安全离线 RL：只从离线数据学习，同时处理约束满足、回报最大化和行为正则，并希望部署时更换成本阈值而无需重训。
提出 HiRE 事后奖励编辑方法用于策略微调
Published Sep 23 提出 token 级修正工具 onPanda，高效标注 on-policy 对齐数据
Published Sep 22
Evaluated models Doubao-Seed-2.1-pro , GPT-5.5 , GPT-5.6-sol and others9 Abstract onPanda 以 token 级修正标注 on-policy 对齐数据，并报告效率与基准分数。onPanda 是用 token 级修正标注 LLM 对齐数据与智能体轨迹的交互工具。
构造反向推理训练流程，让模型按题切换正反向推理
Published Sep 21
Evaluated models Ours-Q3-14b , Ours-Q3-8b , Ours-Q3-1.7b and others4 Abstract 用易难两阶段数据与强化学习，让模型按题选择正向或反向推理。作者训练大模型在数学题上建立反向推理，并按题目在正向与反向之间选择，而不是只加长思维链。
比较家长与青少年对 AI 伴侣使用的公开叙述
Published Sep 18 Abstract 两类社区叙述分叉。Berkane 等比较育儿与青少年 subreddit 对青少年 AI companion 使用的公开叙述，看父母作为主要调解者能看到什么、漏掉什么。
提出 STRETCH 自教框架，让同一模型交替出题与求解以渐进提升
Published Sep 16
Evaluated models Qwen2.5-7B-Instruct , Llama-3.1-8B-Instruct