Kosoy 提出鲁棒老虎机多项式时间学习器,推进 AI 对齐
给出线性 robust bandits 特例的多项式时间学习者并证明小推广 NP-hard
- arXiv
- 2610.08740
- 发表
- 场景
- 模型与 API
摘要欧氏球仿射特例可多项式时间达到Õ(√T)。
这是一篇关于不可实现 bandit 学习之计算边界的理论工作:线性 robust bandits 的一个欧氏球仿射特例有多项式时间、Õ(√T)遗憾的学习者,再做小推广就会落到复杂性坍塌。
给出线性 robust bandits 特例的多项式时间学习者并证明小推广 NP-hard
这是一篇关于不可实现 bandit 学习之计算边界的理论工作:线性 robust bandits 的一个欧氏球仿射特例有多项式时间、Õ(√T)遗憾的学习者,再做小推广就会落到复杂性坍塌。
提出任务感知的跨域蒸馏与剪枝方法以压缩音频深度伪造检测器
提出 TESS 与点值匹配损失,训练可迁移的数据选择网络
TESS 是一个用于 LLM 训练数据选择的元学习框架:用验证集引导下的损失差做样本伪标签,训练一个能给未见样本打分的选择网络。
提出 ExecCert,发布前核验机器遗忘候选是否落入预定可接受集
ExecCert 是放在遗忘生成器与发布门之间的认证层,用来检查具体有限精度产物是否满足预先声明的契约。
这是一篇视频生成 后训练与对齐 综述:预训练模型已有强先验,但作者认为仍不能可靠遵循意图、维持时间连贯或满足物理与安全约束。
提出 SCAPO,用半事实稳定性改进 GRPO 的 token 级信用分配
SCAPO 把固定回答在半事实提示下的稳定性,变成 GRPO 训练早期的 token 级负向信用修正。。
提出 UNMERGE,用任务向量低秩分解做概念级遗忘
UNMERGE 把近似机器遗忘写成模型合并的逆运算:从已微调的合并任务向量里减去一个学出来的低秩遗忘分量。作者要处理的是概念级请求(一个类或一个语义组),而不是任意单条记录。梯度上升、重标注、蒸馏和显著性方法都靠把遗忘损失写进权重,作者认为它们超参脆弱、无法表达遗忘与保留的共享方向,也缺少逐层诊断。
占位。
提出 token 级修正工具 onPanda,高效标注 on-policy 对齐数据
onPanda 是用 token 级修正标注 LLM 对齐数据与智能体轨迹的交互工具。
构造反向推理训练流程,让模型按题切换正反向推理
作者训练大模型在数学题上建立反向推理,并按题目在正向与反向之间选择,而不是只加长思维链。
提出 STRETCH 自教框架,让同一模型交替出题与求解以渐进提升
提出 RepOps,使分布式预训练可跨硬件按位复现并被审计
Open-1B 是 Gensyn 发布的 1.61B 参数 decoder-only 模型,目标是把预训练从“公开配方”推进到每一步可在异构硬件上按位核对。浮点加法非结合、融合乘加、次正规数和平台相关随机数,使同一配方在不同机器上得不到同一权重。概率性的 proof-of-learning / proof-of-training-data 被作者认为不足以排除少量数据注入的后门。
递归自我改进会不会变成自持加速,取决于能力提高后下一代能力提高多少,也取决于外生投入不增长时增速会不会随存量上升。作者用有向图把算法效率、能力、研发投入和经济产出连起来,边的强度是弹性。
审阅书籍记忆覆盖率计量,指出其不能支撑版权替代主张
用 GIRAI 评估各国负责任 AI 治理的框架、实施与能力缺口
Xiao 与 Zhu 的这本书是大语言模型基础导论,不是一份新实验报告。
阐述旗舰基础模型的预训练与后训练方法并公开权重与安全模型
发布开放语言模型 OLMo、Dolma 数据与训练评测代码
Allen Institute 发布 OLMo:一套从数据、训练到评测都公开的语言模型框架,用来支持对语言模型能力、弱点、偏见与风险的研究。