跳到正文
10月8日 · 周四

全部论文

找到 13 篇

另有 1013 篇论文还没打上分类标签,暂不在筛选结果里。

  1. 其他arXiv 2609.40360

    SCAPO:用反事实稳定性改进 GRPO 的 token 级信用分配

    提出 SCAPO,用半事实稳定性改进 GRPO 的 token 级信用分配

    发表
    测试
    Qwen3-4B-Base、Qwen3-1.7B-Base
    摘要SCAPO 在训练早期下调相对不稳定 token 的 GRPO 优势,两个规模上多数基准更高。

    SCAPO 把固定回答在半事实提示下的稳定性,变成 GRPO 训练早期的 token 级负向信用修正。。

    深度解读完整解读
  2. 其他arXiv 2610.00812

    视频生成模型的后训练与对齐综述

    综述视频生成的后训练与对齐,并汇总基准与开放挑战

    发表
    测试
    Wan、HunyuanVideo、OpenSora 等 8 个
    摘要综述把视频后训练分成四类对齐信号,并指出奖励、长视频、权衡和安全仍开放。

    这是一篇视频生成 后训练与对齐 综述:预训练模型已有强先验,但作者认为仍不能可靠遵循意图、维持时间连贯或满足物理与安全约束。

    深度解读完整解读
  3. 其他arXiv 2610.02092

    TESS:面向大语言模型数据选择的可扩展可迁移元网络需换损失函数

    提出 TESS 与点值匹配损失,训练可迁移的数据选择网络

    发表
    测试
    Llama-3-8B-Instruct、Llama-3.1-8B-Instruct、Qwen2.5-7B-Instruct 等 5 个
    摘要TESS 用损失差伪标签和 PVM 训练可迁移选择网络,并在安全选择与指令微调上报告跨数据迁移。

    TESS 是一个用于 LLM 训练数据选择的元学习框架:用验证集引导下的损失差做样本伪标签,训练一个能给未见样本打分的选择网络。

    深度解读完整解读
  4. 其他arXiv 2402.00838

    OLMo:加速语言模型科学研究

    发布开放语言模型 OLMo、Dolma 数据与训练评测代码

    发表
    测试
    OLMo-1B、OLMo-7B、StableLM 1.6B 等 15 个
    摘要OLMo 开放 1B/7B 模型、Dolma 与训练评测工件。

    Allen Institute 发布 OLMo:一套从数据、训练到评测都公开的语言模型框架,用来支持对语言模型能力、弱点、偏见与风险的研究。

    深度解读完整解读
  5. 其他arXiv 2609.12067

    面向压缩与隐私的可扩展离散到连续信道模拟

    提出置换方案,精确模拟离散到连续信道并用于变速率压缩与差分隐私估计

    发表
    摘要置换加指数竞赛用固定样本模拟离散到连续信道,polar-MLC 将其用到 VQ-VAE 压缩和高斯 CDP 均值估计。

    Rowan、Phan 与 Khisti 研究离散输入、连续输出信道的模拟:共享随机样本数固定,长块长用 polar 码与多层编码降到 O(n log n)。。信道模拟要让解码器的 Y 服从 P_{Y|X},同时把消息长度压向 I(X。

    深度解读完整解读
  6. 其他arXiv 2609.16915

    ROSETTA:基于混合 CKKS/TFHE 的高效准确隐私保护 LLM 解码框架

    提出混合 CKKS/TFHE 的隐私保护 LLM 解码框架 ROSETTA

    发表
    测试
    GPT-2 Base、TinyLlama-1.1B、LLaMA-3-8B
    摘要ROSETTA 用分段 LUT 和 DAG 最短路,把 CKKS 与 TFHE 按算子拼进 LLM 解码。

    ROSETTA 是面向 LLM decode 的混合 CKKS/TFHE 隐私推理框架,目标是在 honest-but-curious 两方设定下,让服务器在密文上完成解码,同时保住权重和用户输入。

    深度解读完整解读
  7. 其他arXiv 2609.17380

    Open-1B:一次完全可审计的训练运行

    提出 RepOps,使分布式预训练可跨硬件按位复现并被审计

    发表
    测试
    Open-1B、OLMo 2 1B
    摘要Open-1B 用跨硬件按位算子和集体审计,把 400B token 预训练变成可分步核验的轨迹。

    Open-1B 是 Gensyn 发布的 1.61B 参数 decoder-only 模型,目标是把预训练从“公开配方”推进到每一步可在异构硬件上按位核对。浮点加法非结合、融合乘加、次正规数和平台相关随机数,使同一配方在不同机器上得不到同一权重。概率性的 proof-of-learning / proof-of-training-data 被作者认为不足以排除少量数据注入的后门。

    深度解读完整解读
已经到底了