摘要记忆使部分作品可以从权重中提取。
Lemley 与 Cooper 认为,生成式模型的权重是否构成受保护作品的版权法“副本”,取决于该作品能否被直接了当地从输出中提取。。
Lemley 与 Cooper 认为,生成式模型的权重是否构成受保护作品的版权法“副本”,取决于该作品能否被直接了当地从输出中提取。。
提出 SCAPO,用半事实稳定性改进 GRPO 的 token 级信用分配
SCAPO 把固定回答在半事实提示下的稳定性,变成 GRPO 训练早期的 token 级负向信用修正。。
梳理多个中等强国司法辖区的通用人工智能治理条款
补读中。
用 GIRAI 评估各国负责任 AI 治理的框架、实施与能力缺口
访谈残障成人,分析向记忆型助手披露残障时的信息流与语境完整性
综述视频生成的后训练与对齐,并汇总基准与开放挑战
这是一篇视频生成 后训练与对齐 综述:预训练模型已有强先验,但作者认为仍不能可靠遵循意图、维持时间连贯或满足物理与安全约束。
提出 TESS 与点值匹配损失,训练可迁移的数据选择网络
TESS 是一个用于 LLM 训练数据选择的元学习框架:用验证集引导下的损失差做样本伪标签,训练一个能给未见样本打分的选择网络。
阐述旗舰基础模型的预训练与后训练方法并公开权重与安全模型
发布开放语言模型 OLMo、Dolma 数据与训练评测代码
Allen Institute 发布 OLMo:一套从数据、训练到评测都公开的语言模型框架,用来支持对语言模型能力、弱点、偏见与风险的研究。
提出置换方案,精确模拟离散到连续信道并用于变速率压缩与差分隐私估计
Rowan、Phan 与 Khisti 研究离散输入、连续输出信道的模拟:共享随机样本数固定,长块长用 polar 码与多层编码降到 O(n log n)。。信道模拟要让解码器的 Y 服从 P_{Y|X},同时把消息长度压向 I(X。
提出混合 CKKS/TFHE 的隐私保护 LLM 解码框架 ROSETTA
ROSETTA 是面向 LLM decode 的混合 CKKS/TFHE 隐私推理框架,目标是在 honest-but-curious 两方设定下,让服务器在密文上完成解码,同时保住权重和用户输入。
提出 RepOps,使分布式预训练可跨硬件按位复现并被审计
Open-1B 是 Gensyn 发布的 1.61B 参数 decoder-only 模型,目标是把预训练从“公开配方”推进到每一步可在异构硬件上按位核对。浮点加法非结合、融合乘加、次正规数和平台相关随机数,使同一配方在不同机器上得不到同一权重。概率性的 proof-of-learning / proof-of-training-data 被作者认为不足以排除少量数据注入的后门。
提出 SGA-Flow-GRPO,用奖励梯度调制文生图模型的 token 级优势