事件观察中
将base模型SDF权重更新嫁接到后训练模型
先了解这件事
AI 综述
Dani Roytburg 提出一种实验方法,把在 base 模型上训练的 SDF 权重更新嫁接到后训练模型上,称这样可减少现实漂移与偏好变化;从 instruct 阶段进行嫁接时效果较差。相关结果目前为作者主张。
AI 根据报道生成 · 1 天前更新
最新进展10月6日 10:17
Dani Roytburg 提出将 base 模型 SDF 权重更新嫁接到后训练模型,称可减少现实漂移与偏好变化。后续时间线
10月6日
- LessWrongDani Roytburg 提出将 base 模型的 SDF 权重更新嫁接到后训练模型
Dani Roytburg 介绍了一种实验方法,把在 base 模型上训练的 SDF 权重更新嫁接到后训练模型上,称这样可以减少现实漂移与偏好变化。该方法从 instruct 阶段进行嫁接时效果较差。相关结果目前为作者主张。
相关讨论
关注度走势
每天新增来源
- 10月6日 新增 1 个来源(1 家媒体、0 个账号)
- 10月7日 新增 0 个来源(0 家媒体、0 个账号)