低秩激活引导实现参数高效决策算子:330K 参数匹配 1.33M 强化学习算子
研究者提出一种通过行为克隆训练的 System-1 决策算子,用 330K 参数即可匹配 1.33M 参数强化学习算子的性能,并将 3,685-token 的推演压缩为 6-token 决策且不损失准确率。rank-4 变体仅 23K 参数,为最强已发表技能算子的 1/58,足以应对 SearchQA 并接近满足 LiveMath。该方法在五个任务和三个骨干模型上可迁移,训练后数月发布的 LiveMath 题目上仍保持分布外增益。