ReSAIL:缓解迭代式智能体自蒸馏中的能力崩塌
ReSAIL: Mitigating Collapse in Iterative Agent Self-Distillation
AI 导读
ReSAIL 是一种可插拔的增强方法,用于缓解迭代式智能体自蒸馏中部署性能与任务能力随周期下降的问题。它包含两个组件:轨迹平衡的选择性蒸馏,优先处理特权信息最改变教师预测的交互步骤并平衡各轨迹损失;特权信息保留,维持学生的特权信息条件行为以支撑下一轮监督。在 Qwen3-4B 与 Qwen3-8B 上,ReSAIL 在 ALFWorld 和 TextCraft 上连续三个部署周期保持增益,第 3 周期在两种模型规模和三种评测设置(ALFWorld ID/OOD 与 TextCraft)下,成功率平均比对应的 SDPO/OEL 基线高 22.5 个百分点。代码、训练与评测脚本及模型检查点已公开。