微软研究院开源 Agent Lightning v1.0:3500 行代码的轻量 Agent RL 框架
Agent Lightning v1.0: A 3,500-Line Lightweight Agentic RL Framework for Training Agents with Real Harnesses
AI 导读
微软研究院亚洲团队开源 Agent Lightning v1.0,提出 Harnessed Agentic RL 训练范式,让部署时使用的同一套 Agent harness 直接参与强化学习,无需在训练框架内重新实现 Agent。框架约 3500 行代码,由 API Gateway、Rollout Controller 和基于 verl 的 Customized Trainer 三部分组成,Agent 通过 OpenAI 兼容的 LLM 代理接入,harness 代码保持不变。Agent 以标准 Kubernetes job 运行,可复用自管集群、云 Kubernetes 或本地基础设施,不依赖付费商业沙箱服务。团队还提出 Collocated Async RL,让 rollout 与模型更新共用同一组 GPU,实验中相比同步 RL 取得约 2 倍端到端加速。
推荐理由
微软研究院开源 3500 行代码的 Agent RL 框架,让部署用的 harness 直接参与训练,并给出可复现的编码 Agent 训练流程。