💬 观点Hugging Face
Async GRPO with LoRA across HF Jobs: a bucket, a proxy, — HF 用异步 GRPO 加 LoRA 跑分布式 RL,绕开 NCCL,靠桶和代理
HF 用异步 GRPO 加 LoRA 跑分布式 RL,绕开 NCCL,靠桶和代理协调。
2026-09-10原文
本文为要点摘要,完整细节以原文为准。
- 方案用异步 GRPO 配合 LoRA,在 HF Jobs 上跨节点训练,不依赖 NCCL 做通信。
- 协调靠一个对象存储桶加一个代理,替代传统集合通信,降低多机 RL 的组网门槛。
- 对 agent 与工具链的含义:分布式 RL 训练可以更轻量地搭建,减少对专用网络与通信库的依赖。
原文:Async GRPO with LoRA across HF Jobs: a bucket, a proxy, and no NCCL · 作者 Hugging Face