Hugging Face Blog·· 19 天前精选AI 评分78
AsyncGRPOTrainer 结合 LoRA 跨 HF Jobs 训练：用存储桶同步适配器，无需 NCCL
Async GRPO with LoRA across HF Jobs: a bucket, a proxy, and no NCCL
AI 导读
Hugging Face 博客介绍如何用 AsyncGRPOTrainer 结合 LoRA 在 HF Jobs 上跨节点训练，通过 Storage Bucket 同步适配器而非 NCCL，并用代理路由请求。500 步训练从 3 小时 27 分钟优化到 53 分钟，速度提升 3.9 倍，代码已开源。
推荐理由
原文给出了完整的架构、代码和调优过程，读者可以据此复现跨节点 LoRA 异步强化学习训练。
来源：Hugging Face Blog · huggingface.co