Hugging Face Blog·· 21 天前精选AI 评分75
Hugging Face Jobs 上用 LoRA 实现无需 NCCL 的 Async GRPO
Async GRPO with LoRA across HF Jobs: a bucket, a proxy, and no NCCL
AI 导读
Hugging Face 展示了在 Hugging Face Jobs 上运行 Async GRPO 的方案，用 LoRA adapter、Storage Bucket 和代理连接分离的训练 Job 与 vLLM Job，无需 NCCL 传输完整模型权重。
推荐理由
文章把跨机器训练与推理的实现拆成可复用组件，并用指标定位瓶颈，给出从 3 h 27 min 降至 53 min 的调优路径。
来源：Hugging Face Blog · huggingface.co