Hugging Face Blog·· 3 小时前精选AI 评分74
Ai2 如何用 GPU 时间预算与分层公平共享改进集群调度
Impactful scheduling for GPU clusters
AI 导读
Ai2 用 GPU 时间预算、分层公平共享和时间切片替代优先级调度,将研究项目的资源分配转为透明的预算管理流程。调度器默认回看 7 天的资源占用,任务在声明的最短运行时间内受抢占保护;30 天测试中,团队获得了应得 GPU 时间的 98%,集群占用率保持在 98%。
推荐理由
将资源分配从无成本的优先级竞争转为时间预算,并用可抢占的时间切片兑现份额,为共享计算资源治理提供了可迁移的方法。
来源:Hugging Face Blog · huggingface.co