Hugging Face Blog·· 2026-08-18AI 评分39
同一集群多出 33 个百分点 GPU 利用率:变的是分配顺序
Same Cluster, 33 Points More Utilization: What Changed Was the Order
AI 导读
Hugging Face 构建了一个约束感知的 GPU 分配器,并在七个基准场景中与 FIFO 调度器对比:相同硬件、相同负载下,GPU 利用率最高提升 33 个百分点(52–85% 提升至 72–88%),优先级加权产出每个场景均上升,最高达 105%,平均 52%。提升来自两点:将实时推理按需求曲线而非全日峰值预留分配,并把批类任务按优先级而非到达顺序放置。
来源:Hugging Face Blog · huggingface.co