跳到正文
原文
Hugging Face Blog·· 2026-08-18AI 评分39

同一集群多出 33 个百分点 GPU 利用率:变的是分配顺序

Same Cluster, 33 Points More Utilization: What Changed Was the Order

AI 导读

Hugging Face 构建了一个约束感知的 GPU 分配器,并在七个基准场景中与 FIFO 调度器对比:相同硬件、相同负载下,GPU 利用率最高提升 33 个百分点(52–85% 提升至 72–88%),优先级加权产出每个场景均上升,最高达 105%,平均 52%。提升来自两点:将实时推理按需求曲线而非全日峰值预留分配,并把批类任务按优先级而非到达顺序放置。

来源:Hugging Face Blog · huggingface.co