跳到正文
原文
Hugging Face Blog·· 2026-08-18精选AI 评分70

Dharma AI 约束感知 GPU 分配器:通过调度顺序提升利用率

Same Cluster, 33 Points More Utilization: What Changed Was the Order

AI 导读

Dharma AI 发布约束感知 GPU 分配器,在相同硬件上通过优化调度顺序,将 GPU 利用率最高提升 33 个百分点,优先级加权产出最高提升 105%。该方案将实时推理视为需求曲线而非固定预留,并结合优先级与时间衰减权重进行全局规划,在 1-15 毫秒内完成决策。

推荐理由

原文给出了约束感知分配器的设计逻辑与实测数据,读者可据此优化集群调度策略。

来源:Hugging Face Blog · huggingface.co