Hugging Face Blog·· 2026-08-18精选AI 评分70
Dharma AI 约束感知 GPU 分配器:通过调度顺序提升利用率
Same Cluster, 33 Points More Utilization: What Changed Was the Order
AI 导读
Dharma AI 发布约束感知 GPU 分配器,在相同硬件上通过优化调度顺序,将 GPU 利用率最高提升 33 个百分点,优先级加权产出最高提升 105%。该方案将实时推理视为需求曲线而非固定预留,并结合优先级与时间衰减权重进行全局规划,在 1-15 毫秒内完成决策。
推荐理由
原文给出了约束感知分配器的设计逻辑与实测数据,读者可据此优化集群调度策略。
来源:Hugging Face Blog · huggingface.co