跳到正文
原文
Hugging Face Blog·· 2026-07-16精选AI 评分75

IBM 研究:模型路由是系统优化而非分类问题

Model Routing Is Simple. Until It Isn’t.

AI 导读

IBM 研究指出模型路由是系统优化问题。实际成本受缓存影响,任务难度难以预判,延迟受基础设施制约。其算法在 AppWorld 测试中实现 21% 成本降低与 9% 延迟降低。

推荐理由

IBM 指出模型路由需综合缓存与基础设施,给出兼顾成本与延迟的优化思路。

来源:Hugging Face Blog · huggingface.co