Hugging Face Blog·· 2 小时前精选AI 评分70
VocabX：按推理成本优化词表使SLM推理成本降低77%
How Specializing the Vocabulary of SLMs Can Cut Inference Cost by 77% in Real Applications
AI 导读
Dharma-AI发布VocabX论文，提出按推理成本而非频率优化词表的方法。在基于Qwen3-4B的葡萄牙语作文评分器中，该方法将平均响应Token从350降至101，推理成本降低77%，同时评分准确率从0.703提升至0.810。
推荐理由
提出按推理成本而非频率优化词表的VocabX方法，在保持模型不变的情况下显著降低推理开销。
来源：Hugging Face Blog · huggingface.co