Hugging Face Blog·· 2025-07-08精选AI 评分85
Hugging Face 发布 SmolLM3 3B 多语言长上下文推理模型及完整训练配方
SmolLM3: smol, multilingual, long-context reasoner
AI 导读
Hugging Face 发布 SmolLM3 3B 模型,支持 128k 上下文与英法西德意葡六语,在 3B 规模下超越 Llama-3.2-3B 并匹敌 4B 模型。官方同步开源了包含架构修改、三阶段预训练、长上下文扩展及 APO 对齐的完整训练配方。
推荐理由
开源了3B模型及包含架构、数据配比与APO对齐的完整训练配方,为小模型推理能力构建提供了可复现的工程参考。
来源:Hugging Face Blog · huggingface.co