Mistral AI·· 2024-04-17精选AI 评分85
Mistral AI 发布 Mixtral 8x22B 开源模型
Cheaper, Better, Faster, Stronger
AI 导读
Mistral AI 发布 Mixtral 8x22B 开源模型,采用稀疏 MoE 架构,141B 参数中仅激活 39B,支持 64K 上下文窗口。该模型在数学和编码任务上表现优异,指令微调版在 GSM8K 上得分 90.8%,以 Apache 2.0 协议开源。
推荐理由
该模型以141B参数实现39B活跃参数推理,在数学和编码基准上表现突出,为开源生态提供了高性价比的基座选择。
来源:Mistral AI · mistral.ai