跳到正文
原文
Mistral AI·· 2024-04-17精选AI 评分85

Mistral AI 发布 Mixtral 8x22B 开源模型

Cheaper, Better, Faster, Stronger

AI 导读

Mistral AI 发布 Mixtral 8x22B 开源模型,采用稀疏 MoE 架构,141B 参数中仅激活 39B,支持 64K 上下文窗口。该模型在数学和编码任务上表现优异,指令微调版在 GSM8K 上得分 90.8%,以 Apache 2.0 协议开源。

推荐理由

该模型以141B参数实现39B活跃参数推理,在数学和编码基准上表现突出,为开源生态提供了高性价比的基座选择。

来源:Mistral AI · mistral.ai