Hugging Face Blog·· 2024-02-03精选AI 评分68
SegMoE:开源扩散模型混合专家框架与预训练模型
SegMoE: Segmind Mixture of Diffusion Experts
AI 导读
SegMoE 开源了将多个扩散模型合并为混合专家(MoE)架构的代码与预训练模型,支持 diffusers 并集成于 Hugging Face Hub。该框架通过稀疏 MoE 层替换部分前馈层,发布了 SegMoE-4x2 等版本,旨在结合多个专家模型的优势以提升提示词理解能力。
推荐理由
开源了将多个扩散模型合并为MoE架构的代码与预训练模型,为社区提供了构建高性能图像生成模型的新工具。
来源:Hugging Face Blog · huggingface.co