Meta 的 AI 动态：Llama 开源模型系列、超级智能实验室与元宇宙之外的 AI 豪赌。
Mistral AI 发布 Mixtral 8x7B 开源模型，采用稀疏混合专家架构，总参数 46.7B 但每次推理仅使用 12.9B 参数。该模型在多数基准测试中超越 Llama 2 70B 并匹敌 GPT-3.5，支持 32k 上下文窗口，推理速度提升 6 倍。同时发布经过指令微调的 Instruct 版本，在 MT-Bench 上得分 8.30。
推荐理由：原文给出了稀疏混合专家架构的具体参数与推理速度对比，读者可以据此评估其在成本与性能上的优势。
Mistral AI 发布 Mistral 7B 模型，在多项英文及代码基准上超越 13B 参数模型，以 Apache 2.0 协议开源。该模型推理速度快、成本低，适用于摘要、问答等任务。
推荐理由：Mistral 7B 在多项基准上超越 13B 模型，Apache 2.0 开源，为端侧部署提供高性能替代方案。
Mistral AI 发布 Mistral 7B，这是一个 7.3B 参数的大语言模型，采用分组查询注意力（GQA）和滑动窗口注意力（SWA）技术。该模型在 Apache 2.0 协议下开源，在多项基准测试中表现优于 Llama 2 13B，接近 Llama 1 34B 水平，并在代码和推理任务上展现出显著优势。
推荐理由：开源了7.3B参数模型并采用SWA与GQA技术，在多项基准上超越Llama 2 13B，兼顾了性能与推理效率。
Meta 发布 Code Llama 系列模型，包含 7B、13B 和 34B 参数版本，基于 Llama 2 在 5000 亿代码 Token 上训练。模型支持代码补全、上下文填充及指令微调，上下文窗口可扩展至 10 万 Token。Hugging Face 提供 Transformers 集成、4-bit 量化加载及生产级推理部署方案。
推荐理由：Meta 发布 Code Llama 系列模型，提供代码补全、生成与指令微调能力，并给出详细的部署与量化指南。
Hugging Face 与 Apple 联合发布 Stable Diffusion XL 的 Core ML 版本，支持在 Mac 端侧运行。引入混合位调色板量化技术，将模型体积从 4.8 GB 压缩至 1.4 GB，同时保持较高生成质量。
推荐理由：提供了混合位调色板量化技术，在显著压缩模型体积的同时保持生成质量，支持在 Mac 端侧高效运行。
Meta发布Llama 2开源大模型家族，包含7B、13B和70B参数量的预训练及对话微调模型，采用宽松许可允许商用。Hugging Face提供完整集成支持，包括Transformers推理、Inference Endpoints部署及基于PEFT的单卡微调方案。
推荐理由：Meta发布Llama 2并提供Hugging Face集成与微调指南，为开源替代闭源模型提供了具体路径。
Hugging Face发布教程，展示如何使用MMS Adapter技术微调低资源语音识别模型。通过仅训练约2.5M权重的Adapter层，在Common Voice土耳其语数据集上仅需4小时数据和4个epoch即可达到优异效果。
推荐理由：提供基于MMS Adapter的少样本语音识别微调代码，展示如何用极小数据量实现高效适配。
Hugging Face 发布 StackLLaMA 模型及完整训练管线，详细演示了如何结合 SFT、奖励建模和 PPO 算法，利用 PEFT 技术在单卡或集群上对 LLaMA 进行 RLHF 微调，并分享了训练中的稳定性问题与解决方案。
推荐理由：文章完整展示了基于LLaMA 7B、PEFT和TRL库进行RLHF微调的实操流程，包含代码与踩坑经验。