StackLLaMA：手把手教你用RLHF微调LLaMA模型
Hugging Face 发布 StackLLaMA 模型及完整训练管线，详细演示了如何结合 SFT、奖励建模和 PPO 算法，利用 PEFT 技术在单卡或集群上对 LLaMA 进行 RLHF 微调，并分享了训练中的稳定性问题与解决方案。
推荐理由：文章完整展示了基于LLaMA 7B、PEFT和TRL库进行RLHF微调的实操流程，包含代码与踩坑经验。
Hugging Face
全部主题Hugging Face 开源社区动态：热门模型与数据集、排行榜变化与开源生态的晴雨表。
最新精选
第 361–380 条 · 共 384 条Hugging Face Blog精选AI 评分6565
Hugging Face Blog精选AI 评分7070 Hugging Face 详解如何使用 diffusers 训练 ControlNet
Hugging Face 博客详解了使用 diffusers 训练 ControlNet 的三步流程：规划条件、构建数据集与模型训练。文章以训练面部姿态控制模型为例，展示了从 FaceSynthetics 数据集准备到使用 A100 进行训练的具体代码与参数配置，并提供了适配 8GB 至 16GB 显存的优化方案。
推荐理由：原文详述了基于diffusers训练ControlNet的三步流程与显存优化技巧，提供了可直接复用的实操指南。
Hugging Face Blog精选AI 评分7878 Hugging Face 发布 TRL 与 PEFT 集成，实现消费级显卡微调 20B 大模型
Hugging Face 官方发布 TRL 与 PEFT 的集成，利用 8-bit 量化和 LoRA 适配器，在 24GB 显存的消费级 GPU 上成功微调了 20B 参数的 GPT-NeoX 模型。
推荐理由：官方发布TRL与PEFT集成方案，展示在消费级显卡上微调20B模型的技术路径。
Hugging Face Blog精选AI 评分7272 Hugging Face Diffusers 集成 ControlNet 教程
Hugging Face 发布教程介绍如何在 Diffusers 中使用 StableDiffusionControlNetPipeline，涵盖边缘、姿态等多种条件控制及多条件组合方法，并演示了通过优化调度器、CPU卸载和xformers实现推理加速与显存节省。
推荐理由：文章详细演示了Diffusers中ControlNet的集成与优化技巧，提供可复用的代码与性能调优方案。
Hugging Face Blog精选AI 评分6868 Hugging Face Diffusers for Mac 1.1 发布，原生 Core ML 加速图像生成
Hugging Face 发布 Diffusers for Mac 1.1，将扩散模型转换为 Core ML 以利用 Apple Silicon 硬件加速。性能测试显示 M1 Max 使用 GPU 最快，标准 M1 使用 ANE 更快，新版本会自动选择最佳加速器。
推荐理由：官方发布 Swift 原生应用并给出多芯片性能数据，可据此判断端侧生成效率。
Hugging Face Blog精选AI 评分8181 Hugging Face 发布 PEFT 高效微调库
Hugging Face 发布 PEFT 库，无缝集成 Transformers 与 Accelerate，支持 LoRA、Prefix Tuning 等方法。通过仅微调少量参数，可在消费级硬件上高效微调大模型，大幅降低存储与算力成本。
推荐理由：官方发布高效微调库，支持LoRA等技术在消费级硬件上微调大模型，显著降低存储与算力成本。
Hugging Face Blog精选AI 评分7272 Diffusers 原生支持 Stable Diffusion LoRA 微调
Hugging Face Diffusers 正式支持 Stable Diffusion 的 LoRA 微调，训练仅需 11 GB 显存，生成的权重文件仅约 3 MB。该功能支持 Dreambooth 和全量微调，并内置自动记录基础模型元数据以简化推理加载。
推荐理由：Diffusers 原生支持 LoRA 大幅降低显存需求并生成极小权重文件，便于模型分享与复用。
Hugging Face Blog精选AI 评分6868 Hugging Face 发布 Mask2Former 和 OneFormer 通用图像分割教程
Hugging Face 在 Transformers 库中上线了 Mask2Former 和 OneFormer 两个通用图像分割模型。文章详细解释了实例、语义和全景分割的区别，介绍了基于 Transformer 解码器的统一架构原理，并提供了在 Transformers 中进行推理和微调的代码示例。
推荐理由：文章系统梳理了通用图像分割架构的演进，并提供了 Mask2Former 和 OneFormer 在 Transformers 中的推理与微调代码示例。
Hugging Face Blog精选AI 评分6565 图解人类反馈强化学习（RLHF）
Hugging Face 发布图解文章，详细拆解了人类反馈强化学习（RLHF）的三个核心步骤：预训练语言模型、基于人类偏好训练奖励模型、以及使用 PPO 进行强化学习微调。文章还介绍了 TRL、TRLX 和 RL4LMs 等开源工具，并探讨了 RLHF 在数据成本和算法优化方面的局限性。
推荐理由：原文拆解了RLHF三步流程与开源工具，为理解ChatGPT背后的技术提供了清晰的入门路径。
Hugging Face Blog精选AI 评分6363 Hugging Face 发布 Stable Diffusion Core ML 转换权重
Hugging Face 官方提供 Stable Diffusion Core ML 转换权重，让 Apple Silicon 用户能直接调用并本地运行。支持 v1.4、v1.5 及 v2 系列模型，提供 Python 和 Swift 两种推理方式，并附带自定义模型转换脚本。
推荐理由：Hugging Face 官方提供 Stable Diffusion Core ML 转换权重，让 Apple Silicon 用户能直接调用并本地运行。
Hugging Face Blog精选AI 评分7575 使用Diffusers训练Stable Diffusion的Dreambooth技巧
Hugging Face发布基于Diffusers训练Stable Diffusion的Dreambooth技巧。推荐低学习率（如1e-6）配合较多训练步数（人脸约1200步）以避免过拟合；微调文本编码器可显著提升质量，但需24GB显存；过拟合时改用DDIM调度器并增加推理步数能改善效果。
推荐理由：原文基于大量实验给出了Dreambooth微调Stable Diffusion的具体超参数建议和避坑指南。
Hugging Face Blog精选AI 评分6868 Hugging Face Optimum Intel 集成 OpenVINO 加速模型推理
Hugging Face 宣布 Optimum Intel 集成 Intel OpenVINO，支持在 Intel 处理器上对 Transformers 模型进行推理与量化。以 ViT 模型为例，量化后模型体积缩小 3.8 倍，推理延迟降低 2.4 倍。
推荐理由：Hugging Face 官方宣布集成 OpenVINO，提供一键量化与推理工具，可显著降低模型体积与延迟。
Hugging Face Blog精选AI 评分6868 Hugging Face 发布 MTEB 文本嵌入模型大规模评测基准
Hugging Face 发布 MTEB 大规模文本嵌入模型评测基准，涵盖 56 个数据集和 8 个任务，支持 112 种语言。该基准提供排行榜和 Python 库，用户可便捷地对模型进行基准测试并提交结果。
推荐理由：MTEB 提供了涵盖多语言和多任务的文本嵌入模型统一评测框架，方便开发者快速选型。
Hugging Face Blog精选AI 评分6161 Hugging Face 发布 Inference Endpoints 托管推理服务
Hugging Face 发布 Inference Endpoints，允许用户通过几步操作将模型从 Hub 直接部署到 AWS 等云厂商的托管基础设施。服务支持 Public、Protected 和 Private 三种安全模式，其中 Private 模式可通过 AWS PrivateLink 实现 VPC 内网访问，并提供自动扩缩容、监控日志和 API 调用能力。
推荐理由：官方发布托管推理服务，提供从公开到私有VPC的多级安全部署选项，降低生产环境部署门槛。
Hugging Face Blog精选AI 评分6565 Hugging Face Accelerate 如何在消费级硬件上运行超大模型
Hugging Face 详解 Accelerate 如何利用 PyTorch meta device 和分片加载技术，在有限 RAM 和 GPU 的硬件上运行 OPT-6.7B 等超大模型。
推荐理由：详解利用meta device与分片加载在消费级硬件运行超大模型的技术路径。
Hugging Face Blog精选AI 评分6868 Hugging Face 发布 SetFit 框架：无需提示词的高效少样本学习
Hugging Face 联合 Intel Labs 和 UKP Lab 发布 SetFit，一种用于 Sentence Transformers 的高效少样本微调框架。
推荐理由：Hugging Face 发布 SetFit 框架，通过两阶段微调实现无需提示词的高效少样本学习，并附完整代码教程。
Hugging Face Blog精选AI 评分6565 Stable Diffusion with Diffusers
Hugging Face发布教程，演示如何使用Diffusers库运行Stable Diffusion模型生成图像，并深入解析了VAE、U-Net和Text-Encoder等核心组件的推理流程。
推荐理由：文章提供了基于Diffusers库的Stable Diffusion实操代码，并详细解析了VAE、U-Net等核心组件的推理流程。
Hugging Face Blog精选AI 评分6868 Hugging Face 将 LLM.int8() 集成至 transformers 库
Hugging Face 将 LLM.int8() 8-bit 量化技术集成至 transformers 和 accelerate 库，使 BLOOM-176B 等超大模型显存占用减半且性能无退化。该方案通过分离异常值计算，在 Turing 和 Ampere 架构 GPU 上实现高效推理。
推荐理由：官方将LLM.int8()集成至transformers库，提供降低显存占用且保持性能的方法与代码示例。
Hugging Face Blog精选AI 评分7777 Hugging Face 发布全球最大开源多语言大模型 BLOOM
Hugging Face 发布全球最大开源多语言大语言模型 BLOOM，拥有 1760 亿参数，支持 46 种自然语言和 13 种编程语言。该模型由 1000 多名研究人员历时 117 天训练完成，首次开源了完整的训练检查点和优化器状态，并提供基于 TPU 的推理 API 供社区测试。
推荐理由：开源了1760亿参数多语言模型及训练检查点，为研究大模型内部机制提供了完整的透明数据。
Hugging Face Blog精选AI 评分6060 使用 PyTorch FSDP 加速大模型训练
Hugging Face 发布教程介绍如何使用 Accelerate 库集成 PyTorch Fully Sharded Data Parallel (FSDP) 训练大模型。实测显示 FSDP 相比 DDP 可将最大批量提升 2-3 倍，并支持 CPU Offload 在单卡运行 1.5B 模型。文章同时指出 FSDP 目前不支持混合精度，并强调需先准备模型再创建优化器以避免参数组丢失。
推荐理由：文章通过 GPT-2 实测对比 DDP 与 FSDP，给出显存节省与批量提升数据，提供可直接复用的配置与代码规范。