最新精选
第 121–128 条 · 共 128 条- Hugging Face Blog精选AI 评分6868
Hugging Face 在 Transformers 库中上线了 Mask2Former 和 OneFormer 两个通用图像分割模型。文章详细解释了实例、语义和全景分割的区别,介绍了基于 Transformer 解码器的统一架构原理,并提供了在 Transformers 中进行推理和微调的代码示例。
推荐理由:文章系统梳理了通用图像分割架构的演进,并提供了 Mask2Former 和 OneFormer 在 Transformers 中的推理与微调代码示例。
- Hugging Face Blog精选AI 评分6565
Hugging Face 发布图解文章,详细拆解了人类反馈强化学习(RLHF)的三个核心步骤:预训练语言模型、基于人类偏好训练奖励模型、以及使用 PPO 进行强化学习微调。文章还介绍了 TRL、TRLX 和 RL4LMs 等开源工具,并探讨了 RLHF 在数据成本和算法优化方面的局限性。
推荐理由:原文拆解了RLHF三步流程与开源工具,为理解ChatGPT背后的技术提供了清晰的入门路径。
- Hugging Face Blog精选AI 评分7575
Hugging Face发布基于Diffusers训练Stable Diffusion的Dreambooth技巧。推荐低学习率(如1e-6)配合较多训练步数(人脸约1200步)以避免过拟合;微调文本编码器可显著提升质量,但需24GB显存;过拟合时改用DDIM调度器并增加推理步数能改善效果。
推荐理由:原文基于大量实验给出了Dreambooth微调Stable Diffusion的具体超参数建议和避坑指南。
- Hugging Face Blog精选AI 评分6565
Hugging Face 详解 Accelerate 如何利用 PyTorch meta device 和分片加载技术,在有限 RAM 和 GPU 的硬件上运行 OPT-6.7B 等超大模型。
推荐理由:详解利用meta device与分片加载在消费级硬件运行超大模型的技术路径。
- Hugging Face Blog精选AI 评分6868
Hugging Face 联合 Intel Labs 和 UKP Lab 发布 SetFit,一种用于 Sentence Transformers 的高效少样本微调框架。
推荐理由:Hugging Face 发布 SetFit 框架,通过两阶段微调实现无需提示词的高效少样本学习,并附完整代码教程。
- Hugging Face Blog精选AI 评分6565
Hugging Face发布教程,演示如何使用Diffusers库运行Stable Diffusion模型生成图像,并深入解析了VAE、U-Net和Text-Encoder等核心组件的推理流程。
推荐理由:文章提供了基于Diffusers库的Stable Diffusion实操代码,并详细解析了VAE、U-Net等核心组件的推理流程。
- Hugging Face Blog精选AI 评分6060
Hugging Face 发布教程介绍如何使用 Accelerate 库集成 PyTorch Fully Sharded Data Parallel (FSDP) 训练大模型。实测显示 FSDP 相比 DDP 可将最大批量提升 2-3 倍,并支持 CPU Offload 在单卡运行 1.5B 模型。文章同时指出 FSDP 目前不支持混合精度,并强调需先准备模型再创建优化器以避免参数组丢失。
推荐理由:文章通过 GPT-2 实测对比 DDP 与 FSDP,给出显存节省与批量提升数据,提供可直接复用的配置与代码规范。
- Hugging Face Blog精选AI 评分6868
本文介绍如何使用Hugging Face生态工具,基于自定义数据集微调SegFormer语义分割模型。内容涵盖数据集加载、图像预处理、使用Trainer API进行训练配置与评估,以及模型上传与推理部署的完整流程。
推荐理由:提供了基于Hugging Face生态微调SegFormer的完整代码与配置,可直接复用于自定义视觉分割任务。