Hugging Face 发布 TRL 与 PEFT 集成,实现消费级显卡微调 20B 大模型
Hugging Face 官方发布 TRL 与 PEFT 的集成,利用 8-bit 量化和 LoRA 适配器,在 24GB 显存的消费级 GPU 上成功微调了 20B 参数的 GPT-NeoX 模型。
推荐理由:官方发布TRL与PEFT集成方案,展示在消费级显卡上微调20B模型的技术路径。
Hugging Face 官方发布 TRL 与 PEFT 的集成,利用 8-bit 量化和 LoRA 适配器,在 24GB 显存的消费级 GPU 上成功微调了 20B 参数的 GPT-NeoX 模型。
推荐理由:官方发布TRL与PEFT集成方案,展示在消费级显卡上微调20B模型的技术路径。
Kakao Brain 与 Hugging Face 联合发布首个开源 ALIGN 模型及 7 亿图文对 COYO 数据集。该模型在多项任务上表现媲美 Google 原版,且训练数据完全公开,支持零样本图像分类与多模态嵌入提取。
Hugging Face 发布教程介绍如何在 Diffusers 中使用 StableDiffusionControlNetPipeline,涵盖边缘、姿态等多种条件控制及多条件组合方法,并演示了通过优化调度器、CPU卸载和xformers实现推理加速与显存节省。
推荐理由:文章详细演示了Diffusers中ControlNet的集成与优化技巧,提供可复用的代码与性能调优方案。
志愿者团队利用 Hugging Face 平台构建 afetharita 应用,协助土耳其地震搜救。团队使用 easyocr 和微调后的 bert-base-turkish-cased 模型提取幸存者信息,并通过 Inference API 部署模型。此外,团队利用 NLI 模型和 Argilla 标注界面优化需求分类与实体识别,确保数据准确入库。
Hugging Face 专家加速项目协助 Witty Works 开发包容性写作助手,解决上下文依赖词汇检测难题。团队采用 Sentence Transformers 架构结合 SetFit 库,仅需 15-20 条标注样本即可完成微调。最终部署 mpnet-base-v2 模型,实现低延迟实时建议。
Hugging Face 发布 Diffusers for Mac 1.1,将扩散模型转换为 Core ML 以利用 Apple Silicon 硬件加速。性能测试显示 M1 Max 使用 GPU 最快,标准 M1 使用 ANE 更快,新版本会自动选择最佳加速器。
推荐理由:官方发布 Swift 原生应用并给出多芯片性能数据,可据此判断端侧生成效率。
Fetch 利用 Hugging Face 和 AWS 构建自有 AI 工具,将开发时间缩短 30%。该方案处理超过 1100 万张收据,处理延迟降低 50%。
我们已将部分机器学习推理模型从 AWS ECS 迁移至 Hugging Face Inference Endpoints,以简化部署流程并降低认知负荷。测试显示,Hugging Face 的 RoBERTa 微调模型在大型实例上的延迟低至 80ms,比 ECS 方案快两倍以上。虽然成本增加了 24% 至 50%,但节省的运维时间远超差价。
Salesforce Research 发布的 BLIP-2 模型现已集成至 Hugging Face Transformers,支持图像描述、提示词图像描述、视觉问答及基于聊天的提示。该模型通过轻量级 Q-Former 桥接视觉与语言模型,仅需微调该组件即可利用冻结的预训练视觉编码器和 LLM,显著降低训练成本。
SpeechT5 正式集成至 Hugging Face Transformers,该模型支持语音合成、自动语音识别及语音转换。其基于 Transformer 编码器-解码器架构,通过预训练共享文本与语音的隐藏表示空间。用户可通过安装 GitHub 版本并加载 `microsoft/speecht5_tts` 模型进行文本到语音的生成。
本文介绍利用 ChatGPT 为农场游戏生成故事内容的方法与限制。语言模型易复制现有故事并产生重复,直接商用存在法律与伦理风险。建议将 AI 用于构思大纲或细节补充,最终内容需人工撰写以确保原创性。
Hugging Face 推出 AI vs. AI 深度强化学习多智能体竞赛系统,通过 ELO 评分机制对提交至 Hub 的模型进行相对实力排名。该系统利用 Spaces 运行匹配算法并生成排行榜,首个挑战为 SoccerTwos Challenge。
本文测试了基于 Intel Sapphire Rapids 架构的服务器在运行 Hugging Face PyTorch Transformers 推理时的性能。
视觉-语言模型通过结合图像和文本编码器,利用对比学习、PrefixLM、交叉注意力融合及 MLM/ITM 等策略进行预训练,以实现零样本泛化。Hugging Face 博客介绍了这些核心训练方法,并展示了如何利用 🤗 Transformers 库进行实验。
Hugging Face Hub 已支持图像分类、分割等 8 项核心视觉任务,收录超 3000 个模型与 100 个数据集。Transformers 库提供 Pipelines 推理接口及 Trainer 微调 API,并集成 timm、Diffusers 等第三方库。平台还涵盖 CLIP 等零样本模型支持及 ImageNet-1k 等数据集加载指南。
Stable Diffusion 的 Image2Image 功能可作为辅助工具融入传统 2D 工作流,通过调整 denoising strength 参数控制模型对输入图像的创意修改程度。
Hugging Face Diffusers 正式支持 Stable Diffusion 的 LoRA 微调,训练仅需 11 GB 显存,生成的权重文件仅约 3 MB。该功能支持 Dreambooth 和全量微调,并内置自动记录基础模型元数据以简化推理加载。
推荐理由:Diffusers 原生支持 LoRA 大幅降低显存需求并生成极小权重文件,便于模型分享与复用。
本文梳理 ChatGPT、LaMDA、BlenderBot 等对话智能体的技术细节,指出指令遵循(IFT)与监督微调(SFT)是核心共性。文章详细解析了基于人类标注与模型引导的数据构建方法,并探讨了 RLHF 等对齐技术在确保模型安全与有用性方面的关键作用。
当前文本生成 3D 技术尚未达到实用化标准,无法直接用于游戏开发。尽管 DreamFusion、Point-E 等研究在视图合成方面取得进展,但生成的资产仍需大量后期处理才能就绪。作者建议暂时使用基础几何体代替,并关注 NeRF 转网格或引擎内直接渲染等未来方向。
文章演示了如何利用Hugging Face Datasets和Transformers库构建图像相似度检索系统。通过加载预训练视觉模型提取图像嵌入向量,并使用余弦相似度计算查询图像与候选图像的匹配度。文中提供了完整的Python代码示例,并介绍了使用FAISS进行高效索引和检索的扩展方法。
本文介绍如何使用 ChatGPT 辅助游戏设计,通过提示词获取关于作物多样性、进度系统和社交功能等核心玩法的建议。文章解析了基于 Transformer 架构和 RLHF 技术的语言模型原理,并指出模型虽能加速头脑风暴,但存在幻觉风险,不应作为确定的知识库。
本文介绍图机器学习的基础知识,涵盖图的定义、表示方法及应用场景。图由节点和边组成,可用于药物发现、推荐系统等任务。文中还简要介绍了图神经网络及基于 Transformer 的图学习方法。
Hugging Face 发布系列教程,展示如何利用 AI 工具在 5 天内开发一款功能完整的农场游戏。教程首日演示使用 Stable Diffusion 1.5 生成等距视角的概念艺术,并指导在 Unity 2021.9.3f1 中搭建场景。该指南面向熟悉 C# 的开发者,涵盖从艺术风格设定到引擎集成的完整工作流。
Intel 发布第四代 Xeon CPU Sapphire Rapids,引入 AMX 指令集以加速深度学习矩阵运算。Hugging Face 博客演示了结合 Intel IPEX 和 CCL 库,在 AWS 上利用 r7iz.metal-16xl 裸金属实例集群,无需修改代码即可实现 PyTorch 分布式训练加速。
Hugging Face 发布 Model Card Creator 工具及模型卡指南,旨在降低文档创建门槛并促进跨角色协作。该工具提供图形界面,无需编程即可生成模型卡,并配套更新版模板、带注释的填写指南及用户研究报告。此举旨在通过标准化结构和默认提示文本,提升机器学习模型文档的可访问性与包容性。
Hugging Face Datasets 提供一行 Python 代码即可下载和准备音频数据集的功能。通过 Hub 平台可浏览并试听 Common Voice 等数据集,利用 load_dataset 函数可轻松加载 GigaSpeech 等数据。该工具支持流式模式,简化了音频数据的预处理流程。
Hugging Face 发布《伦理与社会通讯》第2期,探讨机器学习中的偏见问题。文章指出模型作为社会技术系统会放大社会趋势,需通过工具和分析在开发全流程中应对。内容涵盖从任务定义到模型训练各阶段的偏见缓解策略及社区开发的相关工具。
Habana Gaudi2 在模型训练和推理速度上约为 Nvidia A100 80GB 的两倍。在 BERT 预训练中,Gaudi2 相比初代 Gaudi 提速 3.04 倍,相比 A100 提速 1.89 倍。在 Stable Diffusion 推理中,Gaudi2 延迟比 A100 低 2.84 倍,且支持更大批量处理。
Hugging Face 官方提供 Stable Diffusion Core ML 转换权重,让 Apple Silicon 用户能直接调用并本地运行。支持 v1.4、v1.5 及 v2 系列模型,提供 Python 和 Swift 两种推理方式,并附带自定义模型转换脚本。
推荐理由:Hugging Face 官方提供 Stable Diffusion Core ML 转换权重,让 Apple Silicon 用户能直接调用并本地运行。
🤗 Transformers 库内置了 Time Series Transformer 模型,用于单变量时间序列的概率预测。该模型采用 Encoder-Decoder 架构,支持通过祖先采样生成预测分布,并能处理缺失值。文章以澳大利亚旅游数据集为例,演示了如何结合 GluonTS 进行数据预处理与模型训练。
VQ-Diffusion 是由中国科学技术大学和微软开发的条件潜在扩散模型,其噪声和去噪过程在由离散向量组成的量化潜在空间中进行。该模型使用冻结权重的 VQ-VAE 将图像编码为离散 token,并通过预训练的 CLIP 文本编码器和解码器 Transformer 实现条件生成。
Hugging Face 宣布启动 2023 年实习生项目,提供 Accelerate、Text to Speech、Embodied AI 等多个岗位。申请者需通过 Hugging Face 账号在招聘门户提交申请,项目强调多元化与包容性,鼓励来自不同背景及边缘群体的人才加入。
Hugging Face 发布机器学习总监洞察系列第四期,收录 Javier Mansilla、Shaun Gittens 等四位总监的行业见解。Mercado Libre 总监 Javier Mansilla 分享了机器学习在电商领域的应用,涵盖欺诈预防、推荐系统及基础设施优化,并指出需关注用户体验与长期技术债务。
本文解析了文档 AI 的六大用例及对应的开源模型方案。LayoutLMv3 在 PubLayNet 基准测试中 mAP 达 0.951,LayoutLM 在 FUNSD 基准上 F1 分数达 90%。文章涵盖 OCR、文档分类、布局分析及解析等任务,指导利用开源模型构建自定义解决方案。
Hugging Face 在 transformers 库中引入了对比搜索(Contrastive Search)解码方法,该方法在 NeurIPS 2022 上提出,旨在生成人类水平的文本。
Hugging Face 宣布停用 Inference API 的付费层级,推荐用户转向新推出的 Inference Endpoints 以获取企业级推理服务。平台同步升级了 Spaces 的硬件选项,用户只需绑定信用卡即可按需选择硬件运行 ML 演示。所有付费服务及 PRO 订阅费用将于每月月初统一结算并提供合并发票。
Hugging Face发布基于Diffusers训练Stable Diffusion的Dreambooth技巧。推荐低学习率(如1e-6)配合较多训练步数(人脸约1200步)以避免过拟合;微调文本编码器可显著提升质量,但需24GB显存;过拟合时改用DDIM调度器并增加推理步数能改善效果。
推荐理由:原文基于大量实验给出了Dreambooth微调Stable Diffusion的具体超参数建议和避坑指南。
Hugging Face 发布指南,演示如何使用 🤗 Transformers 微调 Whisper 模型进行多语言自动语音识别。文章以 244M 参数的 small 检查点为例,利用 Common Voice 数据集在低资源语言上仅需 8 小时微调数据即可实现高性能。
Hugging Face 宣布 Optimum Intel 集成 Intel OpenVINO,支持在 Intel 处理器上对 Transformers 模型进行推理与量化。以 ViT 模型为例,量化后模型体积缩小 3.8 倍,推理延迟降低 2.4 倍。
推荐理由:Hugging Face 官方宣布集成 OpenVINO,提供一键量化与推理工具,可显著降低模型体积与延迟。
Hugging Face 发布 MTEB 大规模文本嵌入模型评测基准,涵盖 56 个数据集和 8 个任务,支持 112 种语言。该基准提供排行榜和 Python 库,用户可便捷地对模型进行基准测试并提交结果。
推荐理由:MTEB 提供了涵盖多语言和多任务的文本嵌入模型统一评测框架,方便开发者快速选型。