跳到正文

Hugging Face

Hugging Face 开源社区动态:热门模型与数据集、排行榜变化与开源生态的晴雨表。

最新精选

第 341–360 条 · 共 384 条
8月22日周二
  1. Hugging Face Blog72

    Hugging Face 开源 IDEFICS 多模态模型,复现 DeepMind Flamingo 能力

    Hugging Face 发布开源多模态模型 IDEFICS,复现 DeepMind 未公开的 Flamingo 架构,支持任意图文序列输入并生成文本。模型提供 9B 和 80B 两种参数规模,以及针对对话场景微调的指令版本,基于 LLaMA v1 和 OpenCLIP 构建,使用公开数据及自研 OBELICS 数据集训练。

    推荐理由:开源复现 DeepMind Flamingo 架构,提供 9B 和 80B 两种参数规模及指令微调版,支持图文序列输入。

8月9日周三
  1. Hugging Face Blog68

    使用Transformers优化Bark语音生成模型

    本文演示了如何利用Hugging Face生态中的BetterTransformer、半精度和CPU卸载技术优化Bark语音生成模型。结合这三种优化手段,Bark-large的显存占用可从5GB降至2GB,推理速度提升约23%。

    推荐理由:原文给出了结合BetterTransformer、半精度和CPU卸载的具体代码,读者可直接复用以显著降低Bark模型的显存占用并提升推理速度。

8月8日周二
  1. Hugging Face Blog68

    Hugging Face 发布 Swift Transformers 工具链,支持在 Apple 设备上运行 LLM

    Hugging Face 发布 Swift Transformers 工具链,包含 swift-transformers 库、swift-chat 演示应用及 Core ML 转换工具,支持在 Apple 设备上本地运行 Llama 2 等大语言模型。

    推荐理由:Hugging Face 发布 Swift Transformers 工具链,提供从模型转换到本地推理的完整方案,降低端侧部署门槛。

7月27日周四
  1. Hugging Face Blog72

    Stable Diffusion XL 支持 Core ML 混合位量化,可在 Mac 端侧运行

    Hugging Face 与 Apple 联合发布 Stable Diffusion XL 的 Core ML 版本,支持在 Mac 端侧运行。引入混合位调色板量化技术,将模型体积从 4.8 GB 压缩至 1.4 GB,同时保持较高生成质量。

    推荐理由:提供了混合位调色板量化技术,在显著压缩模型体积的同时保持生成质量,支持在 Mac 端侧高效运行。

7月24日周一
  1. Hugging Face Blog68

    Hugging Face 发布 Agents.js 库

    Hugging Face 发布 Agents.js,这是一个面向 JavaScript 的库,用于在浏览器或服务器端为 LLM 提供工具访问能力。该库内置多模态工具,支持自定义 LLM 和工具,并允许传入文件作为输入。

    推荐理由:Hugging Face 发布面向 JavaScript 的 Agent 库,提供开箱即用的多模态工具与自定义扩展能力。

7月18日周二
  1. Hugging Face Blog95

    Meta发布Llama 2开源大模型家族

    Meta发布Llama 2开源大模型家族,包含7B、13B和70B参数量的预训练及对话微调模型,采用宽松许可允许商用。Hugging Face提供完整集成支持,包括Transformers推理、Inference Endpoints部署及基于PEFT的单卡微调方案。

    推荐理由:Meta发布Llama 2并提供Hugging Face集成与微调指南,为开源替代闭源模型提供了具体路径。

7月17日周一
7月5日周三
  1. Hugging Face Blog75

    使用 Transformers.js 在浏览器中构建 ML 驱动的 Web 游戏

    Hugging Face 发布教程,展示如何使用 Transformers.js 和 MobileViT 模型在浏览器中构建实时绘图识别游戏 Doodle Dash。文章涵盖模型微调、ONNX 转换、Web Worker 推理及游戏逻辑实现,并提供了完整源码。

    推荐理由:原文提供了在浏览器端部署MobileViT模型并构建实时绘图识别游戏的完整代码与流程。

6月23日周五
  1. Hugging Face Blog70

    Open LLM Leaderboard MMLU 评估差异解析

    Hugging Face 博客解析 Open LLM Leaderboard 中 MMLU 分数与 LLaMA 论文不符的原因,对比了 EleutherAI Harness、HELM 和原始实现的差异,指出 Prompt 和概率计算方式不同导致分数不可直接比较,并宣布将更新 Harness 以匹配原始实现。

    推荐理由:原文通过对比三种MMLU实现,揭示了评估细节如何导致分数差异,帮助读者理解开源基准的可复现性。

6月19日周一
  1. Hugging Face Blog75

    使用MMS Adapter微调低资源语音识别模型

    Hugging Face发布教程,展示如何使用MMS Adapter技术微调低资源语音识别模型。通过仅训练约2.5M权重的Adapter层,在Common Voice土耳其语数据集上仅需4小时数据和4个epoch即可达到优异效果。

    推荐理由:提供基于MMS Adapter的少样本语音识别微调代码,展示如何用极小数据量实现高效适配。

6月15日周四
  1. Hugging Face Blog70

    Hugging Face 发布支持 6-bit 量化的 Stable Diffusion Core ML 模型

    Hugging Face 发布了四个官方 Stable Diffusion 模型的 6-bit palettized 版本,支持在 iPhone、iPad 和 Mac 上更高效地运行。配合更新的 coremltools 和 ml-stable-diffusion 仓库,开发者可轻松转换自定义模型并享受更低的内存占用与更快的推理速度。

    推荐理由:提供了6-bit量化模型下载与转换代码,帮助开发者在苹果设备上高效部署图像生成模型。

6月12日周一
6月5日周一
  1. Hugging Face Blog86

    Hugging Face 发布 Falcon 开源大语言模型

    阿布扎比技术创新研究所(TII)发布 Falcon-7B 和 Falcon-40B 开源大语言模型,采用 Apache 2.0 协议。Falcon-40B 在 Open LLM Leaderboard 上排名第一,以 2800 PF-days 算力超越 LLaMA-65B。

    推荐理由:Falcon 40B 以较低算力成本在基准测试中超越 LLaMA-65B,展示了多查询注意力与 RefinedWeb 数据的高效性。

5月24日周三
  1. Hugging Face Blog88

    Hugging Face 整合 4-bit 量化与 QLoRA 技术

    Hugging Face 在 transformers 中整合了 bitsandbytes 的 4-bit 量化与 QLoRA 技术,支持在消费级 GPU 上运行和微调大模型。QLoRA 通过 4-bit NormalFloat 存储和双重量化降低显存占用,使单卡微调 65B 参数模型成为可能。

    推荐理由:官方整合了4-bit量化与QLoRA技术,提供了在消费级硬件上运行和微调大模型的完整工具链。

5月23日周二
  1. Hugging Face Blog65

    Safetensors 通过安全审计并将在 Transformers 中成为默认格式

    Hugging Face 联合 EleutherAI 和 Stability AI 宣布 safetensors 库已通过 Trail of Bits 的安全审计,确认无导致任意代码执行的严重漏洞。该库将作为核心依赖加入 Transformers 并设为默认保存格式,提供比 pickle 更安全且加载速度更快的张量存储方案。

    推荐理由:官方联合第三方完成安全审计并宣布将其设为默认格式,为模型加载提供了安全与性能保障。

5月15日周一
  1. Hugging Face Blog70

    RWKV架构正式集成至Hugging Face transformers库

    Hugging Face宣布将RWKV架构正式集成至transformers库,该架构结合了RNN的推理效率与Transformer的训练优势。目前提供169M至14B参数的预训练模型及RWKV-4 Raven对话模型,并附带权重转换脚本。

    推荐理由:RWKV架构正式集成至Hugging Face transformers库,提供从预训练到Chat微调的多种模型及权重转换工具。

5月11日周四
  1. Hugging Face Blog78

    Hugging Face 推出辅助生成技术降低文本生成延迟

    Hugging Face 在 Transformers 库中引入辅助生成(Assisted Generation)技术,利用小模型生成候选 token 并由大模型验证,从而减少前向传播次数。该方法在模型显存不足需卸载时最高可实现 10 倍加速,在显存充足时也可获得 2 至 3 倍加速,且支持贪婪解码与采样。

    推荐理由:Hugging Face 在 Transformers 中引入辅助生成技术,通过小模型辅助大模型解码,显著降低文本生成延迟。

5月9日周二
  1. Hugging Face Blog73

    Hugging Face 发布 StarChat Alpha 编程助手

    Hugging Face 发布基于 StarCoder 微调的编程助手 StarChat Alpha,采用 ChatML 格式与 OpenAssistant 数据集训练,提供代码、数据集及模型下载。

    推荐理由:文章展示了基于StarCoder微调出StarChat Alpha的过程,提供了ChatML格式和DeepSpeed训练代码供开发者复用。

5月4日周四
  1. Hugging Face Blog82

    StarCoder 发布:面向代码的大语言模型

    Hugging Face 发布 StarCoder 和 StarCoderBase 代码大语言模型,在 HumanEval 等基准上达到开源 SOTA。模型基于 The Stack 数据集训练,提供完整训练数据、PII 移除工具及 BigCode OpenRAIL-M 许可证。

    推荐理由:模型在HumanEval等基准上达到开源SOTA,提供完整训练数据与治理工具,适合二次开发。

4月26日周三