非工程师指南：训练 LLaMA 2 聊天机器人
Hugging Face 发布教程，指导非工程师使用 Spaces、AutoTrain 和 ChatUI 训练 LLaMA 2 聊天机器人。通过 GUI 界面，用户无需编写代码即可利用 Alpaca 指令微调数据集对 Llama 2 7b 模型进行微调，并部署为可分享的聊天应用。
全部AI 动态
全部动态
今日 42 条Hugging Face BlogAI 评分4040
Mistral AI精选AI 评分9090 Mistral AI 发布 Mistral 7B 开源模型
Mistral AI 发布 Mistral 7B，这是一个 7.3B 参数的大语言模型，采用分组查询注意力（GQA）和滑动窗口注意力（SWA）技术。该模型在 Apache 2.0 协议下开源，在多项基准测试中表现优于 Llama 2 13B，接近 Llama 1 34B 水平，并在代码和推理任务上展现出显著优势。
推荐理由：开源了7.3B参数模型并采用SWA与GQA技术，在多项基准上超越Llama 2 13B，兼顾了性能与推理效率。
Hugging Face BlogAI 评分4242 Llama 2 在 Amazon SageMaker 上的基准测试
Hugging Face 对 Llama 2 在 Amazon SageMaker 上的 60 种部署配置进行了基准测试，评估了 7B、13B 和 70B 参数规模模型在不同 EC2 实例和负载下的延迟与吞吐量。测试涵盖 GPTQ 4-bit 量化技术，旨在为最具成本效益、最佳延迟和最佳吞吐量场景提供优化策略。
Hugging Face BlogAI 评分4343 Hugging Face 推出 Inference for PROs
Hugging Face 推出 Inference for PROs，为付费用户提供精选模型的专属 API 端点及更高速率限制。该服务支持 Meta Llama 3、Mixtral 8x7B 等模型，利用 text-generation-inference 实现极速推理。PRO 用户可借此便捷地进行原型开发与测试，无需自行部署基础设施。
Hugging Face BlogAI 评分1313 Rocket Money 携手 Hugging Face 实现 ML 模型规模化生产部署
Rocket Money 选择 Hugging Face Inference API 替代原有正则系统，以支撑其个人理财应用中超过 4000 个类别的交易分类任务。该方案成功应对了每月 1 亿笔交易的突发负载，实现了动态扩展与低延迟推理。经过三个月评估，Rocket Money 确认该服务具备高可用性，并与其建立了紧密的技术合作伙伴关系。
Hugging Face BlogAI 评分5252 使用PyTorch FSDP微调Llama 2 70B的教程
Hugging Face发布教程，展示如何利用PyTorch FSDP在2节点A100集群上微调Llama 2 70B。文章解决了加载模型时的CPU内存溢出、中间检查点保存耗时及VRAM不足三大挑战，通过Flash Attention和梯度检查点等技术实现高效训练。
Hugging Face Blog精选AI 评分7272 Hugging Face 发布高效图像生成模型 Würstchen
Hugging Face 发布高效图像生成模型 Würstchen，通过42倍空间压缩实现比 SDXL 更快的推理速度与更低的显存占用。该模型在 Diffusers 库中集成，支持 PyTorch 2.0 SDPA 加速与 torch.compile 优化，并提供多种显存节省策略。
推荐理由：通过42倍极端压缩显著降低训练与推理成本，为资源受限场景提供高效图像生成方案。
Hugging Face BlogAI 评分3333 SafeCoder 与闭源代码助手对比
Hugging Face 发布 SafeCoder，基于 155 亿参数的 StarCoder 模型提供企业级代码辅助。该方案具备 8192-token 上下文窗口，支持在本地或云端通过 Docker 部署，实现完全的数据隐私与定制化微调。相比 GitHub Copilot 等闭源服务，SafeCoder 提供模型架构、训练数据及详细指标的透明度，并允许企业完全控制基础设施与合规性。
Hugging Face Blog精选AI 评分7575 Hugging Face Diffusers 支持 T2I-Adapter-SDXL 高效可控图像生成
Hugging Face Diffusers 团队与 T2I-Adapter 作者合作，正式支持适配 Stable Diffusion XL (SDXL) 的 T2I-Adapter。
推荐理由：提供了适配 SDXL 的轻量级控制模型及完整训练推理代码，便于在保持生成质量的同时降低显存与计算开销。
Hugging Face Blog精选AI 评分8383 Hugging Face 上线 Falcon 180B 开源大模型
Hugging Face 上线了 TII 发布的 180B 参数开源大语言模型 Falcon 180B，该模型在 3.5 万亿 token 上预训练，性能对标 PaLM-2 Large。文章提供了 Transformers 集成代码、量化部署方案及硬件需求参考。
推荐理由：Hugging Face 上线了 180B 参数开源模型，提供了量化部署指南与硬件需求，方便开发者评估与接入。
Hugging Face BlogAI 评分1515 Fetch 利用 Amazon SageMaker 与 Hugging Face 将 ML 处理延迟降低 50%
Fetch 利用 Amazon SageMaker 与 Hugging Face 优化机器学习流水线，将最慢扫描的延迟降低 50%。该方案通过 Amazon SageMaker Model Training 和 Processing 提升文档理解模型精度 200%，并借助 Hugging Face AWS Deep Learning Container 简化部署。
Hugging Face Blog精选AI 评分6868 AudioLDM 2 推理加速教程：速度提升十倍
Hugging Face 发布教程，展示如何通过 Flash Attention、半精度、Torch Compile 和高效调度器优化 AudioLDM 2，将 10 秒音频生成时间从 30 秒降至 1 秒。
推荐理由：原文提供了基于 Diffusers 的具体优化代码，可将 AudioLDM 2 推理速度提升十倍，读者可直接复现。
Hugging Face BlogAI 评分3333 Hugging Face Hub 登陆 AWS Marketplace：支持通过 AWS 账户统一支付
Hugging Face Hub 正式登陆 AWS Marketplace，用户现可通过 AWS 账户直接订阅并支付 Hugging Face 服务费用。该集成计费方式涵盖 Inference Endpoints、Spaces Hardware Upgrades 和 AutoTrain 等托管服务，支持组织内成员统一管理账单。
Hugging Face Blog精选AI 评分6868 使用Transformers优化Bark语音生成模型
本文演示了如何利用Hugging Face生态中的BetterTransformer、半精度和CPU卸载技术优化Bark语音生成模型。结合这三种优化手段，Bark-large的显存占用可从5GB降至2GB，推理速度提升约23%。
推荐理由：原文给出了结合BetterTransformer、半精度和CPU卸载的具体代码，读者可直接复用以显著降低Bark模型的显存占用并提升推理速度。
Hugging Face BlogAI 评分2828 BentoML 部署 DeepFloyd IF 实战指南
BentoML 通过定义 Service、构建 Bento 并部署至 Kubernetes 或 Yatai，实现 DeepFloyd IF 的高效生产级部署。DeepFloyd IF 采用三级级联像素扩散架构，利用 T5-XXL-1.1 编码提示词以增强复杂指令理解。该方案支持对 Stage 1 至 Stage 3 的 Runners 独立扩展资源，满足高并发推理需求。
Hugging Face Blog精选AI 评分7373 使用TRL库通过DPO微调Llama 2
Hugging Face发布TRL库中的DPO训练器，通过直接偏好优化算法简化大语言模型对齐流程。文章展示了结合QLoRA技术，使用stack-exchange偏好数据集对Llama 2 7B模型进行监督微调与DPO对齐的完整代码实现。
推荐理由：文章提供了TRL库中DPO训练器的代码实现与参数配置，可直接复现基于偏好数据的模型对齐流程。
Hugging Face Blog精选AI 评分6868 Hugging Face 发布 Swift Transformers 工具链，支持在 Apple 设备上运行 LLM
Hugging Face 发布 Swift Transformers 工具链，包含 swift-transformers 库、swift-chat 演示应用及 Core ML 转换工具，支持在 Apple 设备上本地运行 Llama 2 等大语言模型。
推荐理由：Hugging Face 发布 Swift Transformers 工具链，提供从模型转换到本地推理的完整方案，降低端侧部署门槛。
Hugging Face BlogAI 评分4040 利用全同态加密保护大语言模型隐私
Zama 提出利用全同态加密（FHE）技术，在保护用户查询隐私的同时维护模型知识产权。通过 Hugging Face transformers 库与 Concrete-Python，将 GPT2 的注意力机制适配至 TFHE 架构，实现加密数据上的模型推理。实验显示，采用 4-bit 量化后，模型在加密状态下仍能保持原始精度的 96%。
Hugging Face BlogAI 评分5555 实用3D资产生成：PS1风格工作流分步指南
本文介绍利用生成式AI结合Blender和Unity构建PS1风格3D资产的分步工作流。首先使用OpenAI的Shap-E模型通过文本生成3D模型，随后在Blender中通过Decimate降低多边形数量，利用Dream Textures插件生成无缝纹理，完成UV映射后导出至Unity，最终实现低精度复古风格的3D资产应用。
Hugging Face BlogAI 评分5353 Segmind 开源 SD-Small 和 SD-Tiny 知识蒸馏模型权重与代码
Segmind 开源了 SD-Small 和 SD-Tiny 两个压缩 Stable Diffusion 模型的权重及训练代码。这两个模型基于 Realistic-Vision 4.0 采用知识蒸馏技术训练，参数量分别减少 35% 和 55%，推理速度最高提升 100%。
Hugging Face Blog精选AI 评分7272 Stable Diffusion XL 支持 Core ML 混合位量化，可在 Mac 端侧运行
Hugging Face 与 Apple 联合发布 Stable Diffusion XL 的 Core ML 版本，支持在 Mac 端侧运行。引入混合位调色板量化技术，将模型体积从 4.8 GB 压缩至 1.4 GB，同时保持较高生成质量。
推荐理由：提供了混合位调色板量化技术，在显著压缩模型体积的同时保持生成质量，支持在 Mac 端侧高效运行。
Hugging Face BlogAI 评分3737 Hugging Face 联合多家机构就欧盟 AI 法案提出关于开放机器学习的五点建议
Hugging Face 联合 Creative Commons、Eleuther AI、GitHub、LAION 和 Open Future 发布联合立场文件，旨在推动欧盟 AI 法案更好地适应开放、模块化和协作式机器学习开发的需求。
Hugging Face Blog精选AI 评分6868 Hugging Face 发布 Agents.js 库
Hugging Face 发布 Agents.js，这是一个面向 JavaScript 的库，用于在浏览器或服务器端为 LLM 提供工具访问能力。该库内置多模态工具，支持自定义 LLM 和工具，并允许传入文件作为输入。
推荐理由：Hugging Face 发布面向 JavaScript 的 Agent 库，提供开箱即用的多模态工具与自定义扩展能力。
Hugging Face BlogAI 评分2828 Hugging Face 首届开源 AI 游戏开发黑客松结果揭晓
Hugging Face 首届开源 AI 游戏开发黑客松从 88 份作品中评选出优胜作品。ohmlet 开发的《Snip It》凭借使用 Stable Diffusion 生成资产获得冠军。该活动展示了 Stable Diffusion、MusicGen 等开源工具在游戏开发中的创新应用。
Hugging Face BlogAI 评分3535 🤗 Diffusers 发布一周年回顾
🤗 Diffusers 库迎来发布一周年，回顾其在社区支持下拓展的多项核心功能。新增 DeepFloyd IF 和 SDXL 等高分辨率图像生成支持，并引入 VideoFusion 和 Shap-E 实现文本到视频及 3D 模型生成。同时集成 Consistency Models 加速推理，提供 PyTorch 2.0 优化及安全检测组件。
Hugging Face Blog精选AI 评分9595 Meta发布Llama 2开源大模型家族
Meta发布Llama 2开源大模型家族，包含7B、13B和70B参数量的预训练及对话微调模型，采用宽松许可允许商用。Hugging Face提供完整集成支持，包括Transformers推理、Inference Endpoints部署及基于PEFT的单卡微调方案。
推荐理由：Meta发布Llama 2并提供Hugging Face集成与微调指南，为开源替代闭源模型提供了具体路径。
Hugging Face Blog精选AI 评分6868 Hugging Face 发布 AI WebTV 技术实现与开源实践
Hugging Face 发布 AI WebTV 实验性演示，展示了如何结合 Zeroscope 视频生成模型与 MusicGen 音乐模型构建自动化视频直播流。
推荐理由：文章详细拆解了利用Zeroscope和MusicGen构建自动化视频直播的技术架构与代码实现，提供了可复用的工程实践。
Hugging Face BlogAI 评分3232 Hugging Face 开源文本生成与大语言模型生态概览
Hugging Face 发布文章梳理开源文本生成与大语言模型生态。Llama 2 在多项基准测试中超越其他开源模型，BLOOM 参数量超 GPT-3，StarCoder 专注代码补全。开源模型助力企业保护数据、降低成本并适配特定领域。
Hugging Face BlogAI 评分3131 在 Intel Sapphire Rapids CPU 集群上微调 Stable Diffusion 模型
Hugging Face 展示了如何在 Intel Sapphire Rapids CPU 集群上微调 Stable Diffusion 模型。通过利用 AMX 硬件加速、oneCCL 和 Intel Extension for PyTorch (IPEX)，结合 textual inversion 技术，仅需少量示例图片即可完成训练。
Hugging Face BlogAI 评分4242 使用开源 ML 模型构建 Web 应用生成器
本文介绍利用 Node.js 和 Hugging Face Inference Endpoints API 构建 Web 应用生成器的教程。以 WizardCoder-15B 模型为例，通过流式传输 HTML 内容实现文本到网页的生成。文章详细讲解了项目初始化、API 配置、提示词优化及防止模型幻觉的方法。
Hugging Face BlogAI 评分1212 利用 Hugging Face 应对复杂生成式 AI 用例
Writer 联合创始人兼 CTO Waseem Alshikh 分享了公司从 Hugging Face 用户转变为开源模型贡献者的历程。Writer 探讨了生成式 AI 的常见误解，并介绍了 Hugging Face Expert Acceleration Program 对其业务的价值。此外，文章还讨论了在 CPU 和 GPU 上大规模服务 LLM 的生产方法以及效率的重要性。
Hugging Face BlogAI 评分3232 Optimum Habana v1.7 加速 BridgeTower 微调：Habana Gaudi2 性能超越 A100 与 H100
Optimum Habana v1.7 在 Habana Gaudi2 上微调 BridgeTower 模型，相比 Nvidia A10 A100 实现 2.5 倍加速，相比 H100 实现 1.4 倍加速。该性能提升依赖于硬件加速的数据加载技术，通过增加 dataloader_num_workers 有效缓解了图像解码与增强带来的 CPU 瓶颈。
Hugging Face BlogAI 评分2525 Hugging Face 就美国 NTIA 人工智能问责政策征求意见提交回复
Hugging Face 向美国商务部 NTIA 提交关于人工智能问责政策的回复，强调文档与透明度规范在推动问责中的核心作用。Hugging Face 建议问责机制应覆盖机器学习开发全流程，结合内部规范与外部透明访问，并邀请开发者、研究人员及政策制定者等广泛利益相关方参与。
Hugging Face BlogAI 评分3838 Transformer 在时间序列预测中有效吗？（附 Autoformer）
Autoformer 模型现已在 🤗 Transformers 库中提供。该模型通过分解层和自相关机制，在 Traffic、Exchange-Rate 和 Electricity 数据集上的 MASE 指标均优于 DLinear 模型。
Hugging Face BlogAI 评分2222 将 Livebook 笔记本部署为 Hugging Face Spaces 应用
Livebook 笔记本现可直接部署为 Hugging Face Spaces 应用。该集成支持通过 Whisper 模型构建多人语音聊天应用，并实现并发模型服务。用户可借助 Bumblebee 和 tokenizers 等库，在 Spaces 中免费运行交互式代码笔记本。
Hugging Face BlogAI 评分2222 Hugging Face 发布新版内容指南与政策
Hugging Face 发布新版内容政策，旨在维护开放、协作且负责任的机器学习社区环境。新规强调“同意”为核心价值，规范用户身份与隐私保护，并禁止针对用户及员工的攻击性语言。平台鼓励通过社区标签页进行透明讨论与协作，以解决潜在冲突。
Hugging Face Blog精选AI 评分6868 Hugging Face 研究：基础模型能否像人类一样标注数据
Hugging Face 发布研究，对比人类标注与 GPT-4 对开源模型（Vicuna、Koala 等）的偏好评估，发现 GPT-4 存在显著的位置偏差和长度偏好，且与人类标注的相关性在编码任务中较低。
推荐理由：通过对比人类标注与GPT-4评估结果，揭示了LLM评估中的位置偏差与长度偏好问题。
Hugging Face BlogAI 评分2020 Hugging Face Hub 面向 GLAM 领域的应用指南
Hugging Face Hub 面向画廊、图书馆、档案馆和博物馆（GLAM）领域发布应用指南，介绍如何利用该平台共享和访问机器学习模型、数据集及演示应用。平台目前托管超过 19 万个模型、3.3 万个数据集和 10 万个应用，支持通过 API 部署或集成 Transformers 库使用。文章详细演示了如何筛选特定任务与语言的模型，以及如何上传 CSV 格式的数据集。
Hugging Face BlogAI 评分3535 DuckDB：在 Hugging Face Hub 上分析 50,000+ 数据集
Hugging Face Hub 新增功能，允许用户通过 DuckDB 对平台上存储的 50,000 多个数据集运行 SQL 查询。Dataset Viewer 会自动将公开数据集转换为 Parquet 文件，用户可通过 HTTP 调用获取文件 URL，并利用 DuckDB 的 httpfs 扩展直接对远程文件执行分析查询。
Hugging Face BlogAI 评分2525 Hugging Face Hub 上线 Meta AI fastText 官方镜像
Hugging Face Hub 上线 Meta AI fastText 官方镜像，托管 157 种语言词向量及语言识别模型。用户可通过 huggingface_hub 库轻松下载模型，并利用内置的文本分类和特征提取小部件进行交互。