Transformers.js v3 发布：支持 WebGPU 加速与多运行时
Hugging Face 发布 Transformers.js v3，引入 WebGPU 支持，推理速度最高提升 100 倍。新增 120 种模型架构，支持 Node.js、Deno 和 Bun 环境，并提供 25 个新示例项目。
推荐理由：引入WebGPU加速与多端运行时支持，为前端和边缘端部署提供可迁移的高性能推理方案。
#产品更新
#产品更新
今日 17 条Hugging Face Blog精选AI 评分8282 Hugging Face BlogAI 评分4747 Hugging Face 与 Protect AI 合作增强模型安全
Hugging Face 宣布与 Protect AI 合作，将 Guardian 安全扫描工具集成至 Hub 扫描套件。所有公开模型仓库在上传文件时将自动接受 Guardian 扫描，以检测 pickle 等序列化格式中的任意代码执行漏洞。
Hugging Face Blog精选AI 评分8383 Diffusers 支持 Stable Diffusion 3.5 Large 发布
Hugging Face Diffusers 正式支持 Stable Diffusion 3.5 Large，提供 8B 参数模型及少步推理的 Turbo 版本。文章介绍了 QK 归一化与双注意力层等架构变化，并给出了量化推理与 LoRA 微调的实操代码。
推荐理由：文章详细说明了SD3.5 Large的架构变化及Diffusers使用方式，并提供了量化推理与微调的实操指南。
Hugging Face Blog精选AI 评分6666 Hugging Face Transformers 修复梯度累积损失计算问题
Hugging Face 修复了 Transformers Trainer 在梯度累积时损失计算不匹配的问题，确保数学等价于全批量训练。同时暴露 API 允许用户传入自定义损失函数，并将在后续版本中全面支持。
推荐理由：修复了梯度累积下损失计算偏差，并开放自定义损失函数API，帮助开发者规避训练误差。
Hugging Face BlogAI 评分4242 Gradio 5 安全审计：修复多项漏洞，默认保障 ML 应用安全
Gradio 5 发布，经 Trail of Bits 独立审计修复多项安全漏洞，默认保障机器学习应用安全。修复涵盖本地运行、Hugging Face Spaces 部署、内置分享链接及 CI 供应链等场景，包括 CORS 配置错误、SSRF、任意文件上传、远程代码执行及 GitHub Actions 风险。所有修复已验证并包含在 Gradio 5.0 版本中。
Hugging Face Blog精选AI 评分7070 Gradio 5 稳定版发布
Hugging Face 发布 Gradio 5 稳定版，引入服务端渲染（SSR）实现近乎即时的浏览器加载，并支持基于 WebSockets 和 WebRTC 的低延迟流式传输。新版本更新了组件现代设计，内置 AI Playground 辅助生成应用，并增强了 Web 安全性。
推荐理由：Gradio 5 引入服务端渲染与低延迟流式传输，显著改善 ML 应用性能与实时交互体验。
Hugging Face Blog精选AI 评分7575 Hugging Face Transformers 4.45.0 默认启用动态推测解码
Hugging Face 在 Transformers 4.45.0 中将动态推测解码设为默认操作模式，该方法通过动态调整草稿模型生成的 token 数量，相比静态或启发式方法最高实现 2.7 倍加速。用户无需修改代码即可直接受益，同时支持通过配置参数切换至启发式或静态模式。
推荐理由：动态推测解码已作为默认模式集成至 Transformers 4.45.0，无需修改代码即可实现最高 2.7 倍的推理加速。
Hugging Face BlogAI 评分1717 Hugging Face Daily Papers 页面隐藏功能指南
Hugging Face 推出 Daily Papers 页面，已收录超 3,700 篇论文并拥有超 12k 订阅者。作者可一键认领论文以关联账号，用户可通过评论 @username 与作者实时互动，并在评论区输入 @librarian-bot 获取相关论文推荐。页面支持多语言评论及内置翻译，并集成 arXiv 扩展功能以快速跳转至 Hugging Face 论文页或 Spaces 演示。
Hugging Face Blog精选AI 评分6868 Hugging Face 发布 FineVideo 数据集及构建管线
Hugging Face 发布 FineVideo 数据集，包含 4.3 万个视频、3.4k 小时时长及丰富的结构化标注。文章详细披露了从 YouTube-Commons 中筛选动态内容、构建分类法，以及利用 Gemini 1.5 Pro 和 GPT4o 进行时间级语义标注的完整技术管线。
推荐理由：文章详细披露了构建4.3万小时高质量视频数据集的过滤与标注管线，为多模态模型训练提供了可复用的工程方法。
Hugging Face Blog精选AI 评分7575 Hugging Face 发布 LLaMA3 1.58bit 微调模型与 BitNet 实现
Hugging Face 发布基于 BitNet 架构的 LLaMA3 8B 1.58bit 模型，公开了通过动态 Lambda 调度实现微调的技术细节与 Triton 自定义内核，模型在 MMLU 等基准上表现优异。
推荐理由：文章公开了将LLaMA3微调至1.58bit的量化方法与代码，为降低大模型推理成本提供了可复用的工程方案。
Mistral AI精选AI 评分8686 Mistral AI 发布 Mistral Small v24.09 并下调全线模型价格
Mistral AI 发布 Mistral Small v24.09 模型，下调全线模型 API 价格，并推出 la Plateforme 免费层。le Chat 免费开放 Pixtral 12B 视觉能力，支持任意尺寸图片理解。
推荐理由：官方同步更新模型定价与发布新模型，提供了免费层与Apache 2.0授权，便于评估成本与部署方案。
Mistral AI精选AI 评分8585 Mistral 发布 Pixtral 12B 多模态模型
Mistral 发布 Pixtral 12B 多模态模型，采用 400M 视觉编码器与 12B 解码器，支持 128K 长上下文及可变图像尺寸。该模型在 MMMU 推理基准上达到 52.5%，支持图表理解、文档问答及多图像处理，以 Apache 2.0 协议开源。
推荐理由：Pixtral 12B 提供原生多模态与 128K 长上下文，兼顾文本与图像能力，适合本地部署与 API 集成。
Hugging Face Blog精选AI 评分7070 Hugging Face 推出数据集 SQL Console 功能
Hugging Face 推出数据集 SQL Console 功能，允许用户直接在浏览器中运行 SQL 查询、过滤和发现数据集。该功能基于 DuckDB WASM 引擎，无需后端依赖，支持导出 Parquet 格式结果，并内置了数据格式转换等实用示例。
推荐理由：基于浏览器端 DuckDB WASM 实现零依赖查询，提供数据探索与格式转换的便捷入口。
Hugging Face Blog精选AI 评分6565 HuggingChat 发布社区工具功能
HuggingChat 发布社区工具功能，允许用户将 Hugging Face 上的公开 Space 直接转化为模型可调用的工具。该功能扩展了多模态支持，涵盖图像理解、视频生成及语音合成，并支持用户创建自定义工具或基于私有文档构建 RAG 工具。
推荐理由：HuggingChat 开放将社区 Space 转为工具的功能，支持多模态交互与自定义 RAG，丰富了现有工作流。
Hugging Face BlogAI 评分5252 Hugging Face Accelerate 1.0.0 候选版发布
Hugging Face 发布 Accelerate 1.0.0 首个候选版，新增 FP8 训练、torch.compile 及多模型 DeepSpeed 支持。该版本稳定了核心 API，并提供了详细的弃用项与迁移指南。
Hugging Face BlogAI 评分3333 Hugging Face 与 TruffleHog 合作扫描密钥泄露
Hugging Face 与 TruffleHog 达成合作，将 TruffleHog 的密钥扫描功能集成至平台。Hugging Face 在自动化扫描管道中引入 TruffleHog 检测密码、Token 和 API 密钥，并在发现已验证密钥时通过邮件通知用户。
Hugging Face Blog精选AI 评分6868 Hugging Face 发布 DataCollatorWithFlattening 实现 Flash Attention 2 无填充训练
Hugging Face 发布 DataCollatorWithFlattening，使 Flash Attention 2 兼容无填充指令微调，训练吞吐量最高提升 2 倍，峰值显存降低 20%，且不影响收敛质量。
推荐理由：通过新数据整理器实现无填充训练，在保持收敛质量的同时显著提升训练吞吐量和降低显存占用。
Mistral AI精选AI 评分6363 Mistral 开放模型微调与 Agent 功能并推出 SDK 1.0
Mistral 宣布在 La Plateforme 开放 Mistral Large 2 和 Codestral 等旗舰模型的自定义微调，并推出包裹模型与指令的 Agents 功能以支持复杂工作流。同时发布 mistralai 1.0 稳定版 SDK，涵盖 Python 和 Typescript。
推荐理由：官方同步开放旗舰模型微调、Agent 框架及 SDK 1.0，开发者可据此快速构建定制化应用。
Hugging Face BlogAI 评分3232 Hugging Face 2024 安全功能亮点
Hugging Face 于 2024 年 8 月 6 日发布了 Hub 平台的安全功能亮点。面向所有用户，平台提供细粒度 Token 访问控制、双因素认证 (2FA)、Commit 签名、组织访问控制及包含恶意软件与密钥扫描的自动化安全扫描。针对 Enterprise 用户，平台进一步支持基于 SAML 2.0 和 OpenID Connect 协议的单点登录 (SSO) 以及资源组管理。
Mistral AI精选AI 评分7272 Mistral 发布 Codestral Mamba 代码模型
Mistral 发布 Codestral Mamba，这是一款基于 Mamba 架构的 7B 参数代码模型，支持 Apache 2.0 开源协议。该模型具备线性时间推理能力，可处理长达 256k tokens 的上下文，在代码生成与推理任务上表现媲美 SOTA Transformer 模型。
推荐理由：Mistral 发布基于 Mamba 架构的 7B 代码模型，提供线性推理与长上下文优势，支持本地部署。
Mistral AI精选AI 评分6868 Mistral 推出模型微调服务与开源 SDK
Mistral 在 la Plateforme 推出模型微调服务，提供开源微调 SDK、托管微调及定制训练三种方式。托管服务兼容 Mistral 7B 和 Mistral Small，采用 LoRA 技术实现高效微调。
推荐理由：提供开源SDK、托管微调及定制训练三种入口，覆盖不同技术栈与数据需求。
Mistral AI精选AI 评分8383 Mistral 发布首个代码模型 Codestral
Mistral 发布首个代码模型 Codestral，这是一个 22B 参数的开源权重生成式 AI 模型，支持 80 多种编程语言和 32k 上下文窗口。该模型提供 HuggingFace 下载及专用 API 端点 codestral.mistral.ai，并已在 LlamaIndex、LangChain 及 VSCode 等开发工具中完成集成。
推荐理由：Mistral 发布首个代码模型 Codestral，提供 22B 开源权重与专用 API 端点，支持 80 多种编程语言及 32k 上下文。
Mistral AI精选AI 评分8585 Mistral AI 发布 Mixtral 8x22B 开源模型
Mistral AI 发布 Mixtral 8x22B 开源模型，采用稀疏 MoE 架构，141B 参数中仅激活 39B，支持 64K 上下文窗口。该模型在数学和编码任务上表现优异，指令微调版在 GSM8K 上得分 90.8%，以 Apache 2.0 协议开源。
推荐理由：该模型以141B参数实现39B活跃参数推理，在数学和编码基准上表现突出，为开源生态提供了高性价比的基座选择。
Mistral AI精选AI 评分6565 Mistral AI 发布首款对话助手 Le Chat 并开放内测
Mistral AI 发布首款对话助手 Le Chat，底层支持 Mistral Large、Small 及原型模型 Mistral Next，提供可调节的系统级内容审核机制。同时推出支持私有化部署和细粒度审核的 Le Chat Enterprise 版本，目前面向公众开放 Beta 内测。
推荐理由：官方发布首款对话助手并开放内测，提供企业私有化部署方案，可据此评估其多模型调度与商业落地能力。
Mistral AI精选AI 评分7272 Mistral AI 发布 API 平台，提供多模型端点与嵌入服务
Mistral AI 开放 API 平台 Beta 版，提供 mistral-tiny、mistral-small 和 mistral-medium 三个生成端点以及 mistral-embed 嵌入端点。
推荐理由：平台提供三种不同性价比的生成端点和嵌入端点，开发者可据此评估模型性能与成本以适配生产需求。
Mistral AI精选AI 评分9090 Mistral AI 发布 Mistral 7B 开源模型
Mistral AI 发布 Mistral 7B，这是一个 7.3B 参数的大语言模型，采用分组查询注意力（GQA）和滑动窗口注意力（SWA）技术。该模型在 Apache 2.0 协议下开源，在多项基准测试中表现优于 Llama 2 13B，接近 Llama 1 34B 水平，并在代码和推理任务上展现出显著优势。
推荐理由：开源了7.3B参数模型并采用SWA与GQA技术，在多项基准上超越Llama 2 13B，兼顾了性能与推理效率。
Hugging Face BlogAI 评分2020 Hugging Face Hub 面向 GLAM 领域的应用指南
Hugging Face Hub 面向画廊、图书馆、档案馆和博物馆（GLAM）领域发布应用指南，介绍如何利用该平台共享和访问机器学习模型、数据集及演示应用。平台目前托管超过 19 万个模型、3.3 万个数据集和 10 万个应用，支持通过 API 部署或集成 Transformers 库使用。文章详细演示了如何筛选特定任务与语言的模型，以及如何上传 CSV 格式的数据集。
Hugging Face BlogAI 评分3535 DuckDB：在 Hugging Face Hub 上分析 50,000+ 数据集
Hugging Face Hub 新增功能，允许用户通过 DuckDB 对平台上存储的 50,000 多个数据集运行 SQL 查询。Dataset Viewer 会自动将公开数据集转换为 Parquet 文件，用户可通过 HTTP 调用获取文件 URL，并利用 DuckDB 的 httpfs 扩展直接对远程文件执行分析查询。
Hugging Face BlogAI 评分2525 Hugging Face Hub 上线 Meta AI fastText 官方镜像
Hugging Face Hub 上线 Meta AI fastText 官方镜像，托管 157 种语言词向量及语言识别模型。用户可通过 huggingface_hub 库轻松下载模型，并利用内置的文本分类和特征提取小部件进行交互。
Hugging Face Blog精选AI 评分8686 Hugging Face 发布 Falcon 开源大语言模型
阿布扎比技术创新研究所（TII）发布 Falcon-7B 和 Falcon-40B 开源大语言模型，采用 Apache 2.0 协议。Falcon-40B 在 Open LLM Leaderboard 上排名第一，以 2800 PF-days 算力超越 LLaMA-65B。
推荐理由：Falcon 40B 以较低算力成本在基准测试中超越 LLaMA-65B，展示了多查询注意力与 RefinedWeb 数据的高效性。
Hugging Face BlogAI 评分88 Hugging Face 宣布首届开源 AI 游戏开发大赛
Hugging Face 宣布举办首届开源 AI 游戏开发大赛，参赛者需在 7 月 7 日至 9 日期间使用 AI 工具制作游戏。参赛作品需支持网页或 Windows 平台，且必须集成至少一个开源 AI 工具。比赛强调利用 Stable Diffusion 等工具加速开发，面向全球开发者免费开放。
Hugging Face BlogAI 评分2525 BERTopic 集成正式接入 Hugging Face Hub
Hugging Face Hub 正式集成 BERTopic，为模型和数据集提供自动主题建模功能。该工具支持对文本数据进行聚类与可视化，帮助开发者快速理解语料库结构。集成后用户可直接在 Hub 上利用该算法进行主题分析。
Hugging Face BlogAI 评分3838 Hugging Face 与微软合作在 Azure 推出 Hugging Face Model Catalog
Hugging Face 与微软合作在 Azure Machine Learning Studio 原生集成 Hugging Face Model Catalog，提供数千个热门 Transformers 模型。用户可通过几步操作在 Azure 基础设施上快速部署模型并获取推理 API。该服务今日在 Azure 所有可用区域以公共预览版形式开放。
Hugging Face Blog精选AI 评分6565 Safetensors 通过安全审计并将在 Transformers 中成为默认格式
Hugging Face 联合 EleutherAI 和 Stability AI 宣布 safetensors 库已通过 Trail of Bits 的安全审计，确认无导致任意代码执行的严重漏洞。该库将作为核心依赖加入 Transformers 并设为默认保存格式，提供比 pickle 更安全且加载速度更快的张量存储方案。
推荐理由：官方联合第三方完成安全审计并宣布将其设为默认格式，为模型加载提供了安全与性能保障。
Hugging Face Blog精选AI 评分7878 Hugging Face 推出辅助生成技术降低文本生成延迟
Hugging Face 在 Transformers 库中引入辅助生成（Assisted Generation）技术，利用小模型生成候选 token 并由大模型验证，从而减少前向传播次数。该方法在模型显存不足需卸载时最高可实现 10 倍加速，在显存充足时也可获得 2 至 3 倍加速，且支持贪婪解码与采样。
推荐理由：Hugging Face 在 Transformers 中引入辅助生成技术，通过小模型辅助大模型解码，显著降低文本生成延迟。
Hugging Face Blog精选AI 评分7373 Hugging Face 发布 StarChat Alpha 编程助手
Hugging Face 发布基于 StarCoder 微调的编程助手 StarChat Alpha，采用 ChatML 格式与 OpenAssistant 数据集训练，提供代码、数据集及模型下载。
推荐理由：文章展示了基于StarCoder微调出StarChat Alpha的过程，提供了ChatML格式和DeepSpeed训练代码供开发者复用。
Hugging Face BlogAI 评分3333 Hugging Face 发布 Spark 支持，大语言模型训练与微调速度提升 40%
Hugging Face 发布首个官方 Spark 支持，允许用户通过 `from_spark` 函数直接将 Apache Spark dataframe 转换为 Hugging Face Dataset。该功能省去了写入 Parquet 文件的繁琐步骤，使 16GB 数据集的处理时间从 22 分钟缩短至 12 分钟，训练和微调速度提升超过 40%。
Hugging Face BlogAI 评分88 Hugging Face 推出面向中文用户的官方博客
Hugging Face 推出面向中文用户的官方博客 hf.co/blog/zh，由志愿者翻译博客文章及 Transformer、扩散模型和强化学习课程。此举旨在服务日益增长的中文 AI 社区，促进相互学习与协作。Hugging Face 将加强与 PaddlePaddle 等组织的合作，并继续举办线上课程及线下活动以推动开源机器学习领域的知识共享。
Hugging Face BlogAI 评分2626 Snorkel AI 与 Hugging Face 合作：为企业解锁基础模型
Snorkel AI 与 Hugging Face 合作，通过 Snorkel Flow 平台集成 Hugging Face Inference Endpoint 服务，帮助企业更灵活地适配基础模型。
Hugging Face BlogAI 评分2222 Hugging Face 发布伦理与社会通讯第 3 期：探讨开放 AI 的伦理责任
Hugging Face 发布伦理与社会通讯第 3 期，阐述在开源机器学习中平衡开放性与风险控制的伦理框架。平台推出涵盖严谨、同意、社会意识等 6 个维度的伦理标签，并上线内容举报功能以识别违规模型与数据集。此外，Hugging Face 通过完善模型卡片、推广 RAIL 许可证及社区协作机制，致力于最小化 AI 潜在危害。