JetBrains 发布 Mellum2 12B MoE 模型
JetBrains 发布 Mellum2，一个 12B 参数的 MoE 模型，每 token 仅激活 2.5B 参数，推理速度比同类模型快 2 倍以上。该模型开源并支持 Apache 2.0 协议，适用于路由、RAG、子智能体和私有部署。
推荐理由：原文给出了模型架构和性能数据，读者可以据此评估它在多模型系统中的路由和编排价值。
Hugging Face
全部主题Hugging Face 开源社区动态：热门模型与数据集、排行榜变化与开源生态的晴雨表。
最新精选
第 61–80 条 · 共 93 条Hugging Face Blog精选AI 评分7272
Hugging Face Blog精选AI 评分7575 PyTorch Profiler入门：解读性能表格与执行Trace
Hugging Face发布PyTorch Profiler入门教程，通过矩阵运算实例演示了如何解读性能表格与Trace，揭示了编译优化在调度器层面的融合机制及CPU开销增加的原因。
推荐理由：文章通过矩阵运算实例拆解了torch.profiler的表格与Trace解读方法，揭示了编译优化的实际执行路径。
Hugging Face Blog精选AI 评分8484 TRL 发布 Delta Weight Sync：通过 Hub Bucket 实现稀疏权重同步
Hugging Face TRL 发布 Delta Weight Sync 功能，利用 bf16 权重在相邻 RL 优化步骤间 99% 不变的稀疏特性，仅上传变更的权重补丁至 Hub Bucket。该方案将 Qwen3-0.6B 的每步传输数据从 1.2 GB 降至 20-35 MB，使训练端与推理端无需共享网络即可通过对象存储异步同步权重。
推荐理由：通过稀疏权重同步将异步RL每步传输量降低两个数量级，实现无需共享集群的分布式训练。
Hugging Face Blog精选AI 评分7777 Hugging Face 教程：让 Reachy Mini 机器人实现全本地语音交互
Hugging Face 发布教程，指导用户将 Reachy Mini 机器人的语音交互栈完全部署在本地。通过 speech-to-speech 库串联 Silero VAD、Parakeet-TDT 0.6B v3、Qwen3-TTS 等开源组件，并结合 llama.cpp 或 vLLM 运行 Gemma-4 或 Qwen3-4B 等模型，实现无需云端 API 的隐私保护与低延迟对话。
推荐理由：提供将语音交互栈完全本地化的实操指南，展示如何在端侧实现隐私保护与低延迟的机器人对话。
Hugging Face Blog精选AI 评分8080 Hugging Face 发布 Ettin Reranker 系列模型
Hugging Face 发布基于 Ettin ModernBERT 架构的六个 CrossEncoder 重排序模型（17M 至 1B 参数），采用点均方误差蒸馏自 mxbai-rerank-large-v2。在 MTEB 和 NanoBEIR 基准测试中，各尺寸模型均达到同规模下的最优精度，且得益于未填充注意力机制，推理速度比同类模型快 1.7 至 8.3 倍。
推荐理由：基于ModernBERT架构蒸馏出六个尺寸模型，在同等参数量下精度超越主流模型且推理速度显著领先。
Hugging Face Blog精选AI 评分6060 PaddleOCR 3.5 新增 Transformers 推理后端
PaddleOCR 3.5 发布，支持通过设置 engine="transformers" 使用 Hugging Face Transformers 作为推理后端。该更新让 PP-OCRv5 等模型更自然地融入基于 Transformers 的 RAG 和 Agent 工作流，同时保留原有 Paddle 后端以保障吞吐量。
推荐理由：PaddleOCR 3.5 新增 Transformers 推理后端，降低在 Hugging Face 生态中集成文档解析的门槛。
Hugging Face Blog精选AI 评分8282 IBM 发布 Granite Embedding Multilingual R2 多语言嵌入模型
IBM 发布基于 ModernBERT 架构的 Granite Embedding Multilingual R2 系列多语言嵌入模型，包含 97M 和 311M 两个版本，支持 200 多种语言和 32K 上下文窗口。
推荐理由：IBM 发布基于 ModernBERT 的多语言嵌入模型，在 32K 长上下文和 97M 极小体积下实现开源同类最高检索质量。
Hugging Face Blog精选AI 评分8282 Hugging Face 实现连续批处理的异步优化方案
Hugging Face 在 transformers 库中实现了连续批处理的异步优化，通过 CUDA streams 和 events 解耦 CPU 与 GPU 工作流，使 GPU 利用率从 76.0% 提升至 99.4%，生成时间缩短 22%。
推荐理由：文章通过解耦CPU和GPU工作流实现异步批处理，使GPU利用率提升至99.4%，为长文本推理提供了可复用的工程优化方案。
Hugging Face Blog精选AI 评分7070 ServiceNow 分享 vLLM V0 到 V1 迁移中消除训练推理偏差的实践
ServiceNow 分享了将推理引擎从 vLLM V0 迁移到 V1 时消除训练推理偏差的实践。通过修复 logprobs 语义、关闭 prefix caching、调整 inflight weight update 路径以及使用 fp32 lm_head，最终使 V1 的训练轨迹与 V0 参考保持一致。
推荐理由：原文拆解了 vLLM V1 迁移中导致训练轨迹偏离的四个关键后端差异，提供了可复用的对齐方案。
Hugging Face Blog精选AI 评分7878 IBM 发布 Granite 4.1 系列开源大语言模型
IBM 发布 Granite 4.1 系列（3B、8B、30B）开源大语言模型，采用 Apache 2.0 协议。该系列在约 15T tokens 上预训练并支持 512K 上下文，通过多阶段强化学习显著提升了数学、编码和工具调用能力。其中 8B 模型在多项基准上匹敌或超越前代 32B MoE 模型。
推荐理由：原文详述了数据工程与多阶段强化学习等训练细节，展示了8B密集模型在多项基准上匹敌更大MoE架构的能力。
Hugging Face Blog精选AI 评分8383 NVIDIA 开源 Nemotron 3 Nano Omni 多模态模型
NVIDIA 在 Hugging Face 开源 Nemotron 3 Nano Omni 多模态理解模型，原生支持文档、图像、视频和音频的联合推理及智能体操作。该模型基于 Nemotron 3 混合 Mamba-Transformer 架构，在文档理解、视频分析和语音交互等基准测试中表现领先，并提供 BF16、FP8 和 NVFP4 权重下载。
推荐理由：NVIDIA 开源 Nemotron 3 Nano Omni 模型，原生支持图文音视频多模态理解与智能体操作，在多项基准上表现领先。
Hugging Face Blog精选AI 评分8080 Hugging Face 展示基于 OpenAI Privacy Filter 构建的三个 Web 应用
Hugging Face 展示了基于 OpenAI 开源隐私过滤模型 Privacy Filter 构建的三个 Web 应用：文档隐私探索器、图像匿名化工具和智能文本脱敏服务。该模型支持 128k 上下文，可识别八类个人敏感信息。
推荐理由：Hugging Face 展示了基于 OpenAI Privacy Filter 构建的三个 Web 应用，揭示了其在文档、图像和文本场景中的工程实践。
Hugging Face Blog精选AI 评分6262 GPT-OSS 智能体强化学习训练的工程实践与修复
LinkedIn 团队分享了在 verl 框架下对 GPT-OSS 进行智能体强化学习训练的实践经验，通过修复 MoE 架构下的对数概率不匹配、在 FlashAttention v3 中实现 Attention Sink 反向传播以及优化 FSDP 内存占用，解决了训练不稳定和显存爆炸问题，实现了模型在数学推理和工具调用任务上的稳定收敛。
推荐理由：文章详细记录了GPT-OSS在 verl 框架下实现智能体强化学习的关键工程修复，为开源模型部署提供了可复用的技术路径。
Hugging Face Blog精选AI 评分8888 Overworld 发布 Waypoint-1 实时交互视频扩散模型
Overworld 发布 Waypoint-1，支持通过文本、鼠标和键盘进行零延迟实时交互的视频扩散模型。该模型基于 10,000 小时游戏视频训练，配合 WorldEngine 推理库，在 RTX 5090 上可实现 30 FPS 或 60 FPS 的流畅体验。
推荐理由：模型支持零延迟的实时交互控制，并在消费级硬件上实现高帧率，为端侧视频生成提供了新的交互范式。
Hugging Face Blog精选AI 评分8080 Hugging Face 发布 Open Responses 开源推理标准
Hugging Face 联合社区发布 Open Responses 开源推理标准，基于 OpenAI Responses API 扩展。该标准支持原生 Agent 循环、加密推理及工具调用，旨在统一 Agent 推理接口。
推荐理由：Open Responses 将 OpenAI 的 Responses API 开源并标准化，为 Agent 推理提供统一接口。
Hugging Face Blog精选AI 评分6262 TII 发布 Falcon-H1-Arabic 系列模型
TII 发布 Falcon-H1-Arabic 系列模型，包含 3B、7B 和 34B 三个版本。该系列采用混合 Mamba-Transformer 架构，上下文窗口最高达 256K tokens，在 OALL 等基准测试中刷新阿拉伯语模型纪录。
推荐理由：采用混合架构并大幅提升上下文窗口，在阿拉伯语基准上刷新纪录，为长文档处理提供新方案。
Hugging Face Blog精选AI 评分6868 Transformers v5 重构分词器：架构与词表分离，支持从零训练
Hugging Face 发布 Transformers v5，将分词器架构与训练好的词表分离，实现单文件部署和 Rust 后端默认化。新架构允许开发者直接实例化空白分词器模板，通过调用 train 方法在自有语料上从头训练模型专属分词器，同时保留了 chat template 等模型感知功能。
推荐理由：v5 重构了分词器架构，实现单文件部署与可训练模板，显著降低了自定义和训练模型专属分词器的门槛。
Hugging Face Blog精选AI 评分7272 开源智能体框架CUGA上线Hugging Face Spaces
IBM Research开源智能体框架CUGA正式集成至Hugging Face Spaces，提供CRM场景演示与可视化开发入口。CUGA支持多工具集成与可配置推理模式，在AppWorld等基准测试中表现优异，兼容gpt-oss-120b与Llama-4等开源模型。
推荐理由：开源智能体框架CUGA上线Hugging Face Spaces，提供可视化演示与多模型支持，便于开发者快速体验与集成。
Hugging Face Blog精选AI 评分8080 Hugging Face Skills 让 Claude 等 Agent 完成 LLM 微调全流程
Hugging Face 发布 Skills 工具，使 Claude Code、Codex 和 Gemini CLI 等编程 Agent 能够自动完成数据集验证、硬件选择、脚本生成、云端 GPU 任务提交、进度监控及模型推送至 Hub 的完整微调流程。该技能支持 SFT、DPO 和 GRPO 等训练方法，兼容 0.5B 至 70B 参数模型，并支持将训练好的模型转换为 GGUF 格式。
推荐理由：原文提供了将 Claude Code 等 Agent 接入 Hugging Face 进行全流程微调的实操指南与配置方法。
Hugging Face Blog精选AI 评分7272 Intel 发布 DeepMath 轻量级数学推理智能体
Intel 发布 DeepMath，这是一个基于 Qwen3-4B Thinking 微调的数学推理智能体。它通过生成简短 Python 代码片段并在沙箱中执行来减少输出长度并提高准确率。模型使用 GRPO 进行训练，在 MATH500、AIME 等数据集上，输出长度最多减少 66%，同时准确率得到提升。代码和模型已开源。
推荐理由：Intel 发布基于 Qwen3-4B 的 DeepMath 智能体，通过 GRPO 微调与代码执行结合，实现输出缩短 66% 且准确率提升。