跳到正文

全部动态

今日 6 条
7月22日周二
  1. Hugging Face Blog65

    NVIDIA NIM 支持一键部署 Hugging Face 上的 10 万+ LLM

    NVIDIA 宣布 NIM 推理微服务现支持在 Hugging Face 上快速部署超过 10 万个大语言模型。NIM 提供单一 Docker 容器,自动识别模型格式并选择 TensorRT-LLM、vLLM 或 SGLang 后端,无需手动配置即可实现高性能部署。

    推荐理由:NVIDIA NIM 提供统一容器自动适配 Hugging Face 模型,简化了部署流程。

7月21日周一
7月18日周五
7月17日周四
  1. Mistral AI68

    Mistral Le Chat 新增 Deep Research 智能体与 Voxtral 语音功能

    Mistral 发布 Le Chat 多项新功能,包括 Deep Research 智能体可自动生成结构化研究报告;基于 Voxtral 模型的语音模式支持自然对话;Magistral 推理模型提供原生多语言思考能力;Projects 功能支持将对话分组管理;与 Black Forest Labs 合作实现图像直接编辑。

    推荐理由:Le Chat 新增 Deep Research 智能体、Voxtral 语音交互及 Magistral 多语言推理,提供了更完整的 AI 助手工作流。

  2. OpenAI News88

    OpenAI 发布 ChatGPT Agent 功能

    OpenAI 发布 ChatGPT Agent 功能,该功能具备思考与行动能力,可在用户指导下使用工具完成研究、预订和幻灯片制作等任务。

    推荐理由:ChatGPT 新增 Agent 功能,支持在用户指导下使用工具完成研究、预订等任务。

  3. OpenAI News65

    OpenAI 发布 ChatGPT 智能体系统卡片

    OpenAI 发布 ChatGPT 智能体系统卡片,介绍其作为智能体模型整合了研究、浏览器自动化和代码工具,并在 Preparedness Framework 下提供安全保障。

    推荐理由:官方发布ChatGPT智能体系统卡片,明确其整合研究、浏览器自动化和代码工具的能力及安全防护框架。

  4. Hugging Face Blog60

    Gradio 5.38.0 更新:增强 MCP 服务器支持

    Gradio 5.38.0 版本更新,增强了对 MCP 服务器协议的支持。新增功能包括:支持本地文件上传、实时进度通知、一行代码将 OpenAPI 规范转换为 MCP 服务器、通过 gr.Header 简化认证配置以及自定义工具描述。

    推荐理由:Gradio 5.38.0 新增文件上传、OpenAPI 转换等 MCP 功能,降低了构建智能体应用的技术门槛。

  5. OpenAI News15

    OpenAI 举办非营利组织黑客松活动

    OpenAI 联合沃尔顿家族基金会等机构举办为期一天的全国性非营利组织黑客松活动。该活动联合了当地非营利组织网络,汇聚了来自 10 个地点的 1000 多名非营利组织领导者,旨在利用 AI 工具帮助解决社区难题。

7月16日周三
  1. Hugging Face Blog75

    Hugging Face 发布 Ettin 开源模型套件

    Hugging Face 发布 Ettin 模型套件,包含 17M 至 1B 参数的编码器与解码器模型。该套件使用完全相同的 2T tokens 公开数据、架构和训练配方,实现了两种架构的公平对比。编码器在分类和检索任务上优于 ModernBERT,解码器在生成任务上优于 Llama 3.2 1B。

    推荐理由:Ettin 提供完全一致的开源训练配方与数据,为对比编码器与解码器架构提供了公平基准。

7月15日周二
  1. OpenAI News13

    通过设计实现思想自由

    OpenAI 表示 ChatGPT 旨在成为有用、可信且适应性强的工具,使用户能够根据自己的需求对其进行个性化定制。这一设计理念强调通过产品架构赋予用户更大的自主权,让用户能够灵活地塑造 AI 助手以服务于个人目标。

  2. Hugging Face Blog72

    Hugging Face 宣布全面迁移至 Xet 存储系统

    Hugging Face 宣布将 Hub 全面迁移至 Xet 存储系统,目前已有超 100 万用户和 50 万个仓库使用。Xet 将成为新用户的默认存储,旧仓库将自动迁移,同时 Hugging Face 计划开源 Xet 协议及底层基础设施。

    推荐理由:Hugging Face 宣布全面迁移至 Xet 存储,通过底层架构升级实现 PB 级数据的高效传输与无缝兼容。

7月11日周五
  1. Mistral AI78

    Mistral 发布 Devstral Medium 及升级 Devstral Small 1.1

    Mistral AI 发布 Devstral Medium 和升级版的 Devstral Small 1.1。Devstral Medium 在 SWE-Bench Verified 上得分 61.6%,超越 Gemini 2.5 Pro 和 GPT 4.1,价格仅为后者的四分之一。

    推荐理由:Devstral Medium 在 SWE-Bench Verified 上超越 Gemini 2.5 Pro 且价格更低,Small 1.1 开源并刷新开放模型记录。

7月10日周四
  1. Hugging Face Blog68

    Kimina 与 Numina 发布 Kimina-Prover 定理证明模型

    Kimi 与 Numina 团队发布 Kimina-Prover 系列模型,基于 Qwen2.5-72B 训练并开源了 72B、8B 和 1.7B 版本。该模型引入了测试时强化学习搜索(TTRL)和错误修复机制,在 miniF2F 基准测试中达到 92.2% 的最高通过率。

    推荐理由:Kimina-Prover 开源了基于 TTRL 搜索和错误修复的定理证明模型,为复杂数学推理提供了可复用的训练与推理方法。

  2. Hugging Face Blog65

    Hugging Face 发布官方 MCP Server 及工程实践

    Hugging Face 发布官方 MCP Server,通过 hf.co/mcp 提供 Hub 访问与数千个 AI 应用。文章详述了采用 Streamable HTTP 无状态直响应部署的权衡,并开源了支持多种传输方式的代码。

    推荐理由:文章详细记录了Hugging Face MCP Server在传输协议选型与无状态部署中的权衡,为开发者构建远程MCP服务提供了可迁移的工程实践。

7月9日周三
  1. Hugging Face Blog67

    利用 Gradio MCP 服务器为 LLM 扩展能力

    Gradio 5.28.0 版本支持 MCP 协议,使 Hugging Face Spaces 成为 LLM 的 MCP 应用商店。文章以 Flux.1 Kontext 图像编辑模型为例,演示了如何将 Gradio 应用配置为 MCP 服务器,并通过 Cursor 等客户端连接,使 LLM 获得图像编辑等新能力。

    推荐理由:文章演示了如何将 Gradio 应用配置为 MCP 服务器,为 LLM 提供图像编辑等具体能力,提供了可复用的配置方法。

  2. Hugging Face Blog70

    Hugging Face 发布针对 AMD MI300X 的自定义内核优化实践

    Hugging Face 与 AMD 合作开源了针对 MI300X 的自定义内核,通过融合 RMS norm 与 FP8 转换、优化 SwiGLU 计算以及针对低批次大小的 Skinny GEMM 拆分策略,显著提升了 Llama 3.1 405B 在 VLLM 中的推理性能。

    推荐理由:文章详细拆解了针对MI300X的三种自定义内核优化技巧,提供了可复用的工程实践方法。

7月8日周二
7月4日周五
7月3日周四
  1. Mistral AI35

    Mistral AI 发布 AI for Citizens 倡议

    Mistral AI 推出 AI for Citizens 倡议,旨在帮助各国政府及公共机构利用 AI 技术重塑公共服务并推动创新。该计划提供 Mistral AI 的尖端模型、AI 聊天与编程助手,支持私有化部署、SaaS 及无服务器 API 等多种方式,确保数据主权与合规。通过定制化研发与生态建设,助力各国摆脱对封闭供应商的依赖,实现 AI 技术的自主可控。

7月1日周二
  1. Hugging Face Blog80

    Sentence Transformers 稀疏嵌入模型训练与微调指南

    Hugging Face 发布指南,详解如何使用 Sentence Transformers 训练和微调稀疏嵌入模型。文章涵盖 Splade、Inference-free Splade 和 CSR 等架构选择、数据集格式、损失函数配置及评估器使用,并演示了稀疏与密集向量结合提升检索性能的方法。

    推荐理由:文章详细拆解了稀疏嵌入模型的训练组件与代码实现,提供了可迁移的混合检索优化方法。

6月30日周一
6月28日周六
  1. Hugging Face Blog72

    NVIDIA发布Llama Nemotron Nano VL文档处理模型

    NVIDIA发布Llama Nemotron Nano VL,一款基于Llama-3.1-8B的8B视觉语言模型,专为智能文档处理设计。该模型在OCRBench v2基准测试中表现优异,支持高精度文本识别、表格提取及图表解析,可通过Hugging Face下载或使用NVIDIA NIM API部署。

    推荐理由:NVIDIA发布专攻文档处理的8B视觉语言模型,提供Hugging Face下载与NIM API,适合企业级自动化部署。

6月26日周四
  1. Hugging Face Blog83

    Gemma 3n 模型正式开源,原生支持多模态与端侧部署

    Google 发布 Gemma 3n 模型,原生支持图像、文本、音频和视频输入。提供 gemma-3n-E2B 和 gemma-3n-E4B 两个版本,实际参数量分别为 5B 和 8B,但显存占用仅需 2GB 和 3GB。模型已集成至 transformers、MLX、llama.cpp 等主流开源库,并支持多模态微调。

    推荐理由:Gemma 3n 原生支持多模态并针对端侧部署优化,提供了详细的开源生态集成与微调指南。

6月24日周二
6月23日周一
  1. Hugging Face Blog60

    SGLang 新增 transformers 后端集成

    SGLang 新增 transformers 后端集成,支持通过设置 impl="transformers" 运行任意兼容模型。该功能让开发者无需等待原生适配即可在高性能推理引擎中运行任意兼容模型,同时保留 RadixAttention 等优化特性。

    推荐理由:SGLang 新增 transformers 后端,让开发者无需等待原生适配即可在高性能推理引擎中运行任意兼容模型。

6月19日周四
  1. Hugging Face Blog75

    在消费级硬件上使用QLoRA微调FLUX.1-dev

    Hugging Face发布教程,展示如何使用QLoRA在单张RTX 4090(峰值显存约9GB)上微调FLUX.1-dev扩散模型。文章详解了4-bit量化、8-bit AdamW优化器、梯度检查点及缓存Latents等关键技术,并介绍了利用torchao进行FP8训练以进一步提升速度的方法。

    推荐理由:提供在单张消费级显卡上以不到10GB显存微调FLUX.1-dev的完整代码与优化技巧。

6月18日周三