跳到正文

全部动态

今日 6 条
2月1日周六
1月31日周五
  1. Hugging Face Blog77

    Mini-R1:用GRPO复现DeepSeek R1的“顿悟时刻”强化学习教程

    Hugging Face 发布教程,使用 GRPO 算法和 Countdown Game 复现 DeepSeek R1 的推理能力。在 4x H100 上训练 Qwen2.5-3B-Instruct 模型 450 步,成功率从 25% 提升至 50%,模型从自然语言推理转向程序化执行。

    推荐理由:文章提供了基于GRPO和Countdown Game复现DeepSeek R1推理能力的完整代码与训练细节,可直接迁移用于探索强化学习对齐。

  2. Hugging Face Blog26

    Hugging Face AI 艺术工具通讯:2024 年开源图像生成重大发布回顾

    Hugging Face 发布首期 AI 艺术工具通讯,回顾 2024 年开源图像生成领域的重大进展。Flux.1 在多项基准测试中超越 Midjourney v6.0 和 DALL·E 3 (HD),确立了新的 SOTA 标准。同时,IP adapter FaceID 等免训练技术实现了高质量人像生成,视频生成领域也涌现出 CogVideoX 和 Mochi 等开源模型。

1月30日周四
  1. Mistral AI82

    Mistral 发布 Mistral Small 3 开源模型

    Mistral AI 发布 Mistral Small 3,这是一款 24B 参数、采用 Apache 2.0 协议开源的延迟优化模型。该模型在多项基准测试中表现媲美 Llama 3.3 70B 和 GPT-4o-mini,但在相同硬件上速度提升 3 倍以上。模型未使用强化学习或合成数据训练,适合本地部署、快速响应对话及智能体工作流,现已在 Hugging Face、Ollama 等平台上线。

    推荐理由:24B参数模型在保持低延迟的同时性能媲美更大模型,为本地部署和智能体工作流提供了高性价比的开源选择。

1月28日周二
  1. Hugging Face Blog68

    Hugging Face Hub 上线 Inference Providers 集成 fal、Replicate 等

    Hugging Face 在 Hub 模型页及 JS/Python SDK 中集成 fal、Replicate、Sambanova、Together AI 四家无服务器推理服务商。用户可在设置中配置 API Key 或选择由 HF 路由,支持通过统一接口调用不同供应商的模型,PRO 用户每月获 2 美元推理额度。

    推荐理由:Hugging Face 将 fal 等四家服务商集成至 Hub 及 SDK,提供统一调用入口与计费路由,简化多供应商推理接入。

  2. Hugging Face Blog73

    Hugging Face 发布 Open-R1 项目开源复现 DeepSeek-R1

    Hugging Face 发布 Open-R1 项目,旨在系统复现 DeepSeek-R1 的数据收集与纯强化学习训练流程。项目计划通过蒸馏高质量推理数据集、构建数学与代码数据集,并开源多阶段训练配方,以验证并推广推理模型技术。

    推荐理由:Hugging Face 宣布启动开源复现项目,旨在公开 DeepSeek-R1 的训练数据与代码,推动推理模型技术透明化。

1月27日周一
1月24日周五
  1. Hugging Face Blog72

    Hugging Face smolagents 原生支持视觉语言模型

    Hugging Face 在 smolagents 中新增对视觉语言模型(VLM)的原生支持,允许在智能体管道中直接使用视觉能力。通过提供初始图像输入和基于回调的动态截图机制,开发者可轻松构建如自主网页浏览等视觉智能体。

    推荐理由:原生支持视觉模型并给出动态截图回调示例,便于开发者快速构建具备视觉能力的智能体。

1月23日周四
  1. OpenAI News15

    Operator System Card

    OpenAI 发布 Operator System Card,详细阐述了其多层安全防护框架。该文档介绍了针对提示词工程和越狱攻击的模型及产品设计缓解措施,以及隐私与安全保障。此外,还披露了外部红队测试、安全评估及持续完善防护机制的工作进展。

  2. Hugging Face Blog78

    NVIDIA 发布 KVPress 工具包实现 LLM KV Cache 压缩

    NVIDIA 发布 KVPress 工具包,集成多种 KV Cache 压缩算法,支持在预填充阶段动态压缩缓存。该工具与 transformers 库无缝集成,在 128k 上下文长度下可将显存占用从 45GB 降至 37GB,并将 A100 上的解码速度从 11 tokens/s 提升至 17 tokens/s。

    推荐理由:NVIDIA 发布 KVPress 工具包,提供多种 KV Cache 压缩算法,帮助开发者降低长上下文场景下的显存占用并提升推理速度。

  3. Hugging Face Blog72

    Hugging Face 发布 SmolVLM 256M 和 500M 模型

    Hugging Face 发布 SmolVLM 256M 和 500M 两个新模型,其中 256M 参数版本号称全球最小视觉语言模型。新模型采用更小的 SigLIP 视觉编码器和优化的 Tokenization 技术,支持 Transformers、MLX 和 ONNX 格式,旨在降低端侧和消费级设备的运行成本。

    推荐理由:Hugging Face 发布 SmolVLM 256M 和 500M 模型,在保持轻量级的同时提供多模态能力,适合端侧部署。

1月22日周三
1月21日周二
  1. OpenAI News70

    OpenAI 发布 Stargate 基础设施合作伙伴招募

    OpenAI 及其战略合作伙伴发布 Stargate 基础设施计划,旨在构建 AGI 的基础设施。官方正在面向工业界招募数据中心基础设施领域的合作伙伴,合作范围涵盖电力、土地、建设及设备供应等全链条环节。

    推荐理由:OpenAI 联合合作伙伴公开招募数据中心基础设施供应商,涉及电力、土地及建设等环节。

1月16日周四
  1. Mistral AI38

    Mistral AI 宣布 Le Chat 集成 AFP 新闻源

    Mistral AI 宣布与法新社(AFP)达成全球合作,Le Chat 将接入 AFP 新闻稿以增强事实准确性。该集成支持法语、英语等六种语言,利用 AFP 每日 2,300 条新闻内容,确保回复基于可靠且最新的资讯。此项功能将在未来几周向所有 Le Chat 用户推出。

  2. Hugging Face Blog70

    TGI 引入多后端支持,统一 vLLM 与 TensorRT-LLM 部署

    Hugging Face 发布 TGI Backends 架构,通过统一前端层集成 vLLM、TensorRT-LLM 和 llama.cpp 等推理引擎。该更新旨在简化生产环境部署,计划于 2025 年第一季度支持 vLLM,并持续扩展对 AWS Neuron 和 Google TPU 的原生支持。

    推荐理由:原文给出了统一前端架构和具体后端规划,读者可据此评估现有部署路径的迁移成本与性能收益。

1月15日周三
  1. Hugging Face Blog82

    Hugging Face 发布静态嵌入模型及训练方法,CPU 推理速度提升 400 倍

    Hugging Face 发布 sentence-transformers/static-retrieval-mrl-en-v1 和 static-similarity-mrl-multilingual-v1 两个静态嵌入模型,在 CPU 上比主流模型快 100-400 倍,同时保持 85% 以上的性能。文章公开了基于对比学习和 Matryoshka 表示学习的完整训练策略、数据集选择及代码实现。

    推荐理由:Hugging Face 开源了基于静态嵌入的高效模型及完整训练代码,为低延迟和端侧部署提供了可复用的实践方案。

1月14日周二
1月13日周一
  1. Mistral AI80

    Mistral 发布 Codestral 25.01 编码模型

    Mistral AI 发布 Codestral 25.01 编码模型,采用新架构和分词器,代码生成与补全速度提升约 2 倍。该模型在 HumanEval、LiveCodeBench 等基准测试中表现优异,支持 256k 上下文窗口,现已通过 IDE 插件及 API 向全球开发者开放。

    推荐理由:官方公布详细基准数据,显示其在代码补全和生成速度上超越竞品,开发者可直接通过API或IDE插件体验。

  2. Hugging Face Blog65

    Hugging Face Blog:AI智能体的伦理价值权衡与自主性分级

    Hugging Face发布博客,从伦理视角系统分析AI智能体的自主性分级与多维价值权衡。文章指出风险随自主性增加而上升,建议不开发全自主智能体,并推荐半自主智能体。

    推荐理由:文章从伦理视角系统拆解了AI智能体的自主性分级与多维价值权衡,并明确建议不开发全自主智能体。

1月10日周五
  1. Hugging Face Blog78

    Hugging Face 发布 vdr-2b-multi-v1 多语言视觉文档检索模型

    Hugging Face 发布 vdr-2b-multi-v1 多语言视觉文档检索模型及 vdr-2b-v1 英文版,支持无需 OCR 直接检索多语言文档。模型基于 50 万高质量合成样本训练,在 ViDoRe 基准测试中表现优异,支持 Matryoshka 表示学习与二值量化以实现高效检索。

    推荐理由:开源多语言视觉文档检索模型及50万样本数据集,支持跨语言检索与高效向量压缩。

1月9日周四
12月31日周二
  1. Hugging Face Blog75

    Hugging Face 发布 smolagents 库,让模型通过编写代码实现智能体功能

    Hugging Face 发布 smolagents 库,支持模型通过编写代码来调用工具,简化了智能体开发流程。该库兼容 Hugging Face Hub 及 OpenAI、Anthropic 等外部模型,并展示了开源模型在智能体工作流中具备与顶级闭源模型竞争的能力。

    推荐理由:Hugging Face 推出 smolagents 库,通过让模型直接编写代码来调用工具,简化了智能体开发并提升了开源模型表现。

12月27日周五
12月24日周二
  1. Hugging Face Blog68

    PyTorch 训练时 GPU 显存可视化与估算方法

    Hugging Face 发布教程,利用 PyTorch 内置工具可视化训练过程中的显存变化。文章拆解模型参数、激活值、梯度与优化器状态等显存占用来源,给出通用显存估算公式及优化建议。

    推荐理由:通过可视化解析显存峰值来源,提供可迁移的显存估算公式与优化思路。