跳到正文

全部动态

今日 48 条
10月22日周二
  1. Hugging Face Blog70

    Outlines-core 0.1.0 发布:结构化生成核心算法 Rust 重写

    dottxt 与 Hugging Face 联合发布 Outlines-core 0.1.0,将结构化生成核心算法重写为 Rust。该版本索引编译速度提升约 2x,消除首次运行延迟,并提供 Python 绑定及跨语言扩展能力。

    推荐理由:核心算法重写为 Rust 带来编译加速与跨语言绑定能力,有助于提升结构化生成的性能与集成效率。

  2. Hugging Face Blog83

    Diffusers 支持 Stable Diffusion 3.5 Large 发布

    Hugging Face Diffusers 正式支持 Stable Diffusion 3.5 Large,提供 8B 参数模型及少步推理的 Turbo 版本。文章介绍了 QK 归一化与双注意力层等架构变化,并给出了量化推理与 LoRA 微调的实操代码。

    推荐理由:文章详细说明了SD3.5 Large的架构变化及Diffusers使用方式,并提供了量化推理与微调的实操指南。

10月21日周一
10月16日周三
  1. Mistral AI80

    Mistral AI 发布 Ministral 3B 和 8B 端侧模型

    Mistral AI 发布 Ministral 3B 和 8B 两款端侧模型,支持 128k 上下文,在多项基准测试中超越 Gemma 2 和 Llama 3.2 等同类模型。Ministral 8B 提供研究用途权重,API 定价分别为每百万 token 0.1 美元和 0.04 美元。

    推荐理由:原文给出了两款端侧模型的具体参数、性能对比与定价,读者可据此评估本地部署的可行性与成本。

  2. Hugging Face Blog66

    Hugging Face Transformers 修复梯度累积损失计算问题

    Hugging Face 修复了 Transformers Trainer 在梯度累积时损失计算不匹配的问题,确保数学等价于全批量训练。同时暴露 API 允许用户传入自定义损失函数,并将在后续版本中全面支持。

    推荐理由:修复了梯度累积下损失计算偏差,并开放自定义损失函数API,帮助开发者规避训练误差。

10月15日周二
10月10日周四
  1. Hugging Face Blog42

    Gradio 5 安全审计:修复多项漏洞,默认保障 ML 应用安全

    Gradio 5 发布,经 Trail of Bits 独立审计修复多项安全漏洞,默认保障机器学习应用安全。修复涵盖本地运行、Hugging Face Spaces 部署、内置分享链接及 CI 供应链等场景,包括 CORS 配置错误、SSRF、任意文件上传、远程代码执行及 GitHub Actions 风险。所有修复已验证并包含在 Gradio 5.0 版本中。

10月9日周三
  1. Hugging Face Blog70

    Gradio 5 稳定版发布

    Hugging Face 发布 Gradio 5 稳定版,引入服务端渲染(SSR)实现近乎即时的浏览器加载,并支持基于 WebSockets 和 WebRTC 的低延迟流式传输。新版本更新了组件现代设计,内置 AI Playground 辅助生成应用,并增强了 Web 安全性。

    推荐理由:Gradio 5 引入服务端渲染与低延迟流式传输,显著改善 ML 应用性能与实时交互体验。

10月8日周二
  1. Hugging Face Blog75

    Hugging Face Transformers 4.45.0 默认启用动态推测解码

    Hugging Face 在 Transformers 4.45.0 中将动态推测解码设为默认操作模式,该方法通过动态调整草稿模型生成的 token 数量,相比静态或启发式方法最高实现 2.7 倍加速。用户无需修改代码即可直接受益,同时支持通过配置参数切换至启发式或静态模式。

    推荐理由:动态推测解码已作为默认模式集成至 Transformers 4.45.0,无需修改代码即可实现最高 2.7 倍的推理加速。

10月4日周五
10月3日周四
  1. Hugging Face Blog31

    中国 AI 企业加速出海:巨头布局基础设施,初创公司聚焦应用

    2024年中国AI企业加速海外扩张,华为、腾讯、阿里等巨头聚焦中东、东南亚及非洲的云计算与AI基础设施,字节跳动则深耕西方B2C市场。面对国内238个大语言模型引发的激烈价格战与盈利压力,MiniMax、01.AI等初创公司转向海外C端应用探索,Talkie和PopAI等产品已实现盈利。

10月2日周三
10月1日周二
  1. OpenAI News72

    OpenAI 推出 Realtime API

    OpenAI 宣布推出 Realtime API,允许开发者在应用中构建快速的语音到语音交互体验。

    推荐理由:原文宣布推出实时语音 API,开发者可据此构建低延迟的语音交互应用。

  2. OpenAI News30

    API 中的模型蒸馏

    OpenAI 在 API 中提供模型蒸馏功能,允许用户使用大型前沿模型的输出来微调更具成本效益的模型。该功能完全在 OpenAI 平台上运行,旨在帮助用户利用大模型的生成能力优化自身模型性能。

9月30日周一
  1. Hugging Face Blog68

    将顶点着色网格转换为UV映射纹理网格的教程

    Hugging Face 发布教程介绍如何将 InstantMesh 等生成的顶点着色网格转换为 UV 映射纹理网格。文章提供 InstantTexture 库的快速转换方法,并详细解析使用 xatlas 生成 UV 映射、重心插值填充纹理及去孔平滑的底层实现步骤。

    推荐理由:提供从顶点着色网格到UV贴图纹理网格的转换代码与原理,适合3D生成后处理参考。

9月26日周四