Open LLM Leaderboard MMLU 评估差异解析
Hugging Face 博客解析 Open LLM Leaderboard 中 MMLU 分数与 LLaMA 论文不符的原因，对比了 EleutherAI Harness、HELM 和原始实现的差异，指出 Prompt 和概率计算方式不同导致分数不可直接比较，并宣布将更新 Harness 以匹配原始实现。
推荐理由：原文通过对比三种MMLU实现，揭示了评估细节如何导致分数差异，帮助读者理解开源基准的可复现性。
全部AI 动态
全部动态
今日 6 条Hugging Face Blog精选AI 评分7070
Hugging Face BlogAI 评分2525 Hugging Face 就美国 NTIA 人工智能问责政策征求意见提交回复
Hugging Face 向美国商务部 NTIA 提交关于人工智能问责政策的回复，强调文档与透明度规范在推动问责中的核心作用。Hugging Face 建议问责机制应覆盖机器学习开发全流程，结合内部规范与外部透明访问，并邀请开发者、研究人员及政策制定者等广泛利益相关方参与。
Hugging Face BlogAI 评分3838 Transformer 在时间序列预测中有效吗？（附 Autoformer）
Autoformer 模型现已在 🤗 Transformers 库中提供。该模型通过分解层和自相关机制，在 Traffic、Exchange-Rate 和 Electricity 数据集上的 MASE 指标均优于 DLinear 模型。
Hugging Face Blog精选AI 评分7070 Hugging Face 发布支持 6-bit 量化的 Stable Diffusion Core ML 模型
Hugging Face 发布了四个官方 Stable Diffusion 模型的 6-bit palettized 版本，支持在 iPhone、iPad 和 Mac 上更高效地运行。配合更新的 coremltools 和 ml-stable-diffusion 仓库，开发者可轻松转换自定义模型并享受更低的内存占用与更快的推理速度。
推荐理由：提供了6-bit量化模型下载与转换代码，帮助开发者在苹果设备上高效部署图像生成模型。
Hugging Face BlogAI 评分2222 将 Livebook 笔记本部署为 Hugging Face Spaces 应用
Livebook 笔记本现可直接部署为 Hugging Face Spaces 应用。该集成支持通过 Whisper 模型构建多人语音聊天应用，并实现并发模型服务。用户可借助 Bumblebee 和 tokenizers 等库，在 Spaces 中免费运行交互式代码笔记本。
Hugging Face BlogAI 评分2222 Hugging Face 发布新版内容指南与政策
Hugging Face 发布新版内容政策，旨在维护开放、协作且负责任的机器学习社区环境。新规强调“同意”为核心价值，规范用户身份与隐私保护，并禁止针对用户及员工的攻击性语言。平台鼓励通过社区标签页进行透明讨论与协作，以解决潜在冲突。
OpenAI News精选AI 评分6868 OpenAI 宣布 API 更新：支持函数调用、更长上下文及降价
OpenAI 宣布 API 更新，包括更可控的模型、函数调用功能、更长的上下文窗口以及更低的价格。
推荐理由：官方宣布API更新，涵盖函数调用、更长上下文及降价，开发者可据此评估功能升级与成本优化。
Hugging Face BlogAI 评分3535 Hugging Face 与 AMD 合作加速 CPU 和 GPU 平台上的前沿模型
Hugging Face 与 AMD 正式达成合作，旨在为 AMD Instinct MI2xx/MI3xx、Radeon Navi3x、Ryzen 及 EPYC 等硬件平台提供前沿 Transformer 模型的最佳性能。
Hugging Face Blog精选AI 评分6868 Hugging Face 研究：基础模型能否像人类一样标注数据
Hugging Face 发布研究，对比人类标注与 GPT-4 对开源模型（Vicuna、Koala 等）的偏好评估，发现 GPT-4 存在显著的位置偏差和长度偏好，且与人类标注的相关性在编码任务中较低。
推荐理由：通过对比人类标注与GPT-4评估结果，揭示了LLM评估中的位置偏差与长度偏好问题。
Hugging Face BlogAI 评分2020 Hugging Face Hub 面向 GLAM 领域的应用指南
Hugging Face Hub 面向画廊、图书馆、档案馆和博物馆（GLAM）领域发布应用指南，介绍如何利用该平台共享和访问机器学习模型、数据集及演示应用。平台目前托管超过 19 万个模型、3.3 万个数据集和 10 万个应用，支持通过 API 部署或集成 Transformers 库使用。文章详细演示了如何筛选特定任务与语言的模型，以及如何上传 CSV 格式的数据集。
Hugging Face BlogAI 评分3535 DuckDB：在 Hugging Face Hub 上分析 50,000+ 数据集
Hugging Face Hub 新增功能，允许用户通过 DuckDB 对平台上存储的 50,000 多个数据集运行 SQL 查询。Dataset Viewer 会自动将公开数据集转换为 Parquet 文件，用户可通过 HTTP 调用获取文件 URL，并利用 DuckDB 的 httpfs 扩展直接对远程文件执行分析查询。
Hugging Face BlogAI 评分2525 Hugging Face Hub 上线 Meta AI fastText 官方镜像
Hugging Face Hub 上线 Meta AI fastText 官方镜像，托管 157 种语言词向量及语言识别模型。用户可通过 huggingface_hub 库轻松下载模型，并利用内置的文本分类和特征提取小部件进行交互。
Hugging Face Blog精选AI 评分8686 Hugging Face 发布 Falcon 开源大语言模型
阿布扎比技术创新研究所（TII）发布 Falcon-7B 和 Falcon-40B 开源大语言模型，采用 Apache 2.0 协议。Falcon-40B 在 Open LLM Leaderboard 上排名第一，以 2800 PF-days 算力超越 LLaMA-65B。
推荐理由：Falcon 40B 以较低算力成本在基准测试中超越 LLaMA-65B，展示了多查询注意力与 RefinedWeb 数据的高效性。
Hugging Face BlogAI 评分2828 Hugging Face Unity API 实现语音识别教程
Hugging Face 发布 Unity API 语音识别教程，指导开发者在 Unity 游戏中实现语音转文本功能。教程详细演示了如何设置 UI 组件、编写 C# 脚本调用麦克风录制音频，并将 WAV 格式数据通过 API 处理。该功能可用于 NPC 交互、游戏指令控制及无障碍辅助。
OpenAI NewsAI 评分3535 OpenAI 网络安全资助计划
OpenAI 推出网络安全资助计划，旨在通过资助及其他支持方式，促进防御方 AI 网络安全能力的发展。
Hugging Face BlogAI 评分88 Hugging Face 宣布首届开源 AI 游戏开发大赛
Hugging Face 宣布举办首届开源 AI 游戏开发大赛，参赛者需在 7 月 7 日至 9 日期间使用 AI 工具制作游戏。参赛作品需支持网页或 Windows 平台，且必须集成至少一个开源 AI 工具。比赛强调利用 Stable Diffusion 等工具加速开发，面向全球开发者免费开放。
OpenAI NewsAI 评分5151 OpenAI 通过过程监督提升数学推理能力
OpenAI 提出过程监督方法，通过奖励推理过程中的每个正确步骤而非仅最终答案，在数学问题解决上取得新进展，同时直接训练模型生成人类认可的链式思维。
Hugging Face BlogAI 评分3838 介绍用于 Amazon SageMaker 的 Hugging Face LLM 推理容器
Hugging Face 发布用于 Amazon SageMaker 的 LLM 推理容器，基于 Text Generation Inference (TGI) 提供高性能大语言模型部署能力。
Hugging Face BlogAI 评分2525 BERTopic 集成正式接入 Hugging Face Hub
Hugging Face Hub 正式集成 BERTopic，为模型和数据集提供自动主题建模功能。该工具支持对文本数据进行聚类与可视化，帮助开发者快速理解语料库结构。集成后用户可直接在 Hub 上利用该算法进行主题分析。
OpenAI NewsAI 评分3232 OpenAI 启动 AI 治理民主化进程资助计划
OpenAI 宣布启动一项资助计划，旨在通过民主程序决定 AI 系统的规则。该计划将向十个项目提供总额 100 万美元的赠款，用于支持在合法范围内探索 AI 治理机制的实验。
Hugging Face BlogAI 评分4545 使用 NNCF 和 🤗 Optimum 优化 Stable Diffusion 在 Intel CPU 上的性能
Hugging Face 博客介绍了一种结合 OpenVINO NNCF 和 🤗 Optimum 的优化工作流，显著降低了 Stable Diffusion 模型在资源受限 CPU 上的推理延迟。该方案通过量化感知训练（QAT）、知识蒸馏和 Token Merging 技术，实现了 5.1 倍的推理加速和 4 倍的模型体积缩减。
Hugging Face Blog精选AI 评分8888 Hugging Face 整合 4-bit 量化与 QLoRA 技术
Hugging Face 在 transformers 中整合了 bitsandbytes 的 4-bit 量化与 QLoRA 技术，支持在消费级 GPU 上运行和微调大模型。QLoRA 通过 4-bit NormalFloat 存储和双重量化降低显存占用，使单卡微调 65B 参数模型成为可能。
推荐理由：官方整合了4-bit量化与QLoRA技术，提供了在消费级硬件上运行和微调大模型的完整工具链。
Hugging Face BlogAI 评分3838 Hugging Face 与微软合作在 Azure 推出 Hugging Face Model Catalog
Hugging Face 与微软合作在 Azure Machine Learning Studio 原生集成 Hugging Face Model Catalog，提供数千个热门 Transformers 模型。用户可通过几步操作在 Azure 基础设施上快速部署模型并获取推理 API。该服务今日在 Azure 所有可用区域以公共预览版形式开放。
Hugging Face Blog精选AI 评分6565 Safetensors 通过安全审计并将在 Transformers 中成为默认格式
Hugging Face 联合 EleutherAI 和 Stability AI 宣布 safetensors 库已通过 Trail of Bits 的安全审计，确认无导致任意代码执行的严重漏洞。该库将作为核心依赖加入 Transformers 并设为默认保存格式，提供比 pickle 更安全且加载速度更快的张量存储方案。
推荐理由：官方联合第三方完成安全审计并宣布将其设为默认格式，为模型加载提供了安全与性能保障。
Hugging Face BlogAI 评分4343 Hugging Face 与 IBM 合作 watsonx.ai，面向 AI 开发者的下一代企业级工作室
Hugging Face 与 IBM 宣布合作，将 Hugging Face 开源库集成至 IBM watsonx.ai 平台。watsonx.ai 是基于 RedHat OpenShift 构建的下一代企业 AI 工作室，支持在云端和本地部署，旨在帮助客户训练、验证、微调及部署传统机器学习与生成式 AI 模型。双方还将合作将 IBM 开发的大语言模型开源至 Hugging Face Hub。
Hugging Face BlogAI 评分5050 使用 InstructPix2Pix 对 Stable Diffusion 进行指令微调
Hugging Face 博客介绍利用 InstructPix2Pix 训练方法对 Stable Diffusion 进行指令微调，使其能根据指令处理输入图像。研究结合 FLAN V2 理念构建数据集，在卡通化、去雨等任务上实现了比预训练模型更忠实的效果。代码、预训练模型及数据集已开源。
OpenAI NewsAI 评分1515 超级智能的治理
现在是开始思考超级智能治理的好时机。超级智能指未来能力远超 AGI 的 AI 系统。
OpenAI News精选AI 评分6868 OpenAI 发布 ChatGPT iOS 独立应用
OpenAI 发布 ChatGPT iOS 独立应用，支持对话记录同步、语音输入及最新模型改进。
推荐理由：ChatGPT 推出 iOS 独立应用，同步对话记录并支持语音输入，方便用户移动端使用。
Hugging Face BlogAI 评分3333 Smaller is better: Q8-Chat, an efficient generative AI experience on Xeon
Hugging Face 与 Intel 合作推出 Q8-Chat，利用 SmoothQuant 技术将 LLaMA、OPT 等大语言模型量化为 8 位整数（INT8）。该方案使模型体积缩小约 2 倍，并在 Intel Xeon CPU 上实现低延迟推理，显著降低了运行成本。
Hugging Face BlogAI 评分4040 BigCode 大规模近重复数据去重技术解析
BigCode 团队分享了大规模近重复数据去重的实践经验，旨在提升代码模型训练效率并防止基准测试污染。文章详细解析了 MinHash + LSH 等去重方法，并提供了针对 InCoder、CodeGen 等模型及 The Stack 数据集的去重参数与效果对比数据。
Hugging Face BlogAI 评分3636 如何在单张 AMD GPU 上使用 ROCm 运行类 ChatGPT 聊天机器人
本文详解如何在单张 AMD GPU 上使用 ROCm 运行 130 亿参数的开源聊天机器人 Vicuna 13B。通过 GPTQ 技术将模型量化至 4-bit，可将显存需求从 28GB 降至 6GB，从而在内存受限环境下实现高效推理。教程提供了基于 Docker 和 PyTorch 的完整部署步骤，包括模型下载、量化及 Web UI 服务搭建。
Hugging Face BlogAI 评分2323 Hugging Face 入选法国数据保护局增强支持计划
Hugging Face 入选法国数据保护局（CNIL）增强支持计划，从40多家候选公司中脱颖而出。该计划旨在协助企业理解并履行数据保护义务，应对人工智能领域隐私合规挑战。Hugging Face 将利用此机会推动 GDPR 合规，为社区提供隐私和数据保护方面的清晰指引。
Hugging Face Blog精选AI 评分7070 RWKV架构正式集成至Hugging Face transformers库
Hugging Face宣布将RWKV架构正式集成至transformers库，该架构结合了RNN的推理效率与Transformer的训练优势。目前提供169M至14B参数的预训练模型及RWKV-4 Raven对话模型，并附带权重转换脚本。
推荐理由：RWKV架构正式集成至Hugging Face transformers库，提供从预训练到Chat微调的多种模型及权重转换工具。
Hugging Face Blog精选AI 评分7878 Hugging Face 推出辅助生成技术降低文本生成延迟
Hugging Face 在 Transformers 库中引入辅助生成（Assisted Generation）技术，利用小模型生成候选 token 并由大模型验证，从而减少前向传播次数。该方法在模型显存不足需卸载时最高可实现 10 倍加速，在显存充足时也可获得 2 至 3 倍加速，且支持贪婪解码与采样。
推荐理由：Hugging Face 在 Transformers 中引入辅助生成技术，通过小模型辅助大模型解码，显著降低文本生成延迟。
OpenAI NewsAI 评分5555 GPT-4可解释语言模型神经元行为并开源数据集
OpenAI使用GPT-4自动生成并评分GPT-2中每个神经元的解释，发布包含这些解释和分数的数据集。
Hugging Face Blog精选AI 评分7373 Hugging Face 发布 StarChat Alpha 编程助手
Hugging Face 发布基于 StarCoder 微调的编程助手 StarChat Alpha，采用 ChatML 格式与 OpenAssistant 数据集训练，提供代码、数据集及模型下载。
推荐理由：文章展示了基于StarCoder微调出StarChat Alpha的过程，提供了ChatML格式和DeepSpeed训练代码供开发者复用。
Hugging Face BlogAI 评分3838 深入解析文本生成视频模型
文本生成视频模型正成为生成式AI的重要进展，旨在从文本描述中生成时空一致的视频序列。该任务面临计算成本高、高质量数据集稀缺及视频描述模糊等独特挑战。Hugging Face 博客回顾了从 GAN 到 Transformer 再到扩散模型的演进，并分享了相关演示与资源。
Hugging Face Blog精选AI 评分8282 StarCoder 发布：面向代码的大语言模型
Hugging Face 发布 StarCoder 和 StarCoderBase 代码大语言模型，在 HumanEval 等基准上达到开源 SOTA。模型基于 The Stack 数据集训练，提供完整训练数据、PII 移除工具及 BigCode OpenRAIL-M 许可证。
推荐理由：模型在HumanEval等基准上达到开源SOTA，提供完整训练数据与治理工具，适合二次开发。
Hugging Face BlogAI 评分3636 如何在 Unity 项目中安装和使用 Hugging Face Unity API
Hugging Face Unity API 允许开发者在 Unity 项目中通过 Git URL 安装并调用 Hugging Face Inference API。该 API 支持对话、文本生成、图像生成、分类、问答、翻译、摘要及语音识别等任务，并提供自定义模型端点配置。开发者可通过 API Wizard 输入密钥测试连接，并在脚本中异步调用相应方法处理回调结果。
Hugging Face BlogAI 评分4242 使用 🤗 Transformers、TensorFlow 和 TPU 训练语言模型
Hugging Face 发布指南，展示如何使用 🤗 Transformers、TensorFlow 和 TPU 从头训练 RoBERTa 模型。教程涵盖使用 🤗 tokenizers 训练 Unigram 分词器、将 WikiText 数据集转换为 TFRecord 格式并上传至 Google Cloud Storage，以及利用 XLA 兼容性完成端到端训练流程。