Hugging Face 发布 Spark 支持,大语言模型训练与微调速度提升 40%
Hugging Face 发布首个官方 Spark 支持,允许用户通过 `from_spark` 函数直接将 Apache Spark dataframe 转换为 Hugging Face Dataset。该功能省去了写入 Parquet 文件的繁琐步骤,使 16GB 数据集的处理时间从 22 分钟缩短至 12 分钟,训练和微调速度提升超过 40%。
Hugging Face 发布首个官方 Spark 支持,允许用户通过 `from_spark` 函数直接将 Apache Spark dataframe 转换为 Hugging Face Dataset。该功能省去了写入 Parquet 文件的繁琐步骤,使 16GB 数据集的处理时间从 22 分钟缩短至 12 分钟,训练和微调速度提升超过 40%。
Hugging Face展示了如何在免费Google Colab上运行DeepFloyd IF模型。通过8bit量化、分阶段加载和显存释放,成功在15GB显存的T4 GPU上完成文本生成、图像变体和图像修复。
推荐理由:原文给出了在低显存环境下运行IF模型的具体优化代码,读者可直接复现该实践。
ChatGPT 用户现在可以关闭聊天记录,从而选择哪些对话可用于训练模型。
Hugging Face 推出面向中文用户的官方博客 hf.co/blog/zh,由志愿者翻译博客文章及 Transformer、扩散模型和强化学习课程。此举旨在服务日益增长的中文 AI 社区,促进相互学习与协作。Hugging Face 将加强与 PaddlePaddle 等组织的合作,并继续举办线上课程及线下活动以推动开源机器学习领域的知识共享。
Hugging Face Spaces 支持托管可玩的 Unity 游戏。教程指导用户通过 Static HTML 模板创建 Space,将 Unity 项目构建目标切换为 WebGL,禁用压缩格式并导出构建文件。最后通过 Git 和 Git-LFS 将构建文件推送至 Space 仓库,即可实现在线游玩。
Hugging Face 与 AWS 合作优化 Hugging Face Transformers 以适配 AWS Inferentia 2 推理加速器。AWS EC2 Inf2 实例相比 NVIDIA A10G GPU 提供最高 2.6 倍吞吐量和 8.1 倍延迟降低。
本文介绍如何使用 Hugging Face Transformers 库中的 Graphormer 模型进行图分类任务。通过加载 OGB/ogbg-molhiv 数据集,应用 Graphormer 默认预处理生成节点度数和最短路径矩阵等特征,并加载预训练权重进行微调。该教程展示了从数据加载、格式定义到模型训练与评估的完整流程。
Substra 是一个面向生产环境的开源联邦学习框架,旨在解决医疗等敏感领域数据孤岛问题。联邦学习允许数据保留在本地服务器,仅传输模型权重,从而在保护隐私的同时利用多源数据提升模型鲁棒性。Hugging Face 与 Substra 合作创建了演示空间,展示该框架在真实世界挑战中的实际应用。
OpenAI 宣布推出漏洞赏金计划,以落实其对开发安全且先进 AI 的承诺。该举措旨在通过寻求社区协助,确保其创建的技术与服务具备安全性、可靠性及可信赖性。
Snorkel AI 与 Hugging Face 合作,通过 Snorkel Flow 平台集成 Hugging Face Inference Endpoint 服务,帮助企业更灵活地适配基础模型。
OpenAI 强调确保 AI 系统的构建、部署和使用安全是其使命的关键。
Hugging Face 发布 StackLLaMA 模型及完整训练管线,详细演示了如何结合 SFT、奖励建模和 PPO 算法,利用 PEFT 技术在单卡或集群上对 LLaMA 进行 RLHF 微调,并分享了训练中的稳定性问题与解决方案。
推荐理由:文章完整展示了基于LLaMA 7B、PEFT和TRL库进行RLHF微调的实操流程,包含代码与踩坑经验。
Hugging Face 发布伦理与社会通讯第 3 期,阐述在开源机器学习中平衡开放性与风险控制的伦理框架。平台推出涵盖严谨、同意、社会意识等 6 个维度的伦理标签,并上线内容举报功能以识别违规模型与数据集。此外,Hugging Face 通过完善模型卡片、推广 RAIL 许可证及社区协作机制,致力于最小化 AI 潜在危害。
在 Intel Sapphire Rapids CPU 上,使用 OpenVINO 将 Stable Diffusion 推理延迟从 32.3 秒降至 16.7 秒,实现 2 倍加速。进一步通过 reshape 固定输入形状,延迟可进一步降至 4.7 秒,带来额外 3.5 倍加速。结合系统级优化,相比上代 Ice Lake CPU 原生推理,整体速度提升近 10 倍。
BLOOMZ 模型在 Habana Gaudi2 加速器上实现了比 Nvidia A100 更快的推理速度。176B 参数模型在 Gaudi2 上比 A100 快 1.42 倍,7B 参数模型快 2.89 倍。初代 Gaudi 在 7B 模型上具备更优的性价比。
Hugging Face 发布教程展示如何结合 Flower 框架在多个客户端上对 distilBERT 模型进行联邦学习。该教程以 IMDB 数据集为例,演示了利用 Hugging Face datasets 库加载数据、使用 PyTorch 进行模型训练与评估,并通过 Flower 客户端类实现本地训练与参数聚合的完整流程。
OpenAI 发布了关于 3 月 20 日 ChatGPT 宕机事件的调查结果、采取的行动及 bug 的技术细节。
Hugging Face 博客详解了使用 diffusers 训练 ControlNet 的三步流程:规划条件、构建数据集与模型训练。文章以训练面部姿态控制模型为例,展示了从 FaceSynthetics 数据集准备到使用 A100 进行训练的具体代码与参数配置,并提供了适配 8GB 至 16GB 显存的优化方案。
推荐理由:原文详述了基于diffusers训练ControlNet的三步流程与显存优化技巧,提供了可直接复用的实操指南。
ChatGPT 发布插件功能,允许模型访问最新信息、运行计算或使用第三方服务。
推荐理由:ChatGPT 首次支持插件,赋予模型调用第三方服务的能力,标志着向智能体交互的演进。
Hugging Face 改进了 Hugging Face Hub 对 Jupyter 笔记本的托管支持,新增渲染功能使 ipynb 文件以人类可读格式展示。Hub 现已支持一键将托管笔记本直接打开在 Google Colab 中。此举旨在提升模型、数据集及演示资源的可复现性与使用便利性。
Khan Academy 正在开展一项有限试点项目,探索 GPT-4 在课堂虚拟教育中的应用潜力。该项目旨在评估该模型在辅助教学场景下的实际表现与价值。
OpenAI发布GPT-4,这是一个接受图像和文本输入并输出文本的大型多模态模型。该模型在各类专业和学术基准测试中展现出人类水平的表现。
推荐理由:原文确立了GPT-4作为多模态大模型的地位,并给出了其在专业基准上达到人类水平的初步能力评估。
GPT-4 被集成至 Be My Eyes 应用中,旨在通过人工智能技术提升视觉障碍群体的日常体验。该举措利用大语言模型的视觉理解能力,为视障用户提供更精准的图像描述与场景解读,从而改善其独立生活能力。
Stripe 利用 GPT-4 优化用户体验并打击欺诈。该集成旨在通过人工智能技术简化操作流程,提升平台安全性与用户满意度。
OpenAI 利用 GPT-4 技术协助冰岛保存其语言。冰岛正通过这一前沿人工智能模型,致力于在数字化时代延续和保护其独特的语言文化,确保该语言在未来得以传承。
GPT-4 深化了与多邻国(Duolingo)的对话合作,旨在填补关键的语言学习空白。
GPT-4 能够生成、编辑并与用户协作完成创意和技术写作任务。其应用场景涵盖作曲、撰写剧本以及学习用户的写作风格。
Hugging Face 发布 Informer 模型,支持多元概率时间序列预测任务。该模型基于 Transformer 架构,通过 ProbSparse 注意力机制和 Distilling 操作,将计算复杂度从 O(T^2D) 降低至 O(TlogT)。
Hugging Face 官方发布 TRL 与 PEFT 的集成,利用 8-bit 量化和 LoRA 适配器,在 24GB 显存的消费级 GPU 上成功微调了 20B 参数的 GPT-NeoX 模型。
推荐理由:官方发布TRL与PEFT集成方案,展示在消费级显卡上微调20B模型的技术路径。
Kakao Brain 与 Hugging Face 联合发布首个开源 ALIGN 模型及 7 亿图文对 COYO 数据集。该模型在多项任务上表现媲美 Google 原版,且训练数据完全公开,支持零样本图像分类与多模态嵌入提取。
Hugging Face 发布教程介绍如何在 Diffusers 中使用 StableDiffusionControlNetPipeline,涵盖边缘、姿态等多种条件控制及多条件组合方法,并演示了通过优化调度器、CPU卸载和xformers实现推理加速与显存节省。
推荐理由:文章详细演示了Diffusers中ControlNet的集成与优化技巧,提供可复用的代码与性能调优方案。
志愿者团队利用 Hugging Face 平台构建 afetharita 应用,协助土耳其地震搜救。团队使用 easyocr 和微调后的 bert-base-turkish-cased 模型提取幸存者信息,并通过 Inference API 部署模型。此外,团队利用 NLI 模型和 Argilla 标注界面优化需求分类与实体识别,确保数据准确入库。
Hugging Face 宣布为 Diffusers 库发布伦理准则,旨在通过透明、一致、简单、可及、可复现和负责任的原则指导技术决策。该准则涵盖社区协作、标签功能、偏见评估等安全机制,并提及 Safe Stable Diffusion、Hub 分阶段发布及 OpenRAILs 许可等具体措施以缓解潜在风险。
Hugging Face 专家加速项目协助 Witty Works 开发包容性写作助手,解决上下文依赖词汇检测难题。团队采用 Sentence Transformers 架构结合 SetFit 库,仅需 15-20 条标注样本即可完成微调。最终部署 mpnet-base-v2 模型,实现低延迟实时建议。
OpenAI 发布声明,阐述其致力于确保通用人工智能(AGI)造福全人类的使命。该组织定义 AGI 为在各方面均比人类更聪明的 AI 系统,并以此作为其长期发展的核心目标。
Hugging Face 发布 Diffusers for Mac 1.1,将扩散模型转换为 Core ML 以利用 Apple Silicon 硬件加速。性能测试显示 M1 Max 使用 GPU 最快,标准 M1 使用 ANE 更快,新版本会自动选择最佳加速器。
推荐理由:官方发布 Swift 原生应用并给出多芯片性能数据,可据此判断端侧生成效率。
大语言模型红队测试旨在通过模拟攻击发现模型漏洞,防止生成有害内容。该过程涉及角色扮演、代码指令等提示词工程,以测试模型在安全对齐后的防御能力。目前该领域仍处于早期阶段,需持续开发自适应方法并加强多组织协作以应对新兴能力带来的风险。
Fetch 利用 Hugging Face 和 AWS 构建自有 AI 工具,将开发时间缩短 30%。该方案处理超过 1100 万张收据,处理延迟降低 50%。
Hugging Face 与 AWS 达成战略合作,旨在通过 Amazon SageMaker 和 AWS Trainium 等工具,降低开发者训练、微调及部署机器学习模型的门槛与成本。双方将利用 AWS 的专用加速芯片优化模型性能,推动下一代生成式 AI 应用的快速构建。此举致力于弥合大型科技公司与普通开发者之间的能力差距,促进 AI 技术的民主化与普及。
OpenAI 澄清 ChatGPT 的行为塑造机制及改进计划,旨在增加用户自定义选项并引入更多公众参与决策。此举明确了平台在规范 AI 行为方面的具体方向与透明度提升措施。
最多提供 50 页,更早的内容请使用搜索或主题页。