OpenAI 将《金融时报》的世界级新闻内容引入 ChatGPT
OpenAI 宣布将《金融时报》(Financial Times)的世界级新闻内容引入 ChatGPT。双方还将合作为 FT 读者开发新的 AI 体验。
OpenAI 宣布将《金融时报》(Financial Times)的世界级新闻内容引入 ChatGPT。双方还将合作为 FT 读者开发新的 AI 体验。
Hugging Face 发布 StarCoder2-15B-Instruct-v0.1,这是首个采用完全透明且许可自由的自对齐管道训练的代码大语言模型。该模型仅使用 StarCoder2-15B 自身生成的指令-响应对进行微调,无需人工标注或闭源模型蒸馏数据。
推荐理由:模型采用完全自生成的指令微调数据,在编码基准上超越部分闭源模型,提供了可复用的自对齐方法。
OpenAI 宣布推出 ChatGPT 和 Whisper API,为开发者提供直接调用大模型和语音识别能力的入口。
推荐理由:OpenAI 官方宣布推出 ChatGPT 和 Whisper API,为开发者提供直接调用大模型和语音识别能力的入口。
OpenAI 宣布致力于加速救命疗法的开发。
OpenAI 宣布 GPT-4 API 正式全面可用,同时 GPT-3.5 Turbo、DALL·E 和 Whisper API 也实现全面可用。公司发布了旧版 Completions API 模型的停用计划,这些模型将于 2024 年初退役。
OpenAI 为 API 客户推出更多企业级功能,旨在增强企业支持。此次更新包括增加更多安全功能与控制选项,对 Assistants API 进行改进,并提供用于更好管理成本的工具。
Hugging Face 发布 Open Chain of Thought Leaderboard,通过对比有无思维链提示的准确率差异来评估大语言模型的推理能力。该榜单基于 LogiQA 和 LSAT 数据集,采用 Classic 和 Reflect 两种提示策略生成推理轨迹,旨在更稳健地衡量模型在复杂逻辑任务中的思维链生成效果。
Hugging Face 发布 Jack of All Trades (JAT),这是一个基于 Transformer 架构的多用途通用智能体项目。JAT 模型在 Atari 57、BabyAI、Meta-World 和 MuJoCo 等 157 个任务上平均达到专家性能的 65.8%,并在 21 个 Atari 游戏中超越人类水平。该项目同时开源了包含数十万专家轨迹的 JAT 数据集及模型。
OpenAI 发布“指令层级”方法,训练大语言模型优先执行特权指令,以抵御提示注入和越狱等攻击。该技术旨在解决当前模型易受恶意提示覆盖原始指令的安全隐患,提升模型在对抗环境下的指令遵循能力。
Hugging Face 发布 Open Medical-LLM Leaderboard,旨在通过标准化平台评估和比较大型语言模型在医疗任务中的表现。该基准测试涵盖 MedQA、MedMCQA、PubMedQA 及 MMLU 医疗子集,以准确率作为主要评估指标。测试结果显示 GPT-4-base 和 Med-PaLM-2 等商业模型在多个医疗数据集上表现优异。
Hugging Face 宣布 Meta 开源大模型 Llama 3 正式上架,提供 8B 和 70B 两种参数规模及基础与指令微调版本,并同步发布安全模型 Llama Guard 2。文章详细介绍了 Llama 3 在训练数据、上下文窗口和 Tokenizer 方面的升级,并给出了基于 Transformers 进行推理、量化部署及 TRL 微调的具体代码示例。
推荐理由:Hugging Face 提供了从模型下载、量化部署到微调的完整技术路径,帮助开发者快速接入 Llama 3。
Mistral AI 发布 Mixtral 8x22B 开源模型,采用稀疏 MoE 架构,141B 参数中仅激活 39B,支持 64K 上下文窗口。该模型在数学和编码任务上表现优异,指令微调版在 GSM8K 上得分 90.8%,以 Apache 2.0 协议开源。
推荐理由:该模型以141B参数实现39B活跃参数推理,在数学和编码基准上表现突出,为开源生态提供了高性价比的基座选择。
Ryght 正式发布面向医疗与生命科学领域的企业级生成式 AI 平台 Ryght Preview。该平台集成 Hugging Face 的 Text Generation Inference (TGI) 和 Text Embeddings Inference (TEI) 服务,支持灵活接入多种大语言模型。Ryght Preview 现已作为免费、安全的平台向生命科学知识工作者公开可用。
Hugging Face 上线 LiveCodeBench Leaderboard,基于 UC Berkeley 等机构开发的 LiveCodeBench 基准,提供防污染的时间窗口评测。该基准涵盖代码生成、自我修复、代码执行和测试输出预测四个场景,采用 Pass@1 指标,并支持通过 GitHub 仓库提交模型结果。
Zama 团队利用全同态加密技术,在 Hugging Face Endpoints 上部署了 Concrete ML 隐私保护机器学习模型。用户可通过一键部署预编译模型,在 CPU 上直接对加密数据进行推理,无需接触明文数据。示例中决策树模型在 691 个样本上准确率达 0.8958,单次推理耗时约 4.123 秒。
Gradio 推出 Reload Mode,在修改源码后无需重启服务器即可自动加载最新更改,显著缩短开发迭代周期。该模式通过自定义重载逻辑,避免重新加载大模型或连接数据库带来的延迟,并支持使用 `gr.NO_RELOAD` 标记不重载代码。结合 Hugging Face Inference API,开发者可快速构建文档分析等多模态应用。
Hugging Face 发布 Idefics2,一款基于 Mistral-7B 和 SigLIP 的 8B 参数开源多模态模型,采用 Apache 2.0 许可证。
推荐理由:开源8B多模态模型在多项基准上超越更大参数模型,提供完整权重与微调数据集,降低多模态应用门槛。
OpenAI 宣布在亚洲设立首个办公室 OpenAI Japan,并发布针对日语优化的 GPT-4 定制模型。
Hugging Face 发布视觉语言模型(VLM)科普与实战指南,涵盖模型原理、主流开源模型概览及选型方法。文章重点介绍了基于最新 TRL 库使用 SFTTrainer 对 LLaVA 等模型进行指令微调的完整代码流程。
推荐理由:文章系统梳理了开源视觉语言模型生态,并提供了基于最新TRL库进行微调的完整代码示例。
Hugging Face 推出 Deploy on Google Cloud 集成,支持在 Vertex AI 或 GKE 上轻松部署数千个开源基础模型。开发者可通过 Hugging Face Hub 或 Vertex Model Garden 一键创建生产就绪的 API 端点,利用 Text Generation Inference 进行推理。
Google 发布 CodeGemma 代码大模型,包含 2B 和 7B 基础模型及 7B 指令微调模型,在 HumanEval 等基准上表现优异。Hugging Face 提供 Transformers 集成、4-bit 量化及 Google Cloud 部署支持。
推荐理由:提供了2B和7B模型及详细评测,给出了HF生态集成与部署方案,便于开发者评估与落地。
Klarna 推出 AI 助手,其工作效率相当于 700 名全职员工。该助手旨在通过人工智能技术彻底革新个人购物、客户服务及员工生产力领域。
OpenAI 对微调 API 进行改进,为开发者提供更多控制能力,并宣布通过 OpenAI 构建自定义模型的新方式。
MotherDuck 与 Numbers Station 联合发布了专为 DuckDB SQL 设计的 LLM 模型 DuckDB-NSQL-7B。该模型基于 Meta 的 Llama-2-7b 微调,支持生成包括 SELECT 在内的多种有效 DuckDB SQL 语句。
Hugging Face 宣布与 Wiz Research 合作,通过集成 Wiz 漏洞管理和云安全态势管理工具,提升平台及 AI/ML 生态系统的安全性。双方联合研究发现并修复了利用 pickle 文件在沙盒计算环境中执行任意代码的安全漏洞。此外,Hugging Face 还分享了 Picklescan、Safetensors 等开源安全工具及最佳实践,致力于降低社区安全风险。
通过 🤗 Optimum Intel 对 SetFit 模型进行 INT8 静态后训练量化,可在 Intel Xeon CPU 上将推理速度提升 7.8 倍。该方法利用 Intel AVX-512、VNNI 和 AMX 指令集加速,在保持模型精度的同时显著降低延迟,支持生产级部署。
Hugging Face 推出 Cloudflare Workers AI 集成,让开发者能轻松将开源模型作为无服务器 API 使用。该方案依托 Cloudflare 边缘数据中心部署的 GPU,采用按请求付费模式,显著降低运营成本。开发者可通过 REST API 或 Cloudflare AI SDK 直接调用 Hermes 2 Pro 等模型。
Harvey 与 OpenAI 合作构建专为法律专业人士定制训练的模型。该合作旨在通过定制化模型满足法律行业的特定需求。
OpenAI 推出新功能,让用户无需注册即可立即体验 ChatGPT。此举旨在降低 AI 使用门槛,使人们能更便捷地感受人工智能带来的益处。
Oscar 将 AI 引入健康保险领域,旨在降低保险成本并改善患者护理体验。
OpenAI 分享了 Voice Engine 小范围预览中的经验教训,该模型用于创建定制语音。
Zelma 利用 GPT-4 实现教育数据的可访问性。
Pollen Robotics 发布开源 pollen-vision 库,通过整合 OWL-VIT、Mobile Sam 和 RAM 等零样本模型,为机器人提供开箱即用的 3D 物体检测与分割能力。该库在 RTX 3070 上处理 1 个提示词仅需约 75ms,可计算物体在相机坐标系下的 (x, y, z) 坐标,为自主抓取未知物体奠定基础。
OpenAI 上月发布视频生成模型 Sora,目前正与艺术家合作探索其如何辅助创意流程。
Hugging Face 发布面向非技术背景新手的入门指南,演示如何在 Hugging Face Spaces 中部署 Microsoft 的 Phi-2 大语言模型。该教程通过创建基于 Docker 的 JupyterLab 环境并租用 NVIDIA A10G 显卡,帮助读者从零理解开源机器学习基础。
Hugging Face 发布嵌入向量量化教程,介绍二进制与标量量化技术,通过 Sentence Transformers 代码示例展示如何在保持检索性能的同时显著降低内存、存储和成本。
推荐理由:文章提供了 Sentence Transformers 量化代码与实验数据,帮助开发者在检索场景中平衡性能与成本。
JetBrains 使用 OpenAI 的 API 构建了其增长最快的产品。
Hugging Face 联合 Lighthouz AI 推出 Chatbot Guardrails Arena,这是一个针对 AI 聊天机器人数据隐私的对抗性压力测试平台。该平台包含 12 款结合 RLHF 及 NeMo Guardrails、LlamaGuard 等防护措施的模型,用户通过盲测尝试诱导模型泄露虚构银行的敏感信息,投票结果将基于 Elo 评级系统生成公开的隐私安全排行榜。
推荐理由:Hugging Face联合推出隐私对抗测试平台,通过盲测对比12款模型防泄露能力,提供可迁移的安全评估基准。
Hugging Face 发布 Cosmopedia,这是目前最大的开源合成数据集,包含250亿token和3000万个文件,由 Mixtral-8x7B-Instruct-v0.1 生成。Hugging Face 开源了端到端生成代码、数据集以及基于此训练的 1B 模型 cosmo-1b,详细披露了通过提示词工程和 Web 数据聚类构建大规模预训练数据的完整技术栈。
推荐理由:开源了250亿token合成数据及生成代码,为复现Phi模型提供了可迁移的预训练数据构建方案。
Hugging Face与Intel合作演示如何在搭载Core Ultra处理器的笔记本上本地运行Phi-2模型。通过Optimum Intel集成OpenVINO对Phi-2进行4-bit量化,在保留生成质量的同时实现低延迟推理,并提供了完整的代码配置与性能视频。
推荐理由:提供在Intel Meteor Lake笔记本上量化部署Phi-2的完整代码与配置,展示端侧推理的隐私与延迟优势。