OpenAI 推出 ChatGPT Plus 订阅计划
OpenAI 宣布推出 ChatGPT 的试点订阅计划 ChatGPT Plus。该计划面向能够对话、回答后续问题并纠正错误假设的 ChatGPT 服务。
推荐理由:原文宣布推出ChatGPT订阅计划,提供了官方入口,读者可据此了解付费服务的具体形态。
AI 产品与应用的功能上新、改版与商业化动态——谁家的产品变强了、变贵了、能用了。
OpenAI 宣布推出 ChatGPT 的试点订阅计划 ChatGPT Plus。该计划面向能够对话、回答后续问题并纠正错误假设的 ChatGPT 服务。
推荐理由:原文宣布推出ChatGPT订阅计划,提供了官方入口,读者可据此了解付费服务的具体形态。
Hugging Face Diffusers 正式支持 Stable Diffusion 的 LoRA 微调,训练仅需 11 GB 显存,生成的权重文件仅约 3 MB。该功能支持 Dreambooth 和全量微调,并内置自动记录基础模型元数据以简化推理加载。
推荐理由:Diffusers 原生支持 LoRA 大幅降低显存需求并生成极小权重文件,便于模型分享与复用。
Hugging Face 官方提供 Stable Diffusion Core ML 转换权重,让 Apple Silicon 用户能直接调用并本地运行。支持 v1.4、v1.5 及 v2 系列模型,提供 Python 和 Swift 两种推理方式,并附带自定义模型转换脚本。
推荐理由:Hugging Face 官方提供 Stable Diffusion Core ML 转换权重,让 Apple Silicon 用户能直接调用并本地运行。
OpenAI 发布 ChatGPT,该模型支持对话式交互,能够回答后续问题、承认错误、挑战错误前提并拒绝不适当请求。
推荐理由:原文给出了ChatGPT的对话交互能力定义,读者可以据此了解其核心功能与交互逻辑。
OpenAI 宣布 DALL·E API 进入公测阶段,开发者即日起可以开始构建基于该 API 的应用程序。
推荐理由:DALL·E API 进入公测阶段,开发者可据此构建图像生成应用。
Hugging Face 宣布 Optimum Intel 集成 Intel OpenVINO,支持在 Intel 处理器上对 Transformers 模型进行推理与量化。以 ViT 模型为例,量化后模型体积缩小 3.8 倍,推理延迟降低 2.4 倍。
推荐理由:Hugging Face 官方宣布集成 OpenVINO,提供一键量化与推理工具,可显著降低模型体积与延迟。
Hugging Face 发布 MTEB 大规模文本嵌入模型评测基准,涵盖 56 个数据集和 8 个任务,支持 112 种语言。该基准提供排行榜和 Python 库,用户可便捷地对模型进行基准测试并提交结果。
推荐理由:MTEB 提供了涵盖多语言和多任务的文本嵌入模型统一评测框架,方便开发者快速选型。
Hugging Face 发布 Inference Endpoints,允许用户通过几步操作将模型从 Hub 直接部署到 AWS 等云厂商的托管基础设施。服务支持 Public、Protected 和 Private 三种安全模式,其中 Private 模式可通过 AWS PrivateLink 实现 VPC 内网访问,并提供自动扩缩容、监控日志和 API 调用能力。
推荐理由:官方发布托管推理服务,提供从公开到私有VPC的多级安全部署选项,降低生产环境部署门槛。
Hugging Face 联合 Intel Labs 和 UKP Lab 发布 SetFit,一种用于 Sentence Transformers 的高效少样本微调框架。
推荐理由:Hugging Face 发布 SetFit 框架,通过两阶段微调实现无需提示词的高效少样本学习,并附完整代码教程。
OpenAI 训练并开源了名为 Whisper 的神经网络模型,该模型在英文语音识别任务上达到了接近人类水平的鲁棒性和准确率。
推荐理由:OpenAI 开源了 Whisper 模型,在英文语音识别上达到接近人类水平的鲁棒性和准确率。
Hugging Face 将 LLM.int8() 8-bit 量化技术集成至 transformers 和 accelerate 库,使 BLOOM-176B 等超大模型显存占用减半且性能无退化。该方案通过分离异常值计算,在 Turing 和 Ampere 架构 GPU 上实现高效推理。
推荐理由:官方将LLM.int8()集成至transformers库,提供降低显存占用且保持性能的方法与代码示例。
OpenAI 宣布 DALL·E 开放 Beta 版,将从等待名单中邀请 100 万人参与。用户每月可获得免费额度,并可以 15 美元购买 115 次生成额度。
推荐理由:DALL·E 开放 Beta 并公布免费额度与付费机制,用户可据此评估其日常创作成本与可用性。
Hugging Face 发布全球最大开源多语言大语言模型 BLOOM,拥有 1760 亿参数,支持 46 种自然语言和 13 种编程语言。该模型由 1000 多名研究人员历时 117 天训练完成,首次开源了完整的训练检查点和优化器状态,并提供基于 TPU 的推理 API 供社区测试。
推荐理由:开源了1760亿参数多语言模型及训练检查点,为研究大模型内部机制提供了完整的透明数据。
Hugging Face Transformers 库新增受限束搜索(Constrained Beam Search)功能,允许在文本生成过程中强制包含特定词汇或短语。该功能支持强制词、析取约束及自定义约束对象,通过 Bank 轮询机制平衡约束满足与输出合理性。
推荐理由:原文介绍了如何在生成阶段强制包含特定词汇或短语,为需要精确控制输出的场景提供了可迁移的方法。
OpenAI 发布 InstructGPT 模型,通过人类反馈对齐技术显著提升了指令遵循能力,并使其更真实、减少毒性。该模型现已作为默认语言模型部署在 OpenAI API 上。
推荐理由:InstructGPT 通过人类反馈对齐技术提升了指令遵循能力,并作为默认模型上线 API。
Hugging Face 发布开源库 Optimum,旨在降低 Transformer 模型在生产环境中的部署难度。该库联合硬件合作伙伴(如 Intel)提供模型量化与加速工具,通过 Neural Compressor 等方案实现高效推理。
推荐理由:Hugging Face 联合 Intel 发布 Optimum 库,提供开箱即用的模型量化与加速方案,降低生产环境部署门槛。
OpenAI 发布了改进版 Codex,这是一款能将自然语言转换为代码的 AI 系统,并通过 API 以私有测试形式开放。
推荐理由:OpenAI 通过 API 以私有测试形式发布了改进版 Codex,为开发者提供了将自然语言转换为代码的新途径。
OpenAI 发布 Triton 1.0,这是一个开源的类 Python 编程语言,旨在让没有 CUDA 经验的开发者也能编写出与专家水平相当的高效 GPU 代码。
推荐理由:Triton 1.0 开源发布,提供类 Python 的 GPU 编程方式,降低高效算子开发门槛。
Hugging Face 发布 Accelerate 库,通过极简 API 封装分布式训练脚本添加少量代码即可适配多 GPU、TPU 及混合精度训练。该库自动处理设备放置、数据采样同步及梯度聚合,并提供 CLI 启动器简化配置流程。
推荐理由:通过极简 API 封装分布式训练样板代码,使 PyTorch 原生脚本无缝适配多卡与混合精度。
OpenAI 发布了名为 DALL·E 的神经网络模型,能够根据自然语言描述生成图像。
推荐理由:OpenAI 展示了通过自然语言描述生成图像的能力,为文本到图像生成技术提供了早期基础。