OpenAI 与《大西洋月刊》合作,在 ChatGPT 中增强新闻内容
OpenAI 宣布与《大西洋月刊》达成战略合作,将其定位为 OpenAI 产品中的优质新闻来源。《大西洋月刊》的文章将在 ChatGPT 等产品中可供检索,并协助塑造未来实时发现产品的新闻呈现方式。
OpenAI 宣布与《大西洋月刊》达成战略合作,将其定位为 OpenAI 产品中的优质新闻来源。《大西洋月刊》的文章将在 ChatGPT 等产品中可供检索,并协助塑造未来实时发现产品的新闻呈现方式。
OpenAI 与 Vox Media 达成多方面协议,Vox Media 的内容将增强 ChatGPT 的输出质量。同时,Vox Media 将基于 OpenAI 的技术开发产品,以更好地服务其受众和广告商。
Hugging Face 推出 TGI Benchmarking 工具,帮助用户超越单一吞吐量指标,通过分析延迟与吞吐量的权衡来优化 Text Generation Inference 部署。该工具提供交互式界面,可直观展示预填充统计、吞吐量与延迟散点图,辅助用户根据业务需求平衡 Time To First Token 与整体性能。
Hugging Face 发布 Sentence Transformers 训练与微调完整指南,详细拆解数据集、损失函数、训练参数、评估器及 Trainer 组件,并提供多数据集混合训练代码示例。
推荐理由:原文拆解了Sentence Transformers训练全流程,提供多数据集混合训练等可复用代码示例。
Meta发布CyberSecEval 2,用于评估大语言模型在代码解释器滥用、提示词注入及网络攻击合规性方面的安全风险。最新评估显示,行业模型协助网络攻击的合规率已从52%降至28%,但提示词注入风险仍未解决。
TII 发布 Falcon 2 系列模型,包含 11B 参数语言模型与视觉语言模型(VLM),均在 5000B tokens 数据上训练。11B LLM 在多项基准上超越 Llama3-8B 和 Mistral-7B,支持 11 种语言;11B VLM 集成 CLIP 视觉编码器,在 MME 等基准上表现优异。模型采用 Apache 2.0 衍生许可开源。
推荐理由:Falcon 2 提供 11B 参数语言模型与视觉语言模型,兼顾多语言与代码能力,为端侧部署提供高性价比选择。
OpenAI 与 News Corp 达成多年全球合作伙伴关系,旨在通过优质新闻内容丰富 OpenAI 的生成式 AI 产品和平台。
Hugging Face Inference Endpoints 新增 AWS Inferentia2 实例支持,覆盖超十万模型并提供 OpenAI SDK 兼容接口。
OpenAI 发布其安全实践文档,强调在开发人工智能时必须负责任地进行部署。文章指出,通用人工智能有潜力惠及生活的方方面面,因此必须确保其发展过程的安全性与责任感。
Hugging Face 宣布与 AMD 合作,在 Hugging Face Platform 中为 AMD Instinct MI300 提供原生支持,无需代码修改即可在 Azure ND MI300x V5 VM 上运行。
推荐理由:Hugging Face 官方发布 AMD MI300 深度集成方案,提供实测推理与微调性能数据,为开发者提供可迁移的部署参考。
Dell Enterprise Hub 在 Hugging Face 上线,提供预优化容器,让用户能在 Dell 平台上轻松在本地训练和部署开源大语言模型。该工具内置 Llama 3、Mixtral 和 Gemma 等模型,支持通过脚本一键部署为 API 端点,并允许使用 CSV 或 JSONL 格式数据在本地安全环境中进行微调。
Hugging Face Spaces 推出 Dev Mode 功能,允许用户通过 VS Code 或 SSH 直接连接并编辑 Space 代码。该功能目前处于 Beta 阶段,仅对 PRO 订阅用户开放,旨在消除使用 git 推送本地更改的需求,实现更无缝的开发体验。
Hugging Face 与微软宣布深化战略合作,在 Azure Model Catalog 的 Hugging Face Collection 中新增 Llama 3、Mistral 7B 等热门开源大模型,支持一键部署。双方还基于 AMD MI300X GPU 优化了模型性能,并推出 Spaces Dev Mode 以改善开发者在 VS Code 中的体验。
ChatGPT 语音由专业选角和导演团队从 400 多份投稿中筛选出 5 个最终版本。
ChatGPT 更新数据分析功能,支持直接添加 Google Drive 和 Microsoft OneDrive 文件,并增强与表格和图表的交互能力。
推荐理由:ChatGPT 新增云端文件直传与图表交互能力,扩展了多模态处理范围。
OpenAI 宣布与 Reddit 达成合作,计划将 Reddit 的独特内容引入 ChatGPT 及其产品。
推荐理由:OpenAI 官方宣布与 Reddit 达成合作,将 Reddit 内容引入 ChatGPT,为理解大模型数据源拓展提供了直接依据。
Hugging Face 在 Transformers 库中集成 KV Cache 量化功能,支持 int2 至 int4 精度,可显著降低长上下文生成的显存占用。实验显示 int4 精度在保持模型质量的同时,相比 fp16 可实现约 2.5 倍的显存节省,在 80GB A100 上支持最高 128k tokens 上下文。
推荐理由:官方在 Transformers 中集成 KV Cache 量化功能,提供 int2 至 int4 精度选项,显著降低长文本生成的显存占用。
OpenAI 推出 AI 驱动的 Magic Studio。该工具旨在赋能 Canva 平台,帮助缺乏设计训练的知识工作者利用其易用界面和丰富资源库,高效制作演示文稿、视频及社交媒体图形等视觉内容。
OpenAI宣布Ilya Sutskever将离开公司,Jakub Pachocki被任命为首席科学家。
推荐理由:原文确认了首席科学家的交接,读者可据此了解OpenAI高层人事变动的具体安排。
Hugging Face 与 LangChain 联合发布 langchain-huggingface 官方包,解决此前社区维护导致的更新滞后问题。
推荐理由:官方联合维护解决社区维护滞后问题,提供本地与云端两种接入方式,便于开发者快速集成最新模型。
Open Arabic LLM Leaderboard (OALL) 正式上线,旨在评估和比较阿拉伯语大语言模型的性能。该榜单利用 AlGhafa、ACVA 和 AceGPT 等数据集,采用标准化对数似然准确率作为核心评估指标。技术架构基于 lighteval 库,并支持社区提交模型参与排名。
Google 在 Hugging Face 发布了开源视觉语言模型 PaliGemma,该模型结合 SigLIP 图像编码器和 Gemma-2B 文本解码器,提供 224x224、448x448 和 896x896 三种分辨率。
推荐理由:Google 开源了基于 SigLIP 和 Gemma 的多分辨率视觉语言模型,提供了详细的微调指南和推理代码。
OpenAI 发布 GPT-4 Omni 旗舰模型,支持在音频、视觉和文本之间进行实时推理。
推荐理由:GPT-4 Omni 支持实时跨音频、视觉和文本推理,为多模态交互提供了新的技术基准。
OpenAI 发布 GPT-4o 模型,并宣布在 ChatGPT 中提供更多免费能力。
推荐理由:GPT-4o 发布并开放 ChatGPT 免费使用,读者可据此评估多模态模型在通用场景的可用性。
OpenAI 发布最新旗舰模型 GPT-4o,并宣布在 ChatGPT 免费用户中开放更多功能。
推荐理由:GPT-4o 作为最新旗舰模型上线,同时 ChatGPT 免费用户获得更多功能,直接改变免费用户的可用能力边界。
Hugging Face 将 Transformers Agents 升级为独立库 smolagents,引入支持基于过往观察进行迭代的 ReactAgent 新架构。使用 Llama-3-70B-Instruct 驱动的多模态 Agent 在 GAIA 基准测试中排名第四,超越了多个基于 GPT-4 的 Agent。
推荐理由:Hugging Face 发布独立 Agent 库,提供可迭代的新架构,开源模型在 GAIA 基准上表现超越 GPT-4。
Intel 结合 Gaudi 2 加速器和 Xeon CPU,通过 OPEA 平台与 LangChain 框架,展示了构建企业级 RAG 应用的方法。其中嵌入模型运行于 Granite Rapids CPU,LLM 运行于 Gaudi 2,并支持通过 TGI 部署 Llama 等模型。测试显示,启用 FP8 量化相比 BF16 可获得 1.8 倍的吞吐量提升。
Hugging Face 允许用户通过 AWS Marketplace 将组织升级为 Enterprise Hub,以获取高级安全与协作功能。该方案支持单点登录、资源组权限管理、GDPR 合规存储及审计日志,并提供 NVIDIA DGX Cloud 训练选项。订阅后账单由 AWS 账户统一管理,价格与公开定价一致。
OpenAI 发布其数据与 AI 方法,指出 AI 正在改变生活、工作和学习方式,并引发关于 AI 时代数据的讨论。公司同时推出面向创作者和内容所有者的新 Media Manager,并阐述了未来发展方向。
OpenAI 推出新技术帮助研究人员识别由其工具生成的内容,并加入 Coalition for Content Provenance and Authenticity 指导委员会以推动行业标准。
OpenAI 与 Stack Overflow 宣布建立新的 API 合作伙伴关系。该合作旨在结合全球领先的技术知识平台与最受欢迎的 LLM 模型,为 AI 开发赋能开发者。
Hugging Face 推出专为希伯来语设计的开放 LLM 排行榜,填补低资源语言评估空白。该榜单包含希伯来语问答、情感准确性、Winograd Schema 挑战及翻译四项基准测试,采用 few-shot 提示格式评估模型。模型通过 HuggingFace Inference Endpoints 自动部署,由 lighteval 库管理 API 请求进行评测。
Artificial Analysis 的 LLM Performance Leaderboard 正式登陆 Hugging Face,提供涵盖质量、价格与速度的综合指标。
OpenAI 封禁了与伊朗起源的 "IUVM" 行动相关的账户,该行动利用 AI 生成并翻译亲伊朗、反以色列和反美国的内容。
OpenAI 封禁了与源自中国的“Spamouflage”影响力活动相关的账户。该活动利用 AI 研究社交媒体动态、生成帖子,并调试一个此前未披露的网站。
OpenAI 封禁了与名为“零芝诺”的以色列关联影响力行动相关的账号。该行动利用 AI 生成反哈马斯、反卡塔尔、亲以色列、反印度人民党及亲工会的内容。
Hugging Face 博客发布教程,展示如何通过自定义推理处理器在 Inference Endpoints 上部署模块化语音识别服务。该方案结合 OpenAI Whisper 与 Pyannote 模型实现说话人分离,并引入推测解码加速推理。基准测试显示,在短音频且 batch size 为 1 时,推测解码可带来显著性能提升。
推荐理由:提供了结合 Whisper 与 Pyannote 的完整代码,展示了如何在 Inference Endpoints 上部署带说话人分离和推测解码的语音识别服务。
OpenAI 封禁了与俄罗斯起源的“替身”(Doppelganger)行动相关的账户。该行动利用 AI 生成针对乌克兰的反动社交媒体评论、翻译及网站文案,涉及多种语言。
OpenAI 封禁了与名为“Bad Grammar”的俄罗斯关联行动相关的账号。该行动利用 AI 生成关于乌克兰、摩尔多瓦、波罗的海及美国政治的英语和俄语 Telegram 评论。
Hugging Face 与 Dottxt 联合研究指出,LLM 评测结果对提示词格式高度敏感,微小变化可导致模型排名波动。通过 Outlines 库引入结构化生成约束输出,在 GSM8K 和 GPQA 任务中显著降低了性能方差,提升了不同提示词设置下模型排名的稳定性。