跳到正文

产品更新

AI 产品与应用的功能上新、改版与商业化动态——谁家的产品变强了、变贵了、能用了。

480条精选相关主题模型发布行业动态AI 编码

最新精选

第 401–420 条 · 共 480 条
5月16日周四
  1. Hugging Face Blog70

    Hugging Face Transformers 支持 KV Cache 量化以优化长文本生成

    Hugging Face 在 Transformers 库中集成 KV Cache 量化功能,支持 int2 至 int4 精度,可显著降低长上下文生成的显存占用。实验显示 int4 精度在保持模型质量的同时,相比 fp16 可实现约 2.5 倍的显存节省,在 80GB A100 上支持最高 128k tokens 上下文。

    推荐理由:官方在 Transformers 中集成 KV Cache 量化功能,提供 int2 至 int4 精度选项,显著降低长文本生成的显存占用。

5月14日周二
  1. Hugging Face Blog83

    Google 发布开源视觉语言模型 PaliGemma

    Google 在 Hugging Face 发布了开源视觉语言模型 PaliGemma,该模型结合 SigLIP 图像编码器和 Gemma-2B 文本解码器,提供 224x224、448x448 和 896x896 三种分辨率。

    推荐理由:Google 开源了基于 SigLIP 和 Gemma 的多分辨率视觉语言模型,提供了详细的微调指南和推理代码。

5月13日周一
  1. Hugging Face Blog78

    Hugging Face 发布独立 Agent 库 smolagents,开源模型 GAIA 基准超越 GPT-4

    Hugging Face 将 Transformers Agents 升级为独立库 smolagents,引入支持基于过往观察进行迭代的 ReactAgent 新架构。使用 Llama-3-70B-Instruct 驱动的多模态 Agent 在 GAIA 基准测试中排名第四,超越了多个基于 GPT-4 的 Agent。

    推荐理由:Hugging Face 发布独立 Agent 库,提供可迭代的新架构,开源模型在 GAIA 基准上表现超越 GPT-4。

4月29日周一
  1. Hugging Face Blog77

    StarCoder2-15B-Instruct-v0.1 发布:完全透明的自对齐代码模型

    Hugging Face 发布 StarCoder2-15B-Instruct-v0.1,这是首个采用完全透明且许可自由的自对齐管道训练的代码大语言模型。该模型仅使用 StarCoder2-15B 自身生成的指令-响应对进行微调,无需人工标注或闭源模型蒸馏数据。

    推荐理由:模型采用完全自生成的指令微调数据,在编码基准上超越部分闭源模型,提供了可复用的自对齐方法。

4月24日周三
  1. OpenAI News75

    OpenAI 推出 ChatGPT 和 Whisper API

    OpenAI 宣布推出 ChatGPT 和 Whisper API,为开发者提供直接调用大模型和语音识别能力的入口。

    推荐理由:OpenAI 官方宣布推出 ChatGPT 和 Whisper API,为开发者提供直接调用大模型和语音识别能力的入口。

4月17日周三
  1. Mistral AI85

    Mistral AI 发布 Mixtral 8x22B 开源模型

    Mistral AI 发布 Mixtral 8x22B 开源模型,采用稀疏 MoE 架构,141B 参数中仅激活 39B,支持 64K 上下文窗口。该模型在数学和编码任务上表现优异,指令微调版在 GSM8K 上得分 90.8%,以 Apache 2.0 协议开源。

    推荐理由:该模型以141B参数实现39B活跃参数推理,在数学和编码基准上表现突出,为开源生态提供了高性价比的基座选择。

4月15日周一
4月9日周二
  1. Hugging Face Blog78

    Google 发布 CodeGemma 代码大模型

    Google 发布 CodeGemma 代码大模型,包含 2B 和 7B 基础模型及 7B 指令微调模型,在 HumanEval 等基准上表现优异。Hugging Face 提供 Transformers 集成、4-bit 量化及 Google Cloud 部署支持。

    推荐理由:提供了2B和7B模型及详细评测,给出了HF生态集成与部署方案,便于开发者评估与落地。

3月21日周四
  1. Hugging Face Blog68

    Hugging Face 联合 Lighthouz AI 推出 Chatbot Guardrails Arena

    Hugging Face 联合 Lighthouz AI 推出 Chatbot Guardrails Arena,这是一个针对 AI 聊天机器人数据隐私的对抗性压力测试平台。该平台包含 12 款结合 RLHF 及 NeMo Guardrails、LlamaGuard 等防护措施的模型,用户通过盲测尝试诱导模型泄露虚构银行的敏感信息,投票结果将基于 Elo 评级系统生成公开的隐私安全排行榜。

    推荐理由:Hugging Face联合推出隐私对抗测试平台,通过盲测对比12款模型防泄露能力,提供可迁移的安全评估基准。

3月20日周三
  1. Hugging Face Blog80

    Hugging Face 开源 Cosmopedia 合成数据集及生成工具

    Hugging Face 发布 Cosmopedia,这是目前最大的开源合成数据集,包含250亿token和3000万个文件,由 Mixtral-8x7B-Instruct-v0.1 生成。Hugging Face 开源了端到端生成代码、数据集以及基于此训练的 1B 模型 cosmo-1b,详细披露了通过提示词工程和 Web 数据聚类构建大规模预训练数据的完整技术栈。

    推荐理由:开源了250亿token合成数据及生成代码,为复现Phi模型提供了可迁移的预训练数据构建方案。

3月18日周一
  1. Hugging Face Blog72

    Hugging Face 发布 Optimum-Quanto 量化后端

    Hugging Face 发布 Optimum-Quanto,一个面向 PyTorch 的量化后端,支持 int2/int4/int8/float8 权重与激活量化,无缝集成 transformers 库,支持 CPU/GPU/MPS 设备与 torch.compile。

    推荐理由:提供了从动态量化到静态冻结的完整工作流,并原生支持 transformers 集成,便于快速部署。

3月15日周五
  1. Hugging Face Blog68

    Hugging Face 发布 WebSight 数据集与 Sightseer 模型

    Hugging Face 发布 WebSight-v0.2 数据集,包含 200 万对真实截图与 HTML 代码,并开源了基于该数据集微调的 Sightseer 模型,可将网页截图转换为包含图片引用的功能 HTML 代码。

    推荐理由:Hugging Face 开源了包含 200 万对截图与 HTML 代码的 WebSight 数据集及微调模型,为视觉语言模型生成前端代码提供了高质量数据基础。

2月27日周二
  1. Hugging Face Blog61

    Hugging Face 发布 TTS Arena 语音合成模型排行榜

    Hugging Face 发布 TTS Arena,这是一个基于社区投票的文本转语音(TTS)模型排行榜。该工具允许用户提交文本并对比不同模型的合成效果,通过类似 Elo 的算法对 ElevenLabs、MetaVoice、OpenVoice 等模型进行排名。

    推荐理由:Hugging Face 推出基于社区投票的 TTS 模型排行榜,为开发者提供直观的比较工具。

2月26日周一
  1. Mistral AI65

    Mistral AI 发布首款对话助手 Le Chat 并开放内测

    Mistral AI 发布首款对话助手 Le Chat,底层支持 Mistral Large、Small 及原型模型 Mistral Next,提供可调节的系统级内容审核机制。同时推出支持私有化部署和细粒度审核的 Le Chat Enterprise 版本,目前面向公众开放 Beta 内测。

    推荐理由:官方发布首款对话助手并开放内测,提供企业私有化部署方案,可据此评估其多模型调度与商业落地能力。

2月21日周三
2月19日周一
  1. Hugging Face Blog75

    🤗 PEFT 新增多种 LoRA 适配器合并方法

    🤗 PEFT 新增多种 LoRA 适配器合并方法,包括 cat、linear、svd、TIES 和 DARE 等算法。开发者可使用 add_weighted_adapter() 在推理时动态合并适配器,实现能力组合与优化。

    推荐理由:提供了多种 LoRA 合并算法与代码示例,帮助开发者在有限资源下组合模型能力。

2月13日周二
2月8日周四
  1. Hugging Face Blog70

    Hugging Face 推出 Messages API 实现与 OpenAI 兼容

    Hugging Face 在 TGI 1.4.0 版本中引入 Messages API,提供与 OpenAI Chat Completion API 兼容的接口。该功能支持通过 OpenAI 客户端库、LangChain 和 LlamaIndex 直接调用部署在 Inference Endpoints 上的开源模型,简化了从 OpenAI 到开源 LLM 的迁移流程。

    推荐理由:提供与 OpenAI 兼容的接口,帮助开发者低成本将应用迁移至 Hugging Face 开源模型。