跳到正文

全部动态

今日 6 条
5月29日周三
5月28日周二
5月24日周五
  1. Hugging Face Blog67

    TII 发布 Falcon 2 11B 语言模型与多模态模型

    TII 发布 Falcon 2 系列模型,包含 11B 参数语言模型与视觉语言模型(VLM),均在 5000B tokens 数据上训练。11B LLM 在多项基准上超越 Llama3-8B 和 Mistral-7B,支持 11 种语言;11B VLM 集成 CLIP 视觉编码器,在 MME 等基准上表现优异。模型采用 Apache 2.0 衍生许可开源。

    推荐理由:Falcon 2 提供 11B 参数语言模型与视觉语言模型,兼顾多语言与代码能力,为端侧部署提供高性价比选择。

5月22日周三
5月21日周二
  1. OpenAI News13

    OpenAI 的安全实践

    OpenAI 发布其安全实践文档,强调在开发人工智能时必须负责任地进行部署。文章指出,通用人工智能有潜力惠及生活的方方面面,因此必须确保其发展过程的安全性与责任感。

  2. Hugging Face Blog36

    Dell Enterprise Hub 发布,在 Hugging Face 上轻松在本地训练和部署开源模型

    Dell Enterprise Hub 在 Hugging Face 上线,提供预优化容器,让用户能在 Dell 平台上轻松在本地训练和部署开源大语言模型。该工具内置 Llama 3、Mixtral 和 Gemma 等模型,支持通过脚本一键部署为 API 端点,并允许使用 CSV 或 JSONL 格式数据在本地安全环境中进行微调。

5月20日周一
5月16日周四
  1. Hugging Face Blog70

    Hugging Face Transformers 支持 KV Cache 量化以优化长文本生成

    Hugging Face 在 Transformers 库中集成 KV Cache 量化功能,支持 int2 至 int4 精度,可显著降低长上下文生成的显存占用。实验显示 int4 精度在保持模型质量的同时,相比 fp16 可实现约 2.5 倍的显存节省,在 80GB A100 上支持最高 128k tokens 上下文。

    推荐理由:官方在 Transformers 中集成 KV Cache 量化功能,提供 int2 至 int4 精度选项,显著降低长文本生成的显存占用。

5月15日周三
5月14日周二
  1. Hugging Face Blog25

    发布 Open Arabic LLM Leaderboard

    Open Arabic LLM Leaderboard (OALL) 正式上线,旨在评估和比较阿拉伯语大语言模型的性能。该榜单利用 AlGhafa、ACVA 和 AceGPT 等数据集,采用标准化对数似然准确率作为核心评估指标。技术架构基于 lighteval 库,并支持社区提交模型参与排名。

  2. Hugging Face Blog83

    Google 发布开源视觉语言模型 PaliGemma

    Google 在 Hugging Face 发布了开源视觉语言模型 PaliGemma,该模型结合 SigLIP 图像编码器和 Gemma-2B 文本解码器,提供 224x224、448x448 和 896x896 三种分辨率。

    推荐理由:Google 开源了基于 SigLIP 和 Gemma 的多分辨率视觉语言模型,提供了详细的微调指南和推理代码。

5月13日周一
  1. Hugging Face Blog78

    Hugging Face 发布独立 Agent 库 smolagents,开源模型 GAIA 基准超越 GPT-4

    Hugging Face 将 Transformers Agents 升级为独立库 smolagents,引入支持基于过往观察进行迭代的 ReactAgent 新架构。使用 Llama-3-70B-Instruct 驱动的多模态 Agent 在 GAIA 基准测试中排名第四,超越了多个基于 GPT-4 的 Agent。

    推荐理由:Hugging Face 发布独立 Agent 库,提供可迭代的新架构,开源模型在 GAIA 基准上表现超越 GPT-4。

5月9日周四
5月7日周二
5月6日周一
5月5日周日
  1. Hugging Face Blog30

    Hugging Face 推出希伯来语 LLM 开放排行榜

    Hugging Face 推出专为希伯来语设计的开放 LLM 排行榜,填补低资源语言评估空白。该榜单包含希伯来语问答、情感准确性、Winograd Schema 挑战及翻译四项基准测试,采用 few-shot 提示格式评估模型。模型通过 HuggingFace Inference Endpoints 自动部署,由 lighteval 库管理 API 请求进行评测。

5月3日周五
5月1日周三
  1. Hugging Face Blog68

    在 Hugging Face Inference Endpoints 上部署带说话人分离和推测解码的 ASR 服务

    Hugging Face 博客发布教程,展示如何通过自定义推理处理器在 Inference Endpoints 上部署模块化语音识别服务。该方案结合 OpenAI Whisper 与 Pyannote 模型实现说话人分离,并引入推测解码加速推理。基准测试显示,在短音频且 batch size 为 1 时,推测解码可带来显著性能提升。

    推荐理由:提供了结合 Whisper 与 Pyannote 的完整代码,展示了如何在 Inference Endpoints 上部署带说话人分离和推测解码的语音识别服务。

4月30日周二