Hugging Face Blog·· 2023-06-05精选AI 评分86
Hugging Face 发布 Falcon 开源大语言模型
The Falcon has landed in the Hugging Face ecosystem
AI 导读
阿布扎比技术创新研究所(TII)发布 Falcon-7B 和 Falcon-40B 开源大语言模型,采用 Apache 2.0 协议。Falcon-40B 在 Open LLM Leaderboard 上排名第一,以 2800 PF-days 算力超越 LLaMA-65B。
推荐理由
Falcon 40B 以较低算力成本在基准测试中超越 LLaMA-65B,展示了多查询注意力与 RefinedWeb 数据的高效性。
来源:Hugging Face Blog · huggingface.co