跳到正文
原文
Hugging Face Blog·· 2025-03-18精选AI 评分68

Hugging Face 将仓库迁移至 Xet 存储以加速大文件传输

Xet is on the Hub

AI 导读

Hugging Face 将首批模型和数据集仓库从 LFS 迁移至 Xet 存储,利用内容定义分块实现字节级去重,显著降低大文件上传下载开销。团队在迁移 4.5 TB 数据后修复了下载冗余和负载不均等工程问题,并推出 hf_xet 包以无缝集成。

推荐理由

Hugging Face 将部分仓库迁移至 Xet 存储,通过块级去重显著降低大文件传输开销。

来源:Hugging Face Blog · huggingface.co