Hugging Face Blog·· 2025-03-18精选AI 评分68
Hugging Face 将仓库迁移至 Xet 存储以加速大文件传输
Xet is on the Hub
AI 导读
Hugging Face 将首批模型和数据集仓库从 LFS 迁移至 Xet 存储,利用内容定义分块实现字节级去重,显著降低大文件上传下载开销。团队在迁移 4.5 TB 数据后修复了下载冗余和负载不均等工程问题,并推出 hf_xet 包以无缝集成。
推荐理由
Hugging Face 将部分仓库迁移至 Xet 存储,通过块级去重显著降低大文件传输开销。
来源:Hugging Face Blog · huggingface.co