Hugging Face Blog·· 2026-05-27精选AI 评分84
TRL 发布 Delta Weight Sync:通过 Hub Bucket 实现稀疏权重同步
Shipping a Trillion Parameters With a Hub Bucket: Delta Weight Sync in TRL
AI 导读
Hugging Face TRL 发布 Delta Weight Sync 功能,利用 bf16 权重在相邻 RL 优化步骤间 99% 不变的稀疏特性,仅上传变更的权重补丁至 Hub Bucket。该方案将 Qwen3-0.6B 的每步传输数据从 1.2 GB 降至 20-35 MB,使训练端与推理端无需共享网络即可通过对象存储异步同步权重。
推荐理由
通过稀疏权重同步将异步RL每步传输量降低两个数量级,实现无需共享集群的分布式训练。
来源:Hugging Face Blog · huggingface.co