Decoupled DiLoCo：一种更具弹性的分布式 AI 训练架构

Google DeepMind 发布 Decoupled DiLoCo 分布式训练架构，通过解耦计算岛实现跨广域网的低带宽、高弹性训练。在 Gemma 4 模型测试中，该系统在硬件故障下保持高可用性与同等基准性能，并在 120 亿参数模型训练中实现比传统方法快 20 倍的速度。