Hugging Face Blog·· 2021-07-15AI 评分33
DeDLOC：利用互联网志愿者算力协作训练语言模型
Deep Learning over the Internet: Training Language Models Collaboratively
AI 导读
Hugging Face 提出 DeDLOC 算法，通过互联网协作训练语言模型。该方法利用 40 名志愿者设备预训练孟加拉语模型 sahajBERT，在下游任务中达到接近 SOTA 的质量。
来源：Hugging Face Blog · huggingface.co