跳到正文
原文
Hugging Face Blog·· 2020-11-02AI 评分17

Transformers 3.1 集成 Ray Tune 实现超参数搜索

Hyperparameter Search with Transformers and Ray Tune

AI 导读

Hugging Face Transformers 3.1 版本与 Ray Tune 集成,提供简单的超参数调优方案。实验显示,在 RTE 数据集上,基于种群训练(PBT)的优化方法将最佳验证准确率提升至 78%,测试准确率达 70.5%。该集成支持通过 `trainer.hyperparameter_search` 调用多种算法,并默认利用 CPU 或 GPU 资源。

来源:Hugging Face Blog · huggingface.co