Hugging Face Blog·· 2020-11-02AI 评分17
Transformers 3.1 集成 Ray Tune 实现超参数搜索
Hyperparameter Search with Transformers and Ray Tune
AI 导读
Hugging Face Transformers 3.1 版本与 Ray Tune 集成,提供简单的超参数调优方案。实验显示,在 RTE 数据集上,基于种群训练(PBT)的优化方法将最佳验证准确率提升至 78%,测试准确率达 70.5%。该集成支持通过 `trainer.hyperparameter_search` 调用多种算法,并默认利用 CPU 或 GPU 资源。
来源:Hugging Face Blog · huggingface.co