Hugging Face Blog·· 2020-03-01AI 评分38
如何使用 Transformers 库进行文本生成:不同解码方法详解
How to generate text: using different decoding methods for language generation with Transformers
AI 导读
本文介绍了如何使用 Hugging Face 的 transformers 库实现 Greedy search、Beam search 和 Sampling 等主流解码策略。文章以 GPT2 模型为例,展示了在 PyTorch 环境下通过设置 `max_new_tokens`、`num_beams` 等参数进行自回归文本生成的具体代码。
来源:Hugging Face Blog · huggingface.co