Hugging Face Blog·· 2023-05-15精选AI 评分70
RWKV架构正式集成至Hugging Face transformers库
Introducing RWKV - An RNN with the advantages of a transformer
AI 导读
Hugging Face宣布将RWKV架构正式集成至transformers库，该架构结合了RNN的推理效率与Transformer的训练优势。目前提供169M至14B参数的预训练模型及RWKV-4 Raven对话模型，并附带权重转换脚本。
推荐理由
RWKV架构正式集成至Hugging Face transformers库，提供从预训练到Chat微调的多种模型及权重转换工具。
来源：Hugging Face Blog · huggingface.co