Hugging Face Blog·· 2025-05-25AI 评分12
Liger GRPO 与 TRL 集成报错排查
🐯 Liger GRPO meets TRL
AI 导读
用户在使用 Liger GRPO 结合 DeepSpeed ZeRO3 对 Qwen/Qwen2.5-0.5B-Instruct 进行 bf16 训练时,遭遇 shape mismatch 报错。错误堆栈显示问题出在 liger_kernel 的 fused_linear_ppo 模块中,涉及 torch._dynamo 编译过程中的代码转换环节。
来源:Hugging Face Blog · huggingface.co