Hugging Face Blog·· 2024-02-19精选AI 评分75
🤗 PEFT 新增多种 LoRA 适配器合并方法
🤗 PEFT welcomes new merging methods
AI 导读
🤗 PEFT 新增多种 LoRA 适配器合并方法,包括 cat、linear、svd、TIES 和 DARE 等算法。开发者可使用 add_weighted_adapter() 在推理时动态合并适配器,实现能力组合与优化。
推荐理由
提供了多种 LoRA 合并算法与代码示例,帮助开发者在有限资源下组合模型能力。
来源:Hugging Face Blog · huggingface.co