跳到正文
原文
Hugging Face Blog·· 2024-02-19精选AI 评分75

🤗 PEFT 新增多种 LoRA 适配器合并方法

🤗 PEFT welcomes new merging methods

AI 导读

🤗 PEFT 新增多种 LoRA 适配器合并方法,包括 cat、linear、svd、TIES 和 DARE 等算法。开发者可使用 add_weighted_adapter() 在推理时动态合并适配器,实现能力组合与优化。

推荐理由

提供了多种 LoRA 合并算法与代码示例,帮助开发者在有限资源下组合模型能力。

来源:Hugging Face Blog · huggingface.co