如果你在构建 ,那么你应该了解 。LoRA 是一种 技术,用于 为你的用例微调预训练的 LLMs。这是 @Hxluuu 使用的相同技术,也是我们用来训练小模型以超过 的技术。https://predibase.com/blog/5-reasons-why-lora-adapters-are-the-future-of-fine-tuning