消费级 GPU 上的大规模 LoRA：效果如何？

众所周知，LoRA 能大幅降低监督微调（SFT）的成本，许多教程都展示了入门方法。但这些教程大多聚焦于狭窄任务、小型数据集或轻量级演示，并未触及实际应用场景中更关键的问题：在大规模数据集上，LoRA 能否以十分之一的成本实现与全参数微调相当的性能？

这正是本文要探讨的问题。剧透预警：答案几乎是肯定的。借助 LoRA 和 Unsloth 等工具，仅需单张 24GB GPU（如 RTX 4090）即可复现 TULU 3 最先进的 SFT 方案，而 AI2 原始的全参数微调设置需要多个 GPU 节点和数小时算力。我们将逐步演示如何用更易获取的硬件配置复现其成果，训练出高质量的 Llama 3.1 对话模型。

这仅仅是个开始：在后续文章中，我们还将测试该方法是否同样适用于 Qwen3 等其他模型，或是当前方案仅针对 Llama 3.1 特别优化。

我使用 LoRA、Unsloth 和单张 24GB GPU

监督微调的最先进方案