SFT、RLHF、LoRA：微调的真相其实没那么复杂

最近接触了不少做微调的朋友发现大家对微调到底是什么这个问题的理解差异很大。有人觉得是炼丹有人觉得是工程也有人觉得两者都是。写这篇的目的是把自己理解的微调脉络理清楚也给刚开始接触的人一个参考。微调解决的是什么问题很多人以为微调是在教模型“新知识”但实际情况完全不是。预训练模型的能力很强这是公认的。但它有一个天然局限——它是通用的。你让它写代码、做翻译、总结文章都没问题但一旦涉及你公司内部的格式规范、业务流程、行业术语它就开始自由发挥了。这不是模型的错是预训练阶段根本没接触过这些内容。微调做的事情就是在预训练模型已有的通用能力之上注入特定领域的知识和规则。模型还是那个模型参数没变多少但它开始按你的规矩办事了。微调的标准流程目前业界比较成熟的微调方案大致包含三个阶段。第一阶段SFTSFT 全称是 Supervised Fine-Tuning有监督微调。做法很简单——准备一批高质量的问答对让模型照着学。比如你给模型看这样的数据输入请帮我写一个请假条期望输出好的以下是您的请假条模板……模型在这个过程中学到的不是新知识而是一种行为模式用户提出某个请求时我应该用什么样的格式和语气来回应。这个阶段数据质量是第一优先级。十个劣质样本不如一个优质样本因为模型在模仿你的数据分布你喂给它什么风格它就学会什么风格。所以微调本质上不是教模型“会不会”而是教它“怎么回答”。第二阶段奖励模型SFT 解决的是模型知道该怎么回答但还没解决模型知道什么叫答得好。奖励模型Reward Model简称 RM就是用来解决这个问题的。它的训练方式和普通大模型不同——它不生成文本而是对两个回答做打分比较。你给它一组数据同一个问题下的两个回答以及人类标注员认为更好的那个。反复训练之后RM 就具备了评判回答质量的能力。可以把它理解为一个裁判专门负责给模型的输出打分。第三阶段对齐有了裁判之后下一步就是让模型根据裁判的反馈来调整自己。这一步有两种主流做法RLHF 和 DPO。RLHF基于人类反馈的强化学习的流程相对复杂模型生成回答 → 裁判打分 → 根据分数反向更新模型参数。DPO直接偏好优化则简化了这个过程把奖励模型的学习直接整合到了微调目标函数里省去了单独的 RL 训练阶段。两种方式效果接近DPO 因为实现更简单近年来使用越来越广泛。不管选哪种目的都一样让模型的回答更安全、更符合人类预期减少胡说八道的情况。参数微调的策略全参数微调理论上效果最好但代价也最大。一个 70B 的模型全量微调显存需求是普通显卡承受不了的。而且全量更新还有一个副作用——模型可能在新任务上表现不错但把预训练阶段的通用能力给覆盖了这就是常说的灾难性遗忘。为了解决这些问题出现了不少高效微调方案。LoRALoRALow-Rank Adaptation的思路很简洁不在原始参数上做加法而是并行加一小块。具体来说它在每一层网络旁边挂一个低秩矩阵训练的时候只更新这两个小矩阵原始参数完全冻结。推理阶段训练好的低秩矩阵可以直接叠加回原始参数不增加任何延迟。显存需求从几百 GB 降到十几 GB这也是 LoRA 能快速普及的主要原因。QLoRAQLoRA 在 LoRA 的基础上又往前了一步——先把预训练模型量化到 4bit再做 LoRA 微调。4bit 意味着参数量只有原来的四分之一显存压力大幅降低。虽然精度有损失但在大多数下游任务上效果差别不大。实践中容易遇到的问题数据质量这是最容易被低估的一环。很多项目效果不理想回头一看数据质量参差不齐。模型不会自动区分好坏数据它只会忠实地拟合训练集中的每一个模式。如果训练集里混杂了大量低质样本模型学到的就是混乱的行为。解决思路是用更强的模型先去清洗数据过滤掉格式错误、内容不完整、标注不一致的样本。这一步多花的时间后面能省回来。过拟合过拟合的表现是训练集上效果很好验证集上指标下滑。缓解手段有两个早停验证集指标不再提升时停止训练和权重衰减给损失函数加一个正则化项限制参数更新幅度。这两个都是经典方法不算新技术但对控制过拟合确实有效。显存不足显存不够的时候可以从几个方向入手用 QLoRA 降低基础开销开启梯度检查点用计算换显存设置梯度累加模拟更大的 batch size。通常组合使用效果最好。数据配比做了微调之后发现模型在某些通用能力上退化了这时候可以考虑在训练数据里混入一部分通用语料保持模型的基础语言能力不被覆盖。数据混合的比例需要根据具体任务调试没有固定公式。微调这件事拆开了看其实并不神秘。SFT 教格式RM 立标准对齐做收敛LoRA 降门槛。每个环节都有明确的分工也有成熟的工具链支持。真正难的是数据准备和超参调试这部分没有捷径只能一遍遍试。但好消息是随着 QLoRA 这类方案的普及试错的边际成本已经低了很多。学AI大模型的正确顺序千万不要搞错了2026年AI风口已来各行各业的AI渗透肉眼可见超多公司要么转型做AI相关产品要么高薪挖AI技术人才机遇直接摆在眼前有往AI方向发展或者本身有后端编程基础的朋友直接冲AI大模型应用开发转岗超合适就算暂时不打算转岗了解大模型、RAG、Prompt、Agent这些热门概念能上手做简单项目也绝对是求职加分王给大家整理了超全最新的AI大模型应用开发学习清单和资料手把手帮你快速入门学习路线:✅大模型基础认知—大模型核心原理、发展历程、主流模型GPT、文心一言等特点解析✅核心技术模块—RAG检索增强生成、Prompt工程实战、Agent智能体开发逻辑✅开发基础能力—Python进阶、API接口调用、大模型开发框架LangChain等实操✅应用场景开发—智能问答系统、企业知识库、AIGC内容生成工具、行业定制化大模型应用✅项目落地流程—需求拆解、技术选型、模型调优、测试上线、运维迭代✅面试求职冲刺—岗位JD解析、简历AI项目包装、高频面试题汇总、模拟面经以上6大模块看似清晰好上手实则每个部分都有扎实的核心内容需要吃透我把大模型的学习全流程已经整理好了抓住AI时代风口轻松解锁职业新可能希望大家都能把握机遇实现薪资/职业跃迁这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】