模型微调常被描述成一种神秘的“定制大模型”技术，仿佛只要把企业资料交给模型训练，它就会自动变成某个领域的专家。真实情况没有这么简单。
微调的本质，是在预训练模型已有能力的基础上，用一组任务样本继续更新参数，使模型更倾向于按照这些样本展示的方式回答。它擅长调整行为、格式和任务习惯，却不是保存经常变化事实的万能知识库。
## 微调究竟改变了什么
预训练模型内部包含大量参数。输入一段文字后，这些参数共同决定下一段输出的概率分布。微调把训练样本送入模型，比较模型输出与目标输出之间的差异，再通过梯度更新一部分或全部参数。
经过多轮更新后，模型更容易复现训练数据中的模式。例如，它可能更稳定地输出固定 JSON 结构，更习惯用某种语气回答客服问题，或更准确地完成一个边界清楚的分类任务。
这和搜索资料不同。检索增强生成会在回答前查找外部文档，把相关内容临时放入上下文；微调则改变模型面对输入时的行为倾向。需要频繁更新的产品价格、库存和规章内容，通常更适合检索，而不是反复训练进参数里。
## 先判断是否真的需要微调
开始训练前，可以按成本从低到高检查三种办法：
1. **改进提示词。** 给出明确任务、格式约束和少量示例，模型可能已经能够完成目标。
2. **增加检索。** 如果问题在于缺少私有或最新知识，应先考虑从可靠资料中取回上下文。
3. **再做微调。** 当任务模式稳定、优秀示例充足，而提示词仍然冗长或表现波动时，微调才更有价值。
微调并不总会让模型“更聪明”。它通常让模型在某类明确任务上更一致，同时也可能降低其他场景的表现。
## 全量微调与参数高效微调
全量微调会更新模型的大量参数，表达能力强，但需要更多显存、计算和模型存储。对大型模型而言，为每个任务保存一份完整权重往往成本很高。
参数高效微调只训练少量新增或选定参数。LoRA 是常见方法之一：它冻结原有权重，用两个较小的低秩矩阵表示需要学习的权重变化。训练结束后，只需保存体积较小的适配器，也可以按需要将其合并到基础模型中。
低秩并不是“低质量”的同义词。它利用了一个经验：很多任务适配所需的有效变化，可能集中在较低维的方向上。但参数更少也意味着表达空间更有限，最终效果仍要由任务评测决定。
## 数据比训练按钮更重要
一份微调数据通常由输入和理想输出组成。高质量数据需要满足四个条件：
数量不能替代质量。大量自动拼接、模板重复的样本可能让损失下降，却让模型只记住表面格式。
## 为什么必须划分训练集和测试集
如果用训练过的题目检验模型，得到的高分可能只是记忆。至少要把数据分成训练、验证和测试三部分：训练集用于更新参数，验证集用于选择训练轮数和超参数，测试集只在方案确定后评估一次。
测试还应包含一个未微调的基础模型作为对照。除了任务准确率，还要观察格式通过率、事实错误率、响应长度和延迟。微调后的模型如果只在单一指标上提高，却更容易编造内容，并不能算真正成功。
## 五个常见失败原因
### 1. 把知识更新误当成行为训练
如果数据每天变化，模型很快就会过时。此时应让模型查询数据源，而不是继续堆训练样本。
### 2. 训练与测试发生泄漏
重复样本或同一文档的相似片段同时进入训练集和测试集，会让评测虚高。划分数据时应按来源或对象分组，而不只是随机拆行。
### 3. 训练轮数过多
模型可能逐渐背诵训练表达，对新问题的适应性下降。验证集损失和真实任务指标应共同决定何时停止。
### 4. 只看平均分
总体准确率提高，可能掩盖少数关键场景退化。应按主题、长度、难度和异常输入分别评估。
### 5. 没有保存完整版本
基础模型、数据快照、代码、超参数和评测集缺一不可。否则结果无法复现，也无法知道下一次改动为何变好或变坏。
## 一条稳妥的实验路径
先选一个边界清楚、可自动评分的任务，准备少量经过人工检查的样本，建立基础模型基线。随后运行小规模微调，只改变一个主要变量，并在固定测试集上比较。确认有效后，再扩大数据和训练规模。
真正的“内幕”不是某个神奇参数，而是一套朴素的实验纪律：明确微调要改变的行为，控制数据质量，用未见样本验证，并记录每一次版本。模型训练可以复杂，判断它是否有效却必须清楚。
## 延伸阅读