一个通用模型会写邮件，但未必知道你的维修工单要包含“设备编号、故障现象、已做检查、下一步动作”四个字段。迁移学习要解决的，就是把基础模型已经获得的语言、视觉或语音能力，适配到更具体的任务。
豆包是面向用户的产品名称，背后的 Seed 模型系列也通过火山方舟提供推理、评测和精调能力。讨论“豆包迁移学习”时，需要先说明操作对象：普通用户在应用里对话，不等于训练模型；开发者用数据创建精调模型，才属于更典型的参数迁移。
## 迁移的不是一份知识库
预训练模型已经从大规模数据中形成通用表示。下游适配用较少数据改变模型的行为，使它更会遵循某种格式、语言风格或任务步骤。这就是迁移学习的基本思想。
如果目标只是让模型查询每天变化的库存、说明书和价格，RAG 更合适：资料留在外部索引，回答时检索。若目标是让模型稳定输出工单结构、掌握分类边界或形成特定回答习惯，监督微调 SFT 才更可能有效。
提示词和上下文示例不修改权重，部署快、容易撤回；精调会形成新模型版本，前期需要数据和评测。把这三种方法分清，能避免用训练解决一个检索问题。
## 五种常见适配层次
第一层是系统提示和模板，适合规则清楚、变化频繁的任务。第二层是 RAG，把企业知识在回答时取回。第三层是 SFT，用输入与理想输出训练模型模仿任务行为。
第四层是偏好优化。火山方舟的模型精调入口包含 SFT 与 DPO 等路径，DPO 使用成对偏好样本，让模型更倾向选择一种回答。第五层是工具与流程适配，让模型通过函数调用查询或执行真实系统。
这些层可以组合。例如客服系统用 SFT 固定语气和结构，用 RAG 找产品信息，再用工具查询订单。没有必要把所有能力都压进权重。
## 数据质量比数据数量更先决定结果
SFT 样本通常包含用户输入和期望回答。好样本要覆盖真实任务分布，答案一致、边界明确，并包含难例与拒答例。若同一个问题在数据里有互相矛盾的处理方式，模型学到的只能是摇摆。
先从生产日志抽样，再由懂业务的人修订。划分训练集、验证集和测试集时，要按用户、时间或任务簇隔离相似样本，避免同一模板的轻微改写同时出现在训练和测试中，造成虚高分数。
数量也要与任务匹配。稳定格式可能用较少高质量样本就能改善，复杂专业判断则需要更广覆盖。不要预先迷信一个固定条数，而应画学习曲线：每增加一批数据，独立测试集是否继续提升。
## 参数高效微调在迁移什么
全量微调会更新模型大量参数，成本高，也更容易破坏通用能力。LoRA 等参数高效方法冻结主要权重，在网络层旁加入小型低秩参数，只训练新增部分。
它的直觉是：很多下游变化不需要重写整个模型，只需在部分表示方向上进行调整。这样训练资产更小，多个任务也可以分别保存适配器。
具体平台对哪些模型开放哪种精调方式会随版本变化，应以方舟当前模型列表和精调文档为准。科普上更重要的是理解取舍：参数改得越深，潜在能力变化越大，回归评测也要越全面。
## 多模态中的迁移更直观
字节跳动 Seed 团队公开的 Seedream 2.0 技术报告展示了图像模型从数据构造、预训练到后训练的完整链路，并强调中英文理解、文字渲染和多分辨率能力。这里的“迁移”不仅是文本风格，也可能是把通用视觉生成能力适配到海报、中文文字或特定构图。
语音领域还有跨语种音色迁移：短音频提供说话人的音色特征，系统尝试用其他语言合成相似音色。它说明模型可以把“是谁在说”和“说的是什么”部分分开表示，但口音、情绪和陌生语言发音仍需实际试听。
## 一个稳妥的落地流程
先定义任务和可测指标。例如工单生成要看字段完整率、事实准确率、格式解析成功率和人工修改时间，而不是只问“回答自然吗”。
然后建立不精调的基线：基础模型加清晰提示，再加必要 RAG。只有当错误集中在稳定行为模式，且提示无法可靠修复时，才准备 SFT 数据。
训练后用从未参与训练的测试集，与基线盲测。除了目标指标，还要测通用问答、长输入、拒答和工具调用，检查是否发生灾难性遗忘或过拟合。
上线时先给少量流量，记录模型版本、数据版本、提示、检索结果和最终人工修改。若业务知识变了，优先更新知识库；若输出行为变了，再考虑追加训练。
## 常见误区
第一，把上传文档称为迁移学习。若系统只在运行时检索文档，它是 RAG。第二，以为微调会自动消除幻觉。微调可能让错误答案更像标准格式，因此事实核验仍不可少。
第三，把训练损失下降当作成功。模型可能只是记住样本，独立任务没有改善。第四，混入大量机器自生成答案却不复核，最终把原模型的错误再训练回去。
第五，精调后仍频繁改系统提示，却没有版本记录。提示与权重共同决定行为，评测必须绑定两者。
迁移学习真正的价值，是少走一段从零训练的路。对豆包生态而言，最合理的工程组合通常是提示负责即时规则，RAG 负责变化知识，精调负责稳定行为，工具负责真实动作，而评测把它们约束在可验证的目标上。
## 参考资料