深蓝黑背景品牌封面:左侧大标题「提示词不够用时」,副标题「微调大模型要走哪几步」;右侧原创装饰——一枚标注「基础模型」的方盒,经过由数据文件组成的传送带,变成带星星徽章的「微调模型」方盒;左上标注「AI 工程知识专栏」,右上标注「Day 04 · 10-02」 图 1:本文封面,点明主题「微调的完整流程」。

你的提示词是不是越写越长?为了让 AI 固定输出某种格式、某种语气,你在提示词里塞了十几条规则、七八个示例,结果它还是隔三差五跑偏。每改一处,另一处又冒出来。到这一步,很多人第一次听说「微调」这个词——但别急,微调不是提示词失效后的默认下一站,它有自己的适用边界和完整流程。

先想清楚:微调到底解决什么

微调能稳定改变的是模型的「行为习惯」:输出格式、语气风格、特定领域的表达套路——把成百上千个「正确的输入输出样例」喂给它,让行为内化进权重,而不用每次在提示词里重申。

微调不解决的是「知识更新」。让它知道你的新产品参数、上周的行业新闻,靠微调既慢又危险(它会把记错的知识一本正经地说出来),这类问题该用检索增强:把资料放在提示词里喂给它。所以动手前先做这道判断题:我的问题是「它不知道」,还是「它做不到稳定的风格与格式」?前者补知识,后者才轮得到微调。提示词加知识库真的不够了,再往下走。

五步流程:从数据到上线

第一步,准备数据。这是整个流程里最重的一步,没有之一。主流格式是 JSONL——每行一个 JSON 对象,装着「提示 + 理想回答」的配对:

{"messages":[{"role":"user","content":"客户说太贵了"},{"role":"assistant","content":"理解您的顾虑。我们按年付可以省两个月费用,我帮您算一下?"}]}

原则只有一条:质量优先于数量。几百条精心撰写、风格统一的样例,胜过几千条东拼西凑的脏数据——模型会忠实地学走数据里的一切,包括你的笔误和敷衍。

第二步,上传并创建微调任务。把 JSONL 传到平台,选择基础模型、训练轮数等参数,启动任务。门槛比想象低:不需要自己买显卡、搭框架,平台托管了算力。

第三步,训练并观察。盯训练损失曲线:持续下降是正常的;降得太狠、在验证数据上反而变差,就是过拟合的信号——它把样例背下来了,换个说法就不会。

第四步,评估对比。准备一批没参与训练的测试题,让微调版和原版同题作答,盲测对比。不达标就回到第一步改数据——微调失败,九成是数据的问题,不是参数的问题。

第五步,部署调用。拿到新模型名,代码里把原来的模型名换掉即可,改动极小。有的平台要求微调模型先部署才能评测和调用,流程上多一步,本质相同。

流程图:微调五步——①准备数据(JSONL 格式的「提示-理想回答」对,质量优先于数量,几百条高质量起步)、②上传并创建微调任务(选基础模型与轮数等参数)、③训练并观察(盯训练损失曲线,警惕过拟合)、④评估对比(同一批测试题,微调版与原版盲测对比,不达标就回去改数据)、⑤部署调用(用新模型名接入 API,代码改动极小)。左下前置决策:微调只解决「语气、格式、领域风格」类问题,知识更新靠检索,先确认提示词加知识库真的不够再动手。右下成本与风险:训练与后续调用都要计费且微调模型单价更高;数据里混入机密会随模型泄漏;数据偏科会让模型过拟合、忘掉通用能力 图 2:五步流程、前置决策与成本风险。

平台现状:先看清楚再上车

这一步必须查最新信息,因为格局正在变。截至本文核验时,OpenAI 官方文档写明其微调平台正在收缩:不再对新用户开放,存量用户在未来几个月内仍可创建训练任务,已有微调模型可继续用于推理直到对应基础模型退役。国内平台则是另一番景象:以阿里云百炼为例,官方文档显示千问等模型支持在线微调,训练按 Token 计费(公式为训练数据 Token 数乘以循环次数再乘以单价),经高效微调后的模型还支持按调用量计费。一句话:方法通用,但选哪家平台、选哪个基础模型,动手前以各家官方页面为准。

成本与风险,提前摆上桌

成本两头都要算:训练本身要花钱,微调模型的调用单价通常还高于原版。风险有三个:数据里混入机密信息,会随模型权重一起「存」下来,等于把秘密训练进了模型;数据偏科会让模型过拟合,在样例外的任务上变笨,通用能力被牺牲;最后还有隐性成本——基础模型迭代很快,你微调好的模型可能半年后就面临基座退役、重训一遍的问题。

三个常见误区

误区一:把微调当知识库使。想让模型记住公司全部产品文档去微调,结果又贵又不可靠,检索才是正解。

误区二:数据量崇拜。上来就攒几万条,质量参差,不如先把三百条打磨到「每条都是你心目中的标准答案」。

误区三:训完就上线。跳过评估对比,等于闭着眼睛发布。微调版和原版的同题盲测,是上线前不可省略的一关。

给你的行动建议

如果看完前置决策,你的问题其实属于「它不知道」,把微调的念头收起来,先把检索做好。如果确实属于「风格格式不稳」,最小验证路径是:手写五十到一百条高质量样例,跑一次最便宜的微调任务,用二十道测试题对比微调前后——整套验证成本可控,答案用数据说话。

你做过微调吗?是数据准备、效果评估还是成本把你拦住的?欢迎聊聊你的经历。