JK-AI大模型微调训练营第5期极客|直播回放

这是一份以直播回放形式沉淀下来的大模型微调训练资料，主题集中在「怎么把开源基座模型调成能干活的样子」。它不解决"AI 是什么"这类科普问题，而是面对一个很具体的工作场景：你手上有一个通用模型，但它在你的业务语料上答得不准、格式不听话、术语老出错，你需要通过微调让它稳定下来。如果你正卡在"数据准备好了但不知道怎么喂进去""训练跑起来了但 loss 不降""调完效果还不如提示词"这几个环节，这份资料对得上。

适合什么基础的人看

先说实话：完全没写过 Python、没碰过命令行的，直接看会吃力。比较合适的起点是——能读懂 Python 脚本，知道张量、梯度大概是怎么回事，用过 PyTorch 或至少跑过别人的训练脚本；对 Transformer 结构有印象，分得清基座模型和对话模型的差别。如果你只会在网页上调用 API，建议先补一段深度学习基础和一段 PyTorch 实践，再回来跟。反过来，如果你已经做过推理部署、搭过 RAG，只是想把微调这一环补齐，那这份资料的密度是够的，能省掉不少自己试错的时间。

建议先看哪几块，怎么配合练

不必按章节顺序从头啃。建议先把讲数据构造和训练配置的部分过一遍，这两块决定了后面所有实验的成败——很多人的微调失败不是模型问题，是数据格式和标签处理错了。然后跳到讲训练流程和显存优化的章节，理解 batch、学习率、截断长度这些参数怎么互相牵制。直播回放的价值在于能看到讲师现场排错，遇到报错别急着跳过，那往往是最有用的部分。练习上，别一上来就调大模型，先用小参数量基座跑通全流程：准备几百条自己的数据，走完训练、验证、推理三步，确认链路没问题再换大模型、加数据量。每改一个参数就记录一次结果，这份记录比看完所有章节都值钱。

学完能独立做什么

走完一遍并动手练过之后，你应该能独立完成这些事：把业务语料整理成可训练的指令数据；针对一张或几张消费级显卡选择合适的微调方式和精度；跑通一次完整的训练并看懂日志里的关键指标；用验证集判断是过拟合还是欠拟合，并据此调参；把调好的权重导出、合并、做推理验证。这些是能拿出手的实操能力，不是停留在概念层面。但要提醒一句：微调不是万能药。有些问题用提示词工程或检索增强就能解决，成本更低、迭代更快。学这门课的意义在于，当那些手段都不够用时，你知道还有微调这条路可以走，并且走得下去。