大模型开发与微调实战|PART1|PART2

如果你已经在用大模型 API 做点小工具，但一遇到「回答不准、答不出私有资料、检索结果乱七八糟」就卡住，这门课针对的正是这个阶段。它不讲 Transformer 推导，也不带你从零训基座，而是把落点放在工程侧：怎么把企业文档、产品手册、内部知识库接进大模型，让输出可控、可追溯、能上线。

它解决的是「检索质量」这道坎

很多人第一次做问答机器人，都是把文档切块、向量化、塞进提示词，也就是常说的朴素 RAG。跑通容易，效果差强人意：切片断了语义、召回一堆不相关段落、模型答非所问。课程从这部分讲起，随后用较大篇幅处理进阶问题——层次索引、句子窗口、子查询、HyDE 这类查询改写手段，以及提示词压缩、结果融合、重排。再往后是模块化思路：顺序、条件、分支怎么编排，迭代与递归检索怎么控制轮次，FLARE 这类主动检索策略在什么场景下值得用。学完你对「为什么召回不准」会有判断力，而不是反复调 top_k。

适合什么基础，先看哪几块

需要你能读懂 Python，知道什么是 API 调用和 JSON，最好自己跑过一次向量库或提示词调用。完全没写过代码的话，前面会吃力。建议的顺序是：先看 NaiveRAG 与 langchain 实践那一块，把「文档加载—切分—向量化—检索—生成」这条链路亲手跑通；再进入高级 RAG 的索引与查询改写；最后看模块化与迭代检索。Embedding 原理和 Rerank 部分不要跳过，它们解释了为什么同一段文本换个模型召回结果差很多，也是你后面选型、换模型的依据。

学完能独立做什么，资料怎么配合练

比较现实的目标是：你能独立搭一个面向私有文档的问答服务，自己决定切片粒度、选择嵌入模型、加一层重排，并用查询改写把「用户问得含糊」这种情况兜住；能判断一次效果不好是出在召回还是生成，并知道改哪一环。练习上，别只看视频。每看完一块，就用自己手头的真实资料替换示例数据——比如把公司制度、产品文档、你自己的笔记灌进去，跑同一批问题对比改动前后的命中情况。重点练两件事：一是记录每次调整对召回的影响，二是把检索到的原文和最终回答对照着看，找出模型「编」的地方。资料里的实践环节跟着敲一遍，再换数据重做一遍，比刷完所有视频有用得多。