这门课解决什么痛点

大模型热度的核心矛盾在于:通用基座虽强,但无法直接处理企业私有数据或垂直领域专业问题。单纯调用 API 成本高且数据不隐私,自己从头训练算力又是不够的。本课程聚焦于“应用开发”与“模型训练”的中间地带——即如何基于开源基座(如 Llama),通过微调(SFT/LoRA)赋予模型特定领域的专业能力,并配合 RAG 技术解决知识时效性与幻觉问题。它填补了“只会用 API”和“懂底层原理但不会落地”之间的巨大空白,适合希望构建独立 AI 应用、而非仅做提示词工程师的职场人。

适合什么基础与先修准备

本课程属于体系化进阶内容,要求读者具备 Python 基础编程能力,理解基本的命令行操作(Linux/CMD)及 Git 版本控制概念。无需深厚的数学推导背景,因为课程侧重于工程落地(Llama-Factory 框架),而非算法发明。若你从未配置过 CUDA 环境或使用过 Conda 管理虚拟环境,建议先花少量时间补齐第三课的基础设施部分,否则后续微调与部署环节会因环境报错而阻断学习流。对于完全零基础的小白,直接跟进会有较大挫败感;但对于已有开发经验的转行者,这是进入 AI 应用层最高效的路径之一。

学习路径与资料配合建议

建议采用“环境先行、微调核心、RAG 拓展、部署收尾”的四段式学习策略。首先,务必完整消化前三课的环境搭建,确保 Python、Conda 及 VSCode 调试环境正常,这是后续所有实操的前提。进入核心阶段后,重点攻克第二、三课的数据集构造与 LoRA/Qlora 微调流程,这是模型获得领域能力的關鍵,需动手修改配置文件并观察 loss 变化。随后,第四、五课的评估与部署环节至关重要,学习如何将微调后的权重合并、量化并本地运行,这能让你真正体会到模型落地的完整性。最后,利用后续关于 RAG(检索增强生成)的系列课程,补足长尾知识与外部数据接入的能力。资料包中的视频演示了从数据清洗到最终部署的全链路,建议边看边复现,特别是 Llama-Factory 的配置细节,切勿只看不练。

学完能独立做什么

完成本课程后,你将具备以下独立工作能力:能够从零搭建 AI 开发环境;掌握基于 Llama-Factory 对开源大模型进行 SFT 微调的完整流程,包括数据集格式转换(JSONL)、超参数调整及显存优化(Qlora);能够使用 benchmark 对模型效果进行量化评估;具备将微调模型导出、量化并在本地或服务器部署运行的能力;同时理解 RAG 架构原理,能结合 LangChain 或 RAGFlow 构建具备私有知识库问答能力的 AI 应用。这些技能足以应对大部分垂直领域的 AI 应用开发岗位需求,或为个人创业项目提供技术底座。

课程目录

1_第一课:人工智能介绍:迭代路径,大模型进化树,技术分类.mp4
 2_第二课:柏拉图表征假说与scalinglaw:KM缩放定律.mp4
 3_第三课:AI开发环境(python、conda、vscode.mp4
 4_第一课:大模型微调llama-factory环境准备.mp4
 5_第二课:微调数据集准备(SFT 继续预训练,偏好优化).mp4
 6_第三课:微调过程lora微调与Qlora微调.mp4
 7_第四课:模型评估(批量推理与自动评估benchmark).mp4
 8_第五课:模型部署(模型合并导出与量化,本地部署).mp4
 9_第一课:RAG技术原理与RAGFlow项目实操.mp4
 10_第二课:NaiveRAG与langchain实践.mp4
 11_第三课:高级RAG(一)层次索引,句子窗口,子查询,HyDE.mp4
 12_第四课:高级RAG(二)提示词压缩,融合,llamainde.mp4
 13_第五课:模块化RAG(一)顺序模式,条件模式,分支模式.mp4
 14_第六课:模块化RAG(二)迭代,递归检索,FLARE,Toc.mp4
 15_第七课:Embedding原理:word2vec、CBOW.mp4
 16_第八课:Embedding模型训练:llamaindex微调.mp4
 17_第九课:Embedding模型评估:MRR评测,MTEB评测.mp4
 18_第十课:Rerank技术原理与实践(一)交叉编码与双编码.mp4
 19_第十一课:Rerank模型微调与实践(二)rankGPT.mp4
 20_第十二课:向量数据库简介与相似性测量:欧式距离,余弦相似度.mp4
 21_第十三课:相似性搜索算法:k-means,肘部法则.mp4
 22_第十四课:近似邻近算法与过滤向量:PQ量化,HNSW,LSH.mp4
 23_第十五课:向量数据库选型:专用向量数据库,传统数据库支持向量.mp4
 24_第十六课:向量数据库代码示例:chroma与qdrant代码.mp4
 25_第十七课:RAG评估:评估指标,RAGAs,TruLens.mp4
 26_第十八课:RAG行业落地:实践心得,落地经验,业务场景.mp4
 27_第一课:Agent原理简介:planning、memory、.mp4
 28_第二课:提示词工程:软提示词,fewshot,COT TOT.mp4
 29_第三课:Agent平台:国内外主流平台,Coze搭建智能客服.mp4
 30_第四课:Agent工具使用与functioncall:MR.mp4
 31_第五课:Agent设计模式(一):Fewshot,ReAct.mp4
 32_第六课:Agent设计模式(二):REWOO,LLMComp.mp4
 33_第七课:Agent设计模式(三):Reflexion,LAT.mp4
 34_第八课:Agent框架:SingleAgent,Multi.mp4
 35_第九课:Langchain项目原理与实战.mp4
 36_第十课:Langgraph项目原理与实战.mp4
 37_第十一课:Langgraph多Agent架构:协作多Age.mp4
 38_第十二课:AutoGen项目原理与实战(一):AutoGen.mp4
 39_第十三课:AutoGen项目原理与实战(二):代码执行,工具.mp4
 40_第十四课:CrewAI项目原理与实战:Crew Task A.mp4
 ai认知课.pdf
 embedding技术.pdf
 llama-factory微调.pdf
 rerank技术.pdf
 企业RAG技术实战.pdf