这门课在讲什么，和市面上大部分“大模型课”差在哪
彭靖田这套训练营到第 5 期，定位已经很清楚了：它不是带你从零训一个 GPT，也不是泛泛讲 prompt 工程和 API 调用，而是把注意力压在大模型落地前最硬的一段——微调与推理优化。从资料结构看，课程把量化技术单独拉出一章，并且配了论文级别的课件（Quantization 相关论文、大模型量化技术入门与实战的讲义），这在前几期同类内容里并不常见。换句话说，它默认你已经知道 Transformer 长什么样，直接切进“显存不够、推理太慢、成本压不下来”这些真问题。
值得单独拎出来的是两点：一是 RLHF 这条线没有被当成概念名词带过，二是国产化实战落到华为 Ascend 910 上微调 ChatGLM-6B。后者对国内做私有化部署的人来说，参考价值比在 A100 上跑一遍 demo 高得多，因为踩的坑完全不是一回事。
量化那一章，是整门课含金量最集中的地方
从章节安排看，量化部分不是一节课讲完就收，而是拆成了概念铺垫、算法拆解、作业三个层次。显存占用怎么算、量化的基本分类先讲清楚，再进到具体算法——比如 AWQ 这种激活感知权重量化，单独占一节视频来讲。这种颗粒度说明它不是科普向，而是奔着“你能看懂论文、能判断某个量化方案适不适合自己的场景”去的。
如果你时间有限，我的建议是先精看量化这一章 + 配套论文，再回头看微调主线的实操部分。原因很简单：微调方法（LoRA、P-Tuning 之类）网上资料已经很泛滥，但量化里的算法取舍、精度损失权衡、和推理框架的配合，才是真正卡住项目进度的环节。课件里那几篇 Quantization 论文，不适合通读，适合当工具书——遇到具体算法再翻对应的那篇。
国产化实战这一段，适合谁重点看
Ascend 910 上微调 ChatGLM-6B 这个组合，指向的人群很明确：在信创环境、政企项目、或者算力受限的团队里做大模型落地的人。这类场景的痛点不在算法本身，而在环境适配、算子支持、精度对齐这些脏活。课程把它作为实战环节放进目录，说明作者清楚目标学员的真实处境。
如果你手上只有消费级显卡、纯做研究，这部分可以快速过一遍，了解国产硬件当前的能跑通到什么程度即可；但如果你下一步要交付的是私有化项目，建议把这段和量化章节结合起来看——国产卡上跑量化模型，两边的约束会互相放大。
资料包怎么拆开用，而不是囤着
- 论文类课件：不要按顺序读。先跟视频走一遍算法思路，再挑对应那篇论文精读公式和实验部分，其余扫摘要即可。
- 章节讲义：适合当复习提纲。看完视频隔几天再翻一遍，能快速判断哪些点其实没吃透。
- 作业：量化章节的作业体量不大，但它是检验你有没有真懂显存计算和量化误差的最快方式，别跳过。
- 视频：章节介绍类的短视频可以倍速甚至跳过，正式算法讲解和实战环节正常速度看，遇到环境配置部分可以边看边操作。
放在挖矿吧的语境里，它值不值得占硬盘
第 5 期的内容偏向工程落地而非论文复现，适合两类人：一是已经会用现成框架跑微调、但说不清量化和 RLHF 底层在干什么的开发者；二是需要把大模型塞进有限算力环境、正在找国产化方案的工程师。纯入门者直接上这门课会有点吃力，建议先把 Transformer 和基本微调流程补一补。
至于资料本身，它属于“需要时反复查”的类型，不像速成课看完就删。量化那几份课件和论文，留着当参考手册比一次性刷完更有价值。
极客时间-彭靖田-AI大模型微调训练营第5期
深入浅出AI大模型微调实战
编辑点评
聚焦AI大模型微调技术，涵盖量化、RLHF、国产化实战等多方面内容，适合对AI领域感兴趣的深度学习爱好者。
⭐ 编辑推荐
跟随彭靖田老师，探索AI大模型微调的奥秘，掌握模型量化、RLHF技术，实战华为Ascend 910微调ChatGLM-6B。
✨ 课程亮点
✦AI大模型微调实战
✦涵盖量化、RLHF、国产化实战
✦适合深度学习爱好者
课程目录
📁 第8章
📁 课件
Quantization论文.zip [5.6 MB]
8-大模型量化技术入门与实战.pdf [6.1 MB]
2. 模型显存占用与量化技术简介_ev.mp4 [34.9 MB]
7.作业.txt [474.0 B]
1. 章节介绍_ev.mp4 [2.6 MB]
4. AWQ：激活感知权重量化算法_ev.mp4 [52.9 MB]
6. 实战 Facebook OPT 模型量化_ev.mp4 [80.8 MB]
3. GPTQ：专为 GPT 设计的模型量化算法_ev.mp4 [75.0 MB]
5. BitsAndBytes(BnB) ：模型量化软件包_ev.mp4 [15.9 MB]
📁 第11章
📁 课件
RLHF论文.zip [6.1 MB]
11-ChatGPT大模型训练技术RLHF.pdf [6.9 MB]
3. 基于人类反馈的强化学习（RLHF）技术详解_ev.mp4 [91.4 MB]
4. 基于 AI 反馈的强化学习（RLAIF）技术_ev.mp4 [18.9 MB]
2. ChatGPT 大模型训练核心技术_ev.mp4 [93.6 MB]
1. 章节介绍_ev.mp4 [13.0 MB]
📁 第16章
📁 课件
16-国产化实战：基于华为 Ascend 910 微调 ChatGLM-6B.pdf [8.7 MB]
1. 章节介绍_ev.mp4 [5.9 MB]
3. 厚积薄发的江湖大佬：Google_ev.mp4 [19.6 MB]
2. 蓝色星球的算力霸主：NVIDIA_ev.mp4 [138.1 MB]
5. 华为昇腾全栈 AI 软硬件平台介绍_ev.mp4 [21.8 MB]
4. 努力追赶的国产新秀：华为_ev.mp4 [17.6 MB]
6. 实战：华为 Ascend 910B 微调 ChatGLM 6B 模型_ev.mp4 [57.3 MB]
📁 第13章
📁 课件
13-Meta AI 大模型 LLaMA.pdf [8.8 MB]
LLaMA论文.zip [15.3 MB]
3. LLaMA 1 衍生模型大家族_ev.mp4 [90.6 MB]
5. 申请和获取 LLaMA 2 模型预训练权重_ev.mp4 [12.8 MB]
2. LLaMA 1 大模型技术解读_ev.mp4 [112.5 MB]
4. LLaMA 2 大模型技术解读_ev.mp4 [28.9 MB]
1. 章节介绍_ev.mp4 [6.0 MB]
📁 第14章
📁 课件
14-实战LLaMA2-7B指令微调.pdf [3.6 MB]
3. LLaMA2-7B 指令微调上手实战_ev.mp4 [85.8 MB]
2. 大模型训练技术总结_ev.mp4 [128.1 MB]
4. 再谈中文指令微调方法_ev.mp4 [19.5 MB]
1. 章节介绍_ev.mp4 [11.4 MB]
📁 第15章
📁 课件
15-大模型分布式训练框架Microsoft DeepSpeed.pdf [8.1 MB]
3. Zero Redundancy Optimizer ZeRO技术详解_ev.mp4 [68.2 MB]
5. 分布式模型训练并行化技术对比_ev.mp4 [17.3 MB]
10. 实战 DeepSpeed ZeRO-2 和 ZeRO-3 单机单卡训练_ev.mp4 [45.3 MB]
8. DeepSpeed ZeRO 配置详解_ev.mp4 [52.7 MB]
11. DeepSpeed 创新模块 Inference Compression Science_ev.mp4 [8.4 MB]
7. DeepSpeed 框架编译与安装_ev.mp4 [56.6 MB]
1. 章节介绍_ev.mp4 [5.2 MB]
9. 使用 DeepSpeed 单机多卡、分布式训练_ev.mp4 [8.9 MB]
6. DeepSpeed 与 Transformers 集成训练大模型_ev.mp4 [9.6 MB]
4. Microsoft DeepSpeed 框架和核心技术_ev.mp4 [64.3 MB]
2. 预训练模型显存计算方法_ev.mp4 [50.4 MB]
📁 第6章
📁 课件
6-大模型高效微调技术揭秘（下）.pdf [7.6 MB]
6. (IA)3：极简主义增量训练方法_ev.mp4 [30.4 MB]
3. AdaLoRA自适应权重矩阵微调技术_ev.mp4 [58.0 MB]
1. 章节介绍_ev.mp4 [3.7 MB]
2. LoRA低秩适配微调技术_ev.mp4 [58.2 MB]
4. QLoRA量化低秩适配微调技术_ev.mp4 [46.5 MB]
5. UniPELT：大模型PEFT统一框架_ev.mp4 [20.1 MB]
📁 第4章
📁 课件
4-实战Transformers模型训练.pdf [5.2 MB]
4. 实战训练BERT模型：文本分类任务_ev.mp4 [141.3 MB]
2. 数据集处理库Hugging Face Datasets_ev.mp4 [48.9 MB]
5. 实战训练BERT模型：QA任务_ev.mp4 [305.5 MB]
3. Transformers模型训练入门_ev.mp4 [21.4 MB]
1. 章节介绍_ev.mp4 [5.3 MB]
6.作业.txt [385.0 B]
📁 第3章
📁 课件
5-大模型开发工具库 HF Transformers.pdf [4.4 MB]
1. 章节介绍_ev.mp4 [2.6 MB]
5. 实战Hugging Face Transformers工具库_ev.mp4 [212.2 MB]
2. Hugging Face Transformers快速入门_ev.mp4 [29.9 MB]
3. Transformers核心功能模块_ev.mp4 [46.7 MB]
6.作业.txt [281.0 B]
4. 大模型开发环境搭建_ev.mp4 [35.1 MB]
📁 第5章
📁 课件
Instruction-Tuning论文.zip [1.2 MB]
5-大模型高效微调技术揭秘（上）.pdf [9.8 MB]
Fine-tuning论文.zip [16.5 MB]
6. PEFT - Soft Prompt 技术（Prompt Encoder）_ev.mp4 [76.4 MB]
4. PEFT - Adapter技术_ev.mp4 [58.0 MB]
1. 章节介绍_ev.mp4 [7.0 MB]
3. PEFT主流技术分类介绍_ev.mp4 [23.0 MB]
5. PEFT - Soft Prompt 技术（Task-specific Tuning）_ev.mp4 [95.8 MB]
2. Before PEFT：Hard Prompt Full Fine-tune_ev.mp4 [52.2 MB]
📁 第9章
📁 课件
9-GLM 大模型家族与ChatGLM3-6B微调入门.pdf [15.3 MB]
GLM论文.zip [43.8 MB]
1. 章节介绍_ev.mp4 [4.6 MB]
5. ChatGLM3-6B 微调入门_ev.mp4 [20.6 MB]
6. 实战 QLoRA 微调 ChatGLM3-6B_ev.mp4 [89.0 MB]
7.作业.txt [179.0 B]
2. 基座模型 GLM-130B_ev.mp4 [93.1 MB]
3. 扩展模型：联网检索、多模态、代码生成_ev.mp4 [44.8 MB]
4. 对话模型 ChatGLM 系列_ev.mp4 [11.2 MB]
📁 第12章
📁 课件
12-混合专家模型（MoEs）技术揭秘.pdf [5.1 MB]
MoEs论文.zip [7.7 MB]
1. 章节介绍_ev.mp4 [6.9 MB]
4. MoEs 实例研究：Mixtral-8x7B_ev.mp4 [25.8 MB]
2. MoEs 技术发展简史_ev.mp4 [107.5 MB]
3. MoEs 与大模型结合后的技术发展_ev.mp4 [98.3 MB]
📁 直播回放
8.29 第一次直播答疑_ev.mp4 [109.2 MB]
10.17 第四次直播答疑_ev.mp4 [65.3 MB]
9.26 第三次直播答疑_ev.mp4 [40.0 MB]
📁 第17章
5. 选学 API 基础教学和实战-问题解决方案.txt [436.0 B]
3.CogVLM模型部署实践.pdf [2.9 MB]
1. GLM 大模型家族介绍_ev.mp4 [60.7 MB]
2. GLM 模型部署微调实践_ev.mp4 [98.9 MB]
1.GLM大模型家族介绍.pdf [7.4 MB]
2.GLM模型部署实践.pdf [2.7 MB]
4.选学 GLM4 GLM4V API 调用实践.pdf [1.8 MB]
4. 选学 智谱第四代 API 介绍_ev.mp4 [7.9 MB]
3. CogVLM模型部署实践_ev.mp4 [63.4 MB]
5. 选学 API 基础教学和实战_ev.mp4 [42.6 MB]
6. 使用 GLM-4 API 构建模型和应用_ev.mp4 [67.0 MB]
📁 第1章
📁 课件
1-AI大模型四阶技术总览.pdf [20.7 MB]
7. AI大模型四阶技术总览：大模型微调（Fine-tuning）_ev.mp4 [42.7 MB]
8. AI大模型四阶技术总览：预训练技术（Pre-training）_ev.mp4 [21.0 MB]
1. 章节介绍_ev.mp4 [8.1 MB]
4. 把握浪潮：AI 大模型助力超级个体和小团队_ev.mp4 [18.6 MB]
3. AI应用浪潮：高校共识、硅谷创新、中美博弈_ev.mp4 [97.2 MB]
5. AI大模型四阶技术总览：提示工程（Prompt Engineering）_ev.mp4 [62.0 MB]
2. AI技术浪潮：弱人工智能、机器学习、深度学习、大语言模型_ev.mp4 [64.4 MB]
6. AI大模型四阶技术总览：AI智能体（Agents）_ev.mp4 [51.2 MB]
📁 第2章
📁 课件
2-大语言模型技术发展与演进.pdf [17.8 MB]
论文.zip [10.0 MB]
代码链接地址.txt [66.0 B]
6. 大语言模型：GPT-1与BERT_ev.mp4 [53.0 MB]
3. 神经网络语言模型_ev.mp4 [76.4 MB]
5. 大语言模型：Transformer网络架构_ev.mp4 [62.3 MB]
4. 大语言模型：注意力机制_ev.mp4 [48.9 MB]
1. 章节介绍_ev.mp4 [42.6 MB]
7. 大语言模型：暴力美学GPT系列模型_ev.mp4 [44.6 MB]
2. 统计语言模型_ev.mp4 [51.2 MB]
📁 第10章
📁 课件
10-实战私有数据微调ChatGLM3.pdf [10.2 MB]
1. 章节介绍_ev.mp4 [9.1 MB]
4. 数据增强：提升训练数据多样性_ev.mp4 [15.1 MB]
7.作业.txt [182.0 B]
3. 合成数据： LangChain + GPT-3.5 Turbo_ev.mp4 [12.6 MB]
6. 实战私有数据微调 ChatGLM3_ev.mp4 [103.8 MB]
2. 使用 ChatGPT 自动设计生成训练数据的 Prompt_ev.mp4 [60.6 MB]
5. 提示工程：保持批量生成数据稳定性_ev.mp4 [44.2 MB]
📁 第7章
📁 课件
7-大模型高效微调工具HF PEFT 入门与实战.pdf [4.9 MB]
5.作业.txt [556.0 B]
1. 章节介绍_ev.mp4 [3.3 MB]
2. Hugging Face PEFT 快速入门_ev.mp4 [58.0 MB]
4. 实战 LoRA 微调 Whisper-Large-v2 中文语音识别_ev.mp4 [233.8 MB]
3. OpenAI Whisper 模型介绍_ev.mp4 [31.2 MB]
02-课程表.webp [570.2 KB]
01-课前准备.docx [740.2 KB]适合人群
- AI领域爱好者
- 深度学习研究者
- AI工程师
🎯 学习收获
- 掌握AI大模型微调技术
- 了解量化、RLHF等前沿技术
- 实战华为Ascend 910微调ChatGLM-6B
🎉 祝您学习愉快！
