人工精选慕课网-从0到1训练私有大模型 ,企业急迫需求,抢占市场先机
核心定位与适用门槛 当前企业在大模型落地时,常面临公有云数据泄露风险与调用成本高昂的双重困境。这门课的核心价值,不在于教你调用现成API,而在于带你从底层代码开始,训练一个完全私有的轻量级语言模型。课程特意选用GPT-2作为教学载体,而非参数庞大的GPT-3,是因为对于掌握NLP核心原理而言,GPT
会员 · 按档位
游客按标价购买,不享受上表折扣。
支付成功后自动发放网盘链接,链接失效可找客服免费补
核心定位与适用门槛
当前企业在大模型落地时,常面临公有云数据泄露风险与调用成本高昂的双重困境。这门课的核心价值,不在于教你调用现成API,而在于带你从底层代码开始,训练一个完全私有的轻量级语言模型。课程特意选用GPT-2作为教学载体,而非参数庞大的GPT-3,是因为对于掌握NLP核心原理而言,GPT-2的结构更具代表性且易于复现,能帮你真正搞懂预训练模型的骨架。
这门课适合具备Python基础、熟悉PyTorch,但希望拓展至飞桨(PaddlePaddle)生态,并渴望理解Transformer底层原理的开发者。如果你只想做应用层的业务开发,直接微调开源模型即可;但如果你想深入理解词向量、语言模型评估指标PPL以及负采样优化逻辑,这门课能填补你从“工具使用者”到“模型训练者”之间的认知鸿沟。
学习路径与核心板块
建议学习顺序如下:首先精读第一章,通过行业影响与发展史的讲解,建立对当前AI格局的宏观认知,明确学习目标;其次快速过完第二章,重点熟悉AI Studio云开发平台与Cursor IDE的配合使用,这是后续高效编码的基础;最后进入第三章,这是全书最硬核的部分。
第三章集中攻克词向量原理,涵盖了Word2vec的CBOW与Skip-gram两种核心架构,以及Softmax树型优化和负采样加速技巧。这部分理论性较强,务必结合后续的实战代码反复揣摩。不要急于跳过后面的Word2vec全流程开发章节,因为这里演示的数据预处理、模型搭建与训练过程,是后续独立训练私有模型的标准范式,缺了这步理解,后续实操容易知其然不知其所以然。
实战产出与资料配合
完成本课程后,你将能够独立主导一个小型垂直领域语言模型的训练项目。具体包括:能够根据业务场景清洗和预处理语料数据,选择合适的基础模型结构,利用负采样等技术优化训练效率,并最终输出可用的模型权重。
在资料使用上,请务必以第三章的Word2vec实战系列为练习重心。不要只看视频,要下载对应代码并在AI Studio环境中亲手运行。遇到报错时,结合第二章介绍的Cursor工具进行智能调试与代码补全,能显著提升排错效率。通过这种“原理剖析+代码复现+工具辅助”的组合拳,将理论知识转化为真实的工程动手能力。
课程目录
第1章 课程介绍 试看 5 节 | 62分钟5 集
- 1-1 【导航】课程导学&让你快速了解课程 (18:25).mp4
- 1-2 【内容安排】课程安排和学习建议 (09:13).mp4
- 1-3 【行业发展】ChatGPT对行业、社会有什么影响,我们要如何应对 (21:22).mp4
- 1-4 【发展史】ChatGPT的简要历史 (09:53).mp4
- 1-5 【学习须知】本课程为什么使用gpt2而不是gpt3 (03:03).mp4
第2章 训练模型与开发平台环境 5 节 | 30分钟5 集
- 2-1 【认知】为什么要引入paddle?平时使用torch,学习paddle貌似没用怎么办? (04:06).mp4
- 2-2 【框架】paddle和torch与tensorflow对比 (07:14).mp4
- 2-3 【NLP工具和预训练模型】paddleNLP和huggingface (03:23).mp4
- 2-4 【平台】介绍aistudio (07:53).mp4
- 2-5 【工具】介绍基于gpt4的IDE cursor (06:51).mp4
第3章 chatGPT初始技术词向量原理剖析与实战 12 节 | 176分钟12 集
- 3-1 【认知】词向量,词向量与gpt的关系 (05:22).mp4
- 3-2 【语言模型】语言模型和评估指标PPL (13:28).mp4
- 3-3 【词向量模型】word2vec-cbow和skipgram (08:15).mp4
- 3-4 【softmax加速】是softmax 树型优化 (14:46).mp4
- 3-5 【softmax加速】softmax负采样优化 (13:49).mp4
- 3-6 【数据准备与预处理】word2vec实战(1) (24:53).mp4
- 3-7 【数据准备与预处理】word2vec实战(2) (18:49).mp4
- 3-8 【模型训练】word2vec实战-模型开发和训练(1) (15:17).mp4
- 3-9 【模型训练】word2vec实战-模型开发和训练(2) (14:33).mp4
- 3-10 【激活函数】常见七种激活函数对比 (15:29).mp4
- 3-11 【预训练语言模型】RNN-LSTM-ELMO (25:49).mp4
- 3-12 本章梳理小结 (05:06).mp4
第4章 chatGPT基石模型——基于Transformer架构的语言模型 11 节 | 117分钟11 集
- 4-1 本章介绍 (01:32).mp4
- 4-2 seq2seq结构和注意力 (15:23).mp4
- 4-3 seq2seq-attention的一个案例 (07:37).mp4
- 4-4 transformer的multi-head attention 多头注意力机制 (23:07).mp4
- 4-5 transformer的残差链接-解决梯度消失问题 (07:43).mp4
- 4-6 transformer的layernorm-归一化提升训练稳定性 (07:21).mp4
- 4-7 transformer的decoder 解码器 (09:11).mp4
- 4-8 sparse-transformer 稀疏模型 (08:31).mp4
- 4-9 transformer-xl 解决长序列的问题(1) (14:34).mp4
- 4-10 transformer-xl解决长序列的问题(2) (16:10).mp4
- 4-11 本章梳理总结 (04:52).mp4
第5章 基于Transformer另一分支Bert系列分析与实战 16 节 | 211分钟16 集
- 5-1 本章介绍 (01:14).mp4
- 5-2 metric-评估指标(BLUE-rouge-L-METOER-NIST) (22:49).mp4
- 5-3 常见 subword 算法(BPE-wordpiece) (07:00).mp4
- 5-4 常见的NLP任务 (06:38).mp4
- 5-5 bert 预训练模型 (25:29).mp4
- 5-6 bert情感分析实战----paddle(1) (17:22).mp4
- 5-7 bert情感分析实战----paddle(2) (18:48).mp4
- 5-8 evaluate和predict方法----paddle (10:49).mp4
- 5-9 bert(transformer encoder)主要源码分析----paddle(1) (14:12).mp4
- 5-10 bert(transformer encoder)主要源码分析----paddle(2) (12:31).mp4
- 5-11 bert(transformer encoder)的完整源码cache部分分析----paddle (15:21).mp4
- 5-12 Ernie文心一言基础模型(1) (14:35).mp4
- 5-13 Ernie文心一言基础模型(2) (06:27).mp4
- 5-14 plato百度对话模型(1) (14:56).mp4
- 5-15 plato 百度对话模型(2) (14:13).mp4
- 5-16 本章总结 (07:51).mp4
第6章 chatGPT的核心技术——强化学习 18 节 | 275分钟18 集
- 6-1 RL是什么&为什么要学习RL (14:11).mp4
- 6-2 强化学习章介绍 (02:53).mp4
- 6-3 RL基础概念 (07:06).mp4
- 6-4 RL马尔可夫过程 (17:39).mp4
- 6-5 RL三种方法(1) (16:40).mp4
- 6-6 RL三种方法(2) (06:07).mp4
- 6-7 DQN和DQN的2种改进算法(1) (13:46).mp4
- 6-8 DQN和DQN的2种改进算法(2) (16:21).mp4
- 6-9 actor-critic(1) (24:54).mp4
- 6-10 actor-critic(2) (08:14).mp4
- 6-11 TRPO+PPO(1) (23:23).mp4
- 6-12 TRPO+PPO(2) (18:28).mp4
- 6-13 DQN代码实践--torch-1 (20:28).mp4
- 6-14 DQN代码实践--torch-2 (19:05).mp4
- 6-15 DoubleDQN+DuelingDQ代码--torch (11:49).mp4
- 6-16 REINFORCE代码--torch (20:18).mp4
- 6-17 PPO代码实践--torch (23:03).mp4
- 6-18 强化学习-本章总结 (10:24).mp4
第7章 chatGPT技术演变——从GPT 1 开始的大模型发展与演化 11 节 | 159分钟11 集
- 7-1 GPT1 模型 (14:46).mp4
- 7-2 GPT2 模型 (14:00).mp4
- 7-3 GPT3 模型-1 (15:55).mp4
- 7-4 GPT3 模型-2 (12:06).mp4
- 7-5 gpt-codex 基于GPT技术开发的模型 (12:58).mp4
- 7-6 alphaCode基于GPT技术开发的模型-1 (16:13).mp4
- 7-7 alphaCode基于GPT技术开发的模型-2 (09:57).mp4
- 7-8 instruct-gpt 基于GPT技术开发的模型-1 (13:44).mp4
- 7-9 instruct-gpt 基于GPT技术开发的模型-2 (16:43).mp4
- 7-10 Antropic LLM大型语言模型 (24:41).mp4
- 7-11 GPT-本章总结 (07:21).mp4
第8章 RLHF训练类ChatGPT模型代码实战 19 节 | 311分钟19 集
- 8-1 chatGPT训练实战 (08:52).mp4
- 8-2 SFT有监督的训练-数据处理 (22:06).mp4
- 8-3 SFT有监督训练-trainer (18:19).mp4
- 8-4 SFT有监督训练-train (22:08).mp4
- 8-5 RM训练-model+dataset(1) (16:33).mp4
- 8-6 RM训练-model+dataset(2) (14:51).mp4
- 8-7 RM训练-trainer (13:48).mp4
- 8-8 RM训练-train-rm (11:43).mp4
- 8-9 RLHF强化学习人类反馈的训练-dataset (07:50).mp4
- 8-10 RLHF强化学习人类反馈的训练-model-base (12:17).mp4
- 8-11 RLHF强化学习人类反馈的训练-model-opt (08:11).mp4
- 8-12 RLHF强化学习人类反馈的训练-generation(1) (16:53).mp4
- 8-13 RLHF强化学习人类反馈的训练-generation(2) (16:22).mp4
- 8-14 RLHF强化学习人类反馈的训练-exp_maker(1) (15:14).mp4
- 8-15 RLHF强化学习人类反馈的训练-exp_maker(2) (17:18).mp4
- 8-16 RLHF强化学习人类反馈的训练-buffer-utils (28:18).mp4
- 8-17 RLHF强化学习人类反馈的训练-buffer-loss (18:08).mp4
- 8-18 RLHF强化学习人类反馈的训练-trainer (22:03).mp4
- 8-19 RLHF强化学习人类反馈的训练-main (19:30).mp4
第9章 低成本微调大模型方法PEFT(LoRA等) — 训练 "ChatGLM2" 项目 16 节 | 240分钟16 集
- 9-1 参数高效微调方法 peft-bitfit (23:14).mp4
- 9-2 参数高效微调方法 prefix-t (11:55).mp4
- 9-3 参数高效微调方法 prompt-t (10:09).mp4
- 9-4 参数高效微调方法 p-tuning (10:38).mp4
- 9-5 参数高效微调方法 p-tuningv2 (09:36).mp4
- 9-6 参数高效微调方法 lora (05:13).mp4
- 9-7 高效调参方案实现 prompt_tuning-1 (18:25).mp4
- 9-8 高效调参方案实现 prompt_tuning-2 (10:12).mp4
- 9-9 高效调参方案实现 p-tuning (13:41).mp4
- 9-10 高效调参方案实现 prefix-tuning (19:42).mp4
- 9-11 高效调参方案实现 lora-01 (17:51).mp4
- 9-12 高效调参方案实现 lora-02 (17:40).mp4
- 9-13 高效调参方案实现 lora-03 (11:00).mp4
- 9-14 AdaLora微调ChatGLM2 实战 -1 (21:21).mp4
- 9-15 AdaLora微调ChatGLM2 实战 -2 (23:55).mp4
- 9-16 PEFT-本章总结 (15:05).mp4
第10章 langchain+训练大模型ChatGLM2 构建“知识库问答” 5 节 | 75分钟5 集
- 10-1 基于langchain的应用 (12:43).mp4
- 10-2 langchain初探与实战 (25:31).mp4
- 10-3 langchain实现 mini-QA (14:59).mp4
- 10-4 工业场景知识库LLM助手的设计 (13:11).mp4
- 10-5 langchain和知识增强LLM总结 (08:30).mp4
第11章 课程总结 2 节 | 33分钟2 集
- 11-1 课程总结(1) (17:48).mp4
- 11-2 课程总结(2) (15:01).mp4





