人工精选慕课网-从0到1训练私有大模型 ,企业急迫需求 ,抢占市场先机
这门课真正要解决的问题,不是让你背下 Transformer 的公式,而是让你有能力把一个开源基座模型改造成能对内交付的私有模型:数据怎么清洗、词表怎么处理、微调怎么跑、情感分类这类任务怎么落到业务上。它面向的是公司里已经有数据、但不敢直接调外部接口的场景,比如客服工单归类、评论情绪判断、内部文档问
会员可免费下载本篇月会员可免费领取。
开通会员 ›会员 · 按档位
游客按标价购买,不享受上表折扣。
支付成功后自动发放网盘链接,链接失效可找客服免费补
这门课真正要解决的问题,不是让你背下 Transformer 的公式,而是让你有能力把一个开源基座模型改造成能对内交付的私有模型:数据怎么清洗、词表怎么处理、微调怎么跑、情感分类这类任务怎么落到业务上。它面向的是公司里已经有数据、但不敢直接调外部接口的场景,比如客服工单归类、评论情绪判断、内部文档问答。学完之后,你应该能独立完成一次从数据准备到模型微调、再到效果验证的完整流程。
适合什么基础,不适合什么基础
如果你写过 Python,用过 PyTorch 或 PaddlePaddle 跑过简单的神经网络,知道张量、损失函数、反向传播大概在干什么,这门课能接得住。它从词向量讲到 Transformer 架构,再讲到 Bert 系列和 ChatGPT 相关的核心技术,路径是连贯的,不会一上来就甩代码。但如果你完全没碰过深度学习,连训练集和验证集的区别都要现查,建议先补一轮基础再回来,否则中间几章会变成看天书。另外,课里涉及的是模型训练和微调,不是提示词工程,想学怎么调 API 写应用的人,这门课不对口。
建议先看哪几块,怎么配合练习
不要按顺序从头刷到尾。先看词向量和 Transformer 架构那两段,把注意力机制和数据流转搞清楚,这是后面所有内容的地基。然后直接跳到 Bert 系列分析与实战,尤其是情感分析那一节,它是整门课里最容易独立跑通、也最容易换成自己数据的任务。资料包里给了配套的实战素材和代码,建议做法是:先照着跑一遍确认环境没问题,再把标签换成你自己业务里的类别,比如把二分类情绪改成工单优先级,观察效果掉多少。掉得厉害,说明数据分布和预训练语料差得远,这时候再回头调学习率、批次大小和训练轮数,比空看理论有用。Ernie 相关的基础讲解可以放在后面看,作为国产基座的一个对照,帮你理解不同模型在中文任务上的差异。
学完能独立做什么
最实际的产出是:你能拿一个开源中文基座,在自己的标注数据上完成一次微调,并给出可解释的评估结果,而不是只报一个准确率。你能判断什么时候该微调、什么时候该换模型、什么时候数据本身就不够。你也能读懂别人写的训练脚本,知道哪几个参数在影响收敛。至于从零预训练一个私有大模型,这门课给的是原理和路径认知,不是让你真去烧卡,这一点要提前有预期。把它当成一次系统的动手入门,比当成速成方案更稳。
课程目录
课程目录103 集
- 📁 第5章 基于Transformer另一分支Bert系列分析与实战 第5章 基于Transformer另一分支Bert系列分析与实战资料.zip
- [1.8 MB] [5.13]--5-13 Ernie文心一言基础模型(2).mp4
- [12.8 MB] [5.7]--5-7 bert情感分析实战----paddle(2).mp4
- [50.0 MB] [5.16]--5-16 本章总结.mp4
- [12.4 MB] [5.8]--5-8 evaluate和predict方法----paddle.mp4
- [27.2 MB] [5.3]--5-3 常见 subword 算法(BPE-wordpiece).mp4
- [9.8 MB] [5.9]--5-9 bert(transformer encoder)主要源.mp4
- [40.8 MB] [5.10]--5-
- 10 bert(transformer encoder)主要.mp4
- [40.6 MB] [5.1]--5-1 本章介绍.mp4
- [1.8 MB] [5.6]--5-6 bert情感分析实战----paddle(1).mp4
- [42.9 MB] [5.2]--5-2 metric-评估指标(BLUE-rouge-L-MET.mp4
- [32.8 MB] [5.11]--5-
- 11 bert(transformer encoder)的完.mp4
- [79.8 MB] [5.15]--5-
- 15 plato 百度对话模型(2).mp4
- [28.3 MB] [5.12]--5-12 Ernie文心一言基础模型(1).mp4
- [24.9 MB] [5.14]--5-14 plato百度对话模型(1).mp4
- [26.0 MB] [5.4]--5-4 常见的NLP任务.mp4
- [9.9 MB] [5.5]--5-5 bert 预训练模型.mp4
- [39.0 MB] 📁 第7章 chatGPT技术演变——从GPT 1 开始的大模型发展与演化 第7章 chatGPT技术演变——从GPT 1 开始的大模型发展与演化必看.png [493.5 KB] [7.8]--7-8 instruct-gpt 基于GPT技术开发的模型-1.mp4
- [21.3 MB] [7.1]--7-1 GPT1 模型.mp4
- [24.1 MB] [7.3]--7-3 GPT3 模型-1.mp4
- [29.1 MB] [7.11]--7-11 GPT-本章总结.mp4
- [12.7 MB] [7.10]--7-
- 10 Antropic LLM大型语言模型.mp4
- [39.1 MB] [7.7]--7-7 alphaCode基于GPT技术开发的模型-2.mp4
- [16.1 MB] [7.9]--7-9 instruct-gpt 基于GPT技术开发的模型-2.mp4
- [25.0 MB] [7.4]--7-4 GPT3 模型-2.mp4
- [25.8 MB] [7.5]--7-5 gpt-codex 基于GPT技术开发的模型.mp4
- [22.6 MB] [7.6]--7-6 alphaCode基于GPT技术开发的模型-1.mp4
- [27.7 MB] [7.2]--7-2 GPT2 模型.mp4
- [24.8 MB] 📁 第6章 chatGPT的核心技术——强化学习 第6章 chatGPT的核心技术——强化学习必看.zip
- [1.8 MB] [6.10]--6-10 actor-critic(2).mp4
- [11.3 MB] [6.9]--6-9 actor-critic(1).mp4
- [36.1 MB] [6.5]--6-5 RL三种方法(1).mp4
- [28.4 MB] [6.17]--6-17 PPO代码实践--torch.mp4
- [61.1 MB] [6.6]--6-6 RL三种方法(2).mp4
- [10.1 MB] [6.8]--6-8 DQN和DQN的2种改进算法(2).mp4
- [23.6 MB] [6.13]--6-13 DQN代码实践--torch-1.mp4
- [41.1 MB] [6.7]--6-7 DQN和DQN的2种改进算法(1).mp4
- [17.9 MB] [6.3]--6-3 RL基础概念.mp4
- [11.4 MB] [6.4]--6-4 RL马尔可夫过程.mp4
- [27.4 MB] [6.16]--6-16 REINFORCE代码--torch.mp4
- [45.9 MB] [6.1]--6-1 RL是什么&为什么要学习RL.mp4
- [20.5 MB] [6.14]--6-14 DQN代码实践--torch-2.mp4
- [46.7 MB] [6.2]--6-2 强化学习章介绍.mp4
- [4.2 MB] [6.12]--6-12 TRPO+PPO(2).mp4
- [28.0 MB] [6.11]--6-11 TRPO+PPO(1).mp4
- [39.4 MB] [6.15]--6-15 DoubleDQN+DuelingDQ代码--torc.mp4
- [48.8 MB] [6.18]--6-18 强化学习-本章总结.mp4
- [16.5 MB] 📁 第4章 chatGPT基石模型——基于Transformer架构的语言模型 [4.4]--4-4 transformer的multi-head atten.mp4
- [37.4 MB] [4.2]--4-2 seq2seq结构和注意力.mp4
- [21.7 MB] [4.5]--4-5 transformer的残差链接-解决梯度消失问题.mp4
- [12.2 MB] [4.7]--4-7 transformer的decoder 解码器.mp4
- [14.0 MB] [4.10]--4-10 transformer-xl解决长序列的问题(2).mp4
- [25.9 MB] [4.1]--4-1 本章介绍.mp4
- [2.1 MB] [4.3]--4-3 seq2seq-attention的一个案例.mp4
- [10.3 MB] [4.9]--4-9 transformer-xl 解决长序列的问题(1).mp4
- [25.7 MB] [4.8]--4-8 sparse-transformer 稀疏模型.mp4
- [10.7 MB] [4.6]--4-6 transformer的layernorm-归一化提升训.mp4
- [10.2 MB] [4.11]--4-11 本章梳理总结.mp4
- [6.3 MB] 📁 第2章 训练模型与开发平台环境 第2章 训练模型与开发平台环境文档.zip
- [1.8 MB] [2.1]--2-1 【认知】为什么要引入paddle?平时使用torch,学.mp4
- [7.3 MB] [2.5]--2-5 【工具】介绍基于gpt4的IDE cursor.mp4
- [16.4 MB] [2.4]--2-4 【平台】介绍aistudio.mp4
- [24.6 MB] [2.3]--2-3 【NLP工具和预训练模型】paddleNLP和huggi.mp4
- [5.4 MB] [2.2]--2-2 【框架】paddle和torch与tensorflow对.mp4
- [10.6 MB] 📁 第3章 chatGPT初始技术词向量原理剖析与实战 [3.3]--3-3 【词向量模型】word2vec-cbow和skipgra.mp4
- [14.2 MB] [3.1]--3-1 【认知】词向量,词向量与gpt的关系.mp4
- [8.0 MB] [3.11]--3-11 【预训练语言模型】RNN-LSTM-ELMO.mp4
- [36.0 MB] [3.8]--3-8 【模型训练】word2vec实战-模型开发和训练(1).mp4
- [22.1 MB] [3.9]--3-9 【模型训练】word2vec实战-模型开发和训练(2).mp4
- [33.5 MB] [3.2]--3-2 【语言模型】语言模型和评估指标PPL.mp4
- [22.2 MB] [3.4]--3-4 【softmax加速】是softmax 树型优化.mp4
- [24.0 MB] [3.6]--3-6 【数据准备与预处理】word2vec实战(1).mp4
- [55.9 MB] [3.7]--3-7 【数据准备与预处理】word2vec实战(2).mp4
- [30.7 MB] [3.10]--3-10 【激活函数】常见七种激活函数对比.mp4
- [20.7 MB] [3.12]--3-12 本章梳理小结.mp4
- [5.2 MB] [3.5]--3-5 【softmax加速】softmax负采样优化.mp4
- [20.2 MB] 📁 第8章 RLHF训练类ChatGPT模型代码实战 [8.19]--8-19 RLHF强化学习人类反馈的训练-main.mp4
- [66.9 MB] [8.11]--8-11 RLHF强化学习人类反馈的训练-model-opt.mp4
- [12.4 MB] [8.5]--8-5 RM训练-model+dataset(1).mp4
- [26.4 MB] [8.1]--8-1 chatGPT训练实战.mp4
- [12.7 MB] [8.16]--8-16 RLHF强化学习人类反馈的训练-buffer-util.mp4
- [53.6 MB] [8.13]--8-13 RLHF强化学习人类反馈的训练-generation(.mp4
- [46.6 MB] [8.14]--8-14 RLHF强化学习人类反馈的训练-exp_maker(1.mp4
- [30.2 MB] [8.15]--8-15 RLHF强化学习人类反馈的训练-exp_maker(2.mp4
- [41.2 MB] [8.10]--8-10 RLHF强化学习人类反馈的训练-model-base.mp4
- [23.3 MB] [8.17]--8-17 RLHF强化学习人类反馈的训练-buffer-loss.mp4
- [43.3 MB] [8.7]--8-7 RM训练-trainer.mp4
- [29.4 MB] [8.2]--8-2 SFT有监督的训练-数据处理.mp4
- [58.5 MB] [8.8]--8-8 RM训练-train-rm.mp4
- [33.7 MB] [8.4]--8-4 SFT有监督训练-train.mp4
- [59.5 MB] [8.3]--8-3 SFT有监督训练-trainer.mp4
- [36.3 MB] [8.9]--8-9 RLHF强化学习人类反馈的训练-dataset.mp4
- [13.8 MB] [8.6]--8-6 RM训练-model+dataset(2).mp4
- [24.8 MB] 📁 第1章 课程介绍 [1.3]--1-3 【行业发展】ChatGPT对行业、社会有什么影响,我们要.mp4
- [34.1 MB] [1.4]--1-4 【发展史】ChatGPT的简要历史.mp4
- [15.6 MB] [1.2]--1-2 【内容安排】课程安排和学习建议.mp4
- [12.9 MB] [1.5]--1-5 【学习须知】本课程为什么使用gpt2而不是gpt3.mp4
- [5.4 MB] [1.1]--1-1 【导航】课程导学&让你快速了解课程.mp4
- [37.5 MB] 适合人群 AI工程师 数据科学家 算法工程师 学习收获 掌握大模型技术 实现ChatGPT项目 提升AI应用能力 祝您学习愉快! 学有所成,前程似锦!





