这门课解决什么，适合谁学
大模型原理与训练实战这套课程，核心解决的是“知其然更知其所以然”的问题。市面上大量教程直接教你调用 API 或跑现成的开源项目，但一旦遇到显存溢出、Loss 不下降或微调效果不佳，学习者往往束手无策。这套内容从反向传播、梯度下降这些底层数学原理讲起，再深入到 RNN 架构、Tokenization 机制，最后落地到 LLaMA 模型的预训练与指令微调全流程。它填补了从“会用工具”到“理解模型”之间的巨大空白，帮助学员建立完整的算法直觉，从而在面对实际工程问题时能独立排查和调优。
课程定位非常务实，它不适合只想快速通过 API 完成 Demo 的初学者。建议读者具备 Python 基础，了解基本的神经网络概念（如什么是权重、损失函数），最好有 PyTorch 的使用经验。如果你是从传统机器学习转行，或者是在实际工作中感到瓶颈、想要深入理解 Transformer 之前身及序列模型原理的开发者，这套内容非常适合你。它不依赖高深数学背景，而是用代码和可视化带你一步步推导，门槛适中但上限很高。
资料如何配合练习，学完能独立做什么
这套资料的最大价值在于其结构化的学习路径，分为“NLP 入门”、“DNN 基础”和“LLaMA 实战”三大板块，层层递进。建议你先看赠送的“10小时 NLP 高效入门”部分，特别是关于 DNN 反向传播和 RNN 数据流的章节。这部分虽然看似基础，却是理解后续大模型训练机制的地基。只有搞清楚了梯度是如何在时间步和层间传播的，后续理解 LLaMA 的微调才不会出现概念混淆。
接着进入核心正课，重点放在环境准备、Tokenizer 自定义、预训练数据清洗以及指令微调的具体实现上。资料中包含了手动实现 RNN 情感分类和文本生成的加餐内容，这对于深入理解序列数据的处理逻辑极有帮助。通过跟着资料动手跑通 LLaMA 的训练流程，你将能够独立搭建训练环境、准备高质量的微调数据集、配置分布式训练参数，并处理训练过程中的常见报错。
学完后，你不再只是一个“调参侠”，而是能够解释模型内部行为、根据业务需求定制专用小模型、并具备从零训练一个类 LLaMA 模型能力的工程师。这种能力在求职或内部技术选型时，是区分“使用者”与“开发者”的关键分水岭。
课程目录
📁 【赠送】10小时NLP高效入门 17_【RNN】3.3 各类NLP任务下循环神经网络的输入与输出.mp4 [262.6 MB] 21_【RNN】3.4.4 自定义循环层中的循环数据流.mp4 [97.5 MB] 05_【DNN】2.1 反向传播的原理.mp4 [522.8 MB] 04_【DNN】1 梯度下降中的两个关键问题.mp4 [544.0 MB] 06_【DNN】2.2 反向传播的实现.mp4 [432.0 MB] 11_【RNN】1.1 欢迎来到NLP的世界.mp4 [167.1 MB] 23_【RNN】3.4.6【加餐】手动实现RNN执行情感分类任务.mp4 [88.5 MB] 25_【RNN】3.5.1 RNN反向传播的数学流程.mp4 [165.7 MB] 10_【DNN】5.2 在Fashion-MNIST数据集上实现完整的神经网络（下）.mp4 [1.0 GB] 16_【RNN】3.1~3.2 RNN的架构与数据流.mp4 [195.1 MB] 26_【RNN】3.5.2 RNN各类缺陷的数学本质.mp4 [142.0 MB] 19_【RNN】3.4.2 在PyTorch中实现RNN.mp4 [158.5 MB] 14_【RNN】2.2 文字序列数据 - 结构与分词操作.mp4 [146.0 MB] 01_【神经网络入门】1 SSE与二分类交叉熵损失.mp4 [248.8 MB] 08_【DNN】4 开始迭代：batch与epochs.mp4 [697.8 MB] 07_【DNN】3 走出第一步：动量法Momentum.mp4 [678.6 MB] 15_【RNN】2.3 文字序列数据 - Token与编码.mp4 [162.1 MB] 09_【DNN】5.1 在Fashion-MNIST数据集上实现完整的神经网络（上）.mp4 [522.1 MB] 12_【RNN】1.2 大模型的行业影响与发展.mp4 [195.9 MB] 18_【RNN】3.4.1 认识PyTorch中nn.RNN层.mp4 [134.8 MB] 24_【RNN】3.4.7【加餐】手动实现RNN执行文本生成任务.mp4 [65.7 MB] 13_【RNN】2.1 深度学习中的时间序列数据.mp4 [131.4 MB] 22_【RNN】3.4.5 双向循环神经网络.mp4 [72.1 MB] 02_【神经网络入门】2 二分类交叉熵的原理与实现.mp4 [422.6 MB] 20_【RNN】3.4.3 深度神经网络的实现.mp4 [177.5 MB] 03_【神经网络入门】3 多分类交叉熵的原理与实现.mp4 [504.4 MB] 📁 【赠送】2小时从0到1训练LlaMA模型 04 llama-like模型的预训练（上）.mp4 [90.2 MB] 03 训练定制化Tokenizer.mp4 [66.3 MB] 02 预训练微调数据集准备.mp4 [68.3 MB] 06 指令微调 + 结果展示.mp4 [114.8 MB] 05 llama-like模型的预训练（下）.mp4 [136.3 MB] 01 环境准备与算力准备.mp4 [77.1 MB] 📁 【赠送】大模型入门基础 13_Ch 4.1 One-shot&Few-shot提示方法.mp4 [123.3 MB] 07_Ch 2.1 Completion模型与Chat模型介绍.mp4 [115.0 MB] 10_Ch 2.4手动创建可调节对话风格的对话机器人创建.mp4 [93.8 MB] 17_Ch 5.1 SCAN指令翻译项目介绍与数据集准备.mp4 [172.0 MB] 04_【预习课】Lesson 4 ChatGPT防封指南.mp4 [62.9 MB] 15_Ch 4.3Few-shot-CoT提示法.mp4 [79.9 MB] 12_Ch 3.2 提示工程技术入门.mp4 [121.2 MB] 06_Ch 1.2 本地调用OpenAI API方法.mp4 [99.5 MB] 24_Ch 7.3 基于特定知识的简易问答机器人创建方法.mp4 [161.9 MB] 14_Ch 4.2 Zero-shot-CoT提示法（新）.mp4 [139.5 MB] 21_Ch 6.2 Chat Completion模型发展现状.mp4 [111.8 MB] 03_【预习课】Lesson 3 ChatGPT Plus升级流程.mp4 [101.3 MB] 16_Ch 4.4 LtM提示方法.mp4 [118.5 MB] 20_Ch 6.1 Chat Completion模型背景介绍.mp4 [139.1 MB] 05_Ch 1.1 OpenAI官网使用说明.mp4 [197.2 MB] 22_Ch 7.1 Chat Completion模型API详解.mp4 [274.0 MB] 18_Ch 5.2 针对SCAN数据集的Few-shot-LtM提示工程流程.mp4 [338.2 MB] 11_Ch 3.1 大语言模型原生能力与涌现能力介绍.mp4 [79.8 MB] 08_Ch 2.2 Completion.create函数参数详解.mp4 [198.1 MB] 09_Ch 2.3 Completion.create函数调参数实践.mp4 [114.5 MB] 19_Ch 5.3 SCAN指令翻译项目完整建模流程.mp4 [148.0 MB] 01_【预习课】Lesson 1 谷歌邮箱Gmail注册.mp4 [120.8 MB] 02_【预习课】Lesson 2 OpenAI账号注册.mp4 [42.8 MB] 23_Ch 7.2 Messages参数设置技巧.mp4 [184.0 MB] 📁 【赠送】python基础 Lesson 22.函数（一）：函数的使用.mp4 [127.5 MB] Lesson 2.数值型对象的创建.mp4 [29.9 MB] Lesson 10.列表的常用方法（一）.mp4 [99.4 MB] Lesson 15.字典的常用方法.mp4 [82.5 MB] Lesson 17.集合的常用方法（新）.mp4 [98.9 MB] Lesson 6.字符串索引.mp4 [48.3 MB] Lesson 12.元组对象的创建与索引.mp4 [77.7 MB] Lesson 20.控制语句（二）：循环语句.mp4 [138.4 MB] Lesson 30.Pandas入门.mp4 [144.9 MB] Lesson 18.冻集合的创建与使用.mp4 [39.7 MB] Lesson 4.布尔型对象.mp4 [38.5 MB] Lesson 25.类的创建.mp4 [169.5 MB] Lesson 29.NumPy的广播与科学计算.mp4 [221.1 MB] Lesson 14.字典对象的创建与索引.mp4 [149.7 MB] Lesson 24.函数（三）：变量作用域与lambda函数.mp4 [65.3 MB] Lesson 1.Hello World!.mp4 [125.9 MB] Lesson 8.字符串常用方法（二）.mp4 [61.6 MB] Lesson 5.字符串型对象的创建.mp4 [45.2 MB] Lesson 7.字符串的常用方法（一）.mp4 [89.9 MB] Lesson 16.集合的创建（新）.mp4 [78.2 MB] Lesson 19.控制语句（一）：判别语句.mp4 [133.7 MB] Lesson 3.数值型对象的科学运算.mp4 [57.4 MB] Lesson 13.元组的常用方法.mp4 [16.4 MB] Lesson 28.NumPy数组的常用方法.mp4 [168.6 MB] Lesson 31.DataFrame数据结构基础.mp4 [146.7 MB] Lesson 26.类的方法和继承.mp4 [134.1 MB] Lesson 21.控制语句（三）：条件循环.mp4 [73.5 MB] Lesson 27.NumPy基础.mp4 [202.9 MB] Lesson 11.列表常用方法（二）.mp4 [29.9 MB] Lesson 9.列表对象的创建与索引.mp4 [126.8 MB] Lesson 23.函数（二）：函数的参数.mp4 [96.1 MB] 📁 【赠送】大模型必备PyTorch基础 Lesson 4 张量的线性代数运算.mp4 [456.0 MB] Lesson 6 动态计算图与梯度下降入门.mp4 [1.5 GB] Lesson 3 张量的广播和科学运算.mp4 [353.7 MB] Lesson 1 张量的创建与常用方法.mp4 [457.3 MB] Lesson 8.3 二分类神经网络的原理与实现.mp4 [515.5 MB] Lesson 9.5 从0实现深度神经网络的正向传播.mp4 [1.0 GB] Lesson 8.5 多分类神经网络.mp4 [550.4 MB] Lesson 8.1单层回归神经网络 & Tensor新手避坑指南.mp4 [827.6 MB] Lesson 5 基本优化方法与最小二乘法.mp4 [1.6 GB] Lesson 8.2 torch.nn.Linear实现单层回归网络的正向传播.mp4 [329.4 MB] Lesson 2 张量的索引、分片、合并及维度调整.mp4 [345.8 MB] Lesson 8.4 torch.nn.functional实现单层二分类网络的正向传播.mp4 [223.6 MB] Lesson 9.2 黑箱：深度神经网络的不可解释性.mp4 [419.0 MB] Lesson 7.3 深入理解PyTorch框架.mp4 [425.8 MB] Lesson 9.3 & 9.4 层与激活函数.mp4 [271.1 MB] Lesson 9.1 从异或门问题认识多层神经网络.mp4 [757.7 MB] Lesson 7.1 神经网络的诞生与发展.mp4 [242.3 MB] Lesson 7.2 机器学习中的基本概念.mp4 [526.9 MB] 📁 第一阶段 大模型顶尖架构原理精讲 【Transformer】11 完整Transformer结构下的解码器Decoder.mp4 [150.7 MB] 【Transformer】3 Transformer中的注意力计算流程 & 多头注意力机制.mp4 [224.6 MB] 00 不同基础不同目标的学习路径规划.mp4 [41.9 MB] 【LLaMA】3 RMSNorm均方根层归一化.mp4 [159.6 MB] 【Transformer】7 正余弦编码的实际计算与高维空间可视化.mp4 [122.9 MB] 【LLaMA】原理与架构复现 Part 2.mp4 [1.5 GB] 【LLaMA】1 LLaMA中的Decoder架构详解.mp4 [138.1 MB] 【Transformer】9 编码器结构详解之Layer Normalization.mp4 [120.2 MB] 【Transformer】8 编码器结构详解之残差链接.mp4 [169.0 MB] 【Transformer】15 编码-解码注意力层.mp4 [162.4 MB] 【LLaMA】5.5 时间复杂度、机器翻译等Q&A.mp4 [85.1 MB] 【LLaMA】4 旋转位置编码ROPE.mp4 [249.9 MB] 【LLaMA】5 KV缓存的原理与初步实现.mp4 [156.2 MB] 【Transformer】5 Embedding与位置编码.mp4 [203.2 MB] 【LLaMA】原理与架构复现 Part 3.mp4 [1.1 GB] 【Transformer】10 编码器结构详解之前馈神经网络FFN.mp4 [113.7 MB] 【Transformer】 12 Decoder的输入与teacher forcing.mp4 [247.8 MB] 【Transformer】13 掩码与掩码注意力机制.mp4 [216.1 MB] 【LLaMA】原理与架构复现 Part 4.mp4 [1.6 GB] 【Transformer】16 Decoder-Only结构下的Decoder.mp4 [177.1 MB] 【Transformer】6 正余弦编码的数学与实用意义.mp4 [200.3 MB] 【Transformer】14 填充掩码与前瞻掩码的实现.mp4 [223.9 MB] 【Transformer】1 Transformer与注意力机制入门.mp4 [129.4 MB] 【LLaMA】4.5 旋转位置编码的Q&A.mp4 [51.7 MB] 【Transformer】4 Transformer的基本架构.mp4 [142.3 MB] 【LLaMA】2 LLaMA中的Embedding层.mp4 [163.5 MB] 【Transformer】2 Attention注意力机制的本质.mp4 [197.8 MB]
