人工精选周瑜零基础手写大模型
想学大模型，但一打开资料发现要从 Python 的列表、字典讲起，很容易怀疑这套东西到底值不值得花时间。这门课的名字里带"零基础"，但它真正解决的不是"教你写 Python"，而是一个更具体的问题：让你从只会调 API，走到能自己动手把一个小型语言模型的训练流程跑通，并且看得懂每一步在干什么。 它适
会员 A · 按档位折扣
会员 B
游客按标价购买，不享受上表折扣。
支付成功后自动发放网盘链接，链接失效可找客服免费补
想学大模型，但一打开资料发现要从 Python 的列表、字典讲起，很容易怀疑这套东西到底值不值得花时间。这门课的名字里带"零基础"，但它真正解决的不是"教你写 Python"，而是一个更具体的问题：让你从只会调 API，走到能自己动手把一个小型语言模型的训练流程跑通，并且看得懂每一步在干什么。
它适合谁，不适合谁
如果你已经能写基本的 Python 脚本，知道变量、循环、函数是怎么回事，这门课的前几节会显得偏慢，可以快速过一遍当复习。但如果你连列表和字典的高级操作都不熟，那这部分别跳——后面处理词表、构造训练样本、按 batch 组织数据，全靠这些基本功。数学部分讲的是标量、向量、范数、矩阵运算这类内容，属于"够用就行"的级别，不是完整线性代数课，所以不用提前啃教材，跟着走能接住。
不适合的情况也说清楚：如果你期待的是直接调现成大模型做应用、或者想学提示词工程，这门课的方向不一样。它是往底层走的，重点在"模型内部怎么算"，不是"怎么用模型做产品"。另外，它讲的是手写实现，规模不会是大模型级别，别指望学完就能训出能打的产品模型。
建议的观看顺序和练法
整体节奏是 Python 基础、数学基础、PyTorch 基础、然后进入模型本身。建议不要按顺序无脑刷完再动手，而是每看完一块就配一次小练习：看完数据类型和容器，就自己写几段处理文本、统计词频的代码；看完矩阵运算，就用代码把矩阵乘法、形状变换手动实现一遍，再和库里的结果对一下。PyTorch 部分要重点练张量操作和自动求导，这是后面手写模型时最常卡住的地方。
进入模型部分后，核心动作是"跟着写一遍，再自己改一遍"。比如把隐藏层维度调小、把训练轮数改少，观察损失怎么变、结果差在哪。这种改动比单纯看视频有用得多，因为它会逼你理解每个参数在干什么。资料里的环境准备部分建议一开始就配好，别拖到后面，否则中途卡环境很打击节奏。
学完能独立做什么
比较现实的目标是：你能独立写出一个结构完整的小型语言模型，包括数据预处理、模型定义、训练循环和简单的生成测试，并且能解释清楚张量形状在每个环节是怎么变化的。遇到报错时，你能根据形状不匹配、维度对不上这类信息自己定位问题，而不是只能搜现成答案。这个能力对转行者来说，是面试里能讲清楚"我做过什么"的底气；对在职的人来说，是之后看懂更复杂模型代码的基础。
最后提醒一句：手写大模型这件事，看会和自己写出来之间差得很远。这门课的价值不在资料本身有多全，而在于它给了一条能走通的路径，剩下的靠你一行行敲出来。
课程目录
* **00 课程介绍/**
* 0 环境准备 (269.14 MB)
* **01 基础知识/**
* 1 Python基础之基本数据类型与基本操作 (137.77 MB)
* 2 Python基础之字符串高级操作 (54.35 MB)
* 3 Python基础之列表高级操作 (236.96 MB)
* 4 Python基础之元组高级操作 (137.61 MB)
* 5 Python基础之字典高级操作 (61.54 MB)
* 6 Python基础之集合高级操作 (43.14 MB)
* 7 Python基础之类和函数 (33.97 MB)
* 8 数学基础之标量 向量 L0L1L2范数 特征向量 (121.21 MB)
* 9 数学基础之矩阵创建 特殊矩阵 矩阵索引 (86.63 MB)
* 10 数学基础之矩阵形状操作 矩阵运算 (98.24 MB)
* 11 PyTorch基础之安装和张量 (63.19 MB)
* 12 数学基础之均值 方差 均匀分布 正态分布 (107.36 MB)
* 13 PyTorch之张量运算和矩阵运算 (80.24 MB)
* 14 PyTorch之矩阵转置和批量乘法 (103.70 MB)
* 15 PyTorch之Dataset和DataLoader (147.07 MB)
* **02 神经网络/**
* 16 神经网络之手写最简单的神经网络模型 (440.79 MB)
* 17 神经网络之Min-Max归一化和Z-Score标准化 (96.86 MB)
* 18 神经网络之Bias偏置 (102.91 MB)
* 19 神经网络之误差函数和梯度下降 (137.66 MB)
* 20 数学基础之导数 偏导 斜率 梯度 链式法则 (330.46 MB)
* 21 神经网络之均方误差MSE SGD Mini-Batch SGD (238.09 MB)
* 22 神经网络之学习率和局部最小值 (162.13 MB)
* 23 PyTorch之自动求导机制 (103.55 MB)
* 24 PyTorch之模型训练经典框架流程 (487.91 MB)
* 25 神经网络之激活函数 Sigmoid 神经元 (348.52 MB)
* 26 PyTorch之手写模拟神经网络 (327.44 MB)
* 27 神经网络之基于矩阵运算理解神经网络工作机制 (363.46 MB)
* 28 神经网络之梯度消失和梯度爆炸 (178.59 MB)
* 29 神经网络之ReLU激活函数 (137.79 MB)
* 30 神经网络之网络结构可视化 (107.62 MB)
* 31 神经网络实战之图像识别-1 (397.48 MB)
* 31 神经网络实战之图像识别-2 (236.08 MB)
* 32 激活函数softmax和交叉熵CrossEntropy损失函数 (394.60 MB)
* 33 评估集 过拟合 欠拟合 Dropout 全连接层 (636.14 MB)
* 34 神经网络实战之股价预测 反归一化-1 (201.01 MB)
* 34 神经网络实战之股价预测 反归一化-2 (334.98 MB)
* 35 神经网络实战之文本分类实战 (647.44 MB)
* 36 （GPU版本）神经网络实战之文本分类实战 (474.51 MB)
* 37 感知机 MLP 前馈神经网络 Dense Layer (319.94 MB)
* 38 神经网络之Adam优化算法 (68.21 MB)
* **03 NLP自然语言处理/**
* 39 NLP之Bag-of-Words词袋模型 (219.26 MB)
* 40 NLP之余弦相似度和点积相似度 (47.43 MB)
* 41 NLP之手写Skip-Gram词向量模型 One-Hot 嵌入层 (813.01 MB)
* 42 NLP之手写CBOW词向量模型 (168.39 MB)
* 43 NLP之Word2Vec总结 (143.59 MB)
* 44 NLP之N-Gram模型实战 (195.52 MB)
* 45 NLP之手写RNN循环神经网络 (301.02 MB)
* 46 NLP之手写RNN文本生成实战 (414.48 MB)
* 47 NLP之温度采样和多项式采样 (98.72 MB)
* 48 NLP之PyTorch版RNN文本生成实战 (468.45 MB)
* 49 NLP之梯度裁剪 (113.30 MB)
* 50 NLP之RNN股价预测实战 (245.01 MB)
* 51 NLP之手写GRU门控循环单元 (142.20 MB)
* 52 NLP之GRU文本生成实战 (56.49 MB)
* 53 NLP之手写LSTM长短期记忆网络 (151.66 MB)
* 54 NLP之LSTM文本生成实战 (128.22 MB)
* 55 NLP之手写Seq2Seq机器翻译实战 (611.24 MB)
* **04 Transformer/**
* 56 Transformer之手写注意力机制 (813.29 MB)
* 57 Transformer之PyTorch实现注意力机制 (78.80 MB)
* 58 Transformer之手写多头注意力机制 (322.79 MB)
* 59 Transformer之手写位置编码机制 (603.48 MB)
* 60 Transformer之手写Encoder 残差连接 层归一化 (366.18 MB)
* 61 Transformer之手写掩码多头注意力机制 (398.34 MB)
* 62 Transformer之手写Decoder Cross注意力机制 (765.59 MB)
* 63 Transformer之手写整个Transformer架构 (500.49 MB)
* 64 Transformer之手写版Transformer机器翻译实战 (592.52 MB)
* 65 Transformer之PyTorch版Transformer机器翻译实战 (259.72 MB)
* 66 Transformer之PyTorch版Transformer古诗生成实战 (73.22 MB)
* **05 语言大模型/**
* 67 大模型之手写BERT模型MLM和NSP数据处理过程 (592.67 MB)
* 68 大模型之手写BERT模型以及预训练过程 (319.77 MB)
* 69 大模型之基于BERT做文本分类实战 (252.32 MB)
* 70 大模型之手写GPT以及预训练GPT实战 (572.56 MB)
* 71 大模型之预训练诗词GPT大模型实战 (652.42 MB)
* 72 大模型之ChineseWebText数据集预训练GPT大模型 (974.78 MB)
* 73 大模型之全量微调一个问答ChatBot (592.04 MB)
* 74 大模型之模型的本地保存和加载 (30.60 MB)
* 75 大模型之LoRA微调Qwen3大模型实战 (390.40 MB)
* 76 大模型之模型的部署和调用 (170.58 MB)
* 77 大模型之HuggingFace预训练大模型实战 (317.26 MB)
* 78 大模型之HuggingFace微调大模型实战 (129.72 MB)
* 79 大模型之LLaMA-Factory微调Qwen3大模型实战 (354.51 MB)
* 80 大模型之LLaMA-Factory微调DeepSeek-R1大模型实战 (101.49 MB)
* 81 DeepSeek之手写推理大模型 (310.51 MB)
* 82 DeepSeek之手写Function Call大模型 (536.02 MB)
* 83 DeepSeek之手写KV-Cache和MLA (185.64 MB)
* 84 DeepSeek之手写GQA MQA (255.48 MB)
* 85 DeepSeek之手写混合专家模型MoE (285.44 MB)
* 86 DeepSeek之模型蒸馏之黑盒蒸馏 (276.29 MB)
* 87 DeepSeek之模型蒸馏之白盒蒸馏 (136.47 MB)
* **06 多模态大模型/**
* 88 多模态之CNN卷积神经网络 (176.81 MB)
* 89 多模态之CNN图像识别实战 (440.95 MB)
* 90 多模态之手写Vision Transformer（ViT） (373.39 MB)
* 91 多模态之Clip模型图文匹配实战 (233.09 MB)
* 92 多模态之手写Clip多模态大模型底层实现 (279.00 MB)
* 93 多模态之手写LLaVA图生文多模态大模型 (412.13 MB)
* 94 多模态之LLAVA图生文多模态大模型实战 (314.80 MB)
* 95 多模态之U-Net模型图像分割实战 (239.18 MB)
* 96 多模态之手写Diffusion Model扩散模型 (589.06 MB)
* 97 多模态之手写Stable Diffusion文生图大模型 (335.85 MB)
* 98 多模态之手写VAE+Stable Diffusion文生图大模型 (393.06 MB)
* 99 前沿拓展之DeepSeek之DSA稀疏注意力机制和闪电索引机制 (315.14 MB)
* 100 前沿拓展之DeepSeek之DeepSeek-OCR模型和光学压缩机制 (332.39 MB)
* **07 强化学习/**
* 101 强化学习之基本介绍以及Q-Learning实战 (349.80 MB)
* 102 强化学习之秘境寻宝游戏实战 (447.44 MB)
* 103 强化学习之DQN算法以及实战 (255.81 MB)
* 104 强化学习之REINFORCE算法以及实战 (500.69 MB)
* 105 强化学习之A2C算法以及实战 (583.28 MB)
* 106 强化学习之PPO算法以及实战 (535.41 MB)
* 107 强化学习之GRPO算法以及实战 (260.29 MB)
* 108 强化学习之GRPO微调Qwen3实战 (369.80 MB)
* **课件资料/**
* mini-gpt.rar (24.66 MB)
* 零基础手写大模型.rar (1.18 MB)
同类课程
和你正在看的这门一个方向
AI慕课网 - AI Agent全栈开发工程师（完整版）
永久有效 · 网盘发货
AI咕泡第五期-AI大模型零基础到商业实战全栈课
永久有效 · 网盘发货
AI黑马26年最新 ai V7.5 线上全套
永久有效 · 网盘发货
AIIT周瑜-AI原生超级全栈开发工程师训练营【第二期】
永久有效 · 网盘发货
AI大漂亮《自媒体影响力变现集训营》
永久有效 · 网盘发货
AIHermes Agent从入门到AI数字员工实战|已完结
永久有效 · 网盘发货