人工精选LLM开发工程师入行实战--从0到1开发轻量化私有大模型
这门课的名字里有两个关键词容易被误读:一是「入行」,二是「轻量化私有」。它真正要解决的不是让你背熟大模型原理,而是让你能在自己的机器或公司内网环境里,把一个能跑、能改、能对外提供服务的模型做出来。很多上班族卡在的地方很具体:公司要求数据不出内网,但团队没人从零搭过;或者你想转行做 LLM 应用,简历
会员 · 按档位
游客按标价购买,不享受上表折扣。
支付成功后自动发放网盘链接,链接失效可找客服免费补
这门课的名字里有两个关键词容易被误读:一是「入行」,二是「轻量化私有」。它真正要解决的不是让你背熟大模型原理,而是让你能在自己的机器或公司内网环境里,把一个能跑、能改、能对外提供服务的模型做出来。很多上班族卡在的地方很具体:公司要求数据不出内网,但团队没人从零搭过;或者你想转行做 LLM 应用,简历上却只有调 API 的经验,说不清模型内部发生了什么。这门课就是冲这两个场景去的。
它适合什么基础,不适合什么基础
如果你完全没写过代码,课程前半段安排了 Python 基础和第一个手写数字识别模型,可以跟着走,但节奏不会特别慢,需要你愿意在课外补练习。如果你已经会 Python、用过 PyTorch 或做过传统机器学习,前几章可以快速扫过,重点放在后面的分词、注意力、Transformer 和微调部分。需要提醒的是:这门课不承诺帮你拿到 offer,也不保证学完就能做大模型训练工程师。它的定位是让你具备独立完成一个轻量级私有模型开发闭环的能力,而不是替代科班训练或大规模分布式训练经验。
建议先看哪几块,顺序怎么排
不要从第一章顺着往下刷。建议先跳到开发环境搭建和 GPT-2 训练那两章,把环境跑通、看到 loss 下降,先建立「我能跑起来」的确定感。然后回头补 Python 与深度学习核心,把张量、梯度、优化器这些概念落到代码上。接着进入文本与分词、注意力机制、Transformer 架构三章,这是全课最硬的部分,也是面试和实际改模型时最常被问到的。最后看模型微调与文本分类、知识蒸馏、减少模型幻觉,以及 Agent 与 MCP 那部分,这几块直接对应工作里「让模型按我的数据说话、按我的流程办事」的需求。数据爬取与清洗可以穿插着看,它是你后续做私有数据集的弹药来源。
学完能独立做什么,资料怎么配合练
比较现实的目标是:你能自己搭一套本地开发环境,用 HuggingFace 加载并微调一个小规模模型,完成文本分类或对话任务;能解释注意力机制和 Transformer 在代码层面怎么实现;能通过知识蒸馏压缩模型体积,并针对幻觉问题做一些工程上的约束;能理解 Agent 与 MCP 的协作方式,把语言模型接到具体工具上。资料里的代码和数据集建议不要只读,每看完一章就动手改一个参数或换一份数据,比如把分类任务换成你自己的业务文本。遇到报错先自己查,再对照资料里的实现,这个过程比看完所有视频更有用。如果你时间有限,优先保证环境搭建、微调、蒸馏和幻觉处理这四块动手做完,其余章节理解思路即可。
课程目录
课程目录189 集
- 01 第1章 LLM大模型工程师入门实战--课程导学 01 1-1 LLM开发工程师入门实战-课程导学.mp4
- 02 第2章 千里之行,始于足下:初识大语言模型 01 2-1 开启你的AI智慧之旅-本章导学.mp4
- 02 2-2 开启你的AI智慧之旅-初识大语言模型.mp4
- 03 2-3 开启你的AI智慧之旅-大语言模型擅长的事儿.mp4
- 04 2-4 开启你的AI智慧之旅-大语言模型的诞生过程.mp4
- 05 2-5 开启你的AI智慧之旅-从0到1构建大语言模型的意义.mp4
- 06 2-6 开启你的AI智慧之旅-大语言模型的局限性与挑战.mp4
- 07 2-7 开启你的AI智慧之旅-大语言模型的未来展望.mp4
- 03 第3章 工欲善其事,必先利其器:开发环境的搭建 01 3-1 开发环境搭建-导学.mp4
- 02 3-2 开发环境搭建-MiniConda安装与使用.mp4
- 03 3-3 开发环境搭建-使用pip命令安装依赖包.mp4
- 04 3-4 开发环境搭建-VsCode的配置.mp4
- 05 3-5 开发环境搭建-手攒超级计算机-硬件(自己够买硬件者选看).mp4
- 06 3-6 开发环境搭建-Nvidia与CUDA关系及Linux下Nvidia驱动的安装(Linux下搭建环境者选看).mp4
- 07 3-7 开发环境搭建-Windows下Nvidia驱动的安装(Windows下搭建环境者选看).mp4
- 08 3-8 开发环境搭建-使用Docker搭建环境一(需要Docker搭建环境者选看).mp4
- 09 3-9 打开发环境搭建-使用Docker搭建环境二(需要Docker搭建环境者选看).mp4
- 10 3-10 开发环境搭建-申请阿里云的免费GPU和CPU资源(想使用阿里云服务者选看).mp4
- 11 3-11 开发环境搭建-申请Kaggle的免费GPU和CPU资源(想使用Kaggle且有科学上网工具者选看).mp4
- 12 3-12 开发环境搭建-申请Google的免费GPU和CPU资源(想使用Google云且有科学上网工具者选看).mp4
- 04 第4章 牛刀小试:使用HuggingFace训练GPT-2 01 4-1 使用HuggingFace训练GPT2-导学.mp4
- 02 4-2 HuggingFace简介.mp4
- 03 4-3 使用HuggingFace训练GPT2-基本步骤.mp4
- 04 4-4 使用HuggingFace训练GPT2-全流程体验(后面会详解).mp4
- 05 4-5 使用HuggingFace训练GPT2-详解group_text的实现.mp4
- 06 4-6 使用HuggingFace训练GPT2-详解generate_text的实现.mp4
- 05 第5章 提高学习效率:驾驭LLM的对话艺术与工具 (初学AI者选看) 01 5-1 提高工作效率-导学.mp4
- 02 5-2 提高工作效率工具-通义灵码与小浣熊.mp4
- 03 5-3 提高工作效率工具-Copilot.mp4
- 04 5-4 大语言模型助手-Kimi.mp4
- 05 5-5 大语言模型助手-NewBing.mp4
- 06 5-6 大语言模型助手-Gemini.mp4
- 07 5-7 大语言模型助手-Poe.mp4
- 08 5-8 大语言模型提示词(一).mp4
- 09 5-9 大语言模型提示词(二).mp4
- 10 5-10 大语言模型提示词(三).mp4
- 11 5-11 大语言模型提示词(四).mp4
- 12 5-12 大语言模型提示词(五).mp4
- 13 5-13 本章小结.mp4
- 06 第6章 必知必会的基础知识:Python语言基础 (没有Pytorh基础者选看) 01 6-1 Python语言基础知识-导学.mp4
- 02 6-2 Python语言基础知识-变量的定义与使用.mp4
- 03 6-3 Python语言基础知识-逻辑判断与优先级.mp4
- 04 6-4 Python语言基础知识-循环.mp4
- 05 6-5 Python语言基础知识-函数的定义与使用.mp4
- 06 6-6 Python语言基础知识-类与对象.mp4
- 07 6-7 Python语言基础知识-四种复合类型.mp4
- 08 6-8 Python语言基础知识-可变变量与不可变变量.mp4
- 09 6-9 Python语言基础知识-特有技术切片.mp4
- 10 6-10 Python语言基础知识-其它特有技术.mp4
- 11 6-11 Pythony语言基础知识-NumPy库的使用.mp4
- 12 6-12 Python语言基础知识-MatPlotLib库的使用.mp4
- 13 6-13 Python语言基础知识-本章小结.mp4
- 07 第7章 深度学习核心入门:洞悉AI的学习之道 (无深度学习经验者选看) 01 7-1 深度学习核心入门-导学.mp4
- 02 7-2 深度学习核心入门-人工智能、机器学习与深度学习的关系.mp4
- 03 7-3 深度学习核心入门-神经元与神经网络.mp4
- 04 7-4 深度学习核心入门-监督学习与无监督学习.mp4
- 05 7-5 深度学习核心入门-数据集的划分.mp4
- 06 7-6 深度学习核心入门-过拟合、欠拟合与代价函数.mp4
- 07 7-7 深度学习核心入门-代价函数的意义.mp4
- 08 7-8 深度学习核心入门-梯度下降.mp4
- 09 7-9 深度学习核心入门-线性回归代价函数的导数.mp4
- 10 7-10 深度学习核心入门-学习率.mp4
- 11 7-11 深度学习核心入门-逻辑回归.mp4
- 12 7-12 深度学习核心入门-sigmoid激活函数.mp4
- 13 7-13 深度学习必备的基础知识-逻辑回归的代价函数.mp4
- 14 7-14 深度学习必备的基础知识-逻辑回归的梯度下降.mp4
- 15 7-15 深度学习必备的基础知识-逻辑回归代价函数关于w和b偏导后的公式证明.mp4
- 16 7-16 深度学习必备的基础知识-深度神经网络与前向传播.mp4
- 17 7-17 深度学习必备的基础知识-多种激活函数.mp4
- 18 7-18 深度学习必备的基础知识-反向传播与计算图.mp4
- 19 7-19 深度学习必备的基础知识-前向传播与反向传播的完整过程.mp4
- 08 第8章 掌握“炼丹术”:优化深度学习训练参数 (无深度学习经验者选看) 01 8-1 优化深度学习训练参数-导学.mp4
- 02 8-2 深度神经网络参数优化-向量化与矩阵化.mp4
- 03 8-3 深度神经网络参数优化-L2正则化.mp4
- 04 8-4 深度神经网络参数优化-Dropout.mp4
- 05 8-5 深度神经网络参数优化-数据归一化处理.mp4
- 06 8-6 深度神经网络参数优化-初始化权重参数.mp4
- 07 8-7 深度神经网络参数优化-全批量梯度下降.mp4
- 08 8-8 深度神经网络参数优化-随机梯度下降与小批量梯度下降.mp4
- 09 8-9 深度神经网络参数优化-梯度参数调优.mp4
- 10 8-10 深度神经网络参数优化-BatchNormalization.mp4
- 09 第9章 【实战】手写字识别:第一个AI模型诞生记 (无深度学习经验者选看) 01 9-1 [实战]手写字识别-导学.mp4
- 02 9-2 [实战]手写字识别- Pytorch的一点历史.mp4
- 03 9-3 [实战]手写字识别-Pytorch加载数据集.mp4
- 04 9-4 [实战]手写字识别-Pytorch导入训练数据和测试数据.mp4
- 05 9-5 [实战]手写字识别-构建手写字神经网络.mp4
- 06 9-6 [实战]手写字识别-Pytorch实现训练逻辑代码.mp4
- 07 9-7 [实战]手写字识别-Pytorch实现评估神经逻辑代码.mp4
- 08 9-8 [实战]手写字识别-Pytorch训练和评估神经网络.mp4
- 09 9-9 [实战]手写字识别-模型的保存部署与使用.mp4
- 10 9-10 [实战]手写字识别-训练参数调优.mp4
- 10 第10章 【实战】数据爬取与清洗:为大模型“备粮草” 01 10-1 [实战]数据与爬虫-导学.mp4
- 02 10-2 [实战]数据与爬虫-大语言模型的食谱.mp4
- 03 10-3 [实战]数据与爬虫-实现网络爬虫(一).mp4
- 04 10-4 [实战]数据与爬虫-实现网络爬虫(二).mp4
- 05 10-5 [实战]数据与爬虫-实现网络爬虫(三).mp4
- 06 10-6 [实战]数据与爬虫-实现网络爬虫(四).mp4
- 07 10-7 [实战]数据与爬虫-清洗数据(一).mp4
- 08 10-8 [实战]数据与爬虫-清洗数据(二).mp4
- 09 10-9 [实战]数据与爬虫-清洗数据(三).mp4
- 10 10-10 [实战]数据与爬虫-小结.mp4
- 11 第11章 让机器读懂文本:文本与分词艺术 01 11-1 文本与分词艺术-导学.mp4
- 02 11-2 文本与分词艺术-文本向量化的完整过程.mp4
- 03 11-3 文本与分词艺术-文本分词.mp4
- 04 11-4 文本与分词艺术-构造文本字典.mp4
- 05 11-5 文本与分词艺术-实现Tokenizer类.mp4
- 06 11-6 文本与分词艺术-文本转TokenID.mp4
- 07 11-7 文本与分词艺术-TokenID转文本.mp4
- 08 11-8 文本与分词艺术-基于统计的分词技术.mp4
- 09 11-9 文本与分词艺术-GPT-tiktoken分词器.mp4
- 10 11-10 文本与分词艺术-文本向量化(Embedding).mp4
- 11 11-11 文本与分词艺术-实战TokenID转向量.mp4
- 12 11-12 文本与分词艺术-本章小结.mp4
- 12 第12章 画龙点睛:注意力机制的奥秘 01 12-1 注意力机制-导学.mp4
- 02 12-2 注意力机制-什么是注意力机制.mp4
- 03 12-3 注意力机制-三个关键元素QKV.mp4
- 04 12-4 注意力机制-注意力机制与自注意力机制的区别.mp4
- 05 12-5 注意力机制-注意力分数.mp4
- 06 12-6 注意力机制-缩放因子.mp4
- 07 12-7 注意力机制-实现注意力机制的具体过程.mp4
- 08 12-8 注意力机制-注意力机制的矩阵化.mp4
- 09 12-9 注意力机制-代码实现.mp4
- 13 第13章 石破天惊:Transformer架构的革命 01 13-1 Transformer架构-Transformer整体结构.mp4
- 02 13-2 Transformer架构-词嵌入(Embedding).mp4
- 03 13-3 Transformer架构-位置编码.mp4
- 04 13-4 Transformer架构-多头注意力机制.mp4
- 05 13-5 Transformer架构-编解码器中的残差网络与层归一化.mp4
- 06 13-6 Transformer架构-掩码注意力机制.mp4
- 07 13-7 Transformer架构-解码器.mp4
- 14 第14章 麻雀虽小,五脏俱全:实现‘迷你’版大语言模型 01 14-1 迷你GPT-导学.mp4
- 02 14-2 迷你GPT-GPT架构.mp4
- 03 14-3 迷你GPT-GPT中的位置编码.mp4
- 04 14-4 迷你GPT-实现GPT骨架(一).mp4
- 05 14-5 实现GPT-迷你GPT骨架(二).mp4
- 06 14-6 迷你GPT-实现自注意力机制(一).mp4
- 07 14-7 迷你GPT-实现自注意力机制(二).mp4
- 08 14-8 迷你GPT-实现掩码注意力机制(一).mp4
- 09 14-9 迷你GPT-实现掩码注意力机制(二).mp4
- 10 14-10 迷你GPT-实现多头注意力机制.mp4
- 11 14-11 迷你GPT-实现层归一化.mp4
- 12 14-12 迷你GPT-实现GELU激活函数与前馈网络.mp4
- 13 14-13 迷你GPT-残差与TransformerBlock.mp4
- 14 14-14 迷你GPT-测试GPTModel.mp4
- 15 14-15 迷你GPT-生成文本(一).mp4
- 16 14-16 迷你GPT-生成文本(二).mp4
- 17 14-17 迷你GPT-生成文本(三).mp4
- 18 14-18 迷你GPT-文本评估.mp4
- 19 14-19 迷你GPT-交叉熵损失函数.mp4
- 20 14-20 迷你GPT-创建并加载数据集(一).mp4
- 21 14-21 迷你GPT-创建并加载数据集(二).mp4
- 22 14-22 迷你GPT-实现模型.mp4
- 23 14-23 -迷你GPT-评估模型.mp4
- 24 14-24 迷你GPT-开始训练.mp4
- 25 14-25 迷你GPT-优化输出(一).mp4
- 26 14-26 迷你GPT-优化输出(二).mp4
- 27 14-27 迷你GPT-保存并加载训练好的模型.mp4
- 15 第15章 模型微调与文本分类:让通用模型变身专家 01 15-1 微调模型-导学.mp4
- 02 15-2 微调模型-获得高质量的训练数据.mp4
- 03 15-3 微调模型-构造Dataset.mp4
- 04 15-4 微调模型-创建DataLoader(一).mp4
- 05 15-5 微调模型-创建Dataloader(二).mp4
- 06 15-6 微调模型-加载GPT2预训练模型(一).mp4
- 07 15-7 微调模型-加载GPT2预训练模型(二).mp4
- 08 15-8 微调模型-指令微调(一).mp4
- 09 15-9 微调模型-指令微调(二).mp4
- 10 15-10 微调模型-绘制损失趋势图.mp4
- 11 15-11 微调模型-为模型评分(一).mp4
- 12 15-12 微调模型-为模型评分(二).mp4
- 13 15-13 微调模型-LoRA(一).mp4
- 14 15-14 微调模型-LoRA(二).mp4
- 16 第16章 知识蒸馏:智慧的浓缩与传承 01 16-1 知识蒸馏-导学.mp4
- 02 16-2 知识蒸馏-获取思维链蒸馏数据(一).mp4
- 03 16-3 知识蒸馏-获取思维链蒸馏数据(二).mp4
- 04 16-4 知识蒸馏-清洗错误数据.mp4
- 05 16-5 知识蒸馏-黑盒思维链蒸馏.mp4
- 06 16-6 知识蒸馏-白盒知识蒸馏.mp4
- 17 第17章 减少模型幻觉:为LLM插上RAG的“记忆”之翼 01 17-1 减少模型幻觉-RAG技术导学.mp4
- 02 17-2 减少模型幻觉-RAG工作原理.mp4
- 03 17-3 减少模型幻觉-RAG实现(一).mp4
- 04 17-4 减少模型幻觉-RAG实现(二).mp4
- 18 第18章 Agent与MCP:从语言到行动的终极进化 01 18-1 Agent与MCP-导学.mp4
- 02 18-2 Agent与MCP-Agent工作原理.mp4
- 03 18-3 Agent与MCP-Agent常见模式.mp4
- 04 18-4 Agent与MCP-Agent调用工具(一).mp4
- 05 18-5 Agent与MCP-Agent调用工具(二).mp4
- 06 18-6 Agent与MCP-Agent调用工具(三).mp4
- 07 18-7 Agent与MCP-记忆与上下文工程.mp4
- 08 18-8 Agent与MCP-实现一个Agent.mp4
- 19 第19章 LLM大模型工程师入门实战--课程总结 01 19-1 课程总结.mp4





