这篇《大模型应用与工程实践》并非面向零基础小白的速成课,而是一套针对具备一定编程基础、旨在将大语言模型能力落地到具体业务场景的工程化教程。课程由马哥主讲,核心目标不是教你“如何使用聊天框”,而是解决“如何构建稳定、可控、可扩展的大模型应用”这一痛点。它直面当前开发中的真实难题:如何有效管理上下文窗口、如何设计高质量的提示词工程(Prompt Engineering)、如何接入向量数据库实现检索增强生成(RAG),以及如何封装 API 接口以支持高并发场景。

**适合人群与前置基础**

这门课适合已经掌握 Python 基础语法,并熟悉线性表、循环控制等数据结构与算法逻辑的开发者。从资料包结构看,课程前段专门设置了“Python 基础”模块,涵盖虚拟环境配置、计算机底层理论、核心语法及内建函数详解。这意味着如果你连 `for` 循环或列表切片都感到陌生,建议先补全这部分基础;若你已熟悉 Python,则可直接跳过大模型前置语法回顾,聚焦于后续的模型应用章节。课程不默认你懂深度学习数学推导,而是侧重于工程实现与代码调优,因此对于希望快速上手 AI 应用开发的转行者或后端工程师,门槛是可控的。

**核心模块与学习路径建议**

建议的学习路径应遵循“基础巩固 -> 模型调用 -> 架构设计 -> 项目实战”的逻辑。首先,确保 Python 基础部分的“线性表原理”与“分支循环”章节吃透,这是处理复杂数据清洗与提示词组装的基石。接着,重点攻克大模型 API 对接部分,学习如何通过 Python 库稳定调用主流大模型服务,理解参数调优(如 temperature、top_p)对输出质量的影响。随后,深入 RAG 架构,学习如何将企业私有文档切片、向量化并存入向量数据库,再结合检索结果增强模型回答的准确性。资料中的视频课与代码文件需配合使用:先看视频理解原理,再手动运行配套代码,故意修改参数观察模型输出变化,通过“试错”来建立对工程细节的直觉。

**学完后的独立能力**

完成本课程后,你应能独立搭建一个基于大模型的垂直领域问答系统。具体能力包括:设计并实现一套完整的 RAG 流水线,能够从非结构化文本中提取有效信息;编写健壮的异常处理机制,防止因 API 限流或网络波动导致服务中断;以及对提示词进行版本管理与自动化测试。你不仅能调用现成的 AI 平台,更能理解底层数据流转过程,从而在面对“模型幻觉”或“回答偏差”时,具备从数据源、检索策略到提示词工程多个维度进行排查与优化的能力。这将使你从单纯的“API 调用者”转变为具备独立架构设计能力的“大模型应用工程师”,在职场中能够主导 AI 功能模块的开发与迭代,解决实际业务中的智能化需求。

课程目录

QQ_1786594285743.png (166.

78 KB,  ) 2026-8-13 12:

13 上传 ├─1-Python基础 │ └─1-Python学习之路 │ 1-Python学习之路..mp4
 │ 2-虚拟环境安装.mp4
 │ 3-计算机基础理论.mp4
 │ 4-语法.mp4
 │ 5-运算符和内建函数.mp4
 │ │ ├─2-Python基础c02线性表 │ ├─1-分支循环 │ │ 1-分支循环.mp4
 │ │ 2-循环和三元表达式.mp4
 │ │ │ └─2-数值和内建函数 │ 1-数值和内建函数.mp4
 │ 2-线性表原理详解.mp4
 │ 3-列表操作和内存模型.mp4
 │ │ ├─3-c02线性表 │ └─1-c02线性表 │ 1-1列表复制原理.mp4
 │ 2-2-Random模块.mp4
 │ 3-3元组.mp4
 │ 4-4字符串构造1-.mp4
 │ 5-5-字符串分割替换移除.mp4
 │ 6-6字符串判断1.mp4
 │ 7-7字符串格式化.mp4
 │ 8-8-编码的本质.mp4
 │ │ ├─4-c02线性表c03哈希表 │ ├─1-c02线性表c03哈希表 │ │ 1-1字节类型.mp4
 │ │ 2-2-切片.mp4
 │ │ 3-3第一章习题-九九乘法表.mp4
 │ │ 4-4-第一章习题-登录.mp4
 │ │ 5-5-第二章习题.mp4
 │ │ │ └─2-c02线性表c03哈希表 │ 1-1-封装和解构.mp4
 │ 2-2-set和哈希表原理.mp4
 │ │ ├─5-c03哈希表c04函数 │ ├─1-1-字典增删改查 │ │ 1-1-字典增删改查.mp4
 │ │ 2-2-遍历和有序性.mp4
 │ │ 3-3-解析式和生成器表达式..mp4
 │ │ │ └─2-函数概念 │ 1-1-函数概念.mp4
 │ │ ├─6-c04函数 │ └─1-c04函数 │ 1-1第三章作业.mp4
 │ 2-2-传实参2种方式.mp4
 │ 3-3-缺省值..mp4
 │ 4-4-可变形参.mp4
 │ 5-5-形参和返回值.mp4
 │ 6-6-作用域和嵌套函数.mp4
 │ 7-7-局部变量赋值和global.mp4
 │ │ ├─7-c04函数 │ └─1-c04函数 │ 1-1-闭包原理.mp4
 │ 2-2-nonlocal和LEGB.mp4
 │ 3-3-匿名函数.mp4
 │ 4-4-生成器函数.mp4
 │ 5-5-排序.mp4
 │ │ ├─8-c04函数 │ └─1-c04函数 │ 1-1函数执行原理.mp4
 │ 2-2-递归函数.mp4
 │ 3-3作业之比较大小.mp4
 │ 4-4-作业上下三角打印.mp4
 │ 5-5-选择排序精讲.mp4
 │ │ ├─9-c05装饰器 │ └─1-c05装饰器 │ 1-1-可迭代对象和内建函数.mp4
 │ 2-2-高阶函数柯里化..mp4
 │ 3-3-无参装饰器.mp4
 │ 4-4-带参装饰器.mp4
 │ 5-5-类型注解和类型检查装饰器.mp4
 │ │ ├─10-c05装饰器c06文件IO和序列化 │ ├─1-c05装饰器c06文件IO和序列化 │ │ 1-1-插入排序.mp4
 │ │ 2-2-functools之reduce和partial.mp4
 │ │ 3-3-functools之lru_cache和cache原理.mp4
 │ │ │ └─2-c05装饰器c06文件IO和序列化 │ 1-1-open方法和主模式.mp4
 │ 2-2-附加模式和指针.mp4
 │ │ ├─11-c06文件IO和序列化 │ └─1-c06文件IO和序列化 │ 1-1-递归作业详解.mp4
 │ 2-2-文件对象读写和迭代.mp4
 │ 3-3-ath模块.mp4
 │ 4-4-Path常用操作.mp4
 │ 5-5-Path操作2.mp4
 │ 6-6-shutil模块使用.mp4
 │ │ ├─12-c06文件IO和序列化 │ └─1-c06文件IO和序列化 │ 1-1-序列化本质和pickle.mp4
 │ 2-2json和msgpack.mp4
 │ 3-3-csv文件处理.mp4
 │ 5-5-正则表达式1.mp4
 │ 6-6-正则表达式2.mp4
 │ │ ├─13-c06文件IO和序列化 │ └─1-c06文件IO和序列化 │ 1-1-复制作业详解.mp4
 │ 2-2-正则习题讲解1.mp4
 │ 3-3-正则习题讲解2.mp4
 │ 4-4-re模块使用.mp4
 │ 5-5-argparse模块使用.mp4
 │ │ ├─14-c07面向对象 │ └─1-c07面向对象 │ 1-1-面向对象概念.mp4
 │ 2-2-类、实例、属性、self.mp4
 │ 3-3-属性本质和属性访问规则.mp4
 │ 4-4-方法、类方法、静态方法原理.mp4
 │ 5-5-访问控制.mp4
 │ │ ├─15-c07面向对象 │ └─1-c07面向对象 │ 1-1-时间模块使用.mp4
 │ 2-2-property装饰器.mp4
 │ 3-3-继承.mp4
 │ 4-4-继承和访问控制.mp4
 │ 5-5-覆盖.mp4
 │ 6-6-初始化原则和多态.mp4
 │ 7-7-多继承和Mixin.mp4
 │ │ ├─16-c07面向对象 │ └─1-c07面向对象 │ 1-1-作业argparse模块使用.mp4
 │ 2-2-高阶函数参数本质.mp4
 │ 3-3-作业温度转换和图形面积.mp4
 │ 4-4-日志层次、级别、根.mp4
 │ 5-5-handler和formatter.mp4
 │ 6-6-日志流.mp4
 │ │ ├─17-c07面向对象c08面向对象进阶 │ ├─1-异常处理 │ │ 1-异常处理.mp4
 │ │ │ └─2-魔术方法之实例化 │ 1-1-魔术方法之实例化.mp4
 │ 2-2-魔术方法之可视化.mp4
 │ 3-3-魔术方法之布尔等效.mp4
 │ 4-4-魔术方法之比较运算符重载.mp4
 │ 5-5-魔术方法之算数运算符重载.mp4
 │ 6-6-魔术方法之容器化.mp4
 │ │ ├─18-c08面向对象进阶 │ └─1-c08面向对象进阶 │ 1-1-魔术方法之可调用对象.mp4
 │ 2-2-魔术方法之上下文管理.mp4
 │ 3-3-魔术方法之反射.mp4
 │ 4-4-模块搜索加载缓存导入和全局变量.mp4
 │ 5-5-魔术方法之哈希.mp4
 │ │ ├─19-c08面向对象进阶 │ └─1-c08面向对象进阶 │ 1-1-包加载原理..mp4
 │ 2-2-绝对导入和相对导入.mp4
 │ 3-3-导入访问控制和__all__..mp4
 │ 4-4-打包分发.mp4
 │ 5-5-树的遍历.mp4
 │ │ ├─25-sklearn神经网络和pytorch │ └─1-sklearn神经网络和pytorch │ 1-sklearn.mp4
 │ 2-神经网络和pytorch.mp4
 │ │ ├─28-RNNLSTMGRU和Transformer ├─30-Transformer模型训练深度解析、各组件的演进、GPU ├─31-模型分布式训练并行策略、通信原语、ZeRO、混合并行、模型训练案例 ├─32-大模型分布训练(ddpfsdp和deepspeed示例)、HuggingFace API及用例、模型微调基础 ├─33-HF API及用例、模型微调工作机制、微调数据集和对话模板、LoRA │ 1-HFAPI及用例模型微调工作机制微调数据集和对话模板.mp4
 │ ├─34-模型微调实践、模型压缩与优化介绍、模型量化工作原理、模型量化实践、模型剪枝和模型蒸馏介绍 │ 1-模型微调实践、模型压缩与优化介绍、模型量化工作原理.mp4
 │ ├─35- 第14节-模型量化及实践案例、模型推理与推理引擎、vLLM组件、架构、工作原理及案例 ├─36- 第15节-SGLang推理引擎、LLM的生产架构及案例 └─37- 第16节-基于LiteLLM-Proxy的生产架构案例、Ray与Ray Cluster、Ray Cluster创建与管理 1-基于LiteLLM-Proxy的生产架构案例、Ray与Ray Cluster、Ray Cluster创建与管理、Ray Serve架构 1-基于LiteLLM-Proxy的生产架构案例、Ray与Ray Cluster、Ra.mp4
 2-Ray Serve架构与工作机制、Ray Server与vLLM集成、Serve.mp4