这门课解决什么问题
这门课主要针对想要深入了解大模型和Agent开发的读者，特别是在测试运维领域，希望掌握大模型和Agent开发实战技能的人士。课程内容涵盖了分布式架构、模型部署、微调技术及多模态模型的开发应用。通过学习，读者可以掌握从零开始搭建大模型系统的方法，以及如何高效地进行模型部署和优化。
适合什么基础
课程适合有一定编程基础的读者，特别是那些对大模型和Agent开发感兴趣的测试运维工程师或AI爱好者。如果你已经熟悉Python编程语言，并且对机器学习有一定了解，那么这门课程非常适合你。课程中会涉及到一些高级技术，因此建议有一定的理论基础和实践经验。
建议先看哪几块
建议先从以下几个部分开始学习：
- 整体架构与分布式基础概念：这部分介绍大模型的分布式架构，对后续内容的理解非常重要。
- 分布式嵌入层与投影层：这部分内容有助于理解大模型中的关键技术，为后续的微调和部署打下基础。
- ChatGLM3-6B系列教程：从基础介绍到实际部署，系统地学习大模型的安装、部署和使用。
学完能独立做什么
学完这门课程后，你将能够独立完成以下工作：
- 搭建并部署大模型系统，包括分布式架构的设计与实施。
- 进行大模型的微调和优化，提升模型的性能。
- 部署并使用多模态模型，实现复杂的AI任务。
资料怎么配合练习
课程资料配合实际操作练习，建议按照以下步骤进行：
- 观看整体架构与分布式基础概念的视频，理解大模型的基本架构。
- 学习分布式嵌入层与投影层的内容，动手实践相关代码。
- 通过ChatGLM3-6B的教程，从开始到结束完整地部署一个大模型，提升实际操作能力。
- 结合课程中的微调和优化技术，尝试对不同模型进行微调，观察效果差异。
- 学习多模态模型的部署方法，实践多模态应用开发。
通过以上步骤的学习和实践，你将能够扎实掌握大模型和Agent开发的全方位技能，为职业发展增添新的技能点。
课程目录
大模型与Agent开发实战【新课】 【DeepSeekv3】1 整体架构与分布式基础概念.mp4
145.32M 【DeepSeekv3】2 分布式嵌入层与投影层.mp4
154.55M 【DeepSeekv3】3 MLA潜在注意力 (1) 从自回归掩码看KV缓存机制.mp4
99.34M 【DeepSeekv3】4 MLA潜在注意力 (2) 针对KV缓存的改进.mp4
94.22M 【DeepSeekv3】5 DeepSeekMOE的MOE架构与创新.mp4
165.81M Cursor&Coder高效低代码开发办法.ts 90.15M Glm-Edge-v-5B模型介绍与本地部署.ts 35.57M Marco-o1模型介绍与本地部署.ts 224.78M Ollama最新版本保姆级指南.ts 185.78M Ollama最新版本启动多模态模型Llama3.2Vision全流程[Linux环境].ts 128.47M Qwen2--5Coder：32B基本介绍和测试.ts 196.80M Qwen2--5Coder本地部署使用全流程.ts 178.05M Qwen2VL多模态模型参数介绍&部署使用全流程.ts 96.15M 【ChatGLM3-6B】01_Ubuntu双系统安装.MP4
199.67M 【ChatGLM3-6B】02_Ubuntu环境下ChatGLM3-6b命令行安装办法.MP4
182.70M 【ChatGLM3-6B】03_服务器环境下部署ChatGLM3-6b.ts 163.22M 【ChatGLM3-6B】04_ChatGLM3-6b的多种启动方法.ts 99.69M 【ChatGLM3-6B】05_AutoDL快速部署ChatGLM3-6b办法.ts 64.49M 【ChatGLM3-6B】06_Git方法简洁下载ChatGLM3-6b.ts 62.11M 【ChatGLM3-6B】07_以ChatGLM3-6b为例的大模型更新办法.ts 50.20M 【ChatGLM3-6B】08_单机多卡启动大模型办法.ts 110.06M 【ChatGLM3-6B】09_LoRA原理浅析.ts 160.74M 【ChatGLM3-6B】10_LoRA微调实战训练.ts 142.19M 【ChatGLM3-6B】11_DeepSpeed原理浅析.ts 141.66M 【ChatGLM3-6B】12_PEFT高效微调原理浅析.ts 259.61M 【ChatGLM3-6B】13_P-Tuning V2微调实战.ts 95.07M 【ChatGLM3-6B】14_LangChian体系详解.ts 188.17M 【ChatGLM3-6B】15_LangChain0.3安装部署与调用方法.ts 157.51M 【Cursor】调用QWQ实现辅助编程--调用本地模型全流程.ts 70.06M 【Cursor】在Windows环境下调用QWQ线上API实现辅助编程方法.ts 31.56M 【GLM4-9B】01_模型基本介绍.ts 53.53M 【GLM4-9B】02_安装部署流程展示.ts 87.73M 【GLM4-9B】03_多种启动方式流程展示.ts 115.54M 【GLM4-9B】04_vLLM介绍和部署应用.ts 167.28M 【GLM4-9B】05_WSL部署流程.ts 55.51M 【GLM4-Voice】01_模型基本介绍.ts 105.80M 【GLM4-Voice】02_多模态与AGI技术展望.ts 75.44M 【GLM4-Voice】03_本地化部署流程.ts 108.19M 【GLM4-Voice】04_线上部署流程.ts 100.82M 【GLM4-Voice】05_开源大模型比拼-排行榜介绍.ts 121.60M 【Llama.cpp】以Qwen2.5为例实现量化模型启动与API调用.ts 99.79M 【Llama.cpp】以Qwen2VL为例实现GGUF模型量化与调用办法.ts 44.25M 【Llama3.1】01_Llama家族系列模型生态介绍.ts 125.39M 【Llama3.1】02_线上体验办法.ts 42.88M 【Llama3.1】03_技术论文解读.ts 167.28M 【Llama3.1】04_官网以及Ollama部署流程.ts 160.78M 【Llama3.1】05_ModelScope线上部署.ts 92.32M 【Llama3.1】06_ModelScope本地部署.ts 63.14M 【Llama3.1】07_LlamaFactory中文能力微调实例.ts 172.41M 【Llama3.2】01_基本介绍与线上测试办法.ts 64.71M 【Llama3.2】02_官网下载流程.ts 62.30M 【Llama3.2】03_Ollama在Linux和Windows部署方法.ts 48.99M 【Qwen2.5Coder&Math】01_Coder介绍.ts 96.63M 【Qwen2.5Coder&Math】02_Math介绍.ts 35.79M 【Qwen2.5Coder&Math】03_Coder技术文章分析.ts 82.58M 【Qwen2.5Coder&Math】04_Math技术文章分析.ts 22.71M 【Qwen2.5Coder&Math】05_Math线上体验.ts 27.62M 【Qwen2.5Coder&Math】06_Coder本地部署推理流程.ts 91.02M 【Qwen2.5Coder&Math】07_vLLM推理Coder流程.ts 41.40M 【Qwen2.5Coder&Math】08_Ollama推理Coder流程.ts 32.06M 【Qwen2.5Coder&Math】09_线上部署推理Coder流程.ts 92.41M 【Qwen2.5Coder&Math】10_Math部署流程.ts 13.88M 【Qwen2.5】01_基本介绍与线上体验办法.ts 98.71M 【Qwen2.5】02_ModelScope本地化部署流程.ts 82.59M 【Qwen2.5】03_ModelScope线上部署办法.ts 41.25M 【Qwen2.5】04_Ollama框架部署流程.ts 43.74M 【Qwen2.5】05_在Windows系统中使用Ollama框架部署流程.ts 26.25M 【Qwen2.5】06_vLLM部署与调用流程.ts 124.28M 在Windows环境下使用Ollama启动多模态模型llama3.2Vision全流程.ts 50.29M Ch 1.1 通用模型发展与微调前景.ts 141.19M Ch 1.2 微调与其他技术的区别和关联.ts 102.06M Ch 1.3 微调步骤及技术栈.ts 89.86M Ch 1.4 高效微调及范围.ts 205.59M Ch 1.5 强化学习RHLF介绍.ts 80.90M Ch 1.6 主流微调框架.ts 81.72M Ch 2.1 Lora原理详解.ts 173.76M Ch 2.2 LLama_factory 介绍.ts 103.36M Ch 2.3 LLama_factory 安装部署及验证.ts 93.84M Ch 2.4 实战Qwen2.5微调.ts 141.37M
