解决大模型落地痛点：从训练到私有化部署的实战闭环

后端开发人员常面临一个尴尬局面：懂 Python 能写脚本，但面对大模型时，只会调用现成的 API。本课程直击这一痛点，不讲纯理论，而是通过 HuggingFace 生态，手把手教你如何利用 Bert 和 GPT2 修改源码，针对中文场景（如电商评价、文案生成）定制化训练模型。更重要的是，它解决了企业最关心的安全问题——通过 Ollama、vLLM 和 LMDeploy 的实战演示，教你如何将大模型在本地服务器上私有化部署，让数据不出域，同时掌握 QLoRA、知识蒸馏及分布式训练技术，让模型更小、更快、更稳。

适合具备基础 Python 能力的开发者

课程内容具有明确的门槛设定。如果你是零基础小白，建议先花时间补齐 Python 语法和机器学习基础，否则在跟随 Bert 和 GPT2 训练环节时会感到吃力。本课程更适合有一定后端开发经验，想将 AI 能力集成到自家系统中的程序员。资料包中提供的训练与实现分篇结构（如 day02 训练篇与 day03 实现篇），要求学习者具备较好的代码阅读能力，能独立完成从数据清洗、模型配置到推理部署的全流程操作。

独立构建企业级 AI 能力的路径

学完本课程，你不再只是 API 调用者，而是能独立完成“模型定制+私有化部署”的技术专家。建议先看 HuggingFace 核心组件介绍，理解底层逻辑，再依次攻克 Bert 情感分析、GPT2 生成定制、Llama Factory 微调及 vLLM 部署。配合资料包中的 zip 压缩包进行本地复现，重点掌握如何解决微调效果与部署效果不一致、分布式训练等进阶问题。最终目标是能根据业务需求，搭建出一套安全、高效的本地化大模型服务。

课程目录

001开班典礼 00-开班典礼.mp4
 468.46M 【聚客AI】AI大模型应用技术2025 - V1.0(1).pdf
 208.57kb 01-HuggingFace核心组件介绍 01-HuggingFace核心组件介绍.mp4
 802.57M day01_HuggingFace核心组件介绍.zip
 1.06G 02-基于Bert的中文评价情感分析（训练篇） day02_基于Bert的中文评价情感分析（训练篇）.zip
 370.99M 基于Bert的中文评价情感分析.mp4
 626.94M 03-基于Bert的中文评价情感分析（实现篇） day03_基于Bert的中文评价情感分析（实现篇）.zip
 370.83M _基于Bert的中文评价情感分析-实现.mp4
 522.12M 04-GPT2-中文生成模型定制化（训练篇） 04-GPT2-中文生成模型定制化（训练篇）.zip
 1.81G GPT2-中文生成模型定制化_训练篇.mp4
 625.69M 05-GPT2-中文生成模型定制化 day05学习附件.zip
 361.80M GPT2-中文生成模型定制化.mp4
 1.10G 06-本地私有化部署大模型（Ollama&vLLM&LMDeploy day06_本地私有化部署大模型.zip
 453.56kb 本地私有化部署大模型.mp4
 1.15G 07-大模型微调（使用LLama Factory微调Qwen） day07_大模型微调（使用LLama Factory微调Qwen）.zip
 19.40M 大模型微调.mp4
 1.06G 08-大模型微调（LLama Factory自定义微调数据集） day08_大模型微调（LLama Factory自定义微调数据集）.zip
 1.03M 大模型微调.mp4
 1.43G 09-大模型微调（QLora微调&GGUF模型转换） day09_大模型微调（QLora微调&GGUF模型转换）.zip
 1.09M 视频.mp4
 1.17G 10-大模型微调（LLamaFactory微调效果与vllm部署效果不一致如何解决） day10_大模型微调（LLamaFactory微调效果与vllm部署效果不一致如何解决）.zip
 630.38kb day_10视频.mp4
 1.26G 11-大模型微调分布式训练（LLama Factory与Xtuner分布式微调大模型） day11.mp4
 1.30G day11_大模型微调分布式训练（LLama Factory与Xtuner分布式微调大模型）.zip
 1.09M 12-大模型压缩训练（知识蒸馏） day12_大模型压缩训练（知识蒸馏）.zip
 927.37kb day_12.mp4
 1.23G 13-大模型推理部署（分布式推理与量化部署） day13.mp4
 1.26G day13_大模型推理部署（分布式推理与量化部署）.zip
 3.96M 14-大模型评估测试（OpenCompass） day14.mp4
 1.40G day14_大模型评估测试（OpenCompass）.zip
 453.21kb 15-大模型微调项目实战（情绪对话模型-数据工程篇） day15.mp4
 853.83M day15_大模型微调项目实战（情绪对话模型-数据工程篇）.zip
 719.41M 16-大模型微调项目实战（情绪对话模型-最终效果） day16.mp4
 1.19G day16_大模型微调项目实战（情绪对话模型-最终效果）.zip
 839.11M 17-Llamaindex快速构建RAG day17.mp4
 1.49G day17_Llamaindex快速构建RAG.zip
 362.07M 18-Llama_indexRAG进阶_Embedding_model与Chroma day18.mp4
 884.48M day18_Llama_indexRAG进阶_Embedding_model与ChromaDB.zip
 1.44M 19-Llama_indexRAG进阶_文档切分与重排序 day19.mp4
 1.29G day19_Llama_indexRAG进阶_文档切分与重排序.zip
 817.55kb 20-Dify实现RAG day20.mp4
 768.48M day20_Dify实现RAG.zip
 2.46M 21-RAGFlow day21.mp4
 1.03G day21_RAGFlow.zip
 3.44M 22-基于RAG的法律条文智能助手（方案篇） day22.mp4
 1.22G day22_基于RAG的法律条文智能助手（方案篇）.zip
 742.12kb 23-基于RAG的法律条文智能助手-实现与部署 day23.mp4
 1.85G day23_基于RAG的法律条文智能助手-实现与部署.zip
 1.29M 24-基于RAG的法律条文智能助手-微调与部署 day24.mp4
 1.19G day24_基于RAG的法律条文智能助手-微调与部署.zip
 1.23M 25-Dify构建Agent day25.mp4
 872.81M 【课件】Agent 智能体应用（Dify构建Agent）.zip
 4.08M 26-LangGraph构建多智能体 day26.mp4
 1.11G