大模型开发工程师VIP系统课（第四期）视频+课件|聚客

这门课解决什么工作场景

当前大模型应用已从单纯的 API 调用转向垂直领域的深度定制。企业更看重开发者能否针对特定数据优化模型、能否在有限算力下完成私有化部署。本课围绕 HuggingFace 生态展开，覆盖情感分析、文本生成等典型 NLP 任务，重点讲解如何基于真实业务数据对 BERT、GPT-2、Qwen 等模型进行微调与部署。它解决的核心痛点是：你不再只会调用现成接口，而是能独立构建从数据处理、模型训练到本地推理服务上线的完整链路，具备解决微调与部署效果不一致等实际工程问题的能力。

适合什么基础、建议先看哪几块

课程默认你具备 Python 编程基础和深度学习入门知识，熟悉 PyTorch 或 TensorFlow 其中之一。若你是零基础入门，建议先补充 Transformer 基础原理和 PyTorch 张量操作知识。学习路径上，建议先完成开班典礼后的 HuggingFace 核心组件介绍，建立对 Dataset、Tokenizer、Model 等概念的直观理解。随后进入“基于 BERT 的中文评价情感分析”和“GPT-2 中文生成模型定制化”两节实现篇，动手跑通完整的训练流程，这是理解后续内容的关键。掌握基础后，再切入本地私有化部署（Ollama/vLLM/LMDeploy）和大模型微调部分。其中 LLama Factory 的使用、自定义数据集构建、QLora 微调以及 GGUF 转换是课程难点，需反复练习。最后关于分布式训练和微调与 vllm 部署效果不一致问题的章节，适合有一定实战经验后深入研读，用于解决生产环境中的典型 bug。

学完能独立做什么、资料怎么配合练习

完成全部课程后，你将能够：在本地环境基于 HuggingFace 框架独立完成中文 NLP 任务的模型训练与评估；使用 LLama Factory 对开源大模型进行参数高效微调；将微调后的模型转换为 GGUF 格式并在本地进行高效推理部署；排查和解决微调结果与推理服务输出不一致的工程问题。学习资料配合方面，课件材料用于梳理理论框架、超参数设置和配置细节，视频讲解侧重实操演示和命令解读。建议边看视频边在本地环境复现代码，尤其是微调实验部分，必须亲自跑通训练曲线、验证集评估和推理结果。遇到部署一致性问题时，结合课件中的原理说明对照排查日志，理解量化转换和推理引擎差异带来的影响。不要只看不练，代码复现率建议达到 80% 以上才能确保技能内化。