聚客AI大模型工程师第四期

这门课解决什么实际问题

这套课程的核心痛点很明确：企业用大模型，往往卡在三个地方——“模型不够懂业务”、“知识更新跟不上”、“部署成本太高”。课程内容正是针对这三个场景设计的。前半部分聚焦微调，教你如何用 Llama Factory 让开源模型（如 Qwen）适应特定领域；中间部分深入 RAG（检索增强生成），解决模型幻觉和知识滞后问题；后半部分则覆盖推理部署、压缩训练（知识蒸馏）和自动化评估，补齐从开发到落地的最后一公里。它不教你看热闹，而是让你掌握一套可复用的工程化流程。

适合什么基础、建议先看哪几块

这套资料对零基础程序员也不太友好，建议至少具备 Python 基础，了解基本的命令行操作和 Git 使用。如果你完全没接触过 Hugging Face 或 Docker，可以先补一下相关概念。

学习路径建议如下：
1. **入门与环境**：先看完 Hugging Face 核心组件和 Ollama/vLLM 本地部署部分，建立对模型加载和运行的直观认识。
2. **核心技能——微调**：重点攻克 Llama Factory 微调 Qwen 以及自定义数据集构建这两节。这是让通用模型变“专业”的关键步骤。
3. **进阶技能——RAG**：系统学习 Llama Index 的文档切分、Embedding 模型选择、ChromaDB 向量库使用以及重排序策略。这部分是构建企业知识库问答系统的基石。
4. **工程化与落地**：最后梳理推理部署（含量化）、知识蒸馏压缩、OpenCompass 评估以及 DeepSeek 原理，理解如何把模型跑得快、省资源且可评估。

学完能独立做什么、资料怎么配合练习

学完后，你应该能独立搭建一个基于私有知识库的智能问答系统（如法律条文助手），并能对现有开源模型进行微调以适配垂直领域任务。

资料包中的 zip 文件通常是代码工程、配置文件或微调后的模型权重示例，mp4 文件则是讲解视频。建议采取“视频跟讲+代码实操”的模式：
- 每节课先看视频，理解原理和关键命令。
- 然后解压对应的代码 zip，在本地环境复现 demo。
- 对于微调类课程，务必亲手准备一份小规模的自定义数据集，完成从预处理到训练评估的全流程，不要只看讲师跑通。
- 部署类课程要注意显卡显存要求，若本地资源不足，可结合免费 Colab 或云端实例进行尝试，重点理解 vLLM 和 LMDeploy 的使用差异。

这套课程偏工程实战，理论深度适中。如果你目标是成为 AI 应用工程师或大模型算法工程师，这是一个不错的入门到进阶的跳板。