这门课解决什么问题：从“调过API”到“能微调部署”

很多上班族和转行者在面对大模型时，往往停留在调用现成接口的阶段。一旦业务场景需要私有化部署、特定领域知识注入，或者要求在消费级显卡上跑开源模型，就会卡壳。这门课针对的就是这个断层。它不教怎么写提示词，也不讲泛泛的AI趋势，而是直接聚焦开源大模型（如LLaMA系列、ChatGLM系列）的基座原理、数据处理与微调。如果你在工作中需要把开源模型变成能解决具体业务问题的专属模型，比如让模型学会你们公司的产品文档，或者适应特定的对话风格，这门课提供的就是这条落地路径上必需的硬技能。

适合什么基础与建议学习顺序

这门资料不适合零基础。读者需要具备Python编程能力，对PyTorch等深度学习框架有基本了解，最好接触过基础的机器学习概念。资料前半部分是线上理论，建议先从Transformer的底层机制看起，理解自注意力机制，这决定了你后续调参时是否盲目。接着重点看LLaMA和ChatGLM的基座解读。在微调部分，优先看LoRA和P-Tuning这两种轻量级微调方法的原理与对比。数据处理环节容易被忽视，但它是决定微调效果的关键，建议把规则式与启发式数据处理那几节作为重点精读内容，跟着案例把训练数据的清洗和构造逻辑跑通。

学完能独立做什么与资料配合练习建议

学完后，你应该能独立完成一个中小型大模型应用的落地。具体来说，能把ChatGLM-6B或LLaMA2部署到本地环境，针对特定业务场景构造高质量的指令微调数据集，并用低资源消耗的方式完成模型微调，最后将其封装成可交互的服务。资料包里的视频和讲义需要配合动手实践才能吸收。建议不要只是顺着看视频，而是准备一台至少具备基础算力的机器（或租用云算力），每看完一个微调方法的讲解，就立刻用自带的开源小数据集复现一次。先跑通官方的微调脚本，再尝试替换成自己业务领域的语料。遇到模型输出异常时，回头去查数据处理和微调参数调整的章节，用真实的调试过程来检验理论知识的掌握程度。


第一阶段(前两部分) 线上2周掌握LLaMA与ChatGLM/baichuan与大模型之数据处理/微调第二阶段 线下2天实战5个大模型项目(含模拟面试)：类Ch

课程目录

*   第一阶段(前两部分) 线上2周掌握LLaMA与ChatGLM/baichuan与大模型之数据处理/微调/

  *   第1课 开营仪式与ChatGPT的三阶段训练方式(直播)

  *   第1课之补充：通透理解Transformer——从自注意力到多头注意力

  *   第2课 LLaMA的解读与其微调：Alpaca-LoRA/Vicuna/BELLE/中文LLaMA/姜子牙/LLaMA2

  *   第3课 大模型之高效文本数据处理：规则式与启发式(直播)

  *   第4课 ChatGLM-6B的基座、部署、微调、实现

  *   第4课之补充：ChatGLM-6的LoRA/P-Tuning微调

  *   第5课 ChatGLM2-6B的结构与微调

  *   第5课之补充：ChatGLM2-6(第二代)的LoRA/P-Tuning微调

  *   第6课 baichuan7B/13B的结构与微调

  *   第6课补充之1：Baichuan-7B推理及微调过程

  *   第6课补充之2：Baichuan-13B推理及微调过程

  *   第7课 大模型之微调方法实战：LoRA/QLoRA、P-Tuning

  *   第8课 大模型并行训练指南进阶：深入实战

*   第二阶段 线下2天实战5个大模型项目(含模拟面试)：类ChatGPT、垂直问答、代码GPT、学术GPT、langchain/

  *   第三部分 类ChatGPT的从零实现与垂直问答大模型(周六上午)

  *   第四部分 代码生成器codegeex与代码解释器code interpreter(周六下午)

  *   第五部分 论文的读与写：从零实现学术论文GPT(周日上午)

  *   第六部分 langchain + LLM与面试问答、模拟面试(周日下午)

*   第三阶段 线上三个月：五大LLM项目的继续迭代与答疑/指导/

  *   五大LLM项目每人任选一项目作为毕业项目继续迭代

  *   学术论文GPT、企业多文档知识库问答、代码生成等项目迭代过程中线上答疑/指导