贪心科技大模型高级研修班

这门大模型高级研修班面向的不是零基础转行者，而是已经写过 Python、跑过至少一次模型训练或微调的人。如果你连 Transformer 的注意力机制都说不清楚，或者没碰过 PyTorch，直接进来会卡在第二周。它的定位是补齐"能训、能调、能压"这条工程链路，而不是教你从零写一个聊天机器人。

它解决的是哪类工作场景

实际工作里，大模型相关的任务通常集中在几件事上：把一个开源模型在下游数据上微调出可用效果、在显存和成本受限时想办法压下来、让模型输出更符合人类偏好、以及处理图文混合的输入。这门课的内容基本沿着这条线走：从 Transformer 结构和大模型训练优化讲起，进入预训练与微调范式的区分，再展开 PEFT 这类参数高效微调方法，之后是 DoRA、GaLore 这类较新的微调与优化手段，接着是 RLHF、量化与 ZeroQuant，最后落到多模态模型。它对应的是"模型工程"岗位的日常，而不是算法研究或产品设计。

适合什么基础，建议先看哪几块

最低门槛是：能读懂 PyTorch 代码、知道什么是损失函数和梯度下降、跑过一次完整的训练脚本。如果满足，建议按这个顺序切入。第一周先看 Transformer 与大模型训练优化，这是后面所有内容的地基，跳过会听不懂 PEFT 里的适配器挂在哪。第三周的预训练与微调范式、PEFT 是性价比最高的部分，直接对应你手上"要不要全量微调、LoRA 怎么配"的实际决策。第四周的 DoRA、GaLore 和第六周的量化、ZeroQuant 偏进阶，适合已经在做微调、被显存或效果卡住的人。第五周 RLHF 和多模态部分门槛更高，建议先把前面的微调和量化跑通再回头看。第二周的 Mamba、Jamba、KAN 属于拓展视野，不影响主线，时间紧可以后置。

学完能独立做什么，资料怎么配合练

跟完主线后，你应该能独立完成：选一个开源基座模型，用 PEFT 方式在下游数据上做微调并评估效果；判断什么时候该全量微调、什么时候用参数高效方法；对模型做量化压缩并在推理侧验证精度损失；理解 RLHF 的基本流程和数据准备方式。这些是能写进简历、也能在面试里讲清楚细节的能力。

资料以周为单位组织，每周围绕一个主题。建议不要按顺序刷视频，而是"看一块、跑一块"：每学完一种微调或量化方法，就找一个开源模型实际跑一遍，记录显存占用和效果变化。第三周和第四周配有作业，务必动手做，这是检验你是否真懂适配器机制的关键。量化和 RLHF 部分如果缺算力，可以先用小模型验证流程，重点是理解步骤和参数含义，而不是追求大模型的最终指标。