msb-AI大模型工程师|课时01 大模型直播课 NO.2766

这套资料的主题很明确：面向 AI 大模型方向的工程实践，从理论铺垫一路走到能自己动手搭出可用的应用。它不解决"我要不要转行 AI"这类问题，而是解决另一个更具体的困境——看了很多大模型科普，知道 Transformer、知道提示词，但真让自己接一个模型、调一个接口、做一个能跑起来的小工具，就卡住了。如果你正处在这个阶段，这份资料的定位是对得上的。

它主要解决哪些工作场景

最直接的两类场景：一是把大模型能力接进自己的业务里，比如做一个智能翻译助手、做一个基于自有文档的问答；二是理解模型本身的行为边界，知道提示词为什么这样写有效、Embedding 检索为什么有时召回不准、开源模型和闭源 API 的差别在哪。资料里既有 OpenAI 这类云端接口的用法，也有 Huggingface 的模型加载与调用，还单独讲了国产模型 ChatGLM 和 LLaMA 的解析与实战。对国内环境来说，后两块的实际价值往往更高，因为很多团队最终要落到可私有部署的方案上。

适合什么基础，先看哪几块

前提是有基本的 Python 能力，能读懂函数和类，会用 pip 装包、会跑脚本。不需要你事先懂深度学习，但如果你连张量、损失函数是什么都没概念，理论部分会读得比较吃力，建议先补一点入门知识再回来。学习顺序上，建议不要按目录从头顺下来。先看理论基础那一块，把注意力机制、预训练与微调的关系理清楚，这是后面所有内容的底座；接着直接跳到提示词工程，因为它上手最快、反馈最直接，能让你在半天内就感受到模型的能力和局限；然后再进入 Embedding 与 Huggingface 基础，把检索和模型调用这两项基本功打牢。LLaMA 和 ChatGLM 的深度解析放在后面看，那时候你已经有了足够的上下文，理解成本会低很多。

学完能独立做什么，资料怎么配合练

比较现实的产出是：你能独立完成一个带检索增强的小应用，比如把一批文档切分、向量化、存进向量库，再让模型基于检索结果回答问题；也能自己写一套结构化的提示词模板，把模型输出稳定在可用的格式里；遇到开源模型时，知道怎么从 Huggingface 拉下来、怎么推理、怎么根据显存情况调整。这些都不是纸面知识，是能拿去做小工具、做内部效率工具的程度。

练习方式上，别只看视频。每看完一块，就用自己手头的材料复现一遍：翻译助手那部分，换成你熟悉的领域语料；Embedding 那部分，换成你自己的笔记或文档做检索测试。直播课那一讲信息密度通常较高，建议放在你已经跑通一两个小例子之后再回看，收获会比一开始就听大得多。整套资料的价值不在于看完，而在于你用它做出过至少一个能给别人演示的东西。