这门课解决什么问题:大厂怎么把大模型真正落到工程里

这份资料来自 QCon 北京 2024 的技术分享,主题聚焦在大模型的工程落地。它解决的核心问题是:当团队决定在业务里引入大模型时,从选型、训练到上线,到底要趟过哪些坑。很多开发者看了一堆原理文章,真到自己动手时还是会卡在“怎么和现有系统结合”这一步。资料里选的几个案例都是一线大厂的实践,比如饿了么怎么做垂域模型训练和 C 端应用,快手怎么把大模型塞进搜索链路,通义灵码和 Comate 怎么做智能编码工具。这些不是概念演示,是已经跑在生产环境里的方案。如果你正在评估要不要在项目里用大模型,或者已经在做但遇到瓶颈,这些实打实的踩坑经验比泛泛而谈的教程有用得多。

适合什么基础,建议先看哪几块

这份资料不适合完全没接触过大模型的人。它默认你已经知道 Transformer 是什么,用过至少一种开源模型,写过简单的推理代码。如果你是后端工程师或算法工程师,想看别人怎么解决工程化问题,这是对口的内容。建议先从通义灵码和 Comate 这两块看起,因为智能编码工具的场景相对独立,技术链路短,容易看懂他们怎么处理代码补全、上下文理解和延迟优化。看完这两个再看饿了么 EGPT 和快手搜索的案例,后者涉及更复杂的垂域训练和系统集成,需要多花点时间消化。每个案例都配套了视频和文档,建议先快速过一遍文档抓重点,再回去看视频里讲细节的部分。

学完能独立做什么,资料怎么配合练习

看完这些案例,你不会立刻就能从零训出一个大模型,这不现实。但你能独立做几件具体的事:给自己的业务场景写一份大模型落地的技术方案,知道该选通用模型还是走垂域微调,能评估智能编码类工具怎么接入团队的开发流程,也能判断搜索或推荐场景里哪些环节适合用大模型替换原有逻辑。练习方式上,建议看完每个案例后,拿自己手头的项目做对照:如果我要在这个项目里用类似方案,数据怎么准备,接口怎么设计,性能瓶颈在哪。资料里的文档可以当参考手册用,视频里提到的具体技术细节值得反复看,尤其是他们讲到失败尝试和取舍权衡的部分,那些才是真正值钱的经验。


大模型正在重新定义软件

课程目录

*   01 01 饿了么垂域大模型 EGPT 训练与 C 端应用实践.html (0.00 MB)

*   01 01 饿了么垂域大模型 EGPT 训练与 C 端应用实践.mp4 (422.16 MB), 25:06

*   02 02 大模型技术在快手搜索的应用.html (0.00 MB)

*   02 02 大模型技术在快手搜索的应用.mp4 (617.56 MB), 37:04

*   03 03 通义灵码技术解析,打造 AI 原生开发新范式.html (0.00 MB)

*   03 03 通义灵码技术解析,打造 AI 原生开发新范式.mp4 (620.54 MB), 37:35

*   04 04 智能编码工具 Comate 的核心能力揭秘.html (0.00 MB)

*   04 04 智能编码工具 Comate 的核心能力揭秘.mp4 (579.13 MB), 35:11

*   05 05 AI Agent 在企业经营分析场景的落地.html (0.00 MB)

*   05 05 AI Agent 在企业经营分析场景的落地.mp4 (748.75 MB), 45:08

*   06 06 面向办公自动化领域的 AI Agent 建设思考与分享.html (0.00 MB)

*   06 06 面向办公自动化领域的 AI Agent 建设思考与分享.mp4 (575.15 MB), 41:34

*   07 07 大模型原生应用产品设计的前沿探索.html (0.00 MB)

*   07 07 大模型原生应用产品设计的前沿探索.mp4 (792.67 MB), 48:57

*   08 08 大模型的三次触动、两个难题、一个参考答案.html (0.00 MB)

*   08 08 大模型的三次触动、两个难题、一个参考答案.mp4 (574.44 MB), 34:40

*   09 09 大模型在信也对话机器人中的应用.html (0.00 MB)

*   09 09 大模型在信也对话机器人中的应用.mp4 (603.46 MB), 40:39

*   10 10 百度营销智能体:从对话式投放到多智能体协同.html (0.00 MB)

*   10 10 百度营销智能体:从对话式投放到多智能体协同.mp4 (502.23 MB), 30:14

*   11 11 教育大模型,说你行你才行.html (0.00 MB)

*   11 11 教育大模型,说你行你才行.mp4 (885.86 MB), 53:22

*   12 12 模型基座应用为团队带来的机会与挑战.html (0.00 MB)

*   12 12 模型基座应用为团队带来的机会与挑战.mp4 (797.20 MB), 48:03

*   13 13 RAG 商业落地实践踩坑.html (0.00 MB)

*   13 13 RAG 商业落地实践踩坑.mp4 (526.77 MB), 33:14

*   14 14 大模型应用开发新范式.html (0.00 MB)

*   14 14 大模型应用开发新范式.mp4 (535.60 MB), 33:24

*   15 15 LLM 和 Multi-agent 在运维领域的实验探索.html (0.00 MB)

*   15 15 LLM 和 Multi-agent 在运维领域的实验探索.mp4 (527.89 MB), 34:02

*   16 16 MFTcoder:大模型多任务微调框架.html (0.00 MB)

*   16 16 MFTcoder:大模型多任务微调框架.mp4 (419.53 MB), 27:43

*   17 17 SRE-Copliot:基于大语言模型的智能运维架构.html (0.00 MB)

*   17 17 SRE-Copliot:基于大语言模型的智能运维架构.mp4 (565.59 MB), 34:24

*   18 18 快意大模型在短视频互动场景的应用探索.html (0.00 MB)

*   18 18 快意大模型在短视频互动场景的应用探索.mp4 (562.32 MB), 39:41

*   19 19 海天瑞声在大模型数据的探索与实践.html (0.00 MB)

*   19 19 海天瑞声在大模型数据的探索与实践.mp4 (557.69 MB), 42:23

*   20 20 基于 AI 大模型生成微信小程序的探索与实践.html (0.00 MB)

*   20 20 基于 AI 大模型生成微信小程序的探索与实践.mp4 (342.32 MB), 34:08

*   21 21 AI 大模型技术在数据库 DevOps 的实践.html (0.00 MB)

*   21 21 AI 大模型技术在数据库 DevOps 的实践.mp4 (394.65 MB), 34:38

*   22 22 CodeGeeX:构建项目级代码智能助手.html (0.00 MB)

*   22 22 CodeGeeX:构建项目级代码智能助手.mp4 (542.34 MB), 37:35