深度学习之模型优化—理论与实践

值不值得学：先看清它解决的工作场景

很多做业务落地的同学都遇到过这种尴尬：模型在实验室跑得欢，一上真实业务端，要么显存爆掉，要么推理慢得被前端追着骂。这门深度学习模型优化课，解决的就是“模型太胖太慢”这个工程落地问题。它不教你从零搭网络，也不教你调参刷分，而是专注做两件事：剪枝和量化。说白了，就是把大模型削掉冗余参数，把高精度权重压成低比特。如果你手头的工作是将算法塞进算力有限的边缘设备，或者需要降低服务器并发推理成本，那这套体系课的对应度很高。但如果你只是想学怎么写神经网络搭基础架构，或者想搞大模型预训练，这门课的内容并不对口，别买错方向。

适合什么基础与资料怎么配合练习

这门资料不适合纯萌新。它默认你已经懂卷积神经网络的基本前向传播，能独立用框架写通跑通一个图像分类或检测模型，并且对张量维度变换不陌生。如果你连写个简单的训练循环都要到处抄代码，建议先补基础再看。拿到资料后，不要按顺序从头刷视频，建议先看“模型剪枝基础”和“模型量化基础”这两块，建立对稀疏化和定点化的整体认知。接着，重点啃结构化剪枝的几个细分篇章，这是日常工程里最容易直接拿来用的部分。看视频时务必开环境跟着敲，老师讲到幅度准则或稀疏因子时，自己在代码里把对应层的权值打印出来，手动改改阈值，观察参数分布直方图的变化。光看不练，这套工程经验根本沉淀不到你手里。

学完能独立做什么

把这套体系啃下来，你能独立干三件具体的活。第一，拿到一个开源大模型，能根据业务对延迟和显存的要求，制定合理的剪枝策略，并且知道什么时候该用非结构化、什么时候该上结构化。第二，能独立跑通二值量化流程，明白怎么在权重压缩后做特征重建，把掉下去的精度尽量拉回来，而不是只会调接口。第三，面对一个新项目，能在训完基线模型后，自己加一套优化代码进去，输出一个轻量化的部署版本。这几点在中小型公司的算法岗、以及做硬件端侧部署的团队里，是非常硬的实操能力。资料的价值在于它把理论拆成了可执行的代码步骤，你只要能把里面的流程复现并迁移到自己的数据集上，就算学透了。

有三AI深度学习之模型优化—理论与实践 属于体系课方向的教程资源，围绕 AI 相关内容整理。

内容涵盖：模型剪枝基础、非结构化模型剪枝、结构化模型剪枝 幅度篇、结构化模型剪枝 稀疏权重篇、结构化模型剪枝 稀疏因子篇、结构化模型剪枝 重建篇 等主题。

适合希望系统学习 AI 、需要完整资料对照的同学。

下方为完整资料与目录，可先看目录判断是否符合需要。

1_0-课程介绍.mp4 · 2_1-模型剪枝基础.mp4 · 3_2-非结构化模型剪枝.mp4 · 4_3.1-结构化模型剪枝(幅度篇).mp4 · 5_3.2-结构化模型剪枝(稀疏权重篇).mp4 · 6_3.3-结构化模型剪枝(稀疏因子篇).mp4 · 7_3.4-结构化模型剪枝(重建篇).mp4 · 9_4-模型量化基础.mp4 · 10_5.1-二值模型量化(基础篇).mp4 · 11_5.2-二值模型量化(重建篇).mp4 · 12_6.1-8位量化(KL散度篇).mp4 · 13_6.2-8位量化(非对称篇).mp4 · 14_7-混合量化(基础篇).mp4 · 16_8-知识蒸馏基础.mp4 · 17_9.1-知识蒸馏框架(特征匹配篇).mp4 · 18_9.2-知识蒸馏框架(优化目标篇).mp4 · 19_9.3-知识蒸馏框架(自蒸馏篇).mp4 · 21_10-神经网络搜索基础.mp4 · 22_11.1-神经网络搜索(栅格搜索篇).mp4 · 23_11.2-神经网络搜索(强化学习篇).mp4 · 24_11.3-神经网络搜索(进化学习篇).mp4 · 26_12.1-Distiller框架(简介).mp4 · 27_12.2-Distiller框架(模型剪枝模块).mp4 · 28_12.3-Distiller框架(模型量化模块).mp4 · 29_13.1-结构化模型剪枝实战(项目背景).mp4 · 30_13.2-结构化模型剪枝实战(模型训练).mp4 · 31_13.3-结构化模型剪枝实战(剪枝与结果).mp4 · 32_14.1-8位模型量化实战(校准表生成).mp4 · 33_14.2-8位模型量化实战(ncnn框架简介).mp4 · 34_14.3-8位模型量化实战(ncnn模型转换).mp4 · 35_14.4-8位模型量化实战(ncnn量化与推理).mp4 · 36_15.1-知识蒸馏实战(原理简介).mp4 · 37_15.2-知识蒸馏实践(模型训练与蒸馏).mp4