如果你已经在用 scikit-learn 跑模型,却说不清逻辑回归的损失函数为什么长那样、EM 算法凭什么保证收敛,那这门以李航《统计学习方法》为主线的训练营值得考虑。它不教你调包,而是把机器学习里那些"默认会用但没深究"的数学推导补上。下面按几个问题拆开讲,方便你判断要不要投入时间。
它解决的是哪类工作场景
最典型的有三种。一是面试被追问原理时答不上来:面试官问 SVM 的核技巧怎么起效、为什么对偶问题更好解,你只能背结论。二是线上模型出问题排查不了:模型指标突然下降,你需要从损失函数、正则项、优化过程去定位,而不是反复换参数碰运气。三是做特征工程和模型选型时没有判断依据:面对一份新数据,不知道该用生成式方法还是判别式方法,不清楚朴素贝叶斯的条件独立假设会带来多大偏差。
这门课的内容正好覆盖这些空白点。有监督部分从感知机、k 近邻讲到决策树、逻辑回归、最大熵、支持向量机、提升方法,再到隐马尔可夫模型和条件随机场;无监督部分补充了聚类、降维以及概率图模型相关方法。这些不是孤立知识点,而是同一套统计学习框架下的不同假设和求解路径。
学完能独立做什么
比较现实的目标有三个。第一,拿到一篇机器学习论文或技术文档,能看懂方法部分对模型假设、目标函数、求解算法的描述,不再被公式卡住。第二,自己动手实现一个简化版算法,比如用坐标下降写一遍带 L1 正则的逻辑回归,或者手动推导并实现一次 GMM 的 EM 迭代,而不是只会调库。第三,在团队里讨论方案时,能说清楚为什么这个场景适合用这个模型、它的偏差和方差大致来自哪里。
需要提醒的是,这门课不承诺让你直接做出工业级系统。它的价值在于理论地基,把地基打牢之后,你再去看工程实践类内容会顺畅很多。
资料适合什么基础
前置要求不算高,但有两条底线:一是能看懂基本的微积分和线性代数符号,比如梯度、矩阵乘法、特征值分解;二是写过一点 Python,至少知道 NumPy 数组怎么用。如果这两条都具备,跟下来不会太吃力。
如果你完全没接触过机器学习,建议先花几天跑通几个 sklearn 的小例子,建立一点直观感受再进来,否则一上来全是公式会比较容易劝退。反过来,如果你已经有几年工程经验、只是想补无监督学习这块,那可以重点看聚类、降维和概率图模型那几章,有监督部分快速过一遍查漏补缺即可。
怎么用这套资料
- 先通读一遍对应章节的教材原文,不用强求全部推导都懂,标出卡住的地方。
- 再看讲解,重点听卡住的地方是怎么被拆解的,尤其是目标函数怎么构造、优化怎么一步步推。
- 每学完一个方法,自己用 Python 写一个最小实现,哪怕只是在小数据集上跑通,也比只看不写强。
- 无监督部分容易学得虚,建议找一份真实数据做一次聚类或降维,观察结果再回头理解算法假设。
- 不要追求一次学完。这类内容适合分块消化,一个方法彻底弄懂再进下一个。
整体来说,这是一门偏理论、需要沉下心推公式的课。如果你当前的工作确实需要你把模型原理讲清楚、把问题定位到数学层面,那它值得学;如果你只想快速搭个能跑的模型交差,那可能有更省时的选择。
课程目录
第 1 部分5 条
- 01 1月30日 直播分享 - 视频暂时无法播放.txt
- 02 【严正声明】盗版必究!.html
- 03 【招募】如何获得深度之眼奖学金和助学金?.html
- 04 【必看】训练营学习指南.html
- 05 【资料合集】课件及作业代码合集.html
06 第一章1 集
- 1.1 导论.mp4
07 第一章1 集
- 1.2 极大似然估计.mp4
08 第一章2 集
- 1.3 梯度下降法.mp4
- 09 第一章作业讲解-极大似然估计.mp4
10 第二章1 集
- 2.1 导论.mp4
11 第二章1 集
- 2.2 对偶形式.mp4
12 第二章4 集
- 2.3 收敛性.mp4
- 13 code——感知机.mp4
- 14 第二章作业讲解-感知机自编程实现.mp4
- 15 第二章作业讲解-感知机sklearn实现.mp4
16 第三章1 集
- 3.1 导论.mp4
17 第三章4 集
- 3.2 kd树.mp4
- 18 code——k近邻.mp4
- 19 第三章作业讲解-KNN 自编程.mp4
- 20 第三章作业讲解-KNN-sklearn.mp4
21 第四章1 集
- 4.1 导论.mp4
22 第四章1 集
- 4.2 贝叶斯估计.mp4
23 第四章4 集
- 4.3 期望风险最小化.mp4
- 24 code——朴素贝叶斯.mp4
- 25 第四章作业讲解-贝叶斯估计.mp4
- 26 第四章作业讲解-朴素贝叶斯.mp4
27 第五章1 集
- 5.1 导论.mp4
28 第五章3 集
- 5.2 剪枝.mp4
- 29 code——决策树.mp4
- 30 第五章作业讲解-决策树.mp4
31 第六章1 集
- 6.1 逻辑斯蒂回归与最大熵.mp4
32 第六章3 集
- 6.2 改进的迭代尺度法.mp4
- 33 第六章作业讲解-逻辑斯谛回归.mp4
- 34 code——逻辑斯蒂回归与最大熵.mp4
35 第七章1 集
- 7.1 导论.mp4
36 第七章5 集
- 7.2 存在唯一性.mp4
- 37 第七章作业讲解-支持向量机习题7.1.mp4
- 38 第七章作业讲解-支持向量机 sklearn习题7.2.mp4
- 39 第七章作业讲解-支持向量机习题7.3.mp4
- 40 code——EM算法及推广.mp4
41 第八章1 集
- 8.1 导论.mp4
42 第八章1 集
- 8.2 前向分步算法.mp4
43 第八章3 集
- 8.3 adaboost的训练误差.mp4
- 44 第八章作业讲解-提升方法.mp4
- 45 code——支持向量机.mp4
46 第九章1 集
- 9.1 导论.mp4
47 第九章3 集
- 9.2 高斯混合模型.mp4
- 48 第九章作业讲解-EM算法.mp4
- 49 code——提升方法.mp4
50 第十章1 集
- 10.1 导论.mp4
51 第十章1 集
- 10.2 前向算法.mp4
52 第十章3 集
- 10.3 维特比算法.mp4
- 53 第十章作业讲解-隐马尔可夫模型.mp4
- 54 code——隐马尔可夫.mp4
55 第十一章1 集
- 11.1 导论.mp4
56 第十一章1 集
- 11.2 拟牛顿法.mp4
57 第十一章11 集
- 11.3 条件随机场的矩阵形式.mp4
- 58 第十一章作业讲解-条件随机场.mp4
- 59 第十三章无监督学习导论.mp4
- 60 第十四章14.1聚类的基本概念.mp4
- 61 第十四章14.2.1距离与相似度.mp4
- 62 第十四章14.2.2聚合聚类 距离公式介绍.mp4
- 63 第十四章14.2.3距离公式证明.mp4
- 64 第十四章14.2.4确定最佳聚类数.mp4
- 65 第十四章14.2.5有序样本分类法.mp4
- 66 第十四章14.3K均值聚类.mp4
- 67 第十四章14.1作业讲解- K-Means算法和高斯混合模型的比较.mp4
68 第十四章14.2作业讲解-40 集
- 14.2 有关类的定义推导.mp4
- 69 第十四章14.3作业讲解- 离差平方和距离推导公式证明.mp4
- 70 第十四章14.3作业讲解-重心距离推导公式证明.mp4
- 71 第十五章15.1矩阵奇异值分解步骤.mp4
- 72 第十五章15.2矩阵奇异值分解基本定理.mp4
- 73 第十五章15.3矩阵奇异值分解性质与计算.mp4
- 74 第十五章15.4.1矩阵奇异值分解的酉空间表示法.mp4
- 75 第十五章15.5矩阵奇异值分解的应用.mp4
- 76 第十五章作业讲解- 奇异值分解01.mp4
- 77 第十五章作业讲解- 奇异值分解02.mp4
- 78 第十六章16.1主成分分析介绍.mp4
- 79 第十六章16.2主成分分析基本定理.mp4
- 80 第十六章16.3主成分的性质与选择.mp4
- 81 第十六章16.4主成分的特征.mp4
- 82 第十六章16.5牛顿迭代与梯度下降法.mp4
- 83 第十六章16.6拟牛顿迭代法.mp4
- 84 第十六章16.1作业讲解- 样本主成分分析.mp4
- 85 第十六章16.2 作业讲解-样本方差无偏估计的理解.mp4
- 86 第十六章16.3作业讲解- 求第一主成分.mp4
- 87 第十七章17.1LSA导入.mp4
- 88 第十七章17.2LSA算法实现.mp4
- 89 第十七章17.3非负矩阵分解算法.mp4
- 90 第十七章17.4LSA案例分析与编程实现.mp4
- 91 第十七章 作业讲解.mp4
- 92 第十八章18.1PLSA生成模型.mp4
- 93 第十八章18.2PLSA共现模型.mp4
- 94 第十八章18.3PLSA模型算法实现.mp4
- 95 第十八章18.4PLSA模型EM算法详解.mp4
- 96 第十八章 作业讲解.mp4
- 97 第十九章19.1蒙特卡罗法引入.mp4
- 98 第十九章19.2马尔科夫链的定义与性质.mp4
- 99 第十九章19.3连续状态马尔科夫链.mp4
- 1
- 00 第十九章19.4Metropolis-Hastings算法与吉布斯抽样算法.mp4
- 1
- 01 第十九章 作业讲解.mp4
- 1
- 02 第二十章20.1LDA分布、模型与Gibbs抽样算法.mp4
- 1
- 03 第二十章20.2LDA的变分EM算法.mp4
- 1
- 04 第二十章 作业讲解.mp4
- 1
- 05 第二十一章21.1PageRank算法的定义与幂法计算.mp4
- 1
- 06 第二十一章 作业讲解.mp4
- 1
- 07 第二十二章 22无监督学习方法总结.mp4






