这门课解决什么问题,为什么值得学

概率图模型(PGM)是机器学习里连接概率论与图论的桥梁,核心任务是:用图结构表达观测数据与隐含知识之间的依赖关系,从而得到可计算的概率分布。很多人学 ML 容易停留在“调包训练”,遇到需要显式建模不确定性、多变量耦合、缺失数据或因果推断的场景就卡住,而这正是 PGM 擅长处理的领域。它的价值不在于炫技,而在于让复杂问题的结构变得可读、可推、可学。

这套课程定位为系统入门,按六章展开,配套十周的学习节奏,建议每周投入至少四小时。它试图回答的是:如何从数据里挖出隐含规律、如何用 inference 做预测与解释、如何用 learning 把模型参数从数据中学出来。对于想要搭建更结构化 AI 系统、或者准备深入生成模型/贝叶斯方法/因果方向的读者来说,这是一个把直觉落到数学和算法上的扎实起点。

适合什么基础,先从哪里入手

建议具备线性代数、概率统计基础和 Python 编程能力,最好接触过监督学习的基本概念,否则直接进图模型会被抽象公式压住。如果你属于“有应用经验、但理论骨架薄弱”的上班族或转行者,这套课更适合你用来补结构;如果你已经有较完整的概率统计底子,可以把重心放在推理算法和模型选择上。

开篇几章通常是建立“图=变量+边=条件依赖”的直觉,并引入贝叶斯网络、马尔可夫网络这些基本表示。建议先从这里打通:理解有向/无向图的语义差异、掌握条件独立与因式分解的关系、熟悉链式法则在图里的表现。接下来再进入 inference 与 learning 的主线,前者解决“给定模型和观测,怎么算目标分布”,后者解决“怎么从数据里拟合模型”。

学完能独立做什么,资料怎么配合练习

学完之后,你应该能够独立完成以下事情:把一个实际场景抽象成概率图模型;在小规模问题上实现并对比精确推理与近似推理的效果;基于观测数据完成参数估计或结构学习的基本流程;能用模型解释变量间关系,而不是只看训练误差。也就是说,你能从“会跑代码”进阶到“会设计可解释的生成/判别模型”。

配合资料练习时,先把课堂推导的公式用手算或手写推导验证一遍,尤其是条件独立、联合分布因式分解、以及常见推理算法的边界情况。然后用代码复现基础模型,从简单离散变量开始,逐步过渡到连续变量和混合结构。练习顺序建议是:先 inference 后 learning,先固定结构后尝试结构学习,先小规模验证再扩展到中等规模数据。遇到卡点,回到图的结构定义去检查假设,而不是直接换工具。

课程介绍

机器学习的一个核心任务就是从观测到的数据中挖掘隐含的知识,概率图模型巧妙的结合了图论和概率论的知识,通过构建一个图,用观测结点表示观测到的数据,用隐含结点表示潜在的知识,用边来描述知识与数据的相互关系,获得一个概率分布。在给定概率分布的基础上通过进行inference和learning两个任务来获取知识,对于描述复杂的实际问题,构建大型的人工的人工智能系统意义重大。 学习时长:十周,建议每周至少四小时

课程目录

第1章 概率图模型简介 1.1 概率图模型简介
第2章 概率图模型的表示 2.1 概率论与图论基础知识 2.2 贝叶斯网络 2.3 马尔科夫随机场马尔科夫随机场 2.4 因子图 2.5 作业说明
第3章 概率图模型的精确推理 3.1 推理问题分类&变量消元法 3.2 团树传播算法 3.3 信念传播算法(BP算法) 3.4 二值图切法1 3.5 二值图切法2 3.5 作业说明
第4章 概率图模型的近似推理 4.1 BP算法的能量最小化解释 4.2基于图切法的近似推理 4.3 作业说明
第5章 概率图模型的学习 5.1 参数学习 5.2 结构学习
第6章 概率图模型的应用 6.1 条件随机场在自然语言处理中的应用 6.2 概率图模型在医学图像中的应用 6.3 概率图模型在计算机视觉中的应用