用 Spark 搭一套能跑起来的推荐系统,到底值不值得学

个性化推荐是互联网产品的标配能力,但很多做后端或数据的工程师,对它的认知还停留在“知道有协同过滤这个东西”。真到业务要上线一个推荐模块时,往往不知道从哪里下手:怎么处理用户行为数据、怎么把算法模型套到分布式计算框架上、怎么评估效果。这门课解决的就是这个断层。它不是讲一讲算法原理就结束的理论课,而是带着你用 Spark 把协同过滤算法真正实现出来,组装成一个企业可用的推荐系统。如果你的工作是大数据开发,或者想往算法工程方向转,这种把理论和工程链路打通的实操经验比单纯背公式有用得多。

这套资料适合什么基础,建议怎么看

这套资料不适合完全零基础的人。你需要有扎实的编程基础,最好写过 Scala 或者 Java,并且对 Spark 的核心组件有一定了解,否则跟着搭工程会很吃力。建议你先看推荐系统生态和效果评测那几节,建立对召回、排序、评测指标的整体认知,这决定了你后面学算法时能不能站在业务角度想问题。接着直接进入协同过滤算法原理部分,把相似度计算和矩阵分解的逻辑吃透。数学基础那几节可以当作查阅手册,遇到推导卡壳时再回头对照着看,不用一开始就死磕。最后把重心放在 Spark 实现环节,看懂模型训练、参数调优和推荐结果生成的完整代码逻辑。

学完能独立做什么,资料怎么配合练习

跟着这套资料走完,你能独立完成一个推荐系统的核心链路搭建:从拿到原始的用户行为日志,到清洗数据、选择合适的协同过滤策略、用 Spark 训练出模型,再到生成针对单个用户的推荐列表,并且能用准确率、召回率等指标去评测系统到底行不行。在看视频资料时,不要光听不练。协同过滤的原理部分,建议你自己找一份小规模的数据集,比如电影评分数据,先把计算逻辑用单机代码跑通,理解每一步在算什么。等到进入 Spark 工程化部分,一定要在本地或者虚拟机里把环境搭起来,跟着资料里的代码自己敲一遍。遇到模型跑不出预期结果的情况,多去调整正则化参数和隐因子维度,这种调参踩坑的过程,才是把知识变成你自己工程能力的必经之路。


聚焦算法原理,搭建企业级系统,给大数据开发工程师的刚需课

课程目录

*   第1章 课程介绍与学习指南/

  *   1-1 课程介绍及导学.mp4 06:32

  *   1-2 怎么更好的使用慕课平台

  *   1-3 你真的会问问题吗?

*   第2章 了解推荐系统的生态/

  *   2-1 本章重难点提点

  *   2-2 推荐系统的关键元素和思维模式.mp4 11:49

  *   2-3 推荐算法的主要分类.mp4 14:07

  *   2-4 推荐系统常见的问题.mp4 09:05

  *   2-5 推荐系统效果评测.mp4 17:55

*   第3章 给学习算法打基础/

  *   3-1 本章重点难点提点

  *   3-2 推荐系统涉及的数学知识.mp4 11:25

  *   3-3 推荐系统涉及的概率统计知识.mp4 17:58

*   第4章 详解协同过滤推荐算法原理/

  *   4-1 本章重点难点提点

  *   4-2 本章作业.mp4 04:17

  *   4-3 协同过滤的数学知识:最小二乘法.mp4 15:01

  *   4-4 协同过滤的数学知识:梯度下降法.mp4 23:55

  *   4-5 协同过滤的数学知识:余弦相似度.mp4 14:09

  *   4-6 什么是user-based的协同过滤.mp4 15:26

  *   4-7 基于Spark实现user-based协同过滤.mp4 14:12

  *   4-8 什么是item-based协同过滤.mp4 16:32

  *   4-9 基于Spark实现item-based协同过滤.mp4 13:03

  *   4-10 基于模型的协同过滤.mp4 04:49

  *   4-11 基于矩阵分解模型的两种算法:SVD和PMF.mp4 18:49

  *   4-12 缺失值填充.mp4 24:39

*   第5章 Spark内置推荐算法ALS原理/

  *   5-1 ALS 算法原理.mp4 05:52

  *   5-2 ALS 算法在Spark上的实现.mp4 18:51

  *   5-3 ALS 算法在 Spark 上的源码分析.mp4 11:28

*   第6章 推荐系统搭建——需求分析和环境搭建/

  *   6-1 本章重点难点提点

  *   6-2 项目需求分析 技术分解 模块设计.mp4 04:43

  *   6-3 开发环境搭建.mp4 19:13

  *   6-4 环境问题 工具问题 版本问题.mp4 05:44

  *   6-5 【实操手册】环境搭建文档.mp4

*   第7章 推荐系统搭建——UI界面模块/

  *   7-1 VUE+ElementUI简单入门.mp4 14:08

  *   7-2 用户访问页面实现.mp4 11:48

  *   7-3 AB Test 控制台页面(上).mp4 13:24

  *   7-4 AB Test 控制台页面(下).mp4 13:23

*   第8章 推荐系统搭建——数据层/

  *   8-1 数据上报(上).mp4 18:07

  *   8-2 数据上报(下).mp4 13:57

  *   8-3 日志清洗和格式化数据(上).mp4 17:13

  *   8-4 日志清洗和格式化数据(中).mp4 15:28

  *   8-5 日志清洗和格式化数据(下).mp4 15:07

  *   8-6 分析用户行为和商品属性.mp4 07:30

*   第9章 推荐系统搭建——推荐引擎/

  *   9-1 基于用户行为构建评分矩阵.mp4 09:52

  *   9-2 离线推荐:基于用户角度召回策略筛选候选集(上).mp4 22:20

  *   9-3 离线推荐:基于用户角度召回策略筛选候选集(下).mp4 21:57

  *   9-4 离线推荐:基于物品角度召回策略筛选候选集(上).mp4 23:11

  *   9-5 离线推荐:基于物品角度召回策略筛选候选集(下).mp4 21:55

  *   9-6 离线推荐:写特征向量到HBase.mp4 07:13

  *   9-7 离线推荐:基于模型的排序.mp4 12:22

  *   9-8 实时推荐:Storm解析用户行为.mp4 17:04

  *   9-9 实时推荐:通过FTRL更新特征权重-原理.mp4 13:33

  *   9-10 实时推荐:通过FTRL更新特征权重-代码实现.mp4 26:06

  *   9-11 离线推荐和实时推荐项目梳理.mp4 12:07

*   第10章 推荐系统搭建——推荐结果存储/

  *   10-1 数仓ODS和DWD层搭建.mp4 09:23

  *   10-2 搭建用户行为日志数据仓库.mp4 10:17

  *   10-3 利用外部分区表存储用户行为.mp4 09:43

*   第11章 推荐系统搭建——推荐效果评估模块/

  *   11-1 AB Test.mp4 05:12

  *   11-2 AB Test的分流管理.mp4 06:26

  *   11-3 搭建AB Test 实验控制台(上).mp4 18:01

  *   11-4 搭建AB Test 实验控制台(下).mp4 11:57

  *   11-5 常用评测指标.mp4 05:37

*   第12章 知识拓展——基于关联规则的推荐算法/

  *   12-1 基于Apriori的关联算法.mp4 07:17

  *   12-2 基于Spark实现Apriori算法(上).mp4 18:24

  *   12-3 基于Spark实现Apriori算法(下).mp4 21:52

  *   12-4 基于FP-Growth的关联算法.mp4 13:09

  *   12-5 基于Spark实现FP-Growth算法.mp4 13:26

*   第13章 知识拓展——基于机器学习的推荐算法/

  *   13-1 RBM神经网络.mp4 06:02

  *   13-2 CNN卷积神经网络.mp4 08:41

  *   13-3 RNN循环神经网络.mp4 11:34

*   第14章 知识拓展——基于内容的推荐算法/

  *   14-1 文本向量化.mp4 09:54

  *   14-2 基于Spark实现TF-IDF.mp4 16:29

  *   14-3 课程总结.mp4 12:01