用 Spark 搭一套能跑起来的推荐系统,到底值不值得学
个性化推荐是互联网产品的标配能力,但很多做后端或数据的工程师,对它的认知还停留在“知道有协同过滤这个东西”。真到业务要上线一个推荐模块时,往往不知道从哪里下手:怎么处理用户行为数据、怎么把算法模型套到分布式计算框架上、怎么评估效果。这门课解决的就是这个断层。它不是讲一讲算法原理就结束的理论课,而是带着你用 Spark 把协同过滤算法真正实现出来,组装成一个企业可用的推荐系统。如果你的工作是大数据开发,或者想往算法工程方向转,这种把理论和工程链路打通的实操经验比单纯背公式有用得多。
这套资料适合什么基础,建议怎么看
这套资料不适合完全零基础的人。你需要有扎实的编程基础,最好写过 Scala 或者 Java,并且对 Spark 的核心组件有一定了解,否则跟着搭工程会很吃力。建议你先看推荐系统生态和效果评测那几节,建立对召回、排序、评测指标的整体认知,这决定了你后面学算法时能不能站在业务角度想问题。接着直接进入协同过滤算法原理部分,把相似度计算和矩阵分解的逻辑吃透。数学基础那几节可以当作查阅手册,遇到推导卡壳时再回头对照着看,不用一开始就死磕。最后把重心放在 Spark 实现环节,看懂模型训练、参数调优和推荐结果生成的完整代码逻辑。
学完能独立做什么,资料怎么配合练习
跟着这套资料走完,你能独立完成一个推荐系统的核心链路搭建:从拿到原始的用户行为日志,到清洗数据、选择合适的协同过滤策略、用 Spark 训练出模型,再到生成针对单个用户的推荐列表,并且能用准确率、召回率等指标去评测系统到底行不行。在看视频资料时,不要光听不练。协同过滤的原理部分,建议你自己找一份小规模的数据集,比如电影评分数据,先把计算逻辑用单机代码跑通,理解每一步在算什么。等到进入 Spark 工程化部分,一定要在本地或者虚拟机里把环境搭起来,跟着资料里的代码自己敲一遍。遇到模型跑不出预期结果的情况,多去调整正则化参数和隐因子维度,这种调参踩坑的过程,才是把知识变成你自己工程能力的必经之路。
聚焦算法原理,搭建企业级系统,给大数据开发工程师的刚需课
课程目录
* 第1章 课程介绍与学习指南/
* 1-1 课程介绍及导学.mp4 06:32
* 1-2 怎么更好的使用慕课平台
* 1-3 你真的会问问题吗?
* 第2章 了解推荐系统的生态/
* 2-1 本章重难点提点
* 2-2 推荐系统的关键元素和思维模式.mp4 11:49
* 2-3 推荐算法的主要分类.mp4 14:07
* 2-4 推荐系统常见的问题.mp4 09:05
* 2-5 推荐系统效果评测.mp4 17:55
* 第3章 给学习算法打基础/
* 3-1 本章重点难点提点
* 3-2 推荐系统涉及的数学知识.mp4 11:25
* 3-3 推荐系统涉及的概率统计知识.mp4 17:58
* 第4章 详解协同过滤推荐算法原理/
* 4-1 本章重点难点提点
* 4-2 本章作业.mp4 04:17
* 4-3 协同过滤的数学知识:最小二乘法.mp4 15:01
* 4-4 协同过滤的数学知识:梯度下降法.mp4 23:55
* 4-5 协同过滤的数学知识:余弦相似度.mp4 14:09
* 4-6 什么是user-based的协同过滤.mp4 15:26
* 4-7 基于Spark实现user-based协同过滤.mp4 14:12
* 4-8 什么是item-based协同过滤.mp4 16:32
* 4-9 基于Spark实现item-based协同过滤.mp4 13:03
* 4-10 基于模型的协同过滤.mp4 04:49
* 4-11 基于矩阵分解模型的两种算法:SVD和PMF.mp4 18:49
* 4-12 缺失值填充.mp4 24:39
* 第5章 Spark内置推荐算法ALS原理/
* 5-1 ALS 算法原理.mp4 05:52
* 5-2 ALS 算法在Spark上的实现.mp4 18:51
* 5-3 ALS 算法在 Spark 上的源码分析.mp4 11:28
* 第6章 推荐系统搭建——需求分析和环境搭建/
* 6-1 本章重点难点提点
* 6-2 项目需求分析 技术分解 模块设计.mp4 04:43
* 6-3 开发环境搭建.mp4 19:13
* 6-4 环境问题 工具问题 版本问题.mp4 05:44
* 6-5 【实操手册】环境搭建文档.mp4
* 第7章 推荐系统搭建——UI界面模块/
* 7-1 VUE+ElementUI简单入门.mp4 14:08
* 7-2 用户访问页面实现.mp4 11:48
* 7-3 AB Test 控制台页面(上).mp4 13:24
* 7-4 AB Test 控制台页面(下).mp4 13:23
* 第8章 推荐系统搭建——数据层/
* 8-1 数据上报(上).mp4 18:07
* 8-2 数据上报(下).mp4 13:57
* 8-3 日志清洗和格式化数据(上).mp4 17:13
* 8-4 日志清洗和格式化数据(中).mp4 15:28
* 8-5 日志清洗和格式化数据(下).mp4 15:07
* 8-6 分析用户行为和商品属性.mp4 07:30
* 第9章 推荐系统搭建——推荐引擎/
* 9-1 基于用户行为构建评分矩阵.mp4 09:52
* 9-2 离线推荐:基于用户角度召回策略筛选候选集(上).mp4 22:20
* 9-3 离线推荐:基于用户角度召回策略筛选候选集(下).mp4 21:57
* 9-4 离线推荐:基于物品角度召回策略筛选候选集(上).mp4 23:11
* 9-5 离线推荐:基于物品角度召回策略筛选候选集(下).mp4 21:55
* 9-6 离线推荐:写特征向量到HBase.mp4 07:13
* 9-7 离线推荐:基于模型的排序.mp4 12:22
* 9-8 实时推荐:Storm解析用户行为.mp4 17:04
* 9-9 实时推荐:通过FTRL更新特征权重-原理.mp4 13:33
* 9-10 实时推荐:通过FTRL更新特征权重-代码实现.mp4 26:06
* 9-11 离线推荐和实时推荐项目梳理.mp4 12:07
* 第10章 推荐系统搭建——推荐结果存储/
* 10-1 数仓ODS和DWD层搭建.mp4 09:23
* 10-2 搭建用户行为日志数据仓库.mp4 10:17
* 10-3 利用外部分区表存储用户行为.mp4 09:43
* 第11章 推荐系统搭建——推荐效果评估模块/
* 11-1 AB Test.mp4 05:12
* 11-2 AB Test的分流管理.mp4 06:26
* 11-3 搭建AB Test 实验控制台(上).mp4 18:01
* 11-4 搭建AB Test 实验控制台(下).mp4 11:57
* 11-5 常用评测指标.mp4 05:37
* 第12章 知识拓展——基于关联规则的推荐算法/
* 12-1 基于Apriori的关联算法.mp4 07:17
* 12-2 基于Spark实现Apriori算法(上).mp4 18:24
* 12-3 基于Spark实现Apriori算法(下).mp4 21:52
* 12-4 基于FP-Growth的关联算法.mp4 13:09
* 12-5 基于Spark实现FP-Growth算法.mp4 13:26
* 第13章 知识拓展——基于机器学习的推荐算法/
* 13-1 RBM神经网络.mp4 06:02
* 13-2 CNN卷积神经网络.mp4 08:41
* 13-3 RNN循环神经网络.mp4 11:34
* 第14章 知识拓展——基于内容的推荐算法/
* 14-1 文本向量化.mp4 09:54
* 14-2 基于Spark实现TF-IDF.mp4 16:29
* 14-3 课程总结.mp4 12:01






