如果你已经在用 Hive 或 MapReduce 处理数据,但越来越频繁地遇到「跑得太慢」「写起来太啰嗦」这两个问题,那 Spark 大概率是你下一件该上手的事。这个资料包解决的就是从「听说过 Spark」到「能自己写作业跑出结果」这一段,不涉及 AI、不绕路讲 Scala 语言基础,主线始终是 Spark 本身。
它对应哪些实际工作场景
最典型的是三类活。第一类,离线数仓里那些跑几小时的聚合任务,需要换成内存计算来提速,这对应 RDD 和 Spark SQL 部分。第二类,日志、埋点这类数据要边到边算,对应 Structured Streaming,课程里有一个完整的案例实操,从需求分析一路做到结果输出。第三类,任务跑起来之后总出问题——数据倾斜、shuffle 写爆磁盘、阶段划分不合理,课程后半段对这些调优话题有专门拆解,不是只教你怎么把代码敲对。
学完能独立做什么
按资料的推进顺序,学完能拿下的动作大致是:用 RDD 的转换算子和行动算子把一批原始数据清洗成结构化结果;用 Spark SQL 建表、写查询,把 SQL 逻辑和 DataFrame 操作对应起来;看懂提交任务时的参数含义,知道并行度、分区数变化会影响什么;遇到 Streaming 场景,能照着案例把需求拆成算子链并跑通。这些都是能直接对应到日常需求的能力,不是停留在概念层面。
资料结构和使用方式
包里是视频加配套源码与课件两条线。视频按知识点切片,每段不长,适合通勤或午休时一段一段看;源码和课件的作用是让你不用纯靠记忆复现示例,遇到算子行为和你预期不一致时,可以直接对着原始工程调试。建议的用法是:先看一段视频,暂停,自己照着写一遍,再跑源码里对应的那份做对照。这个顺序比先看完再练有用得多,因为 Spark 的坑大多在运行阶段才暴露。
需要提醒一点:资料没有回避源码和配置细节,如果你之前完全没接触过分布式计算,前期会比较吃力。它有 Scala 与 Java 两条常见写法,跟着一条走就好,不必两边都啃。
适合什么基础的人
- 手上有 SQL 或 Python 基础,想补一套大数据处理工具——合适,Spark SQL 部分衔接顺畅。
- 正在用 Hadoop 生态,想把慢任务换掉——合适,RDD 与调优部分是重点。
- 零编程经验、只想了解一下大数据概念——不合适,练习环节跟不上,收获会打折。
- 已经在用 Spark、想找调优思路——可以挑着看阶段划分和数据倾斜那几段,不用从头刷。
最后一句实话:Spark 的难度不在语法,在理解和调资源。这套资料的优势是案例多、讲得细,适合当成一本可以反复回看的操作手册,而不是一次看完就过的东西。买之前先确认自己有能跑起来的练习环境,否则再全的资料也只是视频。
课程目录
📁 视频 视频文档.png [493.5 KB] P209.1 92 - Spark - Streaming - 案例实操 - 需求一 - 需求分析.mp4 [22.5 MB] P100. 93 - Spark - RDD - 阶段的划分.mp4 [33.2 MB] P178.1 63 - Spark - SQL - 案例实操 - 问题解释.mp4 [5.2 MB] P50. 47 - Spark - RDD - 转换算子 - flatMap.mp4 [20.2 MB] P12. 11 - Spark - 环境 - 独立部署环境Standalone - HA高可用.mp4 [38.1 MB] P112.1 04 - Spark - 累加器 - 自定义累加器的创建和使用 - 2.mp4 [42.6 MB] P193.5 15 - Spark - 课程内容回顾 - SparkSQL.mp4 [71.6 MB] P139.1 28 - Spark - 案例实操 - 需求二 - 优化.mp4 [19.2 MB] P96. 89 - Spark - RDD - 行动算子 - 序列化 - Kryo框架.mp4 [46.4 MB] P84. 77 - Spark - RDD - 转换算子 - sortByKey - 自定义key.mp4 [14.0 MB] P130.1 19 - Spark - 案例实操 - 需求一 - 功能实现 - 2.mp4 [32.0 MB] P199.1 82 - Spark - Streaming - 优雅地关闭 - 演示补充.mp4 [9.3 MB] P5. 04 - Spark - 案例 - WordCount - 环境准备.mp4 [36.3 MB] P7. 06 - Spark - 案例 - WordCount - 功能补充.mp4 [27.3 MB] P34. 31 - Spark - RDD - makeRDD分区数据存储的演示.mp4 [31.3 MB] P37. 34 - Spark - RDD - textfile分区数据存储的原理说明.mp4 [50.6 MB] P78. 72 - Spark - RDD - 转换算子 - combineByKey 演示&说明.mp4 [26.3 MB] P65. 59 - Spark - RDD - 转换算子 - 双value的数据操作 - 问题解答.mp4 [17.0 MB] P109.1 01 - Spark - 累加器 - 介绍.mp4 [39.1 MB] P55.5 04 - Spark - 直播间问题答疑 - RDD.mp4 [21.0 MB] P148.1 36 - Spark - SQL - 介绍补充.mp4 [18.7 MB] P14. 13 - Spark - 环境 - Yarn环境 - 历史服务(未演示).mp4 [11.1 MB] P104. 96 - Spark - RDD - 持久化 - 缓存.mp4 [33.4 MB] P210.1 93 - Spark - Streaming - 案例实操 - 需求一 - 功能实现 - 1.mp4 [67.8 MB] P206.1 89 - Spark - Streaming - 案例实操 - 生产数据 - 梳理 - 2.mp4 [24.6 MB] P156.1 44 - Spark - SQL - DataSet & DataFrame转换.mp4 [22.1 MB] P147.1 35 - Spark - SQL - 介绍.mp4 [32.5 MB] P153.1 41 - Spark - SQL - 基本API演示 - DSL语法.mp4 [22.5 MB] P162.1 50 - Spark - SQL - UDAF - 方法重写 - 2.mp4 [27.6 MB] P129.1 18 - Spark - 案例实操 - 需求一 - 功能实现 - 1.mp4 [23.9 MB] P229.2 14 - Spark - 内核 - 通信 - 原理介绍.mp4 [44.4 MB] P40. 37 - Spark - RDD - textfile分区数据存储的原理说明 - 多文件.mp4 [27.7 MB] P82. 75 - Spark - RDD - 转换算子 - 聚合算子的区别.mp4 [39.8 MB] P202.1 85 - Spark - Streaming - 案例实操 - 生成模拟数据 - 1.mp4 [19.7 MB] P81. 74 - Spark - RDD - 转换算子 - 去重思路.mp4 [10.4 MB] P165.1 53 - Spark - SQL - 通用的读取功能.mp4 [62.8 MB] P23. 22 - Spark - RDD - RDD的核心属性.mp4 [39.9 MB] P45. 42 - Spark - RDD - 转换算子 - map - 小练习.mp4 [23.0 MB] P62. 56 - Spark - RDD - 转换算子 - sortBy.mp4 [11.6 MB] P196.1 79 - Spark - Streaming - 输出.mp4 [21.8 MB] P94. 87 - Spark - RDD - 行动算子 - 序列化.mp4 [54.2 MB] P118.1 10 - Spark - 案例实操 - 框架 - 封装.mp4 [32.5 MB] P47. 44 - Spark - RDD - 转换算子 - mapPartitions - 小练习.mp4 [14.6 MB] P30.5 02 - Spark - 同学问题解答 - windows环境的文件路径问题.mp4 [7.3 MB] P200.1 83 - Spark - Streaming - 优雅地关闭 - 检查点操作.mp4 [17.7 MB] P171.1 59 - Spark - SQL - 外置Hive的访问.mp4 [19.7 MB] P10. 09 - Spark - 环境 - 独立部署环境Standalone.mp4 [49.3 MB] P185.1 70 - Spark - Streaming - 队列采集数据.mp4 [19.2 MB] P228.2 13 - Spark - 内核 - 架构梳理 - Yarna - Cluster.mp4 [51.5 MB] P144.1 32 - Spark - 案例实操 - 需求三 - 功能实现 - 计算分子.mp4 [37.9 MB] P33. 30 - Spark - RDD - makeRDD的分区的设置.mp4 [38.4 MB] P105. 97 - Spark - RDD - 持久化 - 缓存.mp4 [55.6 MB] P137.1 26 - Spark - 案例实操 - 需求二 - 功能实现.mp4 [47.9 MB] P43. 40 - Spark - RDD - 转换算子 - map实现原理.mp4 [25.1 MB] P49. 46 - Spark - RDD - 转换算子 - mapPartitionsWithIndex.mp4 [28.1 MB] P124.1 13 - Spark - 问题答疑 - 2.mp4 [72.5 MB] P74. 68 - Spark - RDD - 转换算子 - aggregateByKey.mp4 [41.4 MB] P151.1 39 - Spark - SQL - 基本API演示.mp4 [33.8 MB] P224.2 08 - Spark - 内核 - 知识点梳理 - 源码解析 - AM申请资源并对资源进行匹配.mp4 [70.2 MB] P131.1 20 - Spark - 案例实操 - 需求一 - 功能优化 - 1.mp4 [52.0 MB] P38. 35 - Spark - RDD - textfile分区数据存储的原理说明 - 1.mp4 [33.1 MB] P133.1 22 - Spark - 案例实操 - 需求一 - 功能优化 - 3.mp4 [50.8 MB] P220.2 03 - Spark - 内核 - 知识点梳理.mp4 [28.4 MB] P232.5 18 - Spark - 课程内容回顾 - SparkStreaming - 案例实操.mp4 [38.3 MB] P161.1 49 - Spark - SQL - UDAF - 方法重写 - 1.mp4 [56.2 MB] P190.1 75 - Spark - Streaming - join.mp4 [8.3 MB] P223.2 06 - Spark - 内核 - 知识点梳理 - 源码解析 - 向Yarn发送指令启动AM.mp4 [75.2 MB] P155.1 43 - Spark - SQL - DataSet & RDD转换.mp4 [23.6 MB] P158.1 46 - Spark - SQL - IDEA开发SparkSQL程序 - 演示基本操作.mp4 [33.0 MB] P149.1 37 - Spark - SQL - DataFrame.mp4 [21.7 MB] P121.5 08 - Spark - 11种不同算子实现的wordCount.mp4 [56.2 MB] P174.5 12 - Spark - 考试题目 - 解析.mp4 [116.4 MB] P107. 99 - Spark - RDD - 持久化 - 检查点 & cache的关系.mp4 [11.5 MB] P70. 64 - Spark - RDD - 转换算子 - reduceByKey.mp4 [22.0 MB] P123.1 12 - Spark - 问题答疑 - 1.mp4 [32.2 MB] P76. 70 - Spark - RDD - 转换算子 - foldByKey.mp4 [22.0 MB] P79.5 05 - Spark - 课程内容回顾.mp4 [77.0 MB] P115.1 07 - Spark - 广播变量 - 原理说明 & 演示.mp4 [10.1 MB] P92. 85 - Spark - RDD - 行动算子 - 乱码问题.mp4 [14.9 MB] P219.2 02 - Spark - Streaming - 案例实操 - 需求三 - 数据生成.mp4 [10.2 MB] P20. 19 - Spark - RDD - 介绍.mp4 [36.9 MB] P88. 81 - Spark - RDD - 案例实操 - 功能实现.mp4 [55.5 MB] P99. 92 - Spark - RDD - 依赖关系 - 宽依赖 & 窄依赖 图形演示.mp4 [24.4 MB] P111.1 03 - Spark - 累加器 - 自定义累加器的创建和使用 - 1.mp4 [34.1 MB] P2. 01 - Spark - 概念介绍.mp4 [26.0 MB] P75. 69 - Spark - RDD - 转换算子 - aggregateByKey 演示和说明.mp4 [29.6 MB] P18. 17 - Spark - 核心概念.mp4 [18.6 MB] P68. 62 - Spark - RDD - 转换算子 - 自定义分区器.mp4 [36.9 MB] P69. 63 - Spark - RDD - 转换算子 - partitionBy问题解答.mp4 [17.9 MB] P122.5 09 - Spark - 课程内容回顾 - 阶段划分.mp4 [52.3 MB] P31. 28 - Spark - RDD - RDD概念梳理.mp4 [26.0 MB] P214.1 97 - Spark - Streaming - 案例实操 - 需求一 - 扩展.mp4 [53.8 MB] P72. 66 - Spark - RDD - 转换算子 - groupByKey实现原理.mp4 [37.1 MB] P41. 38 - Spark - RDD - 算子 - 介绍.mp4 [21.9 MB] P110.1 02 - Spark - 累加器 - 原理和演示.mp4 [38.0 MB] P16. 15 - Spark - 环境 - 部署方式对比 & 端口号总结.mp4 [18.5 MB] P217.1 99 - Spark - Streaming - 案例实操 - 需求三 - 需求分析.mp4 [26.0 MB] P93. 86 - Spark - RDD - 行动算子 - foreach.mp4 [31.1 MB] P87. 80 - Spark - RDD - 案例实操 - 需求分析.mp4 [40.9 MB] 适合人群 大数据初学者 Spark爱好者 有志于从事大数据开发 学习收获 掌握Spark核心概念 学会Spark操作 提升大数据开发能力 祝您学习愉快! 学有所成,前程似锦!






