这门课解决什么问题:从单机思维到分布式处理的跨越

很多有常规业务开发经验的人,在面对日志分析、历史数据清洗、大规模行为轨迹统计时,常会卡在数据量级上。单机跑几十万条数据没问题,一旦面对几个 G 甚至几十 G 的文本文件,传统的关系型数据库或单线程脚本就会直接崩溃或超时。这门 Hadoop 主题的实战课,解决的就是数据量超出单机处理极限时的存储与计算问题。它不教你写复杂的业务逻辑,而是教你如何把一堆普通的机器凑成集群,让海量数据能被切块分散存储,并被并行处理。如果你目前的工作开始涉及数据采集、数仓构建,或者想往数据开发方向转,这门课能帮你补齐最底层的分布式认知。它适合有 Linux 基本操作基础、懂 Java 或其他任意一门后端语言逻辑的上班族,完全零基础可能会在环境配置阶段感到吃力。

资料怎么用:环境搭建与组件配置的配合

资料包的编排非常务实,基本是按照先搭环境再讲组件的逻辑走的。建议你先看课程的整体介绍部分,结合配套的演示文稿,把分布式文件系统和资源调度的基本概念理顺。接着,重点跟着集群节点准备这块的内容走。这部分视频占了相当大比重,从虚拟机安装、Linux 系统选择到网络配置,非常琐碎但极其关键。不要跳过这些看似基础的操作去直接学核心组件,因为分布式开发的坑绝大多数都在环境配置上。资料里提供了完整的工具包和配置文件,在看视频时,建议自己手敲一遍配置,遇到报错再拿提供的标准配置文件来对比排查。不要直接复制粘贴,只有自己踩过网络不通、节点找不到的坑,后续在真实服务器上排错才会有手感。

学完能独立做什么:跑通你的第一个分布式作业

踏实地把环境搭建和核心组件应用看完、练完,你能独立完成几件事:首先,你能从零在一台物理机上通过虚拟机模拟出一个多节点的分布式集群,并完成基础的网络互通与免密登录配置。其次,你能把数据上传到分布式文件系统中,理解数据切块和副本存放的逻辑。最后,你能编写并运行一个基础的离线数据处理任务,理解数据是如何被切片、被分发到各个节点并行计算的。学完这门课后,你不会立刻成为架构师,但当你再面对几十个 G 的离线日志文件时,你知道该怎么搭一套环境把它存进去,并写一段处理逻辑让它跑出结果,这就具备了进一步学习数据仓库和实时计算组件的扎实地基。


1.掌握Hadoop分布式集群搭建;2.掌握Hadoop各个核心组件在项目中的具体应用

课程目录

*   01 课程整体介绍/

  *   01 Hadoop核心技术与实战.mp4 07:19

  *   02 课程完整PPT下载

  *   03 课程完整工具、JAR包及配置文件下载

*   02 Hadoop集群节点准备/

  *   01 虚拟机与virtualbox介绍.mp4 06:44

  *   02 virtualbox下载与安装.mp4 06:43

  *   03 Linux系统介绍与发行版选择.mp4 05:56

  *   04 centos7下载.mp4 03:12

  *   05 centos7安装1.mp4 08:07

  *   06 网络类型选择.mp4 08:54

  *   07 centos7安装2.mp4 03:00

  *   08 centos7安装3.mp4 06:43

  *   09 centos7网络配置.mp4 06:13

  *   10 centos7静态IP配置.mp4 04:20

  *   11 xshell远程连接centos7.mp4 05:50

  *   12 FileZilla实现文件上传与下载.mp4 05:37

  *   13 修改centos7的hostname.mp4 05:20

  *   14 配置IP地址映射.mp4 05:04

  *   15 centos7防火墙设置.mp4 02:26

  *   16 centos7 ssh免密登录.mp4 07:27

  *   17 centos7 sudo权限配置.mp4 02:44

  *   18 克隆hadoop02节点.mp4 13:22

  *   19 克隆hadoop03节点.mp4 09:51

  *   20 虚拟机做快照.mp4 03:37

  *   21 章节测试(二)

*   03 Zookeeper核心技术与实战/

  *   01 Zookeeper架构设计.mp4 09:20

  *   02 Zookeeper数据结构znode特性.mp4 05:06

  *   03 Zookeeper监听机制.mp4 05:00

  *   04 配置集群Hosts文件.mp4 05:19

  *   05 配置时钟同步服务器.mp4 19:00

  *   06 ssh集群免密登录.mp4 06:39

  *   07 集群脚本开发与使用.mp4 18:15

  *   08 Zookeeper版本选择与集群规划.mp4 07:04

  *   09 集群安装配置JDK.mp4 11:56

  *   10 Zookeeper分布式集群安装.mp4 14:16

  *   11 Zookeeper集群状态信息查看.mp4 07:50

  *   12 Zookeeper shell实操.mp4 05:12

  *   13 Zookeeper Java客户端实操(1).mp4 07:50

  *   14 Zookeeper Java客户端实操(2).mp4 11:19

  *   15 Zookeeper Java客户端实操(3).mp4 08:15

  *   16 Zookeeper Java客户端实操(4).mp4 07:37

  *   17 Zookeeper Java客户端实操(5).mp4 11:04

  *   18 Zookeeper分布式爬虫监控项目(1).mp4 19:37

  *   19 Zookeeper分布式爬虫监控项目(2).mp4 16:05

  *   20 Zookeeper分布式爬虫监控项目(3).mp4 05:49

  *   21 Zookeeper分布式爬虫监控项目(4).mp4 15:05

  *   22 Zookeeper分布式爬虫监控项目(5).mp4 09:11

  *   23 CAP理论与Zookeeper.mp4 12:32

  *   24 leader选举原理深度剖析(1).mp4 09:22

  *   25 leader选举原理深度剖析(2).mp4 03:28

  *   26 Zookeeper读取原理剖析.mp4 04:00

  *   27 Zookeeper zab协议核心原理.mp4 14:13

  *   28 章节测试(三)

*   04 HDFS核心技术与实战/

  *   01 HDFS核心知识要点.mp4 11:33

  *   02 fsimage与editslog合并过程.mp4 06:13

  *   03 hdfs副本策略.mp4 05:44

  *   04 hdfs读写流程.mp4 07:20

  *   05 hdfs1.x架构瓶颈之单点故障解决方案.mp4 10:22

  *   06 hdfs2.x架构设计.mp4 04:46

  *   07 hdfs1.x架构瓶颈之内存受限解决方案.mp4 04:18

  *   08 hdfs2.x架构瓶颈及hdfs3.x解决方案.mp4 05:18

  *   09 hdfs集群规划.mp4 03:48

  *   10 hdfs集群搭建(1).mp4 23:04

  *   11 hdfs集群搭建(2).mp4 12:31

  *   12 hdfs集群状态查看与测试.mp4 08:39

  *   13 hdfs HA故障转移验证测试.mp4 09:40

  *   14 hdfs 安全模式.mp4 07:06

  *   15 hdfs回收站.mp4 17:02

  *   16 hdfs集群运维管理.mp4 06:32

  *   17 项目实战:shell定时上传文件至HDFS(1).mp4 08:24

  *   18 项目实战:shell定时上传文件至HDFS(2).mp4 15:54

  *   19 项目实战:shell定时上传文件至HDFS(3).mp4 07:16

  *   20 项目实战:shell定时上传文件至HDFS(4).mp4 14:59

  *   21 章节测试(四)

*   05 YARN核心技术与实战/

  *   01 YARN基本架构.mp4 13:06

  *   02 YARN工作流程详解.mp4 06:11

  *   03 YARN HA高可用原理详解.mp4 04:32

  *   04 YARN的容错机制.mp4 05:12

  *   05 YARN集群规划.mp4 03:03

  *   06 YARN集群配置.mp4 07:40

  *   07 YARN集群测试运行.mp4 14:47

  *   08 YARN集群运维管理.mp4 09:02

  *   09 YARN容量调度器理论与实操(1).mp4 08:33

  *   10 YARN容量调度器理论与实操(2).mp4 11:38

  *   11 YARN公平调度器理论与实操(1).mp4 08:09

  *   12 YARN公平调度器理论与实操(2).mp4 05:02

  *   13 不同应用场景如何正确选择调度器.mp4 06:46

  *   14 章节测试(五)

*   06 MapReduce核心技术与实战/

  *   01 MapReduce是什么.mp4 07:48

  *   02 为什么要使用MapReduce.mp4 09:55

  *   03 何时何地使用MapReduce.mp4 05:25

  *   04 MapReduce数据处理逻辑详解.mp4 08:04

  *   05 构建Hadoop maven工程项目.mp4 12:38

  *   06 MapReduce案例实现(1).mp4 11:54

  *   07 MapReduce案例实现(2).mp4 04:17

  *   08 MapReduce案例实现(3).mp4 14:17

  *   09 Local模式运行MapReduce.mp4 13:08

  *   10 hadoop集群模式运行MapReduce(1).mp4 10:37

  *   11 hadoop集群模式运行MapReduce(2).mp4 08:24

  *   12 hadoop API提交job模式运行MapReduce(1.mp4 13:22

  *   13 hadoop API提交job模式运行MapReduce(2.mp4 07:39

  *   14 管理多个MapReduce应用程序(1).mp4 14:00

  *   15 管理多个MapReduce应用程序(2).mp4 03:44

  *   16 MapReduce编程模型.mp4 04:48

  *   17 MapReduce数据处理流程.mp4 04:13

  *   18 MapReduce shuffle过程详解.mp4 05:13

  *   19 MapReduce shuffle参数详解(1).mp4 06:06

  *   20 MapReduce shuffle参数详解(2).mp4 05:33

  *   21 MapReduce 性能调优重要参数讲解.mp4 05:20

  *   22 MapReduce数据倾斜(1).mp4 06:23

  *   23 MapReduce数据倾斜(2).mp4 06:02

  *   24 MapReduce二次排序原理.mp4 06:25

  *   25 MapReduce二次排序实现(1).mp4 14:16

  *   26 MapReduce二次排序实现(2).mp4 08:08

  *   27 二次排序实现Reduce Join(1).mp4 10:16

  *   28 二次排序实现Reduce Join(2).mp4 10:09

  *   29 笛卡尔积实现Reduce Join.mp4 12:30

  *   30 分布式缓存实现Reduce Join(1).mp4 04:48

  *   31 分布式缓存实现Reduce Join(2).mp4 12:26

  *   32 分布式缓存实现Reduce Join(3).mp4 14:27

  *   33 分布式缓存实现Map Join.mp4 13:13

  *   34 借助数据库实现Map Join.mp4 03:27

  *   35 Semi 半连接实现 Reduce Join(1).mp4 10:53

  *   36 Semi 半连接实现 Reduce Join(2).mp4 07:34

  *   37 BloomFilter实现Reduce Join(1).mp4 16:40

  *   38 BloomFilter实现 Reduce Join(2).mp4 07:40

  *   39 MapReduce项目实战(1).mp4 04:23

  *   40 MapReduce项目实战(2).mp4 14:24

  *   41 MapReduce项目实战(3).mp4 11:05

  *   42 MapReduce项目实战(4).mp4 11:31

  *   43 MapReduce项目实战(5).mp4 08:32

  *   44 MapReduce项目实战(6).mp4 20:28

  *   45 MapReduce项目实战(7).mp4 21:53

  *   46 章节测试(六)

*   07 结课考试/

  *   01 结课考试