这门课解决什么工作场景

很多做数据开发的人,平时写 SQL 逻辑很顺,但一遇到从零搭一套离线数仓环境就容易卡壳。虚拟机怎么克隆、节点之间怎么配置免密登录、Hadoop 配置文件里哪些参数必须改、JDK 怎么统一分发到多个节点,这些事单独看都不难,但串在一起就会踩很多坑。这门课的价值不在于教你写多复杂的分析逻辑,而是带你把一套标准的离线数仓底层环境从无到有跑通。它对应的工作场景很具体:进新公司要自己搭开发环境、做项目需要本地起一套测试集群、或者转行做数据开发需要补齐底座工程能力。如果你之前只是零散用过 Hadoop,没独立部署过多节点集群,这部分实操经验正好能补上。

适合什么基础,学完能独立做什么

这门课对基础的要求是:会基本的 Linux 命令,能看懂 Shell 脚本,了解关系型数据库的基本操作。不需要你精通 Java,但至少得知道环境变量怎么配、命令行报错时大致往哪个方向排查。课程内容从虚拟机创建和克隆讲起,覆盖静态 IP 配置、MySQL 安装、Hadoop 解压与配置文件修改、JDK 多节点分发,最后到同步数据脚本。学完之后你应该能独立完成这几件事:在一台物理机上用虚拟机模拟出多节点集群环境;完成所有节点的网络配置和免密登录;把 Hadoop 运行起来并验证集群是否正常;写简单的数据同步脚本把文件分发到各节点。说白了,学完不是让你成为运维专家,而是让你遇到环境问题时不再完全依赖别人,能自己动手排查和修复。

资料怎么配合练习

建议的观看顺序是先跟着视频把虚拟机和网络配置部分过一遍,这部分看似简单但容易出错,尤其是静态 IP 配置和免密登录,很多环境不通的根因就在这里。确认网络层没问题之后再进入 Hadoop 安装环节,重点对照配置文件那几节,建议自己手敲一遍而不是直接复制,这样后面改参数时才知道每行的作用。JDK 安装和多节点分发那几节,建议准备一台干净的虚拟机跟着做,不要在已有环境上改,避免变量冲突导致排查困难。整体节奏上,前半段环境搭建可以集中一两天跟着做完,后半段 Hadoop 配置部分建议每改一个参数就重启验证一次,不要攒着一起测,否则报错时很难定位是哪步出了问题。这套资料的节奏比较紧凑,每节十分钟出头,适合边看边操作,不适合纯听课不动手。


01.掌握电信数据仓库项目建设的流程和实践方法;

课程目录

*   01 1.项目介绍.mp4 10:01

*   02 2.虚拟机创建和克隆.mp4 10:30

*   03 3.客户端链接工具.mp4 03:03

*   04 4.配置所有节点.mp4 12:02

*   05 5.配置免密登陆.mp4 11:27

*   06 6.安装常用软件和统一目录.mp4 06:25

*   07 7.同步数据脚本指令.mp4 13:16

*   08 8.jdk的安装到4个虚拟机.mp4 12:33

*   09 2.1.jdk biz01上拷贝(补,有问题加上去).mp4 05:55

*   10 2.2.MySql的数据库安装.mp4 20:44

*   11 2.3.静态IP的配置.mp4 03:31

*   12 2.4.hadoop的上传和解压.mp4 09:26

*   13 2.5.hadoop的配置文件 设置.mp4 14:36

*   14 2.6.环境变量的配置.mp4 07:48

*   15 2.7.hadoop集群启动和停止.mp4 13:05

*   16 2.8.JobHistory的配置和启动.mp4 08:46

*   17 2.9.WordCount案例统计.mp4 15:58

*   18 2.10.数仓建模概念之一 维度表.mp4 06:40

*   19 2.11.数仓建模概念之二 四层结构.mp4 04:21

*   20 3.1 Redis的安装.mp4 10:44

*   21 3.2 Redis的配置和启动.mp4 08:42

*   22 3.3 日志数据的导入.mp4 05:35

*   23 3.4 SpringBoot生成日志.mp4 09:38

*   24 3.5 biz01业务系统添加hadoop.mp4 09:16

*   25 3.6 flume的配置和测试.mp4 07:28

*   26 3.7 flume采集日志到hdfs.mp4 18:29

*   27 3.8 Hive-on-spark简介.mp4 04:02

*   28 3.9 hive的安装和配置.mp4 12:11

*   29 3.10 Hive的启动测试.mp4 10:53

*   30 3.11 Spark的配置和测试.mp4 13:52

*   31 3.12 HivetoSpark结合.mp4 11:58

*   32 3.13 客户端链接Hive.mp4 08:02

*   33 3.14 Idea配置和Hive的链接.mp4 13:59

*   34 4.1 ods 源数据层 数据构建.mp4 13:36

*   35 4.2 udf函数的创建.mp4 24:58

*   36 4.3 dwd 数据明细层.mp4 10:05

*   37 4.4 dws宽表汇总层.mp4 02:39

*   38 4.5 时间和地区维度表的创建.mp4 05:19

*   39 4.6 aws应用数据层的创建.mp4 06:47

*   40 4.7 DataX的简介.mp4 05:39

*   41 4.8 DataX的安装和测试.mp4 05:25

*   42 4.9 DataX从Hdfs采集数据到mysql的Behavior库.mp4 10:11

*   43 4.10 阿里云mysql测试.mp4 09:51

*   44 4.11 密码问题.mp4 04:51

*   45 4.11.2 链接阿里云数据 导入sql数据.mp4 03:44

*   46 4.12 QucikBI数据的两种方式.mp4 06:10

*   47 4.13 QuickBI数据集的创建.mp4 06:43

*   48 4.14 用户城市分析仪表盘.mp4 08:44

*   49 4.15 上网行为分析.mp4 02:51