这门课瞄准的是从“会写SQL”到“能落地数仓项目”的断层。很多职场新人卡在简历上只有“参与过某项目”,却说不清离线数仓的分层逻辑、调度依赖和质量监控如何闭环。拉勾大数据开发14期针对这一痛点,核心内容围绕PB级电商离线数仓实战展开,不讲抽象理论,而是让学员亲手搭建从ODS层原始数据导入到ADS层应用展示的全链路。它适合具备Hive、HDFS、Spark基础,但缺乏完整项目经验的初级开发者或转行者。如果你是纯零基础,连Linux和SQL都没摸熟,建议先补基础再介入,否则在配置依赖组件和编译安装环节会消耗大量精力。
资料包的结构非常适合按阶段拆解学习。不要试图一口气看完所有视频,建议按任务模块顺序推进。首先是“核心交易分析”部分,这是地基。你需要重点关注ODS层的全量与增量数据导入逻辑,以及DWD层缓慢变化维(SCD)的处理方法,特别是拉链表的设计与回滚测试。这部分直接决定你后续能否正确聚合数据。接着进入工程化环节,分别攻克调度系统Airflow、元数据管理Atlas和数据质量管理Griffin。Airflow部分重点在于依赖关系配置和项目集成,而非单纯安装;Atlas关注Hive元数据的导入与血缘管理展示;Griffin则侧重数据质量规则的编写与监控报警。每一个模块都包含详细的编译安装步骤,这部分内容密集且易出错,建议边看视频边在本地环境实操记录报错。
学完这套资料,你应当能独立承担以下工作:接手一个中型电商业务需求,设计出分层合理的数仓模型,使用Airflow实现每日定时调度,利用Atlas追踪表级血缘关系,并通过Griffin对关键业务指标进行质量校验。最终能输出包含可视化图表的项目总结报告。在资料配合练习上,视频中的代码片段需手动敲入编辑器而非复制粘贴,尤其是YAML配置文件和Python脚本。对于PB级数据量,本地测试可用小样本验证逻辑,但务必理解代码中处理大规模数据时的分片与优化策略。这套资料的价值在于提供了真实的工程约束,比如依赖组件版本冲突、分布式环境下的调试技巧,这些是纯教程难以覆盖的职场真实场景。坚持按模块闭环练习,比单纯观看更能转化为面试时的具体项目陈述能力。
课程目录
📁 05、第五阶段PB级企业电商离线数仓项目实战 📁 PB级企业电商离线数仓项目实战(下) 📁 5--任务四:数据质量管理Griffin 2--依赖组件安装.mp4 [438.8 MB] 1--Griffin概述.mp4 [155.7 MB] 5--数据可视化.mp4 [172.4 MB] 3--Griffin编译安装.mp4 [558.1 MB] 6--离线数仓项目总结.mp4 [84.5 MB] 4--数据质量监控.mp4 [186.7 MB] 📁 4--任务三:元数据管理Atlas 4--血缘管理展示.mp4 [184.4 MB] 1--数仓元数据管理.mp4 [141.4 MB] 2--Atlas架构及编译.mp4 [319.3 MB] 3--安装导入Hive元数据.mp4 [416.1 MB] 📁 3--任务二:调度系统Airflow 5--Airflow项目集成.mp4 [111.2 MB] 1--Airflow概述.mp4 [55.8 MB] 2--Airflow安装.mp4 [528.5 MB] 4--Airflow入门案例.mp4 [325.5 MB] 3--Airflow配置.mp4 [452.2 MB] 📁 1--课程资料 📁 2--任务一:核心交易分析 23--ADS层实现part01.mp4 [174.5 MB] 17--DIM层_商品信息表处理.mp4 [76.8 MB] 4--全量数据导入_其他表.mp4 [109.4 MB] 21--DWS层实现_订单明细宽表.mp4 [98.4 MB] 10--拉链表案例_拉链表测试使用.mp4 [273.7 MB] 7--缓慢变化维的处理.mp4 [110.2 MB] 25--小结.mp4 [35.0 MB] 12--拉链表案例_回滚实现与测试.mp4 [353.0 MB] 1--业务需求&业务数据库.mp4 [263.1 MB] 18--DWD建表与数据加载.mp4 [219.0 MB] 19--DWS层设计.mp4 [72.2 MB] 20--DWS层实现_订单明细表.mp4 [124.8 MB] 6--ODS层建表与数据加载.mp4 [105.0 MB] 24--ADS层实现part02.mp4 [74.0 MB] 5--增量数据导入.mp4 [367.1 MB] 8--拉链表案例_建表加载数据.mp4 [321.9 MB] 3--全量数据导入_产品目录表.mp4 [438.7 MB] 14--拉链表小结.mp4 [52.8 MB] 2--数据导入需求分析.mp4 [69.2 MB] 9--拉链表案例_构建拉链表.mp4 [456.2 MB] 13--周期性事实表_拉链表实现.mp4 [241.1 MB] 16--DIM层_商品地域组织表.mp4 [180.2 MB] 11--拉链表案例_拉链表回滚.mp4 [233.6 MB] 15--DIM层_产品分类表.mp4 [275.9 MB] 22--DWS层实现_测试.mp4 [217.9 MB] 📁 PB级企业电商离线数仓项目实战(上) 📁 1--课程资料 📁 2--任务一:数仓理论 6--数仓理论_数仓分层.mp4 [340.7 MB] 3--数仓理论_数据仓库与数据库的区别.mp4 [243.6 MB] 15--数仓设计_集群规模估算.mp4 [67.0 MB] 17--数仓设计_开发环境&命名规范.mp4 [74.0 MB] 8--数仓理论_星型模型&雪花模型&事实星座.mp4 [48.4 MB] 9--数仓理论_元数据.mp4 [52.7 MB] 16--数仓设计_系统逻辑架构.mp4 [79.8 MB] 12--数仓设计_数据指标体系.mp4 [397.7 MB] 13--数仓设计_框架选择.mp4 [101.6 MB] 2--数仓理论_数仓概念及数仓特征.mp4 [139.6 MB] 10--数仓设计_需求分析.mp4 [125.6 MB] 7--数仓理论_事实表与维度表&事实表分类.mp4 [454.3 MB] 4--数仓理论_数据集市.mp4 [121.1 MB] 11--数仓设计_数据埋点.mp4 [118.5 MB] 14--数仓设计_软件&服务器选型.mp4 [24.7 MB] 5--数仓理论_建模方法.mp4 [261.0 MB] 1--课程介绍及项目背景.mp4 [80.4 MB] 📁 4--任务三:会员活跃度分析 4--会员活跃度分析_SerDe处理json数据.mp4 [88.5 MB] 12--会员活跃度分析_新增会员ADS计算及小结.mp4 [189.5 MB] 3--会员活跃度分析_自定义UDF解析json串.mp4 [255.7 MB] 21--会员活跃度分析_高仿数据测试_数据加载及内存分配.mp4 [522.7 MB] 5--会员活跃度分析_DWD建表&加载数据.mp4 [310.7 MB] 26--会员活跃度分析_会员留存率Bug修改.mp4 [374.8 MB] 8--会员活跃度分析_活跃会员ads层指标计算.mp4 [232.3 MB] 17--会员活跃度分析_DataX概念及安装.mp4 [262.3 MB] 19--会员活跃度分析_mysqlwriter配置及测试.mp4 [231.5 MB] 1--会员活跃度分析_ODS建表加载数据.mp4 [231.1 MB] 24--会员活跃度分析_tez简介安装.mp4 [576.3 MB] 10--会员活跃度分析_新增会员计算思路.mp4 [209.5 MB] 14--会员活跃度分析_Hive异常的处理.mp4 [278.6 MB] 18--会员活跃度分析_hdfsreader配置.mp4 [225.2 MB] 15--会员活跃度分析_ADS计算.mp4 [186.1 MB] 7--会员活跃度分析_活跃会员周&月计算_.mp4 [351.2 MB] 22--会员活跃度分析_高仿数据测试_调整map&reduce数.mp4 [422.7 MB] 11--会员活跃度分析_新增会员DWS层计算.mp4 [96.3 MB] 6--会员活跃度分析_DWS建表&每日活跃会员计算.mp4 [184.6 MB] 20--会员活跃度分析_高仿数据测试_flume采集日志.mp4 [352.4 MB] 23--会员活跃度分析_高仿数据测试_其他脚本测试.mp4 [168.6 MB] 13--会员活跃度分析_会员留存DWS计算.mp4 [220.5 MB] 16--会员活跃度分析_数据分析小结.mp4 [197.9 MB] 9--会员活跃度分析_活跃会员分析小结.mp4 [107.0 MB] 25--会员活跃度分析_tez引擎高仿数据测试.mp4 [292.4 MB] 2--会员活跃度分析_内建函数解析json.mp4 [218.2 MB] 📁 3--任务二:数据采集 2--会员活跃度分析_数据采集_source.mp4 [124.9 MB] 9--会员活跃度分析_最终测试&数据采集小结.mp4 [372.9 MB] 5--会员活跃度分析_数据采集_自定义拦截器实现.mp4 [453.9 MB] 1--会员活跃度分析_需求说明.mp4 [208.1 MB] 8--会员活跃度分析_升级自定义拦截器.mp4 [595.8 MB] 6--会员活跃度分析_数据采集_自定义拦截器测试.mp4 [478.5 MB] 4--会员活跃度分析_数据采集_agent.mp4 [339.4 MB] 7--会员活跃度分析_启动日志采集.mp4 [179.2 MB] 3--会员活跃度分析_数据采集_sink.mp4 [173.6 MB] 📁 5--任务四:广告分析 2--广告分析_数据采集&ODS层处理.mp4 [180.5 MB] 3--广告分析_DWD层处理.mp4 [658.2 MB] 5--广告分析_漏斗分析计算.mp4 [242.4 MB] 8--广告分析_ADS层数据导出.mp4 [254.2 MB] 6--广告分析_广告效果分析.mp4 [292.9 MB] 9--广告分析_高仿事件日志数据测试.mp4 [496.3 MB] 1--广告分析_业务及需求分析.mp4 [69.0 MB] 7--广告分析_指标分析小结.mp4 [184.4 MB] 4--广告分析_点击次数计算.mp4 [138.3 MB] 📁 13、第十三阶段机器学习 📁 TensorFlow机器学习框架 📁 2--任务二:TensorFlow实现线性回归 3--TensorFlow实现线性回归_part03.mp4 [86.2 MB] 1--TensorFlow实现线性回归_part01.mp4 [68.0 MB] 2--TensorFlow实现线性回归_part02.mp4 [45.1 MB] 4--TensorFlow实现线性回归_part04.mp4 [67.4 MB] 6--TensorFlow实现线性回归_part06.mp4 [123.6 MB] 5--TensorFlow实现线性回归_part05.mp4 [59.1 MB] 📁 3--任务三:TensorFLow实现机器学习_逻辑回归 1--TensorFLow实现机器学习_逻辑回归_01.mp4 [87.8 MB] 3--TensorFLow实现机器学习_逻辑回归_03.mp4 [36.5 MB] 2--TensorFLow实现机器学习_逻辑回归_02.mp4 [47.3 MB] 4--TensorFLow实现机器学习_逻辑回归_04.mp4 [150.5 MB] 📁 1--任务一:TensorFlow实现KNN 5--TensorFlow实现KNN_part04.mp4 [75.5 MB] 2--TensorFlow实现KNN_part01.mp4 [85.0 MB] 3--TensorFlow实现KNN_part02.mp4 [70.5 MB] 4--TensorFlow实现KNN_part03.mp4 [72.9 MB] 📁 07、第七阶段智慧物流大数据分析调度平台项目 📁 智慧物流大数据分析调度平台项目 📁 4--任务三:仓储预测及车货匹配 16--跳台阶问题分析.mp4 [13.2 MB] 22--分治策略-概述.mp4 [14.9 MB] 45--车货匹配思路分析.mp4 [20.5 MB] 21--贪心策略-0-1背包问题.mp4 [169.0 MB] 5--例题-计算累加和.mp4 [58.7 MB] 23--分治策略-QuickSort分析.mp4 [43.9 MB] 25--分治策略-QuickSort代码实现.mp4 [504.3 MB] 19--贪心策略-零钱兑换-第一版.mp4 [111.9 MB] 46--车货匹配代码实现第一版.mp4 [60.7 MB] 56--指标开发-快递单主题-数据采集.mp4 [109.0 MB] 57--指标开发-快递单主题-ETL过程.mp4 [143.8 MB] 30--动态规划-找零钱案例-优化二.mp4 [82.6 MB] 51--车货匹配-封装下载HDFS文件与文件夹的工具类.mp4 [268.5 MB] 34--动态规划-最大连续子序列和-优化.mp4 [26.1 MB] 31--动态规划-找零钱案例-打印面值.mp4 [74.5 MB] 14--斐波那契数列优化-第二版.mp4 [56.5 MB] 53--车货匹配代码实现最终版.mp4 [168.9 MB] 61--指标开发-运单主题-数据采集.mp4 [92.3 MB] 47--01背包商品组合方案输出实现.mp4 [228.1 MB] 32--动态规划-找零钱-通用版.mp4 [129.1 MB] 59--指标开发-快递单主题-指标统计-指标统计具体实现.mp4 [118.7 MB] 24--分治策略-QuickSort实现思路分析.mp4 [47.0 MB] 55--指标开发-业务数据表结构介绍.mp4 [26.1 MB] 49--车货匹配代码实现第三版.mp4 [252.8 MB] 44--车货匹配需求介绍.mp4 [31.3 MB] 42--动态规划-背包问题-优化思路分析.mp4 [40.0 MB] 28--动态规划-无后效性.mp4 [27.0 MB] 27--动态规划-简介与案例一.mp4 [175.8 MB] 37--动态规划-LCS-递推实现.mp4 [58.6 MB] 36--动态规划-LCS-递归实现.mp4 [97.2 MB] 6--如何评价算法优劣--事后统计法.mp4 [88.7 MB] 50--车货匹配-Java-API测试HA的HDFS文件系统.mp4 [201.9 MB] 9--估算斐波那契数列实现复杂度.mp4 [127.9 MB] 3--常见的递归调用.mp4 [23.3 MB] 54--指标开发-指标体系介绍.mp4 [11.1 MB] 48--车货匹配代码实现第二版.mp4 [212.8 MB] 20--贪心策略-零钱兑换-问题总结.mp4 [16.4 MB] 26--分治策略-QuickSort-复杂度及稳定性分析.mp4 [103.3 MB] 8--大O表示法-空间复杂度.mp4 [25.1 MB] 41--动态规划-背包问题-第一版.mp4 [114.8 MB] 63--指标开发-运单主题-指标计算与数据导出.mp4 [150.3 MB] 40--动态规划-背包问题-思路分析.mp4 [52.5 MB] 62--指标开发-运单主题-ETL过程.mp4 [97.0 MB] 29--动态规划-找零钱案例-优化一.mp4 [97.5 MB] 2--车货匹配场景分析.mp4 [7.9 MB] 52--车货匹配代码实现第四版.mp4 [290.2 MB] 38--动态规划-LCS-递推实现分析.mp4 [64.6 MB] 60--指标开发-快递单主题-指标统计-指标导出.mp4 [69.8 MB] 35--动态规划-LCS-思路分析.mp4 [63.9 MB] 33--动态规划-最大连续子序列和.mp4 [99.6 MB] 1--智慧物流大数据平台仓储预测代码分析.mp4 [389.6 MB] 11--递归使用步骤与技巧.mp4 [45.3 MB] 58--指标开发-快递单主题-指标统计-express_base_agg.mp4 [229.0 MB] 7--大O表示法-时间复杂度.mp4 [99.1 MB] 10--递归基本思想.mp4 [16.5 MB] 15--斐波那契数列优化-第三版与第四版.mp4 [105.8 MB] 39--动态规划-LCS-一维数组优化.mp4 [111.1 MB] 13--斐波那契数列优化-第一版.mp4 [147.3 MB] 12--斐波那契数列练习-第一版.mp4 [42.8 MB] 4--函数调用过程分析.mp4 [67.4 MB] 43--动态规划-背包问题-优化代码开发.mp4 [42.6 MB] 18--贪心策略-案例一.mp4 [101.8 MB] 17--汉诺塔案例-总结.mp4 [99.8 MB] 📁 3--任务二:平台数据准备 … 其余 28 84 项略,目录共 3084 项






