人工精选黑马程序员-小白从零快速掌握数据湖架构开发(最新技术Delta Lake)
数据湖这三个字,过去几年被讲得太玄。很多团队的真实处境是:业务数据散在 MySQL、日志文件、埋点流里,离线跑一遍 Hive,实时再搭一套 Kafka 链路,同一份指标两套口径,对不上就开始扯皮。这门课要解决的就是这个场景——用 Delta Lake 把批和流收到同一张表上,让存储层自己管好事务、版
会员可免费下载本篇月会员可按日额度下载(每篇扣 1 次)。
开通会员 ›会员 A · 按档位折扣
会员 B
游客按标价购买,不享受上表折扣。
支付成功后自动发放网盘链接,链接失效可找客服免费补
数据湖这三个字,过去几年被讲得太玄。很多团队的真实处境是:业务数据散在 MySQL、日志文件、埋点流里,离线跑一遍 Hive,实时再搭一套 Kafka 链路,同一份指标两套口径,对不上就开始扯皮。这门课要解决的就是这个场景——用 Delta Lake 把批和流收到同一张表上,让存储层自己管好事务、版本和增量读取。
它解决的是哪一类工作问题
课程从数据湖的基本概念讲起,中间会过一遍 Lambda 架构为什么让人头疼,再落到 Delta Lake 上。核心要处理的是三件事:一是并发写入时的数据一致性,多个任务同时写一张表不再互相覆盖;二是增量消费,下游不用每次全量重跑,能按版本读新增数据;三是历史回溯,改错了或者想复现某天的结果,可以按版本查回去。云平台部分涉及对象存储的基础概念,讲的是数据放在 S3 这类存储上时,计算和存储分离之后该怎么组织表。这些不是理论摆设,是日常做数仓、做实时链路时真会碰到的取舍。
适合什么基础,先看哪几块
这门课定位在零基础入门,但零基础指的是没接触过数据湖,不是没写过代码。如果你完全不懂 SQL、没跑过 Spark 任务、不知道分区和列式存储是什么,直接跟会比较吃力,建议先补一段 Spark 基础和 Hive 表的基本操作。有大数据开发经验、平时写离线任务或实时任务的人,上手会顺很多。
学习顺序上,建议先把数据湖概念和 Lambda 架构那部分看完,理解为什么需要一张能同时承载批和流的表,这是后面所有操作的动机。然后进入 Delta Lake 的读写和表管理,这部分是主干,值得反复练。云平台和对象存储的内容可以放在后面看,它更多是帮你理解生产环境里表存在哪、怎么和计算集群配合,不影响你先把本地链路跑通。
学完能独立做什么,资料怎么用
跟完并动手练过之后,你应该能独立完成这些事:在 Delta Lake 上建表并写入数据,处理并发写入的冲突,用增量方式读取新增数据而不是全量扫描,按版本查询或回滚历史数据,以及把一张表同时接给批处理任务和流式任务使用。换句话说,一条从数据接入到可查询的链路,你能自己搭起来并解释每一步为什么这么做。
资料里的视频是主线,建议按顺序看,但不要只看不写。每看完一段,自己造一份小数据把对应操作跑一遍,尤其是并发写入和历史版本这两块,光看演示很难有体感。配套的压缩资料用来对照操作,不要当成独立教材去读。遇到云平台那部分,如果没有真实账号,理解概念和调用方式即可,不必卡在环境上。整门课的重点不在记住多少配置项,而在建立“一份数据、一套表、批流共用”的思路,这个思路比具体 API 更耐用。
课程目录
3-第三章47 集
- 3-第三章资料.zip
- [1.8 MB] 03-Lambda架构的简单介绍.mp4
- [358.8 MB] 📁 10-第十章 10-第十章必看.png [493.5 KB] 10-1-4-云平台对企业的意义.mp4
- [58.3 MB] 10-1-1云平台的基础概念.mp4
- [153.6 MB] 10-2-1-AWS-S3简介.mp4
- [147.0 MB] 10-1-2-两类云平台和主流公有云平台介绍.mp4
- [59.1 MB] 10-2-5-AWS-Glue-ETl-简单介绍.mp4
- [287.7 MB] 10-2-3-AWS-EMR-集群模式介绍.mp4
- [411.1 MB] 10-2-4-AWS-EMR-步骤运行模式介绍.mp4
- [287.7 MB] 10-2-6-AWS-其它辅助工具介绍和课程总结.mp4
- [43.8 MB] 10-1-3-IaaS-PaaS-SaaS的概念.mp4
- [54.7 MB] 10-2-2-AWS-Athena分析框架简介.mp4
- [114.7 MB] 📁 2-第二章 2-第二章文档.png [493.5 KB] 02-3-数据湖对企业的价值.mp4
- [35.8 MB] 02-4-数据湖概念的总结.mp4
- [75.4 MB] 02-5-数据湖的4个设计原则.mp4
- [73.4 MB] 02-2-3种常见的数据湖实现方案.mp4
- [155.7 MB] 02-1-写时模式和读时模式.mp4
- [7.8 MB] 📁 7-第七章 7-第七章文档.zip
- [1.8 MB] 07-3-DeltaLake-更新和删除对Parquet数据文件的影响.mp4
- [173.8 MB] 07-5-DeltaLake-表常用工具和阶段总结.mp4
- [175.4 MB] 07-2-DeltaLake-Schema验证.mp4
- [242.0 MB] 07-1-DeltaLake表分区和追加.mp4
- [123.4 MB] 07-4-DeltaLake-vacuum方法.mp4
- [224.2 MB] 📁 4-第四章 4-第四章资料.zip
- [1.8 MB] 04-数据湖的核心以及和普通大数据分析平台的不同.mp4
- [229.8 MB] 📁 9-第九章 9-第九章说明.png [493.5 KB] 09-3-第九章总结.mp4
- [23.7 MB] 09-2-5-导出数据为普通parquet文件.mp4
- [63.3 MB] 09-1-案例需求分析.mp4
- [11.8 MB] 09-2-2-基础数据增加新列.mp4
- [112.2 MB] 09-2-1-基础数据(中间数据)的准备.mp4
- [383.6 MB] 09-2-4-统计全天热门TOP100查询关键词.mp4
- [251.0 MB] 09-2-3-统计每小时TOP10热门查询关键词.mp4
- [455.3 MB] 📁 6-第六章 6-第六章说明.png [493.5 KB] 06-4-DeltaLake的事务日志.mp4
- [126.5 MB] 06-1-DeltaLake创建表-读取表-覆盖表操作.mp4
- [21.8 MB] 06-2-DeltaLake有条件更新和合并操作.mp4
- [88.0 MB] 06-3-DeltaLake的数据版本控制.mp4
- [92.0 MB] 📁 1-第一章 01-1-2-补充-结构化-半结构化-非结构化数据.mp4
- [44.7 MB] 00-课程目标.mp4
- [3.8 MB] 01-2-数据湖的概念.mp4
- [50.1 MB] 01-3-数据湖-数仓-数据集市的区别.mp4
- [81.0 MB] 01-1-1-企业的数据困扰.mp4
- [83.6 MB] 📁 8-第八章 08-3-DeltaLake-最佳实践和总结.mp4
- [204.3 MB] 08-2-DeltaLake-Schema演化相关概念回顾.mp4
- [62.1 MB] 08-1-DeltaLake-事务日志概念回顾.mp4
- [140.0 MB] 📁 5-第五章 05-1-DeltaLake的简介和重点特性解读.mp4
- [182.5 MB] 05-2-DeltaLake的使用形式.mp4
- [78.9 MB] 适合人群 大数据开发工程师 数据架构师 数据分析师 学习收获 掌握数据湖架构原理 熟练使用Delta Lake 提升大数据处理能力 祝您学习愉快! 学有所成,前程似锦!





