如果你在工作中开始频繁听到 HDFS、离线数仓、海量日志存储这些词,却又说不清它们到底怎么落地,这套大数据项目实战营解决的就是这个断层:把概念讲成能动手操作的东西。它不承诺转行,也不打包票进大厂,只是把大数据入门阶段最容易卡住的那几块——分布式存储的原理和实操——按顺序摊开讲。
它对准的工作场景
最典型的是数据量涨到单机扛不住的时候。业务日志、埋点、订单流水越堆越多,一台服务器存不下也读不快,团队就会引入分布式存储。这时候你需要回答的问题很具体:文件被切成块之后放在哪、副本怎么保证不丢、NameNode 挂了怎么办、怎么用命令行把数据传进去再取出来。这套内容围绕 HDFS 展开,正是大数据体系里最先要迈过的那道门槛。学完它,你至少能在面试或日常沟通中把 HDFS 的读写流程、副本机制、常见故障点讲清楚,而不是只会背名词。
适合什么基础,先看哪几块
它面向的是有基本 Linux 操作经验、会一点 Java 或至少能看懂代码的人。如果你完全没碰过命令行,建议先补一下目录切换、文件权限、进程查看这些,否则跟课会很吃力。开头两节的大数据概述可以先快速过一遍,用来建立整体图景,知道存储、计算、调度各自管什么。真正的重头在 HDFS 那几节,占了资料里的大部分篇幅,建议按顺序看,不要跳。每一节通常先讲设计思路再落到操作,跟着敲一遍比只看要有效得多。如果你已经有 Hadoop 基础,可以重点看副本策略和读写异常处理的部分,跳过概述。
学完能独立做什么,资料怎么配合练
比较现实的目标是:能在自己的机器或虚拟机上把 HDFS 跑起来,完成上传、下载、查看块信息、调整副本数这些操作,遇到 DataNode 掉线时知道从哪里排查。再进一步,能理解为什么小文件多会拖垮 NameNode,从而在设计存储方案时避开这个坑。资料以视频为主,配合练习才有效果,建议每看完一节就动手做三件事:一是把课上演示的命令自己敲一遍并记录输出,二是故意制造一次故障(比如停掉一个节点)观察系统反应,三是用自己的话把这一节的核心机制写成几行笔记。只看不练,过两周基本就忘了。这套资料不适合当背景音播放,它需要你坐在电脑前跟着操作。
最后提醒一句:大数据是个链条很长的方向,HDFS 只是存储这一环。学完这套内容,你拿到的是入门的第一块拼图,后面还有计算框架、资源调度、数仓建模等一大堆东西。把它当成打地基,而不是终点,心态会稳很多。
课程目录
课程目录42 集
- 课程介绍 本页收录 极客时间 -大数据项目实战营,方向为中间件,重点涉及 中间件。 内容涵盖:─ 01大数据概述、─ 02大数据概述、─ 03大数据“三驾马车”之HDFS、─ 04大数据“三驾马车”之HDFS、─ 05大数据“三驾马车”之HDFS、─ 06大数据“三驾马车”之HDFS 等主题。 适合正在补 中间件 相关知识、想按目录逐步推进的学习者。 下方为完整资料与目录,可先看目录判断是否符合需要。 【极客时间-bigdata2nd】大数据项目实战营 ├── 01大数据概述-1 .mp4
- ├── 02大数据概述-2.mp4
- ├── 03大数据“三驾马车”之HDFS-1.mp4
- ├── 04大数据“三驾马车”之HDFS-2.mp4
- ├── 05大数据“三驾马车”之HDFS-3.mp4
- ├── 06大数据“三驾马车”之HDFS-4.mp4
- ├── 07大数据“三驾马车”之HDFS-5.mp4
- ├── 08大数据“三驾马车”之HDFS-6.mp4
- ├── 09加餐 Hadoop集群部署演示.mp4
- ├── 10Hadoop命令和API、MapReduce、YARN的思想和架构.mp4
- ├── 11资源调度器、YARN高级特性(上).mp4
- ├── 12YARN高级特性(下)、Hadoop拓展之RPC和安全机制.mp4
- ├── 13练习题讲解、Hadoop拓展之Ozone、HBase概述 .mp4
- ├── 14HBase的逻辑与物理视图、整体架构、高可用性.mp4
- ├── 15Hive概述、Hive的基本原理.mp4
- ├── 16HiveQL详解、DDL和DML、常用存储格式.mp4
- ├── 17Parquet、Hive性能优化、Hive on Tez_Spark.mp4
- ├── 18RDD编程模型.mp4
- ├── 19SparkCore架构和原理、任务调度、Spark Streaming.mp4
- ├── 20Spark Shuffle、数据倾斜及其优化、Spark内存管理.mp4
- ├── 21Spark SQL基本架构、结构化数据和DataFrame.mp4
- ├── 22Spark SQL中的“树”、SQL编译器和ANTLR、Catalog.mp4
- ├── 23逻辑计划树和优化器、物理计划树和策略器.mp4
- ├── 24代码生成技术、向量化技术.mp4
- ├── 25SparkThriftserver、Spark的AQE和DPP加速.mp4
- ├── 26课后作业-彦功助教讲题.mp4
- ├── 27Spark SQL优化技术详解(上) .mp4
- ├── 28Spark SQL优化技术详解(下) .mp4
- ├── 29Presto详解.mp4
- ├── 30Kylin详解.mp4
- ├── 31ClickHouse详解.mp4
- ├── 32ClickHouse应用、Kafka详解.mp4
- ├── 33Flink详解(上) .mp4
- ├── 34Flink详解(下) .mp4
- ├── 35Data Warehouse详解、Data Platform详解(上).mp4
- ├── 36Data Platform详解(下)、Delta Lake详解(上) .mp4
- ├── 37Delta Lake详解(下).mp4
- ├── 38Hudi详解、Iceberg详解 .mp4
- ├── 39大数据基础算法、Scala基础.mp4
- ├── 40Hadoop核心源码解读、Spark核心源码解读.mp4
- ├── 41Spark核心源码解读、大数据工程师面试与成长.mp4
- ├── 课件+源码+文档.rar






