从单机调度到集群高可用,Airflow 实战全流程解析

这门课程直击运维与开发中“任务依赖管理”与“调度自动化”的痛点,核心在于手把手搭建一套可扩展的分布式任务调度系统。对于有 Python 基础但缺乏调度框架实战经验的运维人员,或需要编写复杂依赖任务流的开发人员,这是必经的进阶路径。课程不玩虚的,从单机环境的 Anaconda 配置、WebUI 交互,直接切入 DAG(有向无环图)的依赖参数设置,教你如何精准控制任务触发周期与依赖关系。到了实战环节,重点剖析 BashOperator、PythonOperator 以及 HiveOperator 的参数配置与脚本执行,让你能真正用代码控制服务器与大数据组件。最后,课程进阶到分布式集群搭建与 HA(高可用)测试,这是生产环境落地的关键,能确保调度服务在单点故障下依然稳定运行。建议先看架构原理与单机搭建,理解调度逻辑后再看 Operator 案例与集群配置,最后结合资料包中的脚本进行复现。

资料拆解与练习建议

资料包不仅是视频,更是可直接跑通的代码仓库。建议先下载源码,在本地按照第一章的步骤复现单机环境,重点熟悉 WebUI 的操作与 DAG 的编写规范。在第四章的 Operator 实战中,不要只看视频,要对照资料里的 Python 脚本和 Shell 脚本,亲自修改参数并执行,特别是 HiveOperator 的环境准备与执行案例,这是打通大数据调度链路的核心。对于第五章的集群搭建,建议在虚拟机或云服务器上尝试复现,重点关注 Scheduler HA 配置与集群启动的细节,这能帮你解决生产环境中的服务可用性问题。通过这套资料,你不仅能掌握 Airflow,更能具备独立设计并运维复杂任务流的能力。

课程目录

1-第一章-Airflow架构原理及术语
1-01-Airflow任务流调度工具-什么是Airflow.mp4 24.46M
2-02-Airflow任务流调度工具-Airflow架构角色及作用.mp4 32.54M
3-03-Airflow任务流调度工具-Airflow术语.mp4 19.51M
4-04-Airflow任务流调度工具-任务调度原理.mp4 8.56M
2-第二章-Airflow单机搭建及启动
1-05-Airflow任务流调度工具-Anconda及python3.7环境安装.mp4 69.54M
2-06-Airflow任务流调度工具-Airflow单节点安装.mp4 96.18M
3-07-Airflow任务流调度工具-Airflow配置及配置用户.mp4 68.76M
4-08-Airflow任务流调度工具-Airflow启动.mp4 30.59M
5-09-Airflow任务流调度工具-Airflowwebui介绍.mp4 69.36M
3-第三章-AirflowWebUI及DAG依赖参数设置
1-10-Airflow任务流调度工具-Airflow使用.mp4 18.23M
2-11-Airflow任务流调度工具-AirflowDAG定义三种方式.mp4 63.87M
3-12-Airflow任务流调度工具-Airflowtask创建及指定task依赖关系.mp4 56.48M
4-13-Airflow任务流调度工具-Airflow手动、自动调度DAG、删除DAG.mp4 54.97M
5-14-Airflow任务流调度工具-Airflow调度触发时间.mp4 25.75M
6-15-Airflow任务流调度工具-AirflowDAGCatchup参数.mp4 44.39M
7-16-Airflow任务流调度工具-DAG调度周期三种设置方式.mp4 50.46M
8-17-Airflow任务流调度工具-Airflow任务依赖设置.mp4 64.65M
4-第四章-AirflowOperator及案例实战
1-18-Airflow任务流调度工具-AirflowBaseOperator参数.mp4 22.15M
10-27-Airflow任务流调度工具-PythonOperator配置及执行案例.mp4 80.81M
2-19-Airflow任务流调度工具-AirflowBashOperator执行shell命令.mp4 29.48M
3-20-Airflow任务流调度工具-Airflow发送邮件配置.mp4 15.30M
4-21-Airflow任务流调度工具-BashOperator执行shell命令测试.mp4 49.70M
5-22-Airflow任务流调度工具-BashOperator执行shell脚本.mp4 51.53M
6-23-Airflow任务流调度工具-SSHOperator参数及依赖安装配置.mp4 73.20M
7-24-Airflow任务流调度工具-SSHOpeator远程执行脚本案例.mp4 25.01M
8-25-Airflow任务流调度工具-HiveOperator使用环境准备.mp4 67.31M
9-26-Airflow任务流调度工具-HiveOperatorDAG执行案例.mp4 46.02M
5-第五章-Airflow分布式集群原理、搭建及HA测试
1-28-Airflow任务流调度工具-Airflow分布式集群知识扩展.mp4 26.34M
2-29-Airflow任务流调度工具-Airflow集群搭建环境准备.mp4 73.34M
3-30-Airflow任务流调度工具-Airflow分布式集群搭建.mp4 92.79M
4-31-Airflow任务流调度工具-Airflow集群配置及SchedulerHA配置.mp4 59.85M
5-32-Airflow任务流调度工具-Airflow集群启动.mp4 36.14M
6-33-Airflow任务流调度工具-Airflow集群HA测试.mp4 64.63M
MSB-AirFlow分布式任务调度框架/
2-02-Ai