解决什么工作问题

企业级数据开发中,跨系统、多节点的定时任务往往依赖人工手动执行,不仅效率低下,还容易出错。这门课聚焦于 AirFlow 分布式任务调度框架,主要解决三大痛点:一是如何通过 DAG(有向无环图)清晰地定义复杂的任务依赖关系;二是如何利用 PythonOperator、BashOperator、SSHOperator 等组件自动执行数据清洗、ETL 或 Shell 脚本;三是如何搭建单机与分布式集群环境,实现任务调度的可靠性与高可用。对于测试或运维人员来说,这是从脚本执行向平台化运维转型的关键一步。

适合什么基础

课程内容务实,不涉及空洞的理论。建议读者具备基础的 Linux 操作能力,了解 Python 语法即可。如果你是测试开发工程师、运维工程师,或者从事数据分析工作,需要将零散的数据处理脚本串联成自动化的工作流,这门课非常合适。基础薄弱的同学可以先看第一章的架构原理和第二章的单机搭建,建立环境信心后再进阶。

怎么学、学完能做什么

建议按照“原理-单机-WebUI配置-Operator实战-集群HA”的逻辑顺序学习。先通过第一章理解架构和术语,接着在本地完成单机环境的安装与 WebUI 操作,重点掌握 DAG 定义和任务依赖参数设置。第四章的 Operator 实战是核心,建议结合资料中的 PythonOperator 和 BashOperator 案例进行本地复现,学会如何远程执行脚本和发送邮件。学完后,你将能独立搭建 AirFlow 集群,编写复杂的数据处理调度流程,实现从脚本到自动化平台的跨越。

课程目录

1-第一章-Airflow架构原理及术语 1-01-Airflow任务流调度工具-什么是Airflow.mp4
 24.46M 2-02-Airflow任务流调度工具-Airflow架构角色及作用.mp4
 32.54M 3-03-Airflow任务流调度工具-Airflow术语.mp4
 19.51M 4-04-Airflow任务流调度工具-任务调度原理.mp4
 8.56M 2-第二章-Airflow单机搭建及启动 1-05-Airflow任务流调度工具-Anconda及python3.7环境安装.mp4
 69.54M 2-06-Airflow任务流调度工具-Airflow单节点安装.mp4
 96.18M 3-07-Airflow任务流调度工具-Airflow配置及配置用户.mp4
 68.76M 4-08-Airflow任务流调度工具-Airflow启动.mp4
 30.59M 5-09-Airflow任务流调度工具-Airflowwebui介绍.mp4
 69.36M 3-第三章-AirflowWebUI及DAG依赖参数设置 1-10-Airflow任务流调度工具-Airflow使用.mp4
 18.23M 2-11-Airflow任务流调度工具-AirflowDAG定义三种方式.mp4
 63.87M 3-12-Airflow任务流调度工具-Airflowtask创建及指定task依赖关系.mp4
 56.48M 4-13-Airflow任务流调度工具-Airflow手动、自动调度DAG、删除DAG.mp4
 54.97M 5-14-Airflow任务流调度工具-Airflow调度触发时间.mp4
 25.75M 6-15-Airflow任务流调度工具-AirflowDAGCatchup参数.mp4
 44.39M 7-16-Airflow任务流调度工具-DAG调度周期三种设置方式.mp4
 50.46M 8-17-Airflow任务流调度工具-Airflow任务依赖设置.mp4
 64.65M 4-第四章-AirflowOperator及案例实战 1-18-Airflow任务流调度工具-AirflowBaseOperator参数.mp4
 22.15M 10-27-Airflow任务流调度工具-PythonOperator配置及执行案例.mp4
 80.81M 2-19-Airflow任务流调度工具-AirflowBashOperator执行shell命令.mp4
 29.48M 3-20-Airflow任务流调度工具-Airflow发送邮件配置.mp4
 15.30M 4-21-Airflow任务流调度工具-BashOperator执行shell命令测试.mp4
 49.70M 5-22-Airflow任务流调度工具-BashOperator执行shell脚本.mp4
 51.53M 6-23-Airflow任务流调度工具-SSHOperator参数及依赖安装配置.mp4
 73.20M 7-24-Airflow任务流调度工具-SSHOpeator远程执行脚本案例.mp4
 25.01M 8-25-Airflow任务流调度工具-HiveOperator使用环境准备.mp4
 67.31M 9-26-Airflow任务流调度工具-HiveOperatorDAG执行案例.mp4
 46.02M 5-第五章-Airflow分布式集群原理、搭建及HA测试 1-28-Airflow任务流调度工具-Airflow分布式集群知识扩展.mp4
 26.34M 2-29-Airflow任务流调度工具-Airflow集群搭建环境准备.mp4
 73.34M 3-30-Airflow任务流调度工具-Airflow分布式集群搭建.mp4
 92.79M 4-31-Airflow任务流调度工具-Airflow集群配置及SchedulerHA配置.mp4
 59.85M 5-32-Airflow任务流调度工具-Airflow集群启动.mp4
 36.14M 6-33-Airflow任务流调度工具-Airflow集群HA测试.mp4
 64.63M MSB-AirFlow分布式任务调度框架/ 2-02-Ai