【アパッチエアフロー】
Apache Airflow とは?
最終更新:
💡 データの流れを空の交通管制のように管理する
Airbnbが開発したオープンソースのワークフロー管理ツール。データパイプラインの定義・スケジュール・監視をPythonコードで行える。
📌 このページのポイント
Airflowってどういうときに使うの?
cronジョブじゃダメなの?
おもしろい!DAGってよく聞くけど何?
有向非巡回グラフのことで、タスクの実行順序を一方向の矢印で表したものだよ。依存関係に循環がない形で定義するんだ。通常は前のタスクの成功を待って次へ進み、依存しないタスクは並行して実行できるよ。失敗や分岐時の動作は設定によって変わるんだ
設定ファイルで書くの?
本番環境だと運用は大変?
自前で運用するとスケジューラやワーカーの管理が結構大変だね。運用の手間を減らす選択肢として、AWSのMWAAなどがあるよ。対応するAirflowのバージョンや設定範囲はサービスごとに確認しようね
📖 おまけ:英語の意味
「Apache Airflow」 = 気流・空気の流れ
💬 Airflowは英語で「気流」という意味だよ。データ処理の流れを管理するツールとして覚えると分かりやすいね