mimarlab.dev

Airflow 2.6 notları

Kendi test ortamımda çalıştırdığım Apache Airflow 2.6.3 sürümüyle gelen altı özelliğin kısa özeti.

Airflow 2.6.3 Python 3.8 LocalExecutor

01

2.6.3 bir yama sürümü

Özelliklerin çoğu 2.6.0 ile geldi (30 Nisan 2023). 2.6.3 ise 10 Temmuz 2023 tarihli bir yama sürümü: yeni özellik değil, hata düzeltmeleri ve küçük iç değişiklikler içeriyor. Yani aşağıdaki maddelerin hepsi 2.6.x serisinin ortak mirası.

02

Bildirim çerçevesi (notifiers)

Bir görev ya da DAG çalıştırması durum değiştirdiğinde, dış sistemlere mesaj göndermek için hazır bir çerçeve geldi. Slack desteği kutudan çıktığı gibi var. Kendi bildirim türünü yazmak da mümkün.

03

Trigger logları görev loguna düştü

Ertelenebilir (deferrable) operatörler çalışırken tetikleyiciden gelen loglar artık görevin diğer logları ile aynı yerde, arayüzde birlikte görünüyor. Hata ararken iki ayrı yere bakmak gerekmiyor.

04

Grid görünümünde graph sekmesi

Grid ve graph görünümleri artık birbirine bağlı: birinde bir görev seçince diğerinde de vurgulanıyor. Çalıştırma geçmişi ile bağımlılık şeması arasında gidip gelmek kolaylaştı.

05

Upstream / downstream filtresi

Graph görünümünde bir görev seçip yalnızca ondan önceki (upstream) ya da sonraki (downstream) görevleri gösterebiliyorsun. Büyük DAG'lerde "bu görev neye bağlı, neleri etkiliyor?" sorusunun cevabı tek tıkta.

06

Parametreli DAG'ler için tetikleme formu

DAG seviyesinde params tanımladıysan, DAG'i elle tetiklerken arayüz sana bir form gösteriyor. Değerleri JSON yazmadan doldurabiliyorsun.

Küçük bir bonus: [scheduler] task_queued_timeout ayarı, kuyrukta takılı kalan görevleri tek bir yerden yönetmeni sağlıyor.