Middle
Airflow'da sensörlar nima uchun kerak?
sobes.tech AI
AIdan javob
Apache Airflow'dagi sensorlar, DAG'da keyingi vazifani boshlashdan oldin muayyan shartlar yoki voqealar ro'y berishini kutish uchun ishlatiladi. Ular vazifalar orasidagi bog'liqlikni faqat jadval bo'yicha emas, balki tashqi omillar, masalan, faylning paydo bo'lishi, Airflow tashqarisidagi boshqa vazifaning tugallanishi yoki resursning mavjudligi asosida tashkil qilish imkonini beradi.
Sensorlardan foydalanish misoli — ma'lumotlarni qayta ishlashdan oldin saqlash joyida fayl paydo bo'lishini kutish:
from airflow.sensors.filesystem import FileSensor
file_sensor = FileSensor(
task_id='wait_for_file',
filepath='/data/input/file.csv',
poke_interval=30, # har 30 sekundda tekshirish
timeout=600 # maksimal 10 minut kutish
)
Shu tarzda, sensorlar jarayonlarni avtomatlashtirish va sinxronlashtirishga yordam beradi, tashqi shartlarga asoslangan holda vazifalarni to'g'ri tartibda bajarilishini ta'minlaydi.