Middle
¿Para qué sirven los sensores en Airflow?
sobes.tech AI
Respuesta de la IA
Los sensores en Apache Airflow se utilizan para esperar a que ocurran ciertas condiciones o eventos antes de iniciar la siguiente tarea en un DAG. Permiten organizar la dependencia de tareas no solo por horario, sino también por factores externos, como la aparición de un archivo, la finalización de otra tarea fuera de Airflow o la disponibilidad de un recurso.
Un ejemplo de uso de un sensor es esperar a que aparezca un archivo en el almacenamiento antes de comenzar el procesamiento de datos:
from airflow.sensors.filesystem import FileSensor
file_sensor = FileSensor(
task_id='wait_for_file',
filepath='/data/input/file.csv',
poke_interval=30, # verificar cada 30 segundos
timeout=600 # esperar máximo 10 minutos
)
De esta manera, los sensores ayudan a automatizar y sincronizar procesos, asegurando el orden correcto de ejecución de las tareas en función de condiciones externas.