Какво ще се случи, ако създадете DAG с start_date = 1 януари 2024 г.?
Data Engineer
Защо bool([""]) връща True?
Как да се борим с несъответствията в данните?
Задача #3 Трябва да намерим клиенти, при които разликата между техните поръчки е по-голяма от 60 дни. За тези клиенти покажете максималната разлика (gap_days). Таблица с поръчки: | order_id | customer_id | order_dt | |----------|-------------|------------| | 1 | 1 | [phone] | | 2 | 1 | [phone] | | 3 | 1 | [phone] | | 4 | 1 | [phone] | | 5 | 2 | [phone] | | 6 | 2 | [phone] | | 7 | 3 | [phone] | Краен резултат: | customer_id | gap_days | |-------------|----------| | 1 | 123 | | 2 | 120 |
Каква е разликата между repartition и coalesce в Spark?
Какво знаеш за spill в Spark?
Как би описал в кода проверка, че стойността значително се различава от нормалното (очаквано) разпределение?
Защо могат да се загубят данните? Дайте няколко причини.
Работили ли сте с контекстни мениджъри в Python? Какво представляват и за какво служат?
Как да предотвратим попадане на неправилни данни, заредени във витрината или междинната таблица, към по-горните пайплайни?
Какви методи за пренос на данни между задачите в Airflow познавате?
Какво прави параметърът depends_on_past в Airflow?
Как следяхте качеството на данните?
Ако графикът на DAG е @daily, в колко часа всъщност се стартира?
Думар в Python — променлив или непроменлив тип? Какви са изискванията към ключовете и стойностите му?
Правил ли си статистически проверки?
Как да стартирате втория DAG на Airflow веднага след успешното завършване на първия?
Каква е алгоритмичната сложност при търсене в речник в най-лошия случай?