Mi történik, ha létrehozol egy DAG-t start_date = 2024. január 1-jével?
Data Engineer
Miért adja vissza a bool([""]) az Igaz értéket?
Hogyan küzdjünk meg az adatok inkonzisztenciájával?
Feladat #3 Olyan ügyfeleket kell találni, akiknél a rendeléseik közötti különbség nagyobb, mint 60 nap. Ezeknél az ügyfeleknél mutassa meg a maximális különbséget (gap_days). Rendelési tábla: | order_id | customer_id | order_dt | |----------|-------------|------------| | 1 | 1 | [phone] | | 2 | 1 | [phone] | | 3 | 1 | [phone] | | 4 | 1 | [phone] | | 5 | 2 | [phone] | | 6 | 2 | [phone] | | 7 | 3 | [phone] | Végső eredmény: | customer_id | gap_days | |-------------|----------| | 1 | 123 | | 2 | 120 |
Mi a különbség a repartition és a coalesce között a Spark-ben?
Mit tudsz a spillről a Sparkban?
Hogyan írnád le kódban, hogy egy érték jelentősen eltér a normál (várt) eloszlástól?
Miért veszhetnek el az adatok? Adj néhány okot.
Dolgoztál már Pythonban kontextuskezelőkkel? Mi azok és mire jók?
Hogyan akadályozhatjuk meg, hogy a helytelen adatok, amelyek a vitrinbe vagy közbenső táblába kerültek, eljussanak a felső pipeline-okba?
Milyen adatátvitési módszereket ismersz az Airflow feladatok között?
Mit csinál a depends_on_past paraméter az Airflow-ban?
Hogyan követte a adatok minőségét?
Ha a DAG ütemezése @daily, akkor mikor indul valójában?
A Python szótár módosítható vagy nem módosítható típus? Milyen követelmények vannak a kulcsaira és értékeire?
Végeztél statisztikai ellenőrzéseket?
Hogyan indíthatod el az Airflow második DAG-ját közvetlenül az első sikeres befejezése után?
Mi az algoritmikus összetettsége a szótárban való keresésnek a legrosszabb esetben?