Γιατί το bool([""]) επιστρέφει True;
Data Engineer
Τι θα συμβεί αν δημιουργήσετε ένα DAG με start_date = 1 Ιανουαρίου 2024;
Ποια είναι η διαφορά μεταξύ repartition και coalesce στο Spark;
Πώς να αντιμετωπίσετε την ασυνέπεια δεδομένων;
Άσκηση #3 Πρέπει να βρούμε πελάτες των οποίων το διάστημα μεταξύ των παραγγελιών τους είναι μεγαλύτερο από 60 ημέρες. Για αυτούς τους πελάτες, εμφανίστε τη μέγιστη διαφορά (gap_days). Πίνακας Παραγγελιών: | order_id | customer_id | order_dt | |----------|-------------|------------| | 1 | 1 | [phone] | | 2 | 1 | [phone] | | 3 | 1 | [phone] | | 4 | 1 | [phone] | | 5 | 2 | [phone] | | 6 | 2 | [phone] | | 7 | 3 | [phone] | Τελικό αποτέλεσμα: | customer_id | gap_days | |-------------|----------| | 1 | 123 | | 2 | 120 |
Πώς θα περιέγραφες στον κώδικα έναν έλεγχο ότι μια τιμή διαφέρει σημαντικά από μια κανονική (αναμενόμενη) κατανομή;
Γιατί μπορεί να χαθούν τα δεδομένα; Δώσε μερικούς λόγους.
Τι ξέρεις για το spill στο Spark;
Έχετε δουλέψει με διαχειριστές πλαισίου (context managers) στην Python; Τι είναι και ποιος είναι ο σκοπός τους;
Πώς να αποτρέψετε την εισαγωγή λανθασμένων δεδομένων που φορτώθηκαν στην βιτρίνα ή στον ενδιάμεσο πίνακα στις ανώτερες pipelines;
Τι κάνει ο παράμετρος depends_on_past στο Airflow;
Ποιους τρόπους μεταφοράς δεδομένων μεταξύ των εργασιών του Airflow γνωρίζετε;
Πώς παρακολουθούσατε την ποιότητα των δεδομένων;
Αν το πρόγραμμα του DAG είναι @daily, πότε ξεκινάει πραγματικά;
Είναι ο λεξικός πίνακας στην Python μεταβλητός ή αμετάβλητος τύπος; Ποιες είναι οι απαιτήσεις για τα κλειδιά και τις τιμές του;
Έκανες στατιστικούς ελέγχους;
Ποια είναι η αλγοριθμική πολυπλοκότητα της αναζήτησης σε ένα λεξικό στην χειρότερη περίπτωση;
Πώς να ξεκινήσετε το δεύτερο DAG του Airflow αμέσως μετά την επιτυχή ολοκλήρωση του πρώτου;