Πώς θα σχεδιάζατε μια κλιμακούμενη φόρτωση δεδομένων από πολλαπλές REST APIs: από την απόκτηση δεδομένων μέχρι το S3, με μια διεπαφή για έναν αναλυτή;
Data Engineer
Τι είναι το προγραμματιστικό SQL;
Πείτε μας για τον εαυτό σας και την εμπειρία σας στην μηχανική δεδομένων.
Υπάρχουν 101 αντικείμενα: 100 μηδενικά και 1 μονάδα. Μετά την ταξινόμηση κατά σκορ, πρώτα έρχονται 50 μηδενικά, μετά ένα, και μετά άλλα 50 μηδενικά. Ποιο είναι το ROC AUC και το σχήμα της καμπύλης ROC;
Ποια είναι τα μειονεκτήματα των ευρετηρίων εκτός από τον χώρο που καταλαμβάνουν;
Στο gradient boosting, έχει ήδη κατασκευαστεί μια σύνθεση από N βασ αλγορίθμους. Ποιος θα είναι ο στόχος για τον νέο, N+1-ο αλγόριθμο;
Γιατί οι τεμπέλικες αξιολογήσεις είναι χρήσιμες;
Τι είναι το data spill στο Spark και πώς να το αποφύγετε αν δεν μπορείτε απλά να προσθέσετε πόρους;
Πώς θα διαχειριζόσασταν μετασχηματισμούς δεδομένων υψηλού φορτίου;
Πώς διαφέρουν οι τρόποι εκκίνησης του Spark: cluster, client και local;
Ποια είναι τα πλεονεκτήματα και τα μειονεκτήματα της υλοποίησης ενός φορτωτή API ως προσαρμοσμένου χειριστή/hook του Airflow σε σύγκριση με μια ξεχωριστή βιβλιοθήκη ή υπηρεσία κοντέινερ;
2. Υπάρχει ένας πίνακας t, που καταγράφει το άθροισμα των συναλλαγών των πελατών ανά ημέρα: - Γράψτε ένα ερώτημα που για κάθε γραμμή δείχνει τις συναλλαγές του πελάτη για την τρέχουσα και την προηγούμενη ημερολογιακή ημέρα Ο τελικός πίνακας είναι παρακάτω:
Τι είναι οι τεμπέλικες αξιολογήσεις και πώς να τις κατανοήσουμε;
Ποιες τυπικές εργασίες έχετε λύσει στο Airflow;
ημερομηνία, αριθμός παραγγελίας, ποσό select date, sum(amount) as sum_amount from t group by date having sum(amount) > 1000000 order by sum_amount desc limit 3
Τι είναι τα μοντέλα αστέρα και το Data Vault;
Πες μας για τον εαυτό σου: πού δούλεψες τελευταία, τι έκανες, τι ψάχνεις και γιατί;
Πού βρίσκονται ο Driver και οι Executors σε λειτουργία cluster και γιατί χρησιμοποιούνται στην παραγωγή;
Πού ακριβώς συμβαίνει το γραδίαν στην αλγορίθμου gradient boosting αν ο βασικός αλγόριθμος είναι ένα απλό δέντρο αποφάσεων;
Από ποια συστατικά αποτελείται το Greenplum και το Hadoop HDFS;