Wie würdest du eine skalierbare Datenladung aus mehreren REST-APIs entwerfen: vom Datenerwerb bis zu S3, mit einer Schnittstelle für einen Analysten?
Data Engineer
Was ist prozedural SQL?
Erzählen Sie uns von sich und Ihrer Erfahrung im Data Engineering.
Es gibt 101 Objekte: 100 Nullen und 1 Eins. Nach Sortierung nach Score kommen zuerst 50 Nullen, dann eine, dann weitere 50 Nullen. Was sind ROC AUC und die Form der ROC-Kurve?
Was sind die Nachteile von Indizes abgesehen vom belegten Platz?
Beim Gradient Boosting wurde bereits eine Komposition aus N Basisalgorithmen erstellt. Was wird das Ziel für den neuen, N+1-ten Algorithmus sein?
Warum sind Lazy Evaluations nützlich?
Was ist Data Spill in Spark und wie kann man es vermeiden, wenn Ressourcen nicht einfach hinzugefügt werden können?
Wie würden Sie hochbelastete Datenumwandlungen handhaben?
Wie unterscheiden sich die Spark-Startmodi: cluster, client und local?
Was sind die Vor- und Nachteile bei der Implementierung eines API-Laders als benutzerdefinierten Airflow-Operator/Hook im Vergleich zu einer separaten Bibliothek oder Container-Service?
2. Es gibt eine Tabelle t, die die Summe der Transaktionen der Kunden pro Tag auflistet: - Schreiben Sie eine Abfrage, die für jede Zeile die Transaktionen des Kunden für den aktuellen und den vorherigen Kalendertag anzeigt Die endgültige Tabelle ist unten:
Was sind Lazy Evaluations und wie versteht man sie?
Welche typischen Aufgaben haben Sie in Airflow gelöst?
Datum, Bestellnummer, Betrag select date, sum(amount) as sum_amount from t group by date having sum(amount) > 1000000 order by sum_amount desc limit 3
Was sind Sternmodelle und Data Vault?
Erzählen Sie uns von sich: Wo haben Sie zuletzt gearbeitet, was haben Sie gemacht, was suchen Sie und warum?
Wo befinden sich Driver und Executors im Cluster-Modus und warum wird es in der Produktion verwendet?
Wo genau tritt der Gradient im Gradient-Boosting-Algorithmus auf, wenn der Basiskomponent ein einfacher Entscheidungsbaum ist?
Aus welchen Komponenten bestehen Greenplum und Hadoop HDFS?