Kako biste dizajnirali skalabilno učitavanje podataka iz više REST API-ja: od prikupljanja podataka do S3, sa interfejsom za analitičara?
Data Engineer
Šta je procedural SQL?
Ispričajte nam o sebi i svom iskustvu u data engineering-u.
Постоји 101 објекат: 100 нула и 1 један. Након сортирања по резултатима, прво долазе 50 нула, затим један, и још 50 нула. Који су његови ROC AUC и облик ROC криве?
Koje su mane indeksa osim zauzetog prostora?
У градијентном бустингу већ је изграђена композиција од N основних алгоритама. Шта ће бити циљ за нови, N+1-ји алгоритам?
Zašto su lenjive procene korisne?
Šta je data spill u Spark-u i kako ga izbeći ako resursi ne mogu biti jednostavno dodati?
Kako biste upravljali transformacijama podataka pod visokim opterećenjem?
Kako se razlikuju načini pokretanja Spark: cluster, client i local?
Koje su prednosti i mane implementacije API loadera kao prilagođenog operatera/hook-a u Airflow-u u poređenju sa zasebnom bibliotekom ili kontejnerskom uslugom?
2. Postoji tabela t, koja prikazuje zbir transakcija klijenata po danu: - Napišite upit koji za svaki red prikazuje transakcije klijenta za tekući i prethodni kalendarski dan Konačna tabela je ispod:
Šta su lenjive procene i kako ih razumeti?
Koje tipične zadatke ste rešili u Airflow?
датум, број поруџбине, износ select date, sum(amount) as sum_amount from t group by date having sum(amount) > 1000000 order by sum_amount desc limit 3
Šta su modeli zvezda i Data Vault?
Реците о себи: где сте последњи пут радили, чиме сте се бавили, шта тражите и зашто?
Gde se nalaze Driver i Executors u režimu klaster i zašto se koristi u proizvodnji?
Где тачно у градијентном бустингу долази до градијента ако је основни алгоритам једноставно дрво одлуке?
Od kojih komponenti se sastoji Greenplum i Hadoop HDFS?