Kaip suprojektuotumėte mastelį duomenų įkėlimui iš kelių REST API: nuo duomenų gavimo iki S3, su sąsaja analitikui?
Data Engineer
Kas yra procedūrinis SQL?
Papaskinkite apie save ir savo patirtį duomenų inžinerijoje.
Yra 101 objektas: 100 nuliai ir 1 vienetas. Po rūšiavimo pagal įvertinimą, pirmiausia ateina 50 nuliai, tada vienetas, tada dar 50 nuliai. Kokia yra jo ROC AUC ir ROC kreivės forma?
Kokios yra indeksų trūkumai, išskyrus jų užimamą vietą?
Gradient boosting'e jau sukurta N pagrindinių algoritmų sudėtis. Koks bus naujo, N+1-ojo algoritmo tikslas?
Kodėl tingiosios įvertinimai yra naudingi?
Kas yra duomenų išsiliejimas Spark ir kaip jo išvengti, jei išteklių paprasčiausiai pridėti negalima?
Kaip tvarkytumėtės su didelės apkrovos duomenų transformacijomis?
Kaip skiriasi Spark paleidimo režimai: cluster, client ir local?
Kokie yra pranašumai ir trūkumai, kai API įkėlėją įgyvendinate kaip individualų Airflow operatorių/hook'ą, palyginti su atskira biblioteka ar konteinerine paslauga?
2. Yra lentelė t, kurioje nurodytas klientų operacijų suma per dieną: - Parašykite užklausą, kuri kiekvienai eilutei rodo kliento operacijas einamą ir ankstesnę kalendoriaus dieną Galutinė lentelė žemiau:
Kas yra tingiosios įvertinimai ir kaip juos suprasti?
Kokias įprastas užduotis išsprendėte Airflow?
Data, užsakymo numeris, suma select date, sum(amount) as sum_amount from t group by date having sum(amount) > 1000000 order by sum_amount desc limit 3
Kas yra žvaigždžių modeliai ir Data Vault?
Papaskinkite apie save: kur dirbote paskutinį kartą, ką darėte, ko ieškote ir kodėl?
Kur yra Driver ir Executors klasterio režimu ir kodėl jis naudojamas gamyboje?
Kur tiksliai įvyksta gradientas gradientinio stiprinimo algoritme, jei pagrindinis algoritmas yra paprastas sprendimų medis?
Iš kokių komponentų sudarytas Greenplum ir Hadoop HDFS?