Data Engineer
Hogyan valósítható meg az adatok egyenetlen elosztása a kirakatban: 50% az elsőn és 25% a többi kettőn?
Írjon SQL-t a rendelés összegének halmozott összegének hozzáadásához felhasználónként és dátum szerint.
Milyen adatminőségi kockázatok vannak?
Hogyan készültek a táblák a klaszterben, és hogyan oldották meg a problémát, amikor a ZooKeeper miatt egy replikát hiányzott egy shardról?
Hogyan követte a adatok minőségét?
Milyen szakaszokból áll egy tranzakció?
Miért döntött úgy, hogy külön CTE-be helyezi a rangsort? Miért nem lehetett azonnal az első CTE-ben használni?
Hogyan dolgozzunk partíciókkal a coalesce és repartition segítségével?
1. Rendelések: - order_date datetime NEM NULL - user_id int NEM NULL - order_id int NEM NULL 2. Áruk: - order_id int NEM NULL - model int NEM NULL - cat_1 varchar(50) NEM NULL - price int NEM NULL - quantity int NEM NULL Értékek a cat_1-ben: - Ruházat - Cipő - Kozmetikumok - Otthoni termékek - Játékok Mutassa meg a rendelések számát és a "szükséges kategóriájú termékek számát a rendelésben" 2021-ben a "Ruházat" kategóriában és 2022-ben a "Cipő" kategóriában (eredmény: 2 sor. Mezők: év, termékek száma, rendelések száma) with cte as( select year(o.order_date) as year_orders, g.cat_1, count(distinct o.order_id) as count_orders, sum(g.quantity) as count_quan from Orders o join Goods g on o.order_id = g.order_id where g.cat_1 = 'Ruházat' and Year(o.order_date) = 2021 or g.cat_1 = 'Cipő' and Year(o.order_date) = 2022 group by year_orders, g.cat_1 ) select year_orders, count_quan, count_orders from cte
Ismeri a ReplicatedQueue-t? Van tapasztalata vele kapcsolatban?
Miért vannak az S3-ban "mappák"/előtagok a kényelem mellett?
Történt-e további naplózás az Airflow naplók mellett?
Mit csinálsz szabadidődben? Van saját projekted?
Milyen JOIN típusok vannak SQL-ben (logikai) és miben különböznek egymástól?
Hogyan küzdjünk meg az adatok inkonzisztenciájával?
Hogyan javítottad ki az adatok client_id szerinti torzulását, amikor egy ügyfél jelentősen nagyobb volt a többinél? Milyen lehetőségek vannak?
Mi az adatbemutató?
Hogyan szervezzük az adatbetöltést a ClickHouse-ba egy nagy PostgreSQL táblában, amelybe folyamatosan érkeznek új rekordok monoton növekvő elsődleges kulccsal?
Végeztél statisztikai ellenőrzéseket?
Mi az a dekorátor Pythonban?