Kā jūs izmantojat Python savā darbā un kur jūtaties drošāk: Python vai SQL?
Data Engineer
Ir 101 objekts: 100 objekti no klases 0 un 1 objekts no klases 1. Pirmais modelis visiem objektiem dod vienādu rezultātu. Kāds ir tā ROC AUC un ROC līknes forma?
Kā pārbaudīt laika rindu stacionaritātei?
Kā analītiķis ir uzrakstījis SQL vaicājumu. Identificējiet vaicājuma neefektivitātes un ieteikt, kā to izvairīties. Vaicājums apvieno divas tabulas: - fakttabula 'events' ar atslēgu 'event_id' - trafika avota atsauces tabula ar atslēgu 'referer_str' Abas tabulas satur miljardiem ierakstu. select * from (select distinct e.event_id, e.user_id, e.category_id, e.location_id, s.source_name, s.medium_name, s.campaign_name, row_number() over(partition by e.event_id, e.user_id, e.category_id, e.location_id, s.source_name, s.medium_name, s.campaign_name) as rnk from events e left join traffic_source s on e.referer_str = s.referer_str where e.event_date = current_date() - 1 group by 1,2,3,4,5,6,7) t where rnk = 1
Ir ne-negatīvs nepārtraukts mērķis un četri algoritmi: lineārā regresija, lēmumu koks, nejaušā meža un gradienta pastiprināšana uz kokiem. Kurš no tiem var radīt negatīvas prognozes?
Dati ir ielādēti ReplacingMergeTree tabulā; kas notiks, lasot, ja saplūšana vēl nav notikusi, un kā iegūt jaunāko ierakstu versiju?
Kas ir denormalizācija?
Vai ir iespējams apvienot deduplikāciju un turpmāko datu spillu bez atsevišķu tabulu izmantošanas; un ja jā, kā?
Kas ir hipotēžu pārbaude? Kādas ir Tipa I un Tipa II kļūdas un p-vērtība?
Kādas ir indeksu struktūras un kā tās darbojas?
Kādus veidus jūs zināt, lai paātrinātu uzdevumu izpildi PostgreSQL?
Kas ir stacionāra laika rinda un kāpēc stacionaritāte ir svarīga klasiskajiem modeļiem?
Kas ir bagging un boosting, un kā tie atšķiras?
Kādi ir JOIN izmantošanas raksturlielumi, veidojot vitrīnas PostgreSQL/Greenplum salīdzinājumā ar ClickHouse?
Vai jūs esat pazīstams ar uplift modeļošanu? Ko jūs par to zināt?
Kā novērst tabulas pieaugumu, ja datu glabāšana ir ierobežota laika, piemēram, diviem gadiem?
Kas ir ROC AUC?
Jāapstiprina, vai tabulā ir klienti ar vairākām e-pasta adresēm. Ja ir, izdzēsiet viņus (atstājiet tikai pēdējo ierakstu pēc create_date).
Kas ir watermark Spark Structured Streaming?
Kas ir normalizācija un kad tā tiek piemērota?