Как използвате Python в работата си и къде се чувствате по-уверени: в Python или в SQL?
Data Engineer
Има 101 обект: 100 обекта от клас 0 и 1 обект от клас 1. Първият модел дава еднакъв резултат на всички обекти. Какви са ROC AUC и формата на ROC кривата?
Как да проверим една времева серия за стационарност?
Аналитик е написал SQL заявка. Идентифицирайте неефективностите в заявката и предложете как да ги избегнете. Заявката съчетава две таблици: - таблица факти 'events' с ключ 'event_id' - таблица с референции към източници на трафик с ключ 'referer_str' И двете таблици съдържат милиарди записи. select * from (select distinct e.event_id, e.user_id, e.category_id, e.location_id, s.source_name, s.medium_name, s.campaign_name, row_number() over(partition by e.event_id, e.user_id, e.category_id, e.location_id, s.source_name, s.medium_name, s.campaign_name) as rnk from events e left join traffic_source s on e.referer_str = s.referer_str where e.event_date = current_date() - 1 group by 1,2,3,4,5,6,7) t where rnk = 1
Има неотрицателна непрекъсната цел и четири алгоритъма: линейна регресия, дърво за вземане на решения, случаен горски масив и градиентен бустинг върху дървета. Кои от тях могат да дават отрицателни прогнози?
Данните са заредени в таблица ReplacingMergeTree; какво ще се случи при четене, ако сливането все още не е настъпило, и как да получите най-новата версия на записите?
Какво е денормализация?
Възможно ли е да се комбинира дублиране и последващ spill на данни без използване на отделни таблици; и ако е възможно, как?
Какво е тест за хипотези? Какви са грешките от тип I и тип II и p-стойността?
Какви са структурите на индексите и как работят?
Какви начини знаете да ускорите изпълнението на задачи в PostgreSQL?
Какво е стационарен времеви ред и защо е важна стационарността за класическите модели?
Какво е бэгинг и бустинг, и как се различават?
Какви са особеностите на използването на JOIN при изграждането на витрини в PostgreSQL/Greenplum в сравнение с ClickHouse?
Запознат ли сте с uplift моделироването? Какво знаете за него?
Как да предотвратим растежа на таблицата, ако съхранението на данни е ограничено във времето, например две години?
Какво е ROC AUC?
Трябва да проверите дали в таблицата има клиенти с няколко имейла. Ако има, ги изтрийте (оставете само последния запис по create_date).
Какво е watermark в Spark Structured Streaming?
Какво е нормализирането и кога се прилага?