Como usa Python no seu trabalho e onde se sente mais confiante: em Python ou em SQL?
Data Engineer
Existem 101 objetos: 100 objetos da classe 0 e 1 objeto da classe 1. O primeiro modelo atribui a todos os objetos a mesma pontuação. Qual é o seu ROC AUC e a forma da curva ROC?
Como testar uma série temporal para estacionaridade?
Dado um consulta SQL escrita por um analista. Identifique ineficiências na consulta e sugira como evitá-las. A consulta une duas tabelas: - tabela de fatos 'events' com chave 'event_id' - tabela de referência de fonte de tráfego com chave 'referer_str' Ambas as tabelas contêm bilhões de registros. select * from (select distinct e.event_id, e.user_id, e.category_id, e.location_id, s.source_name, s.medium_name, s.campaign_name, row_number() over(partition by e.event_id, e.user_id, e.category_id, e.location_id, s.source_name, s.medium_name, s.campaign_name) as rnk from events e left join traffic_source s on e.referer_str = s.referer_str where e.event_date = current_date() - 1 group by 1,2,3,4,5,6,7) t where rnk = 1
Existe um alvo contínuo não negativo e quatro algoritmos: regressão linear, árvore de decisão, floresta aleatória e boosting em árvores. Quais deles podem produzir previsões negativas?
Dados foram carregados numa tabela ReplacingMergeTree; o que acontecerá durante a leitura se a fusão ainda não tiver ocorrido, e como obter a versão mais recente dos registos?
O que é desnormalização?
É possível combinar deduplicação e spill de dados subsequente sem usar tabelas separadas; e se sim, como?
O que é o teste de hipóteses? Quais são os erros do Tipo I e do Tipo II e o valor p?
Quais são as estruturas de índices e como funcionam?
Que métodos conhece para acelerar a execução de tarefas no PostgreSQL?
O que é uma série temporal estacionária e por que a estacionaridade é importante para os modelos clássicos?
O que é bagging e boosting, e como eles diferem?
Quais as características do uso de JOIN na construção de vitrinas em PostgreSQL/Greenplum em comparação com ClickHouse?
Está familiarizado com a modelagem uplift? O que sabe sobre ela?
Como evitar o crescimento da tabela se o armazenamento de dados é limitado no tempo, por exemplo, dois anos?
O que é ROC AUC?
É necessário verificar se há clientes na tabela com vários emails. Se houver, removê-los (deixar apenas o último registro por create_date).
O que é uma marca d'água no Spark Structured Streaming?
O que é normalização e quando é aplicada?