Sobes.tech

Data Engineer

Quais são as desvantagens das UDF no Spark e qual é a sua principal desvantagem?

167

Tarefa #3 Precisamos encontrar clientes cujo intervalo entre pedidos seja superior a 60 dias. Para esses clientes, exiba o intervalo máximo (gap_days). Tabela de Pedidos: | order_id | customer_id | order_dt | |----------|-------------|------------| | 1 | 1 | [phone] | | 2 | 1 | [phone] | | 3 | 1 | [phone] | | 4 | 1 | [phone] | | 5 | 2 | [phone] | | 6 | 2 | [phone] | | 7 | 3 | [phone] | Resultado final: | customer_id | gap_days | |-------------|----------| | 1 | 123 | | 2 | 120 |

166

Qual é a diferença entre repartition e coalesce no Spark?

164

Como descreverias no código uma verificação de que um valor difere significativamente de uma distribuição normal (esperada)?

153

Por que os dados podem ser perdidos? Dê algumas razões.

153

Já trabalhou com gerenciadores de contexto em Python? O que são e para que servem?

153

Como impedir que dados incorretos carregados na vitrine ou na tabela intermediária cheguem às pipelines superiores?

151

Que formas de transferência de dados entre tarefas do Airflow conhece?

147

O dicionário em Python é um tipo mutável ou imutável? Quais são os requisitos para suas chaves e valores?

143

Se o horário do DAG é @daily, a que horas ele realmente é iniciado?

143

Como iniciar o segundo DAG do Airflow imediatamente após a conclusão bem-sucedida do primeiro?

133

Qual é a complexidade algorítmica da pesquisa num dicionário no pior caso?

132
/2