Data Engineer
Wat is een broadcast join in Spark?
Er is een speciale sequentie gemaakt genaamd even_sequence, die alleen even getallen genereert. Wat moet er op de plaats van [...] worden ingevuld zodat, indien de waarde van even_column niet is opgegeven bij het invoegen, de waarde wordt gehaald uit even_sequence? create table some_table( even_column [...] ); integer computed as nextval('even_sequence') integer generated always as identity (start with 2 increment by 2) integer default nextval('even_sequence') integer unique default nextval('even_sequence') integer generated by even_sequence’
Wat is het gevaar van shuffle in Spark?
Wat zijn de risico's voor de datakwaliteit?
Wat is gegevenspartitionering en hoe helpt het om een volledige scan van de tabel te voorkomen?
Je hebt ontdekt dat er in de geschiedenis van de hoofd-Git-repository commits aanwezig zijn die kritieke vertrouwelijke gegevens bevatten. Deze gegevens moeten volledig uit de hele geschiedenis van de repository worden verwijderd. Evalueer hoe correct en veilig het zou zijn om de volgende strategie te gebruiken: een nieuwe commit maken die de vertrouwelijke gegevens uit de huidige versie van de bestanden verwijdert en deze naar main te pushen. - Correct, maar niet optimaal. Het is beter om git revert te gebruiken om commits ongedaan te maken - Conditieel correct. Dit is een tijdelijke oplossing totdat een meer radicale methode om de gegevens te verwijderen wordt gevonden - Onjuist en onveilig. De gegevens worden verwijderd uit de huidige versie, maar blijven toegankelijk in de geschiedenis van de repository - Onjuist. Deze commit kan leiden tot nieuwe conflicten bij het samenvoegen met andere branches - Correct en veilig. Deze methode garandeert dat de gegevens worden verwijderd en niet meer in de repository verschijnen
Er zijn twee transacties. Eerst voert de eerste transactie een commando uit. Daarna voert de tweede transactie een commando uit. Vervolgens gaat de eerste transactie verder. Welke volgorde leidt tot een deadlock? ```sql -- eerste transactie update accounts set balance = balance + 100 where id = ?; -- tweede transactie update accounts set balance = balance - 50 where id = ?; update accounts set balance = balance + 200 where id = ?; ```
Heeft u Bridge en PIT-tabellen gebruikt in Data Vault? Geef een voorbeeld en leg het doel uit.
Op het weergegeven scherm zijn twee gegevensstructuren; in welke zal het zoeken naar de waarde 2 sneller zijn en waarom?
Hoe bekijk je de parameters of beperkingen in ClickHouse?
Waarom ontstaan deadlocks en welk mechanisme in databases zorgt voor de consistentie van gegevens bij parallelle verzoeken?
Vertel over de replicatie-instelling die je hebt opgelost.
Wat zijn de nadelen van UDF's in Spark en wat is hun grootste minpunt?
Wat is het verschil tussen de datatypes int en uint in ClickHouse?
Partitionering in databases: waarom is het nodig, hoe werkt het?
Wat is belangrijk voor jou bij het ontwerpen van een pipeline?
Hoe vaak werden de etalages berekend? Was het een incrementele of volledige berekening?
Beoordeel de uiteindelijke oplossing op tijd en geheugen.
Welke soorten partities zijn er?
Wat zijn views (VIEW) en gematerialiseerde views (MATERIALIZED VIEW) in Oracle? Hoe worden de gegevens in een gematerialiseerde view bijgewerkt?