Waarom kun je niet gewoon de mediaan per werknemer berekenen en deze vervolgens samenvoegen?
sobes.tech AI
Antwoord van AI
Mediaan is de waarde die een geordende dataset in twee gelijke delen verdeelt. Als je simpelweg de mediaan op elke worker (deel van de gegevens) berekent en deze mediaan vervolgens combineert, zal het uiteindelijke resultaat niet de exacte mediaan van de hele dataset zijn.
De reden is dat de mediaan van een lokaal sub-ensemble geen rekening houdt met de verdeling van gegevens in andere delen. Bijvoorbeeld, als op één worker de mediaan 10 is, en op een andere 100, dan weerspiegelt het samenvoegen van deze twee getallen op geen enkele manier de mediaan van de volledige verzameling.
Om de mediaan correct te berekenen in gedistribueerde systemen, worden meestal algoritmen toegepast die:
- statistieken verzamelen over de gegevensverdeling (bijvoorbeeld histogrammen of kwantielsnedes);
- algoritmen gebruiken voor benaderde berekening van de mediaan (bijvoorbeeld op basis van steekproeven);
- of alle gegevens op één plek verzamelen voor een exacte berekening (indien mogelijk).
Dus, het eenvoudige samenvoegen van lokale medianen geeft geen correct resultaat vanwege het ontbreken van een globaal distributiekader.