Hogyan észleljük az adatok eloszlásának változásának pillanatát (adatdrift)?

Az adatok elmozdulása az bemeneti adatok vagy a célváltozó idővel történő eloszlásának változása, ami ronthatja a modell minőségét. Az elmozdulás időpontjának felismerése érdekében a következő megközelítéseket alkalmazzák:

• Adatstatisztikák monitorozása: rendszeresen kiszámítani és összehasonlítani a jelenlegi adatok statisztikáit (átlag, szórás, hisztogramok) a történelmi adatokkal.
• Távolságmérő eszközök az eloszlások között: például Kullback-Leibler divergencia, Jensen-Shannon divergencia, Kolmogorov-Smirnov teszt használata a változások kvantitatív értékeléséhez.
• Speciális drift felismerő algoritmusok: például ADWIN, DDM, EDDM, amelyek automatikusan jeleznek az eloszlás változását.
• Naplózás és vizualizáció: az adatok és metrikák időbeli tárolása, grafikonok készítése a változások nyomon követéséhez.
• A modell teljesítményének monitorozása: a minőségi metrikák (pontosság, F1 stb.) csökkenése driftet jelezhet.

Python példaként a Kolmogorov-Smirnov teszt használatával a drift ellenőrzésére:

from scipy.stats import ks_2samp

# historical_data és current_data a jellemző értékek tömbjei
statistic, p_value = ks_2samp(historical_data, current_data)
if p_value < 0.05:
    print("Adatdrift észlelve")
else:
    print("Nincs drift észlelve")

Ezért fontos a rendszeres adat- és modellmetrikák monitorozásának beállítása, hogy időben reagálhassunk az elmozdulásokra.