Paylama sürüşü nədir və onu necə aşkar etmək olar (KS-test, PSI)?

Paylanma sürüşməsi — bu, zamanla məlumatların paylanmasında baş verən dəyişiklikdir və bu, maşın öyrənmə modelinin keyfiyyətinə mənfi təsir göstərə bilər, çünki model bir paylanmada öyrədilib, lakin istehsalda məlumatlar başqa bir mənbədən gəlir.

Paylanma sürüşməsini aşkar etmək üçün tez-tez statistik testlər və metriklər istifadə olunur:

• KS testi (Kolmogorov-Smirnov testi) — iki nümunəni müqayisə edən və onların paylanmalarının nə qədər fərqli olduğunu yoxlayan parametrsiz testdir. Əgər testin p-dəyəri aşağıdırsa, bu, paylanmaların əhəmiyyətli dərəcədə fərqli olduğunu göstərir.

• PSI (Əhali Sabitliyi İndeksi) — bir dəyişənin iki dövr arasındakı paylanma dəyişməsini ölçən metrikdir. PSI paylanma binləri əsasında hesablanır və sürüşmə dərəcəsini göstərir. Ümumiyyətlə:

  • PSI < 0.1 — kiçik sürüşmə
  • 0.1 < PSI < 0.25 — orta səviyyəli sürüşmə
  • PSI > 0.25 — əhəmiyyətli sürüşmə

Python-da KS testindən istifadə nümunəsi:

from scipy.stats import ks_2samp

reference_data = [...]  # təlim nümunəsinin məlumatları
current_data = [...]    # yeni məlumatlar

statistic, p_value = ks_2samp(reference_data, current_data)
if p_value < 0.05:
    print("Paylanma sürüşməsi aşkar edildi")
else:
    print("Paylanmalar oxşardır")

Beləliklə, KS testi və PSI vasitəsilə müntəzəm paylanma monitorinqi, sürüşməni vaxtında aşkar etməyə və tədbirlər görməyə kömək edir (məsələn, modeli yenidən öyrətmək).