Ի՞նչ է բաշխման սահքը և ինչպես հայտնաբերել այն (KS-տեստ, PSI):

Տարածման սահում — դա տվյալների բաշխման փոփոխությունն է ժամանակի ընթացքում, որը կարող է հանգեցնել մեքենայական ուսուցման մոդելի որակի նվազման, քանի որ մոդելը պատրաստված է մեկ բաշխման վրա, մինչդեռ արտադրության ժամանակ տվյալները գալիս են այլ աղբյուրից:

Տարածման սահումը հայտնաբերելու համար հաճախ օգտագործվում են վիճակագրական թեստեր և մետրիկներ:

• KS թեստ (Kolmogorov-Smirnov թեստ) — ոչ պարամետրային թեստ, որը համեմատում է երկու նմուշները և ստուգում, թե որքանով են տարբեր իրենց բաշխումները: Եթե թեստի p-արժեքը ցածր է, դա նշանակում է, որ բաշխումները զգալիորեն տարբերվում են:

• PSI (Համայնքի կայունության ինդեքս) — մետրիկ, որը չափում է փոփոխությունը փոփոխականի բաշխման մեջ երկու ժամանակահատվածների միջև: PSI հաշվարկվում է բաշխման բինների հիման վրա և ցույց է տալիս սահման աստիճանը: Ընդհանրապես՝

  • PSI < 0.1 — աննշան սահում
  • 0.1 < PSI < 0.25 — միջին սահում
  • PSI > 0.25 — զգալի սահում

Օրինակ՝ KS թեստի օգտագործումը Python-ում:

from scipy.stats import ks_2samp

reference_data = [...]  # ուսուցման նմուշի տվյալներ
current_data = [...]    # նոր տվյալներ

statistic, p_value = ks_2samp(reference_data, current_data)
if p_value < 0.05:
    print("Տարածման սահում հայտնաբերվեց")
else:
    print("Բաշխումները նման են")

Այսպիսով, KS թեստի և PSI-ի միջոցով ռեգուլյար բաշխումների մոնիտորինգը օգնում է ժամանակին հայտնաբերել սահումը և ձեռնարկելու միջոցներ (օրինակ՝ մոդելի վերապատրաստում):