რა არის დისტრიბუციის გადახრა და როგორ გამოვავლინოთ (KS-ტესტი, PSI)?

გავრცელების გადახრა — ეს მონაცემების განაწილების ცვლილებაა დროის განმავლობაში, რაც შეიძლება გამოიწვიოს მანქანათსწავლის მოდელის ხარისხის გაუარესებას, რადგან მოდელი სწავლობდა ერთ განაწილებაზე, ხოლო წარმოებაში მონაცემები მოდიან სხვა წყაროსგან.

გავრცელების გადახრის გამოვლენისათვის ხშირად გამოიყენება სტატისტიკური ტესტები და მეტრიკები:

• KS ტესტი (Kolmogorov-Smirnov ტესტი) — არაპარამეტრიული ტესტი, რომელიც შედარებს ორ ნიმუშს და შემოწმებს, რამდენად განსხვავდება მათი განაწილებები. თუ ტესტის p-ფასი დაბალია, ეს ნიშნავს, რომ განაწილებები მნიშვნელოვნად განსხვავდება.

• PSI (საზოგადოების სტაბილობის ინდექსი) — მეტრიკა, რომელიც ზომავს ცვლადის განაწილების ცვლილებას ორ პერიოდს შორის. PSI ითვლება განაწილების ბინების საფუძველზე და აჩვენებს გადახრის ხარისხს. ჩვეულებრივ:

  • PSI < 0.1 — უმნიშვნელო გადახრა
  • 0.1 < PSI < 0.25 — ზომიერი გადახრა
  • PSI > 0.25 — მნიშვნელოვანი გადახრა

Python-ში KS ტესტის გამოყენების მაგალითი:

from scipy.stats import ks_2samp

reference_data = [...]  # ტრენინგის ნიმუშის მონაცემები
current_data = [...]    # ახალი მონაცემები

statistic, p_value = ks_2samp(reference_data, current_data)
if p_value < 0.05:
    print("გავრცელების გადახრა გამოვლინდა")
else:
    print("განაწილებები მსგავსია")

ამ გზით, KS ტესტისა და PSI-ის საშუალებით რეგულარული მონიტორინგი ეხმარება დროულად გამოვლინდეს გადახრა და მიიღოს ზომები (მაგალითად, მოდელის გადამზადება מחדש).