Overfitting nədir? Onunla mübarizə yolları hansılardır?

Overfitting (həddindən artıq uyğunlaşma) — bu, maşın öyrənmə modelinin təlim məlumatlarına çox yaxşı uyğunlaşması, səs və təsadüfi dalğalanmalar daxil olmaqla, və nəticədə yeni, görünməyən məlumatlara pis ümumiləşdirməsidir.

Overfitting ilə mübarizə yolları:

• Tənzimləmə (L1, L2) — modelin mürəkkəbliyinə cəza əlavə etmək, çox böyük çəkilərin qarşısını almaq üçün.
• Erkən dayandırma — təlimi dayandırmaq, validation dəstində keyfiyyət pisləşməyə başlayanda.
• Məlumat həcmini artırmaq — daha çox məlumat modelin daha yaxşı ümumiləşməsinə kömək edir.
• Kross-validasiya — modelin ümumiləşdirmə qabiliyyətini qiymətləndirməyə və parametrləri tənzimləməyə kömək edir.
• Dropout (neyron şəbəkələri üçün) — təlim zamanı neyronları təsadüfi olaraq söndürmək, müəyyən xüsusiyyətlərdən asılılığı önləmək.
• Modelin sadələşdirilməsi — parametr və ya qatların sayını azaltmaq.

Lineer reqressiyada tənzimləmə nümunəsi:

from sklearn.linear_model import Ridge
model = Ridge(alpha=1.0)  # L2 tənzimləmə
model.fit(X_train, y_train)