Overfitting nedir? Onla mücadele etmenin yolları nelerdir?

Overfitting (aşırı uyum) — bu, makine öğrenimi modelinin eğitim verilerine çok iyi uyum sağlaması, gürültü ve rastgele dalgalanmalar dahil olmak üzere, ve bu nedenle yeni, görünmeyen verilere kötü genelleştirmesi durumudur.

Overfitting ile mücadele yöntemleri:

• Düzenleme (Regularization) (L1, L2) — modelin karmaşıklığı için ceza ekleyerek çok büyük ağırlıkları önlemek.
• Erken durdurma (early stopping) — doğrulama setindeki kalite kötüleşmeye başlamadan eğitimi durdurmak.
• Veri hacmini artırma — daha fazla veri modelin daha iyi genellemesine yardımcı olur.
• Çapraz doğrulama — modelin genelleme yeteneğini değerlendirmeye ve parametreleri ayarlamaya yardımcı olur.
• Dropout (yapay sinir ağları için) — eğitim sırasında rastgele nöronları devre dışı bırakarak belirli özelliklere bağımlılığı önlemek.
• Modeli basitleştirme — parametre veya katman sayısını azaltmak.

Lineer regresyonda düzenleme örneği:

from sklearn.linear_model import Ridge
model = Ridge(alpha=1.0)  # L2 düzenlemesi
model.fit(X_train, y_train)