Ce este supraînvățarea și cum o combatem?

Overfitting (supraîncărcarea) este o situație în care un model de învățare automată se potrivește prea bine datelor de antrenament, inclusiv zgomotul și fluctuațiile aleatorii, și generalizează prost pe date noi.

Cum să combateți overfitting-ul:

• Utilizați mai multe date pentru antrenament.
• Regularizare (L1, L2) — adăugarea de penalizări pentru complexitatea modelului.
• Oprirea timpurie — oprirea antrenamentului când calitatea pe validare începe să se deterioreze.
• Validare încrucișată — pentru a evalua capacitatea de generalizare.
• Reducerea complexității modelului — de exemplu, reducerea numărului de parametri.
• Augmentarea datelor — crearea de exemple suplimentare de antrenament.

Exemplu de regularizare în Python cu sklearn:

from sklearn.linear_model import Ridge
model = Ridge(alpha=1.0)  # Regularizare L2
model.fit(X_train, y_train)