Mi az a túlillesztés és hogyan küzdjünk ellene?

Túlillesztés (overfitting) — az a helyzet, amikor egy gépi tanulási modell túl jól alkalmazkodik a tanító adatokhoz, beleértve a zajt és a véletlenszerű ingadozásokat, és rosszul általánosít új adatokra.

Hogyan küzdjünk a túlillesztés ellen:

• Használjunk több adatot a tanításhoz.
• Regularizáció (L1, L2) — a modell összetettségének büntetése.
• Korai leállítás — a tanítás leállítása, amikor a validációs minőség kezd romlani.
• Keresztvalidáció — az általánosítási képesség értékelésére.
• A modell összetettségének csökkentése — például a paraméterek számának csökkentése.
• Adatnövelés — további tanító példák létrehozása.

Példa regularizációra Pythonban sklearn használatával:

from sklearn.linear_model import Ridge
model = Ridge(alpha=1.0)  # L2 regularizáció
model.fit(X_train, y_train)