Čo je to preučenie a ako s ním bojovať?

Overfitting (pretrénovanie) je situácia, keď model strojového učenia príliš dobre prispôsobí tréningové údaje, vrátane šumu a náhodných výkyvov, a zle generalizuje na nové údaje.

Ako bojovať s pretrénovaním:

• Používať viac údajov na tréning.
• Regularizácia (L1, L2) — pridanie trestov za zložitosť modelu.
• Včasné zastavenie — zastavenie tréningu, keď sa kvalita na validácii začína zhoršovať.
• Kros-validácia — na hodnotenie schopnosti generalizácie.
• Zníženie zložitosti modelu — napríklad znížením počtu parametrov.
• Augmentácia dát — tvorba ďalších tréningových príkladov.

Príklad regularizácie v Pythone s použitím sklearn:

from sklearn.linear_model import Ridge
model = Ridge(alpha=1.0)  # L2 regularizácia
model.fit(X_train, y_train)