Co je to přeučení a jak s ním bojovat?

Přetrénování (overfitting) je situace, kdy model strojového učení příliš dobře přizpůsobí tréninková data, včetně šumu a náhodných výkyvů, a špatně generalizuje na nová data.

Jak bojovat s přetrénováním:

• Používat více dat pro trénink.
• Regularizace (L1, L2) — přidání trestů za složitost modelu.
• Early stopping — zastavení tréninku, když se kvalita na validaci začíná zhoršovat.
• Křížová validace — pro hodnocení schopnosti generalizace.
• Snížení složitosti modelu — například snížením počtu parametrů.
• Augmentace dat — tvorba dalších tréninkových příkladů.

Příklad regularizace v Pythonu s použitím sklearn:

from sklearn.linear_model import Ridge
model = Ridge(alpha=1.0)  # L2 regularizace
model.fit(X_train, y_train)