Ako zistiť, či je model podtrénovaný alebo pretrénovaný?

Na pochopenie, či je model nedostatočne alebo preškolené, sa analyzuje správanie chyby na tréningových a validačných súboroch:

• Nedostatočné učenie (underfitting): model zle funguje na tréningových aj testovacích dátach — chyba je vysoká všade. To znamená, že model je príliš jednoduchý a nedokáže zachytiť vzory.

• Preškolenie (overfitting): model ukazuje veľmi nízku chybu na tréningovom súbore, ale vysokú na testovacom. Model si príliš dobre zapamätal tréningové údaje, vrátane šumu, a zle generalizuje.

Na diagnostiku sa často vytvára graf závislosti chyby od zložitosti modelu alebo počtu epoch tréningu. Ideálny model má nízke chyby na oboch súboroch.

Príklad:

Model	Chyba pri tréningu	Chyba pri teste	Záver
Jednoduchý	Vysoká	Vysoká	Nedostatočné učenie
Zložitý	Nízka	Vysoká	Preškolenie
Optimálny	Nízka	Nízka	Dobrý model

Na boj s preškolením sa používajú regularizácia, zber viac dát, zjednodušenie modelu alebo metódy skorého zastavenia.