Na čo sa vzťahuje preškolenie: na skreslenie alebo na rozptyl?

Pretrénovanie (overfitting) sa týka problému vysokej variancie modelu. Je to situácia, keď sa model príliš presne prispôsobí tréningovým dátam, vrátane šumu a náhodných výkyvov, čo vedie k zlej schopnosti generalizácie na nové dáta.

V termínoch skreslenia a variancie:

• Skreslenie (bias) — chyba spôsobená príliš jednoduchým modelom, ktorý nedokáže dobre opísať dáta.
• Variancia (variance) — chyba spôsobená príliš zložitým modelom, ktorý sa prispôsobí šumu.

Pretrénovanie je spojené s vysokou varianciou, nie so skreslením.