Čo sú bias a variance v modeli?

Bias (skreslenie) a variance (rozptyl) sú dva kľúčové pojmy, ktoré opisujú chyby modelu strojového učenia.

• Bias (skreslenie): je chyba spôsobená príliš jednoduchým modelom, ktorý nedokáže dobre popísať dáta. Model s vysokým biasom je podtrénovaný (underfitting) a zle predpovedá na tréningových aj nových dátach.

• Variance (rozptyl): je chyba spojená s citlivosťou modelu na šum v tréningových dátach. Model s vysokou varianciou sa pretrénava (overfitting), dobre funguje na tréningových dátach, ale zle generalizuje na nové dáta.

Vyváženie medzi biasom a varianciou je dôležité pre dobrý model. Vo všeobecnosti, s rastúcou zložitostí modelu, bias klesá a variance rastie.

Príklad:

• Jednoduchá lineárna regresia môže mať vysoký bias, ak sú dáta nelineárne.
• Zložitý model, ako hlboká neurónová sieť, môže mať nízky bias, ale vysokú varianciu, ak sa pretrénava na tréningových dátach.