Czy nadmierne dopasowanie odnosi się do błędu systematycznego czy do rozrzutu?

Przeuczenie (overfitting) odnosi się do problemu wysokiej wariancji modelu. Jest to sytuacja, gdy model zbyt dokładnie dopasowuje się do danych treningowych, w tym szumu i losowych wahań, co prowadzi do słabej zdolności uogólniania na nowych danych.

W terminach błędu i wariancji:

• Błąd (bias) — błąd spowodowany zbyt prostym modelem, który nie potrafi dobrze opisać danych.
• Wariancja (variance) — błąd spowodowany zbyt skomplikowanym modelem, który dopasowuje się do szumu.

Przeuczenie jest związane z wysoką wariancją, a nie z błędem.