Cum să înțelegeți dacă un model este subantrenat sau supraantrenat?

Pentru a înțelege dacă un model este subantrenat sau supraantrenat, se analizează comportamentul erorii pe seturile de antrenament și de validare:

• Subantrenare (underfitting): modelul funcționează prost atât pe seturile de antrenament, cât și pe cele de test — eroarea este mare peste tot. Asta înseamnă că modelul este prea simplu și nu poate captura tiparele.

• Supraantrenare (overfitting): modelul arată o eroare foarte scăzută pe setul de antrenament, dar o eroare mare pe cel de test. Modelul a memorat prea bine datele de antrenament, inclusiv zgomotul, și nu generalizează bine.

Pentru diagnostic, se construiește adesea un grafic al dependenței erorii de complexitatea modelului sau de numărul de epoci de antrenament. Modelul ideal are erori scăzute pe ambele seturi.

Exemplu:

Model	Eroare pe antrenament	Eroare pe test	Concluzie
Simplu	Mare	Mare	Subantrenare
Complex	Mic	Mare	Supraantrenare
Optim	Mic	Mic	Model bun

Pentru a combate supraantrenarea, se aplică regularizare, colectare de mai multe date, simplificarea modelului sau metode de oprire timpurie.