Чӣ тавр метавон байни норасоии омӯзиш ва зиёда аз ҳад омӯзиш қарор дод?

Танзим байни нодуруст омӯхтан (underfitting) ва зиёд омӯхтан (overfitting) мувозинат байни модели хеле оддӣ ва модели хеле мураккаб аст.

• Нодуруст омӯхтан вақте рух медиҳад, ки модел хеле оддӣ аст ва наметавонад намунаҳоро дар додаҳо фаҳмад. Дар натиҷа, дар ҳарду ҳолат — дар додаҳои омӯзишӣ ва нав — бад кор мекунад.

• Зиён омӯхтан вақте рух медиҳад, ки модел хеле мураккаб аст ва шориш ва хусусиятҳои тасодуфии додаҳои омӯзиширо меморизат мекунад, ки қобилияти умумӣ кардани он ба додаҳои навро кам мекунад.

Ин мувозинат бо интихоби модел ва параметрҳое, ки ба қадри кофӣ мураккабанд, то ки вобастагиҳои муҳимро фаҳманд, аммо на он қадар мураккабанд, ки шоришро меморизат кунанд, ба даст меояд. Барои ин усулҳои регуляторӣ, тасдиқи кросс ва танзими гиперпараметрҳо истифода мешаванд.

Масалан: агар шумо моделрои регрессия хеле оддӣ дошта бошед (масалан, хаттӣ дар вобастагии мураккаб), он нодуруст омӯхта мешавад, ва агар хеле мураккаб бошад (масалан, полиноми баланддараҷа), он зиёд омӯхта мешавад.