Modelin çəkiləri niyə böyük ola bilər və onları tənzimləmə ilə niyə azaltmaq lazımdır?

Modelin çəkiləri çox böyük ola bilər modelin çox mürəkkəb olması və ya kifayət qədər tənzimlənməməsi səbəbindən, bu da artıq öyrənmə ilə nəticələnir: model təlim məlumatlarına çox dəqiq uyğunlaşır və ümumiləşdirmə qabiliyyətini itirir. Böyük çəkilər modelin müəyyən xüsusiyyətlərə çox həssas reaksiya verdiyini göstərə bilər, bu da onun stabilliyini azaldır.

Tənzimləmə çəkilərin ölçüsünü kiçiltməyə kömək edir, itki funksiyasına onların ölçüsü üçün cəza əlavə etməklə (məsələn, L1 və ya L2 tənzimlənməsi). Bu, daha sadə və ümumiləşdirici modeli təşviq edir və onun yeni məlumatlarla işləmə qabiliyyətini yaxşılaşdırır.

L2 tənzimlənməsinin itki funksiyasındakı nümunəsi:

loss = original_loss + lambda_ * sum(w**2 for w in weights)

burada lambda_ cəzalanma səviyyəsini idarə edən tənzimləmə koeffisiyentidir.