Bias-variance trade-off nədir?

Bias-variance trade-off — maşın öyrənməsində əsas anlayışdır və modelin öyrədilməsi zamanı iki növ səhvlər arasında balansı təsvir edir:

• Bias (kənarlaşma) — çox sadə modeldən yaranan və məlumatları yaxşı təsvir edə bilməyən səhv (azaldılma).
• Varyans — modelin öyrənmə məlumatlarındakı səs-küyə çox həssas olması və yeni məlumatlara yaxşı ümumiləşdirə bilməməsi (həddindən artıq öyrənmə).

Əgər model çox sadədirsə, yüksək bias və aşağı varyans olacaq. Əgər çox mürəkkəbdirsə, aşağı bias və yüksək varyans olacaq.

Hədəf, modeli kifayət qədər mürəkkəb etməkdir ki, nümunələri tutsun, amma səs-küyə çox uyğunlaşmasın.

Nümunə: aşağı dərəcəli polinomlar ilə regresiya öyrənərkən (xətti regresiya), bias yüksək və varyans aşağıdır; yüksək dərəcəli polinomlar ilə — əksinə.