Bias-variance trade-off nima?

Bias-variance trade-off — bu mashina o‘rganishda asosiy tushunchadir va modelni o‘rgatishda ikki turdagi xatoliklar o‘rtasidagi muvozanatni tavsiflaydi:

• Bias (yolg‘onlik) — juda oddiy modeldan kelib chiqadigan va ma’lumotlarni yaxshi tasvirlamaydigan xato (kam o‘rganish).
• Varyans — model juda shovqinli ma’lumotlarga juda sezgir bo‘lib, yangi ma’lumotlarga yaxshi umumiylashmaydi (ortiqcha o‘rganish).

Agar model juda oddiy bo‘lsa, u yuqori bias va past varyansga ega bo‘ladi. Juda murakkab bo‘lsa, bias past, ammo varyans yuqori bo‘ladi.

Maqsad — modelni shunchalik murakkab qilishki, u naqshlarni ushlay olsin, lekin shovqinga moslashmasin.

Misol: past darajadagi polinomlar bilan regressiya o‘rgatishda (chiziqli regressiya), bias yuqori va varyans past bo‘ladi; yuqori darajadagi polinomlar bilan — aksincha.