Bias-variance trade-off nedir?

Bias-variance ödünleşimi, makine öğreniminde temel bir kavramdır ve bir modeli eğitirken iki hata türü arasındaki dengeyi tanımlar:

• Bias (yanlılık) — Çok basit bir modelden kaynaklanan ve verileri iyi tanımlayamayacak kadar düşük olan hata (azaltma hatası).
• Varyans — Modelin eğitim verilerindeki gürültüye çok duyarlı olması ve yeni verilere iyi genelleştirememesiyle ilgili hata (aşırı uyum).

Model çok basitse, yüksek bias ve düşük varyans olacaktır. Çok karmaşıksa, düşük bias ama yüksek varyans olur.

Hedef, modeli yeterince karmaşık hale getirirken, gürültüye aşırı uyum sağlamadan desenleri yakalayacak dengeyi bulmaktır.

Örnek: Düşük dereceli polinomlar (doğrusal regresyon) ile regresyon eğitirken, bias yüksek ve varyans düşüktür; yüksek dereceli polinomlar ise tam tersi olur.