Yetersiz eğitim ile aşırı eğitim arasındaki denge nedir?

Aşırı öğrenme (overfitting) ile az öğrenme (underfitting) arasındaki denge, çok basit ve çok karmaşık model arasındaki dengeyi ifade eder.

• Az öğrenme (underfitting), model çok basit olduğunda ve verilerdeki kalıpları yakalayamadığında olur. Sonuç olarak, hem eğitim verilerinde hem de yeni verilerde kötü performans gösterir.

• Aşırı öğrenme (overfitting), model çok karmaşık olduğunda ve eğitim verilerinin gürültüsünü ve rastgele özelliklerini ezberlediğinde ortaya çıkar, bu da yeni verilere genelleme yeteneğini azaltır.

Bu denge, önemli bağımlılıkları yakalayacak kadar karmaşık, ancak gürültüyü ezberlemeyecek kadar basit bir model ve parametre seçilerek sağlanır. Bunu başarmak için düzenleme, çapraz doğrulama ve hiperparametre ayarı yöntemleri kullanılır.

Örnek: Çok basit bir regresyon modeli (örneğin, karmaşık bir bağımlılıkta doğrusal) az öğrenmiş olur, çok karmaşık (örneğin, yüksek dereceli bir polinom) ise aşırı öğrenmiş olur.