Optuna nedir ve onun pruners'ları nelerdir?

Optuna, makine öğrenmesi görevlerinde otomatik hiperparametre optimizasyonu (HPO) için bir kütüphanedir. Bayes optimizasyonu ve diğer stratejiler kullanarak modellerin en iyi parametrelerini verimli bir şekilde aramayı sağlar.

Optuna'daki Pruners, başarısız veya az umut vaat eden denemeleri (trials) erken aşamalarda durduran mekanizmalardır ve hesaplama kaynaklarını tasarruf ederler. Ara sonuçları analiz ederler ve eğitimin devam edip etmeyeceğine karar verirler.

Optuna'daki temel pruners:

• MedianPruner — aynı aşamadaki diğer denemelerin medyanından daha kötü olan ara sonuçlara sahipse denemeleri durdurur.
• PercentilePruner — belirli bir yüzdelik dilimden daha kötü sonuçlar veriyorsa denemeleri durdurur.
• SuccessiveHalvingPruner — deneme sayısını ardışık olarak azaltan ve sadece en iyilerini bırakan bir stratejiyi uygular.
• HyperbandPruner — SuccessiveHalving'in genişletilmiş ve uyarlanabilir kaynak yönetimi ile yapılan versiyonudur.

Pruners kullanmak, optimizasyon sürecini hızlandırmaya ve en umut vaat eden yapılandırmalara odaklanmaya yardımcı olur.