İkili sınıflandırmada neden softmax yerine sigmoid kullanılır?

İkili sınıflandırma için genellikle softmax yerine sigmoid aktivasyon fonksiyonu kullanılır, aşağıdaki nedenlerden dolayı:

• Sigmoid skaler bir değeri, iki sınıftan birine ait olma olasılığına dönüştürür (0 ile 1 arasında değer). Bu, yalnızca bir çıkış nöronunun yeterli olduğu ikili sınıflandırma için doğaldır.

• Softmax, çok sınıflı sınıflandırma için kullanılır ve çıkış vektörünü normalize eder, böylece tüm sınıfların olasılıklarının toplamı 1 olur. İki sınıf için softmax da kullanılabilir, ancak bu gereksizdir çünkü iki çıkış birbirini tamamlar.

• Sigmoid kullanımı ve ikili çapraz entropi kaybı fonksiyonu, modeli doğrudan pozitif sınıfın olasılığını tahmin etmeye yönelttiği için daha basit ve etkilidir.

• İki çıkışlı softmax, daha fazla parametre ve hesaplama gerektirir, bu da ikili görevler için uygun değildir.

Örnek: lojistik regresyon, çıkışta sigmoid bulunan ve sınıf 1 olasılığını tahmin eden doğrusal bir modeldir.