რატომ გამოიყენება ბინარული კლასიფიკაციისთვის სიგმოიდი, არა სოფტმაქსი?

ორ მხარის კლასიფიკაციისთვის ჩვეულებრივ იყენებენ სიგმოიდულ ფუნქციას, არა softmax-ს, შემდეგი მიზეზების გამო:

• სიგმოიდი გარდაქმნის სკალარული მნიშვნელობას ერთ-ერთ ორ კლასში ყოფნის ალბათობად (მნიშვნელობა 0-დან 1-მდე). ეს ბუნებრივია ორ მხარის კლასიფიკაციისთვის, სადაც ერთ გამომავალ ნეირონს საკმარისია.

• Softmax გამოიყენება მრავალკლასიან კლასიფიკაციაში და ნორმალიზებს გამომავალ ვექტორს ისე, რომ ყველა კლასის ალბათობათა ჯამი იყოს 1. ორი კლასისთვის softmax-იც შეიძლება გამოყენებულ იქნას, მაგრამ ეს ზედმეტია, რადგან ორი გამომავალი взаимდამშვიდებულია.

• სიგმოიდის გამოყენება და ბაინარული კროს-ენტროპიის დანაკარგის ფუნქცია უფრო მარტივია და ეფექტურია, რადგან მოდელი პირდაპირ სწავლობს პროგნოზირებას დადებითი კლასის ალბათობაზე.

• ორი გამომავალი softmax-ის გამოყენება მოითხოვს მეტ პარამეტრებს და გამოთვლებს, რაც არ არის მიზანშეწონილი ორ მხარის დავალებისთვის.

მაგალითი: ლოგისტიკური რეგრესია — ეს არის ხაზოვანი მოდელი, სადაც გამოსავალში სიგმოიდია, რომელიც პროგნოზირებს კლასი 1-ის ალბათობას.