Ποιος είναι ο ρόλος του softmax στο μοντέλο και για ποιο λόγο χρησιμοποιείται;

Softmax είναι μια λειτουργία ενεργοποίησης που μετατρέπει έναν διάνυσμα τυχαίων αριθμών σε ένα διάνυσμα πιθανοτήτων, το άθροισμα των οποίων είναι 1. Στα μοντέλα μηχανικής μάθησης, ειδικά σε εργασίες ταξινόμησης, το softmax χρησιμοποιείται στο τελικό στρώμα ενός νευρωνικού δικτύου για την απόκτηση των πιθανοτήτων ανήκειν σε κάθε κλάση. Αυτό επιτρέπει την ερμηνεία της εξόδου του μοντέλου ως κατανομή πιθανοτήτων και την επιλογή της κλάσης με τη μεγαλύτερη πιθανότητα.

Παράδειγμα: αν η έξοδος του μοντέλου δώσει τις τιμές [2.0, 1.0, 0.1], η εφαρμογή του softmax τις μετατρέπει σε περίπου [0.65, 0.24, 0.11].