Ποια λειτουργία απώλειας να εφαρμόσετε κατά την εκπαίδευση του μοντέλου;

Η επιλογή της συνάρτησης απώλειας (loss function) εξαρτάται από την εργασία μηχανικής μάθησης και τον τύπο του μοντέλου:

• Για εργασίες παλινδρόμησης συνήθως χρησιμοποιούνται το Μέσο Τετραγωνικό Σφάλμα (MSE) ή το Μέσο Απόλυτο Σφάλμα (MAE).
• Για εργασίες δυαδικής ταξινόμησης συχνά εφαρμόζεται η Διχοτομική Κρυφή Εντροπία (Binary Cross-Entropy) (λογιστική παλινδρόμηση).
• Για πολυκατηγορική ταξινόμηση — Categorical Cross-Entropy.
• Για εργασίες με ανισορροπημένες κλάσεις μπορούν να χρησιμοποιηθούν σταθμισμένες εκδοχές των συναρτήσεων απώλειας ή Focal Loss.

Για παράδειγμα, κατά την εκπαίδευση ενός νευρωνικού δικτύου για ταξινόμηση εικόνων με 10 κλάσεις, συνήθως εφαρμόζεται η Categorical Cross-Entropy:

loss = tf.keras.losses.CategoricalCrossentropy()

Είναι σημαντικό να επιλέξετε τη συνάρτηση απώλειας που αντιστοιχεί στη μέτρηση ποιότητας και στον τύπο των δεδομένων εξόδου του μοντέλου.