Quale funzione di perdita applicare durante l'addestramento del modello?

La scelta della funzione di perdita (loss function) dipende dal compito di apprendimento automatico e dal tipo di modello:

• Per compiti di regressione si utilizzano generalmente Mean Squared Error (MSE) o Mean Absolute Error (MAE).
• Per compiti di classificazione binaria si applica spesso Binary Cross-Entropy (regressione logistica).
• Per classificazione multiclasse — Categorical Cross-Entropy.
• Per compiti con classi sbilanciate si possono usare versioni ponderate delle funzioni di perdita o Focal Loss.

Ad esempio, durante l'addestramento di una rete neurale per la classificazione di immagini con 10 classi, si utilizza generalmente Categorical Cross-Entropy:

loss = tf.keras.losses.CategoricalCrossentropy()

È importante scegliere la funzione di perdita che corrisponde alla metrica di qualità e al tipo di dati di output del modello.