Perché non si può ottimizzare direttamente la precisione?

Non è possibile ottimizzare direttamente la precisione, poiché questa metrica non è una funzione differenziabile, e quindi non può essere utilizzata come funzione obiettivo per i metodi di ottimizzazione basati sul gradiente. La precisione misura la proporzione di previsioni corrette, che si riduce a una funzione soglia (ad esempio, 0 o 1), che non fornisce un gradiente utile per l'addestramento.

Inoltre, la precisione può essere poco informativa in presenza di classi sbilanciate: il modello può mostrare una precisione elevata semplicemente prevedendo la classe più frequente.

Per questo motivo, di solito si ottimizzano altre funzioni di perdita (ad esempio, l'entropia incrociata), che sono lisce e differenziabili, e si utilizza la precisione come metrica finale per valutare la qualità del modello.