De ce nu se poate optimiza direct acuratețea?

Nu se poate optimiza direct acuratețea, deoarece această metrică nu este o funcție diferențiabilă și, prin urmare, nu poate fi utilizată ca funcție țintă pentru metodele de optimizare bazate pe gradient. Acuratețea măsoară proporția de predicții corecte, ceea ce se reduce la o funcție prag (de exemplu, 0 sau 1), care nu oferă un gradient util pentru antrenament.

În plus, acuratețea poate fi neinformativă în cazul claselor dezechilibrate — modelul poate afișa o acuratețe ridicată pur și simplu prezicând clasa cea mai frecventă.

De aceea, de obicei, se optimizează alte funcții de pierdere (de exemplu, entropia încrucișată), care sunt netede și diferențiabile, iar acuratețea este utilizată ca metric final pentru evaluarea calității modelului.