Miért nem lehet közvetlenül optimalizálni a pontosságot?

Nem lehet közvetlenül optimalizálni a pontosságot, mert ez a mérőszám nem differenciálható függvény, ezért nem használható célfüggvényként gradiens alapú optimalizációs módszerekhez. A pontosság a helyes előrejelzések arányát méri, ami egy küszöf függvényre (például 0 vagy 1) redukálódik, és nem nyújt hasznos gradiens értéket a tanításhoz.

Ezenkívül a pontosság nem lehet informatív az egyensúlyozatlan osztályok esetén — a modell magas pontosságot mutathat, egyszerűen a leggyakoribb osztály előrejelzésével.

Ezért általában más veszteségfüggvényeket (például kereszt-entrópiát) optimalizálnak, amelyek simák és differenciálhatók, míg a pontosságot végső mérőszámként használják a modell minőségének értékeléséhez.