Защо не може директно да се оптимизира точността?

Невъзможно е директно да се оптимизира точността, тъй като тази метрика не е диференцируема функция и не може да се използва като целева функция за градиентно базирани методи за оптимизация. Точността измерва дела на правилните предсказания, което се свежда до праговата функция (например, 0 или 1), която не предоставя полезен градиент за обучение.

Освен това, точността може да бъде неинформативна при несбалансирани класове — моделът може да показва висока точност, просто предсказвайки най-честия клас.

Затова обикновено се оптимизират други функции на загубата (например, крос-ентропия), които са гладки и диференцируеми, а точността се използва като крайна метрика за оценка на качеството на модела.