Почему нельзя напрямую оптимизировать accuracy?

Нельзя напрямую оптимизировать accuracy, потому что эта метрика не является дифференцируемой функцией, а значит, её нельзя использовать как целевую функцию для градиентных методов оптимизации. Accuracy измеряет долю правильных предсказаний, что сводится к пороговой функции (например, 0 или 1), которая не даёт полезного градиента для обучения.

Кроме того, accuracy может быть неинформативна при несбалансированных классах — модель может показывать высокий accuracy, просто предсказывая наиболее частый класс.

Поэтому обычно оптимизируют другие функции потерь (например, кросс-энтропию), которые являются гладкими и дифференцируемыми, а accuracy используют как итоговую метрику для оценки качества модели.