Warum kann man die Genauigkeit nicht direkt optimieren?

Die Genauigkeit kann nicht direkt optimiert werden, da diese Metrik keine differenzierbare Funktion ist und daher nicht als Zielfunktion für Gradientenoptimierungsmethoden verwendet werden kann. Genauigkeit misst den Anteil der richtigen Vorhersagen, was auf eine Schwellenfunktion (z.B. 0 oder 1) reduziert wird, die keinen nützlichen Gradienten für das Training liefert.

Außerdem kann Genauigkeit bei unausgewogenen Klassen irreführend sein — das Modell kann eine hohe Genauigkeit zeigen, indem es einfach die häufigste Klasse vorhersagt.

Daher werden in der Regel andere Verlustfunktionen (z.B. Kreuzentropie) optimiert, die glatt und differenzierbar sind, während die Genauigkeit als Endmetrik zur Bewertung der Modellqualität verwendet wird.