Was ist Label Smoothing in der Bildklassifikation?

Label Smoothing ist eine Regularisierungstechnik, die beim Training von Klassifikationsmodellen verwendet wird, einschließlich für Bilder. Anstatt harte Labels (One-Hot-Encoding) zu verwenden, bei denen die richtige Klasse eine Markierung von 1 hat und alle anderen 0, glättet Label Smoothing diese Markierungen leicht, indem es der richtigen Klasse einen Wert knapp unter 1 zuweist und den anderen einen kleinen, nicht null Wert.

Dies hilft:

• Das Modell weniger zuversichtlich in seine Vorhersagen zu machen, was Überanpassung reduziert.
• Die Generalisierungsfähigkeit des Modells zu verbessern.
• Probleme mit Gradienten bei zu zuversichtlichen Labels zu vermeiden.

Zum Beispiel kann bei smoothing=0.1 für eine Klasse aus 5 möglichen Labels die richtige Klasse eine Markierung von 0.9 erhalten, die anderen 0.025.

Beispiel:

Klasse	Markierung ohne Smoothing	Markierung mit Smoothing (0.1)
1	1	0.9
2	0	0.025
3	0	0.025
4	0	0.025
5	0	0.025