Wat is label smoothing in beeldclassificatie?

Label smoothing is een regularisatietechniek die wordt gebruikt bij het trainen van classificatiemodellen, inclusief voor beelden. In plaats van harde labels (one-hot encoding), waarbij de juiste klasse een label van 1 heeft en alle andere 0, verzacht label smoothing deze labels lichtjes door aan de juiste klasse een waarde iets minder dan 1 toe te wijzen, en aan de andere een klein niet-nul waarde.

Dit helpt:

• Het model minder zeker te maken van zijn voorspellingen, wat overfitting vermindert.
• Het vermogen van het model om te generaliseren te verbeteren.
• Problemen met gradiënten bij te zeker labels te voorkomen.

Bijvoorbeeld, met smoothing=0.1 voor een klasse uit 5 mogelijke labels, kan de juiste klasse een label van 0.9 krijgen, en de andere 0.025.

Voorbeeld:

Klasse	Label zonder smoothing	Label met smoothing (0.1)
1	1	0.9
2	0	0.025
3	0	0.025
4	0	0.025
5	0	0.025