Šta je label smoothing u klasifikaciji slika?

Label smoothing — це техніка регуляризації, яка використовується під час навчання моделей класифікації, включаючи для зображень. Замість використання жорстких міток (one-hot encoding), де правильний клас має мітку 1, а всі інші 0, label smoothing трохи пом'якшує ці мітки, присвоюючи правильному класу значення трохи менше за 1, а іншим — невелике ненульове значення.

Це допомагає:

• Зробити модель менш впевненою у своїх прогнозах, що знижує перенавчання.
• Покращити здатність моделі до узагальнення.
• Уникнути проблем з градієнтами при надто впевнених мітках.

Наприклад, при smoothing=0.1 для класу з 5 можливих міток правильний клас може отримати мітку 0.9, а інші — по 0.025.

Приклад:

Клас	Мітка без smoothing	Мітка з smoothing (0.1)
1	1	0.9
2	0	0.025
3	0	0.025
4	0	0.025
5	0	0.025