Какво е Bayesian target encoding?

Байесово целево кодиране е метод за кодиране на категорийни характеристики в задачи за машинно обучение, базиран на използването на статистики на целевата променлива с прилагане на байесово изглаждане.

Идеята е да се замени категорията с число, което отразява средната стойност на целевата променлива за тази категория, като се вземат предвид общата средна стойност и броя на наблюденията, за да се избегне пренасищане при редки категории.

Обикновено формулата за изглаждане изглежда така:

[ \text{КодиранаСтойност} = \frac{\text{средна_целе_за_категория} \times n + \text{глобална_средна} \times k}{n + k} ]

където:

• (n) — броят на наблюденията в категорията,
• (k) — параметър за изглаждане (теглото на предварителната средна стойност),
• (\text{глобална_средна}) — средната стойност за цялата извадка.

Този подход помага за намаляване на шума и пренасищането, особено при работа с редки категории, и често се използва в алгоритми за буустинг за таблични данни.