Co je to Bayesian target encoding?

Bayesovské cílové kódování je metoda kódování kategoriálních znaků v úlohách strojového učení, založená na využití statistik cílové proměnné s použitím bayesovského vyhlazení.

Myšlenka spočívá v tom, že kategorii nahradíme číslem, které odráží průměrnou hodnotu cílové proměnné pro tuto kategorii, přičemž zohledníme celkový průměr a počet pozorování, aby se předešlo přeučení na vzácných kategoriích.

Obvykle vypadá vzorec vyhlazení takto:

[ \text{ZakódovanáHodnota} = \frac{\text{průměrCílovéHodnotyProKategorii} \times n + \text{globálníPrůměr} \times k}{n + k} ]

kde:

• (n) — počet pozorování v kategorii,
• (k) — parametr vyhlazení (váha předpokládaného průměru),
• (\text{globálníPrůměr}) — průměr celé vzorky.

Tento přístup pomáhá snižovat šum a přeučení, zejména při práci s vzácnými kategoriemi, a často se používá v algoritmech boosting pro tabulková data.