Ce este codificarea țintă bayesiană?

Codificarea țintă bayesiană este o metodă de codificare a caracteristicilor categorice în sarcinile de învățare automată, bazată pe utilizarea statisticilor variabilei țintă cu aplicarea netezirii bayesiene.

Ideea este de a înlocui categoria cu o valoare numerică care reflectă media variabilei țintă pentru acea categorie, ținând cont de media globală și de numărul de observații pentru a evita supraînvățarea pe categorii rare.

Formula de netezire arată de obicei astfel:

[ \text{ValoareCodificată} = \frac{\text{media_țintă_pentru_categorie} \times n + \text{media_globală} \times k}{n + k} ]

unde:

• (n) — numărul de observații în categorie,
• (k) — parametru de netezire (ponderea mediei a priori),
• (\text{media_globală}) — media întregii eșantion.

Această abordare ajută la reducerea zgomotului și a supraînvățării, mai ales atunci când se lucrează cu categorii rare, și este frecvent utilizată în algoritmi de boosting pentru date tabelare.