Czym jest bayesowskie kodowanie celu?

Kodowanie docelowe bayesowskie to metoda kodowania cech kategorycznych w zadaniach uczenia maszynowego, oparta na wykorzystaniu statystyk zmiennej celu z zastosowaniem wygładzania bayesowskiego.

Pomysł polega na zastąpieniu kategorii liczbą odzwierciedlającą średnią wartość zmiennej celu dla tej kategorii, z uwzględnieniem średniej ogólnej i liczby obserwacji, aby uniknąć nadmiernego dopasowania do rzadkich kategorii.

Formuła wygładzania zwykle wygląda tak:

[ \text{WartośćZakodowana} = \frac{\text{średnia_celowa_dla_kategorii} \times n + \text{średnia_globalna} \times k}{n + k} ]

gdzie:

• (n) — liczba obserwacji w kategorii,
• (k) — parametr wygładzania (waga średniej a priori),
• (\text{średnia_globalna}) — średnia w całej próbce.

Takie podejście pomaga zmniejszyć szum i nadmierne dopasowanie, szczególnie przy pracy z rzadkimi kategoriami, i jest często stosowane w algorytmach boostingowych dla danych tabelarycznych.