Sobes.tech
Middle — Senior

Was ist Bayesian Target Encoding?

sobes.tech KI

Antwort von AI

Bayessche Zielkodierung ist eine Methode zur Kodierung kategorialer Merkmale in maschinellen Lernaufgaben, die auf der Verwendung von Statistiken der Zielvariablen mit bayesianischer Glättung basiert.

Die Idee ist, die Kategorie durch eine Zahl zu ersetzen, die den Durchschnittswert der Zielvariablen für diese Kategorie widerspiegelt, unter Berücksichtigung des Gesamtdurchschnitts und der Anzahl der Beobachtungen, um Überanpassung bei seltenen Kategorien zu vermeiden.

Die Glättungsformel sieht in der Regel so aus:

[ \text{KodierterWert} = \frac{\text{MittelwertZielFuerKategorie} \times n + \text{globalerMittelwert} \times k}{n + k} ]

wobei:

  • (n) — Anzahl der Beobachtungen in der Kategorie,
  • (k) — Glättungsparameter (Gewicht des a priori-Mittelwerts),
  • (\text{globalerMittelwert}) — Durchschnittswert der gesamten Stichprobe.

Dieser Ansatz hilft, Rauschen und Überanpassung zu reduzieren, insbesondere bei der Arbeit mit seltenen Kategorien, und wird häufig in Boosting-Algorithmen für tabellarische Daten verwendet.