O que é a codificação de alvo bayesiana?

A codificação alvo bayesiana é um método de codificação de características categóricas em tarefas de aprendizagem de máquina, baseado na utilização de estatísticas da variável alvo com suavização bayesiana.

A ideia é substituir a categoria por um número que reflete o valor médio da variável alvo para essa categoria, tendo em conta a média global e o número de observações para evitar o sobreajuste em categorias raras.

A fórmula de suavização geralmente é assim:

[ \text{ValorCodificado} = \frac{\text{média_alvo_para_categoria} \times n + \text{média_global} \times k}{n + k} ]

onde:

• (n) — número de observações na categoria,
• (k) — parâmetro de suavização (peso da média a priori),
• (\text{média_global}) — média de toda a amostra.

Este método ajuda a reduzir o ruído e o sobreajuste, especialmente ao trabalhar com categorias raras, e é frequentemente utilizado em algoritmos de boosting para dados tabulares.