Что такое weight of evidence (WoE) и information value (IV)?

Weight of Evidence (WoE) — это метрика, используемая для кодирования категориальных переменных в задачах кредитного скоринга и других задачах классификации. WoE измеряет логарифм отношения доли хороших событий к доле плохих событий в каждой категории признака:

[ WoE = \ln \left( \frac{\text{Доля хороших в группе}}{\text{Доля плохих в группе}} \right) ]

Information Value (IV) — это агрегированная метрика, которая оценивает предсказательную силу признака на основе WoE:

[ IV = \sum (\text{Доля хороших} - \text{Доля плохих}) \times WoE ]

Чем выше IV, тем более информативен признак. Обычно IV классифицируют так:

• IV < 0.02 — признак неинформативен
• 0.02 ≤ IV < 0.1 — слабая предсказательная сила
• 0.1 ≤ IV < 0.3 — средняя сила
• IV ≥ 0.3 — сильная предсказательная сила

WoE и IV помогают преобразовывать категориальные данные и отбирать признаки для моделей, особенно в задачах с несбалансированными классами, например, в кредитном скоринге.