Что такое bias-fairness аудит ML-модели?

Bias-fairness аудит ML-модели — это процесс оценки и выявления предвзятости (bias) и несправедливости (unfairness) в работе модели. Цель — убедиться, что модель не дискриминирует определённые группы пользователей по признакам, таким как пол, раса, возраст и т.п.

В ходе аудита анализируют метрики справедливости, например, равенство ошибок (equalized odds), демографическую паритетность (demographic parity) и другие. Если обнаруживаются систематические ошибки или перекосы, то проводят доработку модели или данных, чтобы снизить bias и повысить fairness.

Это особенно важно в задачах с социальным воздействием, например, при кредитовании, приёме на работу или судебных решениях.