Какво е аудит за bias-fairness на ML модел?

Одитът за справедливост и пристрастия в ML модел е процесът на оценка и откриване на пристрастия (bias) и несправедливости (unfairness) в работата на модела. Целта е да се уверим, че моделът не дискриминира определени групи потребители по признаци като пол, раса, възраст и др.

По време на одита се анализират метрики за справедливост, като равенство на грешките (equalized odds), демографска паритетност (demographic parity) и други. Ако се открият систематични грешки или пристрастия, се извършва доработка на модела или данните, за да се намали bias и да се увеличи fairness.

Това е особено важно при задачи с социално въздействие, като кредитиране, наемане на работа или съдебни решения.