Какво е различаващият се ефект?

Диспропорционалното въздействие е концепция в областта на справедливостта в машинното обучение и етиката на ИИ, която описва ситуация, в която алгоритъм или модел оказва непропорционално негативно влияние върху определена група хора, дори ако в модела няма явна предубеденост (например по признаци като раса, пол или възраст).

Това е косвена дискриминация: моделът може да използва характеристики, които изглеждат неутрални на пръв поглед, но резултатът води до систематично ограничаване на правата или възможностите на една от групите.

Пример: кредитен скоринг, където алгоритъмът отказва по-често на представители на определена етническа група, въпреки че директно не се използва етническата принадлежност.

За откриване на диспропорционално въздействие се прилагат метрики, например сравняване на дела на положителните решения за различни групи. Ако разликата е твърде голяма, се говори за наличие на диспропорционално въздействие и необходимост от коригиране на модела за повишаване на справедливостта.