Эмне бул айырмачылык таасир?

Disparate impact — бул, машиналык үйрөнүү жана ИИ этикасы чөйрөсүндө түшүнүк, ал алгоритм же модел белгилүү бир топ адамдарга пропорционалдуу эмес терс таасир эткен учурду сүрөттөйт, моделде ачык алдын ала көз караштар болбосо да (мисалы, улуту, жынысы же жашы боюнча).

Бул косвенная дискриминация: модель, биринчи көз карашта нейтрал көрүнгөн өзгөчөлүктөрдү колдонушу мүмкүн, бирок натыйжа бир топтун укуктары же мүмкүнчүлүктөрү системалуу түрдө чектелет.

Мисал: кредиттик баалоо, анда алгоритм көбүрөөк белгилүү бир этникалык топтун өкүлдөрүн четке кагат, ал тургай этникалык таандыктык түздөн-түз колдонулбайт.

Disparate impactти аныктоо үчүн метрикалар колдонулат, мисалы, ар кандай топтор үчүн оң чечимдердин үлүшүн салыштырып. Эгер айырма өтө чоң болсо, диспропорционалдуу таасир бар деп айтылат жана моделди тууралоо зарылчылыгы пайда болот.