Чӣ гуна таъсири фарқкунанда аст?
sobes.tech AI
Ҷавоб аз AI
Диспарати вплив — концепсия дар соҳаи адолат дар омӯзиши мошинӣ ва этикаи AI, ки ҳолати дар он алгоритм ё модел таъсири манфии нобаробар ба гурӯҳи муайяни одамон дорад, ҳатто агар дар модел ягон пешгӯии ошкоро вуҷуд надошта бошад (масалан, дар асоси нажод, ҷинс ё синну сол).
Ин як discrimination ғайрирасмӣ аст: модел метавонад хусусиятҳое истифода барад, ки дар аввал ба назар нейтрал менамоянд, аммо натиҷа ба маҳдуд кардани ҳуқуқҳо ё имкониятҳои гурӯҳҳо ба таври систематикӣ оварда мерасонад.
Масалан: рейтинги қарз, ки дар он алгоритм бештар ба намояндагони гурӯҳи этникии муайян рад мекунад, ҳарчанд мустақиман истифодаи этникӣ намешавад.
Барои ошкор кардани таъсири диспаратиг, метррикаҳо истифода мешаванд, масалан, муқоиса кардани ҳиссаи қарорҳои мусбат барои гурӯҳҳои гуногун. Агар фарқият хеле калон бошад, дар бораи мавҷудияти таъсири диспаратиг ва зарурати танзим кардани модел барои беҳтар кардани адолат гап мезанем.