Čo je Aequitas / Fairlearn?

Aequitas a Fairlearn sú knižnice a nástroje na hodnotenie a zlepšenie spravodlivosti (fairness) modelov strojového učenia.

• Aequitas je nástroj na auditovanie modelov z hľadiska rôznych metrík spravodlivosti, ako je rovnosť chýb, rovnosť príležitostí a pod. Umožňuje odhaliť predsudky v modeli voči rôznym skupinám (napríklad podľa pohlavia, veku, rasy).

• Fairlearn je knižnica, ktorá poskytuje metódy na trénovanie modelov s ohľadom na obmedzenia spravodlivosti. Umožňuje vyvážiť medzi presnosťou a spravodlivosťou, minimalizovať diskrimináciu v predpovediach.

Obe knižnice pomáhajú vývojárom vytvárať etickejšie a spoľahlivejšie AI systémy, pričom berú do úvahy sociálne a etické aspekty používania modelov.