Какво е Aequitas / Fairlearn?

Aequitas и Fairlearn са библиотеки и инструменти за оценка и подобряване на справедливостта (fairness) на моделите за машинно обучение.

• Aequitas е инструмент за одитиране на модели по отношение на различни метрики за справедливост, като равенство на грешките, равенство на възможностите и други. Позволява да се открият предразсъдъци в модела спрямо различни групи (например по пол, възраст, раса).

• Fairlearn е библиотека, която предоставя методи за обучение на модели с оглед на ограничения за справедливост. Позволява балансиране между точност и справедливост, минимизирайки дискриминацията в предсказанията.

И двете библиотеки помагат на разработчиците да създават по-етични и надеждни AI системи, като вземат предвид социалните и етичните аспекти при използването на моделите.