Jakie problemy z uczciwością pojawiają się w rekomendacjach?

W systemach rekomendacyjnych problemy związane z sprawiedliwością dotyczą niesprawiedliwego rozkładu rekomendacji między użytkownikami lub obiektami. Główne problemy:

• Bias popularności: system ma tendencję do częstszego rekomendowania popularnych obiektów, co zmniejsza widoczność mniej popularnych, ale potencjalnie istotnych.

• Nierównowaga między grupami użytkowników: niektóre grupy użytkowników (np. według wieku, płci, regionu) mogą otrzymywać mniej jakościowe lub mniej zróżnicowane rekomendacje.

• Nierównowaga między twórcami treści: autorzy o mniejszej rozpoznawalności lub pochodzący z mniejszości mogą otrzymywać mniej wyświetleń i interakcji.

• Sprzężenie zwrotne i cykl zamknięty: rekomendacje wpływają na zachowanie użytkowników, co może wzmacniać istniejące uprzedzenia i niesprawiedliwości.

Aby przeciwdziałać tym problemom, stosuje się metody wyrównywania, regularyzacji i specjalne metryki fairness podczas treningu modeli.