Jaké problémy s férovostí se objevují v doporučeních?

V doporučovacích systémech jsou problémy spravedlnosti spojeny s nespravedlivým rozdělením doporučení mezi uživatele nebo objekty. Hlavní problémy:

• Bias popularity: systém má tendenci doporučovat populární objekty častěji, což snižuje viditelnost méně populárních, ale potenciálně relevantních.

• Nerovnováha mezi skupinami uživatelů: některé skupiny uživatelů (například podle věku, pohlaví, regionu) mohou dostávat méně kvalitní nebo méně rozmanitá doporučení.

• Nerovnováha mezi tvůrci obsahu: autoři s menší známostí nebo z menšin mohou dostávat méně zobrazení a interakcí.

• Zpětná vazba a uzavřený cyklus: doporučení ovlivňují chování uživatelů, což může posilovat stávající předsudky a nespravedlnosti.

Pro řešení těchto problémů se používají metody vyvážení, regularizace a speciální metriky spravedlnosti při tréninku modelů.