Welke fairness-problemen ontstaan er in aanbevelingen?

In aanbevelingssystemen zijn fairness-problemen gerelateerd aan oneerlijke verdeling van aanbevelingen tussen gebruikers of objecten. De belangrijkste problemen:

• Populariteitsbias: het systeem neigt ernaar om populaire objecten vaker aan te bevelen, waardoor de zichtbaarheid van minder populaire, maar potentieel relevante objecten afneemt.

• Onevenwicht tussen gebruikersgroepen: sommige gebruikersgroepen (bijvoorbeeld op basis van leeftijd, geslacht, regio) kunnen minder kwalitatieve of minder gevarieerde aanbevelingen ontvangen.

• Onevenwicht tussen contentmakers: auteurs met minder bekendheid of uit minderheden kunnen minder vertoningen en interacties krijgen.

• Feedback en gesloten lus: aanbevelingen beïnvloeden het gedrag van gebruikers, wat bestaande vooroordelen en ongelijkheden kan versterken.

Om deze problemen aan te pakken, worden methoden zoals balancering, regularisatie en speciale fairness-metrics toegepast tijdens het trainen van modellen.