Que problemas de fairness surgem nas recomendações?

Nos sistemas de recomendação, os problemas de justiça estão relacionados com a distribuição injusta de recomendações entre utilizadores ou objetos. Os principais problemas:

• Viés de popularidade: o sistema tende a recomendar objetos populares com mais frequência, o que reduz a visibilidade de objetos menos populares, mas potencialmente relevantes.

• Desequilíbrio entre grupos de utilizadores: alguns grupos de utilizadores (por exemplo, por idade, género, região) podem receber recomendações de menor qualidade ou menos variadas.

• Desequilíbrio entre criadores de conteúdo: autores com menor reconhecimento ou de minorias podem receber menos visualizações e interações.

• Retroalimentação e ciclo fechado: as recomendações influenciam o comportamento dos utilizadores, o que pode reforçar preconceitos e injustiças existentes.

Para combater estes problemas, aplicam-se métodos de balanceamento, regularização e métricas específicas de justiça durante o treino dos modelos.