Ce probleme de echitate apar în recomandări?

În sistemele de recomandare, problemele de echitate sunt legate de distribuția nedreaptă a recomandărilor între utilizatori sau obiecte. Principalele probleme:

• Bias de popularitate: sistemul tinde să recomande obiecte populare mai frecvent, ceea ce reduce vizibilitatea celor mai puțin populare, dar potențial relevante.

• Dezechilibru între grupurile de utilizatori: unele grupuri de utilizatori (de exemplu, în funcție de vârstă, sex, regiune) pot primi recomandări de calitate mai scăzută sau mai puțin variate.

• Dezechilibru între creatorii de conținut: autorii cu mai puțină notorietate sau din minorități pot primi mai puține afișări și interacțiuni.

• Feedback și ciclu închis: recomandările influențează comportamentul utilizatorilor, ceea ce poate întări prejudecățile și nedreptățile existente.

Pentru a combate aceste probleme, se aplică metode de echilibrare, regularizare și metrici speciale de fairness în timpul antrenamentului modelelor.