Ποια είναι τα μέσα απομάκρυνσης προκατάληψης του μοντέλου (αντιδραστική απομάκρυνση προκατάληψης);

Η ανταγωνιστική αποκατάσταση προκατάληψης είναι μια μέθοδος για την εξάλειψη των προκαταλήψεων σε μοντέλα μηχανικής μάθησης μέσω ανταγωνιστικής εκπαίδευσης. Η βασική ιδέα είναι να εκπαιδεύσετε ένα κύριο μοντέλο για να προβλέψει τη μεταβλητή στόχο, ενώ ταυτόχρονα εκπαιδεύετε ένα ανταγωνιστικό μοντέλο που προσπαθεί να προβλέψει ένα προστατευμένο χαρακτηριστικό (π.χ., φύλο ή φυλή) από τις εξόδους του κύριου μοντέλου. Το κύριο μοντέλο βελτιστοποιείται ώστε να ελαχιστοποιεί το σφάλμα πρόβλεψης και ταυτόχρονα να δυσκολεύει το ανταγωνιστικό μοντέλο να μαντέψει το προστατευμένο χαρακτηριστικό.

Μέθοδοι αποκατάστασης προκατάληψης με χρήση της ανταγωνιστικής προσέγγισης:

• Ανταγωνιστική εκπαίδευση: το κύριο μοντέλο και το ανταγωνιστικό μοντέλο εκπαιδεύονται μαζί, όπου το κύριο μοντέλο προσπαθεί να 'ξεγελάσει' το ανταγωνιστικό.
• Κανονικοποίηση με απώλεια ανταγωνιστική: προσθήκη σε μια συνάρτηση απώλειας ενός συστατικού που τιμωρεί το μοντέλο για την ύπαρξη πληροφοριών σχετικά με το προστατευμένο χαρακτηριστικό.
• Χρήση της κατιούσας βαθμίδας με ανάδραση: οι βαθμίδες από το ανταγωνιστικό μοντέλο αντιστρέφονται κατά την ενημέρωση του κύριου μοντέλου για να μειωθεί η εξάρτηση από το προστατευμένο χαρακτηριστικό.

Παράδειγμα ψευδοκώδικα:

# Κύριο μοντέλο f, ανταγωνιστικό μοντέλο g
for batch in data:
    y_pred = f(x)
    s_pred = g(y_pred)
    loss_main = loss_fn(y_pred, y_true)
    loss_adv = loss_fn(s_pred, s_true)
    total_loss = loss_main - lambda * loss_adv
    total_loss.backward()
    optimizer.step()

Όπου το lambda ρυθμίζει την ισορροπία μεταξύ ακρίβειας και δικαιοσύνης.