Wat is consistentieregularisatie (FixMatch)?

Consistentieregularisatie is een methode op het gebied van leren met gedeeltelijk gelabelde gegevens, die ervan uitgaat dat het model stabiele voorspellingen moet doen voor verschillende variaties van dezelfde invoer. In FixMatch wordt dit principe geïmplementeerd door gebruik te maken van zwakke en sterke data-augmentaties: het model genereert pseudo-labels op basis van de zwakke augmentatie en wordt vervolgens getraind op de sterke augmentatie, met als doel dat de voorspellingen overeenkomen.

Voorbeeld: voor een afbeelding wordt eerst een lichte augmentatie toegepast (bijvoorbeeld een kleine verandering in helderheid), het model voorspelt de klasse, en als de zekerheid hoog genoeg is, wordt deze voorspelling gebruikt als pseudo-label. Vervolgens wordt dezelfde afbeelding onderworpen aan een sterke augmentatie (bijvoorbeeld willekeurig bijsnijden, draaien), en wordt het model getraind zodat de voorspelling bij de sterke augmentatie overeenkomt met het pseudo-label.

Dit helpt om niet-gelabelde gegevens effectief te gebruiken en verbetert de generalisatiecapaciteit van het model.