Wat is classifier-free guidance en hoe werkt de schaal?

Gids zonder classifier is een methode om de kwaliteit van gegenereerde output in diffusiemodellen te verbeteren zonder dat er een aparte classifier getraind hoeft te worden. In plaats daarvan wordt het model gelijktijdig getraind op conditionele en niet-conditionele data, waardoor het tijdens de generatie voorspellingen met en zonder conditie kan combineren.

Het mechanisme werkt als volgt: tijdens de generatie worden twee voorspellingen gedaan — een conditioneel (rekening houdend met de gegeven conditie, bijvoorbeeld tekst) en een niet-conditioneel (zonder conditie). Deze worden vervolgens gecombineerd met behulp van een parameter genaamd scale (schaalcoëfficiënt), die de invloed van de conditie regelt. De formule:

x_{guided} = x_{uncond} + scale * (x_{cond} - x_{uncond})

Waar:

• x_{cond} — voorspelling van het model met conditie
• x_{uncond} — voorspelling zonder conditie
• scale — coëfficiënt, meestal >1, dat de invloed van de conditie versterkt

Het verhogen van de scale leidt tot een sterkere naleving van de conditie, maar een te hoge waarde kan de kwaliteit verslechteren of artefacten veroorzaken. Daarom is scale een parameter die het mogelijk maakt om te balanceren tussen diversiteit en nauwkeurigheid in de generatie.