Czym jest guidance bez klasyfikatora i jak działa skala?
sobes.tech AI
Odpowiedź od AI
Guidowanie bez klasyfikatora to metoda poprawy jakości generacji w modelach dyfuzyjnych bez konieczności trenowania osobnego klasyfikatora. Zamiast tego, model jest trenowany jednocześnie na danych warunkowych i bezwarunkowych, co pozwala podczas generacji łączyć przewidywania z warunkiem i bez niego.
Mechanizm działa tak: podczas generacji pobierane są dwa przewidywania — warunkowe (z uwzględnieniem podanego warunku, np. tekstu) i bezwarunkowe (bez warunku). Następnie są one łączone za pomocą parametru zwanego skalą (współczynnikiem skalowania), który reguluje wpływ warunku. Wzór:
x_{guided} = x_{uncond} + scale * (x_{cond} - x_{uncond})
Gdzie:
x_{cond}— przewidywanie modelu z warunkiemx_{uncond}— przewidywanie bez warunkuscale— współczynnik, zazwyczaj >1, zwiększający wpływ warunku
Zwiększenie skali prowadzi do silniejszego przestrzegania warunku, ale zbyt duża wartość może pogorszyć jakość lub spowodować artefakty. Dlatego skala jest parametrem pozwalającym na wyważenie między różnorodnością a precyzją generacji.