Sobes.tech
Senior

Czym jest guidance bez klasyfikatora i jak działa skala?

sobes.tech AI

Odpowiedź od AI

Guidowanie bez klasyfikatora to metoda poprawy jakości generacji w modelach dyfuzyjnych bez konieczności trenowania osobnego klasyfikatora. Zamiast tego, model jest trenowany jednocześnie na danych warunkowych i bezwarunkowych, co pozwala podczas generacji łączyć przewidywania z warunkiem i bez niego.

Mechanizm działa tak: podczas generacji pobierane są dwa przewidywania — warunkowe (z uwzględnieniem podanego warunku, np. tekstu) i bezwarunkowe (bez warunku). Następnie są one łączone za pomocą parametru zwanego skalą (współczynnikiem skalowania), który reguluje wpływ warunku. Wzór:

x_{guided} = x_{uncond} + scale * (x_{cond} - x_{uncond})

Gdzie:

  • x_{cond} — przewidywanie modelu z warunkiem
  • x_{uncond} — przewidywanie bez warunku
  • scale — współczynnik, zazwyczaj >1, zwiększający wpływ warunku

Zwiększenie skali prowadzi do silniejszego przestrzegania warunku, ale zbyt duża wartość może pogorszyć jakość lub spowodować artefakty. Dlatego skala jest parametrem pozwalającym na wyważenie między różnorodnością a precyzją generacji.