Что такое classifier-free guidance и как работает scale?

Classifier-free guidance — это метод улучшения качества генерации в диффузионных моделях без необходимости обучать отдельный классификатор. Вместо этого модель обучается одновременно на условных и безусловных данных, позволяя во время генерации комбинировать предсказания с условием и без него.

Механизм работает так: во время генерации берутся два предсказания — условное (с учётом заданного условия, например, текста) и безусловное (без условия). Затем они комбинируются с помощью параметра scale (коэффициента масштабирования), который регулирует степень влияния условия. Формула:

x_{guided} = x_{uncond} + scale * (x_{cond} - x_{uncond})

Где:

• x_{cond} — предсказание модели с условием
• x_{uncond} — предсказание без условия
• scale — коэффициент, обычно >1, усиливающий влияние условия

Увеличение scale приводит к более сильному следованию условию, но слишком большое значение может ухудшить качество или привести к артефактам. Таким образом, scale — это параметр, позволяющий балансировать между разнообразием и точностью генерации.