Čo je Textual Inversion a čím sa líši od LoRA?

Textual Inversion a LoRA sú metódy na prispôsobenie veľkých generatívnych modelov AI (napríklad difúznych modelov) novým konceptom alebo štýlom, ale líšia sa prístupom a použitím.

Textual Inversion je technika, pri ktorej sa model naučí spájať nový koncept s unikátnym tokenom v textovom priestore. Vytvorí sa nový "slovo" alebo "token", ktorý kóduje určitý vizuálny štýl alebo objekt. To umožňuje použitie nového tokenu v promptoch na generovanie obrázkov s týmto konceptom bez zmeny samotného modelu.

LoRA (Low-Rank Adaptation) je metóda prispôsobenia váh modelu pridaním nízko-rangových matíc, ktoré sú trénované na novú úlohu alebo štýl. LoRA efektívne mení parametre modelu, bez potreby úplného preškolenia. To umožňuje rýchle prispôsobenie modelu na nové dáta s menšími nákladmi.

Zhrnutie:

• Textual Inversion pracuje na úrovni textovej reprezentácie, pridávaním nových tokenov.
• LoRA mení vnútorné váhy modelu pre prispôsobenie.

Obe metódy umožňujú rozšíriť schopnosti generatívnych modelov, ale Textual Inversion je jednoduchšia na pridanie nových konceptov, zatiaľ čo LoRA umožňuje hlbšiu prispôsobenie modelu.