Diffuziya modellari qanday matematik fikrga ega? Forward va reverse jarayonlari nima?

Diffuziya modellari — bu, ma'lumotlarni shovqinli holatdan tiklashni o'rganadigan generativ modellarning sinfidir. Asosiy matematik fikr shundan iboratki, asl ma'lumotlar forward jarayonida asta-sekin "shovqinli" bo'lib, so'ngra o'qitilgan model ma'lumotlarni shovqindan tiklash uchun teskari jarayonni o'rganadi.

Forward jarayon — bu ma'lumotlarga ketma-ket shovqin qo'shish, odatda Gaus shovqini, har bir bosqichda. Natijada, ma'lumotlar deyarli toza shovqinga aylantiriladi. Bu jarayon oldindan belgilangan va o'qitilmaydi.

Teskari jarayon — bu o'qitilishi mumkin bo'lgan stokastik jarayon bo'lib, har bir bosqichda kamroq shovqinli holatni tiklashga harakat qiladi, asl ma'lumotlarga qaytadi. Model shovqin yoki taqsimot parametrlarini bashorat qilishni o'rganadi, shuning uchun ma'lumotlar asta-sekin "tozalanadi".

Forward jarayonining soddalashtirilgan formulasi misoli:

[ q(x_t | x_{t-1}) = \mathcal{N}(x_t; \sqrt{1 - \beta_t} x_{t-1}, \beta_t I) ]

bu yerda (\beta_t) t bosqichidagi shovqin koeffitsienti.

Teskari jarayon quyidagicha modellashtiriladi:

[ p_\theta(x_{t-1} | x_t) ]

bu yerda (\theta) neyron tarmoq parametrlari bo'lib, bashorat qilingan va haqiqiy shovqin o'rtasidagi farqni minimallashtirish uchun o'qitiladi.

Shunday qilib, diffuziya modellari shovqindan boshlanib, struktura asta-sekin tiklanadigan ma'lumotlarni yaratishni o'rganadi, bu esa yuqori sifatli tasvirlar va boshqa ma'lumotlarni yaratishga imkon beradi.