Kas ir JEPA un kāda ir kopīgās prognozes ideja par iebūvēšanu?

JEPA (Joint Embedding Predictive Architecture) ir pieeja dziļajās neironu tīklos, kas ir vērsta uz kopīgu iekļaušanas (vektoru attēlojumu) prognozēšanu dažādās datu daļās.

Kopīgas iekļaušanas prognozēšanas ideja ir apmācīt modeli prognozēt viena datu daļas attēlojumu, balstoties uz citas daļas attēlojumu, kas palīdz atklāt slēptās atkarības un uzlabot attēlojumu kvalitāti bez skaidrām marķieriem.

Piemēram, attēlu apstrādē, modelis var iemācīties prognozēt viena attēla daļas embedding, balstoties uz citas daļas embedding, kas veicina labāku struktūras un konteksta izpratni.

Šī pieeja ir noderīga pašuzraudzības mācīšanās jomā, kur modelis mācās no datu iekšējām attiecībām, nevis no marķieriem.