O que é JEPA e qual é a ideia de previsão conjunta de embeddings?

JEPA (Joint Embedding Predictive Architecture) é uma abordagem em redes neurais profundas, focada na previsão conjunta de embeddings (representações vetoriais) de diferentes partes dos dados.

A ideia de previsão conjunta de embeddings é treinar o modelo para prever a representação de uma parte dos dados a partir de outra, o que ajuda a identificar dependências ocultas e melhorar a qualidade das representações sem marcações explícitas.

Por exemplo, na processamento de imagens, o modelo pode aprender a prever o embedding de uma parte da imagem com base no embedding de outra parte, promovendo uma melhor compreensão da estrutura e do contexto.

Essa abordagem é útil para aprendizagem não supervisionada (aprendizado auto-supervisionado), onde o modelo aprende com as relações internas dos dados, e não com etiquetas.