O que é decodificação gananciosa e quais são os seus problemas?

A decodificação gulosa (greedy decoding) é um método simples de geração de sequências em tarefas de PLN e aprendizagem de máquina, onde em cada passo é escolhido o token mais provável sem considerar as opções futuras. Ou seja, o modelo escolhe a opção localmente ótima em cada passo.

Problemas da decodificação gulosa:

• Óptimo local: A escolha do token mais provável em cada passo não garante uma sequência globalmente ótima.
• Falta de diversidade: A geração muitas vezes torna-se previsível e monótona.
• Baixa qualidade em tarefas complexas: Em tarefas com dependências longas ou ambiguidades, a abordagem gulosa pode levar a resultados de baixa qualidade.

Exemplo: ao gerar texto, a decodificação gulosa pode escolher palavras que aparecem com frequência, ignorando outras mais adequadas ao contexto, que requerem sacrificar a probabilidade local em favor de um melhor resultado global.