Qu'est-ce que la recherche de faisceau diversifié?

Diverse Beam Search est une modification de l'algorithme classique de recherche en faisceau, utilisé pour générer des séquences (par exemple, dans les modèles linguistiques).

L'idée principale est d'augmenter la diversité des options générées afin d'éviter des résultats trop similaires ou répétitifs.

Comment cela fonctionne :

• Au lieu de simplement choisir les N continuations les plus probables, le faisceau est divisé en plusieurs groupes (groupes divers).
• Dans chaque groupe, les meilleurs candidats sont sélectionnés en tenant compte d'une pénalité pour la similarité avec ceux déjà sélectionnés dans d'autres groupes.
• Cela encourage la recherche de chemins diversifiés, pas seulement les plus probables.

L'application de diverse beam search est utile lorsque vous souhaitez obtenir plusieurs options de qualité, mais différentes, par exemple dans des tâches de dialogue, de traduction ou de génération créative de texte.