¿Qué es la búsqueda de haz diversa?

Diverse Beam Search es una modificación del algoritmo clásico de búsqueda en haz, utilizado para generar secuencias (por ejemplo, en modelos de lenguaje).

La idea principal es aumentar la diversidad de las opciones generadas para evitar resultados demasiado similares o repetitivos.

Cómo funciona:

• En lugar de simplemente seleccionar las N continuaciones más probables, el haz se divide en varios grupos (grupos diversos).
• En cada grupo, se seleccionan los mejores candidatos considerando una penalización por similitud con los ya seleccionados en otros grupos.
• Esto fomenta la búsqueda de caminos diversos, no solo los más probables.

La aplicación de diverse beam search es útil cuando se necesitan obtener varias opciones de calidad, pero diferentes entre sí, por ejemplo, en tareas de diálogo, traducción o generación creativa de texto.