Čo je to rozmanité vyhľadávanie lúča?

Diverse Beam Search je modifikácia klasického algoritmu beam search, ktorý sa používa na generovanie sekvencií (napríklad v jazykových modeloch).

Hlavná myšlienka je zvýšiť rozmanitosť generovaných možností, aby sa predišlo príliš podobným alebo opakujúcim sa výsledkom.

Ako to funguje:

• Namiesto toho, aby sa vyberali len najpravdepodobnejšie pokračovania, sa lúč rozdelí na niekoľko skupín (rôzne skupiny).
• V každej skupine sa vyberajú najlepšie kandidáti s ohľadom na trest za podobnosť s už vybranými v iných skupinách.
• To podporuje hľadanie rôznorodých ciest, nie len tých najpravdepodobnejších.

Použitie diverse beam search je užitočné, keď je potrebné získať niekoľko kvalitných, ale od seba odlišných možností, napríklad v úlohách dialógu, prekladu alebo tvorivej generácii textu.