Co je to rozmanité vyhledávání paprsku?

Diverse Beam Search je modifikace klasického algoritmu beam search, který se používá k generování sekvencí (například v jazykových modelech).

Hlavní myšlenkou je zvýšit rozmanitost generovaných možností, aby se předešlo příliš podobným nebo opakujícím se výsledkům.

Jak to funguje:

• Místo toho, aby se vybíraly pouze nejpravděpodobnější pokračování, je paprsek rozdělen do několika skupin (různé skupiny).
• V každé skupině jsou vybíráni nejlepší kandidáti s ohledem na trest za podobnost s již vybranými v jiných skupinách.
• To podporuje hledání různorodých cest, nikoli pouze těch nejpravděpodobnějších.

Použití diverse beam search je užitečné, když je třeba získat několik kvalitních, ale od sebe odlišných možností, například v úlohách dialogu, překladu nebo kreativní generaci textu.