Mis on mitmekesise kiirguse otsing?

Diverse Beam Search on klassikalise beam search algoritmi muudatus, mida kasutatakse järjestuste genereerimiseks (näiteks keelemudelites).

Peamine idee on suurendada loodavate variantide mitmekesisust, et vältida liiga sarnaseid või korduvaid tulemusi.

Kuidas see töötab:

• Selle asemel, et valida lihtsalt TOP-N kõige tõenäolisemat jätku, jagatakse beam mitmeks rühmaks (mitmekesine rühm).
• Igas rühmas valitakse parimad kandidaadid, võttes arvesse karistust sarnasuse eest juba teistes rühmades valitud kandidaatidega.
• See soodustab mitmekesiste teede otsimist, mitte ainult kõige tõenäolisemaid.

Diverse beam searchi rakendamine on kasulik, kui soovite saada mitu kvaliteetset, kuid üksteisest erinevat varianti, näiteks dialoogi, tõlke või loomingulise teksti genereerimise ülesannetes.