Mis on kvantiseeritud sisestused ja kuidas neid kasutatakse tooteotsingus?

Kvantisatsiooniga tihendatud sisestused on vektorivormingud (sisestused), mis on kvantiseerimise abil tihendatud, et vähendada nende suurust ja kiirendada arvutusi.

Kvantiseerimine on protsess, mille käigus vektori väärtused teisendatakse kõrge täpsusega formaadist (näiteks float32) kompaktsemale formaadile (näiteks int8), minimeerides kvaliteedi kaotust.

Tööstuslikus otsingus kasutatakse kvantiseeritud sisestusi selleks, et:

• Vähendada mälu mahtu, võimaldades salvestada rohkem sisestusi ja kiirendada laadimist.
• Kiirendada sarnasuse arvutusi küsimuse ja dokumentide vahel, kuna madala täpsusega arvutused toimuvad kiiremini.
• Vähendada infrastruktuuri kulusid ilma olulise otsingukvaliteedi kaota.

Näide: tekstiotsingul muudetakse päring sisestuseks, mis seejärel võrreldakse kvantiseeritud dokumentide sisestustega, et kiiresti leida kõige asjakohasemaid tulemusi.