Kas yra kvantizuotos įdėjos ir kaip jos taikomos produktų paieškoje?

Kvantizuotos įdėjos yra vektorinės reprezentacijos (įdėjos), kurios buvo suspaustos naudojant kvantizaciją, siekiant sumažinti jų dydį ir pagreitinti skaičiavimus.

Kvantizacija yra procesas, kurio metu vektoriaus reikšmės iš aukštos tikslumo formato (pvz., float32) konvertuojamos į kompaktiškesnį formatą (pvz., int8), su minimaliu kokybės praradimu.

Gamybos paieškoje kvantizuotos įdėjos naudojamos siekiant:

• Sumažinti atminties kiekį, leidžiantį saugoti daugiau įdėjų ir pagreitinti įkėlimą.
• Pagreitinti panašumo skaičiavimus tarp užklausos ir dokumentų, nes operacijos su žemų bitų skaičiais vykdomos greičiau.
• Sumažinti infrastruktūros išlaidas, nesilaikant reikšmingo paieškos kokybės praradimo.

Pavyzdys: tekstinės paieškos metu užklausa paverčiama į įdėją, kuri vėliau lyginama su kvantizuotomis dokumentų įdėjomis, siekiant greitai rasti labiausiai aktualius rezultatus.