Kas ir kvantizētās iedvesmas un kā tās tiek izmantotas produktu meklēšanā?

Kvantizētās iekļaušanas ir vektoru attēlojumi (iekļaušanas), kas ir saspiesti ar kvantizāciju, lai samazinātu to izmēru un paātrinātu aprēķinus.

Kvantizācija ir process, kurā vektora vērtības tiek pārveidotas no augstas precizitātes formāta (piemēram, float32) uz kompaktiāku formātu (piemēram, int8), ar minimālu kvalitātes zudumu.

Ražošanas meklēšanā kvantizētās iekļaušanas tiek izmantotas, lai:

• Samazinātu atmiņas apjomu, ļaujot uzglabāt vairāk iekļaušanu un paātrināt ielādi.
• Paātrinātu līdzības aprēķinus starp pieprasījumu un dokumentiem, jo ar zemas precizitātes skaitļiem veiktās operācijas ir ātrāk.
• Samazinātu infrastruktūras izmaksas, nezaudējot meklēšanas kvalitāti.

Piemērs: teksta meklēšanā pieprasījums tiek pārveidots par iekļaušanu, kas pēc tam tiek salīdzināta ar kvantizētajām dokumentu iekļaušanām, lai ātri atrastu visatbilstošākos rezultātus.