Mi az a kvantált beágyazás, és hogyan alkalmazzák a termékkeresésben?

Kvantált beágyazások olyan vektoralakzatok (beágyazások), amelyeket kvantizációval tömörítettek a méret csökkentése és a számítások felgyorsítása érdekében.

A kvantizáció az a folyamat, amikor a vektor értékeit magas precizitású formátumból (pl. float32) kompaktabb formátumba (pl. int8) alakítják, minimális minőségveszteséggel.

A gyártási keresésben a kvantált beágyazásokat a következők céljából alkalmazzák:

• Memória mennyiségének csökkentése, ami több beágyazás tárolását teszi lehetővé és gyorsítja a betöltést.
• Az összhasonlítási számítások gyorsítása a kérés és a dokumentumok között, mivel az alacsony bitmélységű számokkal végzett műveletek gyorsabban hajthatók végre.
• Infrastruktúra költségeinek csökkentése, anélkül, hogy jelentős mértékben rontaná a keresés minőségét.

Példa: szöveges keresés esetén a kérés beágyazássá alakul, amelyet ezután összehasonlítanak a dokumentumok kvantált beágyazásaival, hogy gyorsan megtalálják a legrelevánsabb eredményeket.