Co jsou kvantizované vnoření a jak se používají při vyhledávání produktů?

Kvantizované vložky jsou vektorové reprezentace (vložené), které byly komprimovány pomocí kvantizace za účelem zmenšení velikosti a urychlení výpočtů.

Kvantizace je proces, při kterém jsou hodnoty vektoru převedeny z formátu s vysokou přesností (například float32) na kompaktnější formát (například int8), s minimální ztrátou kvality.

V produkčním vyhledávání se kvantizované vložky používají k:

• Zmenšení objemu paměti, což umožňuje uložit více vložek a urychlit načítání.
• Zrychlení výpočtů podobnosti mezi dotazem a dokumenty, protože operace s nízkopřesnými čísly jsou rychlejší.
• Snížení nákladů na infrastrukturu bez významné ztráty kvality vyhledávání.

Příklad: při vyhledávání podle textu je dotaz převeden na vložku, která je následně porovnána s kvantizovanými vložkami dokumentů pro rychlé nalezení nejrelevantnějších výsledků.