Kaip pasirinkti įterpimo vektoriaus dydį?

Vektoriaus dydžio pasirinkimas priklauso nuo kelių veiksnių:

• Duomenų sudėtingumas ir įvairovė. Kuo turtingesnis ir įvairesnis turinys, tuo didesnė gali būti dimensija, kad būtų galima sugauti visas niuansus.
• Mokymo duomenų kiekis. Didesnės dimensijos reikalauja daugiau duomenų mokymuisi ir siekiant išvengti per didelio pritaikymo.
• Užduotis ir modelis. Paprastoms užduotims (pvz., klasifikacijai su nedideliu klasių skaičiumi) galima naudoti mažesnes dimensijas (50-100), sudėtingesnėms — 300 ar daugiau.
• Išteklių apribojimai. Didesnės įdėjimo reikalingos daugiau atminties ir skaičiavimo išteklių.

Dažnai pasirenkama tarp 100 ir 300, pavyzdžiui, populiarūs modeliai kaip Word2Vec ar GloVe naudoja 100, 200 ar 300 dimensijų.

Pavyzdys: jei kuriate naujienų tekstų paieškos sistemą, 200-300 dimensijų bus geras kompromisas tarp kokybės ir našumo.