Kā izvēlēties iekļaušanas vektora lielumu?

Vektora izmēra izvēle ir atkarīga no vairākiem faktoriem:

• Datu sarežģītība un daudzveidība. Jo bagātāks un daudzveidīgāks saturs, jo lielāka dimensija var būt, lai noķertu visas nianses.
• Apmācības datu apjoms. Lielākas dimensijas prasa vairāk datu apmācībai un, lai izvairītos no pārmācīšanās.
• Uzdevums un modelis. Vienkāršiem uzdevumiem (piemēram, klasifikācijai ar nelielu klases skaitu) var izmantot mazākas dimensijas (50-100), sarežģītākiem — 300 vai vairāk.
• Resursu ierobežojumi. Lielākas iekļaušanas prasīs vairāk atmiņas un skaitļošanas resursu.

Bieži izvēlas diapazonā no 100 līdz 300, piemēram, populāri modeļi kā Word2Vec vai GloVe izmanto 100, 200 vai 300 dimensijas.

Piemērs: ja veidojat meklēšanas sistēmu pēc ziņu tekstiem, 200-300 dimensijas būs labs kompromiss starp kvalitāti un veiktspēju.