Praktiska uzdevums
AI iesaka apmācīt LoRA uz visiem 2 miljoniem neattīrītu dialogu. Kura ir kandidāta nobriedušākā atbilde?
- Uzticēties AI: liels korpuss pats izlīdzinās kļūdas.
- Vispirms mainīt promptu, nemainot datus.
- Apmācīt LoRA attīrītajā daļā un salīdzināt ar pamata modeli.
- Pirms apmācības pārbaudīt nejaušu marķējuma paraugu.
- Vispirms pārbaudīt datus un kvalitāti pēc tēmām atsevišķā kopā, tad ierobežoti apmācīt LoRA.
- Apmācīt visā korpusā, bet samazināt LoRA rangu.