Exercice pratique
L'IA propose d'entraîner LoRA sur tous les 2 millions de dialogues non nettoyés. Quelle est la réponse la plus mature du candidat?
- Faire confiance à l'IA : un grand corpus compensera les erreurs.
- Modifier d'abord le prompt sans changer les données.
- Entraîner LoRA sur la partie nettoyée et la comparer au modèle de base.
- Vérifier un échantillon aléatoire de l'annotation avant l'entraînement.
- Vérifier d'abord les données et la qualité par thèmes sur un ensemble séparé, puis entraîner LoRA de manière limitée.
- Entraîner sur tout le corpus, mais réduire le rang de LoRA.