SFT LLM üçün öyrənmə dərəcəsini seçərkən hansı yoxlamalar aparılmalıdır?

LLM (Böyük dil modelləri) üçün SFT (Nəzarətli Yaxşılaşdırma) öyrənmə dərəcəsini seçərkən, aşırı öyrənmə və ya çox yavaş öyrənmənin qarşısını almaq üçün bir neçə yoxlama aparmaq vacibdir:

• Zərərin (loss) monitorinqi: Təlim və təsdiqləmə məlumatlarındakı zərər funksiyasının dinamikasını izləyin. Əgər loss azalmır və ya dalğalanırsa, öyrənmə dərəcəsi çox yüksək ola bilər.

• Təlimin stabilliyinin yoxlanması: Çox yüksək öyrənmə dərəcəsi, zərərdə uçurumlara və ya sıçrayışlara səbəb ola bilər. Əgər təlim stabillikdən kənar olsa, öyrənmə dərəcəsini azaldın.

• Yekunlaşma sürəti: Əgər öyrənmə dərəcəsi çox aşağıdırsa, təlim çox yavaş olacaq. Sürət və stabillik arasında balans tapmaq lazımdır.

• Öyrənmə dərəcəsi planlayıcılarından istifadə: Çox vaxt adaptiv metodlar və ya planlayıcılar istifadə olunur ki, təlim irəlilədikcə öyrənmə dərəcəsini azaldır.

• Kiçik alt dəstədə test: Tam təlimdən əvvəl, məlumatların kiçik bir hissəsində müxtəlif öyrənmə dərəcəsi dəyərlərini sınaqdan keçirin və davranışı sürətlə qiymətləndirin.

• Əsas dəyərlərlə müqayisə: Model və tapşırıq üçün tövsiyə olunan dəyərlərlə başlayın, məsələn, 1e-5 və ya 5e-5, və nəticələrə əsasən tənzimləyin.

• Keyfiyyət metriklərinin izlənməsi: Loss-un yanında, keyfiyyət metrikalarını (məsələn, dəqiqlik, F1) izləyin ki, modelin həqiqətən yaxşılaşdığından əmin olun.

PyTorch-də öyrənmə dərəcəsini tənzimləmək nümunəsi:

optimizer = torch.optim.Adam(model.parameters(), lr=5e-5)

# Scheduler istifadə oluna bilər
scheduler = torch.optim.lr_scheduler.StepLR(optimizer, step_size=1000, gamma=0.1)

for epoch in range(num_epochs):
    train()
    validate()
    scheduler.step()

Beləliklə, öyrənmə dərəcəsinin seçimi, izləmə və təcrübələr vasitəsilə əldə edilən sürət və stabillik arasında balansdır.