Mis on DoRA ja kuidas see erineb LoRA-st?

DoRA (Domeenipõhine Päringute Täiendamine) ja LoRA (Madala Rangi Kohandamine) on meetodid suurte keelemudelite kohandamiseks, kuid erinevate lähenemisviisidega.

• LoRA on mudeli peenhäälestamise meetod, mis lisab mudeli kaaludele madala ranga maatrikseid, võimaldades tõhusalt mudelit kohandada ilma kõiki parameetreid muutmata.

• DoRA on meetod, mis keskendub mudeli parandamisele, integreerides asjakohast teavet välisest allikast (pöördumine), keskendudes konkreetsele valdkonnale (domeenile). See võimaldab mudelil kasutada ajakohaseid andmeid vastuste genereerimiseks.

Seega on LoRA parametriline mudeli kohandamise tehnika, samas kui DoRA on lähenemisviis, mis laiendab mudelit väliste teadmisteni, keskendudes konkreetsele valdkonnale.