Mi az a folyamatos tanulás és mi a katasztrofális felejtés problémája?

Folyamatos tanulás — a gépi tanulási modell képessége, hogy új adatokból sorban tanuljon, anélkül, hogy elfelejtené a korábban tanult információkat. Ez fontos olyan rendszerek számára, amelyeknek alkalmazkodniuk kell a változó körülményekhez anélkül, hogy nulláról kellene újra tanítani őket.

A katasztrofális felejtés problémája akkor fordul elő, amikor a modell új adatokon való tanulás során elveszíti a képességét arra, hogy helyesen kezelje a korábban tanult feladatokat vagy adatokat. Ez abból adódik, hogy a modell súlyainak frissítése az új adatokhoz «felülírhatja» a korábban szerzett tudást.

Ennek a problémának a kezelésére különböző módszerek léteznek:

• Regularizáció, amely korlátozza a modell fontos paramétereinek változását.
• Memória használata a korábbi feladatok példáinak tárolására (replay).
• Architektúrális megoldások, például a modell felosztása külön részekre külön feladatokhoz.

Így a folyamatos tanulás lehetővé teszi a modellek számára, hogy hatékonyan tanuljanak új adatokból anélkül, hogy elveszítenék a régi tudást, ami hosszú távú AI alkalmazásoknál kritikus.