Kas ir AutoGPT un BabyAGI? Kādi ir to galvenie ierobežojumi?

AutoGPT un BabyAGI ir piemēri autonomiem aģentiem, kas būvēti uz lieliem valodu modeļiem (LLM), piemēram, GPT. Tie spēj patstāvīgi noteikt mērķus, plānot uzdevumus un tos izpildīt, izmantojot LLM izsaukumu ķēdi, lai ģenerētu un novērtētu darbības.

AutoGPT ir eksperimentāls projekts, kas izmanto GPT, lai automātiski veiktu sarežģītus uzdevumus, sadalot tos apakšuzdevumos un risinot tos secīgi bez pastāvīgas cilvēka iejaukšanās.

BabyAGI ir vienkāršota autonomā aģenta versija, kas demonstrē pamata principus autonomai plānošanai un uzdevumu izpildei ar LLM palīdzību, parasti ar ierobežotu funkciju kopumu un vienkāršotu loģiku.

Pamatierobežojumi:

• Reālas izpratnes un apziņas trūkums. Šie aģenti darbojas, balstoties uz statistiskiem valodu modeļiem, bez patiesas izpratnes par kontekstu vai mērķiem.
• Ierobežota ilgtermiņa atmiņa. Parasti atmiņa tiek realizēta, saglabājot teksta piezīmes vai datu bāzes, kas ierobežo sarežģītu mācīšanās un pielāgošanās spējas.
• Kļūdas un nenoteiktība. Autonomās darbības var novest pie kļūdām, jo LLM nesniedz garantijas par lēmumu pareizību vai drošību.
• Atkarība no datu kvalitātes un apjoma. Rezultāti ļoti ir atkarīgi no apmācības datiem un modeļa parametriem.
• Augsti skaitļošanas resursi un aizkaves. Pastāvīgi LLM izsaukumi prasa ievērojamus resursus un laiku.

Tādēļ AutoGPT un BabyAGI ir interesanti prototipi autonomām sistēmām, kas balstītas uz LLM, taču tie ir tālu no pilnvērtīgas vispārējās mākslīgās inteliģences (AGI).