Kas yra AutoGPT ir BabyAGI? Kokie yra jų pagrindiniai apribojimai?

AutoGPT ir BabyAGI yra pavyzdžiai autonominių agentų, sukurti naudojant didelius kalbos modelius (LLM), tokius kaip GPT. Jie gali savarankiškai nustatyti tikslus, planuoti užduotis ir jas vykdyti, naudodami LLM iškvietimų grandinę, skirtą veiksmų generavimui ir įvertinimui.

AutoGPT yra eksperimentinis projektas, kuris naudoja GPT automatiškai vykdyti sudėtingas užduotis, jas suskirstydamas į pogrupius ir juos spręsdamas nuosekliai be nuolatinės žmogaus intervencijos.

BabyAGI yra supaprastinta autonominio agento versija, kuri demonstruoja pagrindinius autonominio planavimo ir užduočių vykdymo principus, dažniausiai su ribotu funkcijų rinkiniu ir supaprastinta logika.

Pagrindiniai apribojimai:

• Tikro supratimo ir sąmonės trūkumas. Šie agentai veikia remiantis statistiniais kalbos modeliais, neturėdami tikro supratimo apie kontekstą ar tikslus.
• Apribotas ilgalaikis atmintis. Paprastai atmintis realizuojama saugant tekstines pastabas arba duomenų bazes, kas riboja sudėtingo mokymosi ir prisitaikymo galimybes.
• Klaidos ir nenuspėjamumas. Autonominės veiklos gali sukelti klaidų, nes LLM nesuteikia garantijų dėl sprendimų teisingumo ar saugumo.
• Priklausomybė nuo duomenų kokybės ir kiekio. Rezultatai labai priklauso nuo mokymo duomenų ir modelio parametrų.
• Aukšti skaičiavimo ištekliai ir delsimas. Nuolatiniai LLM iškvietimai reikalauja daug išteklių ir laiko.

Todėl AutoGPT ir BabyAGI yra įdomūs autonominių sistemų, pagrįstų LLM, prototipai, tačiau jie toli nuo pilnavertės bendrosios dirbtinės intelektualumo (AGI).