Čo sú AutoGPT a BabyAGI? Aké sú ich základné obmedzenia?

AutoGPT a BabyAGI sú príklady autonómnych agentov postavených na veľkých jazykových modeloch (LLM), ako je GPT. Sú schopní samostatne stanovovať ciele, plánovať úlohy a ich vykonávať, pričom využívajú reťazec volaní LLM na generovanie a hodnotenie akcií.

AutoGPT je experimentálny projekt, ktorý využíva GPT na automatické vykonávanie zložitých úloh, rozdeľujúc ich na podúlohy a ich postupné riešenie bez neustáleho zásahu človeka.

BabyAGI je zjednodušená verzia autonómneho agenta, ktorá demonštruje základné princípy autonómneho plánovania a vykonávania úloh s pomocou LLM, zvyčajne s obmedzeným súborom funkcií a zjednodušenou logikou.

Základné obmedzenia:

• Chýba skutočné porozumenie a vedomie. Títo agenti fungujú na základe štatistických jazykových modelov, bez skutočného porozumenia kontextu alebo cieľov.
• Obmedzená dlhodobá pamäť. Zvyčajne je pamäť realizovaná ukladaním textových poznámok alebo databáz, čo obmedzuje schopnosť zloženého učenia a adaptácie.
• Chyby a nepredvídateľnosť. Autonómne akcie môžu viesť k chybám, pretože LLM nezaručujú správnosť alebo bezpečnosť rozhodnutí.
• Závislosť od kvality a objemu dát. Výsledky sú silne závislé od tréningových dát a parametrov modelu.
• Vysoké výpočtové zdroje a oneskorenia. Neustále volania na LLM vyžadujú značné zdroje a čas.

Preto sú AutoGPT a BabyAGI zaujímavými prototypmi autonómnych systémov založených na LLM, ale sú ďaleko od úplnej všeobecnej umelej inteligencie (AGI).