Какво е AutoGPT и BabyAGI? Какви са техните основни ограничения?

AutoGPT и BabyAGI са примери за автономни агенти, изградени върху големи езикови модели (LLM), като GPT. Те са способни сами да поставят цели, да планират задачи и да ги изпълняват, използвайки верига от извиквания към LLM за генериране и оценка на действия.

AutoGPT е експериментален проект, който използва GPT за автоматично изпълнение на сложни задачи, като ги разбива на подзадачи и ги решава последователно без постоянна човешка намеса.

BabyAGI е опростена версия на автономен агент, който демонстрира основните принципи на автономното планиране и изпълнение на задачи с помощта на LLM, обикновено с ограничен набор от функции и опростена логика.

Фундаментални ограничения:

• Липса на истинско разбиране и съзнание. Тези агенти работят на базата на статистически модели на езика, без да притежават реално разбиране за контекста или целите.
• Ограничена дългосрочна памет. Обикновено паметта се реализира чрез запазване на текстови бележки или бази данни, което ограничава способността за сложено обучение и адаптация.
• Грешки и непредсказуемост. Автономните действия могат да доведат до грешки, тъй като LLM не гарантират коректност или безопасност на решенията.
• Зависимост от качеството и обема на данните. Резултатите силно зависят от обучаващите данни и параметрите на модела.
• Високи изчислителни ресурси и забавяния. Постоянните извиквания към LLM изискват значителни ресурси и време.

Така AutoGPT и BabyAGI са интересни прототипи на автономни системи на базата на LLM, но те са далеч от пълноценна изкуствена обща интелигенция (AGI).