Czym są AutoGPT i BabyAGI? Jakie są ich podstawowe ograniczenia?

AutoGPT i BabyAGI to przykłady autonomicznych agentów opartych na dużych modelach językowych (LLM), takich jak GPT. Potrafią samodzielnie wyznaczać cele, planować zadania i je wykonywać, korzystając z łańcucha wywołań LLM do generowania i oceny działań.

AutoGPT to projekt eksperymentalny, który wykorzystuje GPT do automatycznego wykonywania złożonych zadań, dzieląc je na podzadania i rozwiązując je kolejno bez stałej interwencji człowieka.

BabyAGI to uproszczona wersja autonomicznego agenta, która demonstruje podstawowe zasady autonomicznego planowania i wykonywania zadań przy pomocy LLM, zwykle z ograniczonym zestawem funkcji i uproszczoną logiką.

Podstawowe ograniczenia:

• Brak prawdziwego zrozumienia i świadomości. Ci agenci działają na podstawie statystycznych modeli języka, nie posiadając rzeczywistego zrozumienia kontekstu lub celów.
• Ograniczona pamięć długoterminowa. Zazwyczaj pamięć realizowana jest poprzez przechowywanie notatek tekstowych lub baz danych, co ogranicza zdolność do złożonego uczenia się i adaptacji.
• Błędy i nieprzewidywalność. Autonomiczne działania mogą prowadzić do błędów, ponieważ LLM nie gwarantują poprawności ani bezpieczeństwa decyzji.
• Zależność od jakości i ilości danych. Wyniki mocno zależą od danych treningowych i parametrów modelu.
• Wysokie zasoby obliczeniowe i opóźnienia. Stałe wywołania LLM wymagają znacznych zasobów i czasu.

Dlatego AutoGPT i BabyAGI to interesujące prototypy autonomicznych systemów opartych na LLM, ale są dalekie od pełnej sztucznej inteligencji ogólnej (AGI).