Что такое self-reflection в агентах (Reflexion)?

Self-reflection в агентах (Reflexion) — это способность агента анализировать и оценивать собственные действия, состояние и решения во время выполнения задач. Такой механизм позволяет агенту адаптироваться, улучшать стратегию и корректировать поведение на основе внутреннего анализа.

В контексте LLM и AI агентов self-reflection помогает:

• Оценивать качество сгенерированных ответов или действий.
• Выявлять ошибки или неоптимальные решения.
• Планировать последующие шаги с учётом предыдущего опыта.

Пример: агент, выполняющий сложную задачу, может после каждого шага анализировать результат и решать, стоит ли изменить подход или повторить действие, что повышает эффективность и точность.