Что такое replay-buffer в continual learning?

Replay-buffer в continual learning — это механизм хранения и повторного использования ранее увиденных данных для предотвращения забывания (catastrophic forgetting) при обучении на новых данных.

Идея в том, что модель периодически «пересматривает» старые примеры из буфера вместе с новыми, что помогает сохранить знания о предыдущих задачах. Обычно replay-buffer реализуется как ограниченный по размеру набор примеров, которые случайным образом выбираются для повторного обучения.