Метрики самого приложения тоже меняются: обычно 2мс, но каждый 10-й запрос — 300-400мс. Ресурсы в порядке. Приложение делает запросы только в Redis и RDS. Какие причины могут быть?

Причины периодического увеличения времени ответа (каждый 10-й запрос — 300-400 мс) при нормальных ресурсах и использовании только Redis и RDS могут быть следующие:

• Кэш-промахи в Redis: возможно, часть запросов не попадает в кэш, и тогда происходит обращение к базе, что дольше.
• Пиковая нагрузка на RDS: даже при нормальных ресурсах могут быть блокировки или долгие запросы, например, из-за конкуренции или сложных запросов.
• Проблемы с пулом соединений: если пул соединений к базе или Redis ограничен, некоторые запросы ждут освобождения соединения.
• Сборка мусора (GC) в приложении: периодические паузы GC могут замедлять обработку запросов.
• Фоновая работа или периодические задачи: например, периодические обновления кэша, бэкапы или другие операции, влияющие на задержки.

Для диагностики стоит:

• Проанализировать логи и метрики Redis и RDS.
• Проверить использование и конфигурацию пулов соединений.
• Посмотреть метрики GC и профилирование приложения.
• Отследить, совпадают ли медленные запросы с какими-то фоновыми задачами.