Если количество задач плавающее (от единиц до сотен), какой тип пула потоков выбрать?

Если количество задач плавающее и может варьироваться от единиц до сотен, оптимальным будет использовать пул потоков с динамическим размером, например, ThreadPoolExecutor с возможностью масштабирования.

В Java для этого подходит класс ThreadPoolExecutor, где можно задать минимальное и максимальное количество потоков, а также очередь задач. При увеличении нагрузки пул будет автоматически создавать новые потоки до максимума, а при снижении — уменьшать их количество.

Пример создания такого пула:

int corePoolSize = 5;
int maximumPoolSize = 100;
long keepAliveTime = 60L;
BlockingQueue<Runnable> workQueue = new LinkedBlockingQueue<>();

ThreadPoolExecutor executor = new ThreadPoolExecutor(
    corePoolSize,
    maximumPoolSize,
    keepAliveTime,
    TimeUnit.SECONDS,
    workQueue
);

Такой подход позволяет эффективно использовать ресурсы, адаптируясь под текущую нагрузку, и избегать излишнего создания потоков при малом количестве задач.