O que é o Optuna e quais são os seus pruners?

Optuna é uma biblioteca para otimização automática de hiperparâmetros (HPO) em tarefas de aprendizagem automática. Permite procurar de forma eficiente os melhores parâmetros de modelos usando métodos de otimização bayesiana e outras estratégias.

Os Pruners no Optuna são mecanismos que interrompem (eliminam) testes (trials) mal sucedidos ou pouco promissores em fases iniciais para economizar recursos computacionais. Analisam os resultados intermédios e decidem se vale a pena continuar o treino.

Principais pruners no Optuna:

• MedianPruner — interrompe testes se os seus resultados intermédios forem piores que a mediana de outros testes na mesma fase.
• PercentilePruner — interrompe testes se os seus resultados forem piores que um percentil definido.
• SuccessiveHalvingPruner — implementa uma estratégia de redução sequencial do número de testes, deixando apenas os melhores.
• HyperbandPruner — extensão do SuccessiveHalving com gestão adaptativa de recursos.

O uso de pruners ajuda a acelerar o processo de otimização, focando nas configurações mais promissoras.