Como funciona a floresta aleatória e como são construídas as árvores no conjunto?

A floresta aleatória é um método de aprendizagem automática em conjunto que constrói múltiplas árvores de decisão e combina suas previsões para melhorar a precisão e a robustez do modelo.

Como as árvores são construídas:

• Para cada árvore, uma subamostra de objetos da amostra de treino é selecionada aleatoriamente com reposição (bootstrap).
• Ao construir cada nó, um subconjunto aleatório de características é escolhido, e a melhor é selecionada para dividir.
• A árvore é construída até uma profundidade definida ou até que um critério de paragem seja atingido (por exemplo, um número mínimo de objetos em uma folha).

Como funciona o conjunto:

• Para classificação, a decisão final é tomada pela maioria dos votos das árvores.
• Para regressão, a média das previsões de todas as árvores é usada.

Essa abordagem reduz o sobreajuste, pois as árvores são treinadas em diferentes subamostras e usam diferentes características, aumentando a capacidade de generalização do modelo.