¿Cómo funciona el bosque aleatorio y cómo se construyen los árboles en el conjunto?

El bosque aleatorio es un método de aprendizaje automático en conjunto que construye múltiples árboles de decisión y combina sus predicciones para mejorar la precisión y la robustez del modelo.

Cómo se construyen los árboles:

• Para cada árbol, se selecciona aleatoriamente una submuestra de objetos de la muestra de entrenamiento con reemplazo (bootstrap).
• Al construir cada nodo del árbol, se selecciona un subconjunto aleatorio de características (features), de las cuales se elige la mejor para dividir.
• El árbol se construye hasta una profundidad determinada o hasta que se alcance un criterio de parada (por ejemplo, un número mínimo de objetos en una hoja).

Cómo funciona el conjunto:

• Para clasificación, la decisión final se toma por mayoría de votos de los árboles.
• Para regresión, se promedian las predicciones de todos los árboles.

Este enfoque reduce el sobreajuste, ya que los árboles se entrenan en diferentes submuestras y utilizan diferentes características, lo que aumenta la capacidad de generalización del modelo.