¿Qué es el aumento de gradiente? ¿Dónde aparece el gradiente?

El refuerzo de gradiente es un método de aprendizaje en conjunto que construye un modelo de manera secuencial, añadiendo nuevos modelos débiles (generalmente árboles de decisión) para corregir los errores de los anteriores.

El gradiente aparece en que cada nuevo modelo se entrena en el gradiente de la función de pérdida respecto a las predicciones del modelo en conjunto actual. En otras palabras, minimizamos el error usando descenso de gradiente en el espacio de funciones.

En cada paso, se calcula el gradiente del error (dirección y magnitud en la que se deben mejorar las predicciones), y el nuevo modelo se entrena para predecir este gradiente, ajustando así la predicción final.

Esto permite reducir eficazmente el error y mejorar la calidad del modelo mediante un aprendizaje secuencial a partir de los errores de los modelos anteriores.