Какво е градиентно буустинг базиран на хистограми?

Хистограм-базираното градиентно буустинг е оптимизация на алгоритмите за градиентен буустинг, при която непрекъснатите признаци предварително се дискретизират в бинове (кошници), а обучението се извършва върху тези хистограмни представяния.

Основните предимства:

• Значително ускоряване на изчисляването на градиентите и търсенето на оптимални разделения, тъй като операциите се изпълняват върху ограничен брой бинове, а не върху всички уникални стойности на признаците.
• Намаляване на паметта.

Пример за използване: популярни библиотеки като LightGBM използват histogram-based boosting за ефективно обучение на големи таблични данни.

Идеята е да се замени търсенето на оптимални прагове за разделяне с обхождане по бинове, което опростява и ускорява изграждането на дървета.