Šta je histogram-based gradient boosting?

Histogram zasnovan na gradijentnom pojačanju je optimizacija algoritama gradijentnog pojačanja, pri čemu se kontinuirani atributi prethodno diskretizuju u binove (kese), a obuka se vrši na tim histogramskim predstavama.

Glavne prednosti:

• Značajno ubrzava izračunavanje gradijenata i pronalaženje optimalnih podela, jer se operacije obavljaju nad ograničenim brojem binova, a ne nad svim jedinstvenim vrednostima atributa.
• Smanjuje potrošnju memorije.

Primer upotrebe: popularne biblioteke kao što je LightGBM koriste histogram-based boosting za efikasno učenje na velikim tabelarnim podacima.

Ideja je da se zameni potraga za optimalnim pragovima za podelu pretraživanjem po binovima, što pojednostavljuje i ubrzava građu stabala.