Co je to histogramové gradientové zesílení?

Histogramově založené posilování gradientů je optimalizace algoritmů posilování gradientů, při níž jsou spojité znaky předem diskretizovány do binů (košů) a trénink probíhá na těchto histogramových reprezentacích.

Hlavní výhody:

• Výrazné zrychlení výpočtu gradientů a hledání optimálních rozdělení, protože operace se provádějí na omezeném počtu binů, nikoli na všech unikátních hodnotách znaků.
• Snížení spotřeby paměti.

Příklad použití: oblíbené knihovny jako LightGBM používají histogramové posilování pro efektivní trénink na velkých tabulkových datech.

Myšlenka je nahradit hledání optimálních prahů pro rozdělení úplným prohledáváním binů, což zjednodušuje a urychluje stavbu stromů.