Čo je to histogramové gradientové zosilnenie?

Histogramové založené posilňovanie gradientov je optimalizácia algoritmov posilňovania gradientov, pri ktorej sú spojité znaky vopred diskretizované do binov (košov), a tréning prebieha na týchto histogramových reprezentáciách.

Hlavné výhody:

• Výrazné zrýchlenie výpočtu gradientov a hľadania optimálnych rozdelení, pretože operácie sa vykonávajú na obmedzenom počte binov, nie na všetkých unikátnych hodnotách znakov.
• Zníženie spotreby pamäti.

Príklad použitia: obľúbené knižnice ako LightGBM používajú histogram-based boosting na efektívne učenie na veľkých tabuľkových dátach.

Myšlienka je nahradiť hľadanie optimálnych prahov pre rozdelenie úplným prehľadávaním binov, čo zjednodušuje a zrýchľuje stavbu stromov.