Kako funkcioniše slučajni šuma i kako se stabla grade u skupu?

Насумична шума је ансамбл метода машинског учења која гради више одлучујућих стабала и комбинује њихове прогнозе ради побољшања тачности и стабилности модела.

Како се граде стабла:

• За свако стабло, насумично се бира подскуп објеката из тренинг сета (bootstrap).
• При изградњи сваког чвора, бира се насумично подскуп карактеристика, од којих се бира најбоља за раздвајање.
• Стабло се гради до задате дубине или док се не достигне критеријум заустављања (нпр. минималан број објеката у листу).

Како ради ансамбл:

• За класификацију, коначна одлука се доноси већином гласова стабала.
• За регресију, узима се просек предвиђања свих стабала.

Овај приступ смањује пренаштавање, јер се стабла обучавају на различитим подскуповима и користе различите карактеристике, што повећава способност генерализације модела.