Kako funkcioniše slučajni šuma i kako se obučava u zadatku klasifikacije?

Насумично шумско (Random Forest) је ансамбл метод машинског учења који гради више одлучујућих стабала и комбинује њихове резултате ради побољшања тачности и стабилности модела.

Структура:

• Састоји се од великог броја одлучујућих стабала.
• Свако стабло се обучава на случајном подскупу оригиналних података (метода bootstrap).
• При изградњи стабла, на сваком чвору се бира случајни подскуп карактеристика за проналажење најбољег раздвајања.

Обучавање у задацима класификације:

1. Случајно се бира подскуп података са повратком (bootstrap узорак).
2. За свако стабло се гради одлучујуће стабло на том подскупу.
3. При избору раздвајања у чворовима стабла, узима се у обзир само случајни подскуп карактеристика, што смањује корелацију између стабала.
4. После изградње свих стабала, за класификацију новог објекта се врши гласање већином: класа која је изабрана од стране већине стабала постаје коначна прогноза.

Овај приступ смањује пренаглашавање и повећава способност модела да општи.