Как работи случаен лес и как се обучава в задачата за класификация?

Случаен горски масив (Random Forest) е ансамблов метод за машинно обучение, който изгражда множество дървета за вземане на решения и комбинира техните резултати за подобряване на точността и стабилността на модела.

Структура:

• Състои се от голям брой дървета за вземане на решения.
• Всяко дърво се обучава върху случайна подмножество от оригиналните данни (метод bootstrap).
• При изграждането на дървото, на всеки възел се избира случайна подмножество от признаци за намиране на най-доброто разделяне.

Обучение при задачи за класификация:

1. Случайно се избира подмножество от данните с връщане (bootstrap пример).
2. За всяко дърво се изгражда дърво за вземане на решения върху това подмножество.
3. При избора на разделяне в възлите на дървото, се взема предвид само случайна подмножество от признаци, което намалява корелацията между дърветата.
4. След изграждането на всички дървета, за класифициране на нов обект се извършва гласуване с мнозинство: класът, избран от мнозинството дървета, става крайната прогноза.

Този подход намалява пренасочването и увеличава способността на модела да обобщава.