Kas nutiks, jei ištrinsime medį iš atsitiktinio miško?

Jei pašalinsite vieną medį iš atsitiktinio miško ansamblio, tada:

• Modelio tikslumo sumažėjimas: Bendra prognozių kokybė gali šiek tiek pablogėti, nes sumažėja balsuojančių medžių skaičius, tai sumažina stabilumą ir bendrąją gebėjimą.
• Prognozavimo laiko sumažėjimas: Modelis veiks greičiau, nes reikia apdoroti mažiau medžių.
• Įtaka priklauso nuo medžio svarbos: Jei pašalintas medis buvo ypač informatyvus (pavyzdžiui, mokytas unikalioje duomenų dalyje), nuostolis bus ryškesnis.

Random forest pagrįstas idėja vidurkinti daugelio medžių prognozes, siekiant sumažinti perpratimą ir padidinti stabilumą. Medžio pašalinimas sumažina ansamblį, kas gali padidinti dispersiją ir sumažinti kokybę, tačiau daugeliu atvejų nuostolis bus mažas, ypač jei medžių yra daug.

Pavyzdys: jei atsitiktinis miškas turi 100 medžių, vieno pašalinimas sumažins skaičių iki 99, tai praktiškai nepaveiks rezultato, tačiau jei pašalinama reikšminga dalis medžių, modelis taps mažiau patikimas.