Je možné postaviť RandomForest nad KNN, lineárnymi modelmi a neurónovými sieťami? Prečo?

RandomForest je ansámblová metóda, ktorá stavia množstvo rozhodovacích stromov na náhodných vzorkách a podmnožinách znakov. Je určená na prácu s rozhodovacími stromami, ktoré sú základnými modelmi v tomto algoritme.

Nie je možné postaviť RandomForest "nad" KNN, lineárnymi modelmi alebo neurónovými sieťami v klasickom zmysle, pretože RandomForest nie je metóda ansámblovania ľubovoľných modelov, ale konkrétny algoritmus využívajúci rozhodovacie stromy.

Všeobecne o ansámblových metódach, je možné vytvárať ansámble z rôznych modelov (napríklad stacking), kde základnými modelmi budú KNN, lineárne modely, neurónové siete atď. Ale to už nie je RandomForest, ale všeobecnejší prístup k ansámblovaniu.

Zhrnutie:

• RandomForest je postavený z rozhodovacích stromov.
• Nie je možné použiť KNN, lineárne modely alebo neurónové siete ako základné modely v rámci RandomForest.
• Na spojenie rôznych modelov sa používajú iné metódy ansámblovania (bagging, boosting, stacking).