რა არის bias და variance, და რა მცირდება შემთხვევით ტყეში?

მანქანური სწავლების სფეროში:

• Bias (მრუდობა) — ეს არის შეცდომა, რომელიც წარმოიქმნება ძალიან მარტივი მოდელის გამო, რომელიც ვერ ახერხებს რეალურ დამოკიდებულებას კარგად მიახლოებას. მაღალი bias იწვევს არასაკმარის სწავლებას.
• ვარიაცია — ეს არის მოდელის მგრძნობელობა ტრენინგ მონაცემებში ცვლილებების მიმართ. მაღალი ვარიაცია ნიშნავს, რომ მოდელი ძალიან მორგებულია მონაცემებში არსებულ ხმაურს, რაც იწვევს გადამზადებას.

სხვადასხვა ხე — ეს არის გადაწყვეტილების ხეების კოლექცია, რომელიც აშენებულია შემთხვევით შერჩეული მონაცემებისა და მახასიათებლების საფუძველზე. იგი ამცირებს ვარიაციას ერთეულ ხესთან შედარებით, რადგან პროგნოზების საშუალო მნიშვნელობა ამცირებს შემთხვევით ცვალებადობას მონაცემებში, ხოლო bias რჩება დაახლოებით ერთ დონეზე ან მცირედით იზრდება.

მაგალითი:

from sklearn.ensemble import RandomForestClassifier

# შემთხვევითი ხე ამცირებს ვარიაციას საშუალო მნიშვნელობით
model = RandomForestClassifier(n_estimators=100)
model.fit(X_train, y_train)