Τι είναι το bagging;

Το Bagging (Bootstrap Aggregating) είναι μια μέθοδος συνόλου στη μηχανική μάθηση που αυξάνει τη σταθερότητα και την ακρίβεια των μοντέλων. Η βασική ιδέα είναι να εκπαιδεύσουμε πολλά μοντέλα σε διαφορετικά τυχαία υποσύνολα των αρχικών δεδομένων με επιστροφή (bootstrap), και στη συνέχεια να μεσολαβήσουμε τις προβλέψεις τους (για παλινδρόμηση) ή να επιλέξουμε την πιο συχνή κλάση (για ταξινόμηση).

Πλεονεκτήματα του bagging:

• Μειώνει το overfitting μειώνοντας τη διακύμανση του μοντέλου.
• Βελτιώνει την ανθεκτικότητα στο θόρυβο στα δεδομένα.

Παράδειγμα: το τυχαίο δάσος είναι ένα σύνολο αποφασιστικών δέντρων που κατασκευάζονται με τη χρήση bagging.

from sklearn.ensemble import BaggingClassifier
from sklearn.tree import DecisionTreeClassifier

# Βασικό μοντέλο
base_clf = DecisionTreeClassifier()

# Bagging με 10 μοντέλα
bagging_clf = BaggingClassifier(base_estimator=base_clf, n_estimators=10, random_state=42)
bagging_clf.fit(X_train, y_train)