Προς τι αναφέρεται η επανεκπαίδευση: στο σφάλμα ή στην διακύμανση;

Το υπερεκπαίδευση (overfitting) αναφέρεται σε ένα πρόβλημα υψηλής διακύμανσης του μοντέλου. Είναι μια κατάσταση όπου το μοντέλο ταιριάζει πολύ ακριβώς στα δεδομένα εκπαίδευσης, συμπεριλαμβανομένου του θορύβου και των τυχαίων διακυμάνσεων, οδηγώντας σε κακή γενίκευση σε νέα δεδομένα.

Όροι απόκλισης και διακύμανσης:

• Απόκλιση (bias) — σφάλμα λόγω ενός πολύ απλού μοντέλου που δεν μπορεί να περιγράψει καλά τα δεδομένα.
• Διακύμανση (variance) — σφάλμα λόγω ενός πολύπλοκου μοντέλου που προσαρμόζεται στον θόρυβο.

Το overfitting σχετίζεται με υψηλή διακύμανση, όχι με απόκλιση.