L'overfitting si riferisce a bias o a varianza?

L'overfitting si riferisce a un problema di alta varianza del modello. È una situazione in cui il modello si adatta troppo precisamente ai dati di addestramento, inclusi rumore e fluttuazioni casuali, portando a una scarsa capacità di generalizzazione sui nuovi dati.

In termini di bias e varianza:

• Bias (pregiudizio) — errore dovuto a un modello troppo semplice che non può descrivere bene i dati.
• Varianza (varianza) — errore dovuto a un modello troppo complesso che si adatta al rumore.

L'overfitting è associato ad alta varianza, non a bias.