Как понять, что у модели высокий bias или variance?

Чтобы понять, что у модели высокий bias или variance, нужно проанализировать её поведение на обучающей и тестовой выборках:

• Высокий bias (смещение) означает, что модель плохо обучается и не способна хорошо аппроксимировать данные. Признаки:

  • Низкая точность на обучающей выборке (модель недообучена).
  • Плохая точность на тестовой выборке.
  • Ошибка и на обучении, и на тесте высокая и примерно одинаковая.

• Высокий variance (дисперсия) означает, что модель слишком сложна и переобучается под обучающие данные. Признаки:

  • Очень высокая точность на обучающей выборке.
  • Значительно худшая точность на тестовой выборке.
  • Ошибка на обучении низкая, на тесте высокая.

Пример:

Метрика	Обучение	Тест	Вывод
Ошибка (loss)	Высокая	Высокая	Высокий bias
Ошибка (loss)	Низкая	Высокая	Высокий variance

Таким образом, анализируя ошибки на обучающей и тестовой выборках, можно определить, с чем связана проблема модели.