Какво е bias и variance в модел?

Bias (смесване) и варианс (разпръскване) са две ключови понятия, които описват грешките на моделите за машинно обучение.

• Bias (смесване): това е грешка, която възниква поради твърде прост модел, който не може да описва добре данните. Модел с висок bias е подобучен (underfitting) и прави лоши прогнози както върху тренировъчните, така и върху новите данни.

• Variance (разпръскване): това е грешка, свързана с чувствителността на модела към шума в тренировъчните данни. Модел с висока вариация се пренастройва (overfitting), работи добре върху тренировъчните данни, но се обобщава зле към нови данни.

Балансът между bias и variance е важен за добър модел. Обикновено, при увеличаване на сложността на модела, bias намалява, а variance се увеличава.

Пример:

• Простата линейна регресия може да има висок bias, ако данните са нелинейни.
• Сложен модел, като дълбока невронна мрежа, може да има нисък bias, но висок variance, ако се пренастройва върху тренировъчните данни.