O que é o compromisso entre viés e variância?

O compromisso entre viés e variância é um conceito fundamental em aprendizagem de máquina, descrevendo o compromisso entre dois tipos de erros ao treinar um modelo:

• Viés (bias) — erro causado por um modelo demasiado simples que não consegue descrever bem os dados (subajuste).
• Variância — erro relacionado ao fato de o modelo ser demasiado sensível ao ruído nos dados de treino e generalizar mal para novos dados (sobreajuste).

Se o modelo for demasiado simples, terá um viés alto e baixa variância. Se for demasiado complexo, terá um viés baixo, mas alta variância.

O objetivo é encontrar um equilíbrio onde o modelo seja suficientemente complexo para captar padrões, mas não tanto a ponto de se ajustar ao ruído.

Exemplo: ao treinar uma regressão com polinômios de baixo grau (regressão linear), o viés será alto e a variância baixa; com um polinômio de grau alto, o contrário.