É necessário escalar as características para regressão linear e outros modelos?

A escalabilidade das características é frequentemente necessária para modelos sensíveis à escala dos dados. Para a regressão linear, isso nem sempre é crítico, pois ela pode trabalhar com características não balanceadas, mas a escalabilidade ajuda a:

• Melhorar a convergência dos métodos de otimização por gradiente.
• Tornar os coeficientes do modelo mais interpretáveis.

Para outros modelos, como os baseados em distâncias (kNN, SVM com RBF), a escalabilidade é obrigatória para que as características tenham o mesmo peso.

Frequentemente, utiliza-se a padronização (ajustar para média 0 e desvio padrão 1) ou a normalização (ajustar para o intervalo [0,1]).

Exemplo de padronização em Python com sklearn:

from sklearn.preprocessing import StandardScaler

scaler = StandardScaler()
X_scaled = scaler.fit_transform(X)