Какво е Elastic Net?

Elastic Net е метод за регуляризация в линейната регресия, който комбинира свойствата на Lasso (L1 регуларизация) и Ridge (L2 регуларизация). Той помага да се избегне пренасищане и едновременно извършва подбор на характеристики.

Основната идея: добавяне към функцията за загуба на две наказания — сумата от абсолютните стойности на коефициентите (L1) и сумата от квадратите на коефициентите (L2). Това позволява да се запази стабилността на модела и да се намали броят на незначимите характеристики.

Примерна формула:

[ \min_\beta \left( ||y - X\beta||_2^2 + \lambda_1 ||\beta||_1 + \lambda_2 ||\beta||_2^2 \right) ]

Където (\lambda_1) и (\lambda_2) са параметри за регуляризация.

Elastic Net е особено полезен, когато характеристиките са корелирани, тъй като Lasso може случайно да избере една от тях, а Elastic Net запазва група характеристики заедно.