რა არის L1 და L2 რეგულარიზაციის განსხვავება?

L1 ва L2 регуляциялари машинани ўрганиш моделларида ортиқча ўрганишдан ҳимоя қилиш усуллари бўлиб, улар йўқотиш функциясига жазо қўшиш орқали амалга оширилади.

• L1 регуляцияси (Lasso), моделнинг коэффициентларининг абсолют қийматларининг жамланмасини йўқотиш функциясига қўшади:

  [ \lambda \sum |w_i| ]

  Бу моделни сирдар қилади — кўп коэффициентлар нулга яқинлашади, бу хусусиятларни танлашда ёрдам беради.

• L2 регуляцияси (Ridge), коэффициентларнинг квадратларининг жамланмасини қўшади:

  [ \lambda \sum w_i^2 ]

  У коэффициентларни кичик қилади, аммо уларни тўлиқ нулга етказмайди, бу моделнинг барқарорлигини оширади.

Асосий фарқлар:

• L1 сирдарлик ва хусусиятларни танлашга ёрдам беради.
• L2 коэффициентларнинг катталигини камайтиради, моделни барқарор қилади.

Pythonда sklearn билан мисол:

from sklearn.linear_model import LogisticRegression

# L1 регуляция
model_l1 = LogisticRegression(penalty='l1', solver='liblinear')

# L2 регуляция
model_l2 = LogisticRegression(penalty='l2')

Уларнинг орасида танлов вазифага боғлиқ: агар хусусиятлар танланиши муҳим бўлса — L1, агар барқарорлик ва йўллаш керак бўлса — L2.