Классикалык ML алгоритмдеринде регуляция жөнүндө айтып бериңиз: L1 жана L2. Анын мүнөздөмөлөрү жана айырмачылыктары эмнеде?

L1 жана L2 — бул эки түрдүү регуляциялоо түрлөрү, алар жоготуу функциясына жазаны кошуп, ашыкча үйрөнүүнүн алдын алат.

• L1 регуляциясы (Lasso) коэффициенттердин абсолют маанилеринин суммасын кошот: ( \lambda \sum |w_i| ). Ал моделдин сирек болушун камсыздайт, башкача айтканда, көп коэффициенттер нөлгө барабар болуп калат, бул өзгөчөлүктөрдү тандоодо жардам берет.

• L2 регуляциясы (Ridge) коэффициенттердин квадратынын суммасын кошот: ( \lambda \sum w_i^2 ). Ал коэффициенттерди нөлгө коюп койбойт, гана азайтат, андыктан модел шуулга туруштук бере алат.

Аермалары:

• L1 көбүрөөк сирек чечимдерге алып келиши мүмкүн, бул өзгөчөлүктөрдү тандоодо пайдалуу.
• L2 салмактарды тегиздейт, азайтат, бирок нөлгө жеткирбейт.

Мисал катары түз сызыктуу регрессия:

from sklearn.linear_model import Ridge, Lasso

ridge = Ridge(alpha=1.0)  # L2
lasso = Lasso(alpha=1.0)   # L1

ridge.fit(X_train, y_train)
lasso.fit(X_train, y_train)