Дар бораи муқаррарсозӣ дар алгоритмҳои классикии ML: L1 ва L2 нақл кунед. Хусусиятҳо ва фарқиятҳои онҳо чист?

L1 ва L2 — ин ду намуди муқаррарсозӣ мебошанд, ки ҷарима ба функсияи хато илова мекунанд, то аз ҳад зиёд омӯхтан пешгирӣ кунанд.

• Муқаррарсозии L1 (Lasso) ҷамъоварии арзишҳои абсолютии коэффициентҳоро илова мекунад: ( \lambda \sum |w_i| ). Ин моделро ба сардшавӣ ҳавасманд мекунад, яъне бисёре аз коэффициентҳо ба сифр баробар мешаванд, ки дар интихоби хусусиятҳо кӯмак мекунад.

• Муқаррарсозии L2 (Ridge) ҷамъоварии квадратҳои коэффициентҳоро илова мекунад: ( \lambda \sum w_i^2 ). Он коэффициентҳоро ба сифр намегузорад, балки онҳоро кам мекунад, ки моделро ба шӯр бештар тобовар мекунад.

Фарқиятҳо:

• L1 метавонад ба ҳалномаҳои камёб оварда расонад, ки барои интихоби хусусиятҳо муфид аст.
• L2 вазнҳоро ҳамвор мекунад, онҳоро кам мекунад, аммо ба сифр намерасонад.

Масалан дар регрессияи хаттӣ:

from sklearn.linear_model import Ridge, Lasso

ridge = Ridge(alpha=1.0)  # L2
lasso = Lasso(alpha=1.0)   # L1

ridge.fit(X_train, y_train)
lasso.fit(X_train, y_train)