Чӣ тавр мо масъалаи регрессияи хатиро ҳал мекунем агар формулаи ошкоро истифода набарем?

Агар шумо формулаи ошкоро барои ҳалли масъалаи регрессияи хаттӣ истифода набаред (масалан, баробарии оддӣ), одатан усулҳои оптимизатсияи рақамӣ, мисли пастшавии градиент, истифода мешаванд.

Ният ин аст, ки параметрҳои модели (вазнҳо) ба таври итератив навсозӣ шаванд, то функсияи талафро (масалан, хатогии миёнаи квадрати) кам кунанд. Дар ҳар қадам, градиенти функсияи талаф нисбат ба параметрҳо ҳисоб карда мешавад ва параметрҳо дар самти кам кардани хатогӣ танзим карда мешаванд.

Масалан дар Python бо истифодаи пастшавии градиент:

import numpy as np

# X - матрицаи хусусиятҳо, y - тағйирёбари ҳадаф
# Қосидани сутуни якҳо барои унсури озод
X_b = np.c_[np.ones((len(X), 1)), X]

# Инициализатсияи вазнҳо
theta = np.random.randn(X_b.shape[1], 1)

learning_rate = 0.01
n_iterations = 1000
m = len(X_b)

for iteration in range(n_iterations):
    gradients = 2/m * X_b.T.dot(X_b.dot(theta) - y)
    theta = theta - learning_rate * gradients

print("Параметрҳои оптималӣ:", theta)

Бо ин усул, бе формулаи ошкоро, мо ба усули итеративӣ барои наздик шудан ба параметрҳои оптималӣ истифода мебарем.