Milyen algoritmus áll a modell alapjaiban?

A legtöbb modern gépi tanulási modell alapját olyan optimalizációs algoritmusok képezik, mint például a gradiens leszállás, amely minimalizálja a veszteségfüggvényt. A feladat és a modell típusától függően ezek lehetnek lineáris regressziós algoritmusok, döntési fák, véletlen erdők, támogatott vektor gépek (SVM), neurális hálózatok és azok variációi (például konvolúciós vagy rekurens neurális hálózatok).

Például, neurális hálózatokban a visszaterjesztéses algoritmust (backpropagation) használják a háló súlyainak tanítására a gradiens leszállás alapján.

# Egyszerű gradiens leszállás példája lineáris regresszióhoz
import numpy as np

X = np.array([[1], [2], [3], [4]])
y = np.array([2, 4, 6, 8])

w = 0.0  # súly
b = 0.0  # eltolás
learning_rate = 0.01

for epoch in range(1000):
    y_pred = w * X + b
    error = y_pred - y
    grad_w = (2 / len(X)) * np.sum(error * X)
    grad_b = (2 / len(X)) * np.sum(error)
    w -= learning_rate * grad_w
    b -= learning_rate * grad_b

print(f"Tanult súly: {w}, eltolás: {b}")

Tehát, az algoritmus a konkrét modelltől függ, de alapvetően a paraméterek optimalizálásán alapul a hiba minimalizálása érdekében.