Jaký algoritmus je základem modelu?

Základem většiny moderních modelů strojového učení jsou optimalizační algoritmy, jako je gradientní sestup, který minimalizuje funkci ztráty. V závislosti na typu úkolu a modelu mohou být těmito algoritmy lineární regresní algoritmy, rozhodovací stromy, náhodné lesy, podpůrné vektorové stroje (SVM), neuronové sítě a jejich variace (například konvoluční nebo rekurentní neuronové sítě).

Například v neuronových sítích se používá algoritmus zpětné propagace k tréninku vah sítě na základě gradientního sestupu.

# Příklad jednoduchého gradientního sestupu pro lineární regresi
import numpy as np

X = np.array([[1], [2], [3], [4]])
y = np.array([2, 4, 6, 8])

w = 0.0  # váha
b = 0.0  # posun
learning_rate = 0.01

for epoch in range(1000):
    y_pred = w * X + b
    error = y_pred - y
    grad_w = (2 / len(X)) * np.sum(error * X)
    grad_b = (2 / len(X)) * np.sum(error)
    w -= learning_rate * grad_w
    b -= learning_rate * grad_b

print(f"Natrénovaná váha: {w}, posun: {b}")

Algoritmus tedy závisí na konkrétním modelu, ale v základu spočívá optimalizace parametrů pro minimalizaci chyby.