Ako trénovať model? Opíšte algoritmus aktualizácie váh.

Tréning modelu je proces ladenia jeho parametrov (váh) tak, aby minimalizoval chybu na tréningových dátach. Hlavný algoritmus na aktualizáciu váh je gradientný zostup:

1. Inicializujeme váhy náhodnými hodnotami.
2. Prechádzame vstupné údaje modelom a získavame predpovede.
3. Vypočítame funkciu straty (napríklad strednú štvorcovú chybu) medzi predpoveďami a skutočnými hodnotami.
4. Vypočítame gradienty funkcie straty vzhľadom na každú váhu (čiastkové derivácie).
5. Aktualizujeme váhy pohybom smerom k zníženiu chyby:
   ( w := w - \eta \cdot \nabla_w L ), kde ( \eta ) je rýchlosť učenia, ( \nabla_w L ) je gradient.
6. Opakujeme kroky 2-5 pre všetky údaje alebo dávky, kým nedôjde ku konvergencii.

Príklad v Pythone (pseudokód):

váhy = inicializuj()
pre každý epoch v rozsahu(počet_epochov):
    predpovede = model(vstupy, váhy)
    strata = funkcia_straty(predpovede, ciele)
    gradienty = vypočítaj_gradienty(strata, váhy)
    váhy -= rýchlosť_učenia * gradienty