Aká je ideja úplne prepojenej neurónovej siete a prečo funguje?

Úplne prepojená neurónová sieť (Fully Connected Neural Network, FCNN) pozostáva zo vrstiev neurónov, kde je každý neurón predchádzajúcej vrstvy prepojený so všetkými neurónmi nasledujúcej vrstvy. Myšlienka je, že takáto architektúra umožňuje modelu učiť sa zložité nelinárne vzťahy medzi vstupnými údajmi a cieľovými hodnotami.

Prečo to funguje:

• Každý neurón vypočíta vážený súčet vstupov a aplikuje nelinárnu aktivačnú funkciu, čo umožňuje sieti modelovať zložité funkcie.
• Množstvo vrstiev a spojení umožňuje postupne identifikovať a kombinovať znaky, začínajúc od jednoduchých a končiac na zložitejších.
• Tréning pomocou spätného šírenia (backpropagation) umožňuje optimalizovať váhy a minimalizovať chybu na tréningovom súbore.

Príklad: pri rozpoznávaní obrázkov môžu prvé vrstvy detekovať okraje a textúry, zatiaľ čo neskoršie identifikujú zložitejšie objekty.

Avšak, úplne prepojené siete môžu byť neefektívne pre údaje s priestorovou alebo sekvenčnou štruktúrou, kde sú vhodnejšie konvolučné alebo rekurentné siete.