Wat is het idee achter een volledig verbonden neuraal netwerk en waarom werkt het?

Een volledig verbonden neuraal netwerk (Fully Connected Neural Network, FCNN) bestaat uit lagen van neuronen, waarbij elke neuron van de vorige laag verbonden is met alle neuronen van de volgende laag. Het idee is dat deze architectuur het model in staat stelt om complexe niet-lineaire relaties tussen invoergegevens en doelwaarden te leren.

Waarom het werkt:

• Elke neuron berekent een gewogen som van de ingangen en past een niet-lineaire activatiefunctie toe, waardoor het netwerk complexe functies kan modelleren.
• Meerdere lagen en verbindingen maken het mogelijk om kenmerken geleidelijk te identificeren en te combineren, beginnend met eenvoudige en meer abstracte.
• Training via backpropagation stelt het in staat om de gewichten te optimaliseren en de fout op de trainingsset te minimaliseren.

Voorbeeld: bij beeldherkenning kunnen de eerste lagen randen en texturen detecteren, terwijl latere meer complexe objecten identificeren.

Echter, volledig verbonden netwerken kunnen niet efficiënt zijn voor gegevens met ruimtelijke of sequentiële structuur, waar convolutionele of recurrente netwerken geschikter zijn.