Hoeveel gewichten worden getraind in een convolutionele laag met een 5x5 kernel en 10 filters?

In een convolutionele laag met een kernel van 5x5 en 10 filters wordt het aantal trainbare gewichten berekend als: grootte van de kernel vermenigvuldigd met het aantal filters.

Als we aannemen dat het invoer kanaal één is (bijvoorbeeld een zwart-wit afbeelding), dan:

5 × 5 × 10 = 250 gewichten.

Als er meerdere invoerkanalen zijn (bijvoorbeeld 3 voor RGB), dan is de formule:

5 × 5 × aantal_invoerkanalen × 10.

Daarnaast heeft elk filter meestal een bias, dat wil zeggen nog 10 parameters (één per filter).

Voorbeeld voor 3 invoerkanalen:

kernel_size = 5
input_channels = 3
filters = 10
weights = kernel_size * kernel_size * input_channels * filters  # 5*5*3*10 = 750
biases = filters  # 10
total_params = weights + biases  # 760