Koľko váh sa trénuje v konvolučnom vrstve s jadrom 5x5 a 10 filtrami?

V konvolučnom sloju s jezgrom 5x5 i 10 filtara, broj trenovateľných váh sa počíta ako: veľkosť jadra krát počet filtrov.

Ak predpokladáme, že vstupný kanál je jeden (napríklad čiernobiely obrázok), potom:

5 × 5 × 10 = 250 váh.

Ak je viac vstupných kanálov (napríklad 3 pre RGB), vzorec bude:

5 × 5 × počet_vstupných_kanálov × 10.

Okrem toho, každý filter zvyčajne má posun (bias), teda ešte 10 parametrov (jeden na filter).

Príklad pre 3 vstupné kanály:

kernel_size = 5
input_channels = 3
filters = 10
weights = kernel_size * kernel_size * input_channels * filters  # 5*5*3*10 = 750
biases = filters  # 10
total_params = weights + biases  # 760