Kolik vah se trénuje v konvoluční vrstvě s jádrem 5x5 a 10 filtry?

V konvoluční vrstvě s jádrem 5x5 a 10 filtry se počet trénovatelných vah počítá jako: velikost jádra krát počet filtrů.

Pokud předpokládáme, že vstupní kanál je jeden (například černobílý obrázek), pak:

5 × 5 × 10 = 250 vah.

Pokud je několik vstupních kanálů (například 3 pro RGB), pak bude vzorec:

5 × 5 × počet_vstupních_kanálů × 10.

Navíc má každý filtr obvykle posun (bias), tedy ještě 10 parametrů (po jednom na filtr).

Příklad pro 3 vstupní kanály:

kernel_size = 5
input_channels = 3
filters = 10
weights = kernel_size * kernel_size * input_channels * filters  # 5*5*3*10 = 750
biases = filters  # 10
total_params = weights + biases  # 760