Kas on võimalik asendada 3x3 konvolutsiooni kahe järjestikuse 3x1 ja 1x3 konvolutsiooniga? Millised on eelised ja kaod?

Jah, 3x3 konvolutsiooni saab asendada kahe järjestikuse 3x1 ja 1x3 konvolutsiooniga. Seda meetodit kasutatakse sageli parameetrite arvu ja arvutuskoormuse vähendamiseks.

Eelised:

• Vähem parameetreid: kaks 3x1 ja 1x3 konvolutsiooni kokku omavad vähem kaalu kui üks 3x3.
• Vähem arvutusi: väiksemate tuumadega operatsioonid on lihtsamad ja kiirem.
• Sügavam arhitektuur: kahe konvolutsiooni vahele lisatakse täiendav mittelineaarne kiht, mis võib parandada mudeli väljendusvõimet.

Puudused:

• Võib-olla väiksem konteksti tajumine ühes kihis, kuna 3x3 katab kohe 9 pikslit, samas kui 3x1 ja 1x3 katavad igaüks 3 pikslit.
• Informatsiooni kaotsimine võib juhtuda, kui kihid või aktivatsioonid ei ole õigesti seadistatud.

Näide PyTorchis:

import torch.nn as nn

# Algne 3x3 konvolutsioon
conv_3x3 = nn.Conv2d(in_channels=64, out_channels=128, kernel_size=3, padding=1)

# Asendamine kahe 3x1 ja 1x3 konvolutsiooniga
conv_3x1 = nn.Conv2d(64, 128, kernel_size=(3,1), padding=(1,0))
conv_1x3 = nn.Conv2d(128, 128, kernel_size=(1,3), padding=(0,1))

# Sekventiaalne kasutus, mis on võrdne väiksema parameetrite arvuga kui conv_3x3