Μπορεί να αντικατασταθεί μια συνελικτική 3x3 με δύο διαδοχικές 3x1 και 1x3; Ποια είναι τα οφέλη και οι απώλειες;

Ναι, μια συνελικτική λειτουργία 3x3 μπορεί να αντικατασταθεί από δύο διαδοχικές λειτουργίες 3x1 και 1x3. Αυτή η μέθοδος χρησιμοποιείται συχνά για τη μείωση του αριθμού των παραμέτρων και του υπολογιστικού φόρτου.

Πλεονεκτήματα:

• Λιγότερες παράμετροι: δύο λειτουργίες 3x1 και 1x3 έχουν συνολικά λιγότερα βάρη από μια 3x3.
• Λιγότεροι υπολογισμοί: οι λειτουργίες με μικρότερους πυρήνες είναι πιο απλές και γρηγορότερες.
• Πιο βαθιά αρχιτεκτονική: προστίθεται ένα επιπλέον στρώμα μη γραμμικότητας μεταξύ των δύο λειτουργιών, που μπορεί να βελτιώσει την εκφραστικότητα του μοντέλου.

Μειονεκτήματα:

• Πιθανώς μικρότερη αντίληψη του πλαισίου σε μία μόνο στρώση, καθώς η 3x3 καλύπτει άμεσα 9 εικονοστοιχεία, ενώ οι 3x1 και 1x3 καλύπτουν από 3 εικονοστοιχεία το καθένα.
• Υπάρχει πιθανότητα απώλειας πληροφοριών αν οι στρώσεις ή οι ενεργοποιήσεις δεν ρυθμιστούν σωστά.

Παράδειγμα σε PyTorch:

import torch.nn as nn

# Αρχική συνελικτική λειτουργία 3x3
conv_3x3 = nn.Conv2d(in_channels=64, out_channels=128, kernel_size=3, padding=1)

# Αντικατάσταση με δύο λειτουργίες 3x1 και 1x3
conv_3x1 = nn.Conv2d(64, 128, kernel_size=(3,1), padding=(1,0))
conv_1x3 = nn.Conv2d(128, 128, kernel_size=(1,3), padding=(0,1))

# Η διαδοχική εφαρμογή των conv_3x1 και conv_1x3 είναι ισοδύναμη με την conv_3x3 με λιγότερους παραμέτρους