Γιατί χρησιμοποιείται η συνελικτική με πυρήνα 1x1 στα νευρωνικά δίκτυα;

Η συνελίκωση με πυρήνα 1x1 σε νευρωνικά δίκτυα χρησιμοποιείται για διάφορους σκοπούς:

• Αλλαγή στον αριθμό των καναλιών (βάθος): Η συνελίκωση 1x1 επιτρέπει την αποτελεσματική μείωση ή αύξηση του αριθμού των καναλιών, χωρίς να επηρεάζει τις χωρικές διαστάσεις της εικόνας.
• Εισαγωγή μη γραμμικότητας και ανάμειξη καναλιών: μετά τη συνελίκωση 1x1, εφαρμόζεται συνήθως μια ενεργοποίηση, που βοηθά το μοντέλο να μάθει πιο πολύπλοκες αναπαραστάσεις.
• Βελτιστοποίηση υπολογισμών: οι συνελίξεις 1x1 χρησιμοποιούνται συχνά σε αρχιτεκτονικές όπως ResNet ή Inception για τη μείωση του υπολογιστικού φόρτου, αντικαθιστώντας πιο βαριές συνελίξεις.

Παράδειγμα: αν έχετε έναν τανυστή διαστάσεων 28x28x256, η εφαρμογή μιας συνελίξεως 1x1 με 64 φίλτρα θα δώσει έξοδο 28x28x64, μειώνοντας αποτελεσματικά το διαστάσεις των χαρακτηριστικών.

Έτσι, η συνελίκωση 1x1 είναι ένα εργαλείο για τη διαχείριση της διαστατικότητας και την αύξηση της εκφραστικής δύναμης του μοντέλου χωρίς να αλλάζει τα χωρικά χαρακτηριστικά των δεδομένων.