GNNдеги over-squashing деген эмне?

Graph neyron torlarında (GNN) over-squashing, çox sayda qonşu düyündən məlumatların toplanması zamanı vacib detallərin və fərqlərin "sıkışması" və ya itirilməsi ilə əlaqədardır.

Qonşulardan gələn mesajların bir vektorda birləşdirilməsi zamanı güclü sıxışma baş verir, bu da modelin müxtəlif strukturları və ya xüsusiyyətləri effektiv şəkildə ayıra bilməməsinə səbəb olur, bu da öyrənmə və proqnozların keyfiyyətini pisləşdirir.

Bu, xüsusən də dərin GNN-lərdə nəzərə çarpır, çünki toplama sayı artır və uzaqdakı düyünlərdən siqnal çox ümumiləşir.

Over-squashing ilə mübarizə üçün:

• Vacib mesajları vurğulamaq üçün diqqət mexanizmləri
• Atlamalı əlaqələrə malik arxitekturalar
• Daha yerli toplama və ya hierarxik modellərdən istifadə

Beləliklə, over-squashing, GNN-də toplama zamanı çox sıxışmadan yaranan məlumat itkisi deməkdir.