Was ist das selbstüberwachte Pretraining für GNN?

Selbstüberwachtes Pretraining für Graph Neural Networks (GNN) ist eine Lernmethode, bei der das Modell lernt, nützliche Darstellungen aus graphbasierten Daten zu extrahieren, ohne markierte Labels zu verwenden. Stattdessen werden Aufgaben verwendet, die auf der Struktur des Graphen selbst oder auf Eigenschaften von Knoten/Kanten basieren, z.B. Vorhersage versteckter Teile des Graphen, kontrastives Lernen oder Informationswiederherstellung.

Dieser Ansatz ermöglicht es GNNs, die Struktur und Zusammenhänge im Graphen zu verstehen, was die nachfolgenden überwachten Aufgaben (z.B. Knoten- oder Graphklassifikation) verbessert, insbesondere wenn wenig markierte Daten vorhanden sind.