Что такое self-supervised pretraining для GNN?

Self-supervised pretraining для графовых нейронных сетей (GNN) — это метод обучения, при котором модель учится извлекать полезные представления из графовых данных без использования размеченных меток. Вместо этого используются задачи, основанные на самой структуре графа или свойствах узлов/рёбер, например, предсказание скрытых частей графа, контрастивное обучение или восстановление информации.

Такой подход позволяет GNN научиться понимать структуру и взаимосвязи в графе, что улучшает последующую задачу с учителем (например, классификацию узлов или графов), особенно когда размеченных данных мало.