Что такое neighborhood aggregation и какие функции используют (mean, sum, max, LSTM)?

Neighborhood aggregation — ключевой механизм в графовых нейронных сетях (GNN), где для каждого узла собирается информация от соседних узлов и объединяется для обновления его представления.

Основные функции агрегации:

• Mean (среднее): усредняет признаки соседей, сглаживая информацию.
• Sum (сумма): суммирует признаки, сохраняя количество соседей.
• Max (максимум): выбирает максимальные значения по признакам, выделяя наиболее выраженные характеристики.
• LSTM: использует рекуррентную сеть для последовательной агрегации соседей, учитывая порядок и сложные зависимости.

Выбор функции влияет на способность модели захватывать структуру графа и особенности данных. Например, LSTM может лучше моделировать сложные зависимости, но требует больше вычислений.

Пример простого mean-агрегатора:

import torch

def mean_aggregate(neighbor_features):
    return torch.mean(neighbor_features, dim=0)