Какой тип графа вычислений используется в PyTorch — динамический или статический?

PyTorch использует динамический граф вычислений (dynamic computation graph). Это означает, что граф создаётся и изменяется во время выполнения программы, что позволяет более гибко строить и изменять модели на лету. Такой подход удобен для отладки и работы с моделями, где структура может меняться в зависимости от данных или условий.

Пример динамического графа в PyTorch:

import torch
x = torch.tensor([1.0, 2.0, 3.0], requires_grad=True)
y = x * 2
z = y.sum()
z.backward()
print(x.grad)  # Вычисляет градиенты динамически

В отличие от статического графа (как в TensorFlow 1.x), где граф строится заранее и затем выполняется, динамический граф в PyTorch строится «на лету» при каждом проходе.