Чем отличаются detach и clone в PyTorch?

В PyTorch detach() и clone() служат для разных целей, хотя оба создают новый тензор.

• detach() создает новый тензор, который отделён от графа вычислений, то есть не будет участвовать в обратном распространении градиентов. При этом данные не копируются, а используется тот же буфер памяти.

• clone() создает полную копию тензора с новыми данными в памяти, сохраняя связь с графом вычислений (если тензор требует градиенты).

Пример:

import torch
x = torch.tensor([1.0, 2.0], requires_grad=True)
y = x * 2
z = y.detach()  # z не будет участвовать в backprop
w = y.clone()   # w — копия y, сохраняющая grad_fn

Таким образом, detach() полезен, когда нужно отключить тензор от градиентов без копирования данных, а clone() — когда нужна независимая копия данных с сохранением вычислительной истории.