Какая функция потерь используется в задачах классификации?

В задачах классификации чаще всего используется функция потерь кросс-энтропия (cross-entropy loss). Она измеряет разницу между истинным распределением меток и предсказанным распределением вероятностей модели. Для бинарной классификации применяется бинарная кросс-энтропия, для многоклассовой — категориальная кросс-энтропия.

Пример бинарной кросс-энтропии:

import torch
import torch.nn as nn

criterion = nn.BCELoss()  # бинарная кросс-энтропия

outputs = torch.tensor([0.8])  # предсказанная вероятность класса 1
labels = torch.tensor([1.0])   # истинная метка
loss = criterion(outputs, labels)
print(loss.item())

Для многоклассовой классификации с логитами обычно используется nn.CrossEntropyLoss() в PyTorch, которая объединяет softmax и кросс-энтропию.