Эки класс үчүн кросс-энтропияны колдонсо болот жана эмне үчүн бул сунушталбайт?

Кросс-энтропия — кеңири колдонулган жоготуу функциясы, ал классификациялык тапшырмалар үчүн, анын ичинде бинардык (эки класстуу) классификация үчүн да колдонулат. Теориялык жактан, кросс-энтропия эки класс үчүн ылайыктуу, анткени ал чын таразоо менен алдын ала айтылган таразоо ортосундагы айырманы өлчөйт.

Бирок, бинардык классификацияда, көбүнчө, кросс-энтропиянын атайын формасы колдонулат: бинардык кросс-энтропия, ал эки класс үчүн оптималдаштырылган жана мүмкүнчүлүктөрдүн жана белгилердин өзгөчөлүктөрүн эске алат.

Эмне үчүн жалпы (көп класстуу) кросс-энтропияны эки класс үчүн колдонуу сунушталбайт:

• Ал белгилерди one-hot векторлор түрүндө көрсөтүүнү талап кылат, бул эки класс үчүн ашыкча.
• Ал эсептөөлөрдү ашыкча кылып, моделди татаалдатышы мүмкүн.
• Бинардык кросс-энтропия жөнөкөй жана натыйжалуу, анткени ал бир сан менен иштейт — оң класска таандык болуу мүмкүнчүлүгү.

PyTorchтогу бинардык кросс-энтропиянын мисалы:

import torch
import torch.nn as nn

criterion = nn.BCELoss()  # бинардык кросс-энтропия
outputs = torch.sigmoid(logits)  # моделдин чыгышы
loss = criterion(outputs, targets)

Ошондуктан, эки класс үчүн, жалпы кросс-энтропиянын ордуна бинардык кросс-энтропияны колдонуу сунушталат, бул окутуунун натыйжалуулугун жана тактыгын жогорулатуу үчүн.