Кросс-энтропия менен окутуу үчүн окутуу датасетинде эмне болушу керек?

Кросс-энтропия негизделген жоготуучу функцияны колдонуу менен моделди үйрөтүү үчүн, үйрөтүү датасети төмөнкүлөрдү камтышы керек:

• Кирүү маалыматтары (өзгөрмөлөр): объекттерди сүрөттөгөн сандык же категориялык өзгөчөлүктөр.
• Туура белгилер (labels): ар бир мисал үчүн чындык категориясы же классы белгилүү болушу керек.

Кросс-энтропия алдын ала айтылган бөлүштүрүү менен чындык бөлүштүрүү (адатта классификация үчүн one-hot вектору) арасындагы айырманы өлчөйт. Ошондуктан, белгилер категориялык маанилер же one-hot коддоо түрүндө көрсөтүлүшү керек.

Мисалы, сүрөттөрдү классификациялоо тапшырмасы үчүн, үйрөтүү датасети сүрөттөрдү жана алардын тиешелүү класстагы белгилерин камтыйт (мисалы, "мысық", "ит").

Маалыматтар төмөнкүлөргө ээ болушу маанилүү:

• Тапшырга өкүлчүлүк кылуучу
• Класстар боюнча балансында (эгер мүмкүн болсо)
• Таза жана туура белгиленген

Бул кросс-энтропия функциясына катаны туура эсептөөгө жана моделди натыйжалуу оптималдаштырууга мүмкүндүк берет.