Ի՞նչ պետք է պարունակի ուսուցողական տվյալների հավաքածուն՝ ուսուցման համար կռոս-ենթրոպիայի հետ:

Կրոս-ենթրոպիայի վրա հիմնված կորուստային ֆունկցիայի օգտագործմամբ մոդելի ուսուցման համար, ուսուցման տվյալների հավաքածուն պետք է պարունակի.

• Մուտքային տվյալներ (հատկություններ)՝ թվային կամ կատեգորიული հատկանիշներ, որոնք նկարագրում են օբյեկտները:
• Ճշմարիտ նշաններ (labels)՝ յուրաքանչյուր օրինակին պետք է հայտնի լինի իրական կատեգորիան կամ դասը:

Կրոս-ենթրոպիան չափում է կանխատեսված հավանականությունների բաշխման և իրական բաշխման (սովորաբար, դասակարգման համար one-hot վեկտոր) միջև տարբերությունը: Հետևաբար, նշանները պետք է ներկայացվեն որպես կատեգորიული արժեքներ կամ one-hot կոդավորում:

Օրինակ, պատկերների դասակարգման խնդիրների համար, ուսուցման տվյալների հավաքածուն պարունակում է պատկերներ և համապատասխան դասի նշաններ (օրինակ՝ "կատու", "շուն"):

Անհրաժեշտ է, որ տվյալները լինեն:

• Ներկայացնող խնդիրին
• Բալանսավորված դասերի միջև (եթե հնարավոր է)
• Աճած և ճիշտ նշագրված

Այսպիսով, կրոս-ենթրոպիայի ֆունկցիան կարող է ճիշտ հաշվարկել սխալը և արդյունավետորեն օպտիմալացնել մոդելը: