Mit tartalmazzon a tanító adatállomány a kereszt-entropiás tanításhoz?

A kereszt-entropy alapú veszteségfüggvény használatával történő modellképzéshez a tanító adathalmaznak a következőket kell tartalmaznia:

• Bemeneti adatok (jellemzők): numerikus vagy kategóriális jellemzők, amelyek leírják a tárgyakat.
• Helyes címkék (labels): minden példához ismert kell legyen a valódi kategória vagy osztály.

A kereszt-entropy mérőszám a jósolt valószínűségi eloszlás és a valódi eloszlás (általában one-hot vektor osztályozáshoz) közötti eltérést méri. Ezért a címkék kategóriális értékek vagy one-hot kódolás formájában kell, hogy megjelenjenek.

Például, egy kép osztályozási feladat esetén a tanító adathalmaz tartalmazza a képeket és azok osztálycímkéit (pl. "macska", "kutya").

Fontos, hogy az adatok:

• Reprezentatívak legyenek a feladathoz
• Egyensúlyban legyenek az osztályok között (ha lehetséges)
• Tiszta és helyesen címkézett adatok legyenek

Ez lehetővé teszi a kereszt-entropy funkció számára, hogy helyesen számolja ki a hibát és hatékonyan optimalizálja a modellt.