Mi az az overfitting?

Overfitting (túlillesztés) egy olyan helyzet a gépi tanulásban, amikor a modell túl jól alkalmazkodik a tanító adatokhoz, beleértve a zajt és a véletlenszerű ingadozásokat is, és emiatt rosszul általánosít új, láthatatlan adatokra.

Egyszerűbben fogalmazva, a modell "emlékszik" a tanító példákra ahelyett, hogy általános mintákat azonosítana. Ennek eredményeként csökken a pontossága a tesztadatokon.

Példa: ha a modell túl bonyolult (sok paraméterrel) és túl hosszú ideig tanítják, tökéletesen leírhatja a tanító adatokat, de rosszul működik új adatokon.

Az overfitting elleni küzdelemhez használják:

• regularizációt (L1, L2),
• korai megállítást (early stopping),
• az adatmennyiség növelését,
• a modell egyszerűsítését,
• keresztvalidációt.