Modelni o'qitish jarayonida ma'lumotlar oqib o'tganligini uchratdingizmi?

Ha, modelni o'qitishda ma'lumotlar oqibati (data leakage) keng tarqalgan muammo bo'lib, modelni haqiqiy sharoitlarda foydalanishda mavjud bo'lmagan ma'lumotlar o'qitish ma'lumotlariga kirib qoladi. Bu ortiqcha moslashuv va sifat bahosining oshishiga olib keladi.

Misol: kredit riskini prognoz qilishda, o'qitish to'plamida kredit berish qaroriga bevosita bog'liq bo'lgan xususiyat bo'lishi mumkin (masalan, tasdiqlash holati), bu haqiqiy hayotda bashorat qilishda ma'lum emas.

Ma'lumotlar oqibatini oldini olish uchun:

• O'qitish va test ma'lumotlarini vaqt yoki boshqa mezonlar bo'yicha aniq ajratish.
• Ma'lumotlar haqida ma'lumotlarni yoki kelajakdagi voqealarni o'z ichiga olgan xususiyatlarni chiqarib tashlash.
• Xususiyatlar va biznes mantiqini chuqur tahlil qilish.

Amalda, men vaqt ketma-ketliklari bilan ishlashda, kelajakdagi ma'lumotlar tasodifan o'qitish to'plamiga kirib qolganida, haqiqatga mos kelmaydigan yuqori metriklarga duch kelganman.