Dropout ile eğitim ve onun olmadan çıkarım sırasında model kayması oluyor mu?

Model kayması, zamanla verilerin dağılımında veya model davranışında bir değişikliktir ve bu da tahminlerin kalitesinin düşmesine neden olur.

Dropout, eğitim sırasında rastgele nöronların "kapatıldığı" bir düzenleme tekniğidir ve aşırı uyumu önlemek için kullanılır. Tahminlerin hesaplandığı çıkarım sırasında (inferans), genellikle dropout devre dışı bırakılır ve tüm nöronlar aktiftir, ancak çıkışlar ölçeklendirilir, böylece eğitim sırasında dropout etkisi telafi edilir.

Dropout doğru şekilde uygulanmışsa, dropout ile eğitimden çıkarıma geçerken model kayması oluşmaz çünkü nöron çıkışlarının ölçeklendirilmesi farkı telafi eder. Ancak, ölçeklendirme yapılmazsa veya yanlış yapılırsa, modelin çıkarım davranışı eğitimden farklı olur ve bu, kayma olarak algılanabilir.