Dropout eğitim ve çıkarım sırasında nasıl çalışır?

Dropout, sinir ağlarının düzenleme tekniğidir ve eğitim sırasında rastgele olarak (sıfırlayarak) bazı nöronları devre dışı bırakır, böylece aşırı uyumu önler.

Eğitim sırasında:

• Her giriş örneği için, belirli bir yüzde (örneğin, %20-50) rastgele nöronlar devre dışı bırakılır.
• Bu, ağın belirli nöronlara bağımlı olmamasını sağlar ve genelleme yeteneğini artırır.

Tahmin (çıktı) sırasında:

• Dropout uygulanmaz, tüm nöronlar aktiftir.
• Nöronların devre dışı kalmamasını telafi etmek için, ağırlıklar ölçeklendirilir (genellikle nöronun etkinlik olasılığıyla çarpılır) veya eğitim sırasında ölçeklendirme kullanılır (ters dropout).

Bu şekilde, dropout modeli daha dayanıklı hale getirir ve aşırı uyuma eğilimini azaltır, ancak tahmin sırasında ağ rastgele devre dışı bırakmalardan tamamen bağımsız çalışır.