Czym jest samodestylacja w CV?

Samodestylacja w wizji komputerowej to metoda, w której ten sam model jest używany zarówno jako nauczyciel, jak i uczeń. Pomysł polega na tym, że model uczy się na własnych przewidywaniach, poprawiając jakość bez konieczności posiadania osobnego dużego modelu nauczyciela.

Przykład: najpierw model jest trenowany na oznakowanych danych, następnie generuje "miękkie" etykiety (soft labels) dla tych samych danych lub dodatkowych, i ponownie trenuje na tych etykietach, co pomaga poprawić zdolność generalizacji.

To pomaga zwiększyć dokładność i stabilność modelu bez powiększania jego rozmiaru.