Edge üçün knowledge distillation nədir?

Edge üçün bilik distilləsi, məhdud resurslara malik cihazlarda (məsələn, mobil telefonlar, IoT) böyük maşın öyrənmə modellərinin sıxılması və optimallaşdırılması metodudur.

Fikri odur ki, yüksək dəqiqliyi qoruyaraq, daha az hesablama resursu və yaddaş tələb edən, böyük "müəllim" modelinin davranışını təqlid edən kiçik bir "şagird" modeli öyrədilsin.

Bu, aşağıdakıları mümkün edir:

• Məhdud güc və enerji sərfiyyatı olan cihazlarda mürəkkəb modellərin işlədilməsi.
• Məlumatların işlənməsində gecikməni azaltmaq, çünki hesablamalar lokal olaraq həyata keçirilir.
• Məlumatların buluta göndərilməsinə ehtiyac olmadan gizliliyi artırmaq.

Nümunə: böyük neyron şəbəkə serverdə öyrədilir, sonra onun bilikləri distillasiya vasitəsilə kiçik modelə ötürülür və bu model ağıllı telefonda səs və ya şəkil tanıma üçün yerləşdirilir.