BERT modellari va qaror daraxtlari uchun xususiyatlarni normallashtirish kerakmi?

BERT مودیللىرى ئۈچۈن، ئالاھىدىلىك نۇرماللاش تۈرى ئادەتتە زۆرۈر ئەمەس، چۈنكى كىرگۈزۈش سانلىق مەلۇماتلار - بۇ توكنلار بولۇپ، ئۇلار ئالدىن تەربىيەلەنگەن مودېل ئارقىلىق ئەمبەدىڭغا ئايلاندۇرۇلىدۇ. بۇ ئەمبەدىڭلار ئاللىقاچان ماس بوشلۇقتا بولغاچقا، قوشۇمچە نۇرماللاشقا ئېھتىياج يوق.

قارار دەرىجە ئوينايدىغان ئورمانلار (مەسىلەن، ئازادە ئورمان ياكى گراديېنت بۈست) ئۈچۈنمۇ، ئالاھىدىلىك نۇرماللاش زۆرۈر ئەمەس. ئورمانلار بۆلۈش سىغىملىرى بىلەن ئىشلىيدۇ ۋە ئۆلچەمگە قاراپ ئىشلىمەيدۇ، شۇڭا نۇرماللاش مودېل سۈپىتىگە تەسىر قىلمايدۇ.

خۇلاسىلەشتە: نۇرماللاش، ئۆلچەمگە قاراپ حسسىي مودېللەرگە مۇھىم بولسا (مەسىلەن، سىزىقلىق مودېللەر، SVM، ئالدىن تەربىيەلەنگەن ئەمبەدىڭسىز نېرۋې تورلار)، لېكىن BERT ۋە قارار دەرىجە ئورمانلىرى ئۈچۈن زۆرۈر ئەمەس.