NASттагы weight sharing деген эмне?
sobes.tech AI
AIден жооп
NAS (Neural Architecture Search) ичинде Weight Sharing — бул техника, анда изилденүүчү нейрондук тармактардын ар кандай архитектуралары, ар бир архитектураны нөлдөн үйрөтүүнүн ордуна, жалпы салмактарды колдонушат. Бул издөөнүн процесин кыйла тездетет, анткени салмактар бир жолу үйрөтүлүп, көптөгөн архитектура варианттарын баалоо үчүн кайра колдонулат.
Мисал: ар бир архитектураны өзүнчө үйрөтүүнүн ордуна, бардык мүмкүн болгон архитектура варианттарын кичинекей топчулар катары камтыган суперчөйрө (supernet) түзүлөт. Суперчөйрөнүн салмактары биргелешип үйрөтүлөт, жана конкреттүү архитектураны баалоо үчүн тиешелүү салмактар суперчөйрөдөн алынып турат.
Бул эсептөө чыгымдарын жана убакытты кыскартат, NAS процесин натыйжалуу кылат.