Կա արդյոք մոդելի դեֆորմացիա dropout-ով ուսուցման ժամանակ և առանց դրա ինֆերենցիայում?

Մոդելի թեքումը այն փոփոխությունն է տվյալների բաշխման կամ մոդելի վարքագծի մեջ ժամանակի ընթացքում, ինչը հանգեցնում է կանխատեսումների որակի նվազմանը:

Dropout-ը ռեգուլյարիզացիայի տեխնիկա է, որի ժամանակ ռանդոմ կերպով "անջատվում" են նյարդային նյարդային նյարդայինները ուսուցման ժամանակ, որպեսզի կանխվի գերագնահատումը: Ինֆերենցիայի ժամանակ (նախագուշակությունների հաշվարկում), dropout-ը սովորաբար անջատվում է, և բոլոր նյարդայինները ակտիվ են, բայց նրանց ելքերը միկսավորվում են, որպեսզի փոխհատուցեն dropout-ի ազդեցությունը ուսուցման ժամանակ:

Եթե dropout-ը ճիշտ իրականացվի, ապա ուսուցման ժամանակ dropout-ով և առանց դրա ինֆերենցիայի միջև մոդելի թեքումը չի առաջանում, քանի որ նյարդային ելքերի միկսավորումը փոխհատուցում է տարբերությունը: Սակայն, եթե միկսավորումը չի կատարվում կամ սխալ է, մոդելի վարքագիծը ինֆերենցիայում տարբեր կլինի ուսուցումից, ինչը կարող է ընկալվել որպես թեքում:

Այսպիսով, մոդելի թեքումը ուսուցման ժամանակ dropout-ով և առանց դրա ինֆերենցիայում չի առաջանում, եթե dropout-ը և միկսավորումը ճիշտ իրականացվեն: Եթե միկսավորումը բացակայում է, մոդելի վարքագիծը ինֆերենցիայում կարող է տարբեր լինել, ինչը կարող է թվում որպես թեքում։