Bias-variance trade-off რა არის?

Bias-variance trade-off — մեքենայական ուսուցման հիմնական հասկացություն է, որը նկարագրում է երկու տեսակի սխալների միջև բալանսը մոդելի ուսուցման ժամանակ:

• Bias (տարածում) — սխալ, որը առաջանում է շատ պարզ մոդելից, որը չի կարող լավ նկարագրել տվյալները (անբավարար ուսուցում):
• Varyans (տարբերություն) — սխալ, որը կապված է այն բանի հետ, որ մոդելը շատ զգայուն է ուսուցման տվյալների աղմուկին և վատ է ընդհանուրացնում նոր տվյալների վրա (գերդասում):

Եթե մոդելը շատ պարզ է, այն կունենա բարձր bias և ցածր varyans: Եթե շատ բարդ է, այն կունենա ցածր bias, բայց բարձր varyans:

Նպատակը՝ գտնել այն բալանսը, երբ մոդելը բավականին բարդ է, որպեսզի բռնի ձևավորումները, բայց ոչ այնքան, որ հարմարվի աղմուկին:

Օրինակ՝ երբ ուսուցանում ենք ռեգրեսիա՝ ցածր աստիճանի պոլինոմներով (ուղղահայաց ռեգրեսիա), bias-ը կլինի բարձր, իսկ varyans-ը՝ ցածր; բարձր աստիճանի պոլինոմներով՝ հակառակը։