Mis on tunnuste lineaarse sõltuvuse probleem?

Lineaarne tunnuste sõltuvus tähendab, et üks või mitu tunnust saab väljendada teiste lineaarse kombinatsioonina. See põhjustab mitmeid probleeme:

• Mitmekordne kollineaarsus: lineaarse regressiooni või sarnaste meetodite põhjal modelites põhjustab see koefitsientide hinnangutes ebastabiilsust, halvendades mudeli tõlgendatavust ja üldistamisvõimet.
• Arvutusprobleemid: tunnuste maatriks muutub singularseks või halvasti tingitud, mis raskendab pöördmassiivi arvutamist või võrrandisüsteemide lahendamist.
• Andmete liig: liigsed tunnused ei lisa uut teavet, suurendavad dimensiooni ja võivad viia üleõppimiseni.

Lahendamiseks kasutatakse tavaliselt tunnuste valiku meetodeid, dimensiooni vähendamist (näiteks PCA) või regulaarimist.