Millised on EL AI seaduse nõuded kõrge riskiga süsteemidele?

EL AI seadus nõuab kõrge riskiga süsteemidele (kõrge riskiga AI süsteemid) rangete nõuete kehtestamist, et tagada ohutus, läbipaistvus ja kasutajate õiguste kaitse. Peamised nõuded hõlmavad:

• Riski hindamine ja juhtimine: kohustuslik riskide hindamine enne süsteemi turule toomist ja pidev jälgimine.
• Andmete kvaliteet: treeningandmed peavad olema esinduslikud, täpsed ja minimeerima eelarvamusi.
• Dokumentatsioon ja läbipaistvus: üksikasjalik tehniline dokumentatsioon, mis hõlmab arhitektuuri, algoritme ja tööpõhimõtteid.
• Selgitatavuse tagamine: kasutajad peavad mõistma, kuidas süsteem otsuseid teeb.
• Inimese kontroll: võimalus inimese sekkumiseks süsteemi töös, et vältida vigu või kahju.
• Turvalisus ja usaldusväärsus: süsteem peab töötama stabiilselt ja olema kaitstud küberrünnakute eest.
• Standarditele vastavus ja sertifitseerimine: kohustuslikud vastavushindamise protseduurid enne turule toomist.

Need meetmed on suunatud usalduse ja õiglususe suurendamisele AI kasutamisel, eriti kriitilistes valdkondades nagu tervishoid, transport ja õigussüsteem.