Kokie yra ES AI įstatymo reikalavimai aukšto rizikos sistemoms?

ES AI įstatymas nustato griežtus reikalavimus aukšto rizikos sistemoms (aukšto rizikos AI sistemos), siekiant užtikrinti saugumą, skaidrumą ir vartotojų teisių apsaugą. Pagrindiniai reikalavimai apima:

• Rizikos įvertinimas ir valdymas: privalomas rizikos įvertinimas prieš sistemos paleidimą ir nuolatinis stebėjimas.
• Duomenų kokybė: mokymo duomenys turi būti reprezentatyvūs, tikslūs ir sumažinti šališkumą.
• Dokumentacija ir skaidrumas: išsami techninė dokumentacija, apimanti architektūros, algoritmų ir veikimo principų aprašymą.
• Paaiškinamumo užtikrinimas: naudotojai turi galėti suprasti, kaip sistema priima sprendimus.
• Žmogaus kontrolė: galimybė įsikišti į sistemos veikimą siekiant išvengti klaidų ar žalos.
• Saugumas ir patikimumas: sistema turi veikti stabiliai ir būti apsaugota nuo kibernetinių atakų.
• Atitiktis standartams ir sertifikavimas: privaloma įgyvendinti atitikties vertinimo procedūras prieš išleidžiant į rinką.

Šios priemonės yra skirtos didinti pasitikėjimą ir teisingumą naudojant AI, ypač kritinėse srityse, tokiose kaip sveikatos priežiūra, transportas ir teisingumas.