Kādi ir ES AI likuma prasības augsta riska sistēmām?

Ei AI likums nosaka stingrus prasības augsta riska sistēmām (augsta riska AI sistēmas), lai nodrošinātu drošību, caurspīdīgumu un lietotāju tiesību aizsardzību. Galvenie prasību punkti ietver:

• Riska novērtējums un pārvaldība: obligāta riska novērtēšana pirms sistēmas ieviešanas un nepārtraukta uzraudzība.
• Datu kvalitāte: apmācības dati jābūt pārstāvjiem, precīziem un jāsamazina aizspriedumi.
• Dokumentācija un caurspīdīgums: detalizēta tehniskā dokumentācija, iekļaujot arhitektūras, algoritmu un darba principu aprakstu.
• Skaidrojuma nodrošināšana: lietotājiem jāspēj saprast, kā sistēma pieņem lēmumus.
• Cilvēka kontrole: iespēja cilvēka iejaukšanās sistēmas darbībā, lai novērstu kļūdas vai kaitējumu.
• Drošība un uzticamība: sistēma jādarbojas stabili un jābūt aizsargātai pret kiberuzbrukumiem.
• Standartu atbilstība un sertifikācija: obligāti jāiziet atbilstības novērtēšanas procedūras pirms iekļaušanas tirgū.

Šie pasākumi ir vērsti uz uzticības un taisnīguma veicināšanu AI izmantošanā, īpaši kritiskās jomās, piemēram, veselības aprūpē, transportā un tiesā.