Mik az EU AI Act magas kockázatú rendszerekre vonatkozó követelményei?

Az EU AI törvény szigorú követelményeket ír elő a magas kockázatú rendszerek (magas kockázatú AI rendszerek) számára, hogy biztosítsa a biztonságot, a transzparenciát és a felhasználói jogok védelmét. A fő követelmények a következők:

• Kockázatértékelés és kockázatkezelés: kötelező kockázatértékelés a rendszer kiadása előtt és folyamatos monitorozás.
• Adatminőség: a tanító adatoknak reprezentatívnak, pontosnak kell lenniük, és minimalizálniuk kell az elfogultságokat.
• Dokumentáció és transzparencia: részletes műszaki dokumentáció, beleértve az architektúra, algoritmusok és működési elvek leírását.
• Magyarázhatóság biztosítása: a felhasználóknak meg kell érteniük, hogyan hozza meg a rendszer a döntéseket.
• Emberi ellenőrzés: lehetőség az emberi beavatkozásra a rendszer működésében a hibák vagy károk megelőzése érdekében.
• Biztonság és megbízhatóság: a rendszer stabilan kell működjön, és védelmet nyújtson a kiber támadások ellen.
• Szabványoknak való megfelelés és tanúsítás: kötelező megfelelőségi értékelési eljárásokon való részvétel, mielőtt piacra kerül.

Ezek az intézkedések a bizalom és az igazságosság növelését célozzák az AI használatában, különösen kritikus területeken, mint az egészségügy, a közlekedés és az igazságszolgáltatás.