Wat zijn de eisen van de EU AI Act voor high-risk systemen?

De EU AI-wet stelt strenge eisen aan hoog-risico AI-systemen (hoog-risico AI-systemen) om de veiligheid, transparantie en bescherming van gebruikersrechten te waarborgen. De belangrijkste eisen omvatten:

• Risicobeoordeling en risicobeheer: verplichte risicobeoordeling voorafgaand aan de uitrol van het systeem en voortdurende monitoring.
• Kwaliteit van gegevens: trainingsgegevens moeten representatief, nauwkeurig zijn en vooroordelen minimaliseren.
• Documentatie en transparantie: gedetailleerde technische documentatie, inclusief beschrijving van architectuur, algoritmen en werkingsprincipes.
• Zorg voor uitlegbaarheid: gebruikers moeten kunnen begrijpen hoe het systeem beslissingen neemt.
• Menselijke controle: mogelijkheid tot menselijke tussenkomst om fouten of schade te voorkomen.
• Veiligheid en betrouwbaarheid: het systeem moet stabiel functioneren en beschermen tegen cyberaanvallen.
• Voldoen aan normen en certificering: doorlopen van verplichte conformiteitsbeoordelingsprocedures voordat het op de markt wordt gebracht.

Deze maatregelen zijn bedoeld om vertrouwen en rechtvaardigheid in het gebruik van AI te vergroten, vooral in kritieke sectoren zoals gezondheidszorg, vervoer en rechtspraak.