Welche Anforderungen stellt die EU AI Act an Hochrisikosysteme?

Das EU-KI-Gesetz stellt strenge Anforderungen an Hochrisikosysteme (hochrisikoreiche KI-Systeme), um Sicherheit, Transparenz und den Schutz der Nutzerrechte zu gewährleisten. Die Hauptanforderungen umfassen:

• Risikoabschätzung und -management: Obligatorische Risikoabschätzung vor der Markteinführung und kontinuierliche Überwachung.
• Datenqualität: Trainingsdaten müssen repräsentativ, genau sein und Vorurteile minimieren.
• Dokumentation und Transparenz: Detaillierte technische Dokumentation, einschließlich Beschreibung der Architektur, Algorithmen und Funktionsprinzipien.
• Erklärbarkeit sicherstellen: Nutzer müssen verstehen können, wie das System Entscheidungen trifft.
• Menschliche Kontrolle: Möglichkeit menschlichen Eingreifens, um Fehler oder Schäden zu verhindern.
• Sicherheit und Zuverlässigkeit: Das System muss stabil laufen und vor Cyberangriffen schützen.
• Einhaltung von Standards und Zertifizierung: Bestehen der obligatorischen Konformitätsbewertungsverfahren vor Markteinführung.

Diese Maßnahmen sollen das Vertrauen und die Gerechtigkeit bei der Nutzung von KI erhöhen, insbesondere in kritischen Bereichen wie Gesundheit, Transport und Rechtsprechung.