Ποιες είναι οι απαιτήσεις του EU AI Act για συστήματα υψηλού κινδύνου;

Ο Νόμος AI της ΕΕ θέτει αυστηρές απαιτήσεις για συστήματα υψηλού κινδύνου (υψηλού κινδύνου συστήματα AI), προκειμένου να διασφαλίσει την ασφάλεια, τη διαφάνεια και την προστασία των δικαιωμάτων των χρηστών. Οι κύριες απαιτήσεις περιλαμβάνουν:

• Αξιολόγηση και διαχείριση κινδύνων: υποχρεωτική αξιολόγηση κινδύνων πριν από την κυκλοφορία του συστήματος και συνεχής παρακολούθηση.
• Ποιότητα δεδομένων: τα δεδομένα εκπαίδευσης πρέπει να είναι αντιπροσωπευτικά, ακριβή και να ελαχιστοποιούν τις προκαταλήψεις.
• Τεκμηρίωση και διαφάνεια: λεπτομερής τεχνική τεκμηρίωση, συμπεριλαμβανομένης της περιγραφής της αρχιτεκτονικής, των αλγορίθμων και των αρχών λειτουργίας.
• Εξασφάλιση ερμηνευσιμότητας: οι χρήστες πρέπει να μπορούν να κατανοήσουν πώς λαμβάνονται οι αποφάσεις από το σύστημα.
• Έλεγχος ανθρώπου: δυνατότητα ανθρώπινης παρέμβασης στη λειτουργία του συστήματος για την πρόληψη σφαλμάτων ή ζημιών.
• Ασφάλεια και αξιοπιστία: το σύστημα πρέπει να λειτουργεί σταθερά και να προστατεύεται από κυβερνοεπιθέσεις.
• Συμμόρφωση με πρότυπα και πιστοποίηση: επιτυχής ολοκλήρωση των υποχρεωτικών διαδικασιών αξιολόγησης συμμόρφωσης πριν από την κυκλοφορία στην αγορά.

Αυτά τα μέτρα αποσκοπούν στην αύξηση της εμπιστοσύνης και της δικαιοσύνης στη χρήση της AI, ειδικά σε κρίσιμους τομείς όπως η υγεία, η μεταφορά και η δικαιοσύνη.