Quali sono i requisiti dell'EU AI Act per i sistemi ad alto rischio?

La legge sull'IA dell'UE stabilisce requisiti rigorosi per i sistemi ad alto rischio (sistemi di IA ad alto rischio), al fine di garantire sicurezza, trasparenza e protezione dei diritti degli utenti. I requisiti principali includono:

• Valutazione e gestione dei rischi: valutazione obbligatoria dei rischi prima del rilascio del sistema e monitoraggio continuo.
• Qualità dei dati: i dati di addestramento devono essere rappresentativi, accurati e minimizzare i pregiudizi.
• Documentazione e trasparenza: documentazione tecnica dettagliata, inclusa la descrizione dell'architettura, degli algoritmi e dei principi di funzionamento.
• Garantire la spiegabilità: gli utenti devono poter capire come il sistema prende decisioni.
• Controllo umano: possibilità di intervento umano nel funzionamento del sistema per prevenire errori o danni.
• Sicurezza e affidabilità: il sistema deve funzionare in modo stabile e proteggerlo da attacchi informatici.
• Conformità agli standard e certificazione: superare le procedure obbligatorie di valutazione della conformità prima di immettere sul mercato.

Queste misure mirano ad aumentare la fiducia e l'equità nell'uso dell'IA, specialmente in settori critici come sanità, trasporti e giustizia.