Care sunt cerințele EU AI Act pentru sistemele cu risc ridicat?

Legea UE privind IA impune cerințe stricte pentru sistemele cu risc ridicat (sisteme de IA de risc ridicat), pentru a asigura siguranța, transparența și protecția drepturilor utilizatorilor. Cerințele principale includ:

• Evaluarea și gestionarea riscurilor: realizarea obligatorie a unei evaluări a riscurilor înainte de lansarea sistemului și monitorizare continuă.
• Calitatea datelor: datele pentru antrenament trebuie să fie reprezentative, precise și să minimizeze părtinirea.
• Documentație și transparență: documentație tehnică detaliată, inclusiv descrierea arhitecturii, algoritmilor și principiilor de funcționare.
• Asigurarea explicabilității: utilizatorii trebuie să poată înțelege modul în care sistemul ia decizii.
• Control uman: posibilitatea intervenției umane în funcționarea sistemului pentru a preveni erorile sau daunele.
• Securitate și fiabilitate: sistemul trebuie să funcționeze stabil și să fie protejat împotriva atacurilor cibernetice.
• Conformitatea cu standardele și certificarea: parcurgerea procedurilor obligatorii de evaluare a conformității înainte de a fi lansat pe piață.

Aceste măsuri vizează creșterea încrederii și echității în utilizarea AI, în special în domenii critice precum sănătatea, transportul și justiția.