¿Cuáles son los requisitos de la EU AI Act para los sistemas de alto riesgo?

La Ley de IA de la UE establece requisitos estrictos para los sistemas de alto riesgo (sistemas de IA de alto riesgo), con el fin de garantizar la seguridad, la transparencia y la protección de los derechos de los usuarios. Los requisitos principales incluyen:

• Evaluación y gestión de riesgos: realización obligatoria de una evaluación de riesgos antes del lanzamiento del sistema y monitoreo continuo.
• Calidad de los datos: los datos para entrenamiento deben ser representativos, precisos y minimizar sesgos.
• Documentación y transparencia: documentación técnica detallada, incluyendo descripción de la arquitectura, algoritmos y principios de funcionamiento.
• Garantía de explicabilidad: los usuarios deben poder entender cómo el sistema toma decisiones.
• Control humano: posibilidad de intervención humana en el funcionamiento del sistema para prevenir errores o daños.
• Seguridad y fiabilidad: el sistema debe funcionar de manera estable y proteger contra ciberataques.
• Cumplimiento de estándares y certificación: pasar los procedimientos obligatorios de evaluación de conformidad antes de salir al mercado.

Estas medidas están destinadas a aumentar la confianza y la justicia en el uso de la IA, especialmente en áreas críticas como la salud, el transporte y la justicia.