Quais são os requisitos da EU AI Act para sistemas de alto risco?

A Lei de IA da UE impõe requisitos rigorosos aos sistemas de alto risco (sistemas de IA de alto risco), para garantir a segurança, transparência e proteção dos direitos dos utilizadores. Os principais requisitos incluem:

• Avaliação e gestão de riscos: avaliação obrigatória de riscos antes do lançamento do sistema e monitorização contínua.
• Qualidade dos dados: os dados de treino devem ser representativos, precisos e minimizar preconceitos.
• Documentação e transparência: documentação técnica detalhada, incluindo descrição da arquitetura, algoritmos e princípios de funcionamento.
• Garantia de explicabilidade: os utilizadores devem poder compreender como o sistema toma decisões.
• Controlo humano: possibilidade de intervenção humana no funcionamento do sistema para prevenir erros ou danos.
• Segurança e fiabilidade: o sistema deve funcionar de forma estável e proteger contra ciberataques.
• Conformidade com padrões e certificação: passar pelos procedimentos obrigatórios de avaliação de conformidade antes de lançar no mercado.

Estas medidas destinam-se a aumentar a confiança e a justiça no uso de IA, especialmente em áreas críticas como saúde, transporte e justiça.