Какви са изискванията на EU AI Act за системи с висок риск?

Законът за изкуствения интелект на ЕС налага строги изисквания към системите с висок риск (системи за изкуствен интелект с висок риск), за да осигури безопасност, прозрачност и защита на правата на потребителите. Основните изисквания включват:

• Оценка и управление на рисковете: задължителна оценка на рисковете преди пускането на системата и постоянен мониторинг.
• Качество на данните: данните за обучение трябва да са представителни, точни и да минимизират предразсъдъците.
• Документация и прозрачност: подробна техническа документация, включително описание на архитектурата, алгоритмите и принципите на работа.
• Осигуряване на обяснимост: потребителите трябва да могат да разберат как системата взема решения.
• Човешки контрол: възможност за човешка намеса в работата на системата за предотвратяване на грешки или вреди.
• Сигурност и надеждност: системата трябва да работи стабилно и да бъде защитена от кибератаки.
• Съответствие със стандартите и сертификация: преминаване на задължителните процедури за оценка на съответствието преди пускане на пазара.

Тези мерки са насочени към повишаване на доверието и справедливостта при използването на AI, особено в критични области като здравеопазване, транспорт и правораздаване.