Koji su zahtevi EU AI Act za sisteme visokog rizika?

Закон о ИИ ЕУ поставља строге захтеве за системе високог ризика (системи ИИ високог ризика) како би обезбедио безбедност, транспарентност и заштиту права корисника. Главни захтеви укључују:

• Процена ризика и управљање њиме: обавезна процена ризика пре пуштања система у рад и континуирани надзор.
• Квалитет података: подаци за обуку морају бити репрезентативни, тачни и минимизирати предрасуде.
• Документација и транспарентност: детаљна техничка документација, укључујући опис архитектуре, алгоритама и принципа рада.
• Обезбеђивање објашњивости: корисници морају моћи да разумеју како систем доноси одлуке.
• Људски надзор: могућност интервенције човека у рад система за спречавање грешака или штете.
• Безбедност и поузданост: систем мора радити стабилно и штитити од кибер напада.
• Сагласност са стандардима и сертификатима: пролазак обавезних процедура процене сагласности пре изласка на тржиште.

Ове мере имају за циљ повећање поверења и праведности у коришћењу ИИ, посебно у критичним областима као што су здравство, транспорт и правосуђе.