Jaké jsou požadavky EU AI Act na systémy s vysokým rizikem?

Nařízení EU o umělé inteligenci stanoví přísné požadavky na systémy s vysokým rizikem (systémy AI s vysokým rizikem), aby zajistilo bezpečnost, transparentnost a ochranu práv uživatelů. Hlavní požadavky zahrnují:

• Hodnocení a řízení rizik: povinné hodnocení rizik před uvedením systému na trh a průběžné sledování.
• Kvalita dat: data pro trénink musí být reprezentativní, přesná a minimalizovat předsudky.
• Dokumentace a transparentnost: podrobná technická dokumentace, včetně popisu architektury, algoritmů a principů fungování.
• Zajištění vysvětlitelnosti: uživatelé musí být schopni pochopit, jak systém přijímá rozhodnutí.
• Lidská kontrola: možnost zásahu člověka do chodu systému k prevenci chyb nebo škod.
• Bezpečnost a spolehlivost: systém musí fungovat stabilně a chránit před kybernetickými útoky.
• Soulad s normami a certifikace: absolvování povinných postupů posouzení shody před uvedením na trh.

Tato opatření mají za cíl zvýšit důvěru a spravedlivost při používání AI, zejména v kritických oblastech, jako je zdravotnictví, doprava a spravedlnost.