Aké sú požiadavky EU AI Act na systémy s vysokým rizikom?

Zákon o AI EÚ stanovuje prísne požiadavky na systémy s vysokým rizikom (systémy AI s vysokým rizikom), aby zabezpečil bezpečnosť, transparentnosť a ochranu práv používateľov. Hlavné požiadavky zahŕňajú:

• Hodnotenie rizík a ich riadenie: povinné hodnotenie rizík pred uvedením systému na trh a nepretržité sledovanie.
• Kvalita údajov: údaje na tréning musia byť reprezentatívne, presné a minimalizovať predsudky.
• Dokumentácia a transparentnosť: podrobná technická dokumentácia, vrátane popisu architektúry, algoritmov a princípov fungovania.
• Zabezpečenie vysvetliteľnosti: používatelia musia byť schopní pochopiť, ako systém prijíma rozhodnutia.
• Ľudský dohľad: možnosť zásahu človeka do chodu systému na prevenciu chýb alebo škôd.
• Bezpečnosť a spoľahlivosť: systém musí fungovať stabilne a chrániť pred kybernetickými útokmi.
• Soulad s normami a certifikácia: absolvovanie povinných postupov hodnotenia zhody pred uvedením na trh.

Tieto opatrenia majú za cieľ zvýšiť dôveru a spravodlivosť pri používaní AI, najmä v kritických oblastiach ako zdravotníctvo, doprava a spravodlivosť.