რა მოთხოვნები აქვს EU AI Act-ის მაღალი რისკის სისტემებისთვის?

EU AI კანონი მკაცრ მოთხოვნებს აყენებს მაღალი რისკის სისტემებისთვის (მაღალი რისკის AI სისტემები), რათა უზრუნველყოს უსაფრთხოება, გამჭვირვალობა და მომხმარებელთა უფლებების დაცვა. ძირითადი მოთხოვნები მოიცავს:

• რისკების შეფასება და მართვა: სისტემის გამოშვებამდე აუცილებელი რისკების შეფასება და უწყვეტი მონიტორინგი.
• მონაცემების ხარისხი: სასწავლო მონაცემები უნდა იყოს წარმომადგენლობითი, ზუსტი და მინიმუმამდე დაიყვანოს წინასწარ განწყობილებები.
• დოკუმენტაცია და გამჭვირვალობა: დეტალური ტექნიკური დოკუმენტები, მათ შორის არქიტექტურის, ალგორითმებისა და მუშაობის პრინციპების აღწერა.
• გაამარტივება: მომხმარებლებმა უნდა შეძლონ გაიგონ, როგორ იღებს სისტემა გადაწყვეტილებებს.
• ადამიანის კონტროლი: შესაძლებლობა ადამიანური ჩარევისთვის სისტემის მუშაობაში, შეცდომების ან ზიანის თავიდან ასაცილებლად.
• უსაფრთხოება და საიმედოობა: სისტემა უნდა მუშაობდეს სტაბილურად და იყოს დაცული კიბერ თავდასხმებისგან.
• სტანდარტებთან შესაბამისობა და სერტიფიკაცია: აუცილებელი პროცედურების გავლა შესაბამისობის შეფასებისთვის ბაზარზე გამოსვლის წინ.

ეს ღონისძიებები მიზნად ისახავს ნდობის და სამართლიანობის გაზრდას AI-ის გამოყენებაში, განსაკუთრებით კრიტიკულ სფეროებში, როგორიცაა ჯანდაცვა, ტრანსპორტი და სამართლიანობა.