რა არის უსაფრთხოების მახასიათებლები მანქანათმცოდნეობის მართვაში?

ML-ით მართვადი რობოტის უსაფრთხოება (safety) მოიცავს რამდენიმე ძირითადი ასპექტს:

• მოდელების სანდოობა და წინასწარმეტყველება: ML-მოდელებმა უნდა იყოს გამძლე შეცდომებისა და გაუთვალისწინებელი სიტუაციების მიმართ, რათა თავიდან აიცილოს რობოტის საშიში მოქმედებები.

• უცნობობის და ანომალიების მართვა: სისტემა უნდა შეძლოს ამოიცნოს, როდესაც შესასვლელი მონაცემები გადიან სასწავლო ნაკრებს და გადავიდეს უსაფრთხო რეჟიმზე.

• მოდელების გადამოწმება და დადასტურება: დეტალური ტესტები და უსაფრთხოების შემოწმებები უნდა ჩატარდეს განთავსებამდე.

• საკონტროლო მექანიზმები და ადამიანის კონტროლი: შესაძლებლობა გამორთოს ML სისტემა ან ჩარიოს ოპერატორმა სარწმუნოების დროს.

• მონაცემთა უსაფრთხოების უზრუნველყოფა: დაცვა თავდასხმებისგან, რომლებიც იწვევს დამახინჯებულ მონაცემებს (adversarial attacks), რაც შეიძლება გამოიწვიოს არასწორ გადაწყვეტილებებს.

რობოტოტექნიკაში ეს კრიტიკულია, რადგან შეცდომები შეიძლება გამოიწვიოს ფიზიკურ ზიანს ან ტრავმებს.