Welche Sicherheitsmerkmale gibt es bei der Steuerung von Robotern mit maschinellem Lernen?

Sicherheit (safety) bei der ML-gesteuerten Robotik umfasst mehrere Schlüsselaspekte:

• Zuverlässigkeit und Vorhersagbarkeit der Modelle: ML-Modelle müssen robust gegenüber Fehlern und unvorhergesehenen Situationen sein, um gefährliche Aktionen des Roboters zu vermeiden.

• Umgang mit Unsicherheit und Anomalien: Das System sollte erkennen können, wenn Eingabedaten außerhalb des Trainingsdatensatzes liegen, und in einen sicheren Modus wechseln.

• Verifikation und Validierung der Modelle: Gründliche Tests und Sicherheitsüberprüfungen vor der Implementierung.

• Backup-Mechanismen und menschliche Kontrolle: Möglichkeit, das ML-System auszuschalten oder den Eingriff des Operators im Falle von Störungen.

• Datensicherheit gewährleisten: Schutz vor Angriffen, die manipulierte Daten (adversariale Angriffe) einführen, die zu falschen Entscheidungen führen können.

In der Robotik ist dies kritisch, da Fehler zu physischen Schäden oder Verletzungen führen können.