Что такое targeted vs untargeted attack?

В контексте атак на модели машинного обучения (adversarial attacks) различают targeted и untargeted атаки:

• Targeted attack (направленная атака): злоумышленник стремится изменить входные данные так, чтобы модель классифицировала их как конкретный, заранее выбранный класс (целевую метку). Цель — заставить модель ошибочно предсказать именно этот класс.

• Untargeted attack (ненаправленная атака): цель — вызвать ошибку классификации, но не важно, какой именно неправильный класс будет предсказан. Главное — вывести модель из строя, заставить её ошибиться.

Пример:

• В targeted атаке на систему распознавания образов злоумышленник хочет, чтобы изображение кошки было классифицировано именно как "собака".
• В untargeted атаке достаточно, чтобы изображение кошки было классифицировано как любой класс, отличный от "кошка".

Targeted атаки обычно сложнее реализовать, но они более опасны, так как позволяют контролировать результат атаки.