Чӣ гуна ҳамлаи ҳадафнок ва бе ҳадафнок фарқ мекунад?

У контексті атак на моделі машинного навчання (adversarial attacks) розрізняють цілеспрямовані та нецілеспрямовані атаки:

• Цілеспрямована атака (targeted attack): зловмисник намагається змінити вхідні дані так, щоб модель класифікувала їх як конкретний, заздалегідь обраний клас (цільову мітку). Мета — змусити модель неправильно передбачити саме цей клас.

• Некоректна атака (untargeted attack): мета — викликати помилку класифікації, незалежно від того, який саме неправильний клас буде передбачений. Головне — вивести модель з ладу.

Приклад:

• У цілеспрямованій атаці на систему розпізнавання зображень зловмисник хоче, щоб зображення кота було класифіковано як "собака".
• У некоректній атаці достатньо, щоб зображення кота було класифіковано як будь-який клас, відмінний від "кіт".

Цілеспрямовані атаки зазвичай складніше реалізувати, але вони більш небезпечні, оскільки дозволяють контролювати результат атаки.