Максаттуу жана максатсыз чабуулдар эмнелер?

Машиналык үйрөнүү моделдерине каршы жасалган чабуулдар (adversarial attacks) контекстинде максаттуу жана максатсыз чабуулдар айырмаланат:

• Максаттуу чабуул (targeted attack): чабуулчу киргизүү маалыматтарын өзгөртүүгө аракет кылат, ошондо модель аларды белгилүү, алдын ала тандалган класс катары классификациялайт (максаттуу белгилөө). Максаты — модель туура эмес ушул классты алдын ала болжайт.

• Максатсыз чабуул (untargeted attack): максат — классификация катачылыгын пайда кылуу, кандай гана болбосун туура эмес класс болжолдонсо маанилүү эмес. Негизги максат — моделди иштен чыгуу.

Мисал:

• Сүрөт таануу системасына каршы максаттуу чабуулда, чабуулчу сүрөттөгү мышык "ит" катары классификациялансын деп каалайт.
• Максатсыз чабуулда, сүрөттөгү мышык кандайдыр бир башка класс катары классификациялансын, "мышык" эмес.

Максаттуу чабуулдар адатта кыйынчылык менен ишке ашырылат, бирок алар көбүрөөк коркунучтуу, анткени алар чабуулдун натыйжасын көзөмөлдөөгө мүмкүндүк берет.