Kas ir black-box un white-box uzbrukumi?

Melnbalta un baltā kaste uzbrukumi ir divi pieejas mašīnmācīšanās modeļu uzbrukumiem, kas atšķiras pēc piekļuves līmeņa modeļa iekšējai struktūrai.

• Melnbalta uzbrukums: uzbrucējs nevar piekļūt modeļa arhitektūrai, parametriem vai iekšējiem datiem. Viņš var tikai ievadīt datus un novērot izejas (prognozes). Mērķis ir atrast tādus ievadus, kas liks modelim kļūdīties, izmantojot tikai ārējo uzvedību. Piemēram, izvēlēties traucētus piemērus, kas izraisa nepareizu atbildi.

• Baltā kaste uzbrukums: uzbrucējs ir pilnībā piekļūst modelim — tā arhitektūrai, svariem, gradientiem un citiem iekšējiem parametriem. Tas ļauj izveidot precīzākus un efektīvākus uzbrukumus, izmantojot informāciju par to, kā modelis pieņem lēmumus. Piemēram, aprēķināt gradientus adversāriju piemēru ģenerēšanai.

Sadarbībā ar drošības un privātuma jautājumiem, sapratne par šo atšķirību ir svarīga, novērtējot ievainojamības un izstrādājot aizsardzības metodes pret uzbrukumiem.