Чӣ гуна ҳамлаи дуздии модел ва чӣ гуна бартараф карданаш?

Ҳуҷуми қулфланиш модели — бу ҳуҷумда зўрлик қилувчи фақат API га (масалан, сўровлар ва жавоблар орқали) кириш имконига эга бўлиб, машинани ўрганиш моделини қайта яратиш ёки нусхалашга уринади.

Қандай ишлайди:

• Ҳуҷумчи моделга кўплаб киришлар юбориб, жавоблар олади.
• Бу кириш-чиқиш парларига асосланиб, ўзининг моделини яратади, у оригиналнинг хулқ-атворини тақлид қилади.

Нима учун бу хавфли:

• Интеллектуал мулкни ўғирлаш.
• Ҳимояларни айланиб ўтиш ва зарарли моделлар яратиш имконияти.

Ҳимоя усуллари:

• Сўровлар сони ва тезлигини чеклаш.
• Жавобларга шовқин ёки тасодифий ўзгаришлар қўшиш (фарқли махфийлик).
• Ишонч ҳосил қилиш ва рухсат бериш усулларидан фойдаланиш.
• Ноормон фаолиятни кузатиш.

Шундай қилиб, ҳимоя хизматнинг мавжудлиги ва хавфсизлиги ўртасида баланс талаб қилади.