Qarşılıqlı təlim nədir?

Əks-təhlükəsizlik təlimi — maşın öyrənmə modellərinin, xüsusən neyron şəbəkələrinin, adversarial hücumlara qarşı davamlılığını artırmaq üçün istifadə olunan bir metodur. Bu hücumlar xüsusi olaraq dəyişdirilmiş giriş məlumatları (adversarial nümunələr) yaradır; bunlar demək olar ki, adi kimi görünür, amma modeli çaşdırır və səhv etməsinə səbəb olur.

Əks-təhlükəsizlik təliminin mahiyyəti odur ki, təlim zamanı bu pozulmuş nümunələr adi məlumatlara əlavə olunur və model onları düzgün təsnif etməyi öyrənir. Bu, modelin gələcəkdə belə hücumlara qarşı daha davamlı olmasına kömək edir.

Nümunə:

# Əks-təhlükəsizlik təlimi üçün psuedokod
for batch in data_loader:
    x, y = batch
    x_adv = generate_adversarial_examples(x, y, model)
    loss = loss_fn(model(x), y) + loss_fn(model(x_adv), y)
    optimizer.zero_grad()
    loss.backward()
    optimizer.step()

Beləliklə, əks-təhlükəsizlik təlimi modeli qorumağın bir yoludur və onun etibarlılığını və təhlükəsizliyini artırır.