Middle
Prompt injection-га каршы кандай коргоолорду билесиз?
sobes.tech AI
AIден жооп
Prompt injektsiyasına qarşı qorunmalar aşağıdakılardan ibarətdir:
- Giriş məlumatlarının filtrələnməsi və təsdiqlənməsi: istifadəçi tərəfindən daxil edilən məlumatları məhdudlaşdırmaq və yoxlamaq, zərərli əmrləri istisna etmək üçün.
- Sabit hissələrə malik şablonların istifadəsi: idarəetmə göstərişlərini istifadəçi girişindən ayırmaq, beləliklə istifadəçi promptun məntiqini dəyişə bilməz.
- Kontekstuual məhdudiyyət: promptun fəaliyyət sahəsini məhdudlaşdırmaq, modelin gözlənilən davranışdan çıxmamasını təmin etmək üçün.
- Xüsusi tokenlər və ya nişanlar istifadə etmək: istifadəçi girişini və sistem göstərişlərini ayırmaq üçün.
- Modelin çıxışının sonrakı işlənməsi: cavabları yoxlamaq və istənməyən əmrlər üçün filtrləmək.