Ҷейлбрейк ва ворид кардани ишораҳои ғайримустақим чист?

Jailbreak дар контексти моделҳои AI — ин усулест барои убури маҳдудиятҳо ё филтрҳои дарунсохти модели бо мақсади маҷбур кардани он ба иҷрои амалҳои номувофиқ ё манъшуда. Масалан, корбар метавонад дархостро тавр формулалесозад, ки моделро ба ошкор кардани маълумоти махфӣ ё эҷоди коди зарарнок водор созад, новобаста аз маҳдудиятҳои дарунсохт.

Иҷозати ғайрирасмии prompt — ин навъе аз ҳамлаҳо ба моделҳои AI аст, ки дар он воридоти зарарнок мустақиман ба дархост ворид намешавад, балки тавассути каналҳои ғайрирасмӣ, масалан, тавассути маълумоте, ки модел аз манбаъҳои хориҷӣ мехонад (саҳифаҳои веб, ҳуҷҷатҳо ва ғайра). Бо ин роҳ, ҳамлагар метавонад рафтори моделро бе ҳамкории мустақим таъсир расонад.

Ҳарду техника ба категорияи ҳамлаҳои зиддиятӣ тааллуқ доранд ва барои таъмини бехатарӣ ва махфият дар истифодаи AI муҳиманд.