Что такое clean-label backdoor?

Clean-label backdoor — это тип скрытой уязвимости в моделях машинного обучения, при которой вредоносное поведение внедряется в модель через данные обучения, не изменяя видимых меток или структуры данных.

В отличие от традиционных backdoor-атак, где данные могут быть явно помечены или изменены (например, добавлен триггер с яркой меткой), clean-label backdoor использует «чистые» данные с правильными метками, что затрудняет обнаружение.

Пример: злоумышленник добавляет в тренировочный набор изображения с определённым паттерном (триггером), но метки этих изображений соответствуют их содержимому. Модель обучается на этих данных и в обычных условиях работает корректно, но при появлении триггера в входных данных модель ведёт себя преднамеренно неправильно.

Это представляет серьёзную угрозу безопасности, так как такие backdoor сложно выявить стандартными методами проверки качества и целостности модели.