Что такое certified robustness и randomized smoothing?

Certified robustness — это формальный гарантийный подход в машинном обучении, который обеспечивает доказательство того, что модель устойчива к определённому классу атак или возмущений. То есть, для заданного входа и определённого уровня шума или искажения, модель гарантированно выдаст правильный результат.

Randomized smoothing — одна из техник для достижения certified robustness. Она заключается в том, что к входным данным добавляется случайный шум (например, гауссовский), и классификация происходит на основе усреднённого результата по множеству зашумлённых версий входа. Это позволяет построить "сглаженную" модель, которая обладает формальными гарантиями устойчивости к небольшим изменениям входа.

Пример: если у вас есть классификатор изображений, то с помощью randomized smoothing можно гарантировать, что небольшие изменения пикселей (например, вызванные атакой) не изменят итоговый класс, что важно для безопасности и надёжности систем.