Что такое differential privacy и определение (epsilon, delta)?

Differential privacy (дифференциальная приватность) — это формальный подход к обеспечению конфиденциальности данных, который гарантирует, что вывод алгоритма не позволяет определить, присутствует ли конкретный элемент (например, запись пользователя) в исходном наборе данных с высокой степенью уверенности.

Определение с параметрами (ε, δ): алгоритм A обеспечивает (ε, δ)-дифференциальную приватность, если для любых двух соседних наборов данных D и D', отличающихся ровно одним элементом, и для любого множества возможных выходов S выполняется:

[ P[A(D) \in S] \leq e^{\varepsilon} \cdot P[A(D') \in S] + \delta ]

• ε (эпсилон) — параметр, определяющий уровень приватности; чем меньше ε, тем сильнее приватность.
• δ (дельта) — вероятность нарушения приватности, обычно очень мала (например, близка к нулю).

Таким образом, дифференциальная приватность гарантирует, что результат работы алгоритма практически не меняется при добавлении или удалении одного элемента данных, что затрудняет идентификацию конкретного пользователя.

Пример: при публикации статистики по базе пользователей добавляется шум, зависящий от ε и δ, чтобы скрыть влияние каждого отдельного пользователя.