Что такое privacy budget?

Privacy budget — это концепция из области дифференциальной приватности, которая ограничивает количество информации о данных, которую можно раскрыть при выполнении запросов к базе данных или модели. Она измеряет, сколько «приватности» можно потратить, чтобы сохранить баланс между полезностью данных и защитой конфиденциальности.

Каждый запрос к данным «тратит» часть privacy budget, и когда он исчерпан, дальнейшие запросы могут привести к утечке приватной информации. Это помогает контролировать риск раскрытия личных данных при обучении моделей или анализе данных.

Пример: если у вас есть модель машинного обучения, обученная с дифференциальной приватностью, то privacy budget определяет, сколько шума добавлять и сколько запросов можно сделать, чтобы не раскрыть чувствительную информацию о конкретных пользователях.