Что такое secure aggregation?

Что хотят услышать интервьюеры:

Secure aggregation — это способ агрегировать обновления от клиентов так, чтобы сервер видел только итоговую сумму, но не мог восстановить отдельные вклады. Обычно это применяют в federated learning, где важно сохранить приватность локальных данных. Ключевая идея — защитить промежуточные значения от сервера и других участников.

Определение:

Secure aggregation — это протокол безопасного суммирования/агрегации, при котором несколько участников передают свои значения в зашифрованном или замаскированном виде, а на выходе сервер получает только агрегированный результат. Отдельные обновления при этом остаются скрытыми. В ML это позволяет обучать модель на распределённых устройствах, не раскрывая индивидуальные градиенты или параметры.

Пример использования:

В federated learning смартфоны считают локальные обновления модели на своих данных и отправляют на сервер не сами обновления, а зашумлённые/зашифрованные сообщения так, чтобы шумы взаимно компенсировались только после агрегации.

Клиент A: updateA + maskA
Клиент B: updateB + maskB
...
Сервер: (updateA + maskA) + (updateB + maskB) + ...
После снятия масок на уровне протокола остаётся:
updateA + updateB + ...

Пояснение кода:

Код не требуется, потому что secure aggregation — это протокол, а не локальная функция или алгоритм с короткой реализацией. Логика обычно строится так: каждый клиент добавляет маску к своему обновлению, маски согласуются так, чтобы в сумме взаимно уничтожаться, сервер получает только агрегат, а не индивидуальные значения. Если один участник выбывает, протокол должен уметь корректно восстановить итог без утечки его данных.

Ключевые моменты:

• Сервер видит только агрегат, а не отдельные обновления клиентов.
• Основная цель — приватность и снижение риска утечки чувствительных данных.
• Чаще всего используется в federated learning и распределённой аналитике.
• Протокол должен быть устойчив к отказам участников и частичным сбоям.
• Secure aggregation не заменяет полностью криптографическую безопасность системы, а решает конкретную задачу скрытия индивидуальных вкладов.
• На практике это всегда компромисс между приватностью, вычислительными затратами и сложностью протокола.