Что такое secure aggregation?

Secure aggregation — это метод в распределённом машинном обучении, который позволяет нескольким участникам (например, устройствам или серверам) совместно вычислять агрегированную модель или статистику, не раскрывая свои локальные данные друг другу.

Основная идея — обеспечить приватность и безопасность данных участников при совместном обучении. Например, в федеративном обучении secure aggregation позволяет серверу получить сумму обновлений моделей от клиентов, не видя отдельные обновления, что защищает данные от утечек и атак.

Технически это достигается с помощью криптографических протоколов, таких как гомоморфное шифрование, секретное разделение или протоколы мультипартийных вычислений. В результате сервер получает только агрегированное значение, а индивидуальные данные остаются скрытыми.

Это важно для защиты конфиденциальности пользователей и предотвращения атак, направленных на восстановление исходных данных из обновлений модели.