Quais são as ameaças no aprendizagem federada (inversão de modelo a partir de gradientes)?

O aprendizado federado permite treinar modelos em dados distribuídos sem sua coleta centralizada, mas há o risco de vazamento de informações através dos gradientes. O ataque de inversão de modelo a partir de gradientes ocorre quando um invasor, tendo acesso às atualizações do modelo (gradientes), tenta reconstruir os dados originais nos quais o modelo foi treinado.

Principais ameaças:

• Reconstrução de dados privados: A partir dos gradientes, é possível reconstruir aproximadamente imagens, textos ou outros dados sensíveis, especialmente se os dados forem homogêneos e o modelo for pequeno.
• Ataques com múltiplas rodadas: Acumular gradientes ao longo de várias iterações aumenta a precisão da reconstrução.
• Ataques direcionados: O invasor pode formular solicitações ou modelos especificamente para facilitar a inversão.

Para proteção, utilizam-se métodos de privacidade diferencial, criptografia de gradientes (por exemplo, Agregação Segura), limitação do tamanho e frequência das atualizações, bem como o uso de criptografia homomórfica e outros protocolos criptográficos.