O que é um ataque de inferência de associação?

Ataque de inferência de associação é um tipo de ataque a modelos de aprendizagem automática, no qual um atacante tenta determinar se determinados dados estavam incluídos no conjunto de treino do modelo.

Tal ataque pode ser usado para revelar informações confidenciais, por exemplo, se o modelo foi treinado com dados privados de utilizadores.

Princípio de funcionamento:

• O atacante fornece certos exemplos de dados à entrada do modelo.
• Analisa as respostas do modelo (por exemplo, probabilidades de classes).
• Com base nessas respostas, tenta determinar se esses exemplos estavam no conjunto de treino.

É importante ter isto em conta ao desenvolver modelos, especialmente em áreas com dados sensíveis (medicina, finanças), e aplicar métodos de proteção, como a privacidade diferencial.