Privacidade diferencial em um parágrafo e onde ela não se aplica

O que é

A NIST SP 800-226 descreve a privacidade diferencial como um arcabouço matemático que quantifica a perda de privacidade das entidades cujos dados aparecem em um conjunto de dados. A versão em um parágrafo: um mecanismo que responde a consultas sobre um conjunto de dados é diferencialmente privado se a sua distribuição de saída mudar, no máximo, por um fator limitado, parametrizado por epsilon, quando o registro de uma única pessoa é adicionado ou removido. O mecanismo consegue isso adicionando ruído aleatório calibrado aos resultados, e cada consulta respondida consome parte de um orçamento de privacidade. A garantia é uma propriedade do mecanismo, não dos dados, e vale independentemente do que mais o atacante saiba. Existem implementações: o repositório differential-privacy do Google oferece bibliotecas de blocos básicos com primitivas de adição de ruído e agregações diferencialmente privadas, frameworks de ponta a ponta e uma biblioteca de contabilidade para acompanhar o orçamento de privacidade.

Por que importa

Sua garantia vale independentemente de informações auxiliares e se compõe ao longo de consultas repetidas, justamente onde a supressão e a agregação não oferecem garantia nenhuma. A NIST SP 800-226 também aponta riscos de privacidade (privacy hazards): armadilhas comuns que surgem quando a matemática é implementada em software.

Como aplicar

• Serve para: divulgar estatísticas agregadas (contagens, somas, médias, histogramas) sobre uma população grande, sobretudo quando a divulgação é repetida ou exposta como interface de consulta, e quando a perda de precisão causada pelo ruído é aceitável nos tamanhos de população envolvidos.
• Não serve para: dados em nível de registro (uma tabela de clientes não pode se tornar diferencialmente privada e continuar sendo uma tabela de clientes); grupos pequenos, em que o ruído encobre o sinal; operações que exigem respostas exatas (faturamento, os dados da própria pessoa, reconciliação); texto livre e imagens; análises internas pontuais em que controle de acesso mais pseudonimização é mais simples e suficiente.
• Use uma biblioteca em vez de adicionar ruído manualmente: a NIST SP 800-226 afirma que os profissionais devem usar implementações bem testadas, fornecidas por bibliotecas, em vez de implementar os mecanismos por conta própria, e lista a aritmética de ponto flutuante entre os seus riscos de privacidade.
• Defina o epsilon e o orçamento total de cada divulgação como uma decisão de produto documentada; registre cada divulgação, descontando-a do orçamento.
• Mantenha separadas a tabela bruta pseudonimizada e a divulgação diferencialmente privada; entregar as duas aos mesmos consumidores elimina o propósito da técnica.

Armadilhas

Escolher um epsilon grande para preservar a precisão e chamar o resultado de privado; a NIST SP 800-226 sinaliza como risco que valores grandes de epsilon podem não oferecer privacidade significativa. Aplicar o mecanismo consulta a consulta sem acompanhar o total. Tratá-lo como substituto da minimização e da retenção, e não como um mecanismo de divulgação de agregados.