La privacidad diferencial en un párrafo, y dónde no encaja

Qué es

El NIST SP 800-226 describe la privacidad diferencial como un marco matemático que cuantifica la pérdida de privacidad para las entidades cuyos datos aparecen en un conjunto de datos. La versión en un párrafo: un mecanismo que responde a consultas sobre un conjunto de datos es diferencialmente privado si su distribución de salida cambia como máximo en un factor acotado, parametrizado por epsilon, cuando se añade o se elimina el registro de una sola persona. El mecanismo logra esto añadiendo ruido aleatorio calibrado a los resultados, y cada consulta respondida consume una parte de un presupuesto de privacidad. La garantía es una propiedad del mecanismo, no de los datos, y se mantiene con independencia de lo que sepa además un atacante. Existen implementaciones: el repositorio de privacidad diferencial de Google ofrece bibliotecas modulares con primitivas de adición de ruido y agregaciones diferencialmente privadas, marcos de extremo a extremo y una biblioteca de contabilidad para seguir el presupuesto de privacidad.

Por qué importa

Su garantía se mantiene con independencia de la información auxiliar y se compone a través de consultas repetidas, precisamente donde la supresión y la agregación no dan ninguna garantía en absoluto. El NIST SP 800-226 también identifica riesgos de privacidad: errores habituales que surgen cuando la matemática se materializa en software.

Cómo aplicarlo

• Encaja: publicar estadísticas agregadas (recuentos, sumas, medias, histogramas) sobre una población grande, especialmente cuando la publicación se repite o se expone como una interfaz de consulta, y cuando la pérdida de precisión por el ruido resulta aceptable en los tamaños de población implicados.
• No encaja: los datos a nivel de registro (una tabla de clientes no puede hacerse diferencialmente privada y seguir siendo una tabla de clientes); los grupos pequeños, donde el ruido ahoga la señal; las operaciones que necesitan respuestas exactas (facturación, los datos propios de una persona, conciliación); el texto libre y las imágenes; los análisis internos puntuales donde el control de acceso más la seudonimización es más sencillo y suficiente.
• Usar una biblioteca en lugar de añadir ruido a mano: el NIST SP 800-226 indica que quienes lo aplican deberían usar implementaciones bien probadas que ofrecen las bibliotecas en lugar de implementar los mecanismos por sí mismos, y enumera la aritmética de coma flotante entre sus riesgos de privacidad.
• Decidir epsilon y el presupuesto total por publicación como una decisión de producto documentada; registrar cada publicación frente al presupuesto.
• Mantener separadas la tabla seudonimizada bruta y la publicación diferencialmente privada; entregar ambas a los mismos consumidores elimina el sentido de la medida.

Trampas

Elegir un epsilon grande para conservar la precisión y llamar privado al resultado; el NIST SP 800-226 señala como riesgo que los valores grandes de epsilon pueden no ofrecer una privacidad significativa. Aplicar el mecanismo por consulta sin llevar la cuenta del total. Tratarlo como un sustituto de la minimización y la retención en lugar de como un mecanismo de publicación para agregados.