Promedio federado: entrenamiento local, ponderación de clientes y datos heterogéneos

Qué significa el promedio federado

El aprendizaje federado coordina el entrenamiento de un modelo mientras los registros de entrenamiento permanecen repartidos entre los clientes. En el promedio federado, o FedAvg, los clientes entrenan copias locales de un modelo compartido y un servidor agrega los parámetros o las actualizaciones resultantes. El método original se diseñó pensando en una comunicación limitada y en datos de clientes desiguales y con distribuciones distintas. [1]

Una ronda de entrenamiento básica

El servidor envía el modelo actual a los clientes participantes. Cada uno parte de ese mismo modelo y realiza una cantidad determinada de optimización local. A continuación, el servidor calcula un agregado de los modelos recibidos, normalmente ponderado por el número de ejemplos de entrenamiento que aporta cada cliente. La siguiente ronda parte del agregado. La arquitectura del modelo, el orden de los parámetros y la interpretación de las características deben coincidir: no se trata de promediar de forma arbitraria redes diseñadas de manera independiente. [1]

Diseño de una evaluación

Una evaluación práctica registra la política de muestreo de clientes, las épocas locales, el tamaño de lote, la tasa de aprendizaje, los pesos de agregación y las contribuciones fallidas o retrasadas. Conviene comparar conjuntamente las rondas de comunicación, los bytes transferidos y la calidad del modelo. Una configuración que necesita menos rondas puede ser igualmente más lenta si aumenta el trabajo local o el tamaño de los datos que se transmiten.

Durante la evaluación hay que conservar particiones de clientes realistas. Se recomienda informar tanto del rendimiento ponderado por ejemplos como de una vista a nivel de cliente, indicando el número de muestras. Este diseño de informe, que aquí se propone, permite ver si una mejora global beneficia sobre todo a los clientes más grandes.

Ejemplo ilustrativo de ponderación

Supongamos que participan los tres clientes, con 100, 300 y 600 ejemplos de entrenamiento, todos con el mismo peso. Sus pesos normalizados según el número de muestras son 0.1, 0.3 y 0.6. Para un parámetro, los valores locales 1, 3 y 5 dan como resultado 0.1*1 + 0.3*3 + 0.6*5 = 4.0.

Un promedio con el mismo peso para cada cliente daría 3.0, que corresponde a otra decisión de ponderación. Ninguno de los dos números demuestra la calidad predictiva. Este ejemplo aritmético solo ilustra la agregación; no es un resultado de entrenamiento ni un argumento para que los clientes más grandes deban dominar siempre el objetivo.

Límites y privacidad

Los clientes pueden diferir en la frecuencia de clases, la distribución de características, la relación entre etiquetas y la disponibilidad. Esta heterogeneidad puede hacer que las actualizaciones locales tiren en direcciones distintas. Aumentar el entrenamiento local modifica el equilibrio entre comunicación y optimización, y no supone una mejora universal. [2]

Almacenar los datos en bruto en local no hace que las actualizaciones del modelo sean inocuas. La agregación segura puede ocultar al servidor las contribuciones individuales bajo los supuestos de su protocolo, pero el agregado y el modelo publicado aún pueden revelar información. La privacidad diferencial requiere un mecanismo adicional, especificado, y una contabilidad de la privacidad; no es una propiedad automática de FedAvg. [2] Aquí no se afirma la existencia de ningún experimento de entrenamiento federado, prueba de privacidad ni benchmark de despliegue.

Fuentes

[1] Communication-Efficient Learning of Deep Networks from Decentralized Data

[2] Advances and Open Problems in Federated Learning