Federated averaging: treino local, ponderação de clientes e dados heterogêneos

O que significa federated averaging

O aprendizado federado coordena o treinamento de um modelo enquanto os registros de treino permanecem distribuídos entre os clientes. No federated averaging, ou FedAvg, os clientes treinam cópias locais de um modelo compartilhado e um servidor agrega os parâmetros ou as atualizações resultantes. O método original foi concebido para cenários de comunicação limitada e de dados de clientes desiguais e com distribuições diferentes. [1]

Uma rodada básica de treinamento

O servidor envia o modelo atual aos clientes participantes. Cada um parte desse mesmo modelo e executa uma quantidade definida de otimização local. Em seguida, o servidor calcula um agregado dos modelos devolvidos, normalmente ponderado pelo número de exemplos de treino que cada cliente contribui. A rodada seguinte parte desse agregado. A arquitetura do modelo, a ordem dos parâmetros e a interpretação das features precisam ser compatíveis; não se trata de uma média arbitrária de redes projetadas de forma independente. [1]

Como projetar uma avaliação

Uma avaliação prática registra a política de amostragem de clientes, as épocas locais, o tamanho do batch, a taxa de aprendizado, os pesos de agregação e as contribuições que falharam ou atrasaram. Compare em conjunto as rodadas de comunicação, os bytes transferidos e a qualidade do modelo. Uma configuração que exige menos rodadas ainda pode ser mais lenta se o trabalho local ou o volume de dados transmitidos aumentar.

Preserve partições de clientes realistas durante a avaliação. Informe tanto o desempenho ponderado por exemplo quanto uma visão por cliente, com a contagem de amostras. Este desenho de relatório, proposto aqui, permite verificar se uma melhoria global beneficia principalmente os maiores clientes.

Exemplo ilustrativo de ponderação

Suponha que todos os três clientes participem, com 100, 300 e 600 exemplos de treino de mesmo peso. Seus pesos amostrais normalizados são 0.1, 0.3 e 0.6. Para um parâmetro, os valores locais 1, 3 e 5 resultam em 0.1*1 + 0.3*3 + 0.6*5 = 4.0.

A média com um peso igual para cada cliente seria 3.0, o que corresponde a outra escolha de ponderação. Nenhum dos dois números estabelece qualidade preditiva. Este exemplo aritmético serve apenas para ilustrar a agregação; não é um resultado de treinamento nem um argumento de que os clientes maiores devam sempre dominar o objetivo.

Limites e privacidade

Os clientes podem diferir nas frequências das classes, na distribuição das features, nas relações entre rótulos e na disponibilidade. Essa heterogeneidade pode fazer com que as atualizações locais puxem em direções diferentes. Aumentar o treino local altera o equilíbrio entre comunicação e otimização e não é uma melhoria universal. [2]

Armazenar os dados brutos localmente não torna as atualizações do modelo inofensivas. A agregação segura pode ocultar do servidor as contribuições individuais, dentro das premissas do seu protocolo, mas o agregado e o modelo publicado ainda podem revelar informações. A privacidade diferencial exige um mecanismo adicional, especificado, e a contabilização da privacidade; ela não é uma propriedade automática do FedAvg. [2] Aqui não se afirma a existência de nenhum experimento de treinamento federado, prova de privacidade ou benchmark de implantação.

Fontes

[1] Communication-Efficient Learning of Deep Networks from Decentralized Data

[2] Advances and Open Problems in Federated Learning