Federated Averaging: 로컬 학습, 클라이언트 가중치와 이질적 데이터

Federated Averaging의 의미

연합 학습은 학습 기록을 각 클라이언트에 분산 보관하면서 모델 학습을 조정합니다. Federated Averaging, 즉 FedAvg에서는 클라이언트가 공유 모델의 로컬 복사본을 학습하고 서버가 그 결과인 매개변수나 갱신을 집계합니다. 원래 방법은 제한된 통신과 규모 및 분포가 서로 다른 클라이언트 데이터를 고려해 설계되었습니다. [1]

기본 학습 라운드

서버가 현재 모델을 참여 클라이언트에 배포합니다. 각 클라이언트는 같은 모델에서 출발해 정해진 양의 로컬 최적화를 수행합니다. 이후 서버는 반환된 모델을 집계하며, 일반적으로 각 클라이언트가 기여한 학습 사례 수에 비례한 가중치를 사용합니다. 다음 라운드는 집계 모델에서 시작합니다. 모델 구조, 매개변수 순서와 특성 의미가 일치해야 하며 독립적으로 설계된 임의의 신경망을 평균하는 작업이 아닙니다. [1]

평가 설계

실용적인 평가에서는 클라이언트 표본추출 정책, 로컬 에포크 수, 배치 크기, 학습률, 집계 가중치, 실패하거나 지연된 응답을 기록합니다. 통신 라운드, 전송 바이트와 모델 품질을 함께 비교합니다. 라운드 수가 줄어도 로컬 작업이나 전송량이 늘면 전체 수행은 더 느려질 수 있습니다.

평가에는 현실적인 클라이언트 구분을 유지합니다. 사례 수로 가중한 성능과 함께 클라이언트별 결과 및 표본 수도 보고합니다. 여기서 제안하는 보고 방식은 전체 개선이 주로 가장 큰 클라이언트에만 도움이 되는지 확인하게 합니다.

가중치 설명 예시

세 클라이언트가 모두 참여하며 각각 동일 가중치의 학습 사례 100, 300, 600개를 가진다고 가정합니다. 정규화된 가중치는 0.1, 0.3, 0.6입니다. 한 매개변수의 로컬 값이 1, 3, 5라면 0.1*1 + 0.3*3 + 0.6*5 = 4.0이 됩니다.

클라이언트에 동일한 가중치를 주면 평균은 3.0이며, 이는 다른 가중 방식입니다. 어느 숫자도 예측 품질을 입증하지 않습니다. 이 계산은 집계만 설명하며 학습 결과도 아니고 큰 클라이언트가 항상 목적함수를 지배해야 한다는 주장도 아닙니다.

한계와 프라이버시

클라이언트마다 클래스 빈도, 특성 분포, 레이블 관계와 가용성이 다를 수 있습니다. 이러한 이질성은 로컬 갱신을 서로 다른 방향으로 이끌 수 있습니다. 로컬 학습을 늘리면 통신과 최적화의 절충 관계가 바뀌며 보편적인 개선이 되지는 않습니다. [2]

원시 데이터를 로컬에 저장해도 모델 갱신이 무해해지는 것은 아닙니다. 보안 집계는 프로토콜의 가정 아래 개별 클라이언트의 기여를 서버로부터 숨길 수 있지만 집계 결과와 공개 모델은 여전히 정보를 드러낼 수 있습니다. 차등 프라이버시에는 별도로 명시된 메커니즘과 프라이버시 예산 관리가 필요하며 FedAvg의 자동적인 속성이 아닙니다. [2] 이 글은 연합 학습 실험, 프라이버시 증명 또는 배포 벤치마크를 제시하지 않습니다.

출처

[1] Communication-Efficient Learning of Deep Networks from Decentralized Data

[2] Advances and Open Problems in Federated Learning