조기 종료: patience, 검증, 최적 가중치 복원

조기 종료가 선택하는 것

조기 종료는 관찰하는 값이 지정된 규칙에 따라 더 이상 개선되지 않으면 반복 학습을 끝낸다. 연산량을 줄이고 과적합을 제한할 수 있지만, 더 좋은 일반화나 전역적으로 최적인 종료 시점을 보장하지는 않는다. 학습 에포크 수 자체가 모델 선택의 결정이 된다. 따라서 검증 신호에는 가중치 갱신에 쓰는 예제와 분리된 데이터가 필요하다. [1][2]

종료 규칙 정의

관찰 지표, 개선 방향, 최소 개선량, patience를 지정한다. 검증 손실은 대체로 작을수록 좋다. Keras에서 min_delta는 필요한 절대 개선량을 정하고, patience는 그 조건을 충족하는 개선이 없는 에포크 수를 센다. 워밍업 기간을 두어 관찰 시작을 늦출 수도 있다. [1]

학습 종료와 체크포인트 선택은 다른 결정이다. restore_best_weights=True는 콜백의 비교 규칙상 가장 좋은 관찰 값에 해당하는 가중치를 복원한다. 이 설정을 끄면 마지막으로 학습한 가중치가 남는다. 프레임워크가 자동으로 복원한다고 가정하지 말고 설정을 명시한다. [1]

검증과 최종 테스트 분리

변환을 학습하기 전에 데이터를 나누고, 변환은 학습 파티션에만 맞춘다. 검증 데이터로 patience, 관찰 지표, 학습률 설정, 기타 하이퍼파라미터를 선택한다. 매 에포크마다 테스트 손실을 보거나 테스트 성능을 확인한 뒤 patience를 조정하면 안 된다. 두 방식 모두 테스트 정보가 모델을 선택하게 한다. [2]

교차 검증에서는 조기 종료 데이터를 각 학습 폴드 내부에 두고, 평가 폴드는 분리해 유지한다. 데이터 분할, 시드, 지표 이력, 최적 에포크와 종료 에포크를 기록한다. 이 절차는 독립적인 평가를 유지하기 위한 실무적 귀결이다.

설명용 에포크 수열

에포크 1–5의 검증 손실이 0.42, 0.39, 0.40, 0.395, 0.398이라고 하자. 최소화 방향, min_delta=0, patience=3이면 에포크 2가 최적이고, 이후 세 에포크는 이를 개선하지 않는다. 학습은 에포크 5 이후 끝나며, 최적 가중치를 복원하면 에포크 2 상태로 돌아간다. 이 수열은 규칙을 설명하기 위해 만든 것으로 실험 결과가 아니다. [1]

한계와 보고

잡음이 많거나 대표성이 부족한 검증 데이터는 학습을 너무 일찍 멈추게 하거나 잘못된 인상을 주는 체크포인트를 선택하게 할 수 있다. 지표 정체 뒤에 예정된 학습률 변경으로 성능이 개선될 수도 있다. 최종 테스트 전에 관찰 정책을 정하고 지표를 작업 목적에 맞춘다. 검증 결과에 따른 반복 조정은 검증 데이터에도 과적합을 일으킬 수 있다. 선택된 모델을 건드리지 않은 테스트 데이터에서 평가하고, 두 에포크와 종료 설정을 보고한다. 로컬 학습 실험은 수행하지 않았다.

출처

[1] TensorFlow API: tf.keras.callbacks.EarlyStopping

[2] scikit-learn User Guide: Common Pitfalls and Recommended Practices