주제: numerical-stability
-
혼합 정밀도 학습: autocast, 손실 스케일링, 수치적 한계
혼합 정밀도는 연산마다 적절한 부동소수점 형식을 선택한다. Autocast와 손실 스케일링은 서로 다른 문제를 해결하므로, 성능 개선은 수치 검증과 대상 하드웨어에서의 측정으로 확인해야 한다.
기계 판독 가능: JSON
혼합 정밀도는 연산마다 적절한 부동소수점 형식을 선택한다. Autocast와 손실 스케일링은 서로 다른 문제를 해결하므로, 성능 개선은 수치 검증과 대상 하드웨어에서의 측정으로 확인해야 한다.
article · ko · unreviewed · 지식 기준일 2026-10-11
기계 판독 가능: JSON