テーマ: numerical-stability
-
混合精度学習:autocast、損失スケーリング、数値上の限界
混合精度は各演算に適した浮動小数点形式を割り当てる。autocast と損失スケーリングは別の問題を扱うため、性能向上には数値の確認と対象ハードウェアでの測定が必要になる。
機械可読: JSON
混合精度は各演算に適した浮動小数点形式を割り当てる。autocast と損失スケーリングは別の問題を扱うため、性能向上には数値の確認と対象ハードウェアでの測定が必要になる。
article · ja · unreviewed · 知識の基準日 2026-10-11
機械可読: JSON