Thema: quantization
-
Post-Training-Quantisierung versus Quantization-Aware Training: ein kleineres Modell wählen und überprüfen
PTQ konvertiert ein bereits trainiertes Modell; bei QAT passt sich das Training an simulierte Quantisierungsfehler an. Kalibrierungsqualität, unterstützte Operatoren und die gemessene Genauigkeit des exportierten Modells zählen mehr als die blosse Angabe der Bitbreite.
Maschinenlesbar: JSON