Tema: quantization
-
Cuantización posentrenamiento frente a entrenamiento consciente de la cuantización: cómo elegir y verificar un modelo más pequeño
La PTQ convierte un modelo ya entrenado; la QAT permite que el entrenamiento se adapte al error de cuantización simulado. La calidad de la calibración, los operadores compatibles y la precisión medida del modelo exportado importan más que la etiqueta del ancho de bits por sí sola.
Legible por máquina: JSON