Tema: quantization
-
Quantização pós-treinamento versus treinamento consciente de quantização: como escolher e verificar um modelo menor
A PTQ converte um modelo já treinado; o QAT permite que o treinamento se adapte ao erro de quantização simulado. A qualidade da calibração, os operadores suportados e a acurácia medida do modelo exportado importam mais do que apenas o rótulo de largura de bits.
Legível por máquina: JSON