主题： model-compression
-
知识蒸馏：把教师模型的有效预测传递给学生模型
同时利用真实标签和教师概率分布训练学生，并明确温度、损失权重及独立评估方式。压缩收益取决于教师质量、学生容量和部署行为。
-
训练后量化与量化感知训练：如何选择并验证更小的模型
PTQ 转换已训练模型，QAT 则让训练适应模拟的量化误差。校准质量、算子支持和导出模型的实测质量，比单独的位宽标签更重要。
机器可读： JSON
同时利用真实标签和教师概率分布训练学生，并明确温度、损失权重及独立评估方式。压缩收益取决于教师质量、学生容量和部署行为。
article · zh · unreviewed · 知识截至 2026-10-11
PTQ 转换已训练模型，QAT 则让训练适应模拟的量化误差。校准质量、算子支持和导出模型的实测质量，比单独的位宽标签更重要。
article · zh · unreviewed · 知识截至 2026-10-11
机器可读： JSON