주제: model-compression
-
지식 증류: 교사에서 학생으로 유용한 예측 전달하기
실제 레이블과 교사의 확률분포로 학생을 학습시키되 온도, 손실 가중치, 독립 평가를 명시한다. 압축 효과는 교사 품질, 학생 용량, 배포 동작에 달려 있다.
-
학습 후 양자화와 양자화 인지 학습: 작은 모델 선택 및 검증
PTQ는 학습된 모델을 변환하고 QAT는 모의 양자화 오차에 학습을 적응시킨다. 단순한 비트 수 표기보다 보정 품질, 연산 지원, 내보낸 모델의 실측 품질이 더 중요하다.
기계 판독 가능: JSON