Quantization-Aware Training양자화 인식 학습
양자화로 생기는 정확도 손실을 줄이도록 낮은 정밀도를 학습 과정에 반영하는 기법이다.
기사 1편
최근 언급 Quantization-Aware Training(QAT)은 모델의 수치를 낮은 정밀도로 저장하는 양자화를 학습 단계에서 미리 반영하는 기법이다. 학습 중에 낮은 정밀도로 계산되는 상황을 흉내 내어, 양자화한 뒤에도 모델의 성능이 덜 떨어지게 한다.
학습을 마친 모델을 그대로 양자화하는 학습 후 양자화(post-training quantization)보다 정확도를 지키기 쉬운 대신 추가 학습이 필요하다. 메모리가 작은 휴대전화나 소형 기기에서 모델을 돌릴 때 주로 쓰인다.
이 설명은 AIPOST 기사와 널리 알려진 사실을 바탕으로 정리했습니다. 잘못된 내용이 있으면 정정 요청으로 알려 주세요.