量化感知训练Quantization-Aware Training
量化感知训练是在训练过程中考虑低数值精度、以减少量化带来的精度损失的技术。
1篇文章
最近提及 量化感知训练(QAT)是在训练阶段就把量化考虑进去的技术。量化是指以较低精度存储模型数值。通过在训练中模拟低精度计算,模型在量化后能保留更多性能。
与训练完成后再压缩模型的训练后量化相比,量化感知训练通常更能保持精度,但需要额外训练。它常用于在内存有限的手机和小型设备上运行模型。
本条目依据AIPOST的文章与广为人知的事实整理。如有错误,请通过更正请求告诉我们。