Vitis AI 量化器会将 32 位浮点权重和激活转换定点格式（如，INT8），这样即可显著降低计算复杂性，同时保留预测精度。与浮点模型相比，这种变换所产生的定点网络模型对存储器带宽的要求更低，从而提高了处理速度和能效。
图 1. Vitis AI 量化器
Vitis AI 量化器会将 32 位浮点权重和激活转换定点格式（如，INT8），这样即可显著降低计算复杂性，同时保留预测精度。与浮点模型相比，这种变换所产生的定点网络模型对存储器带宽的要求更低，从而提高了处理速度和能效。