下表列出了 vai_q_onnx 量化支持的运算和 API。此列表中不包含的运算会在量化期间跳过,并在输出模型中保留不变。
运算类型 | 描述 |
---|---|
Conv | |
ConvTranspose | |
Gemm | |
BatchNorm | 将与先前“Conv”运算融合 |
Add | |
Concat | |
Relu | |
Reshape | |
Transpose | |
Squeeze | |
Resize | |
MaxPool | |
GlobalAveragePool | |
AveragePool | |
MatMul | |
Mul | |
Sigmoid | |
Softmax |