PyTorch 版本 - vai_p_pytorch - 3.5 简体中文

Vitis AI 用户指南 (UG1414)

Document ID
UG1414
Release Date
2023-09-28
Version
3.5 简体中文

PyTorch 上的剪枝工具是 Python 程序包,而不是可执行程序,vai_p_pytorch 可提供三种模型剪枝方法:

迭代剪枝和单步剪枝适合具有传统卷积层的网络,但对于基于逐通道卷积的网络(如,MobileNet-v2),效果并不好。卷积神经网络 (CNN) 通常包含 BatchNormalization(批量归一化)层,对于这些网络,首选单步剪枝,因为这种方法更快且更有效。如果诸如 VGGNet 之类的网络中没有 BatchNormalization 层,那么应使用迭代剪枝。

OFA 对于逐通道卷积和传统卷积都适用。重要的是明确 OFA 理论上是这三种方法中最好的方法,但不一定能轻松获得理想的剪枝结果。结果取决于超网络的训练优度,并且可能需要较长的训练时间和强大的训练技能。

总结,如果网络中有 BatchNormalization 层,请使用单步剪枝。否则,使用迭代剪枝。如果对剪枝结果不满意,那么 OFA 可用作为替代方法。