迭代剪枝与单步剪枝的对比 - 3.5 简体中文

Vitis AI 用户指南 (UG1414)

Document ID
UG1414
Release Date
2023-09-28
Version
3.5 简体中文

对神经网络进行剪枝的两种主要方法是迭代剪枝和单步跳入剪枝,每种方法都提供了独特的策略,在保持准确性的同时实现模型的稀疏度。迭代剪枝法在保持精度的同时逐步修剪模型参数,通过多次迭代达到所需的稀疏度。相比之下,单步跳入剪枝能快速识别并微调最有潜力的子网络,因此,该方法不仅是实现模型稀疏度的有效选择并且潜在精度很高。

下表中显示了这两种方法的对比。

表 1. 迭代剪枝对比单步剪枝
条件 迭代剪枝 单步剪枝
要求 - 网络中采用 BatchNormalization
耗时 超过单步剪枝 少于迭代剪枝
是否需要重新训练 必需 必需
代码组织 评估函数 评估函数

校准函数