ワンステップ プルーニング - 2.5 日本語

ワンステップ プルーニングでは、EagleEye ¹ アルゴリズムを使用します。この手法は、簡単で効率的な評価コンポーネント (すなわち、適応型バッチ正規化) により、さまざまなプルーニング済みモデルとそれに対応する微調整済みの精度の間に強い正の相関を確立します。これにより、実際にモデルを微調整することなく、最も高い精度が得られるサブネットワークを生成できます。つまり、ワンステップ プルーニング手法は、モデル サイズの要件を満たす多数のサブネットワーク (すなわち、生成されたプルーニング済みモデル) を検索し、評価を適用して、その中から最も条件の良いサブネットワークを選択します。その後、選択されたサブネットワークに再学習させて精度を回復します。

プルーニングの手順は次のとおりです。

1. プルーニング率の要件を満たすサブネットワークを検索します。
2. 評価コンポーネントを使用して、多数のサブネットワークの中から最も高い精度が得られるネットワークを選択します。
3. プルーニング済みモデルを微調整します。