Vitis AI オプティマイザーの概要 - 3.5 日本語

AMD Vitis™ AI は、AMD ハードウェア プラットフォーム上で AI 推論を実行するための AMD 開発キットです。機械学習の推論は計算負荷が非常に高いため、低レイテンシかつ高スループットという要件を満たすには、広いメモリ帯域幅が必要です。

Vitis AI オプティマイザーは、ニューラル ネットワーク モデルを最適化します。現在、Vitis AI オプティマイザーに含まれるのはプルーナーと呼ばれるツールのみです。Vitis AI オプティマイザーは、ニューラル ネットワーク内の冗長なカーネルを除去し、推論の全体的な演算コストを削減します。 Vitis AI オプティマイザーでプルーニングされたモデルは、AMD FPGA、SoC、アダプティブ SoC デバイス上で量子化および運用できます。

Vitis AI オプティマイザーは、TensorFlow と PyTorch をサポートします。次の表に、これらのフレームワークに対応するツール名を示します (「p」はプルーニングを示す)。