vai_q_pytorch のインストール - 3.5 日本語

vai_q_pytorch には、GPU バージョンと CPU バージョンがあります。vai_q_pytorch は、PyTorch バージョン 1.2 ～ 2.0 をサポートしますが、PyTorch のデータ並列処理はサポートしません。vai_q_pytorch をインストールする方法は 2 つあります。

Docker コンテナーを使用してインストール

Vitis AI は、vai_q_pytorch を含む量子化ツールの Docker コンテナーを提供します。GPU または CPU コンテナーの実行後、Vitis AI-PyTorch conda 環境をアクティベートします。

conda activate vitis-ai-pytorch

PyTorch バージョン (1.2 ～ 2.0) を指定した新しい conda 環境は、https://github.com/Xilinx/Vitis-AI/blob/v3.5/docker/common/replace_pytorch.sh スクリプトを使用して作成できます。このスクリプトは次を実行します。

• Vitis AI-pytorch から conda 環境のクローンを作成する。
• 元の PyTorch、torchvision、および vai_q_pytorch パッケージをアンインストールする。
• 指定したバージョンの PyTorch、torchvision をインストールする。
• ソース コードから vai_q_pytorch を再インストールする。

replace_pytorch.sh new_conda_env_name

ソース コードからインストール

vai_q_pytorch は、Pytorch プラグインとして機能するように設計された Python パッケージです。これは Vitis_AI_Quantizer 内のオープンソースです。AMD は、vai_q_pytorch は conda 環境にインストールすることを推奨します。これを行うには、次の手順に従います。

1. .bashrc に CUDA_HOME 環境変数を追加します。
   GPU バージョンでは、CUDA ライブラリが /usr/local/cuda にインストールされている場合は、.bashrc に次の行を追加します。CUDA が別のディレクトリにある場合は、それに応じてパスを変更します。

   export CUDA_HOME=/usr/local/cuda

   CPU バージョンでは、.bashrc 内のすべての CUDA_HOME 環境変数設定を削除します。シェル ウィンドウのコマンド ラインで次のコマンドを使用してクリーン アップすることを推奨します。

   unset CUDA_HOME

2. PyTorch (1.2 ～ 2.0) と torchvision をインストールします。

   次のコードでは、PyTorch 1.7.1 と Torchvision 0.8.2 を例として使用します。その他のバージョンの手順の詳細は、PyTorch のウェブサイトを参照してください。

   pip install torch==1.7.1 torchvision==0.8.2

3. その他の依存ライブラリをインストールします。

   pip install -r requirements.txt

4. vai_q_pytorch をインストールします。

   cd ./pytorch_binding 
   python setup.py install

5. インストールを検証します。

   python -c "import pytorch_nndct"

import pytorch_nndct
import torch