Vitis AI ユーザーガイド (UG1414) - 1.3 日本語

Document ID: UG1414
Release Date: 2021-02-03
Version: 1.3 日本語

改訂履歴
Vitis AI の概要
設計プロセス別のコンテンツガイド
機能
Vitis AI ツールの概要
深層学習プロセッシングユニット (DPU)
DPU 名
Alveo U200/U250: DPUCADX8G
Zynq MPSoC: DPUCZDX8G
Alveo U50/U280: DPUCAHX8H
Alveo U50/U50LV/U280: DPUCAHX8L
Alveo U200/U250: DPUCADF8H
Versal AI コアシリーズ: DPUCVDX8G
AI Model Zoo
AI オプティマイザー
AI クオンタイザー
AI コンパイラ
AI プロファイラー
AI ライブラリ
AI ランタイム
クラウドの場合
Vitis AI ランタイム
Vitis AI コンテナー
システム要件
開発フローの概要
スタートアップガイド
インストールとセットアップ
Vitis AI 開発キットのダウンロード
ホストのセットアップ
ホストのセットアップ (VART を使用)
エッジの場合 (DPUCZDX8G)
クラウドの場合 (DPUCAHX8H)
評価ボードの設定
ZCU102/104 評価ボードの設定
OS イメージを SD カードに書き込む
評価ボードを起動
評価ボードへのアクセス方法
UART ポート
イーサネットインターフェイスを使用
ボードをスタンドアロンのエンベデッドシステムとして使用
評価ボードに Vitis AI ランタイムをインストール
カスタムボードの設定
サンプルを実行
Vitis AI のサンプル
DPUCZD8G および DPUCAHX8H で Vitis AI サンプルを実行
エッジの場合 (DPUCZDX8G)
クラウドの場合 (DPUCAHX8H)
サポート
Vitis AI Model Zoo ネットワークの理解
モデルの量子化
概要
Vitis AI クオンタイザーのフロー
TensorFlow 1.x バージョン (vai_q_tensorflow)
vai_q_tensorflow のインストール
vai_q_tensorflow の実行
浮動小数点モデルと関連する入力ファイルを準備する
vai_q_tensorflow を使用したモデルの量子化
量子化されたモデルの出力
(オプション) 量子化されたモデルの評価
(オプション) シミュレーション結果のダンプ
vai_q_tensorflow 量子化微調整
TensorFlow 1.x 用の量子化微調整 API
tf.contrib.decent_q.CreateQuantizeTrainingGraph(config)
tf.contrib.decent_q.CreateQuantizeEvaluationGraph(config)
tf.contrib.decent_q.CreateQuantizeDeployGraph(checkpoint, config)
量子化の微調整のヒント
vai_q_tensorflow でサポートされる動作および API
vai_q_tensorflow の使用法
TensorFlow 2.x バージョン (vai_q_tensorflow2)
vai_q_tensorflow2 のインストール
vai_q_tensorflow2 の実行
浮動小数点モデルとキャリブレーションセットの準備
vai_q_tensorflow2 API を使用した量子化
量子化されたモデルの保存
(オプション) 量子化されたモデルの評価
(オプション) シミュレーション結果のダンプ
vai_q_tensorflow2 量子化微調整
vai_q_tensorflow2 でサポートされる動作および API
vai_q_tensorflow2 の用途
Pytorch バージョン (vai_q_pytorch)
vai_q_pytorch のインストール
vai_q_pytorch の実行
vai_q_pytorch 用のファイルを準備する
モデルの定義を変更する
vai_q_pytorch API を浮動小数点スクリプトに追加する
量子化を実行し、結果を取得する
モジュールの部分的量子化
vai_q_pytorch 高速微調整
vai_q_pytorch 量子化微調整
vai_q_pytorch 量子化微調整の必要条件
vai_q_pytorch の使用法
Caffe バージョン (vai_q_caffe)
vai_q_caffe のインストール
vai_q_caffe の実行
vai_q_caffe 量子化微調整
vai_q_caffe の使用法
モデルのコンパイル
Vitis AI コンパイラ
XIR ベースのツールチェーンによるコンパイル
XIR
DPU 向けのコンパイル
カスタマイズされたアクセラレータ用のコンパイル
サポートされている OP と DPU の制限
TensorFlow でサポートされる演算子
Caffe でサポートされる演算子
PyTorch でサポートされる演算子
DPUCADX8G によるコンパイル
Caffe
TensorFlow
VAI_C の使用法
モデルの運用と実行
Alveo U200/250 上でのモデルの運用と実行
VART を使用したプログラミング
C++ の例
Python の例
VART による DPU のデバッグ
TensorFlow のワークフロー
Caffe ワークフロー
PyTorch ワークフロー
複数 FPGA のプログラミング
Xbutler
Vitis AI での複数の FPGA、複数のグラフの運用
Xstream API
AI カーネルスケジューラ
Neptune
Apache TVM および Microsoft ONNX ランタイム
Apache TVM
Microsoft ONNX Runtime
モデルのプロファイリング
Vitis AI プロファイラー
Vitis AI プロファイラーのアーキテクチャ
Vitis AI プロファイラー GUI の概要
Vitis AI プロファイラーの使用
Vitis AI プロファイラーのインストール
vaitrace を使用して簡単なトレースを開始
VAI トレースの使用法
DPU のプロファイリング例
モデルの最適化
ML フレームワークを使用したサブグラフの高速化
TensorFlow でファンクショナル API 呼び出しを分割
パーティショナー API
パーティショニングの手順
実用メモ
Caffe のパーティショニングサポート
Cut(prototxt)
カスタムプラットフォームへの DPU の統合
Vitis AI プログラミングインターフェイス
VART API
C++ API
create_runner
create_runner
execute_async
wait
get_tensor_format
get_input_tensors
get_output_tensors
get_location
get_tensor
data
data_phy
sync_for_read
sync_for_write
copy_from_host
copy_to_host
copy_tensor_buffer
get_inputs
get_outputs
Python API
create_runner
execute_async
wait
get_input_tensors
get_output_tensors
get_inputs
get_outputs
レガシ DNNDK
DNNDK N2Cube ランタイム
DNNDK のサンプル
エッジ向けの DNNDK プログラミング
プログラミングモデル
DPU カーネル
DPU タスク
DPU ノード
DPU テンソル
プログラミングインターフェイス
Caffe モデル
TensorFlow モデル
DPU のメモリモデル
固有のメモリモデル
スプリット I/O メモリモデル
DPU コアのアフィニティ
優先度ベースの DPU スケジューリング
DNNDK ユーティリティ
DNNDK プロファイラーを使用したプロファイリング
細粒度のプロファイリング
パノラマビュープロファイリング
DNNDK プログラミング API
C++ API
API のリスト
dpuOpen()
dpuClose()
dpuLoadKernel()
dpuDestroyKernel()
dpuCreateTask()
dpuDestroyTask()
dpuRunTask()
dpuSetTaskPriority()
dpuGetTaskPriority()
dpuSetTaskAffinity()
dpuGetTaskAffinity ()
dpuEnableTaskProfile()
dpuEnableTaskDebug()
dpuGetTaskProfile()
dpuGetNodeProfile()
dpuGetInputTensorCnt()
dpuGetInputTensor()
dpuGetInputTensorAddress()
dpuGetInputTensorSize()
dpuGetInputTensorScale()
dpuGetInputTensorHeight()
dpuGetInputTensorWidth()
dpuGetInputTensorChannel()
dpuGetOutputTensorCnt()
dpuGetOutputTensor()
dpuGetOutputTensorAddress()
dpuGetOutputTensorSize()
dpuGetOutputTensorScale()
dpuGetOutputTensorHeight()
dpuGetOutputTensorWidth()
dpuGetOutputTensorChannel()
dpuGetTensorAddress()
dpuGetTensorSize()
dpuGetTensorScale()
dpuGetTensorHeight()
dpuGetTensorWidth()
dpuGetTensorChannel()
dpuSetInputTensorInCHWInt8()
dpuSetInputTensorInCHWFP32()
dpuSetInputTensorInHWCInt8()
dpuSetInputTensorInHWCFP32()
dpuGetOutputTensorInCHWInt8()
dpuGetOutputTensorInCHWFP32()
dpuGetOutputTensorInHWCInt8()
dpuGetOutputTensorInHWCFP32()
dpuRunSoftmax()
dpuSetExceptionMode()
dpuGetExceptionMode()
dpuGetExceptionMessage
dpuGetInputTotalSize()
dpuGetOutputTotalSize()
dpuGetBoundaryIOTensor()
dpuBindInputTensorBaseAddress()
dpuBindOutputTensorBaseAddress()
Python API
API のリスト
dpuGetOutputTensorAddress()
dpuGetTensorAddress()
dpuGetTensorData()
dpuGetOutputTensorInCHWInt8()
dpuGetOutputTensorInCHWFP32()
dpuGetOutputTensorInHWCInt8()
dpuGetOutputTensorInHWCFP32()
dpuRunSoftmax()
その他のリソースおよび法的通知
ザイリンクスリソース
Documentation Navigator およびデザインハブ
参考資料
お読みください: 重要な法的通知

Back to home page