AI エンジン ML カーネルおよびグラフプログラミングガイド (UG1603) - 2024.1 日本語

Document ID: UG1603
Release Date: 2024-06-06
Version: 2024.1 日本語

概要
この資料に関連する設計プロセス
AI エンジン ML アーキテクチャの概略図
AI エンジン ML メモリ
ツール
シングルカーネルのプログラミング
AI エンジン API
カーネルプラグマ
カーネルコンパイラ
カーネルのシミュレーション
カーネルの入力および出力
スカラーおよびベクタープログラミングの概要
AI エンジン API の概要
AI エンジン ML データ型
ベクターレジスタ
アキュムレータレジスタ
丸めモードおよび飽和モード
キャストおよびデータ型変換
ベクターの初期化、読み込み、および保存
アライメント
初期化
ロードおよびストア
バッファーインターフェイスからのロードおよびストア
ポインターを使用したロードおよびストア
ストリームを使用したロードおよびストア
仮想リソースアノテーションを使用したロードおよびストア
AI エンジンカーネルでの多次元配列アドレッシング
ベクター算術演算
前乗算演算
ベクターリダクション
ビット単位の演算
データの比較
データの再形成
反復子
演算子のオーバーロード
浮動小数点演算
浮動小数点精度
複数レーンの乗算
スライディング乗算
マルチチャネルスライディング乗算
accumulate
行列乗算 - mmul
疎行列乗算
ルックアップテーブルと線形近似
並列ルックアップテーブル
線形近似
API 演算の例
カーネルの最適化
ループ
ループのフラット化および展開
ループのソフトウェアパイプライン処理
セパレーターのスケジューリング
restrict キーワード
インラインキーワード
カーネルコードのプロファイリング
Vitis Unified IDE およびレポートの使用
AI エンジン API を使用するサンプルデザイン
行列乗算
ベクター化された行列乗算
AI エンジン ML メモリタイルでのデータの並べ替え
グラフプログラミングの概要
カーネルの準備
カーネルを含むデータフローグラフの作成
ランタイム比
推奨されるプロジェクトディレクトリ構造
コマンドラインからのグラフのコンパイルおよび実行
メモリおよび DMA プログラミング
AI エンジン ML ローカルメモリアクセス
AI エンジン ML メモリタイルのアクセス
AI エンジン ML 外部メモリアクセス
タイリングパラメーターとバッファーディスクリプター
タイリングパラメーターの仕様
タイリングパラメーターの例
タイリングパラメーターを使用した 2 次元行列の転置
Vitis IDE でのタイリングパラメーターの表示
複数レベルの AI エンジン ML データアクセス
メモリおよび DMA プログラミングの例
1 MB までの共有バッファーの使用
メモリタイルパケットの複数デスティネーションへの分割
メモリタイルへの決定的結合
S2MM DMA フィニッシュオン TLAST
入力および出力バッファー
バッファーポートベースのアクセス
バッファーポートの属性と API
データアクセスのメカニズム
同期バッファーポートのアクセス
同期バッファーポートとマージンの設定
バッファーポートのマルチキャスト
マルチレート処理のバッファーポート接続
非同期バッファーポートアクセス
バッファーポートのデータ型
バッファーポートからデータへのアクセス
バッファーポートの反復子
スカラー反復子
ベクター反復子
例
バッファーポートのリニアアドレッシングとサーキュラーアドレッシング
循環入力バッファー
循環出力バッファー
非同期循環バッファー
カーネルのバッファーポート操作
現在の読み出し/書き込み位置の前方移動
現在の読み出し/書き込み位置の後方移動
ストリーミングデータ API
データアクセスのメカニズム
ストリームベースアクセス
カーネルのストリーム操作
ストリームデータ型とカスケードデータ型
入力ストリームの実行および前進
出力ストリームの書き込みおよび前進
パケットストリームの操作
パケットストリームの読み出しと書き込み
パケット処理
インターフェイスに関する考慮事項
AI エンジン間のデータ移動
AI エンジンデータメモリを使用したデータ通信
メモリおよび DMA を介したデータ通信
メモリタイルを介したデータ通信
AXI4-Stream インターコネクトを使用したデータ通信
データ通信におけるバッファーとストリームの違い
フリーランニング AI エンジンカーネル
ランタイムパラメーターの指定
AI エンジンと PL カーネル間のデータ移動
GMIO を介した DDR メモリアクセス
ランタイムグラフ制御 API
グラフの実行制御
グラフの基本的な反復実行
グラフの有限実行
グラフの無限実行
グラフの並列実行
タイミング調整された実行
ランタイムパラメーターの指定
ランタイムデータパラメーターの指定
ランタイムパラメーターのアップデート/読み出しメカニズム
グラフ API を使用したパラメーターのアップデート/読み出し
制御パラメーターを使用したランタイムグラフのリコンフィギュレーション
ランタイムパラメーターサポートの概要
特殊なグラフコンストラクト
ルックアップテーブル
スタティックファイルスコープテーブル
グローバルグラフスコープのテーブル
共有グラフのテーブル
FIFO 深さ
ストリームスイッチ FIFO
カーネルのバイパス
明示的パケットスイッチング
パケットスイッチンググラフ構文
パケットスイッチングおよび aiesimulator
ロケーション制約
カーネルのロケーション制約
バッファーのロケーション制約
共有バッファーのロケーション制約
FIFO のロケーション制約
エリアロケーション制約
階層制約
相対的制約
バッファー割り当ての制御
C++ カーネルクラスサポート
C++ テンプレートサポート
マルチキャストサポート
AI エンジン ML/プログラマブルロジックの統合
RTL プログラマブルロジックを使用したデザインフロー
プログラマブルロジックと通信するグラフの設計に関する考慮事項
PL インターフェイスタイルの機能
AI エンジンと PL のレートマッチング
AI エンジン ML - PL インターフェイスのパフォーマンス
グラフのプログラミングモデル
グラフトポロジ
概要
シングルカーネルグラフ
複数のサブグラフのリンク
階層的グラフ
再帰グラフ
ライブラリコンポーネントを使用するグラフ
プログラミングモデルの機能
input_plio/output_plio の設定
input_gmio/output_gmio の設定
AI エンジン ML と DDR メモリ間接続のプログラミングモデル
ハードウェアエミュレーションおよびハードウェアフロー
AI エンジン/PL と AI エンジン/NoC インターフェイスのパフォーマンス比較
AI エンジンと AI エンジン ML 間のグラフプログラミングの比較
ツールとフロー
AI エンジングラフアプリケーションのコンパイル
AI エンジングラフアプリケーションのシミュレーション
シミュレーション中の AI エンジングラフアプリケーションのパフォーマンス解析
ハードウェアでの AI エンジングラフアプリケーションのパフォーマンス解析
PS ホストアプリケーションのプログラミング
Vitis ツールフローを使用したアプリケーションの統合
Vitis IDE の使用
AI エンジンアプリケーションのデバッグ
マップ/配線手法
適応型データフローグラフ仕様のリファレンス
戻りコード
グラフオブジェクト
グラフ
kernel
port<T>
parameter
bypass
パケット処理用のグラフオブジェクト
入力/出力オブジェクト
input_gmio/output_gmio および external_buffer
input_plio/output_plio
接続
接続コンストラクターテンプレート
ポートの組み合わせ
制約
constraint<T>
constraint< std::vector<T>>
マップ制約
その他の制約
JSON 制約
ノード制約
制約
シム制約
予約済みメモリ制約
コロケーションノード制約
同じ場所に配置されないノード制約
コロケーション予約済みメモリ制約
同じ場所に配置されない予約済みメモリ制約
相対的制約
ポート制約
バッファー制約
共有バッファーの制約
コロケーションノード制約
非コロケーションノード制約
コロケーションポート制約
非コロケーションポート制約
排他的に同じ場所に配置されるポート制約
コロケーション予約済みメモリ制約
非コロケーション予約済みメモリ制約
FIFO 制約
グローバル制約
エリアグループ制約
isomorphicGraphGroup 制約
AI エンジンカーネルでの restrict キーワードの使用
ポインターエイリアシング
厳密なエイリアシング規則
restrict キーワード
restrict 修飾子
未定義の動作
インライン関数での restrict キーワードの適用範囲
読み出し/変更/書き込みループに restrict キーワードを使用する利点
派生ポインター
概要
その他のリソースおよび法的通知
その他の資料
サポートリソース
参考資料
改訂履歴
お読みください: 重要な法的通知

Back to home page