部署 AI 引擎计算图 - 2023.2 简体中文

Vitis 统一软件平台文档 应用加速开发 (UG1393)

Document ID
UG1393
Release Date
2023-12-13
Version
2023.2 简体中文

Vitis 设计执行模型具有多个考量因素,这些因素会影响 AI 引擎计算图加载到开发板、运行、复位和重新加载的操作。根据应用需求,您可以选择在开发板启动时加载 AI 引擎计算图,或者也可以使用 PS 主机应用来加载。此外,您还可以在计算图完成加载后尽快运行或者也可以延后运行。您可以选择无限运行计算图,或者也可以按固定迭代次数或周期数来运行。

AI 引擎计算图加载和运行

AI 引擎计算图可在启动时立即加载并运行,或者也可由 PS 主机应用加载。此外,您还可以选择延后其运行,在计算图使用 graph.run() host API XRT 调用完成加载后再运行。

默认情况下,AMD 平台管理控制器 (PMC) 会加载来自 PDI 的计算图,加载后立即运行计算图。但 v++ --package.defer_aie_run 命令将允许您延后运行计算图,直至计算图在 PS 应用中使用 graph.run() API 调用完成计算图加载后再运行。下表中列出了部署选项。

表 1. 部署 AI 引擎计算图
永久运行 主机控制
默认情况下,在 PDI(器件二进制文件)中启用计算图,并且计算图会运行直至系统退出为止

封装系统时,指定 v++ --package.defer_aie_run 命令即可防止系统启动时启动 AI 引擎计算图应用。

请按需使用 graph.run() 从 PS 应用启用计算图

AI 引擎运行迭代

默认情况下,AI 引擎计算图应用会无限持续运行。但可将其设为按有限的迭代次数来运行。使用 graph.run(run_iterations)graph.end(cycles) 即可将计算图运行次数限制为特定迭代次数或特定时钟周期数。请参阅 AI 引擎内核与计算图编程指南(UG1079) 中的运行时计算图控制 API