Vitis AI 编译器 - 3.5 简体中文

Vitis AI 用户指南 (UG1414)

Document ID
UG1414
Release Date
2023-09-28
Version
3.5 简体中文

AMD Vitis™ AI 编译器 (VAI_C) 是一系列编译器的统一接口,用于最优化各种深度学习处理单元 (DPU) 的神经网络计算。每个编译器都能将单个网络模型映射到单一高度优化的 DPU 指令序列。

下图显示了 VAI_C 框架的简单描述。对经过最优化和量化的输入模型的拓扑结构进行解析后,VAI_C 会构建内部计算图作为中间表示形式 (IR),从而将其作为对应的控制流和数据流表示法。随后,它会执行多次最优化,例如,计算节点融合(例如,将批次归一化融合到主卷积)、通过利用固有并行度来保障有效的指令调度或者利用数据复用等。

图 1. Vitis AI 编译器框架

Vitis AI 编译器基于 DPU 微架构生成编译模型。Vitis AI 针对不同平台和应用支持多种 DPU。

表 1. 不同硬件平台上的 DPU
DPU 名称 硬件平台
DPUCZDX8G AMD Zynq™ UltraScale+™ MPSoC
DPUCVDX8G AMD Versal™ 自适应 SoC VCK190 评估板,Versal AI Core 系列
DPUCVDX8H Versal 自适应 SoC VCK5000 评估套件
DPUCV2DX8G Versal 自适应 SoC VEK280 评估板,Versal AI Edge 系列,Versal 自适应 SoC V70 评估套件,Alveo V70 加速器卡