Function Approximation - 2024.2 English - XD160

Vitis Libraries

Document ID
XD160
Release Date
2024-11-29
Version
2024.2 English

The following table gives results for the Function Approximation with a wide variety of supported parameters, which are defined in: Function Approximation configuration parameters

func_approx_benchmark.csv

Table 94 Function Approximation benchmark
Library Element AIE_VARIANT TT_DATA TP_COARSE_BITS TP_FINE_BITS TP_DOMAIN_MODE TP_WINDOW_VSIZE STIM_TYPE CC_TOLERANCE NITER TP_FUNC_CHOICE Dynamic Power (W) Latency (ns) Throughput (MSa/s) NUM_BANKS NUM_AIE DATA_MEMORY PROGRAM_MEMORY
func_approx AIE float 8 7 2 512 0 0.1 8 0 1.037 3303 420 9 1 17931 2906
func_approx AIE int16 8 7 2 512 0 0.1 8 0 0.958 5504 271 9 1 9517 2776
func_approx AIE int32 8 7 2 512 0 0.1 8 0 0.995 3692 380 9 1 17675 2274
func_approx AIE float 8 7 2 512 0 0.1 8 1 1.007 3303 420 9 1 17931 2906
func_approx AIE int16 8 7 2 512 0 0.1 8 1 0.963 5504 271 9 1 9517 2776
func_approx AIE int32 8 7 2 512 0 0.1 8 1 0.997 3692 380 9 1 17675 2274
func_approx AIE float 8 7 1 512 0 0.1 8 2 1.009 3303 420 9 1 15883 2906
func_approx AIE int16 8 7 1 512 0 0.1 8 2 0.958 5502 271 9 1 8493 2776
func_approx AIE int32 8 7 1 512 0 0.1 8 2 1.019 3692 380 9 1 15627 2274
func_approx AIE float 8 7 0 512 0 0.1 8 3 1.036 3303 420 9 1 17931 2906
func_approx AIE int16 8 7 0 512 0 0.1 8 3 0.963 5501 272 9 1 9517 2760
func_approx AIE int32 8 7 0 512 0 0.1 8 3 1.019 3688 380 9 1 17675 2290
func_approx AIE float 8 7 1 512 0 0.1 8 4 1.037 3303 420 9 1 15883 2906
func_approx AIE int16 8 7 1 512 0 0.1 8 4 0.963 5500 271 9 1 8493 2760
func_approx AIE int32 8 7 1 512 0 0.1 8 4 0.996 3688 380 9 1 15627 2290
func_approx AIE-ML bfloat16 8 7 2 512 0 0.1 8 0 0.48 479 2509 8 1 13898 1664
func_approx AIE-ML float 8 7 2 512 0 0.1 8 0 0.493 21491 70 8 1 17962 2112
func_approx AIE-ML int16 8 7 2 512 0 0.1 8 0 0.487 529 2337 8 1 9555 1840
func_approx AIE-ML int32 8 7 2 512 0 0.1 8 0 0.488 3536 397 8 1 17687 2352
func_approx AIE-ML bfloat16 8 7 2 512 0 0.1 8 1 0.481 479 2509 8 1 13898 1664
func_approx AIE-ML float 8 7 2 512 0 0.1 8 1 0.493 21491 70 8 1 17962 2112
func_approx AIE-ML int16 8 7 2 512 0 0.1 8 1 0.487 529 2337 8 1 9555 1840
func_approx AIE-ML int32 8 7 2 512 0 0.1 8 1 0.488 3536 397 8 1 17687 2352
func_approx AIE-ML bfloat16 8 7 1 512 0 0.1 8 2 0.48 480 2509 8 1 9802 1664
func_approx AIE-ML float 8 7 1 512 0 0.1 8 2 0.493 21491 70 8 1 15914 2112
func_approx AIE-ML int16 8 7 1 512 0 0.1 8 2 0.487 529 2337 8 1 7507 1840
func_approx AIE-ML int32 8 7 1 512 0 0.1 8 2 0.486 4072 347 8 1 15639 2352
func_approx AIE-ML bfloat16 8 7 0 512 0 0.1 8 3 0.481 480 2509 8 1 13898 1664
func_approx AIE-ML float 8 7 0 512 0 0.1 8 3 0.493 21491 70 8 1 17962 2112
func_approx AIE-ML int16 8 7 0 512 0 0.1 8 3 0.485 529 2337 8 1 9555 1840
func_approx AIE-ML int32 8 7 0 512 0 0.1 8 3 0.488 3539 396 8 1 17687 2352
func_approx AIE-ML bfloat16 8 7 1 512 0 0.1 8 4 0.481 480 2509 8 1 9802 1664
func_approx AIE-ML float 8 7 1 512 0 0.1 8 4 0.493 21491 70 8 1 15914 2112
func_approx AIE-ML int16 8 7 1 512 0 0.1 8 4 0.487 529 2337 8 1 7507 1840
func_approx AIE-ML int32 8 7 1 512 0 0.1 8 4 0.486 4070 347 8 1 15639 2352