Lambda File Format - Lambda File Format - 3.0 English - PG447

H.264/H.265/JPEG Video Codec Unit 2 (VCU2) Solutions LogiCORE IP Product Guide (PG447)

Document ID
PG447
Release Date
2026-03-06
Version
3.0 English
[SETTINGS]
LambdaCtrlMode = LOAD_LAMBDA
# Lambdas.hex must be in working directory

Each line of Lambda.hex contains the lambda factors for a QP values. 52 lines are needed for QPs in range [0..51].

Each line contains: < λ motion estimation> < λ slice B> < λ slice P> < λ slice I>

Usually, the lambdas factors follow the equation: Qp = N*2(( Qp /6) 2), with N different for I, P and B factors. For example:

0x01 0x01 0x01 0x01
0x01 0x01 0x01 0x01
0x01 0x01 0x01 0x01
0x01 0x01 0x01 0x01
0x01 0x01 0x01 0x01
0x01 0x01 0x01 0x01
0x01 0x01 0x01 0x01
0x01 0x01 0x01 0x01
0x01 0x01 0x01 0x01
0x01 0x01 0x01 0x01
0x01 0x01 0x01 0x01
0x01 0x01 0x01 0x01
0x01 0x01 0x01 0x01
0x01 0x01 0x01 0x01
0x01 0x01 0x01 0x01
0x01 0x01 0x01 0x01
0x01 0x01 0x01 0x01
0x01 0x02 0x01 0x01
0x02 0x02 0x02 0x02
0x02 0x02 0x02 0x02
0x02 0x02 0x02 0x02
0x02 0x02 0x02 0x02
0x02 0x02 0x02 0x03
0x02 0x03 0x02 0x03
0x03 0x03 0x03 0x03
0x03 0x03 0x03 0x04
0x03 0x03 0x02 0x04
0x03 0x04 0x03 0x04
0x04 0x04 0x04 0x05
0x04 0x05 0x04 0x06
0x05 0x05 0x05 0x06
0x05 0x06 0x05 0x07
0x06 0x06 0x06 0x08
0x06 0x07 0x06 0x09
0x07 0x08 0x07 0x0A
0x08 0x09 0x08 0x0B
0x09 0x0A 0x09 0x0D
0x0A 0x0B 0x0A 0x0E
0x0B 0x0C 0x0B 0x10
0x0D 0x0E 0x0D 0x12
0x0E 0x0F 0x0E 0x14
0x0F 0x11 0x0F 0x17
0x11 0x13 0x11 0x19
0x13 0x15 0x13 0x1D
0x15 0x18 0x15 0x20
0x18 0x1B 0x18 0x24
0x1B 0x1E 0x1B 0x28
0x1E 0x22 0x1E 0x2D
0x21 0x26 0x21 0x33
0x25 0x2A 0x25 0x39
0x2A 0x30 0x2A 0x40
0x2F 0x35 0x2F 0x48
0x35 0x3C 0x35 0x51
0x3B 0x43 0x3B 0x5B