On a DM368 board I switched to the new H.264 encoder version 2.20.00.05.
When the input image exceeds a width of 2048 I observe strange colored image output.
Attached you will find an example image and a parameter dump.
Is this an encoder bug?
Best regards
Frank
H.264 Configure: ### parameter ########################## parameter().videncParams.dataEndianness : 1 parameter().videncParams.encodingPreset : 1 parameter().videncParams.inputChromaFormat : 9 parameter().videncParams.inputContentType : 0 parameter().videncParams.maxBitRate : 20000000 parameter().videncParams.maxFrameRate : 58000 parameter().videncParams.maxHeight : 1920 parameter().videncParams.maxInterFrameInterval : 1 parameter().videncParams.maxWidth : 2080 parameter().videncParams.rateControlPreset : 5 parameter().videncParams.reconChromaFormat : 9 parameter().videncParams.size : 124 parameter().profileIdc : 100 parameter().levelIdc : 40 parameter().Log2MaxFrameNumMinus4 : 0 parameter().ConstraintSetFlag : 0 parameter().entropyMode : 1 parameter().transform8x8FlagIntraFrame : 1 parameter().transform8x8FlagInterFrame : 0 parameter().enableVUIparams : 0 parameter().meAlgo : 0 parameter().seqScalingFlag : 1 parameter().encQuality : 2 parameter().enableARM926Tcm : 0 parameter().enableDDRbuff : 0 parameter().sliceMode : 0 parameter().numTemporalLayers : 0 parameter().svcSyntaxEnable : 0 parameter().EnableLongTermFrame : 0 parameter().outputDataMode : 1 parameter().sliceFormat : 0 ######################################## ### dynamic parameter ################### dynParameter().videncDynamicParams.size : 212 dynParameter().videncDynamicParams.inputHeight : 1920 dynParameter().videncDynamicParams.inputWidth : 2016 dynParameter().videncDynamicParams.refFrameRate : 10000 dynParameter().videncDynamicParams.targetFrameRate : 10000 dynParameter().videncDynamicParams.targetBitRate : 10000000 dynParameter().videncDynamicParams.intraFrameInterval : 0 dynParameter().videncDynamicParams.generateHeader : 0 dynParameter().videncDynamicParams.captureWidth : 2080 dynParameter().videncDynamicParams.forceFrame : -1 dynParameter().videncDynamicParams.interFrameInterval : 0 dynParameter().videncDynamicParams.mbDataFlag : 0 dynParameter().sliceSize : 0 dynParameter().airRate : 0 dynParameter().intraFrameQP : 28 dynParameter().interPFrameQP : 28 dynParameter().initQ : -1 dynParameter().rcQMax : 50 dynParameter().rcQMin : 16 dynParameter().rcQMaxI : 48 dynParameter().rcQMinI : 12 dynParameter().rcAlgo : 5 dynParameter().maxDelay : 500 dynParameter().aspectRatioX : 1 dynParameter().aspectRatioY : 1 dynParameter().lfDisableIdc : 0 dynParameter().enableBufSEI : 0 dynParameter().enablePicTimSEI : 0 dynParameter().perceptualRC : 1 dynParameter().idrFrameInterval : 4 dynParameter().mvSADoutFlag : 0 dynParameter().resetHDVICPeveryFrame : 2 dynParameter().enableROI : 0 dynParameter().metaDataGenerateConsume : 0 dynParameter().maxBitrateCVBR : 20000000 dynParameter().interlaceRefMode : 1 dynParameter().enableGDR : 0 dynParameter().GDRduration : 0 dynParameter().GDRinterval : 0 dynParameter().LongTermRefreshInterval : 0 dynParameter().UseLongTermFrame : 0 dynParameter().SetLongTermFrame : 0 dynParameter().VUI_Buffer : 3485716 dynParameter().CustomScaleMatrix_Buffer : 3485784 dynParameter().CVBRsensitivity : 0 dynParameter().CVBRminbitrate : 0 dynParameter().LBRmaxpicsize : 0 dynParameter().LBRminpicsize : 0 dynParameter().LBRskipcontrol : 0 dynParameter().maxHighCmpxIntCVBR : 0 dynParameter().disableMVDCostFactor : 0 dynParameter().putDataGetSpaceFxn : 0 dynParameter().dataSyncHandle : 0 ######################################## ### algBufInfo ######################### bufferInfo.minNumInBufs : 2 bufferInfo.minNumOutBufs : 2 [0] bufferInfo.minInBufSize[i] : 3993600 [0] bufferInfo.minOutBufSize[i] : 5806080 [1] bufferInfo.minInBufSize[i] : 1996800 [1] bufferInfo.minOutBufSize[i] : 800 [2] bufferInfo.minInBufSize[i] : 0 [2] bufferInfo.minOutBufSize[i] : 0 [3] bufferInfo.minInBufSize[i] : 0 [3] bufferInfo.minOutBufSize[i] : 0 [4] bufferInfo.minInBufSize[i] : 0 [4] bufferInfo.minOutBufSize[i] : 0 [5] bufferInfo.minInBufSize[i] : 0 [5] bufferInfo.minOutBufSize[i] : 0 [6] bufferInfo.minInBufSize[i] : 0 [6] bufferInfo.minOutBufSize[i] : 0 [7] bufferInfo.minInBufSize[i] : 0 [7] bufferInfo.minOutBufSize[i] : 0 [8] bufferInfo.minInBufSize[i] : 0 [8] bufferInfo.minOutBufSize[i] : 0 [9] bufferInfo.minInBufSize[i] : 0 [9] bufferInfo.minOutBufSize[i] : 0 [10] bufferInfo.minInBufSize[i] : 0 [10] bufferInfo.minOutBufSize[i] : 0 [11] bufferInfo.minInBufSize[i] : 0 [11] bufferInfo.minOutBufSize[i] : 0 [12] bufferInfo.minInBufSize[i] : 0 [12] bufferInfo.minOutBufSize[i] : 0 [13] bufferInfo.minInBufSize[i] : 0 [13] bufferInfo.minOutBufSize[i] : 0 [14] bufferInfo.minInBufSize[i] : 0 [14] bufferInfo.minOutBufSize[i] : 0 [15] bufferInfo.minInBufSize[i] : 0 [15] bufferInfo.minOutBufSize[i] : 0 ######################################## ### encStatus ########################## encStatus.videncStatus.extendedError : 8192 encStatus.videncStatus.data.bufSize : 0 encStatus.videncStatus.data.buf : 0 encStatus.videncStatus.data.accessMask : 0 ########################################
