TCM模型的自适应硬判决量化算法

李瑞阳,殷海兵

(中国计量大学 信息工程学院,浙江 杭州 310018)

TCM模型的自适应硬判决量化算法

李瑞阳,殷海兵

(中国计量大学 信息工程学院,浙江 杭州 310018)

在视频编码中,DCT系数分布模型是率失真理论模型的基础,视频量化一般可分别为硬判决量化(HDQ)以及软判决量化(SDQ),SDQ算法能实现最优编码性能,但其中维特比算法会导致严重的系数间串行处理依赖.比较而言,基于死区(deadzone)的HDQ算法率失真性能略有损失,但是不考虑系数间的相关性.提出了一种基于分段逼近TCM模型(Transparent Composite Model)的自适应硬判决量化算法,采用更精确的DCT分布估计模型,估算不同频率分量DCT系数的分布参数.根据模型参数及DCT系数分布参数,优化构造自适应的死区偏移量模型.实验表明，相对于固定偏移量HDQ算法,其编码性能非常接近于SDQ算法.

视频编码;率失真优化;TCM模型;硬判决量化

在H.26x和MPEG-x等混合框架视频编码器中,量化算法很大程度上直接决定编码器的率失真性能.DCT系数分布模型是率失真理论模型的基础,目前,主流的DCT系数分布模型有基于拉普拉斯的模型、基于柯西分布的模型和基于广义高斯分布的模型等.实验结果表明,没有一种模型能够准确吻合所有图像的DCT系数分布.针对这个问题,本文采用TCM分布模型,把DCT系数分为两个部分,分别采用不同的模型进行估计,以提高DCT系数分布模型的准确度.

本文研究DCT系数在TCM分布模型下,模拟SDQ算法,在离线模式下,构建自适应死区偏移模型，提高硬判决量化……