HEVC帧内预测快速算法研究

摘 要：HEVC （High Efficiency Video Coding）于2010年由JCT-VC制定，并于2013年正式发布。相比H.264/AVC，在相同图像质量下HEVC相比AVC能得到更高的压缩率，但是同时也带来了编码工具复杂度的提升。以帧内预测为例，AVC帧内预测包括9种4x4和4种16x16共13种帧内预测。HEVC每一个预测单元存在35个预测方向。因此降低帧内预测算法的复杂度成为HEVC编码研究的热点。本文主要针对HEVC粗略模式选择（RMD，Rough Mode Decision）和率失真优化计算（RDO，Rate Distortion Optimization）过程中候选模式个数较多的问题进行研究与优化，在保证压缩率的前提下尽量减少计算量。

关键词：HEVC;帧内预测;模式选择

1.引言

方向预测（angular intra prediction）因其较低的实现复杂度以及相对高效的编码增益，成为多项国际视频标准（如H.264/AVC，VP9，AVS1，HEVC，VVC等）中的关键编码技术。HEVC作为新一代视频编码标准，具备更好的视频压缩性能、能够满足更多的应用场景。HEVC相比AVC能提升大约50%的压缩率[1]。但同时由于编码工具复杂度的提升也带来了算法实时性与算法计算量之间的巨大矛盾，特别是算法复杂度的提升，极大的提高了SOC设计的成本。在帧内预测方面，每个预测单元存在35个预测方向，且CU向下划分以后，每个CU又有35个预测方向，因此对整体计算量的优化有着迫切的需求。

HEVC的帧内预测从预测模式上包括了0～34一共35个预测模式。其中0表示Planar模式，1表示DC模式，2～34表示33个方向预测模式[2]。

HEVC的帧内预测的CU尺寸和个数可以简单的描述如下：一个64x64的CU，如果进行深度为四的划分的话，一共会形成4^0+4^1+4^2+4^3=85个CU，深度遍历四叉树的每个节点，对四叉树上每个节点的CU进行帧内预测，计算总量相当庞大。……