A low complexity rate distortion optimization algorithm for H.264/AVC using coding characteristic of macroblock
运用H.264/AVC宏块编码特征的低复杂度率失真优化算法

分析H.264/AVC各帧间编码模式与最佳模式编码同一宏块（MB）时在比特率、参考帧选择及CBP（coded block pattern）上具有的相似性，对MB各最佳编码模式的比特率和CBP分布进行了统计，根据统计结果分析出比特率和CBP相结合能对编码模式进行比较准确的区分定位。并由此提出一种联合参考帧选择和模式选择的低复杂度RDO（rate distortion optimization）算法。算法利用P16×16模式编码得到的比特率和CBP来确定候选编码模式，用P16×16模式的参考帧来确定其余帧间模式的参考帧。最后将候选模式在候选参考帧中进行运动估计和编码模式的RDO，选出最佳编码模式。实验结果表明，提出算法与H.264/AVC参考软件JM12.0相比，平均比特率增加1.32%、 亮度PSNR减小0.0752dB，编码时间减少71.20%。