1.一种HEVC帧内预测模式快速选择方法,其特征在于,所述的选择方法包括以下步骤:
(1)输入一个待估计PU,建立实际可用的帧内预测模式集合:
根据待估计PU已存在空间相邻的重建像素和每个HEVC帧内预测模式需要的空间相邻重建像素,为待估计PU选取所有实际可用的帧内预测模式,组成集合Ω;
(2)计算待估计PU中的所有像素与其不同方向的空间相邻像素的差值绝对值和:
当Ω中存在编号为18的角度预测模式,即待估计PU可以采用沿对角线往右下方向进行预测的角度预测模式,则计算待估计PU中所有像素与其左上方相邻像素的差值绝对值和SADLU,如式(1)所示:式(1)中,待估计PU的尺寸为N×N(N=4,8,16,32,64),p(x,y)为待估计PU中坐标为(x,y)的像素的像素值,其中x为水平坐标,y为竖直坐标,在待估计PU中它们的值为大于等于0且小于N的整数,坐标为(x-1,y-1)的像素位于坐标为(x,y)的像素的左上方;
当Ω中存在编号为26的角度预测模式,即待估计PU可以采用竖直向下方向进行预测的角度预测模式,则计算待估计PU中所有像素与其上方相邻像素的差值绝对值和SADU,如式(2)所示:式(2)中,待估计PU的尺寸为N×N(N=4,8,16,32,64),p(x,y)为待估计PU中坐标为(x,y)的像素的像素值,其中x为水平坐标,y为竖直坐标,在待估计PU中它们的值为大于等于0且小于N的整数,坐标为(x,y-1)的像素位于坐标为(x,y)的像素的正上方;
当Ω中存在编号为34的角度预测模式,即待估计PU可以采用沿对角线左下方向进行预测的角度预测模式,则计算待估计PU中所有像素与其右上方相邻像素的差值绝对值和SADRU,如式(3)所示:式(3)中,待估计PU的尺寸为N×N(N=4,8,16,32,64),p(x,y)为待估计PU中坐标为(x,y)的像素的像素值,其中x为水平坐标,y为竖直坐标,在待估计PU中它们的值为大于等于0且小于N的整数,坐标为(x+1,y-1)的像素位于坐标为(x,y)的像素的右上方;
当Ω中存在编号为10的角度预测模式,即待估计PU可以采用水平向右方向进行预测的角度预测模式,则计算待估计PU中所有像素与其左方相邻像素的差值绝对值和SADL,如式(4)所示:式(4)中,待估计PU的尺寸为N×N(N=4,8,16,32,64),p(x,y)为待估计PU中坐标为(x,y)的像素的像素值,其中x为水平坐标,y为竖直坐标,在待估计PU中它们的值为大于等于0且小于N的整数,坐标为(x-1,y)的像素位于坐标为(x,y)的像素的左方;
当Ω中存在编号为2的角度预测模式,即待估计PU可以采用沿对角线右上方向进行预测的角度预测模式,则计算待估计PU中所有像素与其左下方相邻像素的差值绝对值和SADLB,如式(5)所示:式(5)中,待估计PU的尺寸为N×N(N=4,8,16,32,64),p(x,y)为待估计PU中坐标为(x,y)的像素的像素值,其中x为水平坐标,y为竖直坐标,在待估计PU中它们的值为大于等于0且小于N的整数,坐标为(x-1,y+1)的像素位于坐标为(x,y)的像素的左下方;
(3)根据不同方向空间相邻像素的差值绝对值和判断待估计PU的纹理方向特性:
首先根据从步骤(2)计算得到的差值绝对值和SAD个数进行步骤选择:如果步骤(2)计算得到SAD个数小于3,则执行步骤(5);否则先对步骤(2)计算得到的SAD进行从小到大排列,对待估计PU的纹理方向特性进行分类;
(4)根据纹理方向特性确定粗级模式搜索范围;
(5)根据粗级模式搜索范围和Ω建立率失真优化候选模式集合;
(6)选取最佳帧内预测模式:
采用率失真优化技术从步骤(5)得到的候选模式集合中选取率失真代价最小的候选模式作为待估计PU的最佳帧内预测模式,完成待估计PU的帧内预测模式选择。
2.如权利要求1所述的一种HEVC帧内预测模式快速选择方法,其特征在于,所述的步骤(3)中,设前三个最小的SAD依次为SADMIN-0、SADMIN-1和SADMIN-2,再根据这三个最小的SAD,对待估计PU的纹理特征进行分类,如式(6)所示:式(6)中,Class表示待估计PU的纹理类别,值为0表示待估计PU的纹理比较平坦,值为1表示待估计PU的纹理呈现较明显的水平、竖直或对角线方向,值为2表示待估计PU的纹理呈现其它角度方向,值为3表示待估计PU的纹理复杂,参数α、β和γ用于调节SADMIN-i(i=0,1,
2)之间的关系,其中α设为0.9~1.0,β和γ设为0.6~1.0;
接着由式(6)计算得到的PU纹理类别Class以及SAD关系,得到待估计PU纹理方向特性,如表1所示,表1待估计PU纹理方向特性
其中0度方向是指沿水平向右方向,π/2方向是指沿竖直向下方向,π/4方向是指沿右下
45度方向,-π/4方向是指沿右上45度方向,3π/4方向是指沿左下45度方向。
3.如权利要求1所述的一种HEVC帧内预测模式快速选择方法,其特征在于,所述步骤(4)中,根据步骤(3)得到的待估计PU的纹理方向特性,减少候选的预测模式种类,调整后的预测模式组成粗级模式搜索范围S,如下表2所示,表2 S中的预测模式
其中S中的预测模式是根据待估计PU的纹理方向特性来设置。
4.如权利要求1所述的一种HEVC帧内预测模式快速选择方法,其特征在于步骤(5)中,首先确定SATD代价模式搜索范围Ψ:如果从步骤(4)执行到当前步骤,则Ψ为步骤(4)得到的粗级模式搜索范围S与步骤(1)得到Ω的交集,如果从步骤(3)执行到当前步骤,则直接将Ω赋给Ψ;然后计算Ψ中各个预测模式的HEVC帧内预测残差,再计算预测残差的SATD代价;
接着按照SATD代价J从小到大的顺序对各个预测模式进行排序,再根据排序后的预测模式建立率失真优化候选模式集合Φ:当排列在第1位的预测模式为DC模式或Planar模式,则只将排列前1位的预测模式加入Φ;当排列在第1位的预测模式为角度模式且第2位的预测模式为DC模式或Planar模式,则只将排列前2位的预测模式加入Φ;当排列在前2位的预测模式为相邻的角度模式,则只将排列前2位的预测模式加入Φ;当排列在前2位的预测模式为不相邻的角度模式,则先将排列前2位的预测模式加入Φ,再将该2种预测模式相邻的角度模式加入Φ;在其它情况下,对于尺寸为16×16、32×32和64×64的待估计PU,则将排列前3位的预测模式加入Φ,对于尺寸为4×4和8×8的待估计PU,则将排列前8位的预测模式加入Φ。