1.一种SHVC视频编码模式快速选择的方法,其特征在于,包括以下步骤:判断当前编码单元的深度,在编码模式快速选择算法的流程中,对深度为0的编码单元将亮度分量在视频编码中产生的中间数据利用weka训练的决策树模型预测当前编码单元是否采用merge模式,若不采用merge模式,则用RJ检验对残差进行检验,判断是否采用merge模式,若不采用则继续对深度为0的编码单元进行Inter2Nx2N编码模式的预测;
对深度为0的编码单元进行Inter2Nx2N编码模式的预测时,将亮度分量在视频编码中产生的中间数据利用weka训练的决策树模型预测当前编码单元是否采用Inter2Nx2N模式,若不采用Inter2Nx2N模式,则用RJ检验对残差进行检验,判断是否采用Inter2Nx2N模式,若不采用则进入标准编码算法的流程;
在编码模式快速选择算法的流程中,对深度为1或2的编码单元,判断当前深度编码单元的父块模式是否为merge模式,若为merge模式则将当前深度编码单元的视频亮度分量产生的中间数据信息依次利用weka训练的四棵通过设置训练决策树的叶子结点最小实例数导致复杂度由低到高的决策树预测,每次用决策树预测后再结合RJ检验对残差进行检测,若在其中一次的预测中判断采用merge模式或者RJ检验对残差进行检测判断采用merge模式,则采用merge模式并跳过其他决策树的预测,否则继续进行Inter2Nx2N模式预测;
在进行Inter2Nx2N模式预测时,判断当前深度编码单元的父块模式是否为Inter2Nx2N模式,若为Inter2Nx2N模式则将当前深度编码单元的视频亮度分量产生的中间数据信息利用weka分别训练的三棵决策树进行预测,这三棵决策树是利用当前编码单元的残差、纹理信息、运动矢量训练得到,若三棵决策树的预测结果都判定不采用Inter2Nx2N模式编码,再用第四棵利用当前编码单元的残差信息、运动矢量、纹理信息和父块merge模式标签、率失真值综合进行训练的决策树进行预测,若第四棵决策树预测采用Inter2Nx2N模式,则采用Inter2Nx2N模式,否则进入标准编码算法的流程;
在编码模式快速选择算法的流程中,对于深度为3的编码单元,选择merge模式作为编码模式进行编码。
2.根据权利要求1所述的一种SHVC视频编码模式快速选择的方法,其特征在于,用RJ检验对残差进行检验时,若R统计量小于R统计量的临界值cv(n)时,则判断RJ检验通过,R统计量表示为:
其中,bi为编码单元中在编码过程中产生的预测块和原始块之间的第i个残差满足正态分布的分位数; 是为了判断是否服从高斯分布拟合设置的参数,其值为0;yi为原始块和预测块第i个像素点产生的残差值; 为当前深度编码单元产生的残差的均值;n为编码单元中预测块和原始块的残差数据个数。
3.根据权利要求2所述的一种SHVC视频编码模式快速选择的方法,其特征在于,计算R统计量的临界值cv(n)时,将RJ检验根据置信水平和编码单元中预测块和原始块的残差个数n代入临界值公式求得的临界值,将在三种置信水平下临界值的最小值作为临界值cv(n),三种置信水平下临界值包括:
其中,α表示残差总体落在某一区间内可能错误的概率。
4.根据权利要求2所述的一种SHVC视频编码模式快速选择的方法,其特征在于,编码单元中在编码过程中产生的预测块和原始块之间的第i个残差满足正态分布的分位数bi的获取过程包括:
将残差数据按从小到大排序,计算残差分布的累积概率pi;
计算残差的秩,即如果有k个相同的数,则其秩为k个秩之和除以k;
计算残差分布的累积概率pi后分别计算单个残差数据服从高斯分布的分位数bi,bi=‑1 ‑1
Φ (pi),Φ ()表示计算函数的反函数值。
5.一种SHVC视频编码模式快速选择装置,其特征在于,所述装置包括编码单元深度判断模块、深度0的merge模式编码单元、深度0的merge模式RJ检验单元、深度0的Inter2Nx2N模式编码单元、深度0的Inter2Nx2N模式RJ检验单元、第一多merge模式决策树预测模块、第一RJ检验单元、第二多merge模式决策树预测模块、第二RJ检验单元、第三多merge模式决策树预测模块、第三RJ检验单元、第四多merge模式决策树预测模块、第四RJ检验单元、第一Inter2Nx2N模式决策树预测模块、第二Inter2Nx2N模式决策树预测模块、第三Inter2Nx2N模式决策树预测模块、第四Inter2Nx2N模式决策树预测模块、Inter2Nx2N模式投票模块、merge模式编码单元和Inter2Nx2N模式编码单元;其中:编码单元深度判断模块,用于判断编码单元的深度,将深度为0的编码单元输入深度0的merge模式编码单元,将深度为1或2的编码单元输入第一多决策树模型预测模块,将深度为3的编码单元输入merge模式编码单元进行编码;
深度0的merge模式编码单元,用于根据将亮度分量在视频编码中产生的中间数据利用weka训练的决策树模型预测深度为0编码单元是否采用merge模式,若采用则进入merge模式编码单元,否则输入深度0的merge模式RJ检验单元;
深度0的merge模式RJ检验单元,用于对输入的数据进行RJ检验,若通过该检验,则进入merge模式编码单元,否则输入深度0的Inter2Nx2N模式编码单元;
深度0的Inter2Nx2N模式编码单元,用于根据将亮度分量在视频编码中产生的中间数据利用weka训练的决策树模型预测深度为0编码单元是否采用Inter2Nx2N模式,若采用则进入Inter2Nx2N模式编码单元,否则输入深度0的Inter2Nx2N模式RJ检验单元;
深度0的Inter2Nx2N模式RJ检验单元,用于对输入的数据进行RJ检验,若通过该检验,则进入Inter2Nx2N模式编码单元,否则进入标准算法编码模块;
第一多merge模式决策树预测模块,用于根据将亮度分量在视频编码中产生的中间数据利用weka训练的决策树模型预测当前深度编码单元是否采用merge模式,若采用则进入merge模式编码单元,否则输入第一RJ检验单元;
第一RJ检验单元,用于对输入的数据进行RJ检验,若通过该检验则判断采用merge模式编码,否则将编码单元输入第二多merge模式决策树预测单元中;
第二多merge模式决策树预测模块,用于根据将亮度分量在视频编码中产生的中间数据利用weka训练的决策树模型预测当前深度编码单元是否采用merge模式,若采用则进入merge模式编码单元,否则输入第二RJ检验单元;
第二RJ检验单元,用于对输入的数据进行RJ检验,若通过该检验则判断采用merge模式编码,否则将编码单元输入第三多merge模式决策树预测单元中;
第三多merge模式决策树预测模块,用于根据将亮度分量在视频编码中产生的中间数据利用weka训练的决策树模型预测当前深度编码单元是否采用merge模式,若采用则进入merge模式编码单元,否则输入第三RJ检验单元;
第三RJ检验单元,用于对输入的数据进行RJ检验,若通过该检验则判断采用merge模式编码,否则将编码单元输入第四多merge模式决策树预测模块中;
第四多merge模式决策树预测模块,用于根据将亮度分量在视频编码中产生的中间数据利用weka训练的决策树模型预测当前深度编码单元是否采用merge模式,若采用则进入merge模式编码单元,否则输入第四RJ检验单元;
第四RJ检验单元,用于对输入的数据进行RJ检验,若通过该检验则判断采用merge模式编码,否则进入标准算法流程;
第一多merge模式决策树预测模块、第二多merge模式决策树预测模块、第三多merge模式决策树预测模块和第四多merge模式决策树预测模块包括四个复杂度从低到高的决策树,这四棵复杂度从低到高的决策树分别由当前编码单元的残差、纹理信息、率失真值共同训练,依照复杂度从低到高的顺序依次对当前编码单元进行预测,当预测当前编码单元不采用merge模式则调用RJ检验单元对编码模块的残差进行检测,当通过检测则跳过其他决策树,并将该编码单元输入merge模式编码单元;
第一Inter2Nx2N模式决策树预测模块,用于根据将亮度分量在视频编码中产生的中间数据利用weka训练的决策树模型预测当前深度编码单元是否采用Inter2Nx2N模式,若采用则进入Inter2Nx2N模式投票模块,否则进入第四Inter2Nx2N模式决策树预测模块;
第二Inter2Nx2N模式决策树预测模块,用于根据将亮度分量在视频编码中产生的中间数据利用weka训练的决策树模型预测当前深度编码单元是否采用Inter2Nx2N模式,若采用则进入Inter2Nx2N模式投票模块,否则进入第四Inter2Nx2N模式决策树预测模块;
第三Inter2Nx2N模式决策树预测模块,用于根据将亮度分量在视频编码中产生的中间数据利用weka训练的决策树模型预测当前深度编码单元是否采用Inter2Nx2N模式,若采用则进入Inter2Nx2N模式投票模块,否则进入第四Inter2Nx2N模式决策树预测模块;
第四Inter2Nx2N模式决策树预测模块,用于根据将亮度分量在视频编码中产生的中间数据利用weka训练的决策树模型预测当前深度编码单元是否采用Inter2Nx2N模式,若采用则进入Inter2Nx2N模式编码单元,否则进入标准算法编码模块;
Inter2Nx2N模式投票模块,用于处理深度为1或2、父块模式为Inter2Nx2N模式且经过第一Inter2Nx2N模式决策树预测模块的编码单元、第二Inter2Nx2N模式决策树预测模块、第三Inter2Nx2N模式决策树预测模块并不都判断为Inter2Nx2N编码模式的编码单元,并将该判断结果输入Inter2Nx2N模式编码单元,若采用则进入Inter2Nx2N模式编码单元,否则进入标准算法编码模块;
第一Inter2Nx2N模式决策树预测模块、第二Inter2Nx2N模式决策树预测模块、第三Inter2Nx2N模式决策树预测模块、第四Inter2Nx2N模式决策树预测模块包括四棵决策树,这四棵决策树的前三棵由当前编码单元的残差、纹理信息、运动矢量这三个部分的数据分别进行训练,第四棵由当前编码单元的残差、纹理信息、运动矢量、率失真值这四个部分的数据综合进行训练,先用前3棵依次对当前编码单元进行预测,若均预测采用Inter2Nx2N模式编码则输入Inter2Nx2N模式编码单元,否则再用第四棵由当前编码单元的残差、纹理信息、运动矢量、率失真值这四个部分的数据综合进行训练的决策树进行预测Inter2Nx2N模式编码单元,若第四棵决策树预测采用Inter2Nx2N模式,则输入Inter2Nx2N模式编码单元,否则进入标准算法流程;
merge模式编码单元,用于对编码单元根据merge模式进行编码;Inter2Nx2N模式编码单元,用于对编码单元根据Inter2Nx2N模式进行编码。
6.根据权利要求5所述的一种SHVC视频编码模式快速选择装置,其特征在于,RJ检验单元用RJ检验对残差进行检验时,若R统计量小于R统计量的临界值cv(n)时,则判断RJ检验通过,R统计量表示为:
其中,bi为编码单元中在编码过程中产生的预测块和原始块之间的第i个残差满足正态分布的分位数; 是为了判断是否服从高斯分布拟合设置的参数,其值为0;yi为原始块和预测块第i个像素点产生的残差值; 为当前深度编码单元产生的残差的均值;n为编码单元中预测块和原始块的残差数据个数。
7.根据权利要求6所述的一种SHVC视频编码模式快速选择装置,其特征在于,计算R统计量的临界值cv(n)时,将RJ检验根据置信水平α和编码单元中预测块和原始块的残差个数n代入临界值公式求得的临界值,临界值cv(n)表示为:其中,α为残差总体落在某一区间内可能错误的概率,具体值的选取需要进行测试决定。
8.根据权利要求6所述的一种SHVC视频编码模式快速选择装置,其特征在于,编码单元中在编码过程中产生的预测块和原始块之间的第i个残差满足正态分布的分位数bi的获取过程包括:
将残差数据按从小到大排序,计算残差分布的累积概率pi;
计算残差的秩,即如果有k个相同的数,则其秩为k个秩之和除以k;
计算残差分布的累积概率pi后分别计算单个残差数据服从高斯分布的分位数bi,bi=‑1 ‑1
Φ (pi),Φ ()表示计算函数的反函数值。