1.一种基于SHVC质量可伸缩帧间视频编码方法,其特征在于,包括:S1:获取当前编码单元的深度,并获取当前编码单元的相邻编码单元和父编码单元的模式信息;
S2:根据当前编码单元的相邻编码单元和父编码单元的模式信息采用贝叶斯公式计算当前编码单元采用各个模式的概率;编码单元采用的模式包括ILR模式和inter模式;计算当前编码单元采用各个模式的概率的公式为:其中,fd(cd)表示当前编码单元采用cd模式的可能性,cd表示当前编码单元的模式,p((nd,nr)|cd)表示给定当前CU使用模式cd的条件概率下相邻CU使用向量(nd,nr)的概率,nd表示相邻CU使用的模式,nr表示当前CU和相邻CU的相关性程度,p(pr|cd)表示当前CU使用模式cd的条件概率下父CU使用pr模式的概率,pr表示父CU使用的模式,p(cd)表示当前CU使用模式cd的概率,p(nd,nr)表示相关性程度为nr并且当前编码单元的相邻CU采用nd模式的概率,p(pr)表示父CU采用模式pr的概率;
其中,当前CU和相邻CU以及父CU的相关性的过程包括:基本层BL中的CU和增强层EL中同等位置的CU除量化参数QP不同之外的其他参数相同,则将EL中CUs的相关性程度设置为与BL中相同位置的CUs的相关程度相同;相邻CUs在深度上的绝对差异越小,其空间相关性越强,则设nbd为BL中CUBC的相邻CUs的模式;相邻CUs在模式上的最大绝对差为4,则将预测的模式分为四类,ILR记为模式0,merge记为模式1,2Nx2N记为模式2,Nx2N或者2NxN记为模式3,其他模式记为模式4;采用关联度向量公式计算相邻CU以及父CU的相关性;关联度向量公式为:nri=4‑|ndi‑nbdi|
其中,ndi和nbdi分别为深度级向量nd和nbd的第i个分量,nri表示第i个相邻编码单元和当前编码单元的模式关联度;
S3:根据不同模式的概率确定当前编码单元的编码模式;
S4:利用率失真值判断当前编码单元是否提前终止划分,若提前终止划分,则得到划分结果,若不提前终止划分,则进入下一个深度,并返回步骤S2;利用率失真值判断当前编码单元是否提前终止划分的过程包括:采用高斯混合模型拟合编码单元的率失真分布,计算该模型的最大期望聚类,根据最大期望聚类判断当前编码单元是否需要进一步划分。
2.根据权利要求1所述的一种基于SHVC质量可伸缩帧间视频编码方法,其特征在于,判断当前编码单元是否提前终止划分包括确定当前编码单元提前终止划分的条件,该条件包括ILR模式提前终止条件和inter模式提起终止条件;当满足提前终止条件时,则输出划分结果,若不满足条件时则继续划分。
3.根据权利要求2所述的一种基于SHVC质量可伸缩帧间视频编码方法,其特征在于,ILR模式提前终止条件的确定过程包括:步骤1:获取当前编码单元中增强层和基本层的量化系数ze和zb;根据量化系数ze和zb确定系统的最小系数值k2;
步骤2:根据当前编码单元中增强层的量化系数ze和最小系数值k2可得DCT变换系数以及量化步长之间关系公式如下:re≤Qesteprb/Qbstep+k2Qestep
其中,re为EL层DCT变化的系数,Qestep为EL层量化步长,rb表示,Qbstep表示,r表示DCT变换系数,diμ表示整数DCT变换矩阵在(i,μ)处的值,xμv表示残差矩阵在(μ,v)处的值;
步骤3:获取DCT整数变换矩阵A,根据DCT整数变换矩阵A得到diμ的最大值为1,则有:步骤4:根据re和|r|的表达式得到:
e b
其中,xμv和xμv分别是EL和BL中的残差系数, 为4x4残块的绝对差之和,则16x16残块的绝对差之和为:
步骤5:将SAD替换成RD,得到ILR模式提前终止的表达式为:
其中,ILRcost表示当前编码单元增强层率失真值,RDb表示当前编码单元基本层的率失真值;
步骤6:根据ILR模式提前终止的表达式判断当前编码单元是否进行ILR层间早期终止,并得到当前编码单元为ILR模式中不同模式的最佳k2。
4.根据权利要求2所述的一种基于SHVC质量可伸缩帧间视频编码方法,其特征在于,inter模式提起终止条件的确定过程包括:步骤1:获取当前编码单元中增强层以及相邻CU和基本层以及相邻CU的量化系数z1、z2和z3、z4;根据当前编码单元中增强层的量化系数确定inter模式下的最小系数值k3;
步骤2:根据确定的最小系数值k3得到:
|r1‑r2|≤Qestep|r3‑r4|/Qbstep+k3Qestep其中,r1、r2、r3、r4分别为z1、z2、z3、z4的DCT变换系数;
步骤3:根据|r|的表达式和步骤2中的表达式可得:
e b
其中,xμv和xμv分别是EL和BL中的残差系数, 为4x4残块的绝对差之和,则16x16残块的绝对差之和为:
SAD1‑SAD2≤Qestep(SAD3‑SAD4)/Qbstep+16k3Qestep其中,SAD1表示16x16宏块的增强层当前编码单元绝对差值之和,SAD2表示16x16宏块的增强层相邻编码单元绝对差值之和,SAD3表示16x16宏块的基本层当前编码单元绝对差值之和,SAD4表示16x16宏块的基本层相邻编码单元绝对差值之和;
步骤5:将SAD换成率失真值,得到inter模式提起终止条件表达式:RD1‑RD2≤Qestep(RD3‑RD4)/Qbstep+16k3Qestep其中,RD1表示增强层当前编码单元的率失真值,RD2表示增强层相邻编码单元的率失真值,RD3表示基本层当前编码单元的率失真值,RD4表示基本层相邻编码单元的率失真值;
步骤6:根据inter模式提前终止的表达式判断当前编码单元是否进行ILR层间早期终止,并得到当前编码单元为ILR模式中不同模式的最佳k3;
2Nx2N模式,Nx2N或者2NxN模式同理,找出每个部分k3的最佳值。
5.根据权利要求1所述的一种基于SHVC质量可伸缩帧间视频编码方法,其特征在于,判断当前编码单元是否需要进一步划分的过程包括:步骤1:设置初始编码单元终止划分和进一步划分的率失真期望向量和协方差矩阵分别为μ1,∑1和μ2,∑2;获取当前编码单元对应的高斯混合模型;
步骤2:计算高斯混合模型的似然函数;
步骤3:对似然函数进行求导;
步骤4:在对求导后的似然函数分别对πk,μk,∑k求导,并对令各个求导后的函数等于0,得到μk和∑k的表达式;μk和∑k的表达式为:其中,μk表示率失真期望向量(其中k=1表示终止划分的率失真期望向量,k=2时表示进一步划分的率失真期望向量),Nk表示第k类的样本总量(k=1表示终止划分的样本总量,k=2表示进一步划分样本的总量),γ(i,k)表示对于每个数据来说,它是由第k个部分生成的概率,∑k表示协方差矩阵(k=1表示终止划分的协方差矩阵,k=2表示进一步划分的协方差矩阵),xi表示率失真值,N表示要测试的全部编码单元的总量;
步骤5:根据μk和∑k的表达式得到
步骤6:根据设置的初始编码单元终止划分和进一步划分的率失真期望向量和协方差矩阵对公式μk、πk以及γ(i,k)进行迭代处理,直到该似然函数收敛为止;
步骤7:当似然函数收敛时获取当前编码单元终止划分和进一步划分的可能性;当终止划分的可能性大于设置的划分阈值时,结束整个过程,当终止划分的可能性小于设置的最小阈值时,则继续划分,直到编码单元编完为止。
6.根据权利要求5所述的一种基于SHVC质量可伸缩帧间视频编码方法,其特征在于,设置初始编码单元终止划分和进一步划分的率失真期望向量和协方差矩阵的公式为:其中,pix(i)为第i个终止划分编码单元的像素值,m为终止划分的编码单元的个数,average为期望也就是平均值,varience为方差。
7.根据权利要求5所述的一种基于SHVC质量可伸缩帧间视频编码方法,其特征在于,似然函数的表达式为:其中,N表示需要测试的样本总量,p(xi|π,μ,∑)表示高斯混合模型的表示形式,xi表示率失真值,π表示可能性,μ表示率失真期望向量,∑表示协方差矩阵,N(xi|μ1,∑1)表示终止细分或进一步细分的似然函数。