CN101370138A - 一种h.264标准cavlc残差系数的解码方法 - Google Patents

Abstract

本发明公开了一种H.264上下文自适应编码残差系数的解码方法，包含以下步骤：首先根据设计的一种三维码表，解码非零系数的数目和拖尾系数数目的二元组；再解码拖尾系数的符号位；然后解码非拖尾的非零系数的幅值；最后解码最后一个非零系数前0的数目和每个非零系数前0的个数。其中的非零系数的数目和拖尾系数数目的二元组解码，根据三维码表，通过预取特定比特位数，至多进行一次比较就可以确定码字信息位长度，进而确定二元组内容。其中的非零系数的数目和拖尾系数数目的二元组解码和非拖尾的非零系数的幅值解码采用每次读取两个字节的方法取得前导0的个数。本方法可以有效提高CAVLC码流的解码速度。

Description

一种H.264标准CAVLC残差系数的解码方法

技术领域

本发明涉及视频及图像编解码的领域，特别涉及一种H.264的上下文自适应变长编码(CAVLC)残差系数的解码方法。

背景技术

最新国际视频编码标准H.264规定其熵编码可以采用CAVLC或者上下文自适应的算术编码(CABAC)，其中，CAVLC的效率比MPEG-1、MPEG-2标准中采用的变长编码提高许多，而计算复杂度比CABAC低了许多，在编码效率和复杂度之间取得了很好的折中，H.264协议标准特别推荐在面向视频监控、视频会议等基本层应用中采用该技术。这些应用要求码流实时解码，而在CAVLC中，对不同语法元素采用不同的解码方法：对宏块类型、运动矢量等采用直接或间接的指数哥伦布码进行解码，而残差系数的解码由于需要对编码中产生的所有码字逐一解析，比较复杂从而速度较低。码字具体包含非零系数的数目和拖尾系数数目的二元组coeff_token<TotalCoeff，TrailingOnes>、拖尾系数的符号位、非拖尾的非零系数的幅值、最后一个非零系数前0的数目和每个非零系数前0的个数。

残差系数解码时间主要消耗在非零系数的数目以及拖尾系数的数目的二元组的解码上，该码字的解码不仅需要进行码表切换，更主要的是受H.264协议标准提供的一维码表限制，在码字解析过程中，需要逐比特读入码字，每读入一个比特就要在码表中遍历，以判定已经读入的部分是否为一个有效码字，直到已经读入的比特串能够与码表中某个码字匹配为止，从而导致在解码过程中需要反复进行读操作和比较操作，效率很低。

对于非拖尾的非零系数的幅值解码，前导0的个数的确定也消耗了大量时间，因为只能逐比特判断是否为0，直到读到1为止。

鉴于以上问题，CAVLC算法自2003年确定采用之后，已经出现了一些实现方案。文献1(Hsiu-Cheng Chang，Chien-Chang Lin and Jiun-In Guo，“A Novel Low-Cost High-Performance VLSI Architecture for MPEG-4AVC/H.264CAVLC Decoding”，Proc.ISCAS 2005，pp.6110-6113，23-26 May2005)公开了CAVLC解码的VLSI(Very Large Scale Integration，超大规模集成)设计，文献2(Xing Qin，Xiaolang Yan，“A memory and Speed EfficientCAVLC Decoder”，Proc.VCIP 2005，pp.1418-1426，Jul.2005)公开了一个可编程的VLSI设计，文献3(清华大学申请的专利“一种基于上下文自适应变长解码的方法”，公开号200610041780.X)在此基础上提出了一种存储要求更低、速度更快的面向集成电路的CAVLC解码设计方法。以上各方法都是针对CAVLC的集成电路设计而提出的，依赖于集成电路设计这一平台，并不适用于通用CPU或者DSP等平台上的软件实现。文献4(韩国C&S技术有限公司申请的专利“用于快速上下文自适应可变长编码的H.264解码方法”，公开号200610002800.2)公开了一种三维码表，可用于CAVLC软件解码实现。然而，此方法无论内存开销，还是运算量都比较大，从而运算速度较慢，存在进一步优化的可能。

同时，以上文献都是针对早期版本的码表进行优化设计，在最新的H.264标准中，对原有码表进行调整，还特别增加了nC＝＝-2的码表。本发明针对新H.264协议标准制定的码表设计了CAVLC解码方法。

发明内容

本发明的目的对现有解码方法所存在运算量较大，运算速度较慢的问题予以改进，提供一种高效率的上下文自适应编码系数的可编程解码方法。

为实现上述目的，根据本发明的一个方面，提供了一种H.264标准CAVLC残差系数的解码方法，在对残差系数进行由高频向低频的Z字形扫描之后，对所有码字顺序逐一解析，包括下列步骤：

基于码表解码非零系数的数目和拖尾系数数目的二元组，其中码表包含前导0的个数、信息位长度和信息的三维；

解码拖尾系数的符号位；

解码非拖尾的非零系数的幅值；

解码最后一个非零系数前0的数目；

解码每个非零系数前0的个数。

根据本发明的另一方面，基于码表的非零系数的数目和拖尾系数数目的二元组解码进一步包含下列步骤：

根据上下文选择码表；

读取前导0的个数；

根据选择的码表和前导0的个数，读取信息位，确定非零系数的数目和拖尾系数数目的二元组信息。

根据本发明的再一方面，读取前导0个数进一步包含以下步骤：

读取2个字节码流；

在此2个字节码流中读取值为1的最高位数，则之前的位数即为前导0个数。

本发明的优点在于有效减少了读码流操作次数；有效减少了码表存储空间；有效减少了码字匹配次数，对于非零系数的数目以及拖尾系数的数目二元组至多进行一次匹配，大部分情况下不需要匹配就可确定码字，提高了码流的解码速度。

附图说明

以下，结合附图来详细说明本发明的实施例，其中：

图1残差系数编码采用的反向Z字形扫描。

图2nC与nA、nB的位置关系。

图3H.264协议标准中用于编码的码表。

图4指数哥伦布码码字构造方法。

图5用于非零系数的数目以及拖尾系数的数目二元组(0＝<nC<2)解码的码表。

图6用于非零系数的数目以及拖尾系数的数目二元组(2＝<nC<4)解码的码表。

图7用于非零系数的数目以及拖尾系数的数目二元组(4＝<nC<8)解码的码表。

图8用于非零系数的数目以及拖尾系数的数目二元组(8＝<nC)解码的码表。

图9用于非零系数的数目以及拖尾系数的数目二元组(nC＝＝-1)解码的码表。

图10用于非零系数的数目以及拖尾系数的数目二元组(nC＝＝-2)解码的码表。

图11非零系数的数目以及拖尾系数的数目二元组解码流程图。

图12另一个非零系数的数目以及拖尾系数的数目二元组解码流程图。

具体实施方式

基于H.264协议标准的上下文的自适应变长编码的残差系数解码过程是一个复杂的过程，在对残差系数进行由高频向低频的反向Z字形扫描(如图1所示)之后，对所有码字逐一解析。现有的解码方法通常包含如下步骤：

第一步：对非零系数的数目以及拖尾系数数目的二元组进行解码，其中，拖尾系数数目，具体是指由低频向高频扫描得到的一维系数矩阵中非0，绝对值为1的连续系数个数。拖尾系数数目最大为3，超过3个的±1系数视作普通系数，解码方式采用每个非零系数前0的个数解码的方式。具体解码步骤包含：

(1)根据上下文选择码表：非零系数的数目以及拖尾系数的数目二元组解码所使用码表的选择需要根据周围块残差系数的分布情况，取决于nC的取值。nC的具体计算步骤如下：如果是色度DC系数解码，则4:2:0格式时nC＝-1，4:2:2格式时nC＝-2，4:4:4格式时nC＝0；否则，nC根据上边块系数个数nA和左边块的系数个数nB来计算(nA、nB、nC位置关系如图2所示)：如果nA和nB都可用，则nC＝(nA+nB+1)/2；否则，如果nA可用，则nC＝nA，如果nB可用，则nC＝nA，否则nC＝0。非零系数的数目以及拖尾系数的数目二元组解码H.264标准码表如图3所示；

(2)逐比特位读取码流，直到已经读入的比特串能够与码表中某个码字匹配；取出这个码字对应的非零系数的数目和拖尾系数的数目内容。

第二步：对拖尾系数的符号位解码，每个符号解码1位，根据正负分别解码为0或1。

第三步：按照扫描顺序对非拖尾的非零系数的幅值使用映射的指数哥伦布码解码，这是一种结构化的解码方式，码字构造方式如图4所示，具体步骤包括：

(1)读取前导0的个数：逐比特位读取，如果为0，则继续读取下一比特；如果为1，则进行下一步骤；

(2)计算非拖尾的非零系数的幅值

其中信息部分是码表(如图4所示)内码字中代表幅值的部分，其长度等于前导0位数，Ceil表示向上取整函数。

第四步：对最后一个非零系数前0的数目使用自适应的码表进行解码；

第五步：根据已编码信息自适应选择码表，对每个非零系数前0的个数进行解码。

从上述解码过程可以看出，由于非零系数的数目以及拖尾系数的数目二元组解码过程涉及到的逐比特位读取和码字比较的操作非常多，会导致解码速度严重降低。此解码过程中存在的缺陷本质上是由H.264标准码表的一维特性决定的。为此，本发明设计了一种新的码表，利用前导0位数、信息位长度以及信息部分三维参量设计了三维码表，由此可直接确定非零系数的数目以及拖尾系数的数目二元组。

具体地，针对非零系数的数目以及拖尾系数的数目二元组解码本发明设计了基于码字特征的三维码表。通过对图3中H.264标准码表的观察，分割为0＝<nC<2、2＝<nC<4、4＝<nC<8、nC>＝8、nC＝＝-1和nC＝＝-2共6个码表。针对这六个码表，分别进行重组，构建如图5、图6、图7、图8、图9和图10所示的六个三维表。码表中留空部分表示没有对应的码字。在本发明码表中，确定上下文及前导0个数之后，信息位的长度最多只有两种，长度数值最多相差1，这对于压缩码字的保存空间非常有效，利用这一点可以有效压缩存储空间。在解码过程中，如果前导0的个数对应的信息位长度有两种，则首先考虑长度大的情况，读入相应位的数，在能与码表匹配时，则确定为该信息位长度；在不能与码表匹配时，则认为信息位为长度小的情况。特别的，当nC>＝8时(如图8所示)，码表是定长的，无须进行多次比较就可获得码字，本发明将其前导0长度直接置为0，后面6位全部视为信息位。

在码表中，信息既可以是非零系数的数目以及拖尾系数的数目二元组的索引index，也可以直接是非零系数的数目以及拖尾系数的数目二元组具体内容，前者可以减少码表所占空间，但是需要根据索引计算非零系数的数目以及拖尾系数的数目二元组，后者则可以直接获得所需元素值。可根据不同平台资源的限制，选择其中之一。如果在码表中存放索引，按照如下方式计算非零系数的数目以及拖尾系数的数目二元组：

如果(index<6){

  如果(index!＝0)那么index+＝3；

  如果(index>＝3)那么index+＝2；

  TotalCoeff＝(index>>2)&3；

  TrailingOnes＝index&3；

}

否则{

  TotalCoeff＝3+(index-6)/4；

  TrailingOnes＝(index-6)&3；

}

为了在非零系数的数目以及拖尾系数的数目二元组和非拖尾的非零系数的幅值解码过程中减少获取前导0个数所需时间，本发明设计了一种快速取得前导0个数的方案。考虑到前导0最长可达12比特位，同时尽可能减少读码流的次数，在读取前导0位数操作时，每次读取2个字节长度。此外许多特定平台有专门指令实现这一功能，充分利用这些指令就可以进一步降低读取前导0位数所需周期。

在上述三维码表和快速取得前导0的个数的方案的基础上，本发明提出一种H.264标准CAVLC残差系数的解码方法，具体步骤如下：

1、非零系数的数目以及拖尾系数的数目二元组解码：

假设，当前码流指向“00000000010110110...”。

第一：根据上下文选择码表

按照H.264标准规定计算nC，根据nC确定应选用的码表。假设nC＝1，那么此时非零系数的数目以及拖尾系数的数目二元组解码对应的码表应该选择对应于0＝<nC<2的码表(图5)。

第二，读取前导0的个数

从码流当前位置开始读取前导0的个数。方法如下：读取2个字节的码流，然后读取值为1的最高位数，之前的位数即为前导0的个数。本例中，读入“0000000001011011”，前导0的个数为9。

第三，读取信息位，确定非零系数的数目以及拖尾系数的数目二元组信息

根据选择的码表和前导0的个数，确定可能信息位长度，并通过移位方法读取。本例中，可确定信息位长度为4，通过移位方式读入4比特“1011”。二进制“1011”对应十进制11。如果码表中直接存放非零系数的数目以及拖尾系数的数目二元组内容，则直接获得拖尾系数的数目为0，非零系数的数目为7(如图11所示)；如果表中存放的是码字的索引，则可获得22，据此计算获得拖尾系数的数目为0，非零系数的数目为7(如图12所示)。

2、拖尾系数的符号位解码，根据码字0或1分别解码为正负；

3、非拖尾的非零系数的幅值解码

假设，当前码流指向“000101101101100101111001...”。

第一步，读取前导0的个数

从码流当前位置开始读取前导0的个数。方法如下：读取2个字节的码流，然后读取值为1的最高位数，之前的位数即为前导0的个数。本例中，读入“0001011011011001”，前导0的个数为3。

第二步，计算非拖尾的非零系数的幅值

4、解码反向扫描的第一个非零系数；

5、解码每个非零系数前0的个数。

Claims (6)

1.一种H.264标准CAVLC残差系数的解码方法，包括下列步骤：

对残差系数进行由高频向低频的Z字形扫描；

基于码表解码非零系数的数目和拖尾系数数目的二元组，其中码表包含三维参量：前导0个数、信息位长度和信息；

解码拖尾系数的符号位；

解码非拖尾的非零系数的幅值；

解码最后一个非零系数前0的数目；

解码每个非零系数前0的个数。

2.如权利要求1所述的方法，其特征在于所述基于码表非零系数的数目和拖尾系数数目的二元组解码进一步包含下列步骤：

根据上下文选择码表；

读取前导0的个数；

根据选择的码表和前导0的个数，读取信息位，确定非零系数的数目和拖尾系数数目的二元组信息。

3.如权利要求1所述的方法，其特征在于所述信息是非零系数的数目和拖尾系数数目的二元组。

4.如权利要求1所述的方法，其特征在于所述信息是非零系数的数目和拖尾系数数目的二元组的索引值，能够依据此值计算coeff_token。

5.如权利要求1所述的方法，其特征在于所述解码非拖尾的非零系数进一步包含下列步骤：

读取前导0的个数；

根据读取的前导0个数计算非拖尾的非零系数。

6.如权利要求2或5所述的方法，其特征在于所述读取前导0的个数进一步包含以下步骤：

读取2个字节码流；

在此2个字节码流中读取值为1的最高位数，则之前的位数即为前导0的个数。

Images