JP7531683B2 - 符号化装置、復号装置、及びプログラム - Google Patents
符号化装置、復号装置、及びプログラム Download PDFInfo
- Publication number
- JP7531683B2 JP7531683B2 JP2023202659A JP2023202659A JP7531683B2 JP 7531683 B2 JP7531683 B2 JP 7531683B2 JP 2023202659 A JP2023202659 A JP 2023202659A JP 2023202659 A JP2023202659 A JP 2023202659A JP 7531683 B2 JP7531683 B2 JP 7531683B2
- Authority
- JP
- Japan
- Prior art keywords
- block
- unit
- mode
- luminance
- intra prediction
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000009466 transformation Effects 0.000 claims description 126
- 238000000034 method Methods 0.000 claims description 43
- 238000013139 quantization Methods 0.000 description 47
- 230000015572 biosynthetic process Effects 0.000 description 15
- 238000003786 synthesis reaction Methods 0.000 description 15
- 238000010586 diagram Methods 0.000 description 12
- 238000012545 processing Methods 0.000 description 12
- 238000006243 chemical reaction Methods 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 239000011159 matrix material Substances 0.000 description 3
- 230000006866 deterioration Effects 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 230000001052 transient effect Effects 0.000 description 2
- 230000003044 adaptive effect Effects 0.000 description 1
- 238000013144 data compression Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 230000002194 synthesizing effect Effects 0.000 description 1
Images
Landscapes
- Compression Or Coding Systems Of Tv Signals (AREA)
Description
本発明は、符号化装置、復号装置、及びプログラムに関する。
静止画像や動画像の伝送時並びに保存時のデータ量を圧縮するため、映像符号化方式の研究が行われている。近年、8K-SHVに代表されるような超高解像度映像の普及が進んでおり、膨大なデータ量の動画像を伝送するための手法としてAVC/H.264やHEVC/H.265などの符号化方式が知られている。
MPEGおよびITUが合同で標準化を行っている次世代映像符号化方式であるVVCの評価用ソフトウェア(VTM)では、フレーム内の空間的な相関を利用したイントラ予測が利用されている(例えば、非特許文献1参照)。
符号化対象ブロックの周辺の復号済参照画素を利用して、Planar予測、DC予測、および65通りの方向性予測の、計67通りの予測モードからエンコーダ側で最適なモードが選択され、その情報がデコーダ側へ送られる。
一方、色差信号のイントラ予測モードの候補の数は輝度信号ほど多くない。輝度信号で用いられているのと同じ予測モードとしては、DM(対応する輝度ブロックで用いられた予測モード)、Planarモード(mode 0)、垂直方向モード(mode 50)、水平方向モード(mode 18)、DCモード(mode 1)の5通りがある。輝度信号の復号済画素を予測に用いるLinear Model(LM)モードの利用が許可されている場合には、この5モードに加えてLMモードも選択肢となり、いずれかのモードを示すフラグがデコーダ側へ伝送される。
イントラスライスにおいては、輝度信号及び色差信号に対して別々のブロック分割が可能となっているため、DMでは符号化対象となる色差ブロックの位置には、対応する複数の輝度ブロックがあることが考えられる。そのため、色差ブロックの対応する位置の中心にある画素が含まれる輝度ブロックのイントラ予測モードをDMとして利用する。
また、VVCでは、複数の変換基底を切り替えるMulti Transform Selection(MTS)が輝度信号の符号化において実装されており、DCT-2、DST-7、DCT-8がそれぞれ水平方向・垂直方向で利用可能である。一方、現段階では、色差信号にはMTSは実装されておらず、色差信号で利用可能な変換基底は水平方向・垂直方向共にDCT-2のみとなっている。
JVET-O2001 Versatile Video Coding (Draft 6)
ある輝度ブロックと、この輝度ブロックに対応する色差ブロックとにおいて、絵柄やテクスチャに相関がある場合、色差ブロックのイントラ予測モードは、対応する輝度ブロックと同じ予測モードが利用できるDMが選択される可能性が高い。しかし、対応する輝度ブロックが利用する変換基底がDCT-2以外であった場合、その予測残差に対するエネルギー集約が異なるため、DMを選択した場合の符号化効率が悪化する可能性がある。
そこで、本発明は、DMを選択した場合の符号化効率を改善する符号化装置、復号装置、及びプログラムを提供することを目的とする。
第1の態様に係る符号化装置は、画像を構成する輝度信号及び色差信号を分割して生成した輝度ブロック及び色差ブロックを符号化する符号化装置であって、符号化された輝度ブロックに適用されたイントラ予測モードと、当該輝度ブロックに適用された変換処理の変換パラメータと、に基づいて、当該輝度ブロックに対応する色差ブロックに適用するイントラ予測モードを決定するモード決定部を備えることを要旨とする。実施形態に係る符号化装置は、画像を構成する輝度信号及び色差信号を分割して生成した輝度ブロック及び色差ブロックを符号化する符号化装置であって、前記色差ブロックに適用する色差イントラ予測モードの候補として前記輝度ブロックのイントラ予測に適用されたイントラ予測モードを用いる場合、前記色差ブロックに対応する第1輝度ブロックの予測残差の変換処理に適用された変換パラメータを特定する変換パラメータ特定部と、前記特定された変換パラメータが前記色差ブロックに適用可能である場合、前記色差イントラ予測モードの候補として、前記第1輝度ブロックに適用された第1イントラ予測モードを決定するモード決定部と、を備え、前記モード決定部は、前記特定された変換パラメータが前記色差ブロックに適用可能ではない場合、前記色差イントラ予測モードの候補として、前記第1イントラ予測モードとは異なるイントラ予測モードを決定することを要旨とする。
第2の態様に係る復号装置は、画像を構成する輝度信号及び色差信号を分割して生成した輝度ブロック及び色差ブロックを復号する復号装置であって、復号された輝度ブロックに適用されたイントラ予測モードと、当該輝度ブロックに適用された変換処理の変換パラメータと、に基づいて、当該輝度ブロックに対応する色差ブロックに適用するイントラ予測モードを決定するモード決定部を備えることを要旨とする。実施形態に係る復号装置は、画像を構成する輝度信号及び色差信号を分割して生成した輝度ブロック及び色差ブロックを復号する復号装置であって、前記色差ブロックに適用する色差イントラ予測モードの候補として前記輝度ブロックのイントラ予測に適用されたイントラ予測モードを用いる場合、前記色差ブロックに対応する第1輝度ブロックの変換係数の逆変換処理に適用された変換パラメータを特定する変換パラメータ特定部と、前記特定された変換パラメータが前記色差ブロックに適用可能である場合、前記色差イントラ予測モードの候補として、前記第1輝度ブロックに適用された第1イントラ予測モードを決定するモード決定部と、を備え、前記モード決定部は、前記特定された変換パラメータが前記色差ブロックに適用可能ではない場合、前記色差イントラ予測モードの候補として、前記第1イントラ予測モードとは異なるイントラ予測モードを決定することを要旨とする。
第3の態様に係るプログラムは、コンピュータを第1の態様に係る符号化装置として機能させることを要旨とする。
第4の態様に係るプログラムは、コンピュータを第2の態様に係る復号装置として機能させることを要旨とする。
本発明によれば、DMを選択した場合の符号化効率を改善する符号化装置、復号装置、及びプログラムを提供できる。
図面を参照して、実施形態に係る符号化装置及び復号装置について説明する。実施形態に係る符号化装置及び復号装置は、MPEGに代表される動画像の符号化及び復号をそれぞれ行う。以下の図面の記載において、同一又は類似の部分には同一又は類似の符号を付している。
<符号化装置の構成>
まず、本実施形態に係る符号化装置の構成について説明する。図1は、本実施形態に係る符号化装置1の構成を示す図である。
まず、本実施形態に係る符号化装置の構成について説明する。図1は、本実施形態に係る符号化装置1の構成を示す図である。
図1に示すように、符号化装置1は、ブロック分割部100と、減算部110と、変換・量子化部120と、エントロピー符号化部130と、逆量子化・逆変換部140と、合成部150と、メモリ160と、予測部170とを有する。
ブロック分割部100は、動画像を構成するフレーム(或いはピクチャ)単位の入力画像である原画像を複数の画像ブロックに分割し、分割により得た画像ブロックを減算部110に出力する。画像ブロックのサイズは、例えば32×32画素、16×16画素、8×8画素、又は4×4画素等である。画像ブロックの形状は正方形に限らず長方形(非正方形)であってもよい。画像ブロックは、符号化装置1が符号化を行う単位(すなわち、符号化対象ブロック)であり、且つ復号装置が復号を行う単位(すなわち、復号対象ブロック)である。このような画像ブロックはCU(Coding Unit)と呼ばれることがある。
具体的には、ブロック分割部100は、画像を構成する輝度信号及び色差信号に対してブロック分割を行うことで、輝度ブロック及び色差ブロックを出力する。輝度信号と色差信号とで分割を独立に制御可能であってもよい。輝度ブロック及び色差ブロックを特に区別しないときは単に符号化対象ブロックと呼ぶ。
減算部110は、ブロック分割部100から出力される符号化対象ブロックと、符号化対象ブロックを予測部170が予測して得た予測ブロックとの差分(誤差)を表す予測残差を算出する。具体的には、減算部110は、ブロックの各画素値から予測ブロックの各画素値を減算することにより予測残差を算出し、算出した予測残差を変換・量子化部120に出力する。
変換・量子化部120は、ブロック単位で変換処理及び量子化処理を行う。変換・量子化部120は、変換部121と、量子化部122とを有する。
変換部121は、減算部110から出力される予測残差に対して変換処理を行って変換係数を算出し、算出した変換係数を量子化部122に出力する。変換処理とは、例えば、離散コサイン変換(DCT)や離散サイン変換(DST)、カルーネンレーブ変換(KLT)等をいう。但し、変換処理には、画素領域の信号を周波数領域の信号に変換することなくスケーリング等により調整する変換スキップを含んでもよい。変換部121は、符号化対象ブロックに適用する変換処理に関する情報をエントロピー符号化部130に出力する。
変換部121は、複数の変換基底を切り替えるMTSを輝度信号の符号化において用いる。具体的には、変換部121は、輝度ブロックに対して、水平方向及び垂直方向のそれぞれについて、DCT-2、DST-7、DCT-8の中から選択した変換基底(変換タイプ)を適用する。一方、変換部121は、色差ブロックについては、予め定められた変換基底(変換タイプ)を適用するものとする。例えば、変換部121は、色差ブロックに対して水平方向・垂直方向共にDCT-2のみを適用する。DCT-2は、予め定められた変換基底である色差変換基底の一例である。
量子化部122は、変換部121から出力される変換係数を量子化パラメータ(Qp)及び量子化行列を用いて量子化し、量子化した変換係数をエントロピー符号化部130及び逆量子化・逆変換部140に出力する。
エントロピー符号化部130は、量子化部122から出力される変換係数に対してエントロピー符号化を行い、データ圧縮を行って符号化データ(ビットストリーム)を生成し、符号化データを符号化装置1の外部に出力する。エントロピー符号化には、ハフマン符号やCABAC(Context-based Adaptive Binary Arithmetic Coding;コンテキスト適応型2値算術符号)等を用いることができる。なお、エントロピー符号化部130は、変換部121から変換処理に関する情報が入力され、予測部170から予測処理に関する情報が入力され、これらの情報のエントロピー符号化も行う。
逆量子化・逆変換部140は、ブロック単位で逆量子化処理及び逆変換処理を行う。逆量子化・逆変換部140は、逆量子化部141と、逆変換部142とを有する。
逆量子化部141は、量子化部122が行う量子化処理に対応する逆量子化処理を行う。具体的には、逆量子化部141は、量子化部122から出力される変換係数を、量子化パラメータ(Qp)及び量子化行列を用いて逆量子化することにより変換係数を復元し、復元した変換係数を逆変換部142に出力する。
逆変換部142は、変換部121が行う変換処理に対応する逆変換処理を行う。例えば、変換部121が離散コサイン変換を行った場合には、逆変換部142は逆離散コサイン変換を行う。逆変換部142は、逆量子化部141から出力される変換係数に対して逆変換処理を行って予測残差を復元し、復元した予測残差である復元予測残差を合成部150に出力する。
合成部150は、逆変換部142から出力される復元予測残差を、予測部170から出力される予測ブロックと画素単位で合成する。合成部150は、復元予測残差の各画素値と予測ブロックの各画素値を加算して符号化対象ブロックを復号(再構成)し、復号済みブロックをメモリ160に出力する。なお、復号済みブロックは、再構成ブロックと呼ばれることもある。
メモリ160は、合成部150から出力される復号済みブロックを記憶し、復号済みブロックをフレーム単位で復号済み画像として蓄積する。メモリ160は、記憶している復号済みブロック若しくは復号済み画像を予測部170に出力する。なお、合成部150とメモリ160との間にループフィルタが設けられてもよい。
予測部170は、ブロック単位で予測処理を行う。予測部170は、インター予測部171と、イントラ予測部172と、切替部173とを有する。
インター予測部171は、フレーム間の相関を利用したインター予測を行う。具体的には、インター予測部171は、メモリ160に記憶された復号済み画像を参照画像として用いて、ブロックマッチングなどの手法により動きベクトルを算出し、インター予測の対象ブロックを予測してインター予測ブロックを生成し、生成したインター予測ブロックを切替部173に出力する。ここで、インター予測部171は、複数の参照画像を用いるインター予測(典型的には、双予測)や、1つの参照画像を用いるインター予測(片方向予測)の中から最適なインター予測方法を選択し、選択したインター予測方法を用いてインター予測を行う。インター予測部171は、インター予測に関する情報(動きベクトル等)をエントロピー符号化部130に出力する。
イントラ予測部172は、フレーム内の空間的な相関を利用したイントラ予測を行う。具体的には、イントラ予測部172は、メモリ160に記憶された復号済み画像のうち、イントラ予測の対象ブロックの周辺にある復号済み画素を参照してイントラ予測ブロックを生成し、生成したイントラ予測ブロックを切替部173に出力する。一般的に、イントラ予測部172は、複数のイントラ予測モードの中から、イントラ予測の対象ブロックに適用するイントラ予測モードを選択し、選択したイントラ予測モードを用いて対象ブロックを予測する。イントラ予測部172は、選択したイントラ予測モードに関する情報をエントロピー符号化部130に出力する。
図2は、本実施形態に係るイントラ予測モードの候補を示す図である。図2に示すように、イントラ予測モードの候補は、0から66までの67通りのイントラ予測モードがある。イントラ予測モードのモード「0」はPlanar予測であり、イントラ予測モードのモード「1」はDC予測であり、イントラ予測モードのモード「2」乃至「66」は方向性予測である。方向性予測において、矢印の方向は参照方向を示し、矢印の起点は予測対象の画素の位置を示し、矢印の終点はこの予測対象画素の予測に用いる参照画素の位置を示す。ブロックの右上頂点及び左下頂点を通る対角線に平行な参照方向として、左下方向を参照するイントラ予測モードであるモード「2」と、右上方向を参照するイントラ予測モードであるモード「66」とがあり、モード「2」からモード「66」まで時計回りに所定角度ごとにモード番号が割り振られている。
切替部173は、インター予測部171から出力されるインター予測ブロックとイントラ予測部172から出力されるイントラ予測ブロックとを切り替えて、いずれかの予測ブロックを減算部110及び合成部150に出力する。
このようにして、符号化装置1は、画像を構成する輝度信号及び色差信号を分割して生成した輝度ブロック及び色差ブロックを符号化する。
符号化装置1において、イントラ予測部172は、輝度信号については、輝度ブロックの周辺の復号済み参照画素を利用して、Planar予測、DC予測、および65通りの方向性予測の、計67通りの予測モードから最適なモードを選択し、その情報をエントロピー符号化部130から復号装置へ伝送する。
一方、色差信号のイントラ予測モードの候補の数は、輝度信号ほど多くない。輝度信号で用いられているのと同じ予測モードとしては、DM(対応する輝度ブロックに適用された予測モード)、Planarモード(mode 0)、垂直方向モード(mode 50)、水平方向モード(mode 18)、DCモード(mode 1)の5通りがある。輝度信号の復号済画素を予測に用いるLinear Model(LM)モードの利用が許可されている場合には、この5モードに加えてLMモードも選択肢となる。
イントラ予測部172は、DMを決定するDM決定部1720を有する。DMは、符号化対象となる色差ブロックの位置に対応する輝度ブロックに適用されたイントラ予測モードを、色差信号のイントラ予測モードの候補とするものである。但し、イントラスライスにおいては、輝度信号及び色差信号に対して別々のブロック分割が可能となっている。そのため、色差ブロックの対応する位置の中心にある画素が含まれる輝度ブロックを、色差ブロックの位置に対応する輝度ブロックとして用い、この輝度ブロックに適用されたイントラ予測モードをDMとして利用する。
図3は、本実施形態に係るDMの一例を示す図である。図3において、輝度ブロック及び色差ブロックのそれぞれが水平4画素・垂直4画素(すなわち、4×4画素)で構成される一例を示している。
図3に示すように、フレーム内での色差ブロックの位置に対応する位置において4つの輝度ブロックB1乃至B4がある。すなわち、1つの色差ブロックが4つの輝度ブロックに対応している。このような場合、DM決定部1720は、色差ブロックの中心位置をカバーする輝度ブロックに適用されたイントラ予測モードをDMとして決定する。
図3に示す例において、輝度ブロックB1は、色差ブロックの中心位置をカバーする輝度ブロックである。このため、DM決定部1720は、輝度ブロックB1に適用されたイントラ予測モードであるmode 2をDMとして決定する。
イントラ予測部172は、ある輝度ブロックと、この輝度ブロックに対応する色差ブロックとにおいて、絵柄やテクスチャに相関がある場合、イントラ予測対象の色差ブロックのイントラ予測モードとして、DM決定部1720により決定されたDMを選択する可能性が高い。しかし、この色差ブロックに対応する輝度ブロックについて、変換部121が変換処理に適用する変換基底がDCT-2以外であった場合、適用する変換基底が輝度ブロックと色差ブロックとで異なるため、DMを選択した場合の符号化効率が悪化する可能性がある。
また、輝度ブロックに変換スキップが適用可能であって、色差ブロックに変換スキップが適用可能ではないことが想定される。このような想定下において、色差ブロックに対応する輝度ブロックについて変換部121が変換スキップを適用すると、DMを選択した場合の符号化効率が悪化する可能性がある。以下において、色差ブロックに変換スキップが適用可能ではないものと仮定する。
さらに、輝度ブロックに二次変換が適用可能であって、色差ブロックに二次変換が適用可能ではないことが想定される。このような想定下において、色差ブロックに対応する輝度ブロックについて変換部121が二次変換を適用すると、DMを選択した場合の符号化効率が悪化する可能性がある。以下において、色差ブロックに二次変換が適用可能ではないものと仮定する。
このため、本実施形態に係るDM決定部1720は、DMを決定する際に、イントラ予測対象の色差ブロックに対応する輝度ブロックの予測残差の変換処理に適用された変換パラメータを考慮する。ここで、変換パラメータとは、主として変換基底をいうが、変換スキップの有無が変換パラメータに含まれてもよいし、二次変換の有無が変換パラメータに含まれてもよい。DM決定部1720は、変換パラメータ特定部1721と、モード決定部1722とを有する。
変換パラメータ特定部1721は、イントラ予測対象の色差ブロックに対応する第1輝度ブロックの予測残差の変換処理に適用された変換パラメータを特定する。変換パラメータは、「変換基底」、「変換スキップの有無」、及び「二次変換の有無」のうち少なくとも1つである。第1輝度ブロックは、色差ブロックの中心位置をカバーする輝度ブロック(例えば、図3に示す輝度ブロックB1)である。以下において、このような第1輝度ブロックを「デフォルト輝度ブロック」と呼ぶ。
モード決定部1722は、変換パラメータ特定部1721が特定した変換パラメータが色差ブロックに適用可能である場合、DMとして、デフォルト輝度ブロックに適用された第1イントラ予測モード(例えば、図3に示す輝度ブロックB1のmode 2)を決定する。一方、モード決定部1722は、特定された変換パラメータが色差ブロックに適用可能ではない場合、DMとして、第1イントラ予測モードとは異なるイントラ予測モードを決定する。
変換パラメータとして「変換基底」を例に挙げると、デフォルト輝度ブロックに適用された変換基底がDCT-2である場合、色差ブロックに適用可能な変換基底であるため、モード決定部1722は、デフォルト輝度ブロックに適用された第1イントラ予測モードをDMとして決定する。一方、デフォルト輝度ブロックに適用された変換基底がDCT-2以外である場合、色差ブロックに適用可能な変換基底ではないため、モード決定部1722は、第1イントラ予測モードとは異なるイントラ予測モードを決定する。
変換パラメータとして「変換スキップの有無」を例に挙げると、デフォルト輝度ブロックが変換スキップ「無」である場合、モード決定部1722は、デフォルト輝度ブロックに適用された第1イントラ予測モードをDMとして決定する。一方、デフォルト輝度ブロックが変換スキップ「有」である場合、モード決定部1722は、第1イントラ予測モードとは異なるイントラ予測モードを決定する。
変換パラメータとして「二次変換の有無」を例に挙げると、デフォルト輝度ブロックが二次変換「無」である場合、モード決定部1722は、デフォルト輝度ブロックに適用された第1イントラ予測モードをDMとして決定する。一方、デフォルト輝度ブロックが二次変換「有」である場合、モード決定部1722は、第1イントラ予測モードとは異なるイントラ予測モードを決定する。
デフォルト輝度ブロックに適用された第1イントラ予測モードとは異なるイントラ予測モードをモード決定部1722が決定する方法には、次の2通りの方法がある。
1つ目の方法として、モード決定部1722は、変換パラメータ特定部1721が特定した変換パラメータが色差ブロックに適用可能ではない場合、デフォルト輝度ブロックの周辺の第2輝度ブロックに適用された第2イントラ予測モードをDMとして決定する。第2輝度ブロックとは、デフォルト輝度ブロックに対する相対位置が予め定められた輝度ブロックをいい、以下において、このような第2輝度ブロックを「セカンダリー輝度ブロック」と呼ぶ。
図4は、本実施形態に係るデフォルト輝度ブロック及びセカンダリー輝度ブロックを示す図である。図4に示すように、セカンダリー輝度ブロックは、デフォルト輝度ブロックの周辺の輝度ブロックである。図4において、セカンダリー輝度ブロックがデフォルト輝度ブロックの左上の輝度ブロックである一例を示している。
例えば、モード決定部1722は、デフォルト輝度ブロックで利用された変換基底が色差信号で利用可能な変換基底(すなわち、DCT-2)と同じである場合、デフォルト輝度ブロックに適用された第1イントラ予測モードをDMとして決定し、同じではない場合には、セカンダリー輝度ブロックに適用された第2イントラ予測モードをDMとして決定する。
ここでは、輝度ブロックの選択肢としてデフォルト輝度ブロック及びセカンダリー輝度ブロックの2つを例示しているが、さらに選択肢を増やしてもよい。例えば、図4に示す輝度ブロックB2及びB4も選択肢に加える場合、モード決定部1722は、条件に合致する輝度ブロックを見つけるか、すべての選択肢を確認するまで判定を繰り返してもよい。
2つ目の方法として、モード決定部1722は、変換パラメータ特定部1721が特定した変換パラメータが色差ブロックに適用可能ではない場合、予め決められたイントラ予測モードをDMとして決定する。
予め決められたイントラ予測モードは、固定的に定められたイントラ予測モードであってもよい。例えば、予め決められたイントラ予測モードは、Planarモードであってもよいし、DCモードであってもよい。
或いは、予め決められたイントラ予測モードは、ブロックの形状に応じて定められてもよい。例えば、予め決められたイントラ予測モードは、縦長ブロックの場合には垂直方向モード、横長ブロックの場合には水平方向モードというように定められてもよい。
或いは、予め決められたイントラ予測モードは、デフォルト輝度ブロックに適用された第1イントラ予測モードに応じて定められてもよい。例えば、予め決められたイントラ予測モードは、第1イントラ予測モードがPlanarモードであった場合には、それ以外のイントラ予測モードであるDCモードとしてもよい。
このように、本実施形態に係る符号化装置1によれば、DMを決定する際に、色差ブロックに対応する輝度ブロックの予測残差の変換処理に適用された変換パラメータを考慮することにより、DMを選択した場合の符号化効率の悪化を抑制できるため、DMを選択した場合の符号化効率を改善できる。
<復号装置の構成>
次に、本実施形態に係る復号装置の構成について説明する。図5は、本実施形態に係る復号装置2の構成を示す図である。
次に、本実施形態に係る復号装置の構成について説明する。図5は、本実施形態に係る復号装置2の構成を示す図である。
図5に示すように、復号装置2は、エントロピー復号部200と、逆量子化・逆変換部210と、合成部220と、メモリ230と、予測部240とを有する。
エントロピー復号部200は、符号化装置1により生成された符号化データを復号し、量子化された変換係数を逆量子化・逆変換部210に出力する。また、エントロピー復号部200は、符号化装置1が決定した変換処理に関する情報を取得し、取得した情報を逆量子化・逆変換部210に出力する。さらに、エントロピー復号部200は、予測処理に関する情報を取得し、取得した情報を予測部240に出力する。
逆量子化・逆変換部210は、ブロック単位で逆量子化処理及び逆変換処理を行う。逆量子化・逆変換部210は、逆量子化部211と、逆変換部212とを有する。
逆量子化部211は、符号化装置1の量子化部122が行う量子化処理に対応する逆量子化処理を行う。逆量子化部211は、エントロピー復号部200から出力される量子化変換係数を、量子化パラメータ(Qp)及び量子化行列を用いて逆量子化することにより、復号対象ブロックの変換係数を復元し、復元した変換係数を逆変換部212に出力する。
逆変換部212は、符号化装置1の変換部121が行う変換処理に対応する逆変換処理を行う。逆変換部212は、逆量子化部211から出力される変換係数に対して逆変換処理を行って予測残差を復元し、復元した予測残差(復元予測残差)を合成部220に出力する。
合成部220は、逆変換部212から出力される予測残差と、予測部240から出力される予測ブロックとを画素単位で合成することにより、元のブロックを復号(再構成)し、復号済みブロックをメモリ230に出力する。
メモリ230は、合成部220から出力される復号済みブロックを記憶し、復号済みブロックをフレーム単位で復号済み画像として蓄積する。メモリ230は、復号済みブロック若しくは復号済み画像を予測部240に出力する。また、メモリ230は、フレーム単位の復号済み画像を復号装置2の外部に出力する。なお、合成部220とメモリ230との間にループフィルタが設けられてもよい。
予測部240は、ブロック単位で予測を行う。予測部240は、インター予測部241と、イントラ予測部242と、切替部243とを有する。
インター予測部241は、フレーム間の相関を利用したインター予測を行う。具体的には、インター予測部241は、エントロピー復号部200から出力されるインター予測に関する情報(例えば、動きベクトル情報)に基づいて、メモリ230に記憶された復号済み画像を参照画像として用いてインター予測の対象ブロックを予測してインター予測ブロックを生成し、生成したインター予測ブロックを切替部243に出力する。
イントラ予測部242は、フレーム内の空間的な相関を利用したイントラ予測を行う。具体的には、イントラ予測部242は、エントロピー復号部200から出力されるイントラ予測に関する情報(例えば、イントラ予測モードの情報)に基づいて、メモリ230に記憶された復号済み画像のうちイントラ予測の対象ブロックの周辺にある復号済み画素を参照してイントラ予測ブロックを生成し、生成したイントラ予測ブロックを切替部243に出力する。
切替部243は、インター予測部241から出力されるインター予測ブロックとイントラ予測部242から出力されるイントラ予測ブロックとを切り替えて、いずれかの予測ブロックを合成部220に出力する。
このようにして、復号装置2は、復号対象ブロック(輝度ブロック及び色差ブロック)を復号する。
イントラ予測部242は、輝度信号については、Planar予測、DC予測、および65通りの方向性予測の、計67通りのイントラ予測モードから、エントロピー復号部200から出力される輝度予測モード情報が示すイントラ予測モードを選択する。
一方、色差信号については、DM(対応する輝度ブロックに適用された予測モード)、Planarモード(mode 0)、垂直方向モード(mode 50)、水平方向モード(mode 18)、DCモード(mode 1)の5通りのイントラ予測モードから、エントロピー復号部200から出力される色差予測モード情報が示すイントラ予測モードを選択する。なお、LMモードの利用が許可されている場合には、この5モードに加えてLMモードも選択肢となる。以下においては、色差予測モード情報が示すイントラ予測モードがDMであると仮定する。
イントラ予測部242は、DMを決定するDM決定部2420を有する。DM決定部1720は、DMを決定する際に、イントラ予測対象の色差ブロックに対応する輝度ブロックの変換係数の逆変換処理に適用された変換パラメータを考慮する。ここで、変換パラメータとは、主として変換基底をいうが、変換スキップの有無が変換パラメータに含まれてもよいし、二次変換の有無が変換パラメータに含まれてもよい。
DM決定部2420は、変換パラメータ特定部2421と、モード決定部2422とを有する。変換パラメータ特定部2421及びモード決定部2422は、符号化装置1の変換パラメータ特定部1721及びモード決定部1722とそれぞれ同様な機能を有する。
具体的には、変換パラメータ特定部2421は、イントラ予測対象の色差ブロックに対応するデフォルト輝度ブロックの変換係数の逆変換処理に適用された変換パラメータを特定する。変換パラメータとは、主として変換基底をいうが、変換スキップの有無が変換パラメータに含まれてもよいし、二次変換の有無が変換パラメータに含まれてもよい。
モード決定部2422は、変換パラメータ特定部2421が特定した変換パラメータが色差ブロックに適用可能である場合、デフォルト輝度ブロックに適用された第1イントラ予測モードをDMとして決定する。一方、モード決定部2422は、特定された変換パラメータが色差ブロックに適用可能ではない場合、第1イントラ予測モードとは異なるイントラ予測モードをDMとして決定する。
上述したように、モード決定部2422は、特定された変換パラメータが色差ブロックに適用可能ではない場合、デフォルト輝度ブロックの周辺のセカンダリー輝度ブロックに適用された第2イントラ予測モードをDMとして決定する。
或いは、モード決定部2422は、特定された変換パラメータが色差ブロックに適用可能ではない場合、予め決められたイントラ予測モードをDMとして決定する。
このように、本実施形態に係る復号装置2によれば、DMを決定する際に、色差ブロックに対応する輝度ブロックの変換係数の逆変換処理に適用された変換パラメータを考慮することにより、DMを選択した場合の符号化効率の悪化を抑制できるため、DMを選択した場合の符号化効率を改善できる。
<DM決定部の動作>
次に、本実施形態に係るDM決定部1720及び2420の動作について説明する。DM決定部1720及び2420は同様な動作を行うため、ここではDM決定部2420の動作を例に挙げて説明する。
次に、本実施形態に係るDM決定部1720及び2420の動作について説明する。DM決定部1720及び2420は同様な動作を行うため、ここではDM決定部2420の動作を例に挙げて説明する。
図6は、本実施形態に係るDM決定部2420の動作例1を示す図である。
図6に示すように、ステップS11において、DM決定部2420の変換パラメータ特定部2421は、イントラ予測対象の色差ブロックに対応するデフォルト輝度ブロックの変換係数の逆変換処理に適用された変換パラメータを特定する。変換パラメータは、「変換基底」、「変換スキップの有無」、及び「二次変換の有無」のうち少なくとも1つである。
ステップS12において、DM決定部2420のモード決定部2422は、変換パラメータ特定部2421が特定した変換パラメータが色差ブロックに適用可能であるか否かを判定する。
変換パラメータとして「変換基底」を例に挙げると、モード決定部2422は、デフォルト輝度ブロックに適用された変換基底が「DCT-2」である場合、この変換パラメータが色差ブロックに適用可能であると判定し、処理をステップS13に進めて、デフォルト輝度ブロックに適用された第1イントラ予測モードをDMとして決定する。一方、デフォルト輝度ブロックに適用された変換基底が「DCT-2」以外である場合、モード決定部2422は、この変換パラメータが色差ブロックに適用可能ではないと判定し、処理をステップS14に進めて、セカンダリー輝度ブロックに適用された第2イントラ予測モードをDMとして決定する。
変換パラメータとして「変換スキップの有無」を例に挙げると、モード決定部2422は、デフォルト輝度ブロックが変換スキップ「無」である場合、この変換パラメータが色差ブロックに適用可能であると判定し、処理をステップS13に進めて、デフォルト輝度ブロックに適用された第1イントラ予測モードをDMとして決定する。一方、デフォルト輝度ブロックが変換スキップ「有」である場合、モード決定部2422は、この変換パラメータが色差ブロックに適用可能ではないと判定し、処理をステップS14に進めて、セカンダリー輝度ブロックに適用された第2イントラ予測モードをDMとして決定する。
変換パラメータとして「二次変換の有無」を例に挙げると、モード決定部2422は、デフォルト輝度ブロックが二次変換「無」である場合、この変換パラメータが色差ブロックに適用可能であると判定し、処理をステップS13に進めて、デフォルト輝度ブロックに適用された第1イントラ予測モードをDMとして決定する。一方、デフォルト輝度ブロックが二次変換「有」である場合、モード決定部2422は、この変換パラメータが色差ブロックに適用可能ではないと判定し、処理をステップS14に進めて、セカンダリー輝度ブロックに適用された第2イントラ予測モードをDMとして決定する。
なお、ステップS12において、モード決定部2422は、複数の変換パラメータを組み合わせた判定を行ってもよい。例えば、モード決定部2422は、デフォルト輝度ブロックの変換係数の逆変換処理において、変換スキップ「無」という第1条件、二次変換「無」という第2条件、及び変換基底が「DCT-2」であるという第3条件の全てが満たされた場合、処理をステップS13に進めて、デフォルト輝度ブロックに適用された第1イントラ予測モードをDMとして決定する。一方、モード決定部2422は、これらの第1条件乃至第3条件のうち少なくとも1つの条件が満たされない場合、処理をステップS14に進めて、セカンダリー輝度ブロックに適用された第2イントラ予測モードをDMとして決定する。
図7は、本実施形態に係るDM決定部2420の動作例2を示す図である。動作例2においては、輝度ブロックの選択肢として複数のセカンダリー輝度ブロックを用いる。図4に示す例において、1つ目のセカンダリー輝度ブロックが輝度ブロックB3、2つ目のセカンダリー輝度ブロックが輝度ブロックB4、3つ目のセカンダリー輝度ブロックが輝度ブロックB2・・・というように、輝度ブロックの選択肢を増やしている。
図7に示すように、ステップS11乃至S13の動作は、上述した動作例1と同様である。
変換パラメータ特定部2421がデフォルト輝度ブロックについて特定した変換パラメータが色差ブロックに適用可能ではないと判定した場合(ステップS12:NO)、ステップS21において、変換パラメータ特定部2421は、N番目(N≧1)のセカンダリー輝度ブロックの変換係数の逆変換処理に適用された変換パラメータを特定する。
ステップS22において、モード決定部2422は、変換パラメータ特定部2421がN番目のセカンダリー輝度ブロックについて特定した変換パラメータが色差ブロックに適用可能であるか否かを判定する。ステップS22において「YES」である場合、モード決定部2422は、処理をステップS24に進めて、N番目のセカンダリー輝度ブロックに適用されたイントラ予測モード(第2イントラ予測モード)をDMとして決定する。一方、ステップS22において「NO」である場合、判定対象を次のセカンダリー輝度ブロックに変更し(ステップS23)、ステップS21の処理を再開する。
図8は、本実施形態に係るDM決定部2420の動作例3を示す図である。
図8に示すように、ステップS11乃至S13の動作は、上述した動作例1と同様である。
ステップS12において「NO」である場合、ステップS31において、モード決定部2422は、予め決められたイントラ予測モードをDMとして決定する。上述したように、予め決められたイントラ予測モードは、固定的に定められたイントラ予測モードであってもよいし、ブロックの形状に応じて定められてもよいし、デフォルト輝度ブロックに適用された第1イントラ予測モードに応じて定められてもよい。
<その他の実施形態>
符号化装置1が行う各処理をコンピュータに実行させるプログラムが提供されてもよい。復号装置2が行う各処理をコンピュータに実行させるプログラムが提供されてもよい。プログラムは、コンピュータ読取り可能媒体に記録されていてもよい。コンピュータ読取り可能媒体を用いれば、コンピュータにプログラムをインストールすることが可能である。ここで、プログラムが記録されたコンピュータ読取り可能媒体は、非一過性の記録媒体であってもよい。非一過性の記録媒体は、特に限定されるものではないが、例えば、CD-ROMやDVD-ROM等の記録媒体であってもよい。
符号化装置1が行う各処理をコンピュータに実行させるプログラムが提供されてもよい。復号装置2が行う各処理をコンピュータに実行させるプログラムが提供されてもよい。プログラムは、コンピュータ読取り可能媒体に記録されていてもよい。コンピュータ読取り可能媒体を用いれば、コンピュータにプログラムをインストールすることが可能である。ここで、プログラムが記録されたコンピュータ読取り可能媒体は、非一過性の記録媒体であってもよい。非一過性の記録媒体は、特に限定されるものではないが、例えば、CD-ROMやDVD-ROM等の記録媒体であってもよい。
符号化装置1が行う各処理を実行する回路を集積化し、符号化装置1を半導体集積回路(チップセット、SoC)により構成してもよい。復号装置2が行う各処理を実行する回路を集積化し、復号装置2を半導体集積回路(チップセット、SoC)により構成しても
よい。
よい。
以上、図面を参照して実施形態について詳しく説明したが、具体的な構成は上述のものに限られることはなく、要旨を逸脱しない範囲内において様々な設計変更等をすることが可能である。
1 :符号化装置
2 :復号装置
100 :ブロック分割部
110 :減算部
120 :変換・量子化部
121 :変換部
122 :量子化部
130 :エントロピー符号化部
140 :逆量子化・逆変換部
141 :逆量子化部
142 :逆変換部
150 :合成部
160 :メモリ
170 :予測部
171 :インター予測部
172 :イントラ予測部
173 :切替部
200 :エントロピー復号部
210 :逆量子化・逆変換部
211 :逆量子化部
212 :逆変換部
220 :合成部
230 :メモリ
240 :予測部
241 :インター予測部
242 :イントラ予測部
243 :切替部
1720 :DM決定部
1721 :変換パラメータ特定部
1722 :モード決定部
2420 :DM決定部
2421 :変換パラメータ特定部
2422 :モード決定部
2 :復号装置
100 :ブロック分割部
110 :減算部
120 :変換・量子化部
121 :変換部
122 :量子化部
130 :エントロピー符号化部
140 :逆量子化・逆変換部
141 :逆量子化部
142 :逆変換部
150 :合成部
160 :メモリ
170 :予測部
171 :インター予測部
172 :イントラ予測部
173 :切替部
200 :エントロピー復号部
210 :逆量子化・逆変換部
211 :逆量子化部
212 :逆変換部
220 :合成部
230 :メモリ
240 :予測部
241 :インター予測部
242 :イントラ予測部
243 :切替部
1720 :DM決定部
1721 :変換パラメータ特定部
1722 :モード決定部
2420 :DM決定部
2421 :変換パラメータ特定部
2422 :モード決定部
Claims (4)
- 画像を構成する輝度信号及び色差信号を分割して生成した輝度ブロック及び色差ブロックを符号化する符号化装置であって、
符号化された輝度ブロックに適用されたイントラ予測モードと、当該輝度ブロックに適用された変換処理の変換パラメータと、に基づいて、当該輝度ブロックに対応する色差ブロックに適用するイントラ予測モードを決定するモード決定部を備えることを特徴とする符号化装置。 - 画像を構成する輝度信号及び色差信号を分割して生成した輝度ブロック及び色差ブロックを復号する復号装置であって、
復号された輝度ブロックに適用されたイントラ予測モードと、当該輝度ブロックに適用された変換処理の変換パラメータと、に基づいて、当該輝度ブロックに対応する色差ブロックに適用するイントラ予測モードを決定するモード決定部を備えることを特徴とする復号装置。 - コンピュータを請求項1に記載の符号化装置として機能させることを特徴とするプログラム。
- コンピュータを請求項2に記載の復号装置として機能させることを特徴とするプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2023202659A JP7531683B2 (ja) | 2019-12-10 | 2023-11-30 | 符号化装置、復号装置、及びプログラム |
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019223203A JP7396883B2 (ja) | 2019-12-10 | 2019-12-10 | 符号化装置、復号装置、及びプログラム |
JP2023202659A JP7531683B2 (ja) | 2019-12-10 | 2023-11-30 | 符号化装置、復号装置、及びプログラム |
Related Parent Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019223203A Division JP7396883B2 (ja) | 2019-12-10 | 2019-12-10 | 符号化装置、復号装置、及びプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2024020588A JP2024020588A (ja) | 2024-02-14 |
JP7531683B2 true JP7531683B2 (ja) | 2024-08-09 |
Family
ID=76311099
Family Applications (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019223203A Active JP7396883B2 (ja) | 2019-12-10 | 2019-12-10 | 符号化装置、復号装置、及びプログラム |
JP2023202659A Active JP7531683B2 (ja) | 2019-12-10 | 2023-11-30 | 符号化装置、復号装置、及びプログラム |
Family Applications Before (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019223203A Active JP7396883B2 (ja) | 2019-12-10 | 2019-12-10 | 符号化装置、復号装置、及びプログラム |
Country Status (1)
Country | Link |
---|---|
JP (2) | JP7396883B2 (ja) |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2018121284A (ja) | 2017-01-27 | 2018-08-02 | 日本放送協会 | イントラ予測器、画像符号化装置、画像復号装置およびプログラム |
-
2019
- 2019-12-10 JP JP2019223203A patent/JP7396883B2/ja active Active
-
2023
- 2023-11-30 JP JP2023202659A patent/JP7531683B2/ja active Active
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2018121284A (ja) | 2017-01-27 | 2018-08-02 | 日本放送協会 | イントラ予測器、画像符号化装置、画像復号装置およびプログラム |
Non-Patent Citations (3)
Title |
---|
Gagan Rath, Fabrice Urban, and Fabien Racape,CE3-related: DM-dependent chroma intra prediction modes,Joint Video Experts Team (JVET) of ITU-T SG 16 WP 3 and ISO/IEC JTC 1/SC 29/WG 11,JVET-M0100,13th Meeting: Marrakech, MA,2019年01月,pp.1-5 |
Narae Choi, Min Woo Park, and Kiho Choi,CE3: DM-based chroma intra prediction modes (Test 3.5),Joint Video Experts Team (JVET) of ITU-T SG 16 WP 3 and ISO/IEC JTC 1/SC 29/WG 11,JVET-M0203-v5,13th Meeting: Marrakech, MA,2019年01月,pp.1-4 |
Yanzhuo Ma, et al.,CE3-related: Chroma intra candidates modification based on directional DM,Joint Video Experts Team (JVET) of ITU-T SG 16 WP 3 and ISO/IEC JTC 1/SC 29/WG 11,JVET-M0213-v2,13th Meeting: Marrakech, MA,2019年01月,pp.1-3 |
Also Published As
Publication number | Publication date |
---|---|
JP2024020588A (ja) | 2024-02-14 |
JP2021093634A (ja) | 2021-06-17 |
JP7396883B2 (ja) | 2023-12-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11695955B2 (en) | Image encoding device, image decoding device and program | |
JP7047777B2 (ja) | 画像データ符号化及び復号化 | |
JP2023168518A (ja) | 予測ブロック生成装置、画像符号化装置、画像復号装置、及びプログラム | |
WO2019189904A1 (ja) | イントラ予測装置、画像符号化装置、画像復号装置、及びプログラム | |
JP2024144780A (ja) | 予測装置、画像符号化装置、画像復号装置、及びプログラム | |
JP2023071949A (ja) | イントラ予測装置、画像復号装置、及びプログラム | |
JP2024053019A (ja) | 符号化装置、復号装置、及びプログラム | |
KR20230098729A (ko) | 부호화 장치, 복호 장치, 및 프로그램 | |
JP2023138826A (ja) | イントラ予測装置、画像符号化装置、画像復号装置、及びプログラム | |
JP7441638B2 (ja) | 符号化装置、復号装置、及びプログラム | |
JP7531683B2 (ja) | 符号化装置、復号装置、及びプログラム | |
JP7219030B2 (ja) | 色差イントラ予測候補生成装置、画像符号化装置、画像復号装置、及びプログラム | |
JP7361498B2 (ja) | イントラ予測装置、画像符号化装置、画像復号装置、及びプログラム | |
JP2021129148A (ja) | 予測装置、符号化装置、復号装置、及びプログラム | |
JP7542709B2 (ja) | 復号装置及びプログラム | |
JP7444599B2 (ja) | イントラ予測装置、画像符号化装置、画像復号装置、及びプログラム | |
WO2021132404A1 (ja) | 符号化装置、復号装置、及びプログラム | |
JP2024051178A (ja) | インター予測装置、画像符号化装置、画像復号装置、及びプログラム | |
JP2024087084A (ja) | イントラ予測装置、画像復号装置、及びプログラム | |
CN114830641A (zh) | 图像编码方法和图像解码方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20231130 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20240723 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20240730 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7531683 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |