Nothing Special   »   [go: up one dir, main page]

JP6514307B2 - Video coding apparatus and method - Google Patents

Video coding apparatus and method Download PDF

Info

Publication number
JP6514307B2
JP6514307B2 JP2017233661A JP2017233661A JP6514307B2 JP 6514307 B2 JP6514307 B2 JP 6514307B2 JP 2017233661 A JP2017233661 A JP 2017233661A JP 2017233661 A JP2017233661 A JP 2017233661A JP 6514307 B2 JP6514307 B2 JP 6514307B2
Authority
JP
Japan
Prior art keywords
block
motion vector
prediction
available
coding
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017233661A
Other languages
Japanese (ja)
Other versions
JP2018074603A (en
Inventor
沙織 浅香
沙織 浅香
中條 健
健 中條
昭行 谷沢
昭行 谷沢
豪毅 安田
豪毅 安田
直史 和田
直史 和田
隆志 渡辺
隆志 渡辺
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Original Assignee
Toshiba Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp filed Critical Toshiba Corp
Priority to JP2017233661A priority Critical patent/JP6514307B2/en
Publication of JP2018074603A publication Critical patent/JP2018074603A/en
Application granted granted Critical
Publication of JP6514307B2 publication Critical patent/JP6514307B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Compression Or Coding Systems Of Tv Signals (AREA)

Description

本発明は、符号化及び復号済み画像から動きベクトルを求め動き補償予測を行う動画像符号化装置及び動画像復号化装置に関する。   The present invention relates to a moving picture coding apparatus and a moving picture decoding apparatus for obtaining a motion vector from an encoded and decoded image and performing motion compensation prediction.

動画像の符号化に用いられる技術の一つとして、動き補償予測がある。動き補償予測では、動画像符号化装置において新たに符号化しようとする符号化対象画像と、既に得られている局所復号画像を用いて動きベクトルを求め、この動きベクトルを用いて動き補償を行うことにより予測画像を生成する。   Motion-compensated prediction is one of the techniques used for coding moving pictures. In motion compensation prediction, a motion vector is obtained using a coding target image to be newly coded in a video coding device and a locally decoded image that has already been obtained, and motion compensation is performed using this motion vector. Thus, a predicted image is generated.

動き補償予測において動きベクトルを求める方法の一つとして、既符号化済みブロックの動きベクトルから導出した符号化対象ブロックの動きベクトルを用いて、予測画像を生成するダイレクトモードがある(日本特許第4020789号及び米国特許第7233621号を参照)。ダイレクトモードでは、動きベクトルを符号化しないため、動きベクトル情報の符号量を削減することができる。ダイレクトモードは、H.264/AVCにおいて採用されている。   As one of methods for obtaining a motion vector in motion compensation prediction, there is a direct mode in which a predicted image is generated using a motion vector of an encoding target block derived from a motion vector of an already encoded block (Japanese Patent No. 4020789) And U.S. Patent No. 7,233,621). In the direct mode, since the motion vector is not encoded, the code amount of the motion vector information can be reduced. The direct mode is based on H. Adopted in H.264 / AVC.

ダイレクトモードでは、符号化対象ブロックの動きベクトルを予測生成する際に、符号化対象ブロックに隣接する符号化済みブロックの動きベクトルのメディアン値から動きベクトルを算出するという固定された方法で動きベクトルを生成する。そのため、動きベクトル算出の自由度が低い。また、前述の自由度を上げるため、複数の符号化済みブロックから1つを選択する動きベクトルの算出方法を用いた場合、選択した符号化済みブロックを示すためには、常に当該ブロックの位置を動きベクトル選択情報として送らなければならない。このため、符号量増加を招く。   In the direct mode, when the motion vector of the encoding target block is predicted and generated, the motion vector is calculated using a fixed method of calculating the motion vector from the median value of the motion vector of the encoded block adjacent to the encoding target block. Generate Therefore, the degree of freedom of motion vector calculation is low. When the motion vector calculation method of selecting one of a plurality of encoded blocks is used to increase the degree of freedom described above, the position of the block is always selected to indicate the selected encoded block. It must be sent as motion vector selection information. This leads to an increase in code amount.

本発明は、符号化済みブロックから1つを選択して動きベクトル算出の自由度を高めつつ、動きベクトル選択情報の付加情報を削減する動画像符号化装置及び動画像復号化装置を提供することを目的とする。   The present invention provides a moving picture coding apparatus and a moving picture decoding apparatus which reduce additional information of motion vector selection information while selecting one of encoded blocks to increase the freedom of motion vector calculation. With the goal.

本発明の一態様は、動画像を動き補償予測符号化する動画像符号化装置であり、符号化対象ブロックに隣接する符号化済みブロックから、動きベクトルを持つブロックである利用可能ブロック及び前記利用可能ブロックの数を求める取得部と、符号化済みブロック前記利用可能ブロックから、1つの選択ブロックを選択する選択部と、前記利用可能ブロックの数に応じた符号表を用いて、前記選択ブロックを特定する選択情報を符号化する選択情報符号化部と、前記選択ブロックが有する動きベクトルを用いて、前記符号化対象ブロックを動き補償予測符号化する画像符号化部とを備える動画像符号化装置を提供する。   One aspect of the present invention is a moving picture coding apparatus for performing motion compensation predictive coding on a moving picture, which is an available block which is a block having a motion vector from a coded block adjacent to a coding target block and the use The selected block is obtained using an acquisition unit for obtaining the number of possible blocks, a selection unit for selecting one selected block from the encoded blocks and the available blocks, and a code table according to the number of available blocks. A moving image coding apparatus comprising: a selection information coding unit for coding selection information to be specified; and an image coding unit for performing motion compensation prediction coding on the coding target block using a motion vector of the selected block. I will provide a.

本発明の他の態様は、動画像を動き補償予測復号する動画像復号化装置であり、復号対象ブロックに隣接し、動きベクトルを持つ既復号ブロックである利用可能ブロックの数に応じて符号表を切り替えて、選択情報を復号する選択情報復号部と、前記利用可能ブロックから、前記選択情報復号部により復号された選択情報によって示される1つの動きベクトルを選択する動きベクトル選択部と、前記動きベクトル選択部で選択された動きベクトルを用いて復号化対象画像を動き補償予測復号する画像復号部とを具備する動画像復号化装置を提供する。   Another aspect of the present invention is a moving picture decoding apparatus that performs motion compensation prediction decoding on a moving picture, and is a code table according to the number of available blocks that are adjacent to a current block to be decoded and have a motion vector. A selection information decoding unit that decodes selection information by switching the motion information selection unit; a motion vector selection unit that selects one motion vector indicated by the selection information decoded by the selection information decoding unit from the available blocks; Provided is a moving picture decoding apparatus including: an image decoding unit that performs motion compensation predictive decoding on a decoding target image using a motion vector selected by a vector selection unit.

本発明の実施形態に係る動画像符号化装置のブロック図Block diagram of a video encoding apparatus according to an embodiment of the present invention 動画像符号化装置の処理手順を示すフローチャートFlow chart showing processing procedure of moving picture coding apparatus 取得部/選択部の処理手順を示すフローチャートFlow chart showing processing procedure of acquisition unit / selection unit ブロックサイズによる判別方法について説明する図Diagram explaining how to determine by block size ブロックサイズによる判別方法について説明する図Diagram explaining how to determine by block size ブロックサイズによる判別方法について説明する図Diagram explaining how to determine by block size 単方向又は双方向予測による判別方法について説明する図Diagram explaining the discrimination method by unidirectional or bidirectional prediction 選択情報符号化部の処理手順を示すフローチャートFlow chart showing the processing procedure of the selection information coding unit 選択情報のインデクスの一例An example of selection information index 選択情報の符号表の一例Example of code list of selection information シンタクス構造の概略Outline of syntax structure マクロブロックレイヤーのデータ構造Macroblock layer data structure 本発明の実施形態に係る動画像復号化装置のブロック図Block diagram of moving picture decoding apparatus according to an embodiment of the present invention 動画像復号化装置の処理手順を示すフローチャートFlowchart showing processing procedure of moving picture decoding apparatus

以下、本発明の実施形態について図面を参照して説明する。   Hereinafter, embodiments of the present invention will be described with reference to the drawings.

図1を参照して一実施形態に係る動画像符号化装置について説明する。減算器101は入力動画像信号11と予測画像信号15との差分を計算し、予測誤差信号12を出力するように構成される。減算器101の出力端は直交変換器102及び量子化器103を介して可変長符号化器111に接続される。直交変換器102は減算器101からの予測誤差信号12を直交変換し、直交変換係数を生成し、量子化器103は直交変換係数を量子化し、量子化直交変換係数情報13を出力する。可変長符号化器111は量子化器103からの量子化直交変換係数情報13を可変長符号化する。   A moving picture coding apparatus according to an embodiment will be described with reference to FIG. The subtractor 101 is configured to calculate a difference between the input moving image signal 11 and the predicted image signal 15 and to output a prediction error signal 12. The output terminal of the subtractor 101 is connected to the variable-length encoder 111 via the orthogonal transformer 102 and the quantizer 103. The orthogonal transformer 102 orthogonally transforms the prediction error signal 12 from the subtractor 101 to generate orthogonal transformation coefficients, and the quantizer 103 quantizes the orthogonal transformation coefficients and outputs quantized orthogonal transformation coefficient information 13. The variable-length encoder 111 performs variable-length encoding on the quantized orthogonal transform coefficient information 13 from the quantizer 103.

量子化器103の出力端は逆量子化器104及び逆直交変換器105を介して加算器106に接続される。逆量子化器104は量子化直交変換係数情報13を逆量子化して、直交変換係数に変換する。逆直交変換器105は直交変換係数を予測誤差信号に変換する。加算器106は逆直交変換器105の予測誤差信号と予測画像信号15とを加算して、局部復号画像信号14を生成する。加算器105の出力端はフレームメモリ107を介して動き補償予測器108に接続される。   The output end of the quantizer 103 is connected to the adder 106 via the inverse quantizer 104 and the inverse orthogonal transformer 105. The inverse quantizer 104 inversely quantizes the quantized orthogonal transformation coefficient information 13 into orthogonal transformation coefficients. The inverse orthogonal transformer 105 converts the orthogonal transformation coefficient into a prediction error signal. The adder 106 adds the prediction error signal of the inverse orthogonal transformer 105 and the prediction image signal 15 to generate a local decoded image signal 14. The output of the adder 105 is connected to the motion compensation predictor 108 via the frame memory 107.

フレームメモリ107は局部復号画像信号14を蓄積する。設定部114は符号化対象ブロックの動き補償予測モード(予測モード)を設定する。予測モードは、1枚の参照画像を用いる単方向予測と、2枚の参照画像を用いる双方向予測とを含む。単方向予測はAVCのL0予測およびL1予測を含む。動き補償予測器108は予測器109と取得部/選択部110とを備えている。取得部/選択部110は符号化対象ブロックに隣接する符号化済みブロックから、動きベクトルを持つブロックである利用可能ブロック及び前記利用可能ブロックの数を求め、利用可能ブロックから、1つの選択ブロックを選択する。動き補償予測器108はフレームメモリ107から局部復号画像信号14と入力動画像信号11とから予測画像信号15を生成する。取得部/選択部110は符号化対象ブロックに隣接する隣接ブロックから1つのブロック(選択ブロック)を選択する。例えば、隣接ブロックのうち適切な動きベクトルを持つブロックが、選択ブロックとして選ばれる。取得部/選択部110は、選択ブロックが有する動きベクトルを動き補償予測に用いる動きベクトル16として選択し、予測器109に送る。また、取得部/選択部110は選択ブロックの選択情報17を生成し、可変長符号化器111に送る。   The frame memory 107 stores the local decoded image signal 14. The setting unit 114 sets a motion compensation prediction mode (prediction mode) of the current block. The prediction mode includes unidirectional prediction using one reference image and bidirectional prediction using two reference images. Unidirectional prediction includes AVC L0 prediction and L1 prediction. The motion compensation predictor 108 includes a predictor 109 and an acquisition unit / selection unit 110. The acquisition unit / selection unit 110 obtains an available block that is a block having a motion vector and the number of the available blocks from the encoded block adjacent to the encoding target block, and selects one selected block from the available blocks. select. The motion compensation predictor 108 generates a predicted image signal 15 from the frame memory 107 from the local decoded image signal 14 and the input moving image signal 11. The acquisition unit / selection unit 110 selects one block (selected block) from adjacent blocks adjacent to the current block. For example, a block having an appropriate motion vector among adjacent blocks is selected as a selection block. The acquisition unit / selection unit 110 selects the motion vector of the selected block as the motion vector 16 used for motion compensation prediction, and sends the motion vector to the predictor 109. In addition, the acquisition unit / selection unit 110 generates selection information 17 of the selected block and sends it to the variable-length encoder 111.

可変長符号化器111は、選択情報符号化部112を有する。選択情報符号化部112は、符号化済みブロック利用可能ブロックの数と等しい数のエントリーをコード表に持つように符号表を切り替えながら、選択情報17を可変長符号化する。利用可能ブロックとは、符号化対象ブロックに隣接する符号化済みブロックのうち、動きベクトルを持つブロックである。多重化器(マルチプレクサ)113は符号化された量子化直交変換係数情報及び選択情報を多重化し、符号化データを出力する。   The variable-length encoder 111 has a selection information encoder 112. The selection information coding unit 112 performs variable-length coding of the selection information 17 while switching the code table so that the code table has the same number of entries as the number of encoded block available blocks. The available block is a block having a motion vector among encoded blocks adjacent to the encoding target block. A multiplexer (multiplexer) 113 multiplexes the encoded quantization orthogonal transformation coefficient information and selection information, and outputs encoded data.

上記構成の動画像符号化装置の作用を図2のフローチャートを参照して説明する。   The operation of the moving picture coding apparatus with the above configuration will be described with reference to the flowchart of FIG.

まず、予測誤差信号12が生成される(S11)。この予測誤差信号12の生成においては、動きベクトルが選択され、選択された動きベクトルを用いて予測画像が生成される。この予測画像の信号、即ち予測画像信号15と入力動画像信号11との差分が減算器101により計算されることにより、予測誤差信号12が生成される。   First, the prediction error signal 12 is generated (S11). In the generation of the prediction error signal 12, a motion vector is selected, and a prediction image is generated using the selected motion vector. A prediction error signal 12 is generated by the subtractor 101 calculating the difference between the signal of the predicted image, that is, the predicted image signal 15 and the input moving image signal 11.

予測誤差信号12に対して直交変換器102により直交変換が施され、直交変換係数が生成される(S12)。直交変換係数は、量子化器103により量子化される(S13)。量子化された直交変換係数情報は、逆量子化器104により逆量子化され(S14)、その後、逆直交変換器105により逆直交変換され、再生された予測誤差信号を得る(S15)。加算器106では、再生された予測誤差信号と予測画像信号15が加算されることによって、局部復号画像信号14が生成される(S16)。局部復号画像信号14はフレームメモリ107に(参照画像として)蓄積され(S17)、フレームメモリ107から読み出される局部復号画像信号は、動き補償予測器108に入力される。   The orthogonal transformation unit 102 performs orthogonal transformation on the prediction error signal 12 to generate orthogonal transformation coefficients (S12). The orthogonal transformation coefficient is quantized by the quantizer 103 (S13). The quantized orthogonal transformation coefficient information is dequantized by the dequantizer 104 (S14), and then inverse orthogonal transformed by the inverse orthogonal transformer 105 to obtain a reproduced prediction error signal (S15). The adder 106 adds the reproduced prediction error signal and the prediction image signal 15 to generate the local decoded image signal 14 (S16). The local decoded image signal 14 is stored in the frame memory 107 (as a reference image) (S17), and the local decoded image signal read from the frame memory 107 is input to the motion compensation predictor 108.

動き補償予測器108の予測器109は、局部復号画像信号(参照画像)を動きベクトル16を用いて動き補償予測して、予測画像信号15を生成する。予測画像信号15は、入力動画像信号11との差分をとるために減算器101に送られ、さらに局部復号画像信号14を生成するために加算器106にも送られる。   The predictor 109 of the motion compensation predictor 108 performs motion compensation prediction of the local decoded image signal (reference image) using the motion vector 16 to generate a predicted image signal 15. The predicted image signal 15 is sent to the subtractor 101 to obtain a difference from the input moving image signal 11, and also sent to the adder 106 to generate the local decoded image signal 14.

取得部/選択部110は、動き補償予測に用いる1つの動きベクトルを隣接ブロックから選択し、選択した動きベクトル16を予測器109に送り、選択情報17を生成する。選択情報17は、選択情報符号化部112に送られる。動きベクトルを隣接ブロックから選択する際には、符号量が小さくなるような適切な動きベクトルを選択することができる。   The acquisition unit / selection unit 110 selects one motion vector to be used for motion compensation prediction from adjacent blocks, sends the selected motion vector 16 to the predictor 109, and generates selection information 17. The selection information 17 is sent to the selection information coding unit 112. When selecting a motion vector from an adjacent block, an appropriate motion vector can be selected such that the code amount is small.

量子化器103により量子化された直交変換係数情報13は、可変長符号化器111にも入力され、可変長符号化が施される(S18)。取得部/選択部110からは、動き補償予測に用いられた選択情報16が出力され、選択情報符号化部112に入力される。選択情報符号化部112では、符号化対象ブロックに隣接し、動きベクトルを持つ符号化済みブロックである利用可能ブロックの数と等しい数のエントリーをコード表に持つように符号表が切り替えられ、選択情報17が可変長符号化される。可変長符号化器111からの量子化直交変換係数情報及び選択情報が多重化器113によって多重化され、符号化データ18のビットストリームが出力される(S19)。符号化データ18は、図示しない蓄積系あるいは伝送路へ送出される。   The orthogonal transformation coefficient information 13 quantized by the quantizer 103 is also input to the variable-length encoder 111 and subjected to variable-length encoding (S18). The selection information 16 used for motion compensation prediction is output from the acquisition unit / selection unit 110, and is input to the selection information coding unit 112. The selection information coding unit 112 switches the code table so that the code table has a number of entries equal to the number of available blocks adjacent to the current block and is a coded block having a motion vector. The information 17 is variable-length encoded. The quantization orthogonal transformation coefficient information and selection information from the variable-length encoder 111 are multiplexed by the multiplexer 113, and a bit stream of the encoded data 18 is output (S19). The encoded data 18 is sent to a storage system or a transmission line (not shown).

図2のフローチャートにおいて、ステップS14〜S17のフローとステップS18及びS19のフローは置き換えることができる。即ち、量子化ステップS13に次いで可変長符号化ステップS18及び多重化ステップS19が行われ、多重化ステップS19に対で逆量子化ステップS14〜記憶ステップS17を行うことができる。   In the flowchart of FIG. 2, the flow of steps S14 to S17 and the flow of steps S18 and S19 can be replaced. That is, the variable length coding step S18 and the multiplexing step S19 can be performed after the quantization step S13, and the inverse quantization step S14 to the storage step S17 can be performed in pair at the multiplexing step S19.

次に、図3に示すフローチャートを用いて取得部/選択部110の作用について説明する。   Next, the operation of the acquisition unit / selection unit 110 will be described using the flowchart shown in FIG.

まず、フレームメモリ107を参照して、符号化対象ブロックに隣接する、動きベクトルを持った符号化済みブロックである利用可能ブロック候補を探索する(S101)。利用可能ブロック候補が探索されると、これら利用可能ブロック候補の動き補償予測のブロックサイズが判別される(S102)。次に、利用可能ブロック候補が単方向又は双方向予測かが判別される(S103)。判別結果と符号化対象ブロックの予測モードに基づいて、利用可能ブロック候補の中から利用可能ブロックを抽出する。抽出された利用可能ブロックの中から1つの選択ブロックを選択し、選択ブロックを特定する情報を選択情報として求める(S104)。   First, referring to the frame memory 107, an available block candidate which is an encoded block having a motion vector and is adjacent to the encoding target block is searched (S101). When available block candidates are searched, the block size of motion compensation prediction of these available block candidates is determined (S102). Next, it is determined whether the available block candidate is unidirectional or bidirectional prediction (S103). Based on the determination result and the prediction mode of the current block, an available block is extracted from the available block candidates. One selected block is selected from the extracted available blocks, and information specifying the selected block is obtained as selection information (S104).

次に、図4A〜4Cを参照してブロックサイズの判別(S102)について説明する。   Next, block size determination (S102) will be described with reference to FIGS. 4A to 4C.

本実施形態で用いる隣接ブロックは、符号化対象ブロック符号化対象ブロックの左、左上、上、右上に位置するブロックとする。そのため、符号化対象ブロックがフレームの一番左上に位置する場合は、符号化対象ブロックに隣接する利用可能ブロックはないため、この符号化対象ブロックには本発明は適用できない。符号化対象ブロックが画面の上端にある場合、利用可能ブロックは左の1ブロックのみとなり、符号化対象ブロックが画面の左端であり、かつ右端でない場合、利用可能ブロックは符号化対象ブロックの上、右上の2ブロックとなる。   The adjacent block used in the present embodiment is a block located on the left, upper left, upper, upper right of the coding target block. Therefore, when the encoding target block is located at the top left of the frame, the present invention can not be applied to the encoding target block because there is no available block adjacent to the encoding target block. When the encoding target block is at the top of the screen, the available block is only one left block, and when the encoding target block is the left end of the screen and not the right end, the available block is on the encoding target block, It becomes 2 blocks on the upper right.

マクロブロックサイズが16x16サイズの場合、隣接ブロックの動き補償予測のブロックサイズは、図4A〜4Cに示されるように16x16サイズ、16x8サイズ、8x16サイズ、8x8サイズの4種類がある。これら4種類を考慮した際に、利用可能ブロックに成り得る隣接ブロックは、図4A〜4Cに示すような20種類となる。即ち、図4Aに示される16x16サイズで4種類、図4Bに示される16x8サイズ及び8x16サイズで10種類、図4Cに示される8x8サイズで6種類となる。ブロックサイズの判別(S102)では、これら20種類のブロックの中からブロックサイズに応じて、利用可能ブロックを探索する。例えば、利用可能ブロックのサイズを16x16のみとした場合、このブロックサイズで判定された利用可能ブロックは、図4Aに示すように16x16サイズの4種類のブロックである。即ち、利用可能ブロックは、符号化対象ブロックの左上側のブロックと、符号化対象ブロックの上側のブロックと、符号化対象ブロックの左側のブロックと、符号化対象ブロックの右上側のブロックである。また、マクロブロックサイズが16x16サイズ以上に拡張された場合についても、マクロブロックサイズが16x16サイズの場合と同様に利用可能ブロックと成り得る。例えば、マクロブロックサイズが32x32サイズの場合、隣接ブロックの動き補償予測のブロックサイズは、32x32サイズ、32x16サイズ、16x32サイズ、16x16サイズの4種類があり、利用可能ブロックに成り得る隣接ブロックは20種類となる。   When the macroblock size is 16x16, there are four block sizes of motion compensation prediction of adjacent blocks, as shown in FIGS. 4A to 4C, 16x16, 16x8, 8x16, and 8x8. When these four types are considered, there are 20 types of adjacent blocks that can be available blocks as shown in FIGS. 4A to 4C. That is, there are four types at 16x16 size shown in FIG. 4A, ten types at 16x8 size and 8x16 size shown in FIG. 4B, and six types at 8x8 size shown in FIG. 4C. In the block size determination (S102), available blocks are searched from among these 20 types of blocks according to the block size. For example, when the size of the available block is 16x16 only, the available blocks determined with this block size are four types of 16x16 sized blocks as shown in FIG. 4A. That is, the available blocks are the block on the upper left side of the block to be coded, the block above the block to be coded, the block on the left side of the block to be coded, and the block on the upper right side of the block to be coded. Also, even when the macroblock size is expanded to 16 × 16 or more, it can be an available block as in the case of the macroblock size of 16 × 16. For example, when the macroblock size is 32x32, there are four types of motion compensated prediction of adjacent blocks: 32x32, 32x16, 16x32, 16x16, and 20 types of adjacent blocks can be available blocks. It becomes.

次に、図5を参照して取得部/選択部110によって行われる、単方向又は双方向予測の判別(S103)について、例を挙げて説明する。   Next, determination of unidirectional or bidirectional prediction (S103) performed by the acquisition unit / selection unit 110 with reference to FIG. 5 will be described using an example.

例えば、ブロックサイズを16x16に制限し、符号化対象ブロックに対し、隣接するブロックの単方向又は双方向予測が図5に示すような場合であったとする。単方向又は双方向予測の判別(S103)では、予測の方向に応じて利用可能ブロックを探索する。例えば、予測方向L0を含む隣接ブロックを予測方向で判定された利用可能ブロックとする。即ち、図5(a)に示される、符号化対象ブロックの上、左、右上のブロックが予測方向で判定された利用可能ブロックとなる。この場合、符号化対象ブロックの左上のブロックは使用されない。予測方向L1を含む隣接ブロックを予測方法で判定された利用可能ブロックとすると、図5(b)に示される、符号化対象ブロックの左上及び上のブロックが予測方向で判定された利用可能ブロックとなる。この場合、符号化対象ブロックの左及び右上のブロックは使用されない。予測方向L0/L1を含む隣接ブロックを予測方法で判定された利用可能ブロックとすると、図5(c)に示される、符号化対象ブロックの上のブロックのみが予測方向で判定された利用可能ブロックとなる。この場合、符号化対象ブロックの左、左上及び右上のブロックは使用されない。なお、予測方向L0(L1)は、AVCにおけるL0予測(L1予測)の予測方向に対応する。   For example, it is assumed that the block size is limited to 16 × 16, and uni-directional or bi-directional prediction of an adjacent block is as shown in FIG. In the determination of unidirectional or bidirectional prediction (S103), available blocks are searched according to the direction of prediction. For example, an adjacent block including the prediction direction L0 is an available block determined in the prediction direction. That is, the upper left, upper right blocks of the coding target block shown in FIG. 5A are available blocks determined in the prediction direction. In this case, the upper left block of the current block is not used. Assuming that an adjacent block including the prediction direction L1 is an available block determined by the prediction method, the upper left and upper blocks of the current block to be encoded shown in FIG. 5 (b) are the available blocks determined in the prediction direction. Become. In this case, the left and upper right blocks of the current block are not used. Assuming that the adjacent block including the prediction direction L0 / L1 is the available block determined by the prediction method, the available block shown in FIG. 5C, in which only the block above the coding target block is determined in the prediction direction It becomes. In this case, the left, upper left and upper right blocks of the current block are not used. The prediction direction L0 (L1) corresponds to the prediction direction of L0 prediction (L1 prediction) in AVC.

次に、図6に示すフローチャートを参照して選択情報符号化部112について説明する。   Next, the selection information coding unit 112 will be described with reference to the flowchart shown in FIG.

符号化対象ブロックに隣接する隣接ブロックの中から、動きベクトルを持った符号化済みブロックである利用可能ブロックを探索し、ブロックサイズ及び単方向又は双方向予測で判定された利用可能ブロック情報を取得する(S201)。この利用可能ブロック情報を用いて、図8に示されるような利用可能ブロックの数に応じた符号表の切り替えを行う(S202)。切り替えられた符号表を用いて、取得部/選択部110より送られた選択情報17を可変長符号化する(S203)。   Among the adjacent blocks adjacent to the current block to be encoded, search for available blocks which are already encoded blocks having motion vectors, and obtain available block information determined by block size and unidirectional or bidirectional prediction To do (S201). Using the available block information, the code table is switched according to the number of available blocks as shown in FIG. 8 (S202). The selection information 17 sent from the acquisition unit / selection unit 110 is variable-length encoded using the switched code table (S203).

次に、図7を参照して選択情報のインデクスの一例を説明する。   Next, an example of the index of the selection information will be described with reference to FIG.

図7(a)に示すように利用可能ブロックがない場合、本発明はこのブロックに適用不可能なため、選択情報は送らない。図7(b)に示すように利用可能ブロックが1つの場合、符号化対象ブロックの動き補償に用いる利用可能ブロックの動きベクトルは一意に決まるため、選択情報は送らない。図7(c)に示すように利用可能ブロックが2つの場合、インデクス0または1の選択情報を送る。図7(d)に示すように利用可能ブロックが3つの場合、インデクス0、1または2の選択情報を送る。図7(e)に示すように利用可能ブロックが4つの場合、インデクス0、1、2または3の選択情報を送る。   If there is no available block as shown in FIG. 7 (a), no selection information is sent since the present invention is not applicable to this block. As shown in FIG. 7B, when there is one available block, the selection vector is not sent because the motion vector of the available block used for motion compensation of the current block is uniquely determined. As shown in FIG. 7C, when there are two available blocks, selection information of index 0 or 1 is sent. As shown in FIG. 7D, when there are three available blocks, selection information of index 0, 1 or 2 is sent. As shown in FIG. 7E, when there are four available blocks, selection information of index 0, 1, 2 or 3 is sent.

また、利用可能ブロックのインデクスのつけ方の一例として、符号化対象ブロックの左、左上、上、右上の順に、利用可能ブロックにインデクスをつけた例を図7に示す。即ち、使用されないブロックを除いて使用されるブロックに対して連番でインデックスをつける。   Further, as an example of indexing of usable blocks, FIG. 7 shows an example in which usable blocks are indexed in the order of left, upper left, upper and upper right of the coding target block. That is, the blocks to be used except for the blocks not used are indexed sequentially.

次に、図8を用いて選択情報17の符号表について説明をする。   Next, the code table of the selection information 17 will be described with reference to FIG.

選択情報符号化部112では、利用可能ブロックの数に応じて符号表の切替を行う(S202)。前述したとおり、選択情報17を符号化する必要があるのは、利用可能ブロックが2つ以上の場合である。   The selection information coding unit 112 switches the code table in accordance with the number of available blocks (S202). As described above, the selection information 17 needs to be encoded when there are two or more available blocks.

まず、利用可能ブロックが2つの場合は、インデクスは0と1が必要となり、符号表は図8の左側に示す表となる。利用可能ブロックが3つの場合は、インデクスは0,1,2が必要となり、符号表は図8の中央に示す表となる。利用可能ブロックが4つの場合は、インデクスは0,1,2,3が必要となり、符号表は図8の右側に示す表となる。これらの符号表が利用可能ブロックの数に応じて切り替えられる。   First, in the case where there are two available blocks, the index needs 0 and 1 and the code table is the one shown on the left side of FIG. In the case of three available blocks, the index needs 0, 1, 2 and the code table is the one shown in the center of FIG. If there are four available blocks, the index needs 0, 1, 2, 3 and the code table is as shown on the right side of FIG. These codebooks are switched according to the number of available blocks.

次に、選択情報の符号化方法について説明する。   Next, an encoding method of selection information will be described.

図9に本実施の形態で用いられるシンタクスの構造の概略を示す。シンタクスは主に3つのパートから成り、High Level Syntax801はスライス以上の上位レイヤのシンタクス情報が詰め込まれている。Slice Level Syntax804では、スライス毎に必要な情報が明記されており、Macroblock Level Syntax807では、マクロブロック毎に必要とされる可変長符号化された誤差信号やモード情報などが明記されている。   FIG. 9 shows an outline of the structure of syntax used in the present embodiment. The syntax mainly consists of three parts, and High Level Syntax 801 is packed with syntax information of upper layers above slices. In Slice Level Syntax 804, information necessary for each slice is described, and in Macroblock Level Syntax 807, a variable-length encoded error signal and mode information required for each macroblock are specified.

これらシンタックスはそれぞれさらに詳細なシンタクスで構成されており、High Level Syntax801では、Sequence parameter set syntax802とPicture parameter set syntax803などのシーケンス、ピクチャレベルのシンタクスから構成されている。Slice Level Syntax804では、Slice header syntax405、Slice data syntax406などから成る。さらに、Macroblock Level Syntax807は、macroblock layer syntax808、macroblock prediction syntax809などから構成されている。   Each of these syntaxes is configured in more detailed syntax, and the High Level Syntax 801 is composed of a sequence such as Sequence parameter set syntax 802 and Picture parameter set syntax 803, and syntax of picture level. The Slice Level Syntax 804 includes Slice header syntax 405, Slice data syntax 406, and the like. Furthermore, Macroblock Level Syntax 807 is configured of macroblock layer syntax 808, macroblock prediction syntax 809, and the like.

本実施の形態で必要となるシンタクス情報は、macroblock layer syntax808であり、シンタクスを以下で説明する。   The syntax information required in the present embodiment is macroblock layer syntax 808, and the syntax will be described below.

図10(a)(b)に示されるavailable_block_numは、利用可能ブロックの数を示しており、これが2以上の場合は、選択情報の符号化が必要となる。また、mvcopy_flagは動き補償予測において利用可能ブロックの動きベクトルを使用するかどうかを示すフラグであり、利用可能ブロックが1以上であり、且つこのフラグが1の場合、動き補償予測において利用可能ブロックの動きベクトルを使用することができる。さらに、mv_select_infoは選択情報を示しており、符号表は前述したとおりである。   Available_block_num shown in FIGS. 10 (a) and 10 (b) indicates the number of available blocks, and if this is 2 or more, it is necessary to encode selection information. Also, mvcopy_flag is a flag indicating whether or not to use the motion vector of the available block in motion compensated prediction, and when the available block is 1 or more and this flag is 1, the available block of motion compensated prediction is Motion vectors can be used. Furthermore, mv_select_info indicates selection information, and the code table is as described above.

図10(a)は、mb_typeの後に選択情報を符号化する場合のシンタックスを示している。例えばブロックサイズが16x16のみの場合、mb_typeが16x16以外ならばmvcopy_flag及びmv_select_infoは符号化する必要がない。mb_typeが16x16ならばmvcopy_flag及びmv_select_infoを符号化する。   FIG. 10A shows a syntax in the case of encoding selection information after mb_type. For example, when the block size is only 16x16, mvcopy_flag and mv_select_info do not need to be encoded unless mb_type is 16x16. If mb_type is 16x16, mvcopy_flag and mv_select_info are encoded.

図10(b)は、mb_typeの前に選択情報を符号化する場合のシンタックスを示している。例えばmvcopy_flagが1であるならば、mb_typeを符号化する必要はない。mv_copy_flagが0ならば、mb_typeを符号化する。   FIG. 10 (b) shows the syntax in the case of encoding selection information before mb_type. For example, if mvcopy_flag is 1, it is not necessary to encode mb_type. If mv_copy_flag is 0, encode mb_type.

本実施の形態では、符号化のスキャン順についてはどのような順序でも構わない。例えば、ラインスキャンやZスキャンなどに対しても、本発明は適応可能である。   In the present embodiment, any order may be used for the scan order of encoding. For example, the present invention is also applicable to line scan and Z scan.

図11を参照して他の実施形態に係る動画像復号化装置について説明する。   A moving picture decoding apparatus according to another embodiment will be described with reference to FIG.

図1の動画像符号化装置から出力される符号化データ18が蓄積系または伝送系を経て復号対象の符号化データ21として動画像復号化装置の逆多重化器201に入力される。逆多重化器(デマルチプレクサ)201は符号化データ21を逆多重化し、符号化データ21を量子化直交変換係数情報及び選択情報に分離する。逆多重化器201の出力端は可変長復号化器202に接続される。可変長復号化器202は量子化直交変換係数情報及び選択情報を復号する。可変長復号化器202の出力端は逆量子化器204及び逆直交変換器205を加算器206に接続される。逆量子化器204は量子化直交変換係数情報を逆量子化し、直交変換係数に変換する。逆直交変換器205は直交変換係数を逆直交変換し、予測誤差信号に生成する。加算器206は予測誤差信号を予測画像生成器207からの予測画像信号に加算し、動画像信号を生成する。   The encoded data 18 output from the moving picture encoding apparatus of FIG. 1 is input to the demultiplexer 201 of the moving picture decoding apparatus as encoded data 21 to be decoded via a storage system or a transmission system. A demultiplexer 201 demultiplexes the coded data 21 and separates the coded data 21 into quantized orthogonal transform coefficient information and selection information. The output of the demultiplexer 201 is connected to a variable length decoder 202. The variable length decoder 202 decodes the quantized orthogonal transform coefficient information and the selection information. An output end of the variable length decoder 202 is connected to the inverse quantizer 204 and the inverse orthogonal transformer 205 to the adder 206. The inverse quantizer 204 inversely quantizes the quantized orthogonal transformation coefficient information and converts it into orthogonal transformation coefficients. The inverse orthogonal transformer 205 inverse orthogonal transforms the orthogonal transform coefficients to generate a prediction error signal. The adder 206 adds the prediction error signal to the prediction image signal from the prediction image generator 207 to generate a moving image signal.

予測画像生成器207は予測器208と選択部209とを含む。選択部209は可変長復号化器202の選択情報復号化器203によって復号された選択情報23によって動きベクトルを選択し、選択動きベクトル25を予測器208に送る。予測器208はフレームメモリ210に蓄積された参照画像を動きベクトル25によって動き補償し、予測画像を生成する。   The predicted image generator 207 includes a predictor 208 and a selection unit 209. The selection unit 209 selects a motion vector according to the selection information 23 decoded by the selection information decoder 203 of the variable-length decoder 202, and sends the selected motion vector 25 to the predictor 208. The predictor 208 motion compensates the reference image stored in the frame memory 210 with the motion vector 25 to generate a predicted image.

上記構成の動画像復号化装置の作用を図12のフローチャートを参照して説明する。   The operation of the moving picture decoding apparatus with the above configuration will be described with reference to the flowchart of FIG.

符号化データ21は逆多重化器201により逆多重化され(S31)、可変長復号化器202によって復号され、量子化直交変換係数情報22が生成される(S32)。また、選択情報復号化器203によって、復号対象ブロックに隣接する隣接ブロックの状態が調査され、動きベクトルを持つ隣接する符号化済みブロックである利用可能ブロックの数に応じて符号化装置の選択情報符号化部112と同様にして、符号表を図8のように切り替えて復号される。これにより、選択情報23が出力される(S33)。   The encoded data 21 is demultiplexed by the demultiplexer 201 (S31), and is decoded by the variable-length decoder 202 to generate quantized orthogonal transform coefficient information 22 (S32). Also, the state of the adjacent block adjacent to the current block is examined by the selection information decoder 203, and the selection information of the encoding apparatus according to the number of available blocks which are adjacent encoded blocks having a motion vector. Similar to the coding unit 112, the code table is switched as shown in FIG. 8 and decoded. Thus, the selection information 23 is output (S33).

可変復号化器202から出力される情報である、量子化された直交変換係数情報22は逆量子化器204に、選択情報復号部203から出力される情報である、選択情報23は選択部209にそれぞれ送られる。   The quantized orthogonal transformation coefficient information 22, which is information output from the variable decoder 202, is information output from the selection information decoding unit 203 to the dequantizer 204, and the selection information 23 is a selection unit 209. Sent to

量子化直交変換係数情報22は逆量子化器204によって逆量子化され(S34)、その後、逆直交変換器205により逆直交変換される(S35)。これにより、予測誤差信号24が得られる。加算器206では予測誤差信号24に予測画像信号が加算されることにより、動画像信号26が再生される(S36)。再生される動画像信号27は、フレームメモリ210に蓄積される(S37)。   The quantized orthogonal transform coefficient information 22 is dequantized by the dequantizer 204 (S34), and then inverse orthogonal transformed by the inverse orthogonal transformer 205 (S35). Thereby, a prediction error signal 24 is obtained. The adder 206 adds the predicted image signal to the prediction error signal 24 to reproduce the moving image signal 26 (S36). The moving image signal 27 to be reproduced is stored in the frame memory 210 (S37).

予測画像生成器207では、復号化された選択情報23によって選択された、復号対象ブロックに隣接し動きベクトルを持つ既復号化ブロックである利用可能ブロックの動きベクトルを用いて、予測画像26を生成する。選択部209では、隣接ブロックの状態を調査し、隣接ブロックの利用可能ブロック情報と選択情報復号部203で復号された選択情報23から、動き補償予測に用いる動きベクトルを符号化装置の取得部/選択部110と同様にして隣接ブロックから1つ選択する。この選択された動きベクトル25を用いて、予測器208により予測画像26が生成され、動画像信号27を得るために加算器206に送られる。   The predicted image generator 207 generates a predicted image 26 using the motion vector of the available block which is a decoded block adjacent to the current block to be decoded and has a motion vector, which is selected by the decoded selection information 23 Do. The selection unit 209 investigates the state of the adjacent block, and from the available block information of the adjacent block and the selection information 23 decoded by the selection information decoding unit 203, a motion vector used for motion compensation prediction is acquired by the acquisition unit Similar to the selection unit 110, one adjacent block is selected. The predicted image 26 is generated by the predictor 208 using the selected motion vector 25, and is sent to the adder 206 to obtain a moving image signal 27.

本発明によれば、利用可能ブロックの数に応じた選択情報を符号化することにより、選択情報を適切な符号化テーブルを用いて送ることができ、選択情報の付加情報を削減することができる。   According to the present invention, by encoding selection information according to the number of available blocks, selection information can be sent using an appropriate encoding table, and additional information of the selection information can be reduced. .

また、利用可能ブロックの動きベクトルを符号化対象ブロックの動き補償予測に用いることにより、動きベクトル情報に関する付加情報を削減できる。   Further, by using the motion vector of the available block for motion compensation prediction of the coding target block, it is possible to reduce the additional information on the motion vector information.

更に、動きベクトル算出方法を固定ではなく、利用可能ブロックから適切な1つを選択することにより、ダイレクトモードに比べ動きベクトル算出の自由度が高くなる。   Furthermore, the motion vector calculation method is not fixed, and by selecting an appropriate one from available blocks, the degree of freedom of motion vector calculation becomes higher than that in the direct mode.

本発明の実施の形態に記載した本発明の手法は、コンピュータによって実行させることができ、また、コンピュータに実行させることのできるプログラムとして、磁気ディスク(フレキシブルディスク、ハードディスクなど)、光ディスク(CD−ROM、DVDなど)、半導体メモリなどの記録媒体に格納して頒布することもできる。   The method of the present invention described in the embodiment of the present invention can be executed by a computer, and as a program that can be executed by a computer, a magnetic disk (flexible disk, hard disk, etc.), an optical disk (CD-ROM) , DVD, etc.), semiconductor memory, etc. can also be stored and distributed.

また、本発明は上記実施形態そのままに限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化できる。また、上記実施形態に開示されている複数の構成要素の適宜な組み合わせにより、種々の発明を形成できる。例えば、実施形態に示される全構成要素から幾つかの構成要素を削除してもよい。さらに、異なる実施形態にわたる構成要素を適宜組み合わせてもよい。   The present invention is not limited to the above embodiment as it is, and in the implementation stage, the constituent elements can be modified and embodied without departing from the scope of the invention. In addition, various inventions can be formed by appropriate combinations of a plurality of constituent elements disclosed in the above embodiment. For example, some components may be deleted from all the components shown in the embodiment. Furthermore, components in different embodiments may be combined as appropriate.

本発明の装置は、通信、蓄積および放送における画像圧縮処理に使用される。   The apparatus of the present invention is used for image compression processing in communication, storage and broadcasting.

Claims (4)

符号化対象ブロックに隣接する符号化済みブロックから、単方向及び双方向の少なくとも1つの予測の方向に応じて、動きベクトルを持つブロックである利用可能ブロックを求める取得部と、
前記利用可能ブロックの動きベクトルを用いて、前記符号化対象ブロックを動き補償予測符号化する画像符号化部と、
を備える動画像符号化装置。
From encoded blocks adjacent to the coding target block, according to the direction of unidirectional and bidirectional least one prediction, an acquisition unit for obtaining an available block is a block having a motion vector,
An image coding unit that performs motion compensation prediction coding on the coding target block using a motion vector of the available block;
A video coding apparatus comprising:
動画像を動き補償予測符号化する動画像符号化方法であり、
符号化対象ブロックに隣接する符号化済みブロックから、単方向及び双方向の少なくとも1つの予測の方向に応じて、動きベクトルを持つブロックである利用可能ブロックを求めること、
前記利用可能ブロックの動きベクトルを用いて、前記符号化対象ブロックを動き補償予測符号化すること、
を備える動画像符号化方法。
A moving picture coding method for performing motion compensation predictive coding on a moving picture,
From encoded blocks adjacent to the coding target block, according to the direction of unidirectional and bidirectional least one prediction, determining an available block is a block having a motion vector,
Motion-compensated predictive coding of the current block using the motion vector of the available block,
A moving picture coding method comprising:
復号化対象ブロックに隣接する復号化済みブロックから、単方向及び双方向の少なくとも1つの予測の方向に応じて、動きベクトルを持つブロックである利用可能ブロックを求める取得部と、
前記利用可能ブロックの動きベクトルを用いて、前記復号化対象ブロックを動き補償予測復号化する画像復号部と、
を備える動画像復号化装置。
An obtaining unit for obtaining an available block that is a block having a motion vector according to at least one of unidirectional and bidirectional prediction from a decoded block adjacent to a decoding target block;
An image decoding unit that performs motion compensation prediction decoding on the decoding target block using a motion vector of the available block;
A video decoding apparatus comprising:
動画像を動き補償予測復号する動画像復号化方法であり、
復号化対象ブロックに隣接する復号化済みブロックから、単方向及び双方向の少なくとも1つの予測の方向に応じて、動きベクトルを持つブロックである利用可能ブロックを求めること、
前記利用可能ブロックの動きベクトルを用いて、前記復号化対象ブロックを動き補償予測復号すること、
を備える動画像復号化方法。
A moving picture decoding method for performing motion compensation predictive decoding on a moving picture,
Determining an available block, which is a block having a motion vector, from the decoded block adjacent to the block to be decoded according to the direction of at least one prediction in one direction and two directions.
Motion compensated predictive decoding of the block to be decoded using the motion vector of the available block;
A moving picture decoding method comprising:
JP2017233661A 2017-12-05 2017-12-05 Video coding apparatus and method Active JP6514307B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2017233661A JP6514307B2 (en) 2017-12-05 2017-12-05 Video coding apparatus and method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017233661A JP6514307B2 (en) 2017-12-05 2017-12-05 Video coding apparatus and method

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2016213586A Division JP6356762B2 (en) 2016-10-31 2016-10-31 Video encoding apparatus and method

Publications (2)

Publication Number Publication Date
JP2018074603A JP2018074603A (en) 2018-05-10
JP6514307B2 true JP6514307B2 (en) 2019-05-15

Family

ID=62115933

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017233661A Active JP6514307B2 (en) 2017-12-05 2017-12-05 Video coding apparatus and method

Country Status (1)

Country Link
JP (1) JP6514307B2 (en)

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004208259A (en) * 2002-04-19 2004-07-22 Matsushita Electric Ind Co Ltd Motion vector calculating method
JP2004023458A (en) * 2002-06-17 2004-01-22 Toshiba Corp Moving picture encoding/decoding method and apparatus
JP3866624B2 (en) * 2002-06-26 2007-01-10 日本電信電話株式会社 Moving picture encoding method, moving picture decoding method, moving picture encoding apparatus, and moving picture decoding apparatus

Also Published As

Publication number Publication date
JP2018074603A (en) 2018-05-10

Similar Documents

Publication Publication Date Title
JP5242784B2 (en) Video encoding apparatus and method
JP5739025B2 (en) Moving picture decoding apparatus and method
JP6109884B2 (en) Moving picture decoding apparatus and method
JP6514307B2 (en) Video coding apparatus and method
JP7431935B2 (en) Video encoding device and video decoding device
JP6608904B2 (en) Video encoding apparatus and method
JP6356762B2 (en) Video encoding apparatus and method
JP5739026B2 (en) Video encoding apparatus and method
JP5784158B2 (en) Video encoding apparatus and method
JP5666028B2 (en) Moving picture decoding apparatus and method
JP5498597B2 (en) Video encoding apparatus and method
JP5547312B2 (en) Moving picture decoding apparatus and method
CA3091657C (en) Video encoding apparatus, video decoding apparatus and related methods

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180828

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180904

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20181024

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190312

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190411

R151 Written notification of patent or utility model registration

Ref document number: 6514307

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151