Nothing Special   »   [go: up one dir, main page]

JP4810298B2 - Image encoding apparatus, encoding method, image decoding apparatus, and decoding method - Google Patents

Image encoding apparatus, encoding method, image decoding apparatus, and decoding method Download PDF

Info

Publication number
JP4810298B2
JP4810298B2 JP2006130882A JP2006130882A JP4810298B2 JP 4810298 B2 JP4810298 B2 JP 4810298B2 JP 2006130882 A JP2006130882 A JP 2006130882A JP 2006130882 A JP2006130882 A JP 2006130882A JP 4810298 B2 JP4810298 B2 JP 4810298B2
Authority
JP
Japan
Prior art keywords
picture
encoding
encoded
pictures
frame
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2006130882A
Other languages
Japanese (ja)
Other versions
JP2007306160A5 (en
JP2007306160A (en
Inventor
敬一 福澤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2006130882A priority Critical patent/JP4810298B2/en
Priority to US11/743,473 priority patent/US8279928B2/en
Priority to CN2007101011770A priority patent/CN101072345B/en
Publication of JP2007306160A publication Critical patent/JP2007306160A/en
Publication of JP2007306160A5 publication Critical patent/JP2007306160A5/ja
Application granted granted Critical
Publication of JP4810298B2 publication Critical patent/JP4810298B2/en
Priority to US13/599,231 priority patent/US20120320977A1/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Television Signal Processing For Recording (AREA)

Abstract

An encoding method and apparatus which include a coded picture that enables special playback to be easily performed while suppressing reduction in coding efficiency are provided. Coding is performed per a certain number of pictures, including pictures for special playback. When coded pictures for special playback using an interframe predictive coding scheme, referencing is limited to coded pictures encoded using an intraframe predictive coding scheme or coded pictures encoded using the interframe predictive coding scheme having the same reference limitation.

Description

本発明は、映像情報、特には動画像情報を符号化する技術及び符号化された動画像情報を復号化する技術に関する。   The present invention relates to a technique for encoding video information, particularly moving picture information, and a technique for decoding the encoded moving picture information.

近年、映像情報に対する高画質化のニーズは高まりつつあり、テレビ放送も従来の720×480画素のSD(標準画質)から、1920×1080画素のHD(高画質)に移行しつつある。   In recent years, there is an increasing need for high image quality for video information, and television broadcasting is also shifting from the conventional SD (standard image quality) of 720 × 480 pixels to HD (high image quality) of 1920 × 1080 pixels.

高画質化によりデータ量が増大するため、一層高能率な符号化アルゴリズムの開発が望まれている。そして、ITU−T SG16やISO/IEC JTC1/SC29/WG11で、フレーム間予測を用いた圧縮符号化方式の標準化作業が進められている。   Since the amount of data increases as a result of higher image quality, development of a more efficient encoding algorithm is desired. In ITU-T SG16 and ISO / IEC JTC1 / SC29 / WG11, standardization work of a compression coding method using interframe prediction is in progress.

現状、最も高能率符号化を実現しているといわれる符号化方式に、H.264/AVC(MPEG−4 PART10)がある。この符号化方式において新たに導入された技術的な特徴の一つは、フレーム間予測符号化に用いる参照画像を、複数のフレームの中から選択可能である点である。つまり、時間的に離れた画像フレームでも、符号化効率の向上が見込まれるのなら参照画像に採用することが可能となる。
しかしながら、このような柔軟な参照画像の選択を許容したことによる高能率符号化の実現は、特殊再生時の問題を提起する(特許文献1参照)。
Currently, H.264 is an encoding method that is said to realize the most efficient encoding. H.264 / AVC (MPEG-4 PART10). One of the technical features newly introduced in this encoding method is that a reference image used for interframe predictive encoding can be selected from a plurality of frames. That is, even an image frame that is separated in time can be adopted as a reference image if an improvement in encoding efficiency is expected.
However, realization of high-efficiency coding by allowing such flexible reference image selection raises a problem during special reproduction (see Patent Document 1).

従来、動画像情報の符号化に広く用いられているMPEG2方式においては、各画像フレームをフレーム内符号化、順方向のフレーム間符号化、双方向のフレーム間符号化のいずれかにより符号化する。そして、符号化フレームを、適用された符号化方式によってIピクチャ、Pピクチャ及びBピクチャと呼ぶ。   Conventionally, in the MPEG2 system widely used for encoding moving image information, each image frame is encoded by either intraframe encoding, forward interframe encoding, or bidirectional interframe encoding. . The encoded frames are referred to as I picture, P picture, and B picture depending on the applied encoding scheme.

MPEG2方式では、Pピクチャの参照画像は直前のIピクチャ又はPピクチャに限定されていた。そのため、IピクチャとPピクチャだけを抜き出し、正しく復号化して再生することが可能であり、例えば高速再生を容易に実現することができた。   In the MPEG2 system, the reference picture of the P picture is limited to the immediately preceding I picture or P picture. Therefore, it is possible to extract only the I picture and the P picture and correctly decode and reproduce them. For example, high-speed reproduction can be easily realized.

しかし、H.264方式では、Pピクチャが複数の画像を参照画像とできるだけでなく、Bピクチャを参照画像とすることも許容している。従って、符号化画像ストリームからIピクチャとPピクチャだけを抜き出して再生しようとした場合、Bピクチャを参照画像としているPピクチャは、正常な復号化を行なうことが困難となる。   However, H. In the H.264 system, not only a P picture can be used as a reference image but also a B picture can be used as a reference picture. Accordingly, when only the I picture and the P picture are extracted from the encoded image stream and reproduced, it is difficult to perform normal decoding on the P picture using the B picture as a reference image.

特許文献1では、高速再生を行なう場合、Iピクチャから次のIピクチャの直前のピクチャまでの間は、Iピクチャから少なくとも1枚目のPピクチャまでの、時間的に連続するフレーム群を復号化する。そして、復号化したフレーム群に含まれるIピクチャとPピクチャのみを再生している。   In Patent Document 1, when performing high-speed playback, a group of temporally continuous frames from an I picture to at least the first P picture is decoded between the I picture and the picture immediately before the next I picture. To do. Only the I picture and P picture included in the decoded frame group are reproduced.

特開2004−328511号公報(段落[0166]、図12及び段落[0187])JP 2004-328511 A (paragraph [0166], FIG. 12 and paragraph [0187])

前述のように、H.264方式では、フレーム間符号化時の参照画像を柔軟に選択可能としたために、特殊再生に利用可能なピクチャは原則としてIピクチャだけとなってしまった。   As mentioned above, H.M. In the H.264 system, since a reference image at the time of interframe coding can be flexibly selected, in principle, only pictures that can be used for special reproduction are I pictures.

なお、特許文献1では、IピクチャからPピクチャまでのピクチャを抜き取れば、IピクチャとPピクチャは復号できるように説明されている。しかし、H.264/AVC標準では、Pピクチャに参照されるBピクチャが、Iピクチャよりもさらに古いピクチャを参照することを許容しているので、Pピクチャが復号化できない可能性もある。特許文献1ではこのような場合の対策については開示していない。   Note that Patent Document 1 describes that if pictures from I picture to P picture are extracted, the I picture and the P picture can be decoded. However, H. In the H.264 / AVC standard, a B picture referred to by a P picture allows a picture older than an I picture to be referenced, and therefore there is a possibility that the P picture cannot be decoded. Patent Document 1 does not disclose a countermeasure for such a case.

特殊再生モード用にIピクチャを多くして符号化することも考えられるが、そうすると符号化効率が下がり、柔軟な参照関係を許容したことにより高能率符号化を実現するH.264方式の特徴を活かせなくなる。   Although it is conceivable that encoding is performed by increasing the number of I pictures for the special playback mode, the encoding efficiency is lowered, and a high-efficiency encoding is realized by allowing a flexible reference relationship. The characteristics of the H.264 system cannot be used.

本発明はこのような従来技術の問題点に鑑みてなされたものであり、符号化効率の低下を抑制しながら、かつ、特殊再生が容易に行える符号化ピクチャを含めながら、動画像情報を符号化可能な符号化装置及び符号化方法を提供することを目的とする。
また、本発明の別の目的は、本発明に係る符号化装置及び符号化方法により符号化された動画像情報を復号化する復号化装置及び復号化方法を提供することにある。
The present invention has been made in view of the above-described problems of the prior art, and encodes moving image information while including a coded picture that can easily perform special reproduction while suppressing a decrease in coding efficiency. It is an object of the present invention to provide an encoding device and an encoding method that can be encoded.
Another object of the present invention is to provide a decoding device and a decoding method for decoding moving picture information encoded by the encoding device and the encoding method according to the present invention.

すなわち、上述の目的は、動画像を構成する各ピクチャを、フレーム内予測符号化方式、フレーム間予測符号化方式のいずれかを用いて符号化する符号化装置であって、各ピクチャに適用する符号化方式を選択する制御手段と、制御手段が選択した符号化方式に基づいて各ピクチャを符号化する符号化手段とを有し、制御手段が、予め定められた周期に対応する各ピクチャに対しては、フレーム内予測符号化方式を選択するかどうかを予め定められた基準に従って判断し、フレーム内予測符号化方式を選択すると判断した場合にはフレーム内予測符号化方式を選択し、フレーム内予測符号化方式を選択しないと判断した場合には参照先画像がフレーム内予測符号化ピクチャ又は予め定められた周期に対応する他のフレーム間予測符号化ピクチャに制限されたフレーム間予測符号化方式を選択し、予め定められた周期に対応しないピクチャのうち、一部のピクチャについては、参照先画像が予め定められた周期に対応する符号化ピクチャに制限されたフレーム間予測符号化方式を選択し、残りのピクチャについては、フレーム内予測符号化方式又は、参照先画像に制限のないフレーム間予測符号化方式のいずれかを選択し、符号化手段が、予め定められた周期に対応するピクチャのうち、参照先画像が制限されたフレーム間予測符号化方式が制御手段によって選択されたピクチャに対しては、所定のサーチ速度による高速再生のときに復号化処理される第1の制限付フレーム間予測符号化ピクチャであることを示す情報を付加し、予め定められた周期に対応しないピクチャのうちの一部のピクチャに対しては、所定のサーチ速度よりも速いサーチ速度による高速再生のときに復号化処理される第2の制限付フレーム間予測符号化ピクチャであることを示す情報を付加することを特徴とする本発明の符号化装置によって達成される。 That is, the above-described object is an encoding apparatus that encodes each picture constituting a moving image using either an intra-frame predictive encoding scheme or an inter-frame predictive encoding scheme, and is applied to each picture. A control unit that selects an encoding method; and an encoding unit that encodes each picture based on the encoding method selected by the control unit. The control unit applies each picture corresponding to a predetermined period to each picture. On the other hand, whether or not to select the intra-frame prediction encoding method is determined according to a predetermined criterion, and when it is determined that the intra-frame prediction encoding method is selected, the intra-frame prediction encoding method is selected, and the frame between the inner predictive coding referenced picture when determining not to select the other corresponding to the period defined in the predictive-coded picture or pre-frame frame prediction coding picture relevant Restricted select predictive coding between frames, out of the picture that does not correspond to a predetermined cycle, for some pictures, limits the coded picture corresponding to the referenced picture predetermined period It has been selected predictive coding scheme between frames, for the remaining pictures, selecting one of the intra-frame predictive coding or inter the referenced image without restrictions frame prediction coding method, coding means However, among pictures corresponding to a predetermined cycle, a picture for which the interframe predictive coding method with a limited reference image is selected by the control means is used for high-speed playback at a predetermined search speed. Information indicating that it is the first limited interframe predictive coded picture to be decoded is added, and one of the pictures not corresponding to a predetermined cycle is added. Characterized in that for the picture, adding information indicating the predictive coded picture between the second restricted frames processed decoded when high-speed reproduction by fast search speed than the predetermined search speed This is achieved by the encoding device of the present invention.

また、上述の目的は、複数のピクチャが符号化された動画像情報を受信し、復号化する復号化装置であって、符号化された動画像情報は、各ピクチャの符号化に用いられた符号化方式を表す情報を含み、予め定められた周期に対応する符号化ピクチャが、フレーム内予測符号化方式で符号化されたフレーム内予測符号化ピクチャと、参照先画像がフレーム内予測符号化ピクチャ又は予め定められた周期に対応する他のフレーム間予測符号化ピクチャに制限されたフレーム間予測符号化方式で符号化された第1の制限付フレーム間予測符号化ピクチャとで構成され、予め定められた周期に対応しない符号化ピクチャのうち、一部の符号化ピクチャが、参照先画像が予め定められた周期に対応する符号化ピクチャに制限されたフレーム間予測符号化方式で符号化された第2の制限付フレーム間予測符号化ピクチャで構成され、残りの符号化ピクチャが、フレーム内予測符号化ピクチャ又は参照先画像が制限されていないフレーム間予測符号化方式で符号化されたフレーム間予測符号化ピクチャ構成され、復号化装置は、符号化された動画像情報から、符号化方式を表す情報を取得する取得手段と、取得手段が取得した符号化方式を表す情報に基づいて、符号化された動画像情報に含まれる符号化ピクチャを復号化する復号化手段と、高速再生の実行指示を検出する検出手段と、検出手段が所定のサーチ速度での高速再生の実行指示を検出した場合には、符号化された動画像情報のうち、フレーム内予測符号化ピクチャと第1の制限付フレーム間予測符号化ピクチャとを復号化手段に復号化させ、検出手段が所定のサーチ速度よりも速いサーチ速度による高速再生の実行指示を検出し場合には、フレーム内予測符号化ピクチャ及び第1の制限付フレーム間予測符号化ピクチャの一部と、第2の制限付フレーム間予測符号化ピクチャとを復号化手段に復号化させる復号制御手段を有することを特徴とする本発明の復号化装置によっても達成される。 In addition, the above-described object is a decoding apparatus that receives and decodes moving picture information in which a plurality of pictures are encoded, and the encoded moving picture information is used for encoding each picture. It includes information indicating a coding method, coding picture corresponding to the predetermined cycle is, the encoded frame prediction coded picture in the intra-frame predictive coding scheme, the referenced picture frame predictive coding It is composed of a first restricted inter-frame predictive coding picture which has been encoded in other inter-frame prediction coded picture in between the restriction frame predictive coding scheme corresponding to the picture or predetermined period, in advance Among the encoded pictures that do not correspond to a predetermined period, an interframe prediction code in which some of the encoded pictures are limited to encoded pictures whose reference destination image corresponds to a predetermined period It consists of the second restricted inter-frame predictive coding picture which has been coded in the manner, the remaining coded picture, inter-frame predictive coding scheme frame prediction coded picture or the referenced image is not limited The decoding apparatus is composed of encoded inter-frame prediction encoded pictures , and the decoding apparatus includes an acquisition unit that acquires information representing an encoding scheme from the encoded moving image information, and an encoding scheme acquired by the acquisition unit A decoding unit that decodes each encoded picture included in the encoded video information, a detection unit that detects a high-speed playback execution instruction, and a detection unit configured to perform a predetermined search speed when detecting an instruction to execute high-speed reproduction, among the video information encoded, the decoding means and predictive coded picture between a first restricted frames and predictive coded picture frame Is Goka, when the detection means detects an instruction to execute high-speed reproduction by fast search speed than the predetermined search speed is one prediction coding picture and the first restricted inter-frame predictive coded picture frames and parts, also achieved by the decoding device of the present invention characterized by having a decoding control means for decrypted the decoding means and the predictive coded picture between the second restricted frame.

また、上述の目的は、動画像を構成する各ピクチャを、フレーム内予測符号化方式、フレーム間予測符号化方式のいずれかを用いて符号化する符号化方法であって、制御手段が、各ピクチャに適用する符号化方式を選択する制御ステップと、符号化手段が、制御ステップで選択された符号化方式に基づいて各ピクチャを符号化する符号化ステップとを有し、制御ステップでは、予め定められた周期に対応する各ピクチャに対しては、フレーム内予測符号化方式を選択するかどうかを予め定められた基準に従って判断し、フレーム内予測符号化方式を選択すると判断した場合にはフレーム内予測符号化方式を選択し、フレーム内予測符号化方式を選択しないと判断した場合には参照先画像がフレーム内予測符号化ピクチャ又は予め定められた周期に対応する他のフレーム間予測符号化ピクチャに制限されたフレーム間予測符号化方式を選択するとともに、予め定められた周期に対応しないピクチャのうち、一部のピクチャについては、参照先画像が予め定められた周期に対応する符号化ピクチャに制限されたフレーム間予測符号化方式を選択し、残りのピクチャについては、フレーム内予測符号化方式又は、参照先画像に制限のないフレーム間予測符号化方式のいずれかを選択し、符号化ステップでは、予め定められた周期に対応するピクチャのうち、参照先画像が制限されたフレーム間予測符号化方式が制御手段によって選択されたピクチャに対しては、所定のサーチ速度による高速再生のときに復号化処理される第1の制限付フレーム間予測符号化ピクチャであることを示す情報を付加し、予め定められた周期に対応しないピクチャのうちの一部のピクチャに対しては、所定のサーチ速度よりも速いサーチ速度による高速再生のときに復号化処理される第2の制限付フレーム間予測符号化ピクチャであることを示す情報を付加することを特徴とする本発明の符号化方法によっても達成される。 The above-described object is an encoding method for encoding each picture constituting a moving image using either an intra-frame predictive encoding method or an inter-frame predictive encoding method. A control step for selecting an encoding scheme to be applied to the picture, and an encoding means for encoding each picture based on the encoding scheme selected in the control step; For each picture corresponding to a predetermined period, whether or not to select an intra-frame predictive coding method is determined according to a predetermined criterion, and if it is determined to select an intra-frame predictive coding method, a frame select inner predictive coding method, circumferential the referenced picture has been determined in predictive-coded picture or pre-frame, if it is determined not to select the intra-frame predictive coding scheme As well as select other Inter frame predictive coding scheme is limited to picture corresponding to, among the picture that does not correspond to a predetermined cycle, for some picture, referenced picture in advance select frame predictive coding scheme is limited to a coded picture corresponding to the prescribed period, for the remaining pictures, intraframe predictive coding or inter no limit to the referenced picture frame predictive coding In the encoding step, among pictures corresponding to a predetermined cycle, an interframe predictive encoding method with a limited reference image is selected for a picture selected by the control means. Is information indicating that it is the first limited inter-frame predictive coded picture that is decoded during high-speed playback at a predetermined search speed. In addition, for some of the pictures that do not correspond to a predetermined period, a second restricted frame that is decoded at the time of high-speed playback at a search speed faster than a predetermined search speed This can also be achieved by the encoding method of the present invention characterized by adding information indicating that the picture is an inter prediction encoded picture .

また、上述の目的は、複数のピクチャが符号化された動画像情報を受信し、復号化する復号化方法であって、符号化された動画像情報は、各ピクチャの符号化に用いられた符号化方式を表す情報を含み、予め定められた周期に対応する符号化ピクチャが、フレーム内予測符号化方式で符号化されたフレーム内予測符号化ピクチャと、参照先画像がフレーム内予測符号化ピクチャ又は予め定められた周期に対応する他のフレーム間予測符号化ピクチャに制限されたフレーム間予測符号化方式で符号化された第1の制限付フレーム間予測符号化ピクチャとで構成され、予め定められた周期に対応しない符号化ピクチャのうち、一部の符号化ピクチャが、参照先画像が予め定められた周期に対応する符号化ピクチャに制限されたフレーム間予測符号化方式で符号化された第2の制限付フレーム間予測符号化ピクチャで構成され、残りの符号化ピクチャが、フレーム内予測符号化ピクチャ又は参照先画像が制限されていないフレーム間予測符号化方式で符号化されたフレーム間予測符号化ピクチャ構成され、復号化方法は、取得手段が、符号化された動画像情報から、符号化方式を表す情報を取得する取得ステップと、復号化手段が、取得ステップが取得した符号化方式を表す情報に基づいて、符号化された動画像情報に含まれる符号化ピクチャを復号化する復号化ステップと、検出手段が、高速再生の実行指示を検出する検出ステップと、再生制御手段が、検出ステップが所定のサーチ速度での高速再生の実行指示を検出した場合には、符号化された動画像情報のうち、フレーム内予測符号化ピクチャと第1の制限付フレーム間予測符号化ピクチャとを復号化ステップで復号化させ、検出ステップが所定のサーチ速度よりも速いサーチ速度による高速再生の実行指示を検出し場合には、フレーム内予測符号化ピクチャ及び第1の制限付フレーム間予測符号化ピクチャの一部と、第2の制限付フレーム間予測符号化ピクチャとを復号化ステップで復号化させる復号制御ステップを有することを特徴とする本発明の復号化方法によっても達成される。 Also, the above-described object is a decoding method for receiving and decoding moving picture information in which a plurality of pictures are encoded, and the encoded moving picture information is used for encoding each picture. It includes information indicating a coding method, coding picture corresponding to the predetermined cycle is, the encoded frame prediction coded picture in the intra-frame predictive coding scheme, the referenced picture frame predictive coding It is composed of a first restricted inter-frame predictive coding picture which has been encoded in other inter-frame prediction coded picture in between the restriction frame predictive coding scheme corresponding to the picture or predetermined period, in advance Among the encoded pictures that do not correspond to a predetermined period, an interframe prediction code in which some of the encoded pictures are limited to encoded pictures whose reference destination image corresponds to a predetermined period It consists of the second restricted inter-frame predictive coding picture which has been coded in the manner, the remaining coded picture, inter-frame predictive coding scheme frame prediction coded picture or the referenced image is not limited It is composed of encoded inter-frame predictive encoded pictures , and the decoding method includes an acquisition step in which an acquisition unit acquires information representing an encoding method from encoded video information, and a decoding unit includes: A decoding step for decoding each encoded picture included in the encoded moving image information based on the information indicating the encoding method acquired in the acquisition step, and a detection means detect an execution instruction for high-speed playback a detection step, when the reproduction control means, the detection step detects an execution instruction for high-speed reproduction at a given search speed, of the moving image information encoded intraframe pre A coded picture and the first inter-restricted-frame predictive coded picture is decoded in the decoding step, when the detecting step detects an execution instruction for the high-speed reproduction by fast search speed than the predetermined search speed has a portion of the predictive coding picture and the first restricted inter-frame predictive coded picture frames, the decoding control step of decrypted by the second decoding step and a restricted inter-frame predictive coded picture This is also achieved by the decoding method of the present invention.

このような構成により、本発明によれば、符号化効率の低下を抑制しながら、特殊再生が容易に行える符号化ピクチャを含めた符号化を行うことが可能な符号化装置及び符号化方法及び、対応する復号化装置及び復号化方法が実現できる。   With such a configuration, according to the present invention, an encoding apparatus, an encoding method, and an encoding method capable of performing encoding including an encoded picture that can easily perform special reproduction while suppressing a decrease in encoding efficiency, and A corresponding decoding device and decoding method can be realized.

以下、図面を参照して本発明をその好適な実施形態に基づいて説明する。
<第1の実施形態>
図2は、本発明の第1の実施形態に係る画像符号化装置かつ画像復号化装置の一例としてのビデオカメラ(VCR)の構成例を示すブロック図である。
Hereinafter, the present invention will be described based on preferred embodiments with reference to the drawings.
<First Embodiment>
FIG. 2 is a block diagram illustrating a configuration example of a video camera (VCR) as an example of an image encoding device and an image decoding device according to the first embodiment of the present invention.

図において、UI処理部10は、スイッチ、ボタン、タッチパネル、ダイヤル等を有し、ユーザがビデオカメラに対して動作指示や設定を行なうために用いられる。UI処理部10に対する操作は、制御部20へ伝えられる。   In the figure, a UI processing unit 10 includes a switch, a button, a touch panel, a dial, and the like, and is used by a user to perform operation instructions and settings for a video camera. An operation on the UI processing unit 10 is transmitted to the control unit 20.

制御部20は例えばマイクロコンピュータであり、例えば内部ROMに記憶された制御プログラムを実行して各部の動作を制御することにより、ビデオカメラ全体を制御する。映像入力部100は、レンズや撮像素子、A/Dコンバータ等を有し、被写体映像をディジタルデータに変換して出力する。符号化処理部200は、映像入力部100からのデジタル画像データを圧縮符号化する。   The control unit 20 is a microcomputer, for example, and controls the entire video camera by executing a control program stored in an internal ROM and controlling the operation of each unit, for example. The video input unit 100 includes a lens, an image sensor, an A / D converter, and the like, converts a subject video into digital data and outputs the digital data. The encoding processing unit 200 compresses and encodes the digital image data from the video input unit 100.

記録処理部300は、符号化処理部200で圧縮符号化されたデジタル画像データを、所定の記録方式でテープ、ディスク或いは半導体メモリ等の記録媒体400に記録する。再生処理部500は、記録媒体400から符号化画像データを読み出す。復号化処理部600は、再生処理部500が読み出した符号化画像データを復号化する。映像出力部700は、LCD等の表示部を有し、復号された画像データや、設定画面等を表示する。   The recording processing unit 300 records the digital image data compressed and encoded by the encoding processing unit 200 on a recording medium 400 such as a tape, a disk, or a semiconductor memory by a predetermined recording method. The reproduction processing unit 500 reads encoded image data from the recording medium 400. The decoding processing unit 600 decodes the encoded image data read by the reproduction processing unit 500. The video output unit 700 includes a display unit such as an LCD, and displays decoded image data, a setting screen, and the like.

このような構成を有するビデオカメラの記録動作について説明する。
ユーザがUI処理部10を介して記録開始を指示すると、制御部20は映像入力部100、符号化処理部200、記録処理部300を制御して記録処理を開始する。記録時、被写体映像は映像入力部100により撮影され、デジタル画像データとして出力される。画像データは、符号化処理部200で符号化され、データ量を圧縮された符号化画像データとして出力される。なお、本実施形態においては、後述する特殊再生用ピクチャの処理も符号化処理部200で行なう。符号化画像データは、記録処理部300で記録媒体400に適応した信号処理が施された後、記録媒体400に記録される。
A recording operation of the video camera having such a configuration will be described.
When the user instructs to start recording via the UI processing unit 10, the control unit 20 controls the video input unit 100, the encoding processing unit 200, and the recording processing unit 300 to start the recording process. At the time of recording, the subject video is captured by the video input unit 100 and output as digital image data. The image data is encoded by the encoding processing unit 200 and output as encoded image data in which the data amount is compressed. In the present embodiment, the encoding processing unit 200 also performs special playback picture processing, which will be described later. The encoded image data is recorded on the recording medium 400 after the recording processing unit 300 performs signal processing suitable for the recording medium 400.

次に、特殊再生動作に関して説明する。ユーザがUI処理部10を介して特殊再生の開始を指示すると、制御部20は再生処理部500、復号化処理部600及び映像出力部700を制御して特殊再生処理を開始する。 Next, the special reproduction operation will be described. When the user instructs the start of special playback via the UI processing unit 10, the control unit 20 controls the playback processing unit 500, the decoding processing unit 600, and the video output unit 700 to start the special playback processing.

再生処理部500は、記録媒体400に記録された符号化画像データの中から、後述する特殊再生ピクチャの符号化画像データを読み出し、復号化処理に適した信号処理を施す。読み出された特殊再生ピクチャの符号化画像データは、復号化処理部600で画像データとして復号される。復号された画像データは逐次映像出力部700で出力され、特殊再生表示が実現される。   The reproduction processing unit 500 reads out encoded image data of a special reproduction picture (to be described later) from the encoded image data recorded on the recording medium 400, and performs signal processing suitable for decoding processing. The encoded image data of the read special reproduction picture is decoded by the decoding processing unit 600 as image data. The decoded image data is sequentially output by the video output unit 700, and special reproduction display is realized.

(符号化処理)
次に、本実施形態の符号化処理部200の構成及び動作について説明する。
図3は、本実施形態の符号化処理部200の構成例を示すブロック図である。
図において、映像入力部100が出力するデジタル画像データは、画像入力部210を介して供給される。減算器212は、入力画像データから、後述する予測画像情報を減算する。変換部(DCT)214は、減算器212の出力する、画像の差分データ(予測誤差データ)に対して4×4の整数直交変換を適用する。
(Encoding process)
Next, the configuration and operation of the encoding processing unit 200 of this embodiment will be described.
FIG. 3 is a block diagram illustrating a configuration example of the encoding processing unit 200 according to the present embodiment.
In the figure, digital image data output from the video input unit 100 is supplied via an image input unit 210. The subtractor 212 subtracts predicted image information described later from the input image data. The transform unit (DCT) 214 applies 4 × 4 integer orthogonal transform to the difference data (prediction error data) of the image output from the subtractor 212.

量子化部(Q)216は、変換部214の出力する変換係数を、所定の量子化スケールで量子化する。エントロピー符号化部(EC)218は、量子化された変換係数に対して、エントロピー符号化処理を行ってデータ圧縮する。   The quantization unit (Q) 216 quantizes the transform coefficient output from the transform unit 214 with a predetermined quantization scale. The entropy encoding unit (EC) 218 performs entropy encoding processing on the quantized transform coefficient to compress the data.

逆量子化部(I−Q)230は量子化された変換係数に対して逆量子化処理を施す。逆変換部(I−DCT)232は、逆量子化された変換係数に逆整数直交変換を行ない、画像の差分データに戻す。加算器234は、復元された画像の差分データに、後述する予測画像データを加算する。   The inverse quantization unit (I-Q) 230 performs an inverse quantization process on the quantized transform coefficient. The inverse transform unit (I-DCT) 232 performs inverse integer orthogonal transform on the inversely quantized transform coefficient and returns the difference data of the image. The adder 234 adds predicted image data to be described later to the restored image difference data.

第1フレームメモリ(FM)236は、後述する予測画像データにより復元された画像データ(局所復号画像データ)を保持する。イントラ予測符号化部(Intra)240は、第1フレームメモリ236に保持された画像データを所定のブロック単位に分割し、各ブロックの画像データをブロック周辺の画素から予測し、予測画像データを生成する。スイッチ部260は、ピクチャ制御部280の制御に従い、イントラ予測符号化部240と後述するインター予測符号化部256の一方の出力を予測画像データとして出力する。   The first frame memory (FM) 236 holds image data (local decoded image data) restored by predicted image data described later. The intra prediction encoding unit (Intra) 240 divides the image data held in the first frame memory 236 into predetermined block units, predicts the image data of each block from pixels around the block, and generates predicted image data. To do. The switch unit 260 outputs one output of the intra prediction encoding unit 240 and an inter prediction encoding unit 256 described later as predicted image data in accordance with the control of the picture control unit 280.

デブロッキングフィルタ(DBF)250は、後述する予測画像データにより復元された画像データに対し、符号化単位ブロックの境界おける不連続性(所謂ブロックノイズ)を補正する。第2フレームメモリ252は、ブロック境界補正処理が行われた復元画像データを、後述する予測画像データの参照画像として利用するために保持する。   The deblocking filter (DBF) 250 corrects discontinuity (so-called block noise) at the boundary of the encoding unit block with respect to image data restored by predictive image data described later. The second frame memory 252 holds the restored image data on which the block boundary correction processing has been performed in order to use it as a reference image of predicted image data described later.

インター予測符号化部256は、画像入力部210から入力される現在の画像データと、第2フレームメモリ252に保持される参照画像とから動き情報を求め、現在の画像データの予測画像データを生成する。ピクチャ制御部280は、ピクチャ(フレーム)毎に、適用する予測符号化方法を決定する。   The inter prediction encoding unit 256 obtains motion information from the current image data input from the image input unit 210 and the reference image stored in the second frame memory 252 and generates predicted image data of the current image data. To do. The picture control unit 280 determines a predictive coding method to be applied for each picture (frame).

次に、符号化動作について説明する。
画像入力部210から入力された画像データは、減算器212で予測画像データを減算され、予測画像データとの差分データが得られる。差分データは、変換部214でDCT等の整数直交変換が施され、周波数成分データに変換される。各周波数成分に対応する変換係数は、量子化部216で所定のステップ幅で量子化される。量子化された変換係数データはエントロピー符号化部218で圧縮符号化される。さらに、エントロピー符号化部218では、後述する予測符号化ピクチャに関する情報も含め、多重化されて圧縮符号化される。
Next, the encoding operation will be described.
The image data input from the image input unit 210 is subtracted from the predicted image data by the subtractor 212 to obtain difference data from the predicted image data. The difference data is subjected to integer orthogonal transformation such as DCT in the transformation unit 214 and transformed into frequency component data. The transform coefficient corresponding to each frequency component is quantized by the quantization unit 216 with a predetermined step width. The quantized transform coefficient data is compression encoded by the entropy encoding unit 218. Furthermore, the entropy encoding unit 218 multiplexes and compresses and encodes information including information related to predictive encoded pictures described later.

次に、予測画像データの処理について説明する。予測画像データは、入力された予測符号化対象画像内を参照するイントラ予測符号化方式による生成方法と、入力された予測符号化対象画像以外を参照するインター予測符号化方式による生成方法がある。   Next, processing of predicted image data will be described. Predictive image data includes a generation method based on an intra-prediction encoding scheme that refers to the input prediction encoding target image, and a generation method based on an inter-prediction encoding scheme that refers to other than the input prediction encoding target image.

まず、イントラ符号化予測方式による予測画像情報の生成方法について説明する。
量子化部216で量子化された変換係数を逆量子化部230で逆量子化し、変換係数を復元する。復元された変換係数は、さらに逆整数直交変換部232で逆整数直交変換を行なうことで、入力画像データと予測画像データとの差分データとして復元される。復元された差分データに対し、加算器234で後述する予測画像データを加算することにより、入力画像の復元画像データ(局所復号画像データ)が得られる。
First, a method for generating predicted image information using an intra-coded prediction method will be described.
The transform coefficient quantized by the quantization unit 216 is inversely quantized by the inverse quantization unit 230 to restore the transform coefficient. The restored transform coefficient is further restored as difference data between the input image data and the predicted image data by performing inverse integer orthogonal transform in the inverse integer orthogonal transform unit 232. By adding predicted image data, which will be described later, to the restored difference data, an adder 234 provides restored image data (local decoded image data) of the input image.

この復元画像データを第1フレームメモリ236に記憶する。そして、この復元画像データに対し、イントラ予測符号化部240を用いてイントラ予測符号化を行なう。具体的には、復元画像データを所定サイズのブロック単位に分割し、各ブロック内の復元画像データを、ブロックの周辺画素値から予測する。予測画像データは、スイッチ部260に送られる。スイッチ部260は後述する制御部280によって制御され、イントラ予測符号化方式による予測画像データを出力する場合には、制御部280がスイッチ260cに260aを選択させる。
このイントラ予測符号化方式による予測画像データは、スイッチ部260から減算器212や加算器234に送られ、予測画像差分データと復元画像データの生成に使われる。
The restored image data is stored in the first frame memory 236. Then, intra prediction encoding is performed on the restored image data using the intra prediction encoding unit 240. Specifically, the restored image data is divided into blocks of a predetermined size, and the restored image data in each block is predicted from the peripheral pixel values of the block. The predicted image data is sent to the switch unit 260. The switch unit 260 is controlled by a control unit 280, which will be described later, and when outputting predicted image data based on the intra prediction encoding method, the control unit 280 causes the switch 260c to select 260a.
Predicted image data by this intra prediction encoding method is sent from the switch unit 260 to the subtractor 212 and the adder 234, and is used to generate predicted image difference data and restored image data.

次に、インター予測符号化方式による予測画像データ生成方法について説明する。
加算器234で復元画像データを得るまでは上述した通りであるため、説明を省略する。加算器234で得られた復元画像データは、後述するブロック単位の境界におけるデータの不連続性(ブロックひずみ)を排除するために、デブロッキングフィルタ部250に送られる。デブロッキングフィルタ部250では、ブロック境界に隣接する画素データに対して所定のフィルタ処理を施し、ブロック境界のデータの不連続性を抑圧する。ただし、デブロッキングフィルタはオプションであり、復元画像データにおけるブロックひずみが十分に少ないと判断されるときは、フィルタ処理を行わなくてもよい。
Next, a prediction image data generation method using the inter prediction encoding method will be described.
The process until the restored image data is obtained by the adder 234 is the same as described above, and a description thereof will be omitted. The restored image data obtained by the adder 234 is sent to the deblocking filter unit 250 in order to eliminate data discontinuity (block distortion) at a block unit boundary, which will be described later. The deblocking filter unit 250 performs predetermined filter processing on the pixel data adjacent to the block boundary, and suppresses discontinuity of the data on the block boundary. However, the deblocking filter is an option, and when it is determined that the block distortion in the restored image data is sufficiently small, the filtering process may not be performed.

フィルタ処理された復元画像データは、第2フレームメモリ252に記憶する。なお、第2フレームメモリ252は複数フレーム(ピクチャ)分の復元画像データを保持可能な容量を有する。   The restored restored image data is stored in the second frame memory 252. The second frame memory 252 has a capacity capable of holding restored image data for a plurality of frames (pictures).

インター予測符号化部256では、画像入力部210から供給される予測符号化対象の入力画像と、第2フレームメモリ252に記憶された複数の復元画像データとの相関をブロック単位で求める。そして、符号化対象ブロックと、復元画像データ中のブロックのうち相関が最も高いブロックとの相対位置関係を動き情報として検出する。さらに、この動き情報と、復元画像データに基づく予測画像データとを生成する。   The inter prediction encoding unit 256 obtains a correlation between the input image to be predicted encoding supplied from the image input unit 210 and a plurality of restored image data stored in the second frame memory 252 in units of blocks. Then, the relative positional relationship between the encoding target block and the block having the highest correlation among the blocks in the restored image data is detected as motion information. Further, the motion information and predicted image data based on the restored image data are generated.

生成されたインター予測符号化方式による予測画像データは、スイッチ部260に送られる。スイッチ部260は後述する制御部280によって制御され、インター予測符号化方式による予測画像データを出力する場合には、制御部280がスイッチ260cに260bを選択させる。
このインター予測符号化方式による予測画像データは、スイッチ部260から減算器212や加算器234に送られ、予測画像差分データと復元画像データの生成に使われる。
The generated prediction image data by the inter prediction encoding method is sent to the switch unit 260. The switch unit 260 is controlled by a control unit 280, which will be described later. When outputting predicted image data based on the inter prediction encoding method, the control unit 280 causes the switch 260c to select 260b.
Predicted image data by this inter prediction encoding method is sent from the switch unit 260 to the subtractor 212 and the adder 234, and is used to generate predicted image difference data and restored image data.

制御部280は、予測符号化方式を選択する所定の方法によって、イントラ予測符号化方式(I)の場合は、スイッチ260cを260aに、インター予測符号化方式(P,B)の場合は、スイッチ260cを260bに接続する。   The control unit 280 switches the switch 260c to 260a in the case of the intra-prediction coding method (I), and switches to 260a in the case of the inter-prediction coding method (P, B) according to a predetermined method for selecting the prediction coding method. Connect 260c to 260b.

さらに、制御部280は、インター予測符号化方式の場合は、インター予測符号化部256に対して、前方予測インター予測符号化方式(前方予測方式:P)か双方向予測インター符号化方式(双方向予測方式:B)かの指示をピクチャ単位に生成する。   Furthermore, in the case of the inter prediction encoding method, the control unit 280 makes a forward prediction inter prediction coding method (forward prediction method: P) or a bi-directional prediction inter coding method (both for the inter prediction coding unit 256). The direction prediction method: B) is generated for each picture.

前方予測方式とは、予測符号化に用いる参照画像データを、表示順で符号化対象ピクチャより前の1枚の画像から復元された復元画像データに制限するインター予測符号化方式である。一方、双方向予測方式は、このような表示順に関する制限がなく、最大2枚の画像から復元された復元画像データを参照して、予測符号化することが可能である。
制御部280においてピクチャ単位で選択された予測符号化方式(I,P,B)は、エントロピー符号化部218に送られ、符号化データに多重化される。
The forward prediction method is an inter prediction coding method in which reference image data used for predictive coding is limited to restored image data restored from one image before the encoding target picture in display order. On the other hand, the bi-directional prediction method is not limited with respect to such display order, and can be predictively encoded with reference to restored image data restored from a maximum of two images.
The predictive coding scheme (I, P, B) selected in units of pictures in the control unit 280 is sent to the entropy coding unit 218 and multiplexed into the coded data.

本実施形態においては、説明の簡略化のため、予測符号化方式をピクチャ単位で選択するものとしているが、画素ブロック単位で異なる予測符号化方式を適用することも可能である。例えば、Pピクチャを構成する画素ブロックに対しては、イントラ予測方式か前方予測方式が、Bピクチャを構成する画素ブロックに対してはイントラ予測方式、前方予測方式および双方向予測方式のいずれかを選択することができる。   In the present embodiment, for simplification of description, the predictive encoding method is selected in units of pictures, but different predictive encoding methods can be applied in units of pixel blocks. For example, an intra prediction method or a forward prediction method is used for a pixel block that forms a P picture, and an intra prediction method, a forward prediction method, or a bidirectional prediction method is used for a pixel block that forms a B picture. You can choose.

このような符号化方式の対応付けにより、IピクチャはIピクチャの符号化データのみから復号が可能となり、PピクチャはPピクチャの符号化データと1枚の参照画像の符号化データがあれば、復号可能となる。   With this encoding scheme association, an I picture can be decoded only from encoded data of an I picture, and a P picture has encoded data of a P picture and encoded data of one reference image. Decoding is possible.

以下、本実施形態における、予測符号化方式の選択方法に関して説明する。
図5は、図2の符号化処理部200に入力される符号化対象ピクチャと、H.264符号化方式で許容される参照関係の例を説明する概念図である。
Hereinafter, a method for selecting a predictive coding method in the present embodiment will be described.
FIG. 5 shows a picture to be encoded input to the encoding processing unit 200 in FIG. 2 is a conceptual diagram illustrating an example of a reference relationship allowed in the H.264 encoding scheme. FIG.

図5において、I、P、Bは前述したイントラ予測符号化ピクチャ(Iピクチャ)、前方予測符号化ピクチャ(Pピクチャ)、双方向予測符号化ピクチャ(Bピクチャ)をそれぞれ表し、図の左側のピクチャから順に図2の符号化処理部200に入力される。入力順は復号化された後の表示順に等しい。   In FIG. 5, I, P, and B represent the aforementioned intra prediction coded picture (I picture), forward predictive coded picture (P picture), and bidirectional predictive coded picture (B picture), respectively. The pictures are input to the encoding processing unit 200 in FIG. 2 in order from the picture. The input order is equal to the display order after decoding.

本実施形態においては、Iピクチャが15ピクチャ間隔で設定されている。Iピクチャを最低1枚含む複数の符号化ピクチャ群を、グループオブピクチャ(GOP)と呼び、別に管理する。図5において、B0〜P14の15枚のピクチャからなるピクチャ群1000がひとつのGOPである。   In this embodiment, I pictures are set at intervals of 15 pictures. A plurality of coded picture groups including at least one I picture are called a group of pictures (GOP) and managed separately. In FIG. 5, a picture group 1000 consisting of 15 pictures B0 to P14 is one GOP.

前述したように、Iピクチャは、Iピクチャの符号化データのみを用いて復号することが可能である。従って、各GOPでIピクチャの位置を管理しておけば、符号化データの中からIピクチャの符号化データを取り出し復号することが可能であり、本実施形態では15ピクチャ間隔での復号表示が可能となる。各GOPから抜き出して復号したIピクチャを通常のフレームレートで表示すれば、15倍速相当の特殊再生表示を実現することができる。   As described above, an I picture can be decoded using only encoded data of the I picture. Therefore, if the position of the I picture is managed in each GOP, the encoded data of the I picture can be extracted from the encoded data and decoded. In this embodiment, the decoded display is performed at intervals of 15 pictures. It becomes possible. If the I picture extracted from each GOP and decoded is displayed at a normal frame rate, special reproduction display equivalent to 15 × speed can be realized.

また、図5において、I、P、Bに続く数字0〜14は、GOP単位での、図2の符号化処理部200に入力する順を示している。
さらに、図中の矢印は、インター予測符号化ピクチャ(PピクチャあるいはBピクチャ)が用いる参照画像データを示している。すなわち、本例において、ピクチャP5は、前GOPのピクチャP14を参照している。ピクチャP11は、ピクチャP5を参照している。ピクチャP8は、ピクチャI2を参照している。ピクチャP14は、ピクチャP8を参照している。一方、ピクチャB0はピクチャP14とB1を参照している。ピクチャB1はピクチャP14とI2を参照している。
In FIG. 5, numerals 0 to 14 following I, P, and B indicate the order of input to the encoding processing unit 200 of FIG. 2 in units of GOP.
Furthermore, the arrows in the figure indicate reference image data used by inter prediction coded pictures (P pictures or B pictures). That is, in this example, the picture P5 refers to the picture P14 of the previous GOP. The picture P11 refers to the picture P5. The picture P8 refers to the picture I2. The picture P14 refers to the picture P8. On the other hand, picture B0 refers to pictures P14 and B1. Picture B1 refers to pictures P14 and I2.

このように、H.264方式では、Pピクチャが直近でないIピクチャやPピクチャを参照することも可能であり、さらには、図示していないがBピクチャの参照も許容されている。また、Bピクチャが他のBピクチャを参照したり、直近のIピクチャやPピクチャよりも時間的に離れたピクチャを参照することも許容されている。このような、柔軟な参照ピクチャの選択を許容することで、最も相関の高いピクチャを参照画像として選択することが可能となり、結果として、高能率な符号化を可能としている。   In this way, H.C. In the H.264 system, it is also possible to refer to an I picture or a P picture that is not the closest to the P picture, and further, although not shown, reference to a B picture is allowed. Also, it is allowed for a B picture to refer to another B picture, or to refer to a picture temporally separated from the most recent I picture or P picture. By allowing such flexible reference picture selection, it is possible to select a picture with the highest correlation as a reference image, and as a result, highly efficient encoding is possible.

しかしながら、図5のように自由な参照を許容すると、上述したように、特殊再生時、特には高速再生する場合に弊害が発生する。図5においては1GOPが15ピクチャで構成されているので、15倍速の再生表示は各GOPに含まれるIピクチャのみを復号することにより可能である。しかし、例えば6倍速表示を行う場合には、Pピクチャの復号も必要となる。   However, if free reference as shown in FIG. 5 is allowed, as described above, a harmful effect occurs during special reproduction, particularly when high-speed reproduction is performed. In FIG. 5, since 1 GOP is composed of 15 pictures, 15-times playback / display is possible by decoding only I pictures included in each GOP. However, for example, when displaying at 6 × speed, decoding of a P picture is also necessary.

次に、本実施形態における制御部280が符号化予測方式を選択する原理について、図6を用いて説明する。
図6において、2000及び2001はGOP、2100及び2101はIピクチャ、2200〜2203と2300〜2303はPピクチャを表している。
Next, the principle by which the control unit 280 in the present embodiment selects the encoding prediction method will be described with reference to FIG.
In FIG. 6, 2000 and 2001 represent GOPs, 2100 and 2101 represent I pictures, and 2200 to 2203 and 2300 to 2303 represent P pictures.

ここで、Pピクチャ2200は直近のPピクチャ2300を飛び越して同一GOP2000内のIピクチャ2100を参照している。また、Pピクチャ2201は直近のPピクチャ2301を飛び越して同一GOP2000内のPピクチャ2200を参照している。さらに、Pピクチャ2202は同一GOP2001内の直近のIピクチャ2101を参照している。また、Pピクチャ2203は直近のPピクチャ2302を飛び越して同一GOP2001内のPピクチャ2202を参照している。   Here, the P picture 2200 refers to the I picture 2100 in the same GOP 2000 by skipping the latest P picture 2300. The P picture 2201 refers to the P picture 2200 in the same GOP 2000 by skipping the latest P picture 2301. Further, the P picture 2202 refers to the latest I picture 2101 in the same GOP 2001. Also, the P picture 2203 refers to the P picture 2202 in the same GOP 2001 by skipping the latest P picture 2302.

本実施形態によれば、Iピクチャ2100およびPピクチャ2200〜2203は、6ピクチャ毎の等間隔に配置されている。また、これらのピクチャを復号するには、上記ピクチャ2100と2200〜2203に、あとIピクチャ2101を復号すれば全て復号できる参照関係を維持している。本実施形態の場合、6枚毎(5枚おき)に復号可能なピクチャが存在するので、これらのピクチャを抜き出して通常のフレームレートで表示すれば、6倍速再生表示が可能となる。   According to the present embodiment, the I picture 2100 and the P pictures 2200 to 2203 are arranged at equal intervals for every six pictures. Also, in order to decode these pictures, a reference relationship is maintained in which the pictures 2100 and 2200 to 2203 can be decoded by further decoding the I picture 2101. In the present embodiment, since there are pictures that can be decoded every 6 frames (every 5 frames), if these pictures are extracted and displayed at a normal frame rate, 6 × speed playback display is possible.

このように、本実施形態では、高速再生表示に使用する前方予測符号化ピクチャの参照画像を、同一GOP内のIピクチャ、あるいは再生速度に応じた数のピクチャを隔てた前方のPピクチャに制限する。これにより、Iピクチャと、参照先が制限されたPピクチャで構成される等間隔のピクチャの復号を、同一GOP内のIピクチャあるいは等間隔にあるPピクチャの符号化データだけで実現することが可能になる。   As described above, in this embodiment, the reference image of the forward predictive coded picture used for high-speed playback display is limited to an I picture in the same GOP or a forward P picture separated by a number of pictures corresponding to the playback speed. To do. As a result, it is possible to decode an equally-spaced picture composed of an I-picture and a P-picture with a limited reference destination using only encoded data of an I-picture in the same GOP or an equally-spaced P-picture. It becomes possible.

換言すれば、所望の再生速度が実現できるように、Iピクチャと特殊再生用のPピクチャ(参照画像を制限されたPピクチャ)を等間隔で配置することで、任意の再生速度を実現することが可能となる。   In other words, an arbitrary playback speed can be realized by arranging an I picture and a P picture for special playback (a P picture with a limited reference picture) at equal intervals so that a desired playback speed can be realized. Is possible.

次に、図1のフローチャートを用い、本実施形態における符号化処理部200における符号化方式の選択動作について説明する。
まず、符号化時に各ピクチャの符号化方式の選択が開始される。符号化対象ピクチャが符号化処理部200に入力されると(S2401)、入力されたピクチャに対して、イントラ符号化方式を適用するかどうかを、所定の方法で判断する(S2402)。イントラ符号化方式を適用しなければ、H.264方式で行われる通常の方法で、符号化方式を選択する(S2403)。一般的には、入力される最初の2枚のピクチャに対しては双方向予測符号化方式が選択、決定される。
Next, the encoding method selection operation in the encoding processing unit 200 according to this embodiment will be described with reference to the flowchart of FIG.
First, selection of an encoding method for each picture is started at the time of encoding. When an encoding target picture is input to the encoding processing unit 200 (S2401), it is determined by a predetermined method whether or not the intra encoding scheme is applied to the input picture (S2402). If the intra coding method is not applied, the H.264 The encoding method is selected by a normal method performed by the H.264 method (S2403). In general, the bi-directional predictive coding method is selected and determined for the first two pictures to be input.

一方、イントラ符号化方式が選択された場合(S2402)、カウンタ(変数k)を1に初期設定し、入力されたピクチャに対してイントラ符号化処理を行う(S2410)。次のピクチャが符号化処理部に入力されると(S2411)、カウンタ値kが6になっているか否かを判断する(S2413)。k=6でなければ、カウンタ値を1インクリメントして(S2414)、通常行われる所定の方法で符号化方式を選択する(S2415)。選択された符号化方式で符号化処理を行ったあと、符号化処理の終了が指示されているかどうか判断し(S2416)、終了指示がなければ、引き続きピクチャが符号化処理部200に入力される(S2411)。終了指示があれば、符号化処理も終了し、符号化方式の選択も終了する。   On the other hand, when the intra coding method is selected (S2402), the counter (variable k) is initialized to 1 and the intra coding process is performed on the input picture (S2410). When the next picture is input to the encoding processing unit (S2411), it is determined whether or not the counter value k is 6 (S2413). If k = 6 is not satisfied, the counter value is incremented by 1 (S2414), and the encoding method is selected by a predetermined method that is normally performed (S2415). After performing the encoding process with the selected encoding method, it is determined whether or not the end of the encoding process is instructed (S2416). If there is no end instruction, the picture is continuously input to the encoding processing unit 200. (S2411). If there is an end instruction, the encoding process is also ended, and the selection of the encoding method is also ended.

一方、S2413において、カウンタ値k=6である場合、まず、カウンタ値kを1にリセットし(S2420)、S2402と同様にしてIピクチャとするかどうかを判断する(S2421)。Iピクチャとすると判断された場合には、イントラ符号化方式を選択し(S2422)、S2416へ進む。   On the other hand, in S2413, if the counter value k = 6, first, the counter value k is reset to 1 (S2420), and it is determined whether or not the I picture is set in the same manner as S2402 (S2421). If it is determined that the picture is an I picture, an intra coding method is selected (S2422), and the process proceeds to S2416.

S2421でIピクチャとしないと判断された場合、参照先を制限した前方予測符号化方式を選択する(S2423)。すなわち、図6で説明したように、同一GOP内にある、Iピクチャあるいは同様の参照先制限の元に符号化されたPピクチャ(制限されたPピクチャ)を参照画像として用いた前方予測符号化方式を選択する。
なお、制限されたPピクチャの符号化画像データには、制限されたPピクチャであることをメタデータとして多重化する。
If it is determined in S2421 that the picture is not an I picture, a forward predictive coding method with a limited reference destination is selected (S2423). That is, as described with reference to FIG. 6, forward predictive coding using an I picture or a P picture encoded under the same reference destination restriction (a restricted P picture) in the same GOP as a reference picture Select a method.
The encoded image data of the restricted P picture is multiplexed as metadata indicating that it is a restricted P picture.

次に、制限されたPピクチャの再生方法に関して、図4を用いて説明する。
図4は、図2の復号化処理部600の構成例を示すブロック図である。
再生処理部500からの符号化データは、データ入力部610から入力される。また、システム全体の制御部(図2の20)からの復号化処理の指示は、制御入力部611を介して入力される。エントロピー復号化処理部612は、エントロピー符号化された符号化データに対して復号化処理を行ってデータ伸長する。エントロピー復号化処理部612では、符号化データに多重化された動き情報等のメタデータも生成する。
Next, a method for reproducing the restricted P picture will be described with reference to FIG.
FIG. 4 is a block diagram illustrating a configuration example of the decoding processing unit 600 of FIG.
The encoded data from the reproduction processing unit 500 is input from the data input unit 610. In addition, an instruction for decoding processing from the control unit (20 in FIG. 2) of the entire system is input via the control input unit 611. The entropy decoding processing unit 612 performs a decoding process on the entropy-encoded encoded data to decompress the data. The entropy decoding processing unit 612 also generates metadata such as motion information multiplexed on the encoded data.

逆量子化処理部(I−Q)614は、エントロピー復号化処理されたデジタルデータに対し、所定の量子化スケールで逆量子化して整数変換係数を算出する。逆整数変換部(I−DCT)616は、算出された整数変換係数に対して逆整数変換を施し、画像データを復元する。加算器618は復元された画像データに対し、後述する予測画像データを加算する。   The inverse quantization processing unit (IQ) 614 calculates the integer transform coefficient by performing inverse quantization on the digital data subjected to the entropy decoding process with a predetermined quantization scale. The inverse integer transform unit (I-DCT) 616 performs inverse integer transform on the calculated integer transform coefficient to restore the image data. An adder 618 adds predicted image data, which will be described later, to the restored image data.

スイッチ部635は予測方式制御部680により制御され、加算器618の出力(復号された画像データ)を、第3フレームメモリ(FM)636又はデブロッキングフィルタ部(DBF)650のいずれかへ出力する。第3フレームメモリ636は、スイッチ部635から供給される、復号された画像データを保持する。イントラ予測復号化部640は、第3フレームメモリ636に保持された画像データを用いて、復号化処理されるブロックの周辺画素からブロック内の画像データを予測する。スイッチ部660は、予測方式制御部680により制御され、イントラ予測復号化部640又はインター予測復号化部656のいずれかの出力を加算器618へ出力する。 The switch unit 635 is controlled by the prediction method control unit 680, and outputs the output (decoded image data) of the adder 618 to either the third frame memory (FM) 636 or the deblocking filter unit (DBF) 650. . The third frame memory 636 holds the decoded image data supplied from the switch unit 635. The intra prediction decoding unit 640 uses the image data held in the third frame memory 636 to predict the image data in the block from the peripheral pixels of the block to be decoded. The switch unit 660 is controlled by the prediction scheme control unit 680 and outputs the output of either the intra prediction decoding unit 640 or the inter prediction decoding unit 656 to the adder 618.

デブロッキングフィルタ部650は、復号された画像データに対してブロック境界の不連続性を補正する。第4フレームメモリ652は、ブロック境界補正処理が行われた局所復号画像データを参照画像として保持する。   The deblocking filter unit 650 corrects block boundary discontinuity for the decoded image data. The fourth frame memory 652 holds the locally decoded image data that has undergone the block boundary correction processing as a reference image.

インター予測復号化部656は、第4フレームメモリに保持された複数の参照画像と、エントロピー復号化処理で生成された動き情報等のメタデータを用いて、予測画像データを生成する。
予測方式制御部680は、エントロピー復号化処理部612で生成された動き情報等の予測符号化に関するメタデータに従って、ピクチャ単位で予測復号化処理方法を制御する。
The inter prediction decoding unit 656 generates predicted image data using a plurality of reference images held in the fourth frame memory and metadata such as motion information generated by the entropy decoding process.
The prediction scheme control unit 680 controls the prediction decoding processing method on a picture-by-picture basis in accordance with metadata relating to prediction encoding such as motion information generated by the entropy decoding processing unit 612.

図4を参照して、本実施形態における特殊再生処理について説明する。ここでは、特殊再生の例として、上述の符号化処理で生成した符号化データを用いた6倍速再生処理を説明する。   With reference to FIG. 4, the special reproduction process in this embodiment is demonstrated. Here, as an example of special reproduction, a 6 × speed reproduction process using the encoded data generated by the above encoding process will be described.

データ入力部610から入力された符号化データは、エントロピー復号化処理部612でエントロピー復号され、画像データと、符号化データに多重化されたメタデータとに分けられる。メタデータは、動き情報や符号化方式に関する情報を示すデータである。6倍速再生処理を行う場合、メタデータを参照して、Iピクチャあるいは参照先が制限されたPピクチャの画像データのみを復号化する。   The encoded data input from the data input unit 610 is entropy decoded by the entropy decoding processing unit 612, and is divided into image data and metadata multiplexed into the encoded data. Metadata is data indicating information related to motion information and an encoding method. When the 6 × speed reproduction process is performed, only the image data of the I picture or the P picture whose reference destination is limited is decoded with reference to the metadata.

まず、逆量子化部614で、エントロピー復号化された画像データを所定の量子化スケールで逆量子化し、整数変換係数を生成する。この整数変換係数に対して逆整数変換部616で逆整数変換を施すことで、画素データが復元される。復元された画素データは後述する予測画像データを加算器618で加算して、最終的な復号結果である画像データを生成する。この復号画像データは、出力部620から出力される。 First, the inverse quantization unit 614 inversely quantizes the entropy-decoded image data with a predetermined quantization scale to generate integer transform coefficients. The inverse integer transform unit 616 performs inverse integer transform on the integer transform coefficient, thereby restoring the pixel data. The restored pixel data is added with predicted image data, which will be described later, by an adder 618 to generate image data as a final decoding result. The decoded image data is output from the output unit 620 .

また、復号された画像データは、その後の復号化処理で用いられる参照画像データとしてスイッチ部635に送られる。一方、エントロピー復号化処理部612で生成された予測符号化方式に関するメタデータは、予測方式制御部680に送られる。予測方式制御部680では、制御入力部611を介してシステム全体の制御部20から特殊再生の指示を受けているかどうかと、メタデータとに基づいて、スイッチ部635を制御する。   The decoded image data is sent to the switch unit 635 as reference image data used in the subsequent decoding process. On the other hand, the metadata related to the prediction encoding method generated by the entropy decoding processing unit 612 is sent to the prediction method control unit 680. The prediction method control unit 680 controls the switch unit 635 based on whether or not a special reproduction instruction is received from the control unit 20 of the entire system via the control input unit 611 and the metadata.

即ち、特殊再生指示(この場合は6倍速再生指示)がある場合は、メタデータを参照してIピクチャまたは参照先が制限されたPピクチャのみを選別し、Iピクチャの場合はスイッチ635cと635aを接続し、参照先が制限されたPピクチャの場合はスイッチ635cと635bを接続する。これにより、Iピクチャの復号画像は第3フレームメモリ636に格納され、イントラ予測復号化部640が、周辺の復号された画像データから、イントラ予測復号化された予測画像データを生成し、スイッチ部660に送る。Iピクチャの場合、予測方式制御部680の指示によりスイッチ660aと660cが接続され、予測画像データが加算器618に送られる。   That is, when there is a special reproduction instruction (in this case, a 6 × speed reproduction instruction), only the I picture or the P picture whose reference destination is restricted is selected by referring to the metadata. In the case of the I picture, the switches 635c and 635a are selected. Are connected, and switches 635c and 635b are connected in the case of a P picture whose reference destination is restricted. As a result, the decoded picture of the I picture is stored in the third frame memory 636, and the intra prediction decoding unit 640 generates predicted image data that has been intra prediction decoded from the peripheral decoded image data, and the switch unit Send to 660. In the case of an I picture, the switches 660 a and 660 c are connected according to an instruction from the prediction method control unit 680, and predicted image data is sent to the adder 618.

一方、参照先が制限されたPピクチャの場合、復号された画像データはブロック境界補正をデブロッキングフィルタ部650で処理された後、第4フレームメモリ652に保持される。保持された画像データは、参照先が制限された他のPピクチャの参照画像として保持され、このデータと、エントロピー復号化処理部612で生成された予測符号化に関するメタデータとから、インター予測復号化部656が予測画像データを生成する。予測画像データは、スイッチ部660に送られる。スイッチ部660では、予測方式制御部680によりスイッチ660bと660cが接続され、予測画像データは加算器618に送られて画像データの復号化処理に使われる。   On the other hand, in the case of a P picture whose reference destination is restricted, the decoded image data is subjected to block boundary correction by the deblocking filter unit 650 and then held in the fourth frame memory 652. The stored image data is stored as a reference image of another P picture whose reference destination is limited, and inter-prediction decoding is performed from this data and metadata related to predictive encoding generated by the entropy decoding processing unit 612. The generating unit 656 generates predicted image data. The predicted image data is sent to the switch unit 660. In the switch unit 660, the switches 660b and 660c are connected by the prediction method control unit 680, and the predicted image data is sent to the adder 618 and used for the decoding process of the image data.

このように、本実施形態によれば、特殊再生の指示がなされた場合、復号化処理部600はIピクチャあるいは参照先が制限されたPピクチャのみを復号することが可能となり、特殊再生をスムーズに行うことができる。   As described above, according to the present embodiment, when an instruction for special reproduction is given, the decoding processing unit 600 can decode only an I picture or a P picture with a limited reference destination, and smooth special reproduction. Can be done.

また、特殊再生に用いるIピクチャあるいは参照先が制限されたPピクチャは、所定ピクチャ数毎かつ等間隔に含まれるように符号化することで、所定数倍速の特殊再生を容易に実現することが可能となる。   In addition, I pictures used for special reproduction or P pictures with a limited reference destination are encoded so as to be included at equal intervals for every predetermined number of pictures, so that special reproduction at a predetermined multiple speed can be easily realized. It becomes possible.

なお、本実施形態では特殊再生の例として6倍速再生を実現する場合を説明したが、復号化したピクチャを更に間引いて再生することにより、12倍速、18倍速、24倍速等の高速生成が可能であることはいうまでもない。また、Iピクチャと参照先が制限されたPピクチャの出現頻度を増加させて符号化を行えば、2倍速〜5倍速(及びその倍数速)の再生も実現可能であることは容易に理解されよう。さらに、Iピクチャのみを抜き出して再生する従来の特殊再生方法も利用することが可能である。   In this embodiment, the case of realizing 6 × speed playback as an example of special playback has been described. However, by further thinning and playing back the decoded picture, high speed generation such as 12 × speed, 18 × speed, and 24 × speed is possible. Needless to say. In addition, it is easily understood that reproduction at 2 × to 5 × speed (and its multiple speed) can be realized by increasing the appearance frequency of an I picture and a P picture with a limited reference destination. Like. Furthermore, it is possible to use a conventional special reproduction method in which only the I picture is extracted and reproduced.

さらに、本実施形態では、特殊再生用ピクチャの出現頻度は、GOPを構成するピクチャの数とは独立して設定可能なので、特殊再生用ピクチャの出現頻度を柔軟に設定することが可能である。   Further, in the present embodiment, the appearance frequency of the special reproduction picture can be set independently of the number of pictures constituting the GOP, so that the appearance frequency of the special reproduction picture can be set flexibly.

さらに、本実施形態において、特殊再生用ピクチャをIピクチャより符号化効率の高いPピクチャを主に用いて実現しているので、符号化効率の低下を抑制しながら容易な特殊再生を可能としている。   Further, in the present embodiment, the special reproduction picture is realized mainly by using the P picture having higher encoding efficiency than the I picture, thereby enabling easy special reproduction while suppressing a decrease in the encoding efficiency. .

本実施形態においては、参照先を同一GOP内のIピクチャ又は参照先が制限された他のPピクチャに制限したPピクチャを特殊再生用のPピクチャとしている。しかし、このような参照関係を満たしさえすれば、他の符号化方式のピクチャを用いてもよい。例えば、参照画像関係が所定枚数で完結しているランダムアクセス可能なインター符号化予測ピクチャを特殊再生用ピクチャとしてもよい。   In this embodiment, the P picture for which the reference destination is limited to an I picture in the same GOP or another P picture whose reference destination is limited is used as a special reproduction P picture. However, as long as such a reference relationship is satisfied, a picture of another encoding method may be used. For example, a randomly accessible inter-coded prediction picture that has a predetermined number of reference picture relationships may be used as a special reproduction picture.

<第2の実施形態>
次に、第2の実施形態について説明する。
本実施形態も第1の実施形態で説明したビデオカメラに適用可能であるため、第1の実施形態で説明した内容については省略する。
<Second Embodiment>
Next, a second embodiment will be described.
Since the present embodiment is also applicable to the video camera described in the first embodiment, the contents described in the first embodiment are omitted.

図7は、本実施形態に係るビデオカメラが行う符号化方式の選択例を示す図である。図において、2500〜2505はGOPとして管理されるピクチャ群、2600〜2605はIピクチャ、2700〜2711と2800〜2811はそれぞれPピクチャを表している。   FIG. 7 is a diagram illustrating an example of selecting an encoding method performed by the video camera according to the present embodiment. In the figure, 2500 to 2505 represent picture groups managed as GOPs, 2600 to 2605 represent I pictures, 2700 to 2711 and 2800 to 2811 represent P pictures, respectively.

ここで、Pピクチャ2800及び2700は、同一GOP2500内のIピクチャ2600を参照している。次に、Pピクチャ2701は同一GOP2500内のPピクチャ2700を参照し、Pピクチャ2702は同一GOP2501内のIピクチャ2601を参照している。さらに、Pピクチャ2703は同一GOP2501内のPピクチャ2702を参照し、Pピクチャ2803は同一GOP2501内のPピクチャ2703を参照し、Pピクチャ2703の3ピクチャ後にIピクチャ2602がある。   Here, the P pictures 2800 and 2700 refer to the I picture 2600 in the same GOP 2500. Next, the P picture 2701 refers to the P picture 2700 in the same GOP 2500, and the P picture 2702 refers to the I picture 2601 in the same GOP 2501. Further, the P picture 2703 refers to the P picture 2702 in the same GOP 2501, the P picture 2803 refers to the P picture 2703 in the same GOP 2501, and there is an I picture 2602 after 3 pictures of the P picture 2703.

また、Pピクチャ2704は同一GOP2502内のIピクチャ2602を参照し、Pピクチャ2805、2705は、同一GOP2502内のPピクチャ2704を参照している。さらに、Pピクチャ2706は同一GOP2503内のIピクチャ2603を参照し、Pピクチャ2806,2707は同一GOP2503内のPピクチャ2706を参照している。以降、Pピクチャ2808、2708、2709、2710、2711,2811は同様のパターンで参照関係が制限されている。   Further, the P picture 2704 refers to the I picture 2602 in the same GOP 2502, and the P pictures 2805 and 2705 refer to the P picture 2704 in the same GOP 2502. Further, the P picture 2706 refers to the I picture 2603 in the same GOP 2503, and the P pictures 2806 and 2707 refer to the P picture 2706 in the same GOP 2503. Thereafter, the reference relationship of P pictures 2808, 2708, 2709, 2710, 2711, and 2811 is limited in the same pattern.

本実施形態においては、Pピクチャ2700〜2711の参照先の制限は第1の実施形態と同じである。これを第1の制限符号化方式とするならば、Pピクチャ2800、2803、2805、2806、2808、2811が新たな制限を加えた第2の制限符号化方式となる。   In the present embodiment, the limitation on the reference destination of the P pictures 2700 to 2711 is the same as that in the first embodiment. If this is the first limited encoding scheme, P pictures 2800, 2803, 2805, 2806, 2808, and 2811 are the second limited encoding scheme with new limitations.

本実施形態によれば、Iピクチャ2600、2602、2604およびPピクチャ2700〜2711は、6ピクチャ毎(5ピクチャおき)の等間隔で配置されている。これらのピクチャを復号するには、自身の他に、あとIピクチャ2601、2603、2605を復号すればよい。   According to the present embodiment, the I pictures 2600, 2602, 2604 and the P pictures 2700 to 2711 are arranged at equal intervals every 6 pictures (every 5 pictures). In order to decode these pictures, other I pictures 2601, 2603, and 2605 may be decoded in addition to the pictures themselves.

従って、Iピクチャと、第1の制限符号化方式が適用されたPピクチャを抜き出すことで、抜き出したピクチャの全てを復号化することができる。その結果、全ピクチャを6枚毎に復号可能となるので、復号結果を通常のフレームレートで表示すれば、6倍速再生表示が可能である。これは、第1の実施形態と同じである。   Therefore, all the extracted pictures can be decoded by extracting the I picture and the P picture to which the first limited encoding method is applied. As a result, all the pictures can be decoded every six frames. Therefore, if the decoding results are displayed at a normal frame rate, 6 × speed reproduction display is possible. This is the same as in the first embodiment.

本実施形態の場合、第1の制限符号化方式を適用したPピクチャ(第1の制限付きPピクチャ)に加えて、Pピクチャ2800、2803、2805、2806、2808、2811に第2の制限符号化方式を適用している。   In the case of the present embodiment, in addition to the P picture (first restricted P picture) to which the first restriction coding method is applied, the second restriction code is added to the P pictures 2800, 2803, 2805, 2806, 2808, and 2811. The system is applied.

第2の制限符号化方式を適用したPピクチャ(第2の制限付きPピクチャ)もまた、同一GOP内のIピクチャ又は第1の制限付きPピクチャのみを参照するように制限されている。これにより、Iピクチャ、第1及び第2の制限付きPピクチャだけで参照関係が完結している。つまり、残りのピクチャ群とは独立して復号することが可能である。   The P picture (second restricted P picture) to which the second restricted encoding method is applied is also restricted so as to refer only to the I picture or the first restricted P picture in the same GOP. As a result, the reference relationship is completed only with the I picture and the first and second restricted P pictures. That is, decoding can be performed independently of the remaining picture groups.

ここで、10倍速超の特殊再生を考える。例えば、6倍速よりも2倍高速な12倍速再生を考えたとき、最も単純な実現方法は、6枚毎に含まれるIピクチャあるいは第1の制限付きPピクチャを1枚おき、つまり12ピクチャあたり1枚の画像データを通常レートで再生表示する方法である。   Here, special reproduction exceeding 10 × speed is considered. For example, when considering 12 × speed playback that is twice as fast as 6 × speed, the simplest implementation method is that every other I picture or the first restricted P picture included in every 6 frames, that is, per 12 pictures. In this method, one piece of image data is reproduced and displayed at a normal rate.

しかし、11枚置きのピクチャは相関が高くない場合があり、この場合にはコマ落ちした動画像の表示もしくは静止画の羅列表示といった不自然な印象をユーザに与えてしまう。そこで、本実施形態では、12枚おきに表示する特殊再生用ピクチャの間に、表示される特殊再生用ピクチャと相関の強い画像をさらに表示する。これにより、視覚的な不自然さを抑制し、動画的な滑らかな画像の切り替わりを印象づけることができる。   However, every 11 pictures may not have a high correlation, and in this case, the user is given an unnatural impression such as displaying a moving image with dropped frames or displaying a sequence of still images. Therefore, in the present embodiment, an image having a strong correlation with the displayed special reproduction picture is further displayed between the special reproduction pictures displayed every 12 frames. As a result, visual unnaturalness can be suppressed, and moving images can be impressed smoothly.

本実施形態においては、第1の実施形態で説明した、参照先画像を制限した特殊再生用Pピクチャ(以下、第1の制限付Pピクチャという)に加え、第2の制限付Pピクチャを設けることにより、上述の高速再生時の視覚特性改善を実現する。   In the present embodiment, a second restricted P picture is provided in addition to the special playback P picture (hereinafter referred to as the first restricted P picture) in which the reference image is restricted as described in the first embodiment. As a result, the above-described improvement in visual characteristics during high-speed playback is realized.

つまり、予め定めた再生速度を超える高速再生の場合(ここでは、12倍速以上の場合とする)は、例えば以下のピクチャを順次再生表示する。
復号化処理 Iピクチャ2600、
復号化処理 第2の制限付Pピクチャ2800、
復号化処理 第1の制限付Pピクチャ2701、
復号化処理 Iピクチャ2601、
復号化処理 第1の制限付Pピクチャ2703、
復号化処理 第2の制限付Pピクチャ2803、
復号化処理 第1の制限付Pピクチャ2704、
復号化処理 第2の制限付Pピクチャ2805、
復号化処理 第1の制限付Pピクチャ2706、
復号化処理 第2の制限付Pピクチャ2806、
復号化処理 Iピクチャ2604、
復号化処理 第2の制限付Pピクチャ2808、
復号化処理 第1の制限付Pピクチャ2709、
復号化処理 Iピクチャ2605、
復号化処理 第1の制限付Pピクチャ2711、
復号化処理 第2の制限付Pピクチャ2811、
That is, in the case of high-speed reproduction exceeding a predetermined reproduction speed (here, the case of 12 times or higher speed), for example, the following pictures are sequentially reproduced and displayed.
Decoding processing I picture 2600,
Decoding process second restricted P picture 2800,
Decoding process First restricted P picture 2701,
Decoding processing I picture 2601,
Decoding process First restricted P picture 2703,
Decoding process second restricted P picture 2803,
Decoding process First restricted P picture 2704,
Decoding process second restricted P picture 2805,
Decoding process First restricted P picture 2706,
Decoding process second restricted P picture 2806,
Decoding processing I picture 2604,
Decoding process second restricted P picture 2808,
Decoding process First restricted P picture 2709,
Decoding processing I picture 2605,
Decoding process First restricted P picture 2711,
Decoding process second restricted P picture 2811,
:

この例では、12枚おきに表示する特殊再生用ピクチャ(2600、2701、2703、2704、2706、2604、2709、2711)の1つおきに、3ピクチャ後のピクチャ(2800、2601、2803、2805、2806、2808、2605、2811)を特殊再生用ピクチャと相関の強いピクチャとして追加表示している。   In this example, every other picture for special playback (2600, 2701, 2703, 2704, 2706, 2604, 2709, 2711) to be displayed every 12 pictures, the pictures after 2 pictures (2800, 2601, 2803, 2805) 2806, 2808, 2605, 2811) are additionally displayed as pictures having a strong correlation with the special reproduction picture.

これにより、12ピクチャ離れたピクチャの相関の低さによる視覚的な不自然さを低減し、動画らしく滑らかな表示を行うことが可能となる。なお、このように、表示するピクチャ数を増加させるので、実際は12枚おきではあるが6倍速再生のピクチャ更新速度になっている。しかしながら、本実施形態は、相関の低いピクチャの高速サーチ時の視覚的な改善を主眼としたもので、12倍速という数値そのものはあまり意味を持たない。つまり、相関の低い高速ピクチャのサーチ速度が24倍速であれば、実際の更新速度は挿入枚数分だけ低下するため、12倍速になる。しかし、体感的なサーチ速度が半分に低下するわけではないし、視覚的特性の改善の効果により、実用的な高速再生を提供することが可能である。本実施形態では、説明の簡便さから12倍速で説明したため、6倍速の画面更新率と変わらない説明にはなっているが、これは内容を把握しやすくするという本発明の目的からは、実用上あまり問題とならないことを説明しておく。仮に、6倍速サーチから12倍速サーチに変わって、表示時間が変わらないということに違和感を覚えるユーザがいる場合には、6倍速の次の高速サーチ速度を24倍速にすればよい。また、12倍速を抽出したピクチャの片方のフィールドだけを表示し1/60秒でフレームを更新しても、この違和感は解消される。   As a result, it is possible to reduce visual unnaturalness due to low correlation between pictures that are 12 pictures apart, and to perform smooth display like a moving image. In addition, since the number of pictures to be displayed is increased in this way, the picture update speed is 6 × speed reproduction, although it is actually every 12 pictures. However, the present embodiment focuses on visual improvement at the time of high-speed search for pictures with low correlation, and the numerical value itself of 12 times speed is not very meaningful. In other words, if the search speed of a high-speed picture with low correlation is 24 times speed, the actual update speed is reduced by the number of inserted sheets, so it becomes 12 times speed. However, the experiential search speed is not halved, and it is possible to provide practical high-speed playback due to the effect of improving visual characteristics. In this embodiment, since the explanation was made at 12 times speed for the sake of simplicity of explanation, the explanation is the same as the screen update rate of 6 times speed, but this is practical for the purpose of making the contents easy to grasp. Explain that this is not a problem. If there is a user who feels uncomfortable that the display time does not change from 6 × speed search to 12 × speed search, the next high speed search speed of 6 × speed may be set to 24 × speed. Also, even if only one field of a picture extracted at 12 × speed is displayed and the frame is updated in 1/60 seconds, this uncomfortable feeling is resolved.

このように、本実施形態では、2つの制限付符号化方式を用いる。第1の制限付符号化方式は、高速再生に使用する前方予測ピクチャ(Pピクチャ)の参照先を、同一GOP内のIピクチャあるいは、第1の制限付符号化方式が適用された他のPピクチャに制限する。また、第2の制限付符号化方式は、高速再生に用いられるピクチャと相関の強い前方予測ピクチャの参照先を、同一GOP内のIピクチャ、あるいは第1の制限付符号化方式が適用された他のPピクチャに制限する。   As described above, in this embodiment, two restricted encoding methods are used. In the first limited coding scheme, a reference destination of a forward prediction picture (P picture) used for high-speed playback is set as an I picture in the same GOP or another P to which the first limited coding scheme is applied. Restrict to pictures. In the second limited coding method, the reference destination of the forward prediction picture having a strong correlation with the picture used for high-speed playback is the I picture in the same GOP or the first limited coding method is applied. Restrict to other P pictures.

なお、本実施形態では、第2の制限付符号化方式を適用するピクチャを、高速再生に用いられるピクチャの次に現れるIピクチャ又はPピクチャとした。図7に示すようなI,P,Bピクチャの並びであれば、高速再生に用いられるピクチャの3ピクチャ後のピクチャとなる。   In the present embodiment, the picture to which the second restricted coding method is applied is an I picture or P picture that appears next to a picture used for high-speed playback. If the I, P, and B pictures are arranged as shown in FIG. 7, the picture is three pictures after the picture used for high-speed playback.

これにより、Iピクチャと第1および第2の制限付Pピクチャで構成されるピクチャの復号を、同一GOP内のIピクチャあるいは第1および第2の制限付Pピクチャの符号化データだけで実現できることになる。   As a result, decoding of a picture made up of an I picture and the first and second restricted P pictures can be realized only by the encoded data of the I picture or the first and second restricted P pictures in the same GOP. become.

次に、図8のフローチャートを用い、本実施形態における符号化処理部における符号化方式の選択動作について説明する。
まず、符号化時に各ピクチャの符号化方式の選択が開始される。符号化対象ピクチャが符号化処理部200に入力されると(S2901)、入力されたピクチャに対して、イントラ符号化方式を適用するかどうかを、所定の方法で判断する(S2902)。イントラ符号化方式を適用しなければ、H.264方式で行われる通常の方法で、符号化方式を選択する(S2903)。一般的には、入力される最初の2枚のピクチャに対しては双方向予測符号化方式が選択、決定される。
Next, the encoding method selection operation in the encoding processing unit according to the present embodiment will be described with reference to the flowchart of FIG.
First, selection of an encoding method for each picture is started at the time of encoding. When the encoding target picture is input to the encoding processing unit 200 (S2901), it is determined by a predetermined method whether or not the intra encoding scheme is applied to the input picture (S2902). If the intra coding method is not applied, the H.264 The encoding method is selected by a normal method performed by the H.264 method (S2903). In general, the bi-directional predictive coding method is selected and determined for the first two pictures to be input.

一方、入力されたピクチャがイントラ符号化方式を適用した場合(S2902)、第1のカウンタk=1、第2のカウンタl=0、第2の制限付符号化フラグfrag=1に初期設定し、入力されたピクチャに対してイントラ符号化処理を行う(S2910)。   On the other hand, when the intra picture is applied to the input picture (S2902), the first counter k = 1, the second counter l = 0, and the second restricted encoding flag flag = 1 are initialized. Then, intra coding processing is performed on the input picture (S2910).

次のピクチャが符号化処理部200に入力されると(S2911)、第1のカウンタ値kが6になっているか否かを判断する(S2913)。k=6でなければ、第2の制限付符号化フラグfrag=1かつ、IあるいはPピクチャであるかどうかを判断する(S2914)。通常、Iピクチャの次はBピクチャとなるので、条件を満たさず、第1のカウンタ値kを1インクリメントして(S2915)、通常行われる所定の方法で符号化方式を選択する(S2916)。   When the next picture is input to the encoding processing unit 200 (S2911), it is determined whether or not the first counter value k is 6 (S2913). If k = 6 is not satisfied, it is determined whether the second restricted encoding flag flag = 1 and whether the picture is an I or P picture (S2914). Usually, since the I picture is followed by the B picture, the condition is not satisfied, and the first counter value k is incremented by 1 (S2915), and the encoding method is selected by a predetermined method normally performed (S2916).

選択された符号化方式で符号化処理を行ったあと、符号化処理の終了が指示されているかどうか判断し(S2917)、終了指示がなければ、引き続きピクチャが符号化処理部200に入力される(S2911)。終了指示があれば、符号化処理も終了し、符号化方式の選択も終了する(S2950)。   After performing the encoding process with the selected encoding method, it is determined whether an instruction to end the encoding process is given (S2917). If there is no instruction to end, the picture is continuously input to the encoding processing unit 200. (S2911). If there is an end instruction, the encoding process is also ended, and the selection of the encoding method is also ended (S2950).

引き続き入力されるピクチャの処理において、第1のカウンタkが6でなく(S2913)、第2の制限付符号化フラグfrag=1かつ、IあるいはPピクチャである場合(S2914,Yes)、S2940へ進む。例えば、例えばBピクチャ2枚の後に続くPピクチャが入力された場合、このような処理となる。まず、第1のカウンタ値kを1インクリメントし、第2の制限付符号化フラグflag=0に戻す(S2940)。そして、第2の制限付符号化方式を選択される(S2941)。   If the first counter k is not 6 (S2913) and the second restricted encoding flag flag = 1 and is an I or P picture (S2914, Yes) in the processing of the picture that is subsequently input, go to S2940. move on. For example, this process is performed when, for example, a P picture following two B pictures is input. First, the first counter value k is incremented by 1 and returned to the second restricted encoding flag flag = 0 (S2940). Then, the second restricted encoding method is selected (S2941).

これにより、等間隔(ここでは6ピクチャ毎)に配置された、第1の制限付符号化方式を選択されたピクチャの1つおきに、直近のPあるいはIピクチャが第2の制限付符号化方式を選択される。ここで、第2の制限付符号化方式が選択されても、Iピクチャの場合は特別な処理をすることはなく、通常のイントラ予測符号化を行う。一方、Pピクチャの場合は、参照先を、同一GOP内のIピクチャあるいは第1の制限付Pピクチャに制限したインター予測符号化を行う。なお、Pピクチャについては、第2の制限付符号化ピクチャであることをメタデータとして管理し、ストリームに重畳する。   As a result, the nearest P or I picture is placed in the second restricted coding every other picture selected at the first restricted coding method, which is arranged at equal intervals (here, every six pictures). The method is selected. Here, even if the second limited coding method is selected, in the case of an I picture, no special processing is performed, and normal intra prediction coding is performed. On the other hand, in the case of a P picture, inter prediction encoding is performed in which the reference destination is limited to an I picture or the first restricted P picture in the same GOP. Note that the P picture is managed as metadata that it is the second restricted encoded picture, and is superposed on the stream.

ところで、第1のカウンタk=6になっている場合(S2913)は、まず、第1のカウンタkを1にリセットし、第2のカウンタlを1インクリメントする(S2920)。次に、第2のカウンタlの値の2の剰余が0であるかどうかを判断し(S2921)、0の場合は、第2の制限付符号化フラグflagを1にセットする(S2930)。これにより、等間隔に設定された第1の制限付ピクチャ(P又はIピクチャ)に対して、1つおきに第2の制限付ピクチャを設定するフラグをセットすることになる。この処理(S2930)の後あるいは、第2のカウンタlの2の剰余が1の場合(S2921)には、S2902と同様にしてIピクチャとするかどうかを判断する(S2923)。Iピクチャとすると判断された場合には、イントラ符号化方式を選択し(S2924)、S2917へ進む。   Incidentally, when the first counter k = 6 (S2913), first, the first counter k is reset to 1 and the second counter l is incremented by 1 (S2920). Next, it is determined whether or not the remainder of 2 of the value of the second counter l is 0 (S2921). If it is 0, the second restricted encoding flag flag is set to 1 (S2930). As a result, for every first restricted picture (P or I picture) set at equal intervals, a flag for setting every second restricted picture is set. After this processing (S2930) or when the remainder of 2 of the second counter 1 is 1 (S2921), it is determined whether or not to make an I picture in the same manner as S2902. If it is determined that the picture is an I picture, an intra coding method is selected (S2924), and the process proceeds to S2917.

S2923でIピクチャとしないと判断された場合、第1の制限付符号化方式を選択する(S2922)。すなわち、図6で説明したように、同一GOP内にある、Iピクチャあるいは同様の参照先制限の元に符号化されたPピクチャ(制限されたPピクチャ)を参照画像として用いた前方予測符号化方式を選択する。なお、第1の制限付符号化方式で符号化された符号化画像データには、第1の制限付符号化方式が適用されたピクチャであることをメタデータとして管理し、ストリームに重畳する。   If it is determined in S2923 that the picture is not an I picture, the first restricted coding method is selected (S2922). That is, as described with reference to FIG. 6, forward predictive coding using an I picture or a P picture encoded under the same reference destination restriction (a restricted P picture) in the same GOP as a reference picture Select a method. It should be noted that the encoded image data encoded by the first restricted encoding method is managed as metadata that it is a picture to which the first restricted encoding method is applied, and is superposed on the stream.

本実施形態において生成される符号化データストリームの再生方法は、図4を用いて説明した第1の実施形態と基本的に同様の手順で行うことができるため、説明は割愛する。第1の実施形態と異なるのは、制御入力部611から入力される高速再生指示の再生速度に応じて、復号化及び表示を行うピクチャを切り替える点にある。   The method for reproducing the encoded data stream generated in the present embodiment can be performed in the same procedure as that of the first embodiment described with reference to FIG. The difference from the first embodiment is that the picture to be decoded and displayed is switched according to the playback speed of the high-speed playback instruction input from the control input unit 611.

すなわち、本実施形態では、6倍速再生の指示が制御入力部611からあった場合には、第1の実施形態で説明した通りの高速再生表示処理を行う。一方、予め定めた速度以上の高速再生(ここでは12倍速再生)の指示が入力された場合、エントロピー復号化処理部612が生成するメタデータに基づき、Iピクチャ、第1の制限付Pピクチャに加え、第2の制限付Pピクチャも復号化対象とする。そして、図7を用いて説明したように、12ピクチャ毎の等間隔のピクチャと、第2の制限付Pピクチャを表示する。   That is, in this embodiment, when the instruction for 6 × speed reproduction is given from the control input unit 611, the high speed reproduction display processing as described in the first embodiment is performed. On the other hand, when an instruction for high-speed playback at a speed higher than a predetermined speed (here, 12 × speed playback) is input, an I picture and a first restricted P picture are generated based on metadata generated by the entropy decoding processing unit 612. In addition, the second restricted P picture is also subject to decoding. Then, as described with reference to FIG. 7, equidistant pictures every 12 pictures and the second restricted P picture are displayed.

本実施形態では、高速再生時に表示するピクチャの間隔が大きくなり、表示画像間の相関が低下することによる視覚特性の悪化を抑制するため、第2の制限付ピクチャを用いている。上述の説明では、6倍速再生では第2の制限付ピクチャを再生せず、12倍速再生の場合に第2の制限付ピクチャを再生することとしたが、これらの再生速度は適宜定めることができる。   In the present embodiment, the second restricted picture is used in order to suppress deterioration in visual characteristics due to an increase in the interval between pictures to be displayed during high-speed playback and a decrease in correlation between displayed images. In the above description, the second restricted picture is not reproduced in 6 × speed reproduction, and the second restricted picture is reproduced in 12 × speed reproduction. However, these reproduction speeds can be determined as appropriate. .

さらに、本実施形態では、第2の制限付符号化方式を適用するピクチャをPピクチャに限定して説明した。しかし、第1の制限付ピクチャに挟まれたBピクチャの参照先を同一GOP内の第1制限付ピクチャに制限することによっても、同様の効果が得られる。   Furthermore, in the present embodiment, the picture to which the second restricted coding method is applied is limited to the P picture. However, the same effect can be obtained by restricting the reference destination of the B picture sandwiched between the first restricted pictures to the first restricted picture in the same GOP.

さらに、本実施形態では、特殊再生用ピクチャの出現頻度は、GOPを構成するピクチャの数とは独立して設定可能なので、特殊再生用ピクチャの出現頻度を柔軟に設定することが可能である。   Further, in the present embodiment, the appearance frequency of the special reproduction picture can be set independently of the number of pictures constituting the GOP, so that the appearance frequency of the special reproduction picture can be set flexibly.

さらに、本実施形態において、特殊再生用ピクチャをIピクチャより符号化効率の高いPピクチャを主に用いて実現しているので、符号化効率の低下を抑制しながら容易な特殊再生を可能としている。   Further, in the present embodiment, the special reproduction picture is realized mainly by using the P picture having higher encoding efficiency than the I picture, thereby enabling easy special reproduction while suppressing a decrease in the encoding efficiency. .

また、第1の実施形態と同様、本実施形態においても、参照先を同一GOP内のIピクチャ又は参照先が制限された他のPピクチャに制限したPピクチャを特殊再生用のPピクチャとしている。しかし、このような参照関係を満たしさえすれば、他の符号化方式のピクチャを用いてもよい。例えば、参照画像関係が所定枚数で完結しているランダムアクセス可能なインター符号化予測ピクチャを特殊再生用ピクチャとしてもよい。   As in the first embodiment, also in this embodiment, a P picture for which the reference destination is restricted to an I picture in the same GOP or another P picture with a restricted reference destination is used as a special reproduction P picture. . However, as long as such a reference relationship is satisfied, a picture of another encoding method may be used. For example, a randomly accessible inter-coded prediction picture that has a predetermined number of reference picture relationships may be used as a special reproduction picture.

(他の実施形態)
上述の実施形態では、インター予測方式を利用したビデオカメラに本発明を適用した場合について説明した。しかし、本発明は、インター予測方式を利用したビデオプレーヤやビデオレコーダなど、他の機器においても同様に適用可能である。そして、本発明を適用することにより、符号化効率の低下を抑制しながら、特殊再生を容易に行うことが可能となる。
(Other embodiments)
In the above-described embodiment, the case where the present invention is applied to a video camera using an inter prediction method has been described. However, the present invention can be similarly applied to other devices such as a video player and a video recorder using an inter prediction method. By applying the present invention, special reproduction can be easily performed while suppressing a decrease in encoding efficiency.

上述の実施形態は、システム或は装置のコンピュータ(或いはCPU、MPU等)によりソフトウェア的に実現することも可能である。   The above-described embodiment can also be realized in software by a computer of a system or apparatus (or CPU, MPU, etc.).

従って、上述の実施形態をコンピュータで実現するために、該コンピュータに供給されるコンピュータプログラム自体も本発明を実現するものである。つまり、上述の実施形態の機能を実現するためのコンピュータプログラム自体も本発明の一つである。   Therefore, the computer program itself supplied to the computer in order to implement the above-described embodiment by the computer also realizes the present invention. That is, the computer program itself for realizing the functions of the above-described embodiments is also one aspect of the present invention.

なお、上述の実施形態を実現するためのコンピュータプログラムは、コンピュータで読み取り可能であれば、どのような形態であってもよい。例えば、オブジェクトコード、インタプリタにより実行されるプログラム、OSに供給するスクリプトデータ等で構成することができるが、これらに限るものではない。   The computer program for realizing the above-described embodiment may be in any form as long as it can be read by a computer. For example, it can be composed of object code, a program executed by an interpreter, script data supplied to the OS, but is not limited thereto.

上述の実施形態を実現するためのコンピュータプログラムは、記憶媒体又は有線/無線通信によりコンピュータに供給される。プログラムを供給するための記憶媒体としては、例えば、フレキシブルディスク、ハードディスク、磁気テープ等の磁気記憶媒体、MO、CD、DVD等の光/光磁気記憶媒体、不揮発性の半導体メモリなどがある。   A computer program for realizing the above-described embodiment is supplied to a computer via a storage medium or wired / wireless communication. Examples of the storage medium for supplying the program include a magnetic storage medium such as a flexible disk, a hard disk, and a magnetic tape, an optical / magneto-optical storage medium such as an MO, CD, and DVD, and a nonvolatile semiconductor memory.

有線/無線通信を用いたコンピュータプログラムの供給方法としては、コンピュータネットワーク上のサーバを利用する方法がある。この場合、本発明を形成するコンピュータプログラムとなりうるデータファイル(プログラムファイル)をサーバに記憶しておく。プログラムファイルとしては、実行形式のものであっても、ソースコードであっても良い。   As a computer program supply method using wired / wireless communication, there is a method of using a server on a computer network. In this case, a data file (program file) that can be a computer program forming the present invention is stored in the server. The program file may be an executable format or a source code.

そして、このサーバにアクセスしたクライアントコンピュータに、プログラムファイルをダウンロードすることによって供給する。この場合、プログラムファイルを複数のセグメントファイルに分割し、セグメントファイルを異なるサーバに分散して配置することも可能である。
つまり、上述の実施形態を実現するためのプログラムファイルをクライアントコンピュータに提供するサーバ装置も本発明の一つである。
Then, the program file is supplied by downloading to a client computer that has accessed the server. In this case, the program file can be divided into a plurality of segment files, and the segment files can be distributed and arranged on different servers.
That is, a server apparatus that provides a client computer with a program file for realizing the above-described embodiment is also one aspect of the present invention.

また、上述の実施形態を実現するためのコンピュータプログラムを暗号化して格納した記憶媒体をユーザに配布し、所定の条件を満たしたユーザに、暗号化を解く鍵情報を供給し、ユーザの有するコンピュータへのインストールを可能とすることも可能である。鍵情報は、例えばインターネットを介してホームページからダウンロードさせることによって供給することができる。   In addition, a storage medium in which a computer program for realizing the above-described embodiment is encrypted and stored is distributed to the user, and key information for decrypting is supplied to the user who satisfies a predetermined condition, and the user's computer It is also possible to enable installation on Windows. The key information can be supplied by being downloaded from a homepage via the Internet, for example.

また、上述の実施形態を実現するためのコンピュータプログラムは、すでにコンピュータ上で稼働するOSの機能を利用するものであってもよい。
さらに、上述の実施形態を実現するためのコンピュータプログラムは、その一部をコンピュータに装着される拡張ボード等のファームウェアで構成してもよいし、拡張ボード等が備えるCPUで実行するようにしてもよい。
Further, the computer program for realizing the above-described embodiment may use an OS function already running on the computer.
Further, a part of the computer program for realizing the above-described embodiment may be configured by firmware such as an expansion board attached to the computer, or may be executed by a CPU provided in the expansion board. Good.

本発明の第1の実施形態に係る符号化処理部における符号化方式の選択動作を説明するフローチャートである。It is a flowchart explaining the selection operation | movement of the encoding system in the encoding process part which concerns on the 1st Embodiment of this invention. 本発明の実施形態に係る画像符号化装置かつ画像復号化装置の一例としてのビデオカメラの構成例を示すブロック図である。It is a block diagram which shows the structural example of the video camera as an example of the image coding apparatus which concerns on embodiment of this invention, and an image decoding apparatus. 本発明の実施形態に係る符号化処理部の構成例を示すブロック図である。It is a block diagram which shows the structural example of the encoding process part which concerns on embodiment of this invention. 本発明の実施形態に係る復号化処理部の構成例を示すブロック図である。It is a block diagram which shows the structural example of the decoding process part which concerns on embodiment of this invention. 図2の符号化処理部に入力される符号化対象ピクチャと、H.264符号化方式で許容される参照関係の例を説明する概念図である。The encoding target picture input to the encoding processing unit in FIG. 2 is a conceptual diagram illustrating an example of a reference relationship allowed in the H.264 encoding scheme. FIG. 本発明の第1の実施形態における符号化予測方式の選択方法を説明する図である。It is a figure explaining the selection method of the encoding prediction system in the 1st Embodiment of this invention. 本発明の第2の実施形態における符号化予測方式の選択方法を説明する図である。It is a figure explaining the selection method of the encoding prediction system in the 2nd Embodiment of this invention. 本発明の第1の実施形態に係る符号化処理部における符号化方式の選択動作を説明するフローチャートである。It is a flowchart explaining the selection operation | movement of the encoding system in the encoding process part which concerns on the 1st Embodiment of this invention.

Claims (12)

動画像を構成する各ピクチャを、フレーム内予測符号化方式、フレーム間予測符号化方式のいずれかを用いて符号化する符号化装置であって、
各ピクチャに適用する符号化方式を選択する制御手段と、
前記制御手段が選択した符号化方式に基づいて各ピクチャを符号化する符号化手段とを有し、
前記制御手段が、
予め定められた周期に対応する各ピクチャに対しては、前記フレーム内予測符号化方式を選択するかどうかを予め定められた基準に従って判断し、前記フレーム内予測符号化方式を選択すると判断した場合には前記フレーム内予測符号化方式を選択し、前記フレーム内予測符号化方式を選択しないと判断した場合には参照先画像がフレーム内予測符号化ピクチャ又は前記予め定められた周期に対応する他のフレーム間予測符号化ピクチャに制限された前記フレーム間予測符号化方式を選択し、
前記予め定められた周期に対応しないピクチャのうち、一部のピクチャについては、参照先画像が前記予め定められた周期に対応する符号化ピクチャに制限された前記フレーム間予測符号化方式を選択し、残りのピクチャについては、前記フレーム内予測符号化方式又は、参照先画像に制限のない前記フレーム間予測符号化方式のいずれかを選択し、
前記符号化手段が、前記予め定められた周期に対応するピクチャのうち、前記参照先画像が制限されたフレーム間予測符号化方式が前記制御手段によって選択されたピクチャに対しては、所定のサーチ速度による高速再生のときに復号化処理される第1の制限付フレーム間予測符号化ピクチャであることを示す情報を付加し、前記予め定められた周期に対応しないピクチャのうちの前記一部のピクチャに対しては、前記所定のサーチ速度よりも速いサーチ速度による高速再生のときに復号化処理される第2の制限付フレーム間予測符号化ピクチャであることを示す情報を付加することを特徴とする符号化装置。
An encoding device that encodes each picture constituting a moving image using either an intra-frame prediction encoding scheme or an inter-frame prediction encoding scheme,
Control means for selecting an encoding scheme to be applied to each picture;
Encoding means for encoding each picture based on the encoding method selected by the control means,
The control means is
For each picture corresponding to a predetermined cycle, whether or not to select the intra-frame prediction encoding method is determined according to a predetermined criterion, and it is determined to select the intra-frame prediction encoding method If the intra-frame predictive coding method is selected and it is determined that the intra-frame predictive coding method is not selected, the reference picture corresponds to the intra-frame predictive coded picture or the predetermined period. select predictive coding method between the frames is limited to predictive coded picture between frames,
Among the pictures that do not correspond to the predetermined period, for some pictures, the inter-frame prediction encoding method in which the reference image is limited to the encoded picture corresponding to the predetermined period is selected. , for the remaining pictures, and selecting one of the intra-frame predictive coding scheme or, no limit to the referenced picture the interframe predictive coding method,
The encoding means performs a predetermined search for a picture in which an inter-frame predictive encoding scheme in which the reference image is limited is selected by the control means among pictures corresponding to the predetermined period. Information indicating that the picture is a first limited inter-frame predictive encoded picture that is decoded at the time of high-speed reproduction by speed, and the part of the pictures not corresponding to the predetermined period Information indicating that the picture is a second limited inter-frame predictive encoded picture that is decoded at the time of high-speed reproduction at a search speed higher than the predetermined search speed is added to the picture. An encoding device.
前記ピクチャを連続する予め定められた数毎にグループとして管理する管理手段を更に有し、
前記制御手段が、
前記予め定められた周期に対応するピクチャに対して前記参照先画像が制限されたフレーム間予測符号化方式を選択する際には、前記参照先画像を、当該ピクチャと同一グループに属し、かつ前記予め定められた周期に対応する他のフレーム間予測符号化ピクチャに制限することを特徴とする請求項1記載の符号化装置。
And further comprising a management means for managing the pictures as a group every predetermined number in succession,
The control means is
When selecting an interframe predictive coding method in which the reference image is limited for a picture corresponding to the predetermined period, the reference image belongs to the same group as the picture, and The encoding apparatus according to claim 1, wherein the encoding apparatus is limited to other inter-frame prediction encoded pictures corresponding to a predetermined cycle.
前記制御手段が、前記予め定められた周期に対応するピクチャに対して前記参照先画像が制限されたフレーム間予測符号化方式を選択する際、前記参照先画像を、当該ピクチャよりも時間的に先行するピクチャとすることを特徴とする請求項1又は2記載の符号化装置。 When the control means selects an inter-frame predictive coding method in which the reference image is limited for a picture corresponding to the predetermined period, the reference image is more temporally selected than the picture. prior encoding apparatus according to claim 1 or 2, wherein that the picture to be. 前記制御手段が、前記動画像を構成するピクチャのうち、前記予め定められた周期に対応するピクチャのnピクチャ(nは自然数)置きのピクチャの各々に対して予め定めた時間内のピクチャについても、前記予め定められた周期に対応するピクチャと同様の符号化方式の選択を行うことを特徴とする請求項1乃至3のいずれか1項に記載の符号化装置。 For the pictures within a predetermined time with respect to each of n pictures (n is a natural number) of pictures corresponding to the predetermined period, among the pictures constituting the moving image. the encoding apparatus according to any one of claims 1乃optimum 3, characterized in that for selecting the picture the same coding method corresponding to said predetermined period. 前記符号化手段が符号化したデータに、適用された符号化方式を表す情報を付加して出力する出力手段を更に有することを特徴とする請求項1乃至4のいずれか1項に記載の符号化装置。 The data to which the encoding means is encoding, applied according to any one of claims 1乃optimum 4, characterized by further comprising an output means for adding and outputting information indicating the coding scheme Encoding device. 複数のピクチャが符号化された動画像情報を受信し、復号化する復号化装置であって、
前記符号化された動画像情報は、
各ピクチャの符号化に用いられた符号化方式を表す情報を含み、
予め定められた周期に対応する符号化ピクチャが、フレーム内予測符号化方式で符号化されたフレーム内予測符号化ピクチャと、参照先画像がフレーム内予測符号化ピクチャ又は前記予め定められた周期に対応する他のフレーム間予測符号化ピクチャに制限されたフレーム間予測符号化方式で符号化された第1の制限付フレーム間予測符号化ピクチャとで構成され、
前記予め定められた周期に対応しない符号化ピクチャのうち、一部の符号化ピクチャが、参照先画像が前記予め定められた周期に対応する符号化ピクチャに制限されたフレーム間予測符号化方式で符号化された第2の制限付フレーム間予測符号化ピクチャで構成され、
残りの符号化ピクチャが、前記フレーム内予測符号化ピクチャ又は参照先画像が制限されていないフレーム間予測符号化方式で符号化されたフレーム間予測符号化ピクチャ構成され
前記復号化装置は、
前記符号化された動画像情報から、前記符号化方式を表す情報を取得する取得手段と、
前記取得手段が取得した前記符号化方式を表す情報に基づいて、前記符号化された動画像情報に含まれる符号化ピクチャを復号化する復号化手段と、
高速再生の実行指示を検出する検出手段と、
前記検出手段が所定のサーチ速度での高速再生の実行指示を検出した場合には、前記符号化された動画像情報のうち、前記フレーム内予測符号化ピクチャと前記第1の制限付フレーム間予測符号化ピクチャとを前記復号化手段に復号化させ、前記検出手段が前記所定のサーチ速度よりも速いサーチ速度による高速再生の実行指示を検出し場合には、前記フレーム内予測符号化ピクチャ及び前記第1の制限付フレーム間予測符号化ピクチャの一部と、前記第2の制限付フレーム間予測符号化ピクチャとを前記復号化手段に復号化させる復号制御手段を有することを特徴とする復号化装置。
A decoding device that receives and decodes moving picture information in which a plurality of pictures are encoded,
The encoded video information is
Including information representing the encoding scheme used to encode each picture;
Coded picture corresponding to a predetermined period, in intra-frame prediction coding method and coding frame prediction coded picture, the referenced picture has been determined prediction coded picture or said pre-frame period A first limited inter-frame predictive encoded picture encoded with an inter-frame predictive encoding scheme limited to other corresponding inter- frame predictive encoded pictures ,
Among the encoded pictures that do not correspond to the predetermined period, some of the encoded pictures are inter-frame prediction encoding schemes in which the reference image is limited to the encoded picture corresponding to the predetermined period. The encoded second limited interframe predictive encoded picture,
The remaining coded picture is constructed between encoded frames in the predictive coded picture by inter-frame predictive coding method in which the intra-frame predictive coding picture or referenced image is not limited,
The decoding device
Obtaining means for obtaining information representing the encoding method from the encoded moving image information;
Decoding means for decoding each encoded picture included in the encoded moving image information based on the information indicating the encoding method acquired by the acquisition means;
Detection means for detecting an instruction to execute high-speed playback;
When the detection means detects an execution instruction for high-speed playback at a predetermined search speed, the intra-frame prediction encoded picture and the first limited inter-frame prediction among the encoded moving image information. a coded picture is decoded in the decoding means, when said detecting means detects an instruction to execute high-speed reproduction by fast search speed than the predetermined search speed is in the frame predictive coding picture and and having the a portion of the first restricted inter-frame predictive coded picture, the decoding control means for decrypted the predictive coded picture and the second restricted frame to the decoding means Decryption device.
復号制御手段が、
前記検出手段が前記所定のサーチ速度よりも速いサーチ速度による高速再生の実行指示を検出した場合には、サーチ速度に応じて前記フレーム内予測符号化ピクチャ及び前記第1の制限付フレーム間予測符号化ピクチャの一部を選択して前記復号化手段に復号化させることを特徴とする請求項6記載の復号化装置。
Before Symbol decoding control means,
When the detection means detects an execution instruction for high-speed playback at a search speed higher than the predetermined search speed, the intra-frame prediction encoded picture and the first limited inter-frame prediction code according to the search speed decoding apparatus according to claim 6, wherein Rukoto is decoded in said decoding means selects a part of the reduction picture.
動画像を構成する各ピクチャを、フレーム内予測符号化方式、フレーム間予測符号化方式のいずれかを用いて符号化する符号化方法であって、
制御手段が、各ピクチャに適用する符号化方式を選択する制御ステップと、
符号化手段が、前記制御ステップで選択された符号化方式に基づいて各ピクチャを符号化する符号化ステップとを有し、
前記制御ステップでは、
予め定められた周期に対応する各ピクチャに対しては、前記フレーム内予測符号化方式を選択するかどうかを予め定められた基準に従って判断し、前記フレーム内予測符号化方式を選択すると判断した場合には前記フレーム内予測符号化方式を選択し、前記フレーム内予測符号化方式を選択しないと判断した場合には参照先画像がフレーム内予測符号化ピクチャ又は前記予め定められた周期に対応する他のフレーム間予測符号化ピクチャに制限された前記フレーム間予測符号化方式を選択するとともに、
前記予め定められた周期に対応しないピクチャのうち、一部のピクチャについては、参照先画像が前記予め定められた周期に対応する符号化ピクチャに制限された前記フレーム間予測符号化方式を選択し、残りのピクチャについては、前記フレーム内予測符号化方式又は、参照先画像に制限のない前記フレーム間予測符号化方式のいずれかを選択し、
前記符号化ステップでは、前記予め定められた周期に対応するピクチャのうち、前記参照先画像が制限されたフレーム間予測符号化方式が前記制御手段によって選択されたピクチャに対しては、所定のサーチ速度による高速再生のときに復号化処理される第1の制限付フレーム間予測符号化ピクチャであることを示す情報を付加し、前記予め定められた周期に対応しないピクチャのうちの前記一部のピクチャに対しては、前記所定のサーチ速度よりも速いサーチ速度による高速再生のときに復号化処理される第2の制限付フレーム間予測符号化ピクチャであることを示す情報を付加することを特徴とする符号化方法。
An encoding method for encoding each picture constituting a moving image using either an intra-frame prediction encoding scheme or an inter-frame prediction encoding scheme,
A control step in which the control means selects a coding method to be applied to each picture;
The encoding means includes an encoding step for encoding each picture based on the encoding method selected in the control step;
In the control step,
For each picture corresponding to a predetermined cycle, whether or not to select the intra-frame prediction encoding method is determined according to a predetermined criterion, and it is determined to select the intra-frame prediction encoding method If the intra-frame predictive coding method is selected and it is determined that the intra-frame predictive coding method is not selected, the reference picture corresponds to the intra-frame predictive coded picture or the predetermined period. Selecting the inter-frame predictive encoding scheme limited to the inter-frame predictive encoded pictures,
Among the pictures that do not correspond to the predetermined period, for some pictures, the inter-frame prediction encoding method in which the reference image is limited to the encoded picture corresponding to the predetermined period is selected. , for the remaining pictures, and selecting one of the intra-frame predictive coding scheme or, no limit to the referenced picture the interframe predictive coding method,
In the encoding step, among pictures corresponding to the predetermined period, a predetermined search is performed for a picture for which the interframe predictive encoding method in which the reference image is limited is selected by the control unit. Information indicating that the picture is a first limited inter-frame predictive encoded picture that is decoded at the time of high-speed reproduction by speed, and the part of the pictures not corresponding to the predetermined period Information indicating that the picture is a second limited inter-frame predictive encoded picture that is decoded at the time of high-speed reproduction at a search speed higher than the predetermined search speed is added to the picture. The encoding method.
複数のピクチャが符号化された動画像情報を受信し、復号化する復号化方法であって、
前記符号化された動画像情報は
各ピクチャの符号化に用いられた符号化方式を表す情報を含み、
予め定められた周期に対応する符号化ピクチャが、フレーム内予測符号化方式で符号化されたフレーム内予測符号化ピクチャと、参照先画像がフレーム内予測符号化ピクチャ又は前記予め定められた周期に対応する他のフレーム間予測符号化ピクチャに制限されたフレーム間予測符号化方式で符号化された第1の制限付フレーム間予測符号化ピクチャとで構成され、
前記予め定められた周期に対応しない符号化ピクチャのうち、一部の符号化ピクチャが、参照先画像が前記予め定められた周期に対応する符号化ピクチャに制限されたフレーム間予測符号化方式で符号化された第2の制限付フレーム間予測符号化ピクチャで構成され、
残りの符号化ピクチャが、前記フレーム内予測符号化ピクチャ又は参照先画像が制限されていないフレーム間予測符号化方式で符号化されたフレーム間予測符号化ピクチャ構成され
前記復号化方法は、
取得手段が、前記符号化された動画像情報から、前記符号化方式を表す情報を取得する取得ステップと、
復号化手段が、前記取得ステップが取得した前記符号化方式を表す情報に基づいて、前記符号化された動画像情報に含まれる符号化ピクチャを復号化する復号化ステップと、
検出手段が、高速再生の実行指示を検出する検出ステップと、
再生制御手段が、前記検出ステップが所定のサーチ速度での高速再生の実行指示を検出した場合には、前記符号化された動画像情報のうち、前記フレーム内予測符号化ピクチャと前記第1の制限付フレーム間予測符号化ピクチャとを前記復号化ステップで復号化させ、前記検出ステップが前記所定のサーチ速度よりも速いサーチ速度による高速再生の実行指示を検出し場合には、前記フレーム内予測符号化ピクチャ及び前記第1の制限付フレーム間予測符号化ピクチャの一部と、前記第2の制限付フレーム間予測符号化ピクチャとを前記復号化ステップで復号化させる復号制御ステップを有することを特徴とする復号化方法。
A decoding method for receiving and decoding moving picture information in which a plurality of pictures are encoded,
Dynamic image information the coding,
Including information representing the encoding scheme used to encode each picture;
Coded picture corresponding to a predetermined period, in intra-frame prediction coding method and coding frame prediction coded picture, the referenced picture has been determined prediction coded picture or said pre-frame period A first limited inter-frame predictive encoded picture encoded with an inter-frame predictive encoding scheme limited to other corresponding inter- frame predictive encoded pictures ,
Among the encoded pictures that do not correspond to the predetermined period, some of the encoded pictures are inter-frame prediction encoding schemes in which the reference image is limited to the encoded picture corresponding to the predetermined period. The encoded second limited interframe predictive encoded picture,
The remaining coded picture is constructed between encoded frames in the predictive coded picture by inter-frame predictive coding method in which the intra-frame predictive coding picture or referenced image is not limited,
The decoding method is:
An obtaining step for obtaining information representing the coding method from the coded moving image information;
A decoding step for decoding each encoded picture included in the encoded moving image information based on information representing the encoding method acquired by the acquiring step;
A detecting step for detecting a high-speed playback execution instruction;
When the reproduction control unit detects an instruction to execute high-speed reproduction at a predetermined search speed, the reproduction control means includes the intra-frame prediction encoded picture and the first frame of the encoded moving image information. and inter-restricted-frame predictive coded picture is decoded in the decoding step, when said detecting step detects an execution instruction for the high-speed reproduction by fast search speed than the predetermined search speed is in the frame having a portion of the predictive coded picture and the first inter-restricted-frame predictive coded picture, a decoding control step of decrypted the predictive coded picture between the second restricted frame by the decoding step A decoding method characterized by the above.
コンピュータを、請求項1乃至5のいずれか1項に記載の符号化装置の各手段として機能させるためのプログラム。 A program for a computer to function as each means of the encoding device according to any one of claims 1乃optimum 5. コンピュータを、請求項6又は7記載の復号化装置の各手段として機能させるためのプログラム。 The program for functioning a computer as each means of the decoding apparatus of Claim 6 or 7 . 請求項10又は11に記載のプログラムの少なくとも一方を格納したコンピュータ読み取り可能な記録媒体。 The computer-readable recording medium which stored at least one of the programs of Claim 10 or 11 .
JP2006130882A 2006-05-09 2006-05-09 Image encoding apparatus, encoding method, image decoding apparatus, and decoding method Expired - Fee Related JP4810298B2 (en)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2006130882A JP4810298B2 (en) 2006-05-09 2006-05-09 Image encoding apparatus, encoding method, image decoding apparatus, and decoding method
US11/743,473 US8279928B2 (en) 2006-05-09 2007-05-02 Image encoding apparatus and encoding method, image decoding apparatus and decoding method
CN2007101011770A CN101072345B (en) 2006-05-09 2007-05-09 Image encoding apparatus and encoding method, image decoding apparatus and decoding method
US13/599,231 US20120320977A1 (en) 2006-05-09 2012-08-30 Encoding/decoding apparatus, imaging apparatus, and methods for controlling therefor

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006130882A JP4810298B2 (en) 2006-05-09 2006-05-09 Image encoding apparatus, encoding method, image decoding apparatus, and decoding method

Publications (3)

Publication Number Publication Date
JP2007306160A JP2007306160A (en) 2007-11-22
JP2007306160A5 JP2007306160A5 (en) 2009-06-18
JP4810298B2 true JP4810298B2 (en) 2011-11-09

Family

ID=38839751

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006130882A Expired - Fee Related JP4810298B2 (en) 2006-05-09 2006-05-09 Image encoding apparatus, encoding method, image decoding apparatus, and decoding method

Country Status (2)

Country Link
JP (1) JP4810298B2 (en)
CN (1) CN101072345B (en)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101789979B (en) * 2010-01-21 2012-08-08 华为终端有限公司 Wireless Internet access method and wireless Internet access data card
CN101783950B (en) * 2010-02-11 2012-06-20 深圳市茁壮网络股份有限公司 Method, system and device for displaying image
US9872019B2 (en) * 2010-07-20 2018-01-16 Sk Telecom Co., Ltd. Method and device for deblocking-filtering, and method and device for encoding and decoding using same
PL3131294T3 (en) 2011-01-14 2020-11-16 Sun Patent Trust Method and apparatus for temporal prediction in scalable video coding
US9854234B2 (en) * 2012-10-25 2017-12-26 Qualcomm Incorporated Reference picture status for video coding
US10075725B2 (en) 2014-02-03 2018-09-11 Mitsubishi Electric Corporation Device and method for image encoding and decoding
WO2015192991A1 (en) * 2014-06-18 2015-12-23 Telefonaktiebolaget L M Ericsson (Publ) Random access in a video bitstream
CN110036639B (en) * 2016-12-12 2022-02-11 索尼公司 Image processing apparatus and method

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP0914000A4 (en) * 1996-07-24 2001-10-31 Sanyo Electric Co Moving picture recording device and moving picture reproducing device
JPH11341435A (en) * 1998-05-22 1999-12-10 Sony Corp Edit method and edit device
JP4211153B2 (en) * 1999-09-17 2009-01-21 ソニー株式会社 Recording apparatus and method
MXPA03006080A (en) * 2001-11-06 2003-09-10 Matsushita Electric Ind Co Ltd Moving picture coding method and moving picture decoding method.
JP2004140723A (en) * 2002-10-21 2004-05-13 Funai Electric Co Ltd Method and device for reproducing digital video information
EP2348720B1 (en) * 2004-07-01 2015-04-01 Mitsubishi Electric Corporation Randomly accessible visual information recording medium and recording method, and reproducing device and reproducing method
WO2006030694A1 (en) * 2004-09-13 2006-03-23 Sharp Kabushiki Kaisha Image encoding apparatus, image decoding apparatus, image encoding program and image decoding program

Also Published As

Publication number Publication date
CN101072345A (en) 2007-11-14
CN101072345B (en) 2010-11-10
JP2007306160A (en) 2007-11-22

Similar Documents

Publication Publication Date Title
US8279928B2 (en) Image encoding apparatus and encoding method, image decoding apparatus and decoding method
JP4810298B2 (en) Image encoding apparatus, encoding method, image decoding apparatus, and decoding method
JP4014263B2 (en) Video signal conversion apparatus and video signal conversion method
JP5090158B2 (en) VIDEO INFORMATION RECORDING DEVICE, VIDEO INFORMATION RECORDING METHOD, VIDEO INFORMATION RECORDING PROGRAM, AND RECORDING MEDIUM CONTAINING VIDEO INFORMATION RECORDING PROGRAM
JP5594536B2 (en) Image processing apparatus and method, program, and recording medium
JP4035257B2 (en) Image processing apparatus, image processing method, and computer-readable storage medium
KR19990072968A (en) Picture signal processing system, decoder, picture signal processing method, and decoding method
JP5137687B2 (en) Decoding device, decoding method, and program
US20090129471A1 (en) Image decoding apparatus and method for decoding prediction encoded image data
KR101970742B1 (en) Dynamic image predictive encoding and decoding device, method, and program
US8306110B2 (en) Moving image coding apparatus and method using copy pictures depending on virtual buffer verifier occupancy
US20150304672A1 (en) Image processing device and method
JP2006340183A (en) Image coding apparatus and image coding method
JP2007318615A (en) Moving image reproducing device, moving image reproduction method and program
JP2009218965A (en) Image processor, imaging device mounted with the same and image reproduction device
JP3897684B2 (en) Image recording method
JP4974583B2 (en) Image encoding apparatus and encoding method
JP4700992B2 (en) Image processing device
JPH0888854A (en) Moving picture encoding system
JP3501521B2 (en) Digital video signal reproducing apparatus and reproducing method
JP2009296208A (en) Dynamic image-reproducing device and dynamic image transmission system
JP2013055532A (en) Imaging apparatus and program
JP2015037223A (en) Image processing device and control method of the same
JP2018082252A (en) Image encoder and control method and program thereof
JP2018113525A (en) Moving picture encoding device and moving picture encoding method

Legal Events

Date Code Title Description
A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090430

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090430

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100825

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100903

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20101101

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110815

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110822

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140826

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees