JP4700992B2 - Image processing device - Google Patents
Image processing device Download PDFInfo
- Publication number
- JP4700992B2 JP4700992B2 JP2005112522A JP2005112522A JP4700992B2 JP 4700992 B2 JP4700992 B2 JP 4700992B2 JP 2005112522 A JP2005112522 A JP 2005112522A JP 2005112522 A JP2005112522 A JP 2005112522A JP 4700992 B2 JP4700992 B2 JP 4700992B2
- Authority
- JP
- Japan
- Prior art keywords
- encoding
- moving image
- signal
- image signal
- video
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Compression Or Coding Systems Of Tv Signals (AREA)
Description
本発明は、動画像信号の符号化を行う画像処理装置に関するものである。 The present invention relates to an image processing apparatus that encodes a moving image signal.
近年、デジタルビデオカメラやデジタルテレビではハイビジョン化(高解像度化)の流れが進行している。そして、高解像度画像(HD画像)信号をMPEGやH.264等の高能率符号化方式で記録するハイビジョン用撮像装置に対する需要が大きくなっている。またハイビジョン用撮像装置は、HD画像のみを記録するだけでなく、標準解像度画像(SD画像)も記録可能であることが仕様として要求されている。 In recent years, digital video cameras and digital televisions have been trending toward high-definition (higher resolution). Then, a high resolution image (HD image) signal is converted into MPEG or H.264. There is a growing demand for high-vision imaging devices that record with a high-efficiency encoding method such as H.264. Further, it is required as a specification that an imaging apparatus for high vision not only records HD images but also can record standard resolution images (SD images).
HD画像信号を符号化する場合には、解像度、即ち1画面あたりの画素数がSD画像信号に比べて多いため、従来、1画面を複数の領域に分割してそれぞれ異なるプロセッサにより符号化している(例えば、特許文献1参照)。 When an HD image signal is encoded, the resolution, that is, the number of pixels per screen is larger than that of an SD image signal. Therefore, conventionally, one screen is divided into a plurality of areas and encoded by different processors. (For example, refer to Patent Document 1).
前述の様に、従来はHD画像信号を複数のプロセッサにより符号化していたが、同じ符号化回路を使ってSD画像信号を符号化する場合には、複数の符号化用プロセッサのうちの一部のみを使えばよく、せっかく複数のプロセッサを持っているにも関わらず、有効に活用できていないという問題がある。 As described above, the HD image signal is conventionally encoded by a plurality of processors. However, when the SD image signal is encoded using the same encoding circuit, a part of the plurality of encoding processors is used. There is a problem that even though it has multiple processors, it cannot be used effectively.
本発明は、上述した事情を考慮してなされたもので、HD画像信号及びSD画像信号に対して符号化が可能で、HD画像信号を符号化するために複数の符号化用プロセッサを備える画像処理装置において、SD画像信号に対してより高画質な符号化を行うことができる画像処理装置を提供することを目的とする。 The present invention has been made in consideration of the above-described circumstances, and can encode an HD image signal and an SD image signal, and an image including a plurality of encoding processors for encoding the HD image signal. An object of the present invention is to provide an image processing apparatus capable of performing higher-quality encoding on an SD image signal in the processing apparatus.
この発明は、上述した課題を解決すべくなされたもので、第1の解像度を有する第1の動画像信号、及び、前記第1の解像度よりも高い解像度を有する第2の動画像信号を符号化処理可能な画像処理装置であって、操作部の操作に基づいて、前記第1の動画像信号を符号化処理する第1の処理モードと、前記第2の動画像信号を符号化処理する第2の処理モードとのいずれを実行するか判断するモード判断手段と、前記第1の動画像信号をリアルタイムに符号化可能な符号化手段を複数組み合わせて前記第2の動画像信号をリアルタイムに符号化可能な符号化群手段と、前記第1の動画像信号、又は、前記第2の動画像信号を前記複数の符号化手段へ入力する入力手段と、前記モード判断手段が前記第1の処理モードと判断した場合に、前記複数の符号化手段における各符号化手段に対して並列に前記第1の動画像信号を入力するように前記入力手段を制御する入力制御手段と、前記モード判断手段が前記第1の処理モードと判断した場合に、前記複数の符号化手段に対して各々異なる符号化パラメータ値として動き探索用サーチエリアを設定するパラメータ設定手段と、前記モード判断手段が前記第1の処理モードと判断した場合に、前記パラメータ設定手段が異なる動き探索用サーチエリアを設定した各符号化手段がそれぞれ動き探索を行うことによって算出した動きベクトルが示す参照画像のマクロブロックと符号化対象マクロブロックとの差分絶対値和を比較し、前記差分絶対値和が最も小さい値を算出した符号化手段が出力する動画符号化信号を特定する特定手段と、前記モード判断手段が前記第1の処理モードと判断した場合に、前記複数の符号化手段から出力される複数の動画符号化信号から、前記特定手段が特定した動画符号化信号を、出力対象信号として出力する出力制御手段とを具備することを特徴とする。 The present invention has been made to solve the above-described problem, and encodes a first moving image signal having a first resolution and a second moving image signal having a resolution higher than the first resolution. A first processing mode for encoding the first moving image signal and an encoding process for the second moving image signal based on an operation of an operation unit. A mode determination means for determining which of the second processing modes is to be executed and a plurality of encoding means capable of encoding the first moving image signal in real time are combined to provide the second moving image signal in real time. An encoding group means capable of encoding; an input means for inputting the first moving image signal or the second moving image signal to the plurality of encoding means; and the mode determining means, When it is determined that the processing mode, Input control means for controlling the input means so as to input the first moving image signal in parallel to each of the encoding means in the number of encoding means, and the mode determination means is the first processing mode. If it is determined, a parameter setting means for setting the motion search service Chieria as each different coding parameter values for the plurality of encoding means, when said mode determining means determines that said first processing mode , sum of absolute differences between the macro block and the encoding target macro block of the reference image in which each coding unit the parameter setting means sets the different motion search service Chieria indicates the motion vector calculated by performing a motion search, respectively And specifying means for specifying the moving image encoded signal output by the encoding means that has calculated the value having the smallest difference absolute value sum, When the mode determining unit determines that the first processing mode is selected, the moving image encoded signal specified by the specifying unit is output as the output target signal from the plurality of moving image encoded signals output from the plurality of encoding units. Output control means for outputting.
本発明による画像処理装置は、第1の解像度を有する第1の動画像信号、及び、前記第1の解像度よりも高い解像度を有する第2の動画像信号を符号化処理可能な画像処理装置であって、動き量を考慮しつつ、第1の動画像信号に対して符号化を行うことができる。
An image processing apparatus according to the present invention is an image processing apparatus capable of encoding a first moving image signal having a first resolution and a second moving image signal having a resolution higher than the first resolution. there are, taking into account the amount of motion, it is possible to perform sign-reduction with respect to the first moving image signal.
以下、図面を参照して本発明の実施形態について詳細に説明する。
(第1の実施形態)
本発明の第1の実施形態における画像処理装置として、HD画像(高解像度の動画像)及びSD画像(標準解像度の動画像)を撮像して記録媒体に記録可能なビデオカメラ(撮像機能を有する画像処理装置)について以下に説明を行う。図1は、本発明の第1の実施形態におけるビデオカメラの概略構成を示す図である。図1に示すように、本実施形態のビデオカメラ(撮像装置)は、SD画像の動画像信号をリアルタイムで(フレームの欠落などがなく)符号化可能な回路であるSDコア(符号化用プロセッサ)をN個(Nは2以上の整数)組み合わせてHDの動画像信号をリアルタイムに符号化して記録する撮像装置を例にとって説明する。
Hereinafter, embodiments of the present invention will be described in detail with reference to the drawings.
(First embodiment)
As an image processing apparatus according to the first embodiment of the present invention, a video camera (having an imaging function) capable of capturing HD images (high resolution moving images) and SD images (standard resolution moving images) and recording them on a recording medium. The image processing apparatus will be described below. FIG. 1 is a diagram showing a schematic configuration of a video camera according to the first embodiment of the present invention. As shown in FIG. 1, the video camera (imaging device) according to the present embodiment has an SD core (encoding processor) that is a circuit capable of encoding a moving image signal of an SD image in real time (with no missing frame). ) And N (N is an integer equal to or greater than 2), and an HD imaging signal is recorded and recorded in real time.
尚、本実施形態のHD画像信号(高解像度の動画像信号)とは例えばハイビジョン映像信号であり、SD画像信号(標準解像度の動画像信号)とは、例えば通常のテレビ映像(NTSC準拠の映像)信号である。そして、本実施形態のビデオカメラの動作モードには、撮像したHD画像信号に対して符号化を行い記録媒体に記録するHD記録モードと、撮像したSD画像信号に対して符号化を行い記録媒体に記録するSD記録モードとがある。 Note that the HD image signal (high-resolution video signal) of this embodiment is, for example, a high-definition video signal, and the SD image signal (standard-resolution video signal) is, for example, a normal television video (NTSC-compliant video). ) Signal. The operation mode of the video camera of the present embodiment includes an HD recording mode in which the captured HD image signal is encoded and recorded on a recording medium, and a recording medium in which the captured SD image signal is encoded. And SD recording mode for recording.
図1において、101は撮像部であり、光学系や撮像素子から構成され、HD画像信号又はSD画像信号(ディジタル信号)を出力する。102、103はスイッチであり、後述するコントローラ120の制御に応じて、撮像部101の出力信号(HD画像信号又はSD画像信号)の伝達先となるバッファを切り替える。
In FIG. 1,
104はフレームバッファである。フレームバッファ104は、バッファ105〜バッファ106のN個の記憶領域から構成される。なお、図1において、バッファ105、バッファ106以外のバッファは省略して図示していない。また、バッファ105〜バッファ106に示すN個の各バッファは、SD画像信号の1フレーム分を記録可能な容量のバッファである。そして、バッファ105〜バッファ106を全て加算した記憶容量が、HD画像信号の1フレーム分を記録可能な容量である。すなわち、1フレーム分のHD画像信号を分割してバッファ105〜バッファ106に格納する。
107は、HD信号符号化回路であり、SD画像信号をリアルタイムに符号化可能な回路であるSDコア108〜SDコア109をN個配列した構成である。なお、SDコア108、SDコア109以外のSDコアは省略して図示していない。N個のSDコア108〜SDコア109は、各バッファ105〜バッファ106に対応して設置されている。これらN個のSDコア108〜SDコア109を同時に使用することで、HD画像信号をリアルタイムに符号化することができる。
110は、SDコア108で符号化された映像符号化信号である。111は、SDコア109で符号化された映像符号化信号である。すなわち、N個のSDコア108〜SDコア109は、映像符号化信号110〜映像符号化信号111を出力する。なお、図1において、SDコア108、SDコア109以外のSDコアから出力された信号は省略のため図示していない。
112はスイッチであり、判定回路113の制御に応じて、N個のSDコア108〜SDコア109が出力する映像符号化信号110〜映像符号化信号111の内のいずれか1つを選択して出力する。113は、判定回路であり、コントローラ120の制御と、映像符号化信号110〜映像符号化信号111及び撮像部101の出力信号に応じて、スイッチ112を制御する制御信号を出力する。例えば、判定回路113は、映像符号化信号110〜映像符号化信号111ならびに撮像部101からの入力信号(SD画像信号)を用いて映像符号化信号110〜映像符号化信号111のSN比などを算出して、この値を基に、スイッチ112の制御を行う。具体的には、判定回路113は、映像符号化信号110〜映像符号化信号111を復号処理して、源信号であるSD画像信号と比較することでSN比を求める。
114は、スイッチ112が出力する信号(映像符号化信号110〜映像符号化信号111のいずれか)を一時保存するビデオストリームバッファである。115は、本ビデオカメラに具備されているマイクである。116は、音声信号符号化回路であり、マイク115から入力された音声信号の符号化を行い、音声符号化信号を出力する。117は、音声符号化回路116で符号化された音声符号化信号を一時保存するオーディオストリームバッファである。
118は記録回路であり、ビデオストリームバッファ114に保存された映像符号化信号とオーディオストリームバッファ117に保存された音声符号化信号を多重化し、光ディスクや磁気テープなどの記録媒体119に記録する。
120は、コントローラであり、本ビデオカメラ全体ならびにスイッチ102、103、HD符号化回路107、SDコア108からSDコア109、判定回路113を制御する。121は、電源スイッチや記録する画像の解像度を設定する設定スイッチや、記録の開始、停止を指示するトリガスイッチなどを含む操作部である。操作部121は、ユーザの操作に応じた信号をコントローラ120へ出力する。
A
本実施形態のビデオカメラの映像信号符号化方式は、例えばMPEGやH.264などが好適であり、音声信号符号化方式は、例えばMPEGオーディオならびにAC3、AACなどが好適であるが、この限りではなく、映像信号や音声信号を効率良く符号化する高能率符号化方式であればよい。すなわち、SDコア108〜109は、SD画像信号やHD画像信号を直交変換(DCT)して直交変換係数(DCT係数)を出力する直交変換部と、直交変換部が出力する直交変換係数を設定された量子化ステップ幅で量子化する量子化部とを少なくとも具備する。また、SDコア108〜109に対しては、符号化パラメータにより、符号化時の目標符号量、量子化ステップ幅、DCTタイプなどを設定することが可能である。 The video signal encoding method of the video camera of this embodiment is, for example, MPEG or H.264. For example, MPEG audio and AC3, AAC, and the like are preferable. However, the audio signal encoding method is not limited to this, and is a high-efficiency encoding method that efficiently encodes video signals and audio signals. I just need it. That is, the SD cores 108 to 109 set an orthogonal transform unit that outputs an orthogonal transform coefficient (DCT coefficient) by orthogonal transform (DCT) of an SD image signal or an HD image signal, and an orthogonal transform coefficient output by the orthogonal transform unit. And a quantization unit that performs quantization with the quantized step width. In addition, for the SD cores 108 to 109, it is possible to set a target code amount at the time of encoding, a quantization step width, a DCT type, and the like according to encoding parameters.
次に、図1に示した第1の実施形態におけるビデオカメラの映像記録処理について説明する。図2は、図1に示した第1の実施形態におけるビデオカメラの映像記録処理を示すフローチャートである。尚、図2では、説明文ならびにフローチャートの簡略化のため2個のSDコア(SDコア108及びSDコア109)を使用している形態について説明するが、実際はN個のSDコアを使用している。 Next, video recording processing of the video camera in the first embodiment shown in FIG. 1 will be described. FIG. 2 is a flowchart showing video recording processing of the video camera in the first embodiment shown in FIG. In FIG. 2, a description will be given of an embodiment in which two SD cores (SD core 108 and SD core 109) are used for simplifying the explanatory text and the flowchart, but in reality, N SD cores are used. Yes.
まず、図2の処理の前に、ユーザは操作部121を操作して、本ビデオカメラに対して電源を投入した後に、記録する画像の解像度を決定する。これにより、ステップS201において、コントローラ120は、起動処理時にSD記録モードであるか、又は、HD記録モードであるかを判断する。ここで、操作部121の操作によりSD記録モードが設定されていた場合には、ステップS202に進み、コントローラ120は、記録モードをSD記録モードに制御する。また、HD記録モードが設定されていた場合には、ステップS210に進み、コントローラ120は、記録モードをHD記録モードになる。
First, before the processing in FIG. 2, the user operates the
まず記録モードがSD記録モード時の本ビデオカメラの動作を説明する。ステップS202において本ビデオカメラの記録モードがSD記録モードになった後、ステップS203において、コントローラ120は、記録開始待ち状態になる。ここで、ユーザが操作部121において記録開始操作を行うと、コントローラ120は、必要ブロックに対して記録開始命令を与えて、ステップS204以降のSD画像信号の符号化及び記録処理を開始する。
First, the operation of the present video camera when the recording mode is the SD recording mode will be described. After the recording mode of the video camera becomes the SD recording mode in step S202, the
次に、ステップS204において、コントローラ120は、撮像部101から入力されたSD画像信号がバッファ105〜バッファ106に保存されるように、スイッチ102ならびにスイッチ103を制御して切り替える。このときバッファ105〜バッファ106には同一のデータ(1フレーム分のSD画像信号)が保存されている。コントローラ120は、SD記録モードが設定されると、SDコア108〜109に対して異なる符号化パラメータ値を設定する。バッファ105〜バッファ106に保存されたSD画像信号は各々異なる符号化パラメータ値を与えられたSDコア108〜SDコア109に入力される。これにより、SDコア108からは映像符号化信号110が、SDコア109からは映像符号化信号111が出力される。
Next, in step S204, the
ここで各々のSDコア108〜109に与える符号化パラメータを説明する。
一つ目の符号化パラメータは目標符号量である。SDコア108とSDコア109に対するGOPの目標符号量は同じに設定するが、各ピクチャ(Iピクチャ、Pピクチャ、Bピクチャ)の目標符号量配分をSDコア108とSDコア109で異なるものにする。例えば、SDコア108には、各ピクチャの目標符号量の割合を所謂TM5(MPEG Test Model 5)のようにピクチャの複雑さなどを用いて算出した結果得られた目標符号量を設定する。また、SDコア109には、SDコア108におけるIピクチャとP,Bピクチャの符号量目標値の割合に対し、PピクチャやBピクチャに対する目標符号量を多めに設定する。以上の設定により、動きの大きい映像信号に対しては、PならびにBピクチャに対する符号量が多く必要となるためSDコア109のような目標符号量配分だと画質の向上が行えることになる。
Here, encoding parameters given to the respective SD cores 108 to 109 will be described.
The first encoding parameter is a target code amount. The target code amount of GOP for the SD core 108 and the
ただし、符号化パラメータを目標符号量とした時はピクチャ単位でスイッチ112の切り替えを行うとGOPの目標符号量と実際符号化を行って発生したGOPの発生符号量に大きな差ができてしまいVBVバッファの破綻を起こしてしまう。よって目標符号量を符号化パラメータとする場合にはGOP(Group Of Pictures)単位でスイッチ112の切り替えを行うものとする。
However, when the encoding parameter is set to the target code amount, if the
二つ目の符号化パラメータは量子化ステップ幅である。SDコア108に対してはアクティビティを用いて算出した量子化ステップ幅を用いる。発生符号量に基づいて算出した量子化ステップ幅に対してアクティビティを乗算したものを実際の量子化ステップ幅としてDCT係数の量子化を行う。尚、アクティビティとはマクロブロックの分散を示し、人間の視覚に目立ちやすい平坦部での量子化ステップ幅を小さくすると共に、人間の視覚に目立ちにくいテクスチャ部の量子化ステップ幅を大きくする効果がある。 The second encoding parameter is the quantization step width. For the SD core 108, the quantization step width calculated using the activity is used. The DCT coefficient is quantized using the quantization step width calculated based on the generated code amount multiplied by the activity as the actual quantization step width. Activity refers to the distribution of macroblocks, and has the effect of reducing the quantization step width in flat areas that are easily noticeable to human vision and increasing the quantization step width in texture areas that are inconspicuous to human vision. .
一方、SDコア109に対してはアクティビティを使用しないで算出した量子化ステップ幅を用いる。発生符号量に基づいて算出した量子化ステップ幅を実際の量子化ステップ幅としてDCT係数の量子化を行う。この場合シーンに応じて画面内にメリハリをつけたりなくしたりすることが可能となる。ただし、フレーム単位でメリハリの利き具合が変化すると視覚的に悪影響を及ぼす場合もあるので数フレーム単位ならびにGOP単位でスイッチ112の切り替えを行うものとする。
On the other hand, for the
三つ目の符号化パラメータは、MPEGで採用されている直交変換方法であるDCT(離散コサイン変換)のタイプを特定するパラメータである。SDコア108に対してはDCTを行う際にフレームDCTで行うように設定し、SDコア109に対してはDCTを行う際にフィールドDCTで行うように設定する。本実施形態では、SD画像信号はインターレース形式であり、フィールドDCTの場合、一つのDCTブロックのフレーム画像に対し、フィールド別にDCT処理を行い、フレームDCTの場合、一つのDCTブロックのフレーム画像に対し、フレーム単位にDCT処理を行う。この場合、動きの少ない部分に対してはフレームタイプDCTを使用すると効果があるためSDコア108からの出力を使用し、動きの少ない部分に対してはフィールドタイプDCTを使用すると効果があるためSDコア109からの出力を使用するようにスイッチ112を切り替える。スイッチ112の切り替えタイミングはマクロブロック単位であると1つのマクロブロック毎にSN比に応じてDCTタイプを切り替えることが可能となる。また、スライスを単位とすると1つのスライス毎にSN比に応じてDCTタイプを切り替えることが可能となる。
The third encoding parameter is a parameter that specifies the type of DCT (Discrete Cosine Transform), which is an orthogonal transform method employed in MPEG. The SD core 108 is set to perform DCT when performing frame DCT, and the
以上挙げた符号化パラメータは一例にすぎず映像信号の符号化で使用する符号化パラメータであれば上記以外のパラメータを使用しても良い。また1つのパラメータ単独で切り替える方法でも、複数個の符号化パラメータを組み合わせて使用しても良い。 The encoding parameters listed above are merely examples, and parameters other than those described above may be used as long as they are encoding parameters used for encoding video signals. Further, a method of switching by one parameter alone or a combination of a plurality of encoding parameters may be used.
次に、ステップS205において、上記各符号化パラメータの設定を組み合わせて符号化された映像符号化信号110〜111、ならびに撮像部101からのSD画像信号が判定回路113へ入力される。判定回路113は、SD画像信号ならびに上記各符号化パラメータで符号化された映像符号化信号110〜111を用いて画質劣化の評価を行い、最も画質劣化の少ない映像符号化信号を選択して出力するようにスイッチ112を制御して切り替える。
Next, in step S205, the encoded video signals 110 to 111 encoded by combining the settings of the encoding parameters and the SD image signal from the
また、判定回路113は、SD画像信号ならびに上記各符号化パラメータの設定値により符号化された映像符号化信号110〜111を用いて発生符号量の評価を行い、最も発生符号量の少ない映像符号化信号を出力するようにスイッチ112を切り替えてもよい。
Further, the
さらに、判定回路113は、SD画像信号ならびに上記各符号化パラメータの設定値で符号化された映像符号化信号110〜111を用いて画質劣化及び発生符号量の評価を行い、画質劣化が少なく発生符号量も少ない映像符号化信号を出力するようにスイッチ112を切り替えることも可能である。
Furthermore, the
なお、判定回路113は現在ピクチャ単位で比較評価している構成であるが、ピクチャ単位に限らずスライスやマクロブロックを比較の単位としても良い。また、スイッチ112の切り替えタイミングはマクロブロック単位、スライス単位、ピクチャ単位ならびにGOP単位であるものとする。
Note that the
次に、ステップS205において判定回路113が映像符号化信号110の方がSN比が高いと判断した場合には、ステップS206に進み、スイッチ112の切り替えにより、ビデオストリームバッファ114には映像符号化信号110が保存される。また、ステップS205において判定回路113が映像符号化信号111の方がSN比が高いと判断した場合には、ステップS207において、ビデオストリームバッファ114には映像符号化信号111が保存される。
Next, when the
次に、ステップS208において、記録回路118は、ビデオストリームバッファ114に保存されている映像符号化信号と、オーディオストリームバッファ117に保存されている音声符号化信号とを多重化して記録媒体119に記録する。
Next, in step S <b> 208, the
次に、ステップS209において、コントローラ120は、ユーザが操作部121を操作することで、本ビデオカメラに対して記録終了の命令が与えられたか否かを判断する。ここで、記録終了の命令が与えられていないと判断した場合には、ステップS204に戻りSD画像信号及び音声信号の符号化ならびに記録処理を継続する。また記録終了の命令が与えられた判断した場合には、本ビデオカメラは、SD画像信号及び音声信号の符号化ならびに記録処理を終了する。
Next, in step S209, the
次に、記録モードがHD記録モード時の本ビデオカメラの動作を説明する。ステップS210においてHD記録モードが設定された後、ステップS211において、コントローラ120は、記録開始待ち状態になる。ここで、ユーザが操作部121において記録開始操作を行うと、コントローラ120は、必要ブロックに対して記録開始命令を与えて、ステップS212以降のHD画像信号の符号化及び記録処理を開始する。
Next, the operation of this video camera when the recording mode is the HD recording mode will be described. After the HD recording mode is set in step S210, the
まず、ステップS212において、コントローラ120は、撮像部101から入力されたHD画像信号がバッファ105〜バッファ106に保存されるように、スイッチ102ならびにスイッチ103を制御して切り替える。この時各バッファにはHD画像信号の1フレームをそれぞれ所定サイズの複数の領域に分割したうちの一つの分割データが保存されている。バッファ105に保存された分割データは、SDコア108で符号化されて映像符号化信号110が生成され、バッファ106に保存された分割データはSDコア109で符号化されて映像符号化信号111が生成される。すなわち、映像符号化信号110と映像符号化信号111は、1フレーム内の異なる領域を符号化したデータである。
First, in step S212, the
次に、ステップS213において、映像符号化信号110と映像符号化信号111は1つの映像符号化信号になるように、コントローラ120が判定回路113を介してスイッチ112を制御して切り替えてビデオストリームバッファ114に保存する。
Next, in step S213, the
後の動作は、ステップS208〜S209に示したSD記録モード時と同じであり、ステップS208において、ビデオストリームバッファ114に保存されている映像符号化信号とオーディオストリームバッファ117に保存されている音声符号化信号を記録回路118において多重化して記録媒体119に記録する。そして、ステップS209において記録終了の命令が与えられない限りステップS212に戻り、HD画像信号及び音声信号の符号化ならびに記録処理を行う。また、記録終了命令が与えられたとき、HD画像信号ならびに音声信号の符号化及び記録処理を終了する。
The subsequent operation is the same as in the SD recording mode shown in steps S208 to S209. In step S208, the encoded video signal stored in the
以上に説明したように、本実施形態のビデオカメラにおいては、SD記録モード時に、各SDコアにおいて種々の符号化パラメータで符号化を行い、判定回路113により最も画質がよいと判定されたSDコアの出力する映像符号化信号を出力することができる。これにより、本実施形態のビデオカメラは、HD記録モード用に複数あるSDコアを有効に利用して、SD画像信号に対して、従来より高画質な符号化を行うことができる。
As described above, in the video camera of the present embodiment, in the SD recording mode, each SD core performs encoding with various encoding parameters, and the SD core determined to have the best image quality by the
(第2の実施形態)
次に、第2の実施形態におけるビデオカメラ(撮像機能を有する画像処理装置)について説明する。図3は、第2の実施形態におけるビデオカメラ(撮像装置)の概略構成を示す図である。図3の符号301〜312、314〜320、323の構成要素は、図1に示した第1の実施形態の符号101〜112、114〜120、121と同様の構成要素であり、説明を省略する。図3のビデオカメラにおいて、図1のビデオカメラと異なる部分は、判定回路313が、撮像部301の出力する信号及び映像符号化信号310〜311を利用せずに、SDコア308〜309が符号化を行った際に算出された符号化情報(例えば動き補償の値)を利用して、スイッチ312の制御を行っている点である。
(Second Embodiment)
Next, a video camera (an image processing apparatus having an imaging function) in the second embodiment will be described. FIG. 3 is a diagram illustrating a schematic configuration of a video camera (imaging device) according to the second embodiment. The components denoted by
321は、SDコア308において符号化を行った際に算出された符号化情報であり、322は、SDコア309において符号化を行った際に算出された符号化情報である。なお、図3において、SDコア308、SDコア309以外のSDコアにおいて符号化を行った際に算出された符号化情報は、省略したため図示していない。また、第1の実施形態と同様に、本実施形態におけるビデオカメラの映像信号符号化方式は、MPEGならびにH.264などであり、音声信号符号化方式はMPEGオーディオならびにAC3、AACなどであるとする。
Reference numeral 321 denotes encoding information calculated when the
第2の実施形態におけるビデオカメラの記録処理については、第1の実施形態と同様であるので図2のフローチャートを参照して説明する。但し、第2の実施形態と第1の実施形態では、図2のステップS205における出力判定の処理の内容が異なるので、その点を主に説明する。 Since the recording process of the video camera in the second embodiment is the same as that of the first embodiment, it will be described with reference to the flowchart of FIG. However, since the contents of the output determination process in step S205 in FIG. 2 are different between the second embodiment and the first embodiment, this point will be mainly described.
ステップS204において、コントローラ320は、撮像部301から入力されたSD画像信号が、バッファ305〜バッファ306に保存されるように、スイッチ302ならびにスイッチ303を制御して切り替える。このときバッファ305からバッファ306には同一のデータが保存されている。バッファ305からバッファ306に保存されたSD画像信号は各々異なる符号化パラメータを与えられたSDコア308〜SDコア309に入力されて、SDコア308からは映像符号化信号310が、SDコア309からは映像符号化信号311が生成される。
In step S204, the
本実施形態では、例えば、SDコア308に対しては動き探索を行う際にサーチエリアは広範囲で、その精度をN画素単位(Nは1以上)となるように設定し、SDコア309に対しては動き探索を行う際にサーチエリアは狭範囲で、その精度をn画素単位(nは1以下)となるように設定する。
In the present embodiment, for example, when performing a motion search for the
以上のような設定において、判定回路313は、動き量が大きい部分に対してはサーチエリアを広く設定してサーチすると効果があるためSDコア308が出力する映像符号化信号310を選択するようスイッチ312を制御して切り替える。また、判定回路313は、動き量が小さい部分に対してはサーチエリアを狭く設定して細かくサーチすると効果があるためSDコア309が出力する映像符号化信号310を選択するようスイッチ312を切り替える。
In the setting as described above, the
ここで、スイッチ312の切り替えタイミングはマクロブロック単位であると1つのマクロブロック毎に符号化対象マクロブロックと算出した動きベクトルが示す参照画像のマクロブロックとの差分絶対値和を見て少ない値を算出した方の出力信号を使用するようにする。またスライスを単位とすると、スライス毎に符号化対象マクロブロックと算出した動きベクトルが示す参照画像のマクロブロックとの差分絶対値和を見て少ない値を算出した方の出力信号を使用するようにする。
Here, when the switching timing of the
例えば、ステップS205においてSDコア308における差分絶対値和が高いと判断されれば、ステップS206に進み、ビデオストリームバッファ314には映像符号化信号310が保存される。また、ステップS205においてSDコア309における差分絶対値和が高いと判断されればバッファ314には映像符号化信号311が保存される。
For example, if it is determined in step S205 that the sum of absolute differences in the
以上に説明したように、第2の実施形態では、SDコア308〜SDコア309内で利用している符号化情報を利用することで、最適に符号化された映像符号化信号を選択することができる。これにより、本実施形態のビデオカメラは、HD記録モード用に複数あるSDコアを有効に利用して、SD画像信号に対して、従来より高画質な符号化を行うことができる。尚、本実施形態では簡略化のために2個のSDコアを使用した場合を説明したが、N個のSDコアを使用する場合は動き補償の探索範囲の設定は上述した限りではない。
As described above, in the second embodiment, an optimally encoded video encoded signal is selected by using the encoding information used in the
(第3の実施形態)
次に、第3の実施形態におけるビデオカメラ(撮像機能を有する画像処理装置)について説明する。図4は、第3の実施形態におけるビデオカメラ(撮像装置)の概略構成を示す図である。また、図5は、図4に示したビデオカメラの動作を示すフローチャートである。
(Third embodiment)
Next, a video camera (an image processing apparatus having an imaging function) in the third embodiment will be described. FIG. 4 is a diagram illustrating a schematic configuration of a video camera (imaging device) according to the third embodiment. FIG. 5 is a flowchart showing the operation of the video camera shown in FIG.
尚、図4の符号401〜403、412、414、424、416〜423の構成要素は、図1に示した第1の実施形態の符号101〜103、110〜112、114〜121と同様の構成要素であり、説明を省略する。図4のビデオカメラにおいて、図1のビデオカメラと異なる部分は、判定回路415が、撮像部301の出力する信号及び映像符号化信号310〜311を利用して、(図1のようにスイッチ424の制御を行うのではなく、)SDコア409を制御する点である。以下、第1の実施形態と異なる点を主に説明する。
4 are the same as the
まず、フレームバッファ404は、バッファ405、バッファ406、〜バッファ407のN個の記憶領域から構成される。バッファ405はバッファ405以外のバッファ406〜バッファ407よりもメモリ領域が十分大きいものである。なお、図4において、バッファ405、バッファ406、バッファ407以外のバッファは省略したため図示していない。
First, the
408は、HD信号符号化回路であり、SD画像を符号化可能な回路であるSDコア409〜SDコア411をN個含む構成である。なお、図4において、SDコア409、SDコア410、SDコア411以外のSDコアは省略のため図示していない。N個のSDコア409〜SDコア411は、各バッファ405〜バッファ407に対応して設置されている。
412はSDコア409で符号化された映像符号化信号である。同様に、413、414はSDコア410、SDコア411で符号化された映像符号化信号である。なお、SDコア409、SDコア410、SDコア411以外のSDコアから出力された信号は図示していない。
415は判定回路であり、SD記録モード時に、映像符号化信号413〜映像符号化信号414ならびに撮像部401からの入力信号を用いて映像符号化信号413〜映像符号化信号414のSN比などを算出する回路である。判定回路415は、SD記録モード時に、算出したSN比等を基に現時点のSD画像信号にとって最適な符号化パラメータを求め、SDコア409に対してその符号化パラメータを出力する。
424は、スイッチであり、図1に示したスイッチ112と同等の機能を有する。図4では、図面を見やすくするために省略しているが、スイッチ424は、図1のスイッチ112と同様に、各SDコア409〜SDコア411の出力端子と接続されており、各SDコア409〜SDコア411の出力する映像符号化信号412〜414を判定回路415の制御に応じて選択的に出力する機能を有する。尚、本実施形態におけるSD記録モード時のスイッチ424の制御は、第1の実施形態と異なり、常時、映像符号化信号412を選択して出力するように制御されている。また、HD記録モード時は、各SDコアの出力を順次選択して出力する。
416は、映像符号化信号412〜414を一時保存するビデオストリームバッファである。本ビデオカメラの映像信号符号化方式は、第1の実施形態と同様に、MPEGならびにH.264などであり、音声信号符号化方式はMPEGオーディオならびにAC3、AACなどである。
図4に示したビデオカメラの記録処理について図5のフローチャートを参照して説明する。図5は、図4に示したビデオカメラの記録処理を示すフローチャートである。尚、図5のステップS501〜S503、S508〜S509、S510〜S513は、図2に示したステップS201〜S203、S208〜S209、S210〜S213と同様の処理であるので、説明を省略する。 The recording process of the video camera shown in FIG. 4 will be described with reference to the flowchart of FIG. FIG. 5 is a flowchart showing recording processing of the video camera shown in FIG. Note that steps S501 to S503, S508 to S509, and S510 to S513 in FIG. 5 are the same as steps S201 to S203, S208 to S209, and S210 to S213 shown in FIG.
上記ステップS503の次に、ステップS504において、コントローラ422は、撮像部401から入力されたSD画像信号がバッファ405〜バッファ407に保存されるように、スイッチ402ならびにスイッチ403を制御して切り替える。このときバッファ405〜バッファ407には同一のデータ(1フレーム分のSD画像信号)が保存されている。コントローラ422は、SD記録モードが設定されると、SDコア410〜411に対して異なる符号化パラメータ値を設定する。バッファ406〜バッファ407に保存されたSD画像信号は、各々異なる符号化パラメータ値を与えられたSDコア410〜SDコア411に入力される。これにより、SDコア410からは映像符号化信号413が、SDコア411からは映像符号化信号414が出力される。なお、各々のSDコアに与える符号化パラメータは後ほど詳細を記す。
Following step S503, in step S504, the
次に、ステップS505において、上記各符号化パラメータを組み合わせて符号化された映像符号化信号413〜414、ならびに撮像部401からの入力信号(SD画像信号)が、判定回路415へ入力される。判定回路415は、SD画像信号ならびに映像符号化信号413〜414を用いて画質劣化の評価を行い、最も画質劣化の少ない映像符号化信号を生成したSDコアの用いた符号化パラメータを選定する。
Next, in step S505, the video encoded
また、判定回路415は、SD画像信号ならびに上記映像符号化信号413〜414を用いて発生符号量の評価を行い、最も発生符号量の少ない映像符号化信号を生成したSDコアの用いた符号化パラメータを選定する。
Also, the
さらに、判定回路415は入力信号ならびに上記各符号化パラメータで符号化された符号化信号を用いて画質劣化と発生符号量の評価を行い、画質劣化が少なく発生符号量も少ない映像符号化信号を生成したSDコアが用いた符号化パラメータを選定する。
Further, the
なお、判定回路415は現在ピクチャ単位でSN比を比較している構成であるが、ピクチャ単位に限らずスライスやマクロブロックを比較の単位としても良い。その際、スライスを比較単位とする場合、1つのスライスで復号処理を行いそのSN比を比較することで判定する。マクロブロックも同様に1つのマクロブロックで復号処理を行いそのSN比を比較することで判定する。
The
次に、ステップS506において、判定回路415は、選定した符号化パラメータをSDコア409に設定する。次に、ステップS507において、SDコア409は、判定回路415から設定された符号化パラメータを基に、バッファ405からSD画像信号を読み出して符号化して映像符号化信号412を出力する。
Next, in step S506, the
次に、ステップS508において、記録回路420が映像符号化信号と音声符号化信号を多重化して記録媒体421に記録する。尚、本実施形態で用いる符号化パラメータは、第1の実施形態及び第2の実施形態で挙げたパラメータと同様であるが、この限りではなく、符号化処理に用いられる種々の符号化パラメータを利用してよい。また、記録モードがHD記録モード時の本実施形態のビデオカメラの動作は第1の実施形態の動作と同じなので省略する。
Next, in step S508, the
以上に説明したように、本実施形態におけるビデオカメラにおいては、判定回路415が最適な符号化パラメータを選定し、SDコア409がその符号化パラメータを基にSD画像信号を符号化するので、従来と比べて他のSDコア410〜411を有効に利用して、高画質な映像符号化信号を生成し記録媒体421に記録することができる。
As described above, in the video camera according to the present embodiment, the
以上、この発明の実施形態について図面を参照して詳述してきたが、具体的な構成はこの実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の設計等も含まれる。 The embodiment of the present invention has been described in detail with reference to the drawings. However, the specific configuration is not limited to this embodiment, and includes designs and the like that do not depart from the gist of the present invention.
101、301、401 撮像部
102、103、302、303、402、403 スイッチ
104、304、404 フレームバッファ
105、106、305、306、405、406、407 バッファ
107、307、408 HD符号化回路
108、109、308、309、409、410、411 SDコア
110、111、310、311、412、413、414 映像符号化信号
112、312、424 スイッチ
113、313、415 判定回路
114、314、416 ビデオストリームバッファ
120、320、422 コントローラ
101, 301, 401
Claims (3)
操作部の操作に基づいて、前記第1の動画像信号を符号化処理する第1の処理モードと、前記第2の動画像信号を符号化処理する第2の処理モードとのいずれを実行するか判断するモード判断手段と、
前記第1の動画像信号をリアルタイムに符号化可能な符号化手段を複数組み合わせて前記第2の動画像信号をリアルタイムに符号化可能な符号化群手段と、
前記第1の動画像信号、又は、前記第2の動画像信号を前記複数の符号化手段へ入力する入力手段と、
前記モード判断手段が前記第1の処理モードと判断した場合に、前記複数の符号化手段における各符号化手段に対して並列に前記第1の動画像信号を入力するように前記入力手段を制御する入力制御手段と、
前記モード判断手段が前記第1の処理モードと判断した場合に、前記複数の符号化手段における各符号化手段に対して各々異なる符号化パラメータ値として動き探索用サーチエリアを設定するパラメータ設定手段と、
前記モード判断手段が前記第1の処理モードと判断した場合に、前記パラメータ設定手段が異なる動き探索用サーチエリアを設定した各符号化手段がそれぞれ動き探索を行うことによって算出した動きベクトルが示す参照画像のマクロブロックと符号化対象マクロブロックとの差分絶対値和を比較し、前記差分絶対値和が最も小さい値を算出した符号化手段が出力する動画符号化信号を特定する特定手段と、
前記モード判断手段が前記第1の処理モードと判断した場合に、前記複数の符号化手段から出力される複数の動画符号化信号から、前記特定手段が特定した動画符号化信号を、出力対象信号として出力する出力制御手段と
を具備することを特徴とする画像処理装置。 An image processing apparatus capable of encoding a first moving image signal having a first resolution and a second moving image signal having a resolution higher than the first resolution,
Based on the operation of the operation unit, either the first processing mode for encoding the first moving image signal or the second processing mode for encoding the second moving image signal is executed. Mode judging means for judging whether or not
Encoding group means capable of encoding the second moving image signal in real time by combining a plurality of encoding means capable of encoding the first moving image signal in real time;
Input means for inputting the first moving image signal or the second moving image signal to the plurality of encoding means;
When the mode determination unit determines that the first processing mode is selected, the input unit is controlled to input the first moving image signal in parallel to each encoding unit in the plurality of encoding units. Input control means for
When the mode determining means determines that said first processing mode, and parameter setting means for setting the motion search service Chieria as each different coding parameter values for each encoding means in said plurality of encoding means ,
When the mode determining means determines that said first processing mode, the reference to each encoding means for said parameter setting means sets the different motion search service Chieria indicates the motion vector calculated by performing a motion search, respectively A specifying means for comparing a difference absolute value sum between a macroblock of an image and an encoding target macroblock, and specifying a moving image encoded signal output by an encoding means that calculates a value having the smallest difference absolute value sum;
When the mode determining unit determines that the first processing mode is selected, the moving image encoded signal specified by the specifying unit is output from the plurality of moving image encoded signals output from the plurality of encoding units. An image processing apparatus comprising: an output control unit that outputs the output as
前記モード判断手段が前記第2の処理モードと判断した場合に、前記パラメータ設定手段は、前記複数の符号化手段における各符号化手段に対して同一の符号化パラメータ値を設定し、
前記モード判断手段が前記第2の処理モードと判断した場合に、前記出力制御手段は、前記複数の符号化手段が出力する複数の動画符号化信号を前記分割に応じた順で出力対象信号として出力するように制御すること
を特徴とする請求項1に記載の画像処理装置。 When the mode determination unit determines that the second processing mode is selected, the input control unit outputs a plurality of frames of the second moving image signal for each encoding unit in the plurality of encoding units. Controlling the input means to input one of the divided areas,
When the mode determining means determines that the second processing mode, the parameter setting means sets the same encoding parameter value for each encoding means in the plurality of encoding means,
When the mode determination unit determines that the second processing mode is selected, the output control unit sets the plurality of moving image encoded signals output from the plurality of encoding units as output target signals in the order corresponding to the division. The image processing apparatus according to claim 1, wherein the image processing apparatus is controlled to output.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2005112522A JP4700992B2 (en) | 2005-04-08 | 2005-04-08 | Image processing device |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2005112522A JP4700992B2 (en) | 2005-04-08 | 2005-04-08 | Image processing device |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2006295492A JP2006295492A (en) | 2006-10-26 |
JP2006295492A5 JP2006295492A5 (en) | 2008-05-22 |
JP4700992B2 true JP4700992B2 (en) | 2011-06-15 |
Family
ID=37415589
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2005112522A Expired - Fee Related JP4700992B2 (en) | 2005-04-08 | 2005-04-08 | Image processing device |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4700992B2 (en) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP2410752B1 (en) * | 2009-03-19 | 2017-01-25 | Fujitsu Limited | Image coding apparatus, image coding control method and image coding program |
JP2015173404A (en) | 2014-03-12 | 2015-10-01 | 富士通株式会社 | Moving picture coding apparatus, moving picture coding method, and moving picture coding computer program |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0556273A (en) * | 1991-08-21 | 1993-03-05 | Toshiba Corp | Image coder |
JPH09200747A (en) * | 1996-01-19 | 1997-07-31 | Nippon Telegr & Teleph Corp <Ntt> | Method and device for encoding image |
JPH10210472A (en) * | 1997-01-20 | 1998-08-07 | Canon Inc | Image-processing unit and method therefor |
JPH1198502A (en) * | 1997-09-25 | 1999-04-09 | Toshiba Corp | Moving image coder |
-
2005
- 2005-04-08 JP JP2005112522A patent/JP4700992B2/en not_active Expired - Fee Related
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0556273A (en) * | 1991-08-21 | 1993-03-05 | Toshiba Corp | Image coder |
JPH09200747A (en) * | 1996-01-19 | 1997-07-31 | Nippon Telegr & Teleph Corp <Ntt> | Method and device for encoding image |
JPH10210472A (en) * | 1997-01-20 | 1998-08-07 | Canon Inc | Image-processing unit and method therefor |
JPH1198502A (en) * | 1997-09-25 | 1999-04-09 | Toshiba Corp | Moving image coder |
Also Published As
Publication number | Publication date |
---|---|
JP2006295492A (en) | 2006-10-26 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4014263B2 (en) | Video signal conversion apparatus and video signal conversion method | |
WO2009139123A1 (en) | Image processor and imaging device using the same | |
JP2010035133A (en) | Moving image encoding apparatus and moving image encoding method | |
JP4853647B2 (en) | Moving picture conversion method, moving picture conversion apparatus, moving picture conversion system, server apparatus, and program | |
JP3592025B2 (en) | Captured image recording device | |
JP4804107B2 (en) | Image encoding apparatus, image encoding method and program thereof | |
JP5396302B2 (en) | Video signal encoding apparatus and video signal encoding method | |
JP2003348597A (en) | Device and method for encoding image | |
JP2009027693A (en) | Moving image compression coding equipment | |
JP4574444B2 (en) | Image decoding apparatus and method, image encoding apparatus and method, computer program, and storage medium | |
WO2016171006A1 (en) | Encoding device and encoding method, and decoding device and decoding method | |
JP2008141354A (en) | Image coding apparatus and imaging apparatus | |
JP4700992B2 (en) | Image processing device | |
JP2001024919A (en) | Device, system and method for processing image, image recording and reproducing device with integrated camera and storage medium | |
JP2009218965A (en) | Image processor, imaging device mounted with the same and image reproduction device | |
JP2005175974A (en) | Imaging device | |
US8953055B2 (en) | Image pickup apparatus | |
JP2018082252A (en) | Image encoder and control method and program thereof | |
JP2004180345A (en) | Photographed image recording apparatus | |
JPH09261530A (en) | Video recorder | |
JP4208342B2 (en) | Image recording apparatus, method, and computer-readable storage medium | |
JP4765961B2 (en) | Digital video recording device | |
JP3384910B2 (en) | Imaging device and image reproducing device | |
CN112655213B (en) | Conversion device, decoding device, conversion method, and decoding method | |
JP2009081727A (en) | Image encoding apparatus, method of controlling therefor, and program |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20080403 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20080403 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20091110 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20091222 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20100215 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20100817 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20100824 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20110301 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20110307 |
|
LAPS | Cancellation because of no payment of annual fees |