JP2009027437A - 画像処理装置,画像処理方法及び撮像装置 - Google Patents
画像処理装置,画像処理方法及び撮像装置 Download PDFInfo
- Publication number
- JP2009027437A JP2009027437A JP2007188315A JP2007188315A JP2009027437A JP 2009027437 A JP2009027437 A JP 2009027437A JP 2007188315 A JP2007188315 A JP 2007188315A JP 2007188315 A JP2007188315 A JP 2007188315A JP 2009027437 A JP2009027437 A JP 2009027437A
- Authority
- JP
- Japan
- Prior art keywords
- vector
- pattern matching
- moving object
- correction vector
- correction
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Abandoned
Links
Images
Landscapes
- Studio Devices (AREA)
- Image Analysis (AREA)
Abstract
【課題】動画撮像時に移動物体が撮像エリアのz方向に移動する場合に、より適正な移動ベクトルを得ることができる画像処理装置,画像処理方法及び撮像装置を提供する。
【解決手段】本発明は、撮像して得られる画像データに基づいて、移動物体Tの移動ベクトルを検出する際に、画像データにおける、移動物体Tの少なくとも一部が撮像された所定の領域を切り出したフレームを複数のエリアb0〜b3に分割し、分割された複数のエリアb0〜b3ごとに補正ベクトル探索範囲Rを設定し、複数のエリアb0〜b3それぞれについて補正ベクトル探索範囲Rにおける移動物体Tの移動成分を補正ベクトルV0〜V3として検出し、移動ベクトルと補正ベクトルV0〜V3とを合成し、合成されたベクトルを新規に移動ベクトルとして設定する。
【選択図】図5
【解決手段】本発明は、撮像して得られる画像データに基づいて、移動物体Tの移動ベクトルを検出する際に、画像データにおける、移動物体Tの少なくとも一部が撮像された所定の領域を切り出したフレームを複数のエリアb0〜b3に分割し、分割された複数のエリアb0〜b3ごとに補正ベクトル探索範囲Rを設定し、複数のエリアb0〜b3それぞれについて補正ベクトル探索範囲Rにおける移動物体Tの移動成分を補正ベクトルV0〜V3として検出し、移動ベクトルと補正ベクトルV0〜V3とを合成し、合成されたベクトルを新規に移動ベクトルとして設定する。
【選択図】図5
Description
本発明は、特に、動画撮像時に移動する被写体を追尾する動体追尾機能に用いられるパターンマッチング処理を行う画像処理装置,画像処理方法、及び該画像処理装置を備えた撮像装置に関する。
現在、デジタルスチルカメラやデジタルビデオカメラ等の撮像装置には、動画撮影機能を有するものがある。撮影機能を有する撮像装置は、撮像エリア内で移動する被写体を追尾して撮影を行う動体追尾機能を有するものがある。例えば、撮像時に使用者の撮像装置本体を持つ手が振れることに起因して、撮像エリアに映っている被写体の位置が移動してしまう、いわゆる手振れが生じてしまうことを防止するため、動体追尾処理を行っている。
動体追尾処理は、撮像エリアにおける所定の切り出し位置(以下、フレームという。)に写っている被写体のパターンマッチング処理を行うことで移動ベクトルを算出し、該移動ベクトルに基づいてメモリに記録された撮像画像の次フレームの被写体の位置を制御する。
従来、移動物体の検出を行う画像処理方法としては、例えば、下記特許文献に示すものがある。
下記特許文献1は、ズームや旋回を行っている状態において得られる画像に画像処理を行って移動物体の検出を行うものであるが、カメラの移動(フレームワーク)を推定し、この推定に基づいて過去の画像に対して変形を加える処理を行い、現在の画像と比較している。
下記特許文献2は、カメラのズーム倍率が大きい場合には、探索範囲を広くし、ズーム倍率が小さい場合には、探索範囲を狭くする方法である。
下記特許文献1は、ズームや旋回を行っている状態において得られる画像に画像処理を行って移動物体の検出を行うものであるが、カメラの移動(フレームワーク)を推定し、この推定に基づいて過去の画像に対して変形を加える処理を行い、現在の画像と比較している。
下記特許文献2は、カメラのズーム倍率が大きい場合には、探索範囲を広くし、ズーム倍率が小さい場合には、探索範囲を狭くする方法である。
ところで、移動物体の移動ベクトルを検出する際には、撮像エリアに平行な2次元方向(x−y方向)に対する移動物体の位置の移動だけでなく、撮像エリアをx方向及びy方向とによって規定される2次元平面としてとらえた状態においてz方向への移動成分を考慮する必要がある。図11は、撮像エリアにおける移動物体の移動の状態を説明する図である。図11では、撮像エリアにおいて、追尾画像エリアの前フレームで捉えられていた移動物体Tが、現フレームを設定したときに、撮像エリアに対して図中右上方向と奥行き方向の手前側に移動した状態を示している。このとき、従来のパターンマッチング処理によって前フレームと現フレームとのそれぞれの物体Tの位置を比較し、移動ベクトルを検出する。
しかし、図11のように移動物体Tがz方向へも移動している場合には、移動ベクトルには誤差が含まれる。理由としては、パターンマッチング処理では、対象となる移動物体における特徴部分に相関が強くなる傾向があり、図11において、顔の口の部分を特長部分とすると、z方向に移動して撮像エリアに対して実質拡大又は縮小して表示されるようになる口の輪郭部分への相関が高くなることで移動ベクトルの誤検出成分が検出され、誤った移動ベクトルが検出されてしまうことがある。図12は、フレームに対する移動物体の位置を説明する図である。図12(a)は、正しいフレーム位置と移動物体Tとの位置を示す図である。図12(b)は、現フレームに対する移動物体の位置を説明する図である。従来のパターンマッチング処理では、移動ベクトルに、図12(a)のフレーム位置と図12(b)のフレーム位置との差に相等する誤差が含まれている。このように、従来では、動画撮像時に、移動物体のz方向に対する移動に起因して適正な移動ベクトルを得ることができないため、動体追尾処理のときのフレーム位置に誤差が生じるという点で改善の余地があった。
本発明は、上記事情に鑑みてなされたもので、その目的は、動画撮像時に移動物体が撮像エリアのz方向に移動する場合に、より適正な移動ベクトルを得ることができる画像処理装置,画像処理方法及び撮像装置を提供することにある。
本発明の上記目的は、下記構成によって達成される。
(1)撮像して得られる画像データに基づいて、移動物体の移動ベクトルを検出する画像処理装置であって、
前記画像データにおける、前記移動物体の少なくとも一部が撮像された所定の領域を切り出したフレームを複数のエリアに分割し、分割された前記複数のエリアごとに補正ベクトル探索範囲を設定する探索範囲設定手段と、
前記複数のエリアそれぞれについて前記補正ベクトル探索範囲における前記移動物体の移動成分を補正ベクトルとして検出する補正ベクトル検出手段と、
前記移動ベクトルと前記補正ベクトルとを合成し、合成されたベクトルを新規に前記移動ベクトルとして設定するベクトル合成手段とを備えていることを特徴とする画像処理装置。
(2)前記画像データの輝度情報を取得する輝度情報取得手段と、
前記移動ベクトルを検出するパターンマッチング処理を実行するパターンマッチング処理手段と、
前記輝度情報に基づいて、前記補正ベクトルを検出するか否かを判別する判別手段とを備えていることを特徴とする上記(1)に記載の画像処理装置。
(3)前記パターンマッチング処理手段が、パターンマッチング処理に対象となる複数のフレーム同士の輝度レンジを比較して前記輝度レンジが予め設定した閾値以内である場合に、パターンマッチング処理を実行することを特徴とする上記(2)に記載の画像処理装置。
(4)撮像素子で撮像して得られる画像データに基づいて、移動物体の移動ベクトルを検出する画像処理装置を備えた撮像装置であって、
前記画像処理装置が、前記画像データにおける、前記移動物体の少なくとも一部が撮像された所定の領域を切り出したフレームを分割し、分割されたエリアごとに複数の補正ベクトル探索範囲を設定する探索範囲設定手段と、
前記複数の補正ベクトル探索範囲のそれぞれについて、前記移動物体の移動成分を補正ベクトルとして検出する補正ベクトル検出手段と、
前記移動ベクトルと前記補正ベクトルとを合成し、合成されたベクトルを新規に前記移動ベクトルとして設定するベクトル合成手段とを備えていることを特徴とする撮像装置。
(5)前記画像処理装置が、前記画像データの輝度情報を取得する輝度情報取得手段と、
前記移動ベクトルを検出するパターンマッチング処理を実行するパターンマッチング処理手段と、
前記輝度情報に基づいて、前記補正ベクトルを検出するか否かを判別する判別手段とを備えていることを特徴とする上記(4)に記載の撮像装置。
(6)前記パターンマッチング処理手段が、パターンマッチング処理に対象となる複数のフレーム同士の輝度レンジを比較して前記輝度レンジが予め設定した閾値以内である場合に、パターンマッチング処理を実行することを特徴とする上記(5)に記載の撮像装置。
(7)撮像して得られる画像データに基づいて、移動物体の移動ベクトルを検出する画像処理方法であって、
前記画像データにおける、前記移動物体の少なくとも一部が撮像された所定の領域を切り出したフレームを分割し、分割されたエリアごとに複数の補正ベクトル探索範囲を設定するステップと、
前記複数の補正ベクトル探索範囲のそれぞれについて、前記移動物体の移動成分を補正ベクトルとして検出するステップと、
前記移動ベクトルと前記補正ベクトルとを合成し、合成されたベクトルを新規に前記移動ベクトルと設定するステップを有することを特徴とする画像処理方法。
(8)前記画像データの輝度情報を取得するステップと、
前記移動ベクトルを検出するパターンマッチング処理を実行するステップと、
前記輝度情報に基づいて、前記補正ベクトルを検出するか否かを判別するステップとを有することを特徴とする上記(7)に記載の画像処理方法。
(9)パターンマッチング処理に対象となる複数のフレーム同士の輝度レンジを比較して前記輝度レンジが予め設定した閾値以内である場合に、パターンマッチング処理を実行するステップを有することを特徴とする上記(8)に記載の画像処理方法。
(1)撮像して得られる画像データに基づいて、移動物体の移動ベクトルを検出する画像処理装置であって、
前記画像データにおける、前記移動物体の少なくとも一部が撮像された所定の領域を切り出したフレームを複数のエリアに分割し、分割された前記複数のエリアごとに補正ベクトル探索範囲を設定する探索範囲設定手段と、
前記複数のエリアそれぞれについて前記補正ベクトル探索範囲における前記移動物体の移動成分を補正ベクトルとして検出する補正ベクトル検出手段と、
前記移動ベクトルと前記補正ベクトルとを合成し、合成されたベクトルを新規に前記移動ベクトルとして設定するベクトル合成手段とを備えていることを特徴とする画像処理装置。
(2)前記画像データの輝度情報を取得する輝度情報取得手段と、
前記移動ベクトルを検出するパターンマッチング処理を実行するパターンマッチング処理手段と、
前記輝度情報に基づいて、前記補正ベクトルを検出するか否かを判別する判別手段とを備えていることを特徴とする上記(1)に記載の画像処理装置。
(3)前記パターンマッチング処理手段が、パターンマッチング処理に対象となる複数のフレーム同士の輝度レンジを比較して前記輝度レンジが予め設定した閾値以内である場合に、パターンマッチング処理を実行することを特徴とする上記(2)に記載の画像処理装置。
(4)撮像素子で撮像して得られる画像データに基づいて、移動物体の移動ベクトルを検出する画像処理装置を備えた撮像装置であって、
前記画像処理装置が、前記画像データにおける、前記移動物体の少なくとも一部が撮像された所定の領域を切り出したフレームを分割し、分割されたエリアごとに複数の補正ベクトル探索範囲を設定する探索範囲設定手段と、
前記複数の補正ベクトル探索範囲のそれぞれについて、前記移動物体の移動成分を補正ベクトルとして検出する補正ベクトル検出手段と、
前記移動ベクトルと前記補正ベクトルとを合成し、合成されたベクトルを新規に前記移動ベクトルとして設定するベクトル合成手段とを備えていることを特徴とする撮像装置。
(5)前記画像処理装置が、前記画像データの輝度情報を取得する輝度情報取得手段と、
前記移動ベクトルを検出するパターンマッチング処理を実行するパターンマッチング処理手段と、
前記輝度情報に基づいて、前記補正ベクトルを検出するか否かを判別する判別手段とを備えていることを特徴とする上記(4)に記載の撮像装置。
(6)前記パターンマッチング処理手段が、パターンマッチング処理に対象となる複数のフレーム同士の輝度レンジを比較して前記輝度レンジが予め設定した閾値以内である場合に、パターンマッチング処理を実行することを特徴とする上記(5)に記載の撮像装置。
(7)撮像して得られる画像データに基づいて、移動物体の移動ベクトルを検出する画像処理方法であって、
前記画像データにおける、前記移動物体の少なくとも一部が撮像された所定の領域を切り出したフレームを分割し、分割されたエリアごとに複数の補正ベクトル探索範囲を設定するステップと、
前記複数の補正ベクトル探索範囲のそれぞれについて、前記移動物体の移動成分を補正ベクトルとして検出するステップと、
前記移動ベクトルと前記補正ベクトルとを合成し、合成されたベクトルを新規に前記移動ベクトルと設定するステップを有することを特徴とする画像処理方法。
(8)前記画像データの輝度情報を取得するステップと、
前記移動ベクトルを検出するパターンマッチング処理を実行するステップと、
前記輝度情報に基づいて、前記補正ベクトルを検出するか否かを判別するステップとを有することを特徴とする上記(7)に記載の画像処理方法。
(9)パターンマッチング処理に対象となる複数のフレーム同士の輝度レンジを比較して前記輝度レンジが予め設定した閾値以内である場合に、パターンマッチング処理を実行するステップを有することを特徴とする上記(8)に記載の画像処理方法。
本発明によれば、画像データのフレームを複数のエリアに分割し、分割されたエリアごとに移動物体の移動成分を補正ベクトルとして検出し、エリアごとに検出された補正ベクトルを、パターンマッチングにより予め検出された移動ベクトルと合成する。エリアごとに移動物体の補正ベクトルを検出することによって、移動物体の一部の特徴部分に対して相関が高くなることに起因して移動ベクトルに誤差成分が含まれる場合に、移動ベクトルと補正ベクトルとを合成して得られる新規な移動ベクトルを設定し、誤差成分を除去することができる。このため、移動物体が撮像エリアに対してz方向に移動した場合に、従来のパターンマッチング処理で検出される移動ベクトルに比べてより適正な移動ベクトルを得ることができる。
本発明によれば、動画撮像時に移動物体が撮像エリアのz方向に移動する場合に、より適正な移動ベクトルを得ることができる画像処理装置,画像処理方法及び撮像装置を提供できる。
以下、本発明の実施形態を図面に基づいて詳しく説明する。
図1は、本発明の実施形態を説明するための撮像装置の一例としてのデジタルカメラの概略構成を示すブロック図である。同図に示すデジタルカメラ100は、撮影レンズ1aおよび撮像素子1bを含む撮像部1と、アナログ信号処理部2と、A/D変換部3と、駆動部4と、レンズ駆動部5と、デジタル信号処理部6と、圧縮/伸張処理部7と、表示部8と、システム制御部(CPU)9と、内部メモリ10と、メディアインタフェース11と、記録メディア12と、操作部13と、パターンマッチング装置15とを備える。デジタル信号処理部6、圧縮/伸張処理部7、表示部8、システム制御部9、内部メモリ10、メディアインタフェース11、及びパターンマッチング装置15は、システムバス14に接続されている。
図1は、本発明の実施形態を説明するための撮像装置の一例としてのデジタルカメラの概略構成を示すブロック図である。同図に示すデジタルカメラ100は、撮影レンズ1aおよび撮像素子1bを含む撮像部1と、アナログ信号処理部2と、A/D変換部3と、駆動部4と、レンズ駆動部5と、デジタル信号処理部6と、圧縮/伸張処理部7と、表示部8と、システム制御部(CPU)9と、内部メモリ10と、メディアインタフェース11と、記録メディア12と、操作部13と、パターンマッチング装置15とを備える。デジタル信号処理部6、圧縮/伸張処理部7、表示部8、システム制御部9、内部メモリ10、メディアインタフェース11、及びパターンマッチング装置15は、システムバス14に接続されている。
撮像部1は、ズームレンズや撮影レンズを含む光学系1aと、CCD型やCMOS型の固体撮像素子等の撮像素子1bとによって被写体を撮像するものであり、アナログの撮像信号を出力する。アナログ信号処理部2は、撮像部1で得られた撮像信号に所定のアナログ信号処理を施す。A/D変換部3は、アナログ信号処理部2で処理後のアナログ信号をデジタル信号に変換する。
駆動部4は、デジタルカメラ100が撮影モード(被写体を撮影して撮影画像データの記録が可能なモード)に設定されると、システム制御部9から供給される駆動パルスによって、固体撮像素子1b、アナログ信号処理部2、及びA/D変換部3を駆動する。デジタルカメラ100は動画撮影モードと静止画撮影モードが設定可能である。
レンズ駆動部5は、操作部13から光学ズーム倍率の変更指示がなされると、その指示に応じて光学系1aに含まれるズームレンズを移動させて撮像素子1bに設定する撮影倍率を変更する。レンズ駆動部5はシステム制御部9によって制御される。
デジタル信号処理部6は、A/D変換部3からのデジタル信号に対して、操作部13によって設定された動作モードに応じたデジタル信号処理を行って撮影画像データを生成する。デジタル信号処理部6が行う処理には、黒レベル補正処理(OB処理)、リニアマトリクス補正処理、ホワイトバランス調整処理、ガンマ補正処理、同時化処理等が含まれる。デジタル信号処理部6は、例えばDSPで構成される。動画撮影モードに設定された場合、デジタル信号処理部6からは、所定のフレームレートで例えば最大解像度の画像データが順次出力されて、これらが内部メモリ10に記憶される。デジタル信号処理部9は、操作部13から電子ズーム倍率の変更指示がなされると、その指示に応じて画像処理を行って撮像素子1bに設定する撮影倍率を変更する。
圧縮/伸張処理部7は、デジタル信号処理部6で生成された撮影画像データに対して圧縮処理を施すとともに、記録メディア12から得られた圧縮画像データに対して伸張処理を施す。
表示部8は、例えばLCD表示装置を含んで構成され、撮影されてデジタル信号処理を経た撮影画像データに基づく画像を表示する。記録メディア12に記録された圧縮画像データを伸張処理して得た画像データに基づく画像の表示も行う。また、撮影モード時のスルー画像、デジタルカメラの各種状態、操作に関する情報の表示等も可能である。
システム制御部9は、所定のプログラムによって動作するプロセッサを主体に構成され、撮影動作を含むデジタルカメラ100全体の統括制御を行う。システム制御部9は、操作部13から撮影倍率の変更指示があると、この指示をレンズ駆動部5やデジタル信号処理部6に通知して、撮影倍率の変更制御を行う。
内部メモリ10は、例えばDRAMであり、パターンマッチング装置15、デジタル信号処理部6、及びシステム制御部9のワークメモリとして利用される他、記録メディア12に記録される撮影画像データを一時的に記憶するバッファメモリや表示部8への表示用画像データのバッファメモリとしても利用される。メディアインタフェース11は、メモリカード等の記録メディア12との間のデータの入出力を行うものである。
操作部13は、デジタルカメラ使用時の各種操作を行うものであり、撮影指示を行うためのレリーズボタン(図示せず)を含む。
図2は、図1に示すパターンマッチング装置15の概略構成を示すブロック図である。パターンマッチング装置15は、撮像した画像データの輝度情報を取得する輝度情報取得部21と、パターンマッチング処理を実行するパターンマッチング処理部22と、輝度情報取得部21で取得した輝度情報に基づいて後処理で述べる補正ベクトルの検出を行うか否かを判別する判別部23とを有している。
また、パターンマッチング装置15は、パターンマッチング処理部22によって検出された移動ベクトルを補正するため、補正ベクトルを算出して移動ベクトルと合成する処理するため、更に、探索範囲設定部31と、補正ベクトル検出部32と、ベクトル合成部33と、フレーム位置決定部34とを有している。なお、補正ベクトルを検出して移動ベクトルと合成する処理については後述する。
画像装置輝度情報取得部21で取得された輝度情報や、パターンマッチング処理部22で検出された移動ベクトルは、記憶手段として機能するメモリ35に記憶され、必要に応じて読み出される。なお、メモリ35は、図1に示す撮像装置100のフレームメモリ10を用いることもできる。
次に、補正ベクトルを検出する手順を説明する。
図3は、移動物体が移動する前のフレームを示す図である。図4は、移動物体が移動した後のフレームを示す図である。
図3に示すように、フレームF0は、画像データにおける、移動物体Tが撮像された所定の領域を切り出した部分を示している。なお、図3のフレームF0は、動画撮像時において前フレームに相等し、図4のフレームF1が現フレームを示している。
図3は、移動物体が移動する前のフレームを示す図である。図4は、移動物体が移動した後のフレームを示す図である。
図3に示すように、フレームF0は、画像データにおける、移動物体Tが撮像された所定の領域を切り出した部分を示している。なお、図3のフレームF0は、動画撮像時において前フレームに相等し、図4のフレームF1が現フレームを示している。
補正ベクトルを検出する前に、フレームF0,F1を複数(ここでは、一例として4つとする。)のエリアb0〜b3に分割する。本実施形態では、フレームF0は、縦方向及び横方向を等間隔に2つに分割することで、それぞれ面積の等しい4つのエリアに分割している。図4で、フレームF1の分割されたエリアは、図3のフレームF0の分割したエリアにそれぞれ相当している。
パターンマッチング処理部22によって、フレームF0,F1の移動物体Tの移動ベクトルを検出した後、パターンマッチング装置15の探索範囲設定部31においてフレームF0において分割されたエリアごとに、フレームF1を含めたその周囲に補正ベクトル探索範囲Rを新たに設定する。
図5から図8は、分割されたエリアに対する探索範囲において補正ベクトルを検出する手順を説明する図である。
図5(a)に示すように、探索範囲設定部31が、左上に位置するエリアb0に対して、該エリアb0を含み、且つ、広い面積の補正ベクトル探索範囲Rを設定する。次に、補正ベクトル検出部32が、フレームF0のエリアb0内に撮像された移動物体Tの一部と、図5(b)に示すフレームF1の時点における移動物体Tとをパターンマッチング処理することで補正ベクトルV0を検出する。
図5(a)に示すように、探索範囲設定部31が、左上に位置するエリアb0に対して、該エリアb0を含み、且つ、広い面積の補正ベクトル探索範囲Rを設定する。次に、補正ベクトル検出部32が、フレームF0のエリアb0内に撮像された移動物体Tの一部と、図5(b)に示すフレームF1の時点における移動物体Tとをパターンマッチング処理することで補正ベクトルV0を検出する。
続いて、図6(a)に示すように、探索範囲設定部31が右上に位置するエリアb1に対して、該エリアb1を含み、且つ、広い面積の補正ベクトル探索範囲Rを設定する。次に、補正ベクトル検出部32がフレームF0のエリアb1内に撮像された移動物体Tの一部と、図6(b)に示すフレームF1の時点における移動物体Tとをパターンマッチング処理することで補正ベクトルV1を検出する。同様に、図7(a)に示すように、左下に位置するエリアb2に対して、該エリアb2を含み、且つ、広い面積の補正ベクトル探索範囲Rを設定する。次に、フレームF0のエリアb1内に撮像された移動物体Tの一部と、図7(b)に示すフレームF1の時点における移動物体Tとをパターンマッチング処理することで補正ベクトルV2を検出する。同様に、図8(a)に示すように、右下に位置するエリアb3に対して、該エリアb3を含み、且つ、広い面積の補正ベクトル探索範囲Rを設定する。次に、フレームF0のエリアb3内に撮像された移動物体Tの一部と、図8(b)に示すフレームF1の時点における移動物体Tとをパターンマッチング処理することで補正ベクトルV3を検出する。
次に、ベクトル合成部33において、エリアb0〜b3ごとに検出された補正ベクトルV0〜V3と、予めフレームF0とフレームF1とのパターンマッチング処理によって検出されている移動ベクトルとを合成する。合成によって算出されたベクトルを新規な移動ベクトルに設定する。
そして、新規の移動ベクトルに基づいて、フレーム位置決定部34が正しいフレーム位置を決定する。フレーム位置は、位置情報としてメモリ35に記憶される。
本発明によれば、画像データのフレームF0を複数のエリアb0〜b3に分割し、分割されたエリアb0〜b3ごとに移動物体Tの移動成分を補正ベクトルV0〜V3として検出し、エリアb0〜b3ごとに検出された補正ベクトルV0〜V3を、パターンマッチングにより予め検出された移動ベクトルと合成する。エリアb0〜b3ごとに移動物体の補正ベクトルV0〜V3を検出することで、移動物体Tの一部の特徴部分に対して相関が高くなることに起因して移動ベクトルに誤差成分が含まれる場合に、移動ベクトルと補正ベクトルV0〜V3とを合成して得られる新規な移動ベクトルを設定することで、誤差成分を除去することができる。このため、移動物体Tが撮像エリアに対してz方向に移動した場合に、従来のパターンマッチング処理で検出される移動ベクトルに比べてより適正な移動ベクトルを得ることができる。
上記実施形態では、パターンマッチング装置15を備えた撮像装置の構成を説明したが、パターンマッチング装置15は、撮像装置に備えられている必要はなく、単体で本発明にかかる画像処理装置とすることもできる。この場合、外部の撮像装置で撮像した画像データを画像処理装置に入力した後、画像処理装置において、移動ベクトル及び補正ベクトルV0〜V3を検出する。
次に、本実施形態の撮像装置を用いて、本発明にかかる画像処理方法の手順を説明する。
図9及び図10は、本発明にかかる画像処理方法の手順を示すフローチャートである。
図9及び図10は、本発明にかかる画像処理方法の手順を示すフローチャートである。
最初に、撮像素子1bで撮像された画像データをアナログ信号処理,A/D変換、及び、デジタル信号処理した後、パターンマッチング装置15に入力する。
パターンマッチング装置15の輝度情報取得部21では、入力された画像データから輝度情報として、輝度レンジ、及び、輝度差の絶対値の総和の最小値Minを算出する。
ここで、輝度レンジとは、画像データにおいてパターンマッチング処理の対象となる範囲内のうち、最も高い輝度値と最も低い輝度値との差を意味する。輝度レンジが大きい場合には、パターンマッチング処理の探索範囲の画像の変化が大きいことを表し、輝度レンジが小さい場合には、パターンマッチング処理の探索範囲の画像の変化が小さいことを表している。
輝度レンジの算出は、処理時間短縮のため、後述するパターンマッチング処理と同時に実行してもよい。
輝度差の絶対値の総和の最小値Minは、フレーム間の探索する範囲における輝度差をフレームの画素を所定の画素(例えば、1画素)づつずらして算出し、算出された全ての輝度差を総和として算出する。そして、その総和が最も小さい値をとるものを最小値Minとして設定する。輝度差の絶対値の総和の最小値Minは、移動ベクトルの信頼度として用いられる。輝度差の絶対値の総和の最小値Minが小さいほど、相関が高く、信頼度が高いことを表している。
輝度レンジ、及び、輝度差の絶対値の総和の最小値Minを算出した後、判別部23で輝度レンジが予め設定された閾値Aより大きいか否かを判別する。ここで、輝度レンジが閾値Aより小さいと判別された場合には、入力された画像データの輝度変化が小さく、検出される移動ベクトルの精度が低下することから、補正ベクトルの検出を行わず、処理不能と判定し、次の画像の入力する処理を続ける。
輝度レンジが閾値Aより大きいと判別された場合には、パターンマッチング処理部22においてフレーム間のパターンマッチング処理を実行し、移動ベクトルを検出する。
移動ベクトルを検出した後、先に算出された輝度差の絶対値の総和の最小値Minが予め設定された閾値Bより小さいか否かを判別する。最小値Minが閾値Bよりも小さい場合には、パターンマッチング処理で検出された移動ベクトルを採用し、補正ベクトルV0〜V3を検出するステップを実行することなく、移動物体Tの追尾処理を実行する。
一方、輝度差の絶対値の総和の最小値Minが閾値B以上である場合には、補正ベクトルを検出するフローを実行する。具体的には、探索範囲設定部31において、フレームF0を複数のエリアb0〜b3に分割し、分割された複数のエリアb0〜b3ごとに補正ベクトル探索範囲Rを設定する。なお、輝度差の絶対値の総和の最小値Minと閾値Bとの比較はパターンマッチング処理と同時またはそれよりも先に実行してもよい。
そして、複数のエリアb0〜b3それぞれについて、補正ベクトル検出部32において補正ベクトル探索範囲Rにおける移動物体Tの移動成分を補正ベクトルV0〜V3として検出する。
補正ベクトルV0〜V3を検出した後、ベクトル合成部33において、先にパターンマッチング処理で検出された移動ベクトルと、補正ベクトルV0〜V3とを合成する。フレーム位置決定部34において、合成されたベクトルを新規に移動ベクトルとして用いることで、動体追尾によるフレームの位置を決定する。
エリアb0〜b3ごとに移動物体の補正ベクトルV0〜V3を検出することによって、移動物体Tの一部の特徴部分に対して相関が高くなることに起因して移動ベクトルに誤差成分が含まれる場合に、移動ベクトルと補正ベクトルV0〜V3とを合成して得られる新規な移動ベクトルを設定し、誤差成分を除去することができる。このため、移動物体Tが撮像エリアに対してz方向に移動した場合に、従来のパターンマッチング処理で検出される移動ベクトルに比べてより適正な移動ベクトルを得ることができる。
15 パターンマッチング装置(画像処理装置)
100 デジタルカメラ(撮像装置)
b0〜b3 分割されたエリア
F0,F1 フレーム
T 移動物体
V0〜V3 補正ベクトル
100 デジタルカメラ(撮像装置)
b0〜b3 分割されたエリア
F0,F1 フレーム
T 移動物体
V0〜V3 補正ベクトル
Claims (9)
- 撮像して得られる画像データに基づいて、移動物体の移動ベクトルを検出する画像処理装置であって、
前記画像データにおける、前記移動物体の少なくとも一部が撮像された所定の領域を切り出したフレームを複数のエリアに分割し、分割された前記複数のエリアごとに補正ベクトル探索範囲を設定する探索範囲設定手段と、
前記複数のエリアそれぞれについて前記補正ベクトル探索範囲における前記移動物体の移動成分を補正ベクトルとして検出する補正ベクトル検出手段と、
前記移動ベクトルと前記補正ベクトルとを合成し、合成されたベクトルを新規に前記移動ベクトルとして設定するベクトル合成手段とを備えていることを特徴とする画像処理装置。 - 前記画像データの輝度情報を取得する輝度情報取得手段と、
前記移動ベクトルを検出するパターンマッチング処理を実行するパターンマッチング処理手段と、
前記輝度情報に基づいて、前記補正ベクトルを検出するか否かを判別する判別手段とを備えていることを特徴とする請求項1に記載の画像処理装置。 - 前記パターンマッチング処理手段が、パターンマッチング処理に対象となる複数のフレーム同士の輝度レンジを比較して前記輝度レンジが予め設定した閾値より大きい場合に、パターンマッチング処理を実行することを特徴とする請求項2に記載の画像処理装置。
- 撮像素子で撮像して得られる画像データに基づいて、移動物体の移動ベクトルを検出する画像処理装置を備えた撮像装置であって、
前記画像処理装置が、前記画像データにおける、前記移動物体の少なくとも一部が撮像された所定の領域を切り出したフレームを分割し、分割されたエリアごとに複数の補正ベクトル探索範囲を設定する探索範囲設定手段と、
前記複数の補正ベクトル探索範囲のそれぞれについて、前記移動物体の移動成分を補正ベクトルとして検出する補正ベクトル検出手段と、
前記移動ベクトルと前記補正ベクトルとを合成し、合成されたベクトルを新規に前記移動ベクトルとして設定するベクトル合成手段とを備えていることを特徴とする撮像装置。 - 前記画像処理装置が、前記画像データの輝度情報を取得する輝度情報取得手段と、
前記移動ベクトルを検出するパターンマッチング処理を実行するパターンマッチング処理手段と、
前記輝度情報に基づいて、前記補正ベクトルを検出するか否かを判別する判別手段とを備えていることを特徴とする請求項4に記載の撮像装置。 - 前記パターンマッチング処理手段が、パターンマッチング処理に対象となる複数のフレーム同士の輝度レンジを比較して前記輝度レンジが予め設定した閾値より大きい場合に、パターンマッチング処理を実行することを特徴とする請求項5に記載の撮像装置。
- 撮像して得られる画像データに基づいて、移動物体の移動ベクトルを検出する画像処理方法であって、
前記画像データにおける、前記移動物体の少なくとも一部が撮像された所定の領域を切り出したフレームを分割し、分割されたエリアごとに複数の補正ベクトル探索範囲を設定するステップと、
前記複数の補正ベクトル探索範囲のそれぞれについて、前記移動物体の移動成分を補正ベクトルとして検出するステップと、
前記移動ベクトルと前記補正ベクトルとを合成し、合成されたベクトルを新規に前記移動ベクトルと設定するステップを有することを特徴とする画像処理方法。 - 前記画像データの輝度情報を取得するステップと、
前記移動ベクトルを検出するパターンマッチング処理を実行するステップと、
前記輝度情報に基づいて、前記補正ベクトルを検出するか否かを判別するステップとを有することを特徴とする請求項7に記載の画像処理方法。 - パターンマッチング処理に対象となる複数のフレーム同士の輝度レンジを比較して前記輝度レンジが予め設定した閾値より大きい場合に、パターンマッチング処理を実行するステップを有することを特徴とする請求項8に記載の画像処理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007188315A JP2009027437A (ja) | 2007-07-19 | 2007-07-19 | 画像処理装置,画像処理方法及び撮像装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007188315A JP2009027437A (ja) | 2007-07-19 | 2007-07-19 | 画像処理装置,画像処理方法及び撮像装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2009027437A true JP2009027437A (ja) | 2009-02-05 |
Family
ID=40398828
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2007188315A Abandoned JP2009027437A (ja) | 2007-07-19 | 2007-07-19 | 画像処理装置,画像処理方法及び撮像装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2009027437A (ja) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2010090311A1 (ja) | 2009-02-09 | 2010-08-12 | 日本電気株式会社 | 経路制御システム、経路制御装置、通信装置、経路制御方法およびプログラム |
US9501815B2 (en) | 2012-05-18 | 2016-11-22 | Thomson Licensing | Processing panoramic pictures |
US10142541B2 (en) | 2016-03-23 | 2018-11-27 | Canon Kabushiki Kaisha | Image processing apparatus, imaging apparatus, and control method of image processing apparatus |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH10191347A (ja) * | 1996-12-27 | 1998-07-21 | Casio Comput Co Ltd | 動き検出装置、動き検出方法、及び、記憶媒体 |
JPH11150670A (ja) * | 1997-09-10 | 1999-06-02 | Ricoh Co Ltd | カメラ装置 |
JP2003196787A (ja) * | 2001-12-26 | 2003-07-11 | Tietech Co Ltd | 移動体検出方法及び装置 |
JP2004229150A (ja) * | 2003-01-27 | 2004-08-12 | Nec Corp | 動きベクトル探索方法および装置 |
-
2007
- 2007-07-19 JP JP2007188315A patent/JP2009027437A/ja not_active Abandoned
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH10191347A (ja) * | 1996-12-27 | 1998-07-21 | Casio Comput Co Ltd | 動き検出装置、動き検出方法、及び、記憶媒体 |
JPH11150670A (ja) * | 1997-09-10 | 1999-06-02 | Ricoh Co Ltd | カメラ装置 |
JP2003196787A (ja) * | 2001-12-26 | 2003-07-11 | Tietech Co Ltd | 移動体検出方法及び装置 |
JP2004229150A (ja) * | 2003-01-27 | 2004-08-12 | Nec Corp | 動きベクトル探索方法および装置 |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2010090311A1 (ja) | 2009-02-09 | 2010-08-12 | 日本電気株式会社 | 経路制御システム、経路制御装置、通信装置、経路制御方法およびプログラム |
US9501815B2 (en) | 2012-05-18 | 2016-11-22 | Thomson Licensing | Processing panoramic pictures |
US10142541B2 (en) | 2016-03-23 | 2018-11-27 | Canon Kabushiki Kaisha | Image processing apparatus, imaging apparatus, and control method of image processing apparatus |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR101062502B1 (ko) | 패닝화상을 촬상하기 위한 패닝모드를 구비한 촬상장치 | |
US8004570B2 (en) | Image processing apparatus, image-pickup apparatus, and image processing method | |
US9456135B2 (en) | Image synthesizing apparatus, image synthesizing method, and image synthesizing program | |
US20140098187A1 (en) | Image processing device, image processing method, and program | |
US20080101710A1 (en) | Image processing device and imaging device | |
JP6222514B2 (ja) | 画像処理装置、撮像装置、およびコンピュータブログラム | |
US10359498B2 (en) | Image pickup apparatus having function of generating simulation image,control method therefor, and storage medium | |
JP2013165485A (ja) | 画像処理装置、撮像装置およびコンピュータブログラム | |
JP2011029735A (ja) | 画像処理装置、撮像装置及び画像処理方法 | |
JP2011029735A5 (ja) | ||
JP2015012480A (ja) | 画像処理装置及び画像処理方法 | |
JP2013165487A (ja) | 画像処理装置、撮像装置、およびプログラム | |
JP2011130328A (ja) | 画像処理装置および方法、並びにプログラム | |
JP2017175364A (ja) | 画像処理装置、撮像装置および画像処理装置の制御方法 | |
JP6037224B2 (ja) | 画像処理装置、撮像装置、およびプログラム | |
JP2009213114A (ja) | 撮像装置及びプログラム | |
JP6336341B2 (ja) | 撮像装置及びその制御方法、プログラム、記憶媒体 | |
JP2011066827A (ja) | 画像処理装置、画像処理方法及びプログラム | |
US10401174B2 (en) | Posture estimating apparatus for estimating posture, posture estimating method and recording medium | |
JP4953770B2 (ja) | 撮像装置 | |
JP2009027437A (ja) | 画像処理装置,画像処理方法及び撮像装置 | |
JP5267279B2 (ja) | 画像合成装置及びプログラム | |
JP4774857B2 (ja) | 画像処理装置及びプログラム | |
JP2008160274A (ja) | 移動ベクトル検出方法及びその装置並びにそのプログラム、電子的手振れ補正方法及びその装置並びにそのプログラム、撮像装置 | |
JP4919165B2 (ja) | 画像合成装置及びプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20100212 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20110616 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20110705 |
|
A762 | Written abandonment of application |
Free format text: JAPANESE INTERMEDIATE CODE: A762 Effective date: 20110713 |