Nothing Special   »   [go: up one dir, main page]

JP5029647B2 - 被写体追尾装置、およびカメラ - Google Patents

被写体追尾装置、およびカメラ Download PDF

Info

Publication number
JP5029647B2
JP5029647B2 JP2009093676A JP2009093676A JP5029647B2 JP 5029647 B2 JP5029647 B2 JP 5029647B2 JP 2009093676 A JP2009093676 A JP 2009093676A JP 2009093676 A JP2009093676 A JP 2009093676A JP 5029647 B2 JP5029647 B2 JP 5029647B2
Authority
JP
Japan
Prior art keywords
similarity
component
image
sad
normalization
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2009093676A
Other languages
English (en)
Other versions
JP2010245923A (ja
Inventor
悠一 伊藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nikon Corp
Original Assignee
Nikon Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nikon Corp filed Critical Nikon Corp
Priority to JP2009093676A priority Critical patent/JP5029647B2/ja
Priority to US12/752,414 priority patent/US8594371B2/en
Priority to CN201010162317.7A priority patent/CN101859438B/zh
Publication of JP2010245923A publication Critical patent/JP2010245923A/ja
Application granted granted Critical
Publication of JP5029647B2 publication Critical patent/JP5029647B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S3/00Direction-finders for determining the direction from which infrasonic, sonic, ultrasonic, or electromagnetic waves, or particle emission, not having a directional significance, are being received
    • G01S3/78Direction-finders for determining the direction from which infrasonic, sonic, ultrasonic, or electromagnetic waves, or particle emission, not having a directional significance, are being received using electromagnetic waves other than radio waves
    • G01S3/782Systems for determining direction or deviation from predetermined direction
    • G01S3/785Systems for determining direction or deviation from predetermined direction using adjustment of orientation of directivity characteristics of a detector or detector system to give a desired condition of signal derived from that detector or detector system
    • G01S3/786Systems for determining direction or deviation from predetermined direction using adjustment of orientation of directivity characteristics of a detector or detector system to give a desired condition of signal derived from that detector or detector system the desired condition being maintained automatically
    • G01S3/7864T.V. type tracking systems
    • G01S3/7865T.V. type tracking systems using correlation of the live video image with a stored image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/254Analysis of motion involving subtraction of images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • General Physics & Mathematics (AREA)
  • Electromagnetism (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Theoretical Computer Science (AREA)
  • Studio Devices (AREA)
  • Image Analysis (AREA)

Description

本発明は、被写体追尾装置、およびカメラに関する。
次のような物体追跡装置が知られている。この物体追跡装置は、正規化相関という演算手法を用いてテンプレートと画像間の類似度を算出して、被写体の追尾を行う(例えば、特許文献1)。
特許第3768073号公報
しかしながら、従来の物体追跡装置で用いられるような類似度算出の一般的な手法に置いては、輝度や色差などの画像成分ごとに異なるゲインがかかっている場合には、算出される類似度の精度が低下するという問題があった。
請求項1に記載の被写体追尾装置は、輝度成分および色差成分を有する入力画像と、輝度成分および色差成分を有するテンプレート画像とを比較して、前記入力画像と前記テンプレート画像との前記輝度成分の類似度および前記色差成分の類似度をそれぞれ算出する第1の類似度算出手段と、前記第1の類似度算出手段により算出される前記輝度成分および前記色差成分のそれぞれの類似度を正規化する正規化手段と、前記正規化手段による正規化結果を加算することによって、前記入力画像と前記テンプレート画像との類似度を算出する第2の類似度算出手段とを備えることを特徴とする。
請求項2に記載の被写体追尾装置は、請求項1に記載の被写体追尾装置において、前記正規化手段は、前記複数成分の特徴量の類似度に、各成分の特徴量の類似度を均一化するための正規化値をかけることによって正規化を行うことを特徴とする。
請求項3に記載の被写体追尾装置は、複数成分の特徴量を有する入力画像と、複数成分の特徴量を有するテンプレート画像とを比較して、前記入力画像と前記テンプレート画像との類似度を前記複数成分の特徴量ごとに算出する第1の類似度算出手段と、前記第1の類似度算出手段により算出される前記複数成分の特徴量の類似度に、各成分の特徴量の類似度を均一化するための正規化値をかけることによって正規化する正規化手段と、前記正規化後の類似度に、前記入力画像の特徴に応じた重み付けを行う重み付け手段と、前記重み付け手段による重み付け結果を加算することによって、前記入力画像と前記テンプレート画像との類似度を算出する第2の類似度算出手段とを備えることを特徴とする。
請求項4に記載の被写体追尾装置は、請求項2または3に記載の被写体追尾装置において、前記正規化値は、あらかじめ算出されて記憶媒体に記録されており、前記正規化手段は、前記記憶媒体から前記正規化値を読み出して正規化を行うことを特徴とする。
請求項5に記載のカメラは、請求項1〜4のいずれか一項に記載の被写体追尾装置を備えることを特徴とする。
本発明によれば、画像成分ごとに異なるゲインがかかっている場合であっても、正規化を行って精度高く類似度を算出することができる。
カメラ100の一実施の形態の構成を示すブロック図である。 テンプレートマッチング処理の流れを示すフローチャート図である。 正規化を行わずに算出した類似度の具体例を模式的に示した図である。 正規化を行って算出した類似度の具体例を模式的に示した図である。 正規化後に重み付けを行って算出した類似度の具体例を模式的に示した図である。
―第1の実施の形態―
図1は、第1の実施の形態におけるカメラの一実施の形態の構成を示すブロック図である。カメラ100は、操作部材101と、レンズ102と、撮像素子103と、制御装置104と、メモリカードスロット105と、モニタ106とを備えている。操作部材101は、使用者によって操作される種々の入力部材、例えば電源ボタン、レリーズボタン、ズームボタン、十字キー、決定ボタン、再生ボタン、削除ボタンなどを含んでいる。
レンズ102は、複数の光学レンズから構成されるが、図1では代表して1枚のレンズで表している。レンズ102を構成するレンズには、ズーム倍率を変更するためのズームレンズや、焦点調節を行うための焦点調節用レンズ(AFレンズ)等が含まれる。撮像素子103は、例えばCCDやCMOSなどのイメージセンサーであり、レンズ102により結像した被写体像を撮像する。そして、撮像によって得られた画像信号を制御装置104へ出力する。
制御装置104は、撮像素子103から入力された画像信号に基づいて所定の画像形式、例えばJPEG形式の画像データ(以下、「本画像データ」と呼ぶ)を生成する。また、制御装置104は、生成した画像データに基づいて、表示用画像データ、例えばサムネイル画像データを生成する。制御装置104は、生成した本画像データとサムネイル画像データとを含み、さらにヘッダ情報を付加した画像ファイルを生成してメモリカードスロット105へ出力する。
メモリカードスロット105は、記憶媒体としてのメモリカードを挿入するためのスロットであり、制御装置104から出力された画像ファイルをメモリカードに書き込んで記録する。また、メモリカードスロット105は、制御装置104からの指示に基づいて、メモリカード内に記憶されている画像ファイルを読み込む。
モニタ106は、カメラ100の背面に搭載された液晶モニタ(背面モニタ)であり、当該モニタ106には、メモリカードに記憶されている画像やカメラ100を設定するための設定メニューなどが表示される。また、制御装置104は、使用者によってカメラ100のモードが撮影モードに設定されると、撮像素子103から時系列で取得した画像の表示用画像データをモニタ106に出力する。これによってモニタ106にはスルー画が表示される。
制御装置104は、CPU、メモリ、およびその他の周辺回路により構成され、カメラ100を制御する。なお、制御装置104を構成するメモリには、SDRAMやフラッシュメモリが含まれる。SDRAMは、揮発性のメモリであって、CPUがプログラム実行時にプログラムを展開するためのワークメモリとして使用されたり、データを一時的に記録するためのバッファメモリとして使用される。また、フラッシュメモリは、不揮発性のメモリであって、制御装置104が実行するプログラムのデータや、プログラム実行時に読み込まれる種々のパラメータなどが記録されている。
本実施の形態では、制御装置104は、撮像素子103から入力されるスルー画の各フレームに対して、あらかじめ用意したテンプレート画像を用いたテンプレートマッチング処理を行うことによって、フレーム内からテンプレート画像と類似する画像領域を被写体領域として特定する。そして、制御装置104は、特定した被写体領域をフレーム間で追跡することによって、被写体追尾処理を行う。
以下、図2に示すフローチャートを用いて、本実施の形態におけるテンプレートマッチング処理の詳細について説明する。なお、図2に示す処理は、スルー画撮影が開始されると起動するプログラムとして、制御装置104によって実行される。
ステップS1において、制御装置104は、入力された画像(以下、「入力画像」と呼ぶ)をマッチング対象として、ステップS2へ進む。ステップS2では、制御装置104は、入力画像内からテンプレート画像と同じサイズの画像を切り出してこれを比較用画像とする。その後、ステップS3へ進み、制御装置104は、切り出した比較用画像とテンプレート画像とを比較して、類似度の算出を行う。なお、本実施の形態での類似度の算出方法については後述する。その後、ステップS4へ進む。
ステップS4では、制御装置104は、探索領域、例えば入力画像全体内の全領域、または入力画像内に設定された所定の領域内を対象として、比較用画像の切り出しと類似度の算出が完了したか否かを判断する。ステップS4で否定判断した場合には、ステップS2へ戻って処理を繰り返す。なお、処理を繰り返す際には、制御装置104は、ステップ2において比較用領域の切り出す位置を前回の切り出し位置からずらすことにより、最終的には探索領域内の全体についてテンプレート画像と比較用画像との類似度の算出が行われることになる。これに対して、ステップS4で肯定判断した場合には、ステップS41へ進む。
ステップS41では、制御装置104は、ステップS3で算出した類似度に基づいて、テンプレート画像との類似度が最も高い比較用画像の入力画像内における切り出し位置を特定し、特定した切り出し位置を被写体位置として特定する。なお、後述する手法による類似度算出においては、テンプレート画像と比較用画像との類似度が高いほど、算出される類似度の値は小さくなるので、ステップS41では、制御装置104は、算出された類似度の値が最小となる比較用画像の切り出し位置を被写体位置として特定する。その後、ステップS5へ進む。
ステップS5では、制御装置104は、ステップS41で被写体位置として特定する際に用いた最小類似度が、所定の閾値(以下、「更新閾値」と呼ぶ)以下であるか否かを判断する。ステップS5で否定判断した場合には、後述するステップS7へ進む。これに対して、ステップS5で肯定判断した場合には、ステップS6へ進む。
ステップS6では、制御装置104は、最小類似度が算出された比較用画像を新たなテンプレート画像として、テンプレート画像の更新を行なって、ステップS7へ進む。このように現在のテンプレート画像との類似度が極めて高い切り出し画像を新たなテンプレート画像として更新していくことによって、被写体の形状が時々刻々と変化していく場合であっても、被写体を見失うことなく追尾を継続できるようになる。
ステップS7では、制御装置104は、全フレームの処理が完了したか、すなわちスルー画の入力が停止したか否かを判断する。ステップS7で否定判断した場合には、ステップS1へ戻って処理を繰り返す。これに対して、ステップS7で肯定判断した場合には、処理を終了する。
次に、本実施の形態におけるテンプレート画像と比較用画像との類似度の算出方法について説明する。ここでは、類似度の算出方法の1つであるSAD(Sum of Absolute Difference/絶対差分和)を用いて類似度を算出する方法について説明する。なお、SADとは、テンプレート画像と比較用画像とを画素ごとに比較して絶対差分和を算出し、その和を計算することにより類似度を算出する手法である。
まず、SADを用いた一般的な類似度の算出方法について説明する。テンプレート画像と比較用画像がいずれも輝度成分Yと色差成分Cb、Crとの3成分からなるYCbCr表色系で表される画像である場合には、各成分の類似度は、次式(1)〜(3)により算出される。なお、次式(1)〜(3)においては、Y成分の類似度をSAD、Cr成分の類似度をSADCr、Cb成分の類似度をSADCbと表している。また、比較用画像の各成分をY画像、Cr画像、Cb画像とそれぞれ表し、テンプレート画像の各成分をYテンプレート、Crテンプレート、Cbテンプレートとそれぞれ表している。
Figure 0005029647
Figure 0005029647
Figure 0005029647
そして、テンプレート画像と比較用画像の類似度(SAD)は、一般的には、次式(4)に示すように、式(1)〜(3)により算出した各成分の類似度を加算することにより算出される。
Figure 0005029647
しかしながら、上記の式(1)〜(4)を用いて類似度を算出した場合、各成分の類似度のゲインは、画素情報を反映してそれぞれ異なるものとなる。例えば、各画素がY,Cb、Crの各成分を有している場合、式(1)により算出されるSADは、式(2)に算出されるSADCrや式(3)により算出されるSADCbよりも4倍〜6倍ほど大きな値となる。式(4)に示すように、類似度SADは、SADとSADCrとSADCbとを加算することによって算出されるので、ゲインの異なる成分が1つでも存在すると、類似度SADの算出において各成分が均等に評価されなくなる。
例えば、図3(a)に示すように、Y成分の類似度(SAD)のゲインがSADCrやSADCbのゲインと比べて大きい場合には、SADCrとSADCbとが正確な被写体位置である切り出し位置3aで最小となっていたとしても、SADが異なる切り出し位置3bで最小になっている場合には、図3(b)に示すように、式(4)による類似度SADの算出結果はSADの影響を受けて切り出し位置3bで最小となり、当該切り出し位置3bがこのフレームにおける被写体位置として特定されてしまう。
このような問題点を解消するために、本実施の形態では、制御装置104は、各成分の類似度(SAD、SADCr、SADCb)を正規化してから類似度SADを算出するようにする。このために、カメラ100のフラッシュメモリには、各成分の類似度を正規化するための類似度正規化値、例えばSADを正規化するための類似度正規化値N、SADCrを正規化するための類似度正規化値NCr、SADCbを正規化するための類似度正規化値NCbがあらかじめ記録されているものとする。
ここで、各成分ごとの類似度正規化値N、NCr、NCbの算出方法について説明する。まず、被写体の追尾を行う標準的なシーンで撮影した動画像データを用いて、次式(5)〜(7)により、各成分ごとの類似度平均値を算出する。
Figure 0005029647
Figure 0005029647
Figure 0005029647
なお、「標準的なシーン」とは、例えばモノクロ撮影等の標準的でないシーンを除いたシーンであることを意味している。また、式(5)〜(7)においては、シーンの動画像サンプルがn種類ある場合の類似度平均値の算出例を示している。
そして、次式(8)〜(10)により、式(5)〜(7)で算出した各成分の類似度平均値の逆数を類似度正規化値N、NCr、NCbとして算出する。本実施の形態では、次式(8)〜(10)により算出された類似度正規化値N、NCr、NCbがカメラ100のフラッシュメモリに記録されているものとする。
Figure 0005029647
Figure 0005029647
Figure 0005029647
本実施の形態では、制御装置104は、フラッシュメモリに記録されている類似度正規化値N、NCr、NCbを読み出し、各成分の類似度、すなわちSAD、SADCr、およびSADCbのそれぞれに読み出した類似度正規化値N、NCr、NCbを乗じることにより、各成分の類似度を正規化してテンプレート画像と比較用画像の類似度SADを算出する。
具体的には、制御装置104は、次式(11)により各成分の類似度を正規化してフレームとテンプレート画像との類似度SADを算出することができる。なお、次式(11)においては、SADの成分がSAD,SADCr、SADCbの3成分あるため、全体を3で割っている。
Figure 0005029647
式(11)に示すように、各成分のSADを正規化してからSADを算出することによって、各成分の重みが均一になり、また出力される各成分の類似度(各成分のSAD)のゲインも一定となる。その結果、特定の成分の類似度が大きなゲインを持つ場合であっても、その成分の類似度の影響を受けてフレーム内における被写体位置が誤って特定されるのを防ぐことができる。
例えば、図3(a)に示したように、SADのゲインがSADCrやSADCbのゲインと比べて大きい場合であっても、正規化によって図4(a)に示すように各成分の類似度のゲインを均一化することができる。これにより、正規化後の各成分の類似度を加算した結果は、図4(b)に示すように、正確な被写体位置を示す切り出し位置4aで最小となり、被写体位置を正確に特定することができるようになる。
本実施の形態では、上述した図2のステップS3において、制御装置104は、式(11)を用いてテンプレート画像と比較用画像の類似度を算出すればよい。そして、入力画像の全体について類似度の算出が終わった後に(ステップS4で肯定判断した後に)、SADが最小となる比較用画像の切り出し位置を被写体位置として特定することによって、入力画像内の被写体位置を特定することができる。制御装置104は、当該処理を複数フレームにわたって繰り返し行うことにより、各フレーム内で被写体位置を特定して、被写体追尾を行うことができる。
以上説明した第1の実施の形態によれば、以下のような作用効果を得ることができる。
(1)制御装置104は、スルー画のフレームとテンプレート画像とを画像の特徴量である輝度成分(Y成分)と色差成分(Cr成分、Cb成分)ごとに比較して、各成分ごとの類似度SAD,SADCr,SADCbを算出した。そして、制御装置104は、算出した各成分の類似度に類似度正規化値をかけて正規化を行うようにした。そして、制御装置104は、正規化後の各成分の類似度に基づいて、フレームとテンプレート画像との類似度SADを算出するようにした。これによって、各成分の類似度を正規化して、被写体の追尾性能を向上させることができる。
(2)各成分の類似度値を均一化するための類似度正規化値をあらかじめ算出しておき、制御装置104は、この類似度正規化値を用いて、各成分の類似度値が均一になるように正規化を行うようにした。これによって、特定の成分の類似度が大きなゲインを持つ場合であっても、その成分の類似度算出結果の影響を受けてフレーム内における被写体位置が誤って特定されるのを防ぐことができる。
―第2の実施の形態―
上述した第1の実施の形態では、各成分の類似度値、すなわちSAD、SADCr、およびSADCbに類似度正規化値N、NCr、NCbを乗じることで各成分の類似度を正規化して、フレームとテンプレート画像との類似度SADを算出することによって被写体の追尾性能を向上させる例について説明した。
これに対して、第2の実施の形態では、第1の実施の形態の場合と同様に、各成分の類似度を正規化した上で、さらに正規化後の輝度成分の類似度(SAD)、または色差成分の類似度(SADCr、SADCb)に重み付けを行って類似度(SAD)を算出することによって、被写体の追尾性能を向上させる方法について説明する。なお、第2の実施の形態においては、図1〜図3の各図は第1の実施の形態と同様のため説明を省略し、第1の実施の形態との相違点を中心に説明する。
本実施の形態では、制御装置104は、マッチング対象のフレームの彩度に基づいて、正規化後の各成分に対する重み付けを行う。例えば、マッチング対象のフレームの彩度が高い場合には、輝度成分よりも色差成分を評価の対象として類似度を算出した方が追尾性能を向上することができるため、正規化後の色差成分の類似度(SADCr、SADCb)にかける重みが重くなるように重み付けを行ってSADを算出する。逆に、マッチング対象のフレームの彩度が低い場合には、色差成分よりも輝度成分を評価の対象として類似度を算出した方が追尾性能を向上することができるため、正規化後の輝度成分の類似度(SAD)にかける重みが重くなるように重み付けを行ってSADを算出する。
例えば、制御装置104は、正規化後の各成分の類似度にパラメータαを用いた重み付けを行う場合には、次式(12)によりSADを算出する。
Figure 0005029647
なお、本実施の形態におけるパラメータαは、0<α<1の範囲をとる彩度を示すパラメータに対応し、例えば、x=(1/画素数)・Σ(|Cr|+|Cb|)とすると、α=1/(1+e−ax+b)と示される関数形になる。
このように、正規化した各成分の類似度にパラメータαを用いた重み付けを行うことにより、類似度のゲインを一定とした上で、画像の彩度に応じた成分の類似度に重み付けを行ってSADを算出することができ、さらに被写体追尾の性能を向上させることができる。
例えば、マッチング対象のフレームの彩度が高い場合、すなわち該フレームが有彩色系である場合には、パラメータαの値を大きく設定することにより、輝度成分よりも色差成分を重く評価して類似度を算出することができ、追尾性能を向上することができる。
例えば、マッチング対象のフレームが有彩色系である場合には、α=0.8とすることにより、図5(a)に示すように、式(12)により輝度成分のSADには0.2×2がかけられ、色差成分のSADCr,SADCbには0.8がかけられることになり、類似度SADの算出に際して輝度成分のSADの影響を低下させることができる。これにより、図5(b)に示すように、SADの算出結果はSADの影響を低減させて正確な被写体位置を示す切り出し位置5aで最小となり、被写体位置を正確に特定することができるようになる。
これに対して、マッチング対象のフレームの彩度が低い場合、すなわち該フレームが無彩色系である場合には、パラメータαの値を小さく設定することにより、例えば、α=0.2とすることにより、色差成分よりも輝度成分を重く評価して類似度を算出することができ、追尾性能を向上することができる。
例えば、マッチング対象のフレームが無彩色系である場合には、α=0.2とすることにより、図5(c)に示すように、式(12)により輝度成分のSADには0.8×2がかけられ、色差成分のSADCr,SADCbには0.2がかけられることになり、類似度SADの算出に際して色差成分のSADCr,SADCbの影響を低下させることができる。これにより、図5(d)に示すように、SADの算出結果はSADCr,SADCbの影響を低減させて正確な被写体位置を示す切り出し位置5bで最小となり、被写体位置を正確に特定することができるようになる。
以上説明した第2の実施の形態によれば、制御装置104は、各成分のSADを正規化した上で、さらに正規化後の輝度成分の類似度(SAD)、または色差成分の類似度(SADCr、SADCb)にフレームの彩度に基づく重み付けを行って類似度(SAD)を算出するようにした。これによって、被写体の追尾性能を向上することができるという効果を得ることができる。
―変形例―
なお、上述した実施の形態のカメラは、以下のように変形することもできる。
(1)上述した第1および第2の実施の形態では、制御装置104は、類似度の算出方法の1つであるSAD(Sum of Absolute Difference/絶対差分和)を用いて類似度を算出する方法について説明した。しかしながら、SAD以外の他の手法、例えば、SSD(Sum of Squared Difference)や色ヒストグラムを用いて類似度を算出する場合にも、本発明は適用可能である。
(2)上述した第1および第2の実施の形態では、制御装置104は、スルー画を対象として被写体追尾を行う例について説明した。しかしながら、カメラ100が動画撮影機能を備えている場合には、制御装置104は、スルー画ではなく、撮影済みの動画のフレーム間で被写体追尾を行うようにしてもよい。
(3)上述した第1および第2の実施の形態では、カメラ100が供える制御装置104が図2に示す処理を実行して被写体追尾を行う例について説明した。しかしながら、図2に示す処理を実行するためのプログラムをパソコンなどその他の端末に記録して、それらの端末上で処理を実行することも可能である。この場合、カメラで撮影した動画像データを端末側に取り込んで、これを対象に処理を行うようにすれば、動画のフレーム間で被写体追尾を行うことが可能となる。また、本発明はカメラ付き携帯電話などに適用することも可能である。
なお、本発明の特徴的な機能を損なわない限り、本発明は、上述した実施の形態における構成に何ら限定されない。また、上述の実施の形態と複数の変形例を組み合わせた構成としてもよい。
100 カメラ、101 操作部材、102 レンズ、103 撮像素子、104 制御装置、105 メモリカードスロット、106 モニタ

Claims (5)

  1. 輝度成分および色差成分を有する入力画像と、輝度成分および色差成分を有するテンプレート画像とを比較して、前記入力画像と前記テンプレート画像との前記輝度成分の類似度および前記色差成分の類似度をそれぞれ算出する第1の類似度算出手段と、
    前記第1の類似度算出手段により算出される前記輝度成分および前記色差成分のそれぞれの類似度を正規化する正規化手段と、
    前記正規化手段による正規化結果を加算することによって、前記入力画像と前記テンプレート画像との類似度を算出する第2の類似度算出手段とを備えることを特徴とする被写体追尾装置。
  2. 請求項1に記載の被写体追尾装置において、
    前記正規化手段は、前記複数成分の特徴量の類似度に、各成分の特徴量の類似度を均一化するための正規化値をかけることによって正規化を行うことを特徴とする被写体追尾装置。
  3. 複数成分の特徴量を有する入力画像と、複数成分の特徴量を有するテンプレート画像とを比較して、前記入力画像と前記テンプレート画像との類似度を前記複数成分の特徴量ごとに算出する第1の類似度算出手段と、
    前記第1の類似度算出手段により算出される前記複数成分の特徴量の類似度に、各成分の特徴量の類似度を均一化するための正規化値をかけることによって正規化する正規化手段と、
    前記正規化後の類似度に、前記入力画像の特徴に応じた重み付けを行う重み付け手段と、
    前記重み付け手段による重み付け結果を加算することによって、前記入力画像と前記テンプレート画像との類似度を算出する第2の類似度算出手段とを備えることを特徴とする被写体追尾装置。
  4. 請求項2または3に記載の被写体追尾装置において、
    前記正規化値は、あらかじめ算出されて記憶媒体に記録されており、
    前記正規化手段は、前記記憶媒体から前記正規化値を読み出して正規化を行うことを特徴とする被写体追尾装置。
  5. 請求項1〜4のいずれか一項に記載の被写体追尾装置を備えるカメラ。
JP2009093676A 2009-04-08 2009-04-08 被写体追尾装置、およびカメラ Active JP5029647B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2009093676A JP5029647B2 (ja) 2009-04-08 2009-04-08 被写体追尾装置、およびカメラ
US12/752,414 US8594371B2 (en) 2009-04-08 2010-04-01 Subject tracking device and camera
CN201010162317.7A CN101859438B (zh) 2009-04-08 2010-04-08 被拍摄体跟踪装置及相机

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009093676A JP5029647B2 (ja) 2009-04-08 2009-04-08 被写体追尾装置、およびカメラ

Publications (2)

Publication Number Publication Date
JP2010245923A JP2010245923A (ja) 2010-10-28
JP5029647B2 true JP5029647B2 (ja) 2012-09-19

Family

ID=42934433

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009093676A Active JP5029647B2 (ja) 2009-04-08 2009-04-08 被写体追尾装置、およびカメラ

Country Status (3)

Country Link
US (1) US8594371B2 (ja)
JP (1) JP5029647B2 (ja)
CN (1) CN101859438B (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4770965B2 (ja) * 2009-04-17 2011-09-14 株式会社ニコン 画像マッチング装置、およびカメラ
US8131068B2 (en) 2008-06-06 2012-03-06 Nikon Corporation Image matching device and camera

Family Cites Families (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US3614736A (en) * 1968-05-21 1971-10-19 Ibm Pattern recognition apparatus and methods invariant to translation, scale change and rotation
GB2246488B (en) * 1990-07-24 1994-04-20 Sony Corp Motion dependant video signal processing
US5640200A (en) * 1994-08-31 1997-06-17 Cognex Corporation Golden template comparison using efficient image registration
JP3578658B2 (ja) * 1999-03-26 2004-10-20 松下電器産業株式会社 マッチング方式およびその装置
JP3768073B2 (ja) 1999-06-15 2006-04-19 株式会社日立国際電気 物体追跡方法及び物体追跡装置
US6687386B1 (en) 1999-06-15 2004-02-03 Hitachi Denshi Kabushiki Kaisha Object tracking method and object tracking apparatus
KR100518860B1 (ko) * 1999-07-05 2005-09-30 엘지전자 주식회사 이미지의 특징소 정규화 정보를 사용한 이미지 검색 방법
KR100343223B1 (ko) * 1999-12-07 2002-07-10 윤종용 화자 위치 검출 장치 및 그 방법
JP2003070742A (ja) * 2001-08-31 2003-03-11 Japan Science & Technology Corp 視線検出装置及び視線検出方法
NZ539632A (en) * 2002-10-22 2008-01-31 Artoolworks Tracking a surface in a 3-dimensional scene using natural visual features of the surface
US7333653B2 (en) * 2003-08-29 2008-02-19 Hewlett-Packard Development Company, L.P. Detecting and correcting redeye in an image
JP4617883B2 (ja) 2004-01-06 2011-01-26 ソニー株式会社 画像処理装置および方法、プログラム並びに記録媒体
WO2006013765A1 (ja) * 2004-08-03 2006-02-09 Matsushita Electric Industrial Co., Ltd. 人物判定装置及び人物検索追跡装置
JP4699040B2 (ja) 2005-02-15 2011-06-08 パナソニック株式会社 自動追尾制御装置及び自動追尾制御方法、並びにプログラム、自動追尾システム
JP4699056B2 (ja) * 2005-03-15 2011-06-08 パナソニック株式会社 自動追尾装置及び自動追尾方法
US7801392B2 (en) * 2005-07-21 2010-09-21 Fuji Xerox Co., Ltd. Image search system, image search method, and storage medium
JP2007094906A (ja) * 2005-09-29 2007-04-12 Toshiba Corp 特徴点検出装置および方法
JP4894278B2 (ja) * 2006-02-03 2012-03-14 カシオ計算機株式会社 カメラ装置及びカメラ制御プログラム
US8050453B2 (en) * 2006-06-15 2011-11-01 Omron Corporation Robust object tracking system
PE20081084A1 (es) * 2006-12-07 2008-08-08 Garlock Sealing Technologies Material comprimido para empaquetaduras
JP4798018B2 (ja) * 2007-02-22 2011-10-19 株式会社明電舎 画像照合装置
JP5056136B2 (ja) * 2007-04-18 2012-10-24 株式会社ニコン 画像追尾装置
US8144934B2 (en) 2007-05-02 2012-03-27 Nikon Corporation Photographic subject tracking method, computer program product and photographic subject tracking device
JP5024116B2 (ja) 2007-05-02 2012-09-12 株式会社ニコン 被写体追跡プログラム、および被写体追跡装置
US8064639B2 (en) * 2007-07-19 2011-11-22 Honeywell International Inc. Multi-pose face tracking using multiple appearance models
JP2009053815A (ja) * 2007-08-24 2009-03-12 Nikon Corp 被写体追跡プログラム、および被写体追跡装置
JP4909859B2 (ja) * 2007-09-28 2012-04-04 株式会社日立ハイテクノロジーズ 検査装置及び検査方法
US8433138B2 (en) * 2008-10-29 2013-04-30 Nokia Corporation Interaction using touch and non-touch gestures

Also Published As

Publication number Publication date
CN101859438B (zh) 2014-05-28
CN101859438A (zh) 2010-10-13
JP2010245923A (ja) 2010-10-28
US8594371B2 (en) 2013-11-26
US20100260381A1 (en) 2010-10-14

Similar Documents

Publication Publication Date Title
JP4678603B2 (ja) 撮像装置及び撮像方法
JP4582423B2 (ja) 撮像装置、画像処理装置、撮像方法、及び画像処理方法
JP4798259B2 (ja) 被写体追尾装置、およびカメラ
JP6763417B2 (ja) 電子機器
US20210256713A1 (en) Image processing apparatus and image processing method
US20100208140A1 (en) Image processing apparatus, image processing method and storage medium storing image processing program
US20020164082A1 (en) Image processing apparatus
JP5144724B2 (ja) 撮像装置、画像処理装置、撮像方法、及び画像処理方法
JP5083080B2 (ja) 画像マッチング装置、およびカメラ
JP4493416B2 (ja) 画像処理方法および装置並びにプログラム
JP5691617B2 (ja) 被写体特定装置、および被写体追尾装置
JP5029647B2 (ja) 被写体追尾装置、およびカメラ
JP5381498B2 (ja) 画像処理装置、画像処理プログラムおよび画像処理方法
JP5365327B2 (ja) 被写体追尾装置、およびカメラ
JP5206300B2 (ja) プログラム、カメラ、画像処理装置および画像の合焦度算出方法
EP2509302A2 (en) Image processing apparatus, image processing method, and computer program
JP5146223B2 (ja) プログラム、カメラ、画像処理装置および画像の輪郭抽出方法
JP4770965B2 (ja) 画像マッチング装置、およびカメラ
JP5434057B2 (ja) 画像表示装置、および画像表示プログラム
JP4661957B2 (ja) 画像マッチング装置、およびカメラ
JP5353141B2 (ja) プログラム、カメラ、画像処理装置、及び画像の合焦度算出方法
JP2009088933A (ja) 画像記録装置、画像補正装置及び撮像装置
JP2007174015A (ja) 画像管理プログラム、および画像管理装置
JP2011090488A (ja) 被写体追尾装置、被写体追尾プログラム、およびカメラ
US20130022239A1 (en) Image processing apparatus, image processing method, and storage medium

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110113

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110222

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110422

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20111122

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120123

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120529

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120611

R150 Certificate of patent or registration of utility model

Ref document number: 5029647

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150706

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150706

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250