Nothing Special   »   [go: up one dir, main page]

JP2011193443A - 物体追尾装置 - Google Patents

物体追尾装置 Download PDF

Info

Publication number
JP2011193443A
JP2011193443A JP2011018411A JP2011018411A JP2011193443A JP 2011193443 A JP2011193443 A JP 2011193443A JP 2011018411 A JP2011018411 A JP 2011018411A JP 2011018411 A JP2011018411 A JP 2011018411A JP 2011193443 A JP2011193443 A JP 2011193443A
Authority
JP
Japan
Prior art keywords
tracking
area
image
tracking area
imaging
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2011018411A
Other languages
English (en)
Inventor
Haike Guan
海克 関
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to JP2011018411A priority Critical patent/JP2011193443A/ja
Publication of JP2011193443A publication Critical patent/JP2011193443A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/246Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
    • G06T7/248Analysis of motion using feature-based methods, e.g. the tracking of corners or segments involving reference images or patches
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Studio Devices (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Image Analysis (AREA)

Abstract

【課題】撮影装置から時系列に入力される撮影画像のなかから特定の物体が映された領域を従来のものより高速に追尾することができる物体追尾装置を提供すること。
【解決手段】撮影パラメータを取得する撮影パラメータ取得部31と、撮影パラメータに基づいて、特定の物体が映された領域を追尾するための追尾領域のサイズを調整する追尾領域調整部34と、サイズが調整された追尾領域を撮影画像上で移動させながら、この追尾領域における画像の特徴量と、時系列において直前の撮影画像のなかから特定された特定領域における画像の特徴量との類似度に基づいて、撮影画像のなかから特定の物体が映された追尾領域を探索する追尾領域探索部35とを備える。
【選択図】図2

Description

本発明は、物体追尾装置に関し、特に、撮影装置から時系列に入力される撮影画像のなかから特定の物体が映された領域を追尾する物体追尾装置に関する。
従来、撮影装置から時系列に入力される撮影画像(以下、各撮影画像を「画像フレーム」と記載する。)のなかから特定の物体が映された領域を追尾する場合には、図6に示すように、画像フレームF0のなかから追尾対象の領域50が決められた後、これに続く画像フレームF1以降の画像フレームに対して、追尾処理が行われる。
例えば、追尾処理は、図7(a)に示す画像フレームF0の追尾対象領域50に対して、図7(b)に示す画像フレームF1の追尾結果領域51を得る。次に、追尾処理は、画像フレームF1の追尾結果領域51を新たな追尾対象領域51として、次の画像フレームF2に対して、実行される。
このとき、追尾対象として特定された物体の移動および姿勢の変化ならびに変形などの影響によって、追尾結果に誤差が含まれてしまうため、追尾対象領域を更新していくにつれて追尾誤差が累積し、図7(c)に示すように、追尾結果領域52は、最初の画像フレームF0で設定した本来の追尾対象領域53から大きくずれてしまい、追尾が失敗してしまうことになる。また、この追尾誤差によって、追尾領域のサイズが大きくなってしまった場合には、追尾処理が要する計算量は多くなり、処理速度は著しく遅くなってしまう。
このような、物体追尾装置としては、入力された画像フレームに映された物体を追尾し、追尾した結果の動きベクトルを用いて、カメラを駆動制御するトルク量を調整するものがある(例えば、特許文献1参照)。
しかし、特許文献1に開示された従来の技術は、追尾誤差が追尾結果に与える影響を解消することができないといった課題があった。これに対し、物体を追尾した結果に対して、追尾点をユーザに入力させることで、追尾を中断することなく、追尾結果を補正するものも知られている(例えば、特許文献2参照)。
しかしながら、特許文献2に開示された従来の技術は、画像フレームの全領域に渡って追尾結果領域を拡縮させながら追尾領域を探索するため、追尾処理に要する計算量が膨大になり、処理速度が著しく遅くなってしまうといった課題があった。
本発明は、このような従来の課題を解決するためになされたもので、撮影装置から時系列に入力される撮影画像のなかから特定の物体が映された領域を従来のものより高速に追尾することができる物体追尾装置を提供することを目的とする。
本発明の物体追尾装置は、撮影装置から時系列に入力される撮影画像のなかから特定の物体が映された領域を追尾する物体追尾装置において、前記撮影装置から撮影パラメータを取得する撮影パラメータ取得部と、前記撮影パラメータに基づいて、前記特定の物体が映された領域を追尾するための追尾領域のサイズを調整する追尾領域調整部と、前記追尾領域調整部によってサイズが調整された追尾領域を前記撮影画像上で移動させながら、該追尾領域における画像の特徴量と、前記時系列において直前の撮影画像のなかから特定された特定領域における画像の特徴量との類似度に基づいて、前記撮影画像のなかから前記特定の物体が映された追尾領域を探索する追尾領域探索部と、を備えた構成を有している。
この構成により、本発明の物体追尾装置は、撮影パラメータに基づいて、特定の物体が映された領域を追尾するための追尾領域のサイズを調整することにより、画像フレームの全領域に渡って追尾結果領域を拡縮させながら追尾領域を探索する必要がなくなるため、撮影装置から時系列に入力される撮影画像のなかから特定の物体が映された領域を従来のものより高速に追尾することができる。
なお、前記追尾領域調整部は、前記撮影パラメータとして、前記撮影装置の焦点距離および結像距離を用いるようにしてもよい。
この構成により、本発明の物体追尾装置は、撮影装置の焦点距離および結像距離に基づいて、直前に撮影された撮影画像に対する現撮影画像の変倍率を算出することができるため、追尾領域のサイズを調整することができる。
また、前記追尾領域探索部は、画像の輝度および色成分の少なくとも一方の度数分布に基づいて、前記画像の特徴量を算出するようにしてもよい。
この構成により、本発明の物体追尾装置は、追尾領域における画像の特徴量と、直前の撮影画像のなかから特定された特定領域における画像の特徴量との類似度を算出することができる。
また、本発明の物体追尾装置は、前記追尾領域探索部による探索が行われる前に、前記撮影画像のうち少なくとも前記追尾領域に対して、ノイズ除去処理および輝度補正処理の少なくとも一方を前記撮影パラメータに基づいて行う前処理部をさらに備えるようにしてもよい。
この構成により、本発明の物体追尾装置は、ノイズ成分の混入率の差や輝度差の影響により追尾結果に誤差が含まれることを防止し、追尾誤差が累積することを防止することができる。
また、前記前処理部は、前記撮影パラメータとして、前記撮影装置の感度、焦点距離および開口径を用いるようにしてもよい。
この構成により、本発明の物体追尾装置は、ノイズ成分の混入率や輝度に応じた前処理を行うことができる。
また、本発明の物体追尾方法は、撮影装置から時系列に入力される撮影画像のなかから特定の物体が映された領域を追尾する物体追尾装置を用いた物体追尾方法において、前記撮影装置から撮影パラメータを取得する撮影パラメータ取得ステップと、前記撮影パラメータに基づいて、前記特定の物体が映された領域を追尾するための追尾領域のサイズを調整する追尾領域調整ステップと、前記追尾領域調整ステップでサイズが調整された追尾領域を前記撮影画像上で移動させながら、該追尾領域における画像の特徴量と、前記時系列において直前の撮影画像のなかから特定された特定領域における画像の特徴量との類似度に基づいて、前記撮影画像のなかから前記特定の物体が映された追尾領域を探索する追尾領域探索ステップと、を有する。
したがって、本発明の物体追尾方法は、撮影パラメータに基づいて、特定の物体が映された領域を追尾するための追尾領域のサイズを調整することにより、画像フレームの全領域に渡って追尾結果領域を拡縮させながら追尾領域を探索する必要がなくなるため、撮影装置から時系列に入力される撮影画像のなかから特定の物体が映された領域を従来のものより高速に追尾することができる。
また、前記追尾領域調整ステップでは、前記撮影パラメータとして、前記撮影装置の焦点距離および結像距離を用いてもよい。
したがって、本発明の物体追尾方法は、撮影装置の焦点距離および結像距離に基づいて、直前に撮影された撮影画像に対する現撮影画像の変倍率を算出することができるため、追尾領域のサイズを調整することができる。
また、前記追尾領域探索ステップでは、画像の輝度および色成分の少なくとも一方の度数分布に基づいて、前記画像の特徴量を算出してもよい。
したがって、本発明の物体追尾方法は、追尾領域における画像の特徴量と、直前の撮影画像のなかから特定された特定領域における画像の特徴量との類似度を算出することができる。
また、本発明の物体追尾方法は、前記追尾領域探索ステップが実行される前に、前記撮影画像のうち少なくとも前記追尾領域に対して、ノイズ除去処理および輝度補正処理の少なくとも一方を前記撮影パラメータに基づいて行う前処理ステップをさらに有してもよい。
したがって、本発明の物体追尾方法は、ノイズ成分の混入率の差や輝度差の影響により追尾結果に誤差が含まれることを防止し、追尾誤差が累積することを防止することができる。
また、前記前処理ステップでは、前記撮影パラメータとして、前記撮影装置の感度、焦点距離および開口径を用いてもよい。
したがって、本発明の物体追尾方法は、ノイズ成分の混入率や輝度に応じた前処理を行うことができる。
また、本発明の物体追尾プログラムは、撮影装置から時系列に入力される撮影画像のなかから特定の物体が映された領域を追尾する物体追尾装置のコンピュータに実行させる物体追尾プログラムにおいて、前記撮影装置から撮影パラメータを取得する撮影パラメータ取得ステップと、前記撮影パラメータに基づいて、前記特定の物体が映された領域を追尾するための追尾領域のサイズを調整する追尾領域調整ステップと、前記追尾領域調整ステップでサイズが調整された追尾領域を前記撮影画像上で移動させながら、該追尾領域における画像の特徴量と、前記時系列において直前の撮影画像のなかから特定された特定領域における画像の特徴量との類似度に基づいて、前記撮影画像のなかから前記特定の物体が映された追尾領域を探索する追尾領域探索ステップと、を有する。
したがって、本発明の物体追尾プログラムは、コンピュータに、撮影パラメータに基づいて、特定の物体が映された領域を追尾するための追尾領域のサイズを調整させることにより、画像フレームの全領域に渡って追尾結果領域を拡縮させながら追尾領域を探索させる必要をなくしたため、撮影装置から時系列に入力される撮影画像のなかから特定の物体が映された領域を従来のものより高速に追尾することができる。
本発明は、撮影装置から時系列に入力される撮影画像のなかから特定の物体が映された領域を従来のものより高速に追尾することができる物体追尾装置を提供することができる。
本発明の一実施の形態としての物体追尾装置のハードウェア構成図である。 本発明の一実施の形態としての物体追尾装置の機能ブロック図である。 本発明の一実施の形態としての物体追尾装置を構成する前処理部が参照するマップの例を示す概念図である。 本発明の一実施の形態としての物体追尾装置を構成する追尾領域探索部による探索例を示す概念図である。 本発明の一実施の形態としての物体追尾装置の物体追尾動作を説明するためのフローチャートである。 時系列に入力される画像フレームの例を示す概念図である。 従来の追尾処理による追尾結果を示す概念図であり、(a)は、画像フレームF0の追尾結果を示し、(b)は、画像フレームF1の追尾結果を示し、(c)は、画像フレームFNの追尾結果を示している。
以下、本発明の実施の形態について、図面を参照して説明する。
図1に示すように、本発明の一実施の形態としての物体追尾装置1は、撮影光学系11と、メカシャッタ12と、CCD(Charge Coupled Device)13と、相関2重サンプリング(Correlated Double Sampling、以下、「CDS」と記載する。)回路14と、アナログデジタル変換機(以下、「A/D変換器」と記載する。)15と、モータドライバ16と、タイミング信号発生器17と、画像処理プロセッサ18と、CPU(Central Processing Unit)19と、RAM(Random Access Memory)20と、ROM(Read Only Memory)21と、SDRAM(Synchronous Dynamic Random Access Memory)22と、圧縮伸長回路23と、メモリカード24と、操作部25と、液晶ディスプレイ装置(Liquid Crystal Display、以下、「LCD」と記載する)26とを備えている。
メカシャッタ12は、撮影光学系11を通してCCD13に入射される入射光を遮断することができるようになっている。CCD13は、撮像面を有し、この撮像面に結像された光学像をアナログの画像信号に変換するようになっている。
CDS回路14は、CCD13によって変換されたアナログの画像信号からノイズ成分を除去するようになっている。A/D変換器15は、CDS回路14によってノイズ成分が除去されたアナログの画像信号をディジタルの画像信号、すなわち、画像データに変換するようになっている。
モータドライバ16は、CPU19の指示に基づいて、撮影光学系11およびメカシャッタ12を駆動し、撮影光学系11の位置を変動させたり、メカシャッタ12を開閉させたりするようになっている。
タイミング信号発生器17は、CPU19の指示に基づいて、CCD13、CDS回路14およびA/D変換器15を動作させるためのタイミング信号を発生するようになっている。
画像処理プロセッサ18は、SDRAM22に、画像データを一時的に格納し、YCrCb変換処理、ホワイトバランス制御処理、コントラスト補正処理、エッジ強調処理および色変換処理などの各種画像処理を画像データに施し、各種画像処理を施した画像データが表す画像をLCD26に表示させるようになっている。
ここで、ホワイトバランス処理は、画像データが表す画像の色の濃さを調整する画像処理であり、コントラスト補正処理は、画像データが表す画像のコントラストを調整する画像処理である。また、エッジ強調処理は、画像データが表す画像の鮮鋭度を調整する画像処理であり、色変換処理は、画像データが表す画像の色合いを調整する画像処理である。
ROM21には、当該装置を物体追尾装置1として機能させるためのプログラムが記憶されている。CPU19は、ROM21に記憶されたプログラムをRAM20を作業領域として実行することにより、後述するように当該装置を物体追尾装置1として機能させる。
圧縮伸長回路23は、操作部25を介して入力された指示に応じて、画像処理プロセッサ18によって各種画像処理が施された画像データを圧縮して、メモリカード24に記録するようになっている。また、圧縮伸長回路23は、メモリカード24から読み出した画像データを伸張して画像処理プロセッサ18に出力するようになっている。
操作部25は、スイッチ、レバーおよびタッチパネル等によって構成されている。ここで、タッチパネルは、LCD26上に設けられる。
図2は、物体追尾装置1の機能ブロックを示している。物体追尾装置1は、撮影装置30を備え、撮影装置30から時系列に入力される画像フレームのなかから特定の物体が映された領域を追尾するようになっている。
具体的には、物体追尾装置1は、撮影装置30の撮影パラメータを取得する撮影パラメータ取得部31と、画像フレームに前処理を施す前処理部32と、画像フレームのなかから特定の物体が映された領域を特定するための追尾領域特定部33と、追尾領域特定部33によって特定された特定領域に映された物体を追尾するための追尾領域のサイズを調整する追尾領域調整部34と、画像フレームのなかから特定の物体が映された追尾領域を探索する追尾領域探索部35と、追尾領域探索部35の探索結果に基づいて撮影装置30を制御する撮像制御部36と、画像フレームに画像処理を施す画像処理部37と、画像処理が施された画像フレームを出力する画像出力部38とをさらに備えている。
ここで、撮影装置30は、撮影光学系11、メカシャッタ12、CCD13、CDS回路14、A/D変換器15、モータドライバ16およびタイミング信号発生器17によって構成される。
本実施の形態において、撮影装置30は、最初に画像フレームF0を取得し、次いで、△tの時間をあけて、画像フレームF1を取得し、最終的には、N枚の時系列の画像フレームを取得するものとする。
撮影パラメータ取得部31は、CPU19によって構成され、RAM20に記憶された撮影パラメータを取得するようになっている。ここで、撮影パラメータには、焦点距離、開口径、F値、ISO感度および結像距離が含まれる。
前処理部32は、CPU19および画像処理プロセッサ18によって構成され、撮影パラメータ取得部31によって取得された撮影パラメータに基づいて、画像フレームに前処理を施すようになっている。本実施の形態において、前処理部32は、ノイズ除去処理を実行するものとする。
例えば、図3に示すように、撮影装置30の焦点距離と開口径との関係を表すF値と、ISO感度との組み合わせにノイズ除去関数が対応付けられたマップがROM21に予め記憶されている。
これらのノイズ除去関数は、F値とISO感度とが相互にそれぞれ異なる状態で同一の物体が撮影された撮影画像に対して、ノイズ成分の混入率の差が略同じになるように定められている。すなわち、F値が低くなり、ISO感度が高くなるにつれて、ノイズ除去強度が高くなるノイズ除去関数が対応付けられている。
図2において、前処理部32は、撮影パラメータ取得部31によって取得された撮影パラメータのなかで、画像フレームF0が撮影されたときのF値とISO感度とに対応するノイズ除去関数を用いて、画像フレームF0にノイズ除去処理を施すと共に、画像フレームF1が撮影されたときのF値とISO感度とに対応するノイズ除去関数を用いて、画像フレームF1にノイズ除去処理を施すようになっている。
同様に、前処理部32は、画像フレームF1に続くフレームに対してもノイズ除去処理を施すことにより、ノイズ成分の混入率の差の影響により追尾結果に誤差が含まれることを防止し、追尾誤差が累積することを防止している。
なお、ノイズ除去処理と同様に、撮影装置30のF値と、ISO感度との組み合わせに輝度補正関数がそれぞれ対応付けられたマップをROM21に予め記憶しておき、前処理部32は、このマップに基づいて、各画像フレームに対して、輝度補正処理を施すようにしてもよい。
この場合には、前処理部32は、各画像フレームに対して、輝度補正処理を施すことにより、輝度差の影響により追尾結果に誤差が含まれることを防止し、追尾誤差が累積することを防止することができる。
また、撮影装置30のF値と、ISO感度との組み合わせにノイズ除去関数と輝度補正関数とがそれぞれ対応付けられたマップをROM21に予め記憶しておき、前処理部32は、このマップに基づいて、各画像フレームに対して、ノイズ除去処理と輝度補正処理とを施すようにしてもよい。なお、当該マップにおいて、ノイズ除去関数と輝度補正関数とは、1つの関数としてまとめられていてもよい。
追尾領域特定部33は、CPU19および操作部25によって構成され、画像フレームのなかから特定の物体が映された特定領域を指定できるようになっている。例えば、追尾領域特定部33は、画像出力部38によって出力された画像上で操作部25を介して矩形で特定された領域を特定領域として特定するようになっている。
なお、追尾領域特定部33は、画像出力部38によって出力された画像上の1点を操作部25を用いて指定させ、指定された1点を含み、他の領域よりコントラストが高い領域を特定領域として抽出してもよい。本実施の形態においては、追尾領域特定部33によって特定領域が指定された画像フレームが画像フレームF0として説明されている。
追尾領域調整部34は、CPU19によって構成され、撮影パラメータ取得部31によって取得された撮影パラメータのなかで、焦点距離および結像距離に基づいて、追尾領域特定部33によって特定された特定領域に映された物体を追尾するための追尾領域のサイズを調整するようになっている。
具体的には、追尾領域調整部34は、前画像フレームF(i−1)が撮影されたときの焦点距離および結像距離と、現画像フレームFiが撮影されたときの焦点距離および結像距離とに基づいて、この画像フレーム間の変倍率を算出し、算出した変倍率に基づいて追尾領域のサイズを調整するようになっている。
追尾領域探索部35は、CPU19によって構成され、図4に示すように、現画像フレームFiのなかで、追尾領域調整部34によってサイズが調整された追尾領域40を移動させながら、追尾領域特定部33によって特定された特定領域に映された物体を追尾するようになっている。
具体的には、追尾領域探索部35は、前画像フレームF(i−1)から特定した領域における画像の特徴量と、現画像フレームFiの追尾領域における画像の特徴量との類似度が最も高くなる追尾領域を現画像フレームFiのなかから探索するようになっている。
本実施の形態において、追尾領域探索部35は、画像の輝度の度数分布に基づいて、画像の特徴量を算出するようになっている。具体的には、追尾領域探索部35は、前画像フレームF(i−1)から特定した領域における画像の輝度の度数分布q=[q1,q2,・・・,qn]と、現画像フレームFiの追尾領域における画像の輝度の度数分布p=[p1,p2,・・・,pn]とを算出するようになっている。
なお、追尾領域探索部35は、前画像フレームF(i−1)から特定した領域の面積と、現画像フレームFiの追尾領域の面積とに基づいて、度数分布q、pの少なくとも一方を正規化するようになっている。
そして、追尾領域探索部35は、以下の式にしたがって類似度Simを算出するようになっている。
Figure 2011193443
追尾領域探索部35は、算出した類似度Simが最も大きくなる追尾領域を特定するようになっている。
なお、追尾領域探索部35は、画像の輝度の度数分布に基づいて、画像の特徴量を算出するのに代えて、画像の輝度の色成分(YUVまたはRGB)の度数分布に基づいて、画像の特徴量を算出するようにしてもよく、画像の輝度の度数分布と色成分の度数分布との組み合わせに基づいて、画像の特徴量を算出するようにしてもよい。
撮像制御部36は、CPU19によって構成され、例えば、追尾領域探索部35によって特定された特定領域に焦点を合わせるように、撮影装置30の焦点距離を調整するようになっている。画像処理部37は、画像処理プロセッサ18によって構成され、上述した各種画像処理を各画像フレームに施し、画像出力部38に出力させるようになっている。
画像出力部38は、LCD26、圧縮伸長回路23およびメモリカード24によって構成され、画像処理部37によって各種画像処理が施された画像フレームを圧縮し、メモリカード24に格納すると共に、当該画像をLCD26に表示させるようになっている。
このように構成された物体追尾装置1について、図5を用いてその物体追尾動作を説明する。なお、以下に説明する物体追尾動作は、特定の物体が映された特定領域が追尾領域特定部33によって特定されたときにスタートする。
まず、撮影装置30によって最初の画像フレームF0が撮影されたときの撮影パラメータに基づいて、画像フレームF0に対するノイズ除去処理が前処理部32によって実行される(ステップS1)。
次に、追尾領域探索部35によって、画像フレームF0の特定領域における画像の特徴量が追尾領域探索部35によって算出される(ステップS2)。ここで、次の画像フレームFiが撮影装置30から得られると(ステップS3)、この画像フレームFiが撮影されたときの撮影パラメータに基づいて、画像フレームFiに対するノイズ除去処理が前処理部32によって実行される(ステップS4)。
次に、前画像フレームF(i−1)が撮影されたときの撮影パラメータと、当該画像フレームFiが撮影されたときの撮影パラメータとに基づいて、前画像フレームF(i−1)の特定領域に映された物体を追尾するための追尾領域のサイズが追尾領域調整部34によって調整される(ステップS5)。
次に、追尾領域調整部34によって調整された追尾領域が移動されながら、当該画像フレームFiの追尾領域における特徴量が追尾領域探索部35によって算出され(ステップS6)、算出された当該画像フレームFiの追尾領域における画像の特徴量と、前画像フレームF(i−1)の特定領域における画像の特徴量に基づいて、これら領域における画像の類似度が追尾領域探索部35によって算出される(ステップS7)。
このような画像フレームFiの全域に渡る探索が終了すると、最も類似度が高かった追尾領域が追尾領域探索部35によって特定領域として特定され(ステップS8)、この特定領域に焦点を合わせるように、撮影装置30の焦点距離が撮像制御部36によって調整される(ステップS9)。
ここで、操作部25などを介して、物体追尾動作の終了が指示されている場合には、物体追尾動作は、処理を終了し、物体追尾動作の終了が指示されていない場合には、物体追尾動作は、ステップS3に戻る(ステップS10)。
なお、上述した物体追尾動作において、ステップS9を実行した後に、追尾領域探索部35は、特定領域を拡縮させながら、この特定領域における画像の特徴量と、前画像フレームの特定領域における画像の特徴量とに基づいて、類似度を算出し、この類似度に基づいて当該画像フレームFiの特定領域のサイズを調整するようにしてもよい。
また、上述した物体追尾動作において、ステップS9を実行した後に、追尾領域探索部35は、LCD26に表示される画像上に特定領域を表す矩形画像を表示させるよう画像処理部37を制御するようにしてもよい。
以上に説明したように、本発明の一実施の形態としての物体追尾装置1は、撮影パラメータに基づいて、特定の物体が映された領域を追尾するための追尾領域のサイズを調整することにより、画像フレームの全領域に渡って追尾結果領域を拡縮させながら追尾領域を探索する必要がなくなるため、撮影装置30から時系列に入力される撮影画像のなかから特定の物体が映された領域を従来のものより高速に追尾することができる。
1 物体追尾装置
11 撮影光学系
12 メカシャッタ
13 CCD
14 CDS回路
15 A/D変換器
16 モータドライバ
17 タイミング信号発生器
18 画像処理プロセッサ
19 CPU
20 RAM
21 ROM
22 SDRAM
23 圧縮伸長回路
24 メモリカード
25 操作部
26 LCD
30 撮影装置
31 撮影パラメータ取得部
32 前処理部
33 追尾領域特定部
34 追尾領域調整部
35 追尾領域探索部
36 撮像制御部
37 画像処理部
38 画像出力部
特開2008−153879号公報 特開2009−010453号公報

Claims (12)

  1. 撮影装置から時系列に入力される撮影画像のなかから特定の物体が映された領域を追尾する物体追尾装置において、
    前記撮影装置から撮影パラメータを取得する撮影パラメータ取得部と、
    前記撮影パラメータに基づいて、前記特定の物体が映された領域を追尾するための追尾領域のサイズを調整する追尾領域調整部と、
    前記追尾領域調整部によってサイズが調整された追尾領域を前記撮影画像上で移動させながら、該追尾領域における画像の特徴量と、前記時系列において直前の撮影画像のなかから特定された特定領域における画像の特徴量との類似度に基づいて、前記撮影画像のなかから前記特定の物体が映された追尾領域を探索する追尾領域探索部と、を備えたことを特徴とする物体追尾装置。
  2. 前記追尾領域調整部は、前記撮影パラメータとして、前記撮影装置の焦点距離および結像距離を用いることを特徴とする請求項1に記載の物体追尾装置。
  3. 前記追尾領域探索部は、画像の輝度および色成分の少なくとも一方の度数分布に基づいて、前記画像の特徴量を算出することを特徴とする請求項1または請求項2に記載の物体追尾装置。
  4. 前記追尾領域探索部による探索が行われる前に、前記撮影画像のうち少なくとも前記追尾領域に対して、ノイズ除去処理および輝度補正処理の少なくとも一方を前記撮影パラメータに基づいて行う前処理部をさらに備えたことを特徴とする請求項1乃至請求項3の何れかに記載の物体追尾装置。
  5. 前記前処理部は、前記撮影パラメータとして、前記撮影装置の感度、焦点距離および開口径を用いることを特徴とする請求項4に記載の物体追尾装置。
  6. 撮影装置から時系列に入力される撮影画像のなかから特定の物体が映された領域を追尾する物体追尾装置を用いた物体追尾方法において、
    前記撮影装置から撮影パラメータを取得する撮影パラメータ取得ステップと、
    前記撮影パラメータに基づいて、前記特定の物体が映された領域を追尾するための追尾領域のサイズを調整する追尾領域調整ステップと、
    前記追尾領域調整ステップでサイズが調整された追尾領域を前記撮影画像上で移動させながら、該追尾領域における画像の特徴量と、前記時系列において直前の撮影画像のなかから特定された特定領域における画像の特徴量との類似度に基づいて、前記撮影画像のなかから前記特定の物体が映された追尾領域を探索する追尾領域探索ステップと、を有することを特徴とする物体追尾方法。
  7. 前記追尾領域調整ステップでは、前記撮影パラメータとして、前記撮影装置の焦点距離および結像距離を用いることを特徴とする請求項6に記載の物体追尾方法。
  8. 前記追尾領域探索ステップでは、画像の輝度および色成分の少なくとも一方の度数分布に基づいて、前記画像の特徴量を算出することを特徴とする請求項6または請求項7に記載の物体追尾方法。
  9. 前記追尾領域探索ステップが実行される前に、前記撮影画像のうち少なくとも前記追尾領域に対して、ノイズ除去処理および輝度補正処理の少なくとも一方を前記撮影パラメータに基づいて行う前処理ステップをさらに有することを特徴とする請求項6乃至請求項8の何れかに記載の物体追尾方法。
  10. 前記前処理ステップでは、前記撮影パラメータとして、前記撮影装置の感度、焦点距離および開口径を用いることを特徴とする請求項9に記載の物体追尾装置。
  11. 撮影装置から時系列に入力される撮影画像のなかから特定の物体が映された領域を追尾する物体追尾装置のコンピュータに実行させる物体追尾プログラムにおいて、
    前記撮影装置から撮影パラメータを取得する撮影パラメータ取得ステップと、
    前記撮影パラメータに基づいて、前記特定の物体が映された領域を追尾するための追尾領域のサイズを調整する追尾領域調整ステップと、
    前記追尾領域調整ステップでサイズが調整された追尾領域を前記撮影画像上で移動させながら、該追尾領域における画像の特徴量と、前記時系列において直前の撮影画像のなかから特定された特定領域における画像の特徴量との類似度に基づいて、前記撮影画像のなかから前記特定の物体が映された追尾領域を探索する追尾領域探索ステップと、を有することを特徴とする物体追尾プログラム。
  12. 請求項11に記載の物体追尾プログラムがコンピュータに読み取り可能に記録された記録媒体。
JP2011018411A 2010-02-16 2011-01-31 物体追尾装置 Pending JP2011193443A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2011018411A JP2011193443A (ja) 2010-02-16 2011-01-31 物体追尾装置

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2010031292 2010-02-16
JP2010031292 2010-02-16
JP2011018411A JP2011193443A (ja) 2010-02-16 2011-01-31 物体追尾装置

Publications (1)

Publication Number Publication Date
JP2011193443A true JP2011193443A (ja) 2011-09-29

Family

ID=44483080

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011018411A Pending JP2011193443A (ja) 2010-02-16 2011-01-31 物体追尾装置

Country Status (6)

Country Link
US (1) US9092877B2 (ja)
EP (1) EP2537331B1 (ja)
JP (1) JP2011193443A (ja)
KR (1) KR20120131178A (ja)
CN (1) CN102763405A (ja)
WO (1) WO2011102495A1 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9057932B2 (en) 2010-05-14 2015-06-16 Ricoh Company, Ltd. Imaging apparatus, image processing method, and recording medium for recording program thereon
US9336606B2 (en) 2011-02-03 2016-05-10 Ricoh Company, Ltd. Image capturing apparatus, image capturing method, and computer program product
US9800777B2 (en) 2015-01-29 2017-10-24 Ricoh Company, Ltd. Image processing apparatus, image capturing apparatus, and storage medium storing image processing program

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5746937B2 (ja) * 2011-09-01 2015-07-08 ルネサスエレクトロニクス株式会社 オブジェクト追跡装置
JP6516544B2 (ja) * 2015-04-22 2019-05-22 キヤノン株式会社 制御装置、光学機器、撮像装置および制御方法
CN105573016B (zh) * 2015-12-21 2019-01-18 浙江大学 一种自动对焦窗口调整方法及系统
WO2018018378A1 (zh) * 2016-07-25 2018-02-01 深圳市大疆创新科技有限公司 控制移动物体移动的方法、装置和系统
US11010646B2 (en) * 2018-04-10 2021-05-18 Facebook Technologies, Llc Object tracking assisted with hand or eye tracking
US20230262322A1 (en) 2020-10-22 2023-08-17 Qualcomm Incorporated Mechanism for improving image capture operations

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0730801A (ja) * 1993-10-12 1995-01-31 Canon Inc 自動焦点調節装置
JP2000101902A (ja) * 1998-09-18 2000-04-07 Toshiba Corp 監視カメラ制御装置
JP2006276948A (ja) * 2005-03-28 2006-10-12 Seiko Epson Corp 画像処理装置、画像処理方法、画像処理プログラムおよび画像処理プログラムを記憶した記録媒体
JP2007129480A (ja) * 2005-11-02 2007-05-24 Omron Corp 撮像装置
JP2008113423A (ja) * 2006-10-03 2008-05-15 Nikon Corp 追尾装置、撮像装置、および追尾方法
JP2009017155A (ja) * 2007-07-04 2009-01-22 Nikon Corp 画像認識装置、焦点調節装置および撮像装置
JP2009268086A (ja) * 2008-03-31 2009-11-12 Panasonic Corp 撮像装置

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08249450A (ja) * 1995-03-14 1996-09-27 Fujitsu Ltd 画像追跡装置
KR100470931B1 (ko) 2001-12-05 2005-02-22 가부시키가이샤 히다치 고쿠사이 덴키 템플레이트 매칭을 이용한 물체추적방법 및 장치
JP2003235035A (ja) * 2001-12-05 2003-08-22 Hitachi Kokusai Electric Inc 物体検出方法及びそれを用いた物体検出装置並びに物体追跡方法及びそれを用いた物体追跡装置
JP3973462B2 (ja) 2002-03-18 2007-09-12 富士フイルム株式会社 画像撮影方法
JP2007017401A (ja) 2005-07-11 2007-01-25 Central Res Inst Of Electric Power Ind 立体画像情報取得方法並びに装置
JP2007094536A (ja) 2005-09-27 2007-04-12 Konica Minolta Holdings Inc 対象物追跡装置及び対象物追跡方法
JP4837365B2 (ja) 2005-11-16 2011-12-14 オリンパス株式会社 画像処理システム、画像処理プログラム
JP4866227B2 (ja) 2006-12-15 2012-02-01 日本放送協会 自動追尾撮影装置
JP2009010453A (ja) 2007-06-26 2009-01-15 Sony Corp 画像処理装置および方法、並びにプログラム
JP5141317B2 (ja) 2008-03-14 2013-02-13 オムロン株式会社 対象画像検出デバイス、制御プログラム、および該プログラムを記録した記録媒体、ならびに対象画像検出デバイスを備えた電子機器
JP2009246700A (ja) * 2008-03-31 2009-10-22 Panasonic Corp 撮像装置
CN101833749B (zh) * 2009-03-12 2012-03-28 株式会社理光 检测图像中阴影的装置和方法

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0730801A (ja) * 1993-10-12 1995-01-31 Canon Inc 自動焦点調節装置
JP2000101902A (ja) * 1998-09-18 2000-04-07 Toshiba Corp 監視カメラ制御装置
JP2006276948A (ja) * 2005-03-28 2006-10-12 Seiko Epson Corp 画像処理装置、画像処理方法、画像処理プログラムおよび画像処理プログラムを記憶した記録媒体
JP2007129480A (ja) * 2005-11-02 2007-05-24 Omron Corp 撮像装置
JP2008113423A (ja) * 2006-10-03 2008-05-15 Nikon Corp 追尾装置、撮像装置、および追尾方法
JP2009017155A (ja) * 2007-07-04 2009-01-22 Nikon Corp 画像認識装置、焦点調節装置および撮像装置
JP2009268086A (ja) * 2008-03-31 2009-11-12 Panasonic Corp 撮像装置

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9057932B2 (en) 2010-05-14 2015-06-16 Ricoh Company, Ltd. Imaging apparatus, image processing method, and recording medium for recording program thereon
US9336606B2 (en) 2011-02-03 2016-05-10 Ricoh Company, Ltd. Image capturing apparatus, image capturing method, and computer program product
US9800777B2 (en) 2015-01-29 2017-10-24 Ricoh Company, Ltd. Image processing apparatus, image capturing apparatus, and storage medium storing image processing program

Also Published As

Publication number Publication date
EP2537331A4 (en) 2013-08-14
CN102763405A (zh) 2012-10-31
EP2537331A1 (en) 2012-12-26
WO2011102495A1 (en) 2011-08-25
US20120293665A1 (en) 2012-11-22
KR20120131178A (ko) 2012-12-04
EP2537331B1 (en) 2017-07-26
US9092877B2 (en) 2015-07-28

Similar Documents

Publication Publication Date Title
JP2011193443A (ja) 物体追尾装置
KR101455018B1 (ko) 촬상 장치, 촬상 방법, 및 컴퓨터 판독 가능한 기록 매체
US8023000B2 (en) Image pickup apparatus, image processing apparatus, image pickup method, and image processing method
JP4735742B2 (ja) 撮像装置、ストロボ画像生成方法、および、プログラム
JP5589548B2 (ja) 撮像装置、画像処理方法、及びプログラム記憶媒体
JP4539597B2 (ja) 画像処理装置、画像処理方法および撮像装置
JP5453573B2 (ja) 撮像装置、撮像方法およびプログラム
WO2012132486A1 (ja) 撮像装置、撮像方法、プログラム、及びプログラム記憶媒体
JP2009193421A (ja) 画像処理装置、カメラ装置、画像処理方法、およびプログラム
WO2013084593A1 (ja) 画像処理装置、画像処理方法、プログラム
JP2007124398A (ja) 撮影装置
JP2016140030A (ja) 画像処理装置、撮像装置、及び画像処理プログラム
JP2018107526A (ja) 画像処理装置、撮像装置、画像処理方法およびコンピュータのプログラム
US8421874B2 (en) Image processing apparatus
JP2009053448A (ja) 電子カメラ
JP2012073997A (ja) 物体追尾装置、物体追尾方法およびそのプログラム
JP2009111716A (ja) 撮像装置、プログラムおよびテンプレート生成方法
JP2010279054A (ja) 撮像装置、画像処理装置、撮像方法、及び画像処理方法
JP2011066827A (ja) 画像処理装置、画像処理方法及びプログラム
JP6172973B2 (ja) 画像処理装置
JP2017098843A (ja) 撮像装置、物体追尾方法、及びプログラム
JP4936799B2 (ja) 電子カメラ
KR20180028962A (ko) 영상이동검출장치 및 방법
JP7020387B2 (ja) 撮像制御装置、撮像装置及び撮像制御プログラム
JP2010028370A (ja) 撮像装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20131202

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20140722

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140729

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140929

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20150106