Nothing Special   »   [go: up one dir, main page]

JP5538667B2 - 位置姿勢計測装置及びその制御方法 - Google Patents

位置姿勢計測装置及びその制御方法 Download PDF

Info

Publication number
JP5538667B2
JP5538667B2 JP2007117563A JP2007117563A JP5538667B2 JP 5538667 B2 JP5538667 B2 JP 5538667B2 JP 2007117563 A JP2007117563 A JP 2007117563A JP 2007117563 A JP2007117563 A JP 2007117563A JP 5538667 B2 JP5538667 B2 JP 5538667B2
Authority
JP
Japan
Prior art keywords
orientation
geometric feature
captured image
projection
projected
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2007117563A
Other languages
English (en)
Other versions
JP2008275391A5 (ja
JP2008275391A (ja
Inventor
一彦 小林
晋二 内山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2007117563A priority Critical patent/JP5538667B2/ja
Priority to US12/108,078 priority patent/US8326021B2/en
Priority to EP08155173A priority patent/EP1986154A1/en
Priority to CN2008100934720A priority patent/CN101294793B/zh
Publication of JP2008275391A publication Critical patent/JP2008275391A/ja
Publication of JP2008275391A5 publication Critical patent/JP2008275391A5/ja
Priority to US13/672,158 priority patent/US8639025B2/en
Application granted granted Critical
Publication of JP5538667B2 publication Critical patent/JP5538667B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/14Measuring arrangements characterised by the use of optical techniques for measuring distance or clearance between spaced objects or spaced apertures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/30Determination of transform parameters for the alignment of images, i.e. image registration
    • G06T7/33Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/64Three-dimensional objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30244Camera pose

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)

Description

本発明は、計測対象物体のモデルを用いて、撮像装置が計測対象物体を撮像した時の撮像装置の位置姿勢を計測する位置姿勢計測技術に関する。
現実空間を撮像するカメラなどの撮像装置(以下適宜カメラと言い換える)の位置姿勢計測は、例えば現実空間と仮想空間とを融合表示する複合現実感システムにおいて必要となる。
従来から撮像装置の位置姿勢を計測する方法として、3次元位置が既知の指標を用いる方法が知られている。この方法では、撮像装置のおおよその位置姿勢を用いて各指標の3次元位置を撮像面へ投影した投影位置と、撮像画像から検出される指標の撮像画像上の位置との距離を誤差として、この誤差を小さくする目的関数を最適化するように位置姿勢を推定する。また、指標としては、予め検出が容易な幾何学的または色相が特異な特徴を有するものを利用することが多い。
さらに、計測対象物体の構造を利用して、計測対象物体を構成する平面の境界をエッジとして観察し、計測対象物体のモデルを用いて位置姿勢を計測する方法が開示されている。なお、ここでは撮像画像により観察される濃度の変化が大きい領域をエッジと呼称する。
非特許文献1には、計測対象物体の幾何特徴として線分(計測線分という)を用いて位置姿勢を推定する方法が記載されている。この方法では、計測線分の3次元位置をおおよその撮像装置の位置姿勢から観察される撮像面上に投影し、投影した計測線分と撮像画像から検出されたエッジとの距離を目的関数として位置姿勢を推定する。
この手法の概略は以下のとおりである。
・おおよその推定中の位置姿勢を用いて、計測対象物体の計測線分を撮像画像上に投影する。
・投影した計測線分周辺の撮像画像上の画素を探索して濃度が局所的に変化するエッジ領域の位置を求める。
・エッジ領域の位置と投影した計測線分との距離を小さくするように最適化する。
・推定中の位置姿勢の値を更新する。
このような、計測対象物体の計測線分を用いる位置姿勢推定は、対象の3次元モデルが既知であれば位置姿勢計測装置の計測対象とすることができるので利用範囲が広い。さらに、上記の位置姿勢推定では、撮像画像上のエッジを探索する範囲が、計測線分が投影された周辺の画像のみとなる。そのため、撮像画像全体から画像処理によりエッジを検出してからモデルとの距離を求める方法に比べて、処理時間を短くできる利点がある。そのため、複合現実感における頭部位置推定などの実時間処理が必要な撮像装置の位置合わせで利用されている。
非特許文献1では、計測対象物体として比較的簡素な形態を有する計測対象物体を対象としており、撮像装置と計測対象物体との距離もそれほど変化しない。そのため、計測対象物体のモデルが視野内で僅かに姿勢変化している間では、観察されるエッジの変化も小さく位置姿勢の推定が可能となっている。
実際の環境では、計測対象物体の影などがエッジとして観察されることが多いため、位置姿勢の推定が不安定になることが多い。非特許文献2では、複数の観察されたエッジから、対応する線分のエッジの一つを対応づけて、対応されたエッジと撮像面上へ投影された計測線分との距離を小さくするように最適化計算が行われる。非特許文献2によれば、上記の対応付けに関する想定を何度か繰り返して最も誤差が少なくなるように収束させることで、計測対象外のエッジが混在した環境でも頑健に位置姿勢の推定が行える。
Tom Drummond and Roberto Cipolla. "Real-time visual tracking of complexstructures." IEEE Transactionof Pattern Analysis and Machine Intelligence. Vol.24, No.7,pp.932-946, 2002 L. Vacchetti, V. Lepetit and P. Fua、"Combining edge and texture information forreal-time accurate 3D camera tracking." Proceedings of International Symposium on Mixed and AugmentedReality, pp.48-57, 2004
これまでに提案されている手法は、計測対象物体とそれを観察する撮像装置の相対位置関係がそれほど変化しない場合においてうまく動作する。しかし、撮像装置を人の動きに合わせる場合、例えば、ナビゲーションなどの目的で撮像装置自体を人が保持しながら移動する場合には、問題がある。それは、建物や屋外を歩き回る場合において、計測対象物体と撮像装置の相対位置が大きく変化することに起因する。
ここで例として、撮像装置を持った人が屋内の廊下を歩き回ったときの様子を図2に示す。図2の(a)から(d)は、歩行者の視点位置から観察される建物構造物のエッジである。図2の(1)から(4)は、屋内環境を上から俯瞰した図で、黒丸が歩行者の位置、それに付する三角形が歩行者の視線方向を示している。図2の(a)〜(d)のそれぞれの位置における俯瞰図は図2の(1)〜(4)に対応している。
図2の(a)における扉のエッジと、図2の(b)における扉のエッジでは、同一の扉という観測対象を見ているにもかかわらず、視点と対象物との相対位置の違いにより、観察できる画像幾何特徴の構成が変化している。さらに、図2の(c)、(d)は、歩いて来た方向を急に振り返るような動作を示している。その際、歩行者が観察している対象は、近接している扉のエッジから遠方まで伸びる廊下のエッジに急に変化することがわかる。このように、屋内・屋外の構造物を計測対象物体とし、撮像装置を持ち運ぶような利用形態において、図2に示すような視点変化は頻繁に起きる。
観測対象と撮像装置との相対位置が変化すると、計測対象物体の幾何特徴と撮像画像上への投影において問題が生じる。即ち、撮影装置との相対位置が遠い詳細な幾何特徴を観察した場合は、互いに近接する投影幾何特徴は投影画像上の間隔は狭くなり、場合によっては1画素未満に複数の幾何特徴が投影されてしまう場合もある。このような事態に対処するために、幾何特徴と撮像装置との相対位置関係に応じて幾何特徴を切り換えることも考えられるが、事前に幾何特徴と撮像装置との相対位置との関係を網羅的に設定しておくことが必要となる。
しかしながら、廊下などの見回すことができる環境においては、複数モデルの切換処理の遅延が課題となる。また、基本的には1画素未満の線分を撮像画像から検出することは困難である。そのため、近接する幾何特徴が遠方に存在するときには、撮像画像におけるそれぞれの投影幾何特徴から、双方の画像幾何特徴を検出することができなくなり、位置姿勢の推定結果に影響を与える。同時に、近接する投影幾何特徴から求まる画像幾何特徴の探索領域が重複するため、効率的な処理の実現が困難になる。
さらに、位置姿勢を求めるための最適化計算において非線形性を有する計算を繰り返し処理しなくてはならない。そのため、画像幾何特徴検出などの処理に費やされる時間が長くなると、十分な精度に至る前に繰り返しが中断されることになる。これらは、位置姿勢の精度とビデオフレームレートでのリアルタイム処理が必要な複合現実感技術においては好ましくない。
本発明は上記の課題に鑑みてなされたものであり、撮像装置と計測対象物体との相対位置に影響されることなく効率的に撮像装置の位置姿勢を求めることが可能な位置計測装置及び方法を提供することを目的とする。
上記の目的を達成するための本発明の一態様による位置姿勢計測装置は以下の構成を備える。すなわち、
一つ以上の計測対象物体を撮像する撮像装置と前記計測対象物体との間の相対的な位置姿勢を、前記計測対象物体の3次元モデルを利用して計測する位置姿勢計測装置であって、
前記撮像装置により撮像画像を取得する画像取得手段と、
前記撮像装置の位置姿勢に基づいて、前記3次元モデルにおける複数の幾何特徴の夫々を前記撮像画像上に投影して、前記撮像画像上に複数の投影幾何特徴を得る投影手段と、
前記撮像画像上の投影幾何特徴の相互の距離が所定の距離よりも大きい投影幾何特徴を、前記投影手段で得られた前記複数の投影幾何特徴から位置姿勢の算出に利用すべき投影幾何特徴として選択する選択手段と、
前記選択手段により選択された投影幾何特徴と、前記撮像画像上から検出される前記選択された投影幾何特徴に対応する画像幾何特徴とを用いて、前記撮像装置と該計測対象物体との間の相対的な位置姿勢を算出する算出手段とを備える。
また、上記の目的を達成するための本発明の他の態様による位置姿勢計測装置の制御方法は、
一つ以上の計測対象物体を撮像する撮像装置と前記計測対象物体との間の相対的な位置姿勢を、前記計測対象物体の3次元モデルを利用して計測する位置姿勢計測装置の制御方法であって、
前記位置姿勢計測装置の画像取得手段が、前記撮像装置から撮像画像を取得する画像取得工程と、
前記位置姿勢計測装置の投影手段が、前記撮像装置の位置姿勢に基づいて、前記3次元モデルにおける複数の幾何特徴の夫々を前記撮像画像上に投影して、前記撮像画像上に複数の投影幾何特徴を得る投影工程と、
前記位置姿勢計測装置の選択手段が、前記撮像画像上の投影幾何特徴の相互の距離が所定の距離よりも大きい投影幾何特徴を、前記投影工程で得られた前記複数の投影幾何特徴から位置姿勢の算出に利用すべき投影幾何特徴として選択する選択工程と、
前記位置姿勢計測装置の選択手段が、前記投影工程で得られた前記投影幾何特徴の夫々に関して、他の投影幾何特徴との間の前記撮像画像上の距離に基づいて投影幾何特徴を選択する選択工程と、
前記位置姿勢計測装置の算出手段が、前記選択工程で選択された投影幾何特徴と、前記撮像画像上から検出される前記選択された投影幾何特徴に対応する画像幾何特徴とを用いて、前記撮像装置と該計測対象物体との間の相対的な位置姿勢を算出する算出工程とを有する。
本発明によれば、撮像装置と計測対象物体との相対位置に影響されることなく効率的に撮像装置の位置姿勢を求めることができる。
以下添付図面を参照して、本発明の好適な実施形態について詳細に説明する。
[第1実施形態]
図1は、第1実施形態による位置姿勢計測装置100を撮像装置50に適用した場合の構成例を示すブロック図である。図1では、位置姿勢計測装置100における処理の流れやデータの流れも示されている。なお、以下に示される位置姿勢計測装置100の各構成の一部或いは全てが、不図示のCPUが不図示のROM或いはRAMに格納された制御プログラムを実行することにより実現されてもよい。即ち、位置姿勢計測装置100は一般的なコンピュータにおいて後述する処理を実行させる制御プログラムを実行させることにより実現されても良い。
本実施形態の位置姿勢計測装置100には、情景を撮像する撮像装置50と、撮像装置50のおおよその位置姿勢を取得する概略位置姿勢計測装置70とが、撮像装置入力部110及び概略位置姿勢入力部130を介して接続されている。また、計測対象物体の位置合わせに用いる幾何特徴を記述した、計測対象物体の3次元モデル60が幾何特徴入力部120から取得される。幾何特徴入力部120は、装着された記憶媒体から3次元モデル60を入力する(読み出す)構成でも良いし、ネットワーク等により外部から3次元モデル60を入力する構成でも良い。位置姿勢計測装置100の目的は、撮像装置50が計測対象物体の3次元モデル60に記述された計測対象物体を含む情景を撮像している時の、撮像装置50の計測対象物体に対する相対的な位置姿勢を撮像画像の情報を用いて求めることである。
なお、本実施形態において、位置姿勢計測装置100による位置姿勢推定処理を適用できる条件は、撮像装置50が撮像した情景の撮像画像中に当該計測対象物体が映っていることである。なお、撮像画像に当該計測対象物体が映されていない場合は、概略位置姿勢計測装置70の計測値をそのまま利用するようにしても構わない。
撮像装置50はCCDやCMOSで構成される光電子変換素子を用いた2次元の撮像装置である。また、撮像装置50は、撮像装置入力部110を介して位置姿勢計測装置100に映像信号を送る。撮像装置入力部110は、信号ケーブル(有線)或いは無線により映像信号を送信可能とする構成を有する。さらに、撮像装置50が位置姿勢計測装置100に内蔵される形態であってもよいし、撮像装置50の処理部に位置姿勢計測装置100の処理を実現する構成が内蔵さる形態であってもよい。
計測対象物体の3次元モデル60は、計測対象物体の3次元の幾何的な情報を有するモデルであり、撮像装置50により撮像された画像上でエッジとして検出される幾何特徴を含む。一般には、CAD等の設計データを3次元モデル60として流用することが可能である。また、設計データを用いずに、計測器で実測した値を3次元モデルとして入力可能に構成することもできる。なお、3次元モデルの編集には、市販の3次元計測アプリケーションを用いればよい。さらに、建築物中のドアや壁面のエッジは測量器具により計測することも可能である。本実施形態においては、位置姿勢計測装置100が対象とする計測対象物体を変更できるようにするために、位置姿勢計測装置100に着脱可能な記憶媒体により提供されるものとする。従って、位置姿勢計測装置100の幾何特徴入力部120は着脱可能な記憶媒体のデータを読み出せるインターフェースを具備する。
一方、既存の固定した計測対象物体を扱う場合は、位置姿勢計測装置100に3次元モデルの情報が不揮発メモリや記憶媒体により内蔵されていても構わない。つまり、位置姿勢計測装置100においては、計測対象物体の3次元モデル60が位置姿勢計測を実施する前に何らかの方法で提供されていればよい。そのため、外部記憶媒体により保存された複数の3次元モデルデータから指定されたものでも良いし、ネットワークによりリモートサーバから取得されたものであっても構わない。
さらに、位置姿勢計測装置100が撮像画像により検出が可能な幾何特徴データを含んでいれば良いので、任意の3次元モデラーのデータフォーマットを変換する処理部を位置姿勢計測装置100に含む構成としても良い。
概略位置姿勢計測装置70は、撮像装置50のおおよその位置姿勢を与えるための装置である。磁界或いは超音波を利用してセンサの空間中の位置・姿勢である6DOFを計測する装置を用いることができる。なお、既知の位置に設置した図形的な特徴を有する指標を利用して、撮像画像上からその指標を検出することによって得られる撮像装置50の概略位置姿勢を利用しても構わない。
また、撮像装置50と計測対象物体との間のおおよその相対位置姿勢がわかれば良いので、一度、位置姿勢計測装置100により精度の高い位置姿勢を求めることができれば、以降は、その位置姿勢結果を利用することが可能となる。従って、実際には、予め既定した初期位置に撮像装置50を置いてから位置姿勢計測を開始する場合には、概略位置姿勢計測装置70を不要とすることができる。このように、概略位置姿勢を求める方法自体は、本発明の実施に制限を与えるものでは無く、どのような方法により取得しても良い。
次に、位置姿勢計測装置100の構成について説明する。
位置姿勢計測装置100は、他の装置からの情報を入力する入力部、入力部からの情報を元に撮像装置と計測対象物体との相対的な位置姿勢を推定する処理部、撮像装置の位置姿勢を他の装置で利用できるように出力する出力部とで構成されている。以下、入力部を構成する撮像装置入力部110、幾何特徴入力部120、そして概略位置姿勢入力部130について説明する。
まず、撮像装置50の撮像画像を取得する構成について説明する。撮像装置50は、撮像装置入力部110により位置姿勢計測装置100と接続される。本実施形態では、撮像装置入力部110は映像信号を入力するためのコネクタを有し、映像信号の出力規格に準拠した撮像装置50の映像出力端子を接続するものとする。
次に、計測対象物体の3次元モデル60の読み込みについて説明する。3次元モデル60の形式は、位置姿勢計測装置100がサポートする形式であることを前提とする。なお、設計CADデータを扱う場合は、幾何特徴入力部120において対応するCADフォーマットの解析機能を有することで、任意のモデルデータを取り扱うことも可能となる。各モデル形式から、本装置の位置姿勢推定に利用する計測対象物体が撮像画像上で検出される画像幾何特徴に対応したものを抽出し、保持するものとする。すなわち、幾何特徴入力部120は、概略位置姿勢計測装置70からの撮像装置50の位置姿勢に基づいて撮像画像上に存在する計測対象物体のモデルを選択し、保持する。
本実施形態においては、幾何特徴は1本以上の線分で構成され、各線分の3次元の始点および終点の2点を少なくとも含んでいるものとする。なお、後述するように、始点、終点のいずれかはクリッピングにより生成されたものでも良い。線分を構成する各点の座標は、各幾何特徴に設定されているモデル座標系での表現であれば、それを実際の空間の尺度に拡大するときの倍率およびモデル座標系の位置姿勢を参照することで実際の空間に対応させることができる。
次に、概略位置姿勢計測装置70からの概略位置姿勢の取得について説明する。概略位置姿勢計測装置70は、撮像装置50と動きを供にするセンサの情報から、撮像装置のおおよその位置姿勢を計測するものとする。本実施形態では、概略位置姿勢計測装置70の情報をシリアル通信に取得するものとする。概略位置姿勢入力部130は、センサが設置された撮像装置50のおおよその位置姿勢を、概略位置姿勢計測装置70からシリアル通信で取得する。さらに、概略位置姿勢入力部130或いは概略位置姿勢計測装置70において、適当なセンサのオフセット調整を実施しても構わない。
次に、本実施形態である位置姿勢計測装置100の位置姿勢推定の処理について説明する。
画像取得部200は、撮像装置入力部110を経由して伝送される撮像装置50の映像信号を水平同期信号、垂直同期信号を参照して、撮像画像としてサンプリングし、2次元の画像データとしての撮像画像を保持する。ここで、位置姿勢計測装置100の各部の処理は、撮像装置50の撮像タイミングと同期して処理が行われるものとする。撮像タイミングの確認には、撮像装置50から出力される映像同期信号を用いれば良い。また、撮像装置50で使用する光学素子は歪みが少ないものが望ましいが、歪みがある光学素子を利用する場合は、事前にレンズの歪みを校正しておき、それを利用して補正すれば良い。より具体的には画像取得部200には、使用するレンズの歪みを数式モデルで近似したパラメータを保持しておき、別の処理部から撮像画像の画素濃度を参照するようにする。これにより、レンズ歪みの補正式により補正された画素位置での濃度を参照するようにしておけば、近似できる歪みの範囲においては撮像した画像中のエッジの直線性も維持することが可能となる。
次に、本実施形態の位置姿勢計測装置100における幾何特徴投影部300の処理について説明する。ここで幾何特徴は、始点と終点の2点で構成されているものとする。さらに、幾何特徴の座標系は、基準座標系での表現に変換されているものとする。
基準座標系の点の座標[xwwwTとカメラ座標系における撮像画像上の座標[uxyTとは、透視投影変換の行列Pにより以下のような関係がある。
Figure 0005538667
ここで、hは同次座標変換の表現として、求めたhを用いて[uxyTを計算する。また、R11,R12,R13, R21, R22, R23,R31, R32,R33を要素とする行列R(3x3行列)を基準座標系における姿勢の回転行列、t=[txyz]を平行移動ベクトルとすると上式のPは以下のように表せる。
Figure 0005538667
ここで、fx、fyは水平・垂直方向の焦点距離であり、px、pyは撮像画像面における水平、垂直方向の主点座標とする。
撮像装置50で使われている光学素子の歪みに関するパラメータが事前に校正済みであるとすると、上式のパラメータの内、fx、fyおよびpx、pyは既知となる。さらに、カメラの姿勢成分であるRは、9つの成分を持っているが、実際には3つの独立なベクトル周りの回転による表現を用いれば良い。そこで、回転軸回転角を3変数で表現する方法によって、回転変換を表現する。つまり、任意の回転軸のベクトルを、
Figure 0005538667
とし、回転角をraとすると、回転行列Rの表現は以下のようになる。
Figure 0005538667
なお、回転軸に関してはrx 2+ry 2+rz 2=1の条件で、姿勢をωとすると、
Figure 0005538667
となる。
幾何特徴の始点・終点に対して、透視投影変換を行いカメラ座標系における撮像画像上の点に変換することができる。
実際には、撮像画像は光学素子を通してCCDまたはCMOSなどの撮像素子に結像した光をサンプリングしたものである。そのため、撮像素子の範囲は既定されている。透視投影変換の計算の結果、撮像画像領域に始点もしくは終点が含まれる幾何特徴のみを幾何特徴投影部300では保持する。幾何特徴の始点、終点のどちらか1つのみが撮像画像領域にある場合は、当該線分と撮像画像領域の境界との交点をあらたな始点もしくは終点とする。このような処理は、コンピュータグラフィックスにおいてはクリッピング処理と呼ばれ、一般的な処理である。
さらに、投影幾何特徴が実際の環境では別の物体に隠蔽されて観察できない位置に存在する場合がある。その場合は、非特許文献1に述べられているように、複数の幾何特徴で構成される3次元モデルの面の情報を用いて、投影幾何特徴が観察できるかどうかを判別することができる。
次に、投影幾何特徴選択部400について説明する。投影幾何特徴選択部400は、幾何特徴投影部300により投影された夫々の幾何特徴について、幾何特徴間の画面上(撮像画像上)の距離に基づき、位置姿勢の算出に使用するか否かを決定する処理を行う。
まず、投影幾何特徴選択部400は、投影幾何特徴の撮像画像上の距離を求める。i番目の投影幾何特徴について説明する。i番目の投影幾何特徴は、その始点をPs(i)=[xsi ysi]Tとし、終点を Pe(i)=[xei yei]Tとする。投影幾何特徴の撮像画像上の距離Diは、以下により算出される。
Figure 0005538667
この距離Diが、既定のしきい値よりD’より短い場合には、当該投影幾何特徴は以降のエッジとの距離を求める処理には使わないと決定する。一方、D’以上の長さを有している場合は、当該投影幾何特徴は、引き続きエッジとの距離による位置姿勢推定の処理で利用されるものとする。
なお、位置姿勢が僅かに変化する場合においては、ほぼ同じ投影長さとなるので、位置姿勢推定の繰り返し処理時には距離Diの値をキャッシュしておくことで効率的な処理が行える。
更に本実施形態においては、該投影幾何特徴と他の投影幾何特徴との相互の距離を利用して、該投影幾何特徴を使用するか否かを決定する。本実施形態では、投影変換済みの投影幾何特徴のi番目の投影幾何特徴の始点Ps(i)および終点Pe(i)に対して、i−1番目までに処理された投影幾何特徴のうちで、使用することが決定している投影幾何特徴の始点および終点との距離を求める。なお、i番目の投影幾何特徴の始点Ps(i)及び終点Pe(i)はそれぞれ、Ps(i)=[xsi ysi]T、Pe(i)=[xei yei]Tである。そして、最も短い距離と既定のしきい値との比較を行い、しきい値より小さいものは使わないように決定する。
以上の処理により投影画像上で平行に隣接する投影幾何特徴のうち、既に使用することが決定している線分と近接している、もしくはD’以下の長さを有していると判定された線分は使用されなくなる。これらの選択処理を行うことで、後述の画撮像画像からのエッジ探索で行われる画像領域への値参照回数が削減され、効率的な処理が行える。また、近接する投影幾何特徴のエッジ探索領域の重複を利用することで、撮像装置と計測対象物体との位置関係の変化による観察されるエッジの変化に対しても動的に処理することができる。また、D’以下の長さを有していると判定された線分を使用しないことにより、線分の方向を決定するのに十分な情報が得られないような線分を計算対象から除外できる。
次に、投影幾何特徴探索設定部500は、幾何特徴投影部300により透視投影変換された投影幾何特徴のうち、投影幾何特徴選択部400により使用すると決定された投影幾何特徴に対して、撮像画像上のエッジ探索を行う点を計算する。以下、図3を参照して投影幾何特徴探索設定部500による画像幾何特徴の探索開始点、探索対応点(探索終了点)の設定を説明する。
図3において、i番目の投影幾何特徴301(本例では、投影計測線分)について説明する。i番目の投影幾何特徴301は、その始点をPs(i)=[xsi ysi]Tとし、終点をPe(i)=[xeiyei]Tとする。Ps(i)とPe(i)を結ぶベクトルviは、
Figure 0005538667
となり、その正規化ベクトルは、
Figure 0005538667
となる。
次に、Ps(i)とPe(i)の線分上に等間隔な探索開始点c(i,m)を設定する。ここで、mの範囲は0からMiとし、予め既定されている探索線分間隔Bを用いてMiを次式のように求める。
Figure 0005538667
上式において、[ ](ガウス記号)は、ある値を越えない最大の整数値を表すものとする。得られたMiを用いて、実際の探索間隔biは、
Figure 0005538667
となる。すると、探索開始点c(i,m)は、
Figure 0005538667
となる。
各探索開始点c(i,m)から投影計測線分に垂直な方向へ撮像画像上のエッジを探索する。その探索範囲は、各探索開始点c(i,m)から探索対応点s+ (i,m)およびs- (i,m)までの線分領域であり、この線分領域に沿って画像幾何特徴であるエッジが探索されるものとする。ここで、投影計測線分の正規化ベクトル、
Figure 0005538667
の垂直ベクトルを、
Figure 0005538667
とすると、
Figure 0005538667
という関係がある。以下、上記の垂直ベクトルを「正規化垂直ベクトルv⊥i」とも記載する。
探索対応点と探索開始点までの距離をdとすると、探索対応点s+ (i,m)の位置は、
Figure 0005538667
となり、反対側の探索対応点s- (i,m)は、
Figure 0005538667
となる。
なお、ここでは、正規化垂直ベクトルv⊥iの方向を投影幾何特徴に対して垂直に設定したが、その探索方向については投影幾何特徴の近傍の画像幾何特徴が探索できる方向を設定できさえすれば良い。
具体的には、正規化垂直ベクトルv⊥iを上、下、左、右の4方向もしくは、それに右上、右下、左上、左下を加えた8方向に量子化したベクトルを使っても構わない。正規化垂直ベクトルv⊥iとの差が小さい量子化ベクトル方向を選択することにより、画像幾何特徴の探索を効率的に処理できる。
さらに、幾何特徴の探索方向を事前に3次元モデルに記述しておき、探索方向を透視投影変換したベクトルを用いても構わない。
画像幾何特徴探索部600は、画像取得部200から得られる撮像画像上の、投影幾何特徴探索設定部500により設定された探索開始点から探索対応点までの画素の濃度に基づいて画像幾何特徴を検出する。例えば、読み取った隣接する画素の濃度の濃度勾配が大きい点(所定の閾値以上の点)を検出し、そのときの注目画素の位置を画像幾何特徴検出位置として保持する。
さらに、画像取得部200により画像が取得された時間からの経過時間を参照し、その経過時間が既定された値を越えたかどうかを判別し、越えた場合は検出処理を中断するようにすることも全体の処理を効率化する上で有効である。
位置姿勢算出部700は、画像幾何特徴探索部600により検出された撮像画像上の画像幾何特徴の位置と、それに対応する計測対象物体の投影計測線分の位置との距離に基づいて、計測対象物体と撮像装置との相対的な位置姿勢を算出し更新する。ここで、位置姿勢算出部700による撮像装置の位置姿勢の算出、更新処理について説明する。
推定している位置姿勢から観測されるであろう計測対象物体の幾何特徴の投影位置と、実際の撮像画像面上の画像幾何特徴の観測位置との差が小さくなるように最適化計算を行うことで求めることができる。本実施形態では、上述したように、幾何特徴として計測線分が用いられる。
ここでは、画像幾何特徴の観測位置と計測対象物体の幾何特徴の投影位置との距離を誤差として、これを誤差関数Eとする。誤差関数Eは、カメラの位置t=[txyzT、回転軸回転角による姿勢ω=[ωx ωy ωzT、観測対象点の基準座標系での位置xw=[xwwwTを入力とする関数とする。
投影位置をu’=[u’x u’yT、観測位置をu=[uxyTとすると、撮像画像上での誤差関数Eは、それらの差として表現され得る。
Figure 0005538667
一般に、位置姿勢および観測対象点の位置の関係は、非線形なので上式の誤差関数Eも入力に対して非線形関数となる。本実施形態では、投影幾何特徴として線分を用いているので、エッジ探索により検出された観測点u=[uxyTと、その点から投影線分へ垂線を下ろした交点を対応する投影点をu”=[u”x u”yTとする。そして、
Figure 0005538667
を誤差関数として用いる。
撮像装置の位置姿勢が僅かに変化する範囲において、上式を1次のテイラー展開を用いて線形近似すると以下のように表せる。
Figure 0005538667
E’0は、カメラの位置t0=[tx 0y 0z 0T、姿勢ω0=[ωx 0 ωy 0 ωz 0T、対象点座標xw 0=[xw 0w 0w 0T、観測位置u0=[ux 0y 0Tを代入したときの投影位置と観測位置の差、つまり誤差を示す。これにより、t00,x0の近傍において、線形化された式を用いてΔtx,Δty,Δtz,Δωx,Δωy,Δωz,Δxw,Δyw,Δzwを求め、t00,x0に補正値として加えることによって、誤差を少なくすることができる。
通常、方程式の数と変数の数は一致しないため、多数の参照点の情報を用いて最小二乗法によって補正値Δを求める。そこで、補正式Δについてまとめる。まず、各変数の偏微分をまとめた行列をJとし、補正ベクトルΔと誤差ベクトルE’は上式より、
Figure 0005538667
と書くことができる。Jの転置行列JTを左右に掛け合わせて、補正ベクトルΔの式としてまとめる以下のように表せる。
Figure 0005538667
補正ベクトルΔの値が小さくなるまで更新することで、精度の良い位置姿勢を求めることが可能となる。上述した方法は、Newton法による求解法を示しているが他の方法により最適化計算を行っても構わないことは明らかである。
尚、本実施形態においては、画像幾何特徴の位置と計測対象物体の幾何特徴を撮像画像上に投影した投影幾何特徴との観測画像上での距離を小さくすることができれば良いので、公知の非線形最適化手法を適用することができる。例えば、おおよその推定中の位置姿勢に対して、その各変数値の周辺に僅かな差を有するランダムな組み合わせを多数生成して、それぞれの組み合わせに対して誤差を求めて、誤差の値が小さい組み合わせを利用する方法でも同様な効果は得られる。
また、位置姿勢算出部700により処理された誤差が既定の値を下回ると、該当する撮像画像からの位置姿勢推定が終了したものとして、その結果を位置姿勢出力部140より出力する。誤差が既定の値より大きい場合は、更新された位置姿勢を幾何特徴投影部300に渡し、更新された位置姿勢を用いてエッジの探索結果による位置姿勢推定を行う。位置姿勢算出部700での更新回数が既定した値を越える場合は、位置姿勢の推定がうまくいかなかったことを意味する。その場合、本実施形態では、概略位置姿勢入力部130の値を位置姿勢出力部140に出力する。このような処理により、位置姿勢計測装置100は、精度の悪い概略位置姿勢であるが、継続して位置姿勢の算出結果を出力することができる。その際、位置姿勢がうまくいったかどうかを示す値も一緒に位置姿勢出力部140に出力するようにしてもよい。そのようにすれば、位置姿勢計測装置100の利用者が、出力された位置姿勢の計測値が高精度に補正されたものであるか否かを判断できるように構成することができる。例えば、複合現実感技術を利用するアプリケーションでは、位置姿勢の計測が継続して行われていることが前提となっているが、位置姿勢計測の処理がうまくいかなかったという情報をもとに、アプリケーションの処理を変更することが可能となる。
なお、位置姿勢の全6パラメータを求める場合について述べたが、他の手段で一部のパラメータを求め残りのパラメータを求める場合も同様に取り扱える。例えば、撮像装置が三脚に固定されている環境において姿勢を求める場合や、重力軸に対する傾斜を計測するセンサによる傾斜角度の計測値を利用して位置および方位の4パラメータを最適化する場合も同様に扱うことができる。
なお、上記の第1実施形態においては、幾何特徴として計測対象物体を構成する3次元モデルの線分を利用した例を示したが、実際には線分でなくても構わない。例えば、点や円や楕円などの幾何特徴であっても本発明は適用できる。
例えば、幾何特徴が点の場合においても、投影画像上における分布は撮像装置と計測対象物体の相対位置に応じて変化する。投影画像上に既に投影された点と、該幾何特徴の投影点の撮像画像上の距離が1画素未満である場合は、夫々の画像幾何特徴を分離して検出することが困難である。そのため、本実施形態における投影幾何特徴選択部400において、上述の実施形態と同様な処理を行うことで、課題を解決することができる。
以上のように、第1実施形態によれば、投影された幾何特徴の位置関係に基づいて、位置姿勢計算に利用すべき幾何特徴が適切に選択される。そのため、撮像装置と計測対象物体との相対位置に影響されることなく効率的に撮像装置の位置姿勢を求めることが可能となる。
[第2実施形態]
前述の第1実施形態においては、投影幾何特徴の位置に対応する撮像画像上での画像幾何特徴を探索し、それらの距離が小さくするように位置姿勢を推定する方法について述べた。撮像画像上の画像幾何特徴検出における線分検出では、画像処理にて一般的なSobelオペレータやCannyオペレータを用いることが可能である。ここでは、撮像画像から画像処理により検出された線分(適宜エッジと呼称する)をエッジ素と呼ぶ。
投影幾何特徴とエッジ素との対応は、概略位置姿勢が得られているとすると、投影幾何特徴の近傍のエッジ素のうち、長さ、方向などが類似するものを対応付けし、そのエッジ素との距離が小さくなるように位置姿勢を推定することができる。この場合も、幾何特徴について、撮像画像上での距離に応じて使用するか否かを決定することで、冗長な対応付け処理を省くことができる。
[第3実施形態]
計測対象物体が建物の構造全てを記述しているような膨大な線分を有する3次元モデルである場合、撮像装置50と計測対象物体との距離に応じて位置姿勢推定に必要な幾何特徴が大幅に変化する。そのため、効率的に処理を行わないとカメラの撮像間隔内に位置姿勢推定を実施することが難しくなる。実際には、位置姿勢の推定に必要な幾何特徴は、撮像画像上においてある程度の長さがあり、方向も様々なものがあったほうが良い。
そこで、位置姿勢推定に必要な幾何特徴の処理順序を考慮して処理することで、画像幾何特徴探索処理が中断したとしても位置姿勢推定に必要な幾何特徴の処理が済んでいるので位置姿勢精度を維持しながら、膨大な幾何特徴の処理を実施することが可能となる。
図4はモデルの処理順序を決める幾何特徴ソート手段を実現する幾何特徴ソート部を有する、第3実施形態の位置姿勢計測装置100の構成を示すブロック図である。なお、幾何特徴ソート部800以外の構成は、第1実施形態において説明しているので、ここでは、幾何特徴ソート部800の処理について述べる。
第3実施形態では、幾何特徴ソート部800は、幾何特徴が線分の場合には、撮像画像上における投影幾何特徴の長さを算出し、長い順にソート処理を行うものとする。また、幾何特徴として点とその周辺の画素分布を利用する場合は、画素分布を既定する分布値を用いてソート処理することができる。なお、ここでは、投影幾何特徴の長さについて述べるが、実際には位置姿勢推定の際に有効な画像幾何特徴検出が行える線分を優先的に処理できるようにソートしさえすれば、第3実施形態の効果を達成することができる。
例えば、撮像画像上での画像幾何特徴検出が容易な幾何特徴の優先度を高くしてソートする方法がある。初期化時に優先度を全て未検出の値に設定し、一度全ての投影幾何特徴の検出を行う。次に、撮像画像上の画像幾何検出を行った際の隣接間画素の濃度差を保持しておき、その濃度差をソートのキーとすることができる。また、視線方向が変わり観察される幾何特徴が異なれば、優先度が未検出に設定されている幾何特徴はエッジ探索処理まで行うようにすることで動的に変化する場合でも対応できる。また、幾何特徴投影部300におけるカメラ座標系への変換の際には、幾何特徴のカメラ視点位置からの奥行き方向も算出される。そこで、幾何特徴ソート部800が奥行き方向が視点に近いものからソートすることで、位置姿勢精度に影響の大きいエッジを先の処理することが可能となる。
また、幾何特徴ソート部800において既定する数の幾何特徴のソート結果を保持するテーブルを用意し、既定数を越えるソート結果は保持しないという方法を採用することも可能であり、これは、本発明の処理の効率化という点で有効である。
[第4実施形態]
次に、本実施形態である位置姿勢計測装置100を複合現実感に適用した例を示す。
図5は、第4実施形態による位置姿勢計測装置100を複合現実感技術による計測対象物体への仮想物体CGの重合へ適用したときの様子を示す模式図である。図5において、計測対象物体10は、既にその形状が既知の3次元の物体であるとする。曲面を有する構成面は、複数の面で構成されているものとする。また、計測対象物体の観察角度は特に既定していない。
撮像装置50で撮像した画像は、撮像装置入力部110より位置姿勢計測装置100へ入力される。また、画像を合成するためにクロマキー合成装置920の画像入力部921にも接続されている。位置姿勢計測装置100では、計測対象物体10の3次元モデル60が既に登録されているものとする。
撮像画像中に計測対象物体10が存在するときに、位置姿勢計測装置100は撮像装置50の位置姿勢測定結果を位置姿勢出力部140より出力する。CG描画装置910は、撮像装置50の位置姿勢をCGの視点位置とするように構成された位置姿勢入力部911を有し、仮想物体をCG描画した画像をCG画像出力部912より出力する。ここでは、CG描画装置910は計測対象物体10の上に仮想物体である2つの円柱941を描画し、仮想物体CG画像940のような画像をCG画像出力部912より出力する。なお、仮想物体CG画像940の背景色はクロマキー合成装置920で設定したクロマキー対応色とする。
クロマキー合成装置920は、画像入力部921から撮像装置50の撮像画像を入力し、クロマキー対象画像入力部922から仮想物体CG画像940を取り込む。そして、クロマキー合成装置920は、クロマキー対応色とした領域を透明にした仮想物体CG画像940を撮像画像上に合成して、得られた合成画像930をクロマキー合成画像出力部923より出力する。以上の処理の結果、出力された合成画像930は、撮像した計測対象物体の上に仮想物体CGである円柱94が2つ描画されたものとなる。
例えば、第4実施形態において、実際の部品とCADで設計中の仮想部品を画面で観察し、部品と部品の干渉などを確認することが可能となる。また、合成画像930を頭部装着型ディスプレイ(HMD:Head Mount Display)を用いて観測することで、作業者による上記確認も容易になるので、好ましい。
その際、撮像装置と視線方向を同じ向きに設定していれば、頭部の位置姿勢と観察している現実空間を一致することができるため複合現実感による作業性の向上が期待できる。さらに、位置姿勢計測装置100とCG描画装置910とクロマキー合成装置920を同一の計算機上のプログラムで実現することも可能である。
[他の実施形態]
本発明の実施形態の一例として上述の構成例を説明したが、一般的にはカメラと本発明の処理手段を実施する装置があれば良い。例えば、本発明の処理構成を携帯電話や携帯型のコンピュータで実施するプログラムという形で処理を実行させても同じ効果が得られる。さらに、位置姿勢の計測結果を利用して、近隣の施設や場所に関する情報を呈示するような2次的なサービスを実施することも可能である。
以上、実施形態を詳述したが、本発明は、例えば、システム、装置、方法、プログラムもしくは記憶媒体等としての実施態様をとることが可能である。具体的には、複数の機器から構成されるシステムに適用しても良いし、また、一つの機器からなる装置に適用しても良い。
尚、本発明は、ソフトウェアのプログラムをシステム或いは装置に直接或いは遠隔から供給し、そのシステム或いは装置のコンピュータが該供給されたプログラムコードを読み出して実行することによって前述した実施形態の機能が達成される場合を含む。この場合、供給されるプログラムは実施形態で図に示したフローチャートに対応したプログラムである。
従って、本発明の機能処理をコンピュータで実現するために、該コンピュータにインストールされるプログラムコード自体も本発明を実現するものである。つまり、本発明は、本発明の機能処理を実現するためのコンピュータプログラム自体も含まれる。
その場合、プログラムの機能を有していれば、オブジェクトコード、インタプリタにより実行されるプログラム、OSに供給するスクリプトデータ等の形態であっても良い。
プログラムを供給するための、コンピュータ読み取り可能な記憶媒体としては以下が挙げられる。例えば、フロッピー(登録商標)ディスク、ハードディスク、光ディスク、光磁気ディスク、MO、CD−ROM、CD−R、CD−RW、磁気テープ、不揮発性のメモリカード、ROM、DVD(DVD−ROM,DVD−R)などである。
その他、プログラムの供給方法としては、クライアントコンピュータのブラウザを用いてインターネットのホームページに接続し、該ホームページから本発明のコンピュータプログラムをハードディスク等の記録媒体にダウンロードすることが挙げられる。この場合、ダウンロードされるプログラムは、圧縮され自動インストール機能を含むファイルであってもよい。また、本発明のプログラムを構成するプログラムコードを複数のファイルに分割し、それぞれのファイルを異なるホームページからダウンロードすることによっても実現可能である。つまり、本発明の機能処理をコンピュータで実現するためのプログラムファイルを複数のユーザに対してダウンロードさせるWWWサーバも、本発明に含まれるものである。
また、本発明のプログラムを暗号化してCD−ROM等の記憶媒体に格納してユーザに配布するという形態をとることもできる。この場合、所定の条件をクリアしたユーザに、インターネットを介してホームページから暗号を解く鍵情報をダウンロードさせ、その鍵情報を使用して暗号化されたプログラムを実行し、プログラムをコンピュータにインストールさせるようにもできる。
また、コンピュータが、読み出したプログラムを実行することによって、前述した実施形態の機能が実現される他、そのプログラムの指示に基づき、コンピュータ上で稼動しているOSなどとの協働で実施形態の機能が実現されてもよい。この場合、OSなどが、実際の処理の一部または全部を行ない、その処理によって前述した実施形態の機能が実現される。
さらに、記録媒体から読み出されたプログラムが、コンピュータに挿入された機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに書き込まれて前述の実施形態の機能の一部或いは全てが実現されてもよい。この場合、機能拡張ボードや機能拡張ユニットにプログラムが書き込まれた後、そのプログラムの指示に基づき、その機能拡張ボードや機能拡張ユニットに備わるCPUなどが実際の処理の一部または全部を行なう。
第1実施形態に係る位置姿勢計測装置の機能構成を示す図である。 視点の変化に伴い観察される画像幾何特徴の分布の違いを示した図である。 第1実施形態に係る位置姿勢計測装置における、投影幾何特徴としての線分における画像幾何探索領域の探索開始点および探索対応点を説明した図である。 本発明の一実施形態に係る位置姿勢計測装置の機能構成を示す図である。 本発明の一実施形態に係る位置姿勢計測装置を複合現実感利用に適用したときの構成を示す図である。

Claims (7)

  1. 一つ以上の計測対象物体を撮像する撮像装置と前記計測対象物体との間の相対的な位置姿勢を、前記計測対象物体の3次元モデルを利用して計測する位置姿勢計測装置であって、
    前記撮像装置により撮像画像を取得する画像取得手段と、
    前記撮像装置の位置姿勢に基づいて、前記3次元モデルにおける複数の幾何特徴の夫々を前記撮像画像上に投影して、前記撮像画像上に複数の投影幾何特徴を得る投影手段と、
    前記撮像画像上の投影幾何特徴の相互の距離が所定の距離よりも大きい投影幾何特徴を、前記投影手段で得られた前記複数の投影幾何特徴から位置姿勢の算出に利用すべき投影幾何特徴として選択する選択手段と、
    前記選択手段により選択された投影幾何特徴と、前記撮像画像上から検出される前記選択された投影幾何特徴に対応する画像幾何特徴とを用いて、前記撮像装置と該計測対象物体との間の相対的な位置姿勢を算出する算出手段とを備えることを特徴とする位置姿勢計測装置。
  2. 一つ以上の計測対象物体を撮像する撮像装置と前記計測対象物体との間の相対的な位置姿勢を、前記計測対象物体の3次元モデルを利用して計測する位置姿勢計測装置であって、
    前記撮像装置により撮像画像を取得する画像取得手段と、
    前記撮像装置の位置姿勢に基づいて、前記3次元モデルにおける複数の幾何特徴の夫々を前記撮像画像上に投影して、前記撮像画像上に複数の投影幾何特徴を得る投影手段と、
    前記撮像画像上の複数の投影幾何特徴の位置と状態に基づいて当該複数の投影幾何特徴のそれぞれの位置姿勢の算出への利用の適否を判断することにより、前記投影手段で得られた前記複数の投影幾何特徴より位置姿勢の算出に利用すべき投影幾何特徴を選択する選択手段と、
    前記選択手段により選択された投影幾何特徴と、前記撮像画像上から検出される前記選択された投影幾何特徴に対応する画像幾何特徴とを用いて、前記撮像装置と該計測対象物体との間の相対的な位置姿勢を算出する算出手段と、
    前記投影手段によって得られた前記計測対象物体の複数の投影幾何特徴について、前記選択手段によって選択されるか否かが決定される順序を設定する幾何特徴ソート手段とを備えることを特徴とする位置姿勢計測装置。
  3. 一つ以上の計測対象物体を撮像する撮像装置と前記計測対象物体との間の相対的な位置姿勢を、前記計測対象物体の3次元モデルを利用して計測する位置姿勢計測装置であって、
    前記撮像装置により撮像画像を取得する画像取得手段と、
    前記撮像装置の位置姿勢に基づいて、前記3次元モデルにおける複数の幾何特徴の夫々を前記撮像画像上に投影して、前記撮像画像上に複数の投影幾何特徴を得る投影手段と、
    前記撮像画像上の複数の投影幾何特徴の位置と状態に基づいて当該複数の投影幾何特徴のそれぞれの位置姿勢の算出への利用の適否を判断することにより、前記投影手段で得られた前記複数の投影幾何特徴より位置姿勢の算出に利用すべき投影幾何特徴を選択する選択手段と、
    前記選択手段により選択された投影幾何特徴と、前記撮像画像上から検出される前記選択された投影幾何特徴に対応する画像幾何特徴とを用いて、前記撮像装置と該計測対象物体との間の相対的な位置姿勢を算出する算出手段とを備え、
    前記投影幾何特徴は線分であり、
    前記選択手段は、前記撮像画像上における線分の長さが所定の長さよりも長い投影幾何特徴を位置姿勢の算出に利用すべき投影幾何特徴として選択することを特徴とする位置姿勢計測装置。
  4. 前記投影手段は、前記撮像画像上から検出することができる画像幾何特徴に対応する計測対象物体の3次元モデルを構成する線分を前記撮像画像に投影して投影幾何特徴を得ることを特徴とする請求項1乃至3のいずれか1項に記載の位置姿勢計測装置。
  5. 前記算出手段は、
    前記投影手段により得られた投影幾何特徴に対して、前記撮像画像上における1つ以上の点を設定し、各点における探索方向を求める設定手段と、
    前記設定手段により設定された点と探索方向に基づき、前記撮像画像上の画像幾何特徴を探索する探索手段とを有することを特徴とする請求項1乃至4のいずれか1項に記載の位置姿勢計測装置。
  6. 一つ以上の計測対象物体を撮像する撮像装置と前記計測対象物体との間の相対的な位置姿勢を、前記計測対象物体の3次元モデルを利用して計測する位置姿勢計測装置の制御方法であって、
    前記位置姿勢計測装置の画像取得手段が、前記撮像装置から撮像画像を取得する画像取得工程と、
    前記位置姿勢計測装置の投影手段が、前記撮像装置の位置姿勢に基づいて、前記3次元モデルにおける複数の幾何特徴の夫々を前記撮像画像上に投影して、前記撮像画像上に複数の投影幾何特徴を得る投影工程と、
    前記位置姿勢計測装置の選択手段が、前記撮像画像上の投影幾何特徴の相互の距離が所定の距離よりも大きい投影幾何特徴を、前記投影工程で得られた前記複数の投影幾何特徴から位置姿勢の算出に利用すべき投影幾何特徴として選択する選択工程と、
    前記位置姿勢計測装置の選択手段が、前記投影工程で得られた前記投影幾何特徴の夫々に関して、他の投影幾何特徴との間の前記撮像画像上の距離に基づいて投影幾何特徴を選択する選択工程と、
    前記位置姿勢計測装置の算出手段が、前記選択工程で選択された投影幾何特徴と、前記撮像画像上から検出される前記選択された投影幾何特徴に対応する画像幾何特徴とを用いて、前記撮像装置と該計測対象物体との間の相対的な位置姿勢を算出する算出工程とを有することを特徴とする位置姿勢計測装置の制御方法。
  7. コンピュータを、請求項1乃至請求項のいずれか1項に記載の位置姿勢計測装置の各手段として機能させるためのプログラム。
JP2007117563A 2007-04-26 2007-04-26 位置姿勢計測装置及びその制御方法 Active JP5538667B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2007117563A JP5538667B2 (ja) 2007-04-26 2007-04-26 位置姿勢計測装置及びその制御方法
US12/108,078 US8326021B2 (en) 2007-04-26 2008-04-23 Measurement apparatus and control method
EP08155173A EP1986154A1 (en) 2007-04-26 2008-04-25 Model-based camera pose estimation
CN2008100934720A CN101294793B (zh) 2007-04-26 2008-04-28 测量设备和控制方法
US13/672,158 US8639025B2 (en) 2007-04-26 2012-11-08 Measurement apparatus and control method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007117563A JP5538667B2 (ja) 2007-04-26 2007-04-26 位置姿勢計測装置及びその制御方法

Publications (3)

Publication Number Publication Date
JP2008275391A JP2008275391A (ja) 2008-11-13
JP2008275391A5 JP2008275391A5 (ja) 2010-06-17
JP5538667B2 true JP5538667B2 (ja) 2014-07-02

Family

ID=39637657

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007117563A Active JP5538667B2 (ja) 2007-04-26 2007-04-26 位置姿勢計測装置及びその制御方法

Country Status (4)

Country Link
US (2) US8326021B2 (ja)
EP (1) EP1986154A1 (ja)
JP (1) JP5538667B2 (ja)
CN (1) CN101294793B (ja)

Families Citing this family (52)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
MX2010003682A (es) 2007-10-04 2013-01-17 Sungevity Metodos y sistemas para aprovisionamiento de sistemas de energía.
JP4666060B2 (ja) * 2008-11-14 2011-04-06 富士ゼロックス株式会社 情報処理装置、情報処理システム及びプログラム
CN101609552B (zh) * 2009-03-30 2012-12-19 浙江工商大学 有限复杂背景下视频目标的特征检测方法
JP5290864B2 (ja) * 2009-05-18 2013-09-18 キヤノン株式会社 位置姿勢推定装置及び方法
JP5560600B2 (ja) * 2009-07-09 2014-07-30 株式会社島津製作所 ヘッドモーショントラッカ装置
JP5393318B2 (ja) * 2009-07-28 2014-01-22 キヤノン株式会社 位置姿勢計測方法及び装置
US9046355B2 (en) 2009-07-29 2015-06-02 Canon Kabushiki Kaisha Measuring apparatus, measuring method, and program
US8948524B2 (en) * 2009-10-29 2015-02-03 Hewlett-Packard Development Company, L.P. Joint image compression method and apparatus
JP2011175477A (ja) 2010-02-24 2011-09-08 Canon Inc 3次元計測装置、処理方法及びプログラム
JP5618569B2 (ja) * 2010-02-25 2014-11-05 キヤノン株式会社 位置姿勢推定装置及びその方法
JP5771981B2 (ja) * 2010-03-15 2015-09-02 株式会社リコー 描画画像共有装置、データ処理方法、プログラムおよび記録媒体
DE102010024054A1 (de) * 2010-06-16 2012-05-10 Fast Protect Ag Verfahren zum Zuordnen eines Videobilds der realen Welt zu einem dreidimensionalen Computermodell der realen Welt
JP5612916B2 (ja) * 2010-06-18 2014-10-22 キヤノン株式会社 位置姿勢計測装置、その処理方法、プログラム、ロボットシステム
JP5496008B2 (ja) * 2010-08-06 2014-05-21 キヤノン株式会社 位置姿勢計測装置、位置姿勢計測方法、およびプログラム
AU2011312140C1 (en) * 2010-10-07 2016-02-18 Sungevity Rapid 3D modeling
CN102447942A (zh) * 2010-10-09 2012-05-09 索尼公司 成像装置参数估计方法及应用它的方法、装置和系统
JP5839929B2 (ja) * 2010-11-19 2016-01-06 キヤノン株式会社 情報処理装置、情報処理システム、情報処理方法及びプログラム
CN102609550B (zh) * 2011-01-19 2015-11-25 鸿富锦精密工业(深圳)有限公司 产品三维模型自动摆正系统及方法
JP5781351B2 (ja) * 2011-03-30 2015-09-24 日本アビオニクス株式会社 撮像装置、その画素出力レベル補正方法、赤外線カメラシステム及び交換可能なレンズシステム
US20130010068A1 (en) * 2011-04-12 2013-01-10 Radiation Monitoring Devices, Inc. Augmented reality system
JP5778469B2 (ja) 2011-04-28 2015-09-16 日本アビオニクス株式会社 撮像装置、画像生成方法、赤外線カメラシステム及び交換可能なレンズシステム
CN102222333B (zh) * 2011-05-20 2013-01-02 同济大学 一种基于混合注册的地下工程移动增强现实方法及其装置
US8872852B2 (en) 2011-06-30 2014-10-28 International Business Machines Corporation Positional context determination with multi marker confidence ranking
US9595115B1 (en) * 2011-09-19 2017-03-14 Amazon Technologies, Inc. Visualizing change in augmented reality environments
JP5728399B2 (ja) * 2012-01-19 2015-06-03 株式会社東芝 計測装置、方法及びプログラム
CN103377300A (zh) * 2012-04-27 2013-10-30 鸿富锦精密工业(深圳)有限公司 探针校准路径模拟系统及方法
US20130342568A1 (en) * 2012-06-20 2013-12-26 Tony Ambrus Low light scene augmentation
US9025823B2 (en) * 2013-03-12 2015-05-05 Qualcomm Incorporated Tracking texture rich objects using rank order filtering
CA2902430C (en) 2013-03-15 2020-09-01 Uber Technologies, Inc. Methods, systems, and apparatus for multi-sensory stereo vision for robotics
JP2014185996A (ja) * 2013-03-25 2014-10-02 Toshiba Corp 計測装置
US10262462B2 (en) 2014-04-18 2019-04-16 Magic Leap, Inc. Systems and methods for augmented and virtual reality
US20150042789A1 (en) * 2013-08-07 2015-02-12 Blackberry Limited Determining the distance of an object to an electronic device
EP3047407A4 (en) 2013-08-29 2017-05-17 Sungevity, Inc. Improving designing and installation quoting for solar energy systems
JP6271953B2 (ja) * 2013-11-05 2018-01-31 キヤノン株式会社 画像処理装置、画像処理方法
US9747680B2 (en) 2013-11-27 2017-08-29 Industrial Technology Research Institute Inspection apparatus, method, and computer program product for machine vision inspection
US8976191B1 (en) 2014-03-13 2015-03-10 Qualcomm Incorporated Creating a realistic color for a virtual object in an augmented reality environment
JP6525271B2 (ja) * 2016-03-28 2019-06-05 国立研究開発法人農業・食品産業技術総合研究機構 残餌量測定装置および残餌量測定用プログラム
US9996936B2 (en) * 2016-05-20 2018-06-12 Qualcomm Incorporated Predictor-corrector based pose detection
CA3025312A1 (en) 2016-05-24 2017-11-30 Morphotrust Usa, Llc Shape detection
US10852913B2 (en) * 2016-06-21 2020-12-01 Samsung Electronics Co., Ltd. Remote hover touch system and method
US10967862B2 (en) 2017-11-07 2021-04-06 Uatc, Llc Road anomaly detection for autonomous vehicle
EP3528210A1 (en) * 2018-02-14 2019-08-21 Koninklijke Philips N.V. An imaging system and method with stitching of multiple images
JP7059701B2 (ja) * 2018-03-08 2022-04-26 富士通株式会社 推定装置、推定方法、及び推定プログラム
CN108537845B (zh) * 2018-04-27 2023-01-03 腾讯科技(深圳)有限公司 位姿确定方法、装置及存储介质
FR3086436B1 (fr) * 2018-09-21 2021-01-22 Diotasoft Dispositif, systeme et procede de localisation, par un module de traitement, d’un module d’acquisition par rapport a un equipement a controler
US11120632B2 (en) * 2018-10-16 2021-09-14 Sony Interactive Entertainment Inc. Image generating apparatus, image generating system, image generating method, and program
GB201818357D0 (en) * 2018-11-12 2018-12-26 Forsberg Services Ltd Locating system
TWI700000B (zh) * 2019-01-29 2020-07-21 威盛電子股份有限公司 全景影片影像穩定方法及裝置與影像穩定演算法評估方法
CN112568935B (zh) * 2019-09-29 2024-06-25 中慧医学成像有限公司 基于三维追踪相机的三维超声成像方法和系统
US11315346B2 (en) * 2020-01-16 2022-04-26 Square Enix Co., Ltd. Method for producing augmented reality image
CN115031635A (zh) * 2020-08-31 2022-09-09 深圳市慧鲤科技有限公司 测量方法及装置、电子设备及存储介质
KR20230087750A (ko) * 2021-12-10 2023-06-19 삼성전자주식회사 3차원 모델링 장치 및 방법

Family Cites Families (35)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2798393B2 (ja) * 1988-08-12 1998-09-17 日本電信電話株式会社 物体の姿勢推定方法及びその装置
FR2645300B1 (fr) * 1989-03-29 1994-09-09 Gen Electric Cgr Procede de recalage automatique d'images
WO1990016037A1 (en) * 1989-06-20 1990-12-27 Fujitsu Limited Method for measuring position and posture of object
JP2679490B2 (ja) * 1991-11-08 1997-11-19 株式会社デンソー 山積み部品の高速ピッキング装置
US5819016A (en) * 1993-10-05 1998-10-06 Kabushiki Kaisha Toshiba Apparatus for modeling three dimensional information
JP3101674B2 (ja) * 1995-12-15 2000-10-23 岡山大学長 Cad情報を用いた3次元認識手法及び装置
JPH09178426A (ja) * 1995-12-26 1997-07-11 Tokyo Electric Power Co Inc:The 認識対象物体の位置姿勢認識装置および位置姿勢認識方法
JPH1089943A (ja) * 1996-09-18 1998-04-10 Nippon Telegr & Teleph Corp <Ntt> 物体位置決め方法及び装置
US5973699A (en) * 1996-09-19 1999-10-26 Platinum Technology Ip, Inc. System and method for increasing the performance for real-time rendering of three-dimensional polygonal data
US7098435B2 (en) * 1996-10-25 2006-08-29 Frederick E. Mueller Method and apparatus for scanning three-dimensional objects
JPH1196374A (ja) * 1997-07-23 1999-04-09 Sanyo Electric Co Ltd 3次元モデリング装置、3次元モデリング方法および3次元モデリングプログラムを記録した媒体
EP0918302B1 (de) * 1997-11-24 2002-07-10 Weiglhofer, Gerhard Kohärenzdetektor
JP3862402B2 (ja) * 1998-02-27 2006-12-27 シャープ株式会社 3次元モデル生成装置および3次元モデル生成プログラムを記録したコンピュータ読取可能な記録媒体
US6912293B1 (en) * 1998-06-26 2005-06-28 Carl P. Korobkin Photogrammetry engine for model construction
JP3867410B2 (ja) * 1998-09-02 2007-01-10 株式会社明電舎 三次元視覚位置決め方法及び装置
JP2000088554A (ja) * 1998-09-08 2000-03-31 Nippon Telegr & Teleph Corp <Ntt> 物体の特徴点探索方法及びその処理プログラムを記録した記録媒体ならびに特徴点探索装置
JP4794708B2 (ja) * 1999-02-04 2011-10-19 オリンパス株式会社 3次元位置姿勢センシング装置
JP2000275013A (ja) * 1999-03-24 2000-10-06 Mr System Kenkyusho:Kk 視点位置姿勢の決定方法、コンピュータ装置および記憶媒体
JP2001108410A (ja) * 1999-10-07 2001-04-20 Nikon Corp 画像測定装置
US6985620B2 (en) * 2000-03-07 2006-01-10 Sarnoff Corporation Method of pose estimation and model refinement for video representation of a three dimensional scene
US7522186B2 (en) * 2000-03-07 2009-04-21 L-3 Communications Corporation Method and apparatus for providing immersive surveillance
JP2001277167A (ja) * 2000-03-31 2001-10-09 Okayama Pref Gov Shin Gijutsu Shinko Zaidan 3次元姿勢認識手法
JP3433204B2 (ja) * 2000-04-27 2003-08-04 株式会社東北テクノアーチ 3次元モデル構成装置
US7034820B2 (en) * 2001-12-03 2006-04-25 Canon Kabushiki Kaisha Method, apparatus and program for processing a three-dimensional image
US6664121B2 (en) * 2002-05-20 2003-12-16 Nikon Precision, Inc. Method and apparatus for position measurement of a pattern formed by a lithographic exposure tool
US6944265B2 (en) * 2002-11-25 2005-09-13 Ge Medical Systems Global Technology Company, Llc Image pasting using geometry measurement and a flat-panel detector
JP4284644B2 (ja) * 2003-05-23 2009-06-24 財団法人生産技術研究奨励会 3次元モデル構築システム及び3次元モデル構築プログラム
JP3738291B2 (ja) * 2003-06-09 2006-01-25 住友大阪セメント株式会社 三次元形状測定装置
CN1864176A (zh) * 2003-10-30 2006-11-15 日本电气株式会社 用于估计对象状态的估计系统、估计方法和估计程序
JP4537104B2 (ja) * 2004-03-31 2010-09-01 キヤノン株式会社 マーカ検出方法、マーカ検出装置、位置姿勢推定方法、及び複合現実空間提示方法
JP4785416B2 (ja) * 2005-05-11 2011-10-05 キヤノン株式会社 位置姿勢計測方法及び装置
JP4774818B2 (ja) * 2005-06-07 2011-09-14 トヨタ自動車株式会社 画像処理装置及び画像処理方法
JP5063023B2 (ja) * 2006-03-31 2012-10-31 キヤノン株式会社 位置姿勢補正装置、位置姿勢補正方法
JP4976756B2 (ja) * 2006-06-23 2012-07-18 キヤノン株式会社 情報処理方法および装置
US7903166B2 (en) * 2007-02-21 2011-03-08 Sharp Laboratories Of America, Inc. Methods and systems for display viewer motion compensation based on user image data

Also Published As

Publication number Publication date
CN101294793B (zh) 2011-09-07
US20130077854A1 (en) 2013-03-28
US20080267454A1 (en) 2008-10-30
US8639025B2 (en) 2014-01-28
US8326021B2 (en) 2012-12-04
CN101294793A (zh) 2008-10-29
EP1986154A1 (en) 2008-10-29
JP2008275391A (ja) 2008-11-13

Similar Documents

Publication Publication Date Title
JP5538667B2 (ja) 位置姿勢計測装置及びその制御方法
JP5013961B2 (ja) 位置姿勢計測装置及びその制御方法
JP5248806B2 (ja) 情報処理装置、情報処理方法
JP5624394B2 (ja) 位置姿勢計測装置、その計測処理方法及びプログラム
JP5093053B2 (ja) 電子カメラ
JP4757142B2 (ja) 撮影環境校正方法及び情報処理装置
JP4115117B2 (ja) 情報処理装置および方法
JP5067476B2 (ja) 三次元モデル作成システム
JP6503906B2 (ja) 画像処理装置、画像処理方法および画像処理プログラム
KR20110068469A (ko) 메타정보 없는 단일 영상에서 3차원 개체정보 추출방법
CN112669392B (zh) 一种应用于室内视频监控系统的地图定位方法及系统
US11989827B2 (en) Method, apparatus and system for generating a three-dimensional model of a scene
WO2015068470A1 (ja) 3次元形状計測装置、3次元形状計測方法及び3次元形状計測プログラム
US20080228433A1 (en) Method and Device for Determining the Relative Position of a First Object with Respect to a Second Object, Corresponding Computer Program and a Computer-Readable Storage Medium
JPWO2019012803A1 (ja) 指定装置、及び、指定プログラム
JP5530391B2 (ja) カメラポーズ推定装置、カメラポーズ推定方法及びカメラポーズ推定プログラム
JP2013231607A (ja) 校正器具表示装置、校正器具表示方法、校正装置、校正方法、校正システム及びプログラム
KR101189167B1 (ko) 메타정보 없는 단일 영상에서 3차원 개체정보 추출방법
CN116228974A (zh) 三维模型构建方法、装置、计算机设备以及存储介质
WO2017057426A1 (ja) 投影装置、コンテンツ決定装置、投影方法、および、プログラム
Lee et al. Applications of panoramic images: From 720 panorama to interior 3d models of augmented reality
JP4351090B2 (ja) 画像処理装置および画像処理方法
JP2005165481A (ja) 三次元画像表示装置及び方法
JP2018084509A (ja) 画像測量方法、画像測量装置及び画像測量プログラム
JP5168313B2 (ja) 画像表示装置

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100423

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100423

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130118

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130319

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140107

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140226

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140407

R151 Written notification of patent or utility model registration

Ref document number: 5538667

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140430