JP3781034B2 - ステレオ画像形成方法及び装置 - Google Patents

Description

本発明は、ビデオ映像からステレオ画像を形成するステレオ画像形成装置に関する。

３次元地形図を作成するには、従来、航空写真による航空測量技術が利用されている。しかし、航空測量技術は、現地上空をヘリコプタ又は軽飛行機を飛ばしながら地上をステレオ撮影し、それで得たステレオ写真を解析処理するものであり、ステレオ写真を得るだけでも多大な費用と時間がかかる上に、その解析にも非常な手間と費用がかかる。低高度で撮影した空中写真を使ってステレオ・マッチングにより３次元計測する場合、オクルージョンの影響によりマッチング・エラーが発生する。これは、ステレオ画像を形成する２つの画像が別の視線方向から見られたものであり、観察方向の相違に起因する画像の相違が、完全なマッチングを不可能にするからである。従来例は、地上の複数の標定点を使うことで、このような影響を除去しようとしているが、これでは、自動化は不可能である。

これに対して、ビデオ映像を利用して地形図を作成する技術は、自動化しやすい。しかし、従来の技術では、写真３次元データを抽出するのに、航空写真測量と同様に、画像内に数点の対空標識（明確な３次元座標が分かっている標識）が必要とされ、必要な数の対空標識が確保されても、誤差がメートル単位で精度が悪く、実用に耐えない。

道路、河川及び鉄道等の管理、その新規路線計画、並びに都市等の開発状況調査には、３次元地形図が有益であり、３次元地形データを迅速、安価且つ簡単に入手できるシステムが望まれている。３次元地形データが得られれば、鳥瞰図も容易に作成（ディスプレイ表示又はプリンタ出力）でき、各種のシミュレーションを行なうことができる。また、ビデオ映像処理により３次元データを得ることができれば、変化部分のみを抽出するのも容易になるので、都市等の開発状況調査も容易になる。

本発明はまた、ビデオ映像からステレオ画像（ステレオ・マッチングに適した２つの画像）を形成するステレオ画像形成方法及び装置を提示することを目的とする。

本発明に係るステレオ画像形成方法は、視線方向の異なる第１及び第２のモザイク画像からなるステレオ画像をビデオ映像から形成する方法であって、コンピュータに、当該ビデオ映像の画面上の互いに異なる第１及び第２のライン位置のライン画像データを、当該ビデオ映像に含まれる一連の複数の画像から抽出させる抽出ステップと、当該コンピュータに、当該第１のライン位置のライン画像データを一画面上に合成させることにより当該第１のモザイク画像を形成し、当該第２のライン位置のライン画像データを一画面上に合成させることにより当該第２のモザイク画像を形成する合成ステップとを具備することを特徴とする。

本発明に係るステレオ画像形成装置は、視線方向の異なる第１及び第２のモザイク画像からなるステレオ画像をビデオ映像から形成する装置であって、当該ビデオ映像の画面上の互いに異なる第１及び第２のライン位置のライン画像データを、当該ビデオ映像に含まれる一連の複数の画像から抽出する抽出手段と、当該第１のライン位置のライン画像データを一画面上に合成することにより当該第１のモザイク画像を形成し、当該第２のライン位置のライン画像データを一画面上に合成することにより当該第２のモザイク画像を形成する合成手段とを具備することを特徴とする。

本発明によれば、非常に簡単にステレオ画像を形成できる。しかも、容易に自動化できるので、高い生産性が得られる。

以下、図面を参照して、本発明の実施例を詳細に説明する。

図１は、本発明の一実施例の空中計測システムの概略構成ブロック図、図２は、地上計測システムの概略構成ブロック図、図３は、地上解析システムの概略構成ブロック図を示す。

図１に示す空中計測システムを説明する。図１に示す空中計測システムは、本実施例ではヘリコプターに搭載される。本実施例では、高品位カメラ１０を高精度防振安定装置（防振装置）１２に搭載し、その高品位映像信号出力を高品位ビデオ・テープ・レコーダ１４によりビデオ・テープに記録する。なお、カメラ１０は、一般に下向きであって、直下の映像が走査線に垂直な方向に移動するように設置される。カメラ１０の出力映像信号は、高品位モニタ１６にも印加されている。これにより、カメラ１０の被写体及び撮影状況を視覚的に確認できる。

高精度防振安定装置１２は、機体からの振動がカメラ１０に影響しないようにする。これにより、ブレの無い映像を収録できるようになる。即ち、高精度防振安定装置１２は、ジャイロとジンバル・サーボを組み合わせることにより、カメラの１０光軸が機体に発生するロール軸、ピッチ軸及びヨー軸回りの角度の動揺に対して慣性空間の一定方向に常に向くような空間安定化機能を持つ。

１８は、測定データを収集・記録すると共に、３軸制御装置２０を介して防振安定装置１２を制御し、カメラ制御装置２２を介してカメラ１０を制御し、ＶＴＲ制御装置２４を介してＶＴＲ１４を制御するパーソナル・コンピュータである。３軸制御装置２０により、防振安定装置１２の目標方位を任意に設定でき、カメラ制御装置２２によりカメラ１０のフォーカス、ズーム、絞り値及び色バランス等を制御し、ＶＴＲ制御装置２４により、ＶＴＲ１４の録画開始、録画終了及びポーズを制御し、また、カメラ１０の出力映像信号と一緒に記録されるタイムコードを取得して、コンピュータ１８に転送する。このタイムコードは、ＶＴＲ１４に記録される映像情報と、その他の測定データを地上解析システムで解析する際に同期をとるのに利用される。

対地高度センサ２６は、対地高度を検出し、磁方位センサ２８は磁方位を検出する。高精度防振安定装置１２によっても、ジャイロ・ドリフトによりゆっくりとした方向移動があるので、磁方位センサ２８により、カメラ１０の向きを補正する必要がある。センサ２６，２８の出力は、ディジタル・データとして、コンピュータ１８に印加される。コンピュータ１８には他に、防振安定装置１２からカメラ１０の３軸方向を示す３軸ジャイロ・データ（ロール角、ピッチ角及びヨー角）が入力し、カメラ１０からズーム値を示すズーム・データが入力する。

３０はＧＰＳ（全地球測位システム）の受信アンテナ、３２はＧＰＳアンテナ３０の受信信号から現在地座標（緯度、経度及び高度）を参集するＧＰＳ受信装置である。ＧＰＳ受信装置３２から出力されるＧＰＳ測位データは、記録するためにコンピュータ１８に印加され、また、ナビゲーションのためにナビゲーション・システム３４にも印加される。ナビゲーション・システム３４は、予めフレキシブルディスク３６に記録しておいたナビゲーション・データ（測線データ）に従い、設定した測線に対する現在位置をモニタ３８の画面に３次元的グラフィック表示する。これにより、地上に目標物の無い地域や分かりにくい地域（例えば、山間地又は海域等）で所望の測線に沿った撮影が可能になる。

なお、ＧＰＳの測定精度を向上する方法として、座標が既知の基準点でもＧＰＳで測定し、その測定誤差でＧＰＳ測位データを補正するディファレンシャルＧＰＳ（Ｄ−ＧＰＳ）方式が知られている。本実施例では、このディファレンシャルＧＰＳ方式を採用し、座標が既知の基準局の座標を同時にＧＰＳで測定し、その測定誤差データをＧＰＳ補正データとして無線通信によりヘリコプターに送信する。通信装置４０は、基準局からのＧＰＳ補正データを受信し、コンピュータ１８に転送する。

コンピュータ１８は、入力する飛行データ（対地高度データ、磁方位データ、ズーム・データ、３軸ジャイロ・データ）とＧＰＳ補正データ、ＶＴＲ制御装置２４からのタイムコードと共に、フレキシブルディスク４２に記録する。コンピュータ１８はまた、各入力データを必要によりモニタ４４に表示することができ、オペレータはキーボード４６からコンピュータ１８に種々の指示を入力できる。

通信装置４０による基準局との通信が不良になった場合に備えて、本実施例では、図２に示すように、基準局でも、計測したＧＰＳ補正データを独自にフレキシブルディスクに保存する。即ち、ＧＰＳ受信装置５０は、ＧＰＳアンテナ５２の出力からＧＰＳアンテナ５２の現在地を算出し、ＧＰＳ測位データをコンピュータ５４に出力する。ＧＰＳアンテナ５２の正確な座標（基準位置データ）は予め測定されており、そのデータがコンピュータ５４に入力又は設定されている。コンピュータ５４は、ＧＰＳ受信装置５０からのＧＰＳ測位データと基準位置データとの誤差を算出し、ＧＰＳ補正データとしてフレキシブルディスク５６に記録する。勿論、測定時刻の情報も同時に記録する。ＧＰＳ測位データ及びその誤差（即ち、ＧＰＳ補正データ）は、必要により、モニタ５８の画面に表示される。オペレータはキーボード６０により種々の指令をコンピュータ５４に入力できる。コンピュータ５４はまた、通信装置６２を介してＧＰＳ補正データを、図１に示す空中計測システム（のコンピュータ１８）に送信する。

図１に示す空中計測システム（及び、必要により図２に示す地上計測システム）により計測された各データは、図３に示す地上解析システムにより解析され、３次元データが算出される。即ち、高品位ＶＴＲ７０は、図１に示す空中計測システムで録画されたビデオ・テープを再生し、映像映像信号をフレーム・バッファ７４に、再生されたタイムコードをエンジニアリング・ワークステーション７６に印加する。フレーム・バッファ７４に一時記憶された映像データはモニタ７８に印加され、映像表示される。再生されたタイムコードもモニタ７８に同時に表示されることがあるのは、いうまもでもない。

パーソナル・コンピュータ８０は、図１に示す空中計測システムで同時に収集された飛行データ及びＧＰＳ補正データ（通信不良の場合には、図２に示す地上計測システムで計測されたＧＰＳ補正データ）を読み出し、ＧＰＳ測位データをＧＰＳ補正データで補正すと共に、３軸ジャイロ・データを磁方位データで補正し、その他の計測データ及び一緒に記録されていたタイムコードと共にワークステーション７６に転送する。ワークステーション７６は、コンピュータ８０から供給されるタイムコードに従いＶＴＲ７０を制御し、同じタイムコードの映像をＶＴＲ７０に再生させる。これにより、ワークステーション７６は、撮影時の条件及び撮影位置と、そのときの撮影映像とを対応付けることができ、以下に詳細に説明する演算により、３次元データを生成する。

図４は、本実施例における計測から３次元データ抽出までのフローを示す。先ず、図１に示す各装置を航空機に搭載し、対象地域上空を可能な限り一定高度及び一定速度で飛行しながら対象地域を撮影し、飛行情報を収録する（Ｓ１）。このとき、撮影対象は、基本的に、カメラ１０の走査線の垂直方向に移動していく。カメラ１０により撮影された映像は、ＶＴＲ１４によりビデオテープに録画される。同時に、カメラ１０の正確な位置（緯度、経度、高さ）と向きの情報が、ＶＴＲ１４からのタイムコードと共にフレキシブルディスク４２に記録される。タイムコードは、地上での解析時に、カメラの位置及び向きと、再生映像との同期をとるのに使用される。

カメラ１０の位置は、基本的にはＧＰＳ受信機３２から出力されるＧＰＳ測位データから分かり、精度向上のために、基準局からのＧＰＳ補正データによりディファレンシャル処理される。ディファレンシャル処理は、航空機上でもよいが、ＧＰＳ補正データの通信不良などを考慮すると、ＧＰＳ受信機３２の出力（ＧＰＳ測位データ）とＧＰＳ補正データとを別々にフレキシブルディスク４２に記録しておき、地上での解析時にディファレンシャル処理するのが好ましい。ＧＰＳ補正データの通信不良があったときには、図２に示す地上計測システムで記録保存したＧＰＳ補正データでＧＰＳ測位データをディファレンシャル処理する。

カメラ１０の向きに関しては、防振安定装置１２のジャイロ・センサの出力を磁方位センサ２８の出力で補正した値をフレキシブルディスク４２に記録する。具体的には、３軸の傾き（ピッチ、ロール及びヨー）をフレキシブルディスクに記録する。勿論、簡略のため、または、防振安定装置１２の性能が良好な場合や、簡略化してもよい場合には、カメラ１０の傾きが一定であるとしてもよい。

ちなみに、撮影高度を１，０００フィートとし、２００万画素ＣＣＤイメージ・センサを使用するハイビジョン・カメラの場合で、焦点距離が８．５ｍｍのとき、撮影範囲は３３９ｍ、分解能は１７．７ｃｍであり、焦点距離が１０２．０ｍｍのとき、撮影範囲は２８ｍ、分解能は１．５ｃｍである。

収録された情報（映像と飛行情報）は、図３に示す地上解析システムで再生され、解析される。先に説明したように、ワークステーション７６は、コンピュータ８０からの撮影時の情報（カメラの位置と方位、並びにタイムコード）に従い、ＶＴＲ７０を制御し、同じタイムコードの映像を再生させる。再生された映像信号は、ディジタル化されて、フレーム・バッファ７４に格納される。このようにして、ワークステーション７６は、映像データと、撮影時のカメラ位置及び傾きのデータを得ることができ、標定計算（Ｓ２）、連続モザイク画像作成（Ｓ３）、縦視差除去（Ｓ４）、視差差算出（Ｓ５）及びＤＥＭ作成の各処理を経て、ＤＥＭデータを出力する。

標定計算（Ｓ２）を説明する。写真測量では、２枚のステレオ画像から３次元計測を行なう場合、各画像の正確な標定要素が必要になる。標定要素には、撮影時のカメラの位置及び３軸の傾きからなる外部標定要素と、カメラ主点位置ズレ量、レンズ歪係数及びフィルム平面度などからなる内部標定要素とがある。内部標定要素は、カメラ毎に個体差がありうるものも、予め測定しておくことができる。

外部標定要素は、次のような一般的な写真測量の手法で求めることができる。即ち、ビデオ撮影時に同時に収録した飛行情報、具体的にはカメラ１０の位置と傾きから、重複率が６０％（又はほぼ６０％）になるようなシーン（本実施例では、フィールド画）を、撮影映像から抽出する。例えば、図５に示す例では、シーン＃１に対してシーン＃２は６０％重複し、シーン＃３はシーン＃２に対して６０％重複する。シーン＃３はシーン＃１に対しても２０％重複する。抽出したシーンのフィールド番号は、後述の縦視差除去処理における外部標定要素の内挿処理で必要となるので、抽出された各シーンの外部標定要素と対にして、図示しない補助記憶装置（例えば、ハードディスク装置）に記憶する。

しかし、飛行情報に従って抽出した３シーンの重複部分は、センサ誤差及び地形の高さによる影響が含まれているので、ピッタリ合うことは稀である。そこで、実際には、次のようにして重複部分を確定する。即ち、図６に示すように、各シーンの重複部分に複数のマッチング領域を設定し、残差逐次検定法又は相互相関係数法などのマッチング手法により、各シーンの各マッチング領域内で共通ポイントを計算する。この計算は勿論、自動化可能であり、この共通ポイントをパス・ポイントと呼ぶ。

立体画像を構成する２つの画像からなる対をモデルと呼び、その重複部分のパス・ポイントの座標値から相対的な位置及び傾きの関係を求めるのを相互標定と呼び、複数のモデルをモデル相互の共通したパス・ポイントをもとに統一したコース座標系に変換すべく結合するのを接続標定と呼ぶ。相互標定と接続標定の関係を図７に示す。

一連の撮影映像で上述の相互標定と接続標定を繰り返し行なうことにより、各モデルを統一したコース座標系に変換できる。ビデオ撮影時に収録した飛行情報（外部標定要素）は、その測定系に依存する測定誤差又は変動を含むが、このような標定計算（相互標定と接続標定）により、外部標定要素の値を高精度に確定できる。

以上により、標定計算（Ｓ２）を終了し、次に、連続モザイク画像を作成する（Ｓ３）。カメラの撮像面（ＣＣＤ面）と地上撮影範囲の関係は、図８のようになる。ビデオ映像は、周知の通り、１秒間に３０フレームからなり、１フレームは奇フィールドと偶フィールドの２つのフィールドからなる。奇フィールドと偶フィールドは、走査線が重複しないようにずらして配列され、１／６０秒毎に交互に表示される。

即ち、カメラ１０により撮影したビデオ映像は、１／６０秒毎に撮影位置を変えたシーン（フィールド）からなり、本実施例では、図９に示すように、各フィールドから、その先頭ライン、中心ライン及び最終ラインの各ライン・データを抽出する。各フィールドの先頭ラインのデータから形成した画像を前方視画像、各フィールドの中心ラインのデータから形成した画像を直下視画像、各フィールドの最終ラインのデータから形成した画像を後方視画像とそれぞれ呼ぶ。撮影時の移動速度が一定で、且つカメラの傾きも一定であれば、これら、前方視画像、直下視画像及び後方視画像を使って立体視することができる。なお、高さを強調する、即ち分解能を上げるには、短い焦点距離のレンズを使えばよい。

但し、航空機によるビデオ撮影では、飛行速度の変化、飛行コースのズレ、飛行高度の変化、及び３軸（ピッチ、ロール及びヨー）の変化といった変動要因があり、これらの影響で生じる縦視差を除去する必要がある（Ｓ４）。

縦視差除去処理（Ｓ４）では先ず、標定計算（Ｓ２）で得られた重複率６０％の各画像の外部標定要素をもとに、連続モザイク画像（前方視画像、直下視画像及び後方視画像）の各ライン・データに対応する外部標定要素の値を内挿する。例えば、図１０に示すように、３つの撮影地点Ｐ，Ｑ，Ｒでの外部標定要素、即ちカメラの位置と傾きが、それぞれ、（Ｘp，Ｙp，Ｚp，ωp，φp，κp）、（Ｘq，Ｙq，Ｚq，ωq，φq，κq）及び（Ｘr，Ｙr，Ｚr，ωr，φr，κr）であるとしたとき、連続モザイク画像上で、各撮影地点Ｐ，Ｑ，Ｒでの直下視画像に相当するラインにこれらの外部標定要素の値を割り当て、それ以外のラインには、内挿値を割り当てる。このようにして、連続モザイク画像の各ラインに、図１１に示すように、外部標定要素（Ｘｉ，Ｙｉ，Ｚｉ，ωｉ，φｉ，κｉ）を割り当てる。

本実施例では、写真測量の演算ソフトウエアを流用するので、ビデオ映像の座標系を、図１２に示すように、通常の写真測量の単写真の座標系に変換する。即ち、下記式に示すように、画像座標系（ｕ，ｖ）を写真座標系（ｘ，ｙ）に変換する。
（数１）
ｘ＝（ｕ−ｕ０）×ｘＣ
ｙ＝（ｖ−ｖ０）×ｙＣ
但し、ｕ０及びｖ０は、ビデオ画像の中心画像座標値、ｘＣ及びｙＣは、１画素あたりのｘ，ｙ方向のＣＣＤ結像面での長さである。

そして、写真座標系を地上座標系に変換する。写真座標系（ｘ，ｙ）と地上座標系（Ｘ，Ｙ，Ｚ）との間には、図１３に示す幾何学的関係があり、その変換式は、下式で表わされる。

ここで、ｆは、画面距離、（Ｘｏ，Ｙｏ，Ｚｏ）は、写真の投影中心Ｏの地上座標である。（数２）は、共線条件式と呼ばれる。９個の係数ａ１１〜ａ３３は、カメラの撮影軸の傾き（ω，φ，κ）より、（数３）により求められる。ω，φ，κはそれぞれＸ軸、Ｙ軸及びＺ軸のまわりの回転角を示し、それぞれの軸の正方向に向かって右まわりを正とする。

従って、

（数２）の逆変換式は、次のようになる。即ち、

（数２）及び（数５）における未知変量は、写真の投影中心の地上座標（Ｘｏ，Ｙｏ，Ｚｏ）及び撮影軸の傾き（ω，φ，κ）の６つである。この６つの未知変量が外部標定要素であり、先に求めたライン毎の外部標定要素により、ライン毎に、写真座標系を地上座標系に変換できる。

このように地上座標系に変換された連続モザイク画像に（数５）を適用し、図１４に示すように、縦視差を除去した画像を作成する（Ｓ４）。即ち、先にライン毎に決定した外部標定要素を用いて、係数ａ１１〜ａ３３を求め、連続モザイク画像の前方視画像、直下視画像及び後方視画像に（数５）を適用して、標高０ｍに投映した画像を作成する。この時、作成する画像の１画素の大きさは、撮影高度、カメラ焦点距離及びビデオ画像１画素のＣＣＤ長等から計算して、最適な値に設定する。

出力画像の１画素の大きさを最適な値に設定しても、ビデオ撮影時の飛行速度や撮影方向の変化で画素ヌケの箇所が発生する場合がある。これは、フィルタ処理により周囲の画素から内挿又は補間する。内挿手法には、内挿したい点に最も近い観測点の値をそのまま流用する最近隣内挿法、内挿したい点の周囲の４つの観測点の値の平均値を求める値とする共一次内挿法、及び、内挿したい点の周囲の１６個の観測点の値を三次畳み込み処理する三次畳み込み内挿法などがある。

最近隣内挿法は、最大１／２画素の位置誤差を生じるが、オリジナルな画像データを壊さない利点があり、また、アルゴリズムが簡単である。共一次内挿法は、オリジナルのデータが壊される欠点があるが、平均化によりスムージングの効果がでる利点がある。三次畳み込み内挿法は、オリジナルのデータが壊される欠点があるが、画像の平滑化と鮮鋭化を同時に実現できるという利点がある。目的に応じて、また最終結果を見て、全体又は部分的に何れの内挿法を適用するかを選択すればよい。

縦視差を除去した画像から視差差を算出する（Ｓ５）。視差差の算出には、自動ステレオ・マッチング手法を使用する。本実施例では、図１５に示すように、縦視差除去画像の撮影方向が水平走査線に直交する方向になるように縦視差除去画像を再配列した上で、ステレオ・マッチングのための画像、即ち、マッチング画像を作成する。これにより、以下の処理を高速化できるだけでなく、処理に必要なメモリ容量を節減できる。

以上の処理により得られたマッチング画像の前方視画像上に、高さを算出する目的のテンプレート画像（例えば、Ｎ×Ｎ画素）を設定し、このテンプレート画像に近似する画像を、他のマッチング画像、即ち後方視画像又は直下視画像上の所定の探索範囲内で探索する。本実施例では、予め縦視差を除去しているので、探索範囲は、水平走査線に直交する方向のみで良い。マッチングしたら、その位置の差、即ち視差差を算出する。

ビデオ映像のフィールドの隣接するラインのデータから形成したモザイク画像は、非常に良く近似するが、抽出するラインが離れる程、得られたモザイク画像は、視線方向がそれだけ異なることになり、最適にマッチングしたときでも、マッチング・エラーが大きくなる。そこで、本実施例では、前方視画像と後方視画像とでステレオ・マッチングする場合でも、中間的なラインからモザイク画像を形成（勿論、縦視差も除去する。）し、逐次的に対応点を探索するようにした。これにより、オクルージョンによる影響を排除でき、高い精度で対応点を検出できるようになる。

図１７に示すような四角錐台状の物体を例に、説明する。図１８は、この物体をビデオ撮影したときの、撮影画面内の抽出ラインと、各ラインを合成して得られるモザイク画像（縦視差除去済み）との対応を示す。図１８（１）は、先頭ライン及び最終ラインを抽出する場合、同（２）はより内側のラインを抽出した場合、同（３）は更に内側のラインを抽出した場合、同（４）はほぼ中央の隣接するラインを抽出した場合である。このように、本実施例では、本来の前方視画像Ｆ１と後方視画像Ｒ１のほかに、中間的な前方視画像Ｆ２，Ｆ３，Ｆ４及び後方視画像Ｒ２，Ｒ３，Ｒ４がある。中間的な前方視画Ｆ４及び後方視画像Ｒ４の代わりに直下視画像を採用してもよい。

いうまでもないが、中間的な画像Ｆ２，Ｆ３，Ｆ４，Ｒ２，Ｒ３，Ｒ４は、必要に応じて、より少なく又はより多く設定してもよい。試行的なマッチング演算の結果により、適当な数を設定してもよい。

前方視画像Ｆ１の点Ａに対応する点を後方視画像Ｒ１から探索する場合、まず、中間的な前方視線画像Ｆ２上で点Ａの対応点を探索する。画像Ｆ１と画像Ｆ２は少し視線がずれているだけなので、自動ステレオ・マッチングによっても、高い精度で対応点を探索できる。画像Ｆ２で探索した対応点を含むテンプレートが像を設定し、画像Ｆ３上で対応点を探索する。そして、逐次、画像Ｆ４、画像Ｒ４、画像Ｒ３、画像Ｒ２、画像Ｒ１とステレオ・マッチング演算する。このようにして、画像Ｆ１上の点Ａの対応点を画像Ｒ１上で高い精度で探知できる。画像Ｆ１と画像Ｒ１を直接、ステレオ・マッチングした場合には、オクルージョンの影響により物体によっては大きな誤差を避けられないが、本実施例では、このように逐次探索することで、オクルージョンの影響を完全の除去できる。

ここでは、中間的な画像を予め作成するとしたが、視差差算出のためのマッチング演算を実行しながら、マッチング・エラーが許容値以下になるまで２分探索法により逐次的に中間的な画像を形成して対応点を探索するようにしてもよい。例えば、後方視画像でのマッチング処理で許容値以上のマッチング・エラーがある場合に、中間的なラインから抽出したモザイク画像を形成し（勿論、縦視差も除去する。）、そのモザイク画像上でマッチング演算する。ここで一定精度以上で対応点が見つかれば、その発見された対応点を目安に、後方視画像上でマッチング処理により対応点を探索する。中間的なモザイク画像でも許容値以上のマッチング・エラーがある場合には、更に中間的なラインから抽出したモザイク画像を形成し、そのモザイク画像上でマッチング演算する。このような繰り返し処理により、最終的に、前方視画像と後方視画像との間で対応点を検出する。このようにすることで、オクルージョンの影響を完全に排除して、高精度で対応点を検出できる。

何れにしても、中間的な画像は、マッチング演算に必要な部分のみを形成すれば良い。そうすれば、マッチング演算の時間を短縮でき、中間的な画像データを格納するメモリ容量も少なくて済む。

次に、ＤＥＭ（Ｄｉｇｉｔａｌ Ｅｌｅｖａｔｉｏｎ Ｍｏｄｅｌ）を作成するために、下記式に従い視差差から高さを計算できる。即ち、
（数６）
ｈ＝ｄ×Ｈ／Ｂ
但し、ｈは求める高さ（ｍ）、ｄは視差差（ｍ）、Ｂはベース長（ｍ）、Ｈは撮影高度（ｍ）である。図１９は、視差差と高さの関係を示す。

カメラ１０のＣＣＤ撮像素子の結像面の長さをｃ１（ｍｍ）、１画素あたりのＣＣＤ結像面での長さをｄｃ（ｍｍ）、焦点距離をｆ（ｍｍ）とした場合、前方視画像と後方視画像による視差差から高さを求めるときには、
（数７）
ｈ＝ｄ×ｆ／（ｃ１−ｄｃ）
であり、前方視画像又は後方視画像と直下視画像による視差差から高さを求めるときには、
（数８）
ｈ＝ｄ×２×ｆ／（ｃ１−ｄｃ）
となる。

高さの精度は、Ｂ／Ｈ比で決まるが、撮影時にカメラ１０の焦点距離を変えることにより自由に設定できる。

高さデータが得られたら、メジアン・フィルタ等により、特に周囲のデータより凹凸のあるデータを検出し、周囲のデータで修整する。

以上の処理により、撮影対象内の所望地域について高さデータを算出でき、３次元データを得ることができる。

本実施例では、対空標識の設置及びその位置計測のための測量作業が不要になるので、任意の地域で迅速に調査できる。また、人が立ち入ることの出来ない危険地域（土砂崩れ、土石流及び火山噴火地帯等）についても、３次元地形図を作成できる。また、標定計算が自動化されているので、解析処理を手早く進めることが出来る。高さの精度は、カメラ１０の焦点距離を変えることで自由に設定できる。

本発明は、３次元地形図の作成に留まらず、防災情報の収集システム、鉄道や道路などの路線計画、及び、海・河岸の侵食調査などにも利用できる。

標定計算（Ｓ２）及び視差差算出（Ｓ５）で利用したマッチング手法を簡単に説明する。先に説明したように、従来、使用されているマッチング手法には、残差逐次検定法と相互相関係数法がある。

先ず、残差逐次検定法を説明する。図２０に示すようにＮ×Ｎ画素のテンプレート画像を、それより大きいＭ×Ｍ画素の入力画像内の探索範囲（Ｍ−Ｎ＋１）２上で動かし、（数９）の残差が最小になった位置で、重ね合わせが達成されたと看做す。

ただし、（ａ，ｂ）は、入力画像内におけるテンプレート画像の左上位置を示し、Ｉ（ａ，ｂ）（ｍ，ｎ）は入力画像の部分画像、Ｔ（ｍ，ｎ）はテンプレート画像、Ｒ（ａ，ｂ）は、入力画像の部分画像とテンプレート画像との残差である。

重ね合わせがずれていると、各画素について順次加算していくときに残差が急激に増大する。そこで、加算の途中で残差があるしきい値を超えたら、重ね合わせが良くないものと判断して、加算を打ち切り、次の（ａ，ｂ）に移行する。これが、残差逐次検定法（ｓｅｑｕｅｎｔｉａ１ ｓｉｍｉｌａｒｉｔｙ ｄｅｔｅｃｔｉｏｎ ａｌｇｏｒｉｔｈｍであり、以降ＳＳＤＡ法と略す。）である。ＳＳＤＡ法は、Ｂａｒｎｅａらによって提案されたが、しきい値をいかに与えるかが問題であった。この点に関して尾上らは、いかに述べるしきい値自動決定法を提案している。

尾上らの提案するしきい値自動決定法は、取り敢えずのしきい値として過去の残差の最小値を採用する。なお、最初は、しきい値無しで最後まで加算させ、その結果の残差を最初のしきい値とする。以降、最後まで、しきい値を超えることなく加算されるごとにその残差を新しいしきい値とする。この方法では、常に真の最小値に達することが保証されている。

ＳＳＤＡ法は、加算だけからなり、しかも多くの場合に途中で打ち切られるので、計算時間を大幅に短縮できる。尾上らは、雲の移動追跡に応用して、相互相関係数による方法と比べて精度が同等、処理時間が１桁以上短縮というきわめて良好な結果を得ている。

相互相関係数法を説明する。相互相関係数法では、下記式が最大になる入力画像内におけるテンプレート画像の左上位置（ａ，ｂ）を求める。

この方法では、ＳＳＤＡ法のような計算の打ち切りが無いので、計算時間をあまり短縮できない。しかし、写真測量の分野では、ステレオ航空写真のディジタル画像から格子点の標高を計測し、等高線を描画する場合に、左右の画像で対応する点を探索する手法として相互相関係数法が、手軽なのでよく使われている。

本実施例によれば、従来良く利用された航空写真に代わって、高解像度ビデオカメラで収録した映像から３次元地形図等を作成できるので、非常に幅広い用途に利用可能である。例えば、道路、河川及び鉄道等の各種の管理に利用でき、また、画像処理で変化部分のみを抽出すれば都市等の開発状況調査に利用できる。また、３次元鳥瞰図を作成し、新規路線計画の完成状況をシミュレーションするのにも利用できる。

ヘリコプターから地上を撮影する例で説明したが、本発明は、ヘリコプター以外に、その他の飛行機、監視衛星及び地上を走行する自動車から撮影する場合にも適用できるこというまでもない。

また、上記実施例では、フィールド画像の最先ラインから前方視画像を形成し、最後のラインから後方視画像を形成したが、それぞれ、２番目以降のライン、最後のラインの１又は２以上前のラインであってもよいことは勿論である。

本発明の一実施例の空中計測システムの概略構成ブロック図である。 本実施例の地上計測システムの概略構成ブロック図である。 本実施例の地上解析システムの概略構成ブロック図である。 本実施例における計測から３次元データ抽出までのフロー・チャートである。 標定計算のための６０％重複シーンの説明図である。 相互標定とパス・ポイントの説明図である。 相互標定と接続標定の説明図である。 カメラの撮像面と地上撮影範囲との関係図である。 連続モザイク画像作成の概念図である。 連続モザイク画像と外部標定要素との関係図である。 外部標定要素の内挿を説明する図である。 撮像面の画像座標系と写真座標系を説明する図である。 写真座標系と地上座標系の関係図である。 縦視差除去の前後の画像例である。 視差差算出のためのマッチング画像の説明図である。 視差差算出のためのステレオ・マッチングの説明図である。 測定対象とした四角錐台状の物体モデルである。 図１７に示す物体をビデオ撮影したときの、撮影画面内の抽出ラインと、各ラインを合成して得られるモザイク画像（縦視差除去済み）との対応を示す図である。 視差差と高さの関係の説明図である。 入力画像とテンプレート画像のマッチングの基本図である。

符号の説明

１０：高品位カメラ
１２：高精度防振安定装置（防振装置）
１４：高品位ビデオ・テープ・レコーダ
１６：高品位モニタ
１８：パーソナル・コンピュータ
２０：３軸制御装置
２２：カメラ制御装置
２４：ＶＴＲ制御装置
２６：対地高度センサ
２８：磁方位センサ
３０：ＧＰＳアンテナ
３２：ＧＰＳ受信装置
３４：ナビゲーション・システム
３６：フレキシブルディスク
３８：モニタ
４０：通信装置
４２：フレキシブルディスク
４４：モニタ
４６：キーボード
５０：ＧＰＳ受信装置
５２：ＧＰＳアンテナ
５４：コンピュータ
５６：フレキシブルディスク
５８：モニタ
６０：キーボード
６２：通信装置
７０：高品位ＶＴＲ
７４：フレーム・バッファ
７６：エンジニアリング・ワークステーション
７８：モニタ
８０：パーソナル・コンピュータ
Ｆ１：前方視画像
Ｆ２，Ｆ３，Ｆ４：中間的な前方視画像
Ｒ１：後方視画像
Ｒ２，Ｒ３，Ｒ４：中間的な後方視画像

Claims (4)

1. 視線方向の異なる第１及び第２のモザイク画像からなるステレオ画像をビデオ映像から形成する方法であって、
   コンピュータに、当該ビデオ映像の画面上の互いに異なる第１及び第２のライン位置のライン画像データを、当該ビデオ映像に含まれる一連の複数の画像から抽出させる抽出ステップと、
   当該コンピュータに、当該第１のライン位置のライン画像データを一画面上に合成させることにより当該第１のモザイク画像を形成し、当該第２のライン位置のライン画像データを一画面上に合成させることにより当該第２のモザイク画像を形成する合成ステップ
   とを具備することを特徴とするステレオ画像形成方法。
2. 更に、当該ビデオ画像の外部標定要素に従い、当該合成ステップで合成した当該第１及び第２のモザイク画像の縦視差を当該コンピュータに除去させる縦視差除去ステップを具備することを特徴とする請求項１に記載のステレオ画像形成方法。
3. 視線方向の異なる第１及び第２のモザイク画像からなるステレオ画像をビデオ映像から形成する装置であって、
   当該ビデオ映像の画面上の互いに異なる第１及び第２のライン位置のライン画像データを、当該ビデオ映像に含まれる一連の複数の画像から抽出する抽出手段と、
   当該第１のライン位置のライン画像データを一画面上に合成することにより当該第１のモザイク画像を形成し、当該第２のライン位置のライン画像データを一画面上に合成することにより当該第２のモザイク画像を形成する合成手段
   とを具備することを特徴とするステレオ画像形成装置。
4. 更に、当該ビデオ画像の外部標定要素に従い、当該合成手段で合成した当該第１及び第２のモザイク画像の縦視差を除去する縦視差除去手段を具備することを特徴とする請求項３に記載のステレオ画像形成装置。

Images