JP4369573B2 - 3D image detection device - Google Patents
3D image detection device Download PDFInfo
- Publication number
- JP4369573B2 JP4369573B2 JP32711899A JP32711899A JP4369573B2 JP 4369573 B2 JP4369573 B2 JP 4369573B2 JP 32711899 A JP32711899 A JP 32711899A JP 32711899 A JP32711899 A JP 32711899A JP 4369573 B2 JP4369573 B2 JP 4369573B2
- Authority
- JP
- Japan
- Prior art keywords
- light
- color
- subject
- image detection
- dimensional image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
- Optical Radar Systems And Details Thereof (AREA)
- Length Measuring Devices By Optical Means (AREA)
Description
【0001】
【発明の属する技術分野】
本発明は、光伝播時間測定法を用いて被写体の3次元形状等を検出する3次元画像検出装置に関する。
【0002】
【従来の技術】
従来、被写体までの距離を画素毎に検出する3次元画像検出装置としては、「Measurement Science and Technology」(S. Christie 他、vol.6, p1301-1308, 1995 年)に記載されたものや、国際公開97/01111号公報に開示されたものなどが知られている。これらの3次元画像検出装置では、パルス変調されたレーザ光が被写体に照射され、その反射光が2次元CCDセンサによって受光され、電気信号に変換される。このとき2次元CCDと組み合わされたメカニカルまたは液晶素子等からなる電気工学的シャッタの1回のシャッタ動作により、被写体までの距離に相関する電気信号をCCDの各画素毎に検出することができる。この電気信号から被写体までの距離情報がCCDの各画素毎に検出され3次元画像として得られる。
【0003】
【発明が解決しようとする課題】
これらの3次元画像検出装置において、CCDのビデオ制御により通常の2次元画像の撮影も行なう場合、照明光が不十分な環境での撮影を可能にするには、ストロボ等のフラッシュ照明を備える必要がある。
【0004】
本発明は、3次元画像を検出する際に用いられる測距用光源を、2次元画像を検出する際に照明用の光源として利用できる3次元画像検出装置を得ることを目的としている。
【0005】
【課題を解決するための手段】
本発明の3次元画像検出装置は、波長の異なる光を各々照射する複数の光源と、1個以上の光源から測距光を被写体に照射し、その反射光を受光することにより被写体までの距離情報を検出する距離情報検出手段と、入射光を色分離することにより被写体のカラー画像を検出する画像検出手段とを備え、各光源の照射する光の波長が、画像検出手段における色分離の特性に合致していることを特徴としている。
【0006】
好ましくは色分離において、入射光は3原色に分離される。このとき、3原色は例えば、赤色、緑色、青色である。
【0007】
また好ましくは色分離は、撮像部に設けられた複数の色フィルタにより行われる。このとき好ましくは、各光源から照射される光の波長は、各色フィルタを透過する光の透過率が最大となる波長に合わせてある。
【0008】
好ましくは、画像検出手段の駆動において、各光源を同時に発光して、照明用の光源として利用可能である。
【0009】
好ましくは、色分離により分離された各色成分に対応する各光源から測距光を照射し、各色成分毎に距離情報を検出し、それらを合成することにより被写体までの距離情報を検出する。
【0010】
【発明の実施の形態】
以下、本発明の実施の形態を図面を参照して説明する。
図1は、本発明の一実施形態であるカメラ型の3次元画像検出装置の斜視図である。
【0011】
カメラ本体10の前面において、撮影レンズ11の左上にはファインダ窓12が設けられている。カメラ本体10の上面において、撮影レンズ11の真上には、3つの発光装置(光源)14R、14G、14Bが配設されている。発光装置14R、14G、14Bは、測距光を照射するための光源であるとともに、フラッシュ照明の光源としても用いられる。発光装置14R、14G、14Bの左側にはレリーズスイッチ15、液晶表示パネル16が設けられ、右側にはモード切替ダイヤル17とV/Dモード切替スイッチ18が設けられている。カメラ本体10の側面には、ICメモリカード等の記録媒体を挿入するためのカード挿入口19が形成され、またビデオ出力端子20とインターフェースコネクタ21が設けられている。
【0012】
図2は図1に示すカメラの回路構成を示すブロック図である。
撮影レンズ11の中には絞り25が設けられている。絞り25の開度はアイリス駆動回路26によって調整される。撮影レンズ11の焦点調節動作およびズーミング動作はレンズ駆動回路27によって制御される。
【0013】
撮影レンズ11の光軸上には、RGBの色フィルタ22とCCD(撮像部)28とが配設されている。CCD28には、撮影レンズ11によって被写体像が形成され、被写体像に対応した電荷が発生する。CCD28における電荷の蓄積動作、電荷の読出動作等の動作はCCD駆動回路30によって制御される。CCD28から読み出された電荷信号すなわち画像信号はアンプ31において増幅され、A/D変換器32においてアナログ信号からデジタル信号に変換される。デジタルの画像信号は撮像信号処理回路33においてガンマ補正等の処理を施され、画像メモリ34に一時的に格納される。アイリス駆動回路26、レンズ駆動回路27、CCD駆動回路30、撮像信号処理回路33はシステムコントロール回路35によって制御される。
【0014】
画像信号は画像メモリ34から読み出され、LCD駆動回路36に供給される。LCD駆動回路36は画像信号に応じて動作し、これにより画像表示LCDパネル37には、画像信号に対応した画像が表示される。
【0015】
カメラをカメラ本体10の外部に設けられたモニターTVとケーブルで接続すれば、画像メモリ34から読み出された画像信号はTV信号エンコーダ38、ビデオ出力端子20を介してモニターTVに伝送可能である。またシステムコントロール回路35はインターフェース回路40に接続されており、インターフェース回路40はインターフェースコネクタ21に接続されている。したがってカメラをカメラ本体10の外部に設けられたコンピュータとインターフェースケーブルを介して接続すれば、画像メモリ34から読み出された画像信号をコンピュータに伝送可能である。また、システムコントロール回路35は、記録媒体制御回路42を介して画像記録装置43に接続されている。したがって画像メモリ34から読み出された画像信号は、画像記録装置43に装着されたICメモリカード等の記録媒体Mに記録可能である。
【0016】
発光装置14R、14G、14Bはそれぞれ発光素子13R、13G、13Bと照明レンズ13r、13g、13bにより構成され、発光素子13R、13G、13Bの発光動作は発光素子制御回路44によって制御される。発光素子13R、13G、13Bはレーザダイオード(LD)であり、各発光素子から照射されたレーザ光はそれぞれ照明レンズ13r、13g、13bを介して被写体の全体に照射される。これらのレーザ光は測距を行なう際には測距光として用いられ、通常の2次元画像の撮影を行なう際には照明光として用いられる。各発光素子13R、13G、13Bから照射されるレーザ光の波長は各々赤色(R)、緑色(G)、青色(B)の波長に対応しているとともに、各々のレーザ光の照射領域が被写体が存在する距離において略同一になるように調整されている。
【0017】
システムコントロール回路35には、通常の2次元画像を撮影する際に照明が必要か否かを判断するための測光手段46、レリーズスイッチ15、モード切替ダイヤル17、V/Dモード切替スイッチ18から成るスイッチ群45、液晶表示パネル(表示素子)16が接続されている。
【0018】
次に図3および図4を参照して、本実施形態における距離測定の原理について説明する。なお図4において横軸は時間tである。
【0019】
距離測定装置Bから出力された測距光は被写体Sにおいて反射し、図示しないCCDによって受光される。測距光は所定のパルス幅Hを有するパルス状の光であり、したがって被写体Sからの反射光も、同じパルス幅Hを有するパルス状の光である。また反射光のパルスの立ち上がりは、測距光のパルスの立ち上がりよりも時間δ・t(δは遅延係数)だけ遅れる。測距光と反射光は距離測定装置Bと被写体Sの間の2倍の距離rを進んだことになるから、その距離rは
r=δ・t・C/2 ・・・(1)
により得られる。ただしCは光速である。
【0020】
例えば測距光のパルスの立ち上がりから反射光を検知可能な状態に定め、反射光のパルスが立ち下がる前に検知不可能な状態に切換えるようにすると、すなわち反射光検知期間Tを設けると、この反射光検知期間Tにおける受光量Aは距離rの関数である。すなわち受光量Aは、距離rが大きくなるほど(時間δ・tが大きくなるほど)小さくなる。
【0021】
本実施形態では上述した原理を利用して、CCD28に設けられ、2次元的に配列された複数のフォトダイオードにおいてそれぞれ受光量Aを検出することにより、カメラ本体10から被写体Sの表面の各点までの距離をそれぞれ検出し、被写体Sの表面形状に関する3次元画像のデータを一括して入力している。
【0022】
図5は、CCD28に設けられるフォトダイオード51と垂直転送部52の配置を示す図である。図6は、CCD28を基板53に垂直な平面で切断して示す断面図である。このCCD28は従来公知のインターライン型CCDであり、不要電荷の掃出しにVOD(縦型オーバーフロードレイン)方式を用いたものである。
【0023】
フォトダイオード51と垂直転送部52はn型基板53の面に沿って形成されている。フォトダイオード51は2次元的に格子状に配列され、垂直転送部52は所定の方向(図5において上下方向)に1列に並ぶフォトダイオード51に隣接して設けられている。垂直転送部52は、1つのフォトダイオード51に対して4つの垂直転送電極52a,52b,52c,52dを有している。したがって垂直転送部52では、4つのポテンシャルの井戸が形成可能であり、従来公知のように、これらの井戸の深さを制御することによって、信号電荷をCCD28から出力することができる。なお、垂直転送電極の数は目的に応じて自由に変更できる。
【0024】
基板53の表面に形成されたp型井戸の中にフォトダイオード51が形成され、p型井戸とn型基板53の間に印加される逆バイアス電圧によってp型井戸が完全空乏化される。この状態において、入射光(被写体からの反射光)の光量に応じた電荷がフォトダイオード51において蓄積される。基板電圧Vsub を所定値以上に大きくすると、フォトダイオード51に蓄積した電荷は、基板53側に掃出される。これに対し、転送ゲート部54に電荷転送信号(電圧信号)が印加されたとき、フォトダイオード51に蓄積した電荷は垂直転送部52に転送される。すなわち電荷掃出信号によって電荷を基板53側に掃出した後、フォトダイオード51に蓄積した信号電荷が、電荷転送信号によって垂直転送部52側に転送される。このような動作を繰り返すことにより、垂直転送部52において信号電荷が積分され、いわゆる電子シャッタ動作が実現される。
【0025】
図7は距離情報検出動作におけるタイミングチャートであり、図1、図2、図5〜図7を参照して本実施形態における距離情報検出動作について説明する。なお本実施形態の距離情報検出動作では、図4を参照して行なった距離測定の原理の説明とは異なり、外光の影響による雑音を低減するために測距光のパルスの立ち下がりから反射光を検知可能な状態に定め、反射光のパルスが立ち下がった後に検知不可能な状態に切換えるようにタイミングチャートを構成しているが原理的には何ら異なるものではない。
【0026】
垂直同期信号(図示せず)の出力に同期して電荷掃出し信号(パルス信号)S1が出力され、これによりフォトダイオード51に蓄積していた不要電荷が基板53の方向に掃出され、フォトダイオード51における蓄積電荷量はゼロになる(符号S2)。電荷掃出し信号S1の出力の開始の後、一定のパルス幅を有するパルス状の測距光S3が出力される。測距光S3が出力される期間(パルス幅)は調整可能であり、図示例では、電荷掃出し信号S1の出力と同時に測距光S3がオフするように調整されている。
【0027】
測距光S3は被写体において反射し、CCD28に入射する。すなわちCCD28によって被写体からの反射光S4が受光されるが、電荷掃出し信号S1が出力されている間は、フォトダイオード51において電荷は蓄積されない(符号S2)。電荷掃出し信号S1の出力が停止されると、フォトダイオード51では、反射光S4の受光によって電荷蓄積が開始され、反射光S4と外光とに起因する信号電荷S5が発生する。反射光S4が消滅すると(符号S6)フォトダイオード51では、反射光に基く電荷蓄積は終了するが(符号S7)、外光のみに起因する電荷蓄積が継続する(符号S8)。
【0028】
その後、電荷転送信号S9が出力されると、フォトダイオード51に蓄積された電荷が垂直転送部52に転送される。この電荷転送は、電荷転送信号の出力の終了(符号S10)によって完了する。すなわち、外光が存在するためにフォトダイオード51では電荷蓄積が継続するが、電荷転送信号の出力が終了するまでフォトダイオード51に蓄積されていた信号電荷S11が垂直転送部52へ転送される。電荷転送信号の出力終了後に蓄積している電荷S14は、そのままフォトダイオード51に残留する。
【0029】
このように電荷掃出し信号S1の出力の終了から電荷転送信号S9の出力が終了するまでの期間TU1の間、フォトダイオード51には、被写体までの距離に対応した信号電荷が蓄積される。そして、反射光S4の受光終了(符号S6)までフォトダイオード51に蓄積している電荷が、被写体の距離情報と対応した信号電荷S12(斜線部)として垂直転送部52へ転送され、その他の信号電荷S13は外光のみに起因するものである。
【0030】
電荷転送信号S9の出力から一定時間が経過した後、再び電荷掃出し信号S1が出力され、垂直転送部52への信号電荷の転送後にフォトダイオード51に蓄積された不要電荷が基板53の方向へ掃出される。すなわち、フォトダイオード51において新たに信号電荷の蓄積が開始する。そして、上述したのと同様に、電荷蓄積期間TU1が経過したとき、信号電荷は垂直転送部52へ転送される。
【0031】
このような信号電荷S11の垂直転送部52への転送動作は、次の垂直同期信号が出力されるまで、繰り返し実行される。これにより垂直転送部52において、信号電荷S11が積分され、1フィールドの期間(2つの垂直同期信号によって挟まれる期間)に積分された信号電荷S11は、その期間被写体が静止していると見做せれば、被写体までの距離情報に対応している。なお信号電荷S13は信号電荷S12に比べ微小であるため信号電荷S11は信号電荷S12と等しいと見なすことができる。
【0032】
以上説明した信号電荷S11の検出動作は1つのフォトダイオード51に関するものであり、全てのフォトダイオード51においてこのような検出動作が行なわれる。1フィールドの期間における検出動作の結果、各フォトダイオード51に隣接した垂直転送部52の各部位には、そのフォトダイオード51によって検出された距離情報が保持される。この距離情報は垂直転送部52における垂直転送動作および図示しない水平転送部における水平転送動作によってCCD28から出力され、CCD28の外部に取り出される。
【0033】
次に本実施形態において実行される撮影処理動作のプログラムのフローチャートである図8、図9を参照して距離情報検出動作及び2次元画像検出動作について説明する。
【0034】
ステップ101においてレリーズスイッチ15が全押しされていることが確認されるとステップ102が実行され、ビデオ(V)モードと距離測定(D)モードのいずれが選択されているかが判定される。これらのモード間における切替はV/Dモード切替スイッチ18を操作することによって行なわれる。
【0035】
Dモードが選択されているとき、ステップ102において変数nが1に設定される。変数nは発光装置14R、14G、14Bの各々に対応する変数であり、n=1は発光装置14R、n=2は発光装置14G、n=3は発光装置14Bにそれぞれ対応する。ステップ104では、垂直同期信号が出力されるとともに、変数nに対応した発光装置を用いて測距光制御が開始される。すなわち発光装置14Rが駆動され、パルス状の測距光S3が断続的に出力される。次いでステップ105が実行され、CCD28による検知制御が開始される。すなわち図7を参照して説明した距離情報検出動作が開始され、電荷掃出信号S1と電荷転送信号S9が交互に出力されて、発光装置14Rから照射される測距光(R色光)により、距離情報の信号電荷S11がそれぞれの垂直転送部52において積分される。
【0036】
ステップ106では、距離情報検出動作の開始から1フィールド期間が終了したか否か、すなわち新たに垂直同期信号が出力されたか否かが判定される。1フィールド期間が終了するとステップ107へ進み、R色光による距離情報の信号電荷S11がCCD28から出力される。この信号電荷S11はステップ108において画像メモリ34に一時的に記憶される。
【0037】
ステップ109では変数nに1が加算され、ステップ110ではn=4であるか否かが判定される。ステップ110においてn≠4と判定されると処理はステップ104に戻り、ステップ104〜ステップ108の測距動作が再度行われる。すなわち、n=2であれば、発光装置14Gを駆動して測距が行われ、n=3であれば、発光装置14Bを駆動して測距が行われる。これら発光装置14G、14Bを用いた測距動作は発光装置14Rを駆動して行われた測距動作と同様であり、各測距動作毎に検出される距離情報の信号電荷S11は、ステップ108において画像メモリ34に一時的に記憶される。すなわち、画像メモリ34には、R色光、G色光、B色光による距離情報がそれぞれ独立して記憶される。
【0038】
ステップ110においてn=4であると判定されると、処理はステップ111に移る。ステップ111では測距光制御がオフ状態に切換えられ、発光装置14R、14G、14Bの発光動作は全て停止する。ステップ112では、R色光、G色光、B色光毎に検出された距離情報に基づいて距離データの演算処理が行なわれる。距離データは、R色光、G色光、B色光の距離情報毎に独立して算出されるとともに、各色成分の距離情報を合成し、合成された距離情報に基づいても算出される。すなわち、ステップ112では、R色光の距離情報に基づく距離データと、G色光の距離情報に基づく距離データと、B色光の距離情報に基づく距離データと、R色光、G色光、B色光の距離情報を合成した距離情報に基づく距離データが算出される。これらの距離データは、ステップ110において記録媒体M等に保存され、この撮影処理動作は終了する。
【0039】
一方、ステップ102においてVモードが選択されていると判定されたとき、ステップ114においてCCD28による通常の撮影動作(CCDビデオ制御)がオン状態に定められる。ステップ115では、フラッシュを発光するか否かが判定される。これは測光手段46(図2参照)を駆動して得られる測光結果に基づいて行われる。測光結果からフラッシュが必要であると判定されると、ステップ116において発光装置14R、14G、14Bのフラッシュ制御が開始される。ステップ117では、発光装置14R、14G、14Bが同時に発光し、フラッシュ照明として被写体に照射される。このとき2次元画像が検出され、そのデータが記録媒体Mに保存される。これにより撮影処理動作は終了する。
【0040】
また、ステップ115においてフラッシュが必要でないと判定されると、発光装置14R、14G、14Bのフラッシュ制御が開始されることなくステップ117に移り、フラッシュを発光することなく2次元画像が検出され、そのデータが記録媒体Mに保存される。これによりこの撮影処理動作は終了する。
【0041】
次にステップ112において実行される演算処理の内容を図7を参照して説明する。
反射率Rの被写体が照明され、この被写体が輝度Iの2次光源と見做されてCCDに結像された場合を想定する。このとき、電荷蓄積時間tの間にフォトダイオードに発生した電荷が積分されて得られる出力Snは、
Sn=k・R・I・t ・・・(2)
で表される。ここでkは比例定数で、撮影レンズのFナンバーや倍率等によって変化する。
【0042】
図7に示されるように電荷蓄積時間をTU1、測距光S3のパルス幅をTS 、距離情報の信号電荷S12のパルス幅をTD とし、1フィールド期間中のその電荷蓄積時間がN回繰り返されるとすると、得られる出力SM10は、
となる。なお、パルス幅TD は
と表せる。このとき被写体までの距離rは
r=C・SM10/(2・k・N・R・I) ・・・(5)
で表せる。したがって比例定数k、反射率R、輝度Iを予め求めておけば距離rが求められる。
【0043】
図10は、発光装置14R、14G、14Bからそれぞれ出力されるレーザ光の出力特性と、CCD28の各フォトダイオードに設けられた色フィルタの透過率特性を表したものである。
【0044】
曲線Tr、Tg、Tbは、CCD28の各フォトダイオード51にそれぞれ設けられた赤(R)、緑(G)、青(B)の色フィルタが光の波長に対して示す透過率特性を表している。各色フィルタはそれぞれ波長λr、λg、λbにおいて透過率が最大であり、波長λr、λg、λbから離れるにしたがい各々透過率が減少する。また、曲線Pr、Pg、Pbは、発光装置14R、14G、14Bから出力されるレーザ光の出力特性を表しており、各レーザ光の波長はRGBの色フィルタの透過率特性に合致するように設定されている。すなわち発光装置14R、14G、14Bはそれぞれ波長λr、λg、λbのレーザ光を照射する。波長λr、λg、λbのレーザ光は、それぞれ波長領域が極めて狭いので、発光装置14R、14G、14Bから出力されるレーザ光は、被写体表面で反射され、それぞれの波長に対応するRGBの色フィルタが設けられたフォトダイオード51においてのみ検出される。これにより被写体のカラー画像が得られる。
【0045】
波長λr、λg、λbのレーザ光は、被写体が配置された距離では略同一の領域に照射され、各光源から照射されるレーザ光の出力もそれぞれ等しい。したがって、2次元画像を検出する際に3つの発光装置を同時に照射すると、RGBの各色フィルタが配されたフォトダイオード51では、白色のフラッシュを照射して撮影したときと同様のRGBに関する信号出力が得られる。このことから波長λr、λg、λbのレーザ光を発光装置14R、14G、14Bから同時に照射することにより、フラッシュ照明用の光源として利用することができる。
【0046】
一方、3次元画像を検出する距離情報検出動作では、被写体の視覚情報である2次元画像の検出とは異なり、発光装置14R、14G、14Bのうちの何れか1つの光源を測距光として照射すれば、原理的には被写体までの距離情報を検出することができる。図11(a)、図11(b)、図11(c)は、RGBの各色に対応するレーザ光が単独で照射されたときにRGBの各色フィルタが設けられたフォトダイオード51(図5参照)からの信号電荷の出力を表したものである。すなわち、図11(a)は、発光装置14Rから測距光が単独で照射されたときに、RGBそれぞれに対応するフォトダイオード51からの出力を表しており、図11(b)、図11(c)は、発光装置14G、14Bからそれぞれ測距光が単独で照射されたときのものである。なお、図11の最上段に示された3つの検出領域R、G、Bは、それぞれRGBの色フィルタが設けられたフォトダイオード51とその垂直転送部52に対応しており(図5参照)、各フォトダイオードの空間的な配置を表している。すなわち、検出領域Rには、Rの色フィルタが設けられたフォトダイオード51とそれに隣接する垂直転送部52が配置されており、検出領域G、Bには、それぞれG、Bの色フィルタが設けられたフォトダイオード51とそれに隣接する垂直転送部52が配置されている。また、破線で仕切られた各区間は、検出領域R、G、Bにそれぞれ対応を表している。
【0047】
しかし、単色のレーザ光を被写体に照射した場合、光の反射率は表面の色によって異なるため、CCD28における反射光の受光量は、被写体までの距離だけではなく被写体の色にも影響される。例えば、λrの波長の光を赤色の被写体に照射するときと、同一距離にある緑色の被写体に照射するときでは、前者の方が後者に比べその受光量が大きくなる。したがって、緑色の場合には信号出力が小さいためS/N比が悪化する。また、被写体が多数の色で構成される場合には、各部分の色の違いによって光の反射率が異なるため、距離情報に被写体各部の色の違いによる誤差が含まれることとなる。
【0048】
これらのことから本実施形態では、3つの発光装置14R、14G、14Bを全て照射して被写体までの距離情報の検出を行なっている。発光装置14R、14G、14Bから照射されるレーザ光は、それぞれ対応する色フィルタを備えたフォトダイオード51において検出される。図12は、このときに各色フィルタを備えたフォトダイオード51から出力される信号電荷を表したものであり、被写体までの距離情報は、これら3つのフォトダイオード51から出力される信号電荷の和として求められる。1つのフォトダイオード51において検出される距離情報には、上述のように被写体の色による誤差が含まれる。しかし、3つのフォトダイオードの出力が加算され、R色光、G色光、B色光の距離情報が合成されると、それぞれの距離情報に含まれる誤差が相殺されるため、1つの測距光を用いて測距を行なった場合に比べその誤差を減ずることができる。
【0049】
以上のように、本実施形態によればCCDの色フィルタ(RGBの色フィルタ)の透過率特性に合わせた3つのレーザ光源(RGBの光源)を備えることにより、測距及びフラッシュ照明を行なう際に光源を兼用させることができる。また、RGBのレーザ光源を全て測距に用いるとともにRGBの各々に対応した信号出力を合成することにより、距離情報に含まれる被写体の色の違いによる誤差を減ずることができる。
【0050】
なお、本実施形態では、CCDはRGBの色フィルタを用いていたが他の表色系であってもよいし、色分解プリズムなどを用いたものであってもよい。
【0051】
本実施形態の距離情報検出動作では、3つの発光装置14R、14G、14B全てを用いて被写体の距離情報の検出を行なったが、被写体の色の違いによって生じる検出距離の誤差が小さいときには、3つの発光装置のうちの何れか1つを単独で用いて測距を行なってもよい。
【0052】
【発明の効果】
以上のように本発明によれば、3次元画像を検出する際に用いられる測距用光源を、2次元画像を検出する際に照明用の光源として利用できる3次元画像検出装置を得ることができる。
【図面の簡単な説明】
【図1】本発明の実施形態であるカメラ型の3次元画像検出装置の斜視図である。
【図2】図1に示すカメラの回路構成を示すブロック図である。
【図3】測距光による距離測定の原理を説明するための図である。
【図4】測距光、反射光、ゲートパルス、およびCCDが受光する光量分布を示す図である。
【図5】CCDに設けられるフォトダイオードと垂直転送部の配置を示す図である。
【図6】CCDを基板に垂直な平面で切断して示す断面図である。
【図7】被写体までの距離に関するデータを検出する距離情報検出動作のタイミングチャートである。
【図8】撮影処理動作のプログラムにおいて距離情報検出動作に関わる部分のフローチャートである。
【図9】撮影処理動作のプログラムにおいて2次元画像検出動作に関わる部分のフローチャートである。
【図10】CCDに設けられた色フィルタの透過率特性と、発光装置から照射されるレーザ光の出力特性を表す図である。
【図11】RGBに対応したレーザ光のうちの1つを単独で測距光として用いたときに、各色フィルタを備えたフォトダイオードから出力される信号を表したものである。
【図12】RGBに対応したレーザ光の全てを測距光として用いたときに、各色フィルタを備えたフォトダイオードから出力される信号を表したものである。
【符号の説明】
14B 発光装置(光源)
14G 発光装置(光源)
14R 発光装置(光源)
22 色フィルタ
28 CCD(撮像部)
Pb 発光装置14Bの出力特性
Pg 発光装置14Gの出力特性
Pr 発光装置14Rの出力特性
Tb 色フィルタ透過率特性
Tg 色フィルタ透過率特性
Tr 色フィルタ透過率特性[0001]
BACKGROUND OF THE INVENTION
The present invention relates to a three-dimensional image detection apparatus that detects a three-dimensional shape or the like of a subject using a light propagation time measurement method.
[0002]
[Prior art]
Conventionally, as a three-dimensional image detection device for detecting the distance to a subject for each pixel, those described in “Measurement Science and Technology” (S. Christie et al., Vol. 6, p1301-1308, 1995) Those disclosed in International Publication No. 97/01111 are known. In these three-dimensional image detection apparatuses, pulse-modulated laser light is irradiated onto a subject, and the reflected light is received by a two-dimensional CCD sensor and converted into an electrical signal. At this time, an electrical signal correlated with the distance to the subject can be detected for each pixel of the CCD by one-time shutter operation of an electrical engineering shutter composed of a mechanical or liquid crystal element combined with a two-dimensional CCD. Information on the distance from the electrical signal to the subject is detected for each pixel of the CCD and obtained as a three-dimensional image.
[0003]
[Problems to be solved by the invention]
In these three-dimensional image detection devices, when taking a normal two-dimensional image by CCD video control, it is necessary to provide flash lighting such as a strobe to enable photographing in an environment where illumination light is insufficient. There is.
[0004]
It is an object of the present invention to obtain a three-dimensional image detection apparatus that can use a distance measuring light source used when detecting a three-dimensional image as a light source for illumination when detecting a two-dimensional image.
[0005]
[Means for Solving the Problems]
The three-dimensional image detection apparatus of the present invention irradiates a subject with distance measuring light from a plurality of light sources each irradiating light having different wavelengths, and one or more light sources, and receives the reflected light to obtain a distance to the subject. A distance information detecting means for detecting information; and an image detecting means for detecting a color image of a subject by color-separating incident light, wherein the wavelength of light emitted from each light source is a color separation characteristic in the image detecting means. It is characterized by meeting.
[0006]
Preferably, in color separation, incident light is separated into three primary colors. At this time, the three primary colors are, for example, red, green, and blue.
[0007]
Preferably, the color separation is performed by a plurality of color filters provided in the imaging unit. In this case, preferably, the wavelength of light emitted from each light source is set to a wavelength that maximizes the transmittance of light transmitted through each color filter.
[0008]
Preferably, in driving the image detecting means, each light source emits light at the same time and can be used as a light source for illumination.
[0009]
Preferably, ranging light is emitted from each light source corresponding to each color component separated by color separation, distance information is detected for each color component, and distance information to the subject is detected by combining them.
[0010]
DETAILED DESCRIPTION OF THE INVENTION
Hereinafter, embodiments of the present invention will be described with reference to the drawings.
FIG. 1 is a perspective view of a camera-type three-dimensional image detection apparatus according to an embodiment of the present invention.
[0011]
A
[0012]
FIG. 2 is a block diagram showing a circuit configuration of the camera shown in FIG.
A diaphragm 25 is provided in the
[0013]
On the optical axis of the
[0014]
The image signal is read from the
[0015]
If the camera is connected to a monitor TV provided outside the
[0016]
The
[0017]
The
[0018]
Next, the principle of distance measurement in this embodiment will be described with reference to FIGS. In FIG. 4, the horizontal axis represents time t.
[0019]
The distance measuring light output from the distance measuring device B is reflected by the subject S and received by a CCD (not shown). The distance measuring light is pulsed light having a predetermined pulse width H. Therefore, the reflected light from the subject S is also pulsed light having the same pulse width H. The rising edge of the reflected light pulse is delayed by a time δ · t (where δ is a delay coefficient) from the rising edge of the ranging light pulse. The distance measuring light and the reflected light have traveled twice as much distance r between the distance measuring device B and the subject S, so that the distance r is r = δ · t · C / 2 (1)
Is obtained. However, C is the speed of light.
[0020]
For example, when the reflected light is detected from the rising edge of the ranging light pulse and switched to the undetectable state before the reflected light pulse falls, that is, when the reflected light detection period T is provided, The received light amount A in the reflected light detection period T is a function of the distance r. That is, the received light amount A decreases as the distance r increases (the time δ · t increases).
[0021]
In the present embodiment, by utilizing the above-described principle, each point on the surface of the subject S is detected from the
[0022]
FIG. 5 is a diagram showing an arrangement of the
[0023]
The
[0024]
A
[0025]
FIG. 7 is a timing chart in the distance information detection operation, and the distance information detection operation in this embodiment will be described with reference to FIGS. 1, 2, and 5 to 7. In the distance information detection operation of this embodiment, unlike the description of the principle of distance measurement performed with reference to FIG. 4, the distance information is reflected from the falling edge of the distance measuring light pulse in order to reduce noise due to the influence of external light. Although the timing chart is configured so that the light can be detected and switched to an undetectable state after the reflected light pulse falls, there is no difference in principle.
[0026]
A charge sweep signal (pulse signal) S1 is output in synchronization with the output of a vertical synchronization signal (not shown), whereby unnecessary charges stored in the
[0027]
The distance measuring light S <b> 3 is reflected by the subject and enters the
[0028]
Thereafter, when the charge transfer signal S9 is output, the charges accumulated in the
[0029]
In this way, during the period T U1 from the end of the output of the charge sweep signal S1 to the end of the output of the charge transfer signal S9, the signal charge corresponding to the distance to the subject is accumulated in the
[0030]
After a predetermined time has elapsed from the output of the charge transfer signal S9, the charge sweep signal S1 is output again, and unnecessary charges accumulated in the
[0031]
The transfer operation of the signal charge S11 to the
[0032]
The detection operation of the signal charge S11 described above relates to one
[0033]
Next, the distance information detection operation and the two-dimensional image detection operation will be described with reference to FIGS. 8 and 9 which are flowcharts of the shooting processing operation program executed in the present embodiment.
[0034]
If it is confirmed in
[0035]
When the D mode is selected, the variable n is set to 1 in
[0036]
In
[0037]
In
[0038]
If it is determined in
[0039]
On the other hand, when it is determined in
[0040]
If it is determined in
[0041]
Next, the contents of the arithmetic processing executed in step 112 will be described with reference to FIG.
Assume that a subject having a reflectance R is illuminated and this subject is regarded as a secondary light source having luminance I and is imaged on a CCD. At this time, the output Sn obtained by integrating the charge generated in the photodiode during the charge accumulation time t is:
Sn = k · R · I · t (2)
It is represented by Here, k is a proportional constant, which varies depending on the F number of the photographing lens, the magnification, and the like.
[0042]
As shown in FIG. 7, the charge accumulation time is T U1 , the pulse width of the distance measuring light S3 is T S , the pulse width of the distance information signal charge S12 is T D, and the charge accumulation time in one field period is N If it is repeated once, the resulting output SM 10 is
It becomes. The pulse width T D is
It can be expressed. At this time, the distance r to the subject is r = C · SM 10 / (2 · k · N · R · I) (5)
It can be expressed as Therefore, if the proportionality constant k, the reflectance R, and the luminance I are obtained in advance, the distance r can be obtained.
[0043]
FIG. 10 shows the output characteristics of the laser beams output from the
[0044]
Curves Tr, Tg, and Tb represent transmittance characteristics that the red (R), green (G), and blue (B) color filters provided in the
[0045]
The laser beams having wavelengths λr, λg, and λb are applied to substantially the same region at the distance where the subject is disposed, and the outputs of the laser beams emitted from the respective light sources are also equal. Therefore, when three light emitting devices are simultaneously irradiated when detecting a two-dimensional image, the
[0046]
On the other hand, in the distance information detection operation for detecting the three-dimensional image, unlike the detection of the two-dimensional image that is the visual information of the subject, any one light source of the
[0047]
However, when the subject is irradiated with monochromatic laser light, the reflectance of the light varies depending on the color of the surface, and therefore the amount of reflected light received by the
[0048]
Therefore, in the present embodiment, the distance information to the subject is detected by irradiating all the three light emitting
[0049]
As described above, according to the present embodiment, by providing three laser light sources (RGB light sources) that match the transmittance characteristics of the CCD color filter (RGB color filter), distance measurement and flash illumination are performed. Can also be used as a light source. Further, by using all the RGB laser light sources for distance measurement and synthesizing the signal outputs corresponding to each of RGB, it is possible to reduce an error due to the difference in the color of the subject included in the distance information.
[0050]
In this embodiment, the CCD uses RGB color filters. However, other color systems may be used, or a color separation prism or the like may be used.
[0051]
In the distance information detection operation of the present embodiment, the distance information of the subject is detected using all three light emitting
[0052]
【The invention's effect】
As described above, according to the present invention, it is possible to obtain a three-dimensional image detection apparatus that can be used as a light source for distance measurement used when detecting a three-dimensional image as a light source for illumination when detecting a two-dimensional image. it can.
[Brief description of the drawings]
FIG. 1 is a perspective view of a camera-type three-dimensional image detection apparatus according to an embodiment of the present invention.
2 is a block diagram showing a circuit configuration of the camera shown in FIG. 1. FIG.
FIG. 3 is a diagram for explaining the principle of distance measurement using distance measuring light;
FIG. 4 is a diagram illustrating distance distribution light, reflected light, gate pulse, and light quantity distribution received by a CCD.
FIG. 5 is a diagram illustrating an arrangement of photodiodes and vertical transfer units provided in a CCD.
FIG. 6 is a cross-sectional view showing a CCD cut along a plane perpendicular to the substrate.
FIG. 7 is a timing chart of a distance information detection operation for detecting data related to a distance to a subject.
FIG. 8 is a flowchart of a portion related to a distance information detection operation in a program for an imaging processing operation.
FIG. 9 is a flowchart of a portion related to a two-dimensional image detection operation in a program for an imaging processing operation.
FIG. 10 is a diagram illustrating transmittance characteristics of a color filter provided in a CCD and output characteristics of laser light emitted from a light emitting device.
FIG. 11 shows a signal output from a photodiode having each color filter when one of laser beams corresponding to RGB is used alone as a distance measuring light.
FIG. 12 shows a signal output from a photodiode provided with each color filter when all laser beams corresponding to RGB are used as distance measuring light.
[Explanation of symbols]
14B Light emitting device (light source)
14G light emitting device (light source)
14R light emitting device (light source)
22
Pb Output characteristics Pg of the
Claims (7)
1個以上の前記光源から測距光を被写体に照射し、その反射光を受光することにより前記被写体までの距離情報を検出する距離情報検出手段と、
入射光を色分離することにより被写体のカラー画像を検出する画像検出手段とを備え、
前記各光源の照射する光の波長が、前記画像検出手段における色分離の特性に合致している
ことを特徴とする3次元画像検出装置。A plurality of light sources each irradiating light of different wavelengths;
Distance information detection means for detecting distance information to the subject by irradiating the subject with ranging light from one or more light sources and receiving the reflected light;
Image detection means for detecting a color image of a subject by color-separating incident light,
3. A three-dimensional image detection apparatus, wherein a wavelength of light emitted from each light source matches a color separation characteristic in the image detection means.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP32711899A JP4369573B2 (en) | 1999-11-17 | 1999-11-17 | 3D image detection device |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP32711899A JP4369573B2 (en) | 1999-11-17 | 1999-11-17 | 3D image detection device |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2001145126A JP2001145126A (en) | 2001-05-25 |
JP4369573B2 true JP4369573B2 (en) | 2009-11-25 |
Family
ID=18195513
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP32711899A Expired - Fee Related JP4369573B2 (en) | 1999-11-17 | 1999-11-17 | 3D image detection device |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4369573B2 (en) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2019199027A1 (en) * | 2018-04-09 | 2019-10-17 | 엘지전자 주식회사 | Robot cleaner |
KR20190123366A (en) * | 2018-04-09 | 2019-11-01 | 엘지전자 주식회사 | Robot cleaner |
Families Citing this family (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4530571B2 (en) * | 2001-04-16 | 2010-08-25 | Hoya株式会社 | 3D image detection device |
JP3855756B2 (en) | 2001-12-07 | 2006-12-13 | ブラザー工業株式会社 | 3D color shape detection device and 3D scanner |
JP2005338278A (en) * | 2004-05-25 | 2005-12-08 | Nikon Corp | Illumination device for photographing and camera system |
JP4346568B2 (en) * | 2005-03-04 | 2009-10-21 | 三井造船株式会社 | 3D image information acquisition device |
JP2011007511A (en) * | 2009-06-23 | 2011-01-13 | Honda Motor Co Ltd | Three-dimensional shape measuring apparatus |
JP6366325B2 (en) * | 2014-03-28 | 2018-08-01 | キヤノン株式会社 | Imaging system |
JP2017133931A (en) * | 2016-01-27 | 2017-08-03 | 倉敷紡績株式会社 | Image creation device, and distance image and color image creation method |
JP6805448B2 (en) * | 2019-04-23 | 2020-12-23 | エスゼット ディージェイアイ テクノロジー カンパニー リミテッドSz Dji Technology Co.,Ltd | Control devices, imaging systems, moving objects, control methods, and programs |
-
1999
- 1999-11-17 JP JP32711899A patent/JP4369573B2/en not_active Expired - Fee Related
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2019199027A1 (en) * | 2018-04-09 | 2019-10-17 | 엘지전자 주식회사 | Robot cleaner |
KR20190123366A (en) * | 2018-04-09 | 2019-11-01 | 엘지전자 주식회사 | Robot cleaner |
KR102492947B1 (en) * | 2018-04-09 | 2023-01-27 | 엘지전자 주식회사 | Robot cleaner |
Also Published As
Publication number | Publication date |
---|---|
JP2001145126A (en) | 2001-05-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4530571B2 (en) | 3D image detection device | |
JP4931288B2 (en) | Image detection device and diaphragm device | |
EP2405663A1 (en) | Method of driving an image sensor | |
JP2013054135A (en) | Imaging device and control method thereof | |
JP3574607B2 (en) | 3D image input device | |
JP4010779B2 (en) | Image detection device and diaphragm device | |
JP4369573B2 (en) | 3D image detection device | |
JP4398562B2 (en) | Focus adjustment mechanism of 3D image detector | |
JP4391643B2 (en) | 3D image input device | |
US6822681B1 (en) | Image capturing device for capturing a shape of a measurement subject | |
US6437853B2 (en) | Three-dimensional image capturing device | |
US7053937B1 (en) | Three-dimensional image capturing device and recording medium | |
JP2001028762A (en) | Device for calculating white balance controlled variable for electronic camera | |
JP4369575B2 (en) | 3D image detection device | |
JP4369574B2 (en) | 3D image detection device | |
JP2000341720A (en) | Three-dimensional image input device and recording medium | |
JP3892632B2 (en) | Still object image detection apparatus and still object image detection method | |
JP4413343B2 (en) | 3D image detection device | |
JP4250281B2 (en) | 3D image detection device | |
JP4428831B2 (en) | 3D image detection device | |
US6982761B1 (en) | Device for capturing three-dimensional images with independently controllable groups of photoelectric conversion elements | |
JP2000121922A (en) | Object display device for camera | |
JP2001045520A (en) | Three-dimensional image detector and optical communication receiver | |
JP2002074346A (en) | Three-dimensional image inputting device | |
JP3954300B2 (en) | 3D image detection device |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20061018 |
|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A712 Effective date: 20080425 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20090813 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20090825 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20090828 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120904 Year of fee payment: 3 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313111 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120904 Year of fee payment: 3 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120904 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130904 Year of fee payment: 4 |
|
S533 | Written request for registration of change of name |
Free format text: JAPANESE INTERMEDIATE CODE: R313533 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
LAPS | Cancellation because of no payment of annual fees |