Nothing Special   »   [go: up one dir, main page]

JP6587185B2 - 距離画像生成装置及び距離画像生成方法 - Google Patents

距離画像生成装置及び距離画像生成方法 Download PDF

Info

Publication number
JP6587185B2
JP6587185B2 JP2015557761A JP2015557761A JP6587185B2 JP 6587185 B2 JP6587185 B2 JP 6587185B2 JP 2015557761 A JP2015557761 A JP 2015557761A JP 2015557761 A JP2015557761 A JP 2015557761A JP 6587185 B2 JP6587185 B2 JP 6587185B2
Authority
JP
Japan
Prior art keywords
light
signal
time
distance
exposure
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2015557761A
Other languages
English (en)
Other versions
JPWO2015107869A1 (ja
Inventor
嘉彦 村井
嘉彦 村井
山本 真嗣
真嗣 山本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Intellectual Property Management Co Ltd
Original Assignee
Panasonic Intellectual Property Management Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Intellectual Property Management Co Ltd filed Critical Panasonic Intellectual Property Management Co Ltd
Publication of JPWO2015107869A1 publication Critical patent/JPWO2015107869A1/ja
Application granted granted Critical
Publication of JP6587185B2 publication Critical patent/JP6587185B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/02Systems using the reflection of electromagnetic waves other than radio waves
    • G01S17/06Systems determining position data of a target
    • G01S17/08Systems determining position data of a target for measuring distance only
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C3/00Measuring distances in line of sight; Optical rangefinders
    • G01C3/02Details
    • G01C3/06Use of electric means to obtain final indication
    • G01C3/08Use of electric radiation detectors
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/02Systems using the reflection of electromagnetic waves other than radio waves
    • G01S17/06Systems determining position data of a target
    • G01S17/08Systems determining position data of a target for measuring distance only
    • G01S17/10Systems determining position data of a target for measuring distance only using transmission of interrupted, pulse-modulated waves
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/89Lidar systems specially adapted for specific applications for mapping or imaging
    • G01S17/8943D imaging with simultaneous measurement of time-of-flight at a 2D array of receiver pixels, e.g. time-of-flight cameras or flash lidar
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/483Details of pulse systems
    • G01S7/486Receivers
    • G01S7/4868Controlling received signal intensity or exposure of sensor

Landscapes

  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Electromagnetism (AREA)
  • General Physics & Mathematics (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Optical Radar Systems And Details Thereof (AREA)
  • Measurement Of Optical Distance (AREA)
  • Studio Devices (AREA)

Description

本発明は、被写体に向けて信号光が照射され、被写体に到着した信号光が被写体で反射し、その反射光を受光した際に生じる、信号光と反射光との時間差に基づいて、被写体の距離情報を取得するTOF(Time Of Flight)方式の距離画像生成装置及び方法に関するものである。
近年、被写体の測距情報を有する画像(以下、距離画像)を生成する装置や手法は、機器の小型化や一般消費者向け商品の出現により、従来利用されていたゲームやアミューズメント分野における利用に留まらず、医療や広告等の多分野への用途・技術展開に注目が集まっている。
距離画像を生成するための被写体の測距手法には、複数のカメラを用いて撮像した画像の視差に基づいて距離画像を生成する方法や、既知のランダムドットパターンを被写体に照射し、ドットパターンの歪みに基づいて距離画像を生成する方法等、幾つか存在し、それらの方法の一例として赤外光やレーザー光を被写体に向けて照射し、被写体に到達し反射して受光するまでの計測時間に基づいて、被写体までの距離を算出(測距)するTOF方式が挙げられる。
被写体の測距精度が高ければ、制御の自由度が増すことは明白である。TOF方式は被写体で反射した光を露光して得た信号量を利用するため、撮像点から被写体までの距離や、被写体の表面反射率に応じて、照射する信号光の発光調整や受光する反射光の露出調整等を適宜施すことにより、受光信号の飽和やS/N比の悪化防止に伴う測距精度の向上及び高精度の距離画像の生成が期待できる。
ある従来技術によれば、精度の高い合成距離画像の生成に際し、露出の異なる複数枚の距離画像を取得し、それら複数画像の画素毎を比較して合成距離画像を生成する(特許文献1参照)。
他の従来技術によれば、取得した距離画像の距離値の分布特性に基づき、被写体の測距に必要な最低限の発光量(消費電力)に調整する(特許文献2参照)。
特開2012−225807号公報 特開2011−179997号公報
特許文献1の距離画像合成方法は、精度の高い合成距離画像の生成に際し、露出の異なる複数枚の距離画像を取得し、それら複数画像の画素毎を比較して合成距離画像を生成するため、画素数増加に伴う生成時間の増加は避け難く、生成には時間を要するという問題があった。
特許文献2の光量調整方法は、取得した距離画像の距離値の分布特性に基づき、被写体の測距に必要な最低限の発光量(消費電力)に調整するため、精度の高い距離情報を取得することは困難である。加えて、複数の異なる距離(奥行き)に被写体が存在する場合、最低限の発光量に設定するため全ての被写体の距離情報は取得できないという問題があった。
本発明は上記の問題に鑑みたものであり、その目的は、被写体位置に応じて信号光の照射及び反射光の露出を制御し、かつ精度の高い距離情報を短時間で取得することを実現することにある。すなわち、1つ以上の被写体を対象とした距離画像に関し、高精度に距離画像を生成することを目的とする。
上記目的を達成するために、本発明の一態様にかかる距離画像生成装置は、光源から被写体に向けて信号光を照射する光照射部と、前記光照射部から照射された前記信号光が被写体において反射して生じた反射光を受光し、信号量を取得する受光部と、照射の開始時間と受光の開始時間との時間差に基づいて被写体までの距離値を算出しかつ距離画像を生成する距離画像生成部と、前記距離画像生成部が算出した前記距離値の分布特性を解析する距離値分布解析部と、前記光照射部の前記信号光の出力を調整する照射制御部と、前記受光部の受光を調整する露出制御部と、前記分布特性に基づいて前記出力と前記受光とに関する調整値を算出し、前記照射制御部と前記露出制御部とを制御する信号調整部とを備え、前記光照射部は前記信号光を被写体に向けて照射し、前記受光部は複数の前記信号量を異なるタイミングで取得し、距離画像生成部は前記複数の信号量の比率に基づいて、被写体までの前記距離値を算出し、被写体の前記距離画像を生成すべく照射する前記信号光は、第1の信号光と第2の信号光とがあり、前記第1の信号光は、前記第2の信号光の出力と受光に関する前記調整値を算出するための信号光であり、前記第2の信号光は、前記距離画像を生成するための信号光であり、前記信号調整部は、前記第1の信号光の照射及び受光で得られた前記分布特性に基づいて、前記第2の信号光につき前記照射制御部と前記露出制御部との少なくとも1つを制御する。
例えば、信号調整部は、前記調整値として、第1の信号光の照射及び受光で得られた距離値の分布特性に基づいて、第2の信号光の照射強度、照射時間、照射回数、露光不要時間、露光開始時間、露光時間、及び露光回数のうち少なくとも1つを調整することにより前記照射制御部と前記露出制御部を制御する。
本発明によれば、1つ以上の被写体を対象とした距離画像に関し、高精度に距離画像を生成することができる。
図1は、本発明の第一の実施の形態及び第二の実施の形態に係る距離画像生成装置の構成を示すブロック図である。 図2は、信号量をS0、S1の順に取得し、各信号量は1回取得した際における、TOF方式のタイミングチャート図の一例である。 図3は、信号量をS0、S1、BGの順に取得し、各信号量は1回取得した際における、TOF方式のタイミングチャート図の一例である。 図4は、信号量をS1、S0、BGの順に取得し、各信号量は1回取得した際における、TOF方式のタイミングチャート図の一例である。 図5Aは、信号量をS0、S1の順に取得し、各信号量はN回(N:自然数)取得した際における、TOF方式のタイミングチャート図の一例である。 図5Bは、図5Aに続くタイミングチャート図である。 図5Cは、図5Bに続くタイミングチャート図である。 図6Aは、信号量をS0、S1、BGの順に取得し、各信号量はN回(N:自然数)取得した際における、TOF方式のタイミングチャート図の一例である。 図6Bは、図6Aに続くタイミングチャート図である。 図6Cは、図6Bに続くタイミングチャート図である。 図6Dは、図6Cに続くタイミングチャート図である。 図7Aは、信号量をS1、S0、BGの順に取得し、各信号量をN回(N:自然数)取得した際における、TOF方式のタイミングチャート図の一例である。 図7Bは、図7Aに続くタイミングチャート図である。 図7Cは、図7Bに続くタイミングチャート図である。 図8は、本発明の第一の実施の形態及び第二の実施の形態における処理手順のフローチャート図である。 図9は、被写体の測距の一例を示した図である。 図10は、被写体測距タイミングチャート図の一例である。 図11は、生成した距離画像の一例を示した図である。 図12Aは、被写体の距離値の分布特性の一例を示した図である。 図12Bは、被写体の距離値の分布特性の一例を示した図である。 図13は、本発明の第一の実施の形態における、第2の信号光(調整光)を用いて信号量をS0、S1の順に取得し、各信号量は1回取得した際におけるタイミングチャート図の一例である。 図14は、第2の信号光(調整光)を用いて信号量をS0、S1、BGの順に取得し、各信号量は1回取得した際における、タイミングチャート図の一例である。 図15は、第2の信号光(調整光)を用いて信号量をS1、S0、BGの順に取得し、各信号量は1回取得した際における、タイミングチャート図の一例である。 図16は、図8とは異なる処理手順のフローチャート図の一例である。 図17は、第2の信号光(測距光)の再調整を、第1の信号光(調整光)と第2の信号光(測距光)とを交互に照射して実施した際のフローチャート図の一例である。 図18は、第2の信号光(測距光)の再調整を、一定時間経過後に第1の信号光(調整光)を照射して実施した際のフローチャート図の一例である。 図19は、第2の信号光(測距光)の再調整を、第1の信号光(調整光)で算出した距離値の分布特性と、第2の信号光(測距光)で算出した距離値の分布特性との比較結果に基づいて実施した際のフローチャート図の一例である。 図20は、第1の信号光(調整光)を用いて距離値の分布特性の算出時に信号が飽和した場合に第1の信号光(調整光)の照射を調整した際のフローチャート図の一例である。 図21は、本発明の第二の実施の形態における、第2の信号光(調整光)を用いて信号量をS0、S1の順に取得し、各信号量は1回取得した際における、タイミングチャート図の一例である。 図22は、第2の信号光(調整光)を用いて信号量をS0、S1、BGの順に取得し、各信号量は1回取得した際における、タイミングチャート図の一例である。 図23は、第2の信号光(調整光)を用いて信号量をS1、S0、BGの順に取得し、各信号量は1回取得した際における、タイミングチャート図の一例である。
以下、本発明を実施するための形態について、図面を用いて詳細に説明する。ただし、本発明は以下の説明に限定されず、本発明の趣旨及びその範囲から逸脱することなくその形態及び詳細を様々に変更し得ることは当業者であれば容易に理解される。したがって、本発明は以下に示す実施の形態の掲載内容に限定して解釈されるものではない。なお、以下に説明する発明の構成において、同一部分又は同様な機能を有する部分には同一の符号を異なる図面間で共通して用い、その繰り返しの説明は省略する。
(第一の実施の形態)
図1は、本発明の一実施の形態に係る距離画像生成装置100の概略構成を示すブロック図である。図1に示す距離画像生成装置100は、TOF方式を用いた距離画像生成装置であり、被写体に向けて信号光を照射し、信号量を算出する光照射部101と、信号光が被写体で反射して生じた反射光を受光する受光部102と、照射光と反射光との時間差に基づいて距離画像生成装置100から被写体までの距離を算出し、算出した距離を距離値として各画素に有する距離画像を生成する距離画像生成部103と、距離値の分布特性を解析する距離値分布解析部104と、発光と露出との調整値を決定する信号調整部105と、発光を調整する照射制御部106と、露出を調整する露出制御部107とを備えている。信号調整部は、信号光の照射及び受光で得られた分布特性に基づいて、照射制御部106と露出制御部107との少なくとも1つを制御する。
光照射部101で照射する光として赤外光やレーザー等が挙げられる。受光部102で用いるイメージセンサとして、CCD(Charge Coupled Device)、CMOS(Complementaly Metal−Oxide Semiconductor)センサ等が挙げられる。
距離値分布解析部104にて解析した分布特性に示される信号量の最大値、平均値、閾値の設定、極大値等で調整値を決定する方法や、信号調整部105に信号量調整テーブルを持たせ、分布特性の結果に対応し、調整値を決定する方法等が挙げられる。
照射制御部106を調整するパラメータの例として、照射する信号光の強度、照射する信号光の発光時間、照射する信号光の照射回数等が挙げられる。露出制御部107を調整するパラメータの例として、露光する時間、露光するタイミング等が挙げられる。またパラメータの調整方法の例として、イメージセンサのシャッター速度の変更、絞り機構の使用、光透過率を変更可能なフィルタを用いる等が挙げられる。
本発明では、TOF方式を用いて被写体までの距離値を算出し、算出した距離値の分布特性に基づいて、信号光を調整することを特徴とする。説明の便宜上、第1の信号光と第2の信号光という2種類の信号光を用いて説明する。第1の信号光は、第2の信号光の発光及び露光の調整に用いる信号光であり、第2の信号光は被写体位置や数に応じた、精度の高い距離画像を生成するために用いる信号光である。
まず、TOF方式を用いた被写体の測距方法について説明する。TOF方式とは、光照射部101より被写体に対して光(照射光)を照射し、被写体で反射された光(反射光)が受光部102に到着する際、照射光が被写体に到着し、更に照射光が被写体で反射し、その反射光が受光部102に到着するまでの時間を検出して、距離画像生成装置100から被写体までの距離を算出(測距)する方式である。距離画像生成装置100から被写体までの距離Lは、光速をc(約3.0×108m/s)、照射してから反射光が到達するまでの時間をΔTとすると、L=(c×ΔT)/2で表すことができる。
本発明の適用を想定している具体的な駆動方法に関して、図2のタイミングチャートを用いて説明する。図2は、照射光201、反射光202及び露光203のタイミングチャートの一例である。
照射光201のタイミングチャートに示すとおり、時刻T1は、第1の照射開始時刻、時刻T3は、第1の照射終了時刻であり、時刻T1〜時刻T3は、第1の発光時間である。時刻T6は、第2の照射開始時刻、時刻T8は、第2の照射終了時刻であり、時刻T6〜時刻T8は、第2の発光時間である。第1の発光時間と第2の発光時間とは等しい長さTであることを想定しているが、この限りではない。
反射光202のタイミングチャートに示すとおり、時刻T2は、第1の反射開始時刻、時刻T4は、第1の反射終了時刻であり、時刻T2〜時刻T4は、第1の反射時間である。時刻T7は、第2の反射開始時刻、時刻T9は第2の反射終了時刻であり、時刻T7〜時刻T9は、第2の反射時間である。発光時間と反射時間とは等しい長さTであることを想定しているが、この限りではない。
露光203のタイミングチャートに示すとおり、時刻T1は、第1の露光開始時刻、時刻T5は、第1の露光終了時刻であり、時刻T1〜時刻T5は、第1の露光時間(反射光の全光量露光時間)である。時刻T8は、第2の露光開始時刻、時刻T10は、第2の露光終了時刻であり、時刻T8〜時刻T10は第2の露光時間(反射光の遅延光量露光時間)である。第1の露光時間及び第2の露光時間は等しく、露光時間は発光時間Tの2倍である2Tを想定しているが、この限りではない。
また、露光203のタイミングチャートに示すとおり、時刻T2〜時刻T4は、第1の反射光の受光時間であり、この時間に得られた信号量(全光量露光で得られた信号量)を“信号量S0”とする。また時刻T8〜時刻T9は、第2の反射光の受光時間であり、この時間に得られた信号量(遅延光量露光で得られた信号量)を“信号量S1”とする。
なお、露光とは、被写体に向けて照射した信号光が対象距離範囲以内にある被写体より反射されたすべての反射光を受光部で蓄積することをいい、受光とは、被写体に向けて照射した信号光が対象距離範囲以内のある距離において被写体で反射された反射光を受光部で蓄積することをいう。
第1の露光開始時刻は、第1の照射開始時刻と同じタイミングであり、第2の露光開始時刻は、第2の照射終了時刻と同じタイミングであることを想定しているが、この限りではない。
このように第1の照射、反射、露光によって得られた信号量S0と、第2の照射、反射、露光によって得られた信号量S1とを用いた被写体までの距離Lの算出方法を、計算式を用いて説明する。
照射時間(発光時間)をT、信号照射から被写体に到達し反射して受光するまでの時間をΔT、光速をc、信号光の比例定数をKとすると、光源から被写体までの距離Lは、数式(1)〜数式(4)から導かれる数式(5)のように表すことができる。
Figure 0006587185
Figure 0006587185
Figure 0006587185
Figure 0006587185
Figure 0006587185
図3は、照射光301、反射光302及び露光303のタイミングチャートの一例である。信号量S0及び信号量S1には照射光とは無関係に、周辺光によって生じる信号量も含むため、図3のタイミングチャートに示すとおり、未照射期間(時刻T11〜時刻T12)の信号量BGを取得し、数式(6)に示すとおり、信号量S0及び信号量S1から信号量BGを差し引いて、被写体までの距離Lを算出することも想定される。
Figure 0006587185
図4は、照射光401、反射光402及び露光403のタイミングチャートの一例である。図4のタイミングチャートで示すとおり、信号量S1の露光開始時刻を第1の照射開始時刻よりも早くし、信号光を取得する際は、数式(7)〜数式(11)から導かれる数式(12)に示すとおりの算出式で、被写体までの距離Lを算出することも想定される。周辺光によって生じる信号量を考慮する際の算出式は、数式(13)に示すとおりである。
Figure 0006587185
Figure 0006587185
Figure 0006587185
Figure 0006587185
Figure 0006587185
Figure 0006587185
Figure 0006587185
このように、光速c及び発光時間Tは既知の値であるため、信号量S0と信号量S1を取得できれば、被写体までの距離Lを算出可能である。
また、数式(5)及び数式(6)の取得方法において、各信号量(S0、S1、BG)を複数回取得し、合計値を用いることも考えられる。
数式(5)の取得方法に関して、複数回取得した際の挙動を図5A〜図5Cに示したタイミングチャートを用いて説明する。図5A〜図5Cは、照射光501、反射光502及び露光503のタイミングチャートの一例である。図5A〜図5Cは、各信号量の取得に際し、信号光をN回(N:自然数)照射した際の挙動を表している。時刻T1から時刻T20までは信号量S0の受光期間であり、時刻T21から時刻T40までは信号量S1の受光期間である。距離値算出に用いる信号量S0は、時刻T2〜時刻T4で得られた信号量S0、時刻T7〜時刻T9で得られた信号量S0、時刻T12〜時刻T14で得られた信号量S0、時刻T17〜時刻T19で得られた信号量S0等の合計値である。すなわち、N回取得した信号量S0の合計値である。距離値算出に用いる信号量S1は、時刻T23〜時刻T24で得られた信号量S1、時刻T28〜時刻T29で得られた信号量S1、時刻T33〜時刻T34で得られた信号量S1、時刻T38〜時刻T39で得られた信号量S1等の合計値である。すなわち、N回取得した信号量S1の合計値である。このように、図5A〜図5Cに示したような挙動に基づいて得られた、第1の信号光(調整光)の信号量S0及びS1を数式(5)に適用することも想定している。
また、信号量S0及び信号量S1に含まれる、周辺光によって生じる信号量を考慮する際のタイミングチャートを図6A〜図6Dに示す。図6A〜図6Dは、照射光601、反射光602及び露光603のタイミングチャートの一例である。図6A〜図6Dは、各信号量の取得に際し、信号光をN回(N:自然数)照射した際の挙動を表している。時刻T1から時刻T40までの挙動は、図5A〜図5Cと同様であるため説明は割愛する。時刻T41から時刻T48までは信号量BGの受光期間である。距離値算出に用いる信号量BGは、時刻T41〜時刻T42で得られた信号量BG、時刻T43〜時刻T44で得られた信号量BG、時刻T45〜時刻T46で得られた信号量BG、時刻T47〜時刻T48で得られた信号量BG等の合計値である。すなわち、N回取得した信号量BGの合計値である。このように、図6A〜図6Dに示したような挙動に基づいて得られた、第1の信号光(調整光)の信号量S0、S1及びBGを数式(6)に適用することも想定している。
更に、図4のタイミングチャートを用いて説明した、信号量S1の露光開始時刻を第1の照射開始時刻よりも早くした場合において、信号量を複数回取得することも考えられる(図7A〜図7C)。図7A〜図7Cは、照射光701、反射光702及び露光703のタイミングチャートの一例である。その際の算出式は数式(12)及び数式(13)である。
次に、図8〜図15を用いて、第一の実施の形態に係る距離画像生成装置100の処理動作の流れについて、図9で示したような被写体903の図11で示したような距離画像を生成する具体的な一例を用いて説明する。図8は、第一の実施の形態に係る距離画像生成装置100における処理動作の流れを示すフローチャートである。
光照射部101から被写体に向けて第1の信号光(調整光)を照射し、調整光が被写体で反射して生じた反射光を受光部102で受光し、各信号量(S0、S1、BG)を取得する(S801)。
そして、各信号量を取得する処理を、N回(N:自然数)繰り返す(S802)。信号光の照射と受光及び信号量の取得に関するタイミングチャートを図10に示す。図10は、照射光1001、反射光1002及び露光1003のタイミングチャートの一例である。図10はN=1の動作であり、信号量はS0とS1を取得した際の挙動である。
受光部102は複数の受光素子で構成されており、素子毎に信号量を取得できる。そのため、距離画像生成部103は受光部102で得られた複数の信号量に基づいて、距離情報(距離値)を算出し、(S803)、更に図11に示すような複数の距離値で構成された距離画像1100を生成する。
距離値分布解析部104は、距離画像生成部103で生成した距離画像をもとに、図12Aおよび図12Bで示すような距離値の分布特性を算出し、保存する(S804)。
距離値分布解析部104が算出した距離値の分布特性に基づいて、信号調整部105は、照射制御部106及び露出制御部107の調整値を算出する(S805)。具体的には、分布特性の結果に基づいて最近距離(N)を算出し、最近距離(N)に基づいて露光不要時間(Δα)を算出し、露光不要時間(Δα)に基づいて露光開始時間(EXS)を算出し、露光不要時間(Δα)に基づいて照射回数(EC)と露光回数(EXC)とを算出する。
調整値の決定方法として、分布特性に示される信号量の最大値、平均値、閾値の設定、極大値等で決定する方法や、信号調整部105に信号量調整テーブルを持たせ、分布特性の結果に対応し、調整値を決定する方法が挙げられる。
以下、各調整値に関して具体的に説明する。
最近距離(N)は、被写体が存在すると考えられる最も近い奥行き距離である。最近距離(N)はカメラ等の撮像装置から被写体までの距離に応じて変化する。すなわち、被写体が近距離に存在すれば最近距離(N)は小さくなる。
露光不要時間(Δα)は、被写体が存在しない奥行き距離範囲に関しては、露光を実施しない時間帯である。露光不要時間(Δα)は、光速cと被写体が存在しない奥行き距離範囲とに基づいて算出する。例えば、分布特性の算出結果に基づいて、奥行き距離範囲0〜1.11mには被写体が存在しないと判断された場合、光速cは3.0×108m/sであり、露光不要時間(Δα)は、1.11=(3.0×108×Δα)/2、という式から、露光不要時間(Δα)=7.4nsと算出できる。
露光開始時間(EXS)は、反射光の露光開始時間であり、露光不要時間(Δα)に基づいて算出される。露光不要時間(Δα)が長くなれば、露光開始時間(EXS)は遅くなり、露光不要時間(Δα)が短くなれば、露光開始時間(EXS)は早くなる。
照射回数(EC)は、各信号量の取得回数であり、露光不要時間(Δα)に基づいて算出される。露光不要時間(Δα)を設けることで、不要な露光を防ぐことになるが弊害として、取得する信号量が減少し、S/N比の悪化につながる。そのため、照射回数(EC)を設けて各信号量の取得回数を操作することで、S/N比の悪化を防止する。
露光回数(EXC)は、反射光の露光回数であり、露光不要時間(Δα)に基づいて算出される。また、露光回数(EXC)は照射回数(EC)の2倍である。
このように露光不要時間(Δα)と露光開始時間(EXS)とを設けて必要な反射光のみを受光し、信号量の分解能向上を図る。更に照射回数(EC)と露光回数(EXC)とを設けて取得する信号量の減少に伴うS/N比の悪化を防ぐ。
信号調整部105で決定された調整値に基づいて、信号調整部105は照射制御部106及び露出制御部107を制御し、第2の信号光(測距光)の照射と受光を調整する(S806)。照射回数(EC)は、照射制御部106の調整値であり、露光開始時間(EXS)と露光回数(EXC)は、露出制御部107の調整値である。また、上記の調整値に加えて、照射強度(E)を信号量が飽和する限界に調整してもよい。
次に、第2の信号光(測距光)を用いた、被写体の測距に関して説明する。
第2の信号光(測距光)の調整後、光照射部101から第2の信号光(測距光)を被写体に向けて照射し、第1の信号光(調整光)と同様、受光部102で反射光を露光し、信号量を取得する(S807)。
第2の信号光(測距光)を用いた具体的な駆動方法に関して、図13のタイミングチャートを用いて説明する。図13は、照射光1301、反射光1302及び露光1303のタイミングチャートの一例である。図13は照射回数(EC)=1と判定された際の挙動を表した図であるが、N回照射の挙動も同様の考えである。
照射光1301のタイミングチャートに示すとおり、時刻T1は、第1の照射開始時刻、時刻T4は、第1の照射終了時刻であり、時刻T1〜時刻T4は、第1の発光時間である。時刻T8は、第2の照射開始時刻、時刻T11は、第2の照射終了時刻であり、時刻T8〜時刻T11は、第2の発光時間である。第1の発光時間と第2の発光時間とは等しい長さTであることを想定しているが、この限りではない。
反射光1302のタイミングチャートに示すとおり、時刻T3は、第1の反射開始時刻、時刻T6は、第1の反射終了時刻であり、時刻T3〜時刻T6は、第1の反射時間である。時刻T10は、第2の反射開始時刻、時刻T13は、第2の反射終了時刻であり、時刻T10〜時刻T13は、第2の反射時間である。発光時間と反射時間とは等しい長さTであることを想定しているが、この限りではない。
露光1303のタイミングチャートに示すとおり、時刻T2は、第3の露光開始時刻、時刻T4は、第3の露光終了時刻であり、時刻T2〜時刻T4は、第3の露光時間(1回目の信号量S0の露光時間)である。時刻T5は、第4の露光開始時刻、時刻T7は、第4の露光終了時刻であり、時刻T5〜時刻T7は第4の露光時間(2回目の信号量S0の露光時間)である。時刻T12は、第5の露光開始時刻、時刻T14は、第5の露光終了時刻であり、時刻T12〜時刻T14は、第5の露光時間(1回目の信号量S1の露光時間)である。時刻T15は、第6の露光開始時刻、時刻T16は、第6の露光終了時刻であり、時刻T15〜時刻T16は第6の露光時間(2回目の信号量S1の露光時間)である。第3の露光時間〜第6の露光時間は互いに等しい長さTであることを想定しているが、この限りではない。
また、露光1303のタイミングチャートに示すとおり、時刻T3〜時刻T4は、第3の反射光の受光時間であり、時刻T5〜時刻T6は第4の反射光の受光時間であり、第3の反射光の受光時間と第4の反射光の受光時間に得られた信号量の総和を数式(1)から数式(13)のS0と置き換える。また時刻T12〜時刻T13は、第5の反射光の受光時間)であり、また時刻T15〜時刻T16は、第6の反射光の受光時間であり、第5の反射光の受光時間と第6の反射光の受光時間に得られた信号量の総和を数式(1)から数式(13)のS1と置き換える。
なお、第3の露光時間および第4の露光時間は、図2における第1の露光時間に相当する。また、第5の露光時間および第6の露光時間は、図2における第2の露光時間に相当する。
また、時刻T1〜時刻T2、時刻T4〜時刻T5、時刻T8〜時刻T9、時刻T11〜時刻T12、時刻T14〜時刻T15は、露光不要時間(Δα)であり、時間はそれぞれ等しい長さTであることを想定しているが、この限りではない。
第3の露光開始時刻(時刻T2)は、第1の照射開始時刻(時刻T1)から、露光不要時間(Δα)経過後のタイミングであり、第4の露光開始時刻(時刻T5)は、第1の照射終了時刻(時刻T4)から、露光不要時間(Δα)経過後のタイミングであり、第5の露光開始時刻(時刻T12)は、第2の照射終了時刻(時刻T11)から、露光不要時間(Δα)経過後のタイミングであり、第6の露光開始時刻(時刻T15)は、第5の露光終了時刻(時刻T14)から、露光不要時間(Δα)経過後のタイミングであることを想定しているが、この限りではない。
上記で説明した処理をN回(照射回数(EC)で設定された回数)繰り返し、各信号量を取得する(S808)。
次に、取得した信号量に基づいて距離値を算出する(S809)。図13に示したタイミングチャートを一例として、距離値の算出に関し、数式を用いて説明する。発光時間をT、光速をc、信号の照射から被写体に到達し反射して受光するまでの時間をΔT、露光不要時間をΔα、ΔTとΔαとの差分時間をΔβ(Δβ=ΔT−Δα)、TとΔTとの差分時間をΔγ(Δγ=T−ΔT)とすると、被写体までの距離Lは、数式(14)〜数式(22)から導かれる数式(23)のように表せる。
Figure 0006587185
Figure 0006587185
Figure 0006587185
Figure 0006587185
Figure 0006587185
Figure 0006587185
Figure 0006587185
Figure 0006587185
Figure 0006587185
Figure 0006587185
また、第1の信号光(調整光)と同様、第2の信号光(測距光)の照射に基づいて取得した、信号量S0及び信号量S1には、周辺の物体が環境光によって反射した信号量も含まれるため、未照射時間に取得した信号量BGを、信号量S0及び信号量S1から差し引いての距離算出も可能であり、その際のタイミングチャートは図14であり、数式(24)のように表せる。図14は、照射光1401、反射光1402及び露光1403のタイミングチャートの一例である。
Figure 0006587185
更に、信号量S1の露光開始時刻を第1の照射開始時刻よりも早くして、信号量を取得する方法に適応した際の挙動を図15のタイミングチャートで示す。図15は、照射光1501、反射光1502及び露光1503のタイミングチャートの一例である。図15においては、数式(25)〜数式(34)から導かれる数式(35)のようにして、被写体までの距離Lを算出できる。また、周辺からの光によって生じる信号量を考慮する際の算出式は、数式(36)に示すとおりである。数式で用いている変数は、数式(14)〜数式(24)と同様である。
Figure 0006587185
Figure 0006587185
Figure 0006587185
Figure 0006587185
Figure 0006587185
Figure 0006587185
Figure 0006587185
Figure 0006587185
Figure 0006587185
Figure 0006587185
Figure 0006587185
Figure 0006587185
上記の数式において、発光時間T及び露光不要時間(Δα)は既知の値であるため、第1の信号光(調整光)と同様、信号量S0、信号量S1及び信号量BGを取得することで、距離画像生成部103は被写体までの距離Lの算出及び距離画像の生成が可能となる(S809、S810)。
また、図16に示したフローチャート(S1601〜S1610)のように、第2の信号光(測距光)を用いた距離画像の生成を繰り返す方法も考えられる(S1607〜S1610の処理を繰り返す)。
図17〜図19を用いて、第2の信号光(測距光)の再調整を説明する。
距離画像生成装置100や被写体903の動きに対応するには、第2の信号光(測距光)の再調整が必要である。第2の信号光(測距光)の再調整を行う際は、照射制御部106及び露出制御部107を用いて、光照射部101と受光部102を第1の信号光(調整光)と同様の値に設定する。再調整を実施するタイミング決定方法は、いくつか挙げられる。
方法1:図17のS1701〜S1711のように、第1の信号光(調整光)と第2の信号光(測距光)を交互に照射し、第2の信号光(測距光)を再調整する。図8を用いて説明した方法と同様、第1の信号光(調整光)で得た結果を用いて、第2の信号光(測距光)の照射と露出を調整した後、第2の信号光(測距光)を用いて距離画像を生成する(S1701〜S1710)。その後、照射と露出を第1の信号光(調整光)に戻し(S1711)、第1の信号光(調整光)を用いて、第2の信号光(測距光)の調整を再度実施する。
方法2:図18のS1801〜S1812のように、一定時間毎に第1の信号光(調整光)を照射し、第2の信号光(測距光)を再調整する。図8を用いて説明した方法と同様、第1の信号光(調整光)で得た結果を用いて、第2の信号光(測距光)の照射と露出を調整する(S1801〜S1806)。第2の信号光(測距光)の調整終了からカウントを開始し、調整後、一定時間経過していなければ第2の信号光(測距光)を用いて距離画像を繰り返し生成し(S1808〜S1811)、一定時間経過後ならば、照射と露出を第1の信号光(調整光)に戻し(S1812)、第1の信号光(調整光)を用いて、第2の信号光(測距光)の調整を再度実施する。
方法3:図19のS1901〜S1914のように、第1の信号光(調整光)を用いて算出した分布特性と、第2の信号光(測距光)を用いて算出した分布特性とを比較し、2つの分布特性が逸脱した際に、第2の信号光(測距光)を再調整する。図8を用いて説明した方法と同様、第1の信号光(調整光)を用いて距離値の分布特性を算出し(S1901〜S1904)、その後、算出した分布特性を保存する(S1905)。そして、第2の信号光(測距光)を調整し、第2の信号光(測距光)を用いて距離値の分布特性を算出する(S1906〜S1911)。第1の信号光(調整光)で算出した分布特性と、第2の信号光(測距光)で算出した分布特性とを比較し(S1912)、2つのヒストグラムが大きく異ならない場合は距離画像を生成し(S1913)、大きく異なる場合は、照射と露出を第1の信号光(調整光)に戻し(S1914)、第1の信号光(調整光)を用いて、第2の信号光(測距光)の調整を再度実施する。例えば、図12Aを第1の信号光で算出した分布特性を示し、図12Bを第2の信号光で算出した分布特性を示している場合、ここでは、距離10−11間、距離11−12間の頻度が図12Aより図12Bで増加しており、別の被写体が入り込んだと考えられる。上記のような場合、所定の値を設定し、特定の距離間の頻度の差が所定の値を超えた場合を、分布特性の差が大きく異なる場合とすることができる。あるいは、最大頻度が距離8−9間から9−11間に変化した場合、被写体が移動したと考えられる。
上記3つの方法は、独立して実施することも、組み合わせて実施することも可能である。
最後に、第1の信号光(調整光)を用いた分布特性の算出に関し、信号量が飽和した際の挙動を説明する。
図20のS2001〜S2013のように、図8を用いて説明した方法と同様、第1の信号光(調整光)を用いて距離値の分布特性を算出し(S2001〜S2004)、信号が飽和しているか確認する(S2005)。なお、飽和しているかどうかは、受光部から出力される信号が最大値で出力されているかどうかにより判断する。なぜなら受光部から出力される信号は受光部で受光できる最大電荷以下で最大値となるよう設定されているためである。もし、信号が飽和しているのならば第1の信号光(調整光)の照射強度を下げ(S2006)、再び第1の信号光(測距光)を用いて分布特性を算出する。また、照射強度の調整回数が一定数以上ならば、被写体の反射率が異常に高いと判定し終了する(S2007)。第1の信号光(調整光)を用いた距離値に、信号が飽和していなければ第2の信号光(測距光)の調整を実施し、調整した第2の信号光(測距光)を用いて距離画像を生成する(S2008〜S2013)。
また、上記の説明に第2の信号光(測距光)の再調整の方法を組み合わせてもよい。
以上のような処理を実施することにより、被写体位置に応じた被写体の測距と精度の高い距離画像の生成を行うことができる。
(第二の実施の形態)
第二の実施の形態に関して、以下に図を用いて説明する。なお、第一の実施の形態と重複する箇所の説明は割愛する。
第二の実施の形態と第一の実施の形態で異なる点は、図1中の信号調整部105で算出する調整値の数であり、TOF方式を用いた被写体の測距方法、第1の信号光(調整光)と第2の信号光(測距光)とを用いて被写体の測距(距離画像の生成)を行う点は、第一の実施の形態と同様である。
次に、具体的な処理手順に関して説明する。まず、第一の実施の形態で説明済みの方法と同様であり、図8の処理手順に準ずる。被写体に向けて光照射部101から第1の信号光(調整光)を照射し、被写体で反射した第1の信号光(調整光)の反射光を受光部102で受光し、信号量S0及び信号量S1(必要に応じて更に信号量BG)をN回(N:自然数)取得し、取得した信号量に基づいて距離画像生成部103で距離画像を生成し、距離画像に基づいて距離値分布解析部104で距離値の分布特性を算出し、算出された分布特性に基づいて、信号調整部105は照射制御部106及び露出制御部107の調整値を算出する。
距離値分布解析部104が算出した距離値の分布特性に基づいて、信号調整部105は、照射制御部106及び露出制御部107の調整値を算出する。具体的には、分布特性に基づいて最遠距離(F)と最近距離(N)とを算出し、最遠距離(F)に基づいて照射強度(E)を算出し、最近距離(N)に基づいて露光不要時間(Δα)を算出し、露光不要時間(Δα)に基づいて露光開始時間(EXS)を算出し、最遠距離(F)と最近距離(N)とに基づいて照射時間(T)を算出し、照射時間(T)に基づいて露光時間(EXT)を算出し、照射強度(E)と照射時間(T)とに基づいて照射回数(EC)と露光回数(EXC)とを算出する。
調整値の決定方法は第一の実施の形態と同様、分布特性に示される信号量の最大値、平均値、閾値の設定、極大値等で決定する方法や、信号調整部105に信号量調整テーブルを持たせ、分布特性の結果に応じ、調整値を決定する方法が挙げられる。
以下、各調整値に関して説明する。
最遠距離(F)は、被写体が存在すると考えられる最も遠い奥行き距離であり、一方、最近距離(N)は、被写体が存在すると考えられる最も近い奥行き距離である。最遠距離(F)と最近距離(N)とはカメラ等の撮像装置から被写体までの距離に応じて変化する。すなわち、被写体が近距離に存在すれば最近距離(N)は小さく、被写体が遠距離に存在すれば最遠距離(F)は大きくなる。
照射強度(E)は、照射する信号光の強さであり、最遠距離(F)に基づいて算出される。被写体が遠距離に存在する場合は、最遠距離(F)が大きくなるため、照射強度(E)も大きくし、S/N比の低下を防ぐ。また、被写体が近距離に存在する場合は、最遠距離(F)が小さくなるため、照射強度(E)は小さくし、取得する反射光の信号量飽和を防ぐ。照射強度(E)は飽和する限界値に調整することを想定している。
露光不要時間(Δα)は、反射光の露光タイミングを調整する時間であり、最近距離(N)に基づいて算出される。最近距離(N)が近いほど、露光不要時間(Δα)は短くなり、最近距離(N)が遠いほど、露光不要時間(Δα)は長くなる。
露光開始時間(EXS)は、反射光の露光開始時間であり、露光不要時間(Δα)に基づいて算出される。露光不要時間(Δα)が長くなれば、露光開始時間(EXS)は遅くなり、露光不要時間(Δα)が短くなれば、露光開始時間(EXS)は早くなる。
照射時間(T)は、照射する信号光の照射時間であり、最遠距離(F)と最近距離(N)との差分の絶対値に基づいて算出される。最遠距離(F)と最近距離(N)との差分値が小さく、照射時間(T)が短い場合は、測距の奥行き距離範囲が狭い状態である。一方、最遠距離(F)と最近距離(N)との差分値が大きく、照射時間(T)が長い場合は、測距の奥行き距離範囲が広い状態である。
露光時間(EXT)は、被写体に向けて照射した信号光が被写体で反射した反射光を露光する時間である。露光時間(EXT)は、照射時間(T)が長ければ長くなり、照射時間(T)が短ければ短くなる。また、露光時間(EXT)は照射時間(T)の2倍である。
照射回数(EC)は、各信号量の取得回数であり、照射強度(E)と照射時間(T)とに基づいて算出される。照射強度(E)及び照射時間(T)の調整に伴い不要な露光を防ぐことになるが、弊害として、取得する信号量が減少し、S/N比の悪化につながる。そのため、照射回数(EC)を設けて各信号量の取得回数を操作することで、S/N比の悪化を防止する。
総照射量は照射強度(E)と照射時間(T)と照射回数(EC)の積であり、総照射量は被写体の反射率で変動するため、例えば、総照射量が受光量最大となる画素が飽和する限界値近傍になるように調整する。
露光回数(EXC)は、反射光の露光回数であり、照射強度(E)と照射時間(T)とに基づいて算出される。また、露光回数(EXC)は照射回数(EC)と同じ数である。
上記の調整値を用いて、第2の信号光(測距光)を調整する。照射強度(E)の強弱、照射時間(T)の長短、照射回数(EC)の増減は、照射制御部106の調整値であり、露光時間(EXT)の長短、露光開始時間(露光開始時刻)(EXS)、露光回数(EXC)の増減は、露出制御部107の調整値である。
このように、距離値の分布特性に基づき、被写体が存在する奥行き距離を把握し、該当距離における反射光のみを露光することで、取得する信号量を削減することが可能である。一方、信号量の減少に伴いS/N比が低下し、距離値の精度悪化を招くため、それを考慮に入れ、照射強度(E)、照射時間(T)、照射回数(EC)を決定する必要がある。また、第1の信号光(調整光)で取得した距離値の分布特性によっては、第1の信号光(調整光)と第2の信号光(測距光)とが同一の照射強度(E)、照射時間(T)、照射回数(EC)、露光時間(EXT)、露光開始時間(EXS)、露光回数(EXC)となる場合もある。
なお、上記の調整値は、単独で調整しても組み合わせて調整しても良い。
次に、第2の信号光(測距光)を用いた、被写体の測距に関して説明する。
第一の実施の形態と同様、調整の済んだ第2の信号光(測距光)を光照射部101から被写体に向けて照射し、被写体で反射した第2の信号光(測距光)の反射光を、受光部102で受光し、受光した信号量に基づいて、距離画像生成部103で被写体の距離画像を算出する。
第2の信号光(測距光)を用いた具体的な駆動方法に関して、図21のタイミングチャートを用いて説明する。図21は、照射光2101、反射光2102及び露光2103のタイミングチャートの一例である。図21は照射回数(EC)=露光回数(EXC)=1と判定された際の挙動を表した図であるが、N回(N:自然数)照射の挙動も同様の考えである。
照射光2101のタイミングチャートに示すとおり、時刻T1は、第1の照射開始時刻、時刻T3は、第1の照射終了時刻であり、時刻T1〜時刻T3は、第1の発光時間である。時刻T7は、第2の照射開始時刻、時刻T9は、第2の照射終了時刻であり、時刻T7〜時刻T9は、第2の発光時間である。第1の発光時間及び第2の発光時間は等しい長さTであることを想定しているが、この限りではない。
反射光2102のタイミングチャートに示すとおり、時刻T4は、第1の反射開始時刻、時刻T5は、第1の反射終了時刻であり、時刻T4〜時刻T5は、第1の反射時間である。時刻T10は、第2の反射開始時刻、時刻T12は、第2の反射終了時刻であり、時刻T10〜時刻T12は、第2の反射時間である。発光時間と反射時間とは等しい長さTであることを想定しているが、この限りではない。
露光2103のタイミングチャートに示すとおり、時刻T2は、第1の露光開始時刻、時刻T6は、第1の露光終了時刻であり、時刻T2〜時刻T6は、第1の露光時間(信号光S0の受光時間)である。時刻T11は、第2の露光開始時刻、時刻T14は、第2の露光終了時刻であり、時刻T11〜時刻T14は第2の露光時間(信号光S1の受光時間)である。第1の露光時間と第2の露光時間とは等しい長さTであることを想定しているが、この限りではない。
また、露光2103に示すとおり、時刻T2〜時刻T6は、第1の反射光の受光時間(信号光S0の受光時間)であり、第1の反射光の受光時間に得られた信号量をS0とする。また時刻T11〜時刻T14は、第2の反射光の受光時間(信号光S1の受光時間)であり、第2の反射光の受光時間に得られた信号量をS1とする。
また、時刻T1〜時刻T2、時刻T9〜時刻T11は、露光不要時間(Δα)であり、それぞれの時間は等しいがこの限りではない。
第1の露光開始時刻(時刻T2)は、第1の照射開始時刻(時刻T1)から、露光不要時間(Δα)経過後のタイミングであり、第2の露光開始時刻(時刻T11)は、第2の照射終了時刻(時刻T9)から、露光不要時間(Δα)経過後のタイミングであることを想定しているが、この限りではない。
次に、第2の信号光(測距光)で露光不要時間Δαを設けた際の、距離値の算出について説明する。発光時間をT,光速をc、信号光の照射から被写体に到達し反射して受光するまでの時間をΔT、露光不要時間をΔα、ΔTとΔαとの差分時間をΔβ(Δβ=ΔT−Δα)とすると被写体までの距離Lは、数式(37)〜数式(43)から導かれる数式(44)のように表せる。
Figure 0006587185
Figure 0006587185
Figure 0006587185
Figure 0006587185
Figure 0006587185
Figure 0006587185
Figure 0006587185
Figure 0006587185
また、第1の信号光(調整光)と同様、信号量S0及び信号量S1には周囲に存在する物体の環境光に基づく反射光も信号量に含まれるため、未照射時間に取得した信号量BGを、信号量S0及び信号量S1から差し引いて距離を算出することも可能であり、その際のタイミングチャートは図22に示すとおりである。図22は、照射光2201、反射光2202及び露光2203のタイミングチャートの一例である。その際の被写体までの距離Lは数式(45)のように表せる。
Figure 0006587185
図23は、照射光2301、反射光2302及び露光2303のタイミングチャートの一例である。図23のタイミングチャートで示すとおり、信号量S1の露光開始時刻を第1の照射開始時刻よりも早くし、信号光を取得する際は、数式(46)〜数式(55)から導かれる数式(56)に示すとおりの算出式で、被写体までの距離Lを算出することも想定される。周辺光によって生じる信号量を考慮する際の算出式は数式(57)に示すとおりである。
Figure 0006587185
Figure 0006587185
Figure 0006587185
Figure 0006587185
Figure 0006587185
Figure 0006587185
Figure 0006587185
Figure 0006587185
Figure 0006587185
Figure 0006587185
Figure 0006587185
Figure 0006587185
このように、被写体までの距離値Lの算出に必要な値は、信号量(S0、S1及びBG)、発光時間T、露光不要時間Δαであり、発光時間T及び露光不要時間Δαは既知の値であるため、第1の信号光(調整光)と同様、信号量(S0、S1及びBG)を取得することで、被写体の測距及び距離画像の生成が可能となる。
また、第一の実施の形態と同様、第2の信号光(測距光)の再調整と、第1の信号光(調整光)を用いた分布特性の算出において信号量が飽和時の挙動を、第二の実施の形態の処理に加えることも可能である。これらの説明は、第一の実施の形態で説明済みであるため割愛する。
以上のような処理を実施することによって、被写体位置に応じた被写体の測距と精度の高い距離画像の生成を行うことができる。
さて、本発明は、第一の実施の形態及び第二の実施の形態における各部を備える距離画像生成装置として提供することができるばかりでなく、距離画像生成装置が具備する各部を各ステップとする距離画像生成方法をコンピュータに実行させるプログラムを提供することも可能である。そして、このプログラムは、USB等に代表される記憶媒体やインターネットを介して流通させることができる。
なお、上記の説明で示される実施の形態が、単なる一例であるのは当然である。すなわち、権利が請求される対象の概念は、上記に示される実施の形態が抽象化された上位概念である。そして、この上位概念は、一例である上記に示された実施の形態により実施(実装、実現)されてもよいし、上記に示された実施の形態とは一部又は全部が異なる他の実施の形態により実施(実装、実現)されてもよいのは当然である。
本発明の距離画像生成装置は、第1の信号光(調整光)を用いて取得した距離画像に基づいて算出した距離値の分布特性に基づいて、第2の信号光(測距光)の照射と露出を調整することで、高精度の距離画像の生成を実現することができ、ジェスチャ認識、物体認識を必要とするデジタルAV機器、ゲーム機といった様々な機器に用いることが可能である。上述した機器に留まらず、本発明の距離画像生成装置は、必要な距離情報の分布特性を取得することが可能な距離画像生成装置であれば、適用することが可能である。
100 距離画像生成装置
101 光照射部
102 受光部
103 距離画像生成部
104 距離値分布解析部
105 信号調整部
106 照射制御部
107 露出制御部
903 被写体
1100 生成した距離画像

Claims (10)

  1. 光源から被写体に向けて信号光を照射する光照射部と、
    前記光照射部から照射された前記信号光が被写体において反射して生じた反射光を受光し、信号量を取得する受光部と、
    照射の開始時間と受光の開始時間との時間差に基づいて被写体までの距離値を算出しかつ距離画像を生成する距離画像生成部と、
    前記距離画像生成部が算出した前記距離値の分布特性を解析する距離値分布解析部と、
    前記光照射部の前記信号光の出力を調整する照射制御部と、
    前記受光部の受光を調整する露出制御部と、
    前記分布特性に基づいて前記出力と前記受光とに関する調整値を算出し、前記照射制御部と前記露出制御部とを制御する信号調整部とを備え、
    前記光照射部は前記信号光を被写体に向けて照射し、前記受光部は複数の前記信号量を異なるタイミングで取得し、距離画像生成部は前記複数の信号量の比率に基づいて、被写体までの前記距離値を算出し、
    被写体の前記距離画像を生成すべく照射する前記信号光は、第1の信号光と第2の信号光とがあり、前記第1の信号光は、前記第2の信号光の出力と受光に関する前記調整値を算出するための信号光であり、前記第2の信号光は、前記距離画像を生成するための信号光であり、
    前記信号調整部は、前記第1の信号光の照射及び受光で得られた前記分布特性に基づいて、被写体が存在しない奥行き距離範囲に対し露光を実施しない時間帯である露光不要時間を算出し、前記露光不要時間に基づいて前記第2の信号光の露光開始時間及び露光時間を調整することにより前記露出制御部を制御する
    ことを特徴とする距離画像生成装置。
  2. 請求項1記載の距離画像生成装置において、
    前記信号調整部は、前記調整値として、前記第1の信号光の照射及び受光で得られた前記分布特性に基づいて、前記第2の信号光の照射強度、照射時間、照射回数、及び露光回数のうち少なくとも1つを調整することにより前記照射制御部と前記露出制御部を制御する
    ことを特徴とする距離画像生成装置。
  3. 請求項2に記載の距離画像生成装置において、
    前記複数の信号量の、各信号量の算出において、前記信号光の被写体に向けた照射、前記反射光の受光、及び前記信号量の算出を繰り返して得た信号量の総和を、前記距離画像生成部は、前記距離値の算出に用いる
    ことを特徴とする距離画像生成装置。
  4. 請求項3記載の距離画像生成装置において、
    前記信号調整部は、前記分布特性に示される信号量の最大値、平均値、極大値、閾値のいずれかに基づいて前記調整値を決定し、又は前記信号調整部が予め持っている調整値の組合せテーブルに基づいて前記調整値を決定する
    ことを特徴とする距離画像生成装置。
  5. 請求項4記載の距離画像生成装置において、
    前記信号調整部は、一定時間毎に前記第1の信号光で算出した前記分布特性を前記距離値分布解析部に保存し、当該分布特性と前記第2の信号光を用いて算出した前記分布特性とを比較した差が設定した閾値を超えた際に、前記第2の信号光の再調整を実施する
    ことを特徴とする距離画像生成装置。
  6. 光照射部は光源から被写体に向けて第1の信号光を照射し、受光部は照射された前記第1の信号光が被写体において反射して生じた反射光を受光し、受光による第1の信号量を異なるタイミングで画素ごとに取得する第1の受光ステップと、
    前記第1の信号量の比率に基づいて、被写体までの第1の距離値を算出しかつ第1の距離画像を生成する第1の距離画像生成ステップと、
    前記第1の距離画像生成ステップで算出した前記第1の距離値の分布特性を解析する距離値分布解析ステップと、
    前記第1の分布特性に基づいて第2の信号光の出力と受光とに関する調整値を算出し、前記第2の信号光の出力と受光に関する調整値のうち少なくとも1つを調整する信号調整ステップと、
    前記第2の信号光の出力に関する調整値を調整する照射制御ステップと、
    前記第2の信号光の受光に関する調整値を調整する露出制御ステップと、
    少なくとも前記第1の信号光を照射した後、前記光照射部は前記光源から被写体に向けて前記第2の信号光を照射し、前記受光部は照射された前記第2の信号光が被写体において反射して生じた反射光を受光し、受光による第2の信号量を異なるタイミングで画素ごとに取得する第2の受光ステップと、
    前記第2の信号量の比率に基づいて、被写体までの第2の距離値を算出しかつ第2の距離画像を生成する第2の距離画像生成ステップとを含み、
    前記信号調整ステップにおいて、前記第1の信号光の照射及び受光で得られた前記分布特性に基づいて、被写体が存在しない奥行き距離範囲に対し露光を実施しない時間帯である露光不要時間を算出し、前記露光不要時間に基づいて前記第2の信号光の露光開始時間及び露光時間を調整する
    ことを特徴とする距離画像生成方法。
  7. 請求項6記載の距離画像生成方法において、
    前記信号調整ステップでは、前記調整値として、前記第1の信号光の照射及び受光で得られた前記分布特性に基づいて、前記第2の信号光の照射強度、照射時間、照射回数、及び露光回数のうち少なくとも1つを調整する
    ことを特徴とする距離画像生成方法。
  8. 請求項6記載の距離画像生成方法において、
    前記距離画像生成ステップでは、前記複数の信号量の、各信号量の算出において、前記信号光の被写体に向けた照射、前記反射光の受光、及び前記信号量の算出を繰り返して得た信号量の総和を、前記距離値の算出に用いる
    ことを特徴とする距離画像生成方法。
  9. 請求項8記載の距離画像生成方法において、
    前記信号調整ステップでは、前記第1の分布特性に示される信号量の最大値、平均値、極大値、閾値のいずれかで前記調整値を決定し、又は前記信号調整ステップにおいて予め調整値の組合せテーブルに基づいて前記調整値を決定する
    ことを特徴とする距離画像生成方法。
  10. 請求項9記載の距離画像生成方法において、
    前記信号調整ステップでは、一定時間毎に前記第1の信号光で算出した前記第1の分布特性を前記距離値分布解析ステップにて保存し、前記第1の分布特性と前記第2の信号光を用いて算出した第2の分布特性とを比較し、その差が設定した閾値を超えた際に、前記受光ステップと、前記距離画像生成ステップと、前記距離値分布解析ステップと、前記信号調整ステップとを再度実施する
    ことを特徴とする距離画像生成方法。
JP2015557761A 2014-01-14 2015-01-06 距離画像生成装置及び距離画像生成方法 Active JP6587185B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2014004479 2014-01-14
JP2014004479 2014-01-14
PCT/JP2015/000015 WO2015107869A1 (ja) 2014-01-14 2015-01-06 距離画像生成装置及び距離画像生成方法

Publications (2)

Publication Number Publication Date
JPWO2015107869A1 JPWO2015107869A1 (ja) 2017-03-23
JP6587185B2 true JP6587185B2 (ja) 2019-10-09

Family

ID=53542766

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015557761A Active JP6587185B2 (ja) 2014-01-14 2015-01-06 距離画像生成装置及び距離画像生成方法

Country Status (4)

Country Link
US (1) US10310084B2 (ja)
JP (1) JP6587185B2 (ja)
CN (1) CN105899966B (ja)
WO (1) WO2015107869A1 (ja)

Families Citing this family (37)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015166713A1 (ja) 2014-05-02 2015-11-05 富士フイルム株式会社 測距装置、測距法、及び測距プログラム
WO2016208214A1 (ja) * 2015-06-24 2016-12-29 株式会社村田製作所 距離センサ
JP6558122B2 (ja) * 2015-07-30 2019-08-14 株式会社デンソー 光飛行型測距装置
CN107850669B (zh) * 2015-07-31 2021-10-12 新唐科技日本株式会社 测距摄像装置及固体摄像装置
CN107852470B (zh) * 2015-08-04 2020-11-03 松下半导体解决方案株式会社 固体摄像装置的驱动方法
US9880267B2 (en) * 2015-09-04 2018-01-30 Microvision, Inc. Hybrid data acquisition in scanned beam display
EP3361283A4 (en) * 2015-10-09 2018-10-24 Panasonic Intellectual Property Management Co., Ltd. Imaging apparatus and solid-state image element used for same
EP3392740A4 (en) * 2015-12-18 2018-12-19 Sony Corporation Information processing device, information processing method, and program
US10928518B2 (en) 2016-04-19 2021-02-23 Hitachi-Lg Data Storage, Inc. Range image generation apparatus and range image generation method
JPWO2018151226A1 (ja) * 2017-02-15 2019-12-12 パイオニア株式会社 光走査装置及び制御方法
JP6735515B2 (ja) * 2017-03-29 2020-08-05 パナソニックIpマネジメント株式会社 固体撮像装置
WO2018181250A1 (ja) * 2017-03-30 2018-10-04 パナソニックIpマネジメント株式会社 距離画像生成装置及び距離画像生成方法
JP7076947B2 (ja) * 2017-03-31 2022-05-30 株式会社トプコン 測量装置、測量方法及び測量装置の制御プログラム
US10469775B2 (en) * 2017-03-31 2019-11-05 Semiconductor Components Industries, Llc High dynamic range storage gate pixel circuitry
US11280908B2 (en) * 2017-08-15 2022-03-22 Black Sesame Technologies Inc. Obstacle detection by global shutter image sensor
CN107517517B (zh) * 2017-08-25 2019-08-06 深圳市光域物联科技有限公司 多功能智慧灯、控制方法及驱动方法
JP2019052981A (ja) * 2017-09-15 2019-04-04 株式会社東芝 距離計測装置
CN108259744B (zh) 2018-01-24 2020-06-23 北京图森智途科技有限公司 图像采集控制方法及其装置、图像采集系统和tof相机
JP2019211231A (ja) * 2018-05-31 2019-12-12 株式会社日立エルジーデータストレージ 距離画像生成カメラ及び距離画像生成方法
CN109059795B (zh) * 2018-06-29 2020-11-03 歌尔光学科技有限公司 深度测量方法、深度测量装置及拍摄设备
JP7154924B2 (ja) * 2018-10-03 2022-10-18 株式会社日立エルジーデータストレージ 測距撮像装置
US11733387B2 (en) 2018-10-25 2023-08-22 Aeye, Inc. Adaptive ladar receiver control using spatial index of prior ladar return data
JPWO2020121705A1 (ja) * 2018-12-14 2021-11-04 ミラクシアエッジテクノロジー株式会社 撮像装置
KR102165091B1 (ko) * 2018-12-20 2020-10-13 (주)미래컴퍼니 3차원 거리측정 카메라
JP7151519B2 (ja) * 2019-02-01 2022-10-12 株式会社デンソーウェーブ 距離画像測定装置
US20220146648A1 (en) * 2019-02-22 2022-05-12 Sony Semiconductor Solutions Corporation Distance measuring device, method for controlling distance measuring device, and electronic device
US10656272B1 (en) 2019-04-24 2020-05-19 Aeye, Inc. Ladar system and method with polarized receivers
DE112020002746T5 (de) * 2019-05-31 2022-03-03 Sony Group Corporation Signalverarbeitungsvorrichtung, signalverarbeitungsverfahren und abstandsmessmodul
JP2021021597A (ja) * 2019-07-25 2021-02-18 株式会社東芝 距離計測装置、及び距離計測方法
JP7463671B2 (ja) 2019-08-01 2024-04-09 Toppanホールディングス株式会社 距離画像撮像装置、及び距離画像撮像方法
JPWO2021060397A1 (ja) * 2019-09-26 2021-04-01
CN110703270B (zh) * 2019-10-08 2022-02-22 歌尔光学科技有限公司 深度模组测距方法、装置、可读存储介质及深度相机
JP7416647B2 (ja) * 2020-03-12 2024-01-17 株式会社トプコン 測量装置
JP7421438B2 (ja) 2020-07-27 2024-01-24 株式会社トプコン 測量装置
JP7421437B2 (ja) 2020-07-27 2024-01-24 株式会社トプコン 測量装置
CN112738413B (zh) * 2021-04-02 2021-06-04 杭州宇泛智能科技有限公司 一种基于tof的人像区域亮度自动调节方法
CN113296114B (zh) * 2021-05-21 2024-05-14 Oppo广东移动通信有限公司 dTOF深度图像的采集方法、装置、电子设备及介质

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3235485B2 (ja) * 1995-11-17 2001-12-04 ミノルタ株式会社 3次元計測のための分光装置
US6141105A (en) * 1995-11-17 2000-10-31 Minolta Co., Ltd. Three-dimensional measuring device and three-dimensional measuring method
JP2000330001A (ja) 1999-05-20 2000-11-30 Olympus Optical Co Ltd 測距装置
JP3820087B2 (ja) * 1999-08-11 2006-09-13 ペンタックス株式会社 3次元画像検出装置
JP2002022425A (ja) * 2000-07-12 2002-01-23 Asahi Optical Co Ltd 3次元画像入力装置
JP2004012338A (ja) * 2002-06-07 2004-01-15 Nissan Motor Co Ltd 物体検知装置及び方法
JP4942467B2 (ja) * 2006-12-11 2012-05-30 富士フイルム株式会社 撮影装置および方法並びにプログラム
JP5295511B2 (ja) * 2007-03-23 2013-09-18 富士フイルム株式会社 測距装置及び測距方法
JP5190663B2 (ja) * 2007-03-27 2013-04-24 スタンレー電気株式会社 距離画像生成装置
JP5308088B2 (ja) * 2008-07-24 2013-10-09 パナソニック株式会社 距離画像センサ
JP5743390B2 (ja) * 2009-09-15 2015-07-01 本田技研工業株式会社 測距装置、及び測距方法
JP2011179997A (ja) 2010-03-02 2011-09-15 Panasonic Corp 距離情報取得装置および距離情報取得装置における光量調節方法
JP2012225807A (ja) 2011-04-20 2012-11-15 Optex Co Ltd 距離画像カメラおよび距離画像合成方法

Also Published As

Publication number Publication date
JPWO2015107869A1 (ja) 2017-03-23
WO2015107869A1 (ja) 2015-07-23
US20160320486A1 (en) 2016-11-03
US10310084B2 (en) 2019-06-04
CN105899966B (zh) 2019-05-07
CN105899966A (zh) 2016-08-24

Similar Documents

Publication Publication Date Title
JP6587185B2 (ja) 距離画像生成装置及び距離画像生成方法
JP6241793B2 (ja) 3次元測定装置および3次元測定方法
JP6675061B2 (ja) 距離検出装置及び距離検出方法
JP6751137B2 (ja) 距離画像生成装置および距離画像生成方法
KR102561099B1 (ko) ToF(time of flight) 촬영 장치 및 다중 반사에 의한 깊이 왜곡 저감 방법
KR102486385B1 (ko) 깊이 정보 획득 장치 및 방법
CN107148640B (zh) 飞行时间深度相机
KR102159994B1 (ko) 티오에프 카메라 장치 및 이의 구동 방법
WO2017085916A1 (ja) 撮像装置、及びそれに用いられる固体撮像素子
WO2015128915A1 (ja) 測距装置及び測距方法
JP6328966B2 (ja) 距離画像生成装置、物体検出装置および物体検出方法
JP2016509378A (ja) 関心のある被写体の適応性照明を用いる奥行き撮像方法および装置
US11408982B2 (en) Electromagnetic wave detection apparatus, program, and electromagnetic wave detection system
KR102194237B1 (ko) 깊이 영상 촬영 장치 및 깊이 정보 획득 방법
CN110876006B (zh) 混合使用多次曝光获得的深度图像
US10509125B2 (en) Method and device for acquiring distance information
JP6776692B2 (ja) 視差演算システム、移動体及びプログラム
US11573301B2 (en) Electromagnetic wave detection apparatus, program, and electromagnetic wave detection system
JP2018155649A (ja) 電磁波検出装置、プログラム、および電磁波検出システム
JP6313617B2 (ja) 距離画像生成装置、物体検出装置および物体検出方法
WO2021136284A1 (zh) 三维测距方法和装置
US10627519B2 (en) Information processing device and information processing method
US11194021B2 (en) Electromagnetic wave detection apparatus, program, and electromagnetic wave detection system comprising a controller to update related information associating an emission direction and two elements defining two points on a path of electromagnetic waves
JP2020020579A (ja) 流体速度測定方法及びシステム
US20240319376A1 (en) Signal processing apparatus, signal processing method, and program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20171024

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180605

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180706

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190108

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190215

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190806

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190830

R151 Written notification of patent or utility model registration

Ref document number: 6587185

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

SZ03 Written request for cancellation of trust registration

Free format text: JAPANESE INTERMEDIATE CODE: R313Z03

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250