Nothing Special   »   [go: up one dir, main page]

JP7543367B2 - 情報処理装置、移動体制御システムおよび情報処理方法 - Google Patents

情報処理装置、移動体制御システムおよび情報処理方法 Download PDF

Info

Publication number
JP7543367B2
JP7543367B2 JP2022171112A JP2022171112A JP7543367B2 JP 7543367 B2 JP7543367 B2 JP 7543367B2 JP 2022171112 A JP2022171112 A JP 2022171112A JP 2022171112 A JP2022171112 A JP 2022171112A JP 7543367 B2 JP7543367 B2 JP 7543367B2
Authority
JP
Japan
Prior art keywords
pair
captured images
reliability
image
parallax
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2022171112A
Other languages
English (en)
Other versions
JP2024063302A (ja
Inventor
誠 大井川
和哉 野林
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2022171112A priority Critical patent/JP7543367B2/ja
Priority to US18/489,963 priority patent/US20240147087A1/en
Priority to CN202311382722.3A priority patent/CN117939099A/zh
Priority to EP23205804.0A priority patent/EP4361557A1/en
Publication of JP2024063302A publication Critical patent/JP2024063302A/ja
Application granted granted Critical
Publication of JP7543367B2 publication Critical patent/JP7543367B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/57Control of the dynamic range
    • H04N25/58Control of the dynamic range involving two or more exposures
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C3/00Measuring distances in line of sight; Optical rangefinders
    • G01C3/10Measuring distances in line of sight; Optical rangefinders using a parallactic triangle with variable angles and a base of fixed length in the observation station, e.g. in the instrument
    • G01C3/14Measuring distances in line of sight; Optical rangefinders using a parallactic triangle with variable angles and a base of fixed length in the observation station, e.g. in the instrument with binocular observation at a single point, e.g. stereoscopic type
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C11/00Photogrammetry or videogrammetry, e.g. stereogrammetry; Photographic surveying
    • G01C11/02Picture taking arrangements specially adapted for photogrammetry or photographic surveying, e.g. controlling overlapping of pictures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/55Depth or shape recovery from multiple images
    • G06T7/593Depth or shape recovery from multiple images from stereo images
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/111Transformation of image signals corresponding to virtual viewpoints, e.g. spatial image interpolation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/207Image signal generators using stereoscopic image cameras using a single 2D image sensor
    • H04N13/225Image signal generators using stereoscopic image cameras using a single 2D image sensor using parallax barriers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/57Control of the dynamic range
    • H04N25/58Control of the dynamic range involving two or more exposures
    • H04N25/581Control of the dynamic range involving two or more exposures acquired simultaneously
    • H04N25/583Control of the dynamic range involving two or more exposures acquired simultaneously with different integration times
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • G06T2207/10021Stereoscopic video; Stereoscopic image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10028Range image; Depth image; 3D point clouds
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20048Transform domain processing
    • G06T2207/20056Discrete and fast Fourier transform, [DFT, FFT]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20172Image enhancement details
    • G06T2207/20208High dynamic range [HDR] image processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30168Image quality inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N2013/0074Stereoscopic image analysis
    • H04N2013/0081Depth or disparity estimation from stereoscopic image signals

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Electromagnetism (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Theoretical Computer Science (AREA)
  • Measurement Of Optical Distance (AREA)
  • Control Of Position, Course, Altitude, Or Attitude Of Moving Bodies (AREA)

Description

本発明は、互いに視差を有する対の画像(視差画像)を用いて距離を計測する技術に関する。
自動車等の移動体には、撮像装置により視差画像を取得してステレオ測距の原理により距離に関する情報を得る測距装置が搭載される。また撮像装置には、露光条件を異ならせた撮像により得られる複数の画像データを合成することでダイナミックレンジを拡大したHDR(High Dynamic Range)画像を得られるものがある。特許文献1には、撮像素子が互いに位相差を有する信号を取得できる画素構成を有することで視差画像を取得できるとともに、高感度画素と低感度画素を備えることで露光条件が異なる画像も取得できる撮像装置が開示されている。
特許第6408372号公報
しかしながら、特許文献1には、視差画像間の視差を算出する際に用おける露光条件の選択について言及されていない。このため、高感度画素で取得した視差画像、低感度画素で取得した視差画像、さらにはHDR画像としての視差画像のいずれが視差量の算出に最適なのかを判断することが難しい。
本発明は、互いに露光条件が異なる複数対の画像から適切な対の画像を選択して良好な測距を行えるようにした測距装置等を提供する。
本発明の一側面としての情報処理装置は、撮像手段によって撮像された互いに視差を有する対の撮影画像であって、第1の露光時間で撮像された対の撮影画像である第1対の撮影画像および第2対の撮影画像を取得する画像取得手段と、第1対の撮影画像および前記第2対の撮影画像について、それぞれの視差量の確からしさである信頼度を取得する信頼度取得手段と、信頼度に基づいて、第1対の撮影画像および第2対の撮影画像を含む複数の対の撮影画像から、距離に関する情報を生成するために用いられる視差画像を選択する選択手段とを有することを特徴とする。なお、移動体に搭載された上記測距装置と、距離に関する情報に基づいて移動体の移動を制御する制御手段を有する移動体制御システム、さらには該移動体制御システムを搭載した移動体も、本発明の他の一側面を構成する。
また本発明の他の一側面としての情報処理方法は、撮像手段によって撮像された互いに視差を有する対の撮影画像であって、第1の露光時間で撮像された対の撮影画像である第1対の撮影画像および第2対の撮影画像を取得するステップと、第1対の撮影画像および第2対の撮影画像について、それぞれの視差量の確からしさである信頼度を取得するステップと、信頼度に基づいて、第1対の撮影画像および第2対の撮影画像を含む複数の対の撮影画像から、距離に関する情報を生成するために用いられる対の撮影画像を選択するステップとを有することを特徴とする。なお、コンピュータに上記測距方法に従う処理を実行させるプログラムも、本発明の他の一側面を構成する。
本発明によれば、互いに露光条件が異なる複数の視差画像から、距離に関する情報を生成するための適切な視差画像を選択することができる。
実施例1の測距装置の構成を示すブロック図。 実施例1における撮像素子の露光タイミングを示すタイミングチャート。 実施例1における測距処理を示すフローチャート。 実施例1における入力画像の例を示す図。 実施例2における信頼度判定処理を示すフローチャート。 実施例3における信頼度判定処理を示すフローチャート。 実施例4における信頼度判定処理を示すフローチャート。 実施例5における信頼度判定処理を示すフローチャート。 実施例6における測距装置および撮像素子の構成を示す図。 実施例7の移動体の構成を示す図。 実施例1、6のカメラユニットの構成を示す図。
以下、本発明の実施例について図面を参照しながら説明する。
実施例1では、ステレオ撮像装置(ステレオカメラ)によりフレームごとに取得される互いに視差を有する対の画像の視差量から距離に関する情報を取得する測距装置について説明する。本実施例の測距装置は、デジタルカメラ、デジタルビデオカメラ、車載センサデバイス、ロボットビジョンセンサデバイス等に用いられる。
図1は、本実施例の情報処理装置としての測距装置100の構成を示している。測距装置100は、ステレオカメラ(撮像手段)101、露光制御画像取得部(画像取得手段)102、視差信頼度推定部(信頼度取得手段)103、画像生成選択部(選択手段)104およびステレオ測距部(距離情報生成手段)105を備える。ステレオカメラ101は互いに所定距離(基線長)を隔てて並列配置された2つのカメラユニット(撮像ユニット)111、112を有する。カメラユニット111、112のそれぞれの撮像画角は、互いに共通する画角範囲が含まれるように設定されている。
図11は、カメラユニット111、112の構成を示している。各カメラユニットは、結像光学系912、撮像素子913、画像処理部914および画像格納部915を有する。撮像素子913はCMOSセンサやCCDセンサ等の光電変換素子であり、結像光学系912により形成された被写体像を光電変換(撮像)することで画像信号を出力する。920は結像光学系の光軸を示している。
画像処理部914は、撮像素子913から読み出された画像信号に対して各種画像処理を行って画像データ(以下、単に画像という)を生成する。生成された画像は、画像格納部915に蓄えられたり、不図示の信号伝送部を通じて後段の視差信頼度推定部103に伝送されたりする。カメラユニット111は第1の視点からの撮像を行って第1の画像を生成し、カメラユニット112は第1の視点とは異なる第2の視点からの撮像を行って第2の画像を生成する。第1の画像と第2の画像により、互いに視差を有する対の画像(ステレオ画像)が構成される。
露光制御画像取得部102は、上記カメラユニット111、112と露光制御部(露光 制御手段)113を有する。露光制御部113は、カメラユニット111、112の露光 量を同時に制御する。ここでは、露光制御部113は、カメラユニット111、112の 撮像における露光条件としての露光時間を変更する。これにより、カメラユニット111 、112のそれぞれに、互いに露光条件が異なる画像として、第1の露光時間の画像(以下、長秒画像という)と、第1の露光時間より短い第2の露光時間の画像(以下、短秒画像という)を生成させることができる。カメラユニット111、112にて生成される互いに視差を有する2つの長秒画像および互いに視差を有する2つの短秒画像を、以下の説明においてそれぞれ、対の長秒画像(第1の視差画像)および対の短秒画像(第2の視差画像)という。
図2は、各カメラユニットにおける撮像素子の画素行ごとの露光時間を示している。横軸は時刻tを、縦軸は撮像素子の画素行cを表している。画素行cは1画素行ごとに画像信号を読み出す読み出し行となる。最初の読み出し行において第1の露光時間201の画像信号と第2の露光時間202の画像信号を取得すると、次の読み出し行において第1の露光時間211の画像信号と第2の露光時間212の画像信号を取得する。こうして最終の読み出し行において第1の露光時間2n1の画像信号と第2の露光時間2n2の画像信号を取得すると、第1の露光時間201、211、…、2n1で取得した異なる画素行の画像信号を結合して長秒画像を取得する。また、第2の露光時間202、212、…、2n2で取得した異なる画素行の画像信号を合成(結合)して短秒画像を取得する。
露光制御部113、視差信頼度推定部103、画像生成選択部104およびステレオ測距部105は1つ又は複数の半導体集積回路を含む演算処理装置(CPU等のコンピュータ)により構成されている。
カメラユニット111、112から取得された対の長秒画像および対の短秒画像は視差信頼度推定部103に伝送される。視差信頼度推定部103は、後述する信頼度判定処理 により対の長秒画像から算出される視差量の確からしさである信頼度である長秒視差信頼度を推定する。また視差信頼度推定部103は、同処理により、対の短秒画像から算出される視差量の確からしさである信頼度である短秒視差信頼度を推定する。これら長秒および短秒視差信頼度を受けた画像生成選択部104は、距離に関する情報を生成するための視差量の算出に用いる対の画像(視差画像:以下、視差算出画像という)として、対の長秒画像、対の短秒画像および対のHDR画像(合成画像)のいずれかを選択する。対のHDR画像は 、カメラユニット111から取得された長秒画像と短秒画像を合成(ブレンディング)することで生成される第1のHDR画像と、カメラユニット112から取得された長秒画像と短秒画像を合成することで生成される第2のHDR画像とにより構成される。
ステレオ測距部105は、画像生成選択部104で選択された対の視差演算画像を用いて公知の手法で視差量を演算し、さらに該視差量を用いて距離値を演算する。測距装置100は、以上の処理を撮像素子の全画素からの画像信号に対して行うことで、撮像画角内の被写体までの距離に関する情報を含む距離画像を生成する。距離に関する情報は、距離自体を示す情報であってもよいし、参照テーブルや変換式等を用いて距離に変換可能な情報であってもよい。
具体的には、入力された対の画像に対して幾何補正処理、光量補正処理およびバンドパスフィルタ処理によるノイズ低減処理を含む前処理を行い、前処理後の対の画像から視差量を算出して、得られた視差量を距離値に換算する。この視差量算出処理では、対の画像のうち一方の画像において注目点座標を中心とする照合領域を設定し、他方の画像において参照点座標を中心とする照合領域と同形状の参照領域を順次移動させながら相関値を算出する。そして、最も相関の高い注目点座標と参照点座標との位置ずれ量を視差量とする。相関値の算出方法としては、画像信号の差の二乗和を評価するSSD(Sum of Squared Difference)や、差の絶対値を評価するSAD(Sum of Absolute Difference)等を用いることができる。注目点座標と参照点座標の設定値は整数であるが、相関の極値をピークフィッティングすることにより、サブピクセル精度で視差量を算出することができる。そして視差量算出処理では、算出した視差量を予め設定されたカメラユニット111、112間の基線長Wと各カメラユニットの焦点距離fとを用いて幾何的な関係式を用いて距離値Lに換算する。このように、視差量と距離値を撮像素子の全画素について算出することで、距離画像を生成する。
図3のフローチャートは、測距装置のコンピュータ(露光制御部113、視差信頼度推定部103、画像生成選択部104およびステレオ測距部105)がプログラムに従って実行する測距処理(測距方法)を示している。Sはステップを意味する。
S301において、視差信頼度推定部103は、取得した入力画像(対の長秒画像および対の短秒画像)に対して信頼度判定処理を行う。信頼度判定処理では、対の画像において算出される視差量の確からしさとしての信頼度を表す、コントラスト信頼度、飽和信頼度および動き振れ信頼度を算出する。
コントラスト信頼度Conf_cは、被写体(画像)のコントラストに関する信頼度であり、以下の式により算出される。
図4は、入力画像401の例を示す。入力画像401は、対の画像のうちの一方であり、図では注目点座標または参照点座標(以下、注目点/参照点座標と記す)(x,y)402を中心とする照合領域または参照領域(以下、照合/参照領域と記す)403を示している。以下の信頼度は、対の画像のうち少なくとも一方において算出すればよい。
コントラスト信頼度Conf_cの算出には、まず注目点/参照点座標(x,y)402を中心とする照合/参照領域403内の信号輝度値IのコントラストC(x,y)を求める。xとhは入力画像における水平方向の座標を示し、yとvは垂直方向の座標を示す。Iaveは、照合領域403内の信号輝度値Iの平均値を示す。
次に、照合/照合領域403内の推定ノイズ量noise(x,y)を算出する。qは撮像素子の特性等から事前に用意される係数である。そして、コントラストC(x,y)と推定ノイズ量noise(x,y)との比から、注目点/参照点座標(x,y)402のコントラスト信頼度Conf_c(x,y)を算出する。これらの算出を全画素に対して行うことで、入力画像のコントラスト信頼度が得られる。このようにして対の長秒画像および対の短秒画像のそれぞれのコントラスト信頼度Conf_cを得る。
視差量の算出において相関値を算出する際に、照合/参照領域403内のコントラストが高い場合やノイズ量が小さい場合は相関のピークが鋭くなり、信頼性の高い視差量を算出することができる。このため、コントラスト信頼度Conf_cが高いほど、算出された視差量の信頼度を高信頼度と判定する。
飽和信頼度Conf_sは、照合/参照領域403内に輝度飽和またはそれに準ずる信号輝度値を出力している画素が存在しないかを判定するための輝度飽和に関する信頼度であり、以下のように定義される。
すなわち、照合/参照領域403内に信号輝度値I(h,v)が信号輝度閾値Ith以上の画素が存在する場合は低信頼度0とし、信号輝度閾値Ith以上の画素が存在しない場合は高信頼度1とする。この判定を全画素に対して行うことで、入力画像の飽和信頼度が得られる。照合/参照領域403内に輝度飽和またはそれに準ずる信号輝度値を出力している画素が存在した場合は、相関値を出力する際に輝度飽和している領域が被写体の持つテクスチャとは異なる疑テクスチャとなって誤った相関値が算出されるおそれがある。この場合、被写体距離に応じた視差量とは異なる視差量が算出される。したがって、照合/参照領域403内に輝度飽和領域が存在しない場合は高信頼度と判定する。
動き振れ信頼度Conf_mは、照合/参照領域403内に動き振れの影響が大きい画素が存在しないかを判定するための動き振れに関する信頼度である。注目点座標(x,y)に対する照合/参照領域403内の信号輝度値I(h,v)に対してバンドパスフィルタ処理を行って得られたバンドパスフィルタ処理画像の振幅をConf_m(x,y)とする。バンドパスフィルタの透過帯域は、動き振れの影響を考慮したい空間周波数帯域に適宜設定される。具体的には、測距装置の移動速度、主たる被写体の移動速度および各秒画像を取得するための露光時間に応じて設定される。照合/参照領域403内の動き振れが大きい場合は、被写体のテクスチャが劣化したり露光中に被写体の重心が移動したりすることにより、相関のピークが鈍くなる。つまり、視差量の算出精度が低下する。したがって、動き振れの影響を考慮したい空間周波数帯域の振幅が小さいほど動き振れの影響が大きいため、動き振れ信頼度Conf_mの値が大きいほど高信頼度と判定する。
これらコントラスト信頼度、飽和信頼度および動き振れ信頼度を以下の式のように統合して照合/参照領域ごとの視差量の信頼度を判定する。
上記式において、α、β、γは重み係数である。
次にS302では、画像生成選択部104は、S301で算出された統合的な信頼度判定値Conf_allを比較することで照合/参照領域ごとに視差量の信頼度が高いと推定される対の画像を選択する画像生成選択処理を行う。具体的には、画像生成選択部104は、対の長秒画像の照合/参照領域ごとの信頼度判定値Conf_allと対の短秒画像の照合/参照領域ごとの信頼度判定値Conf_allとを比較し、信頼度が高い方の照合/参照領域を有する対の画像を視差算出画像として選択する。つまり、視差算出画像を照合/参照領域ごとに選択する。
信頼度判定値Conf_allを比較した結果、優位な差が認められない場合は、上述した対のHDR画像を視差算出画像として選択する。
次にS303では、ステレオ測距部105は、S302で選択された視差算出画像を用いて、照合/参照領域ごとの視差量を算出し、さらに距離値を算出して距離画像を算出するステレオ測距処理を行う。
このように、露光条件が異なる複数対の画像から視差信頼度に基づいて視差量の算出に適した対の画像を選択することで、高精度な測距を行うことが可能となる。
なお、本実施例において、撮像素子の画素行ごとに長い露光時間と短い露光時間を交互に割り当て、等しい読み出しクロック周波数で駆動し、画像信号の読み出し後に隔画素行ごとの画像信号を合成して長秒画像と短秒画像を生成することが好ましい。これにより、長秒画像と短秒画像の露光重心のずれを抑えることができる。
また、撮像素子に露光感度が互いに異なる第1の画素と第2の画素を設けることで露光条件を異ならせてもよい。これにより、露光時間が同一でも長秒画像に相当する高感度画像としての第1の露光画像と低秒画像に相当する低感度画像としての第2の露光画像とを同時に取得することができ、画像間で露光時間が異なることの影響を受けないようにすることができる。
また、コントラスト信頼度Conf_cは、コントラストCのみで算出してもよい。また、動き振れ信頼度Conf_mは、これを求める照合/参照領域の信号値をフーリエ変換し、対象の空間周波数帯域の振幅を用いて評価する等、周波数解析として評価してもよい。これにより、周波数成分ごとに分解して評価することができるため、測距精度をより向上させることができる。
また、対の画像のうち一方の信頼度だけでなく他方の画像の信頼度も求め、これらの信頼度の総合評価(平均値や最高値等)が高い対の画像を視差算出画像として選択することで、測距精度をより向上させてもよい。
また、長秒画像と短秒画像をブレンディングしてHDR画像を生成する際に、これらのコントラスト信頼度の比を用いてブレンド比率を決定してもよい。コントラスト信頼度は長秒画像と短秒画像ともに同条件で視差量の算出精度に影響するため、上述のようにブレンド比率を決定することは、測距精度の向上の観点から好ましい。例えば、長秒画像のコントラスト信頼度/短秒画像のコントラスト信頼度=kのとき、
HDR画像=k/(1+k)×長秒画像+1/(1+k)×短秒画像、
としてHDR画像を生成してもよい。
また、視差算出画像の選択においては、視差量を算出するための相関演算を行う領域ごとに対の画像を選択してもよい。これにより、被写体の種類や配置等の撮像するシーンに応じた適切な視差量を算出することができ、測距精度を向上させることができる。
さらに、互いに異なる露光条件の第1対および第2対の露光画像のそれぞれに対する視差量をステレオ測距処理に先立って算出しておき、その後に信頼度に基づいて測距演算を行う対の画像を選択し、該選択した対の画像における視差量を用いて測距を行ってもよい。この処理は、FPGA(Field Programmable Gate Array)等の論理回路で行う場合に座標(x、y)ごとに対の画像を切り替えて視差量を算出するより、対の画像全体について視差量を算出して後から測距に使用する視差量を選択する方が実装コストの観点で好ましい。
実施例2では、実施例1で説明した飽和度信頼度、動き振れ信頼度およびコントラスト信頼度を順に用いて視差算出画像を選択する。測距装置の構成は、図1に示した測距装置100と同じであり、実施例1と共通する構成要素には同符号を付す。測距処理は、図3のフローチャートで示したものと、S301を除いて同様である。
図5のフローチャートは、図3のS301の代わりに本実施例にて視差信頼度推定部103が実行する信頼度判定処理を示している。
S501において、視差信頼度推定部103は、入力画像としての対の長秒画像と対の短秒画像に対して飽和信頼度Conf_sを算出する。そして、長秒画像と短秒画像のそれぞれにConf_s=0の照合/参照領域が存在するか否か、つまりは輝度飽和領域の存在の有無を判定する。輝度飽和領域が存在するTrueの場合は、視差信頼度推定部103はS511に進み、視差算出画像として対の短秒画像を選択するという判定結果を出力する。これは、短秒画像の方が長秒画像よりも輝度飽和の影響が少ないため、視差算出画像として適しているためである。一方、輝度飽和領域が存在しないFALSEの場合は、視差信頼度推定部103はS502に進む。
S502において、視差信頼度推定部103は、対の長秒画像と対の短秒画像に対して動き振れ信頼度Conf_mを算出する。そして、動き振れ判定閾値th_mを用いて、Conf_m<th_mの照合/参照領域が存在するか否か、つまりは動き振れの影響が大きくてConf_mの値が小さい照合/参照領域が存在するか否かを判定する。動き振れの影響が大きい(Conf_m<th_mの)照合/参照領域が存在するTRUEの場合は、視差信頼度推定部103はS511に進み、視差算出画像として対の短秒画像を選択するという判定結果を出力する。これは、短秒画像の方が長秒画像よりも動き振れの影響が小さいため、視差算出画像として適しているためである。一方、動き振れの影響が大きい照合/参照領域が存在しないFALSEの場合は、視差信頼度推定部103はS503に進む。
S503において、視差信頼度推定部103は、対の長秒画像と対の短秒画像に対してコントラスト信頼度Conf_cを算出し、短秒画像のコントラスト信頼度Conf_c_Lと長秒画像のコントラスト信頼度Conf_c_Hとを比較する。さらに、これらコントラスト信頼度の差分と所定値としてのコントラスト判定閾値th_c(0)を比較する。
Conf_c_L- Conf_c_H≧th_cである場合、すなわち短秒画像を方が長秒画像よりコントラスト信頼度が有意に高い場合は、視差信頼度推定部103はS511に進み、視差算出画像として対の短秒画像を選択するという判定結果を出力する。また、Conf_c_H-Conf_c_L≧th_cである場合、すなわち長秒画像を方が短秒画像よりコントラスト信頼度が有意に高い場合は、視差信頼度推定部103はS512に進み、視差算出画像として対の長秒画像を選択するという判定結果を出力する。さらに|Conf_c_L-Conf_c_H|<th_cである場合、すなわち長秒画像と短秒画像のコントラスト信頼度に有意な差がない場合は、視差信頼度推定部103はS513に進み、視差算出画像として対のHDR画像を選択するという判定結果を出力する。
S511、S512およびS513の判定結果は、画像生成選択部104(図1のS302)に渡される。画像生成選択部104は、判定結果に基づいて、視差算出画像を対の短秒画像、対の長秒画像および対のHDR画像のいずれかを選択する。ステレオ測距部105(図1のS303)は、選択された対の画像を用いてステレオ測距処理を行う。
このように複数種類の信頼度を順に判定して視差算出画像を選択することで、全ての信頼度を算出してから視差算出画像を選択する場合と比較して、処理の高速化が望める。コントラストは短秒画像と長秒画像に関わらず同様な条件で視差算出(つまりは測距)の精度に影響するが、輝度飽和や動き振れについては短秒画像の方が長秒画像よりも影響を受けにくい。このため本実施例のように、飽和信頼度と動き振れ信頼度に基づく視差算出画像の選択をコントラスト信頼度に基づく視差算出画像の選択よりも先に行うことが好ましい。
実施例3では、実施例1で説明したコントラスト信頼度のみを用いて視差算出画像を選択する。測距装置の構成は、図1に示した測距装置100と同じであり、実施例1と共通する構成要素には同符号を付す。測距処理は、図3のフローチャートで示したものと、S301を除いて同様である。
図6のフローチャートは、図3のS301の代わりに本実施例にて視差信頼度推定部103が実行する信頼度判定処理を示している。
S601において、視差信頼度推定部103は、図5のS503と同様に、入力画像としての対の長秒画像と対の短秒画像に対してコントラスト信頼度Conf_cを算出し、短秒画像と長秒画像のコントラスト信頼度Conf_c_L、Conf_c_Hを比較する。また、コントラスト信頼度の差分とコントラスト判定閾値th_c(0)を比較する。
そして、視差信頼度推定部103は、Conf_c_L- Conf_c_H≧th_cである場合はS511に進み、視差算出画像として対の短秒画像を選択するという判定結果を出力する。Conf_c_H-Conf_c_L≧th_cである場合はS512に進み、視差算出画像として対の長秒画像を選択するという判定結果を出力する。さらに、|Conf_c_L-Conf_c_H|<th_cである場合はS513に進み、視差算出画像として対のHDR画像を選択するという判定結果を出力する。
このようにコントラスト信頼度のみを用いて視差算出画像を選択することで、実施例1、2に比べて計算量を大幅に低減することができる。また、輝度飽和や動き振れの影響は、撮像場所や時間、被写体等の撮像シーンに依存して発生する確率が異なる。一方、コントラストは、被写体と環境光が短秒画像にも長秒画像にも必ず同条件で影響する。これらのことから、視差算出画像の選択をコントラスト信頼度のみで行ってもよい。
実施例4では、実施例1で説明した飽和信頼度およびコントラスト信頼度を用いて視差算出画像を選択する。測距装置の構成は、図1に示した測距装置100と同じであり、実施例1と共通する構成要素には同符号を付す。測距処理は、図3のフローチャートで示したものと、S301を除いて同様である。
図7のフローチャートは、図3のS301の代わりに本実施例にて視差信頼度推定部103が実行する信頼度判定処理を示している。
S701において、視差信頼度推定部103は、図7のS501と同様に入力画像としての対の長秒画像と対の短秒画像に対して飽和信頼度Conf_sを算出し、長秒画像と短秒画像のそれぞれにConf_s=0の照合/参照領域が存在するか否かを判定する。輝度飽和領域が存在するTrueの場合は、視差信頼度推定部103はS511に進み、視差算出画像として対の短秒画像を選択するという判定結果を出力する。輝度飽和領域が存在しないFALSEの場合はS702に進む。
S702において、視差信頼度推定部103は、図5のS503と同様に、入力画像としての対の長秒画像と対の短秒画像に対してコントラスト信頼度Conf_cを算出し、短秒画像と長秒画像のコントラスト信頼度Conf_c_L、Conf_c_Hを比較する。また、これらコントラスト信頼度の差分とコントラスト判定閾値th_c(0)を比較する。
視差信頼度推定部103は、Conf_c_L- Conf_c_H≧th_cである場合はS511に進み、視差算出画像として対の短秒画像を選択するという判定結果を出力する。また、Conf_c_H-Conf_c_L≧th_cである場合はS512に進み、視差算出画像として対の長秒画像を選択するという判定結果を出力する。さらに、|Conf_c_L-Conf_c_H|<th_cである場合はS513に進み、視差算出画像として対のHDR画像を選択するという判定結果を出力する。
コントラスト信頼度を算出する照合/参照領域内に輝度飽和領域が存在すると、被写体が有するコントラストを正しく算出できなくなり誤判定に繋がる。このため、本実施例は、輝度飽和によるコントラスト信頼度の誤判定を防ぎつつ、計算量の低減効果を得ることができる。
実施例5では、飽和信頼度とコントラスト信頼度を用いた視差算出画像の選択を行い、の後にコントラスト信頼度では選択できない場合に動き振れ信頼度による視差算出画像の選択を行う。測距装置の構成は、図1に示した測距装置100と同じであり、実施例1と共通する構成要素には同符号を付す。測距処理は、図3のフローチャートで示したものと、S301を除いて同様である。
図8のフローチャートは、図3のS301の代わりに本実施例にて視差信頼度推定部103が実行する信頼度判定処理を示している。
S801において、視差信頼度推定部103は、図7のS501と同様に対の長秒画像と対の短秒画像に対して飽和度信頼度Conf_sを算出し、長秒画像と短秒画像のそれぞれにConf_s=0の照合/参照領域が存在するか否かを判定する。輝度飽和領域が存在するTrueの場合は、視差信頼度推定部103はS511に進み、視差算出画像として対の短秒画像を選択するという判定結果を出力する。輝度飽和領域が存在しないFALSEの場合はS802に進む。
S802において、視差信頼度推定部103は、図5のS503と同様に、入力画像としての対の長秒画像と対の短秒画像に対してコントラスト信頼度Conf_cを算出し、短秒画像と長秒画像のコントラスト信頼度Conf_c_L、Conf_c_Hを比較する。また、これらコントラスト信頼度の差分とコントラスト判定閾値th_c(0)を比較する。視差信頼度推定部103は、Conf_c_L-Conf_c_H≧th_cである場合はS511に進み、視差算出画像として対の短秒画像を選択するという判定結果を出力する。また、Conf_c_H-Conf_c_L≧th_cである場合はS512に進み、視差算出画像として対の長秒画像を選択するという判定結果を出力する。さらに、|Conf_c_L-Conf_c_H|<th_cである場合はS803に進む。
S803において、視差信頼度推定部103は、図5のS502と同様に、対の長秒画像と対の短秒画像に対して動き振れ信頼度Conf_mを算出する。そして、動き振れ判定閾値th_mを用いて、Conf_m<th_mの照合/参照領域が存在するか否かを判定する。動き振れの影響が大きい(Conf_m<th_mの)照合/参照領域が存在するTRUEの場合はS804に進む。また、動き振れの影響が大きい照合/参照領域が存在しないFALSEの場合はS513に進み、視差算出画像として対のHDR画像を選択するという判定結果を出力する。
S804において、視差信頼度推定部103は、再度、短秒画像と長秒画像のコントラスト信頼度Conf_c_L、Conf_c_Hを比較する。短秒画像のコントラスト信頼度Conf_c_Lの方が高ければS511に進んで視差算出画像として対の短秒画像を選択するという判定結果を出力する。長秒画像のコントラスト信頼度Conf_c_Hの方が高ければS512に進んで視差算出画像として対の長秒画像を選択するという判定結果を出力する。
動き振れの影響が大きい画像を含む長秒画像と短秒画像を合成すると、動き振れの影響が大きい被写体の周辺にアーティファクトが発生し、視差量の算出精度の低下につながる。このため、本実施例によれば、輝度飽和領域とコントラスト信頼度による視差算出画像の選択を基本とし、これらより選択ができない場合には画像合成によるアーティファクトの発生を防いで視差量の算出に適した対のHDR画像を選択する。
実施例1では2つのカメラユニット111、112を用いてステレオカメラを構成したが、本実施例では単一のカメラユニットを用いてステレオカメラを構成する。図10は、本実施例のカメラユニット911の構成も示している。ただし、本実施例では、撮像素子913の構成が実施例1とは異なり、瞳分割方式による撮像面位相差測距を行える構成を有する。また、図10において、z方向は光軸920が延びる光軸方向を示し、x方向とy方向は光軸920に直交して互いに直交する2方向を示す。
図9(b)は、撮像素子913のxy断面を示している。撮像素子913は、単位画素930をx方向とy方向に複数配置することで構成される。単位画素930の受光層は、2つの光電変換部としての第1の光電変換部931と第2の光電変換部932により構成されている。
図9(c)は、1つの単位画素930のI-I′断面を示す。単位画素930は、導光層941と受光層942を有する。導光層941には、単位画素930に入射した光束を光電変換部931、932へと効率良く導くためのマイクロレンズ943が設けられている。また導光層941には、図示はしないが、所定の波長帯域の光を通過させるカラーフィルタや画素駆動用および信号読み出し用の配線等も配置されている。受光層942には、導光層941を通じて入射した光を光電変換する第1および第2の光電変換部931、932が配置されている。
このような単位画素構造を有する単一の撮像素子913と単一の結像光学系912を備えたカメラユニット911では、瞳分割方式により視点が互いに異なる第1の画像と第2の画像を取得することができる。
図9(d)は、瞳分割方式の原理を示している。この図では、結像光学系912の射出瞳950と、撮像素子913内の複数の単位画素930のうち代表的な中心像高付近の単位画素930とを示している。単位画素930内のマイクロレンズ943は、射出瞳950と受光層942とが光学的に共役関係となるように配置されている。この結果、射出瞳950に内包される部分瞳領域である第1の瞳領域951を通過した光束は第1の光電変換部931に入射し、他の部分瞳領域である第2の瞳領域952を通過した光束は第2の光電変換部932に入射する。単位画素930の位置が周辺像高位置であっても主光線が傾いて単位画素930に入射するが、この部分瞳領域と光束と光電変換部の対応関係は変わらない。
撮像素子913には複数の単位画素930が配列されており、各単位画素の第1の光電変換部931での光電変換により生成された信号を読み出して合成することで第1の画像が生成される。同様に、各単位画素の第2の光電変換部932での光電変換により生成された信号を読み出して合成することで第2の画像が生成される。
本実施例の測距装置100′は、上述したカメラユニット911および露光制御部113′を含む露光制御画像取得部102′と、図1にも示した視差信頼度推定部103、画像生成選択部104およびステレオ測距部105とを備える。
露光制御部113′が実施例1で説明した方法で撮像素子913の露光量を制御することで、第1および第2の露光画像としての対の長秒画像と、第1および第2の露光画像としての対の短秒画像を取得することができる。
本実施例の測距装置100′では、単一のカメラユニット911から取得した対の長秒画像と対の短秒画像を用いて実施例1~5のいずれかで説明した処理を行うことで、視差量を算出して距離画像を生成することができる。
本実施例のように単一のカメラユニットを用いることで、2つのカメラユニットを用いる場合と比べて、対の画像間での視差以外の幾何的なずれの影響が小さい。したがって、本実施例において露光条件が異なる複数対の画像から視差量算出に適した対の画像を適切に選択することで、より高精度に測距を行うことができる。
図10(a)は移動体である車両1000を示し、図10(b)は車両1000に搭載された制御システムを示している。なお、移動体は、自動車に限定されず、電車、飛行機、船舶、小型モビリティおよびやAGV(Automatic Guided Vehicle)等のロボットでもよい。
図10(a)において、車両1000は、実施例1~6で説明した測距装置1010(100、100′)、ミリ波レーダ装置1020、LiDAR(Light Detection and Ranging)装置1030および車両情報計測器1040を備えている。また車両1000は、経路生成ECU(Electronic Control Unit)1050および車両制御ECU1060を備えている。経路生成ECU1050と車両制御ECU1060を、CPUにより構成してもよい。
測距装置1010は、車両1000が走行する道路等を含む周囲環境を撮像して、互いに視差を有する対の画像(長秒画像、短秒画像およびHDR画像)を含む画像情報を生成する。また、撮像素子の画素ごとの被写体までの距離に関する情報を含む距離画像の情報(以下、距離情報という)も生成する。測距装置1010は、これらの画像情報および距離情報を経路生成ECU1050に出力する。測距装置1010は、図に示すように車両1000のフロントガラスの上端付近に配置され、車両1000の前方に向かって所定の角度範囲(撮像画角)の領域を撮像する。
実施例1でも述べたように、距離に関する情報は距離自体を示す情報であってもよいし、距離に変換可能な情報であってもよい。また、距離を所定の整数値に割り当てた情報を経路生成ECU1050に出力してもよい。さらに、被写体までの距離に変換可能な光学的に共役な距離値(撮像素子から共役点までのデフォーカス量)や光学系から共役点までの距離(像側主点から共役点までの距離)の情報を経路生成ECU1050に出力してもよい。車両情報計測器1040は、車両1000の走行速度を計測したり操舵角を検出したりして、これらを示す計測情報を経路生成ECU1050に出力する。
経路生成ECU1050は、論理回路を用いて構成されている。経路生成ECU1050は、車両情報計測器1040からの計測情報、測距装置1010からの画像情報および距離情報、レーダ装置1020からの距離情報およびLiDAR装置1030からの距離情報を取得する。そして経路生成ECU1050は、これら取得した情報に基づいて、車両1000の目標走行軌跡と目標走行速度のうち少なくとも一方に関する目標経路情報を生成して車両制御ECU1060に逐次出力する。
車両制御ECU1060は、目標経路情報に基づいて、車両1000の走行速度や操舵角が制御目標値になるように車両1000のエンジン又はモータの回転数やステアリングの回転角を制御する運転制御を行う。測距装置1010と車両制御ECU1060により、移動体制御システムとしての車載システムが構成される。
また、車両1000が運転者1001に対して画像の表示または音声による通知を行うHMI(Human Machine Interface)1070を備える場合がある。この場合には、経路生成ECU1050が生成した目標経路情報をHMI1070を通じて運転者1001に対して表示または通知することができる。
測距装置1010にて露光条件が異なる複数対の画像から視差量算出に適した対の画像が選択されて高精度の距離情報が経路生成ECU1050に出力されることで、経路生成ECU1050が生成する目標経路情報の精度が向上し、より安全な車両の運転制御が達成される。
車両等の移動体に搭載された測距装置1010は、トンネルの出口や夜間の対向車のヘッドライト等を含む輝度飽和が生じやすいシーンや対向車等の動き振れが大きい被写体を撮像する。このようなシーンや被写体を撮像する場合でも、対の画像の画角(照合/参照領域)ごとに実施例1~6で説明したように視差量算出に適した対の画像を選択することで、輝度飽和や動き振れの影響を低減した高精度な測距処理を行うことができる。
なお、測距装置1010により得られた距離情報を用いて、対象物までの距離が所定の距離範囲内に含まれるか否かの判定を車両制御ECU1060により行ってもよい。車両制御ECU1060は、所定の距離範囲内に対象物が存在する場合は「衝突可能性あり」と判定し、所定の距離内に対象物が存在しない場合は「衝突可能性なし」と判定する。また、車両制御ECU1060は、「衝突可能性あり」と判定した場合は、その判定結果に基づいて車両1000のブレーキやステアリングを制御したり、運転者1001への警告を行ったりしてもよい。警告には、表示画面に警告情報を表示したり、シートベルトやステアリングに振動を与えたりすることが含まれる。
また、車両1000が物体に衝突した場合に、その旨を移動体の製造元(メーカー)や販売元(ディーラー)等の通知先に通知するための通知部(通知手段)を設けてもよい。通知部としては、例えば、車両1000と物体との衝突に関する情報を予め設定された外部の通知先に対して電子メール等によって送信するもの採用することができる。
上記の実施の形態は、以下の構成を含む。
(構成1)
撮像手段によって撮像された互いに視差を有する画像の集まりである視差画像であって、互いに露光条件が異なる前記視差画像である第1の視差画像および第2の視差画像を取得する画像取得手段と、
前記第1の視差画像および前記第2の視差画像について、前記視差画像の視差量の確からしさである信頼度を取得する信頼度取得手段と、
前記信頼度に基づいて、前記第1の視差画像および前記第2の視差画像を含む複数の前記視差画像から、距離に関する情報を生成するために用いられる前記視差画像を選択する選択手段と、を有することを特徴とする情報処理装置。
(構成2)
前記視差画像に基づいて視差量を算出し、前記視差量に基づいて、前記距離に関する情報を生成する生成手段を有することを特徴とする構成1に記載の情報処理装置。
(構成3)
前記撮像手段の露光条件を制御する制御手段を有することを特徴とする構成2に記載の情報処理装置。
(構成4)
前記選択手段は、前記距離に関する情報を生成するために用いられる前記視差画像として、前記第1の視差画像と、前記第2の視差画像と、前記第1および第2の視差画像を合成して得られる合成画像のいずれかを選択することを特徴とする構成1から3のいずれか1つに記載の情報処理装置。
(構成5)
前記信頼度は、コントラストに関する信頼度、輝度飽和に関する信頼度および動き振れに関する信頼度のうち少なくとも1つであることを特徴とする構成1から4のいずれか1つに記載の情報処理装置。
(構成6)
前記選択手段は、前記コントラストに関する信頼度、前記輝度飽和に関する信頼度および前記動き振れに関する信頼度を統合した信頼度に基づいて、前記距離に関する情報を生成するために用いられる前記視差画像を選択することを特徴とする構成5に記載の情報処理装置。
(構成7)
前記選択手段は、前記輝度飽和に関する信頼度、前記動き振れに関する信頼度および前記コントラストに関する信頼度をこの順で用いて、前記距離に関する情報を生成するために用いられる前記視差画像を選択することを特徴とする構成5に記載の情報処理装置。
(構成8)
前記選択手段は、前記輝度飽和に関する信頼度および前記コントラストに関する信頼度をこの順で用いて、前記距離に関する情報を生成するために用いられる前記視差画像を選択することを特徴とする構成5に記載の情報処理装置。
(構成9)
前記選択手段は、前記第1の視差画像と前記第2の視差画像の前記コントラストに関する信頼度の差が所定値より小さい場合は、前記距離に関する情報を生成するために用いられる前記視差画像として、前記第1および第2の視差画像を合成して得られる合成画像を選択することを特徴とする構成5に記載の情報処理装置。
(構成10)
前記画像取得手段は、前記撮像手段における撮像素子の露光時間を変更することで前記第1および第2の視差画像を取得することを特徴とする構成1から9のいずれか1つに記載の情報処理装置。
(構成11)
前記画像取得手段は、前記撮像手段における撮像素子に設けられた互いに露光感度が異なる第1の画素と第2の画素を同一の露光時間で露光することで前記第1および第2の視差画像を取得することを特徴とする構成1から10のいずれか1つに記載の情報処理装置。
(構成12)
前記撮像手段は、互いに基線長を隔てて配置された、それぞれ結像光学系と撮像素子を有する2つの撮像ユニットにより構成されていることを特徴とする構成1から11のいずれか1つに記載の情報処理装置。
(構成13)
前記撮像手段は、単一の結像光学系と、画素ごとに対の光電変換部を有する単一の撮像素子とを有することを特徴とする構成1から11のいずれか1つに記載の情報処理装置。
(構成14)
移動体に搭載された構成1から13のいずれか1つに記載の情報処理装置と、
前記距離に関する情報に基づいて前記移動体の移動を制御する制御手段を有することを特徴とする移動体制御システム。
(構成15)
前記制御手段は、前記距離に関する情報に基づいて前記移動体と物体との衝突可能性を判定することを特徴とする構成14に記載の移動体制御システム。
(構成16)
前記制御手段は、前記移動体と前記物体との衝突可能性があると判定した場合に、前記移動体のブレーキまたはステアリングを制御することを特徴とする構成15に記載の移動体制御システム。
(構成17)
前記制御手段は、前記移動体と前記物体との衝突可能性があると判定した場合に、前記移動体の運転者に対する警告を行うことを特徴とする構成15または16に記載の移動体制御システム。
(構成18)
前記移動体と前記物体との衝突に関する情報を外部に通知する通知手段を有することを特徴とする構成15から17のいずれか1つに記載の移動体制御システム。
(構成19)
構成14から18のいずれか1つに記載の移動体制御システムを備え、
前記情報処理を保持して移動可能であることを特徴とする移動体。
(その他の実施例)
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
以上説明した各実施例は代表的な例にすぎず、本発明の実施に際しては、各実施例に対して種々の変形や変更が可能である。
100,100′,1010 測距装置
111,112,911 カメラユニット
113,113′ 露光制御部
103 視差信頼度推定部
104 画像生成選択部
105 ステレオ測距部

Claims (21)

  1. 撮像手段によって撮像された互いに視差を有する対の撮影画像であって、第1の露光時間で撮像された前記対の撮影画像である第1対の撮影画像および、第2の露光時間で撮像された前記対の撮影画像である第2対の撮影画像を取得する画像取得手段と、
    前記第1対の撮影画像および前記第2対の撮影画像について、それぞれの視差量の確からしさである信頼度を取得する信頼度取得手段と、
    前記信頼度に基づいて、前記第1対の撮影画像および前記第2対の撮影画像を含む複数の前記対の撮影画像から、距離に関する情報を生成するために用いられる前記対の撮影画像を選択する選択手段と、を有することを特徴とする情報処理装置。
  2. 前記対の撮影画像に基づいて視差量を算出し、前記視差量に基づいて、前記距離に関する情報を生成する生成手段を有することを特徴とする請求項1に記載の情報処理装置。
  3. 前記撮像手段の露光条件を制御する制御手段を有することを特徴とする請求項2に記載の情報処理装置。
  4. 前記選択手段は、前記距離に関する情報を生成するために用いられる前記対の撮影画像として、前記第1対の撮影画像と、前記第2対の撮影画像と、前記第1対の撮影画像および第2対の撮影画像を合成して得られる合成画像のいずれかを選択することを特徴とする請求項1に記載の情報処理装置。
  5. 前記信頼度は、コントラストに関する信頼度、輝度飽和に関する信頼度および動き振れに関する信頼度のうち少なくとも1つであることを特徴とする請求項1に記載の情報処理装置。
  6. 前記選択手段は、前記コントラストに関する信頼度、前記輝度飽和に関する信頼度および前記動き振れに関する信頼度を統合した信頼度に基づいて、前記距離に関する情報を生成するために用いられる前記対の撮影画像を選択することを特徴とする請求項5に記載の情報処理装置。
  7. 前記選択手段は、前記輝度飽和に関する信頼度、前記動き振れに関する信頼度および前記コントラストに関する信頼度をこの順で用いて、前記距離に関する情報を生成するために用いられる前記対の撮影画像を選択することを特徴とする請求項5に記載の情報処理装置。
  8. 前記選択手段は、前記輝度飽和に関する信頼度および前記コントラストに関する信頼度をこの順で用いて、前記距離に関する情報を生成するために用いられる前記対の撮影画像を選択することを特徴とする請求項5に記載の情報処理装置。
  9. 前記選択手段は、前記第1対の撮影画像と前記第2対の撮影画像の前記コントラストに関する信頼度の差が所定値より小さい場合は、前記距離に関する情報を生成するために用いられる前記対の撮影画像として、前記第1対の撮影画像および第2対の撮影画像を合成して得られる合成画像を選択することを特徴とする請求項5に記載の情報処理装置。
  10. 前記画像取得手段は、前記撮像手段における撮像素子の露光時間を変更することで前記第1対の撮影画像および第2対の撮影画像の前記対の撮影画像を取得することを特徴とする請求項1に記載の情報処理装置。
  11. 前記画像取得手段は、前記撮像手段における撮像素子に設けられた互いに露光感度が異なる第1の画素と第2の画素を同一の露光時間で露光することで前記第1対の撮影画像および第2対の撮影画像の前記対の撮影画像を取得することを特徴とする請求項1に記載の情報処理装置。
  12. 前記撮像手段は、互いに基線長を隔てて配置された、それぞれ結像光学系と撮像素子を有する2つの撮像ユニットにより構成されていることを特徴とする請求項1に記載の情報処理装置。
  13. 前記撮像手段は、単一の結像光学系と、画素ごとに対の光電変換部を有する単一の撮像素子とを有することを特徴とする請求項1に記載の情報処理装置。
  14. 移動体に搭載された請求項1に記載の情報処理装置と、
    前記距離に関する情報に基づいて前記移動体の移動を制御する制御手段を有することを特徴とする移動体制御システム。
  15. 前記制御手段は、前記距離に関する情報に基づいて前記移動体と物体との衝突可能性を判定することを特徴とする請求項14に記載の移動体制御システム。
  16. 前記制御手段は、前記移動体と前記物体との衝突可能性があると判定した場合に、前記移動体のブレーキまたはステアリングを制御することを特徴とする請求項15に記載の移動体制御システム。
  17. 前記制御手段は、前記移動体と前記物体との衝突可能性があると判定した場合に、前記移動体の運転者に対する警告を行うことを特徴とする請求項15に記載の移動体制御システム。
  18. 前記移動体と前記物体との衝突に関する情報を外部に通知する通知手段を有することを特徴とする請求項15に記載の移動体制御システム。
  19. 請求項14から18のいずれか一項に記載の移動体制御システムを備え、
    前記情報処理を保持して移動可能であることを特徴とする移動体。
  20. 撮像手段によって撮像された互いに視差を有する対の撮影画像であって、
    第1の露光時間で撮像された前記対の撮影画像である第1対の撮影画像および、第2の露光時間で撮像された前記対の撮影画像である第2対の撮影画像を取得するステップと、
    前記第1対の撮影画像および前記第2対の撮影画像について、それぞれの視差量の確からしさである信頼度を取得するステップと、
    前記信頼度に基づいて、前記第1対の撮影画像および前記第2対の撮影画像を含む複数の前記対の撮影画像から、距離に関する情報を生成するために用いられる前記対の撮影画像を選択するステップと、を有することを特徴とする情報処理方法。
  21. コンピュータに、請求項20に記載の情報処理方法に従う処理を実行させることを特徴とするプログラム。
JP2022171112A 2022-10-26 2022-10-26 情報処理装置、移動体制御システムおよび情報処理方法 Active JP7543367B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2022171112A JP7543367B2 (ja) 2022-10-26 2022-10-26 情報処理装置、移動体制御システムおよび情報処理方法
US18/489,963 US20240147087A1 (en) 2022-10-26 2023-10-19 Information processing apparatus, movable body control system, and information processing method
CN202311382722.3A CN117939099A (zh) 2022-10-26 2023-10-24 信息处理设备和方法、可移动体及其控制系统和存储介质
EP23205804.0A EP4361557A1 (en) 2022-10-26 2023-10-25 Information processing apparatus, movable body control system, information processing method, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2022171112A JP7543367B2 (ja) 2022-10-26 2022-10-26 情報処理装置、移動体制御システムおよび情報処理方法

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2024140598A Division JP2024161036A (ja) 2024-08-22 測距装置、移動体制御システムおよび測距方法

Publications (2)

Publication Number Publication Date
JP2024063302A JP2024063302A (ja) 2024-05-13
JP7543367B2 true JP7543367B2 (ja) 2024-09-02

Family

ID=88511011

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022171112A Active JP7543367B2 (ja) 2022-10-26 2022-10-26 情報処理装置、移動体制御システムおよび情報処理方法

Country Status (4)

Country Link
US (1) US20240147087A1 (ja)
EP (1) EP4361557A1 (ja)
JP (1) JP7543367B2 (ja)
CN (1) CN117939099A (ja)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3675039B2 (ja) 1996-06-26 2005-07-27 株式会社ニコン 焦点調節装置
JP2015073185A (ja) 2013-10-02 2015-04-16 キヤノン株式会社 画像処理装置、画像処理方法およびプログラム
JP2016173322A (ja) 2015-03-17 2016-09-29 キヤノン株式会社 距離範囲算出装置、距離信頼度算出装置、距離画像信号補正装置、距離画像信号量子化装置、撮像装置、および方法
JP2019168821A (ja) 2018-03-22 2019-10-03 株式会社Subaru 車外環境認識装置

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6408372B2 (ja) 2014-03-31 2018-10-17 ソニーセミコンダクタソリューションズ株式会社 固体撮像装置及びその駆動制御方法、並びに、電子機器
JP7371053B2 (ja) * 2021-03-29 2023-10-30 キヤノン株式会社 電子機器、移動体、撮像装置、および電子機器の制御方法、プログラム、記憶媒体

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3675039B2 (ja) 1996-06-26 2005-07-27 株式会社ニコン 焦点調節装置
JP2015073185A (ja) 2013-10-02 2015-04-16 キヤノン株式会社 画像処理装置、画像処理方法およびプログラム
JP2016173322A (ja) 2015-03-17 2016-09-29 キヤノン株式会社 距離範囲算出装置、距離信頼度算出装置、距離画像信号補正装置、距離画像信号量子化装置、撮像装置、および方法
JP2019168821A (ja) 2018-03-22 2019-10-03 株式会社Subaru 車外環境認識装置

Also Published As

Publication number Publication date
US20240147087A1 (en) 2024-05-02
CN117939099A (zh) 2024-04-26
EP4361557A1 (en) 2024-05-01
JP2024063302A (ja) 2024-05-13

Similar Documents

Publication Publication Date Title
US20180308282A1 (en) Shape measuring apparatus and method
JP6565188B2 (ja) 視差値導出装置、機器制御システム、移動体、ロボット、視差値導出方法、およびプログラム
US20200342243A1 (en) Method for estimating distance to an object via a vehicular vision system
US11173841B2 (en) Multicamera system for autonamous driving vehicles
JP6561512B2 (ja) 視差値導出装置、移動体、ロボット、視差値導出方法、視差値生産方法及びプログラム
JP2008298533A (ja) 障害物計測方法、障害物計測装置及び障害物計測システム
JP7098790B2 (ja) 撮像制御装置及び移動体
JP6455164B2 (ja) 視差値導出装置、機器制御システム、移動体、ロボット、視差値導出方法、およびプログラム
JP6589313B2 (ja) 視差値導出装置、機器制御システム、移動体、ロボット、視差値導出方法、およびプログラム
JP2008309637A (ja) 障害物計測方法、障害物計測装置及び障害物計測システム
JP2015179499A (ja) 視差値導出装置、機器制御システム、移動体、ロボット、視差値導出方法、およびプログラム
JP7543367B2 (ja) 情報処理装置、移動体制御システムおよび情報処理方法
JP2024161036A (ja) 測距装置、移動体制御システムおよび測距方法
JP2016070774A (ja) 視差値導出装置、移動体、ロボット、視差値生産方法、及びプログラム
JP2006031101A (ja) 画像生成方法およびその装置
US20230379445A1 (en) Image processing device, moving apparatus, image processing method, and storage medium
JP2006322795A (ja) 画像処理装置、画像処理方法および画像処理プログラム
JP6515547B2 (ja) 視差値導出装置、機器制御システム、移動体、ロボット、視差値生産方法、及びプログラム
EP3540640A1 (en) Information processing apparatus, system, movable body, method of information processing, and program
WO2023026517A1 (ja) 物体距離検出装置
JP2024119171A (ja) 測距装置、移動体、制御方法及びプログラム
JP2019028311A (ja) 視差情報生成装置および視差情報生成方法、撮像装置、移動装置、プログラム
JP6442911B2 (ja) 視差値導出装置、移動体、ロボット、視差値導出方法、及びプログラム
JP2024113830A (ja) 画像処理装置、画像処理方法およびプログラム
JP2016095229A (ja) 視差値導出装置、移動体、ロボット、視差値生産方法、及びプログラム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230524

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230524

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240206

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240404

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240723

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240821

R150 Certificate of patent or registration of utility model

Ref document number: 7543367

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150