Nothing Special   »   [go: up one dir, main page]

JP5994437B2 - 車両周囲画像表示制御装置および車両周囲画像表示制御プログラム - Google Patents

車両周囲画像表示制御装置および車両周囲画像表示制御プログラム Download PDF

Info

Publication number
JP5994437B2
JP5994437B2 JP2012150363A JP2012150363A JP5994437B2 JP 5994437 B2 JP5994437 B2 JP 5994437B2 JP 2012150363 A JP2012150363 A JP 2012150363A JP 2012150363 A JP2012150363 A JP 2012150363A JP 5994437 B2 JP5994437 B2 JP 5994437B2
Authority
JP
Japan
Prior art keywords
vehicle
image
area
history
determination
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2012150363A
Other languages
English (en)
Other versions
JP2014013994A (ja
Inventor
丙辰 王
丙辰 王
博彦 柳川
博彦 柳川
真和 竹市
真和 竹市
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Corp
Original Assignee
Denso Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso Corp filed Critical Denso Corp
Priority to JP2012150363A priority Critical patent/JP5994437B2/ja
Priority to EP13813227.9A priority patent/EP2846542A4/en
Priority to PCT/JP2013/001712 priority patent/WO2014006793A1/ja
Priority to CN201380035388.2A priority patent/CN104429059A/zh
Publication of JP2014013994A publication Critical patent/JP2014013994A/ja
Application granted granted Critical
Publication of JP5994437B2 publication Critical patent/JP5994437B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • G08G1/168Driving aids for parking, e.g. acoustic or visual feedback on parking space
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/60Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective
    • B60R2300/607Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective from a bird's eye viewpoint
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/80Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
    • B60R2300/806Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for aiding parking
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/183Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a single remote source

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Signal Processing (AREA)
  • Mechanical Engineering (AREA)
  • Theoretical Computer Science (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Traffic Control Systems (AREA)
  • Image Processing (AREA)

Description

本発明は、車両周囲画像表示制御装置および車両周囲画像表示制御プログラムに関するものである。
従来、車両に取り付けられたカメラで車両の周囲を繰り返し撮影し、撮影画像を車両の上方から見下ろす視点で画像表示装置に表示させる技術が知られている。
このような技術において、自車両の周囲の過去の撮影画像を自車両の動き量に応じて移動させて表示する履歴合成技術が知られている(特許文献1参照)
例えば、カメラが車両の後方を撮影するリアカメラである場合、図10に示すように、車両90の後方を除く周囲の鳥瞰画像を保存するための履歴領域Hと、車両90の後方の鳥瞰画像を保存するためのリアルタイム領域Rとをメモリ上に設ける。そして、最新の撮影画像の鳥瞰画像をメモリ上のリアルタイム領域Rに上書きし、履歴領域Hおよびリアルタイム領域Rの表示用画像を画像表示装置に表示させ、車両情報(ステアリング角、車速等)を利用して車両90の動きを計算し、計算した車両90の動きと逆の動きをするよう、履歴領域Hおよびリアルタイム領域Rにおいて画像を移動させる。
このような処理を繰り返すことで、例えば車両90が後退するときに画像表示装置に表示される画像は、図11A〜図11Dの順に車両90の後退が進むと共に、リアルタイム領域Rにあった画像が履歴領域Hに順次移動していく。したがって、履歴領域Hに含まれる鳥瞰画像の範囲が順次拡大していき、車両90の周囲の表示範囲が拡大していく。
特開2002−373327号公報
しかし、上記のような技術では、図12A〜図12Dに例示するように、車両90が存在することが原因となって車両90の近傍に発生した輝度変化パターン91〜94(例えば、車両90の影、車両90によって光が反射または部分的に遮られることで発生する濃淡変化)がある場合は、車両90の移動と共にその輝度変化パターンが履歴領域Hに複製されて移動し続ける。したがって、画像表示装置に表示される表示用画像中において、輝度変化パターンの画像が拡大して縞模様になってしまい、車両90の周囲が見づらい表示用画像となってしまう。
本発明は上記点に鑑み、自車両の周囲の撮影画像を自車両の動き量に応じて移動させて上からの視点で表示する履歴合成技術において、表示用画像中において車両の移動と共に自車両近傍の輝度変化パターンが拡大してしまう可能性を低減することを目的とする。
上記目的を達成するための請求項1に記載の発明は、車両の周囲を繰り返し撮影する車載カメラ(1)から撮影画像を順次取得する取得手段(110、115)と、前記取得手段が取得した撮影画像中の複数の判定領域(R21〜R26)内における輝度変化量を算出する輝度分析手段(120)と、前記輝度分析手段の算出結果に基づいて、前記複数の判定領域のうち、輝度変化量が所定の閾値以上となる領域が、前記車両に最も近い位置に対応する判定領域から前記車両の後方に連続して存在する分だけ、それら連続して存在する判定領域を履歴作成用領域から除外し、前記複数の判定領域のうち、前記車両に近い側からの順で最初に輝度変化量が前記閾値未満となった判定領域およびそれよりも前記車両から遠い位置に対応する判定領域については、前記履歴作成用領域として選ぶ履歴作成用領域決定手段(125)と、前記取得手段が取得した撮影画像中の、前記履歴作成用領域決定手段によって選ばれた前記履歴作成用領域内の履歴作成用画像を、車両用画像と共に、前記車両の上方から見下ろす視点で、画像表示装置(3)に表示させ、前記車両から入力された車両挙動情報に基づく前記車両の動き量に応じて、前記車両用画像に対する前記履歴作成用画像の相対的な配置を変化させる表示制御手段(135、140、145)と、を備えた車両周囲画像表示制御装置である
また、請求項3に記載の発明は、車両の周囲を繰り返し撮影する車載カメラ(1)から撮影画像を順次取得する取得手段(110、115)、前記取得手段が取得した撮影画像中の複数の判定領域(R21〜R26)内における輝度変化量を算出する輝度分析手段(120)、前記輝度分析手段の算出結果に基づいて、前記複数の判定領域のうち、輝度変化量が所定の閾値以上となる領域が、前記車両に最も近い位置に対応する判定領域から前記車両の後方に連続して存在する分だけ、それら連続して存在する判定領域を履歴作成用領域から除外し、前記複数の判定領域のうち、前記車両に近い側からの順で最初に輝度変化量が前記閾値未満となった判定領域およびそれよりも前記車両から遠い位置に対応する判定領域については、前記履歴作成用領域として選ぶ履歴作成用領域決定手段(125)、および、前記取得手段が取得した撮影画像中の、前記履歴作成用領域決定手段によって選ばれた前記履歴作成用領域内の履歴作成用画像を、車両用画像と共に、前記車両の上方から見下ろす視点で、画像表示装置(3)に表示させ、前記車両から入力された車両挙動情報に基づく前記車両の動き量に応じて、前記車両用画像に対する前記履歴作成用画像の相対的な配置を変化させる表示制御手段(135、140、145)として、車両周囲画像表示制御装置(2)を機能させる車両周囲画像表示制御プログラムである。
このように、履歴作成用領域内の撮影画像を、車両用画像と共に、車両の上方から見下ろす視点で、画像表示装置に表示させ、車両の動き量に応じて、車両用画像に対する履歴作成用領域中の撮影画像の相対的な配置を変化させる車両周囲画像表示制御装置において、撮影画像中の複数の判定領域(R21〜R26)内における輝度変化量を算出し、輝度変化量が所定の閾値未満の判定領域を履歴作成用領域として選ぶと共に、輝度変化量が所定の閾値以上の判定領域を履歴作成用領域から除外することで、車両の移動と共に表示用画像中において自車両近傍の輝度変化パターンが拡大してしまう可能性を低減することができる。
なお、上記および特許請求の範囲における括弧内の符号は、特許請求の範囲に記載された用語と後述の実施形態に記載される当該用語を例示する具体物等との対応関係を示すものである。
本発明の実施形態に係る車両周囲画像表示システムの構成図である。 メモリ中のリアルタイム領域Rに保存される画像の車両10に対する位置関係を示す図である。 メモリ中の履歴領域Hに保存される画像の車両10に対する位置関係を示す図である。 表示用画像Dの構成図である。 制御装置2が実行する処理のフローチャートである。 第2サブリアルタイム領域R2の平均輝度分布グラフの一例である。 履歴作成用領域R22〜R26を第1サブ履歴領域H1中のどの領域にコピーするかを表す図である。 1回目の実行機会において作成される表示用画像Dを示す図である。 2回目の実行機会において作成される表示用画像Dを示す図である。 3回目の実行機会において作成される表示用画像Dを示す図である。 4回目の実行機会において作成される表示用画像Dを示す図である。 5回目の実行機会において作成される表示用画像Dを示す図である。 6回目の実行機会において作成される表示用画像Dを示す図である。 1回目の実行機会において第2リアルタイム領域R2の画像が第1サブ履歴領域H1にコピーされる様子を示す図である。 2回目の実行機会において第2リアルタイム領域R2の画像が第1サブ履歴領域H1にコピーされる様子を示す図である。 3回目の実行機会において第2リアルタイム領域R2の画像が第1サブ履歴領域H1にコピーされる様子を示す図である。 4回目の実行機会において第2リアルタイム領域R2の画像が第1サブ履歴領域H1にコピーされる様子を示す図である。 5回目の実行機会において第2リアルタイム領域R2の画像が第1サブ履歴領域H1にコピーされる様子を示す図である。 6回目の実行機会において第2リアルタイム領域R2の画像が第1サブ履歴領域H1にコピーされる様子を示す図である。 従来のメモリ中の履歴領域Hとリアルタイム領域Rを示す図である。 車両の後退と共に変化する合成鳥瞰画像を示す図である。 車両の後退と共に変化する合成鳥瞰画像を示す図である。 車両の後退と共に変化する合成鳥瞰画像を示す図である。 車両の後退と共に変化する合成鳥瞰画像を示す図である。 車両に起因する輝度変化パターンがある場合に車両の後退と共に変化する合成鳥瞰画像を示す図である。 車両に起因する輝度変化パターンがある場合に車両の後退と共に変化する合成鳥瞰画像を示す図である。 車両に起因する輝度変化パターンがある場合に車両の後退と共に変化する合成鳥瞰画像を示す図である。 車両に起因する輝度変化パターンがある場合に車両の後退と共に変化する合成鳥瞰画像を示す図である。
以下、本発明の一実施形態について説明する。図1に示すように、本実施形態に係る車両周囲画像表示システムは、車両に搭載され、車載カメラ1、制御装置2(車両周囲画像表示制御装置の一例に相当する)、画像表示装置3を備えている。
車載カメラ1は、車両の後端付近に固定して搭載され、車両の周囲を、具体的には、車両の後方の所定範囲を繰り返し(例えば、1/30秒周期で)撮影し、撮影の結果得た当該所定範囲の撮影画像のデータを制御装置2に逐次出力する。
制御装置2には、車載カメラ1から上記撮影画像が繰り返し入力されると共に、自車両からシフトレンジの情報、車速の情報、およびステアリング角(またはヨーレート)の情報が繰り返し入力されるようになっている。
そして制御装置2は、あらかじめ定められた処理を実行することで、鳥瞰変換部21、画像合成部22、車両運動計算部23、履歴作成用領域決定部24として機能する。
鳥瞰変換部21は、車載カメラ1から入力された撮影画像に対して周知の鳥瞰変換を施すことで、当該撮影画像を、自車両の上方から(真下にまたは斜め下に)見下ろす視点の鳥瞰画像に、変換する。
画像合成部22は、後述するように、最新の撮影画像の鳥瞰画像と、過去の撮影画像の鳥瞰画像を合成し、合成の結果得た合成鳥瞰画像を、表示用画像として画像表示装置3に出力する。
車両運動計算部23は、自車両から入力されたシフトレンジの情報、車速の情報、およびステアリング角(またはヨーレート)の情報に基づいて、周知のAckermanモデルに従った自車両の動き(移動量および姿勢変化量)を算出する。
履歴作成用領域決定部24は、最新の撮影画像中のどの領域を履歴作成用領域とするかを決定する。以上のような構成の制御装置2としては、例えば周知のマイクロコンピュータを用いてもよい。
画像表示装置3は、制御装置2から入力された表示用画像を表示する装置であり、表示された表示用画像(すなわち、合成鳥瞰画像)を車内のドライバーが見ることができるような位置に配置される。
以下、このような構成の車両周囲画像表示システムの作動について説明する。制御装置2に搭載された書き込み可能なメモリ(例えばRAM)には、図2に示すようなリアルタイム領域Rおよび図3に示すような履歴領域Hが、あらかじめ確保されている。
これらリアルタイム領域Rおよび履歴領域H内の各アドレスは、仮想的に配置された自車両10に対する相対位置があらかじめ割り当てられている。図2、図3では、これらリアルタイム領域Rおよび履歴領域Hの各アドレスと、所定の自車両10との位置関係を表している。
リアルタイム領域Rは、後述するように、車載カメラ1によって撮影された最新の撮影画像の一部を鳥瞰変換した画像を保存するための領域であり、第1サブリアルタイム領域R1と第2サブリアルタイム領域R2に分かれている。
図2に示す通り、リアルタイム領域Rの各アドレスは、自車両10のすぐ後方の実線矩形範囲内の路面のいずれかの位置に1対1に対応しており、リアルタイム領域Rのアドレス全体で当該実線矩形範囲全体をカバーしている。
そして、第1サブリアルタイム領域R1は、リアルタイム領域Rのうち遠方側の路面の矩形領域をカバーしており、第2サブリアルタイム領域R2は、リアルタイム領域Rのうち近傍側の路面の矩形領域をカバーしている。
履歴領域Hは、車載カメラ1の撮影画像のうち最新の撮影画像と最新でない撮影画像の両方が鳥瞰変換された画像を保存するための領域であり、第1サブ履歴領域H1と第2サブ履歴領域H2に分かれている。
図3に示す通り、履歴領域Hの各アドレスは、自車両10のすぐ後方の実線矩形範囲内の路面のいずれかの位置に1対1に対応しており、履歴領域Hのアドレス全体で当該実線矩形範囲全体をカバーしている。
そして、第1サブ履歴領域H1は、履歴領域Hのうち、自車両10のすぐ後方の路面の矩形領域をカバーしており、第1サブ履歴領域H1のカバー範囲の、自車両10に対する相対位置範囲は、第2サブリアルタイム領域R2のカバー範囲と同じである。
また、図3に示す通り、第2サブ履歴領域H2は、履歴領域Hのうち、車載カメラ1で現在撮影できない位置の路面の矩形範囲、すなわち、自車両10の直下の路面、自車両10の前方および側方の路面の範囲をカバーしている。したがって、第2サブ履歴領域H2に保存される鳥瞰画像は、車載カメラ1で撮影された撮影画像のうち、最新でない過去の撮影画像が鳥瞰変換された鳥瞰画像となる。
これらリアルタイム領域Rおよび履歴領域Hに保存された画像に基づいて、図4に示す表示用画像Dが合成され、画像表示装置3で表示される。具体的には、第2サブ履歴領域H2中の鳥瞰画像、第1サブリアルタイム領域R1中の鳥瞰画像、および第2サブリアルタイム領域R2中の鳥瞰画像を図4のような配置で繋ぎ合わせた画像が、表示用画像Dとなる。
制御装置2は、このようなリアルタイム領域R、履歴領域Hを用いて、図5にフローチャートで示す処理を、繰り返し(具体的には、所定の制御周期毎に)実行するようになっている。制御周期としては、例えば250ミリ秒でもよい。制御装置2は、この図5の処理を実行することで、上記鳥瞰変換部21、画像合成部22、車両運動計算部23、履歴作成用領域決定部24として機能する。
以下、この図5の処理について説明する。まず、制御装置2が図5の処理を開始する際は、リアルタイム領域Rおよび履歴領域Hのそれぞれの領域内は、鳥瞰画像のデータが全く含まれていない空(から)の状態、換言すれば、空を示すデータのみが含まれている状態となっている。
制御装置2は、図5の処理の各実行機会において、まずステップ105で、入力された最新のシフトレンジ情報に基づいて、自車両のシフト位置がリバース(後退位置)であるか否か判定し、リバースでなければ、画像表示装置に表示用画像Dを出力することを止めると共に、リアルタイム領域Rおよび履歴領域Hのそれぞれの領域内のデータを空にクリアし、その後、今回の図5の処理を終了する。
ドライバーが、駐車場の駐車マスに自車両を駐車させようとするとき、シフトレンジをR(リバース)に入れたとする。すると制御装置2は、ステップ105で、シフト位置がリバースであると判定し、ステップ110に進む。
ステップ110では、車載カメラ1から最新の撮影画像の入力を1枚受け付けて取得する。続いてステップ115では、直前のステップ110で取得した最新の撮影画像に対して周知の鳥瞰変換を施す。この鳥瞰変換によって、撮影画像は、自車両の上方から(真下にまたは斜め下に)見下ろす視点の鳥瞰画像に、変換される。
なお、この鳥瞰変換の際には、周知の通り、撮影画像中の物体は高さゼロの位置(すなわち、平坦な路面)に存在すると仮定されている。鳥瞰変換に用いられる変換式は、あらかじめ制御装置2のメモリ(例えばROM)に記録されている。
また、この鳥瞰画像は、撮影画像の画素配置が鳥瞰変換によって変更されたものであるから、撮影画像の一形態である。
ステップ115では更に、作成した鳥瞰画像から、図2のリアルタイム領域Rのカバー範囲となる所定の部分の鳥瞰画像を切り出し、切り出した部分中の各画素を、リアルタイム領域Rの各々のアドレスに割り当てられた相対位置に合致するよう、リアルタイム領域Rに保存する。
より具体的には、切り出した部分を自車両10の前後方向に2分割したうちの、自車両10からより離れた方(例えば、自車両10から1.8m以上離れた方)の所定の範囲の画像を、第1サブリアルタイム領域R1に保存し、2分割したうちの、自車両10により近い方(例えば、自車両10から1.8未満の方)の所定の範囲の画像を、第2サブリアルタイム領域R2に保存する。
制御装置2は、このステップ115の処理を実行することで、鳥瞰変換部21として機能する。
続いてステップ120では、第2サブリアルタイム領域R2中に保存した鳥瞰画像を対象として、輝度分析を行う。この輝度分析は、第2サブリアルタイム領域R2中の複数の判定領域内における輝度変化量(時間的変化量ではなく空間的変化量)を算出するための処理である。
本実施形態では、輝度分析として、第2サブリアルタイム領域R2中において縦横にマトリクス状の配置で保存されている画素群を対象として、図6に例示するような平均輝度Lの分布30を算出する。
図6のグラフの横軸は、図2の0の後方に進む方向)を表し、縦軸は、各Y座標値(Y座標軸方向に沿った自車両10からの距離)における平均輝度L(Y)を表す。ここで、あるY座標値における平均輝度Lは、そのY座標値の位置に配置され、図2中のX座標軸方向(Y座標軸に直交する方向であり、自車両10の左右方向である)に並ぶ画素群の平均輝度である。
そして、この第2サブリアルタイム領域R2のY座標値の範囲(0cmから180cmまで)を距離で6等分して6つの判定領域R21〜R26を設定する。そして、判定領域R21〜R26のそれぞれにおいて、上記平均輝度L(Y)の当該判定領域内における変化量を算出する。
本実施形態では、この変化量として、上記平均輝度L(Y)の当該判定領域内における最大値と最小値の差(輝度差)を採用する。例えば、図6の例では、判定領域R21の輝度差はΔH1となり、判定領域R22の輝度差はΔH2となる。なお、上記平均輝度L(Y)の当該判定領域内における変化量としては、例えば、上記平均輝度L(Y)の当該判定領域内における輝度の標準偏差を用いてもよい。
続いてステップ125では、直前のステップ120における算出結果(すなわち、各判定領域R21〜R26における平均輝度L(Y)の変化量)に基づいて、履歴作成用領域を決定する。制御装置2は、このステップ125の処理を実行することで、履歴作成用領域決定部24として機能する。
ステップ125における履歴作成用領域の決定は、以下のように行う。まず、判定領域R21〜R26のすべてを履歴作成用領域とする。次に、判定領域R21〜R26のうち最も自車両10に近い領域R21を判定対象とする。
そして、判定対象となっている判定領域R21における平均輝度L(Y)の変化量が、所定の閾値以上であるか否かを判定する。そして、当該閾値以上であれば、当該判定領域R21を履歴作成用領域から除外すると共に、現在の判定対象の領域R21の次に自車両10に近い判定領域R22に、判定対象を変える。
それ以降は、同様に、判定対象となっている判定領域における平均輝度L(Y)の変化量が、所定の閾値以上であるか否かを判定し、当該閾値以上であれば、当該判定領域を履歴作成用領域から除外すると共に、現在の判定対象の領域の次に自車両10に近い判定領域に判定対象を変える、という処理を、判定領域21〜26のすべてについて平均輝度L(Y)の変化量と閾値とが比較されるまで、繰り返し、その後、ステップ125の処理を終了する。
ただし、判定領域21〜26のいずれかについて、判定対象の判定領域における平均輝度L(Y)の変化量が当該閾値以上でない(閾値未満である)と判定した場合は、その時点で直ちにステップ125の処理を終了する。
このようなステップ125の処理によって、判定領域21〜26のうち、平均輝度L(Y)の変化量が当該閾値以上となる領域が判定領域21から自車両10の後方に連続して存在する分だけ、それら連続して存在する判定領域を履歴作成用領域から除外する。そして、判定領域21〜26のうち、自車両10に近い側からの順で最初に平均輝度L(Y)の変化量が当該閾値未満となった判定領域およびそれよりも自車両10から遠い判定領域については、履歴作成用領域に含めたままとする。
例えば、判定領域21〜26の平均輝度L(Y)の変化量のうち、判定領域21、22、26の変化量が当該閾値以上となっている場合は、判定領域21、22を履歴作成用領域とせず、判定領域23〜26を履歴作成用領域に含める。
続いてステップ130では、判定領域21〜26のうち履歴作成用領域となった領域中の鳥瞰画像を、第1サブ履歴領域H1にコピーする。
具体的には、図7に示すように、第1サブ履歴領域H1に対して、図7のY座標軸方向(自車両10の前後方向に沿って自車両10の後方に進む方向)に沿ったY座標値の範囲(0cmから180cmまで)を距離で6等分して6つのコピー先領域H11〜H16を設定する。
そして、判定領域R21〜R26のうち履歴作成用領域となった判定領域中の鳥瞰画像を、履歴作成用画像として選び、選んだ履歴作成用画像を、自車両10からの距離が同じコピー先領域に上書きコピーする。図7の例では、判定領域R21〜R26のうち領域R22〜R26のみが履歴作成用領域であり、領域R22〜R26中の鳥瞰画像は、それぞれ、第1サブ履歴領域H1中の同じ位置をカバーするコピー先領域H12〜H16に、同じ相対配置でコピーされる。
続いてステップ135では、表示用画像Dを作成する。具体的には、図4に示した通り、第2サブ履歴領域H2、第1サブリアルタイム領域R1、第2サブリアルタイム領域R2を図4のように繋ぎ合わせて各領域H2、R1、R2内の画像を合成し、合成後の画像の仮想的な自車両10の位置に、自車両10を表す所定の自車両用画像10を重畳させる。
なお、自車両用の画像が重畳された位置においても、第2サブ履歴領域H2内の鳥瞰画像(過去に車載カメラ1で撮影された画像)が透過表示されるようにする。
このような合成および重畳の結果得られた表示用画像Dは、作成される度に、制御装置2から画像表示装置3に入力され、その結果、画像表示装置3は当該表示用画像Dをドライバーに表示する。
ドライバーは、この表示用画像Dを見ることで、自車両10を上から見下ろしたような視点で自車両10の周囲を確認することができる。更に、実際には自車両10に覆われて隠れている部分も、自車両10を透過して上から見ることができる。制御装置2は、このステップ135の処理を実行することで、画像合成部22として機能する。
続いてステップ140では、自車両10から入力された各種車両挙動情報、すなわち、シフトレンジの情報、車速の情報、およびステアリング角(またはヨーレート)の最新の情報(過去の情報を追加で用いて)に基づいて、周知のAckermanモデルに従った自車両の動き量(移動ベクトルおよび姿勢変化角度)を算出する。なお、ここでいう動き量とは、前回の撮影画像の取得タイミング(前回の図5の処理の実行機会)から今回の撮影画像の取得タイミング(今回の図5の処理の実行機会)までの期間(すなわち、直前の制御周期)における車両の動き(すなわち、撮影画像の取得間隔における動き量)を示す動き量である。制御装置2は、このステップ140の処理を実行することで、車両運動計算部23として機能する。
続いてステップ145では、直前のステップ140で算出した自車両の動き量に基づいて、自車両の周囲(路面に固定されていると仮定する)が相対的に自車両に対してどのように移動するかを表す相対移動量を算出する。
具体的には、直前のステップ140で算出した自車両の動き量と逆の動きを算出する。例えば、自車両の移動ベクトルが(α、β)で、姿勢変化角度がθであるとき、自車両に対する周囲の相対移動量としては、移動ベクトルが(−α、−β)で、姿勢変化角度が−θであるとする。
そして、履歴領域H内で、上記のようにして算出された周囲の相対移動量に従って、当該履歴領域H内の鳥瞰画像が、次の表示タイミング(次の図5の処理の実行機会のステップ135の実行タイミング)における自車両の周囲の配置を反映するよう、当該履歴領域H内に保存されたすべての画素(当然に履歴作成用画像の画素も含む)を移動させる。このようにして、車両の動き量に応じて、仮想的な車両10の位置に対する履歴作成用画像の相対的な配置が決定される。
これにより、当該相対移動量に応じて、第1サブ履歴領域H1と第2サブ履歴領域H2の境界で、第1サブ履歴領域H1から第2サブ履歴領域H2に、または、第2サブ履歴領域H2から第1サブ履歴領域H1に、鳥瞰画像の一部が移動する。本事例では、自車両が後退しているので、前者となる。したがって、車両の後退と共に、図3の処理の開始当初は空だった第2サブ履歴領域H2内で鳥瞰画像が増加する。ステップ145の後、図5の1回分の処理が終了する。
制御装置2は、以上のような図5の処理を制御周期毎に繰り返し実行することで、車載カメラから制御周期毎に撮影画像を順次取得し(ステップ110)、順次取得された撮影画像を、制御周期毎に鳥瞰画像に順次鳥瞰変換してリアルタイム領域Rに上書き保存し(ステップ115)、順次鳥瞰変換された結果の鳥瞰画像に対し、制御周期毎に輝度分析を順次行う(ステップ120)。各回の輝度分析では、リアルタイム領域R中の複数の判定領域R21〜R26内における輝度変化量を算出する。
そして制御装置2は、輝度分析の結果に基づいて、複数の判定領域R21〜R26のうち、輝度変化量が所定の閾値未満の判定領域を履歴作成用領域として選び、輝度変化量が所定の閾値以上の判定領域を履歴作成用領域から除外するという処理を、制御周期毎に順次行う(ステップ125)。
そして制御装置2は、順次選ばれた履歴作成用領域内の鳥瞰画像を、履歴作成用画像として、制御周期毎に第1サブ履歴領域H1に順次コピーし(ステップ130)、第2サブ履歴領域H2中の画像とリアルタイム領域R中の画像と自車とを合成した表示用画像Dを制御周期毎に画像表示装置3に順次表示させ(ステップ135)、車両から繰り返し入力された車両挙動情報に基づいて車両10の動き量を制御周期毎に順次算出し(ステップ140)、算出された動き量に応じて、コピーされた履歴作成用画像の自車両10に対する相対的な配置を変化させるよう、履歴領域H内で画像を移動させることで、当該相対的な配置を制御周期毎に順次決定する(ステップ145)。
以下、制御装置2が以上のような図5の処理を制御周期毎に繰り返して行う作動について、1つの事例を例に取り、図8A〜図8F、図9A〜図9Fを参照して説明する。
まず、ドライバーが駐車マス(図8Aの駐車マスP2)に駐車するために、当該駐車マスP2の近傍で自車両10を停止させ、シフト位置がリバースに切り替えたとする。
すると制御装置2は、シフト位置がリバースに切り替わってから1回目の図5の処理の実行機会において、ステップ105でシフト位置がリバースであると判定してステップ110に進み、ステップ110で車載カメラ1から最新の撮影画像を取得し、ステップ115で撮影画像を鳥瞰変換し、その結果の鳥瞰画像の一部を切り出してリアルタイム領域Rに上書き保存する。
このとき第2サブリアルタイム領域R2に記録された鳥瞰画像中において、図8Aに示すように、車両10のすぐ後方に輝度変化が激しい輝度変化パターン画像50が含まれている。この輝度変化パターン画像50は、車両10が存在することが原因となって車両10の近傍に発生した輝度変化(例えば、車両の影、車両によって光が反射または部分的に遮られることで発生する濃淡変化)が写った画像である。このような輝度変化パターン画像50は、車両10に付随して車両10と共に移動するという性質を有している。
ステップ115に続くステップ120では、このような輝度変化パターン画像50を含む第2サブリアルタイム領域R2に対して輝度分析を行う。本事例では、この輝度変化パターン画像50が第2サブリアルタイム領域R2中の判定領域R21に含まれており、その結果、判定領域R21における平均輝度L(Y)の変化量が上記閾値を超え、その一方、判定領域R22〜R26における平均輝度L(Y)の変化量は上記閾値未満であったとする。
したがって、続くステップ125では、履歴作成用領域として判定領域R21が除外され、判定領域R22〜R26のみが履歴作成用領域に選ばれる。するとステップ130では、図9Aに示すように、判定領域R22〜R26中の鳥瞰画像のみが、それぞれコピー先領域H12〜H16に上書きコピーされる。
続くステップ135では、図8Aに示すように、現在のリアルタイム領域R中の画像に、第2サブ履歴領域H2中の画像を合成し、更に仮想的な自車両10の位置に車両用画像を透過的に重畳した画像を、表示用画像Dとして作成する。
なおこの時点では、第2サブ履歴領域H2は鳥瞰画像のデータが全く含まれていない空の状態となっている。したがって、表示用画像Dの第2サブ履歴領域H2の部分は、白、黒、青等のバックグランド色のみが表示される。
続くステップ140では、既に説明した通り、直前の制御周期分の期間における車両の動きを計算する。本事例では、この期間において車両10が真っ直ぐ24cm(判定領域の前後幅の0.8倍に相当する)後退したとする。したがって、ステップ145では、この車両10の移動分に対応した量(24cm)だけ、履歴領域H内で画像を前方に移動させる。このようにして、車両の動き量に応じて、仮想的な車両10の位置に対する履歴作成用画像の相対的な配置が決定される。
その後、シフト位置がリバースに切り替わってから2回目の図5の処理の実行機会が訪れると、制御装置2は、ステップ105からステップ110に進み、ステップ110で車載カメラ1から最新の撮影画像を取得し、ステップ115で撮影画像を鳥瞰変換し、その結果の鳥瞰画像の一部を切り出してリアルタイム領域Rに上書き保存する。
このとき第2サブリアルタイム領域R2に記録された鳥瞰画像中においては、図8Bに示すように、車両10のすぐ後方に輝度変化が激しい輝度変化パターン画像51が含まれている。この輝度変化パターン画像51は、前回の図5の処理の実行機会において第2サブリアルタイム領域R2中に現れた輝度変化パターン画像50と同じ原因で発生する画像であるので、車両10に対する配置は、輝度変化パターン画像50とほぼ同じである。
ステップ115に続くステップ120では、このような輝度変化パターン画像51を含む第2サブリアルタイム領域R2に対して輝度分析を行う。本事例では、輝度分析の結果、各判定領域R21〜R26における平均輝度L(Y)の変化量と上記閾値との大小関係が、前回の実行機会のステップ120と同じであったとする。
したがって、続くステップ125では、履歴作成用領域として判定領域R21が除外され、領域R22〜R26のみが履歴作成用領域に選ばれる。するとステップ130では、図9Bに示すように、判定領域R22〜R26中の鳥瞰画像のみが、それぞれコピー先領域H12〜H16に上書きコピーされる。
なお、今回は上書きコピー先となっていないコピー先領域H11には、前回の図5の処理の実行機会のステップ145の処理により、前回の図5の処理の実行機会において第2サブリアルタイム領域R2からコピーされた鳥瞰画像が移動している。
続くステップ135では、図8Bに示すように、現在のリアルタイム領域R中の画像に、第2サブ履歴領域H2中の画像を合成し、更に車両用画像10を透過的に重畳した画像を、表示用画像Dとして作成する。
なおこの時点では、前回の図5の実行機会のステップ145において、履歴領域H中で履歴作成用画像の位置(仮想的な車両10の位置に対する相対的な配置)が変化している。したがって、第1サブ履歴領域H1から第2サブ履歴領域H2に画像が移動している。
しかし、移動したのは鳥瞰画像がコピーされていなかったコピー先領域H11の画像(空の画像)であった。したがって、この時点ではまだ、第2サブ履歴領域H2は鳥瞰画像のデータが全く含まれていない空の状態となっている。
もし、前回の図5の実行機会のステップ125において、判定領域R21が履歴作成用領域に含まれていたならば、ステップ130において判定領域R21の鳥瞰画像(輝度変化パターン画像50を含む)がコピー先領域H11にコピーされ、ステップ145において当該鳥瞰画像(輝度変化パターン画像50を含む)が第2履歴領域H2内に入っていたはずである。
もしそうなっていれば、今回の図5の実行機会におけるステップ135では、表示用画像に輝度変化パターン画像50が含まれることになり、従来のように、実際にはそこにない輝度変化を表す画像(輝度変化パターン画像50)が、車両10の移動と共に移動しながら表示され続けてしまっていた。
本実施形態では、判定領域における平均輝度L(Y)の変化量を閾値と比較することで、車両10の近傍に車両10の存在によって発生する輝度変化パターン画像50を見つけ出し、見つけ出した輝度変化パターン画像50を含む判定領域を履歴作成用領域から除外した。これにより、輝度変化パターン画像50が表示用画像D内に残り続けて表示用画像Dの視認性を悪化させる可能性を低減することができる。
続くステップ140では、既に説明した通り、直前の制御周期分の期間における車両の動きを計算する。本事例では、この期間において車両10が真っ直ぐ45cm(判定領域の前後幅の1.5倍に相当する)後退したとする。したがって、ステップ145では、この車両10の移動分に対応した量(45cm)だけ、履歴領域H内で画像を前方に移動させる。このようにして、車両の動き量に応じて、仮想的な車両10の位置に対する履歴作成用画像の相対的な配置が決定される。
その後、シフト位置がリバースに切り替わってから3回目の図5の処理の実行機会が訪れると、制御装置2は、ステップ105からステップ110に進み、ステップ110で車載カメラ1から最新の撮影画像を取得し、ステップ115で撮影画像を鳥瞰変換し、その結果の鳥瞰画像の一部を切り出してリアルタイム領域Rに上書き保存する。
このとき第2サブリアルタイム領域R2に記録された鳥瞰画像中においては、図8Cに示すように、車両10のすぐ後方に輝度変化が激しい輝度変化パターン画像52が含まれている。この輝度変化パターン画像52は、前回の図5の処理の実行機会において第2サブリアルタイム領域R2中に現れた輝度変化パターン画像51と同じ原因で発生する画像であるので、車両10に対する配置は、輝度変化パターン画像51とほぼ同じである。
ステップ115に続くステップ120では、このような輝度変化パターン画像52を含む第2サブリアルタイム領域R2に対して輝度分析を行う。本事例では、輝度分析の結果、各判定領域R21〜R26における平均輝度L(Y)の変化量と上記閾値との大小関係が、前回の実行機会のステップ120と同じであったとする。
したがって、続くステップ125では、履歴作成用領域として判定領域R21が除外され、領域R22〜R26のみが履歴作成用領域に選ばれる。するとステップ130では、図9Cに示すように、判定領域R22〜R26中の鳥瞰画像のみが、それぞれコピー先領域H12〜H16に上書きコピーされる。
なお、今回は上書きコピー先となっていないコピー先領域H11には、前回の図5の処理の実行機会のステップ145の処理により、前回の図5の処理の実行機会において第2サブリアルタイム領域R2からコピーされた鳥瞰画像が移動している。
続くステップ135では、図8Cに示すように、現在のリアルタイム領域R中の画像に、第2サブ履歴領域H2中の画像を合成し、更に車両用画像10を透過的に重畳した画像を、表示用画像Dとして作成する。
なおこの時点では、前回の図5の実行機会のステップ145において、履歴領域H中で履歴作成用画像の位置(仮想的な車両10の位置に対する相対的な配置)が変化している。そしてそれにより、第1サブ履歴領域H1(具体的にはコピー先領域H11、H12)から第2サブ履歴領域H2に鳥瞰画像が移動している。
したがって、今回のステップ135では、前回の図5の実行機会のステップ145において履歴領域H中で変化した履歴作成用画像の相対配置に対応した配置で、第2サブ履歴領域H2中の履歴作成用画像が画像表示装置に表示される。
ここでも、前回の図5の実行機会のステップ125において、判定領域R21が履歴作成用領域に含まれていたならば、ステップ145において当該鳥瞰画像(輝度変化パターン画像51を含む)が第2履歴領域H2内に入っていたはずである。もしそうなっていれば、今回の図5の実行機会におけるステップ135では、表示用画像Dに輝度変化パターン画像51が含まれることになっていた。
しかし、本実施形態では、輝度変化パターン画像51を見つけ出し、見つけ出した輝度変化パターン画像51を含む判定領域R21を履歴作成用領域から除外した。これにより、輝度変化パターン画像51が表示用画像D内に残り続けて表示用画像Dの視認性を悪化させる可能性を低減することができる。
続くステップ140では、既に説明した通り、直前の制御周期分の期間における車両の動きを計算する。本事例では、この期間において車両10が真っ直ぐ30cm(判定領域の前後幅に相当する)後退したとする。したがって、ステップ145では、この車両10の移動分に対応した量(30cm)だけ、履歴領域H内で画像を前方に移動させる。このようにして、車両の動き量に応じて、仮想的な車両10の位置に対する履歴作成用画像の相対的な配置が決定される。
その後、シフト位置がリバースに切り替わってから4回目の図5の処理の実行機会が訪れると、制御装置2は、ステップ105からステップ110に進み、ステップ110で車載カメラ1から最新の撮影画像を取得し、ステップ115で撮影画像を鳥瞰変換し、その結果の鳥瞰画像の一部を切り出してリアルタイム領域Rに上書き保存する。
このとき第2サブリアルタイム領域R2に記録された鳥瞰画像中においては、図8Dに示すように、車両10のすぐ後方に輝度変化が激しい輝度変化パターン画像53が含まれている。この輝度変化パターン画像53は、前回の図5の処理の実行機会において第2サブリアルタイム領域R2中に現れた輝度変化パターン画像52と同じ原因で発生する画像である。
しかしながら、輝度変化パターン画像50、51、52は全体が判定領域R21内に収まっていたのに対し、変化画像53は、判定領域R21をはみ出し、判定領域R21にも入っている。このように、変化画像53が経時的に変化する原因としては、車両10の方向転換、周囲の光源の車両10に対する相対移動等が考えられる。
ステップ115に続くステップ120では、このような輝度変化パターン画像53を含む第2サブリアルタイム領域R2に対して輝度分析を行う。本事例では、輝度分析の結果、各判定領域R21、R23〜R26における平均輝度L(Y)の変化量と上記閾値との大小関係は、前回の実行機会のステップ120と同じであったが、輝度変化パターン画像53が判定領域R22内にはみ出た結果、判定領域R22における平均輝度L(Y)の変化量が上記閾値を超えてしまったとする。
したがって、続くステップ125では、履歴作成用領域として判定領域R21のみならず判定領域R22も除外され、領域R23〜R26のみが履歴作成用領域に選ばれる。するとステップ130では、図9Dに示すように、判定領域R23〜R26中の鳥瞰画像のみが、それぞれコピー先領域H13〜H16に上書きコピーされる。
なお、今回は上書きコピー先となっていないコピー先領域H11、H12には、前回の図5の処理の実行機会のステップ145の処理により、前回の図5の処理の実行機会において第2サブリアルタイム領域R2からコピーされた鳥瞰画像が移動している。
続くステップ135では、図8Dに示すように、現在のリアルタイム領域R中の画像に、第2サブ履歴領域H2中の画像を合成し、更に車両用画像10を透過的に重畳した画像を、表示用画像Dとして作成する。
この時点では、前回の図5の実行機会のステップ145において、履歴領域H中で履歴作成用画像の位置(仮想的な車両10の位置に対する相対的な配置)が変化している。そしてそれにより、第1サブ履歴領域H1(具体的にはコピー先領域H11)から第2サブ履歴領域H2に鳥瞰画像が更に移動している。その結果、第2サブ履歴領域H2中で鳥瞰画像を含む領域が増大している。
したがって、今回のステップ135では、前回の図5の実行機会のステップ145において履歴領域H中で変化した履歴作成用画像の相対配置に対応した配置で、第2サブ履歴領域H2中の履歴作成用画像が画像表示装置に表示される。
ここでも、前回の図5の実行機会のステップ125において、判定領域R21が履歴作成用領域に含まれていたならば、ステップ145において当該鳥瞰画像(輝度変化パターン画像52を含む)が第2履歴領域H2内に入っていたはずである。もしそうなっていれば、今回の図5の実行機会におけるステップ135では、表示用画像Dに輝度変化パターン画像52が含まれることになっていた。
しかし、本実施形態では、輝度変化パターン画像52を見つけ出し、見つけ出した輝度変化パターン画像52を含む判定領域を履歴作成用領域から除外した。これにより、輝度変化パターン画像52が表示用画像D内に残り続けて表示用画像Dの視認性を悪化させる可能性を低減することができる。
続くステップ140では、既に説明した通り、直前の制御周期分の期間における車両の動きを計算する。本事例では、この期間において車両10が真っ直ぐ36cm(判定領域の前後幅の1.2倍に相当する)後退したとする。したがって、ステップ145では、この車両10の移動分に対応した量(36cm)だけ、履歴領域H内で画像を前方に移動させる。このようにして、車両の動き量に応じて、仮想的な車両10の位置に対する履歴作成用画像の相対的な配置が決定される。
その後、シフト位置がリバースに切り替わってから5回目の図5の処理の実行機会が訪れると、制御装置2は、ステップ105からステップ110に進み、ステップ110で車載カメラ1から最新の撮影画像を取得し、ステップ115で撮影画像を鳥瞰変換し、その結果の鳥瞰画像の一部を切り出してリアルタイム領域Rに上書き保存する。
このとき第2サブリアルタイム領域R2に記録された鳥瞰画像中においては、図8Eに示すように、車両10のすぐ後方に輝度変化が激しい輝度変化パターン画像54が含まれている。この輝度変化パターン画像54は、前回の図5の処理の実行機会において第2サブリアルタイム領域R2中に現れた輝度変化パターン画像53と同じ原因で発生する画像であり、配置も大きさも輝度変化も概ね輝度変化パターン画像53と同じである。
ステップ115に続くステップ120では、このような輝度変化パターン画像54を含む第2サブリアルタイム領域R2に対して輝度分析を行う。本事例では、輝度分析の結果、各判定領域R21〜R26における平均輝度L(Y)の変化量と上記閾値との大小関係が、前回の実行機会のステップ120と同じであったとする。
したがって、続くステップ125では、履歴作成用領域として判定領域R21、R22が除外され、領域R23〜R26のみが履歴作成用領域に選ばれる。するとステップ130では、図9Eに示すように、判定領域R23〜R26中の鳥瞰画像のみが、それぞれコピー先領域H13〜H16に上書きコピーされる。
なお、今回は上書きコピー先となっていないコピー先領域H11、H12には、前回および前々回の図5の処理の実行機会のステップ145の処理により、前回および前々回の図5の処理の実行機会において第2サブリアルタイム領域R2からコピーされた鳥瞰画像が移動している。
続くステップ135では、図8Eに示すように、現在のリアルタイム領域R中の画像に、第2サブ履歴領域H2中の画像を合成し、更に車両用画像10を透過的に重畳した画像を、表示用画像Dとして作成する。
この時点では、前回の図5の実行機会のステップ145において、履歴領域H中で履歴作成用画像の位置(仮想的な車両10の位置に対する相対的な配置)が変化している。そしてそれにより、第1サブ履歴領域H1(具体的にはコピー先領域H11、12)から第2サブ履歴領域H2に鳥瞰画像が更に移動している。その結果、第2サブ履歴領域H2中で鳥瞰画像を含む領域が増大している。
したがって、今回のステップ135では、前回の図5の実行機会のステップ145において履歴領域H中で変化した履歴作成用画像の相対配置に対応した配置で、第2サブ履歴領域H2中の履歴作成用画像が画像表示装置に表示される。
ここでも、前回の図5の実行機会のステップ125において、判定領域R21が履歴作成用領域に含まれていたならば、ステップ145において当該鳥瞰画像(輝度変化パターン画像53を含む)が第2履歴領域H2内に入っていたはずである。もしそうなっていれば、今回の図5の実行機会におけるステップ135では、表示用画像Dに輝度変化パターン画像53が含まれることになっていた。
更には、前々回の図5の実行機会のステップ125において、判定領域R22が履歴作成用領域に含まれていたならば、ステップ145において当該鳥瞰画像(輝度変化パターン画像52を含む)が第2履歴領域H2内に入っていたはずである。もしそうなっていれば、今回の図5の実行機会におけるステップ135では、表示用画像Dに輝度変化パターン画像52が含まれることになっていた。
しかし、本実施形態では、輝度変化パターン画像52、53を見つけ出し、見つけ出した輝度変化パターン画像52、53を含む判定領域を履歴作成用領域から除外した。これにより、輝度変化パターン画像52、53が表示用画像D内に残り続けて表示用画像Dの視認性を悪化させる可能性を低減することができる。
続くステップ140では、既に説明した通り、直前の制御周期分の期間における車両の動きを計算する。本事例では、この期間において車両10が真っ直ぐ30cm(判定領域の前後幅に相当する)後退したとする。したがって、ステップ145では、この車両10の移動分に対応した量(30cm)だけ、履歴領域H内で画像を前方に移動させる。このようにして、車両の動き量に応じて、仮想的な車両10の位置に対する履歴作成用画像の相対的な配置が決定される。
その後、シフト位置がリバースに切り替わってから6回目の図5の処理の実行機会が訪れると、制御装置2は、ステップ105からステップ110に進み、ステップ110で車載カメラ1から最新の撮影画像を取得し、ステップ115で撮影画像を鳥瞰変換し、その結果の鳥瞰画像の一部を切り出してリアルタイム領域Rに上書き保存する。
このとき第2サブリアルタイム領域R2に記録された鳥瞰画像中においては、図8Fに示すように、車両10のすぐ後方に輝度変化が激しい輝度変化パターン画像55が含まれている。この輝度変化パターン画像55は、前回の図5の処理の実行機会において第2サブリアルタイム領域R2中に現れた輝度変化パターン画像54と同じ原因で発生する画像であり、配置も大きさも輝度変化も概ね輝度変化パターン画像54と同じである。
ステップ115に続くステップ120では、このような輝度変化パターン画像54を含む第2サブリアルタイム領域R2に対して輝度分析を行う。本事例では、輝度分析の結果、各判定領域R21〜R26における平均輝度L(Y)の変化量と上記閾値との大小関係が、前回の実行機会のステップ120と同じであったとする。
したがって、続くステップ125では、履歴作成用領域として判定領域R21、R22が除外され、領域R23〜R26のみが履歴作成用領域に選ばれる。するとステップ130では、図9Fに示すように、判定領域R23〜R26中の鳥瞰画像のみが、それぞれコピー先領域H13〜H16に上書きコピーされる。
なお、今回は上書きコピー先となっていないコピー先領域H11、H12には、前回および前々回の図5の処理の実行機会のステップ145の処理により、前回および前々回の図5の処理の実行機会において第2サブリアルタイム領域R2からコピーされた鳥瞰画像が移動している。
続くステップ135では、図8Fに示すように、現在のリアルタイム領域R中の画像に、第2サブ履歴領域H2中の画像を合成し、更に車両用画像10を透過的に重畳した画像を、表示用画像Dとして作成する。
この時点では、前回の図5の実行機会のステップ145において、履歴領域H中で履歴作成用画像の位置(仮想的な車両10の位置に対する相対的な配置)が変化している。そしてそれにより、第1サブ履歴領域H1(具体的にはコピー先領域H11)から第2サブ履歴領域H2に鳥瞰画像が更に移動している。その結果、第2サブ履歴領域H2中で鳥瞰画像を含む領域が増大している。
したがって、今回のステップ135では、前回の図5の実行機会のステップ145において履歴領域H中で変化した履歴作成用画像の相対配置に対応した配置で、第2サブ履歴領域H2中の履歴作成用画像が画像表示装置に表示される。
ここでも、前回の図5の実行機会のステップ125において、判定領域R21が履歴作成用領域に含まれていたならば、ステップ145において当該鳥瞰画像(輝度変化パターン画像54を含む)が第2履歴領域H2内に入っていたはずである。もしそうなっていれば、今回の図5の実行機会におけるステップ135では、表示用画像Dに輝度変化パターン画像54が含まれることになっていた。
更には、前々回の図5の実行機会のステップ125において、判定領域R22が履歴作成用領域に含まれていたならば、ステップ145において当該鳥瞰画像(輝度変化パターン画像53を含む)が第2履歴領域H2内に入っていたはずである。もしそうなっていれば、今回の図5の実行機会におけるステップ135では、表示用画像Dに輝度変化パターン画像53が含まれることになっていた。
しかし、本実施形態では、輝度変化パターン画像53、54を見つけ出し、見つけ出した輝度変化パターン画像53、54を含む判定領域を履歴作成用領域から除外した。これにより、輝度変化パターン画像53、54が表示用画像D内に残り続けて表示用画像Dの視認性を悪化させる可能性を低減することができる。
続くステップ140では、既に説明した通り、直前の制御周期分の期間における車両の動きを計算し、ステップ145では、この車両10の動きに対応した量だけ、履歴領域H内で画像を前方に移動させる。このようにして、車両の動き量に応じて、仮想的な車両10の位置に対する履歴作成用画像の相対的な配置が決定される。
その後も、シフト位置がリバースであり続ける間は、制御周期毎に図5のステップ105〜145の処理が繰り返される。
以上説明した通り、本実施形態の制御装置2は、車載カメラ1から撮影画像を順次取得して鳥瞰変換し(ステップ110、115)、鳥瞰画像中の複数の判定領域R21〜R26内における輝度変化量を算出し(ステップ120)、その算出結果に基づいて、複数の判定領域のうち、輝度変化量が所定の閾値未満の判定領域を履歴作成用領域として選び、判定領域R21から連続して輝度変化量が所定の閾値以上となっている判定領域を履歴作成用領域から除外し(ステップ125)、歴作成用領域内の画像を、車両用画像と共に、車両の上方から見下ろす視点で、画像表示装置3に表示させ、車両の動き量に応じて、車両用画像に対する履歴作成用領域中の画像の相対的な配置を変化させる(ステップ135、140、145)。
このように、履歴作成用領域内の撮影画像を、車両用画像と共に、車両の上方から見下ろす視点で、画像表示装置に表示させ、車両の動き量に応じて、車両用画像に対する履歴作成用領域中の撮影画像の相対的な配置を変化させる車両周囲画像表示制御装置において、撮影画像中の複数の判定領域R21〜R26内における輝度変化量を算出し、輝度変化量が所定の閾値未満の判定領域を履歴作成用領域として選ぶと共に、輝度変化量が所定の閾値以上の判定領域を履歴作成用領域から除外することで、車両の移動と共に表示用画像中において自車両近傍の輝度変化パターンが拡大してしまう可能性を低減することができる。
また、制御装置2は、車載カメラ1から取得した撮影画像を所定のリアルタイム領域Rに保存し、リアルタイム領域R内に設定された複数の判定領域R21〜R26内の画像おける輝度変化量に基づいて選ばれた履歴作成用画像を、履歴領域値H中の第1サブ履歴領域H1に保存し、車両の前記動き量に応じて、第1サブ履歴領域H1内の履歴作成用画像を履歴領域値H中の第2サブ履歴領域H2に移動させ、第2サブ履歴領域内の画像とリアルタイム領域R内の画像とを画像表示装置3に表示させる。
したがって、従来と同様に、リアルタイム領域Rと履歴領域値Hを用いて履歴合成を行うことができるので、メモリ使用量の増大を抑えると共に、処理負荷の増大を抑えることができる。
(他の実施形態)
以上、本発明の実施形態について説明したが、本発明の範囲は、上記実施形態のみに限定されるものではなく、本発明の各発明特定事項の機能を実現し得る種々の形態を包含するものである。例えば、以下のような形態も許容される。
(1)上記実施形態では、第2サブリアルタイム領域R2を6等分して得た6つの判定領域R21〜R26を設定し、それら設定した判定領域R21〜R26を単位として、輝度分析および履歴作成用領域の選択を行っている。そして、これら判定領域R21〜R26は、互いに重なっていない。
しかし、輝度分析および履歴作成用領域の選択の単位となる複数の判定領域は、上記のようなものに限らず、隣り合う判定領域と範囲が一部重なり合うような複数の判定領域を採用してもよい。
(2)上記実施形態では、表示用画像Dは、第2サブ履歴領域H2中の画像と、リアルタイム領域R中の画像と、車両用画像10とを合成した画像であったが、必ずしもこのようになっておらずともよい。
例えば、表示用画像Dは、第2サブ履歴領域H2中の画像と、第1サブ履歴領域H1中の画像と、第1サブリアルタイム領域R1中の画像と、車両用画像10とを合成した画像としてもよい。つまり、車載カメラ1で撮影できる範囲も、最新の撮影画像以外の画像を用いて表示するようになっていてもよい。
また、表示用画像Dは、第2サブ履歴領域H2中の画像と車両用画像10とのみを合成した画像としてもよい。
(3)また、上記実施形態では、輝度分析は鳥瞰変換後の撮影画像(すなわち、鳥瞰画像)中に対して行っているが、輝度分析および履歴作成用領域の選択は鳥瞰変換前の撮影画像に対して行うようになっていてもよい。ただし、前者の方が、判定領域が矩形となっているので、処理負荷が低い。
(4)また、上記実施形態では、各判定領域内における輝度変化量として、上記平均輝度L(Y)の当該判定領域内における変化量を採用しているが、必ずしもこのようなものに限らない。
(5)また、上記実施形態では、図5の処理の各実行機会において、ステップ110で取得した撮影画像が鳥瞰変換された鳥瞰画像(これも撮影画像の一形態である)の輝度分析を行い、その輝度分析結果に応じて、履歴作成用領域を決定している。
しかし、必ずしもこのようになっておらずともよい。例えば、図5の処理では、シフト位置がリバースになってから最初の実行機会では、ステップ110〜145の処理を実行し、2回目以降の実行機会では、ステップ120、125の処理は行わず、ステップ110、115、130、135、140、145の処理のみを行うようになっていてもよい。この場合は、2回目以降の実行機会では、最初の実行機会においてステップ125で決定した履歴作成用領域を繰り返し使用する。
シフト位置がリバースになってから最初の実行機会では、ステップ130〜145の処理を実行しないようになっていてもよい。この場合、履歴作成用領域を決定する対象の撮影画像(鳥瞰画像)は、実際に履歴作成用画像として第1サブ履歴領域H1にコピーする撮影画像(鳥瞰画像)とは別の撮影画像ということになる。
(6)上記各実施形態では、車載カメラ1は、車両の後方の所定範囲を繰り返し撮影するようになっていたが、車載カメラ1は、車両の前方の所定範囲を繰り返し撮影するようになっていてもよい。その場合、上記明細書では、車両の前後を入れ替えるように読み替える。
1 車載カメラ
2 制御装置
3 画像表示装置
R リアルタイム領域
H 履歴領域
H1 第1サブ履歴領域
H2 第2サブ履歴領域

Claims (3)

  1. 車両の周囲を繰り返し撮影する車載カメラ(1)から撮影画像を順次取得する取得手段(110、115)と、
    前記取得手段が取得した撮影画像中の複数の判定領域(R21〜R26)内における輝度変化量を算出する輝度分析手段(120)と、
    前記輝度分析手段の算出結果に基づいて、前記複数の判定領域のうち、輝度変化量が所定の閾値以上となる領域が、前記車両に最も近い位置に対応する判定領域から前記車両の後方に連続して存在する分だけ、それら連続して存在する判定領域を履歴作成用領域から除外し、前記複数の判定領域のうち、前記車両に近い側からの順で最初に輝度変化量が前記閾値未満となった判定領域およびそれよりも前記車両から遠い位置に対応する判定領域については、前記履歴作成用領域として選ぶ履歴作成用領域決定手段(125)と、
    前記取得手段が取得した撮影画像中の、前記履歴作成用領域決定手段によって選ばれた前記履歴作成用領域内の履歴作成用画像を、車両用画像と共に、前記車両の上方から見下ろす視点で、画像表示装置(3)に表示させ、前記車両から入力された車両挙動情報に基づく前記車両の動き量に応じて、前記車両用画像に対する前記履歴作成用画像の相対的な配置を変化させる表示制御手段(135、140、145)と、を備えた車両周囲画像表示制御装置。
  2. 前記取得手段(110、115)は、前記車載カメラから取得した撮影画像をメモリ中の所定のリアルタイム領域(R)に保存し、
    前記輝度分析手段は、前記リアルタイム領域(R)内に設定された前記複数の判定領域内における輝度変化量を算出し、
    前記表示制御手段は、前記履歴作成用領域内の前記履歴作成用画像を、メモリ中の履歴領域(H)のうち第1サブ履歴領域(H1)に保存し、前記車両の前記動き量に応じて、前記第1サブ履歴領域(H1)内の前記履歴作成用画像を前記履歴領域のうち第2サブ履歴領域(H2)に移動させ、前記第2サブ履歴領域内の画像を前記画像表示装置に表示させることを特徴とする請求項1に記載の車両周囲画像表示制御装置。
  3. 車両の周囲を繰り返し撮影する車載カメラ(1)から撮影画像を順次取得する取得手段(110、115)、
    前記取得手段が取得した撮影画像中の複数の判定領域(R21〜R26)内における輝度変化量を算出する輝度分析手段(120)、
    前記輝度分析手段の算出結果に基づいて、前記複数の判定領域のうち、輝度変化量が所定の閾値以上となる領域が、前記車両に最も近い位置に対応する判定領域から前記車両の後方に連続して存在する分だけ、それら連続して存在する判定領域を履歴作成用領域から除外し、前記複数の判定領域のうち、前記車両に近い側からの順で最初に輝度変化量が前記閾値未満となった判定領域およびそれよりも前記車両から遠い位置に対応する判定領域については、前記履歴作成用領域として選ぶ履歴作成用領域決定手段(125)、および、
    前記取得手段が取得した撮影画像中の、前記履歴作成用領域決定手段によって選ばれた前記履歴作成用領域内の履歴作成用画像を、車両用画像と共に、前記車両の上方から見下ろす視点で、画像表示装置(3)に表示させ、前記車両から入力された車両挙動情報に基づく前記車両の動き量に応じて、前記車両用画像に対する前記履歴作成用画像の相対的な配置を変化させる表示制御手段(135、140、145)として、車両周囲画像表示制御装置(2)を機能させる車両周囲画像表示制御プログラム。
JP2012150363A 2012-07-04 2012-07-04 車両周囲画像表示制御装置および車両周囲画像表示制御プログラム Active JP5994437B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2012150363A JP5994437B2 (ja) 2012-07-04 2012-07-04 車両周囲画像表示制御装置および車両周囲画像表示制御プログラム
EP13813227.9A EP2846542A4 (en) 2012-07-04 2013-03-14 VEHICLE ENVIRONMENT IMAGE DISPLAY CONTROL DEVICE, VEHICLE ENVIRONMENT IMAGE DISPLAY CONTROL METHOD, AND COMPUTER-READABLE TANGIBLE MEDIUM COMPRISING CONTROLS INCLUDING SAID METHOD
PCT/JP2013/001712 WO2014006793A1 (ja) 2012-07-04 2013-03-14 車両周囲画像表示制御装置、車両周囲画像表示制御方法、当該方法を含む命令からなる持続的有形コンピュータ読み取り媒体
CN201380035388.2A CN104429059A (zh) 2012-07-04 2013-03-14 车辆周围图像显示控制装置、车辆周围图像显示控制方法、由包含该方法的指令构成的持续性有形计算机可读介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012150363A JP5994437B2 (ja) 2012-07-04 2012-07-04 車両周囲画像表示制御装置および車両周囲画像表示制御プログラム

Publications (2)

Publication Number Publication Date
JP2014013994A JP2014013994A (ja) 2014-01-23
JP5994437B2 true JP5994437B2 (ja) 2016-09-21

Family

ID=49881571

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012150363A Active JP5994437B2 (ja) 2012-07-04 2012-07-04 車両周囲画像表示制御装置および車両周囲画像表示制御プログラム

Country Status (4)

Country Link
EP (1) EP2846542A4 (ja)
JP (1) JP5994437B2 (ja)
CN (1) CN104429059A (ja)
WO (1) WO2014006793A1 (ja)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6327115B2 (ja) * 2014-11-04 2018-05-23 株式会社デンソー 車両周辺画像表示装置、車両周辺画像表示方法
JP6464952B2 (ja) * 2015-08-04 2019-02-06 株式会社デンソー 表示制御装置、表示制御プログラム及び表示制御方法
JP2017117315A (ja) * 2015-12-25 2017-06-29 株式会社デンソー 表示制御装置
JP6565693B2 (ja) * 2016-01-12 2019-08-28 株式会社デンソー 車載カメラのレンズ異常検出装置
JP6642906B2 (ja) * 2016-02-18 2020-02-12 三菱重工業株式会社 駐車位置検出システム及びそれを用いた自動駐車システム
WO2019176391A1 (ja) * 2018-03-15 2019-09-19 株式会社Jvcケンウッド ドライブレコーダ、表示制御方法およびプログラム
CN112055168B (zh) * 2019-06-05 2022-09-09 杭州萤石软件有限公司 视频监控方法、系统及监控服务器
CN111405246B (zh) * 2020-03-12 2021-04-06 厦门宇昊软件有限公司 一种智慧城市监控方法、装置及管理终端

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002354467A (ja) * 2001-05-25 2002-12-06 Nissan Motor Co Ltd 車両周囲情報表示装置
JP4156214B2 (ja) * 2001-06-13 2008-09-24 株式会社デンソー 車両周辺画像処理装置及び記録媒体
JP4269699B2 (ja) * 2003-01-24 2009-05-27 株式会社ニコン 電子カメラ
JP3980565B2 (ja) * 2004-02-16 2007-09-26 松下電器産業株式会社 運転支援装置
JP4756316B2 (ja) * 2005-03-11 2011-08-24 アイシン精機株式会社 広域画像生成装置及びこれを用いた車両の周辺監視装置並びに広域画像生成方法
JP4561479B2 (ja) * 2005-05-26 2010-10-13 アイシン・エィ・ダブリュ株式会社 駐車支援方法及び駐車支援装置
JP2007226300A (ja) * 2006-02-21 2007-09-06 Aisin Aw Co Ltd 運転支援方法及び運転支援装置
JP4914458B2 (ja) * 2009-02-12 2012-04-11 株式会社日本自動車部品総合研究所 車両周辺表示装置
JP5288189B2 (ja) * 2009-03-13 2013-09-11 オムロン株式会社 情報処理装置及び方法、並びにプログラム
JP5126549B2 (ja) * 2009-07-21 2013-01-23 アイシン精機株式会社 運転支援装置、運転支援方法、及び運転支援プログラム
JP2011152865A (ja) * 2010-01-27 2011-08-11 Kyocera Corp 車載撮像装置
US9041807B2 (en) * 2010-01-29 2015-05-26 Fujitsu Ten Limited Image processing device and image processing method
JP6003226B2 (ja) * 2012-05-23 2016-10-05 株式会社デンソー 車両周囲画像表示制御装置および車両周囲画像表示制御プログラム

Also Published As

Publication number Publication date
CN104429059A (zh) 2015-03-18
JP2014013994A (ja) 2014-01-23
EP2846542A4 (en) 2016-01-13
WO2014006793A1 (ja) 2014-01-09
EP2846542A1 (en) 2015-03-11

Similar Documents

Publication Publication Date Title
JP5994437B2 (ja) 車両周囲画像表示制御装置および車両周囲画像表示制御プログラム
JP6003226B2 (ja) 車両周囲画像表示制御装置および車両周囲画像表示制御プログラム
CN108352053B (zh) 用于环绕监视系统的图像合成器
JP5397373B2 (ja) 車両用画像処理装置、車両用画像処理方法
JP6079131B2 (ja) 画像処理装置、方法、及びプログラム
JP4976685B2 (ja) 画像処理装置
JP2007274377A (ja) 周辺監視装置、プログラム
US10896542B2 (en) Moving body image generation recording display device and program product
US11528453B2 (en) Sensor fusion based perceptually enhanced surround view
EP3793191A1 (en) Image processing device, moving machine, and method, and program
JP5464741B2 (ja) 画像合成装置、及び、画像合成方法
JP5262515B2 (ja) 車両用表示装置および表示方法
JP2010258691A (ja) 操縦支援装置
JP2017098785A (ja) 表示制御装置及び表示制御プログラム
JP4814752B2 (ja) 表示制御装置
JP2019202584A (ja) 画像処理装置および画像処理方法
KR102659382B1 (ko) 차량 주변환경을 표시하기 위한 방법 및 장치
US20220222947A1 (en) Method for generating an image of vehicle surroundings, and apparatus for generating an image of vehicle surroundings
JP7318265B2 (ja) 画像生成装置および画像生成方法
JP2011160117A (ja) 画像処理装置、及び、画像処理方法
EP3396620B1 (en) Display control device and display control method
JP4846627B2 (ja) 表示制御装置
JP6464846B2 (ja) 車両周囲画像表示制御装置、および車両周囲画像表示制御プログラム
JP2017046213A (ja) 車両周辺画像表示制御装置及び車両周辺画像表示制御プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20141117

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160216

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160411

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160726

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160808

R151 Written notification of patent or utility model registration

Ref document number: 5994437

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250