Nothing Special   »   [go: up one dir, main page]

JP2014090315A - 車載画像生成装置 - Google Patents

車載画像生成装置 Download PDF

Info

Publication number
JP2014090315A
JP2014090315A JP2012239141A JP2012239141A JP2014090315A JP 2014090315 A JP2014090315 A JP 2014090315A JP 2012239141 A JP2012239141 A JP 2012239141A JP 2012239141 A JP2012239141 A JP 2012239141A JP 2014090315 A JP2014090315 A JP 2014090315A
Authority
JP
Japan
Prior art keywords
image
vehicle
camera
viewpoint
images
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2012239141A
Other languages
English (en)
Other versions
JP5904093B2 (ja
Inventor
Heishin O
丙辰 王
Hirohiko Yanagawa
博彦 柳川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Corp
Original Assignee
Denso Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso Corp filed Critical Denso Corp
Priority to JP2012239141A priority Critical patent/JP5904093B2/ja
Priority to PCT/JP2013/005167 priority patent/WO2014068823A1/ja
Priority to DE112013005231.8T priority patent/DE112013005231T5/de
Priority to CN201380056245.XA priority patent/CN104756486A/zh
Priority to US14/438,978 priority patent/US20150319370A1/en
Publication of JP2014090315A publication Critical patent/JP2014090315A/ja
Application granted granted Critical
Publication of JP5904093B2 publication Critical patent/JP5904093B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/90Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/23Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/2624Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects for obtaining an image which is composed of whole input images, e.g. splitscreen
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/2628Alteration of picture size, shape, position or orientation, e.g. zooming, rotation, rolling, perspective, translation
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/10Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used
    • B60R2300/105Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used using multiple cameras
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/303Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing using joined images, e.g. multiple camera images
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/60Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Mechanical Engineering (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Image Processing (AREA)
  • Time Recorders, Dirve Recorders, Access Control (AREA)

Abstract

【課題】複数の視点変換画像を用いて合成画像を生成する装置において、画像に歪みが発生するのを抑制し、かつ、画像同士の境界部分で画像が不鮮明になるのを防止する。
【解決手段】車載画像生成装置は、車両前方又は後方を撮影する第1カメラ11と、車両の左右側方を撮影する第2、第3カメラ12,13とを備え、視点変換手段が、第2、第3カメラによる撮像画像に基づき、各カメラの視線軸とは異なり互いに平行な視線軸を有する一対の仮想視点V2、V3から見た一組の視点変換画像を生成し、中心画像生成手段が、第1カメラによる撮像画像から合成用の中心画像を生成し、合成画像生成手段が、その中心画像の横に一組の視点変換画像を配置することにより、合成画像を生成する。
【選択図】図3

Description

本発明は、車両に搭載された複数のカメラによる撮像画像から視点変換画像を生成し、合成することで、車両前方若しくは後方の合成画像を生成する車載画像生成装置に関する。
従来、この種の合成画像を生成する装置として、車両に搭載された複数のカメラによる撮像画像から、一つの視点で車両後方を広範囲に見渡した広角の視点変換画像を生成する成画像を生成するものが提案されている(例えば、特許文献1参照)。
また、車両に搭載された複数のカメラによる撮像画像から、視点が異なる複数の視点変換画像を生成し、その複数の視点変換画像を合成することで、パノラマ画像を生成するものも提案されている(例えば、特許文献2参照)。
特許第3286306号公報 特開2005−242606号公報
しかしながら、上記前者のものは、複数のカメラによる撮像画像を利用して、特定の視点からみた広角の視点変換画像を生成するものであることから、最終的に得られる合成画像は、周囲(特に左右両側)で歪みが大きくなり、極めて見にくい画像となってしまう。
一方、上記後者のものは、合成する左右の画像が、左右に異なる視点から見た視点変換画像であるので、合成前の各画像は歪みが少なく、最終的に得られる合成画像も見やすいものとなる。
しかしながら、上記後者のものは、視点の異なる複数の視点変換画像をそのまま合成することから、視点変換画像同士が重なる境界部分で、画像が不鮮明になってしまい、合成画像から、その境界部分に存在する物標を認識することができないという問題があった。
本発明は、こうした問題に鑑みなされたものであり、複数の視点変換画像を用いて合成画像を生成する装置において、画像に歪みが発生するのを抑制し、かつ、画像同士の境界部分で画像が不鮮明になるのを防止することを目的とする。
かかる目的を達成するためになされた本発明の車載画像生成装置においては、車両の進行方向前方又は後方の画像を撮影する第1カメラと、車両の左右側方の画像をそれぞれ撮影する第2カメラ及び第3カメラとを備える。
そして、第1の視点変換手段が、第2カメラ及び第3カメラによる撮像画像に基づき、第2カメラ及び第3カメラの視線軸とは異なり、且つ、互いに平行な視線軸を有する一対の仮想視点から見た、対称な形状の一組の視点変換画像を生成する。
また、中心画像生成手段が、第1カメラによる撮像画像に基づき、合成画像の生成に用いる中心画像を生成する。
そして、このように中心画像及び一組の視点変換画像が生成されると、合成画像生成手段が、中心画像を中央に配置し、中心画像の横に一組の視点変換画像を配置することにより、合成画像を生成する。
従って、本発明の車載画像生成装置によれば、視点の異なる視点変換画像をそのまま合成する従来装置のように、視点変換画像同士が重なる境界部分で合成画像が不鮮明になるのを防止できる。
また、合成画像を構成する画像は、視点が異なる左右の視点変換画像と、第1カメラによる撮像画像から生成される中心画像とから構成されており、これら各画像は、広角カメラで撮像した画像のように、左右両側で画像が大きく歪むことがない。
このため、本発明の車載画像生成装置によれば、画像の歪みや不鮮明な部分がなく、使用者にとって見易い画像を生成することができる。
実施形態の画像処理システムの構成を表すブロック図である。 図1の制御部にて実行される合成画像表示処理を表すフローチャートである。 車載カメラの配置及び撮像画像の視点変換動作を説明する説明図である。 合成画像表示処理により生成される合成画像の一例を表す説明図である。 図4に示す合成画像の変形例を表す説明図である。 図5に示す合成画像を生成するための合成画像表示処理を表すフローチャートである。
以下に本発明が適用された実施形態について図面を用いて説明する。
なお、本発明は、下記の実施形態によって何ら限定して解釈されない。また、下記の実施形態の構成の一部を、課題を解決できる限りにおいて省略した態様も本発明の実施形態である。また、特許請求の範囲に記載した文言のみによって特定される発明の本質を逸脱しない限度において考え得るあらゆる態様も本発明の実施形態である。また、下記の実施形態の説明で用いる符号を特許請求の範囲にも適宜使用しているが、各請求項に係る発明の理解を容易にする目的で使用しており、各請求項に係る発明の技術的範囲を限定する意図ではない。
本実施形態の画像処理システムは、車両に搭載されて車両周囲の画像を撮像及び表示するためのものであり、図1に示すように、3つの車載カメラ11〜13と、画像処理装置20と、表示装置30と、車速センサ32と、を備える。
車載カメラ11〜13は、CCDやCMOS等の撮像素子を有するカメラである。
そして、図3(a)、(b)に示すように、3つの車載カメラ11〜13の内の一つ(以下、第1カメラ11という)は、車両2の後方の画像を撮影できるように、視線軸11Aを車両2の後方に向けて、車両2の幅方向中心位置に配置されている。
また、図3(a)に示すように、3つの車載カメラ11〜13の内の残りの2つ(以下、第2カメラ12、第3カメラ13という)は、車両2の左右側方の画像を撮影できるように、車両2の左右両側に視線軸12A、12Bを車両2の外側に向けて配置されている。
そして、これら各車載カメラ(第1カメラ11、第2カメラ12、第3カメラ13)は、それぞれ、車両周囲の撮像画像を、所定頻度(例えば、1秒間に60フレーム。)で画像処理装置20へ出力する。
なお、図3において、(a)は車両2を上方から見た状態を表し、(b)は車両2の後部を右側方から見た状態を表しており、各車載カメラ(第1カメラ11、第2カメラ12、第3カメラ13)は、図に実線で示すように配置されている。
次に、表示装置30は、液晶ディスプレイや有機ELディスプレイ等にて構成されており、車載カメラ(第1カメラ11、第2カメラ12、第3カメラ13)による撮像画像に基づき画像処理装置20から出力される画像を表示する。
また、車速センサ32は、車両2の走行速度(車速)を検出するためのものであり、車速センサ32により検出された車速は、直接、若しくは、図示しない車両制御用のECU(電子制御装置)を介して、画像処理装置20に入力される。
また、画像処理装置20は、上記各車載カメラ(第1カメラ11、第2カメラ12、第3カメラ13)に対応した画像入力部21〜23と、操作部24と、制御データ記憶部26と、制御部28とを備える。
画像入力部21〜23は、DRAM等の記憶デバイスからなり、各車載カメラ(第1カメラ11、第2カメラ12、第3カメラ13)から逐次出力される撮像画像を取り込み、所定時間分(例えば、過去10秒分)記憶する。
操作部24は、運転者等の使用者が制御部28に対し各種操作指示を入力するためのものであり、表示装置30の表示面に設けられたタッチパネルや、表示装置30の周囲等に設置されたメカニカルなキースイッチ等にて構成される。
制御データ記憶部26は、フラッシュメモリ等の不揮発性の記憶デバイスからなり、制御部28が実行するプログラムや、各種画像処理に必要なデータを記憶するためのデバイスである。
制御部28は、CPU、RAM、ROM及びI/O等からなるマイコンにて構成されており、制御データ記憶部26からプログラムを読み込んで各種処理を実行する。
以下、画像処理装置20の動作について説明する。
なお、以下の説明では、画像処理装置20(詳しくは制御部28)にて実行される各種画像処理の内、本願発明に関わる主要な処理である合成画像表示処理について説明する。
合成画像表示処理は、操作部24を介して画像処理装置20の動作モードが、合成画像の表示モードに設定されているときに、制御部28において繰り返し実行される処理である。
図2に示すように、合成画像表示処理が開始されると、まずS110(Sはステップを表す)にて、上記各車載カメラ(第1カメラ11、第2カメラ12、第3カメラ13)による撮像画像を、画像入力部21〜23を介して取り込む。
そして、続くS120では、第2カメラ12による撮像画像を用いて、車両2の左方向外側で車両2の前後方向の中心軸に平行な視線軸12B上に設定される仮想視点V2(図3(a)参照)から車両後方を見た、左側方視点変換画像を生成する。
また、S130では、第3カメラ13による撮像画像を用いて、車両2の右方向外側で車両2の前後方向の中心軸(延いては視線軸12B)に平行な視線軸13B上に設定される仮想視点V3(図3(a)参照)から車両後方を見た、右側方視点変換画像を生成する。
つまり、S120、S130では、第2カメラ12及び第3カメラ13による撮像画像に基づき、各カメラ12、13の視線軸12A、13Aとは異なり互いに平行な視線軸12B、13Bを有する一対の仮想視点V2、V3から見た、対称な一組の視点変換画像を生成する。
なお、仮想視点V2、V3は、車両2の後方画像合成用として予め設定されている。
また、S120、S130にて実行される視点変換については、特許文献1、2に記載されているように、従来から知られているので、詳細な説明は省略する。
このように左右一組の視点変換画像が生成されると、今度は、S140に移行して、車速センサ32にて検出された車速を取り込み、その取り込んだ車速に基づき、第1カメラ11による撮像画像から視点変換画像を生成するのに用いる仮想視点V1(図3(b)参照)を設定する。
なお、S140では、車速が低いときには視線軸11Bが車両近傍の路面を向き、車速が高いときには視線軸11Bが車両遠方を向くように(換言すれば、車速に応じて視線軸11Bの上下方向の角度(俯角若しくは仰俯角)が変化するように)、仮想視点V1を設定する(図3(b)参照)。
次に、S150では、第1カメラ11による撮像画像を、S140にて設定された仮想視点V1から見た車両後方の視点変換画像に変換し、続くS160にて、その変換された視点変換画像から、画像合成用の中心画像を抽出する。
ここで、仮想視点V1は、第1カメラ11による撮像画像を、第1カメラ11を車両近傍若しくは車両遠方に向けたときの画像に変換することで、視点変換後の画像の上下方向の任意の位置で、S120、S130にて生成された一組の視点変換画像と画像を一致させるためのものである。
つまり、第1カメラ11による撮像画像は、S120、S130にて生成される視点変換画像の仮想視点V2、V3とは車両2の左右方向だけでなく車両2の前後方向にも異なる視点位置から撮像したものである。
このため、第1カメラ11による撮像画像は、S120、S130にて生成された一組の視点変換画像に対し、車両2の左右方向だけでなく車両2の前後方向にもずれてしまう。
よって、S120、S130にて生成された一組の視点変換画像と合成するために、第1カメラ11による撮像画像を切り化しただけでは、その切り出した撮像画像は、一組の視点変換画像に対し、車両2の前後方向(換言すれば画像の上下方向)にずれてしまう。
また、その切り出した撮像画像は、画像の上下方向の縮尺も、一組の視点変換画像とは異なるものとなる。
そこで、本実施形態では、第1カメラ11による撮像画像を仮想視点V1にて視点変換させることで、その視点変換画像と、S120、S130にて生成された一組の視点変換画像とが、仮想視点V1の位置に応じて車両2の前後方向(換言すれば画像の上下方向)の少なくとも一箇所で一致し、合成後の画像が見易くなるようにしているのである。
一方、S160における中心画像の抽出は、S150の処理にて生成される視点変換画像から、車両後方の路面部分と路上部分とを所定形状に切り出すことにより行われる。
特に、本実施形態では、図4に示すように、中心画像P1の路面部分は、自車両2の車体の左右側壁に平行な左右の軸に沿って、画像の上方ほど幅が狭くなる台形形状となるよう切り出される。
また、その路面部分よりも上方の路上部分は、路面部分の上端縁から画像の上方に向けて幅が広がる台形形状となるように切り出される。
このため、中心画像P1の外形は、縦長で上下方向の中央が窪んだ形状となり、使用者は、その中心画像P1だけで、車両2の真後ろの状態を良好に把握することができるようになる。
なお、視点変換画像からの中心画像P1の抽出は、中心画像P1の元となる視点変換画像の仮想視点V1に応じて予め設定された切り出しパターン(形状パターン)を用いて行われる。
次に、S160にて、仮想視点V1の視点変換画像から画像合成用の中心画像P1が抽出されると、S170に移行し、その中心画像P1と、S120、S130にて生成された左右側方の視点変換画像とを用いて、車両後方の合成画像を生成する。
なお、S170では、中心画像P1の左右に配置すべき左右後方の画像を、S120、S130にて生成された左右側方の視点変換画像から抽出し、その抽出した画像P2、P3を中心画像P1の左右に配置することで、合成画像を生成する(図4参照)。
また、S170において、中心画像P1の左右に画像P2、P3を配置する際には、中心画像P1の周り他の画像P2、P3との境界を表す境界線L1を描画することで、合成画像上で中心画像P1と左右の画像P2,P3とを識別できるようにする。
これは、合成画像を構成する各画像P1〜P3の視点(つまり、仮想視点V1〜V3)が互いに異なるからである。
つまり、例えば、図4に示す合成画像における道路の継ぎ目部分から明らかなように、上記各画像P1〜P3を合成すると、中心画像P1と左右の画像P2、P3との境界部分で、画像の上下方向にずれが生じる。
そこで、本実施形態では、合成画像に境界線L1を入れることで、合成画像内で生じた画像のずれが画像P1〜P3の合成によるものであることを明確にし、合成画像を見た使用者が混乱するのを防止している。
そして、続くS180では、S170にて生成された合成画像を、表示装置30に出力することで、表示装置30に合成画像を表示させ、当該合成画像表示処理を一旦終了する。
上記のように、本実施形態の画像処理装置20によれば、第2カメラ12及び第3カメラ13による撮像画像から、車両2の左右側方の仮想視点V2、V3から見た視点変換画像を生成するだけでなく、第1カメラ11による撮像画像から車両後方の中心画像P1を生成する。
そして、その生成した中心画像P1の左右に、左右の視点変換画像から切り出した左右後方の画像P2、P3を配置することで、表示装置30に表示させる合成画像を生成する。
このため、左右の視点変換画像をそのまま合成する従来装置のように、視点変換画像同士が重なる境界部分で合成画像が不鮮明になるのを防止できる。
また、合成画像を構成する画像は、左右の視点変換画像から抽出した左右の画像P2、P3と、第1カメラ11による撮像画像から生成した中心画像P1とから構成されており、これら各画像P1〜P3は、広角カメラで撮像した画像のように、左右両側で画像が大きく歪むことがない。
従って、本実施形態の画像処理装置20によれば、画像の歪みや不鮮明な部分がなく、使用者にとって見易い画像を生成することができる。
特に、本実施形態では、第1カメラ11による撮像画像に基づき、車速に応じて設定される仮想視点V1に対応した視点変換画像を生成し、その視点変換画像から、車両2の真後ろの路面部分及び路上部分を切り出すことで、中心画像P1を生成する。
また、仮想視点V1は、車速が低い場合には、視線軸11Bが元の視線軸11Aよりも車両近傍の路面を向き、車速が高い場合には、視線軸11Bが元の視線軸11Aよりも車両2の遠方を向くように設定される。
このため、本実施形態によれば、合成画像において、各画像P1〜P3が画像の上下方向で一致する点を、車速が低い場合には、車両近傍の路面位置に設定し、車速が高い場合には、車両2から離れた路面位置に設定することができる。
なお、図4は、車速が高い場合に生成される合成画像を表している。そして、この合成画像における道路の継ぎ目部分から明らかなように、車両2に近い道路の継ぎ目部分では、中心画像P1と左右の画像P2、P3とが上下方向に大きくずれている。これに対し、車両2から離れた後続車両付近では、中心画像P1と左右の画像P2、P3と上下方向に略一致している。
従って、本実施形態によれば、車速が高い場合には、後続車両が見易い合成画像を生成できる。また逆に、車速が低い場合には、合成画像において道路の継ぎ目部分を一致させて、車両2の近傍の画像を見やすくすることができる。
このため、使用者は、表示装置30に表示された合成画像の内、中心画像P1を見ることで、車両2の真後ろの道路状況を把握できるようになり、例えば、低速走行時や後退走行時には車両近傍の路面状況を把握し易くなって、車両2の走行安全性を向上することができる。
また、車両2の高速走行時、使用者は、遠方から自車両2に接近してくる車両を把握しやすくなり、例えば、追い越し車線から通常の走行車線への車線変更など、安全性確保のための運転を行うことができる。
また、合成画像の表示画面では、中心画像P1と左右後方の画像P2、P3との間に境界線L1が形成されることから、使用者はこれら各画像P1〜P3を表示画面上で簡単に識別することができる。
このため、各画像P1〜P3が上下方向にずれていても、使用者は、そのずれを認識しつつ、車両2の真後ろの路面状況及び車両2の左右後方の路面状況を、それぞれ、明確に把握することができるようになる。
以上、本発明の実施形態を説明したが、本発明は、上記実施形態に限定されるものではなく、本発明の要旨を逸脱しない範囲内にて、種々の態様をとることができる。
例えば、上記実施形態では、合成画像を生成するに当たって、第1カメラ11による撮像画像を、車速に応じて設定される仮想視点V1から見た視点変換画像に変換することで、画像合成後に、合成画像を構成する各画像P1〜P3が、合成画像の上下方向の1箇所で一致するようにしている。
しかし、例えば、図5に示すように、合成画像の上下方向の2箇所(つまり遠方位置及び近傍位置)で各画像P1〜P3が一致し、中心画像において、その2箇所の間は画像が連続して変化するように、第1カメラ11による撮像画像を変換するようにしてもよい。
そして、このようにすれば、合成画像の上方である遠方位置及び合成画像の下方である近傍位置で、各画像P1〜P3が一致することから、合成画像から、車両2の遠方及び近傍の両方を確認し易くなり、車両2の走行安全性をより向上することができる。
なお、図5に示す合成画像を生成するには、例えば、図6に示すように、S110〜S180にて実行される図2の合成画像表示処理において、S140、S150、S160の処理に代えて、S145、S155、S165の処理を実行するようにすればよい。
すなわち、S145では、合成画像を生成した際、車両に対する遠方位置及び近傍位置の2箇所で左右の画像P2、P3と一致するように、第1カメラ11による撮像画像を、互いに異なる2つの仮想視点から見た画像に視点変換する。
また、S155では、S145による視点変換により得られた2つの画像を、左右の画像P2、P3と画像が一致する2箇所の間で、画像がスムーズに連続するよう合成し、S165では、S155で2つの視点変換画像を合成した合成画像から、上記S160と同様の手順で、中心画像P1を抽出する。
なお、図5に示す合成画像を生成するには、必ずしもこうした手順で第1カメラ11による撮像画像を変換する必要はなく、予め上記のように撮像画像を変換するための変換用マップを作成しておき、その変換用マップを用いて、第1カメラ11による撮像画像から中心画像P1を抽出するための変換画像を生成するようにしてもよい。
次に、上記実施形態では、第1カメラ11が車両2の後方に配置されて、車両後方の画像を撮像するのに用いられるものとして説明したが、第1カメラ11は、車両2の前方の画像を撮像するように設けられていてもよい。
なお、この場合、車両2の前方の合成画像を生成することになるので、S120、S130では、仮想視点V2、V3から、互いに平行な視線軸12B、13Bに沿って車両前方を見た視点変換画像を生成するようにすればよい。
また、上記実施形態では、3つの車載カメラ(第1カメラ11、第2カメラ12、第3カメラ13)を用いて、合成画像を生成するものとして説明したが、第1カメラ11、第2カメラ12、及び、第3カメラ13の少なくとも一つが複数あってもよい。
そして、この場合、その複数のカメラによる撮像画像から視点変換画像を生成するようにすれば、合成画像の各部(画像P1〜P3)を、より鮮明にすることができる。
一方、上記実施形態では、生成後の合成画像において、中心画像P1と左右後方の画像P2、P3とを識別できるように、境界線L1を描画するものとして説明したが、これら各画像P1〜P3を識別可能にするには、必ずしも境界線L1を描画する必要はない。
例えば、図4の合成画像における左右の画像P2、P3の間の境界部分(図4においてハッチングを入れた部分)のように、各画像P1〜P3を間隔を開けて形成することで、各画像P1〜P3を識別可能に表示するようにしてもよい。
また、こうした識別表示は、必ずしも実施する必要はなく、単に、中心画像P1と左右後方の画像P2、P3とを同一画面上に表示するようにしてもよい。
また、上記実施形態では、中心画像P1は、その元となる視点変換画像から、下方に広がった台形形状の路面部分と、上方に広がった台形形状の路上部分とを切り出した形状にするものとして説明したが、この切り出し形状についても、適宜設定すればよい。
つまり、中心画像P1の形状は、例えば、中心画像P1の元となる視点変換画像から、車両2の後端部分に対応した幅で画像の上方にまっすぐ切り出した長方形状にする等、適宜変更することができる。
また、上記実施形態では、中心画像P1の元となる画像は、第1カメラ11による撮像画像を、車速に応じて設定される仮想視点V1から見た画像に変換した視点変換画像であるとして説明したが、この視点変換画像の仮想視点V1は、予め設定されていてもよい。
つまり、例えば、この視点変換画像の仮想視点V1は、車両2の後退走行時に路面状況を把握しやすい位置等に固定されていてもよい。
また、この視点変換画像の仮想視点V1は、予め設定された複数の候補の中から使用者が選択できるようにしてもよい。
また、中心画像P1の元となる画像は、必ずしも、第1カメラ11による撮像画像を視点変換した画像にする必要はなく、単に、第1カメラ11による撮像画像をそのまま用いるようにしてもよい。
なお、この場合、中心画像P1は、撮像画像の中から、上述した所定の切り出しパターンにて抽出する(切り出す)ようにすればよい。
2…車両、11…第1カメラ、12…第2カメラ、13…第3カメラ、11A〜13A,11B〜13B…視線軸、V1〜V3…仮想視点、20…画像処理装置、21〜23…画像入力部、24…操作部、26…制御データ記憶部、28…制御部、30…表示装置、32…車速センサ。

Claims (6)

  1. 車両の進行方向前方又は後方の画像を撮影する第1カメラ(11)と、
    車両の左右側方の画像をそれぞれ撮影する第2カメラ(12)及び第3カメラ(13)と、
    前記第2カメラ及び前記第3カメラによる撮像画像に基づき、前記第2カメラ及び前記第3カメラの視線軸とは異なり、且つ、互いに平行な視線軸を有する一対の仮想視点(V2、V3)から前記車両の進行方向前方又は後方を見た、対称な形状の一組の視点変換画像を生成する第1の視点変換手段(28、S120、S130)と、
    前記第1カメラによる撮像画像に基づき、合成画像の生成に用いる中心画像を生成する中心画像生成手段(28、S160)と、
    前記中心画像生成手段にて生成された中心画像を中央に配置し、当該中心画像の横に、前記第1の視点変換手段にて生成された一組の視点変換画像を配置することにより、前記合成画像を生成する合成画像生成手段(28、S170)と、
    を備えたことを特徴とする車載画像生成装置。
  2. 前記第1カメラによる撮像画像に基づき、当該撮像画像に比べて視線軸が車両近傍若しくは車両遠方を向くように設定された仮想視点(V1)から見た視点変換画像を生成する第2の視点変換手段(28、S150)、
    を備え、前記中心画像生成手段は、前記第2の視点変換手段にて生成された視点変換画像に基づき、前記中心画像を生成することを特徴とする請求項1に記載の車載画像生成装置。
  3. 前記第2の視点変換手段が前記視点変換画像を生成する際の仮想視点を、車両の走行速度に応じて、走行速度が低い程前記視線軸が車両の近傍を向き、走行速度が高い程前記視線軸が車両の遠方を向くように設定する、仮想視点設定手段(28、S140)、
    を備えたことを特徴とする請求項2に記載の車載画像生成装置。
  4. 前記合成画像生成手段にて生成される合成画像において、前記中心画像が、当該中心画像における車両に対する遠方位置及び近傍位置の2箇所で、前記第1の視点変換手段にて生成される一組の視点変換画像と画像位置が一致し、且つ、当該中心画像における前記2箇所の間は画像が連続して変化するよう、前記第1カメラによる撮像画像を変換する画像変換手段(28、S145、S155)、
    を備え、前記中心画像生成手段は、前記画像変換手段にて変換された撮像画像に基づき、前記中心画像を生成することを特徴とする請求項1に記載の車載画像生成装置。
  5. 前記中心画像生成手段は、前記中心画像として、
    当該中心画像の元となる画像から、自車両の車体の左右側壁に平行な左右の軸に沿って、画像の上方ほど幅が狭くなるように切り出される路面部分と、
    当該中心画像の元となる画像から、前記路面部分の上端縁から画像の上方に向けて幅が広がるように切り出される路上部分と、
    からなる画像を生成することを特徴とする請求項1〜請求項4の何れか1項に記載の車載画像生成装置。
  6. 前記合成画像生成手段は、前記中心画像と前記一組の視点変換画像との境界を識別可能な合成画像を生成することを特徴とする請求項1〜請求項5の何れか1項に記載の車載画像生成装置。
JP2012239141A 2012-10-30 2012-10-30 車載画像生成装置 Active JP5904093B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2012239141A JP5904093B2 (ja) 2012-10-30 2012-10-30 車載画像生成装置
PCT/JP2013/005167 WO2014068823A1 (ja) 2012-10-30 2013-09-02 車載画像生成装置
DE112013005231.8T DE112013005231T5 (de) 2012-10-30 2013-09-02 Bordeigener Bildgenerator
CN201380056245.XA CN104756486A (zh) 2012-10-30 2013-09-02 车载图像生成装置
US14/438,978 US20150319370A1 (en) 2012-10-30 2013-09-02 Onboard image generator

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012239141A JP5904093B2 (ja) 2012-10-30 2012-10-30 車載画像生成装置

Publications (2)

Publication Number Publication Date
JP2014090315A true JP2014090315A (ja) 2014-05-15
JP5904093B2 JP5904093B2 (ja) 2016-04-13

Family

ID=50626781

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012239141A Active JP5904093B2 (ja) 2012-10-30 2012-10-30 車載画像生成装置

Country Status (5)

Country Link
US (1) US20150319370A1 (ja)
JP (1) JP5904093B2 (ja)
CN (1) CN104756486A (ja)
DE (1) DE112013005231T5 (ja)
WO (1) WO2014068823A1 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016213759A (ja) * 2015-05-12 2016-12-15 萩原電気株式会社 後方モニタ
JP2018081591A (ja) * 2016-11-17 2018-05-24 萩原電気株式会社 画像合成装置及び画像合成方法
JP2019106596A (ja) * 2017-12-11 2019-06-27 トヨタ自動車株式会社 画像表示装置

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016225865A (ja) * 2015-06-01 2016-12-28 東芝アルパイン・オートモティブテクノロジー株式会社 俯瞰画像生成装置
JP6406159B2 (ja) * 2015-08-04 2018-10-17 株式会社デンソー 車載表示制御装置、車載表示制御方法
CN106454210B (zh) * 2015-08-07 2021-08-06 深圳市凯立德科技股份有限公司 一种行车记录图像处理方法及系统
CA3001287C (en) 2015-10-08 2020-01-14 Nissan Motor Co., Ltd. Display assistance device and display assistance method
CN108099788A (zh) * 2016-11-25 2018-06-01 华创车电技术中心股份有限公司 三维行车影像辅助装置
JP6941472B2 (ja) * 2017-04-26 2021-09-29 株式会社デンソーテン 映像再生装置、映像再生システム、及び映像再生方法
JP6958147B2 (ja) * 2017-09-07 2021-11-02 トヨタ自動車株式会社 画像表示装置
CN110641512B (zh) * 2019-09-23 2020-11-17 中国铁路哈尔滨局集团有限公司 一种电务车车下走行部电务设备图像检测系统

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10257482A (ja) * 1997-03-13 1998-09-25 Nissan Motor Co Ltd 車両周辺状況表示装置
JP2007274377A (ja) * 2006-03-31 2007-10-18 Denso Corp 周辺監視装置、プログラム
JP2009206747A (ja) * 2008-02-27 2009-09-10 Nissan Motor Co Ltd 車両用周囲状況監視装置及び映像表示方法
JP2011035816A (ja) * 2009-08-05 2011-02-17 Denso Corp 車両周囲画像表示制御装置
JP2011040825A (ja) * 2009-08-06 2011-02-24 Nippon Soken Inc 画像補正装置、画像補正方法、及びそれらに用いられる変換マップ作成方法

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20020033816A (ko) * 2000-07-19 2002-05-07 마츠시타 덴끼 산교 가부시키가이샤 감시시스템
JP3645196B2 (ja) * 2001-02-09 2005-05-11 松下電器産業株式会社 画像合成装置
JP2012147149A (ja) * 2011-01-11 2012-08-02 Aisin Seiki Co Ltd 画像生成装置
KR101265711B1 (ko) * 2011-11-30 2013-05-20 주식회사 이미지넥스트 3d 차량 주변 영상 생성 방법 및 장치

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10257482A (ja) * 1997-03-13 1998-09-25 Nissan Motor Co Ltd 車両周辺状況表示装置
JP2007274377A (ja) * 2006-03-31 2007-10-18 Denso Corp 周辺監視装置、プログラム
JP2009206747A (ja) * 2008-02-27 2009-09-10 Nissan Motor Co Ltd 車両用周囲状況監視装置及び映像表示方法
JP2011035816A (ja) * 2009-08-05 2011-02-17 Denso Corp 車両周囲画像表示制御装置
JP2011040825A (ja) * 2009-08-06 2011-02-24 Nippon Soken Inc 画像補正装置、画像補正方法、及びそれらに用いられる変換マップ作成方法

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016213759A (ja) * 2015-05-12 2016-12-15 萩原電気株式会社 後方モニタ
JP2018081591A (ja) * 2016-11-17 2018-05-24 萩原電気株式会社 画像合成装置及び画像合成方法
JP2019106596A (ja) * 2017-12-11 2019-06-27 トヨタ自動車株式会社 画像表示装置

Also Published As

Publication number Publication date
CN104756486A (zh) 2015-07-01
WO2014068823A1 (ja) 2014-05-08
JP5904093B2 (ja) 2016-04-13
DE112013005231T5 (de) 2015-08-06
US20150319370A1 (en) 2015-11-05

Similar Documents

Publication Publication Date Title
JP5904093B2 (ja) 車載画像生成装置
US10099617B2 (en) Driving assistance device and driving assistance method
WO2016002163A1 (ja) 画像表示装置、画像表示方法
EP2974909A1 (en) Periphery surveillance apparatus and program
JP6425991B2 (ja) 牽引車両周囲画像生成装置および牽引車両周囲画像生成方法
JPWO2011007484A1 (ja) 運転支援装置、運転支援方法及びプログラム
JP2002374523A (ja) 監視システム
JP2013168063A (ja) 画像処理装置、画像表示システム及び画像処理方法
JP2016168877A (ja) 車両用視認装置
JP2017069852A (ja) 情報表示装置及び情報表示方法
JP6375633B2 (ja) 車両周辺画像表示装置、車両周辺画像表示方法
JP2018142884A (ja) 俯瞰映像生成装置、俯瞰映像生成システム、俯瞰映像生成方法およびプログラム
JP6326869B2 (ja) 車両周辺画像表示装置、車両周辺画像表示方法
CN107534757B (zh) 车辆用显示装置以及车辆用显示方法
JP6384138B2 (ja) 車両用表示装置
JP2015171106A (ja) 車両周辺画像表示装置、車両周辺画像表示方法
JP2018107573A (ja) 車両用視認装置
WO2016072300A1 (ja) 車両周辺画像表示装置、車両周辺画像表示方法
JP2007249814A (ja) 画像処理装置及び画像処理プログラム
WO2017217422A1 (ja) 画像生成装置及びプログラム
JP2009100261A (ja) 車両周囲画像提供装置及び広角画像の補正方法
JP5556694B2 (ja) 後方支援装置
JP4685050B2 (ja) 表示装置
JP2020011668A (ja) 駐車支援装置、及び駐車支援装置の制御方法
KR102159354B1 (ko) 어라운드 뷰 시스템의 동작방법

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20141126

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160216

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160229

R151 Written notification of patent or utility model registration

Ref document number: 5904093

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250