Nothing Special   »   [go: up one dir, main page]

JP5300443B2 - 画像処理装置 - Google Patents

画像処理装置 Download PDF

Info

Publication number
JP5300443B2
JP5300443B2 JP2008306905A JP2008306905A JP5300443B2 JP 5300443 B2 JP5300443 B2 JP 5300443B2 JP 2008306905 A JP2008306905 A JP 2008306905A JP 2008306905 A JP2008306905 A JP 2008306905A JP 5300443 B2 JP5300443 B2 JP 5300443B2
Authority
JP
Japan
Prior art keywords
image
vehicle
driver
image conversion
display
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2008306905A
Other languages
English (en)
Other versions
JP2010130673A5 (ja
JP2010130673A (ja
Inventor
正博 山田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Ten Ltd
Original Assignee
Denso Ten Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso Ten Ltd filed Critical Denso Ten Ltd
Priority to JP2008306905A priority Critical patent/JP5300443B2/ja
Priority to US12/591,675 priority patent/US8648881B2/en
Publication of JP2010130673A publication Critical patent/JP2010130673A/ja
Publication of JP2010130673A5 publication Critical patent/JP2010130673A5/ja
Application granted granted Critical
Publication of JP5300443B2 publication Critical patent/JP5300443B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/23Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
    • B60R1/27Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view providing all-round vision, e.g. using omnidirectional cameras
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/304Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing using merged images, e.g. merging camera image with stored images
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/70Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by an event-triggered choice to display a specific image among a selection of captured images

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Mechanical Engineering (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Traffic Control Systems (AREA)
  • Image Analysis (AREA)
  • Navigation (AREA)
  • Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
  • Image Processing (AREA)

Description

この発明は、画像処理装置に関する。
近年、ドライバの視界を補助する目的で、車両に搭載されたカメラにより撮影した画像を車載ディスプレイなどに表示出力して、ドライバに提供する技術の開発が盛んに行われている(例えば、特許文献1参照)。
上記技術において車両に搭載されるカメラとしては、車両前方を撮影するためのフロントカメラ、車両後方を撮影するためのバックカメラ、あるいはドアミラーには映らないドライバの死角を撮影するためのサイドカメラなどがある。そして、例えば、後進で車両を駐車する場合には、バックカメラにより撮影された車両後方の画像を車載ディスプレイに表示出力してドライバに提供する。
特開2007−329611号公報
しかしながら、上記した従来の技術において、ドライバに提供される画像は、感覚的な違和感をドライバにもたらすという問題点があった。
例えば、バックカメラで撮影され、車載ディスプレイに表示出力される車両後方の画像は、バックカメラの設置位置や角度などにより、表示態様が一様な画像となっている。このようなことから、ドライバに提供される画像は、ドライバが振り返って実際に車両後方を見たような、ドライバが自然に受け入れられるような表示態様とはなっていないので、距離感などの面で感覚的な違和感をもたらす結果となっている。
そこで、この発明は、上述した従来技術の課題を解決するためになされたものであり、感覚的な違和感をドライバにもたらすことのない視界補助画像を提供することが可能な画像処理装置を提供することを目的とする。
上述した課題を解決し、目的を達成するため、本発明は、自車両に搭載された搭載位置の異なる複数の車載カメラごとに、自車両の置かれる状況に対応付けて、ドライバの視線の起点となる位置と自車両の複数の所定箇所を結ぶ複数の方向、ドライバの視線の起点となる位置からの俯角およびドライバに視認させる範囲の値を、自車両に搭載された車載カメラの画像を座標変換するための画像変換パラメータとして予め記憶する画像変換パラメータ記憶手段と、自車両が現在置かれている状況を判定する状況判定手段と、前記状況判定手段による状況判定結果および前記画像変換パラメータ記憶手段に記憶されている前記画像変換パラメータに基づいて、取得された画像変換パラメータを用いて、各車載カメラにより撮影された画像を座標変換する画像変換手段と、前記画像変換手段により変換された画像を表示出力する表示出力手段と、各車載カメラで撮影された画像を表示出力させる表示出力条件の入力をドライバから受け付ける表示出力条件入力受付手段と、前記表示出力条件入力受付手段により、前回とは異なる新たな前記表示出力条件の入力が受け付けられた場合に、自車両全体を俯瞰した俯瞰画像を一時的に表示する俯瞰画像表示手段とを有し、前記表示出力手段は、前記俯瞰画像表示手段による前記俯瞰画像の表示終了とともに、前記画像変換手段により変換された画像を表示出力することを特徴とする。
本発明によれば、感覚的な違和感をドライバにもたらすことない視界補助画像をドライバに提供できる。
以下に添付図面を参照して、この発明に係る画像処理装置、画像処理方法および画像処理プログラムの一実施形態を詳細に説明する。なお、以下では、本発明に係る画像処理装置が車両に搭載されている場合の実施形態を実施例1として説明した後に、本発明に含まれる他の実施形態について説明する。
以下の実施例1では、実施例1に係る画像処理装置の概要および特徴、かかる画像処理装置の構成および処理を順に説明し、最後に実施例1による効果を説明する。
[画像処理装置の概要および特徴(実施例1)]
実施例1に係る画像処理装置は、ドライバの視界を補助する目的で、車両に搭載されたカメラにより撮影した画像を車載ディスプレイなどに表示出力することを概要とする。
そして、実施例1に係る画像処理装置は、以下に説明する点に特徴がある。すなわち、実施例1に係る画像処理装置は、自車両に搭載された搭載位置の異なる複数の車載カメラごとに、自車両の置かれる状況に対応付けて、ドライバの視線の起点となる位置と自車両の複数の所定箇所を結ぶ複数の方向、ドライバの視線の起点となる位置からの俯角およびドライバに視認させる範囲の値を、自車両に搭載された車載カメラの画像を座標変換するための画像変換パラメータとして予め記憶しておく。
さらに、実施例1に係る画像処理装置は、各車載カメラで撮影された画像を表示出力させる表示出力条件の入力をドライバから受け付けると、自車両が現在置かれている状況を判定する。さらに、表示出力条件および自車両が現在置かれている状況に基づいて画像変換パラメータを取得し、取得された画像変換パラメータを用いて、各車載カメラにより撮影された画像を変換して表示出力する。
このようにして、実施例1に係る画像処理装置は、図1〜3に示すように、感覚的な違和感をドライバにもたらすことのないドライバ視点の画像を視界補助画像として提供する。
例えば、図1の(A)に示すように、車載のフロントカメラにより撮影された画像をドライバ視点の画像に変換してディスプレイに表示する。なお、図1の(B)に示すように、車体やタイヤの位置関係を示すデータをドライバ視点の画像に合成してディスプレイに表示することもできる。このとき、車体およびタイヤは透過的に表示される。
また、図2の(A)に示すように、車載のサイドカメラにより撮影された画像をドライバ視点の画像に変換してディスプレイに表示する。なお、図1の(B)と同様にして、図2の(B)に示すように、車体やタイヤの位置関係を示すデータをドライバ視点の画像に合成してディスプレイに表示することもできる。
また、図3の(A)に示すように、車載のバックカメラにより撮影された画像をドライバ視点の画像に変換してディスプレイに表示する。なお、図1の(B)と同様にして、図3の(B)に示すように、車体やタイヤの位置関係を示すデータをドライバ視点の画像に合成してディスプレイに表示することもできる。図1〜図3は、実施例1に係る画像処理装置を説明するための図である。
[画像処理装置の構成(実施例1)]
次に、図4を用いて、実施例1に係る画像処理装置の構成を説明する。図4は、実施例1に係る画像処理装置の構成を示す図である。
同図に示すように、実施例1に係る画像処理装置200は、フロントカメラ110(図5の(1)参照)、サイドカメラ120(図5の(2)参照)、バックカメラ130(図5の(3)参照)、ナビゲーション装置140、車両状態情報取得部150、表示出力条件入力受付部160およびディスプレイ170とともに、車両100に搭載される。なお、図5は、車載カメラの配置位置を示す図である。
フロントカメラ110、サイドカメラ120およびバックカメラ130は、ドライバの視界を補助するための画像を撮影して画像処理装置200に送出する。
ナビゲーション装置140は、GPS(Global Positioning System)人工衛星と通信を行って、内部に有する地図データなどを用いて作成したナビ情報(例えば、現在位置、移動方向、移動速度、出発地や目的地など)を画像処理装置200に送出する。
車両状態情報取得部150は、シフトレバー、スピードメータあるいはステアリングなどから取得する車両状態情報を画像処理装置200に送出する。例えば、車両状態情報取得部150は、シフトレバーからシフトレンジの情報(例えば、オートマチック車であれば、ドライブ(前進)を示す「D」やバック(後進)を示す「R」、駐停車を示す「P」)を取得して画像処理装置200に送出する。また、スピードメータから走行速度の情報を取得して画像処理装置200に送出する。また、ステアリングからステアリング角の情報を取得して画像処理装置200に送出する。
表示出力条件入力受付部160は、車載カメラで撮影された画像の表示出力指示の入力をドライバから受け付けて画像処理装置200へ送出する。例えば、フロントカメラ110で撮影された画像の表示出力指示の入力や、バックカメラで撮影された画像の表示出力指示の入力などを受け付ける。
ディスプレイ170は、ドライバからの表示出力条件に応じて、画像処理装置200から送出された画像を表示出力する。また、ナビゲーション装置140からのナビ情報などを表示する。
画像処理装置200は、図4に示すように、マイコン210を有する。マイコン210は、フロントカメラ110、サイドカメラ120およびバックカメラ130の画像を加工して、ドライバ視点に変換する処理を実行する。マイコン210は、同図に示すように、画像変換パラメータ記憶部211、自車両情報記憶部212、状況判定部213、画像変換部214、自車両情報挿入部215および画像出力制御部216を有する。
画像変換パラメータ記憶部211は、フロントカメラ110などの車載カメラごとに、自車両の置かれる状況に対応付けて、ドライバの視線の起点となる位置と自車両の複数の所定箇所を結ぶ複数の方向(例えば、図6の(1)〜(6)参照)を自車両に搭載された車載カメラの画像を座標変換するための画像変換パラメータとして予め記憶する。
さらに、画像変換パラメータ記憶部211は、自車両の置かれる状況に対応付けて、ドライバの視線の起点となる位置からの俯角(例えば、図6の(7)〜(10)参照)を自車両に搭載された車載カメラの画像を座標変換するための画像変換パラメータとして予め記憶する。
さらに、画像変換パラメータ記憶部211は、自車両の置かれる状況に対応付けて、ドライバに視認させる範囲(視野範囲)の値を自車両に搭載された車載カメラの画像を座標変換するための画像変換パラメータとして予め記憶する。ここで、自車両の置かれる状況とは、例えば、見通しの悪い交差点に差し掛かっている状況や、駐車場で駐停車を行おうとしている状況などをいう。なお、図6は、実施例1に係る画像変換パラメータを説明するための図である。
自車両情報記憶部212は、自車両の形状や大きさ、タイヤの形状や大きさなど、車体に関する車体データを予め記憶する。
状況判定部213は、表示出力条件入力受付部160からの表示出力条件、ナビゲーション装置140からのナビ情報や、車両状態情報取得部150からの車両状態情報に基づいて、自車両が現在置かれている状況を判定し、画像変換部214へ判定結果を送出する。具体的には、状況判定部213は、表示出力条件入力受付部160から、バックカメラ130で撮影された画像を表示出力するという表示出力条件を受け付けると、ナビ情報や車両状態情報に基づいて、自車両が現在置かれている状況を判定する。例えば、状況判定部213は、ナビ情報から自車両が駐車場内に位置し、車両状態情報として取得されたスピードメータの情報から徐行中である場合には、駐停車を行おうとしている状況であると判定する。
自車両の状況判定後、状況判定部213は、バックカメラ130で撮影された画像を表示出力するという表示出力条件、および駐停車を行おうとしているという状況を画像変換部214に送出する。
画像変換部214は、状況判定部213から、バックカメラ130で撮影された画像を表示出力するという表示出力条件、および駐停車を行おうとしているという状況を受け付けると、この表示出力条件および状況に対応した画像変換パラメータを画像変換パラメータ記憶部211から取得する。
例えば、画像変換部214は、図6に示すように、ドライバの視線起点位置の座標=(40,2400,1600)、向き(方向)=225deg(同図(3)の方向に対応する角度)、俯角=225deg(同図(9)の方向に対応する角度)、視野範囲=190deg(同図(A)に対応する角度)を含む画像変換パラメータを画像変換パラメータ記憶部211から取得する。画像変換部214により取得された画像変換パラメータは、フロントカメラ110、サイドカメラ120およびバックカメラ130で各々撮影された画像が加工された加工画像を、ドライバ位置から車体左後方を見た画像に座標変換して、ドライバ視点の画像を生成するためのパラメータとなっている。
そして、画像変換部214は、画像変換パラメータ記憶部211から取得した画像変換パラメータを用いて、フロントカメラ110、サイドカメラ120およびバックカメラ130で各々撮影された画像が加工された加工画像を座標変換して、ドライバ視点の画像を生成する。そして、画像変換部214は、ドライバ視点の画像を自車両情報挿入部215に送出する。
自車両情報挿入部215は、画像変換部214からドライバ視点の画像を受け付けると、自車両の形状や大きさ、タイヤの形状や大きさなどの車体データを車両情報記憶部212から取得する。そして、自車両情報挿入部215は、車体やタイヤの位置関係を示すデータをドライバ視点の画像に合成して、画像出力制御部216に送出する。なお、自車両情報挿入部215は、ドライバ視点の画像にタイヤの位置関係を合成する場合には、車両状態情報取得部150からステアリング角の情報を取得して、現在のタイヤの向きが反映された状態のタイヤデータを合成する。
画像出力制御部216は、車体やタイヤの位置関係を示すデータが合成されたドライバ視点の画像を自車両情報挿入部215から受け付けると、ディスプレイ170を介して、ドライバ視点の画像を表示出力してドライバに提供する。
[画像処理装置による処理(実施例1)]
続いて、図7を用いて、実施例1に係る画像処理装置による処理の流れを説明する。図7は、実施例に係る画像処理装置による処理の流れを示す図である。
同図に示すように、状況判定部213は、表示出力条件入力受付部160から、表示出力条件の入力が受け付けられるまで待機状態をとる(ステップS1)。そして、状況判定部213は、バックカメラ130で撮影された画像を表示出力するという表示出力条件を受け付けると(ステップS1肯定)、ナビ情報や車両状態情報に基づいて、自車両が現在置かれている状況を判定する(ステップS2)。例えば、状況判定部213は、ナビ情報から自車両が駐車場内に位置し、車両状態情報として取得されたスピードメータの情報から徐行中である場合には、駐停車を行おうとしている状況であると判定する。
自車両の状況判定後、状況判定部213は、バックカメラ130で撮影された画像を表示出力するという表示出力条件、および駐停車を行おうとしているという状況を画像変換部214に送出する。
画像変換部214は、状況判定部213から、バックカメラ130で撮影された画像を表示出力するという表示出力条件、および駐停車を行おうとしているという状況を受け付けると、この表示出力条件および状況に対応した画像変換パラメータを画像変換パラメータ記憶部211から取得する(ステップS3)。
例えば、画像変換部214は、図6に示すように、ドライバの視線起点位置の座標=(40,2400,1600)、向き(方向)=225deg(同図(3)の方向に対応する角度)、俯角=225deg(同図(9)の方向に対応する角度)、視野範囲=190deg(同図(A)に対応する角度)を含む画像変換パラメータを画像変換パラメータ記憶部211から取得する。画像変換部214により取得された画像変換パラメータは、フロントカメラ110、サイドカメラ120およびバックカメラ130で各々撮影された画像が加工された加工画像を、ドライバ位置から車体左後方を見た画像に座標変換して、ドライバ視点の画像を生成するためのパラメータとなっている。
そして、画像変換部214は、画像変換パラメータ記憶部211から取得した画像変換パラメータを用いて、フロントカメラ110、サイドカメラ120およびバックカメラ130で各々撮影された画像が加工された加工画像を座標変換して(ステップS4)、ドライバ視点の画像を生成する。そして、画像変換部214は、ドライバ視点の画像を自車両情報挿入部215に送出する。
自車両情報挿入部215は、画像変換部214からドライバ視点の画像を受け付けると、自車両の形状や大きさ、タイヤの形状や大きさなどの車体データを自車両情報記憶部212から取得する(ステップS5)。そして、自車両情報挿入部215は、車体やタイヤの位置関係を示すデータをドライバ視点の画像に合成して(ステップS6)、画像出力制御部216に送出する。
画像出力制御部216は、車体やタイヤの位置関係を示すデータが合成されたドライバ視点の画像を自車両情報挿入部215から受け付けると、ディスプレイ170を介して、ドライバ視点の画像を表示出力し(ステップS7)、ドライバに提供する。
[実施例1による効果]
上述してきたように、実施例1によれば、感覚的な違和感をドライバにもたらすことのないドライバ視点の画像を視界補助画像として提供できる。
また、上述してきた実施例1において、前回とは異なる新たな表示出力条件の入力が表示出力条件入力受付部160に受け付けられた場合には、以下のように処理を実行する。
例えば、バックカメラ130で撮影された画像を表示出力するという表示出力条件とは異なり、フロントカメラ110で撮影された画像を表示出力する表示出力条件の入力が受け付けられたとする。この場合、状況判定部213において状況判定が改めて実行され、画像変換部214により改めて変換処理が施されたドライバ視点の画像をディスプレイに表示することになるが、その前に、例えば、図8に示すような車両100全体を車両上方から俯瞰した俯瞰画像をディスプレイ170に出力表示する。俯瞰画像の表示後、この俯瞰画像から切り替えてドライバ視点の画像を表示する。
このようにすることで、画像の視点が切り替わることに対するドライバの感覚的な錯覚を防止し、ドライバに画像を認識させやすくすることができる。なお、図8は、実施例1に係る俯瞰画像を説明するための図である。なお、上述してきた俯瞰画像の代わりに、車両前方の画像を表示してもよい。この場合も、ドライバの感覚的な錯覚を防止して、ドライバに画像を認識させやすくすることができる。
また、以下に説明するように、画像変換部214は、表示出力条件および状況判定結果に応じた画像変換パラメータで、フロントカメラ110、サイドカメラ120およびバックカメラ130で各々撮影された画像が加工された加工画像を座標変換して、ドライバ視点の画像を生成する。
例えば、サイドカメラの画像を表示出力するという表示出力条件の入力を受け付け、狭い道でのすれ違い走行を行うという状況判定結果を得た場合では、例えば、「向き(方向)」=自車両の左前端を通る角度(例えば、図6(2))、「俯角」=1.0deg、「視野範囲」=50deg(人の視野に近い)を含む画像変換パラメータを取得する。そして、この画像変換パラメータを用いて、フロントカメラ110、サイドカメラ120およびバックカメラ130で各々撮影された画像が加工された加工画像を座標変換して、ドライバ視点の画像を生成する。
また、上述してきた実施例1において、ドライバ視点の画像を表示出力中に、ドライバのステアリング操作があった場合には、ステアリング操作に応じてフロントカメラ110等で撮影された画像を座標変換してドライバ視点の画像を再生成し、再生成した画像を表示出力するようにしてもよい。
また、上述してきた実施例1では、車体やタイヤの位置関係を示すデータをドライバ視点の画像に合成する場合を説明したが、例えば、ドライバ視点の画像ではなく、車載カメラにより撮影された画像そのものに、車体やタイヤの位置関係を示すデータをドライバ視点の画像に合成するようにしてもよい。
(1)障害物の検知に応じてドライバ視点の画像を再生成
また、上記の実施例1において、車両100周辺の障害物を検知して、検知した障害物の方向について、ドライバ視点の画像を表示出力するようにしてもよい。例えば、車両100の周辺に障害物が接近してきた場合に、それをクリアランスソナーなどのセンサを用いて存在を検知し、障害物が検知された方向の画像変換パラメータを用いて、フロントカメラ110等で撮影された画像を座標変換してドライバ視点の画像を生成し、生成した画像を表示出力する。
(2)画像変換パラメータの変更
また、上記の実施例1において、画像変換パラメータ記憶部211に記憶される画像変換パラメータを車格(例えば、ミニバン、セダン、ワゴンあるいは軽自動車)やハンドル設置位置(例えば、右ハンドル/左ハンドル)、ドライバの体格(例えば、身長、座高など)やシート位置(例えば、上下方向、前後方向など)に応じて変更するようにしてもよい。また、ドライバから受け付けられた設定変更内容に応じて、画像変換パラメータ記憶部211に記憶される画像変換パラメータを変更するようにしてもよい。
(3)装置構成等
また、図4に示した画像処理装置200の各構成要素は機能概念的なものであり、必ずしも物理的に同図に示すようにして構成されていることを要しない。すなわち、画像処理装置200の分散・統合の具体的形態は同図に示すものに限られず、例えば、状況判定部213と、画像変換部214と、自車両情報挿入部215とを統合させて構成する。このようにして、同図に示す画像処理装置200の全部または一部を、各種の負荷や使用状況などに応じて、任意の単位で機能的または物理的に分散・統合して構成することができる。さらに、画像処理装置200にて行なわれる各処理機能(例えば、図7参照)は、その全部または任意の一部が、CPUおよび当該CPUにて解析実行されるプログラムにて実現され、あるいは、ワイヤードロジックによるハードウェアとして実現され得る。
(4)画像処理プログラム
また、上記の実施例1で説明した画像処理装置200の各種の処理(例えば、図7参照)は、あらかじめ用意されたプログラムを車載の制御ECUに実装されるマイコン等で実行することによって実現することができる。そこで、以下では、図9を用いて、上記の実施例1で説明した画像処理装置200と同様の機能を有する画像処理プログラムを実行するマイコンの一例を説明する。図9は、画像処理プログラムを実行するマイコンを示す図である。
同図に示すように、マイコン300は、入力部310、出力部320、記憶用メモリ330、ワーク用メモリ340および制御部350をバス400で接続して構成される。
ここで、入力部310は、ユーザから各種データの入力を受け付ける。出力部320は、各種情報を表示する。記憶用メモリ330は、制御部350による各種処理の実行に必要な情報を記憶する。ワーク用メモリ340は、各種情報を一時的に記憶する。制御部350は、各種演算処理を実行する。
そして、記憶用メモリ330には、図9に示すように、上記の実施例1に示した画像処理装置200の各処理部と同様の機能を発揮する画像処理プログラム331と、画像処理用データ332とがあらかじめ記憶されている。なお、この画像処理プログラム331を適宜分散させて、ネットワークを介して通信可能に接続された他のコンピュータの記憶部に記憶させておくこともできる。
そして、制御部350が、この画像処理プログラム331を記憶用メモリ330から読み出してワーク用メモリ340に展開することにより、図9に示すように、画像処理プログラム331は画像処理プロセス341として機能するようになる。すなわち、画像処理プロセス341は、画像処理用データ332等を記憶用メモリ330から読み出して、ワーク用メモリ340において自身に割り当てられた領域に展開し、この展開したデータ等に基づいて各種処理を実行する。
なお、画像処理プロセス341は、図4に示したマイコン210の各処理機能部(状況判定部213、画像変換部214、自車両情報挿入部215および画像出力制御部216)において実行される処理にそれぞれ対応する。
なお、上記した画像処理プログラム331については、必ずしも最初から記憶用メモリ330に記憶させておく必要はなく、例えば、マイコン300に挿入されるフレキシブルディスク(FD)、CD−ROM、DVDディスク、光磁気ディスク、ICカードなどの「可搬用の物理媒体」に各プログラムを記憶させておき、マイコン300がこれらから各プログラムを読み出して実行するようにしてもよい。
(5)画像処理方法
上記の実施例1で説明した画像処理装置200により、以下のような画像処理方法が実現される。
すなわち、各車載カメラで撮影された画像を表示出力させる表示出力条件の入力をドライバから受け付ける表示出力条件入力受付ステップと(例えば、図7のステップS1参照)、自車両が現在置かれている状況を判定する状況判定ステップと(例えば、図7のステップS2参照)、自車両に搭載された搭載位置の異なる複数の車載カメラごとに、自車両の置かれるシーンに対応付けて、ドライバの視線の起点となる位置と自車両の複数の所定箇所を結ぶ複数の方向、ドライバの視線の起点となる位置からの俯角およびドライバに視認させる範囲の値を、自車両に搭載された車載カメラの画像を座標変換するための画像変換パラメータとして記憶する画像変換パラメータ記憶手段から、表示出力条件入力受付ステップにより受け付けられた表示出力条件、および状況判定ステップにより判定された状況に対応する画像変換パラメータを取得し、取得された画像変換パラメータを用いて、車載カメラにより撮影された画像を座標変換する画像変換ステップと(例えば、図7のステップS3およびステップS4参照)、画像変換手段により変換された画像を表示出力する表示出力ステップと(例えば、図7のステップS7参照)、を含んだ画像処理方法が実現される。
以上のように、本発明に係る画像処理装置、画像処理方法および画像処理プログラムは、車両に搭載されたカメラにより撮影した画像を車載ディスプレイなどに表示出力する場合に有用であり、特に、感覚的な違和感をドライバにもたらすことない視界補助画像をドライバに提供することに適する。
実施例1に係る画像処理装置を説明するための図である。 実施例1に係る画像処理装置を説明するための図である。 実施例1に係る画像処理装置を説明するための図である。 実施例1に係る画像処理装置の構成を示す図である。 車載カメラの配置位置を示す図である。 実施例1に係る画像変換パラメータを説明するための図である。 実施例に係る画像処理装置による処理の流れを示す図である。 実施例1に係る俯瞰画像を説明するための図である。 画像処理プログラムを実行するマイコンを示す図である。
符号の説明
100 車両
110 フロントカメラ
120 サイドカメラ
130 バックカメラ
140 ナビゲーション装置
150 車両状態情報取得部
160 表示出力条件入力受付部
170 ディスプレイ
200 画像処理装置
210 マイコン
211 画像変換パラメータ記憶部
212 自車両情報記憶部
213 状況判定部
214 画像変換部
215 自車両情報挿入部
216 画像出力制御部
300 マイコン
310 入力部
320 出力部
330 記憶用メモリ
331 画像処理プログラム
332 画像処理用データ
340 ワーク用メモリ
341 画像処理プロセス
350 制御部
400 バス

Claims (2)

  1. 自車両に搭載された搭載位置の異なる複数の車載カメラごとに、自車両の置かれる状況に対応付けて、ドライバの視線の起点となる位置と自車両の複数の所定箇所を結ぶ複数の方向、ドライバの視線の起点となる位置からの俯角およびドライバに視認させる範囲の値を、自車両に搭載された車載カメラの画像を座標変換するための画像変換パラメータとして予め記憶する画像変換パラメータ記憶手段と、
    自車両が現在置かれている状況を判定する状況判定手段と、
    前記状況判定手段による状況判定結果および前記画像変換パラメータ記憶手段に記憶されている前記画像変換パラメータに基づいて、各車載カメラにより撮影された画像を座標変換する画像変換手段と、
    前記画像変換手段により変換された画像を表示出力する表示出力手段と
    各車載カメラで撮影された画像を表示出力させる表示出力条件の入力をドライバから受け付ける表示出力条件入力受付手段と、
    前記表示出力条件入力受付手段により、前回とは異なる新たな前記表示出力条件の入力が受け付けられた場合に、自車両全体を俯瞰した俯瞰画像を一時的に表示する俯瞰画像表示手段と
    を有し、
    前記表示出力手段は、前記俯瞰画像表示手段による前記俯瞰画像の表示終了とともに、前記画像変換手段により変換された画像を表示出力することを特徴とする画像処理装置。
  2. 自車両に搭載された搭載位置の異なる複数の車載カメラごとに、ドライバの視点の起点となる位置と当該位置からの俯角とを画像変換パラメータとして予め記憶する画像変換パラメータ記憶手段と、
    前記画像変換パラメータ記憶手段に記憶されている前記画像変換パラメータに基づいて前記車載カメラによって撮影された画像を座標変換する画像変換手段と、
    前記画像変換手段によって変換された画像を表示出力する表示出力手段と、
    前記車載カメラによって撮影された画像を表示出力させるための入力をドライバから受け付ける受付手段と
    を有し、
    前記表示出力手段は、前記受付手段が前回とは異なる入力を受け付けた場合に、前記自車両全体を俯瞰した俯瞰画像を表示し、当該俯瞰画像の表示を終了したならば、前記画像変換手段によって変換された画像を表示出力すること
    を特徴とする画像処理装置。
JP2008306905A 2008-12-01 2008-12-01 画像処理装置 Expired - Fee Related JP5300443B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2008306905A JP5300443B2 (ja) 2008-12-01 2008-12-01 画像処理装置
US12/591,675 US8648881B2 (en) 2008-12-01 2009-11-27 Method and apparatus for image processing for in-vehicle cameras

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008306905A JP5300443B2 (ja) 2008-12-01 2008-12-01 画像処理装置

Publications (3)

Publication Number Publication Date
JP2010130673A JP2010130673A (ja) 2010-06-10
JP2010130673A5 JP2010130673A5 (ja) 2012-09-06
JP5300443B2 true JP5300443B2 (ja) 2013-09-25

Family

ID=42222429

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008306905A Expired - Fee Related JP5300443B2 (ja) 2008-12-01 2008-12-01 画像処理装置

Country Status (2)

Country Link
US (1) US8648881B2 (ja)
JP (1) JP5300443B2 (ja)

Families Citing this family (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012034076A (ja) * 2010-07-29 2012-02-16 Alps Electric Co Ltd 車両用視覚補助システム及び該システムを備える車両
KR101015236B1 (ko) 2010-11-10 2011-02-18 (주)한동알앤씨 차량 기반 멀티 센서를 이용한 측량 시스템 및 그 운용 방법
EP2660104B1 (en) * 2010-12-30 2015-09-23 Wise Automotive Corporation Apparatus and method for displaying a blind spot
JP5811804B2 (ja) 2011-11-24 2015-11-11 トヨタ自動車株式会社 車両用周辺監視装置
JP5888087B2 (ja) 2012-04-25 2016-03-16 ソニー株式会社 走行支援画像生成装置、走行支援画像生成方法、車載用カメラおよび機器操縦支援画像生成装置
US20140002357A1 (en) * 2012-06-28 2014-01-02 Kopin Corporation Enabling and Disabling Features of a Headset Computer Based on Real-Time Image Analysis
KR101896715B1 (ko) * 2012-10-31 2018-09-07 현대자동차주식회사 주변차량 위치 추적 장치 및 방법
CN104504677B (zh) * 2014-11-17 2017-09-22 南京泓众电子科技有限公司 一种基于可变视角的图像生成方法
JP6376991B2 (ja) * 2015-02-26 2018-08-22 アルパイン株式会社 表示システム
JP2016163150A (ja) * 2015-02-27 2016-09-05 株式会社リコー 通信端末、面談システム、通信方法及びプログラム
JP6586849B2 (ja) * 2015-10-01 2019-10-09 日産自動車株式会社 情報表示装置及び情報表示方法
DE102018204569A1 (de) * 2018-03-26 2019-09-26 Continental Teves Ag & Co. Ohg Verfahren zur Überwachung und Steuerung eines fernbedienten Park- oder Manövriervorgangs eines Fahrzeugs
EP3793191B1 (en) * 2018-05-08 2024-09-04 Sony Semiconductor Solutions Corporation Image processing device, moving machine, and method, and program
KR102078984B1 (ko) * 2018-07-20 2020-02-19 현대모비스 주식회사 차량의 후방영상 표시 장치 및 방법
EP3886431A4 (en) * 2018-11-22 2021-12-22 Sony Semiconductor Solutions Corporation IMAGE PROCESSING DEVICE, CAMERA SYSTEM AND IMAGE PROCESSING METHOD
EP3932719B1 (en) * 2020-07-03 2024-04-24 Honda Research Institute Europe GmbH Method for assisting a user of an assistance system, assistance system and vehicle comprising such a system
CN114663458B (zh) * 2022-05-24 2022-10-11 魔门塔(苏州)科技有限公司 动态标定方法、装置、驾驶状态检测方法、介质及设备

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3287117B2 (ja) * 1994-07-05 2002-05-27 株式会社日立製作所 撮像装置を用いた車両用の環境認識装置
US7161616B1 (en) * 1999-04-16 2007-01-09 Matsushita Electric Industrial Co., Ltd. Image processing device and monitoring system
JP3300334B2 (ja) * 1999-04-16 2002-07-08 松下電器産業株式会社 画像処理装置および監視システム
JP3632563B2 (ja) * 1999-10-19 2005-03-23 株式会社豊田自動織機 映像位置関係補正装置、該映像位置関係補正装置を備えた操舵支援装置、及び映像位置関係補正方法
US7212653B2 (en) * 2001-12-12 2007-05-01 Kabushikikaisha Equos Research Image processing system for vehicle
JP2006040008A (ja) * 2004-07-28 2006-02-09 Auto Network Gijutsu Kenkyusho:Kk 運転支援装置
JP4877447B2 (ja) * 2004-08-31 2012-02-15 株式会社エクォス・リサーチ 車両周辺画像表示装置
JP4583883B2 (ja) 2004-11-08 2010-11-17 パナソニック株式会社 車両用周囲状況表示装置
JP2007329611A (ja) 2006-06-07 2007-12-20 Denso Corp 車両周辺監視装置、車両周辺監視システム、および車両周辺監視方法
JP2008042235A (ja) * 2006-08-01 2008-02-21 Honda Motor Co Ltd 車両用表示装置
JP2007302238A (ja) * 2007-05-29 2007-11-22 Equos Research Co Ltd 車両の画像処理装置

Also Published As

Publication number Publication date
US8648881B2 (en) 2014-02-11
US20100134519A1 (en) 2010-06-03
JP2010130673A (ja) 2010-06-10

Similar Documents

Publication Publication Date Title
JP5300443B2 (ja) 画像処理装置
JP7245295B2 (ja) 車両・被牽引車両コンビの周辺シーンを表示するための方法、並びに、装置
EP2974909B1 (en) Periphery surveillance apparatus and program
JP5099451B2 (ja) 車両周辺確認装置
EP2981077B1 (en) Periphery monitoring device and program
JP5052628B2 (ja) 駐車支援装置及び互いに曲げ可能な車両要素から構成される車両又は連結車両の駐車支援方法
WO2016002163A1 (ja) 画像表示装置、画像表示方法
US20030197660A1 (en) Image display apparatus, method, and program for automotive vehicle
JP5516988B2 (ja) 駐車支援装置
JP2003300443A (ja) 駐車補助装置
CN107925746B (zh) 周边监控装置
JP5067169B2 (ja) 車両用駐車支援装置および画像表示方法
EP3967554B1 (en) Vehicular display system
JP2012056428A (ja) 運転支援装置
JPH10211849A (ja) 車両後方視界支援装置
JP2022095303A (ja) 周辺画像表示装置、表示制御方法
JP2010257242A (ja) 画像データ生成装置
JP5273068B2 (ja) 車両周辺監視装置
JP4552525B2 (ja) 車両の画像処理装置
JP4092479B2 (ja) 車両用運転支援装置
WO2022224754A1 (ja) 車両用表示システム、車両用表示方法、及び車両用表示プログラム
JP2017111739A (ja) 運転支援装置、運転支援方法
JP2007302238A (ja) 車両の画像処理装置
JP7217090B2 (ja) 情報提供装置及び情報提供方法
KR20180094717A (ko) Avm을 이용한 운전 지원 장치 및 시스템

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20111121

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120709

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130122

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130129

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130401

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130604

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130618

R150 Certificate of patent or registration of utility model

Ref document number: 5300443

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees