以下、本発明に係る車両周辺表示装置の一実施の形態について、図1〜図4を参照しつつ説明する。
図1及び図2に示されるように、自車両Cには、車両周辺表示装置1、車載撮像装置10、及び表示スイッチ40が搭載されている。
このうち、車載撮像装置10は、自車両Cの前進方向を基準として右方のサイドミラーに配置されて自車両Cの右方を撮像する右方撮像装置10a、自車両Cの前進方向を基準として左方のサイドミラーに配置されて自車両Cの左方を撮像する左方撮像装置10b、及び自車両Cの前進方向を基準としてリアウインドの上部に配置されて自車両Cの後方を撮像する後方撮像装置10cの少なくとも3つの車載撮像装置を有して構成されている。以下、これら右方撮像装置10a、左方撮像装置10b、及び後方撮像装置10cを総称する場合には車載撮像装置10と記載する。
車載撮像装置10は広角レンズによって撮像範囲が広角に設定された公知のCCDカメラによって構成されており、自車両Cの運転者の死角にあたるいわゆるブラインドスポットも車載撮像装置10の撮像範囲に含まれている。なお、右方撮像装置10aの配置位置については、右方のサイドミラーに限らず、自車両Cの右方を撮像することができれば任意である。また、左方撮像装置10bの配置位置についても、左方のサイドミラーに限らず、自車両Cの左方を撮像することができれば任意である。また、後方撮像装置10cの配置位置についても、自車両Cのリアウインド上部に限らず、自車両Cの後方を撮像することができれば任意である。
車載撮像装置10は車両周辺表示装置1(詳しくは、後述の表示制御部20)に接続されており、自車両Cの右方の画像である右方画像が右方撮像装置10aから表示制御部20へ出力され、自車両Cの左方の画像である左方画像が左方撮像装置10bから表示制御部20へ出力され、自車両Cの後方の画像である後方画像が後方撮像装置10cから表示制御部20へ出力される。
車両周辺表示装置1は、表示制御部20及びモニタ30を有して構成されている。表示制御部20は、公知のCPU及び内蔵メモリを有して構成されるコンピュータであり、そのCPUが内蔵メモリに記憶されているプログラムを実行することによって各種機能を実現している。以下の説明では、便宜上、表示制御部20は、周辺画像生成部21と、正像自車両イラスト画像生成部22と、合成画像出力部23とを有するものとして説明する。
また、表示制御部20は、車載撮像装置10、モニタ30、及び表示スイッチ40と車載LANによって接続されているだけでなく、自車両Cのウインカーランプを点滅制御するメータECU、自車両Cのワイパーブレードの払拭動作を制御するワイパ制御ECU、及び、自車両Cの車体情報として自車両Cにおけるハンドルの配置位置の情報を記憶するとともに自車両Cの車両名も記憶する外部記憶部(いずれも図示略)とも車載LANによって接続されている。
周辺画像生成部21は、右方撮像装置10aによって撮像された右方画像、左方撮像装置10bによって撮像された左方画像、及び後方撮像装置10cによって撮像された後方画像を用いて、自車両Cの前進方向前方に視点を置いて自車両Cの方向をみた正像の周辺画像を生成する。
具体的には、周辺画像生成部21は、まず、右方撮像装置10aの視点、左方撮像装置10bの視点、及び後方撮像装置10cの視点を自車両C上方の1点にマップを用いて変換する。換言すれば、周辺画像生成部21は、まず、右方画像、左方画像、及び後方画像を用いて、自車両C上方の1点から自車両Cを含む俯瞰画像を生成する。次に、周辺画像生成部21は、自車両Cの上方に変換された視点を自車両Cの前進方向前方にマップを用いて変換する。換言すれば、上記俯瞰画像を用いて、自車両Cの左方、後方、及び右方を連続的に含む周辺画像(いわゆるパノラマ画像)を生成する。こうした視点変換については、例えば特許第3286306号公報に記載された公知の視点変換を用いることができる。
なお、本実施の形態では、周辺画像生成部21は、右方画像、左方画像、及び後方画像をマップを用いて俯瞰画像を一旦生成し、その生成した俯瞰画像をマップを用いて周辺画像を生成していた。換言すれば、周辺画像生成部21は、2つのマップを用いて、右方画像、左方画像、及び後方画像から俯瞰画像を経由して周辺画像を生成していたが、これに限らない。右方画像、左方画像、及び後方画像から、俯瞰画像を経由することなく、周辺画像を直接生成してもよい。この場合、上記2つのマップを統合した単一のマップを用いることになる。
正像自車両イラスト画像生成部22は、自車両Cの車体情報に基づいて、自車両の前方に置いた視点から見た自車両を正像にて示す自車両イラスト画像(正像)を生成する。この自車両イラスト画像(正像)は、その自車両イラスト画像(正像)を左右方向の中心で分割する左右方向中心線(車幅方向の中心を通り且つ車幅方向に垂直な線)を対称軸として線対称ではない左右非対称な部分(以下、単に左右非対称な部分とも記載する)と、各文字の左右方向中心線を基準として左右非対称な文字(以下、単に左右非対称な文字とも記載する)を含んでいる。
ここで、上記左右非対称な部分とは、具体的には、自車両Cの運転席に配置されるハンドル及び自車両Cの車体のうち運転席の配置側と逆側にのみ配置されることの多い補助ミラーである。また、上記左右非対称な文字とは、具体的には、自車両Cの車両名である。そして、こうした左右非対称な部分及び左右非対称な文字を含む正像の自車両イラスト画像を生成するべく、正像自車両イラスト画像生成部22は上記外部記憶部から車体情報及び車両名を取得する。
なお、本実施の形態では、上記左右非対称な部分としてハンドル及び補助ミラーを採用したが、いずれか一方のみを採用してもよい。あるいは、自車両Cの車体のうちハンドル配置側にのみ配置されることの多いアンテナや、自車両Cの運転席に着座する運転者自身を採用してもよい。また、本実施の形態では、上記左右非対称な文字として自車両Cの車両名を採用したが、自車両Cの自動車登録番号を採用してもよい。さらに、正像自車両イラスト画像生成部22は、上記左右非対称な文字として自車両Cの自動車登録番号や車両名を、ナンバープレートに有する自車両イラスト画像を生成してもよく、上記左右非対称な文字として自車両Cの車両名を、自車両のボデーに有する自車両イラスト画像(正像)を生成してもよい。
また、正像自車両イラスト画像生成部22は、自車両Cの運転情報に基づいて、自車両Cの各部のうち左右方向中心線に対して左右非対称に動作する部分(以下、単に左右非対称に動作する部分とも記載する)の動作を自車両イラスト画像(正像)に反映させる。
ここで、上記左右非対称に動作する部分の動作とは、具体的には、ワイパーブレードの払拭動作、及び、自車両Cの右左折やレーンチェンジ時のウインカーランプの点滅動作である。こうした左右非対称に動作する部分の動作を示す自車両イラスト画像を生成するべく、正像自車両イラスト画像生成部22は、上記運転情報として、ウインカーランプの点滅制御が行なわれているか否かに関する情報を上記メータECUから取得したり、ワイパーブレードによるウインドの払拭が行なわれているか否かに関する情報を上記ワイパ制御ECUから取得したりする。
合成画像出力部23は、上記正像自車両イラスト画像生成部22によって生成された自車両イラスト画像(正像)が上記周辺画像生成部21によって生成された周辺画像(正像)の幅方向の中央で且つ周辺画像の高さ方向下方に重畳するように、これら自車両イラスト画像及び周辺画像をそれぞれ正像のまま合成し、次いで、合成後の画像を鏡像とすることで、周辺画像(鏡像)と自車両イラスト画像(鏡像)とを重畳した合成画像を生成する。そして、この合成画像をモニタ30に出力する。
モニタ30は、自車両Cの運転者が視認可能なように、車室内において運転席の前方に配置されるLCDであり、表示制御部20から出力された合成画像を画面表示する。このようにしてモニタ30に表示される合成画像は、いわば、自車両Cの前方に巨大な鏡を配置して自車両Cの車室内からその鏡を介して自車両C及びその後方をみた画像となる。なお、本実施の形態では、車両周辺表示装置1は合成画像を画面表示する専用のLCDをモニタ30として備えることとしたがこれに限らない。例えばナビゲーション装置が自車両Cに搭載されている場合等においては、ナビゲーション装置のモニタを利用してもよい。また、LCDでなくてもよく、適宜の画面表示機を採用することができる。また、モニタ30が特許請求の範囲に記載の表示部に相当する。
表示スイッチ40は、自車両Cの運転者によって操作される公知のスイッチである。この表示スイッチ40は、オン操作されると、車両周辺表示装置1(詳しくは表示制御部20)に対して合成画像の表示要求を出力し、この表示要求を受けた表示制御部20は、合成画像をモニタ30に画面表示する。なお、表示制御部20によって実行される表示処理については図4を参照しつつ後述する。
図3に、モニタ30に画面表示される合成画像の一例を示す。この図3に示されるように、モニタ30には、境界線L1及びL2を有する合成画像が画面表示されており、境界線L1よりも図3において右方における領域には周辺画像のうち右方画像に相当する部分が画面表示され、境界線L2よりも図3において左方における領域には周辺画像のうち左方画像に相当する部分が画面表示され、境界線L1及びL2に挟まれる領域には周辺画像のうち後方画像に相当する部分が画面表示されている。なお、本実施の形態では、合成画像出力部23は、これら境界線L1及びL2を含めて自車両イラスト画像及び周辺画像を合成したが、これら境界線L1及びL2を含めることなく自車両イラスト画像及び周辺画像を合成してもよい。
また、モニタ30には、「7[m]」として表示される距離線L3及び「30[m]」として表示される距離線L4を有する合成画像が画面表示されている。ちなみに、右方画像における位置と右方撮像装置10aを搭載する自車両Cからの離間距離とを予め対応付け、左方画像における位置と左方撮像装置10bを搭載する自車両Cからの離間距離とを予め対応付け、後方画像における位置と後方撮像装置10cを搭載する自車両Cからの離間距離とを予め対応付けることにより、こうした距離線L3及びL4を表示することができるが、こうした技術は公知であるため、ここでのこれ以上詳しい説明を割愛する。なお、本実施の形態では、合成画像出力部23は、距離線L3及びL4を含めて自車両イラスト画像及び周辺画像を合成したが、これら距離線L3及びL4を含めることなく自車両イラスト画像及び周辺画像を合成してもよい。
ここで、仮に、合成画像が正像のままモニタ30に画面表示されたとする。この場合、合成画像(正像)のうち左方画像に相当する部分がモニタ30において右方に画面表示され、合成画像(正像)のうち右方画像に相当する部分がモニタ30において左方に画面表示されることになる。これでは、上記課題の欄にも記載したように、合成画像(正像)において左方に位置する他車は実際には自車両Cの右方に位置し、合成画像(正像)において右方に位置する他車は実際には自車両Cの左方に位置する。つまり、合成画像(正像)における左右と実際の左右(運転者にとっての左右)とは反対であり、合成画像における左右と実際の左右との対応関係が自車両Cの運転者にとって直感的に理解し難くなってしまう。
しかしながら、本実施の形態では、図3に示したように、モニタ30に表示される合成画像は、自車両の前方から自車両方向を見た画像を鏡像とした画像であることから、合成画像において左方に位置する他車は実際にも自車両Cの左方に位置し、合成画像において右方に位置する他車は実際にも自車両Cの右方に位置する。つまり、合成画像における左右と実際の左右(運転者にとっての左右)とが一致する。そのため、合成画像における左右と実際の左右との対応関係が自車両Cの運転者にとって直感的に容易に理解することができるようになる。
また、仮に、周辺画像の重畳される自車両イラスト画像が左右対称であるとする。この場合、左右対称の自車両イラスト画像は、自車両Cの運転者が合成画像における左右と実際の左右との対応関係を理解するのに役に立たず、その対応関係を理解することはできない。
しかしながら、本実施の形態では、図3に示したように、モニタ30には、左右非対称の自車両イラスト画像が周辺画像に重畳された合成画像が画面表示される。たとえば、自車両Cのハンドルは合成画像において右方に位置する。また、自車両Cの補助ミラーは合成画像において左方に位置する。したがって、合成画像における左右と実際の左右(運転者にとっての左右)とが一致し、合成画像における左右と実際の左右との対応関係が自車両Cの運転者にとって直感的に容易に理解することができるようになる。また、自車両イラスト画像において自車両Cの車両名が鏡像の文字にて表示されることから、この自車両イラスト画像が鏡像であることも直ちに理解することができる。
以上説明した車両周辺表示装置1によって実行される表示処理S1について、図4を参照しつつ説明する。
車両周辺表示装置1は、表示処理S1を実行開始すると、まず、ステップS10の判断処理として、表示スイッチ40から合成画像の表示要求が入力されたか否かを判断する。なお、モニタ30に画面表示される合成画像は、レーンチェンジ、分岐、合流の際に有益であることから、これらレーンチェンジ、分岐、合流の際にオン操作されることが多い。
上記ステップS10の判断処理において、表示スイッチ40から表示要求が入力されたと判断されなかった場合(ステップS10の判断処理で「No」)、表示制御部20は、このステップS10の判断処理を再度実行し、表示スイッチ40から表示要求が入力されたか否かを判断する。このように、表示制御部20は、ステップS10の判断処理を繰り返し実行することにより、表示スイッチ40から表示要求が入力されるまで待機する。
上記ステップS10の判断処理において、表示スイッチ40から表示要求が入力されたと判断された場合(ステップS10の判断処理で「Yes」)、表示制御部20(詳しくは正像自車両イラスト画像生成部22)は、続くステップS20の処理として、上記車体情報(自車両Cにおけるハンドルの配置位置の情報)及び車両名を外部記憶部から取得し、上記運転情報(ウインカーランプの点滅制御が行なわれているか否かに関する情報、ワイパーブレードによるウインドの払拭が行なわれているか否かに関する情報)をメータECU及びワイパ制御ECUから取得する。これら各種情報を取得すると、表示制御部20は、続くステップS30の処理に移行する。
ステップS30の処理に移行すると、表示制御部20(詳しくは正像自車両イラスト画像生成部22)は、上記ステップS20の処理にて取得した各種情報に基づいて、ハンドル、補助ミラー、及び車両名を含み、且つ、ワイパーブレードの払拭動作及び自車両Cの右左折やレーンチェンジ時のウインカーランプの点滅動作を示す自車両イラスト画像を正像にて生成する。自車両イラスト画像を正像にて生成すると、表示制御部20は、続くステップS40の処理に移行する。
ステップS40の処理に移行すると、表示制御部20(詳しくは周辺画像生成部21)は、右方撮像装置10aから右方画像を取得し、左方撮像装置10bから左方画像を取得し、後方撮像画像10cから後方画像を取得する。これら各種画像を取得すると、周辺画像生成部21は、続くステップS50の処理に移行する。
ステップS50の処理に移行すると、表示制御部20(詳しくは周辺画像生成部21)は、上記ステップS40の処理にて取得した各種画像を用いて、自車両Cの前進方向前方に視点を置いて自車両Cの方向をみた正像の周辺画像(いわゆるパノラマ画像)を生成する。周辺画像を生成すると、周辺画像生成部21は、続くステップS60の処理に移行する。
ステップS60の処理に移行すると、表示制御部20(詳しくは合成画像出力部23)は、上記ステップS30の処理にて生成された自車両イラスト画像及び上記ステップS50の処理で生成された周辺画像をそれぞれ正像のまま合成し、次いで、合成後の画像を鏡像とすることで合成画像を生成する。そして、ステップS70の処理において、ステップS60で合成した合成画像をモニタ30に出力する。モニタ30は、出力された合成画像を画面表示する。その後、表示制御部20は、先のステップS10の判断処理を再度実行する。
なお、本発明に係る車両周辺表示装置は、上記実施の形態にて例示した構成に限定されるものではなく、本発明の趣旨を逸脱しない範囲において、種々に変形して実施することが可能である。すなわち、上記実施の形態を適宜変更した例えば次の形態として実施することもできる。
上記実施の形態では、車両周辺表示装置1は、表示スイッチ40から合成画像の表示要求が入力されたか否かを判断(ステップS10の判断処理を実行)し、表示要求が入力されたと判断された場合に合成画像をモニタ30に表示(ステップS20〜S70の一連の処理を実行)していた。すなわち、車両周辺表示装置1は、自車両Cの運転者の手動操作によって、合成画像をモニタ30に表示していたが、これに限らない。他に例えば、車両周辺表示装置1は、ウインカーランプの点滅制御が行なわれているか否かに関する情報をメータECUから取得し、ウインカーランプの点滅制御が行なわれていると判断した場合に合成画像をモニタ30に表示することとしてもよい。あるいは、ナビゲーション装置を搭載する自車両Cに当該車両周辺表示装置1が搭載されている場合に、自車両Cの現在地が車線の分岐地点または車線の合流地点周辺であると判断された場合に合成画像をモニタ30に表示してもよい。すなわち、車両周辺表示装置1は、自動的に合成画像をモニタ30に表示してもよい。なお、ナビゲーション装置が特許請求の範囲に記載の自車両位置検出装置に相当する。
上記実施の形態では、正像自車両イラスト画像生成部22は、ハンドル及び補助ミラー等の左右非対称な部分を含む(強調されていない)自車両イラスト画像を生成していたが、左右非対称な部分が強調された自車両イラスト画像を生成してもよい。
詳しくは、正像自車両イラスト画像生成部22は、ボデーの色と異なる色の補助ミラーや座席の色と異なる色のハンドル等を含む自車両イラスト画像を生成してもよい。具体的には、正像自車両イラスト画像生成部22は、自車両Cの各部のうち左右非対称な部分の彩度がその隣接する部分の彩度よりも高い自車両イラスト画像や、自車両Cの各部のうち左右非対称な部分の明度がその隣接する部分の明度よりも高い自車両イラスト画像(自車両Cの各部のうち左右非対称な部分及びその隣接する部分は同一の色相を有するものとする)を生成してもよい。
あるいは、正像自車両イラスト画像生成部22は、補助ミラーやハンドル等の点滅を示す自車両イラスト画像を生成してもよい。具体的には、正像自車両イラスト画像生成部22は、自車両Cの各部のうち左右非対称な部分の彩度がその隣接する部分の彩度よりも高い自車両イラスト画像と、左右非対称な部分を含む(強調されていない)自車両イラスト画像とを交互に生成したり、自車両Cの各部のうち左右非対称な部分の明度がその隣接する部分の明度よりも高い自車両イラスト画像と、左右非対称な部分を含む(強調されていない)自車両イラスト画像とを交互に生成したりしてもよい。
また、車両周辺表示装置1は、合成画像をモニタ30に表示する際、常に、左右非対称な部分が強調された自車両イラスト画像と周辺画像とが合成された合成画像をモニタ30に表示してもよく、一定時間においてのみ、左右非対称な部分が強調された自車両イラスト画像と周辺画像とが合成された合成画像をモニタ30に表示し、その一定時間外においては、左右非対称な部分を含む(強調されていない)自車両イラスト画像と周辺画像とが合成された合成画像をモニタ30に表示してもよい。
以下、左右非対称な部分が強調された自車両イラスト画像と周辺画像とが合成された合成画像を、合成画像が左右対称であると判断された場合に表示する変形例について説明する。
詳しくは、まず、当該車両周辺表示装置1はナビゲーション装置を搭載する自車両Cに搭載されているものとする。車両周辺表示装置1は、表示要求が入力されたと判断したとき、自車両Cの位置が複数レーンのうち中央レーンであるか否かを併せて判断する。ここで、表示要求が入力されたと判断し、且つ、自車両Cの位置が複数レーンのうち中央レーンであると判断すると、周辺画像が左右対称であると判断し、車両周辺表示装置1は、左右非対称な部分が強調された自車両イラスト画像と周辺画像とが合成された合成画像をモニタ30に表示する。このような構成としてもよい。
また、車両周辺表示装置1は、表示要求が入力されたと判断し、且つ、自車両Cの位置が複数レーンのうち中央レーンであると判断すると、その判断時から一定時間において、左右非対称な部分が強調された自車両イラスト画像と周辺画像とが合成された合成画像をモニタ30に表示し、その一定時間経過後、左右非対称な部分を含む(強調されていない)自車両イラスト画像と周辺画像とが合成された合成画像をモニタ30に表示する。このような構成としてもよい。なお、一定時間としては、例えば「10秒間」等、合成画像における左右と実際の左右との対応関係を認識していない自車両Cの運転者がその対応関係を認識することが可能な程度の時間を採用するとよい。
また、車両周辺表示装置1は、表示要求が入力されたと判断したとき、周辺画像の左右対称度が所定閾値よりも高いか否かを併せて判断する。周辺画像の左右対称度が所定閾値よりも高いと判断すると、周辺画像が左右対称であると判断し、車両周辺表示装置1は、左右非対称な部分が強調された自車両イラスト画像と周辺画像とが合成された合成画像をモニタ30に表示する。なお、左右対称判断部は、周辺画像の幅方向の中心を通り且つ幅方向に垂直な線(対称軸)よりも右方の画像と、この対称軸よりも左方の画像の左右を反転した画像との類似度(左右対称度)をいわゆるテンプレートマッチングにて算出し、左右対称度が所定閾値よりも高いと判断すると、周辺画像が左右対称であると判断し、所定閾値以下であると判断すると、周辺画像は左右対称であるとは判断しない。所定閾値としては、自車両Cの運転者が周辺画像は対称軸に対し左右対称であると認識することのできる程度の類似度を採用するとよい。
また、車両周辺表示装置1は、表示要求が入力されたと判断し、且つ、周辺画像の左右対称度が所定閾値よりも高いと判断すると、その判断時から一定時間において、左右非対称な部分が強調された自車両イラスト画像と周辺画像とが合成された合成画像をモニタ30に表示し、その一定時間経過後、左右非対称な部分を含む(強調されていない)自車両イラスト画像と周辺画像とが合成された合成画像をモニタ30に表示する。このような構成としてもよい。なお、一定時間としては、例えば「10秒間」等、合成画像における左右と実際の左右との対応関係を認識していない自車両Cの運転者がその対応関係を認識することが可能な程度の時間を採用するとよい。
このように、車両周辺表示装置1は、周辺画像がその幅方向の中心を通り且つ幅方向に垂直な線を対称軸として線対称ではない左右非対称であるか否かを判断する左右対称判断部をさらに備え、周辺画像が左右対称であると判断された場合に、正像自車両イラスト画像生成部22は、左右非対称な部分が強調された自車両イラスト画像を生成する。ちなみに、自車両Cの位置が複数レーンのうち中央レーンであるか否かを判断する手段、及び、周辺画像の左右対称度が所定閾値よりも高いか否かを判断する手段が、特許請求の範囲に記載の左右対称判断部に相当する。
さらに、合成画像が左右対称であると判断された場合に、左右非対称な部分が強調された自車両イラスト画像と周辺画像とが合成された合成画像を表示する構成に限らない。他に例えば、車両周辺表示装置1は、ヘッドランプの点灯制御が行われているか否かに関する情報をメータECUから取得し、ヘッドランプの点灯制御が行われていると判断した場合に、左右非対称な部分が強調された自車両イラスト画像と周辺画像とが合成された合成画像をモニタ30に表示することとしてもよい。ヘッドランプの点灯制御が行われている場合とは、自車両Cが暗い環境下に置かれていることを意味し、左右非対称な部分を含む(強調されていない)自車両イラスト画像がモニタ30に表示されても、自車両Cの運転者は、合成画像における左右と実際の左右との対応関係を認識しにくいことが考えられる。その点、上記変形例によれば、自車両Cが暗い環境下に置かれている場合であっても、合成画像における左右と実際の左右との対応関係を認識し易くなる。
上記実施の形態では、車両周辺表示装置1は、自車両イラスト画像を都度生成していたが、合成画像を表示する際に自車両イラスト画像を都度生成しなくても、複数の自車両イラスト画像を予め生成し内蔵メモリあるいは外部記憶部等の適宜の記憶部に記憶しておき、合成画像を表示する際に自車両イラスト画像を随時選択することとしてもよい。これにより、合成画像を表示する際に自車両イラスト画像を生成するよりも演算負荷を軽減することができるようになる。