Nothing Special   »   [go: up one dir, main page]

JP2021044751A - 周辺監視装置 - Google Patents

周辺監視装置 Download PDF

Info

Publication number
JP2021044751A
JP2021044751A JP2019166660A JP2019166660A JP2021044751A JP 2021044751 A JP2021044751 A JP 2021044751A JP 2019166660 A JP2019166660 A JP 2019166660A JP 2019166660 A JP2019166660 A JP 2019166660A JP 2021044751 A JP2021044751 A JP 2021044751A
Authority
JP
Japan
Prior art keywords
vehicle
image
display
virtual
control unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019166660A
Other languages
English (en)
Other versions
JP7443705B2 (ja
Inventor
欣司 山本
Kinji Yamamoto
欣司 山本
渡邊 一矢
Kazuya Watanabe
一矢 渡邊
誠 平田
Makoto Hirata
誠 平田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Aisin Corp
Original Assignee
Aisin Seiki Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Aisin Seiki Co Ltd filed Critical Aisin Seiki Co Ltd
Priority to JP2019166660A priority Critical patent/JP7443705B2/ja
Priority to EP20195431.0A priority patent/EP3800111A1/en
Priority to US17/017,948 priority patent/US11620834B2/en
Priority to CN202010962500.9A priority patent/CN112477758A/zh
Publication of JP2021044751A publication Critical patent/JP2021044751A/ja
Application granted granted Critical
Publication of JP7443705B2 publication Critical patent/JP7443705B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/23Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
    • B60R1/27Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view providing all-round vision, e.g. using omnidirectional cameras
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/28Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with an adjustable field of view
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B62LAND VEHICLES FOR TRAVELLING OTHERWISE THAN ON RAILS
    • B62DMOTOR VEHICLES; TRAILERS
    • B62D15/00Steering not otherwise provided for
    • B62D15/02Steering position indicators ; Steering position determination; Steering aids
    • B62D15/021Determination of steering angle
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B62LAND VEHICLES FOR TRAVELLING OTHERWISE THAN ON RAILS
    • B62DMOTOR VEHICLES; TRAILERS
    • B62D15/00Steering not otherwise provided for
    • B62D15/02Steering position indicators ; Steering position determination; Steering aids
    • B62D15/027Parking aids, e.g. instruction means
    • B62D15/0275Parking aids, e.g. instruction means by overlaying a vehicle path based on present steering angle over an image without processing that image
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B62LAND VEHICLES FOR TRAVELLING OTHERWISE THAN ON RAILS
    • B62DMOTOR VEHICLES; TRAILERS
    • B62D15/00Steering not otherwise provided for
    • B62D15/02Steering position indicators ; Steering position determination; Steering aids
    • B62D15/029Steering assistants using warnings or proposing actions to the driver without influencing the steering system
    • B62D15/0295Steering assistants using warnings or proposing actions to the driver without influencing the steering system by overlaying a vehicle path based on present steering angle over an image without processing that image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • G06T19/003Navigation within 3D models or images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • G06T19/006Mixed reality
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • G08G1/167Driving aids for lane monitoring, lane changing, e.g. blind spot detection
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/10Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/20Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of display used
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/301Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing combining image information with other obstacle sensor information, e.g. using RADAR/LIDAR/SONAR sensors for estimating risk of collision
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/304Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing using merged images, e.g. merging camera image with stored images
    • B60R2300/305Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing using merged images, e.g. merging camera image with stored images merging camera image with lines or icons
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/306Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing using a re-scaling of images
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/60Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective
    • B60R2300/607Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective from a bird's eye viewpoint
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/70Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by an event-triggered choice to display a specific image among a selection of captured images
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/80Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/80Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
    • B60R2300/8093Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for obstacle warning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2210/00Indexing scheme for image generation or computer graphics
    • G06T2210/21Collision detection, intersection

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Mechanical Engineering (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Software Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Combustion & Propulsion (AREA)
  • Transportation (AREA)
  • Chemical & Material Sciences (AREA)
  • Computer Hardware Design (AREA)
  • General Engineering & Computer Science (AREA)
  • Computer Graphics (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Signal Processing (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Traffic Control Systems (AREA)

Abstract

【課題】注意が必要な物体が検出された場合に、その物体と車両との位置関係を直感的に利用者に把握させやすい周辺監視装置を提供する。【解決手段】実施形態の周辺監視装置は、例えば、車両の現在の舵角を取得する取得部と、車両の周辺を撮像する撮像部から撮像画像を取得する画像取得部と、車両の周辺の物体の検知情報を取得する検知部と、車両を示す車両画像と、撮像画像に基づいた車両の周辺を表した周辺画像と、を含む合成画像を表示部に表示させる制御部と、を備え、制御部は、現在の舵角で車両が所定距離進んだ場合の進路上に物体を検知した場合、合成画像内において、車両画像で示された車両の位置を基準とした物体までの進路上に車両の形状を示す仮想的な仮想車両画像を重畳表示させる。【選択図】図4

Description

本発明の実施形態は、周辺監視装置に関する。
撮像部によって車両の周辺を撮像して得られる撮像画像に基づいて、車両の周辺に存在する物体(障害物等)を検出するとともに、車輪の予想進路を算出して、物体が予想進路上に存在する場合に、報知する技術が提案されている。
特開2008−90655号公報
車両に対して接触する可能性のある物体(注意が必要な物体)が発見された場合は、単に報知を行うだけでなく、車両がこのまま進行した場合の物体と車両との位置関係をより直感的に利用者(運転者等)が認識できる状態で提供できれば、接触の回避等をよりスムーズかつ安全に実行させやすくなる。
そこで、実施形態の課題の一つは、注意が必要な物体が検出された場合に、その物体と車両(自車)との位置関係を直感的に利用者に把握させやすい周辺監視装置を提供することである。
実施形態の周辺監視装置は、例えば、車両の現在の舵角を取得する取得部と、車両の周辺を撮像する撮像部から撮像画像を取得する画像取得部と、車両の周辺の物体の検知情報を取得する検知部と、車両を示す車両画像と、撮像画像に基づいた車両の周辺を表した周辺画像と、を含む合成画像を表示部に表示させる制御部と、を備え、制御部は、現在の舵角で車両が所定距離進んだ場合の進路上に物体を検知した場合、合成画像内において、車両画像で示された車両の位置を基準とした物体までの進路上に車両の形状を示す仮想的な仮想車両画像を重畳表示させる。この構成によれば、例えば、仮想車両画像が合成画像に表示されているか否かによって、現在の舵角で車両が進んだ場合に、その進路上に、注意を必要とする物体が存在するか否かを、利用者に直感的に認識させ易い表示ができる。
また、実施形態の周辺監視装置において、仮想車両画像は、例えば、車両の位置から物体の位置に向かって移動可能であってもよい。この構成によれば、例えば、仮想車両画像の存在を運転者に認識させやすい表示、つまり、進路上に注意を必要とする物体が存在することを認識させやすい表示を行うことができる。また、仮想車両画像が物体に向かい移動することによって、物体の位置をより認識させ易い表示ができる。
また、実施形態の周辺監視装置の制御部は、例えば、仮想車両画像内において物体と接触する部分画像の表示態様を変化させ、かつ合成画像内において、車両が前記物体に接触する位置、または接触する手前の位置まで進んだ位置において仮想車両画像の移動を停止させてもよい。この構成によれば、例えば、仮想車両画像に基づき、車両の車体のうち物体と接触する位置または接触する手前の位置を運転者に認識させ易く、車両を運転し易くさせるような表示ができる。また、物体と接触する位置またはその手前の位置で仮想車両画像を停止させるので、物体の位置をより認識させ易い表示が可能となり、検知された物体と車両との接触を回避させ易い表示ができる。
また、実施形態の周辺監視装置の仮想車両画像は、例えば、ポリゴンで構成される車両の形状を示す画像であり、部分画像は、仮想車両画像を構成するポリゴンのうち、物体と接触する部分のポリゴンであってもよい。この構成によれば、例えば、仮想車両画像に基づき、車両の車体のうち物体が接触する可能性のある位置を運転者に認識させ易く、車両を運転し易くさせるような表示ができる。また、検知された物体と車両との接触を回避させ易い表示ができる。
また、実施形態の周辺監視装置の制御部は、例えば、物体の位置と仮想車両画像で示された車両の位置の間の距離に応じて部分画像の表示態様を変更してもよい。この構成によれば、例えば、部分画像の表示態様の変化を確認することで、車両と物体との位置関係をより詳細に把握させることが可能となり、検知された物体に車両が接触しないような運転を、より容易に運転者に実行させることができる。
また、実施形態の周辺監視装置の制御部は、例えば、距離が所定値以下になった場合、部分画像の表示態様を接触を示唆する第1表示態様に変更し、距離が所定値以下の状態から所定値を超えるように変化した場合、表示態様を第1表示態様から接触回避を示唆する第2表示態様に変更するようにしてもよい。この構成によれば、例えば、物体に接触する可能性があるか非接触となるかの判断を車両の運転者に行わせ易い表示ができる。
また、実施形態の周辺監視装置において、車両画像は、例えば、車両の俯瞰画像であってもよい。この構成によれば、例えば、車両とその周辺の物体との位置関係を運転者に正確に把握させ易い表示ができる。
また、実施形態の周辺監視装置において、仮想車両画像は、例えば、車両の三次元の形状を示す画像であってもよい。この構成によれば、例えば、よりリアリティのある仮想車両画像を表示部に表示することができる。
また、実施形態の周辺監視装置において、仮想車両画像は、例えば、車両の形状を示す半透明の画像であってもよい。この構成によれば、例えば、仮想車両画像と車両画像との区別を運転者にさせ易い表示ができる。また、仮想車両画像が、車両の未来の位置を示す画像であることを運転者に直感的に認識させ易い表示ができる。
また、実施形態の周辺監視装置において、仮想車両画像は、例えば、車両の輪郭を強調表示した画像であってもよい。この構成によれば、例えば、仮想車両画像に基づき、車両の未来の位置を運転者に認識させ易い表示ができる。また、仮想車両画像が重なる部分の視認が可能になり周囲状況の視認性が低下することを抑制しやすくなる。
また、実施形態の周辺監視装置において、仮想車両画像は、例えば、車両の輪郭から内側に向かうに従って透過率を高くした画像であってもよい。この構成によれば、例えば、仮想車両画像に基づき、車両の未来の位置を運転者に認識させ易い表示ができる。また、仮想車両画像が重なる部分の視認が可能になり周囲状況の視認性が低下することを抑制しやすくなる。
また、実施形態の周辺監視装置の制御部は、例えば、検知部によって物体が検知された場合、合成画像を、物体が検知される前の表示状態より拡大表示するようにしてもよい。この構成によれば、例えば、拡大表示により物体が検知されて周囲の状況に注意を払う必要が生じたことを直感的に運転者に認識させ易い表示ができる。また、拡大表示により周囲状況の細部を運転者に確認させ易く、安心感を与え易い表示ができる。
また、実施形態の周辺監視装置の制御部は、例えば、拡大表示を実行するときに、車両が後退可能な状態の場合、後退可能な状態以外の場合より拡大表示の程度を小さくするようにしてもよい。この構成によれば、例えば、車両が後退可能な場合、拡大表示により物体の検出を直感的に認識させ易い表示ができるとともに、後退以外の場合より車両の周囲の表示範囲を広げて、広範囲の確認を行わせ易い表示ができる。
また、実施形態の周辺監視装置の制御部は、例えば、合成画像が拡大表示される場合、現在の舵角に基づく旋回方向とは逆方向に車両画像の表示位置をずらして表示するずらし表示を実行するようにしてもよい。この構成によれば、例えば、旋回方向の表示領域が増加するので、これから向かおうとする方向の状況把握を運転者に行わせ易い表示ができる。
また、実施形態の周辺監視装置の制御部は、例えば、車両が後退可能な状態の場合、ずらし表示を非実行とするようにしてもよい。この構成によれば、例えば、車両が後退可能な状態の場合、車両の周囲全域に関する状況の認識を運転者に行わせ易い表示ができる。
また、実施形態の周辺監視装置の制御部は、例えば、仮想車両画像を非表示とする場合、合成画像を物体が検知される前の表示状態に復帰させるようにしてもよい。この構成によれば、例えば、仮想車両画像の表示終了を運転者に認識させ易い表示ができる。また、物体との接触の可能性が低減、または解消されたことを運転者に直感的に認識させ易い表示ができる。
また、実施形態の周辺監視装置の制御部は、例えば、仮想車両画像の表示を一時的に非表示とし、所定の条件が満たされた場合に、非表示を解除するようにしてもよい。この構成によれば、例えば、仮想車両画像の表示が不要の場合、非表示とすることができるとともに、非表示の状態が継続されてしまうことが抑制できる。
また、実施形態の周辺監視装置の制御部は、例えば、仮想車両画像の表示を一時的に非表示とした場合、非表示期間中に限り再表示を実行可能とするようにしてもよい。この構成によれば、例えば、仮想車両画像を非表示としている場合でも、必要に応じて再表示が可能で、使い勝手の向上ができる。
また、実施形態の周辺監視装置の制御部は、例えば、車両が物体に接触する位置、または接触する手前の位置において仮想車両画像の移動を停止させた後、舵角が現在の舵角から変更され、車両が物体に非接触となる場合、変更された舵角にしたがう方向に仮想車両画像の移動を再開可能としてもよい。この構成によれば、例えば、舵角を変更することで物体との接触が解消できること、また解消されたことを、より明確に運転者に認識させることができる。また、さらに先の領域について、他の物体との接触可能性に注視しながら継続して走行させ易い表示ができる。なお、物体と接触しないことが確認できた場合、所定期間後に仮想車両画像を非表示としてもよい。
また、実施形態の周辺監視装置は、例えば、仮想車両画像が表示部に表示されるか否かを切り替え可能な操作スイッチをさらに備え、制御部は、現在の舵角で車両が所定距離進んだ場合の進路上に物体を検知しない場合であって、かつ操作スイッチの操作により仮想車両画像が表示部に表示可能な場合に、車両画像の表示態様を変化させてもよい。この構成によれば、例えば、進路上に物体が検知される前の状態でも、車両画像の表示態様が変化し、仮想車両画像の表示スタンバイ状態であることを表示することができる。したがって、進路上に物体が検知された場合には、仮想車両画像により直ちに通知される状態であることを運転者に認識させやすく、安心感を与え易い表示ができる。
また、実施形態の周辺監視装置の制御部は、例えば、仮想車両画像を表示する場合、仮想車両画像の車長方向の長さと、車幅方向の長さの少なくとも一方を車両画像の対応する長さより拡大するようにしてもよい。この構成によれば、例えば、表示される仮想車両画像の大きさが車両画像より大きく表示される。つまり、物体(例えば障害物)を考慮して車両を移動させる場合に安全かつ適切な余裕距離(安全マージン)を含んだ状態で仮想車両画像の表示ができる。その結果、物体に接触したり、接近し過ぎたりすることを回避させ易い表示ができる。また、逆に必要以上の余裕距離を取ってしまうことを抑制させ易い表示が実現できる。
また、実施形態の周辺監視装置の制御部は、例えば、仮想車両画像の車幅方向の長さのみを拡大するようにしてもよい。例えば、車両を前進および旋回させる場合、車両長さ方向の安全マージンは認識しやすい、一方、車幅方向の安全マージンは、車両長さ方向より認識し難い傾向がある。この構成によれば、例えば、車両を直進させる場合、および旋回させる場合、車幅方向について、必要最小限で安全かつ適切な余裕距離を確保させることが可能になり、より適切な移動経路を運転者に提示しやすい表示ができる。
図1は、実施形態にかかる周辺監視装置を搭載する車両の車室の一部が透視された状態を示す例示的かつ模式的な斜視図である。 図2は、実施形態にかかる周辺監視装置を搭載する車両の例示的かつ模式的な平面図である。 図3は、本実施形態にかかる周辺監視装置を含む車両の制御システムの機能構成を示す例示的かつ模式的なブロック図である。 図4は、実施形態にかかる周辺監視装置の構成を例示的かつ模式的に示すブロック図である。 図5は、第1実施形態にかかる周辺監視装置による表示画像の例示的かつ模式的な図である。 図6は、第1実施形態にかかる周辺監視装置による他の表示画面の例示的かつ模式的な図である。 図7は、第1実施形態にかかる周辺監視装置による仮想車両画像の表示方法の一例を説明する例示的かつ模式的な図である。 図8は、第1実施形態にかかる周辺監視装置による車両画像をポリゴンで表示する場合の表示方法を説明するための例示的かつ模式的な図である。 図9は、第1実施形態にかかる周辺監視装置による仮想車両画像を構成するポリゴンの色の決定方法を説明する例示的かつ模式的な図である。 図10は、第1実施形態にかかる周辺監視装置による仮想車両画像の表示を説明する例示的かつ模式的な図である。 図11は、第1実施形態にかかる周辺監視装置によって部分画像を強調表示する処理を説明する例示的かつ模式的な図である。 図12は、第1実施形態にかかる周辺監視装置によって部分画像を強調表示する処理を説明する例示的かつ模式的な図である。 図13は、第2実施形態にかかる周辺監視装置による表示画面の例示的かつ模式的な図である。 図14は、第2実施形態にかかる周辺監視装置による他の表示画面の例示的かつ模式的な図である。 図15は、図14に示す周辺監視装置による接近物指標の表示を示す例示的かつ模式的な図である。 図16は、図14に示す周辺監視装置による接近物指標の他の表示を示す例示的かつ模式的な図である。 図17は、第3実施形態にかかる周辺監視装置による表示画面の例示的かつ模式的な図である。 図18は、第3実施形態にかかる周辺監視装置による表示画面の表示態様を車両が後退可能な状態のときと、それ以外のときとで変化させることを示す例示的かつ模式的な図である。 図19は、第3実施形態にかかる周辺監視装置による仮想車両画像の非表示と再表示とを可能にすることを示す表示画面の例示的かつ模式的な図である。 図20は、本実施形態の周辺監視装置において、車両画像の表示の有無を選択するするメインスイッチ(操作スイッチ)の操作状態に対応する表示画面の例示的かつ模式的な図である。 図21は、本実施形態の周辺監視装置において、仮想車両画像を表示する際に大きさを変更して、物体(例えば障害物)に対する余裕距離(安全マージン)を確保することを示す表示画像の例示的かつ模式的な図である。 図22は、変形例にかかる周辺監視装置による表示画面の例示的かつ模式的な図である。
以下、本発明の例示的な実施形態が開示される。以下に示される実施形態の構成、ならびに当該構成によってもたらされる作用、結果、および効果は、一例である。本発明は、以下の実施形態に開示される構成以外によって実現可能であるとともに、基本的な構成に基づく種々の効果や、派生的な効果のうち、少なくとも1つを得ることが可能である。
(全体システムの説明)
図1は、実施形態にかかる周辺監視装置を搭載する車両1の車室2aの一部が透視された状態の例示的かつ模式的な斜視図である。本実施形態にかかる周辺監視装置を搭載する車両は、内燃機関(エンジン)を駆動源とする自動車(内燃機関自動車)であってもよいし、電動機(モータ)を駆動源とする自動車(電気自動車、燃料電池自動車等)であってもよいし、それらの双方を駆動源とする自動車(ハイブリッド自動車)であってもよい。また、車両は、種々の変速装置、内燃機関や電動機の駆動に必要な種々の装置(システム、部品等)を搭載可能である。また、車両における車輪の駆動に関わる装置の方式、個数、レイアウト等は、種々に設定可能である。
図1に例示されるように、車両1の車体2は、不図示の乗員が乗車する車室2aを構成している。車室2a内には、乗員としての運転者の座席2bに臨む状態で、操舵部4や、加速操作部5、制動操作部6、変速操作部7等が設けられている。操舵部4は、例えば、ダッシュボード24から突出したステアリングホイールである。加速操作部5は、例えば、運転者の足下に位置されたアクセルペダルである。制動操作部6は、例えば、運転者の足下に位置されたブレーキペダルである。変速操作部7は、例えば、センターコンソールから突出したシフトレバーである。
また、車室2a内には、表示装置(表示部)8や、音声出力部としての音声出力装置9が設けられている。表示装置8は、例えば、LCD(liquid crystal display)や、OELD(organic electroluminescent display)等である。音声出力装置9は、例えば、スピーカである。また、表示装置8は、例えば、タッチパネル等、透明な操作入力部10で覆われている。乗員(利用者)は、操作入力部10を介して表示装置8の表示画面に表示される画像を視認することができる。また、乗員は、表示装置8の表示画面に表示される画像に対応した位置で手指等により操作入力部10を触れたり押したり動かしたりして操作することで、操作入力を実行することができる。これら表示装置8や、音声出力装置9、操作入力部10等は、例えば、ダッシュボードの車幅方向すなわち左右方向の中央部に位置されたモニタ装置11に設けられている。モニタ装置11は、スイッチや、ダイヤル、ジョイスティック、押しボタン等の不図示の操作入力部を有することができる。また、モニタ装置11とは異なる車室2a内の他の位置に不図示の音声出力装置を設けることができるし、モニタ装置11の音声出力装置9と他の音声出力装置から、音声を出力することができる。なお、モニタ装置11は、例えば、ナビゲーションシステムやオーディオシステムと兼用されうる。
図2は、本実施形態にかかる周辺監視装置を搭載する車両1の例示的かつ模式的な平面図である。図1および図2に示すように、車両1は、四輪自動車等であり、左右2つの前輪3Fと、左右2つの後輪3Rと、を有する。4つの車輪3の全てまたは一部が、転舵可能である。
車体2には、複数の撮像部15として、例えば四つの撮像部15a〜15dが設けられている。撮像部15は、例えば、CCD(charge coupled device)やCIS(CMOS image sensor)等の撮像素子を内蔵するデジタルカメラである。撮像部15は、所定のフレームレートで動画データを出力することができる。撮像部15は、それぞれ、広角レンズまたは魚眼レンズを有し、水平方向には例えば140°〜220°の範囲を撮影することができる。また、撮像部15の光軸は斜め下方に向けて設定されている。よって、撮像部15は、車両1が移動可能な路面や車両1が駐車可能な領域を含む車体2の周辺の外部の環境を逐次撮影し、撮像画像データとして出力する。
撮像部15aは、例えば、車体2の後側の端部2eに位置され、リアハッチのドア2hのリアウインドウの下方の壁部に設けられて、車両1の後方領域の状況を撮像する。撮像部15bは、例えば、車体2の右側の端部2fに位置され、右側のドアミラー2gに設けられて、車両1の右前方、右側方、右後方を含む領域の状況を撮像する。撮像部15cは、例えば、車体2の前側、すなわち車両前後方向の前方側の端部2cに位置され、フロントバンパ等に設けられて、車両1の前方領域の状況を撮像する。撮像部15dは、例えば、車体2の左側、すなわち車幅方向の左側の端部2dに位置され、左側の突出部としてのドアミラー2gに設けられて、車両1の左前方、左側方、左後方を含む領域の状況を撮像する。周辺監視装置を構成するECU14(図3参照)は、複数の撮像部15で得られた撮像画像データに基づいて演算処理や画像処理を実行し、より広い視野角の画像を生成したり、車両1を上方から見た仮想的な俯瞰画像を生成したりすることができる。
また、車両1は、車両1の外部に存在する物体との距離を計測可能な測距部として、複数のレーダー16を有する。レーダー16は、例えば、ミリ波レーダー等であり、車両1の進行方向に存在する物体との距離を計測可能である。本実施形態では、車両1は、複数のレーダー16a〜16dを有する。レーダー16aは、例えば、車両1のリアバンパの左側の端部に設けられ、車両1の左後方に存在する物体との距離を計測可能である。また、レーダー16bは、車両1のリアバンパの右側の端部に設けられ、車両1の右後方に存在する物体との距離を計測可能である。レーダー16cは、車両1のフロントバンパの右側の端部に設けられ、車両1の右前方に存在する物体との距離を計測可能である。また、レーダー16dは、車両1のフロントバンパの左側の端部に設けられ、車両1の左前方に存在する物体との距離を計測可能である。
また、車両1は、車両1から比較的近距離に存在する外部の物体との距離を超音波を用いて計測可能なソナー17を有する。本実施形態では、車両1は、複数のソナー17a〜17hを有する。ソナー17a〜17dは、車両1のリアバンパに設けられ、車両の後方に存在する物体との距離を計測可能である。ソナー17e〜17hは、車両1のフロントバンパに設けられ、車両1の前方に存在する物体との距離を計測可能である。
図3は、本実施形態にかかる周辺監視装置を含む車両1の制御システム100の機能構成を示す例示的かつ模式的なブロック図である。図3に例示されるように、制御システム100は、ECU14や、モニタ装置11、操舵システム13、レーダー16、ソナー17等の他、ブレーキシステム18、舵角センサ19、アクセルセンサ20、シフトセンサ21、車輪速センサ22、GPS(Global Positioning System)受信機25、方向指示器26等が、電気通信回線としての車内ネットワーク23を介して電気的に接続されている。車内ネットワーク23は、例えば、CAN(controller area network)として構成されている。ECU14は、車内ネットワーク23を通じて制御信号を送ることで、操舵システム13、ブレーキシステム18等を制御することができる。また、ECU14は、車内ネットワーク23を介して、トルクセンサ13b、ブレーキセンサ18b、舵角センサ19、レーダー16、ソナー17、アクセルセンサ20、シフトセンサ21、車輪速センサ22、GPS受信機25等の検出結果や、操作入力部10や方向指示器26の操作レバーの操作信号等を、受け取ることができる。
操舵システム13は、電動パワーステアリングシステムやSBW(Steer By Wire)システム等である。操舵システム13は、アクチュエータ13aおよびトルクセンサ13bを有する。そして、操舵システム13は、ECU14等によって電気的に制御され、アクチュエータ13aを動作させて、操舵部4に対して、トルクを付加して操舵力を補うことによって、車輪3を転舵する。トルクセンサ13bは、運転者が操舵部4に与えるトルクを検出し、その検出結果をECU14に送信する。
ブレーキシステム18は、車両1のブレーキのロックを制御するABS(Anti-lock Brake System)、コーナリング時の車両1の横滑りを抑制する横滑り防止装置(ESC:Electronic Stability Control)、ブレーキ力を増強させてブレーキをアシストする電動ブレーキシステム、およびBBW(Brake By Wire)を含む。ブレーキシステム18は、アクチュエータ18aおよびブレーキセンサ18bを有する。ブレーキシステム18は、ECU14等によって電気的に制御され、アクチュエータ18aを介して、車輪3に制動力を付与する。ブレーキシステム18は、左右の車輪3の回転差等から、ブレーキのロック、車輪3の空回り、および横滑りの兆候等を検出して、ブレーキのロック、車輪3の空回り、および横滑りを抑制する制御を実行する。ブレーキセンサ18bは、制動操作部6の可動部としてのブレーキペダルの位置を検出する変位センサであり、ブレーキペダルの位置の検出結果をECU14に送信する。
舵角センサ19は、ステアリングホイール等の操舵部4の操舵量を検出するセンサである。舵角センサ19は、ホール素子等で構成され、操舵部4の回転部分の回転角度を操舵量として検出し、その検出結果をECU14に送信する。アクセルセンサ20は、加速操作部5の可動部としてのアクセルペダルの位置を検出する変位センサであり、その検出結果をECU14に送信する。
シフトセンサ21は、変速操作部7の可動部(バー、アーム、ボタン等)の位置を検出するセンサであり、その検出結果をECU14に送信する。車輪速センサ22は、ホール素子等を有し、車輪3の回転量や単位時間当たりの車輪3の回転数を検出するセンサであり、その検出結果をECU14に送信する。GPS受信機25は、人工衛星から受信した電波に基づいて、車両1の現在位置を取得する。方向指示器26は、例えば、左右のドアミラー2gに設けられる。運転者が操作する可動部(操作レバー等)の操作信号は、ECU14に送信されるとともに、方向指示器26に送信され、点滅または点灯することで、車両1がこれから旋回しようとする方向を周囲に通知する。
なお、上述した各種センサやアクチュエータの構成や、配置、電気的な接続形態等は、一例であって、種々に設定(変更)することができる。
ECU14は、コンピュータ等で構成され、ハードウェアとソフトウェアが協働することにより、車両1の制御全般を司る。具体的には、ECU14は、CPU(Central Processing Unit)14a、ROM(Read Only Memory)14b、RAM(Random Access Memory)14c、表示制御部14d、音声制御部14e、およびSSD(Solid State Drive)14fを備える。CPU14a、ROM14b、およびRAM14cは、同一の回路基板内に設けられていてもよい。
CPU14aは、ROM14b等の不揮発性の記憶装置にインストールされ記憶されたプログラムを読み出し、当該プログラムにしたがって演算処理を実行することができる。CPU14aは、例えば、表示装置8で表示される画像に関連した画像処理の演算および制御を実行することができる。また、CPU14aは、撮像部15で得られた広角画像の撮像画像データ(湾曲した画像のデータ)に演算処理や画像処理を施して歪みを補正する歪み補正処理を実行したり、撮像部15が撮像した撮像画像データに基づき、車両1を示す車両画像(自車アイコン)を例えば中心位置に表示する俯瞰画像(周辺画像)を生成して、表示装置8に表示させたりすることができる。また、CPU14aは、俯瞰画像を生成する際に、仮想視点の位置を変更し、真上から車両画像を臨むような俯瞰画像や斜め方向から車両画像を臨むような俯瞰画像を生成することができる。
CPU14aは、現在の舵角で車両1が所定距離進んだ場合の進路上に、撮像画像データの解析や、レーダー16やソナー17による測距データの解析等により物体を検知した場合、俯瞰画像内に車両画像で示された車両1の位置を基準として移動可能な、車両1の形状を示す仮想的な仮想車両画像を重畳表示させる処理を実行することができる。また、別の実施形態では、CPU14aは、現在の舵角で車両1が所定距離進んだ場合の進路上に物体を検知した場合、進路上における物体の位置、および俯瞰画像内(後述する合成画像内)において車両画像で示された車両1の位置の間に仮想車両画像を重畳表示させてもよい。つまり、物体を検知した場合、進路上の所定の位置(例えば、車両1の前方2mに相当する位置)に仮想車両画像が出現するような表示を行ってもよい。なお、車両1が所定距離進んだ場合の進路とは、実際の車両1の移動軌跡と完全一致する必要はなく、例えば、所定量のマージン(誤差や余裕)を持たせた進路としてもよい。
ROM14bは、各種プログラムおよび当該プログラムの実行に必要なパラメータ等を記憶する。RAM14cは、CPU14aでの演算で用いられる各種データを一時的に記憶する。表示制御部14dは、ECU14での演算処理のうち、主として、撮像部15から取得してCPU14aへ出力する画像データに対する画像処理、CPU14aから取得した画像データを表示装置8に表示させる表示用の画像データへの変換等を実行する。音声制御部14eは、ECU14での演算処理のうち、主として、CPU14aから取得して音声出力装置9に出力させる音声の処理を実行する。SSD14fは、書き換え可能な不揮発性の記憶部であって、ECU14の電源がオフされた場合にあってもCPU14aから取得したデータを記憶し続ける。なお、CPU14aや、ROM14b、RAM14c等は、同一パッケージ内に集積されうる。また、ECU14は、CPU14aに替えて、DSP(digital signal processor)等の他の論理演算プロセッサや論理回路等が用いられる構成であってもよい。また、SSD14fに替えてHDD(hard disk drive)が設けられてもよいし、SSD14fやHDDは、ECU14とは別に設けられてもよい。
図4は、実施形態にかかる周辺監視装置をCPU14aで実現する場合の構成を例示的かつ模式的に示すブロック図である。図4に示すように、CPU14aは、画像取得部400、取得部401、検知部402、および制御部403と、を備える。CPU14aは、ROM14bまたはSSD14f等の記憶媒体内に格納された周辺監視プログラムを実行することにより、画像取得部400、取得部401、検知部402、および制御部403の機能を実現する。なお、画像取得部400、取得部401、検知部402、および制御部403の一部または全部を回路等のハードウェアによって構成してもよい。また、図4では、図示を省略しているが、CPU14aは、車両1の走行に必要な各種モジュールを実現してもよい。
画像取得部400は、撮像部15により車両1の周辺を撮像して得られる撮像画像を取得する。取得部401は、車両1の現在の舵角を取得する。取得部401は、舵角センサ19により検出される操舵量を、車両1の現在の舵角として取得する。
検知部402は、車両1に接触する可能性のある物体の検知情報を取得可能である。具体的には、検知部402は、撮像部15によって車両1の進行方向を撮像して得られる撮像画像や、レーダー16により計測される距離(車両1と、当該車両1の進行方向に存在する物体との間の距離)等に基づいて、現在の舵角で車両1が所定距離進んだ場合の進路上に、車両1に接触する可能性のある物体を検知する。検知部402は、車両1に接触する可能性がある物体として、静止物や車両1に接近してきて接触する可能性がある動体の両方の検知情報を取得(検知)することができる。
例えば、検知部402は、撮像部15の撮像により得られる撮像画像に対する画像処理(例えば、オプティカルフロー)によって、車両1に接触する可能性がある物体を検知する。または、検知部402は、レーダー16により計測される距離の変化に基づいて、車両1に接触する可能性がある物体を検知する。
検知部402は、撮像部15の撮像により得られる撮像画像またはレーダー16による距離の計測結果に基づいて、車両1に接触する可能性がある物体を検知しているが、車両1から比較的近距離に存在する物体を検知してもよい。この場合、ソナー17による距離の計測結果に基づいて、車両1に接触する可能性がある物体を検知することができる。
検知部402は、車両1が有する図示しない検知スタートスイッチの操作に応じて、動作状態(ON)または非動作状態(OFF)へと遷移する。ここで、動作状態は、車両1に接触する物体を検知する状態である。一方、非動作状態は、車両1に接触する物体を検知しない状態である。
検知部402は、検知スタートスイッチの操作に応じて、動作状態または非動作状態に遷移しているが、これに限定するものではない。例えば、検知部402は、車輪速センサ22による車輪3の回転数の検出結果等に基づく車両1の速度が予め設定された速度(例えば、12km/h)以下となった場合に、自動的に(検知スタートスイッチの操作によらずに)、動作状態に遷移してもよい。また、検知部402は、車両1の速度が予め設定された速度より速くなった場合に、自動的に(検知スタートスイッチの操作によらずに)、非動作状態に遷移してもよい。
制御部403は、撮像部15によって車両1の進行方向を撮像して得られる撮像画像と、車両画像および周辺画像を含む合成画像と、を含む表示画面を、表示制御部14dを介して、表示装置8に表示させる。本実施形態において、制御部403は、合成画像と、撮像画像とを含む表示画面を表示装置8に表示させているが、少なくとも、合成画像を含む表示画面を表示装置8に表示させるものであればよい。
ここで、車両画像は、車両1を示す画像である。車両画像は、車両1を上空から見下ろした俯瞰画像である。これにより、車両1とその周辺の物体との位置関係を正確に把握することができる。車両画像は、ビットマップ形式の画像であってもよいし、複数のポリゴンで構成される車両1の形状を示す画像であってもよい。ここで、複数のポリゴンで構成される車両画像とは、複数のポリゴン(例えば、三角形のポリゴン)により表現された立体的な車両1の形状である。
また、周辺画像は、撮像部15によって車両1の周囲を撮像して得られる撮像画像に基づいて生成される、車両1の周辺(周囲)を表した画像である。周辺画像は、車両1の周辺(周囲)を上空から見下ろした俯瞰画像である。また、周辺画像は、車両画像の例えば後輪軸の中央を中心とする、車両1の周辺の俯瞰画像である。
また、制御部403は、検知部402によって、車両1が現在の舵角で所定距離進んだ場合の進路上に物体が検知された場合、合成画像内において車両画像で示された位置を基準として移動可能な、車両1の形状を示す仮想的な仮想車両画像を重畳表示させることができる。例えば、画像取得部400は、車両画像の位置から現在の舵角に基づく進路に沿って仮想車両画像を所定距離まで移動させるような表示を行うことができる。一方、制御部403は、検知部402によって、車両1が現在の舵角で所定距離進んだ場合の進路上に物体が検知されない場合、仮想車両画像を表示させないようにすることができる。これにより、車両1の運転者は、表示装置8に表示される表示画面に仮想車両画像が含まれるか否かに基づいて、車両1が現在の舵角で進んだ場合の進路上に接触する可能性のある物体が存在すか否かを容易に認識することができる。なお、前述したように、制御部403は、検知部402によって、車両1が現在の舵角で所定距離進んだ場合の進路上に物体が検知された場合、進路上の所定の位置に仮想車両画像を出現させるようにしてもよい。
ここで、所定距離は、予め設定された距離であり、例えば、1.0〜2.0mとすることができるが、適宜設定変更可能である。また、現在の舵角は、車両1の現在位置における舵角である。制御部403は、取得部401により取得される舵角を、車両1の現在位置における舵角として取得する。
また、仮想車両画像は、複数のポリゴンで構成される車両1の形状を示す仮想的な画像とすることができる。複数のポリゴンで構成される仮想車両画像とは、複数のポリゴン(例えば、三角形のポリゴン)により表示された立体的な車両1の形状(車両1の三次元の形状)である。これにより、よりリアリティのある仮想車両画像を表示装置8に表示させることができる。
制御部403は、複数のポリゴンで構成される車両1の形状を示す画像を、仮想車両画像として合成画像に含めているが、例えば、ビットマップ形式の車両1の形状を示す画像を仮想車両画像として合成画像に含めることも可能である。
制御部403は、検知部402が動作状態にありかつシフトセンサ21によって変速操作部7の位置がDレンジにあることが検出された場合で、車両1が現在の舵角で所定距離前進した場合の進路上に物体を検知した場合、車両1の前方に仮想車両画像を表示させる。例えば、現在の舵角で決定される進路に沿って、車両画像から仮想車両画像を離脱させるように移動させる。これにより、車両1の前方の進路上に存在する物体を運転者に認識させやすい表示が実現できる。
同様に、制御部403は、検知部402が動作状態にありかつシフトセンサ21によって変速操作部7の位置がRレンジにあることが検出された場合で、車両1が現在の舵角で所定距離後進した場合の進路上に物体を検知した場合、車両1の後方に仮想車両画像を表示させる。これにより、車両1の後方の進路上に存在する物体を運転者に認識させやすい表示が実現できる。
一方、制御部403は、検知部402によって、車両1が所定距離進んだ場合の進路上に接触する物体が検知されなかった場合には、合成画像内において仮想車両画像は非表示とする。すなわち、制御部403は、車両1が現在の舵角で所定距離進んだ場合の進路上には、車両1と接触する可能性のある物体が存在しないことを示唆する表示を実現することができる。なお、後述するが、仮想車両画像が既に表示されている状態で、進路上に物体が存在しなくなった場合、例えば、舵角を変更したり、物体自体が移動したりする場合である。この場合、仮想車両画像は直ちに非表示とするのではなく、所定期間経過した後に非表示とするようにしてもよい。仮想車両画像を所定期間表示させることで、進路周辺で物体が存在する場合に、仮想車両画像の非表示と表示が短時間で繰り返し切り替わるような煩わしい表示が行われることを回避することができる。
また、制御部403は、検知部402によって、車両1に接触する物体が検知された場合、仮想車両画像内において、検知された物体と接触する部分の画像(以下、部分画像と言う)の表示態様を変化させるようにしてもよい。また、制御部403は、部分画像を点滅させたり、表示色を変化させたり、部分画像の輪郭を強調表示させたりして、部分画像を、仮想車両画像の他の部分と異なる表示態様に変化させてもよい。また、制御部403は、仮想車両画像がポリゴンで構成される場合、仮想車両画像を構成するポリゴンのうち、物体と接触する部分のポリゴンを部分画像として特定することができる。そして、制御部403は、特定したポリゴンの表示態様を変化させるようにしてもよい。
これにより、表示された仮想車両画像から現在の舵角で走行した場合に車両1の車体のうちどの部分が物体に接触するかを車両1の運転者に認識させ易い表示ができる。その結果、検知された物体と車両1との接触を回避する走行操作をさせ易い表示ができる。
また、制御部403は、車両1に接触する物体が検知された場合、合成画像内において、車両1が物体に接触する接触位置まで仮想車両画像を移動させた後、当該接触位置から仮想車両画像を移動させないようにすることができる。つまり、制御部403は、仮想車両画像の移動が可能な所定距離以下である場合も物体との接触位置で、仮想車両画像を停止させる。制御部403は、車両1に接触する物体が検知された場合、合成画像内において車両1が物体に接触する接触位置から仮想車両画像を移動させずに固定しているが、これに限定するものではない。例えば、制御部403は、接触位置の手前の位置で、仮想車両画像の移動を停止させ、その位置から仮想車両画像を移動させずに固定してもよい。すなわち、制御部403は、車両1が進んだ場合の位置として、車両1が物体と接触する接触位置、または接触前の位置まで進んだ場合の位置に、仮想車両画像を重畳表示する。これにより、車両1の運転者は、現在の舵角に基づく進路上のどの位置において車両1が物体と接触するかを容易に認識することができる。
また、車両1に接触する物体が検知されて、仮想車両画像を接触位置で固定(停止)させた後、現在の舵角が変更されて車両1の進行方向が変わり、検知部402によって、新たな進路上に車両1と接触する物体が検知されなくなった(物体と非接触となった)とする。この場合、制御部403は、舵角変更前において接触位置で固定(停止)させていた仮想車両画像の固定を解除してもよい。そして、制御部403は、変更された舵角にしたがう進路に沿って仮想車両画像の移動を再開可能としてもよい。その結果、制御部403は、車両1の舵角の変更に伴って、合成画像内における仮想車両画像の位置を移動させることができる。これにより、舵角を変更することで物体との接触が解消できること、また接触の可能性が解消されたことをより明確に運転者に認識させ易い表示ができる。また、さらに先の領域については、他の物体との接触可能性に注視しながら車両1の走行を継続させ易くなる。なお、舵角の変更や物体(移動体)の移動により車両1と物体とが接触しないことが確認できた場合、仮想車両画像を非表示としてもよい。この場合、例えば、車両1と物体とが接触しないことが確認できてから、所定期間経過後、例えば、所定時間経過後や所定距離走行後に仮想車両画像を非表示とするようにしてもよい。
さらに、制御部403は、検知部402により車両1が所定距離進んだ場合の進路に対して接近してくる物体が検知された場合、合成画像内の車両画像で示された車両1の進行方向に対して接近物指標(方向指標)を表示させてもよい。これにより、車両1の運転者は、表示装置8に表示される表示画面に接近物指標が含まれるか否かに基づいて、車両1に接近する物体が存在すること、およびその接近方向を、表示装置8に表示される表示画面に基づいて容易に認識させることができる。
ここで、接近物指標は、車両1に対して物体が接近してくる方向(以下、接近方向と言う)を識別可能とする指標である。接近物指標は、接近方向を指し示す例えば矢印である。また、接近物指標は、車両1に接触する可能性がある物体のうち動体の接近方向を識別可能とする指標である。
そして、制御部403は、検知部402によって車両1に接近する物体が検知された場合、接近物指標の表示態様を変更する。これにより、車両1の運転者は、表示態様が変更された接近物指標を視認することによって、車両1に接触する可能性がある物体がいずれの方向から接近しているのかを容易に認識することができる。制御部403は、接近物指標の色を変えたり、点滅させたりすることによって、車両1に接近する物体が検知されていない場合と検知されている場合とで、接近物指標の表示態様と異ならせてもよい。
上述した例では、制御部403は、車両1に接触する可能性がある物体として静止物が検知された場合には、仮想車両画像内の部分画像の表示態様を変更する。また、制御部403は、車両1に接触する可能性がある物体として動体が検知された場合には、接近物指標の表示態様を変更している。他の実施形態では、車両1に接触する可能性がある物体として動体が検知された場合に、仮想車両画像内の部分画像の表示態様を変更するようにしてもよい。この場合、制御部403は、接近物指標を合成画像に含めてもよいし、接近物指標を合成画像に含めなくてもよい。
次に、図5〜図12を用いて、制御部403によって表示装置8に表示される表示画面の具体例について説明する。
(第1実施形態)
図5は、第1実施形態にかかる周辺監視装置による表示画面の例示的かつ模式的な図である。図5では、シフトセンサ21によって変速操作部7の位置がDレンジにあることが検出された場合における表示画面の表示処理について説明する。第1実施形態において、制御部403は、車両画像G1および周辺画像G2を含む合成画像G3と、撮像部15によって車両1の進行方向(例えば、車両1の前方)を撮像して得られる撮像画像G4と、を含む表示画面Gを表示装置8に表示させる。
そして、検知部402が動作状態にある場合で、取得部401により取得される現在の舵角で車両1が所定距離進んだ場合の進路上に物体を検知した場合、制御部403は、周辺画像G2内において、車両画像G1が示す位置を基準として、現在位置P1における舵角で車両1が例えば所定距離進んだ場合の位置P2に、仮想車両画像G5を前進させるように重畳表示させる。ここで、仮想車両画像G5は、図5に示すように、車両1の形状を示す半透明の画像である。これにより、仮想車両画像G5と車両画像G1とを容易に区別させることができ、かつ仮想車両画像G5が、車両1の未来の位置P2を示す画像であることを車両1の運転者に直感的に認識させることが可能となる。
なお、制御部403は、車両1の輪郭から内側に向かうに従って透過率を高くした画像を仮想車両画像G5として表示してもよい。この表示により、仮想車両画像G5と車両画像G1とをより容易に区別させることができ、かつ仮想車両画像G5が、車両1の未来の位置を示す画像であることを車両1の運転者に直感的に認識させ易い表示を行うことができる。
さらに、制御部403は、仮想車両画像G5の輪郭を、当該仮想車両画像G5の他の部分とは異なる表示態様(例えば、異なる色、点滅、枠線の重畳)で表示して、当該輪郭を強調表示させてもよい。これにより、仮想車両画像G5の視認性が向上し、運転者に車両1の未来の位置を認識させ易い表示ができる。
このように、仮想車両画像G5を半透明で表示したり、輪郭表示したりすることにより、仮想車両画像G5と重なる部分(合成画像G3)でもその位置の視認が可能になり周囲状況の視認性が低下することを抑制しやすくなる。
また、検知部402が動作状態にある場合、制御部403は、図5に示すように、周辺画像G2内において、車両画像G1の進行方向(例えば、車両1の前方1mに相当する左右の位置)に、接近物指標G6を表示させてもよい。その際、制御部403は、検知部402によって物体が検知されていない場合、接近物指標G6をグレースケールで表示するものとする。
図6は、第1実施形態にかかる周辺監視装置による表示画面の他の表示例を示す図である。検知部402によって、現在の舵角で車両1が所定距離進んだ場合の進路上に物体が検知されていない場合、制御部403は、周辺画像G2内において仮想車両画像G5を非表示とする。一方、検知部402によって、現在の舵角で車両1が所定距離進んだ場合の進路上に車両1に接触する物体O(例えば、壁や垣根)が検知された場合、制御部403は、図6に示すように、周辺画像G2内において、車両画像G1から検知された物体Oに接触する接触位置P3まで、仮想車両画像G5を移動させる。その後、制御部403は、車両1が、現在の舵角のまま移動したとしても、接触位置P3から仮想車両画像G5を移動させずに固定する。
その際、制御部403は、図6に示すように、仮想車両画像G5内において検知された物体Oと接触する部分画像PGの表示態様を、仮想車両画像G5の他の部分の表示態様と異ならせる。例えば、物体Oと仮想車両画像G5との距離が所定値以下になった場合、部分画像PGの表示態様を接触を示唆する第1表示態様に変更する。例えば、制御部403は、部分画像PGを赤色で表示し、仮想車両画像G5内の部分画像PG以外の部分を白色で表示する。これにより、車両1の運転者は、現在の舵角で車両1を走行させた場合に、車両1の車体2のうちどの部分が、検知された物体Oに接触するかを把握できる。その結果、検知された物体Oに車両1が接触しないようにするためには、どのような運転操作をすればよいか、運転者に判断させ易い表示ができる。
また、制御部403は、検知された物体Oの位置と仮想車両画像G5の位置との間の距離に応じて、部分画像PGの表示態様を変更することも可能である。これにより、部分画像PGの表示態様の変化を確認することで、車両1と物体Oとの位置関係をより詳細に把握できる。具体的には、制御部403は、検知された物体Oの位置と仮想車両画像G5で示す位置との間の距離が短くなるに従って、例えば、赤色で表示された部分画像PGの赤みを増したり、部分画像PGを点滅させたりして、部分画像PGを強調表示する。その結果、運転者に物体への注意をより強くイメージさせ易くなる。
逆に、制御部403は、検知された物体Oの位置と仮想車両画像G5で示す位置との距離が長くなるに従って仮想車両画像G5の部分画像PGの赤みを減らしたり、赤色以外の例えば黄色に変化させたり、部分画像PGの点滅の間隔を長くしたりして、部分画像PGの強調表示を解除する。車両1の運転者が操舵部4を操舵して車両1の進行方向が変わり、検知部402によって車両1に接触する物体Oが検知されなくなった場合、制御部403は、部分画像PGの表示態様を、仮想車両画像G5の他の部分と同じ表示態様に戻す。さらに、制御部403は、接触位置P3での仮想車両画像G5の固定を解除して、再び、車両1の移動に伴って、合成画像G3内における仮想車両画像G5の位置を移動させる。その結果、運転者に物体Oとの接触が解消されたことをより明確に認識させることができるとともに、さらに、先の領域について、他の物体との接触可能性に注視しながら走行を継続させ易くさせる表示ができる。なお、図6の場合も、変更後の舵角で車両1が所定距離進んだ場合の進路上に物体を検知されなくなったことが確認された場合、所定期間後、例えば所定時間経過後や所定距離走行後に仮想車両画像G5を非表示としてもよい。
ここでは、検知部402によって検知された物体Oが壁や垣根等の静止物であることを想定しているため、制御部403は、仮想車両画像G5内の部分画像PGの表示態様を変化させているが、接近物指標G6の表示態様を変更していない。つまり、車両1の運転者は、接近物指標G6の表示状態を確認することで、検知部402により検知された物体が、静止している物体なのか若しくは車両1に向かって接近してくる動体なのかを識別することができる。
図6の場合、制御部403は、接近物指標G6の表示態様を、検知部402によって車両1に接触する可能性がある動体が検知されていない際の接近物指標G6の表示態様であるグレースケールで表示している。ただし、検知部402により検知された物体が他の車両や歩行者等の動体である場合には、制御部403は、周辺画像G2に含まれる接近物指標G6のうち、検知された動体が存在する方向の接近物指標G6の表示態様を変更させる。その際、制御部403は、接近物指標G6の表示態様を変更させるとともに、現在の舵角で車両1が所定距離進んだ場合の進路上に動体が存在する場合、仮想車両画像G5内において、検知された動体と接触する部分画像PGの表示態様も変更してもよい。
なお、検知部402により検知された物体が、車両1に向かって接近してくる動体である場合、制御部403は、上述したように、接近物指標G6のうち、検知された物体が接近してくる方向に存在する接近物指標G6の表示態様を変更する。例えば、制御部403は、検知された物体が接近してくる方向に存在する接近物指標G6の色を黄色等に変更したり、接近物指標G6を点滅させたりする。または、各接近物指標G6が複数の矢印を含む場合、制御部403は、検知された動体が存在する方向に表示される接近物指標G6が含む複数の矢印を、仮想車両画像G5から遠い矢印から順に表示態様を変更するアニメーションで表示して、スクロールするように表示してもよい。
図7および図8は、第1実施形態にかかる周辺監視装置による仮想車両画像の表示方法の一例を説明するための図である。図7において、X軸は、車両1の車幅方向に対応する軸であり、Z軸は、車両1の進行方向に対応する軸であり、Y軸は、車両1の高さ方向に対応する軸である。仮想車両画像G5が複数のポリゴンPLで構成される場合、制御部403は、図7および図8に示すように、各ポリゴンPLが有する頂点V1,V2,V3の法線ベクトルnのY軸の方向(路面に垂直な方向)における値(以下、Y成分と言う)を求める。そして、制御部403は、法線ベクトルnのY成分に基づいて、ポリゴンPLの透過率を決定する。
具体的には、制御部403は、ポリゴンPLが有する頂点V1,V2,V3の法線ベクトルnのY成分を求める。次いで、制御部403は、頂点V1,V2,V3の法線ベクトルnのY成分に基づいて、ポリゴンPLに含まれる画素を決定する。その際、制御部403は、法線ベクトルnのY成分が大きくなるに従って、透過率を高くするものとする。つまり、制御部403は、地面に平行な箇所(ルーフ部やボンネット部等)の透過率を高くすることができる。その結果、車両1の輪郭から内側に向かうに従って透過したような画像を仮想車両画像G5として表示することが可能となる。本実施形態では、ポリゴンPLを構成する画素の色を白色としているが、これに限定するものではなく、例えば、車両1のボディーの色などの任意の色とすることも可能である。
図9は、第1実施形態にかかる周辺監視装置による仮想車両画像を構成するポリゴンの色の決定方法の一例を説明するための図である。図9において、横軸は、仮想車両画像G5を構成するポリゴンが有する頂点を構成する色の種類(例えば、RGB)を表し、縦軸は、仮想車両画像G5を構成するポリゴンが有する頂点を構成する色の値(例えば、RGB値)を表す。本実施形態では、現在の舵角で車両1が所定距離進んだ場合の進路上に物体を検知して仮想車両画像G5が表示されている場合で、さらに、物体と仮想車両画像G5との距離が所定値以下になって場合、制御部403は、仮想車両画像G5内において、物体と接触する部分画像PGの表示態様を、仮想車両画像G5の他の部分の表示態様を異ならせる。
具体的には、現在の舵角で車両1が所定距離進んだ場合の進路上に物体を検知しているものの、物体と仮想車両画像G5との距離が所定値より大きい場合、制御部403は、図9に示すように、仮想車両画像G5を構成するポリゴンが有する各頂点のRGB各色の値を等しくする。そして、制御部403は、ポリゴンが有する各頂点のRGB各色の値に基づいて、各頂点で囲まれるポリゴン内の領域の色を、線形補間等によって補間して、ポリゴン全体の色を決定する。これにより、制御部403は、仮想車両画像G5を白色で表示することができる。
一方、進路上で検知された物体と仮想車両画像G5との距離が所定値以下になった場合、制御部403は、図9に示すように、仮想車両画像G5を構成するポリゴンのうち部分画像を構成するポリゴンが有する各頂点の例えばGBの値を、当該各頂点のRの値より小さくする。この場合も、制御部403は、ポリゴンが有する各頂点のRGB各色の値に基づいて、当該各頂点で囲まれるポリゴン内の領域の色を、線形補間等によって補間して、ポリゴン全体の色を決定する。これにより、制御部403は、部分画像PGを赤色で表示することができる。
本実施形態では、制御部403は、部分画像PGを構成するポリゴンが有する各頂点のGBの値を、当該各頂点のRの値より小さくし、部分画像を赤色で表示させることで、部分画像PGを強調表示させているが、これに限定するものではない。例えば、制御部403は、部分画像PGを構成するポリゴンが有する各頂点のRBの値を、当該各頂点のGの値より小さくし、部分画像PGを緑色で表示させることで、部分画像PGを強調表示させてもよい。
その際、制御部403は、検知された物体の位置と仮想車両画像G5の位置との間の距離が短くなるに従って、仮想車両画像G5の部分画像PGを構成するポリゴンが有する各頂点のGBの値を小さくすることも可能である。これによって、制御部403は、部分画像PGの赤みを増して、部分画像PGを強調表示する。これにより、車両1の車体のいずれの位置が物体と接触するかをより認識させ易くすることができるとともに、車両1を移動させた際の注意の程度を認識させやすくすることができる。なお、制御部403は、仮想車両画像G5を構成するポリゴンのうち部分画像PG以外のポリゴンが有する各頂点のRGB各色の値は等しいままとする。これにより、制御部403は、部分画像PG以外のポリゴンを白色で表示することができる。
図10は、第1実施形態にかかる周辺監視装置による表示画面の一例を示す図である。例えば、図10に示すように、時刻t1において、現在の舵角で車両1が所定距離進んだ場合の進路上に存在する物体O(静止物)が、検知部402によって検知された場合、制御部403は、仮想車両画像G5を車両画像G1の位置を基準として、所定距離まで前進するように周辺画像G2上に重畳表示する。そして、仮想車両画像G5の前進に伴い、検知した物体Oとの距離が縮まり、所定値以下になった場合、物体Oと接触する仮想車両画像G5の部分画像PGを、物体Oとの接触を示唆する第1表示態様(例えば赤色の強調表示)に変更する。なお、図10において、ガイド線mは、現在の舵角で車両1が移動した場合に予測される車両画像G1の移動予想軌跡であり、例えば、車両画像G1の車幅に所定のマージンを持たせた位置に表示されている。なお、ガイド線mは非表示としてもよい。
具体的には、制御部403は、路面に平行なXZ平面(図7参照)における、部分画像PGを構成するポリゴンの各頂点から物体Oまでのユークリッド距離を求める。次いで、制御部403は、部分画像PGを構成するポリゴンの各頂点と物体Oとの間のユークリッド距離に応じて、各頂点のGBの値を、各頂点のRの値より小さくする。そして、制御部403は、部分画像PGを構成するポリゴンの各頂点のRGB値に基づいて、フラグメントシェーダによって、部分画像PGを構成するポリゴンに含まれる画素の色を決定する。また、制御部403は、ポリゴンが有する各頂点のRGB各色の値に基づいて、各頂点で囲まれるポリゴン内の領域の色を、線形補間等によって補間して、ポリゴン全体の色を決定する。これにより、制御部403は、部分画像PGを赤色で表示する。また、仮想車両画像を構成するポリゴンのRGB値を計算する際に、当該ポリゴンが有する各頂点と物体との間の距離に応じて部分画像を構成するポリゴンのRGB値を同時に計算してもよい。これにより、仮想車両画像G5および部分画像PGを分けずに生成することができる。
その後、車両1が移動し続けて、時刻t1より後の時刻t2において、仮想車両画像G5が物体Oに接触する接触位置P3またはその直前の位置に達した場合、制御部403は、接触位置P3で仮想車両画像G5を一旦停止させるとともに、その位置での表示を継続する。この場合、時刻t2で示すように、物体Oからの距離に応じて部分画像PGの表示色を変化させてもよい。例えば、物体により接近したことを示唆するように、部分画像PGの色味を強く(赤みを強く)してもよい。あるいは、物体Oからの距離が所定値以下の箇所は赤色の色味を強くし、距離が所定値を超えている箇所は黄色の色味を強くしてもよい。
そして、時刻t2より後の時刻t3には、車両1の舵角が変更されて、車両1が物体Oに接触する可能性が無くなった場合、すなわち、変更後の舵角による進路において、検知部402により物体Oが検知されなくなった場合が示されている。時刻t3では、物体Oと仮想車両画像G5との接触が回避可能となり、制御部403は、図10に示すように、接触位置P3における仮想車両画像G5の固定を解除し、時刻t3における車両画像G1が示す車両1の位置を基準として、所定距離進んだ場合の位置P2に仮想車両画像G5を表示する。すなわち、仮想車両画像G5の移動の再開を許可する。その結果、さらに先の領域について、他の物体との接触可能性に注視しながらの走行を継続させ易い表示になる。
その際、制御部403は、仮想車両画像G5内の部分画像PGを、物体Oと仮想車両画像G5との接触を示唆する第1表示態様の例えば赤色から接触回避を示唆する第2表示態様の黄色に変化させてもよい。また、別の実施形態では、赤色で表示する強調表示を解除してもよい。すなわち、制御部403は、時刻t3において、仮想車両画像G5内の部分画像PGの表示態様を、仮想車両画像G5の他の部分と同じ表示態様(例えば白色)に戻す。これにより、車両1の運転者に、車両1の現在の舵角(変更後の舵角)で、物体Oとの接触が回避可能であることを示す表示を提供できる。
図11および図12は、第1実施形態にかかる周辺監視装置によって部分画像PGを強調表示する処理の一例を説明するための図である。検知部402によって物体Oが検知されると、制御部403は、図11に示すように、まず、仮想車両画像G5内の部分画像PGを構成するポリゴンが有する各頂点VからXZ面1100(図7に示すX軸およびZ軸により定義される平面)に対する垂線1101が、XZ面1100と交わる点V´を求める。次いで、制御部403は、XZ面1100における、点V´と、物体Oの位置とのユークリッド距離Lを求める。
次に、制御部403は、図12に示す強度分布1200に従って、求めたユークリッド距離Lに対応する強調表示の度合いを特定する。ここで、強度分布1200は、部分画像を強調表示する際の強調表示の度合いの分布であり、ユークリッド距離Lが短くになるに従って、強調表示の度合いが大きくなる。
本実施形態では、強度分布1200は、物体Oの位置を中心として、ユークリッド距離Lが遠くなるに従って強調表示の度合いを小さく低くする同心円状の強度分布である。例えば、強度分布1200は、ユークリッド距離Lが予め設定された距離(例えば、1.7〜3.0m)以下となった際に強調表示の度合いが急峻に上がる高次曲線により表される。例えば、強度分布1200は、ユークリッド距離Lが予め設定された距離以下となった際にGBの値が急峻に下がりRが強調される強度分布である。
これにより、制御部403は、図12に示すように、仮想車両画像G5を構成するポリゴンのうち物体Oまでのユークリッド距離Lが近いポリゴンになるほど、赤色で強調表示される。その結果、制御部403は、図12に示すように、仮想車両画像G5を構成するポリゴンのうち部分画像PGを構成するポリゴンを赤色によって強調表示することが可能となる。
このように、第1実施形態にかかる車両1によれば、表示装置8に表示される表示画面に仮想車両画像G5が含まれるか否かに基づいて、現在の舵角で車両1が所定距離進んだ場合の進路上に物体Oが存在か否かを、運転者に認識させやすい表示ができる。
(第2の実施形態)
第2実施形態は、撮像部によって車両の進行方向を撮像して得られる撮像画像に代えて、車両の周辺の三次元画像を含む表示画面を表示装置に表示させる例である。以下の説明では、第1実施形態と同様の構成については説明を省略する。
図13および図14は、第2実施形態にかかる車両1が有する周辺監視装置による表示画面の一例を示す図である。第2実施形態では、制御部403は、図13に示すように、合成画像G3と、車両1およびその周辺の三次元の画像(以下、三次元周辺画像と言う)G7と、を含む表示画面Gを表示装置8に表示させる。これにより、合成画像G3に加えて、三次元周辺画像G7を視認させることで、車両1とその周辺の物体との位置関係をより詳細に把握させ易くすることができる。
ここで、三次元周辺画像G7は、上述したように、車両1およびその周辺の三次元の画像である。本実施形態では、三次元周辺画像G7は、撮像部15によって車両1の周辺を撮像して得られる画像を、お椀状または円筒状の三次元の面に貼り付けて生成される画像である。また、本実施形態では、三次元周辺画像G7には、図13に示すように、車両1の三次元の画像である三次元車両画像G8が含まれる。本実施形態では、三次元車両画像G8は、仮想車両画像G5と同様に、複数のポリゴンで構成され、車両1の三次元の形状を示す画像である。
また、本実施形態では、制御部403は、三次元周辺画像G7内の路面に対して、三次元車両画像G8の位置を識別可能とする車両位置情報Iを表示させる。例えば、車両位置情報Iは、三次元周辺画像G7内の路面上において、三次元車両画像G8が存在する位置をグレースケールや三次元車両画像G8が存在する位置を囲む線(例えば、破線)で表示する情報である。
そして、制御部403は、図14に示すように、第1実施形態と同様に、周辺画像G2内に接近物指標G6を表示させるとともに、三次元周辺画像G7に対しても接近物指標G9を表示させる。その際、制御部403は、図14に示すように、三次元周辺画像G7に含める接近物指標G9をグレースケールで表示するものとする。制御部403は、車両画像G1と周囲の物体との位置関係を把握し易くするため、三次元周辺画像G7には、仮想車両画像G5を表示しないが、これに限定するものではなく、三次元周辺画像G7に対して仮想車両画像G5を表示することも可能である。
図15および図16は、第2実施形態にかかる周辺監視装置による表示画面の一例を示す図である。本実施形態では、検知部402によって車両1に接近してくる物体(例えば、車両1の進行方向の左側から接近してくる物体)が検知された場合、制御部403は、図15に示すように、周辺画像G2に含まれる接近物指標G6および三次元周辺画像G7に含まれる接近物指標G9のうち、検知された物体が接近してくる方向(例えば、左側)に存在する接近物指標G6,G9の表示態様を変更する。
また、検知部402によって車両1の進行方向の左右両方から接近してくる場合、制御部403は、図16示すように、車両1の進行方向(例えば、前方)の左右両方に存在する接近物指標G6,G9の表示態様の色を黄色等に変更したり、当該接近物指標G6,G9を点滅させたりする。または、接近物指標G6,G9が複数の矢印を含む場合、制御部403は、検知された動体が存在する方向に表示される接近物指標G6,G9が含む複数の矢印を、仮想車両画像G5から遠い矢印から順に表示態様を変更するアニメーションで表示してスクロールさせてもよい。
第2実施形態では、検知部402が動作状態である場合で、車両1に接近してくる物体が検知されていない場合、接近物指標G6,G9をグレースケール等で予め表示しておくことにより、検知部402によって車両1に接近してくる物体が検知可能であることを示す表示が可能である。また、車両1に接近してくる物体が検知された場合には、接近物指標G6,G9の表示態様が変更される。その表示態様の変更によって、車両1の運転者が、車両1に接近してくる物体が検知されたことを容易に認識することができる。第2実施形態では、制御部403は、仮想車両画像G5および接近物指標G6,G9の両方を表示画面Gに表示させているが、少なくとも、仮想車両画像G5が表示されていればよい。
このように、第2実施形態にかかる周辺監視装置によれば、合成画像G3に加えて、三次元周辺画像G7を視認することで、車両1とその周辺の物体との位置関係をより詳細に把握することができる。
(第3の実施形態)
第3実施形態は、上述した仮想車両画像G5および車両画像G1の周囲の状況をより認識させやすい状態で表示させる例である。以下の説明では、第1実施形態と同様の構成については説明を省略する。
第3実施形態において、制御部403は、現在の舵角で車両1が所定距離進んだ場合の進路上に物体Oが検知部402によって検知された場合、合成画像G3を、物体Oが検知される前より拡大表示(ズームイン)する。合成画像G3の拡大は、例えば仮想視点を車両画像G1に近づけることで実行できる。拡大表示を実行することにより、車両1の運転者は、車両1に接触する可能性のある物体Oが検知されて、周囲の状況に注意を払う必要が生じたことを直感的に認識し易くなる。また、拡大表示により車両画像G1や仮想車両画像G5の周囲状況の細部がより明確に表示される。その結果、車両1の運転者に、周囲状況の確認がし易く、安心感を与え易い表示を提供できる。
また、第3実施形態において、制御部403は、合成画像G3が拡大表示される場合、現在の舵角に基づく旋回方向とは逆方向に、表示位置(例えば、車両画像G1の表示位置)をずらして表示するずらし表示を実行する。例えば、仮想視点の位置を旋回方向とは逆方向に移動させて、合成画像G3の表示をずらす。合成画像G3の拡大表示を表示装置8の限られた表示領域で実行する場合、車両画像G1や仮想車両画像G5の周囲の細部が認識し易くなる反面、車両画像G1や仮想車両画像G5を中心とする表示範囲(視野)が狭くなる。車両1が旋回する場合、旋回方向とは逆方向に関しては、既に検知されている物体Oと接触しないことが確認できれば、車両1の通過は可能である。一方、旋回方向には、他の物体が存在する可能性がある。そこで、制御部403は、旋回方向とは逆方向に、車両画像G1の表示位置をずらして、旋回方向の表示範囲(視野)を広げて、より広範囲の表示ができるようにする。
また、第3実施形態において、制御部403は、合成画像G3の拡大表示が実行されている場合に、物体Oから遠ざかった場合、拡大表示を解除する(例えば拡大前の表示サイズに戻す)とともに、仮想車両画像G5を非表示としてもよい。車両画像G1を元の表示サイズに復帰(ズームアウト)させるとともに、仮想車両画像G5を非表示とすることで、合成画像G3全体に顕著な変化が生じ、車両1の運転者が仮想車両画像G5の表示終了を認識し易い表示ができる。また、車両1の運転者が、物体Oとの接触の可能性が低減、または解消されたことを直感的に認識させ易い表示ができる。なお、後述するが、拡大表示中の仮想車両画像G5は、運転者の操作によって一時的に非表示としてもよい。
図17は、第3実施形態にかかる車両1が周辺監視装置による表示画面の一例を示す図である。図17の時刻t1は、現在の舵角で車両1が所定距離進んだ場合の進路上に、物体Oが検知部402により検知される前の状態であり、拡大表示が実行される前の通常サイズの表示状態を示している。進路上に物体が検知される前において、車両画像G1は、合成画像G3のほぼ中央に非拡大の状態で表示されている。
時刻t2は、車両画像G1(車両1)が時刻t1より前進し、進路上に物体Oが検知され、仮想車両画像G5の表示が開始されるとともに、車両画像G1および仮想車両画像G5の拡大表示が実行された状態である。この場合、車両画像G1および仮想車両画像G5を含む合成画像G3の拡大率は例えば「2」である。この場合、制御部403は、例えば車両画像G1を基準に仮想視点を車両画像G1に近づける。その結果、俯瞰画像である合成画像G3をズームインするような表示変更が実行される。また、このとき、制御部403は、取得部401が取得した車両1の現在の舵角に基づき旋回方向とは逆方向、図17の場合、図中左方向に、仮想視点をずらし、車両画像G1や仮想車両画像G5および物体Oの表示位置、すなわち、合成画像G3の表示位置を変更するずらし表示を実行する。拡大表示処理の実行によって、車両画像G1および仮想車両画像G5の周囲状況、例えば物体Oとの距離等をより認識させやすくすることができる。また、ずらし表示処理の実行によって、車両画像G1および仮想車両画像G5の現在の舵角にしたがう旋回方向である図中右方向の表示領域が広がり、旋回方向における別の物体の有無等を確認させやすい表示ができる。
なお、制御部403は、合成画像G3(車両画像G1や仮想車両画像G5等を含む画像)を拡大するときの倍率を、上述したように固定値でもよいし、物体Oと仮想車両画像G5(車両画像G1)との距離に応じて変化するようにしてもよい。例えば、仮想車両画像G5(車両画像G1)が物体Oに遠いほど、拡大率を小さくしてもよい。拡大率が小さいほど、広い視野が確保可能であり、車両画像G1および仮想車両画像G5の周囲全体の状況をより把握させ易い表示を行うことができる。一方、仮想車両画像G5(車両画像G1)が物体Oに近づくほど、拡大率を大きくする。この場合、視野が狭くなる反面、拡大表示されるため、車両画像G1や仮想車両画像G5の直近の状況を、遠方に位置していた場合より把握させ易い表示ができる。その結果、運転者は、物体Oに注意を払いながら、物体Oとの接触を回避するための転舵の方向や舵角量を決定し易くなる。
また、制御部403は、合成画像G3を拡大するときの倍率を、車両1の車速に応じて変化するようにしてもよい。例えば、低速で物体Oに接近していく場合(例えば、駐車のために壁等に接近していく場合等)、物体Oに近いほど拡大率を大きくして、物体Oとの位置関係をより詳細に認識し易くする。一方、物体から遠い位置で、車両1を所定速度以上(例えば、12km/h以上)で走行させる場合、拡大率を小さくして、広い視野の合成画像G3を表示するようにする。この場合、より広い視野の確保が可能になり進行方向の状況を低速時(拡大率が大きい場合)より把握させ易く、安心感を与え易い表示を行うことができる。
また、時刻t2は、物体Oと仮想車両画像G5の距離が所定値以下になり、物体Oと接触する可能性のある仮想車両画像G5の部分画面PGの表示態様が、物体Oとの接触を示唆する第1表示態様(例えば、赤色)に変更された状態が示されている。この場合、現在の舵角で車両1を走行させた場合、車両1のどの位置が物体Oと接触する可能性があるかを運転者に認識させ易い表示ができる。
図17の時刻t3は、図10で説明した非拡大の場合と同様であり、仮想車両画像G5は、物体Oとの距離が短くなるに従って、赤色で表示された部分画像PGの赤みを増し、運転者に物体Oの接近を認識させ易くしている例である。また、時刻t2より仮想車両画像G5が物体Oに接近したことにより、仮想車両画像G5と物体Oとが接触する可能性のある仮想車両画像G5上の位置がより絞られ、接触する可能性の高い位置がより赤みの増した表示になっている状態が示されている。このように、合成画像G3が拡大表示され、さらに、接触する可能性の高い部分領域PGの表示態様を変化させることによって,物体Oに対する接近状態をより詳細に運転者に認識させることができる。
時刻t4では、舵角の変更により車両画像G1の移動予測軌跡を示すガイド線mが物体Oより手前に移動した状態が表示されている。この場合、仮想車両画像G5も舵角の変更による進路変更により物体Oから離れ、接触が回避した状態(通過可能な状態)に移行する様子が示されている。この場合も合成画像G3が拡大表示されていることで、物体Oと仮想車両画像G5(車両画像G1)が接触する可能性が低減したことを運転者に認識させ易い表示となる。また、時刻t4では、舵角の変更により、物体Oと仮想車両画像G5との距離が所定値を超えて、接触が回避された状態が示されている。この場合、時刻t3において表示されていた、仮想車両画像G5の部分画像PGの表示色は、接触を示唆する第1表示態様(例えば赤色)から、接触回避を示唆するする第2表示態様(例えば白色)に変更されている。仮想車両画像G5の部分画像PGの表示態様が変化することによっても、現在の舵角(変更後の舵角)により物体Oとの接触が回避できたことを運転者に認識させ易くなる。
時刻t5は、現在の舵角(変更後の舵角)の維持によって、検知部402が検知した物体Oとの接触が回避され、走行を継続することが可能になったことを示す表示例である。この場合、合成画像G3の拡大表示を解除している。この場合、広範囲(広い視野)で車両画像G1および仮想車両画像G5の周辺を表示できるようになる。制御部403は、合成画像G3の拡大表示を解除し、縮小(時刻t1と同じ拡大率「1」)に戻す。その結果、運転者は、舵角を変更することで物体Oとの接触が解消できること、また解消されたことがより明確に認識できる。また、仮想車両画像G5の表示が継続することにより、さらに先の領域について、他の物体との接触可能性に注視しながら走行を継続させ易くなる。この状態で、物体Oと仮想車両画像G5との距離は、所定値を超えて広がることになるので、仮想車両画像G5の部分画像PGは、接触が回避されたことを示唆する第2表示態様(例えば、白色)で表示されることになる。したがって、仮想車両画像G5の部分画像PGの表示色によっても、物体Oとの接触が回避できたことを、運転者に認識させやすい表示がされる。なお、この場合、ずらし表示処理は、解除するように設定しても、解除しないように設定してもよい。
時刻t5において、車両1の速度が所定の速度、例えば、12km/h以上になった場合や、物体Oの接触が回避された後、所定の期間が過ぎた場合、例えば、所定時間の経過後(例えば2秒経過後)、所定の距離(例えば5m)を走行した場合、仮想車両画像G5の表示を終了し、非表示としてもよい。つまり、現在の舵角(変更後の舵角)で車両1が所定距離進んだ場合の進路上には、接触する可能性のある物体が存在しないことを示してもよい。なお、進路上に新たに物体が検知された場合は、時刻t2で示したように、仮想車両画像G5が表示されるとともに、合成画像G3に対して拡大表示およびずらし表示等が行われる。
図18は、車両1の変速操作部7のシフト状態に応じて、合成画像G3(車両画像G1、仮想車両画像G5等を含む画像)の表示態様を変化させる例を示している。
中央に示すシーンS1は、現在の舵角で車両1が所定距離進んだ場合の進路上には物体Oが検知部402によって検知されていない非検知の場合で、合成画像G3(車両画像G1を含む画像)が拡大表示されていない状態(拡大率「1」)である。一方、シーンS2は、変速操作部7が前進(D)レンジまたはパーキング(P)レンジの場合、つまり、車両1が後退走行可能な状態ではない場合で、例えば右に操舵され車両1が現在の舵角に基づき右旋回しようとしている状態である。そして、検知部402によって、現在の舵角で車両1が所定距離進んだ場合の進路上に物体Oが検知された例である。このように右旋回で前進走行する場合、運転者が主として注視する必要がある領域は、旋回方向とは逆方向の車両左前端部の領域であり、特に、物体Oとの相対距離である。したがって、このような場合、図17で示したように、制御部403は、合成画像G3を例えば、高い拡大率、例えば拡大率「2」で、拡大表示する。これに加え、運転者は、旋回方向に存在する可能性のある他の物体についても注意を払う必要がある。そこで、制御部403は、舵角で定まる旋回方向とは逆方向に合成画像G3の表示位置をずらす、ずらし表示処理を実行する。この場合、制御部403は、例えば、検知した物体Oと車両画像G1および仮想車両画像G5が表示領域内に収まるように、ずらし量を決定してもよいし、それらが収まるような予め定められた拡大率で処理を実行してもよい。その結果、車両1の運転者は、前方の物体Oとの距離(接触の有無)を拡大された画像を確認しながら、旋回方向の広い領域に注意を払いながら走行を継続させることができる。
一方、シーンS3は、変速操作部7が後退(R)レンジの場合、つまり、車両1が後退走行可能な状態の場合で、例えば右に操舵され車両1が現在の舵角に基づいて右旋回しながら後退しようとしている状態である。そして、検知部402によって、現在の舵角で車両1が所定距離進んだ(後退した)場合の進路上に物体O(例えば柱)が検知され、車両1の左側方には、物体O(例えば壁)が検知された例である。このように右旋回で後退走行する場合、運転者が主として注視する必要がある領域は、旋回方向とは逆方向の領域の車両左前端部および旋回方向で車両右後端部の領域となる。つまり、車両画像G1(仮想車両画像G5)の前後の対角方向の領域に注視する必要がある。そこで、図18のシーンS3に示すように、制御部403は、合成画像G3の拡大率を例えば、前進時より小さい「1.5」等にして拡大表示する。また、車両1が後退走行可能なときには、ずらし表示処理を非実行として、車両画像G1の左右の表示領域を略均等に確保する。このような、拡大率の抑制およびずらし表示処理の非実行により、車両画像G1(仮想車両画像G5)の周囲(左側および右側)を前進時より広い範囲(広い視野)で周囲を確認させながら、後退走行が易い表示を実行することができる。
ところで、上述したように、現在の舵角で車両1が所定距離進んだ場合の進路上に物体が検知された場合に、車両画像G1の位置を基準として仮想車両画像G5を表示して、さらに進路に沿って移動させることで、接触する可能性のある物体に注視しやすくさせる効果がある。一方、一度、進路上の物体を認識した運転者は、仮想車両画像G5が表示し続けられると煩わしさを感じる場合がある。また、物体と仮想車両画像G5との距離が小さくなった場合、仮想車両画像G5によって物体の周囲の詳細が確認しにくくなる場合がある。また、物体に接近したことで部分画像PGが強調色に変更されると、物体の周辺の細部が確認しにくくなる場合がある。そこで、制御部403は、仮想車両画像G5の表示を一時的に非表示にすることができる。制御部403は、例えば、図19のシーンS4に示すように、仮想車両画像G5の非表示スイッチ30(例えば、Ghost Offスイッチ)を、表示している仮想車両画像G5に関連する位置、例えば、仮想車両画像G5上に重畳表示することができる。運転者は、仮想車両画像G5の表示が不要であると判断した場合、例えば、既に物体Oの存在を把握していたり、物体Oと仮想車両画像G5(車両画像G1、車両1)との相対的な位置関係を認識していたりする。この場合、非表示スイッチ30を操作(押下)することにより、仮想車両画像G5を一時的に非表示として、物体Oの周辺の視認性を向上させることができる。なお、非表示スイッチ30の表示位置は、表示画面G上のいずれの位置でもよいし、表示画面G以外の位置に設けてもよいが、仮想車両画像G5に関連する位置に設けることが望ましい。例えば仮想車両画像G5に重ねて非表示スイッチ30を表示することにより、仮想車両画像G5の存在つまり、接触しそうな物体が存在することを運転者に認識させた上で、仮想車両画像G5を非表示にする操作を行わせることが可能であり、仮想車両画像G5を有効に利用させつつ、物体の周辺の視認性を向上させることができる。
非表示スイッチ30が操作(押下)されることにより、拡大表示されていた合成画像G3(車両画像G1,仮想車両画像G5を含む画像)は、図19のシーンS5に示すように、非拡大状態に戻してもよいし、拡大状態のまま仮想車両画像G5を非表示とするのみでもよい。また、拡大表示時にずらし表示処理が実行されていた場合は、ずらし表示処理も解除され、車両画像G1は合成画像G3の略中央の位置に戻され、車両画像G1の周辺全体が略均一の確認できるような表示に戻る。
非表示スイッチ30の操作によって、仮想車両画像G5が非表示にされている場合、所定の条件が満たされた場合には、仮想車両画像G5の非表示が解除される。つまり、現在の舵角で車両1が所定距離進んだ場合の進路上に物体が存在し続けている場合は、再度仮想車両画像G5が表示される。例えば、車両1の停止が確認された場合、例えば、変速操作部7によりシフト状態が変更された場合、例えば「シフトP」が選択された場合、非表示スイッチ30の操作により非表示になってから、所定期間経過した後、例えば、所定時間経過した場合や所定距離走行した場合等は、仮想車両画像G5を再表示させる。つまり、接触しそうな物体の存在を、運転者に再認識させるようにすることができる。このように、非表示スイッチ30が操作された場合でも,所定条件が満たされることで、仮想車両画像G5が表示可能状態に復帰する。その結果、例えば、仮想車両画像G5が恒久的に非表示の状態になってしまうことを回避することができる。
なお、非表示スイッチ30は、仮想車両画像G5が表示されていることを条件に利用可能とする例を示したが、仮想車両画像G5が表示される前の段階から利用可能としてもよい。例えば、駐車の場合等、後方の状況を熟知している場合もある。また、仮想車両画像G5が表示され出すタイミングも運転者は既知である場合がある。このような場合は、仮想車両画像G5が表示される前に、仮想車両画像G5の表示を一時的にキャンセルできるようにしてもよい。この場合も、非表示スイッチ30の操作による仮想車両画像G5の非表示は、一時的であり、所定の条件が満たされた場合は、仮想車両画像G5を表示可能な状態に戻すことで、恒久的な非表示になることを回避することができる。
また、非表示スイッチ30の操作によって仮想車両画像G5が非表示にされた場合、図19のシーンS5に示すように、仮想車両画像G5の非表示期間中に限り、仮想車両画像G5の再表示を実行可能とする復帰スイッチ32(例えば、Ghost ONスイッチ)を設けてもよい。復帰スイッチ32は、例えば、仮想車両画像G5が非表示となってから変速操作部7によりシフトが変更されるまで、例えば、車両画像G1上に重畳表示することができる。復帰スイッチ32を設けることにより、非表示にしている仮想車両画像G5を所望のタイミングで復帰させ、仮想車両画像G5を用いた周囲状況の確認を容易に再開させることができる。なお、復帰スイッチ32の表示位置は、表示画面G上のいずれの位置でもよいし、表示画面G以外の位置に設けてもよいが、車両画像G1に関連する位置に設けることで、仮想車両画像G5の再表示のための作業をスムーズに行わせることができる。なお、シーン5の場合、仮想車両画像G5が非表示になっているとともに、車両画像G1は、非拡大の状態に戻っている。別の実施形態では、復帰スイッチ32とは別に、合成画像G3の拡大表示を行う拡大スイッチを設けてもよい。この場合、仮想車両画像G5を非表示とした状態で車両画像G1と物体Oとの位置関係の確認を行わせ易い表示ができる。
このように、第3実施形態の周辺監視装置によれば、車両1の進行方向に応じて、合成画像G3(車両画像G1、仮想車両画像G5等を含む画像)の拡大率やずらし表示処理の実行の有無を決定する。また、運転者の操作によって、仮想車両画像G5の表示の一時的に非表示や再表示を可能にしている。その結果、車両1の走行状態や運転者の操作応じて、そのときの状況に適した周囲の確認を可能にする表示を実現でき、運転者の安心感を向上させ易くなる。
上述した実施形態において、現在の舵角で車両1が所定距離進んだ場合の進路上に物体Oを検知した場合に仮想車両画像G5が表示され始める例を示した。他の実施形態では、CPU14aは、仮想車両画像G5を合成画像G3(俯瞰画像)に表示させるか否かを切り替える仮想表示用のメインスイッチ10a(操作スイッチ)の操作状態に基づいて決定してもよい。メインスイッチ10aは、図3に例示するように、例えば、モニタ装置11に設定される操作入力部10(タッチセンサ式のスイッチ)の一部として設けてもよいし、別途機械的な物理スイッチとして設けてもよい。CPU14aは、現在の舵角で車両1が所定距離進んだ場合の進路上に物体Oを検知しない場合であって、かつメインスイッチ10aの操作により仮想車両画像G5が表示装置8に表示可能な場合(メインスイッチがONの場合)に、車両画像G1を、メインスイッチ10aがOFFの場合と異なる態様にて表示する。例えば、図20に示すように車両画像G1の表示色を車両1に対応する車色から他の色(例えば、緑色)に変化させたり、点滅表示させたりして、仮想車両画像G5が表示スタンバイ状態であることを表示する。この場合の表示態様に変更は、仮想車両画像G5が表示スタンバイ状態であることを運転者等に認識させることができればよく、車両画像G1の表示輝度を変更したり表示透過率を変更したりしてもよく、表示態様は適宜変更できる。また、メインスイッチ10aがON状態であることに基づき車両画像G1の表示態様を変更する場合、仮想車両画像G5の表示スタンバイ状態であることを報知するメッセージを合成画像G3や他の表示領域に表示してもよいし、音声や報知音を出力させて運転者が認識できるようにしてもよい。このように、車両画像G1の表示態様をメインスイッチ10aの操作状態に基づいて変化させるようにすることで、進路上に物体Oが検知された場合には、直ちに仮想車両画像G5によって物体Oの存在が通知される状態であることを運転者に認識させやすく、安心感を与え易い表示ができる。なお、図19で説明した非表示スイッチ30の場合、非表示スイッチ30の操作により仮想車両画像G5が非表示となった場合でも、所定条件が満たされれば表示可能状態に復帰する。一方、メインスイッチ10aがOFFの場合は、進路上の物体Oの存在の有無に拘わらず、仮想車両画像G5は非表示となる。この場合、運転者の要望に従う仮想車両画像G5の非表示が可能であり、シンプルな合成画像G3を提供することができる。
また、本第3実施形態において、制御部403は、物体Oが検知される前より合成画像G3を拡大表示(ズームイン)することにより、車両画像G1の周囲状況、仮想車両画像G5の周囲状況等を認識し易い状態で表示する例を示した。ところで、運転者が実際に車両1を走行させる場合、移動時における車両1が、周囲に存在する物体Oに対して安全かつスムーズに通過できるように操舵する必要がある。つまり、仮想車両画像G5が物体Oに対して、必要十分な余裕距離(安全マージン)が確保できるように転舵する必要がある。余裕距離が不足すると、物体Oに接近し過ぎたり、接触したりしてしまう不都合が生じる。逆に、余裕距離を必要以上に取り過ぎると、適切な移動経路から乖離してしまうという不都合を生じる。また、この場合、余裕距離を考慮した方向とは逆側で余裕距離が減少してしまう場合もあり、逆側で接触の可能性が増加したり、狭い空間から抜け出せなくなったりする場合もあった。このように、余裕距離の適切な確保は、運転者の経験や技量等に左右される場合があり、適切に余裕距離が設定できていない場合は、運転者に不安感を与える原因になってしまう場合があった。また、合成画像G3を生成する場合に使用する画像を撮像する撮像部15に取付誤差が存在している場合や、路面の傾斜状態等により周辺画像G2の表示位置に誤差が生じている場合がある。このような場合も適切に余裕距離が設定できていない原因になり、運転者に不安感を与える原因になってしまう場合があった。
そこで、制御部403は、仮想車両画像G5を表示する場合に、仮想車両画像G5の車長方向の長さと、車幅方向の長さの少なくとも一方を、現在表示中の車両画像G1の対応する長さより拡大して表示するマージン拡大処理を実行する。この場合にマージン拡大率は、車種ごとに予め実験等により決定しておくことが可能であり、車両1の大きさに対応して表示されている車両画像G1の例えば、1.3倍等に設定することができる。このマージン拡大率は、一例であり、運転者等が適宜設定変更できるようにしてもよい。なお、マージン拡大処理は、合成画像G3に表示されている車両画像G1や周辺画像G2とは独立して仮想車両画像G5のみを拡大する処理である。
図21は、表示中の車両画像G1に対して仮想車両画像G5に対するマージン拡大処理の実行を説明する例示的かつ模式的な図である。図21に示すシーンS6は、合成画像G3に車両画像G1のみが表示されている状態である。すなわち、車両画像G1と周辺画像G2は、同じ拡大率で表示されている。
制御部403は、現在の舵角で車両1が所定距離進んだ場合の進路上に物体Oを検知した場合で、仮想車両画像G5を表示する場合、シーンS7で示すように、仮想車両画像G5の車長方向の長さLと、車幅方向の長さWの少なくとも一方(図21のシーンS7の場合は両方)を所定拡大率に基づき拡大する。例えば、マージン拡大処理前の車両画像G1の車長方向の長さをLとした場合、仮想車両画像G5の車長方向の長さを、例えば、1.3倍の長さLに拡大する。同様に、マージン拡大処理前の車両画像G1の車幅方向の長さWとした場合、仮想車両画像G5の車幅方向の長さを、例えば、1.3倍の長さWに拡大する。この場合、車両画像G1と周辺画像G2に含まれる物体Oとの距離関係は、概ね実際の距離関係に対応するように表示されている。一方、仮想車両画像G5は車両画像G1より車長方向および車幅方向において拡大表示されている。したがって、物体Oに接触しないように仮想車両画像G5が移動する場合、所定の安全マージンが含まれた(考慮された)状態で、仮想車両画像G5が表示さる。その結果、運転者は、ガイド線m(図12等参照)が物体Oに接触しないように舵角を決定すれば、運転者の経験や技量、撮像部15の取付状態、路面の傾斜状態等に拘わらず、安全マージンが適切に確保された状態が実現される。つまり、物体Oを回避して通過する場合に、物体Oに接近し過ぎたり、逆に遠ざかり過ぎたりするという不都合が回避され、運転者に安心感を与え易い表示ができる。
なお、制御部403がマージン拡大処理を行う場合、車長方向の拡大基点は、例えば、車両画像G1(車両1)の前後方向における中心位置とすることができる。同様に、車幅方向の拡大基点は、例えば、車両画像G1(車両1)における車幅方向の中心位置とすることができる。また、シーンS7のように、車長方向および車幅方向の拡大を行う場合は、車両画像G1(車両1)における前後左右の中心位置とすることができる。
ところで、例えば、物体Oが車両画像G1(車両1)の右前方に存在し、物体Oを避けながら車両画像G1(車両1)を右旋回させる場合、少なくとも、車両画像G1(車両1)における左前コーナー部と物体Oとの余裕距離が確保できていれば、物体Oの回避は可能となる。また、車両1を前進および旋回させる場合、車両長さ方向の安全マージンは認識しやすい、一方、車幅方向の安全マージンは、車両1の長さ方向より認識し難い傾向がある。したがって、物体Oを避けながら車両画像G1(車両1)を旋回させる場合のマージン拡大処理は、図21のシーンS8に示すように、車幅方向の長さのみを拡大するようにしてもよい。すなわち、仮想車両画像G5の車長方向の長さは、マージン拡大処理前の車両画像G1の車長方向の長さLを維持した長さLのままとする。一方、車幅方向の長さは、マージン拡大処理前の車両画像G1の車幅方向の長さWより、例えば、1.3倍に拡大した長さWとする。その結果、旋回時に車両画像G1(車両1)の周囲(前後方向)に安全マージンを取り過ぎてしまうことが抑制できる。
なお、車両画像G1(車両1)が前進する場合、制御部403は、車長方向におけるマージン拡大処理を仮想車両画像G5の前方のみに施すようにしてもよい。同様に、車両画像G1(車両1)が後退する場合、制御部403は、車長方向におけるマージン拡大処理を仮想車両画像G5の後方のみに施すようにしてもよい。また、車幅方向の安全マージンについても車両の進行方向(旋回方向)等に応じて、必要な方向のみに施すようにしてもよい。
制御部403により、仮想車両画像G5のマージン拡大処理を実行する場合、仮想車両画像G5は、瞬時に目標の大きさに拡大してもよいが、運転者等にマージン拡大処理が実行されていることを認識し易くするために、徐々に拡大処理を実行することが望ましい。また、仮想車両画像G5のマージン拡大処理を実行する場合、仮想車両画像G5を車両1が所定距離進んだ場合の進路上を移動させながら目標の大きさに拡大してもよいが、運転者等にマージン拡大処理が実行されていることを認識し易くするために、マージン拡大処理が完了してから仮想車両画像G5の移動を開始するようにすることが望ましい。
また、図17等で示したように、合成画像G3を拡大表示する場合、制御部403は、合成画像G3の拡大処理が完了してから仮想車両画像G5に対するマージン拡大処理を実行するようにしてもよいし、合成画像G3の拡大処理を実行する際に仮想車両画像G5のマージン拡大処理を同時に実行してもよい。この場合、車両画像G1および周辺画像G2とは異なる拡大率で、仮想車両画像G5が拡大されることになる。
仮想車両画像G5に対するマージン拡大処理を実行する場合、制御部403は、仮想車両画像G5の表示態様をマージン拡大処理の非実行時と異ならせてもよい。例えば、表示色の変更を行ったり、点滅表示を行ったりして運転者にマージン拡大処理の実行を認識させるようにしてもよい。
なお、上述した実施形態において、仮想車両画像G5は、車両1が所定距離進んだ場合の進路上に物体Oが検知された場合に表示され、その際に、マージン拡大処理が実行される例を示した。変形例では、物体O(障害物)の有無に拘わらず、運転者によるメインスイッチ10a等を用いた操作により、任意のタイミングで仮想車両画像G5を表示するようにしてもよい。そして、その際にマージン拡大処理を実行するようにしてもよい。
また、上述した実施形態では、合成画像G3を拡大する処理を実行し、さらにG5のマージン拡大処理を実行する例を示した。別の実施形態では、合成画像G3の拡大処理は非
実行とし、仮想車両画像G5のマージン拡大処理のみを実行するようにしてもよい。この場合も、合成画像G3に表示された進路上の物体Oに対する余裕距離(安全マージン)を適切に確保する表示を行い、同様な効果を得ることができる。
(変形例)
上述した各実施形態の場合、現在の舵角で車両1が所定距離進んだ場合の進路上に物体Oを検知した場合に仮想車両画像G5を表示する例を示した。図22に示す変形例では、舵角に拘わらず、方向指示器26(図3参照)を使用した場合に仮想車両画像G5を表示するようにしてもよい。例えば、道路外の領域から道路に出る場合等は、運転者は、操舵部4(ステアリングホイール)の操作により舵角を決定する前に方向指示器26を操作する。つまり、操舵部4の操作方向が予め推定できる。そこで、方向指示器26が操作された場合、取得部401は、操舵角「0」(中立位置)と、方向指示器26の指示方向の最大舵角との間で物体の探索を行う。つまり、これから車両1が走行する可能性のある領域について、順次進路を設定して物体の探索を行う。その結果、物体が検知された場合、図22に示すように、現在の舵角に拘わらず、検知された物体を含む経路を設定し、その経路にしたがって、車両画像G1から仮想車両画像G5を移動させる。そして、物体と接触位置またはその手前の位置で仮想車両画像G5を停止するような表示を行う。この場合、上述したように、車両画像G1や仮想車両画像G5を拡大表示するとともに、方向指示器26で指示する方向とは逆の方向にずらし表示処理を実行する。また、仮想車両画像G5と物体との距離に応じて部分画像PGの表示色を例えば赤色に変化させてもよい。
例えば、路側に設けられたガードレールの隙間を通って道路に出る場合、ガードレールの端部に接触しないように、舵角を決定する必要がある。図22に示す表示例のように、操舵部4の操作により舵角を決定する前に、仮想車両画像G5が移動を開始し、検知した物体との接触位置(例えば、ガードレールの端部との接触位置)で仮想車両画像G5の表示を固定する。その結果、物体に接触することなく道路に出るために必要な舵角を運転者に認識させやすくなる。つまり、操舵部4を操作して、表示されている仮想車両画像G5に対応する舵角になる前の位置で舵角を決定すればよい。この場合、方向指示器26の操作により表示された仮想車両画像G5とは別に、操舵部4の操作によって変化する舵角に対応する仮想車両画像G5を表示してもよい。この場合、先に表示されている仮想車両画像G5に、舵角に対応する仮想車両画像G5が重ならないように舵角を調整することで、物体との接触を回避できる舵角を決定することができる。その結果、物体との接触を回避したスムーズな発進を行うことができる。
なお、方向指示器26の操作によって表示された仮想車両画像G5に対応する舵角を運転者に通知するようにしてもよい。例えば、物体に接触しないような最大舵角を表示や音声で提示して運転者に操作させたり、自動操舵で操舵部4の操作量を決定したりしてもよい。また、図5に示すように、接近物指標G6を併せて表示して、車両1に接近してくる物体、例えば、歩行者や自転車、他車等を、その存在や接近方向を運転者が認識し易い状態で表示してもよい。なお、方向指示器26の操作によって仮想車両画像G5を表示しようとする場合に、最大舵角まで探索しても接触する可能性のある物体が検知できない場合、仮想車両画像G5は、最大舵角に対応する方向に移動するように表示してもよいし、非表示としてもよい。この場合、例えば、「最大舵角に操作しても、物体との接触の可能性は低いです。」等の表示やメッセージを出力するようにしてもよい。また、図21で説明したように、仮想車両画像G5に対して、マージン拡大処理を併せて実行してもよい。この場合、大きく旋回しながら走行する際の運転者の安心感を向上させやすい表示ができる。
本実施形態のCPU14aで実行される周辺監視プログラムは、インストール可能な形式又は実行可能な形式のファイルでCD−ROM、フレキシブルディスク(FD)、CD−R、DVD(Digital Versatile Disk)等のコンピュータで読み取り可能な記録媒体に記録して提供するように構成してもよい。
さらに、周辺監視プログラムを、インターネット等のネットワークに接続されたコンピュータ上に格納し、ネットワーク経由でダウンロードさせることにより提供するように構成してもよい。また、本実施形態で実行される周辺監視プログラムをインターネット等のネットワーク経由で提供または配布するように構成してもよい。
本発明の実施形態及び変形例を説明したが、これらの実施形態及び変形例は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
1…車両、8…表示装置、10…操作入力部、10a…メインスイッチ、14…ECU、14a…CPU、14b…ROM、14c…RAM、14d…表示制御部、14f…SSD、15…撮像部、16…レーダー、17…ソナー、400…画像取得部、401…取得部、402…検知部、403…制御部。

Claims (22)

  1. 車両の現在の舵角を取得する取得部と、
    前記車両の周辺を撮像する撮像部から撮像画像を取得する画像取得部と、
    前記車両の周辺の物体の検知情報を取得する検知部と、
    前記車両を示す車両画像と、前記撮像画像に基づいた前記車両の周辺を表した周辺画像と、を含む合成画像を表示部に表示させる制御部と、
    を備え、
    前記制御部は、前記現在の舵角で前記車両が所定距離進んだ場合の進路上に前記物体を検知した場合、前記合成画像内において、前記車両画像で示された前記車両の位置を基準とした前記物体までの進路上に前記車両の形状を示す仮想的な仮想車両画像を重畳表示させる、周辺監視装置。
  2. 前記仮想車両画像は、前記車両の位置から前記物体の位置に向かって移動可能である、請求項1に記載の周辺監視装置。
  3. 前記仮想車両画像内において前記物体と接触する部分画像の表示態様を変化させ、かつ前記合成画像内において、前記車両が前記物体に接触する位置、または接触する手前の位置まで進んだ位置において前記仮想車両画像の移動を停止させる、請求項2に記載の周辺監視装置。
  4. 前記仮想車両画像は、ポリゴンで構成される前記車両の形状を示す画像であり、
    前記部分画像は、前記仮想車両画像を構成する前記ポリゴンのうち、前記物体と接触する部分の前記ポリゴンである、請求項3に記載の周辺監視装置。
  5. 前記制御部は、前記物体の位置と前記仮想車両画像で示された前記車両の位置の間の距離に応じて前記部分画像の表示態様を変更する、請求項3または請求項4に記載の周辺監視装置。
  6. 前記制御部は、前記距離が所定値以下になった場合、前記部分画像の前記表示態様を接触を示唆する第1表示態様に変更し、前記距離が前記所定値以下の状態から前記所定値を超えるように変化した場合、前記表示態様を前記第1表示態様から接触回避を示唆する第2表示態様に変更する、請求項5に記載の周辺監視装置。
  7. 前記車両画像は、前記車両の俯瞰画像である、請求項1から請求項6のいずれか1項に記載の周辺監視装置。
  8. 前記仮想車両画像は、前記車両の三次元の形状を示す画像である、請求項1から請求項6のいずれか1項に記載の周辺監視装置。
  9. 前記仮想車両画像は、前記車両の形状を示す半透明の画像である、請求項1から請求項8のいずれか1項に記載の周辺監視装置。
  10. 前記仮想車両画像は、前記車両の輪郭を強調表示した画像である、請求項1から請求項9のいずれか1項に記載の周辺監視装置。
  11. 前記仮想車両画像は、前記車両の輪郭から内側に向かうに従って透過率を高くした画像である、請求項1から請求項10のいずれか1項に記載の周辺監視装置。
  12. 前記制御部は、前記検知部によって前記物体が検知された場合、前記合成画像を、前記物体が検知される前の表示状態より拡大表示する、請求項1から請求項11のいずれか1項に記載の周辺監視装置。
  13. 前記制御部は、前記拡大表示を実行するときに、前記車両が後退可能な状態の場合、前記後退可能な状態以外の場合より前記拡大表示の程度を小さくする、請求項12に記載の周辺監視装置。
  14. 前記制御部は、前記合成画像が前記拡大表示される場合、前記現在の舵角に基づく旋回方向とは逆方向に前記車両画像の表示位置をずらして表示するずらし表示を実行する、請求項12または請求項13に記載の周辺監視装置。
  15. 前記制御部は、前記車両が後退可能な状態の場合、前記ずらし表示を非実行とする、請求項14に記載の周辺監視装置。
  16. 前記制御部は、前記仮想車両画像を非表示とする場合、前記合成画像を前記物体が検知される前の表示状態に復帰させる、請求項12から請求項15のいずれか1項に記載の周辺監視装置。
  17. 前記制御部は、前記仮想車両画像の表示を一時的に非表示とし、所定の条件が満たされた場合に、前記非表示を解除する、請求項1から請求項16のいずれか1項に記載の周辺監視装置。
  18. 前記制御部は、前記仮想車両画像の表示を一時的に非表示とした場合、非表示期間中に限り再表示を実行可能とする、請求項17に記載の周辺監視装置。
  19. 前記制御部は、前記車両が前記物体に接触する位置、または接触する手前の位置において前記仮想車両画像の移動を停止させた後、前記舵角が前記現在の舵角から変更され、前記車両が前記物体に非接触となる場合、変更された舵角にしたがう方向に前記仮想車両画像の移動を再開可能とする、請求項2から請求項18のいずれか1項に記載の周辺監視装置。
  20. 前記仮想車両画像が前記表示部に表示されるか否かを切り替え可能な操作スイッチをさらに備え、
    前記制御部は、前記現在の舵角で前記車両が所定距離進んだ場合の進路上に前記物体を検知しない場合であって、かつ前記操作スイッチの操作により前記仮想車両画像が前記表示部に表示可能な場合に、前記車両画像の表示態様を変化させる、請求項1から請求項19のいずれか1項に記載の周辺監視装置。
  21. 前記制御部は、前記仮想車両画像を表示する場合、前記仮想車両画像の車長方向の長さと、車幅方向の長さの少なくとも一方を前記車両画像の対応する長さより拡大して表示する、請求項1から請求項20のいずれか1項に記載の周辺監視装置。
  22. 前記制御部は、前記仮想車両画像の車幅方向の長さのみを拡大して表示する、請求項21に記載の周辺監視装置。
JP2019166660A 2019-09-12 2019-09-12 周辺監視装置 Active JP7443705B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2019166660A JP7443705B2 (ja) 2019-09-12 2019-09-12 周辺監視装置
EP20195431.0A EP3800111A1 (en) 2019-09-12 2020-09-10 Periphery monitoring device
US17/017,948 US11620834B2 (en) 2019-09-12 2020-09-11 Periphery monitoring device
CN202010962500.9A CN112477758A (zh) 2019-09-12 2020-09-14 周边监视装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019166660A JP7443705B2 (ja) 2019-09-12 2019-09-12 周辺監視装置

Publications (2)

Publication Number Publication Date
JP2021044751A true JP2021044751A (ja) 2021-03-18
JP7443705B2 JP7443705B2 (ja) 2024-03-06

Family

ID=72470249

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019166660A Active JP7443705B2 (ja) 2019-09-12 2019-09-12 周辺監視装置

Country Status (4)

Country Link
US (1) US11620834B2 (ja)
EP (1) EP3800111A1 (ja)
JP (1) JP7443705B2 (ja)
CN (1) CN112477758A (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2022147040A (ja) * 2021-03-23 2022-10-06 本田技研工業株式会社 表示装置

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7065068B2 (ja) * 2019-12-13 2022-05-11 本田技研工業株式会社 車両周囲監視装置、車両、車両周囲監視方法およびプログラム
JPWO2021186853A1 (ja) * 2020-03-19 2021-09-23
EP4304897A1 (en) * 2021-03-12 2024-01-17 Stoneridge, Inc. Vehicle camera mirror system with adjustable video feed
US20230032998A1 (en) * 2021-07-30 2023-02-02 Magna Electronics Inc. Vehicular object detection and door opening warning system
US20230256985A1 (en) * 2022-02-14 2023-08-17 Continental Advanced Lidar Solutions Us, Llc Method and system for avoiding vehicle undercarriage collisions
CN117104179B (zh) * 2023-02-16 2024-11-05 荣耀终端有限公司 一种车辆控制系统、方法、电子设备及介质

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2007015446A1 (ja) * 2005-08-02 2007-02-08 Nissan Motor Co., Ltd. 車両周囲監視装置及び車両周囲監視方法
JP2017114218A (ja) * 2015-12-22 2017-06-29 株式会社Jvcケンウッド 俯瞰映像生成装置、俯瞰映像生成システム、俯瞰映像生成方法およびプログラム
JP2018184091A (ja) * 2017-04-26 2018-11-22 株式会社Jvcケンウッド 運転支援装置、運転支援方法およびプログラム
JP2018203031A (ja) * 2017-06-02 2018-12-27 アイシン精機株式会社 周辺監視装置

Family Cites Families (27)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3807330B2 (ja) 2002-03-05 2006-08-09 日産自動車株式会社 車両周辺監視装置
JP3894322B2 (ja) 2003-07-23 2007-03-22 松下電工株式会社 車両用視界モニタシステム
JP2008090655A (ja) 2006-10-03 2008-04-17 Denso Corp 運転支援装置
JP5182137B2 (ja) 2009-02-12 2013-04-10 株式会社デンソー 車両周辺表示装置
JP5376223B2 (ja) * 2009-05-18 2013-12-25 アイシン精機株式会社 運転支援装置
CN102667888B (zh) * 2009-11-27 2014-12-31 丰田自动车株式会社 驾驶辅助装置以及驾驶辅助方法
JP5605606B2 (ja) 2010-03-12 2014-10-15 アイシン精機株式会社 駐車支援装置
JP5696872B2 (ja) * 2010-03-26 2015-04-08 アイシン精機株式会社 車両周辺監視装置
JP2012061989A (ja) * 2010-09-17 2012-03-29 Fujitsu Ten Ltd 画像処理装置、及び、画像処理方法
JP6014442B2 (ja) * 2012-09-27 2016-10-25 富士通テン株式会社 画像生成装置、画像表示システム、および、画像生成方法
DE102012024930A1 (de) * 2012-12-20 2014-06-26 GM Global Technology Operations LLC (n. d. Ges. d. Staates Delaware) Fahrzeug mit Entfernungsüberwachungseinrichtung
GB2518187A (en) * 2013-09-12 2015-03-18 Ford Global Tech Llc Collision warning for a driver controlled vehicle
JP5855622B2 (ja) 2013-10-04 2016-02-09 本田技研工業株式会社 駐車支援装置
JP5825323B2 (ja) 2013-11-01 2015-12-02 アイシン精機株式会社 車両周辺監視装置
JP5995931B2 (ja) * 2014-09-12 2016-09-21 アイシン精機株式会社 駐車支援装置、駐車支援方法及び制御プログラム
US9902267B2 (en) 2015-05-12 2018-02-27 Bendix Commercial Vehicle Systems Llc Predicted position display for vehicle
JP2017033402A (ja) * 2015-08-04 2017-02-09 株式会社デンソー 車載表示制御装置、車載表示制御方法
WO2017110144A1 (ja) 2015-12-22 2017-06-29 株式会社Jvcケンウッド 俯瞰映像生成装置、俯瞰映像生成システム、俯瞰映像生成方法およびプログラム
JP6524922B2 (ja) * 2016-01-12 2019-06-05 株式会社デンソー 運転支援装置、運転支援方法
JP6711151B2 (ja) 2016-06-07 2020-06-17 アイシン精機株式会社 運転支援装置
JP6806156B2 (ja) * 2016-09-30 2021-01-06 アイシン精機株式会社 周辺監視装置
JP2018110328A (ja) 2017-01-04 2018-07-12 株式会社デンソーテン 画像処理装置および画像処理方法
JP2019060616A (ja) 2017-09-25 2019-04-18 アイシン精機株式会社 運転支援装置
JP7172309B2 (ja) * 2018-09-06 2022-11-16 株式会社アイシン 周辺監視装置
JP7119798B2 (ja) 2018-09-07 2022-08-17 株式会社アイシン 表示制御装置
JP7283059B2 (ja) 2018-11-28 2023-05-30 株式会社アイシン 周辺監視装置
JP7222254B2 (ja) 2019-01-25 2023-02-15 株式会社アイシン 周辺表示制御装置

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2007015446A1 (ja) * 2005-08-02 2007-02-08 Nissan Motor Co., Ltd. 車両周囲監視装置及び車両周囲監視方法
JP2017114218A (ja) * 2015-12-22 2017-06-29 株式会社Jvcケンウッド 俯瞰映像生成装置、俯瞰映像生成システム、俯瞰映像生成方法およびプログラム
JP2018184091A (ja) * 2017-04-26 2018-11-22 株式会社Jvcケンウッド 運転支援装置、運転支援方法およびプログラム
JP2018203031A (ja) * 2017-06-02 2018-12-27 アイシン精機株式会社 周辺監視装置

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2022147040A (ja) * 2021-03-23 2022-10-06 本田技研工業株式会社 表示装置
JP7264930B2 (ja) 2021-03-23 2023-04-25 本田技研工業株式会社 表示装置

Also Published As

Publication number Publication date
US11620834B2 (en) 2023-04-04
JP7443705B2 (ja) 2024-03-06
CN112477758A (zh) 2021-03-12
US20210081684A1 (en) 2021-03-18
EP3800111A1 (en) 2021-04-07

Similar Documents

Publication Publication Date Title
JP7443705B2 (ja) 周辺監視装置
EP2981077B1 (en) Periphery monitoring device and program
JP6897340B2 (ja) 周辺監視装置
EP3650285B1 (en) Parking assistance method and parking assistance device
JP7069548B2 (ja) 周辺監視装置
US11787335B2 (en) Periphery monitoring device
JP6760122B2 (ja) 周辺監視装置
JP7067225B2 (ja) 車両用表示制御装置、車両用表示システム、車両用表示制御方法、およびプログラム
JP5991112B2 (ja) 駐車支援装置、制御方法、およびプログラム
JP2020120327A (ja) 周辺表示制御装置
JP2012056428A (ja) 運転支援装置
JP2009083680A (ja) 駐車支援装置および駐車支援方法
JP2021043815A (ja) 画像処理装置
JP5067169B2 (ja) 車両用駐車支援装置および画像表示方法
US20200084395A1 (en) Periphery monitoring device
JP2017094922A (ja) 周辺監視装置
JP2014004931A (ja) 駐車支援装置、駐車支援方法、及び駐車支援プログラム
JP4957589B2 (ja) 障害物警告装置、障害物警告方法及びコンピュータプログラム
JP2022023870A (ja) 表示制御装置
JP2014127183A (ja) 駐車支援装置及び駐車支援方法
WO2020148957A1 (ja) 車両制御装置及び方法
JP2014069721A (ja) 周辺監視装置、制御方法、及びプログラム
JP6977318B2 (ja) 周辺表示装置
JP6953915B2 (ja) 周辺監視装置
JP7130923B2 (ja) 表示制御装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220719

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230308

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230314

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230510

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20230815

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20231114

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20231121

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240123

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240205

R150 Certificate of patent or registration of utility model

Ref document number: 7443705

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150