JP6815963B2 - 車両用外界認識装置 - Google Patents
車両用外界認識装置 Download PDFInfo
- Publication number
- JP6815963B2 JP6815963B2 JP2017192230A JP2017192230A JP6815963B2 JP 6815963 B2 JP6815963 B2 JP 6815963B2 JP 2017192230 A JP2017192230 A JP 2017192230A JP 2017192230 A JP2017192230 A JP 2017192230A JP 6815963 B2 JP6815963 B2 JP 6815963B2
- Authority
- JP
- Japan
- Prior art keywords
- feature point
- vehicle
- road surface
- obstacle
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
- G06V20/58—Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R11/00—Arrangements for holding or mounting articles, not otherwise provided for
- B60R11/04—Mounting of cameras operative during drive; Arrangement of controls thereof relative to the vehicle
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R99/00—Subject matter not provided for in other groups of this subclass
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01B—MEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
- G01B11/00—Measuring arrangements characterised by the use of optical techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/44—Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
- G06V10/443—Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components by matching or filtering
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/50—Extraction of image or video features by performing operations within image blocks; by using histograms, e.g. histogram of oriented gradients [HoG]; by summing image-intensity values; Projection analysis
- G06V10/507—Summing image-intensity values; Histogram projection analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/60—Type of objects
- G06V20/64—Three-dimensional objects
-
- G—PHYSICS
- G08—SIGNALLING
- G08G—TRAFFIC CONTROL SYSTEMS
- G08G1/00—Traffic control systems for road vehicles
- G08G1/16—Anti-collision systems
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
- B60R2300/10—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used
- B60R2300/105—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used using multiple cameras
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
- B60R2300/80—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
- B60R2300/8093—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for obstacle warning
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Multimedia (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Mechanical Engineering (AREA)
- Traffic Control Systems (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
- Length Measuring Devices By Optical Means (AREA)
Description
以下、本発明の第一実施の形態について図面を用いて詳細に説明する。図1は、第一実施の形態における車載用外界認識装置1000のブロック図である。
つぎに、図3、4を用いて、特徴点位置計測部1021における処理の内容について説明する。
図3は、特徴点位置計測部1021の処理の流れを示したフローチャートである。また、図4は、特徴点位置計測部1021の処理の説明図である。
つぎに、足元位置算出部1031における処理の内容について説明する。
まず、一つ目の方法(一番目の方法)は、単純に距離テーブルFPW[p]を距離テーブルFPW0[p]=(x、y、z)へコピーし、距離テーブルFPW0[p]のz=0とする方法である。
図5は、足元位置算出部1031の処理の流れを示したフローチャートである。
まず、ステップS501にて、距離テーブルFPW[p]=(x、y、z)を距離テーブルFPW0T[p]=(x、y、z)へコピーする。
つぎに、図7,8,9を用いて、路面領域推定部1041における処理の内容について説明する。
図7は、路面領域推定部1041の処理の流れを示したフローチャートである。
そして、ステップS705にて、ヒストグラムHst1とHst2の類似度Matchを算出し、類似度が閾値thMatch以上であれば、その局所領域R[r’]のID=r’をテーブルrdm[dm]へ登録する。
すべてのr’に対する処理が終了したら、次のrd[d]を選択し、ステップS703へ戻る。
さらに、ステップS707にて、カメラ幾何情報を用いて、路面領域の境界を世界座標の路面推定瞬間値RDT[x][y]へ変換し、時系列処理を行う。
つぎに、図10、図11を用いて障害物判定部1051の処理の内容について説明する。
処理は、ステップS10001からS1003まで、特徴点IDであるp=0からPまで繰り返し処理を行う。
つぎに、ステップS10002にて足元座標FPW0[p]を路面領域推定結果GRD[x][y]へ投影し、足元座標を確認し、足元座標FPW0[p]の路面領域推定値が閾値thRoad未満、すなわち路面ではなかったら、ステップS10003へ移動し、障害物特徴点OFP[q]へ登録する。
上記処理をすべての特徴点FP[p]について実施する。
処理は、ステップS11001からS11009まで、特徴点IDであるp=0からPまで繰り返し処理を行う。
ステップS11004では、閾値thRoad=thRoadFewとする。
ステップS11005では、閾値thRoad=thRoadManyとする。
ステップS11006では、閾値thRoad=thRoadNormalとする。
ここで、thRoadFew<thRoadNormal<thRoadManyである。
上記処理をすべての特徴点FP[p]について実施する。
つぎに、本発明の車載用外界認識装置の第二実施の形態について、以下に図面を用いて説明する。
図12は、第二実施の形態における車載用外界認識装置2000の構成を示すブロック図である。なお、以下の説明では、上述の第一実施の形態における車載用外界認識装置1000と異なる箇所のみ詳述し、同様の箇所には同一の番号を付してその詳細な説明を省略する。
繰り返し処理を実行する。
する。処理の詳細は後述する。
つぎに、図13を用いて、障害物方位算出部2131の処理の内容について説明する。
図13は障害物方位算出部2131の処理の流れを示したフローチャートである。障害物の方位を算出する方法は様々考えられるが、本実施例においては、サイドソナーによる自車側方の障害物検知情報を時系列に蓄積するサイドソナー情報をサイドソナーテーブルに蓄積して利用する方法を説明する。
まず、ステップS13001にて、デッドレコニング情報を取得する。
つぎに、図14から17を用いて、障害物判定部2051の処理の内容について説明する。
障害物判定部2051は、所定の特徴点の周囲に存在する他の特徴点の密度、および、障害物の方位θL上の他の特徴点の有無を算出し、障害物の方位θL上における他の特徴点の有無と、特徴点密度と、特徴点の足元位置と路面領域とを比較した結果に基づいて、特徴点が障害物の特徴点であるか否かの判定を行う。
まず、図14、図15を用いて、障害物判定部2051の実施例1について説明する。
図14,15は障害物判定部2051の処理の流れを示したフローチャートである。
まず、ステップS14001にて、特徴点FP[p]の世界座標FPW[p]から半径thAroundCam以内の他の特徴点の世界座標FPW[p’]の合計数SumAroundCamを算出する。本実施例では、距離演算には世界座標(x、y、z)のうち(x、y)のみを用いる。
adからthSFSを減算する。そうでない場合(足元座標FPW0[p]がソナー空間SFS[f]外の場合)には何もせずに次に進む。
undCam内に他の特徴点の世界座標FPW[p]が存在するため、SumAroundCamは0より大きい値を持つ。半径thAroundObj内に他の障害物点SOBJ[b]は存在しないため、SumAroundObjは0である。また、世界座標FPW[p1]から自車左側の障害物方位θLの方向に直線を引き、直線に近い特徴点数および障害物点数をカウントする。ここでは、いずれも直線の近い位置に特徴点の世界座標および障害物点が存在するため、SumLineCam,SumLineObjはいずれも0より大きい値を持つ。よって、特徴点FP[p1]に対する閾値thRoadは、ステップS14006からS14014の処理において高い値を持つことになる。
いて、障害物にぶつからないように自動駐車経路2012を生成した例を図20(b)に示す。なお、障害物にぶつからないように自動駐車経路2012を生成する方法については、公知技術を用いるものとし、ここでは説明を割愛する。
Claims (6)
- 自車周囲の走行可能な空間を認識する車載用外界認識装置であって、
自車周囲の環境を含む画像を取得する画像取得部と、
前記画像から特徴点を抽出し、前記特徴点を時系列追跡した前記画像上の動きに基づいて前記特徴点の3次元位置を計測する特徴点位置計測部と、
前記画像から画像のテクスチャの類似度を用いて、自車が走行可能な路面領域を推定する路面領域推定部と、
前記特徴点の3次元位置から足元位置を算出する特徴点足元位置算出部と、
前記特徴点の足元位置と前記路面領域との位置関係に応じて前記特徴点が自車周囲の静止した障害物の特徴点であるか否かを判定する障害物判定部と、
を有し、
前記障害物判定部は、前記特徴点の足元位置が前記路面領域に含まれているときは前記特徴点が自車周囲の静止した障害物の特徴点ではないと判定し、前記特徴点の足元位置が前記路面領域に含まれていないときは、前記特徴点が自車周囲の静止した障害物の特徴点であると判定することを特徴とする車載用外界認識装置。 - 前記路面領域推定部は、路面領域の推定結果を蓄積し、
前記障害物判定部は、前記特徴点の3次元位置から、所定の特徴点の周囲に存在する他の特徴点の密度を算出する空間特徴算出を行い、前記特徴点の密度の高さに応じて閾値を定し、該閾値に基づいて前記特徴点が自車周囲の静止した障害物の特徴点であるか否かの判定を行うことを特徴とする請求項1に記載の車載用外界認識装置。 - センサにより自車周囲の障害物を検知し、その結果自車が走行可能な空間の情報を取得する空間情報取得手段を有し、
前記障害物判定部は、前記特徴点の足元位置が前記路面領域に含まれるか否か、さらに、前記走行可能な空間に含まれるか否かに基づいて、前記特徴点が前記障害物の特徴点であるか否かの判定を行うことを特徴とする請求項1に記載の車載用外界認識装置。 - 自車周囲の障害物の方位を算出する障害物方位算出部を有し、
前記障害物判定部は、所定の特徴点の周囲に存在する他の特徴点の密度、および、前記障害物の方位上の他の特徴点の有無を算出し、前記障害物の方位上における他の特徴点の有無と、前記特徴点の密度と、前記特徴点の足元位置と前記路面領域とを比較した結果に基づいて、前記特徴点が前記障害物の特徴点であるか否かの判定を行うことを特徴とする請求項3に記載の車載用外界認識装置。 - 前記特徴点足元位置算出部は、前記特徴点の3次元位置から前記足元位置を算出する際に、路面高さを実際の路面よりも高い所定の高さ位置に設定して画像座標を算出し、該画像座標の路面高さ位置における3次元座標を算出することを特徴とする請求項1に記載の車載用外界認識装置。
- 自車周囲の走行可能な空間を認識する車載用外界認識方法であって、
自車周囲の環境を含む画像を取得するステップと、
前記画像から特徴点を抽出し、前記特徴点を時系列追跡した前記画像上の動きに基づいて前記特徴点の3次元位置を計測するステップと、
前記特徴点の3次元位置から前記特徴点の足元位置を算出するステップと、
前記画像から画像のテクスチャの類似度を用いて、自車が走行可能な路面領域を推定するステップと、
前記特徴点の足元位置が前記路面領域に含まれているときは前記特徴点が自車周囲の静止した障害物の特徴点ではないと判定するステップと、
前記特徴点の足元位置が前記路面領域に含まれていないときは前記特徴点が自車周囲の静止した障害物の特徴点であると判定するステップと、
を有することを特徴とする車載用外界認識方法。
Priority Applications (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017192230A JP6815963B2 (ja) | 2017-09-29 | 2017-09-29 | 車両用外界認識装置 |
US16/651,610 US11514683B2 (en) | 2017-09-29 | 2018-09-28 | Outside recognition apparatus for vehicle |
PCT/JP2018/036265 WO2019065970A1 (ja) | 2017-09-29 | 2018-09-28 | 車両用外界認識装置 |
EP18861091.9A EP3690802A4 (en) | 2017-09-29 | 2018-09-28 | EXTERIOR VEHICLE RECOGNITION DEVICE |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017192230A JP6815963B2 (ja) | 2017-09-29 | 2017-09-29 | 車両用外界認識装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2019066333A JP2019066333A (ja) | 2019-04-25 |
JP6815963B2 true JP6815963B2 (ja) | 2021-01-20 |
Family
ID=65902011
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017192230A Active JP6815963B2 (ja) | 2017-09-29 | 2017-09-29 | 車両用外界認識装置 |
Country Status (4)
Country | Link |
---|---|
US (1) | US11514683B2 (ja) |
EP (1) | EP3690802A4 (ja) |
JP (1) | JP6815963B2 (ja) |
WO (1) | WO2019065970A1 (ja) |
Families Citing this family (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11565698B2 (en) * | 2018-04-16 | 2023-01-31 | Mitsubishi Electric Cornoration | Obstacle detection apparatus, automatic braking apparatus using obstacle detection apparatus, obstacle detection method, and automatic braking method using obstacle detection method |
JP7179687B2 (ja) * | 2019-06-17 | 2022-11-29 | 株式会社東芝 | 障害物検知装置 |
CN111563474A (zh) * | 2020-05-18 | 2020-08-21 | 北京茵沃汽车科技有限公司 | 运动背景下的基于车载鱼眼镜头的障碍物检测方法、系统 |
JP2022059958A (ja) * | 2020-10-02 | 2022-04-14 | フォルシアクラリオン・エレクトロニクス株式会社 | ナビゲーション装置 |
US11783597B2 (en) | 2020-12-30 | 2023-10-10 | Continental Autonomous Mobility US, LLC | Image semantic segmentation for parking space detection |
CN112801024B (zh) * | 2021-02-09 | 2023-08-29 | 广州小鹏自动驾驶科技有限公司 | 一种检测信息处理方法和装置 |
JP7561664B2 (ja) | 2021-03-15 | 2024-10-04 | 株式会社豊田中央研究所 | 物体検出装置、物体検出方法、物体検出プログラム |
Family Cites Families (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2006121087A1 (ja) * | 2005-05-10 | 2006-11-16 | Olympus Corporation | 画像処理装置、画像処理方法および画像処理プログラム |
US20110019873A1 (en) * | 2008-02-04 | 2011-01-27 | Konica Minolta Holdings, Inc. | Periphery monitoring device and periphery monitoring method |
JP5372680B2 (ja) * | 2009-09-24 | 2013-12-18 | 日立オートモティブシステムズ株式会社 | 障害物検知装置 |
JP5407898B2 (ja) * | 2010-01-25 | 2014-02-05 | 株式会社豊田中央研究所 | 対象物検出装置及びプログラム |
JP5574789B2 (ja) * | 2010-04-08 | 2014-08-20 | 株式会社東芝 | 車両周辺監視装置及び車両周辺監視方法 |
JP5820774B2 (ja) * | 2012-06-21 | 2015-11-24 | 株式会社豊田中央研究所 | 路面境界推定装置及びプログラム |
JP6197388B2 (ja) | 2013-06-11 | 2017-09-20 | 富士通株式会社 | 距離測定装置、距離測定方法、およびプログラム |
US10832061B2 (en) * | 2016-07-22 | 2020-11-10 | Hitachi Automotive Systems, Ltd. | Traveling road boundary estimation apparatus and traveling assistance system using same |
-
2017
- 2017-09-29 JP JP2017192230A patent/JP6815963B2/ja active Active
-
2018
- 2018-09-28 WO PCT/JP2018/036265 patent/WO2019065970A1/ja unknown
- 2018-09-28 US US16/651,610 patent/US11514683B2/en active Active
- 2018-09-28 EP EP18861091.9A patent/EP3690802A4/en active Pending
Also Published As
Publication number | Publication date |
---|---|
JP2019066333A (ja) | 2019-04-25 |
US20200302192A1 (en) | 2020-09-24 |
EP3690802A1 (en) | 2020-08-05 |
WO2019065970A1 (ja) | 2019-04-04 |
US11514683B2 (en) | 2022-11-29 |
EP3690802A4 (en) | 2021-05-19 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6815963B2 (ja) | 車両用外界認識装置 | |
JP6416293B2 (ja) | 自動車に接近する対象車両を自動車のカメラシステムにより追跡する方法、カメラシステムおよび自動車 | |
JP6440411B2 (ja) | 物体検出装置 | |
JP6171612B2 (ja) | 仮想レーン生成装置及びプログラム | |
JP7135665B2 (ja) | 車両制御システム、車両の制御方法及びコンピュータプログラム | |
CN107209998B (zh) | 车道线识别装置以及车道线识别方法 | |
JP6450294B2 (ja) | 物体検出装置、物体検出方法、及びプログラム | |
CN105128836A (zh) | 自主紧急制动系统及其中识别行人的方法 | |
CN106463064A (zh) | 物体识别装置和使用该物体识别装置的车辆行驶控制装置 | |
CN104700414A (zh) | 一种基于车载双目相机的前方道路行人快速测距方法 | |
US10672141B2 (en) | Device, method, system and computer-readable medium for determining collision target object rejection | |
CN111937036A (zh) | 用于处理传感器数据的方法、设备和具有指令的计算机可读存储介质 | |
JP2004531424A (ja) | 車用の感知装置 | |
JP6520740B2 (ja) | 物体検出方法、物体検出装置、およびプログラム | |
JP2008168811A (ja) | 車線認識装置、車両、車線認識方法、及び車線認識プログラム | |
JP4940177B2 (ja) | 交通流計測装置 | |
US20090052742A1 (en) | Image processing apparatus and method thereof | |
CN112455430A (zh) | 无车位线的斜列车位的检测方法、泊车方法及泊车系统 | |
CN107787496B (zh) | 消失点修正装置及方法 | |
Liu et al. | Development of a vision-based driver assistance system with lane departure warning and forward collision warning functions | |
CN110717445A (zh) | 一种用于自动驾驶的前车距离跟踪系统与方法 | |
JP4296287B2 (ja) | 車両認識装置 | |
JP2007249257A (ja) | 移動体検出装置および移動体検出方法 | |
KR101568683B1 (ko) | 영상 분석을 이용한 차간 거리 추정 방법 및 그 장치 | |
KR101595317B1 (ko) | 차량의 정밀 측위를 위한 노면 표시 검출 방법 및 그 시스템 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20190816 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20191129 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20201020 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20201130 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20201208 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20201223 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6815963 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |