Nothing Special   »   [go: up one dir, main page]

JP2010198166A - Periphery monitoring device for vehicle - Google Patents

Periphery monitoring device for vehicle Download PDF

Info

Publication number
JP2010198166A
JP2010198166A JP2009040490A JP2009040490A JP2010198166A JP 2010198166 A JP2010198166 A JP 2010198166A JP 2009040490 A JP2009040490 A JP 2009040490A JP 2009040490 A JP2009040490 A JP 2009040490A JP 2010198166 A JP2010198166 A JP 2010198166A
Authority
JP
Japan
Prior art keywords
animal
vehicle
information
determination process
possibility
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2009040490A
Other languages
Japanese (ja)
Other versions
JP4988781B2 (en
Inventor
Makoto Aimura
誠 相村
Hideki Hashimoto
英樹 橋本
Masakazu Saka
雅和 坂
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Honda Motor Co Ltd
Original Assignee
Honda Motor Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Honda Motor Co Ltd filed Critical Honda Motor Co Ltd
Priority to JP2009040490A priority Critical patent/JP4988781B2/en
Publication of JP2010198166A publication Critical patent/JP2010198166A/en
Application granted granted Critical
Publication of JP4988781B2 publication Critical patent/JP4988781B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
  • Image Processing (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Traffic Control Systems (AREA)
  • Image Analysis (AREA)

Abstract

<P>PROBLEM TO BE SOLVED: To provide a periphery monitoring device of a vehicle for executing processing for determining an object in the periphery of a vehicle as necessary. <P>SOLUTION: A vehicle periphery monitoring device for monitoring the periphery of a vehicle by using a pickup image to be obtained by an image pickup means loaded on a vehicle includes: a means for detecting a location where a vehicle is traveling; a determination means for determining whether or not appearance possibility information showing possibility that an object to be detected appears is set about the detected location; and a start means for, when the appearance possibility information is set, starting processing for determining whether or not the object extracted from the pickup image is an object to be detected. The object to be detected is, for example, an animal, and animal determination processing is executed only while the vehicle travels in the location where there is possibility that an animal appears, so as to reduce the processing load. <P>COPYRIGHT: (C)2010,JPO&INPIT

Description

この発明は、車両の周辺を監視するための装置に関し、より具体的には、車両の周辺の対象物を判定する処理を必要に応じて実行する装置に関する。   The present invention relates to an apparatus for monitoring the periphery of a vehicle, and more specifically, to an apparatus that executes a process of determining an object around the vehicle as necessary.

車両の周辺には、歩行者、電柱や壁等の人工構造物などが存在しており、このような対象物は、車両の走行に影響を与えるおそれがあるため、従来、赤外線カメラを車両に搭載し、該カメラにより撮像された車両周辺の撮像画像から対象物を検出し、その検出結果を車両の運転者に提供する装置が提案されている。また、車両の周辺には、鹿などの動物が存在することもあり、最近では、このような動物を他の対象物と区別して検出する手法も提案されている。たとえば、下記の特許文献1には、動物を検出する手法が開示されており、この手法によると、動物を表す所定形状の対象物を撮像画像から抽出することにより、動物を検出している。   In the vicinity of the vehicle, there are pedestrians, artificial structures such as utility poles and walls, etc., and such objects may affect the running of the vehicle. There has been proposed an apparatus that is mounted and detects an object from captured images around the vehicle imaged by the camera and provides the detection result to the driver of the vehicle. In addition, there are cases where animals such as deer are present around the vehicle, and recently, a method for detecting such animals separately from other objects has been proposed. For example, Patent Document 1 below discloses a technique for detecting an animal. According to this technique, an animal is detected by extracting an object having a predetermined shape representing the animal from a captured image.

特開2007−310705号公報JP 2007-310705 A

歩行者および動物などの生体は、人工構造物に比べて通常高温であるため、赤外線カメラを用いれば、これらの生体を人工構造物から、ある程度区別して検出することができる。しかしながら、より高い精度でこれらの対象物を区別して判定するには、別個の対象物判定アルゴリズムが必要とされる。特に、歩行者と動物は、同じ生体であるので、両者を区別して検出するには、別個の対象物判定アルゴリズムが必要とされる。また、動物には、鹿、熊および馬等の様々な種類が存在する。さらに、鹿の種類は一種類ではなく、様々な種類の鹿が存在し、これらは大きさも異なる。このことは、熊や馬についても同様である。これら様々な動物を漏れなく検出しようとすると、対象物判定アルゴリズムの数が増大し、もしくは該アルゴリズムの内容が複雑になるおそれがある。検出する対象物の種類毎に設けられるアルゴリズムの数が多いほど、またアルゴリズムが複雑になるほど、処理負荷が高くなり、処理効率が低下するおそれがある。   Living bodies such as pedestrians and animals are usually at a higher temperature than artificial structures, and therefore, using an infrared camera, these living bodies can be detected from the artificial structures by distinguishing them to some extent. However, in order to distinguish and determine these objects with higher accuracy, a separate object determination algorithm is required. In particular, since a pedestrian and an animal are the same living body, separate object determination algorithms are required to distinguish and detect both. There are various types of animals such as deer, bears and horses. In addition, there are not one type of deer, but there are various types of deer that vary in size. The same applies to bears and horses. If these various animals are to be detected without omission, the number of object determination algorithms may increase, or the contents of the algorithms may become complicated. As the number of algorithms provided for each type of object to be detected increases and the algorithm becomes more complicated, the processing load increases and the processing efficiency may decrease.

したがって、上記のような処理負荷の増大を抑制し、より効率的に、検出すべき対象物を判定することができる装置が所望されている。   Therefore, there is a demand for an apparatus that can suppress an increase in the processing load as described above and can determine an object to be detected more efficiently.

この発明の一つの側面によると、車両に搭載された撮像手段によって得られる撮像画像を用いて車両の周辺を監視する車両周辺監視装置は、車両が走行している位置を検出する手段と、検出された位置について、検出すべき対象物が出没する可能性を示す出没可能性情報が設定されているかどうかを判断する判断手段と、前記出没可能性情報が設定されていれば、前記撮像画像に対して前記対象物が前記検出すべき対象物かどうかを判定するための判定処理を起動する起動手段と、を備える。   According to one aspect of the present invention, a vehicle periphery monitoring device that monitors the periphery of a vehicle using a captured image obtained by an image capturing unit mounted on the vehicle includes: a unit that detects a position where the vehicle is traveling; Determination means for determining whether or not the presence / absence possibility information indicating the possibility that the object to be detected appears or not is set for the position that has been detected; And an activation unit that activates a determination process for determining whether the object is the object to be detected.

この発明によれば、対象物判定処理は、常時実施されるのではなく、該対象物が出没する可能性がある位置に車両が存在している場合にのみ実施されるので、処理負荷の低減を図ることができる。また、検出すべき対象物が出没する可能性がある位置で、該対象物の判定処理が行われるので、対象物判定精度をより向上させることができる。   According to the present invention, the object determination process is not always performed, but is performed only when the vehicle exists at a position where the object may appear and disappear, so that the processing load is reduced. Can be achieved. In addition, since the object determination process is performed at a position where the object to be detected may appear and disappear, the object determination accuracy can be further improved.

この発明の一実施形態によると、前記検出すべき対象物は動物であり、前記出没可能性情報は、該動物が出没する可能性を示す位置を含む所定区間に対して設定される。前記判断手段は、前記検出された位置が該所定区間に含まれるかどうかを判断する。該検出された位置が所定区間に含まれると判断された場合にのみ、前記起動手段は、前記撮像画像から抽出された対象物が動物かどうかを判定するための判定処理を起動する。   According to an embodiment of the present invention, the object to be detected is an animal, and the appearance possibility information is set for a predetermined section including a position indicating the possibility that the animal appears. The determination means determines whether or not the detected position is included in the predetermined section. Only when it is determined that the detected position is included in the predetermined section, the activation unit activates a determination process for determining whether or not the object extracted from the captured image is an animal.

動物が出没する地域はある程度予測することができる。たとえば、動物に関する標識情報や、動物が過去に出没したことがあるとの情報から、動物が出没する地域(所定区間)を予測することができる。この発明は、この知見に鑑みてなされたものであり、このような情報が存在する区間を車両が走行している場合のみ、動物判定処理を実行する。動物が出没しそうな地域でのみ判定処理を実行するので、処理負荷を低減させることができると共に、誤検出を抑制することができ、動物の判定精度を向上させることができる。   You can predict to some extent where the animals will appear. For example, the area (predetermined section) where the animal appears can be predicted from the marker information about the animal and the information that the animal has appeared in the past. The present invention has been made in view of this finding, and the animal determination process is executed only when the vehicle is traveling in a section where such information exists. Since the determination process is executed only in an area where an animal is likely to appear, the processing load can be reduced, erroneous detection can be suppressed, and the animal determination accuracy can be improved.

この発明の一実施形態によると、上記出没可能性情報は、出没する可能性のある動物の種類および該種類毎の動物の大きさのうちの少なくとも一方を含んでおり、前記起動手段は、前記検出された位置について設定された前記出没可能性情報に含まれる動物の種類および該種類毎の動物の大きさの少なくとも一方に応じて、起動すべき前記判定処理を選択または変更する。   According to an embodiment of the present invention, the haunting possibility information includes at least one of a kind of an animal that may appear and an animal size for each kind, and the activation means includes the The determination process to be activated is selected or changed according to at least one of the type of animal included in the appearance possibility information set for the detected position and the size of the animal for each type.

動物には様々な種類があり、また、種類毎に大きさが異なることがある。この発明によれば、出没の可能性のある種類または大きさの動物に適合するよう動物判定処理を選択または変更することができる。たとえば、出没可能性のある情報が鹿であれば、鹿用の動物判定処理を起動するようにし、熊であれば、熊用の動物判定処理を起動することができる。また、同じ鹿でも、出没可能性のある鹿の大きさに適合するよう動物判定処理の内容(たとえば、大きさを判定するための閾値)を変更することができる。限られた種類および大きさの動物の判定処理のみを起動すればよいので、処理負荷を低減させることができる。また、出没の可能性のある種類または大きさの動物についてのみ判定処理を行うので、誤検出を抑制することができ、動物の判定精度を向上させることができる。   There are various types of animals, and the size may be different for each type. According to the present invention, it is possible to select or change the animal determination process so as to be adapted to an animal of a kind or size that may appear and disappear. For example, if the information that may appear and disappear is a deer, the animal determination process for a deer can be started, and if it is a bear, the animal determination process for a bear can be started. In addition, even in the same deer, the contents of the animal determination process (for example, a threshold for determining the size) can be changed so as to match the size of a deer that may appear and disappear. Since only the determination process for animals of a limited kind and size needs to be activated, the processing load can be reduced. In addition, since the determination process is performed only for an animal of a type or size that may appear and disappear, erroneous detection can be suppressed, and the determination accuracy of the animal can be improved.

本発明のその他の特徴及び利点については、以下の詳細な説明から明らかである。   Other features and advantages of the present invention will be apparent from the detailed description that follows.

この発明の一実施例に従う、周辺監視装置の構成を示すブロック図。The block diagram which shows the structure of the periphery monitoring apparatus according to one Example of this invention. この発明の一実施例に従う、カメラの取り付け位置を説明するための図。The figure for demonstrating the attachment position of the camera according to one Example of this invention. この発明の第1〜第3実施例に従う、出没可能性情報を示す図。The figure which shows the appearance possibility information according to 1st-3rd Example of this invention. 動物に関する標識の例を示す図。The figure which shows the example of the label | marker regarding an animal. 動物の種類に従って動物の大きさが異なることを示す図。The figure which shows that the magnitude | size of an animal changes according to the kind of animal. この発明の一実施例に従う、画像処理ユニットにおけるプロセスを示すフローチャート。3 is a flowchart illustrating a process in an image processing unit according to an embodiment of the present invention. この発明の第1の実施例に従う、動物判定処理の要否を判断するプロセスを示すフローチャート。The flowchart which shows the process which judges the necessity of the animal determination process according to 1st Example of this invention. この発明の第2の実施例に従う、動物判定処理の要否を判断するプロセスを示すフローチャート。The flowchart which shows the process which judges the necessity of the animal determination process according to 2nd Example of this invention. この発明の第3の実施例に従う、動物判定処理の要否を判断するプロセスを示すフローチャート。The flowchart which shows the process which judges the necessity of the animal determination process according to 3rd Example of this invention.

次に図面を参照してこの発明の実施の形態を説明する。   Next, an embodiment of the present invention will be described with reference to the drawings.

図1は、この発明の一実施形態に従う、車両の周辺監視装置の構成を示すブロック図である。該装置は、車両に搭載され、遠赤外線を検出可能な2つの赤外線カメラ1Rおよび1Lと、カメラ1Rおよび1Lによって得られる画像データに基づいて車両周辺の対象物を検出するための画像処理ユニット2と、該検出結果に基づいて音声で警報を発生するスピーカ3と、カメラ1Rまたは1Lによって得られる画像を表示すると共に、運転者に車両周辺の対象物を認識させるための表示を行うヘッドアップディスプレイ(以下、HUDと呼ぶ)4とを備えている。   FIG. 1 is a block diagram showing a configuration of a vehicle periphery monitoring device according to an embodiment of the present invention. The apparatus is mounted on a vehicle and has two infrared cameras 1R and 1L capable of detecting far infrared rays, and an image processing unit 2 for detecting an object around the vehicle based on image data obtained by the cameras 1R and 1L. And a speaker 3 that generates an alarm by voice based on the detection result, and an image obtained by the camera 1R or 1L, and a head-up display that displays a display for allowing the driver to recognize an object around the vehicle (Hereinafter referred to as HUD) 4.

この実施例では、図2に示すように、カメラ1Rおよび1Lは、車両10の前方を撮像するよう、車両10の前部に、車幅の中心を通る中心軸に対して対称な位置に配置されている。2つのカメラ1Rおよび1Lは、両者の光軸が互いに平行となり、両者の路面からの高さが等しくなるように車両に固定されている。赤外線カメラ1Rおよび1Lは、対象物の温度が高いほど、その出力信号のレベルが高くなる(すなわち、撮像画像における輝度が大きくなる)特性を有している。   In this embodiment, as shown in FIG. 2, the cameras 1 </ b> R and 1 </ b> L are arranged at positions symmetric with respect to the central axis passing through the center of the vehicle width at the front of the vehicle 10 so as to capture the front of the vehicle 10. Has been. The two cameras 1R and 1L are fixed to the vehicle so that their optical axes are parallel to each other and their height from the road surface is equal. The infrared cameras 1R and 1L have a characteristic that the level of the output signal becomes higher (that is, the luminance in the captured image becomes higher) as the temperature of the object is higher.

画像処理ユニット2は、入力アナログ信号をデジタル信号に変換するA/D変換回路、デジタル化した画像信号を記憶する画像メモリ、各種演算処理を行う中央演算処理装置(CPU)、CPUが演算に際してデータを記憶するのに使用するRAM(ランダムアクセスメモリ)、CPUが実行するプログラムおよび用いるデータ(テーブル、マップを含む)を記憶するROM(リードオンリーメモリ)、スピーカ3に対する駆動信号およびHUD4に対する表示信号などを出力する出力回路を備えている。カメラ1Rおよび1Lの出力信号は、デジタル信号に変換されてCPUに入力されるよう構成されている。HUD4は、図2に示すように、車両10のフロントウィンドウの、運転者の前方位置に画面4aが表示されるように設けられている。こうして、運転者は、HUD4に表示される画面を視認することができる。   The image processing unit 2 includes an A / D conversion circuit that converts an input analog signal into a digital signal, an image memory that stores a digitized image signal, a central processing unit (CPU) that performs various arithmetic processing, and a data RAM (Random Access Memory) used to store data, ROM (Read Only Memory) that stores programs executed by the CPU and data used (including tables and maps), driving signals for the speaker 3, display signals for the HUD 4, etc. Is provided. The output signals of the cameras 1R and 1L are converted into digital signals and input to the CPU. As shown in FIG. 2, the HUD 4 is provided so that a screen 4 a is displayed at a front position of the driver on the front window of the vehicle 10. Thus, the driver can visually recognize the screen displayed on the HUD 4.

さらに、ナビゲーションユニット5が、画像処理ユニット2に接続されている。ナビゲーションユニット5は、たとえば人工衛星を利用して車両10の位置を測定するためのGPS信号を受信し、該GPS信号に基づいて、車両10の現在位置を検出する。ナビゲーションユニット5は、地図情報を記憶する地図情報記憶部7を備える。地図情報記憶部7は、任意の記憶装置(記録媒体やハードディスクドライブなど)に実現されることができる。ナビゲーションユニット5は、地図情報記憶部7に記憶された地図情報を読み出して、所定の表示装置(HUD4でもよい)の表示画面上に表示することができる。   Further, the navigation unit 5 is connected to the image processing unit 2. The navigation unit 5 receives a GPS signal for measuring the position of the vehicle 10 using, for example, an artificial satellite, and detects the current position of the vehicle 10 based on the GPS signal. The navigation unit 5 includes a map information storage unit 7 that stores map information. The map information storage unit 7 can be realized in any storage device (such as a recording medium or a hard disk drive). The navigation unit 5 can read the map information stored in the map information storage unit 7 and display it on the display screen of a predetermined display device (or HUD 4).

この実施例では、地図情報記憶部7に記憶された地図情報において、検出すべき対象物が出没する可能性のある位置に、該出没する可能性があることを示す情報(以下、出没可能性情報)が設定されている。以下の実施例では、検出すべき対象物は、動物である。動物は、出没する場所が限定されていることが多く、予め予測しやすいという特徴がある。出没する可能性のある場所が予めわかれば、カメラによって撮像された対象物が動物かどうかを判定する処理を、その場所についてのみ行えばよい。こうすることにより、動物判定処理を実行する頻度が低減されるので、処理の負荷を低減させることができる。   In this embodiment, in the map information stored in the map information storage unit 7, information indicating that there is a possibility of appearing and appearing at a position where an object to be detected may appear and appear (hereinafter, possibility of appearing and appearing). Information) is set. In the following examples, the object to be detected is an animal. Animals often have limited places where they appear and are characterized by being easy to predict in advance. If a place where there is a possibility of appearing in advance is known in advance, the process for determining whether the object imaged by the camera is an animal may be performed only for that place. By doing so, the frequency of executing the animal determination process is reduced, so that the processing load can be reduced.

ここで、動物の出没可能性情報について、図3を参照しながら説明する。図3(a)は、第1の実施例に従う、出没可能性情報を示す。地図情報において、動物が出没する可能性がある位置について、出没可能性があることを示すデータが関連づけられて記憶されており、この実施例では、該データとして出没フラグを用いている。たとえば、地図情報における各位置A1、A2、...について、値1を持つ出没フラグが設定されて記憶されており、これは、これらの位置A1、A2、...が、何らかの動物が出没する可能性のある位置であることを表している。したがって、地図情報を参照することにより、車両の現在位置が、動物の出没する可能性のある位置であるかどうかについて判断することができる。   Here, the animal possibility information will be described with reference to FIG. FIG. 3 (a) shows the hauntability information according to the first embodiment. In the map information, data indicating that there is a possibility of appearing is stored in association with the position where the animal is likely to appear, and in this embodiment, the appearance flag is used as the data. For example, each position A1, A2,. . . , A haunting flag having a value of 1 is set and stored, which is stored in these positions A1, A2,. . . Indicates that there is a possibility that some animal will appear. Therefore, by referring to the map information, it is possible to determine whether or not the current position of the vehicle is a position where an animal may appear or disappear.

出没する可能性があるかどうかについての情報は、任意のソース(源)から取得することができる。たとえば、道路には、図4に示すように、動物に関する標識が設置されている。図4の(a)は、鹿が出没する可能性のあることを示し、(b)は、牛が出没する可能性のあることを示し、(c)は、熊が出没する可能性のあることを示す標識である。これらの標識が設置されている位置について、図3(a)のように出没フラグを設定して地図情報に記憶することができる。   Information about whether or not there is a possibility of appearing can be obtained from any source. For example, as shown in FIG. 4, signs related to animals are installed on the road. FIG. 4 (a) shows that a deer can possibly invade, (b) shows that a cow can possibly invade, and (c) shows that a bear may appear. It is a sign indicating that. About the position where these signs are installed, an appearance flag can be set and memorize | stored in map information like Fig.3 (a).

さらに、動物が過去に出没したという事実に関する情報、車両が動物と衝突したという事故に関する情報等を、任意の情報源(たとえば、何らかの機関からのニュース等)から取得して、図3(a)のように地図情報に予め登録することができる。   Further, information on the fact that the animal has appeared in the past, information on the accident that the vehicle collided with the animal, etc. are obtained from an arbitrary information source (for example, news from some organization, etc.), and FIG. As described above, it can be registered in advance in the map information.

さらに、ユーザが、図3(a)のような情報を登録することができるようにしてもよい。たとえば、HUD4上に表示された地図情報上で、ユーザが、出没可能性のある位置を指定し、画像処理ユニット2は、該指定された位置について、出没フラグを設定して地図情報に記憶することができる。   Further, the user may be able to register information as shown in FIG. For example, on the map information displayed on the HUD 4, the user designates a position where there is a possibility of appearing and the image processing unit 2 sets an appearing flag for the designated position and stores it in the map information. be able to.

好ましくは、図3(a)に示すように、各位置A1、A2、...について、各位置を含むよう所定区間が設定される。所定区間は、任意の範囲とすることができる。たとえば、位置A1に対する区間B1は、位置A1が存在する道路において、位置A1を中心として前後1キロメートル(合計2キロメートル)の区間とすることができる。代替的に、区間B1を、位置A1を中心として半径aキロメートル(aは、たとえば1キロメートル)のように設定してもよい。所定区間を設定することにより、動物の出没する可能性のある区間(地域)を、余裕をもって設定することができる。   Preferably, as shown in FIG. 3 (a), each position A1, A2,. . . Is set to include each position. The predetermined section can be an arbitrary range. For example, the section B1 with respect to the position A1 can be a section of 1 km before and after the position A1 (total 2 kilometers) on the road where the position A1 exists. Alternatively, the section B1 may be set to have a radius a kilometer (a is 1 kilometer, for example) with the position A1 as the center. By setting the predetermined section, it is possible to set a section (area) where an animal may appear and appear with a margin.

このような所定区間が設定される場合には、地図情報の各区間B1、B2、...に対し、出没可能性を示す情報(この実施例では、出没フラグ)が設定されて記憶される。   When such a predetermined section is set, each section B1, B2,. . . On the other hand, information indicating the possibility of appearance (in this embodiment, an appearance flag) is set and stored.

図3(b)は、第2の実施例に従う出没可能性情報を示しており、動物の種類を示す情報が、出没可能性情報として各位置に関連づけられて地図情報に記憶される。たとえば、地図情報の位置A1について設定されている動物の種類は鹿であり、これは、地図情報の位置A1において鹿が出没する可能性があることを示す。動物は、種類ごとに形状が異なるので、このような動物の種類を設定することにより、その位置で起動すべき動物判定処理を的確に選択することができる。   FIG. 3B shows the possibility of appearance according to the second embodiment, and information indicating the type of animal is stored in the map information in association with each position as possibility information. For example, the type of animal set for the map information position A1 is a deer, which indicates that a deer may appear at the map information position A1. Since the shape of an animal differs depending on the type, by setting such an animal type, it is possible to accurately select an animal determination process to be activated at that position.

何の種類の動物が出没する可能性があるかという情報については、図3(a)の所で述べたのと同様に、標識情報、何らかの情報源からの出没情報等から取得することができ、また、ユーザからの登録によって設定してもよい。たとえば、図4(a)の場合、標識は「鹿」を表しているので、この標識が設置されている位置については、「鹿」が動物の種類として登録されている。   Information on what kind of animals may be infested can be obtained from the sign information, the infestation information from some information source, etc., as described in FIG. 3 (a). Alternatively, it may be set by registration from the user. For example, in the case of FIG. 4A, since the sign represents “deer”, “deer” is registered as the animal type at the position where this sign is installed.

なお、図3(b)の各位置A1、A2、...に代えて、図3(a)の所定区間B1、B2、...を用いてもよい。   In addition, each position A1, A2,. . . Instead of the predetermined sections B1, B2,. . . May be used.

図3(c)は、第3の実施例に従う出没可能性情報を示し、動物の種類だけでなく、その種類の動物の大きさを示す情報が、出没可能性情報として各位置に関連づけられて地図情報に記憶されている。たとえば、地図情報の位置A1について設定されている動物の種類は「鹿」であり、その大きさは、頭胴長が140センチメートルおよび肩高が95センチメートルである。これは、位置A1において、この大きさの鹿が出没する可能性があることを示す。   FIG. 3C shows the possibility of appearance according to the third embodiment. In addition to the type of animal, information indicating the size of the animal of that type is associated with each position as possibility information. Stored in map information. For example, the type of animal set for the position A1 of the map information is “deer”, and the size is 140 cm for the head and trunk length and 95 cm for the shoulder height. This indicates that a deer of this size may appear at the position A1.

ここで、参考までに図5を参照すると、様々な「鹿」についての平均的な大きさが示されている。同じ「鹿」という種類でも、生息地域によってさらに細分化された種類の鹿が存在し(ニホンジカからワビチまでが、鹿である)、これらの鹿は、互いに大きさが異なっている。図3(c)の位置A1については、ニホンジカの大きさが登録されていることがわかる。   Here, referring to FIG. 5 for reference, the average size for various “deers” is shown. Even with the same type of “deer”, there are types of deer that are further subdivided according to the habitat (deer from sika deer to wabiti are deer), and these deers are different in size. It can be seen that the size of sika deer is registered at position A1 in FIG.

このように、どのような大きさのどのような種類の動物が出没する可能性があるかについて地図情報に設定することにより、どのような種類の動物の判定処理を行えばよいかだけでなく、どのような大きさの動物を判定すべきかを見極めることができる。   In this way, not only what kind of animal should be determined by setting the map information about what kind of animal of what size and size may appear. , You can determine what size animal should be judged.

出没する可能性がある動物の大きさがどのくらいかという情報については、図3(a)および(b)の所で述べたのと同様に、標識情報、何らかの情報源からの出没情報等から取得することができ、また、ユーザからの登録によって設定してもよい。   Information on the size of animals that may appear is obtained from sign information, appearance information from some information source, etc., as described in FIGS. 3 (a) and 3 (b). It may also be set by registration from the user.

なお、図3(c)の各位置A1、A2、...に代えて、図3(a)の所定区間B1、B2、...を用いてもよい。   In addition, each position A1, A2,. . . Instead of the predetermined sections B1, B2,. . . May be used.

上で述べたように、この実施例では、図3に示す出没可能性情報は、ナビゲーションユニット5の地図情報記憶部7の地図情報に予め記憶される。地図情報が、たとえば記憶媒体からの読み込みを介して更新される場合には、出没可能性情報も同じタイミングで更新されるようにしてもよい。また、ナビゲーションユニット5に、サーバ等の所定のコンピュータとの通信機能を搭載し、通信を介して配信された情報で地図情報を更新する場合には、出没可能性情報も同様に更新されることができる。代替的に、地図情報とは別個に図3のようなテーブルを記憶装置(メモリでもよいし、記憶媒体やハードディスクでもよい)に記憶するようにしてもよい。   As described above, in this embodiment, the appearance possibility information shown in FIG. 3 is stored in advance in the map information of the map information storage unit 7 of the navigation unit 5. When the map information is updated through, for example, reading from a storage medium, the appearance possibility information may be updated at the same timing. In addition, when the navigation unit 5 is equipped with a communication function with a predetermined computer such as a server and the map information is updated with information distributed via communication, the appearance possibility information is also updated in the same manner. Can do. Alternatively, a table as shown in FIG. 3 may be stored in a storage device (a memory, a storage medium, or a hard disk) separately from the map information.

また、ナビゲーションユニット5の通信機能を利用して、出没可能性情報をリアルタイムに取得するようにしてもよい。たとえば、車両は、所定のコンピュータ(サーバ等)と通信し、該サーバには、出没可能性情報が記憶されている。車両は、車両の現在位置をサーバに送信し、サーバは、該現在位置について出没可能性情報が設定されていれば、それを車両に知らせることができる。また、既存のVICSシステム等の交通情報を車両に提供するシステムを利用し、該交通情報の一貫として出没可能性情報を車両に送信するようにしてもよい。   Moreover, you may make it acquire the appearance possibility information in real time using the communication function of the navigation unit 5. For example, the vehicle communicates with a predetermined computer (server or the like), and habitability information is stored in the server. The vehicle transmits the current position of the vehicle to the server, and the server can notify the vehicle of the presence / absence possibility information for the current position. Alternatively, a system that provides traffic information to the vehicle such as an existing VICS system may be used, and the habitability information may be transmitted to the vehicle as part of the traffic information.

さらに、地図情報への出没可能性情報の記憶と、リアルタイムによる出没可能性情報の取得とを組み合わせてもよい。たとえば、動物に関する標識および過去の出没情報に基づいて、地図情報に予め出没可能性情報を記憶し、地図情報には未だ記憶されていない新たな出没情報についてはリアルタイムに通信で取得するようにしてもよい。   Furthermore, you may combine storage of the possibility information in map information with acquisition of the possibility information in real time. For example, based on animal signs and past appearance information, map information may be stored in advance, and new appearance information that is not yet stored in map information may be acquired in real time via communication. Also good.

図6は、この発明の一実施例に従う、画像処理ユニット2によって実行されるプロセスを示すフローチャートである。該プロセスは、所定の時間間隔で実行される。   FIG. 6 is a flowchart illustrating a process performed by the image processing unit 2 according to one embodiment of the present invention. The process is performed at predetermined time intervals.

ステップS11〜S13において、カメラ1Rおよび1Lの出力信号(すなわち、撮像画像のデータ)を入力として受け取り、これをA/D変換して、画像メモリに格納する。格納される画像データは、輝度情報を含んだグレースケール画像である。   In steps S11 to S13, the output signals of the cameras 1R and 1L (that is, captured image data) are received as input, A / D converted, and stored in the image memory. The stored image data is a gray scale image including luminance information.

ステップS14において、カメラ1Rで撮像された右画像を基準画像とし(代替的に、左画像を基準画像としてもよい)、その画像信号の2値化を行う。具体的には、予めシミュレーション等によって決定される輝度閾値ITHより明るい領域を「1」(白)とし、暗い領域を「0」(黒)とする処理を行う。この2値化処理により、所定の温度より高い対象物が、白領域として抽出される。   In step S14, the right image captured by the camera 1R is used as a reference image (alternatively, the left image may be used as a reference image), and the image signal is binarized. Specifically, a process is performed in which a region brighter than the luminance threshold ITH determined in advance by simulation or the like is set to “1” (white) and a dark region is set to “0” (black). By this binarization process, an object higher than a predetermined temperature is extracted as a white region.

ステップS15において、2値化した画像データを、ランレングスデータに変換する。具体的には、2値化により白となった領域について、各画素行の該白領域(ラインと呼ぶ)の開始点(各ラインの左端の画素)の座標と、開始点から終了点(各ラインの右端の画素)までの長さ(画素数で表される)とで、ランレングスデータを表す。たとえば、y座標がy1である画素行における白領域が、(x1,y1)から(x3,y1)までのラインであるとすると、このラインは3画素からなるので、(x1,y1,3)というランレングスデータで表される。   In step S15, the binarized image data is converted into run-length data. Specifically, with respect to an area that has become white due to binarization, the coordinates of the start point (the leftmost pixel of each line) of the white area (referred to as a line) in each pixel row, and the start point to the end point (each The run length data is represented by the length (expressed by the number of pixels) up to the pixel on the right end of the line. For example, if the white region in the pixel row whose y coordinate is y1 is a line from (x1, y1) to (x3, y1), this line consists of three pixels, so (x1, y1, 3) This is represented by run-length data.

ステップS16およびS17において、対象物のラベリングを行い、対象物を抽出する処理を行う。すなわち、ランレングスデータ化したラインのうち、y方向に重なる部分のあるラインを合わせて1つの対象物とみなし、これにラベルを付与する。こうして、1または複数の対象物が抽出される。   In steps S16 and S17, the object is labeled and a process for extracting the object is performed. That is, of the lines converted into run length data, a line having a portion overlapping in the y direction is regarded as one object, and a label is given thereto. Thus, one or a plurality of objects are extracted.

なお、以上の処理に加え、過去の複数の撮像画像について、同一対象物を追跡(トラッキング)すると共に、対象物への距離を、カメラ1Rおよび1Lの2枚の撮像画像に基づいて算出し、対象物が、車両の周辺の所定範囲に存在するかどうか、および該所定範囲に侵入するおそれがあるかどうかを判定するようにしてもよい。これらの処理の詳細は、たとえば特開2001−006096号公報に記載されている。   In addition to the above processing, for a plurality of past captured images, the same object is tracked (tracked), and the distance to the object is calculated based on the two captured images of the cameras 1R and 1L. You may make it determine whether a target object exists in the predetermined range around a vehicle, and whether there exists a possibility of entering the predetermined range. Details of these processes are described in, for example, JP-A-2001-006096.

ステップS21〜S28は、こうして抽出された対象物が何であるかを判定する処理を示す。ステップS21において、対象物が人工構造物かどうかを判定する。人工構造物でないと判定されたならば(ステップS21がNo)、ステップS22において、対象物が歩行者かどうかを判定する。歩行者であると判定されたならば(ステップS22がYes)、対象物は警報の対象である警報対象物と判定される(ステップS27)。人工構造物であると判定されたならば(ステップS21がYes)、および歩行者でないと判定されたならば(ステップS22がNo)、ステップS23において、動物判定処理の要否判断処理を行う。これについては、図7〜図9を参照して後述される。   Steps S <b> 21 to S <b> 28 indicate processing for determining what is the target object thus extracted. In step S21, it is determined whether the object is an artificial structure. If it is determined that the object is not an artificial structure (No in step S21), it is determined in step S22 whether the object is a pedestrian. If it is determined that the user is a pedestrian (Yes in step S22), the target is determined to be an alarm target that is an alarm target (step S27). If it is determined that the object is an artificial structure (step S21 is Yes), and if it is determined that the object is not a pedestrian (step S22 is No), an animal determination process necessity determination process is performed in step S23. This will be described later with reference to FIGS.

ステップS24において、ステップS23の結果を調べ、動物判定処理が必要ならば(ステップS24がYes)、ステップS25に進み、対象物が動物かどうかを判定する動物判定処理を実行する。ステップS26において、動物判定処理の結果を調べ、対象物が動物であると判定されたならば(ステップS26がYes)、対象物が警報対象物であると判定する(ステップS27)。対象物が警報対象物であると判定されたならば、運転者に対して警報を出力する。警報は、任意の形態で出力されることができ、HUD4の表示画面4a上に、対象物を強調表示(たとえば、対象物を枠で囲んで表示)してもよいし、スピーカ3を介して対象物が存在することを運転者に知らせてもよい。   In step S24, the result of step S23 is examined, and if an animal determination process is necessary (Yes in step S24), the process proceeds to step S25 to execute an animal determination process for determining whether the object is an animal. In step S26, the result of the animal determination process is examined, and if it is determined that the object is an animal (Yes in step S26), it is determined that the object is an alarm object (step S27). If it is determined that the object is an alarm object, an alarm is output to the driver. The alarm can be output in any form, and the target object may be highlighted (for example, displayed by enclosing the target object in a frame) on the display screen 4 a of the HUD 4 or via the speaker 3. The driver may be informed that the object is present.

他方、動物判定処理が必要とされなければ(ステップS24がNo)、および動物判定処理の結果が動物ではないと判定されたならば(ステップS26がNo)、対象物は警報対象物ではないと判定する(ステップS28)。   On the other hand, if the animal determination process is not required (No in step S24), and if the result of the animal determination process is determined not to be an animal (No in step S26), the object is not an alarm object. Determination is made (step S28).

ここで、対象物が人工構造物かどうかを判定する処理、歩行者かどうかを判定する処理、および動物かどうかを判定する処理は、任意の適切な手法で実現されることができる。たとえば、人工構造物を判定する処理については、特開2007−310705号公報、特開2008−276787号公報等に記載されている。たとえば、歩行者かどうかを判定する処理は、特開2007−241740号公報、特開2007−334751号公報等に記載されている。たとえば、動物かどうかを判定する処理は、特開2007−310705号公報、特開2007−310706号公報等に記載されている。
図7は、第1の実施例に従う、ステップS23で実行される動物判定要否判断処理のフローを示す。第1の実施例では、図3(a)を参照して説明した出没可能性情報を用いる。したがって、地図情報には、何らかの動物が出没する可能性がある所定区間について出没フラグが設定されている。
Here, the process of determining whether the object is an artificial structure, the process of determining whether it is a pedestrian, and the process of determining whether it is an animal can be realized by any appropriate technique. For example, the process for determining an artificial structure is described in Japanese Patent Application Laid-Open No. 2007-310705, Japanese Patent Application Laid-Open No. 2008-276787, and the like. For example, the process for determining whether a person is a pedestrian is described in Japanese Patent Application Laid-Open No. 2007-241740, Japanese Patent Application Laid-Open No. 2007-334751, and the like. For example, the process for determining whether or not an animal is described in JP 2007-310705 A, JP 2007-310706 A, and the like.
FIG. 7 shows the flow of the animal determination necessity determination process executed in step S23 according to the first embodiment. In the first embodiment, the appearance possibility information described with reference to FIG. Accordingly, in the map information, a haunting flag is set for a predetermined section in which some animal may haunt.

ステップS31において、ナビゲーションユニット5を介して、車両の現在位置を取得する。ステップS32において、地図情報記憶部7に記憶された地図情報を参照し、図3(a)を参照して説明した出没フラグが設定されている所定区間内に、該現在位置が含まれるかどうかを判断する。該所定区間内に該現在位置が含まれるのであれば(ステップS32がYes)、該現在位置において何らかの動物が出没する可能性があることを示すので、ステップS33において、動物判定処理が必要であると判定する。車両の現在位置が該所定区間内でなければ(ステップS32がNo)、該現在位置において動物が出没する可能性はほぼ無いと考えることができるので、ステップS34において、動物判定処理は不要(否)と判定する。   In step S31, the current position of the vehicle is acquired via the navigation unit 5. Whether or not the current position is included in the predetermined section in which the appearance flag described with reference to FIG. 3A is set with reference to the map information stored in the map information storage unit 7 in step S32 Judging. If the current position is included in the predetermined section (Yes in step S32), it indicates that there is a possibility that some animal may appear and disappear at the current position, so an animal determination process is required in step S33. Is determined. If the current position of the vehicle is not within the predetermined section (No in step S32), it can be considered that there is almost no possibility that an animal will appear and disappear at the current position. ).

図6を参照して説明したように、動物判定処理が必要と判定されたならば、ステップS24の判断がYesとなるので、ステップS25で動物判定処理を実行し、対象物が動物かどうかを判定する。他方、動物判定処理が不要と判定されたならば、ステップS24の判断はNoとなるので、動物判定処理を実行することなく、ステップS28に進む。   As described with reference to FIG. 6, if it is determined that the animal determination process is necessary, the determination in step S <b> 24 is Yes. Therefore, the animal determination process is executed in step S <b> 25 to determine whether the object is an animal. judge. On the other hand, if it is determined that the animal determination process is unnecessary, the determination in step S24 is No, and the process proceeds to step S28 without executing the animal determination process.

こうして、動物が出没する可能性がある区間として設定された所定区間を車両が走行している間のみ、動物判定処理を起動し、該所定区間以外を走行している間は、動物判定処理を起動しない。したがって、動物判定処理を常時起動する必要がないので、処理の負荷を低減することができる。また、動物が出没する可能性のある区間については動物判定処理を実行するので、動物が出没したならば、より確実にその動物を検出することができる。   Thus, the animal determination process is activated only while the vehicle is traveling in a predetermined section set as a section where an animal may appear and appears, and the animal determination process is performed while the vehicle is traveling outside the predetermined section. It does not start. Therefore, since it is not necessary to always start the animal determination process, the processing load can be reduced. In addition, since the animal determination process is executed for the section where the animal may appear, if the animal appears, the animal can be detected more reliably.

なお、この実施例では、図3(a)を参照して説明した「所定区間」を用いている。前述したように、「所定区間」が設定されていなくてもよく、この場合、ステップS32において、車両の現在位置について出没フラグが設定されているかどうかを判断し、出没フラグが設定されていれば、動物判定処理が必要と判定し、出没フラグが設定されていなければ、動物判定処理が必要ではないと判定する。   In this embodiment, the “predetermined section” described with reference to FIG. As described above, the “predetermined section” may not be set. In this case, in step S32, it is determined whether the appearance flag is set for the current position of the vehicle, and if the appearance flag is set. It is determined that the animal determination process is necessary, and if the appearance flag is not set, it is determined that the animal determination process is not necessary.

また、図6を参照して述べた対象物の判定は、典型的には、画像処理ユニット2(図1)のCPUがメモリに予め記憶された対象物判定のプログラムを実行することにより実現される。したがって、「動物判定処理」は、より具体的には、プログラム中に記述された動物判定のアルゴリズムを示すが、このアルゴリズムのプログラムへの実装形態は、任意である。すなわち、動物判定のアルゴリズムを、他の歩行者判定等のアルゴリズムとは別のプログラムに実装してもよいし、他の歩行者判定等のプログラムの一部として実装してもよい。いずれの場合にも、「動物判定処理を実行する」とは、動物判定のアルゴリズム部分を実行するということであり、「動物判定処理を実行しない」とは、動物判定のアルゴリズム部分を実行しないということであり、このことは、以下の実施例にも同様に当てはまる。   The determination of the object described with reference to FIG. 6 is typically realized by the CPU of the image processing unit 2 (FIG. 1) executing an object determination program stored in advance in the memory. The Therefore, more specifically, “animal determination processing” indicates an algorithm for animal determination described in the program, but the implementation form of this algorithm in the program is arbitrary. That is, the animal determination algorithm may be implemented in a program different from other algorithms such as pedestrian determination, or may be implemented as a part of another program such as pedestrian determination. In either case, “execute the animal determination process” means that the animal determination algorithm part is executed, and “do not execute the animal determination process” means that the animal determination algorithm part is not executed. This is true for the following examples as well.

図8は、第2の実施例に従う、ステップS23で実行される動物判定要否判断処理のフローを示す。第2の実施例では、図3(b)を参照して説明した出没可能性情報を用いる。したがって、地図情報には、動物が出没する可能性がある位置について、該出没する動物の種類が設定されている。また、第2の実施例では、動物の種類毎に、動物判定処理が用意されている。たとえば、「鹿」については、鹿用の動物判定処理(前述したように、アルゴリズムである)、「熊」については、熊用の動物判定処理、および「馬」については、馬用の動物判定処理が予め用意され、所定のプログラムに組み込まれてメモリに記憶されている。   FIG. 8 shows a flow of the animal determination necessity determination process executed in step S23 according to the second embodiment. In the second embodiment, the appearance possibility information described with reference to FIG. 3B is used. Therefore, in the map information, the type of the animal that appears is set for the position where the animal may appear. In the second embodiment, an animal determination process is prepared for each type of animal. For example, for “deer”, animal determination processing for deer (which is an algorithm as described above), for “bear”, animal determination processing for bear, and for “horse”, animal determination for horse Processing is prepared in advance, and is incorporated into a predetermined program and stored in a memory.

ステップS41において、ナビゲーションユニット5を介して、車両の現在位置を取得する。ステップS42において、地図情報記憶部7に記憶された地図情報を参照し、該現在位置について、図3(b)を参照して説明した動物の種類に関する情報が設定されているかどうかを判断する。設定されていれば(ステップS42がYes)、該現在位置において該設定されている種類の動物が出没する可能性があることを示すので、ステップS43において、該設定されている種類の動物用に用意された動物判定処理を選択する。たとえば、現在位置について「鹿」という動物の種類が設定されていれば、鹿用に用意された動物判定処理を選択する。その後、ステップS44において、動物判定処理が必要であると判定する。他方、ステップS42において、現在位置について動物の種類に関する情報が設定されていなければ、現在位置において動物が出没する可能性はほぼ無いと考えることができるので、ステップS45において、動物判定処理が不要(否)と判定する。   In step S41, the current position of the vehicle is obtained via the navigation unit 5. In step S42, the map information stored in the map information storage unit 7 is referred to, and it is determined whether or not the information regarding the type of animal described with reference to FIG. If it is set (Yes in step S42), it indicates that there is a possibility that the set type of animal will appear at the current position. Therefore, in step S43, for the set type of animal. Select the prepared animal judgment process. For example, if the animal type “deer” is set for the current position, the animal determination process prepared for the deer is selected. Thereafter, in step S44, it is determined that an animal determination process is necessary. On the other hand, if information on the type of animal is not set for the current position in step S42, it can be considered that there is almost no possibility that an animal will appear at the current position. NO).

図6を参照して説明したように、動物判定処理が必要と判定されたならば、ステップS24の判断がYesとなるので、ステップS25で、上記ステップS43で選択された動物判定処理(アルゴリズム)のみを実行し(したがって、選択されなかった種類の動物の動物判定処理(アルゴリズム)は実行されない)、対象物が動物かどうかを判定する。他方、動物判定処理が不要と判定されたならば、ステップS24の判断はNoとなるので、動物判定処理を実行することなく、ステップS28に進む。   As described with reference to FIG. 6, if it is determined that the animal determination process is necessary, the determination in step S <b> 24 is Yes, so that the animal determination process (algorithm) selected in step S <b> 43 in step S <b> 25. Only (therefore, the animal determination process (algorithm) of the non-selected type of animal is not executed), and it is determined whether or not the object is an animal. On the other hand, if it is determined that the animal determination process is unnecessary, the determination in step S24 is No, and the process proceeds to step S28 without executing the animal determination process.

なお、図3(b)において、前述したように「所定区間」が設定されている場合には、ステップS42において、ステップS41で取得した現在位置が、動物の種類に関する情報が設定されている所定区間内かどうかを判断し、所定区間内であると判定されたならばステップS43に進み、所定区間外であると判定されたならばステップS45に進むこととなる。   In FIG. 3B, when the “predetermined section” is set as described above, in step S42, the current position acquired in step S41 is a predetermined position in which information on the type of animal is set. It is determined whether or not it is within a section, and if it is determined that it is within the predetermined section, the process proceeds to step S43, and if it is determined that it is outside the predetermined section, the process proceeds to step S45.

また、前述したように、「動物判定処理」は、より具体的には動物判定のアルゴリズムであるから、鹿用のアルゴリズム、熊用のアルゴリズム等があるが、これらのアルゴリズムのプログラムへの実装形態は、任意である。すなわち、鹿用のアルゴリズムを、熊用のアルゴリズムとは別のプログラムに実現してもよいし、1つのプログラムに、鹿用のアルゴリズムおよび熊用のアルゴリズムを含めてもよい。   In addition, as described above, the “animal determination processing” is more specifically an algorithm for animal determination, so there are algorithms for deer, algorithms for bears, and the like. Is optional. That is, the deer algorithm may be realized as a program different from the bear algorithm, or the deer algorithm and the bear algorithm may be included in one program.

図7を参照して述べた効果は、この第2の実施例にも同様にあてはまる。さらに、この実施例による効果を述べると、従来、撮像画像から抽出された対象物が動物かどうかを判定するのに、動物に共通の特徴が該対象物に存在するかどうかを調べることにより行っていた。たとえば、特開2007−310705号公報では、四足動物の胴部は一般に楕円形状をしているので、この楕円形状が対象物に存在するかどうかを調べている。   The effect described with reference to FIG. 7 applies to the second embodiment as well. Further, the effect of this embodiment will be described. Conventionally, in order to determine whether or not an object extracted from a captured image is an animal, it is performed by examining whether or not a feature common to animals exists. It was. For example, in Japanese Patent Application Laid-Open No. 2007-310705, since the torso of a quadruped animal generally has an elliptical shape, it is examined whether or not this elliptical shape exists in the object.

しかしながら、より良好な精度で対象物を判定するには、その対象物が何の動物なのかを特定するのが好ましい。そのため、上で述べたようにこの実施例では、動物の種類毎に動物判定処理が用意されており、各動物判定処理は、その種類の動物かどうかを決定するための処理ロジックを含むことができる。典型的には、動物は、種類毎にその形状が異なるので、或る種類の動物判定処理は、その種類の動物の形状が対象物に存在するかどうかを調べる処理ロジックを含む。たとえば、鹿用の動物判定処理は、撮像画像から、鹿に相当する大きさの形状を有する対象物を抽出し、周知の形状マッチング(パターンマッチング)を用いて、抽出した対象物と、予め用意され鹿を模したパターンとをマッチングさせて両者の類似度を算出し、類似度が高ければ、該対象物は鹿であると判定する。熊用の動物判定処理では、熊に相当する大きさの対象物が抽出され、形状マッチングでは熊を模したパターンが用いられる。たとえば特開2007―310706号公報には、このような手法を用いて鹿を判定することが記載されている。また、動物の種類によっては、その移動速度が異なることがあるので、移動速度を考慮した動物判定処理としてもよい。たとえば、鹿用の動物判定処理では、撮像画像内の対象物を時系列に追跡し、その移動速度が「鹿」の移動速度として設定された所定範囲内かどうかを判定することができる。   However, in order to determine an object with better accuracy, it is preferable to specify what animal the object is. Therefore, as described above, in this embodiment, an animal determination process is prepared for each type of animal, and each animal determination process may include processing logic for determining whether or not the animal is of that type. it can. Typically, since the shape of an animal is different for each type, a certain type of animal determination processing includes processing logic for checking whether the shape of the type of animal exists in the object. For example, in the deer animal determination process, an object having a shape corresponding to a deer is extracted from a captured image, and the extracted object is prepared in advance using known shape matching (pattern matching). Then, the similarity between the two is calculated by matching with a pattern imitating a deer, and if the similarity is high, it is determined that the object is a deer. In the animal determination process for a bear, an object having a size corresponding to a bear is extracted, and a pattern imitating a bear is used in shape matching. For example, Japanese Patent Laid-Open No. 2007-310706 describes that a deer is determined using such a method. In addition, depending on the type of animal, the moving speed may be different, so the animal determination process may be performed in consideration of the moving speed. For example, in a deer animal determination process, an object in a captured image can be tracked in time series, and it can be determined whether the moving speed is within a predetermined range set as the moving speed of “deer”.

抽出された対象物に対し、予め用意されたすべての種類の動物の動物判定処理を実行すれば、該対象物がどの種類の動物かを判定することができる。しかしながら、このやり方では、動物の種類が多いほど処理の負荷が増大し、処理時間がかかる。この発明の第2の実施例に従えば、各位置(所定区間)について、出没する可能性のある種類の動物が予め予測されているので、この種類の動物用の動物判定のみを行えばよい。したがって、従来の手法に比べて、処理の負荷を軽減することができる。   If animal determination processing of all types of animals prepared in advance is performed on the extracted target object, it is possible to determine which type of animal the target object is. However, in this method, as the number of animal types increases, the processing load increases and processing time increases. According to the second embodiment of the present invention, for each position (predetermined section), a kind of animal that may appear and disappear is predicted in advance, and therefore it is only necessary to perform animal determination for this kind of animal. . Therefore, the processing load can be reduced as compared with the conventional method.

図9は、第3の実施例に従う、ステップS23で実行される動物判定要否判断処理のフローを示す。第3の実施例では、図3(c)を参照して説明した出没可能性情報を用いる。したがって、動物が出没する可能性がある位置について、該出没する動物の種類およびその大きさが地図情報に設定されている。なお、この実施例では、後述するように、大きさに関する情報は必ずしも設定されていなくてもよい。また、第3の実施例では、第2の実施例と同様に、動物の種類毎に別個の動物判定処理(アルゴリズム)が用意されている。   FIG. 9 shows a flow of the animal determination necessity determination process executed in step S23 according to the third embodiment. In the third embodiment, the appearance possibility information described with reference to FIG. 3C is used. Therefore, for the position where the animal may appear, the type and size of the animal that appears are set in the map information. In this embodiment, as will be described later, the size information is not necessarily set. In the third embodiment, as in the second embodiment, a separate animal determination process (algorithm) is prepared for each animal type.

ステップS51において、ナビゲーションユニット5を介して、車両の現在位置を取得する。ステップS52において、地図情報記憶部7に記憶された地図情報を参照し、該現在位置について、図3(c)を参照して説明した動物の種類に関する情報が設定されているかどうかを判断する。設定されていなければ(ステップS52がNo)、現在位置において動物が出没する可能性はほぼ無いと考えることができるので、ステップS56において、動物判定処理が必要ではないと判定する。設定されていれば(ステップS52がYes)、該現在位置において、その種類の動物が出没する可能性があることを示す。   In step S51, the current position of the vehicle is acquired via the navigation unit 5. In step S52, the map information stored in the map information storage unit 7 is referred to, and it is determined whether or not the information regarding the type of animal described with reference to FIG. If it is not set (No in step S52), it can be considered that there is almost no possibility that an animal appears and disappears at the current position. Therefore, in step S56, it is determined that the animal determination process is not necessary. If it is set (Yes in step S52), it indicates that there is a possibility that an animal of that kind may appear at the current position.

ステップS53において、該現在位置について、大きさに関する情報が設定されているかどうかを判断する。大きさに関する情報が設定されていれば(ステップS53がYes)、ステップS54において、その大きさに関する情報に合わせて、動物判定処理内のパラメータを変更する。ステップS55において、動物判定処理は必要と判定する。   In step S53, it is determined whether or not size information is set for the current position. If the information on the size is set (Yes in step S53), the parameter in the animal determination process is changed in step S54 according to the information on the size. In step S55, it is determined that the animal determination process is necessary.

上記パラメータには、対象物が動物かどうかを判定するのに用いられる任意のパラメータが含まれる。たとえば、撮像画像から抽出された対象物が所定の大きさ(対象物に対する車両からの距離に応じて設定される)を有するかどうかについて判断されることがある。「所定の大きさ」を持つかどうかは閾値を用いて調べられるが、この閾値の値を、上記設定された大きさに関する情報に合わせて変更することができる。たとえば、鹿用の動物判定処理において、抽出された対象物が鹿の胴体かどうかを判断するのに、抽出された対象物が、鹿の頭胴長に相当する所定範囲(閾値)内にあるかどうかを判断することができる。この場合、車両の現在位置が位置A1であれば、該所定範囲を、位置A1についての大きさに関する情報(頭胴長が140センチメートル、肩高が95センチメートル)に合わせて、たとえば130〜150センチメートルを所定範囲に設定し、車両の現在位置が位置A2であれば、位置A2についての大きさに関する情報(頭胴長が255センチメートル、肩高が185センチメートル)に合わせて、たとえば245〜265センチメートルを所定範囲に設定する。このように、出没する可能性のある動物の大きさに従って閾値の大きさが適切に設定されるので、動物判定処理による判定精度を向上させることができる。   The parameters include any parameters used to determine whether the object is an animal. For example, it may be determined whether the object extracted from the captured image has a predetermined size (set according to the distance from the vehicle to the object). Whether or not it has a “predetermined size” is checked using a threshold value, and the value of this threshold value can be changed according to the information on the set size. For example, in the animal determination process for deer, in order to determine whether or not the extracted object is a deer's torso, the extracted object is within a predetermined range (threshold) corresponding to the deer's head torso length. You can judge whether or not. In this case, if the current position of the vehicle is the position A1, the predetermined range is adjusted to information on the size of the position A1 (head torso length is 140 centimeters, shoulder height is 95 centimeters). If 150 cm is set to a predetermined range and the current position of the vehicle is position A2, according to the information about the size of position A2 (head torso length is 255 cm, shoulder height is 185 cm), for example 245 to 265 centimeters are set to a predetermined range. Thus, since the threshold value is appropriately set according to the size of an animal that may appear and disappear, the determination accuracy by the animal determination process can be improved.

他方、ステップS53において、大きさに関する情報が設定されていなければ(ステップS53がNo)、動物判定処理を変更することなく(すなわち、ステップS54をスキップし)、ステップS55に進む。この場合、動物判定処理における閾値は、その種類の動物の取りうる大きさに適合するような値(初期値とすることができる)に設定される。たとえば、図5において、鹿の頭胴長の最小(ニホンジカ)は140センチメートルであり、最大(ヘラジカ)は255センチメートルであるので、上で述べたような鹿の胴部かどうかを判定するための所定範囲は、該最小および最大値を含むよう、たとえば130〜270センチメートルとすることができる。   On the other hand, if the size information is not set in step S53 (No in step S53), the process proceeds to step S55 without changing the animal determination process (that is, skipping step S54). In this case, the threshold value in the animal determination process is set to a value (can be an initial value) that matches the size that the animal of that type can take. For example, in FIG. 5, the minimum deer head torso length (sika deer) is 140 centimeters, and the maximum (elk) is 255 centimeters, so it is determined whether it is a deer torso as described above. The predetermined range for can be, for example, 130-270 centimeters to include the minimum and maximum values.

図6を参照して説明したように、動物判定処理が必要と判定されたならば、ステップS24の判断がYesとなるので、ステップS25で、上記変更された動物判定処理を実行し、対象物が動物かどうかを判定する。他方、動物判定処理が必要ではないと判定されたならば、ステップS24の判断はNoとなるので、動物判定処理を実行することなく、ステップS28に進む。   As described with reference to FIG. 6, if it is determined that the animal determination process is necessary, the determination in step S <b> 24 is Yes. Therefore, in step S <b> 25, the modified animal determination process is executed, and the object is detected. Determine if is an animal. On the other hand, if it is determined that the animal determination process is not necessary, the determination in step S24 is No, so the process proceeds to step S28 without executing the animal determination process.

なお、図3(c)において、前述したように所定区間が設定されている場合には、ステップS52において、ステップS41で取得した現在位置が、動物の種類に関する情報が設定されている所定区間内かどうかを判断し、所定区間内であると判定されたならばステップS53に進み、所定区間外であると判定されたならばステップS56に進む。   In FIG. 3C, when the predetermined section is set as described above, in step S52, the current position acquired in step S41 is within the predetermined section in which information on the type of animal is set. The process proceeds to step S53 if determined to be within the predetermined section, and proceeds to step S56 if determined to be outside the predetermined section.

図8および図9を参照して述べた効果は、この第3の実施例にも同様にあてはまる。さらに、この第3の実施例によれば、出没する可能性のある動物の大きさに適合するよう動物判定処理を変更するので、動物の判定精度を向上させることができる。   The effects described with reference to FIGS. 8 and 9 are similarly applied to the third embodiment. Furthermore, according to the third embodiment, since the animal determination process is changed to match the size of an animal that may appear and disappear, the accuracy of animal determination can be improved.

なお、第3の実施例では、動物の種類毎に動物判定処理が用意されているが、これに限定されず、すべての動物に適用可能なように動物判定処理を用意し、この動物判定処理を、大きさに関する情報を用いて変更するようにしてもよい。この場合、地図情報の各位置について、動物の種類に関する情報の設定は必ずしも必要とされず、動物の大きさに関する情報を対応づけて記憶してもよい。したがって、ステップS52では、現在位置について、動物の大きさに関する情報が設定されているかどうかを判断し、設定されていればステップS54に進み、設定されていなければステップS56に進む。   In the third embodiment, an animal determination process is prepared for each type of animal. However, the present invention is not limited to this, and an animal determination process is prepared so as to be applicable to all animals. May be changed using information about the size. In this case, it is not always necessary to set information regarding the type of animal for each position of the map information, and information regarding the size of the animal may be stored in association with each other. Therefore, in step S52, it is determined whether or not information regarding the size of the animal is set for the current position. If it is set, the process proceeds to step S54, and if not set, the process proceeds to step S56.

第1〜第3の実施例の出没可能性情報のうち、任意のものを組み合わせてよい。たとえば、図3(a)〜(c)を組み合わせて、所定区間(または、位置)のそれぞれについて、出没フラグを設定すると共に、オプションとして、動物の種類および大きさに関する情報を設定する。車両が所定区間内を走行している間、該所定区間について、オプションとして動物の種類および大きさの両方が設定されていれば、該大きさに合わせて、該種類の動物用の動物判定処理を変更して実行し、オプションとして動物の種類に関する情報のみが設定されていれば、該種類の動物用の動物判定処理を起動し、出没フラグのみが設定されていれば、一般の動物判定処理(動物かどうかを判定する処理であり、たとえば特開2007−310705号に記載の処理)を実行する。   Arbitrary information may be combined among the appearance possibility information of the first to third embodiments. For example, by combining FIGS. 3A to 3C, the appearance flag is set for each of the predetermined sections (or positions), and information on the type and size of the animal is set as an option. While the vehicle is traveling in a predetermined section, if both the animal type and size are set as an option for the predetermined section, an animal determination process for the type of animal is performed according to the size. If only the information on the animal type is set as an option, the animal determination process for that type of animal is started. If only the appearance flag is set, the general animal determination process is executed. (This is a process for determining whether or not an animal, for example, the process described in Japanese Patent Application Laid-Open No. 2007-310705).

なお、上記の実施形態では、検出すべき対象物が動物である場合について説明した。動物は、一般に、出没する地域が限定されることが多いため、本願発明は、動物を判定する場合により有効である。しかしながら、検出すべき対象物は、動物に必ずしも限定されるものではない。たとえば、図6に示すように、歩行者判定処理は常時実行されるが、この歩行者判定処理に加え、子供をより良好な精度で判定するための処理を、たとえばスクールゾーンの標識が設けられている所定区間についてのみ実行するような場合にも、本願発明は適用可能である。   In the above embodiment, the case where the object to be detected is an animal has been described. In general, an animal is often limited in the area where the animal appears, so the present invention is more effective in determining the animal. However, the object to be detected is not necessarily limited to animals. For example, as shown in FIG. 6, the pedestrian determination process is always executed. In addition to this pedestrian determination process, a process for determining a child with better accuracy is provided, for example, with a school zone sign. The present invention can also be applied to the case where only the predetermined section is executed.

なお、本願発明は、上記の実施形態に限られるものではなく、様々な変形形態が可能である。たとえば、上記実施形態では、撮像手段として赤外線カメラを使用したが、例えば通常の可視光線のみ検出可能な可視カメラを使用してもよい。しかしながら、赤外線カメラを用いることにより、対象物の抽出処理をより簡略化することができ、演算負荷を低減することができる。   In addition, this invention is not restricted to said embodiment, Various deformation | transformation forms are possible. For example, in the above embodiment, an infrared camera is used as the imaging unit. However, for example, a visible camera that can detect only normal visible light may be used. However, by using an infrared camera, the object extraction process can be further simplified, and the calculation load can be reduced.

また、上記の実施形態では、図1に示すように、2つの赤外線カメラを用いた構成となっているが、この発明は、1つの赤外線カメラまたは1つの可視カメラを用いて撮像された画像にも適用可能である。1つのカメラの場合、対象物までの距離値は、たとえばレーダなどを用いて検出するようにしてもよいし、該カメラの撮像画像において対象物が撮像された位置から対象物までの距離を推定するようにしてもよい。   In the above embodiment, as shown in FIG. 1, two infrared cameras are used. However, the present invention is applied to an image captured using one infrared camera or one visible camera. Is also applicable. In the case of one camera, the distance value to the object may be detected using, for example, a radar, or the distance from the position where the object is imaged to the object in the captured image of the camera is estimated. You may make it do.

以上のように、この発明の特定の実施形態について説明したが、本願発明は、これら実施形態に限定されるものではない。   As described above, specific embodiments of the present invention have been described. However, the present invention is not limited to these embodiments.

1R,1L 赤外線カメラ(撮像手段)
2 画像処理ユニット
3 スピーカ
4 ヘッドアップディスプレイ
1R, 1L infrared camera (imaging means)
2 Image processing unit 3 Speaker 4 Head-up display

Claims (3)

車両に搭載された撮像手段によって得られる撮像画像を用いて車両の周辺を監視する車両周辺監視装置であって、
前記車両が走行している位置を検出する手段と、
前記検出された位置について、検出すべき対象物が出没する可能性を示す出没可能性情報が設定されているかどうかを判断する判断手段と、
前記出没可能性情報が設定されていれば、前記撮像画像から抽出された対象物が前記検出すべき対象物かどうかを判定するための判定処理を起動する起動手段と、
を備える、車両周辺監視装置。
A vehicle periphery monitoring device that monitors the periphery of a vehicle using a captured image obtained by an imaging means mounted on the vehicle,
Means for detecting a position where the vehicle is traveling;
Determination means for determining whether or not the presence / absence possibility information indicating the possibility that the object to be detected appears and disappears is set for the detected position;
If the appearance possibility information is set, an activation unit that activates a determination process for determining whether an object extracted from the captured image is the object to be detected;
A vehicle periphery monitoring device comprising:
前記検出すべき対象物は動物であり、前記出没可能性情報は、該動物が出没する可能性を示す位置を含む所定区間に対して設定されており、
前記判断手段は、前記検出された位置が前記所定区間に含まれるかどうかを判断し、
前記起動手段は、前記判断手段によって前記検出された位置が前記所定区間に含まれると判断された場合にのみ、前記撮像画像から抽出された対象物が前記動物かどうかを判定するための判定処理を起動する、
請求項1に記載の車両周辺監視装置。
The object to be detected is an animal, and the possibility information is set with respect to a predetermined section including a position indicating the possibility that the animal appears.
The determining means determines whether the detected position is included in the predetermined section;
The activation means determines whether or not the object extracted from the captured image is the animal only when the determination means determines that the detected position is included in the predetermined section. Start up,
The vehicle periphery monitoring apparatus according to claim 1.
前記出没可能性情報は、出没する可能性のある動物の種類および該種類毎の動物の大きさのうちの少なくとも一方を含んでおり、
前記起動手段は、前記検出された位置について設定された前記出没可能性情報に含まれる動物の種類および該種類毎の動物の大きさの少なくとも一方に応じて、起動すべき前記判定処理を選択または変更する、
請求項1または2に記載の車両周辺監視装置。
The habitability information includes at least one of the types of animals that may appear and the size of the animals for each type,
The activation means selects or determines the determination process to be activated according to at least one of an animal type included in the appearance possibility information set for the detected position and an animal size for each type. change,
The vehicle periphery monitoring apparatus according to claim 1 or 2.
JP2009040490A 2009-02-24 2009-02-24 Vehicle periphery monitoring device Expired - Fee Related JP4988781B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2009040490A JP4988781B2 (en) 2009-02-24 2009-02-24 Vehicle periphery monitoring device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009040490A JP4988781B2 (en) 2009-02-24 2009-02-24 Vehicle periphery monitoring device

Publications (2)

Publication Number Publication Date
JP2010198166A true JP2010198166A (en) 2010-09-09
JP4988781B2 JP4988781B2 (en) 2012-08-01

Family

ID=42822855

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009040490A Expired - Fee Related JP4988781B2 (en) 2009-02-24 2009-02-24 Vehicle periphery monitoring device

Country Status (1)

Country Link
JP (1) JP4988781B2 (en)

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013092992A (en) * 2011-10-27 2013-05-16 Honda Motor Co Ltd Vehicle periphery monitoring device
JP2016134136A (en) * 2015-01-22 2016-07-25 キャンバスマップル株式会社 Image processing apparatus, and image processing program
CN106370162A (en) * 2015-07-24 2017-02-01 丰田自动车株式会社 Animal type determination device
WO2017081839A1 (en) * 2015-11-13 2017-05-18 パナソニックIpマネジメント株式会社 Moving body tracking method, moving body tracking device, and program
WO2019131062A1 (en) * 2017-12-27 2019-07-04 パイオニア株式会社 Determination device, information recording device, determination method, and determination program
JP2020102030A (en) * 2018-12-21 2020-07-02 トヨタ自動車株式会社 Drive assist device, vehicle, information provision device, drive assist system, and drive assist method
JP2020112862A (en) * 2019-01-08 2020-07-27 トヨタ自動車株式会社 Information processing device, information processing system, program, and information processing method
JP2020149175A (en) * 2019-03-12 2020-09-17 トヨタ自動車株式会社 Driving control system
JP2021036369A (en) * 2019-08-30 2021-03-04 ダイハツ工業株式会社 Vehicle guide system

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002029315A (en) * 2000-07-18 2002-01-29 Yasutsugu Ono Rear monitoring device and vehicular rear monitoring support device
JP2005238992A (en) * 2004-02-26 2005-09-08 Hitachi Ltd Vehicular control device
JP2008021035A (en) * 2006-07-11 2008-01-31 Fujitsu Ten Ltd Image recognition device, image recognition method, and vehicle control device

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002029315A (en) * 2000-07-18 2002-01-29 Yasutsugu Ono Rear monitoring device and vehicular rear monitoring support device
JP2005238992A (en) * 2004-02-26 2005-09-08 Hitachi Ltd Vehicular control device
JP2008021035A (en) * 2006-07-11 2008-01-31 Fujitsu Ten Ltd Image recognition device, image recognition method, and vehicle control device

Cited By (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013092992A (en) * 2011-10-27 2013-05-16 Honda Motor Co Ltd Vehicle periphery monitoring device
JP2016134136A (en) * 2015-01-22 2016-07-25 キャンバスマップル株式会社 Image processing apparatus, and image processing program
CN106370162A (en) * 2015-07-24 2017-02-01 丰田自动车株式会社 Animal type determination device
JP2017027430A (en) * 2015-07-24 2017-02-02 トヨタ自動車株式会社 Animal category determination apparatus
US9892329B2 (en) 2015-07-24 2018-02-13 Toyota Jidosha Kabushiki Kaisha Animal type determination device
CN106370162B (en) * 2015-07-24 2019-03-08 丰田自动车株式会社 Animal species decision maker
US10740907B2 (en) 2015-11-13 2020-08-11 Panasonic Intellectual Property Management Co., Ltd. Moving body tracking method, moving body tracking device, and program
WO2017081839A1 (en) * 2015-11-13 2017-05-18 パナソニックIpマネジメント株式会社 Moving body tracking method, moving body tracking device, and program
JPWO2017081839A1 (en) * 2015-11-13 2018-09-06 パナソニックIpマネジメント株式会社 MOBILE BODY TRACKING METHOD, MOBILE BODY TRACKING DEVICE, AND PROGRAM
JPWO2019131062A1 (en) * 2017-12-27 2021-01-07 パイオニア株式会社 Judgment device and information recording device, judgment method and judgment program
WO2019131062A1 (en) * 2017-12-27 2019-07-04 パイオニア株式会社 Determination device, information recording device, determination method, and determination program
CN111422199A (en) * 2018-12-21 2020-07-17 丰田自动车株式会社 Driving support device, vehicle, information providing device, driving support system, and driving support method
JP2020102030A (en) * 2018-12-21 2020-07-02 トヨタ自動車株式会社 Drive assist device, vehicle, information provision device, drive assist system, and drive assist method
JP7293648B2 (en) 2018-12-21 2023-06-20 トヨタ自動車株式会社 Driving support device, vehicle, driving support system, and driving support method
JP2020112862A (en) * 2019-01-08 2020-07-27 トヨタ自動車株式会社 Information processing device, information processing system, program, and information processing method
JP7163776B2 (en) 2019-01-08 2022-11-01 トヨタ自動車株式会社 Information processing device, information processing system, program, and information processing method
JP2020149175A (en) * 2019-03-12 2020-09-17 トヨタ自動車株式会社 Driving control system
CN111688682A (en) * 2019-03-12 2020-09-22 丰田自动车株式会社 Driving control system
JP7143790B2 (en) 2019-03-12 2022-09-29 トヨタ自動車株式会社 Operation control system
JP2021036369A (en) * 2019-08-30 2021-03-04 ダイハツ工業株式会社 Vehicle guide system

Also Published As

Publication number Publication date
JP4988781B2 (en) 2012-08-01

Similar Documents

Publication Publication Date Title
JP4988781B2 (en) Vehicle periphery monitoring device
JP5577398B2 (en) Vehicle periphery monitoring device
JP5706874B2 (en) Vehicle periphery monitoring device
US9067537B2 (en) Vehicle periphery monitoring device
JP4173901B2 (en) Vehicle periphery monitoring device
JP4456086B2 (en) Vehicle periphery monitoring device
JP4173902B2 (en) Vehicle periphery monitoring device
JP4410292B1 (en) Vehicle periphery monitoring device
US8766816B2 (en) System for monitoring the area around a vehicle
JP5576937B2 (en) Vehicle periphery monitoring device
JP4528283B2 (en) Vehicle periphery monitoring device
WO2011108217A1 (en) Vehicle perimeter monitoring device
JP2008027309A (en) Collision determination system and collision determination method
JP2010224670A (en) Periphery monitoring device for vehicle
JP4644273B2 (en) Vehicle periphery monitoring device
JP4972116B2 (en) Vehicle periphery monitoring device
JP4813304B2 (en) Vehicle periphery monitoring device
JP5192007B2 (en) Vehicle periphery monitoring device
JP2010191666A (en) Vehicle periphery monitoring apparatus
JP2012058999A (en) Vehicle periphery monitoring device
JP4943403B2 (en) Vehicle periphery monitoring device
JP5383246B2 (en) Vehicle periphery monitoring device
KR102145409B1 (en) System for visibility measurement with vehicle speed measurement

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110531

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110601

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110712

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120117

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120312

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120403

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120426

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150511

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees