Nothing Special   »   [go: up one dir, main page]

JP6575451B2 - Driving support device and driving support program - Google Patents

Driving support device and driving support program Download PDF

Info

Publication number
JP6575451B2
JP6575451B2 JP2016142444A JP2016142444A JP6575451B2 JP 6575451 B2 JP6575451 B2 JP 6575451B2 JP 2016142444 A JP2016142444 A JP 2016142444A JP 2016142444 A JP2016142444 A JP 2016142444A JP 6575451 B2 JP6575451 B2 JP 6575451B2
Authority
JP
Japan
Prior art keywords
moving body
user
driver
automatic driving
attention area
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016142444A
Other languages
Japanese (ja)
Other versions
JP2018013915A (en
Inventor
渡辺 秀樹
秀樹 渡辺
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Corp
Original Assignee
Denso Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso Corp filed Critical Denso Corp
Priority to JP2016142444A priority Critical patent/JP6575451B2/en
Publication of JP2018013915A publication Critical patent/JP2018013915A/en
Application granted granted Critical
Publication of JP6575451B2 publication Critical patent/JP6575451B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Control Of Driving Devices And Active Controlling Of Vehicle (AREA)
  • Traffic Control Systems (AREA)

Description

本発明は、運転支援装置及び運転支援プログラムに関する。   The present invention relates to a driving support device and a driving support program.

自動運転システムを備えた自動運転車両は、周辺監視を実施しながら危険を検出して自動回避する機能を備え、運転者が関与せずに自動運転制御を実現する。その反面、運転者は自動運転システムの周辺監視による危険の検出を完全に信用せず、自動運転システムが確実に危険を検出できていることを疑っている。このため、運転者は、自動運転制御で回避可能な状態下であっても、運転者が危険を察するタイミング(感覚)でブレーキすることで自動運転制御を解除してしまい、自動運転に対してストレスを感じてしまう。   An automatic driving vehicle equipped with an automatic driving system has a function of automatically detecting and avoiding danger while performing surrounding monitoring, and realizes automatic driving control without involving the driver. On the other hand, the driver does not fully trust the detection of the danger by monitoring the periphery of the automatic driving system, and doubts that the automatic driving system can detect the danger reliably. For this reason, even if the driver is in a state that can be avoided by automatic driving control, the driver releases the automatic driving control by braking at the timing (sense) at which the driver perceives the danger. I feel stress.

特開2011−198247号公報JP 2011-198247 A 特開2002−120676号公報JP 2002-120676 A

このような事情に対して、特許文献1では、車両側が主体となった危険警告を提案している。例えば、運転者の注視(視線)方向を検出して、注視方向以外の危険が発生したことを運転者に警告することや、車両が周辺監視により対象物(歩行者や自転車などの移動物体、障害物など)を検出している状態を、車両内のディスプレイへカメラから入手した映像を利用して、検出している対象をマーキングするなど、視覚的に常時表示する手法を提案している(特許文献2参照)。   For such a situation, Patent Literature 1 proposes a danger warning mainly on the vehicle side. For example, by detecting the driver's gaze (gaze) direction and warning the driver that a danger other than the gaze direction has occurred, the vehicle is subject to object monitoring (moving objects such as pedestrians and bicycles, We have proposed a method that always displays the state of detecting obstacles (such as obstacles) visually, such as marking the detected object using the video obtained from the camera on the display in the vehicle ( Patent Document 2).

しかしながら、運転者は、検出している対象が常時表示されていることでストレスを感じることや、また、車両が検出している対象物を認識するには、ディスプレイを目視する必要があり、運転者が直感的に危険を察知するのに適切ではない問題がある。また、危険検出は、装置側が主体となっており、装置側の危険検出精度や距離範囲、死角、さらに誤動作などの危険性を常に持ち合わせており、運転者は自動運転中に常に不安を感じている。   However, the driver needs to look at the display to feel stress because the object being detected is always displayed and to recognize the object being detected by the vehicle. There is a problem that is not appropriate for a person to detect dangers intuitively. In addition, risk detection is mainly performed by the device side, and the risk detection accuracy, distance range, blind spot, and malfunctions of the device side are always present, and the driver always feels uneasy during automatic driving. Yes.

本発明は上記事情に鑑みてなされたもので、その目的は、ユーザが危険と感じた移動体を自動運転システムが検出しているか否かを通知することができる自動運転支援装置及び自動運転支援プログラムを提供することにある。   The present invention has been made in view of the above circumstances, and an object of the present invention is to provide an automatic driving support device and an automatic driving support capable of notifying whether or not the automatic driving system detects a moving body that the user feels dangerous. To provide a program.

請求項1の発明によれば、ユーザが移動体確認指示を発言すると、音声認識部(8a)が移動体確認指示を音声認識するので、注目エリア設定部(24a)が自動運転システム(2)のセンシング範囲内においてユーザが注目する注目エリアを設定する。そして、移動体検出部(24b)が注目エリアに位置する移動体を検出した場合は、移動体通知部(8c)が当該移動体の存在をユーザに通知する。これにより、ユーザは、自動運転システムが危険な移動体を検出したことを確認することができるので、安心して自動運転システム(2)による自動運転を継続することができる。   According to the first aspect of the present invention, when the user speaks the moving body confirmation instruction, the voice recognition unit (8a) recognizes the moving body confirmation instruction as a voice, so that the attention area setting unit (24a) performs the automatic driving system (2). An attention area to which a user pays attention is set within the sensing range. And when a mobile body detection part (24b) detects the mobile body located in an attention area, a mobile body notification part (8c) notifies a user of presence of the said mobile body. Thereby, since the user can confirm that the automatic driving system has detected a dangerous moving body, the automatic driving by the automatic driving system (2) can be continued with peace of mind.

一実施形態における全体のシステムを示す機能ブロック図The functional block diagram which shows the whole system in one Embodiment 運転者からの視界を示す図Figure showing the field of view from the driver 自動運転システムが車を検出するまでの過程を示す図(その1)The figure which shows the process until the automatic driving system detects the car (the 1) 自動運転システムが車を検出するまでの過程を示す図(その2)Diagram showing the process until the automatic driving system detects a car (Part 2) 自動運転システムが車を検出するまでの過程を示す図(その3)Diagram showing the process until the automatic driving system detects a car (Part 3) 自動運転システムが車を検出できなかった過程を示す図(その1)The figure which shows the process in which the automatic driving system could not detect the car (part 1) 自動運転システムが車を検出できなかった過程を示す図(その2)Diagram showing the process by which the automatic driving system could not detect the car (Part 2) 自動運転システムが車を検出できなかった過程を示す図(その3)Diagram showing the process by which the automated driving system could not detect the car (Part 3) 自動運転システムが車を検出できなかった過程を示す図(その4)The figure which shows the process in which the automatic driving system was not able to detect a car (the 4) 自動運転システムが2台の車を検出するまでの過程を示す図(その1)Diagram showing the process until the automatic driving system detects two cars (Part 1) 自動運転システムが2台の車を検出するまでの過程を示す図(その2)Diagram showing the process until the automatic driving system detects two cars (part 2) 自動運転システムが2台の車を検出するまでの過程を示す図(その3)Diagram showing the process until the automatic driving system detects two cars (Part 3) 自動運転システムがオートバイを検出するまでの過程を示す図(その1)Diagram showing the process until the automatic driving system detects a motorcycle (part 1) 自動運転システムがオートバイを検出するまでの過程を示す図(その2)Diagram showing the process until the automatic driving system detects a motorcycle (part 2) 自動運転システムがオートバイを検出するまでの過程を示す図(その3)Diagram showing the process until the automatic driving system detects a motorcycle (part 3) 自動運転システムがオートバイを検出できなかった過程を示す図(その1)Diagram showing the process by which the automatic driving system could not detect a motorcycle (part 1) 自動運転システムがオートバイを検出できなかった過程を示す図(その2)Diagram showing the process by which the automatic driving system could not detect a motorcycle (part 2) 自動運転システムがオートバイを検出できなかった過程を示す図(その3)Diagram showing the process by which the automatic driving system could not detect a motorcycle (Part 3) 音声認識処理を示すフローチャートFlow chart showing speech recognition processing 視線方向検出処理を示すフローチャートFlow chart showing line-of-sight direction detection processing 移動体通知処理を示すフローチャートFlow chart showing mobile body notification processing 注目エリア設定処理を示すフローチャートFlow chart showing attention area setting processing 移動体検出処理を示すフローチャートFlow chart showing moving object detection processing

以下、一実施形態について図面を参照して説明する。
全体のシステムは、図1に示すように、ナビゲーション装置1と自動運転システム2とを組み合わせて構成されている。自動運転システム2は、ロケータ装置3(運転支援装置に相当)と、走行軌道管理装置4と、車両運動制御装置5とから構成されている。
Hereinafter, an embodiment will be described with reference to the drawings.
As shown in FIG. 1, the entire system is configured by combining a navigation device 1 and an automatic driving system 2. The automatic driving system 2 includes a locator device 3 (corresponding to a driving support device), a traveling track management device 4, and a vehicle motion control device 5.

ナビゲーション装置1は、GPS衛星から放射されてGPSインダッシュアンテナ6に捕捉されたGPS電波を受信処理し、GPS信号から抽出した各種パラメータを演算して自車両の現在位置を自車両位置として特定する機能を有する。又、ナビゲーション装置1は、自車両位置、目的地、自車両位置から目的地までの経路、到着予定時刻などの各種のナビゲーション情報をロケータ装置3に出力する。又、ナビゲーション装置1は、表示指令信号や音声出力指令信号をHMI装置7に出力する。   The navigation device 1 receives GPS radio waves radiated from GPS satellites and captured by the GPS in-dash antenna 6 and calculates various parameters extracted from the GPS signals to specify the current position of the own vehicle as the own vehicle position. Have The navigation device 1 also outputs various types of navigation information such as the host vehicle position, the destination, the route from the host vehicle position to the destination, and the estimated arrival time to the locator device 3. In addition, the navigation device 1 outputs a display command signal and a voice output command signal to the HMI device 7.

HMI装置7は、ディスプレイやスピーカなどである。HMI装置7は、ナビゲーション装置1から表示指令信号を入力すると、その表示指令信号にしたがって警告や経路案内などの表示情報をディスプレイに表示する。又、HMI装置7は、ナビゲーション装置1から音声出力指令信号を入力すると、その音声出力指令信号にしたがって警告や経路案内などの音声情報をスピーカから音声出力する。   The HMI device 7 is a display or a speaker. When the display command signal is input from the navigation device 1, the HMI device 7 displays display information such as warnings and route guidance on the display according to the display command signal. When the voice output command signal is input from the navigation device 1, the HMI device 7 outputs voice information such as warning and route guidance from the speaker according to the voice output command signal.

ロケータ装置3は、制御部8と、GPS受信機9と、ジャイロセンサ10、Gセンサ11と、道路ネットワークデータ格納部12と、詳細地図データ格納部13とを有する。GPS受信機9は、GPS衛星から放射されてGPSルーフアンテナ14に捕捉されたGPS電波を受信処理し、GPS信号から抽出した各種パラメータを演算して自車両の現在位置を自車両位置として特定し、その特定した自車両位置を示す位置信号を制御部8に出力する。   The locator device 3 includes a control unit 8, a GPS receiver 9, a gyro sensor 10, a G sensor 11, a road network data storage unit 12, and a detailed map data storage unit 13. The GPS receiver 9 receives a GPS radio wave radiated from a GPS satellite and captured by the GPS roof antenna 14, calculates various parameters extracted from the GPS signal, and specifies the current position of the own vehicle as the own vehicle position. Then, a position signal indicating the specified vehicle position is output to the control unit 8.

ジャイロセンサ10は、自車両に作用する角速度を検出し、その検出した角速度を示す角速度信号を制御部8に出力する。Gセンサ11は、自車両に作用する加速度を検出し、その検出した加速度を示す加速度信号を制御部8に出力する。   The gyro sensor 10 detects an angular velocity acting on the host vehicle, and outputs an angular velocity signal indicating the detected angular velocity to the control unit 8. The G sensor 11 detects acceleration acting on the host vehicle, and outputs an acceleration signal indicating the detected acceleration to the control unit 8.

道路ネットワークデータ格納部12は、道路ネットワークデータを格納しており、道路ネットワークデータを制御部8に出力する。道路ネットワークデータとは、道路の形状、道路の位置、複数の道路間の接続、道路を構成する車線に関する情報などを示す地図情報である。   The road network data storage unit 12 stores road network data and outputs the road network data to the control unit 8. The road network data is map information indicating the shape of the road, the position of the road, the connection between a plurality of roads, information on the lanes constituting the road, and the like.

詳細地図データ格納部13は、詳細地図データを格納しており、詳細地図データを制御部8に出力する。詳細地図データとは、道路を構成する車線の数、車線の幅、車線を区分するドットラインの位置や種類、車線の増減、車線間の接続関係、車線間の車両移動の可否などを含む地図情報である。   The detailed map data storage unit 13 stores detailed map data and outputs the detailed map data to the control unit 8. Detailed map data is a map that includes the number of lanes that make up the road, the width of the lane, the position and type of dot lines that divide the lane, the increase or decrease in lanes, the connection between lanes, whether vehicles can move between lanes Information.

制御部8は、GPS受信機9から入力した位置信号により示される自車両位置を、ジャイロセンサ10から入力する角速度信号により示される角速度やGセンサ11から入力する加速度信号により示される加速度で補正する。尚、ロケータ装置3は、ナビゲーション装置1よりも高い精度で自車両位置を特定可能である。   The control unit 8 corrects the own vehicle position indicated by the position signal input from the GPS receiver 9 with the angular velocity indicated by the angular velocity signal input from the gyro sensor 10 or the acceleration indicated by the acceleration signal input from the G sensor 11. . The locator device 3 can specify the position of the host vehicle with higher accuracy than the navigation device 1.

舵角センサ15は、ハンドルの操舵角を検出し、その検出したハンドルの操舵角を示す舵角信号を走行軌道管理装置4に出力する。アクセルセンサ16は、アクセルの操作量を検出し、その検出したアクセルの操作量を示すアクセル信号を走行軌道管理装置4に出力する。ブレーキセンサ17は、ブレーキの操作量を検出し、その検出したブレーキの操作量を示すブレーキ信号を走行軌道管理装置4に出力する。   The steering angle sensor 15 detects the steering angle of the steering wheel and outputs a steering angle signal indicating the detected steering angle of the steering wheel to the traveling track management device 4. The accelerator sensor 16 detects an accelerator operation amount, and outputs an accelerator signal indicating the detected accelerator operation amount to the traveling track management device 4. The brake sensor 17 detects a brake operation amount and outputs a brake signal indicating the detected brake operation amount to the traveling track management device 4.

車両前方カメラ18は、自車両の前方を撮影し、その撮影した映像を含む映像信号を走行軌道管理装置4に出力する。車両前方カメラ18は、例えばCCDメージセンサやCMOSイメージセンサなどであり、単数であっても良いし複数であっても良い。ミリ波レーダ19は、ミリ波を自車両の前方に送信し、反射波の受信状態により自車両の前方において物体(例えば先行車両)の存在を検出し、その検出結果を示す検出信号を走行軌道管理装置4に出力する。レーザレーダ20は、レーザ光を自車両の前方に送信し、反射波の受信状態により自車両の前方において物体の存在を検出し、その検出結果を示す検出信号を走行軌道管理装置4に出力する。ミリ波レーダ19やレーザレーダ20も単数であっても良いし複数であっても良い。   The vehicle front camera 18 captures the front of the host vehicle and outputs a video signal including the captured image to the traveling track management device 4. The vehicle front camera 18 is, for example, a CCD image sensor, a CMOS image sensor, or the like, and may be singular or plural. The millimeter wave radar 19 transmits a millimeter wave to the front of the host vehicle, detects the presence of an object (for example, a preceding vehicle) in front of the host vehicle based on the reception state of the reflected wave, and outputs a detection signal indicating the detection result to the traveling track. Output to the management apparatus 4. The laser radar 20 transmits laser light in front of the host vehicle, detects the presence of an object in front of the host vehicle based on the reception state of the reflected wave, and outputs a detection signal indicating the detection result to the traveling track management device 4. . The millimeter wave radar 19 and the laser radar 20 may be singular or plural.

運転者撮影カメラ21は、運転者が運転席に座って車両前方を向いた状態で運転者の顔を撮影し、その撮影した映像を含む映像信号をロケータ装置3に出力する。運転者撮影カメラ21は、CCD(Charge Coupled Device)イメージセンサやCMOS(Complementary Metal Oxide Semiconductor)イメージセンサなどであり、単数であっても良いし複数であっても良い。   The driver photographing camera 21 photographs the driver's face while the driver is sitting in the driver's seat and faces the front of the vehicle, and outputs a video signal including the photographed image to the locator device 3. The driver photographing camera 21 is a CCD (Charge Coupled Device) image sensor, a CMOS (Complementary Metal Oxide Semiconductor) image sensor, or the like, and may be singular or plural.

マイク22は、集音した音声を示す集音信号をロケータ装置3に出力する。
スピーカ23は、ロケータ装置3からの音声信号を音声として発生する。
走行軌道管理装置4は、舵角センサ15から入力する舵角信号、アクセルセンサ16から入力するアクセル信号、ブレーキセンサ17から入力するブレーキ信号、車両前方カメラ18から入力する映像信号、ミリ波レーダ19から入力する検出信号、レーザレーダ20から入力する検出信号を用い、自車両が走行する走行軌道を特定する。
Microphone 22 outputs a sound collection signal indicating the collected sound to locator device 3.
The speaker 23 generates a sound signal from the locator device 3 as sound.
The traveling track management device 4 includes a steering angle signal input from the steering angle sensor 15, an accelerator signal input from the accelerator sensor 16, a brake signal input from the brake sensor 17, a video signal input from the vehicle front camera 18, and a millimeter wave radar 19. The traveling track on which the host vehicle travels is specified using the detection signal input from the vehicle and the detection signal input from the laser radar 20.

車両運動制御装置5は、走行軌道管理装置4から走行軌道情報を入力すると、自車両が走行軌道情報により示される走行軌道にしたがって走行するように自車両の運動を制御する。   When the vehicle trajectory control device 5 inputs the travel trajectory information from the travel trajectory management device 4, the vehicle motion control device 5 controls the motion of the host vehicle so that the host vehicle travels according to the travel trajectory indicated by the travel trajectory information.

ロケータ装置3の制御部8は、CPU(Central Processing Unit)、ROM(Read Only Memory)、RAM(Random Access Memory)及びI/O(Input/Output)を有するマイクロコンピュータにより構成されている。制御部8は、非遷移的実体的記録媒体に格納されているコンピュータプログラムを実行することで、コンピュータプログラムに対応する処理を実行し、ロケータ装置3の動作全般を制御する。   The control unit 8 of the locator device 3 is configured by a microcomputer having a CPU (Central Processing Unit), a ROM (Read Only Memory), a RAM (Random Access Memory), and an I / O (Input / Output). The control unit 8 executes a computer program stored in the non-transitional tangible recording medium, thereby executing processing corresponding to the computer program and controlling the overall operation of the locator device 3.

制御部8は、通常の機能に加えて、音声認識部8aと、視線方向判定部8bと、移動体通知部8cとを有する。これらの各部8a〜8cは制御部8が実行するプログラムにより構成されており、ソフトウェアにより実現されている。   In addition to the normal function, the control unit 8 includes a voice recognition unit 8a, a line-of-sight direction determination unit 8b, and a moving body notification unit 8c. Each of these units 8a to 8c is configured by a program executed by the control unit 8, and is realized by software.

音声認識部8aは、マイク22から入力する音声信号を用い、運転者が発生した音声を音声認識する。視線方向判定部8bは、運転者撮影カメラ21から入力した映像信号を用い、運転者の頭や眼球の動きを解析して運転者の視線方向を判定して走行軌道管理装置4に通知する。移動体通知部8cは、後述するように走行軌道管理装置4が検出した移動体の存在をスピーカ23から音声で発生する。   The voice recognition unit 8a recognizes voice generated by the driver using a voice signal input from the microphone 22. The line-of-sight direction determination unit 8b uses the video signal input from the driver photographing camera 21, analyzes the movement of the driver's head and eyeballs, determines the line-of-sight direction of the driver, and notifies the traveling track management device 4. As will be described later, the moving body notification unit 8c generates the presence of the moving body detected by the traveling track management device 4 from the speaker 23 by voice.

走行軌道管理装置4の制御部24は、通常の機能に加えて、注目エリア設定部24aと、移動体検出部24bとを有する。これらの各部は制御部が実行するプログラムにより構成されており、ソフトウェアにより実現されている。   The control unit 24 of the traveling track management device 4 includes an attention area setting unit 24a and a moving body detection unit 24b in addition to the normal functions. Each of these units is configured by a program executed by the control unit, and is realized by software.

注目エリア設定部24aは、視線方向判定部8bが判定した運転者の視線方向を受けてセンシング範囲内に運転者が注目する注目エリアを設定する。移動体検出部24bは、注目エリアに位置する移動体を検出してロケータ装置3に通知する。   The attention area setting unit 24a receives the driver's line-of-sight direction determined by the line-of-sight direction determination unit 8b, and sets the area of interest to which the driver pays attention within the sensing range. The moving body detection unit 24b detects a moving body located in the attention area and notifies the locator device 3 of the moving body.

さて、自動運転システム2が自動運転を行っている場合は、運転者が運転に関与することはないので、例えば運転者が危険と感じた車両(以下、危険車両)を発見した場合、自動運転システム2が危険車両を検出しているのか不安な心理状態となる。この場合、自動運転システム2が検出した全ての移動体を運転者に通知したのでは、移動体の通知が頻発して煩わしい。尚、危険車両とは、自車両が移動している場合のみばかりでなく、自車両が停車している場合に自車両に向かって移動するような車両も含む。   Now, when the automatic driving system 2 performs automatic driving, the driver does not participate in driving. For example, when a vehicle that the driver feels dangerous (hereinafter referred to as dangerous vehicle) is found, automatic driving is performed. It becomes an uneasy psychological state whether the system 2 detects the dangerous vehicle. In this case, if all the moving bodies detected by the automatic driving system 2 are notified to the driver, notification of the moving bodies frequently occurs and is troublesome. The dangerous vehicle includes not only a case where the own vehicle is moving, but also a vehicle which moves toward the own vehicle when the own vehicle is stopped.

このような事情から、本実施形態では、自動運転システム2は危険車両のみを検出対象とし、当該危険車両を検出した場合に運転者に危険車両の存在を通知するようにした。
運転者は、図2に示すように、前方に位置する交差点を横断するように進入する1台の危険車両を発見した場合は、当該危険車両を目視しながら、「車1台検出している?」と移動体確認指示を発言する(図3A参照)。
For this reason, in the present embodiment, the automatic driving system 2 sets only dangerous vehicles as detection targets, and notifies the driver of the presence of dangerous vehicles when the dangerous vehicles are detected.
As shown in FIG. 2, when the driver finds one dangerous vehicle that enters so as to cross an intersection located ahead, the driver detects the one vehicle while visually checking the dangerous vehicle. “?” Is issued (see FIG. 3A).

ロケータ装置3は、図8に示す音声認識処理において、マイク22からの入力を検出した場合は(S101:YES)、運転者の発言内容を音声認識し(S102)、内容を分析することで移動体確認指示であるか(S103:NO)、移動体確認解除指示であるか(S107:NO)を判定する。この場合、移動体確認指示であることから(S103:YES)、Start=1を設定することで(S104)、移動体確認動作の開始を設定してから、移動体確認指示から検出した移動体の台数NをDriver=Nとして設定(S105)、つまり運転者の認識台数を設定する。そして、Start=1の状態では(S106:NO)、待機状態となる。   When the input from the microphone 22 is detected in the voice recognition process shown in FIG. 8 (S101: YES), the locator device 3 recognizes the driver's utterance content (S102), and moves by analyzing the content. It is determined whether it is a body confirmation instruction (S103: NO) or a moving body confirmation cancellation instruction (S107: NO). In this case, since it is a moving body confirmation instruction (S103: YES), by setting Start = 1 (S104), after setting the start of the moving body confirmation operation, the moving body detected from the moving body confirmation instruction Is set as Driver = N (S105), that is, the number of recognized drivers is set. In the state of Start = 1 (S106: NO), a standby state is entered.

尚、「車両」、「自動車」、「乗用車」、「トラック」なども「車」(種類に相当)と同義語として判定し、「検知」、「認識」、「確認」、「発見」なども「検出」と同義語として判定し、「検出か?」や「検出?」などは「検出している?」と同義語として判定する。また、危険車両が1台の場合は「1台」を省略しても良いし、「1台」を省略した場合は、Driver=1を設定する。   “Vehicle”, “Automobile”, “Passenger car”, “Truck” etc. are also synonymous with “Car” (corresponding to the type), and “Detection”, “Recognition”, “Confirmation”, “Discovery” Is also determined as a synonym for “detection”, and “detection?”, “Detection?”, Etc. are determined as synonyms as “detected?”. Further, when there is one dangerous vehicle, “1” may be omitted, and when “1” is omitted, Driver = 1 is set.

ロケータ装置3は、図9に示す視線方向検出処理において、Start=1かを判定しており(S201:NO)、Start=1となった場合は(S201:YES)、周辺センサ情報に基づいて運転者の視線方向を検出する(S202)。   The locator device 3 determines whether Start = 1 in the gaze direction detection process shown in FIG. 9 (S201: NO). If Start = 1 (S201: YES), the locator device 3 is based on the peripheral sensor information. The driver's line-of-sight direction is detected (S202).

走行軌道管理装置4は、図11に示す注目エリア設定処理において、Start=1となった場合は(S401:YES)、ロケータ装置3が視線方向を検出したかを判定するようになる(S402:NO)。ロケータ装置3が視線方向を検出した場合は(S402:YES)、視線方向に基づいて注目エリアを設定する(S403)。注目エリアとは、視線方向に基づいて走行軌道管理装置4のセンシング範囲内(図3Aに破線で示す範囲内)に設定されるエリアのことで、図3Bに示すように、視線方向が車両の前方向に対して斜め左方向の場合は、車両の前方向から左方向までの90度の範囲(図中に斜線で示す)に設定される。同様に、視線方向が車両の前方向に対して斜め右方向の場合は、車両の前方向から右方向までの90度の範囲に設定される。   In the attention area setting process shown in FIG. 11, the traveling track management device 4 determines whether the locator device 3 has detected the line-of-sight direction when Start = 1 (S401: YES) (S402: NO). When the locator device 3 detects the line-of-sight direction (S402: YES), an attention area is set based on the line-of-sight direction (S403). The attention area is an area that is set within the sensing range of the traveling track management device 4 based on the line-of-sight direction (within the range indicated by the broken line in FIG. 3A). As shown in FIG. In the case of an oblique left direction with respect to the forward direction, the range is set to a range of 90 degrees from the forward direction of the vehicle to the left direction (indicated by hatching in the drawing). Similarly, when the line-of-sight direction is diagonally right with respect to the front direction of the vehicle, the range is set to 90 degrees from the front direction of the vehicle to the right direction.

走行軌道管理装置4は、図12に示す移動体検出処理において、Start=1となった場合は(S501:YES)、注目エリアが設定されかを判定するようになる(S502:NO)。上述したようにして注目エリアが設定された場合は(S502:YES)、周辺センサ情報から移動体を検出し(S503)、注目エリアで検出した台数をSensor=Mとして設定する(S504)。このような台数の設定は、検出した移動体が車か否かを周辺センサ情報に基づいて判定し、車と判定することを条件に行われる。この場合、検出した車の台数が0であるから、Sensor=0を設定する。   In the moving body detection process shown in FIG. 12, the traveling track management device 4 determines whether an attention area is set when Start = 1 (S501: YES) (S502: NO). When the attention area is set as described above (S502: YES), the mobile body is detected from the peripheral sensor information (S503), and the number detected in the attention area is set as Sensor = M (S504). Such setting of the number of vehicles is performed on the condition that it is determined whether or not the detected moving body is a car based on the surrounding sensor information and is determined to be a car. In this case, since the number of detected vehicles is 0, Sensor = 0 is set.

ロケータ装置3は、図10に示す移動体通知処理において、Start=1となった場合は(S301:YES)、注目エリアが設定されたかを判定するようになる(S302:NO)。上述したようにして注目エリアが設定された場合は(S302:YES)、Sensor=Mに対する音声通知を実行する(S303)。この場合、Sensor=0であることから、図3Bに示すように、音声で「移動体は検出していません」のようにスピーカ23から発声する。   In the moving object notification process shown in FIG. 10, the locator device 3 determines whether the attention area has been set when Start = 1 (S301: YES) (S302: NO). When the attention area is set as described above (S302: YES), a voice notification for Sensor = M is executed (S303). In this case, since Sensor = 0, as shown in FIG. 3B, a voice is uttered from the speaker 23 as “no moving object is detected”.

次にロケータ装置3は、Driver=Sensorかを判定する(S304)。つまり、運転者の発言内容と自身の検出している内容が一致するかを判定する。この場合、Driver=Sensorではない(S304:NO)、つまり運転者が車を認識しているのに対して、注目エリアでは車を検出していないことから、注目エリアにおいてSensorが更新されるのを待機する(S305:NO)。   Next, the locator device 3 determines whether Driver = Sensor (S304). That is, it is determined whether the content of the driver's speech matches the content detected by the driver. In this case, Driver = Sensor is not satisfied (S304: NO), that is, the driver recognizes the car, but the car is not detected in the attention area, so the Sensor is updated in the attention area. (S305: NO).

自車両が進行すると同時に危険車両が進行すると、図3Cに示すように、注目エリアに危険車両が位置するようになる。すると、走行軌道管理装置4は、図12の移動体検出処理において、移動体を検出し(S503)、検出した移動体の検出内容である台数Mを1として設定する(S504)。   When the dangerous vehicle advances at the same time as the host vehicle advances, the dangerous vehicle comes to be located in the attention area as shown in FIG. 3C. Then, the traveling track management device 4 detects the moving body in the moving body detection process of FIG. 12 (S503), and sets the number M of detected mobile bodies as 1 (S504).

ロケータ装置3は、図10の移動体通知処理において、Sensor=1に更新されるので(S305:YES)、Sensor=1に対する音声通知を実行する(S306)。つまり、図3Cに示すように、音声にて「移動体1台を検出しました」のようにスピーカ23から発声する。次に、Driver=Sensorとなったことを確認する(S304:YES)、つまり運転者の発言内容とロケータ装置3の検出内容の一致を確認すると、Start=0を設定することで(S307)、移動体確認動作を終了する。   Since the locator device 3 is updated to Sensor = 1 in the moving body notification process of FIG. 10 (S305: YES), the locator device 3 executes a voice notification for Sensor = 1 (S306). That is, as shown in FIG. 3C, the speaker 23 utters by voice like “one moving body has been detected”. Next, it is confirmed that Driver = Sensor (S304: YES), that is, after confirming that the driver's utterance content matches the detected content of the locator device 3, by setting Start = 0 (S307), The moving object confirmation operation is terminated.

以上の動作により、運転者は、自動運転システム2が正常に動作していることを把握でき、ブレーキを回避し、安心して自動運転を継続することができる。
一方、ロケータ装置3は、図10の移動体通知処理において、更新内容が一致しない場合は(S304:NO)、継続的に更新内容を通知し続けるが(S306)、図4A〜図4Dに示すように、例えば危険車両が建物の陰となって検出できず走行軌道管理装置43から移動体検出の通知がない場合は、運転者が危険を感じるタイミングで、自発的に危険回避のためにブレーキを掛けるようになる。このような場合、運転者は、「検出終了してください」と発言することで移動体確認動作を終了する。
With the above operation, the driver can grasp that the automatic driving system 2 is operating normally, can avoid the brake, and can continue the automatic driving with peace of mind.
On the other hand, the locator device 3 continues to notify the update contents when the update contents do not match (S304: NO) in the moving body notification process of FIG. 10 (S306), as shown in FIGS. 4A to 4D. Thus, for example, when a dangerous vehicle cannot be detected behind a building and there is no notification of detection of a moving object from the traveling track management device 43, the driver brakes to avoid danger spontaneously at the timing when the driver feels dangerous. It comes to multiply. In such a case, the driver ends the moving body checking operation by saying "Please end detection".

ロケータ装置3は、図8の音声認識処理において、音声認識結果が移動体確認解除であった場合は(S107:YES)、Start=0とし(S108)、移動確認動作を終了する。尚、「検知」、「認識」、「確認」、「発見」なども「検出」と同義語として判定する。また、「停止してください」や単に「終了」、「停止」なども「終了してください」と同義語として判定する。   In the voice recognition process of FIG. 8, the locator device 3 sets Start = 0 (S108) and ends the movement check operation when the voice recognition result is the cancellation of the moving body check (S107: YES). “Detection”, “recognition”, “confirmation”, “discovery”, etc. are also determined as synonyms for “detection”. Also, “Please stop”, “End”, “Stop”, etc. are also synonymous with “Please end”.

一方、図5Aに示すように、注目エリアを設定した際に、注目エリアに既に1台の車が存在する場合は、運転者は、「車2台検出している?」と発言する。この場合、注目エリアに位置する車を1台検出しているので、図5Bに示すように、音声で「移動体を1台検出しました」のようにスピーカ23から発声する。これにより、運転者は、2台の車を認識しているのに、自動運転システム2が1台の車しか検出できてないことから、遠方に位置する1台の車をまだ検出していないことを把握することができる。
そして、図5Cに示すように注目エリアにおいて2台の車が検出した状態では、「移動体を2台検出しました」と発声するようになる。
On the other hand, as shown in FIG. 5A, when the attention area is set and one vehicle already exists in the attention area, the driver says, “Do you detect two cars?”. In this case, since one vehicle located in the area of interest is detected, as shown in FIG. 5B, the speaker 23 utters by voice as “One moving body has been detected”. As a result, although the driver recognizes two cars, the automatic driving system 2 can detect only one car, and thus has not yet detected one car located far away. I can understand that.
Then, as shown in FIG. 5C, in a state where two cars are detected in the attention area, “two moving bodies have been detected” are uttered.

次に図6A〜図6C、及び図7A〜図7cに示すように、危険車両である例えばバイクが同一方向に進行する例を説明する。運転者は、自動運転走行中に、図6Aに示すように、自車両の前方を走行する前車の陰にバイクが存在することを認識した場合は、バイクを目視しながら、「バイク1台検出している?」と発言する。この場合、走行軌道管理装置4は、バイクを検出していないので、ロケータ装置3は、図6Bに示すように、「移動体は検出していません」のようにスピーカ23から発声する。ロケータ装置3は、運転者の発言内容と自身の検出している内容が異なることを把握し、注目エリアにおいて、検出内容が更新されるのを待ち、検出内容が更新されたら直ちに、図6Cに示すように、更新内容を音声にて「移動体1台を検出しました」のようにスピーカ23から発声する。尚、「オートバイ」、「単車」、「二輪車」なども「バイク」と同義語として判定する。   Next, as shown in FIGS. 6A to 6C and FIGS. 7A to 7c, an example will be described in which, for example, a motorcycle that is a dangerous vehicle travels in the same direction. When the driver recognizes that there is a motorcycle behind the front vehicle traveling in front of the host vehicle as shown in FIG. 6A during automatic driving, while viewing the motorcycle, "Is it detected?" In this case, since the traveling track management device 4 does not detect the motorcycle, the locator device 3 utters from the speaker 23 as “No moving object detected” as shown in FIG. 6B. The locator device 3 grasps that the driver's remark content is different from the content detected by the driver, waits for the detection content to be updated in the area of interest, and immediately after the detection content is updated, immediately after FIG. As shown in the drawing, the update content is uttered from the speaker 23 such as “One mobile unit has been detected” by voice. It should be noted that “motorcycle”, “single vehicle”, “two-wheeled vehicle” and the like are also synonymous with “motorcycle”.

一方、図7Cに示すように、走行軌道管理装置4がオートバイを検出できない場合は、走行軌道管理装置4から移動体検出の通知がないので、運転者が危険を感じるタイミングで自発的に危険回避のため自動運転を解除し、運転者自身の運転に切り替えることができる。   On the other hand, as shown in FIG. 7C, when the traveling track management device 4 cannot detect the motorcycle, the traveling track management device 4 does not notify the detection of the moving body, so the driver avoids the risk spontaneously at the timing when the driver feels danger. Therefore, it is possible to cancel the automatic driving and switch to the driver's own driving.

このような実施形態によれば、次のような効果を奏することができる。
ロケータ装置3は、運転者が認識している状況を示す移動体確認指示を音声入力することで、走行軌道管理装置4がセンシング範囲内の注目エリアで認識している移動体を運転者に音声通知するので、運転者は、自動運転システム2が検出している移動体の存在を確認でき、安心して自動運転を継続することができる。この場合、運転者が危険車両に対して危険を感じる領域に達しても、走行軌道管理装置4が対象となる危険車両を検出していない場合には、運転者が主体となって危険を瞬時に察知し、自動運転を解除することで危険を回避することが可能となり、危険回避を適切に自発的に促すことが可能となる。
According to such an embodiment, the following effects can be produced.
The locator device 3 voice-inputs a moving body confirmation instruction indicating the situation recognized by the driver, so that the moving body recognized by the traveling track management device 4 in the attention area within the sensing range is voiced to the driver. Since the notification is made, the driver can confirm the presence of the moving body detected by the automatic driving system 2 and can continue the automatic driving with peace of mind. In this case, even if the driver reaches an area where he / she feels danger to the dangerous vehicle, if the traveling track management device 4 has not detected the target dangerous vehicle, the driver will take the risk instantly. It is possible to avoid danger by releasing the automatic driving and to appropriately avoid voluntary danger avoidance.

走行軌道管理装置4は、運転者の視線方向に基づいて注目エリアを設定するので、運転者による特別な操作を必要とすることなく注目エリアを確実に設定することができる。
運転者が認識している状況を示す移動体確認指示に危険車両の種類及び台数を含めるようにしたので、走行軌道管理装置4が危険車両を種類及び台数まで含めて検出したかを確実に確認することができる。
Since the traveling track management device 4 sets the attention area based on the driver's line-of-sight direction, the attention area can be reliably set without requiring any special operation by the driver.
Since the type and number of dangerous vehicles are included in the moving body confirmation instruction indicating the situation recognized by the driver, it is surely confirmed whether the traveling track management device 4 has detected the dangerous vehicles including the type and number of vehicles. can do.

(その他の実施形態)
本発明は、上記実施形態に限定されることなく、次のように変形または拡張したり、各変形例を上記実施形態と組み合せたり、各変形例を組み合わせるようにしても良い。
注目エリアを運転者の視線方向に設定するのに代えて、移動体確認指示に注目方向を含むようにしても良い。例えば危険車両が左前方に位置する場合は、「左前方に車1台検出している?」と移動体確認指示を発言し、「左前方」に対応した方向に注目エリアを設定することを通知する。
(Other embodiments)
The present invention is not limited to the above-described embodiment, but may be modified or expanded as follows, each modified example may be combined with the above-described embodiment, or each modified example may be combined.
Instead of setting the attention area in the driver's line-of-sight direction, the moving body confirmation instruction may include the attention direction. For example, if the dangerous vehicle is located on the left front side, say “Are you detecting one car on the left front?” And give the moving body confirmation instruction, and set the attention area in the direction corresponding to “Left front”. Notice.

注目エリアとして、センシング範囲内における前方向から左方向または右方向の90度の範囲に設定したが、90度の範囲に限定されることなく、センシング範囲内における前方向から視線方向までの範囲に設定したり、地図に基づいて移動体の位置を予測し、その位置を含む範囲に設定したり、自動車専用道路で合流する際に自車両に接近する車両の方向に設定したりするようにしても良い。   The attention area is set to a range of 90 degrees from the front to the left or right in the sensing range, but is not limited to the range of 90 degrees, and the range from the front to the line of sight in the sensing range Set it, predict the position of the moving body based on the map, set it to a range including that position, or set it to the direction of the vehicle approaching the own vehicle when joining on the automobile exclusive road Also good.

自動運転システムが運転者による関与が完全にないシステムとして構成されている場合、つまり運転者が存在しない場合は、搭乗しているユーザの視線方向に注目エリアを設定するようにしても良い。
走行軌道管理装置4が有する注目エリア設定部24aと移動体検出部24bの機能をロケータ装置3に持たせるようにしても良い。
When the automatic driving system is configured as a system in which the driver is not completely involved, that is, when there is no driver, the attention area may be set in the line-of-sight direction of the user on board.
You may make it give the function of the attention area setting part 24a and the mobile body detection part 24b which the traveling track management apparatus 4 has to the locator apparatus 3.

本開示は、実施例に準拠して記述されたが、本開示は当該実施例や構造に限定されるものではないと理解される。本開示は、様々な変形例や均等範囲内の変形をも包含する。加えて、様々な組み合わせや形態、さらには、それらに一要素のみ、それ以上、あるいはそれ以下、を含む他の組み合わせや形態をも、本開示の範疇や思想範囲に入るものである。   Although the present disclosure has been described with reference to the embodiments, it is understood that the present disclosure is not limited to the embodiments and structures. The present disclosure includes various modifications and modifications within the equivalent range. In addition, various combinations and forms, as well as other combinations and forms including only one element, more or less, are within the scope and spirit of the present disclosure.

図面中、2は自動運転システム、3はロケータ装置(運転支援装置)、8aは音声認識部、8bは視線方向判定部、8cは移動体通知部、24aは注目エリア設定部、24bは移動体検出部である。
In the drawings, 2 is an automatic driving system, 3 is a locator device (driving support device), 8a is a voice recognition unit, 8b is a gaze direction determination unit, 8c is a moving body notification unit, 24a is an attention area setting unit, and 24b is a moving body. It is a detection unit.

Claims (6)

自動運転システム(2)が認識した移動体の存在をユーザに通知する運転支援装置であって、
ユーザによる発言を音声認識する音声認識部(8a)と、
前記音声認識部による音声認識結果が移動体を確認することを指示する移動体確認指示であった場合は、前記自動運転システムのセンシング範囲内においてユーザが注目する注目エリアを設定する注目エリア設定部(24a)と、
前記注目エリアに位置する移動体を検出する移動体検出部(24b)と、
前記移動体検出部が移動体を検出した場合は、当該移動体の存在をユーザに通知する移動体通知部(8c)と、
を備えた運転支援装置。
A driving support device that notifies the user of the presence of a moving body recognized by the automatic driving system (2),
A voice recognition unit (8a) for voice recognition of a user's statement;
An attention area setting unit that sets an attention area to which a user pays attention within a sensing range of the automatic driving system when the voice recognition result by the voice recognition unit is a moving object confirmation instruction that instructs to confirm a moving object (24a)
A moving body detection unit (24b) for detecting a moving body located in the area of interest;
When the mobile object detection unit detects a mobile object, a mobile object notification unit (8c) that notifies the user of the presence of the mobile object;
A driving assistance device comprising:
ユーザの視線方向を判定する視線方向判定部(8b)を備え、
前記注目エリア設定部は、前記視線方向判定部が判定したユーザの視線方向に基づいて前記注目エリアを設定する請求項1に記載の運転支援装置。
A line-of-sight direction determination unit (8b) for determining the line-of-sight direction of the user;
The driving assistance device according to claim 1, wherein the attention area setting unit sets the attention area based on a user's gaze direction determined by the gaze direction determination unit.
前記注目エリア設定部は、前記移動体確認指示に含まれる注目方向に基づいて前記注目エリアを設定する請求項1に記載の運転支援装置。   The driving assistance device according to claim 1, wherein the attention area setting unit sets the attention area based on an attention direction included in the moving body confirmation instruction. 前記移動体確認指示は、移動体の種類を含む請求項1から3のいずれか一項に記載の運転支援装置。   The driving support apparatus according to any one of claims 1 to 3, wherein the moving body confirmation instruction includes a type of the moving body. 前記移動体確認指示は、移動体の台数を含む請求項4に記載の運転支援装置。   The driving support apparatus according to claim 4, wherein the moving body confirmation instruction includes the number of moving bodies. 自動運転システムが認識した移動体の存在をユーザに通知する運転支援プログラムであって、
ユーザによる発言を音声認識する手順と、
音声認識結果が移動体を確認することを指示する移動体確認指示であった場合は、前記自動運転システムのセンシング範囲内においてユーザが注目する注目エリアを設定する手順と、
前記注目エリアに位置する移動体を検出する手順と、
移動体を検出した場合は、当該移動体の存在をユーザに通知する手順と、
を実行する運転支援プログラム。
A driving support program for notifying the user of the presence of a moving body recognized by the automatic driving system,
A procedure for recognizing user speech,
When the voice recognition result is a moving body confirmation instruction that instructs to confirm the moving body, a procedure for setting an area of interest to which the user pays attention within the sensing range of the automatic driving system;
Detecting a moving body located in the area of interest;
If a mobile object is detected, a procedure for notifying the user of the presence of the mobile object,
A driving assistance program to execute.
JP2016142444A 2016-07-20 2016-07-20 Driving support device and driving support program Active JP6575451B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2016142444A JP6575451B2 (en) 2016-07-20 2016-07-20 Driving support device and driving support program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016142444A JP6575451B2 (en) 2016-07-20 2016-07-20 Driving support device and driving support program

Publications (2)

Publication Number Publication Date
JP2018013915A JP2018013915A (en) 2018-01-25
JP6575451B2 true JP6575451B2 (en) 2019-09-18

Family

ID=61020618

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016142444A Active JP6575451B2 (en) 2016-07-20 2016-07-20 Driving support device and driving support program

Country Status (1)

Country Link
JP (1) JP6575451B2 (en)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6988637B2 (en) * 2018-03-28 2022-01-05 トヨタ自動車株式会社 Automatic driving course determination device
US11912295B2 (en) 2018-06-19 2024-02-27 Nissan Motor Co., Ltd. Travel information processing apparatus and processing method
JP6888851B1 (en) * 2020-04-06 2021-06-16 山内 和博 Self-driving car

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3573134B2 (en) * 2002-02-25 2004-10-06 日産自動車株式会社 Driving operation assist device for vehicles
JP4556586B2 (en) * 2004-09-22 2010-10-06 トヨタ自動車株式会社 Driving assistance device
JP2016031603A (en) * 2014-07-28 2016-03-07 日本精機株式会社 Display system for vehicle

Also Published As

Publication number Publication date
JP2018013915A (en) 2018-01-25

Similar Documents

Publication Publication Date Title
EP3663155B1 (en) Autonomous driving system
JP6517561B2 (en) Vehicle control device
JP6137194B2 (en) Driving support device and driving support method
JP5657809B2 (en) Armpit detector
US8666599B2 (en) Driving support system
JP5888407B2 (en) Driving assistance device
JP6614359B2 (en) Obstacle determination method, parking support method, exit support method, and obstacle determination device
JP2019156144A (en) Vehicle controller, vehicle control method and program
JP6304011B2 (en) Vehicle travel control device
JP2020177292A (en) Vehicle remote indication system
JPWO2019069347A1 (en) Vehicle control device, vehicle control method, and program
JP2007257519A (en) Vehicular travel support device
JP2019079363A (en) Vehicle control device
JP6575451B2 (en) Driving support device and driving support program
US20230311869A1 (en) Control device, control method, and storage medium
US20240336266A1 (en) Driving assistance device, driving assistance method, and storage medium
JP7092955B1 (en) Vehicle control devices, vehicle control methods, and programs
WO2018230152A1 (en) Driving assistance device, driving assistance system, driving assistance method, and program
JP2005145282A (en) Vehicle running supporting device
JP6193177B2 (en) Motion support system and object recognition device
WO2020255751A1 (en) Autonomous driving system
JP7147858B2 (en) VEHICLE TRIP CONTROL METHOD AND TRIP CONTROL DEVICE
JP5166975B2 (en) Vehicle periphery monitoring device and vehicle periphery monitoring method
EP4102323B1 (en) Vehicle remote control device, vehicle remote control system, vehicle remote control method, and vehicle remote control program
US20220203985A1 (en) Vehicle control device, vehicle control method, and storage medium

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180831

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190710

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190723

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190805

R151 Written notification of patent or utility model registration

Ref document number: 6575451

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250