Nothing Special   »   [go: up one dir, main page]

JP2023046108A - 車両の運転支援装置 - Google Patents

車両の運転支援装置 Download PDF

Info

Publication number
JP2023046108A
JP2023046108A JP2021154819A JP2021154819A JP2023046108A JP 2023046108 A JP2023046108 A JP 2023046108A JP 2021154819 A JP2021154819 A JP 2021154819A JP 2021154819 A JP2021154819 A JP 2021154819A JP 2023046108 A JP2023046108 A JP 2023046108A
Authority
JP
Japan
Prior art keywords
vehicle
road
ecu
information
environment information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2021154819A
Other languages
English (en)
Inventor
啓輔 茂木
Keisuke Motegi
輝 由川
Teru Yukawa
將人 関根
Masato Sekine
優太 佐藤
Yuta Sato
龍矢 東
Tatsuya Azuma
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Subaru Corp
Original Assignee
Subaru Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Subaru Corp filed Critical Subaru Corp
Priority to JP2021154819A priority Critical patent/JP2023046108A/ja
Priority to US17/895,679 priority patent/US20230090300A1/en
Priority to CN202211072537.XA priority patent/CN115937802A/zh
Priority to DE102022122382.5A priority patent/DE102022122382A1/de
Publication of JP2023046108A publication Critical patent/JP2023046108A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/588Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W60/00Drive control systems specially adapted for autonomous road vehicles
    • B60W60/001Planning or execution of driving tasks
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2420/00Indexing codes relating to the type of sensors based on the principle of their operation
    • B60W2420/40Photo, light or radio wave sensitive means, e.g. infrared sensors
    • B60W2420/403Image sensing, e.g. optical camera
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2420/00Indexing codes relating to the type of sensors based on the principle of their operation
    • B60W2420/40Photo, light or radio wave sensitive means, e.g. infrared sensors
    • B60W2420/408Radar; Laser, e.g. lidar
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2552/00Input parameters relating to infrastructure
    • B60W2552/53Road markings, e.g. lane marker or crosswalk

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Automation & Control Theory (AREA)
  • Transportation (AREA)
  • Mechanical Engineering (AREA)
  • Traffic Control Systems (AREA)
  • Radar Systems Or Details Thereof (AREA)
  • Image Analysis (AREA)
  • Control Of Driving Devices And Active Controlling Of Vehicle (AREA)

Abstract

【課題】車載カメラの画像認識精度が低下した場合に実行中の自動運転支援機能を維持し得る運転支援装置を提供する。【解決手段】自車両Mの周囲画像を第1走行環境情報として取得するカメラ装置10と、自車両の周囲の立体物データを第2走行環境情報として取得するレーダ装置37と、第1走行環境情報に基づき区画線102を認識し、第2走行環境情報に基づき道路端104を認識し、かつ自車両と区画線及び道路端の各相対距離A、Bから区画線と道路端との距離Cを算出する画像認識ユニット13と、区画線及び道路端情報に基づき車両走行制御する走行制御ユニット14とを備え、画像認識ユニットは第1走行環境情報に基づく区画線の認識不可状況のとき、認識不可直前の区画線と道路端の距離と、レーダ装置が継続認識中の道路端と自車両と相対距離に基づき推定道路区画線を設定し、走行制御ユニットは推定道路区画線に基づき自車両の走行を制御する。【選択図】図4

Description

この発明は、車載カメラ装置及び車載レーダ装置によって取得された周囲環境情報に基づいて運転支援を行う車両の運転支援装置に関するものである。
近年、自動車等の車両においては、運転者の運転操作を必要とせずに車両を自動的に走行させる自動運転制御技術の開発が進められている。また、この種の自動運転制御技術を利用して運転者の運転操作を支援するための各種の走行制御を実行し得る運転支援装置が、種々提案されており、一般に実用化されつつある。
この種の従来の運転支援装置においては、車両の周囲環境を認識し周囲情報として取得するための周囲環境認識装置として、例えば車載カメラ装置や車載レーダ装置等のセンシングデバイスが用いられている。
このうち、車載カメラ装置は、電子的な画像を取得し、取得された電子画像に基づいて、車両の周囲環境、例えば道路上に標示される区画線等(以下、単に区画線等という)や、道路上に存在する縁石等の立体物のほか、歩行者、他車両等を認識する。
また、車載レーダ装置は、車両の周囲に向けて電波を出力し、物体からの反射波を受信し、受信波を解析することにより、車両の周囲に存在する立体物、例えば道路端の縁石やガードレール等のほか、歩行者、他車両等を認識する。
この種の周囲環境認識装置を搭載し、道路形状や区画線等を認識し、取得した情報に基づいて車両の自動運転を支援するための技術が、例えば特開2015-45622号公報、特開2004-139338号公報等によって、種々開示されている。
上記特開2015-45622号公報等によって開示されている運転支援装置は、車載レーダ装置及び車載カメラ装置を備えている。車載レーダ装置を用いて得られる検出情報に基づいて路端形状を認識する。車載カメラ装置を用いて得られる画像情報に基づいて道路上の車線境界線である車線形状を認識する。そして、認識された路端形状と認識された車線形状とを比較し、両者の一致度に応じて、車両の走行中の道路形状を特定する。
上記特開2004-139338号公報等によって開示されている運転支援装置は、車載カメラ装置及び車載レーダ装置を備えている。そして、車線認識の方法として、車載カメラ装置の取得画像情報の輝度変化により車線を認識する方法と、車載カメラ装置の取得画像に基づくパターンマッチングによる車線認識方法とのいずれかを選択するのに際して、車載レーダ装置の受光量情報に基づいて適切な選択を行う。
特開2015-45622号公報 特開2004-139338号公報
ところが、周囲環境認識装置としての車載カメラ装置は、周囲環境の天候条件や周囲環境の光の条件によっては、区画線等や周囲立体物(道路端縁石等)の画像認識精度が低下してしまうという問題点があった。具体的には、例えば降雨、降雪、霧の発生等のいわゆる悪天候時や、逆光時、薄暮時等の低照度又は低輝度下において、車載カメラ装置における画像認識精度が低下する傾向があることが判っている。このように、周囲認識を充分に行うことができない場合には、運転支援装置における支援機能を継続することが困難になってしまうという問題点がある。
しかしながら、上記特開2015-45622号公報、上記特開2004-139338号公報等によって開示されている従来の運転支援装置においては、車載カメラ装置による画像認識の精度低下、或いは何らかの理由による画像認識の一時的な失陥などが生じた場合に、運転支援機能を継続させるための考慮を欠いていた。
本発明は、車両の自動運転支援機能の実行中に、車載カメラ装置による画像認識の精度が一時的に低下し、或いは何らかの理由により画像認識が一時的に失陥した場合であっても、実行中の自動運転支援機能を維持し継続させ得る車両の運転支援装置を提供することを目的とする。
上記目的を達成するために、本発明の一態様の車両の運転支援装置は、自車両の周囲を撮像した画像データを第1の走行環境情報として取得するカメラ装置と、前記自車両の周囲に出力した電波の対象物からの反射波をセンシングして認識した立体物データを第2の走行環境情報として取得するレーダ装置と、前記カメラ装置によって取得された第1の走行環境情報に基づいて道路区画線を認識すると共に、前記レーダ装置によって取得された第2の走行環境情報に基づいて道路端を認識し、かつ前記自車両と前記道路区画線との間の相対距離情報と前記自車両と前記道路端との間の相対距離情報とから前記道路区画線と前記道路端との間の距離を算出する画像認識ユニットと、前記画像認識ユニットによって認識された前記道路区画線及び前記道路端に関する各情報に基づいて車両の走行を制御する走行制御ユニットと、を具備し、前記画像認識ユニットは、前記第1の走行環境情報に基づく前記道路区画線の認識ができない状況となったときには、前記道路区画線の認識不可状況となる直前における前記道路区画線と前記道路端との間の前記距離情報と、前記レーダ装置により継続して認識されている前記道路端と前記自車両との相対距離情報とに基づいて、前記道路区画線の延長位置に相当する推定道路区画線を設定し、前記走行制御ユニットは、前記推定道路区画線に基づいて前記自車両の走行を制御する。
本発明によれば、車両の自動運転支援機能の実行中に、車載カメラ装置による画像認識の精度低下或いは何らかの理由により画像認識が一時的に失陥した場合であっても、実行中の自動運転支援機能を維持し継続させ得る車両の運転支援装置を提供することができる。
本発明の一実施形態の運転支援装置の概略構成を示すブロック構成図 本発明の一実施形態の運転支援装置が備えるセンサデバイス(カメラ、レーダ、ソナー)の監視領域を概念的に示す図 本発明の一実施形態の運転支援装置を搭載した自車両が道路上を走行している様子を概念的に示す説明図 本発明の一実施形態の運転支援装置1の作用を示すフローチャート。
以下、図示の実施の形態によって本発明を説明する。以下の説明に用いる各図面は模式的に示すものであり、各構成要素を図面上で認識できる程度の大きさで示すために、各部材の寸法関係や縮尺等を構成要素毎に異ならせて示している場合がある。したがって、本発明は、各図面に記載された各構成要素の数量や各構成要素の形状や各構成要素の大きさの比率や各構成要素の相対的な位置関係等に関して、図示の形態のみに限定されるものではない。
なお、本実施形態の以下の説明においては、車両の通行区分を進行方向に向かって左側とする左側通行を基本とした道路システムとして例示している。したがって、右側通行を基本とする道路システムに、本発明の構成を適用するには、左右を入れ替えて考慮すれば容易に応用することができる。
まず、本発明の一実施形態の運転支援装置の概略的な構成を、図1、図2を用いて以下に説明する。図1は、本発明の一実施形態の運転支援装置の概略構成を示すブロック構成図である。図2は、本発明の一実施形態の運転支援装置が備えるセンサデバイス(カメラ、レーダ、ソナー)の監視領域を概念的に示す図である。
図1に示すように、運転支援装置1は、例えば、車両(当該運転支援装置1を搭載している車両を指す。以下、自車両Mという。図2、図3参照)の車室内の前部の上部中央に固定された車載カメラ装置であるカメラユニット10を有して構成されている。
このカメラユニット10は、ステレオカメラ11と、画像処理ユニット(IPU)12と、画像認識ユニット(画像認識_ECU)13と、走行制御ユニット(走行_ECU)14と、を有して構成されている。
ステレオカメラ11は、メインカメラ11aと、サブカメラ11bと、を有する。メインカメラ11a及びサブカメラ11bは、例えば、車幅方向の中央を挟んで左右対称な位置に配置されている。また、メインカメラ11a及びサブカメラ11bは、例えば、CMOSイメージセンサ等によって構成され、互いに同期された所定の撮像周期にて、車外前方の領域Af(図2参照)の走行環境を異なる視点からステレオ撮像する。
IPU12は、ステレオカメラ11によって撮像した走行環境画像データ(車両の走行中の周囲環境を表す画像データ)に対し所定の画像処理を施し、画像上に表された立体物や道路面上に標示される区画線等(以下、単に区画線等という)などの各種対象物のエッジを検出する。これにより、IPU12は、車両周囲の立体物や区画線を認識する。そして、IPU12は、左右の画像上において対応するエッジの位置ズレ量から距離情報を求め、距離情報を含む画像情報(距離画像情報)を生成する。
画像認識_ECU13は、IPU12から受信した距離画像情報などに基づき、自車両Mが走行する走行路(自車走行路)の左右を区画する区画線の道路曲率〔1/m〕、及び左右区画線間の幅(車線幅)を求める。この道路曲率及び車線幅の求め方は種々知られている。例えば、画像認識_ECU13は、道路曲率を走行環境情報に基づき輝度差による二値化処理にて、左右の区画線を認識し、最小自乗法による曲線近似式などにて左右区画線の曲率を所定区間毎に求める。さらに、画像認識_ECU13は、左右両区画線の曲率の差分から車線幅を算出する。
そして、画像認識_ECU13は、左右区画線の曲率と車線幅とに基づき、車線中央、車線中央から自車両Mの車幅方向中央までの距離である自車横位置偏差等を算出する。
また、画像認識_ECU13は、距離画像情報に対して所定のパターンマッチングなどを行い、道路に沿って延在するガードレール、縁石及び周辺車両等の立体物の認識を行う。ここで、画像認識_ECU13における立体物の認識では、例えば、立体物の種別、立体物の高さ、立体物までの距離、立体物の速度、立体物と自車両Mとの相対速度、立体物同士の相対的な距離(例えば道路端の縁石等と、その近傍にある区画線等との間の横方向距離など)などの認識が行われる。
これら画像認識_ECU13において認識された各種情報は、第1の走行環境情報として走行_ECU14に出力される。
このように、本実施形態において、画像認識_ECU13は、ステレオカメラ11及びIPU12とともに、車両周囲の第1の走行環境情報を認識する走行環境認識手段であり周囲環境認識装置としての機能を実現する。
走行_ECU14は、運転支援装置1を統括制御するための制御ユニットである。この走行_ECU14には、各種の制御ユニットとして、コックピット制御ユニット(CP_ECU)21、と、エンジン制御ユニット(E/G_ECU)22と、トランスミッション制御ユニット(T/M_ECU)23と、ブレーキ制御ユニット(BK_ECU)24と、パワーステアリング制御ユニット(PS_ECU)25とがCAN(Controller Area Network)等の車内通信回線を介して接続されている。
さらに、走行_ECU14には、各種のセンサ類として、ロケータユニット36と、車載レーダ装置37(左前側方センサ37lfと、右前側方センサ37rfと、左後側方センサ37lrと、右後側方センサ37rr)、後方センサ38と、が接続されている。
CP_ECU21には、運転席の周辺に配設されたヒューマン・マシーン・インターフェース(HMI)31が接続されている。HMI31は、例えば、各種の運転支援制御の実行を指示するためのスイッチ、運転モードの切り換えを行うためのモード切換スイッチ、ドライバの保舵状態を検出するステアリングタッチセンサ、ドライバの顔認証や視線等を検出するドライバモニタリングシステム(DMS)、タッチパネル式のディスプレイ、コンビネーションメータ及びスピーカ等を有して構成されている。
CP_ECU21は、走行_ECU14からの制御信号を受信すると、先行車等に対する各種警報、運転支援制御の実施状況及び自車両Mの走行環境等に関する各種情報を、HMI31を通じた表示や音声等により、ドライバに適宜報知する。また、CP_ECU25は、HMI31を通じてドライバにより入力された各種運転支援制御に対するオン/オフ操作状態等の各種入力情報を、走行_ECU14に出力する。
E/G_ECU22の出力側には、電子制御スロットルのスロットルアクチュエータ32等が接続されている。また、E/G_ECU22の入力側には、図示しないアクセルセンサ等の各種センサ類が接続されている。
E/G_ECU22は、走行_ECU14からの制御信号或いは各種センサ類からの検出信号等に基づき、スロットルアクチュエータ32に対する駆動制御を行う。これにより、E/G_ECU22は、エンジンの吸入空気量を調整し、所望のエンジン出力を発生させる。また、E/G_ECU22は、各種センサ類において検出されたアクセル開度等の信号を、走行_ECU14に出力する。
T/M_ECU23の出力側には、油圧制御回路33が接続されている。また、T/M_ECU23の入力側には、図示しないシフトポジションセンサ等の各種センサ類が接続されている。T/M_ECU23は、E/G_ECU22において推定されたエンジントルク信号や各種センサ類からの検出信号等に基づき、油圧制御回路33に対する油圧制御を行う。これにより、T/M_ECU23は、自動変速機に設けられている摩擦係合要素やプーリ等を動作させ、エンジン出力を所望の変速比にて変速する。また、T/M_ECU23は、各種センサ類において検出されたシフトポジション等の信号を、走行_ECU14に出力する。
BK_ECU24の出力側には、各車輪に設けられているブレーキホイールシリンダに出力するブレーキ液圧を各々調整するためのブレーキアクチュエータ34が接続されている。また、BK_ECU24の入力側には、図示しないブレーキペダルセンサ、ヨーレートセンサ、前後加速度センサ及び車速センサ等の各種センサ類が接続されている。
BK_ECU24は、走行_ECU14からの制御信号或いは各種センサ類からの検出信号に基づき、ブレーキアクチュエータ34に対する駆動制御を行う。これにより、BK_ECU24は、自車両Mに対する強制的な制動制御やヨーレート制御等を行うためのブレーキ力を各車輪に適宜発生させる。また、BK_ECU24は、各種センサにおいて検出されたブレーキ操作状態、ヨーレート、前後加速度及び車速(自車速)等の信号を、走行_ECU14に出力する。
PS_ECU25の出力側には、ステアリング機構にモータの回転力による操舵トルクを付与する電動パワステモータ35が接続されている。また、PS_ECU25の入力側には、操舵トルクセンサや舵角センサ等の各種センサ類が接続されている。
PS_ECU25は、走行_ECU14からの制御信号或いは各種センサ類からの検出信号に基づき、電動パワステモータ35に対する駆動制御を行う。これにより、PS_ECU25は、ステアリング機構に対する操舵トルクを発生させる。また、PS_ECU25は、各種センサ類において検出された操舵トルク及び舵角等の信号を、走行_ECU14に出力する。
ロケータユニット36は、GNSSセンサ36aと、高精度道路地図データベース(道路地図DB)36bと、を有して構成されている。
GNSSセンサ36aは、複数の測位衛星から発信される測位信号を受信することにより、自車両Mの位置(緯度、経度、高度等)を測位する。
道路地図DB36bは、HDD、SSDなどの大容量記憶媒体であり、高精度な道路地図情報(ダイナミックマップ)が記憶されている。この道路地図DB36bは、自動運転を行う際に必要とする車線データとして、車線幅データ、車線中央位置座標データ、車線の進行方位角データ、制限速度などを保有している。この車線データは、道路地図上の各車線に、数メートル間隔で格納されている。また、道路地図DBは、各種施設や駐車場等の情報を保有している。道路地図DB36bは、例えば、走行_ECU14からの要求信号に基づき、GNSSセンサ36aにおいて測位された自車位置を基準とする設定範囲の道路地図情報を、第3の走行環境情報として走行_ECU14に出力する。
このように、本実施形態において、道路地図DB36bは、GNSSセンサ36aとともに、車両周囲の第3の走行環境情報を認識する走行環境認識手段であり周囲環境認識装置としての機能を実現する。
左前側方センサ37lf、右前側方センサ37rf、左後側方センサ37lr、右後側方センサ37rrは、車載レーダ装置37を構成する複数のセンサであり、例えばミリ波レーダによって構成されている。
ここで、各ミリ波レーダは、出力した電波に対し、物体からの反射波を解析することにより、主として歩行者や併走車等の立体物のほか、道路端(例えば路肩側の端部)に設けられる構造物等(例えば縁石、ガードレール、建物等の壁、植栽等の立体物等)を検出する。具体的には、各レーダは、立体物に関する情報として、立体物の横幅、立体物の代表点の位置(自車両Mとの相対位置、相対距離)及び相対速度等を検出する。
なお、左前側方センサ37lf及び右前側方センサ37rfは、例えば、フロントバンパの左右側部にそれぞれ配設されている。左前側方センサ37lf及び右前側方センサ37rfは、ステレオカメラ11の画像では認識することが困難な自車両Mの左右斜め前方及び側方の領域Alf、Arf(図2参照)に存在する立体物を第2の走行環境情報として検出する。
また、左後側方センサ37lr及び右後側方センサ37rrは、例えば、リアバンパの左右側部にそれぞれ配設されている。左後側方センサ37lr及び右後側方センサ37rrは、左前側方センサ37lf及び右前側方センサ37rfでは認識することが困難な自車両Mの左右斜め側方及び後方の領域Alr、Arr(図2参照)に存在する立体物を第2の走行環境情報として検出する。
このように、本実施形態において、車載レーダ装置37(前側方センサ37lf、右前側方センサ37rf、左後側方センサ37lr及び右後側方センサ37rr)は、車両周囲の第2の走行環境情報を認識する走行環境認識手段であり周囲環境認識装置としての機能を実現する。そして、これらセンサ37lf、37rf、37lr,37rrの取得情報は、画像認識_ECU13へと送られる。
後方センサ38は、例えば、ソナー装置によって構成されている。この後方センサ38は、例えば、リアバンパに配設されている。後方センサ38は、左後側方センサ37lr及び右後側方センサ37rrでは認識することが困難な自車両Mの後方の領域Ar(図2参照)に存在する立体物を第4の走行環境情報として検出する。
このように、本実施形態において、後方センサ38は、車両周囲の第4の走行環境情報を認識する走行環境認識手段であり周囲環境認識装置としての機能を実現する。
なお、画像認識_ECU13において認識された第1の走行環境情報、ロケータユニット36において認識された第3の走行環境情報、左前側方センサ37lfと右前側方センサ37rfと左後側方センサ37lrと右後側方センサ37rrとにおいて認識された第2の走行環境情報及び後方センサ38において認識された第4の走行環境情報にそれぞれ含まれる車外の各対象の座標は、何れも、走行_ECU14において、自車両Mの中心を原点とする三次元座標系(図2参照)の座標に変換される。
走行_ECU14には、運転モードとして、手動運転モードと、走行制御のためのモードである第1の走行制御モード及び第2の走行制御モードと、退避モードと、が設定されている。これらの各運転モードは、例えば、HMI31に設けられているモード切換スイッチに対する操作状況等に基づき、走行_ECU14において選択的に切換可能となっている。
ここで、手動運転モードとは、ドライバによる保舵を必要とする運転モードであり、例えば、ドライバによるステアリング操作、アクセル操作およびブレーキ操作などの運転操作に従って、自車両Mを走行させる運転モードである。
また、第1の走行制御モードも同様に、ドライバによる保舵を必要とする運転モードである。すなわち、第1の走行制御モードは、ドライバによる運転操作を反映しつつ、例えば、E/G_ECU22、BK_ECU24、PS_ECU25などの制御を通じて、主として、先行車追従制御(ACC:Adaptive Cruise Control)と、車線中央維持(ALKC:Active Lane Keep Centering)制御および車線逸脱抑制(Active Lane Keep Bouncing)制御と、を適宜組み合わせて行うことにより、目標走行経路に沿って自車両Mを走行させる、いわば半自動運転モードである。
ここで、先行車追従制御は、基本的には、画像認識_ECU13から入力される第1の走行環境情報に基づいて行われる。すなわち、先行車追従制御は、例えば、画像認識_ECU13からの第1の走行環境情報に含まれる先行車情報等に基づいて行われる。
また、車線中央維持制御および車線逸脱抑制制御は、基本的には、画像認識_ECU13或いはロケータユニット36のうちの少なくとも何れか一方から入力される第1、第3の走行環境情報に基づいて行われる。すなわち、車線中央維持制御および車線逸脱抑制制御は、例えば、画像認識_ECU13或いはロケータユニット36からの第3の走行環境情報に含まれる車線区画線情報等に基づいて行われる。
また、第2の走行制御モードとは、ドライバによる保舵、アクセル操作およびブレーキ操作を必要とすることなく、例えば、E/G_ECU22、BK_ECU24、PS_ECU25などの制御を通じて、主として、先行車追従制御と、車線中央維持制御および車線逸脱抑制制御とを適宜組み合わせて行うことにより、目標ルート(ルート地図情報)に従って自車両Mを走行させるいわゆるハンズオフ機能を実現する自動運転モードである。
退避モードは、例えば、第2の走行制御モードによる走行中に、当該モードによる走行が継続不能となり、且つ、ドライバに運転操作を引き継ぐことができなかった場合(すなわち、手動運転モード、または、第1の走行制御モードに遷移できなかった場合)に、自車両Mを路側帯などに自動的に停止させるためのモードである。
また、走行_ECU14は、上述の各運転モードにおいて、自車両Mと衝突する可能性の高い自車走行路上の先行車等の障害物に対し、適宜、緊急ブレーキ(AEB(Autonomous Emergency Braking):衝突被害軽減ブレーキ)制御を行う。
なお、ロケータユニット36、画像認識_ECU13、走行_ECU14、CP_ECU21、E/G_ECU22、T/M_ECU23、BK_ECU24、PS_ECU25等の全部又は一部は、ハードウエアを含むプロセッサにより構成されている。
ここで、プロセッサは、例えば、中央処理装置(CPU;Central Processing Unit)、RAM(Random Access Memory)、ROM(Read Only Memory)や、不揮発性メモリ(Non-volatile memory)、不揮発性記憶装置(Non-volatile storage)等のほか、非一過性の記録媒体(non-transitory computer readable medium)等を備える周知の構成及びその周辺機器等によって構成されている。
ROMや不揮発性メモリ、不揮発性記憶装置等には、CPUが実行するソフトウエアプログラムやデータテーブル等の固定データ等が予め記憶されている。そして、CPUがROM等に格納されたソフトウエアプログラムを読み出してRAMに展開して実行し、また、当該ソフトウエアプログラムが各種データ等を適宜参照等することによって、上記各構成部や構成ユニット(36、13、14、21、22、23、24、25)等の各機能が実現される。
また、プロセッサは、FPGA(Field Programmable Gate Array)などの半導体チップなどにより構成されていてもよい。また、上記各構成部や構成ユニット(36、13、14、21、22、23、24、25)等は電子回路によって構成してもよい。
さらに、ソフトウエアプログラムは、コンピュータプログラム製品として、フレキシブルディスク、CD-ROM、DVD-ROM等の可搬型板媒体や、カード型メモリ、HDD(Hard Disk Drive)装置,SSD(Solid State Drive)装置等の非一過性の記憶媒体(non-transitory computer readable medium)等に、全体あるいは一部が記録されている形態としてもよい。
このように構成された本実施形態の運転支援装置1の作用について、図3、図4を用いて以下に説明する。図3は、本実施形態の運転支援装置1を搭載した自車両Mが道路上を走行している様子を概念的に示す説明図である。図4は、本実施形態の運転支援装置1の作用を示すフローチャートである。
図3において、本実施形態の運転支援装置1を搭載した自車両を符号Mで示している。また、図3の符号101は、自車両Mが走行中の自車線を示す。図3の符号102は、自車線101の左側の区画線を示す(以下、左側区画線102という)。図3の符号103は、自車線101の右側(道路中央側)の区画線を示す。なお、図3は、片側一車線の道路を例示している。したがって、自車線101の右側区画線103は、即ち当該道路の中央線を示している。図3の符号104は、自車線101の左側の道路端を示す(以下、左側道路端104という)。ここで、左側道路端104は、具体的には、例えば道路と歩道等との境界に設けられる縁石やガードレール若しくは壁などの立体物が相当する。図3の符号105は、左側区画線102と左側道路端104との間の領域(路肩若しくは路側帯)を示す。
なお、図3において、符号Aは、自車両Mと左側区画線102との相対距離(横方向距離)を示す。図3において、符号Bは、自車両Mと左側道路端104との相対距離(横方向距離)を示す。図3において、符号Cは、左側区画線102と左側道路端104との間の横方向距離を示す。図3において、符号Dは、自車両Mと自車線101の横方向距離、即ち自車線101の車線幅を示す。
ここで、まず、本実施形態の運転支援装置1を搭載した自車両Mが、図3に示すように、自車線101上を走行しているものとする。このとき、自車両Mの運転支援装置1は、第1の走行制御モード又は第2の走行制御モードに設定されているものとする。つまり、例えば、先行車追従制御(ACC)、車線中央維持(ALKC)制御、車線逸脱抑制(ALKB)制御など、所定の自動運転支援機能を実行しているものとする。さらに、ハンズオフ機能(第2の走行制御モード)を実行していてもよい。
このような状態にある運転支援装置1は、図4のステップS11において、カメラユニット10を動作させて区画線情報(主に左側区画線102に関する情報)を取得する。同時に、車載レーダ装置を動作させて道路端情報(主に左側道路端104に関する情報)を取得する。さらに、ロケータユニット36により現在走行中の道路に関する情報(道路情報;車線幅Dを含む各種情報等)を取得する。
ここで、例えば、カメラユニット10は、取得された一対の画像データに基づいて、IPU12において所定の演算処理がなされることにより、自車両Mと左側区画線102との相対距離(横方向距離A)に関する情報が算出され取得される。
自車両Mと左側道路端104との相対距離(横方向距離B)は、車載レーダ装置のうち左前側方センサ37lf又は左後側方センサ37lrにより取得された情報に基づき、画像認識_ECU13において行われる所定の演算処理により算出され取得される。
また、自車両Mと自車線101の横方向距離(車線幅D)は、カメラユニット10により取得される左側区画線102と右側区画線103との各距離情報に基づき、画像認識_ECU13において行われる所定の演算処理により算出され取得される。なお、車線幅Dの情報は、ロケータユニット36の道路地図情報DB36bから取得してもよい。
次に、ステップS12において、画像認識_ECU13は、上述のステップS11の処理にて取得した各情報に基づき、各対象物間の相対的な関係(例えば対象物同士の間の距離情報など)を算出する。具体的には、左側区画線102と左側道路端104との間の横方向の距離Cは、カメラユニット10による取得情報(距離A)と車載レーダ装置による取得情報(距離B)とに基づき、画像認識_ECU13において所定の演算処理が施されて算出され取得される。
続いて、ステップS13において、画像認識_ECU13は、カメラユニット10による画像認識精度が低下しているか否かの確認を行う。この場合において、カメラユニット10による画像認識精度が低下しているか否かの判断は、例えば、左側区画線102のエッジ検出が不安定になったか否か、若しくは検出不能となったか否か等により判断する。ここで、画像認識精度が低下していると判断された場合には、次のステップS14の処理に進む。また、画像認識精度が低下していない(平常である)と判断された場合には、ステップS19の処理に進む。
ステップS14において、画像認識_ECU13は、カメラユニット10による画像認識処理を停止、若しくは処理結果を参照せず、車載レーダ装置による左側道路端104の情報の取得処理は継続して行う。
次いで、ステップS15において、画像認識_ECU13は、上述のステップS12の処理にて算出済みの相対距離情報に基づき、左側区画線102の推定位置を算出する。
ステップS16において、画像認識_ECU13は、上述のステップS15の処理にて算出した左側区画線102の推定位置情報をカメラユニット10の画像認識_ECU13へと送信する。これにより、カメラユニット10により認識不能となった時点から先の左側区画線102の位置が推定される。こうして推定される区画線を推定区画線というものとする。
ステップS17において、画像認識_ECU13は、自車進行方向に対して横方向の左側道路端104の位置の安定度を判定する。ここで、左側道路端104としては、上述したように、例えば縁石やガードレール、あるいは建物等の壁などが相当する。具体的には、例えば、高速自動車道や自動車専用道路等の高規格幹線道路であれば、左側道路端104の縁石やガールレールなどは、比較的安定した形状で連続して延在している。
なお、高規格幹線道路であっても、入出口、ジャンクション、サービスエリア、パーキングエリア、料金所(以下、道路施設等という)近傍領域では、本線からの分岐路或いは合流路が存在し、また車線減少或いは車線増加が存在するため、自車両の走行車線の左側区画線が一時的に途切れる箇所がある。さらに、高規格幹線道路では、所定の間隔で非常駐車帯や路線バス停留所など(以下、これらも道路施設等に含めるものとする)が設置されている箇所がある。このような道路施設等の存在する箇所では、一時的に、左側道路端104の位置は安定していないものと考えられる。しかしながら、これらの道路施設等の情報は、道路地図情報に含まれていることから、運転支援装置1は、予め認識することができる。
一方、一般道路の場合には、道路端104の縁石やガードレールなどは、道路に面した商業施設や住宅地などへの出入りのために、断続した形態で形成されていることが多い。また、一般道路では、道路端104に建物や壁面が構築されている場合もある。この場合にも、壁などは、道路に沿って断続した形態で形成されている場合が多くある。
さらに、例えば、一般道路の場合には、道路周囲に構造物が存在せず、道路端104を認識し得ないといった状況もあり得る。具体的には、例えば、河川堤防上の道路や広域農道などが想定される。このような場合には、カメラユニット10によっても、車載レーダ装置によっても、いずれのデバイスによっても、道路端104を認識し得ない。
したがって、これらのことを加味して、左側道路端104の位置の安定度を、段階的に規定し、車載レーダ装置の検出結果とロケータ情報に基づいて対応する安定度レベルを判定するようにしている。
具体的には、例えば高規格幹線道路を走行中であって、車載レーダ装置の検出結果が安定しており、かつロケータ情報から自車両Mの近傍に道路施設等が存在しない場合は、安定度レベル=0と規定する。
また、例えば高規格幹線道路を走行中であって、車載レーダ装置の検出結果が安定しており、かつロケータ情報から自車両Mの近傍に道路施設等が存在していることが判明している場合は、安定度レベル=1と規定する。
さらに、例えば一般道路を走行中であって、車載レーダ装置の検出結果が断続的に不安定ではあるものの、道路端104を継続的に認識し得ている場合には、安定度レベル=2と規定する。
そして、例えば一般道路を走行中であって、車載レーダ装置によって道路端104を認識し得ない場合には、安定度レベル=3と規定する。なお、ここで示した安定度レベルの規定は、単なる例示であって、上述の例に限られることはない。
ステップS18において、画像認識_ECU13は、上述の判定結果がレベル=0であるか否かの確認を行う。ここで、レベル=0であれば、左側道路端104の形状が安定しており、左側区画線102の推定位置が信頼できるものと判断されるので、ステップS19の処理に進む。また、レベル=0以外であれば、ステップS20の処理に進む。
ステップS19において、画像認識_ECU13は、実行中の自動運転支援機能のうち、例えば車線逸脱抑制(ALKB)制御、先行車追従制御(ACC)制御の実行を維持する。また、第2の走行制御モードに設定されている場合は、ハンズオフ機能の実行を維持する。つまり、道路端104の安定度レベル=0の状況にあるときは、これらの自動運転支援機能を許容し得るということである。なお、これらの自動運転支援機能は単なる例示である。その後、元の処理に復帰する(リターン)。
ステップS20において、画像認識_ECU13は、上述の判定結果がレベル=1であるか否かの確認を行う。ここで、レベル=1であれば、ステップS21の処理に進む。また、レベル=0又はレベル=1以外であれば、ステップS22の処理に進む。
ステップS21において、画像認識_ECU13は、実行中の自動運転支援機能のうち、例えば車線逸脱抑制(ALKB)制御、先行車追従制御(ACC)制御の実行を維持する。また、第2の走行制御モードに設定されている場合は、ハンズオフ機能の実行をオフにする。つまり、道路端104の安定度レベル=1の状況にあるときは、これらのうちのいくつかの自動運転支援機能を許容し得る(オン維持)一方、いくつかの機能は許容し得ない(オフ)ということである。なお、これらの自動運転支援機能は単なる例示である。その後、元の処理に復帰する(リターン)。
なお、ここで、自動運転支援機能をオフにする場合は、予め運転者に対しその旨の警報表示を行うようにするのが望ましい。以下の処理ステップにおいて機能オフを行う場合も同様である。
ステップS22において、画像認識_ECU13は、上述の判定結果がレベル=2であるか否かの確認を行う。ここで、レベル=2であれば、ステップS23の処理に進む。また、レベル=0又はレベル=1又はレベル=2以外であれば、ステップS24の処理に進む。
ステップS23において、画像認識_ECU13は、実行中の自動運転支援機能のうち、例えば先行車追従制御(ACC)制御の実行を維持すると共に、車線逸脱抑制(ALKB)制御の実行をオフにする。また、第2の走行制御モードに設定されている場合は、ハンズオフ機能の実行をオフにする。つまり、道路端104の安定度レベル=2の状況にあるときは、これらのうちのいくつかの自動運転支援機能を許容し得る(オン維持)一方、いくつかの機能は許容し得ない(オフ)ということである。なお、これらの自動運転支援機能は単なる例示である。その後、元の処理に復帰する(リターン)。
ステップS24において、画像認識_ECU13は、上述の判定結果がレベル=3であることを確認し、全ての自動運転支援機能の実行をオフにする。つまり、道路端104の安定度レベル=3の状況にあるときは、これらの自動運転支援機能は全て許容することができないということである。なお、これらの自動運転支援機能は単なる例示である。その後、元の処理に復帰する(リターン)。
以上説明したように上記一実施形態によれば、画像認識_ECU13は、カメラユニット10によって取得された第1の走行環境情報に基づいて左側区画線102を認識すると共に、車載レーダ装置によって取得された第2の走行環境情報に基づいて左側道路端104を認識する。これと同時に、画像認識_ECU13は、自車両Mと左側区画線102との間の相対距離情報Aと、自車両Mと左側道路端104との間の相対距離情報Bとを取得する算出する。そして、画像認識_ECU13は、左側区画線102と左側道路端104との間の距離Cを算出する。
そして、画像認識_ECU13は、カメラユニット10により第1の走行環境情報に基づく左側区画線102の認識ができない状況となったときには、左側区画線102の認識不可状況となる直前における左側区画線102と道路端104との間の距離Cと、車載レーダ装置により継続して認識されている道路端104と自車両Mとの相対距離Bとに基づいて、左側区画線102の延長位置に相当する推定道路区画線を設定する。このとき、推定道路区画線の設定は、ロケータユニット36により取得される第3の走行環境情報をも加味してもよい。
こうして設定された推定道路区画線に基づいて、走行制御ユニット(走行_ECU)14は、自車両Mの走行を制御する。
この場合において、走行制御ユニット(走行_ECU)14は、車載レーダ装置により取得される第2の走行環境情報に基づいて認識される道路端104の安定度を判定し、安定度レベルに応じて自動運転支援機能の継続及び解除を設定する。
この構成により、本実施形態の運転支援装置1は、自車両Mの自動運転支援機能の実行中において、カメラユニット10による画像認識精度が一時的に低下し、或いは何らかの理由により画像認識が一時的に失陥した場合であっても、実行中の自動運転支援機能を維持し継続させることができる。
また、自車両Mの周囲環境に応じて、実行中の自動運転機能を継続させ、若しくは実行中の自動運転機能を停止し解除させることによって、より安全な運転を継続することができる。
なお、上述の一実施形態においては、図3に示すように、自車両Mは片側一車線道路を走行中の場合の例示で説明したが、これに限られることはない。例えば、片側二車線道路において、自車両Mが中央寄りの追越車線を走行中においても、本発明は同様に適用し得る。即ち、この場合において、自車両Mの左側区画線は、道路端直近の区画線では無く、自車両Mの走行している車線(追越車線)の左側に隣接する車線(走行車線)における右側区画線が相当する。この場合にも、自車両Mが認識している左側区画線と道路端(縁石等)との距離情報に基づいて、自車両Mの左側区画線の推定は、上述の一実施形態と全く同様に可能である。
このことから、自車両Mが片側三車線道路の中央より車線を走行している場合であっても同様に適用できる。また、この場合には、右側中央分離帯を道路端として認識する制御とすれば、上述の一実施形態の左右を入れ替えて考えることにより、同様に適用することができる。
本発明は上述した実施形態に限定されるものではなく、発明の主旨を逸脱しない範囲内において種々の変形や応用を実施することができることは勿論である。さらに、上記実施形態には、種々の段階の発明が含まれており、開示される複数の構成要件における適宜な組み合わせによって、種々の発明が抽出され得る。例えば、上記一実施形態に示される全構成要件から幾つかの構成要件が削除されても、発明が解決しようとする課題が解決でき、発明の効果が得られる場合には、この構成要件が削除された構成が発明として抽出され得る。さらに、異なる実施形態にわたる構成要素を適宜組み合わせてもよい。この発明は、添付のクレームによって限定される以外にはそれの特定の実施態様によって制約されない。
1…運転支援装置
10…カメラユニット
11…ステレオカメラ
11a…メインカメラ
11b…サブカメラ
13…画像認識ユニット(画像認識_ECU)
14…走行制御ユニット(走行_ECU)
21…コックピット制御ユニット(CP_ECU)
22…エンジン制御ユニット(E/G_ECU)
23…トランスミッション制御ユニット(T/M_ECU)
24…ブレーキ制御ユニット(BK_ECU)
25…パワーステアリング制御ユニット(PS_ECU)
31…ヒューマン・マシーン・インターフェース(HMI)
32…スロットルアクチュエータ
33…油圧制御回路
34…ブレーキアクチュエータ
35…電動パワステモータ
36…ロケータユニット
36a…GNSSセンサ
36b…道路地図情報DB
37…車載レーダ装置
37lf…左前側方センサ
37lr…左後側方センサ
37rf…右前側方センサ
37rr…右後側方センサ
38…後方センサ
101…自車線
102…左側区画線
103…右側区画線
104…左側道路端
M…自車両

Claims (3)

  1. 自車両の周囲を撮像した画像データを第1の走行環境情報として取得するカメラ装置と、
    前記自車両の周囲に出力した電波の対象物からの反射波をセンシングして認識した立体物データを第2の走行環境情報として取得するレーダ装置と、
    前記カメラ装置によって取得された第1の走行環境情報に基づいて道路区画線を認識すると共に、前記レーダ装置によって取得された第2の走行環境情報に基づいて道路端を認識し、かつ前記自車両と前記道路区画線との間の相対距離情報と前記自車両と前記道路端との間の相対距離情報とから前記道路区画線と前記道路端との間の距離を算出する画像認識ユニットと、
    前記画像認識ユニットによって認識された前記道路区画線及び前記道路端に関する各情報に基づいて車両の走行を制御する走行制御ユニットと、
    を具備し、
    前記画像認識ユニットは、前記第1の走行環境情報に基づく前記道路区画線の認識ができない状況となったときには、
    前記道路区画線の認識不可状況となる直前における前記道路区画線と前記道路端との間の前記距離情報と、前記レーダ装置により継続して認識されている前記道路端と前記自車両との相対距離情報とに基づいて、前記道路区画線の延長位置に相当する推定道路区画線を設定し、
    前記走行制御ユニットは、前記推定道路区画線に基づいて前記自車両の走行を制御することを特徴とする車両の運転支援装置。
  2. 前記周囲環境認識装置は、さらに、
    道路地図情報を有し測位信号に基づいて自車位置を測位し第3の走行環境情報として取得するロケータユニットを具備し、
    前記画像認識ユニットは、前記第3の走行環境情報をも加味して前記推定道路区画線を設定することを特徴とする請求項1に記載の車両の運転支援装置。
  3. 前記走行制御ユニットは、前記レーダ装置により取得される前記第2の走行環境情報に基づいて認識される前記道路端の安定度を判定し、安定度レベルに応じて自動運転支援機能の継続及び解除を設定することを特徴とする請求項1に記載の車両の運転支援装置。
JP2021154819A 2021-09-22 2021-09-22 車両の運転支援装置 Pending JP2023046108A (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2021154819A JP2023046108A (ja) 2021-09-22 2021-09-22 車両の運転支援装置
US17/895,679 US20230090300A1 (en) 2021-09-22 2022-08-25 Driving assist apparatus for vehicle
CN202211072537.XA CN115937802A (zh) 2021-09-22 2022-09-02 车辆的驾驶辅助装置
DE102022122382.5A DE102022122382A1 (de) 2021-09-22 2022-09-05 Fahrunterstützungsvorrichtung für ein fahrzeug

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2021154819A JP2023046108A (ja) 2021-09-22 2021-09-22 車両の運転支援装置

Publications (1)

Publication Number Publication Date
JP2023046108A true JP2023046108A (ja) 2023-04-03

Family

ID=85383694

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021154819A Pending JP2023046108A (ja) 2021-09-22 2021-09-22 車両の運転支援装置

Country Status (4)

Country Link
US (1) US20230090300A1 (ja)
JP (1) JP2023046108A (ja)
CN (1) CN115937802A (ja)
DE (1) DE102022122382A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20230234583A1 (en) * 2022-01-27 2023-07-27 Magna Electronics Inc. Vehicular radar system for predicting lanes using smart camera input

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3997885B2 (ja) 2002-10-17 2007-10-24 日産自動車株式会社 レーンマーカ認識装置
JP5892129B2 (ja) 2013-08-29 2016-03-23 株式会社デンソー 道路形状認識方法、道路形状認識装置、プログラムおよび記録媒体

Also Published As

Publication number Publication date
CN115937802A (zh) 2023-04-07
US20230090300A1 (en) 2023-03-23
DE102022122382A1 (de) 2023-03-23

Similar Documents

Publication Publication Date Title
US10437257B2 (en) Autonomous driving system
US11772655B2 (en) Advanced driver assistance system, vehicle having the same, and method of controlling vehicle
RU2642547C1 (ru) Система определения обновления карт
JP5094658B2 (ja) 走行環境認識装置
US20150345964A1 (en) Evacuation travelling assistance apparatus
CN113291309B (zh) 周边识别装置、周边识别方法及存储介质
RU2760714C1 (ru) Способ содействия вождению и устройство содействия вождению
US11932253B2 (en) Vehicle control method and vehicle control device
CN110435646B (zh) 一种车辆的盲区目标追踪方法
JP2023105691A (ja) 車両の運転支援装置
US12036978B2 (en) Driving assistance method and driving assistance device
JP7521862B2 (ja) 運転支援装置
JP7549503B2 (ja) 走行制御装置
US20220266830A1 (en) Driving assist method and driving assist device
JP2023046108A (ja) 車両の運転支援装置
JP2022114191A (ja) 車両の走行制御装置
US20230294731A1 (en) Traveling control apparatus for vehicle
US20230227025A1 (en) Vehicle drive assist apparatus
US20220203980A1 (en) Vehicle driving control system
JP7431697B2 (ja) 車両の走行制御装置及び車両の走行制御システム
US11993202B2 (en) Vehicle light distribution control apparatus
US20240042999A1 (en) Travel control apparatus for vehicle
US20240034315A1 (en) Vehicle traveling control apparatus
US20240042997A1 (en) Travel control apparatus for vehicle
US20230234571A1 (en) Vehicle drive assist apparatus

Legal Events

Date Code Title Description
RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20240618

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20240820