JP2004201223A - 車両周辺監視装置および舵角検出方法 - Google Patents
車両周辺監視装置および舵角検出方法 Download PDFInfo
- Publication number
- JP2004201223A JP2004201223A JP2002370370A JP2002370370A JP2004201223A JP 2004201223 A JP2004201223 A JP 2004201223A JP 2002370370 A JP2002370370 A JP 2002370370A JP 2002370370 A JP2002370370 A JP 2002370370A JP 2004201223 A JP2004201223 A JP 2004201223A
- Authority
- JP
- Japan
- Prior art keywords
- steering angle
- image
- vehicle
- camera
- monitoring device
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Closed-Circuit Television Systems (AREA)
- Traffic Control Systems (AREA)
Abstract
【解決手段】車両の操舵輪が写るように設置されたカメラの画像を入力とし、画像中の車輪の形状から舵角を検出して出力する舵角検出手段と、舵角と画像を入力として画像上に車両の予測軌跡を重畳合成して出力する予測軌跡画像合成手段を有することで、舵角センサー無しに常に正しい舵角の検出と、舵角に応じた予測軌跡の描画が可能になる。
【選択図】 図1
Description
【発明の属する技術分野】
本発明は、運転者の安全な運転を支援することを目的として、車両に設置したカメラの画像を変形加工して車両周辺の映像を表示する車両周辺監視装置に関するものであり、特に、車両の舵角の検出と予測軌跡の描画をともなう車両周辺監視装置に関するものである。
【0002】
【従来の技術】
近年、車載用のディスプレイ装置の普及やカメラなどの映像機器の低価格化に伴い、カメラによって車両周辺を監視することで安全運転を支援する装置が普及しつつある。
【0003】
上記した従来の車両周辺監視装置の一例としては、車両の後方などの運転者から死角となる部分を映すようにカメラを設置し、舵角センサーで検出した舵角に応じた車両の予想軌跡を計算して、カメラで得られた画像に重畳合成し、車内に設置したディスプレイに表示するという装置がある。(例えば、特許文献1参照。)。
【0004】
また、上記した従来の車両周辺監視装置における舵角検出方法の一例としては、車両の操舵機構にロータリーエンコーダ型のセンサーを設置して前輪の相対的な操舵角の変化量を検出した上で、所定の直進走行状態から操舵の中立位置を検出し、この中立位置と相対的な変化量との関係から、絶対的な舵角を検出する舵角検出装置がある。(例えば、特許文献2参照。)。
【0005】
【特許文献1】
特開昭64−14700号公報
【特許文献2】
特開昭61−28811号公報
【0006】
【発明が解決しようとする課題】
しかしながら、上記した車両周辺監視装置では、予想軌跡を得るために舵角センサーが必要であり、車両の操舵機構に舵角センサーを設置するのが困難であったり、舵角センサーの分だけ価格が高くなるという課題を有していた。
【0007】
また、上記した車両周辺監視装置における舵角検出方法では、一般的に用いられているロータリーエンコーダ型のセンサーが相対的な角度を検出するセンサーであることから、電源投入直後から舵角の中点位置が検出されるまでの間、舵角が求まらないという問題を有していた。さらに、上記の課題に対応するため、電源断時に舵角を保存しておき、電源投入直後は保存された舵角を用いる舵角検出方法も知られているが、電源断時に舵角が変わった場合に誤った舵角を出力するという、別の課題を有していた。
【0008】
本発明は上記問題点に鑑み、その第1の目的は、舵角センサーを不要にすることで、設置が簡便かつ安価な車両周辺監視装置を提供することにある。
【0009】
また、本発明の第2の目的は、常に絶対舵角を出力することが可能な舵角検出方法を提供することにある。
【0010】
【課題を解決するための手段】
上記課題を解決する本発明の車両周辺監視装置は、カメラで撮影された画像を入力とし、操舵輪の画像から舵角を算出して出力する舵角検出手段と、舵角と画像を入力として、画像上に車両の予測進路を重畳合成して出力する予測進路画像合成手段を備えたことを特徴とする。
【0011】
上記した構成によって、舵角センサーが無くても舵角の検出と予想軌跡の描画が可能となり、設置が簡便かつ安価な車両周辺監視装置の提供が可能になる。
【0012】
さらに上記課題を解決する本発明の舵角検出方法は、画像中の車輪の向きを検出するステップと検出された車輪の向きから舵角を算出するステップを有することを特徴とする。
【0013】
上記した構成によって、電源投入直後や電源断時の操舵などの状況に関わらず、常に絶対舵角を出力することが可能になる。
【0014】
【発明の実施の形態】
以下、本発明の実施の形態について、図面を参照して説明する。
(第1の実施の形態)
図1は、本発明の第1の実施の形態における車両周辺監視装置の構成図である。図1において101は画像を取り込むカメラであり、102はカメラ101で撮影された画像から操舵輪の舵角を算出する舵角検出手段であり、103はカメラ101で撮影された画像と舵角検出手段102で検出された舵角を入力として、画像上に車両の予測軌跡を重畳描画する予測軌跡画像合成手段であり、104は画像を表示するディスプレイである。
【0015】
図2は、本発明の第1の実施の形態におけるカメラ設置の例であり、図3は、本発明の第1の実施の形態におけるカメラで撮影された画像の例である。図1のカメラ101は、図2のように車両左側のサイドミラー部に前左下向きに設置されており、撮影される画像には、図3のように車両の操舵輪が写るように設置されているものとする。また、車両に対するカメラの位置や焦点距離、レンズ歪み係数などのカメラパラメタは、あらかじめ計測するなどによって既知であるとする。
【0016】
図4は、舵角検出手段102の処理の概念図である。車両に対するカメラの位置はあらかじめ計測されているため、画像中の車両前輪が写っている前輪領域は、図4中の破線部のように一定の範囲となる。舵角検出手段102は、さまざまな舵角に対応する前輪領域の複数の画像を、前輪テンプレート画像としてあらかじめ記憶しておく。動作時には、入力された画像の前輪領域に対して前輪テンプレート画像とのマッチング処理を行うことで、最も近い前輪テンプレート画像を選択し、選択した前輪テンプレート画像に対応する舵角を出力することで、舵角の検出処理を実現する。
【0017】
図5は、予測軌跡画像合成手段103が出力する表示画像の例である。車両の前後輪間の距離などの車両パラメタはあらかじめ与えられているものとする。予測軌跡画像合成手段103は、舵角検出手段102で検出した舵角とあらかじめ与えられた車両パラメタとカメラパラメタから、車両の予測軌跡を算出して、画像に重畳合成して出力する。
【0018】
以上のように構成された本発明の第1の実施の形態における車両周辺監視装置について、以下図1〜5を用いてその動作を説明する。
【0019】
カメラ101では画像を撮影し、図3のような画像を出力する。舵角検出手段102では、入力された画像の前輪領域と前輪テンプレート画像とのマッチングにより舵角を算出する。予測軌跡画像合成手段103は、算出された舵角に対応する予測軌跡を算出し、画像に重畳合成して図5のような画像を生成し、ディスプレイ104に出力表示する。図5中の車両左前方の点線は、予測軌跡画像合成手段103が重畳合成した予測軌跡である。カメラで撮影された画像に予測軌跡を重畳することで、車両の進行方向の予測が容易になり、結果として運転者の安全な運転を支援することができる。
【0020】
以上のように本実施例によれば、画像に車両前輪を含むようにカメラ101を設置し、前輪の画像から舵角を算出する舵角検出手段102を設けることにより、舵角センサーなどの特別な装置無しで舵角の取得が可能になり、さらに予測軌跡画像合成手段103を設けることにより、予測軌跡の合成表示が可能になる。また、画像を用いた舵角の検出は、ロータリーエンコーダ型の舵角センサーなどのような相対値ではないため、電源投入直後などのさまざまな状況においても、常に絶対舵角として求めることができるという効果がある。
(第2の実施の形態)
図6は、本発明の第2の実施の形態における車両周辺監視装置の構成図である。図6において、図1の第1の実施例の構成図と異なるのは、舵角の相対的な値を出力する舵角センサー605と、カメラ画像を変形加工することであたかも別の視点から見た画像を合成する視点変換手段606を設けたことである。
【0021】
舵角センサー605は、ロータリーエンコーダ型のセンサーをハンドル軸などの操舵機構に設置して、舵角の相対的な値である相対舵角を出力するセンサーであるものとする。また、舵角センサー605が出力する相対舵角は、舵角検出手段103において前輪の画像から算出した舵角よりも精度が高いものとする。
【0022】
視点変換手段606は、あらかじめ得られたカメラの位置および、合成画像の仮想的な視点位置の情報から、撮影された画像を変形加工することで、仮想的な視点位置から見たような画像に変換するものである。その詳細な方法については、「画像処理装置および監視システム」(特開2000−864175号)などに開示されているので、ここでは詳細な説明は省略する。
【0023】
以上のように構成された本発明の第2の実施の形態における車両周辺監視装置について、以下、図6〜7を用いてその動作を説明する。
【0024】
カメラ101では画像を撮影し、図3のような画像を出力する。舵角検出手段102では、カメラ101で撮影された画像を入力として、画像の前輪領域と前輪テンプレート画像とのマッチング処理を行い、最も近い前輪テンプレート画像の舵角を選択する。ここで、マッチング処理の評価値が、あらかじめ定められた閾値よりも悪い場合、すなわち入力された前輪領域画像と前輪テンプレート画像があまり一致していない場合は、画像から算出した舵角をそのまま出力する。逆に、マッチング処理の評価地が、あらかじめ定められた閾値よりも良い場合、すなわち入力された前輪領域画像と前輪テンプレート画像があらかじめ定められた基準以上に良く一致している場合、算出された舵角の精度が高いと判断し、この時舵角センサーから入力されている相対舵角を記憶しておき、以降は、舵角センサーが出力する相対舵角を、記録された舵角および相対舵角を用いて補正することで、新たに舵角を算出して出力する。例えば、「相対舵角10.00度のときの舵角が0度」であると記録されているとし、現在の舵角センサーの入力が12.00度であるとすると、新たに舵角を2.00度であると算出して出力する。
【0025】
視点変換手段606は、カメラの画像を仮想的な視点位置から見た視点変換画像を合成して出力し、予測軌跡画像合成手段103は、算出された舵角に対応する予測軌跡を算出し、視点変換画像に重畳合成して図7のような画像を生成し、ディスプレイ104に出力表示する。
【0026】
図7の例では、視点変換手段606は、車両の左前方部を上方から見たような視点変換画像に変換している。また、予測軌跡画像合成手段103では、予想軌跡を図5のような破線ではなく、車両前輪の向きとして合成表示している。カメラで撮影された画像に、タイヤの画像を重畳表示することで、車両の進行方向の予測が容易になり、結果として運転者の安全な運転を支援することができる。さらに、舵角検出手段102において、前輪画像から算出した舵角は、舵角センサーの相対舵角よりも精度が低い場合があるが、このような場合においても、画像から算出された舵角と相対舵角とを組み合わせて舵角を算出することで、常に精度の良い絶対舵角を得ることができる。
【0027】
なお、本発明の実施例において、舵角検出手段はテンプレートマッチング法を用いて、前輪の画像から舵角を算出するとしたが、前輪の画像から舵角を算出する方法であればどのような方法を用いてもよく、例えば、前輪領域画像から輪郭抽出やハフ変換などによって車輪の楕円形状のパラメタを求めて、あらかじめ与えられた楕円形状パラメタと舵角との関係から舵角を算出するとしても、本発明の実施例と同様な効果を得ることができる。
【0028】
なお、本発明の実施例において、カメラはサイドミラーに設置されているものとしたが、カメラの設置位置を制限するものではなく、操舵輪が写るように設置されていれば良い。
【0029】
なお、本発明の実施例において、カメラは1台としたが、カメラを複数台用いても、そのうちの少なくとも1つのカメラに操舵輪の画像が映っていれば良く、さらに視点変換手段および予測軌跡画像合成手段では、複数のカメラからの画像を1つの画像に変形合成した上で予測軌跡を描画するものとしても良く、本発明の実施例と同様な効果を得ることができる。
【0030】
【発明の効果】
本発明によれば、舵角センサーを用いることなく車両周辺の画像に予測軌跡を重畳して表示することができ、結果として、設置が簡便かつ安価な車両周辺監視装置を提供できる。
【0031】
さらに本発明によれば、電源投入直後や電源断時に舵角が変わるなどの状況であっても、常に絶対舵角を出力することが可能な舵角検出方法を提供できる。
【図面の簡単な説明】
【図1】本発明の第1の実施の形態における車両周辺監視装置の構成図
【図2】本発明の第1の実施の形態におけるカメラ設置の例の図
【図3】本発明の第1の実施の形態におけるカメラ画像の例の図
【図4】本発明の第1の実施の形態における舵角検出手段の処理の概念図
【図5】本発明の第1の実施の形態における表示画像の例の図
【図6】本発明の第2の実施の形態における車両周辺監視装置の構成図
【図7】本発明の第2の実施の形態における表示画像の例の図
【符号の説明】
101 カメラ
102 舵角検出手段
103 予測軌跡画像合成手段
104 ディスプレイ
605 舵角センサー
606 視点変換手段
Claims (4)
- 車両に設置されたカメラで撮影した画像を車内に設置したディスプレイに表示する車両周辺監視装置であり、カメラで撮影された画像を入力として、操舵輪の画像から舵角を算出して出力する舵角検出手段と、舵角と画像を入力として画像上に車両の予測軌跡を重畳合成して出力する予測軌跡画像合成手段を有することを特徴とする車両周辺監視装置。
- 舵角検出手段は、カメラで撮影された画像を入力として操舵輪の画像から舵角を算出するとともに、舵角センサーで検出された相対舵角を入力し、画像から算出された舵角と相対舵角との関係から新たに舵角を算出して出力することを特徴とする請求項1記載の車両周辺監視装置。
- 車両の操舵輪を含む画像を入力とし、操舵輪の画像から舵角を算出するステップを有することを特徴とする舵角検出方法。
- 車両の操舵輪を含む画像を入力とし、操舵輪の画像から舵角を算出するステップと、舵角センサーからの相対舵角を入力し、画像から算出した舵角と相対舵角の関係から新たに舵角を生成するステップを有することを特徴とする、請求項3記載の舵角検出方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002370370A JP4023311B2 (ja) | 2002-12-20 | 2002-12-20 | 車両周辺監視装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002370370A JP4023311B2 (ja) | 2002-12-20 | 2002-12-20 | 車両周辺監視装置 |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2004201223A true JP2004201223A (ja) | 2004-07-15 |
JP2004201223A5 JP2004201223A5 (ja) | 2005-10-27 |
JP4023311B2 JP4023311B2 (ja) | 2007-12-19 |
Family
ID=32766308
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2002370370A Expired - Fee Related JP4023311B2 (ja) | 2002-12-20 | 2002-12-20 | 車両周辺監視装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4023311B2 (ja) |
Cited By (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006248247A (ja) * | 2005-03-08 | 2006-09-21 | Alpine Electronics Inc | 画像提供装置 |
JP2008042235A (ja) * | 2006-08-01 | 2008-02-21 | Honda Motor Co Ltd | 車両用表示装置 |
JP2009105656A (ja) * | 2007-10-23 | 2009-05-14 | Alpine Electronics Inc | 車載用撮像装置 |
WO2011070641A1 (ja) * | 2009-12-07 | 2011-06-16 | クラリオン株式会社 | 車両周辺監視システム |
JP2013028277A (ja) * | 2011-07-28 | 2013-02-07 | Denso Corp | 情報入力装置 |
US8477191B2 (en) | 2007-10-23 | 2013-07-02 | Alpine Electronics, Inc. | On-vehicle image pickup apparatus |
JP2015044498A (ja) * | 2013-08-28 | 2015-03-12 | 京セラ株式会社 | 舵角補正方法、舵角補正装置、撮像装置、および舵角補正システム |
WO2015045568A1 (ja) * | 2013-09-27 | 2015-04-02 | 日産自動車株式会社 | 予測進路提示装置及び予測進路提示方法 |
JP2015154406A (ja) * | 2014-02-18 | 2015-08-24 | クラリオン株式会社 | 牽引車用周囲監視装置 |
EP3040254A1 (en) * | 2013-08-28 | 2016-07-06 | Kyocera Corporation | Turning angle correction method, turning angle correction device, image-capturing device, and turning angle correction system |
EP3543086A1 (en) * | 2018-03-22 | 2019-09-25 | Visteon Global Technologies, Inc. | Method for predicting a change in the direction of travel of a vehicle |
DE102022205456A1 (de) | 2022-05-31 | 2023-03-02 | Zf Friedrichshafen Ag | Virtueller Lenksensor für ein Fahrrad |
DE102021211326A1 (de) | 2021-10-07 | 2023-04-13 | Zf Friedrichshafen Ag | Verfahren und Steuereinheit zum Erfassen einer Radstellung mindestens eines Rades eines Fahrzeugs und Fahrzeug |
DE102022119317A1 (de) | 2022-06-20 | 2023-12-21 | Continental Automotive Systems, Inc. | Strassenrad-winkel-bestimmung basierend auf kameraeingabe |
-
2002
- 2002-12-20 JP JP2002370370A patent/JP4023311B2/ja not_active Expired - Fee Related
Cited By (22)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006248247A (ja) * | 2005-03-08 | 2006-09-21 | Alpine Electronics Inc | 画像提供装置 |
JP2008042235A (ja) * | 2006-08-01 | 2008-02-21 | Honda Motor Co Ltd | 車両用表示装置 |
JP2009105656A (ja) * | 2007-10-23 | 2009-05-14 | Alpine Electronics Inc | 車載用撮像装置 |
US8477191B2 (en) | 2007-10-23 | 2013-07-02 | Alpine Electronics, Inc. | On-vehicle image pickup apparatus |
WO2011070641A1 (ja) * | 2009-12-07 | 2011-06-16 | クラリオン株式会社 | 車両周辺監視システム |
US9204108B2 (en) | 2009-12-07 | 2015-12-01 | Clarion Co., Ltd. | Vehicle periphery monitoring system |
JP2013028277A (ja) * | 2011-07-28 | 2013-02-07 | Denso Corp | 情報入力装置 |
EP3040254A1 (en) * | 2013-08-28 | 2016-07-06 | Kyocera Corporation | Turning angle correction method, turning angle correction device, image-capturing device, and turning angle correction system |
JP2015044498A (ja) * | 2013-08-28 | 2015-03-12 | 京セラ株式会社 | 舵角補正方法、舵角補正装置、撮像装置、および舵角補正システム |
US9862417B2 (en) | 2013-08-28 | 2018-01-09 | Kyocera Corporation | Turning angle correction method, turning angle correction device, image-capturing device, and turning angle correction system |
EP3040254A4 (en) * | 2013-08-28 | 2017-04-05 | Kyocera Corporation | Turning angle correction method, turning angle correction device, image-capturing device, and turning angle correction system |
CN105580359A (zh) * | 2013-09-27 | 2016-05-11 | 日产自动车株式会社 | 预测前进道路提示装置以及预测前进道路提示方法 |
EP3051807A4 (en) * | 2013-09-27 | 2016-09-28 | Nissan Motor | DEVICE FOR DISPLAYING A PRE-DEFINED ROUTE AND METHOD FOR DISPLAYING A PRE-DEFINED ROUTE |
JPWO2015045568A1 (ja) * | 2013-09-27 | 2017-03-09 | 日産自動車株式会社 | 予測進路提示装置及び予測進路提示方法 |
US9683861B2 (en) | 2013-09-27 | 2017-06-20 | Nissan Motor Co., Ltd. | Estimated route presentation apparatus and estimated route presentation method |
WO2015045568A1 (ja) * | 2013-09-27 | 2015-04-02 | 日産自動車株式会社 | 予測進路提示装置及び予測進路提示方法 |
CN105580359B (zh) * | 2013-09-27 | 2018-10-19 | 日产自动车株式会社 | 预测前进道路提示装置以及预测前进道路提示方法 |
JP2015154406A (ja) * | 2014-02-18 | 2015-08-24 | クラリオン株式会社 | 牽引車用周囲監視装置 |
EP3543086A1 (en) * | 2018-03-22 | 2019-09-25 | Visteon Global Technologies, Inc. | Method for predicting a change in the direction of travel of a vehicle |
DE102021211326A1 (de) | 2021-10-07 | 2023-04-13 | Zf Friedrichshafen Ag | Verfahren und Steuereinheit zum Erfassen einer Radstellung mindestens eines Rades eines Fahrzeugs und Fahrzeug |
DE102022205456A1 (de) | 2022-05-31 | 2023-03-02 | Zf Friedrichshafen Ag | Virtueller Lenksensor für ein Fahrrad |
DE102022119317A1 (de) | 2022-06-20 | 2023-12-21 | Continental Automotive Systems, Inc. | Strassenrad-winkel-bestimmung basierend auf kameraeingabe |
Also Published As
Publication number | Publication date |
---|---|
JP4023311B2 (ja) | 2007-12-19 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9973734B2 (en) | Vehicle circumference monitoring apparatus | |
JP5099451B2 (ja) | 車両周辺確認装置 | |
EP2093129B1 (en) | Parking assist apparatus and method | |
JP2008013015A (ja) | 車両周辺画像生成装置および画像切替方法 | |
JP7006460B2 (ja) | 車両用表示制御装置、車両用表示システム、車両用表示制御方法、およびプログラム | |
JP2009083764A (ja) | 運転支援装置、運転支援方法及びコンピュータプログラム | |
JP4023311B2 (ja) | 車両周辺監視装置 | |
JP5516988B2 (ja) | 駐車支援装置 | |
JP6471522B2 (ja) | カメラパラメータ調整装置 | |
JP2007124226A (ja) | 駐車支援方法及び駐車支援装置 | |
JP2016189576A (ja) | 画像表示制御装置 | |
JP2008048094A (ja) | 車両用映像表示装置及び車両周囲映像の表示方法 | |
JP7426174B2 (ja) | 車両周囲画像表示システム及び車両周囲画像表示方法 | |
WO2015122124A1 (ja) | 車両周辺画像表示装置、車両周辺画像表示方法 | |
JP2007290433A (ja) | 駐車支援システム | |
US10977506B2 (en) | Apparatus for determining visual confirmation target | |
KR20100005971A (ko) | 차량 전방위 감시 시스템 | |
KR102135900B1 (ko) | 주차 보조 장치 및 방법 | |
JP4857159B2 (ja) | 車両運転支援装置 | |
JP2007251880A (ja) | 車両用画像表示装置および画像合成方法 | |
JP2010073036A (ja) | 車両周辺監視装置 | |
JP2007329611A (ja) | 車両周辺監視装置、車両周辺監視システム、および車両周辺監視方法 | |
JP2005182305A (ja) | 車両走行支援装置 | |
JP5083137B2 (ja) | 運転支援装置 | |
JP5132796B2 (ja) | 車両周辺画像生成装置および画像切替方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20050802 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20050802 |
|
RD01 | Notification of change of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7421 Effective date: 20050913 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20070903 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20070911 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20070924 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 4023311 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20101012 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20111012 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121012 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20131012 Year of fee payment: 6 |
|
LAPS | Cancellation because of no payment of annual fees |