Nothing Special   »   [go: up one dir, main page]

JP6725967B2 - 画像補正装置および画像補正方法 - Google Patents

画像補正装置および画像補正方法 Download PDF

Info

Publication number
JP6725967B2
JP6725967B2 JP2015133378A JP2015133378A JP6725967B2 JP 6725967 B2 JP6725967 B2 JP 6725967B2 JP 2015133378 A JP2015133378 A JP 2015133378A JP 2015133378 A JP2015133378 A JP 2015133378A JP 6725967 B2 JP6725967 B2 JP 6725967B2
Authority
JP
Japan
Prior art keywords
image
display
distortion
head
correction
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2015133378A
Other languages
English (en)
Other versions
JP2017016455A (ja
Inventor
安本 貴史
貴史 安本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Alpine Electronics Inc
Original Assignee
Alpine Electronics Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Alpine Electronics Inc filed Critical Alpine Electronics Inc
Priority to JP2015133378A priority Critical patent/JP6725967B2/ja
Publication of JP2017016455A publication Critical patent/JP2017016455A/ja
Application granted granted Critical
Publication of JP6725967B2 publication Critical patent/JP6725967B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Instrument Panels (AREA)
  • Image Processing (AREA)
  • Controls And Circuits For Display Device (AREA)

Description

本発明は、画像補正装置および画像補正方法に関し、特に、車載のヘッドアップディスプレイの表示面に表示される画像の歪を補正する画像補正装置および画像補正方法に用いて好適なものである。
従来、車載のヘッドアップディスプレイにより、各種情報(例えば、車速、案内方向、走行レーン等)を示す画像を、車両の運転席の前方の表示面に表示する技術が利用されている。これにより、運転者は、視線を前方から逸らさずに各種情報を視認することができる。
一般的に、ヘッドアップディスプレイは、投影装置から投影された画像を、光学系(ミラー)で反射させて、運転席の前方の表示面(フロントウインドウまたはコンバイナ)に映し出すようになっている。しかしながら、この種のヘッドアップディスプレイでは、光路を通じて画像が歪んでしまうため、歪んだ状態の画像が表示面に表示されてしまうといった問題が生じていた。
そこで、従来、このような画像の歪を補正する技術が利用されている。図5は、従来の画像補正処理の一例を示す図である。図5(a)は、横長の長方形状のクロスハッチの画像500を、補正せずにヘッドアップディスプレイの表示面(フロントウィンドウ)に表示させた例を示している。図5(a)に示すように、ヘッドアップディスプレイの表示面の表示領域510A内に表示された画像500には、その左側部分が上方に反りあがるような歪が生じている。
図5(b)は、実際にヘッドアップディスプレイの表示面に表示される補正後の画像の一例として画像502を示している。画像502は、横長の長方形状を有している。画像502には、車速と案内方向とが示されている。この画像502を補正せずにヘッドアップディスプレイの表示面に表示させてしまうと、図5(a)の画像500と同様に歪が生じてしまう。そこで、図5(c)に示すように、画像502全体を歪が生じる方向とは反対の方向に傾ける(すなわち、左下がりとなるように反時計回りに回転させる)補正を行う。これにより、画像502をヘッドアップディスプレイの表示面に表示させたときの、当該画像502の歪を相殺して解消することができる。
なお、下記特許文献1には、虚像に生じる歪を近似する関数(縦方向の辺については一次式の関数、横方向の辺については二次式の関数)を予め求めて記憶しておき、これらの関数式の逆関数式を用いて、表示画像の各画素が元画像のどの画素に対応するかを計算することにより、凹面鏡に起因する歪を相殺させた表示画像を生成し、当該表示画像をヘッドアップディスプレイの表示面に表示する技術が開示されている。
特開2003−287707号公報
しかしながら、上述のように画像全体を傾けることによって画像の歪を補正する方法を採用した場合、一定以上画像を傾けてしまうと、画像の一部がヘッドアップディスプレイの表示領域からはみ出して欠けてしまう。このため、画像に生じるより大きな歪を補正すべく、当該画像をヘッドアップディスプレイの表示領域内で十分に傾けるためには、画像を小さくしなければならないといった問題が生じていた。
例えば、図5(b)に示す例では、ヘッドアップディスプレイの表示領域510Aのサイズは、240ピクセル(縦)×480ピクセル(横)である。一方、画像502のサイズは、192ピクセル(縦)×432ピクセル(横)である。この場合、図5(c)に示すように、表示領域510A内で画像502を傾けることができる最大角度(θ)は、6.38度である。これ以上画像502を傾けてしまうと、画像502の一部が表示領域510Aからはみ出してしまうため、画像502を縮小しなければならない。しかし、画像502を縮小してしまうと、文字や図形が小さくなる、情報量が少なくなる、視認し難くなるといった問題が生じるため、好ましくない。
なお、特許文献1の技術は、予め求めておいた関数の逆関数を用いて表示画像の各画素の座標を計算するというような複雑な処理を行う必要があるため、上述のように画像を全体的に傾けることによって画像の歪を補正する方法と比べて、処理時間がかかるといった問題が生じてしまう。
本発明は、上述のような問題を解決するために成されたものであり、ヘッドアップディスプレイに表示される画像を小さくすることなく、当該画像に生じるより大きな歪を補正することができるようにすることを目的とする。
上記した課題を解決するために、本発明では、ヘッドアップディスプレイの表示面に表示される長方形状の画像の歪を補正するようになされた画像補正装置において、ヘッドアップディスプレイの表示領域のサイズよりも小さいサイズの画像を、その長手方向に複数の部分画像に分割し、複数の部分画像の各々を、ヘッドアップディスプレイの表示領域の範囲内で、サイズを変更することなく、前記複数の部分画像のそれぞれの内部の所定位置を中心として各々の部分画像の画像全体を回転させる補正を行うことによって傾けることにより、画像の歪を補正するようにしている。
上記のように構成した本発明によれば、ヘッドアップディスプレイの表示領域の範囲内において、画像全体を傾ける方法と比べ、より大きな傾斜角度で各部分画像を個別に傾けることができるようになる。したがって、本発明によれば、ヘッドアップディスプレイに表示される画像を小さくすることなく、当該画像に生じるより大きな歪を補正することができる。
本発明の一実施形態に係るヘッドアップディスプレイの機能構成例を示すブロック図である。 本発明の一実施形態に係る画像生成装置による処理の一例を示すフローチャートである。 本発明の一実施形態に係る画像生成装置による画像補正処理の具体例(第1例)を示す図である。 本発明の一実施形態に係る画像生成装置による画像補正処理の具体例(第2例)を示す図である。 従来の画像補正処理の一例を示す図である。
〔ヘッドアップディスプレイ10の機能構成例〕
以下、本発明の一実施形態を図面に基づいて説明する。図1は、本発明の一実施形態に係るヘッドアップディスプレイ10の機能構成例を示すブロック図である。図1に示すヘッドアップディスプレイ10は、自動車等の車両に搭載されている、各種情報を運転席の前方に表示するための装置である。
図1に示すように、ヘッドアップディスプレイ10は、画像生成装置100、投影装置11、凹面鏡12および表示面13を備えている。画像生成装置100は、各種情報(例えば、車速、案内方向等)を表示するための画像を生成する。投影装置11は、画像生成装置100によって生成された画像を投影する。投影装置11としては、例えば、レーザプロジェクタ、液晶ディスプレイ等が用いられる。
凹面鏡12は、投影装置11から投影された画像を反射して、当該画像を表示面13へと導く。表示面13は、運転席の前方に設けられている。表示面13は、投影装置11から投影された画像が凹面鏡12を介して照射されることにより、当該画像を表示する。表示面13としては、例えば、フロントウインドウまたはコンバイナが用いられる。運転者は、表示面13にて反射された画像の光路上に形成されるEYEBOX(運転者が表示画像を視認可能な領域)において、あたかもその画像が表示面13よりも前方に拡大して表示されているかの如く、その画像の虚像を視認できるようになっている。
画像生成装置100は、その機能構成として、情報取得部101、画像生成部102、画像分割部103、歪補正部104および表示制御部105を備えている。画像生成装置100は、画像分割部103および歪補正部104により、画像補正装置として機能する。
上記各機能ブロック101〜105は、ハードウェア、DSP(Digital Signal Processor)、ソフトウェアの何れによっても構成することが可能である。例えばソフトウェアによって構成する場合、上記各機能ブロック101〜105は、実際にはコンピュータのCPU、RAM、ROMなどを備えて構成され、RAMやROM、ハードディスクまたは半導体メモリ等の記録媒体に記憶されたプログラムが動作することによって実現される。
情報取得部101は、表示面13に表示させる情報を取得する。図1に示す例では、情報取得部101は、車載のスピードセンサ21から車速を取得する。また、情報取得部101は、車載のナビゲーション装置22から案内方向を取得する。
画像生成部102は、情報取得部101によって取得された情報(例えば、スピードセンサ21から取得した車速、ナビゲーション装置22から取得した案内方向)を表示するための横長の長方形状の画像を生成する。特に、画像生成部102は、ヘッドアップディスプレイ10(表示面13)の表示領域のサイズよりも小さいサイズの画像を生成する。これにより、ヘッドアップディスプレイ10(表示面13)の表示領域内において、画像生成部102によって生成された画像の周囲に、画像を傾けるための領域が形成される。
画像分割部103は、画像生成部102によって生成された画像を、その横方向(長手方向)に複数の部分画像に分割する。本実施形態では、画像分割部103は、画像に表示されている情報の種類毎に、画像を複数の部分画像に分割する。例えば、画像分割部103は、画像生成部102によって生成された画像において車速と案内方向とが横方向に並べて示されている場合、当該画像を、車速を示す部分画像と、案内方向を示す部分画像とに分割する。
歪補正部104は、画像分割部103によって生成された複数の部分画像の各々を、ヘッドアップディスプレイ10(表示面13)の表示領域の範囲内で、画像生成部102によって生成された画像に歪が生じる方向とは逆方向に傾けることにより、画像生成部102によって生成された画像の歪を補正する。例えば、ヘッドアップディスプレイ10が搭載されている車両固有の画像の歪度合いが予め計測されており、この歪度合いに応じた補正値(傾斜方向および傾斜角度)が、画像生成装置100の記憶部(図示省略)に予め記憶されている。歪補正部104は、この補正値を用いて、各部分画像を傾ける。
表示制御部105は、歪補正部104による補正後の画像を投影装置11へ出力することにより、当該画像を表示面13に表示させる。このように予め補正された画像を投影装置11から投影させることにより、光路を通じて当該画像に生じる歪が相殺される。このため、当該画像は、歪が生じていない状態で表示面13に表示されるようになる。
〔画像生成装置100による処理の一例〕
図2は、本発明の一実施形態に係る画像生成装置100による処理の一例を示すフローチャートである。図2に示す処理は、例えば、ヘッドアップディスプレイ10の電源がONに切り替えられたタイミングで実行される。
まず、情報取得部101が、表示面13に表示させる情報を取得する(ステップS202)。次に、画像生成部102が、ステップS202で取得された情報を表示するための横長の長方形状の画像を生成する(ステップS204)。
次に、画像分割部103が、ステップS204で生成された画像を、その画像に示されている情報の種類毎に、その横方向に複数の部分画像に分割する(ステップS206)。
次に、歪補正部104が、ステップS206で生成された複数の部分画像の各々を、ヘッドアップディスプレイ10の表示領域の範囲内で傾けることにより、ステップS204で生成された画像の歪を補正する(ステップS208)。
次に、表示制御部105が、ステップS208での補正後の画像を投影装置11へ出力することにより、当該画像を表示面13に表示させる(ステップS210)。そして、画像生成装置100は、図2に示す一連の処理を終了する。
〔画像生成装置100による画像補正処理の具体例(第1例)〕
図3は、本発明の一実施形態に係る画像生成装置100による画像補正処理の具体例(第1例)を示す図である。この例では、前提として、本実施形態のヘッドアップディスプレイ10において、図5(a)に示すクロスハッチの画像500を表示面13に表示させたとき、図5(a)と同様に画像500に歪が生じるものとする。
図3(a)は、画像生成部102によって生成された画像の一例として画像302を示している。画像302は、ヘッドアップディスプレイ10の表示領域310Aのサイズよりも小さいサイズの横長の長方形状を有している。画像302には、ナビゲーション装置22から取得した案内方向を示す図形と、スピードセンサ21から取得した車速を示す文字列とが横方向に並べて示されている。この画像302を補正せずにヘッドアップディスプレイ10の表示面13に表示させてしまうと、図5(a)の画像500と同様に歪が生じてしまう。
そこで、図3(a)に示すように、画像分割部103が、案内方向を示す部分画像302Aと、車速を示す部分画像302Bとに画像302を分割する。そして、歪補正部104が、図3(b)に示すように、部分画像302A,302Bの各々を、画像302に歪が生じる方向とは反対の方向に傾ける(すなわち、左下がりとなるように反時計回りに回転させる)補正を行う。これにより、画像302をヘッドアップディスプレイ10の表示面13に表示させたときの、当該画像302の歪を相殺して解消することができる。
図3(a)に示す例では、ヘッドアップディスプレイ10の表示領域310Aのサイズは、240ピクセル(縦)×480ピクセル(横)である。一方、画像302のサイズは、192ピクセル(縦)×432ピクセル(横)である。このうち、部分画像302Aのサイズは、192ピクセル(縦)×144ピクセル(横)である。また、部分画像302Bのサイズは、192ピクセル(縦)×288ピクセル(横)である。なお、表示領域310Aのサイズは、図5に示す表示領域510Aのサイズと同じである。また、画像302のサイズは、図5に示す画像502のサイズと同じである。
この場合、図3(b)に示すように、表示領域310A内で部分画像302A,302Bを傾けることができる最大角度(θ)は、9.54度である。図3(c)は、最大角度(θ=9.54度)に傾いた状態の本実施形態の部分画像302A,302Bと、最大角度(θ=6.38度)に傾いた状態の従来の画像502とを重ね合わせて比較したものである。図3(c)から明らかなように、部分画像302A,302Bを個別に傾けるほうが、画像502全体を傾けるよりも、より大きな傾斜角度とすることができる。
〔画像生成装置100による画像補正処理の具体例(第2例)〕
図4は、本発明の一実施形態に係る画像生成装置100による画像補正処理の具体例(第2例)を示す図である。図4(a)では、本実施形態のヘッドアップディスプレイ10において、図3(a)に示した部分画像302A,302Bを、従来(図5)の最大角度(θ=6.38度)と同じ角度で傾けた例を示している。
この場合、図4(b)に示すように、部分画像302A,302Bを6.38度傾けて表示するために必要な表示領域310A’のサイズは、224ピクセル(縦)×464ピクセル(横)である。すなわち、図5に示したように、画像502全体を6.38度傾けた場合に必要な表示領域510Aのサイズ(240ピクセル(縦)×480ピクセル(横))と比べて、表示領域310A’のサイズは、縦方向に16ピクセル、横方向に16ピクセル小さくなっている。
すなわち、本実施形態の画像補正方法のほうが、従来の画像補正方法よりも、画像を傾けるために必要な画像周辺の領域のサイズ(歪補正領域)を小さくすることができる。逆に言えば、ヘッドアップディスプレイの表示領域のサイズが同じ場合には、本実施形態の画像補正方法のほうが、従来の画像補正方法よりも、より大きな画像を表示することができる。
以上説明したとおり、本発明の一実施形態によれば、ヘッドアップディスプレイ10の表示領域310Aの範囲内において、画像全体を傾ける従来の画像補正方法と比べて、より大きな傾斜角度で各部分画像302A,302Bを個別に傾けることができる。このため、本発明の一実施形態によれば、従来の画像補正方法と比べて、画像302を縮小することなく、画像302に生じるより大きな歪を補正して解消することができる。
なお、上記実施形態では、横長の長方形状の画像を複数の部分画像に分割して、各部分画像を傾けることにより、当該画像の歪を補正する例について説明したが、本発明はこれに限らない。例えば、縦長の長方形状の画像を複数の部分画像に分割して、各部分画像を傾けることにより、当該画像の歪を補正するようにしてもよい。
また、上記実施形態では、複数の部分画像302A,302Bを同じ角度で傾けるようにしているが、本発明はこれに限らない。例えば、画像の歪度合いに応じた部分画像毎の補正値(傾斜方向および傾斜角度)を、画像生成装置100の記憶部(図示省略)に予め記憶しておき、この補正値を用いて、複数の部分画像302A,302Bを、歪度合いに応じて別々の角度で傾けるようにしてもよい。例えば、図5(a)に示すように、画像の左側の歪度合いがより大きい場合には、図3の画像302において、左側の部分画像302Aの傾き角度をより大きくするようにしてもよい。
また、上記実施形態では、画像302を2つの部分画像302A,302Bに分割する例を示しているが、本発明はこれに限らない。すなわち、画像を3つ以上の部分画像に分割するようにしてもよい。
また、上記実施形態では、画像を情報の種類毎に複数の部分画像に分割するようにしているが、本発明はこれに限らない。例えば、画像に1つの情報しか表示しない場合であっても、当該画像を複数の部分画像に分割するようにしてもよい。また、画像に3つ以上の情報を表示する場合、2つ以上の情報をまとめて1つの部分画像を生成するようにしてもよい。
その他、上記実施形態は、何れも本発明を実施するにあたっての具体化の一例を示したものに過ぎず、これによって本発明の技術的範囲が限定的に解釈されてはならないものである。すなわち、本発明はその要旨、またはその主要な特徴から逸脱することなく、様々な形で実施することができる。
10 ヘッドアップディスプレイ
11 投影装置
12 凹面鏡
13 表示面
21 スピードセンサ
22 ナビゲーション装置
100 画像生成装置
101 情報取得部
102 画像生成部
103 画像分割部
104 歪補正部
105 表示制御部

Claims (4)

  1. ヘッドアップディスプレイの表示面に表示される長方形状の画像の歪を補正する画像補正装置であって、
    前記ヘッドアップディスプレイの表示領域のサイズよりも小さいサイズの前記画像を、その長手方向に複数の部分画像に分割する画像分割部と、
    前記複数の部分画像の各々を、前記ヘッドアップディスプレイの表示領域の範囲内で、サイズを変更することなく、前記複数の部分画像のそれぞれの内部の所定位置を中心として各々の前記部分画像の画像全体を回転させる補正を行うことによって傾けることにより、前記画像の歪を補正する歪補正部と
    を備えることを特徴とする画像補正装置。
  2. 前記画像分割部は、前記画像に表示される情報の種類毎に、前記画像を複数の部分画像に分割する
    ことを特徴する請求項1に記載の画像補正装置。
  3. 前記歪補正部は、前記複数の部分画像の各々を、別々の角度で傾けることにより、前記画像の歪を補正する
    ことを特徴する請求項1または2に記載の画像補正装置。
  4. ヘッドアップディスプレイの表示面に表示される長方形状の画像の歪を補正する画像補正装置による画像補正方法であって、
    前記画像補正装置の画像分割部が、前記ヘッドアップディスプレイの表示領域のサイズよりも小さいサイズの前記画像を、その長手方向に複数の部分画像に分割する画像分割工程と、
    前記画像補正装置の歪補正部が、前記複数の部分画像の各々を、前記ヘッドアップディスプレイの表示領域の範囲内で、サイズを変更することなく、前記複数の部分画像のそれぞれの内部の所定位置を中心として各々の前記部分画像の画像全体を回転させる補正を行うことによって傾けることにより、前記画像の歪を補正する歪補正工程と
    を含むことを特徴とする画像補正方法。
JP2015133378A 2015-07-02 2015-07-02 画像補正装置および画像補正方法 Active JP6725967B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2015133378A JP6725967B2 (ja) 2015-07-02 2015-07-02 画像補正装置および画像補正方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015133378A JP6725967B2 (ja) 2015-07-02 2015-07-02 画像補正装置および画像補正方法

Publications (2)

Publication Number Publication Date
JP2017016455A JP2017016455A (ja) 2017-01-19
JP6725967B2 true JP6725967B2 (ja) 2020-07-22

Family

ID=57830690

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015133378A Active JP6725967B2 (ja) 2015-07-02 2015-07-02 画像補正装置および画像補正方法

Country Status (1)

Country Link
JP (1) JP6725967B2 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7101341B2 (ja) * 2018-03-19 2022-07-15 株式会社リコー 画像投写装置及び移動体
JP6890306B2 (ja) 2018-03-20 2021-06-18 パナソニックIpマネジメント株式会社 画像形成システム、画像補正システム、画像表示システム、移動体、画像形成方法、及びプログラム
JP7194906B2 (ja) * 2018-03-30 2022-12-23 パナソニックIpマネジメント株式会社 映像表示システム、映像表示方法、プログラム、及び映像表示システムを備える移動体
JP6984577B2 (ja) * 2018-11-21 2021-12-22 株式会社デンソー 虚像表示装置
CN109803117B (zh) * 2018-12-23 2020-11-27 中国航空工业集团公司洛阳电光设备研究所 一种民机平显畸变校正完整性监控系统

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000322565A (ja) * 1999-03-10 2000-11-24 Calsonic Kansei Corp 画像データ補正回路
JP3187787B2 (ja) * 1999-05-26 2001-07-11 ソニー株式会社 画像制御装置および方法並びに画像表示装置
US7873233B2 (en) * 2006-10-17 2011-01-18 Seiko Epson Corporation Method and apparatus for rendering an image impinging upon a non-planar surface
WO2012172719A1 (ja) * 2011-06-16 2012-12-20 パナソニック株式会社 ヘッドマウントディスプレイおよびその位置ずれ調整方法

Also Published As

Publication number Publication date
JP2017016455A (ja) 2017-01-19

Similar Documents

Publication Publication Date Title
JP6725967B2 (ja) 画像補正装置および画像補正方法
US10510276B1 (en) Apparatus and method for controlling a display of a vehicle
US10182221B2 (en) Display device and display method
US11646000B2 (en) Image display system, image display method, movable object including the image display system, and non-transitory computer-readable medium
CN111954902B (zh) 影像显示系统、影像显示方法、存储介质以及具备影像显示系统的移动体
EP3449629B1 (en) Accelerated light field display
JP6482975B2 (ja) 画像生成装置および画像生成方法
US10339843B2 (en) Display device, display image projecting method and head up display
JP6911868B2 (ja) ヘッドアップディスプレイ装置
US11112604B2 (en) Head-up display
JP2003287707A (ja) 画像変換方法、画像処理装置、ヘッドアップディスプレイ、プログラム
JP7005115B2 (ja) 車両用表示装置
JP2008102519A (ja) ヘッドアップ・ディスプレイ、ワープ画像回路、および表示方法
CN113132714B (zh) 电路装置、电子设备和移动体
JP7145509B2 (ja) 映像表示システム、映像表示方法、プログラム、及び、移動体
JP2019161346A (ja) ヘッドアップディスプレイ装置および表示映像補正方法
JP2018088669A (ja) 投影画像歪補正装置および方法
JP2021111317A (ja) 回路装置、電子機器及び移動体
JP2021110920A (ja) 表示システム、電子機器、移動体及び表示方法
JP6182883B2 (ja) 映像信号処理装置、映像表示装置及び映像信号処理方法
JP7379946B2 (ja) 表示装置
JP7379945B2 (ja) 表示装置
CN118409434A (zh) 抬头显示器的畸变矫正方法、装置、设备及介质
JP2022128906A (ja) 表示制御装置、表示装置、及び画像表示制御方法
CN118176405A (zh) 显示控制装置、平视显示装置和显示控制方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180308

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190322

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190402

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190510

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20190806

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190920

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20190927

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20191011

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200501

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200626

R150 Certificate of patent or registration of utility model

Ref document number: 6725967

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150