Nothing Special   »   [go: up one dir, main page]

JP5900127B2 - Imaging device and image processing system - Google Patents

Imaging device and image processing system Download PDF

Info

Publication number
JP5900127B2
JP5900127B2 JP2012092199A JP2012092199A JP5900127B2 JP 5900127 B2 JP5900127 B2 JP 5900127B2 JP 2012092199 A JP2012092199 A JP 2012092199A JP 2012092199 A JP2012092199 A JP 2012092199A JP 5900127 B2 JP5900127 B2 JP 5900127B2
Authority
JP
Japan
Prior art keywords
imaging device
wavelength selection
light
color
array
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2012092199A
Other languages
Japanese (ja)
Other versions
JP2013223032A (en
Inventor
貴之 木村
貴之 木村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Corp
Original Assignee
Denso Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso Corp filed Critical Denso Corp
Priority to JP2012092199A priority Critical patent/JP5900127B2/en
Publication of JP2013223032A publication Critical patent/JP2013223032A/en
Application granted granted Critical
Publication of JP5900127B2 publication Critical patent/JP5900127B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Transforming Light Signals Into Electric Signals (AREA)
  • Color Television Image Signal Generators (AREA)

Description

本発明は、撮像デバイス及び画像処理システムに関する。   The present invention relates to an imaging device and an image processing system.

従来、車両のヘッドライトのハイビーム/ロービームを自動的に切り替える制御システム(AHBシステム)が知られている。このAHBシステムには、前方の車両のヘッドライトやテールライトのカラー画像を撮像するための撮像デバイスが含まれている。   Conventionally, a control system (AHB system) that automatically switches between a high beam and a low beam of a vehicle headlight is known. This AHB system includes an imaging device for capturing a color image of a headlight or taillight of a vehicle ahead.

この撮像デバイスでは、R(赤)の光を選択的に検出する画素、G(緑)の光を選択的に検出する画素、及びB(青)の光を選択的に検出する画素がベイヤー配列に従って配列されており、任意の画素の色は、その画素と隣接する複数の画素の検出結果から決定する。また、撮像デバイスにおいては、感度を高めるために、画素ごとにマイクロレンズが設けられる(特許文献1参照)。   In this imaging device, pixels that selectively detect R (red) light, pixels that selectively detect G (green) light, and pixels that selectively detect B (blue) light are arranged in a Bayer array. The color of an arbitrary pixel is determined from the detection results of a plurality of pixels adjacent to the pixel. In addition, in the imaging device, a microlens is provided for each pixel in order to increase sensitivity (see Patent Document 1).

特開2011−176297号公報JP 2011-176297 A

従来の撮像デバイスでは、小さい光源(例えば遠方の先行車のテールライト)からの光の色を正確に検出できない(偽色が生じる)という問題があった。それは、小さい光源からの光が、単一の画素のみに入射されると、その画素で検出できる色のみが検出され、隣接する画素においてその光の色を検出できないためである。例えば、小さい光源からの赤色の光が、Gの光を選択的に検出する1つの画素のみに入射し、隣接する複数の画素には入射しない場合、その光の色は、Gとして検出されてしまう。   The conventional imaging device has a problem that the color of light from a small light source (for example, a taillight of a distant preceding vehicle) cannot be accurately detected (false color is generated). This is because when light from a small light source is incident on only a single pixel, only the color that can be detected by that pixel is detected, and the color of the light cannot be detected by adjacent pixels. For example, when red light from a small light source enters only one pixel that selectively detects G light and does not enter a plurality of adjacent pixels, the color of the light is detected as G. End up.

本発明は以上の点に鑑みなされたものであり、偽色が生じにくい撮像デバイス及び画像処理システムを提供することを目的とする。   The present invention has been made in view of the above points, and an object thereof is to provide an imaging device and an image processing system in which false colors are unlikely to occur.

本発明の撮像デバイスは、選択する波長が互いに異なる複数種の波長選択素子を含む素子アレイと、入射光を素子アレイに導くマイクロレンズとを備え、マイクロレンズは、2以上の種類を含む2以上の波長選択素子を跨ぐように配置される。   The imaging device of the present invention includes an element array including a plurality of types of wavelength selection elements having different wavelengths to be selected, and a microlens that guides incident light to the element array. The microlens includes two or more types including two or more types. It arrange | positions so that the wavelength selection element of this may be straddled.

本発明の撮像デバイスによれば、小さい光源からの光であっても、マイクロレンズにより、2以上の種類を含む2以上の波長選択素子に入射する。そのため、小さい光源からの光が直接的に入射する波長選択素子だけでなく、それに隣接する波長選択素子でも光の色を検出できるので、その光の色を正確に検出することができる(偽色が生じない)。   According to the imaging device of the present invention, even light from a small light source is incident on two or more wavelength selection elements including two or more types by a microlens. For this reason, since the color of light can be detected not only by a wavelength selection element that directly receives light from a small light source but also by a wavelength selection element adjacent thereto, the color of the light can be detected accurately (false color) Does not occur).

画像処理システム101の構成を表すブロック図である。1 is a block diagram illustrating a configuration of an image processing system 101. FIG. 撮像デバイス1の構成を表す平面図である。1 is a plan view illustrating a configuration of an imaging device 1. 図2のIII-III断面における断面図である。It is sectional drawing in the III-III cross section of FIG. 図2のIV-IV断面における断面図である。It is sectional drawing in the IV-IV cross section of FIG. 撮像デバイス1の検出結果を用いて色を作成する方法を表す説明図である。It is explanatory drawing showing the method of producing a color using the detection result of the imaging device. 撮像デバイス1が奏する効果を表す説明図である。It is explanatory drawing showing the effect which the imaging device 1 show | plays. 各画素ごとに独立したマイクロレンズ113がある場合の検出結果を表す説明図である。It is explanatory drawing showing a detection result in case there exists the independent microlens 113 for every pixel.

本発明の実施形態を説明する。
1.画像処理システム101の構成
画像処理システム101の構成を図1に基づいて説明する。画像処理システム101は、車両に搭載される車載システムであり、光学系103と、撮像デバイス1と、画像処理装置105とから構成される。
An embodiment of the present invention will be described.
1. Configuration of Image Processing System 101 The configuration of the image processing system 101 will be described with reference to FIG. The image processing system 101 is an in-vehicle system mounted on a vehicle, and includes an optical system 103, the imaging device 1, and an image processing apparatus 105.

光学系103は、入射光を、撮像デバイス1における後述する素子アレイ17の表面に結像させる周知の構成である。撮像デバイス1は、複数の画素を配列した構造を有し、各画素において、入射光のR、G、B成分のいずれかを検出する。なお、撮像デバイス1の詳しい構造は後述する。   The optical system 103 has a known configuration that forms incident light on the surface of an element array 17 (to be described later) in the imaging device 1. The imaging device 1 has a structure in which a plurality of pixels are arranged, and detects any of R, G, and B components of incident light in each pixel. The detailed structure of the imaging device 1 will be described later.

画像処理装置105は、撮像デバイス1の検出結果に基づき、偏光差分画像生成、ホワイトバランス、色作り(デモザイク)、ノイズフィルタ等の周知の方法でカラー画像を作成し、次に、そのカラー画像を用いて、先行車のテールライト、対向車のヘッドランプ、前方の道路の白線等を、周知の認識アルゴリズムにより認識する。   Based on the detection result of the imaging device 1, the image processing apparatus 105 creates a color image by a known method such as polarization difference image generation, white balance, color creation (demosaic), noise filter, and the like. By using a known recognition algorithm, the taillight of the preceding vehicle, the headlamp of the oncoming vehicle, the white line of the road ahead, etc. are recognized.

2.撮像デバイス1の構成
撮像デバイス1の構成を、図2〜図4に基づいて説明する。撮像デバイス1は、シリコン基板3と、R素子(赤の波長を選択する波長選択素子)5と、G素子(緑の波長を選択する波長選択素子)7と、B素子(青の波長を選択する波長選択素子)9と、偏光素子11と、マイクロレンズ13と、リッドガラス15とを備える。
2. Configuration of Imaging Device 1 The configuration of the imaging device 1 will be described with reference to FIGS. The imaging device 1 includes a silicon substrate 3, an R element (a wavelength selection element that selects a red wavelength) 5, a G element (a wavelength selection element that selects a green wavelength) 7, and a B element (selects a blue wavelength) Wavelength selection element 9, polarizing element 11, microlens 13, and lid glass 15.

R素子5、G素子7、及びB素子9、及び偏光素子11は、シリコン基板3上に配列され、素子アレイ17を形成している。素子アレイ17において、R素子5、G素子7、B素子9、及び偏光素子11は、それぞれ、1画素となる。また、素子アレイ17において、R素子5、G素子7、及びB素子9は、ベイヤー配列を形成している。   The R element 5, G element 7, B element 9, and polarizing element 11 are arranged on the silicon substrate 3 to form an element array 17. In the element array 17, each of the R element 5, the G element 7, the B element 9, and the polarizing element 11 is one pixel. In the element array 17, the R element 5, the G element 7, and the B element 9 form a Bayer array.

R素子5、G素子7、及びB素子9は、それぞれ、CCD、CMOS等の、入射された光を電気信号に変換する素子である。R素子5は、赤の波長の光を選択的に透過させるカラーフィルタを備えており、赤の波長の光を選択的に検出する。また、G素子7は、緑の波長の光を選択的に透過させるカラーフィルタを備えており、緑の波長の光を選択的に検出する。また、B素子9は、青の波長の光を選択的に透過させるカラーフィルタを備えており、青の波長の光を選択的に検出する。よって、R素子5、G素子7、及びB素子9では、選択する波長が互いに異なる。   The R element 5, the G element 7, and the B element 9 are elements that convert incident light into electrical signals, such as a CCD and a CMOS, respectively. The R element 5 includes a color filter that selectively transmits light having a red wavelength, and selectively detects light having a red wavelength. The G element 7 includes a color filter that selectively transmits light having a green wavelength, and selectively detects light having a green wavelength. The B element 9 includes a color filter that selectively transmits light having a blue wavelength, and selectively detects light having a blue wavelength. Therefore, the R element 5, the G element 7, and the B element 9 have different wavelengths to be selected.

マイクロレンズ13は、素子アレイ17の表面に、有機材料で成膜して形成されている。マイクロレンズ13は、6個の素子に跨って形成されている。その6個の素子には、R素子5と、G素子7(2個)と、B素子9と、偏光素子11(2個)とが含まれる。すなわち、1つのマイクロレンズ13は、素子アレイ17の全種類の素子を跨いでいる。マイクロレンズ13は、従来のマイクロレンズと同様に、入射光を素子アレイ17に導き、集光効率を高める作用を奏する。   The microlens 13 is formed by forming a film of an organic material on the surface of the element array 17. The microlens 13 is formed across six elements. The six elements include an R element 5, a G element 7 (2), a B element 9, and a polarizing element 11 (2). That is, one microlens 13 straddles all kinds of elements of the element array 17. Like the conventional microlens, the microlens 13 guides incident light to the element array 17 and has an effect of increasing the light collection efficiency.

3.撮像デバイス1の検出結果を用いて色を作成する方法
画像処理装置105は、撮像デバイス1の各画素における色を、周知のデモザイク法を用いて、その画素と、それに隣接する3画素とから成る4画素により決定する。例えば、図5において、B素子9の画素における色は、そのB素子9で検出した青色と、隣接する2個のG素子7の画素で検出した緑色と、隣接するR素子5の画素で検出した赤色とから、デモザイク法により決定する。
3. Method for Creating Color Using Detection Results of Imaging Device 1 The image processing apparatus 105 uses the well-known demosaicing method for the color in each pixel of the imaging device 1 and includes the pixel and three pixels adjacent thereto. Determined by 4 pixels. For example, in FIG. 5, the color at the pixel of the B element 9 is detected by the blue color detected by the B element 9, the green color detected by the two adjacent G element 7 pixels, and the pixel of the adjacent R element 5. The red color is determined by the demosaic method.

4.撮像デバイス1が奏する効果
撮像デバイス1が奏する効果を、図6及び図7に基づいて説明する。図6に示すように、赤色の小さい光源からの光(例えば遠方のテールライトの光)301が、B素子9の画素の方向に入射し、隣接するG素子7及びR素子5の画素には直接的には入射していない場合を想定する。
4). Effects produced by the imaging device 1 Effects produced by the imaging device 1 will be described with reference to FIGS. As shown in FIG. 6, light from a small red light source (for example, light from a distant taillight) 301 is incident in the direction of the pixel of the B element 9 and is applied to the adjacent G element 7 and R element 5 pixels. Assume that there is no direct incidence.

この場合でも、R素子5、G素子7(2個)、及びB素子9に跨っているマイクロレンズ13により、B素子9の画素だけではなく、R素子5、及びG素子7(2個)の画素にも、光301が入射する。そのため、R素子5、及びG素子7(2個)の画素において、光301の赤色成分及び緑色を検出できるので、B素子9の画素における色を正確に検出することができる(偽色が生じない)。   Even in this case, not only the pixel of the B element 9 but also the R element 5 and the G element 7 (two) by the microlens 13 straddling the R element 5, the G element 7 (two), and the B element 9. The light 301 also enters this pixel. Therefore, since the red component and green color of the light 301 can be detected in the pixels of the R element 5 and the G element 7 (two), the color in the pixel of the B element 9 can be accurately detected (false color is generated). Absent).

一方、撮像デバイス1とは異なり、図7に示すように、各画素ごとに独立したマイクロレンズ113がある場合において、赤色の小さい光源からの光301が、B素子9の画素の方向に入射し、隣接するG素子7及びR素子5の画素には入射していない場合を想定すると、R素子5、G素子7(2個)の画素において、光301の赤色成分及び緑色を検出できないので、B素子9の画素における色を正確に検出することができない(偽色が生じる)。   On the other hand, unlike the imaging device 1, as shown in FIG. 7, when there is an independent microlens 113 for each pixel, light 301 from a small red light source is incident in the direction of the pixel of the B element 9. Assuming that the light does not enter the adjacent G element 7 and R element 5 pixels, the red component and green color of the light 301 cannot be detected in the R element 5 and G element 7 (two) pixels. The color in the pixel of the B element 9 cannot be accurately detected (false color is generated).

また、撮像デバイス1は、偏光素子を有することにより、特定の方向の偏光を検出することができる。
また、撮像デバイス1において、マイクロレンズ13が素子アレイ17の全種類の素子を跨いでいるので、一層偽色が生じにくい。
Moreover, the imaging device 1 can detect polarized light in a specific direction by including a polarizing element.
Further, in the imaging device 1, since the microlens 13 straddles all kinds of elements of the element array 17, a false color is hardly generated.

また、撮像デバイス1では、R素子5、G素子7、及びB素子9がベイヤー配列により配列されているので、入射光の色を正確に検出できる。
尚、本発明は前記実施の形態になんら限定されるものではなく、本発明を逸脱しない範囲において種々の態様で実施しうることはいうまでもない。
Moreover, in the imaging device 1, since the R element 5, the G element 7, and the B element 9 are arranged in a Bayer array, the color of incident light can be accurately detected.
In addition, this invention is not limited to the said embodiment at all, and it cannot be overemphasized that it can implement with a various aspect in the range which does not deviate from this invention.

例えば、R素子5、G素子7、及びB素子9の代わりに、シアンを選択する波長選択素子、マゼンタを選択する波長選択素子、及びイエローを選択する波長選択素子を用いてもよい。   For example, instead of the R element 5, the G element 7, and the B element 9, a wavelength selection element that selects cyan, a wavelength selection element that selects magenta, and a wavelength selection element that selects yellow may be used.

また、G素子7の一部(例えば半分)を、クリアの波長選択素子(赤、緑、青を全て検出する素子)としてもよい。
また、素子アレイ17に偏光素子11を含まず、素子アレイ17をR素子5、G素子7、及びB素子9のみで構成してもよい。この場合、マイクロレンズ13は、4個の素子(R素子5、G素子7(2個)、及びB素子9)、すなわち、この場合に素子アレイ17に含まれる全種類の素子に跨るものとすることができる。
A part (for example, half) of the G element 7 may be a clear wavelength selection element (an element that detects all red, green, and blue).
The element array 17 may not include the polarizing element 11, and the element array 17 may be configured by only the R element 5, the G element 7, and the B element 9. In this case, the microlens 13 extends over four elements (R element 5, G element 7 (two), and B element 9), that is, all kinds of elements included in the element array 17 in this case. can do.

また、R素子5、G素子7、及びB素子9の配列は、ベイヤー配列以外の配列であってもよい。
また、マイクロレンズ13は、画素の全体を覆っていてもよいし、画素の一部を覆っていてもよい。
Further, the arrangement of the R element 5, the G element 7, and the B element 9 may be an arrangement other than the Bayer arrangement.
Further, the microlens 13 may cover the entire pixel or a part of the pixel.

また、1つのマイクロレンズ13が跨ぐ素子の数は、6以外(例えば、2、3、4、5)であってもよい。また、1つのマイクロレンズ13が跨ぐ素子における素子の種類は、2、3、4のいずれかにすることができる。   The number of elements that one microlens 13 straddles may be other than 6 (for example, 2, 3, 4, 5). In addition, the type of element in the element that one microlens 13 straddles can be any of 2, 3, and 4.

1・・・撮像デバイス、3・・・シリコン基板、5・・・R素子、7・・・G素子、
9・・・B素子、11・・・偏光素子、13・・・マイクロレンズ、
15・・・リッドガラス、17・・・素子アレイ、101・・・画像処理システム、
103・・・光学系、105・・・画像処理装置、113・・・マイクロレンズ、
301・・・光
DESCRIPTION OF SYMBOLS 1 ... Imaging device, 3 ... Silicon substrate, 5 ... R element, 7 ... G element,
9 ... B element, 11 ... polarizing element, 13 ... micro lens,
15 ... lid glass, 17 ... element array, 101 ... image processing system,
103 ... Optical system, 105 ... Image processing device, 113 ... Micro lens,
301 ... light

Claims (5)

選択する波長が互いに異なる複数種の波長選択素子(5、7、9)を含む素子アレイ(17)と、
入射光を前記素子アレイに導くマイクロレンズ(13)と、
を備え、
前記素子アレイは、前記複数種の波長選択素子と同一面に配列された偏光素子(11)をさらに含み、
前記マイクロレンズは、2以上の種類を含む2以上の前記波長選択素子及び前記偏光素子を跨ぐように配置されることを特徴とする撮像デバイス(1)。
An element array (17) including a plurality of types of wavelength selection elements (5, 7, 9) having different wavelengths to be selected;
A microlens (13) for guiding incident light to the element array;
With
The element array further includes a polarizing element (11) arranged on the same plane as the plurality of types of wavelength selection elements,
The image pickup device (1), wherein the microlens is disposed so as to straddle two or more wavelength selection elements including two or more types and the polarization element .
前記マイクロレンズが跨ぐ2以上の前記波長選択素子には、全種類の前記波長選択素子が含まれることを特徴とする請求項1載の撮像デバイス。 Wherein the microlenses 2 or more of the wavelength selection element straddling claim 1 Symbol placing imaging device characterized to include all types of the wavelength selection element. 前記素子アレイは、Rを選択する波長選択素子と、Gを選択する波長選択素子と、Bを選択する波長選択素子とを含むことを特徴とする請求項1又は2載の撮像デバイス。 The imaging device according to claim 1 or 2 , wherein the element array includes a wavelength selection element for selecting R, a wavelength selection element for selecting G, and a wavelength selection element for selecting B. 前記素子アレイにおいて、前記複数種の波長選択素子は、ベイヤー配列により配列されていることを特徴とする請求項1〜のいずれか1項記載の撮像デバイス。 In the element array, the wavelength selection element of the plurality of kinds may claim 1-3 imaging device according to any one of which is characterized in that it is arranged by the Bayer array. 請求項1〜のいずれか1項記載の撮像デバイスと、
前記撮像デバイスにおける前記素子アレイの表面に入射光を結像させる光学系(103)と、
前記撮像デバイスの検出結果を用いてカラー画像を作成する画像処理装置(105)と、
を有する画像処理システム(101)。
The imaging device according to any one of claims 1 to 4 ,
An optical system (103) that focuses incident light on the surface of the element array in the imaging device;
An image processing apparatus (105) for creating a color image using the detection result of the imaging device;
An image processing system (101).
JP2012092199A 2012-04-13 2012-04-13 Imaging device and image processing system Active JP5900127B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2012092199A JP5900127B2 (en) 2012-04-13 2012-04-13 Imaging device and image processing system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012092199A JP5900127B2 (en) 2012-04-13 2012-04-13 Imaging device and image processing system

Publications (2)

Publication Number Publication Date
JP2013223032A JP2013223032A (en) 2013-10-28
JP5900127B2 true JP5900127B2 (en) 2016-04-06

Family

ID=49593739

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012092199A Active JP5900127B2 (en) 2012-04-13 2012-04-13 Imaging device and image processing system

Country Status (1)

Country Link
JP (1) JP5900127B2 (en)

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4911923B2 (en) * 2004-06-17 2012-04-04 Hoya株式会社 Solid-state image sensor
CN102316329B (en) * 2007-05-31 2014-03-12 松下电器产业株式会社 Image processing device
US7964840B2 (en) * 2008-06-19 2011-06-21 Omnivision Technologies, Inc. High dynamic range image sensor including polarizer and microlens
JP5359465B2 (en) * 2009-03-31 2013-12-04 ソニー株式会社 Solid-state imaging device, signal processing method for solid-state imaging device, and imaging device
JP5428509B2 (en) * 2009-05-11 2014-02-26 ソニー株式会社 Two-dimensional solid-state imaging device and polarized light data processing method in two-dimensional solid-state imaging device

Also Published As

Publication number Publication date
JP2013223032A (en) 2013-10-28

Similar Documents

Publication Publication Date Title
US8208052B2 (en) Image capture device
US9973678B2 (en) Phase-detect autofocus
US8102459B2 (en) Image pickup apparatus
US10490584B2 (en) Image sensor including color separation element and image pickup apparatus including the image sensor
US20110317048A1 (en) Image sensor with dual layer photodiode structure
US9143760B2 (en) Solid-state imaging device
KR101265432B1 (en) Imaging element and imaging apparatus using the same
WO2011010455A1 (en) Image pickup device and solid-state image pickup element
JP6131546B2 (en) Image processing apparatus, imaging apparatus, and image processing program
JP6039558B2 (en) Solid-state imaging device
KR20110084367A (en) Imaging device
KR102250192B1 (en) Image sensor having heterogeneous pixel structures
US9071722B2 (en) Solid-state imaging element, imaging device, and signal processing method
JP5894573B2 (en) Solid-state imaging device, imaging device, and signal processing method
JP2006165362A (en) Solid-state imaging element
JP6039567B2 (en) Solid-state imaging device
JP2006352466A (en) Image sensing device
KR20170039923A (en) Stacked image sensor
JP5900127B2 (en) Imaging device and image processing system
US10834343B2 (en) Image sensor including color splitting element and method of operating the image sensor
JP2007242721A (en) Solid state image sensor
JP2009055273A (en) Solid-state image pickup element
US10211242B2 (en) Image sensor
JP5699573B2 (en) Image sensor
JP2007502017A (en) Hybrid two-color one-pixel image sensor structure

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20141017

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20150813

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150818

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20151014

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160209

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160222

R151 Written notification of patent or utility model registration

Ref document number: 5900127

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250