JP2015190992A - Confocal microscope device and confocal observation method - Google Patents
Confocal microscope device and confocal observation method Download PDFInfo
- Publication number
- JP2015190992A JP2015190992A JP2014065650A JP2014065650A JP2015190992A JP 2015190992 A JP2015190992 A JP 2015190992A JP 2014065650 A JP2014065650 A JP 2014065650A JP 2014065650 A JP2014065650 A JP 2014065650A JP 2015190992 A JP2015190992 A JP 2015190992A
- Authority
- JP
- Japan
- Prior art keywords
- pinhole
- observation
- sub
- image
- main
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims description 10
- 239000000523 sample Substances 0.000 claims abstract description 55
- 230000003287 optical effect Effects 0.000 claims abstract description 44
- 238000005286 illumination Methods 0.000 claims abstract description 36
- 238000001514 detection method Methods 0.000 claims abstract description 7
- 230000005284 excitation Effects 0.000 claims description 62
- 239000000126 substance Substances 0.000 claims description 7
- 229920006395 saturated elastomer Polymers 0.000 claims description 3
- 238000004364 calculation method Methods 0.000 claims description 2
- 238000003384 imaging method Methods 0.000 abstract description 5
- 230000004304 visual acuity Effects 0.000 abstract 1
- 230000015654 memory Effects 0.000 description 31
- 238000009826 distribution Methods 0.000 description 28
- 238000005070 sampling Methods 0.000 description 22
- 238000002073 fluorescence micrograph Methods 0.000 description 20
- YBJHBAHKTGYVGT-ZKWXMUAHSA-N (+)-Biotin Chemical compound N1C(=O)N[C@@H]2[C@H](CCCCC(=O)O)SC[C@@H]21 YBJHBAHKTGYVGT-ZKWXMUAHSA-N 0.000 description 17
- FEPMHVLSLDOMQC-UHFFFAOYSA-N virginiamycin-S1 Natural products CC1OC(=O)C(C=2C=CC=CC=2)NC(=O)C2CC(=O)CCN2C(=O)C(CC=2C=CC=CC=2)N(C)C(=O)C2CCCN2C(=O)C(CC)NC(=O)C1NC(=O)C1=NC=CC=C1O FEPMHVLSLDOMQC-UHFFFAOYSA-N 0.000 description 17
- 239000013307 optical fiber Substances 0.000 description 15
- 239000011295 pitch Substances 0.000 description 15
- 239000000463 material Substances 0.000 description 14
- 230000005855 radiation Effects 0.000 description 11
- 238000010586 diagram Methods 0.000 description 7
- 230000000694 effects Effects 0.000 description 6
- 238000005316 response function Methods 0.000 description 6
- 230000005540 biological transmission Effects 0.000 description 4
- 230000035945 sensitivity Effects 0.000 description 4
- 230000015572 biosynthetic process Effects 0.000 description 3
- 239000000047 product Substances 0.000 description 3
- 210000001747 pupil Anatomy 0.000 description 3
- 230000004044 response Effects 0.000 description 3
- 230000006870 function Effects 0.000 description 2
- 230000004075 alteration Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000005562 fading Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000004088 simulation Methods 0.000 description 1
- 239000013589 supplement Substances 0.000 description 1
Images
Landscapes
- Investigating, Analyzing Materials By Fluorescence Or Luminescence (AREA)
- Microscoopes, Condenser (AREA)
Abstract
Description
本発明は、共焦点顕微鏡装置及び共焦点観察方法に関する。 The present invention relates to a confocal microscope apparatus and a confocal observation method.
従来、共焦点顕微鏡は、蛍光標本に励起光を集光し、励起光の集光点から射出する蛍光をピンホール越しに検出することで高分解能を達成している。この共焦点顕微鏡の分解能は基本的に、励起光の集光点のPSF(PSF:Point spread function)と、標本に投影されるピンホール像の強度分布との積の分布によって決まる。よって、共焦点顕微鏡の分解能は、顕微鏡の結像性能に依存する。 Conventionally, a confocal microscope achieves high resolution by condensing excitation light on a fluorescent specimen and detecting fluorescence emitted from a condensing point of the excitation light through a pinhole. The resolution of this confocal microscope is basically determined by the product distribution of the PSF (PSF: Point spread function) of the focal point of the excitation light and the intensity distribution of the pinhole image projected onto the specimen. Therefore, the resolution of the confocal microscope depends on the imaging performance of the microscope.
本発明は、顕微鏡の結像性能を超えた高い分解能で観察が可能な共焦点顕微鏡装置及び共焦点観察方法を提供する。 The present invention provides a confocal microscope apparatus and a confocal observation method that enable observation with high resolution exceeding the imaging performance of a microscope.
本発明を例示する共焦点顕微鏡装置の一態様は、観察対象面に照明光を集光する照明光学系と、前記観察対象面における前記照明光の集光点から射出した観察光を集光する観察光学系と、前記観察光学系に関して前記集光点と共役な位置に主ピンホールを配置すると共に、前記共役な位置から外れた位置に副ピンホールを配置したマスク部と、前記主ピンホールを通過した前記観察光の強度を示す主強度信号と、前記副ピンホールを通過した前記観察光の強度を示す副強度信号とを個別に生成する検出部と、前記観察対象面に前記観察光学系が形成する前記主ピンホールの像である主ピンホール像と、前記観察対象面に前記観察光学系が形成する前記副ピンホールの像である副ピンホール像と、前記観察対象面に前記照明光学系が形成する前記照明光の集光点とからなるプローブで前記観察対象面を走査する走査部と、前記観察対象面の観察対象点に前記主ピンホール像が位置しているときに生成された前記主強度信号から、前記観察対象点に前記副ピンホール像が位置しているときに生成された前記副強度信号に応じた値を減算することにより、前記主ピンホール像より小さい領域を射出元とした前記観察光の強度信号を生成する演算部とを備える。 One aspect of a confocal microscope apparatus illustrating the present invention condenses an illumination optical system that condenses illumination light on an observation target surface, and observation light emitted from a condensing point of the illumination light on the observation target surface An observation optical system, a mask portion in which a main pinhole is disposed at a position conjugate with the focusing point with respect to the observation optical system, and a sub pinhole is disposed at a position deviating from the conjugate position; and the main pinhole A detection unit that individually generates a main intensity signal indicating the intensity of the observation light that has passed through and a sub-intensity signal indicating the intensity of the observation light that has passed through the auxiliary pinhole, and the observation optical on the observation target surface A main pinhole image that is an image of the main pinhole formed by a system; a subpinhole image that is an image of the subpinhole formed by the observation optical system on the observation target surface; and Before the illumination optical system is formed A scanning unit that scans the observation target surface with a probe including a condensing point of illumination light, and the main intensity signal generated when the main pinhole image is positioned at the observation target point of the observation target surface From the sub-intensity signal generated when the sub-pinhole image is located at the observation point, the region smaller than the main pinhole image is used as the emission source by subtracting the value according to the sub-intensity signal generated. A calculation unit that generates an intensity signal of the observation light.
本発明を例示する共焦点観察方法の一態様は、観察対象面に照明光を照明光学系で集光し、前記観察対象面における前記照明光の集光点から射出した観察光を観察光学系で集光し、前記観察光学系に関して前記集光点と共役な位置に主ピンホールを配置すると共に、前記共役な位置から外れた位置に副ピンホールを配置し、前記主ピンホールを通過した前記観察光の強度を示す主強度信号と、前記副ピンホールを通過した前記観察光の強度を示す副強度信号とを個別に生成し、前記観察対象面に前記観察光学系が形成する前記主ピンホールの像である主ピンホール像と、前記観察対象面に前記観察光学系が形成する前記副ピンホールの像である副ピンホール像と、前記観察対象面に前記照明光学系が形成する前記照明光の集光点とからなるプローブで前記観察対象面を走査し、前記観察対象面の観察対象点に前記主ピンホール像が位置しているときに生成された前記主強度信号から、前記観察対象点に前記副ピンホール像が位置しているときに生成された前記副強度信号に応じた値を減算することにより、前記主ピンホール像より小さい領域を射出元とした前記観察光の強度信号を生成する。 In one aspect of the confocal observation method illustrating the present invention, illumination light is condensed on an observation target surface by an illumination optical system, and the observation light emitted from the illumination light condensing point on the observation target surface is observed by the observation optical system The main pinhole is arranged at a position conjugate with the condensing point with respect to the observation optical system, and a sub pinhole is arranged at a position deviating from the conjugate position, and passes through the main pinhole. The main intensity signal indicating the intensity of the observation light and the sub intensity signal indicating the intensity of the observation light that has passed through the sub pinhole are individually generated, and the main optical system formed on the observation target surface by the observation optical system. A main pinhole image that is an image of a pinhole, a sub-pinhole image that is an image of the sub-pinhole formed by the observation optical system on the observation target surface, and the illumination optical system is formed on the observation target surface The illumination light condensing point Scanning the observation target surface, and from the main intensity signal generated when the main pinhole image is located at the observation target point of the observation target surface, By subtracting a value corresponding to the sub-intensity signal generated when the image is positioned, an intensity signal of the observation light is generated with an area smaller than the main pinhole image as an emission source.
本発明によれば、顕微鏡の結像性能を超えた高い分解能で観察が可能な共焦点顕微鏡装置及び共焦点観察方法が実現する。 According to the present invention, a confocal microscope apparatus and a confocal observation method capable of observing with high resolution exceeding the imaging performance of a microscope are realized.
[第1実施形態]
以下、本発明の第1実施形態として共焦点顕微鏡装置を説明する。
[First Embodiment]
Hereinafter, a confocal microscope apparatus will be described as a first embodiment of the present invention.
図1は、本実施形態の共焦点顕微鏡装置の構成図である。図1に示すとおり共焦点顕微鏡装置には、レーザ光源11、光ファイバ7、コリメートレンズ12、フィルタ13、ダイクロイックミラー14、ガルバノスキャナ15、リレーレンズ16、対物レンズ17、試料18、フィルタ19、集光レンズ20、ピンホールマスク21、光ファイバ22−0〜22−6、光検出器23−0〜23−6、制御装置39、演算装置40などが配置される。演算装置40には、フレームメモリM1〜M6が搭載される。
FIG. 1 is a configuration diagram of the confocal microscope apparatus of the present embodiment. As shown in FIG. 1, the confocal microscope apparatus includes a
なお、図1では、光ファイバ22−0〜22−6を代表して3つの光ファイバ22−0、22−1、22−2のみを図示し、光検出器23−0〜23−6を代表して3つの光検出器23−0、23−1、23−2のみを図示し、フレームメモリM0〜M6を代表して3つのフレームメモリM0、M1、M2のみを図示した。
In FIG. 1, only the three optical fibers 22-0, 22-1, and 22-2 are illustrated on behalf of the optical fibers 22-0 to 22-6, and the photodetectors 23-0 to 23-6 are illustrated. representatively shows only three photodetectors 23-0,23-1,23-2,
試料18は、生体細胞などの観察対象物を含み、その観察対象物は所定の蛍光物質により予め染色されている。試料18の光軸方向(z方向)の位置は、試料18の観察対象面Pが対物レンズ17の焦点面に位置するよう不図示の上下動機構によって予め調整されている。ここでは、試料18のz方向の厚さが十分に薄いと仮定する。
The
レーザ光源11は、蛍光物質の励起波長と同じ波長のレーザ光(励起光)を出射する。レーザ光源11から射出した励起光は、光ファイバ7の内部を伝搬してからコリメートレンズ12により平行光束化された後、フィルタ13へ入射する。なお、フィルタ13には、励起光と同じ波長の光を透過し、かつ、蛍光物質から発せられる蛍光(後述)と同じ波長の光をカットする波長選択性が付与されている。
The
フィルタ13へ入射した励起光は、フィルタ13を透過してダイクロイックミラー14へ入射する。なお、ダイクロイックミラー14には、励起光と同じ波長の光を反射し、かつ蛍光と同じ波長の光を透過する反射/透過波長選択性が付与されている。
The excitation light that has entered the
ダイクロイックミラー14へ入射した励起光は、ダイクロイックミラー14を反射した後、ガルバノスキャナ15の2つのミラーで順に反射すると、リレーレンズ16を介して対物レンズ17の瞳側へ入射する。なお、リレーレンズ16には、対物レンズ17の瞳面とガルバノスキャナ15の配置面とを共役に結ぶ働きがある。
The excitation light incident on the dichroic mirror 14 is reflected by the two mirrors of the
対物レンズ17の瞳側へ入射した励起光は、対物レンズ17の先端側から射出するときに集光光となり、試料18の観察対象面Pの1点に向かって集光し、光スポット(励起光スポット)を形成する。観察対象面Pにおける励起光スポットでは蛍光物質が励起され、蛍光を発する。
The excitation light incident on the pupil side of the
励起光スポットで発生した蛍光は、励起光スポットを形成した励起光と同じ光路を逆に辿り、対物レンズ17、リレーレンズ16、ガルバノスキャナ15の2つのミラーを経て、ダイクロイックミラー14へ向かう。ダイクロイックミラー14へ入射した蛍光は、ダイクロイックミラー14を透過し、フィルタ19へ入射する。なお、フィルタ19には、励起光と同じ波長の光をカットし、かつ蛍光と同じ波長の光を透過する波長選択性が付与されている。
The fluorescence generated at the excitation light spot travels in the same optical path as the excitation light that forms the excitation light spot, and travels toward the dichroic mirror 14 via the two mirrors of the
フィルタ19へ入射した蛍光は、フィルタ19を透過して集光レンズ20へ入射すると、集光レンズ20の集光作用を受け、ピンホールマスク21の配置面に向かって集光する。なお、ピンホールマスク21の配置面は、対物レンズ17、リレーレンズ16、集光レンズ20からなる観察光学系に関して試料18の観察対象面Pと共役である。
When the fluorescence that has entered the
ここで、図2に示すとおり、ピンホールマスク21には、開口部として円形のピンホール21−0〜21−6が形成されており、開口部以外の領域はマスク部となっている。なお、図1では、ピンホール21−0〜21−6を代表するピンホール21−0、21−1、21−2のみを図示した。
Here, as shown in FIG. 2, the
図2において、ピンホール21−0の中心位置は、励起光スポットの中心と共役な位置であり、ピンホール21−1〜21−6の各々の中心位置は、励起光スポットの中心と共役な位置から外れている。よって、以下ではピンホール21−0を「主ピンホール21−0」と称し、ピンホール21−1〜21−6を「副ピンホール21−1〜21−6」と称す。 In FIG. 2, the center position of the pinhole 21-0 is a position conjugate with the center of the excitation light spot, and the center position of each pinhole 21-1 to 21-6 is conjugate with the center of the excitation light spot. Out of position. Therefore, hereinafter, the pinhole 21-0 is referred to as “main pinhole 21-0”, and the pinholes 21-1 to 21-6 are referred to as “sub pinholes 21-1 to 21-6”.
また、本実施形態では、副ピンホール21−1〜21−6の各々の径は、主ピンホール21−0の径と同じサイズに設定される。 In the present embodiment, the diameters of the sub pinholes 21-1 to 21-6 are set to the same size as the diameter of the main pinhole 21-0.
また、本実施形態では、図3に示すとおり主ピンホール像18−0の中心から副ピンホール像18−1〜18−6の各々の中心までの距離は、エアリーディスク半径aに一致している。エアリーディスク半径aは、共焦点顕微鏡の光学系に固有の値である。 In the present embodiment, as shown in FIG. 3, the distance from the center of the main pinhole image 18-0 to the center of each of the sub pinhole images 18-1 to 18-6 coincides with the Airy disk radius a. Yes. The Airy disk radius a is a value specific to the optical system of the confocal microscope.
なお、図3では、主ピンホール像18−0のサイズと、副ピンホール像18−1〜18−6のサイズと、励起光スポット100のサイズとを、エアリーディスク半径aと比較して小さめに描いた。
In FIG. 3, the size of the main pinhole image 18-0, the size of the sub pinhole images 18-1 to 18-6, and the size of the
ここで、「主ピンホール像18−0」とは、主ピンホール21−0に発光体を仮想的に配置したときに観察光学系が観察対象面Pに形成する仮想的な光強度分布のことであり、「副ピンホール像18−1〜18−6」とは、副ピンホール21−1〜21−6に発光体を仮想的に配置したときに観察光学系が観察対象面Pに形成する仮想的な光強度分布のことである。 Here, the “main pinhole image 18-0” is a virtual light intensity distribution formed on the observation target plane P by the observation optical system when a light emitter is virtually arranged in the main pinhole 21-0. The “sub pinhole images 18-1 to 18-6” mean that the observation optical system is placed on the observation target surface P when the light emitter is virtually arranged in the sub pinholes 21-1 to 21-6. It is a virtual light intensity distribution to be formed.
また、図2に示すとおり副ピンホール21−1〜21−6は、主ピンホール21−0の周りに等間隔で配置される。よって、図3に示すとおり副ピンホール像18−1〜18−6は、主ピンホール像18−0の周りに等間隔で配置される。 Further, as shown in FIG. 2, the sub pinholes 21-1 to 21-6 are arranged at equal intervals around the main pinhole 21-0. Therefore, as shown in FIG. 3, the sub-pinhole images 18-1 to 18-6 are arranged at equal intervals around the main pinhole image 18-0.
以下、副ピンホール像18−2、18−5の配列方向をy方向(=後述する副走査方向)とし、y方向に垂直な方向をx方向(=後述する主走査方向)とする。 Hereinafter, the arrangement direction of the sub pinhole images 18-2 and 18-5 is defined as the y direction (= sub scanning direction described later), and the direction perpendicular to the y direction is defined as the x direction (= main scanning direction described later).
この場合に、ピンホール像のx方向の最小配列ピッチをΔxとおき、ピンホール像のy方向の最小配列ピッチをΔyとおくと、Δx=a(√3)/2、Δy=a/2が成り立つ。また、主ピンホール像18−0の中心座標を(x,y)とおくと、副ピンホール像18−1〜18−6の各々の中心座標は以下のとおり表される。
・副ピンホール18−1の中心座標:(x−Δx,y+Δy)、
・副ピンホール18−2の中心座標:(x,y+2Δy)、
・副ピンホール18−3の中心座標:(x+Δx,y+Δy)、
・副ピンホール18−4の中心座標:(x+Δx,y−Δy)、
・副ピンホール18−5の中心座標:(x,y−2Δy)、
・副ピンホール18−6の中心座標:(x−Δx,y−Δy)
図4は、主ピンホール像18−0の分布域と、副ピンホール像18−1〜18−6の各々の分布域と、励起光スポット100の分布域との関係を示す図である。ここでは、主ピンホール像18−0の半径、副ピンホール像18−1〜18−6の各々の半径、励起光スポット100の半径は、何れもエアリーディスク半径aにほぼ一致していると仮定した。
In this case, if the minimum arrangement pitch in the x direction of the pinhole image is set as Δx and the minimum arrangement pitch in the y direction of the pinhole image is set as Δy, Δx = a (√3) / 2, Δy = a / 2 Holds. If the center coordinates of the main pinhole image 18-0 are (x, y), the center coordinates of the sub pinhole images 18-1 to 18-6 are expressed as follows.
The center coordinates of the sub pinhole 18-1: (x−Δx, y + Δy),
-Center coordinates of the secondary pinhole 18-2: (x, y + 2Δy),
The center coordinates of the sub pinhole 18-3: (x + Δx, y + Δy),
The center coordinates of the sub pinhole 18-4: (x + Δx, y−Δy),
The center coordinates of the sub pinhole 18-5: (x, y-2Δy),
・ Center coordinates of the sub pinhole 18-6: (x−Δx, y−Δy)
FIG. 4 is a diagram showing the relationship between the distribution area of the main pinhole image 18-0, the distribution areas of the sub pinhole images 18-1 to 18-6, and the distribution area of the
図4に示すとおり主ピンホール像18−0の分布域と励起光スポット100の分布域とはほぼ一致しており、副ピンホール像18−1〜18−6の各々の分布域は、主ピンホール像18−0及び励起光スポット100の分布域に対して部分的に重複している。これら主ピンホール像18−0、副ピンホール像18−1〜18−6、励起光スポット100の全体が、本実施形態のプローブ300として使用される。
As shown in FIG. 4, the distribution area of the main pinhole image 18-0 and the distribution area of the
図1に戻り、ピンホールマスク21の主ピンホール21−0及び副ピンホール21−1〜21−6を個別に通過した蛍光は、光ファイバ22−0〜22−6の入射端へ個別に入射する。光ファイバ22−0〜22−6へ個別に入射した蛍光は、光ファイバ22−0〜22−6の射出端から個別に射出し、光検出器23−0〜23−6へ個別に入射する。
Returning to FIG. 1, the fluorescent light individually passing through the main pinhole 21-0 and the sub pinholes 21-1 to 21-6 of the
光検出器23−0〜23−6へ個別に入射した蛍光は、光検出器23−0〜23−6において個別に蛍光信号I0〜I6へと変換される。光検出器23−0〜23−6の生成した蛍光信号I0〜I6は、制御装置39を介して演算装置40に取り込まれる。
The incident fluorescence separately into the photodetector 23-0~23-6 is converted into
演算装置40のフレームメモリM0は制御装置39から送出される蛍光信号I0を蓄積する。また、演算装置40のフレームメモリM1は制御装置39から送出される蛍光信号I1を蓄積する。また、演算装置40のフレームメモリM2は制御装置39から送出される蛍光信号I2を蓄積する。また、演算装置40のフレームメモリM3は制御装置39から送出される蛍光信号I3を蓄積する。また、演算装置40のフレームメモリM4は制御装置39から送出される蛍光信号I4を蓄積する。また、演算装置40のフレームメモリM5は制御装置39から送出される蛍光信号I5を蓄積する。また、演算装置40のフレームメモリM6は制御装置39から送出される蛍光信号I6を蓄積する。
The frame memory M 0 of the
なお、以上の説明では、7つのピンホール21−0〜21−6を個別に通過した7つの蛍光を7つの光検出器23−0〜23−6へ個別に導光するために、7つの光ファイバ22−0〜22−6を使用したが、7つのピンホール21−0〜21−6の間隔が十分に広い場合は、光ファイバ22−0〜22−6を省略し、ピンホール21−0〜21−6の背後へ直接的に7つの光検出器23−0〜23−6を配置してもよい。
In the above description, in order to individually guide the seven fluorescences individually passing through the seven pinholes 21-0 to 21-6 to the seven photodetectors 23-0 to 23-6, Although the optical fibers 22-0 to 22-6 are used, when the distance between the seven pinholes 21-0 to 21-6 is sufficiently wide, the optical fibers 22-0 to 22-6 are omitted, and the
また、以上の説明では、7つのピンホール21−0〜21−6の形成されたピンホールマスク21を使用したが、このピンホールマスク21を省略し、7つの光ファイバ22−0〜22−6の各々の入射端を7つのピンホール21−0〜21−6の代わりに使用してもよい。但し、その場合、光ファイバ22−0〜22−6の入射端の径は、7つのピンホール21−0〜21−6の各々の径と同じサイズに設定される。
In the above description, the
また、以上の説明では、7つのピンホール21−0〜21−6を個別に通過した7つの蛍光を個別に検出するために7つの光検出器23−0〜23−6を使用したが、7つのピンホール21−0〜21−6を個別に通過した7つの蛍光を個別に検出するために、単一の撮像素子の互いに異なる7つの画素領域を使用してもよい。また、7つの光検出器23−0〜23−6の代わりに単一の撮像素子を使用し、かつ、ピンホールマスク21を省略して7つの光ファイバ22−0〜22−6の各々の入射端をピンホール21−0〜21−6の代わりに使用することも、もちろん可能である。
In the above description, the seven photodetectors 23-0 to 23-6 are used to individually detect the seven fluorescences that have passed through the seven pinholes 21-0 to 21-6. In order to individually detect the seven fluorescences individually passing through the seven pinholes 21-0 to 21-6, seven different pixel regions of a single image sensor may be used. Further, instead of the seven photodetectors 23-0 to 23-6, a single imaging device is used, and the
さて、図1に示したガルバノスキャナ15の2つのミラーのうち不図示の主走査ミラーが駆動されると、観察対象面Pにおけるプローブ300の形成先が主走査方向(=x方向)にかけて移動(走査)する。また、ガルバノスキャナ15の2つのミラーのうち不図示の副走査ミラーが駆動されると、観察対象面Pにおけるプローブ300の形成先が副走査方向(=y方向)にかけて移動(走査)する。
Now, when a main scanning mirror (not shown) of the two mirrors of the
そこで、制御装置39は、プローブ300の形成先が観察対象面Pの各座標にあるときに、レーザ光源11を点灯し、かつ光検出器23−0〜23−6を駆動することにより、各座標から蛍光信号I0〜I6をサンプリングする。以下、蛍光信号I0〜I6のサンプリングタイミングにおけるプローブ300の中心座標(すなわち励起光スポット100及び主ピンホール像18−0の中心座標)を「サンプリング座標」と称す。
Therefore, the
したがって、演算装置40のフレームメモリM0には、複数のサンプリング座標の各々に対応する蛍光信号I0が蓄積される。以下、フレームメモリM0に蓄積された蛍光信号I0を座標順に並べてなる画像を、必要に応じて「蛍光画像I0」と称す。
Therefore, the fluorescence signal I 0 corresponding to each of the plurality of sampling coordinates is stored in the frame memory M 0 of the
また、演算装置40のフレームメモリM1には、複数のサンプリング座標の各々に対応する蛍光信号I1が蓄積される。以下、フレームメモリM1に蓄積された蛍光信号I1を座標順に並べてなる画像を、必要に応じて「蛍光画像I1」と称す。
In addition, the fluorescence signal I 1 corresponding to each of the plurality of sampling coordinates is stored in the frame memory M 1 of the
また、演算装置40のフレームメモリM2には、複数のサンプリング座標の各々に対応する蛍光信号I2が蓄積される。以下、フレームメモリM2に蓄積された蛍光信号I2を座標順に並べてなる画像を、必要に応じて「蛍光画像I2」と称す。
Further, the fluorescence signal I 2 corresponding to each of the plurality of sampling coordinates is stored in the frame memory M 2 of the
また、演算装置40のフレームメモリM3には、複数のサンプリング座標の各々に対応する蛍光信号I3が蓄積される。以下、フレームメモリM3に蓄積された蛍光信号I3を座標順に並べてなる画像を、必要に応じて「蛍光画像I3」と称す。
Further, the fluorescence signal I 3 corresponding to each of the plurality of sampling coordinates is stored in the frame memory M 3 of the
また、演算装置40のフレームメモリM4には、複数のサンプリング座標の各々に対応する蛍光信号I4が蓄積される。以下、フレームメモリM4に蓄積された蛍光信号I4を座標順に並べてなる画像を、必要に応じて「蛍光画像I4」と称す。
Further, the fluorescence signal I 4 corresponding to each of the plurality of sampling coordinates is stored in the frame memory M 4 of the
また、演算装置40のフレームメモリM5には、複数のサンプリング座標の各々に対応する蛍光信号I5が蓄積される。以下、フレームメモリM5に蓄積された蛍光信号I5を座標順に並べてなる画像を、必要に応じて「蛍光画像I5」と称す。
Further, in the frame memory M 5 of the
また、演算装置40のフレームメモリM6には、複数のサンプリング座標の各々に対応する蛍光信号I6が蓄積される。以下、フレームメモリM6に蓄積された蛍光信号I6を座標順に並べてなる画像を、必要に応じて「蛍光画像I6」と称す。
In addition, the fluorescence signal I 6 corresponding to each of the plurality of sampling coordinates is stored in the frame memory M 6 of the
図5は、観察対象面Pにおけるサンプリング座標の配列を説明する図である。図5の横軸が主走査方向(=x方向)であり、図5の縦軸が副走査方向(=y方向)である。 図5に示すとおりサンプリング座標のx方向の配列ピッチ(すなわちx方向の走査ピッチ)は、x方向におけるプローブ300の幅(=2Δx)よりも細かく設定され、サンプリング座標のy方向の配列ピッチ(すなわちy方向の走査ピッチ)は、y方向におけるプローブ300の幅(=4Δy)よりも細かく設定される。
FIG. 5 is a diagram illustrating the arrangement of sampling coordinates on the observation target surface P. The horizontal axis in FIG. 5 is the main scanning direction (= x direction), and the vertical axis in FIG. 5 is the sub-scanning direction (= y direction). As shown in FIG. 5, the arrangement pitch in the x direction of the sampling coordinates (that is, the scanning pitch in the x direction) is set finer than the width (= 2Δx) of the
具体的に、x方向の走査ピッチは、プローブ300におけるx方向のピンホール像の最小配列ピッチΔxと同じに設定され、y方向の走査ピッチは、プローブ300におけるy方向のピンホール像の最小配列ピッチΔyと同じに設定される。
Specifically, the scanning pitch in the x direction is set to be the same as the minimum arrangement pitch Δx of the pinhole images in the x direction in the
x方向及びy方向の走査ピッチをこのように設定すれば、サンプリング座標の各々に全てのピンホール像18−0〜18−6を互いに異なるタイミングで位置させることができる。この場合、超解像に必要な蛍光信号I0〜I6をサンプリング座標の各々からサンプリングすることができる。 If the scanning pitches in the x direction and y direction are set in this way, all the pinhole images 18-0 to 18-6 can be positioned at different timings in each of the sampling coordinates. In this case, the fluorescence signals I 0 to I 6 necessary for super-resolution can be sampled from each of the sampling coordinates.
次に、本実施形態の励起光パワーについて説明する。 Next, the excitation light power of this embodiment will be described.
本実施形態の制御装置39は、レーザ光源11のパワー、つまり励起光のパワーを、励起光スポット100における蛍光発生量が飽和するよう十分に高く設定することにより、励起光スポット100による放射PSFのピークを平坦化する。
The
ここで、プローブ300の中心(=励起光スポット100の中心)を原点としたプローブ内座標(u,v)を導入する。なお、ここではプローブ内座標(u,v)を、観察対象面Pにおけるプローブ300の中心座標(=サンプリング座標(x,y))と使い分けている。
Here, in-probe coordinates (u, v) with the center of the probe 300 (= the center of the excitation light spot 100) as the origin are introduced. Here, the in-probe coordinates (u, v) are used separately from the center coordinates (= sampling coordinates (x, y)) of the
このプローブ内座標(u,v)を用いて放射PSFをPSFem(u,v)とおくと、PSFem(u,v)は以下の式(1)で表される。 When the radiation PSF is set to PSF em (u, v) using the coordinates (u, v) in the probe, PSF em (u, v) is expressed by the following equation (1).
PSFem(u,v)=(S−1・PSFill(u,v))/(S−1+PSFill(u,v)) …(1)
なお、ここでは励起光スポット100の強度分布(励起PSF)をPSFill(u,v)と表した。また、式(1)におけるSは励起光の強度と蛍光物質の特性とによって決まる因子であって、この因子Sが大きいときほど蛍光発生量の飽和度が高まり、放射PSFの平坦度も高まる。よって、以下ではこの因子Sを「飽和因子」と称す。
PSF em (u, v) = (S −1 · PSF ill (u, v)) / (S −1 + PSF ill (u, v)) (1)
Here, the intensity distribution (excitation PSF) of the
本実施形態では、励起光の強度を適度に高めることにより、飽和因子Sを適度に大きくし、放射PSFのピークを適度に平坦化する。これによって超解像観察が確実となる。 In the present embodiment, the saturation factor S is appropriately increased and the peak of the radiation PSF is appropriately flattened by appropriately increasing the intensity of the excitation light. This ensures super-resolution observation.
本装置では、ピンホール21−iでサンプリングされる蛍光信号Iiの点応答関数をPSFdet i(u,v)とおくと、PSFdet i(u,v)は放射PSF(PSFem(u,v))にピンホール像18−iによるマスクIp i(u,v)がかかったものとなり、一般的に次式(2)で表される。 In this apparatus, when the point response function of the fluorescence signal I i sampled by the pinhole 21-i is PSF det i (u, v), PSF det i (u, v) is a radiation PSF (PSF em (u, v). , V)) is obtained by applying the mask I p i (u, v) by the pinhole image 18-i and is generally expressed by the following equation (2).
PSFdet i(u,v)=PSFem(u,v)×Ip i(u,v) …(2)
次に、本実施形態の超解像原理を説明する。
PSF det i (u, v) = PSF em (u, v) × I p i (u, v) (2)
Next, the super-resolution principle of this embodiment will be described.
図6(A)、(B)は、プローブ300の中心座標(サンプリング座標)と、そのプローブ300でサンプリングされる蛍光信号Iiとの関係を説明する図である。
6A and 6B are diagrams for explaining the relationship between the center coordinates (sampling coordinates) of the
図6(A)、(B)においてプローブ300を構成する3つのカーブは、主ピンホール像18−0の強度分布、副ピンホール像18−1の強度分布、励起光スポット100による放射PSFを模式的に表したものである。なお、図6(A)、(B)では、他の副ピンホール像18−2〜18−6の強度分布の図示を省略した。
6A and 6B, the three curves constituting the
先ず、図6(A)に示すとおり、観察対象面Pにおけるプローブ300の中心座標(=サンプリング座標)が(x,y)であるとき、主ピンホール21−0でサンプリングされる蛍光信号I0(x,y)は、主ピンホール像18−0の強度分布と励起光スポット100による放射PSFとの積に相当する領域(斜線部)に感度を有する。
First, as shown in FIG. 6A, when the center coordinates (= sampling coordinates) of the
一方、図6(B)に示すとおり観察対象面Pにおけるプローブ300の中心座標(=サンプリング座標)が(x+Δx,y−Δy)であるとき、副ピンホール21−1でサンプリングされる蛍光信号I1(x+Δx,y−Δy)は、副ピンホール像18−1の強度分布と励起光スポット100による放射PSFとの積に相当する領域(斜線部)に感度を有する。
On the other hand, as shown in FIG. 6B, when the center coordinates (= sampling coordinates) of the
ここで、上述した蛍光信号I0(x,y)から上述した蛍光信号I1(x+Δx,y−Δy)に応じた値を差し引いてできる以下の差分蛍光信号ΔI1(x,y)を考える。 Here, consider the following differential fluorescence signal ΔI 1 (x, y), which can be obtained by subtracting a value corresponding to the fluorescence signal I 1 (x + Δx, y−Δy) from the fluorescence signal I 0 (x, y). .
ΔI1(x,y)=I0(x,y)−α・I1(x+Δx,y−Δy) …(3)
なお、αは減算係数であって0<α≦1である。
ΔI 1 (x, y) = I 0 (x, y) −α · I 1 (x + Δx, y−Δy) (3)
Α is a subtraction coefficient and 0 <α ≦ 1.
この差分蛍光信号ΔI1(x,y)は、図6(A)斜線部から図6(B)斜線部に応じた値を差し引いた領域、すなわち、図6(C)に示すとおり、サンプリング座標(x,y)の近傍における小さな領域(斜線部)にのみ感度を有する。この差分蛍光信号ΔI1(x,y)の点応答関数は、プローブ内座標(u,v)を用いて以下の式(4)で表される。 This differential fluorescence signal ΔI 1 (x, y) is obtained by subtracting the value corresponding to the hatched portion in FIG. 6 (A) from the hatched portion, that is, as shown in FIG. It has sensitivity only in a small area (shaded area) in the vicinity of (x, y). The point response function of the differential fluorescence signal ΔI 1 (x, y) is expressed by the following equation (4) using the coordinates (u, v) in the probe.
PSFeff 1(u,v)=PSFdet 0(u,v)−α・PSFdet 1(u,v) …(4)
なお、ここでは差分蛍光信号ΔIi(x,y)の点応答関数をPSFeff i(u,v)と表している。
PSF eff 1 (u, v) = PSF det 0 (u, v) −α · PSF det 1 (u, v) (4)
Here, the point response function of the differential fluorescence signal ΔI i (x, y) is represented as PSF eff i (u, v).
また、以上の副ピンホール像18−1及び蛍光信号I1(x+Δx,y−Δy)に関する説明は、副ピンホール像18−2及び蛍光信号I2(x,y−2Δy)にも同様に当てはまる。また、副ピンホール像18−1及び蛍光信号I1(x+Δx,y−Δy)に関する説明は、副ピンホール像18−3及び蛍光信号I3(x−Δx,y−Δy)にも同様に当てはまる。また、副ピンホール像18−1及び蛍光信号I1(x+Δx,y−Δy)に関する説明は、副ピンホール像18−4及び蛍光信号I4(x−Δx,y+Δy)にも同様に当てはまる。また、副ピンホール像18−1及び蛍光信号I1(x+Δx,y−Δy)に関する説明は、副ピンホール像18−5及び蛍光信号I5(x,y+2Δy)にも同様に当てはまる。また、副ピンホール像18−1及び蛍光信号I1(x+Δx,y−Δy)に関する説明は、副ピンホール像18−6及び蛍光信号I6(x+Δx,y+Δy)にも同様に当てはまる(図6(D)を参照。)。 In addition, the description regarding the sub-pinhole image 18-1 and the fluorescence signal I 1 (x + Δx, y−Δy) is similarly applied to the sub-pinhole image 18-2 and the fluorescence signal I 2 (x, y−2Δy). apply. The explanation regarding the sub-pinhole image 18-1 and the fluorescence signal I 1 (x + Δx, y−Δy) is similarly applied to the sub-pinhole image 18-3 and the fluorescence signal I 3 (x−Δx, y−Δy). apply. The description regarding the sub-pinhole image 18-1 and the fluorescence signal I 1 (x + Δx, y−Δy) is similarly applied to the sub-pinhole image 18-4 and the fluorescence signal I 4 (x−Δx, y + Δy). The description regarding the sub-pinhole image 18-1 and the fluorescence signal I 1 (x + Δx, y−Δy) is similarly applied to the sub-pinhole image 18-5 and the fluorescence signal I 5 (x, y + 2Δy). The description regarding the sub-pinhole image 18-1 and the fluorescence signal I 1 (x + Δx, y−Δy) is similarly applied to the sub-pinhole image 18-6 and the fluorescence signal I 6 (x + Δx, y + Δy) (FIG. 6). (See (D).)
さらに、以上のサンプリング座標(x,y)についての説明は、他のサンプリング座標についても同様に当てはまる。 Further, the above description of the sampling coordinates (x, y) applies similarly to the other sampling coordinates.
そこで、本実施形態の演算装置40は、フレームメモリM0の蛍光画像I0(x,y)、フレームメモリM1の蛍光画像I1(x,y)、フレームメモリM2の蛍光画像I2(x,y)、フレームメモリM3の蛍光画像I3(x,y)、フレームメモリM4の蛍光画像I4(x,y)、フレームメモリM5の蛍光画像I5(x,y)、フレームメモリM6の蛍光画像I6(x,y)を以下の式(5)に当てはめることにより、差分蛍光画像ΔI(x,y)を生成し、その差分蛍光画像ΔI(x,y)を試料18の超解像画像として不図示の画像表示装置へ表示する。
Therefore, the
ΔI(x,y)=I0(x,y)−α・{I1(x+Δx,y−Δy)+I2(x,y−2Δy)+I3(x−Δx,y−Δy)+I4(x−Δx,y+Δy)+I5(x,y+2Δy)+I6(x+Δx,y+Δy)} …(5)
この差分蛍光画像ΔI(x,y)は、図6(D)に示すとおり、サンプリング座標(x,y)の近傍における極めて小さい領域(斜線部)にのみ感度を有する。この差分蛍光画像ΔI(x,y)の点応答関数は、プローブ内座標(u,v)を用いて以下の式(6)で表される。
ΔI (x, y) = I 0 (x, y) −α · {I 1 (x + Δx, y−Δy) + I 2 (x, y−2Δy) + I 3 (x−Δx, y−Δy) + I 4 ( x−Δx, y + Δy) + I 5 (x, y + 2Δy) + I 6 (x + Δx, y + Δy)} (5)
This differential fluorescent image ΔI (x, y) has sensitivity only in a very small region (shaded portion) in the vicinity of the sampling coordinates (x, y) as shown in FIG. The point response function of the differential fluorescence image ΔI (x, y) is expressed by the following equation (6) using the coordinates (u, v) in the probe.
PSFeff(u,v)=PSFdet 0(u,v)−α・{PSFdet 1(u,v)+PSFdet 2(u,v)+PSFdet 3(u,v)+PSFdet 4(u,v)+PSFdet 5(u,v)+PSFdet 6(u,v)} …(6)
なお、ここでは差分蛍光画像ΔI(x,y)の点応答関数をPSFeff(u,v)と表している。
PSF eff (u, v) = PSF det 0 (u, v) −α · {PSF det 1 (u, v) + PSF det 2 (u, v) + PSF det 3 (u, v) + PSF det 4 (u, v) + PSF det 5 (u, v) + PSF det 6 (u, v)} (6)
Here, the point response function of the differential fluorescence image ΔI (x, y) is represented as PSF eff (u, v).
この点応答関数PSFeff(u,v)は、本実施形態の実効PSFに相当する。この実効PSFと観察対象面Pにおける蛍光物質の密度分布とのコンボリューションが、本実施形態の超解像画像である。よって、本実施形態では、この実効PSFの分布域が狭いほど超解像効果が高まる。 This point response function PSF eff (u, v) corresponds to the effective PSF of the present embodiment. The convolution of the effective PSF and the density distribution of the fluorescent material on the observation target surface P is the super-resolution image of the present embodiment. Therefore, in the present embodiment, the super-resolution effect increases as the effective PSF distribution area is narrower.
次に、本実施形態の実効PSFを説明する。 Next, the effective PSF of this embodiment will be described.
図7において「方向A」は、主ピンホール像と副ピンホール像との配列方向(図4の符号Aを参照)における実効PSFであり、「方向B」は、主ピンホール像と副ピンホール像との非配列方向(図4の符号Bを参照)における実効PSFであり、「通常」は、従来(副ピンホールを有しない場合)の実効PSFである。なお、図7のデータはピンホール径を無限小と仮定した場合のシミュレーション結果である。 In FIG. 7, “direction A” is an effective PSF in the arrangement direction of the main pinhole image and the sub-pinhole image (see symbol A in FIG. 4), and “direction B” is the main pinhole image and the sub-pinhole image. This is the effective PSF in the non-arrangement direction with respect to the hole image (see reference numeral B in FIG. 4), and “normal” is the effective PSF in the conventional case (when there is no sub pinhole). The data in FIG. 7 is a simulation result when the pinhole diameter is assumed to be infinitesimal.
図7によると、本実施形態の方向Aにおける実効PSFの分布域が最も狭く、本実施形態の方向Bにおける実効PSFの分布域は次に狭く、何れの場合も従来の実効PSFの分布域よりも狭いことがわかる。つまり、本実施形態によれば、方向A、Bの何れに亘っても超解像効果が得られていることがわかる。 According to FIG. 7, the effective PSF distribution area in the direction A of the present embodiment is the narrowest, the effective PSF distribution area in the direction B of the present embodiment is the next narrowest, and in any case, the effective PSF distribution area is smaller than the conventional effective PSF distribution area. It can be seen that it is narrow. That is, according to the present embodiment, it can be seen that the super-resolution effect is obtained in any of the directions A and B.
次に、飽和因子Sについて説明する。 Next, the saturation factor S will be described.
図8は、飽和因子Sと放射PSFとの関係を示す図である。 FIG. 8 is a diagram showing the relationship between the saturation factor S and the radiation PSF.
図8に示すとおり、飽和因子Sが大きいときほど放射PSFのピークが平坦化される。この平坦化の程度が大きいほど本実施形態の超解像効果は高まる。 As shown in FIG. 8, the peak of the radiation PSF is flattened as the saturation factor S increases. The greater the degree of flattening, the higher the super-resolution effect of this embodiment.
但し、飽和因子Sを大きくするためには励起光の強度を高める必要があるため、その分だけ試料18の退色は激しくなる。よって、本実施形態の制御装置39は、飽和因子Sの値をユーザに指定させ、その値に応じてレーザ光源11のパワーを設定する。
However, since it is necessary to increase the intensity of the excitation light in order to increase the saturation factor S, the fading of the
したがって、本実施形態のユーザは、解像度と試料ダメージとのバランスを任意に設定することができる。 Therefore, the user of this embodiment can arbitrarily set the balance between resolution and sample damage.
次に、減算係数αについて説明する。 Next, the subtraction coefficient α will be described.
図9は、減算係数αと実効PSFとの関係を示す図である。図9に示すとおり減算係数αの値によっては、実効PSFの周辺部に負のリップルが発生する虞がある。仮に、実効PSFに負のリップルが発生すると、最終画像である超解像画像にアーティファクトの発生する虞がある。このため本実施形態では、実効PSFにおける負のリップルが抑えられ、かつ、実効PSFの分布域がなるべく狭くなるような値が、減算係数αの最適値である。図9の例では、減算係数αの最適値は0.25である。 FIG. 9 is a diagram showing the relationship between the subtraction coefficient α and the effective PSF. As shown in FIG. 9, depending on the value of the subtraction coefficient α, there is a possibility that a negative ripple may occur in the periphery of the effective PSF. If a negative ripple occurs in the effective PSF, artifacts may occur in the super-resolution image that is the final image. For this reason, in the present embodiment, the optimum value of the subtraction coefficient α is a value in which the negative ripple in the effective PSF is suppressed and the distribution range of the effective PSF is as narrow as possible. In the example of FIG. 9, the optimum value of the subtraction coefficient α is 0.25.
また、前述したとおり放射PSFのカーブは、飽和因子Sの値に依存するので、減算係数αの最適値も、飽和因子Sの値に依存する。このため、本実施形態の演算装置40は、ユーザが指定した飽和因子Sの値に応じて減算係数αを設定する必要がある。但し、飽和因子Sの値が決まれば最適な減算係数αの値も一義的に決まる。
Further, since the radiation PSF curve depends on the value of the saturation factor S as described above, the optimum value of the subtraction coefficient α also depends on the value of the saturation factor S. For this reason, the
そこで、本実施形態の演算装置40は、様々な飽和因子Sの値と、それら値の各々に最適な減算係数αの値との対応関係を、テーブルなどの形式で予め記憶しておけばよい。この対応関係に基づけば、ユーザによる飽和因子Sの変更に依らず演算装置40が減算係数αを最適な値に維持できる。
[実施形態の補足]
なお、本実施形態では、ピンホールマスク21に形成される副ピンホールの個数を「6」としたが、6以外の数としてもよい。何れの場合も、副ピンホールが2以上である場合は、2以上の副ピンホールが主ピンホールの周りに均等に配置されることが望ましい。均等に配置すれば、観察対象面Pにおける実効PSFの分布を、等方的な分布に近づけることができる。
Therefore, the
[Supplement of embodiment]
In the present embodiment, the number of sub pinholes formed in the
また、本実施形態では、透過型のピンホールマスク21を使用したが、透過型のピンホールマスク21の代わりに反射型のピンホールマスクを使用してもよい。反射型のピンホールマスクは、透過型ピンホール(微少孔)の代わりに反射型ピンホール(微少ミラー)が形成されたマスクである。
In the present embodiment, the
また、本実施形態では、「1種類の励起光で1種類の蛍光物質を励起する場合」を想定したが、「1種類の励起光で蛍光波長の異なる複数種類の蛍光物質を同時励起する場合」や、「波長の異なる複数種類の励起光で蛍光波長の異なる複数種類の蛍光物質を同時励起する場合」や、「波長の異なる複数種類の励起光で蛍光波長の異なる複数種類の蛍光物質を順次励起する場合」などにも本発明は適用が可能である。 In this embodiment, it is assumed that “one type of fluorescent material is excited by one type of excitation light”, but “a case where a plurality of types of fluorescent materials having different fluorescence wavelengths are simultaneously excited by one type of excitation light”. '', `` When multiple types of fluorescent materials with different wavelengths are excited simultaneously with multiple types of excitation light with different wavelengths '', or `` With multiple types of fluorescent materials with different wavelengths of excitation with multiple types of excitation light with different wavelengths '' The present invention can also be applied to “when sequentially excited”.
なお、可視化すべき蛍光物質が複数種類である場合、すなわち「1種類の励起光で蛍光波長の異なる複数種類の蛍光物質を同時励起する場合」、「波長の異なる複数種類の励起光で蛍光波長の異なる複数種類の蛍光物質を同時励起する場合」、「波長の異なる複数種類の励起光で蛍光波長の異なる複数種類の蛍光物質を順次励起する場合」には、試料18で発生した波長の異なる複数の蛍光を個別に検出し、上述した蛍光画像I0、…、I6を波長ごとに取得し、上述した差分蛍光画像ΔIを波長ごとに算出すればよい。
In addition, when there are a plurality of types of fluorescent materials to be visualized, that is, “when simultaneously exciting a plurality of types of fluorescent materials having different fluorescence wavelengths with one type of excitation light”, “fluorescence wavelengths with a plurality of types of excitation light having different wavelengths. "When simultaneously exciting a plurality of types of fluorescent materials having different wavelengths" and "When sequentially exciting a plurality of types of fluorescent materials having different fluorescence wavelengths with a plurality of types of excitation light having different wavelengths", the wavelengths generated in the
また、使用される励起光が1種類である場合、すなわち「1種類の励起光で1種類の蛍光物質を励起する場合」又は「1種類の励起光で蛍光波長の異なる複数種類の蛍光物質を同時励起する場合」には、図1のフィルタ13は非必須である。
Further, when one type of excitation light is used, that is, “when one type of excitation light excites one type of fluorescent substance” or “one type of excitation light with a plurality of types of fluorescent substances having different fluorescence wavelengths. In the case of simultaneous excitation, the
一方、複数種類の励起光で順次励起を行う場合、すなわち「波長の異なる複数種類の励起光で蛍光波長の異なる複数種類の蛍光物質を順次励起する場合」には、図1のフィルタ13は必須となる。
On the other hand, when the excitation is sequentially performed with a plurality of types of excitation light, that is, when “a plurality of types of fluorescent substances having different fluorescence wavelengths are sequentially excited with a plurality of types of excitation light having different wavelengths”, the
また、本実施形態では、観察対象面Pをプローブ300で走査する方式として光スキャン方式を採用したが、光スキャン方式の代わりにステージスキャン方式を採用してもよい。
In this embodiment, the optical scanning method is adopted as a method of scanning the observation target surface P with the
また、本実施形態では、反射型の共焦点顕微鏡装置を説明したが、透過型の共焦点顕微鏡にも本発明は適用可能である。因みに、透過型の場合は、試料18を挟み2つの対物レンズが対向して配置される。
In the present embodiment, the reflection type confocal microscope apparatus has been described. However, the present invention can also be applied to a transmission type confocal microscope. Incidentally, in the case of the transmission type, two objective lenses are arranged to face each other with the
また、本実施形態では、観察対象となる光を、励起光に応じて試料18で発生した蛍光(自然放出光)としたが、試料18で発生した他の光としてもよい。観察対象となる光は、例えば、照明光に応じて試料18で発生した散乱光や、励起光に応じて試料18で発生した誘導放出光などであってもよい。
In the present embodiment, the light to be observed is fluorescence (spontaneously emitted light) generated in the
また、本実施形態では、主ピンホールのサイズと副ピンホールのサイズとを同じにしたが、主ピンホールのサイズと副ピンホールのサイズとを異ならせたり、敢えて収差を与えたりすることで、例えば主ピンホール像のサイズを副ピンホール像のサイズより大きくしてもよい。このように、主ピンホール像と副ピンホール像とのサイズ関係を適切に調整すれば、実効PSFカーブに発生する負のリップルを抑えることも可能である。 In this embodiment, the size of the main pinhole and the size of the sub-pinhole are made the same, but the size of the main pinhole and the size of the sub-pinhole are made different, or aberrations are intentionally given. For example, the size of the main pinhole image may be larger than the size of the sub pinhole image. As described above, if the size relationship between the main pinhole image and the sub pinhole image is appropriately adjusted, it is possible to suppress negative ripple generated in the effective PSF curve.
また、本実施形態では、主ピンホール像の中心から副ピンホールの中心までの距離をエアリーディスク半径aに一致させたが、励起光スポットを点光源像とみなせない場合などには、主ピンホール像の中心から副ピンホールの中心までの距離をエアリーディスク半径aから敢えて外した方がよいこともある。
[実施形態の作用効果]
本実施形態の共焦点顕微鏡装置は、観察対象面(P)に照明光(励起光など)を集光する照明光学系(コリメートレンズ12、リレーレンズ16、対物レンズ17)と、前記観察対象面における前記照明光の集光点から射出した観察光(蛍光、散乱光、誘導放出光など)を集光する観察光学系(対物レンズ17、リレーレンズ16、集光レンズ20)と、前記観察光学系(対物レンズ17、リレーレンズ16、集光レンズ20)に関して前記集光点と共役な位置に主ピンホールを配置すると共に、前記共役な位置から外れた位置に副ピンホールを配置したマスク部(ピンホールマスク21)と、前記主ピンホールを通過した前記観察光の強度を示す主強度信号(蛍光信号I0)と、前記副ピンホールを通過した前記観察光の強度を示す副強度信号(蛍光信号I1〜I6)とを個別に生成する検出部(光検出器23−0〜23−6)と、前記観察対象面(P)に前記観察光学系(対物レンズ17、リレーレンズ16、集光レンズ20)が形成する前記主ピンホールの像である主ピンホール像(18−0)と、前記観察対象面(P)に前記観察光学系が形成する前記副ピンホールの像である副ピンホール像(18−1〜18−6)と、前記観察対象面(P)に前記照明光学系(コリメートレンズ12、リレーレンズ16、対物レンズ17)が形成する前記照明光の集光点とからなるプローブ(300)で前記観察対象面(P)を走査する走査部(ガルバノスキャナ15)と、前記観察対象面(P)の観察対象点に前記主ピンホール像(18−0)が位置しているときに生成された前記主強度信号(蛍光信号I0)から、前記観察対象点に前記副ピンホール像(18−1〜18−6)が位置しているときに生成された前記副強度信号(蛍光信号I1〜I6)に応じた値を減算することにより、前記主ピンホール像(18−0)より小さい領域を射出元とした前記観察光(蛍光)の強度信号(差分蛍光信号ΔI)を生成する演算部(演算装置40)とを備える。
In this embodiment, the distance from the center of the main pinhole image to the center of the sub pinhole is made to coincide with the Airy disk radius a. However, when the excitation light spot cannot be regarded as a point light source image, It may be better to deliberately remove the distance from the center of the hall image to the center of the sub pinhole from the Airy disk radius a.
[Effects of Embodiment]
The confocal microscope apparatus of this embodiment includes an illumination optical system (
したがって、本実施形態の共焦点顕微鏡装置は、前記主ピンホール像(18−0)より小さい領域に相当する解像度で前記観察対象面を観察すること(超解像観察すること)ができる。 Therefore, the confocal microscope apparatus of this embodiment can observe the observation target surface (super-resolution observation) with a resolution corresponding to a region smaller than the main pinhole image (18-0).
なお、前記照明光(励起光など)の強度は、前記照明光の集光点における前記観察光(蛍光、散乱光、誘導放出光など)の発生量が飽和するような高さに設定される。 The intensity of the illumination light (excitation light, etc.) is set to such a height that the amount of observation light (fluorescence, scattered light, stimulated emission light, etc.) generated at the illumination light condensing point is saturated. .
また、前記プローブ(300)における前記主ピンホール像(18−0)の中心から前記副ピンホール像(18−1〜18−6)の中心までの距離は、エアリーディスク半径(a)に一致する。 Further, the distance from the center of the main pinhole image (18-0) to the center of the sub pinhole image (18-1 to 18-6) in the probe (300) matches the Airy disk radius (a). To do.
したがって、本実施形態の共焦点顕微鏡装置は、超解像効果を確実に得ることができる。 Therefore, the confocal microscope apparatus of this embodiment can reliably obtain the super-resolution effect.
また、前記観察対象面(P)における前記プローブ(300)の走査ピッチは、前記プローブ(300)の幅よりも細かく設定される。 The scanning pitch of the probe (300) on the observation target surface (P) is set to be finer than the width of the probe (300).
具体的に、前記観察対象面(P)における前記プローブ(300)の走査ピッチは、前記プローブにおける前記主ピンホール像から前記副ピンホール像までの配列ピッチ(Δx,Δy)と同じに設定される。 Specifically, the scanning pitch of the probe (300) on the observation target surface (P) is set to be the same as the arrangement pitch (Δx, Δy) from the main pinhole image to the sub pinhole image on the probe. The
したがって、本実施形態の共焦点顕微鏡装置は、前記観察対象面(P)を前記プローブ(300)で効率的に走査することができる。 Therefore, the confocal microscope apparatus of this embodiment can efficiently scan the observation target surface (P) with the probe (300).
また、前記飽和の程度(飽和因子S)は、ユーザが決定することが可能であり、前記副強度信号(蛍光信号I1〜I6)と前記減算する値との比である減算係数(α)は、前記飽和の程度(飽和因子S)に応じた値に設定される。 The degree of saturation (saturation factor S) can be determined by a user, and a subtraction coefficient (α) that is a ratio between the sub-intensity signals (fluorescence signals I 1 to I 6 ) and the value to be subtracted. ) Is set to a value corresponding to the degree of saturation (saturation factor S).
したがって、本実施形態の共焦点顕微鏡装置は、超解像度の調整が可能であると共に、その調整に依らず実効PSFの形状を良好に維持することができる。因みに、実効PSFの形状が不適切であり、例えば負のリップルが発生していると、共焦点顕微鏡装置の生成する超解像画像にアーティファクトの発生する虞がある。 Therefore, the confocal microscope apparatus of the present embodiment can adjust the super-resolution and can maintain the shape of the effective PSF well regardless of the adjustment. Incidentally, if the shape of the effective PSF is inappropriate and, for example, negative ripples are generated, there is a possibility that artifacts may occur in the super-resolution image generated by the confocal microscope apparatus.
また、前記マスク部(ピンホールマスク21)には、複数の前記副ピンホール(21−1〜21−6)が前記主ピンホール(21−0)の周りに等間隔で配列されている。 In the mask portion (pinhole mask 21), a plurality of sub pinholes (21-1 to 21-6) are arranged around the main pinhole (21-0) at equal intervals.
したがって、本実施形態の共焦点顕微鏡は、実効PSFを等方的な分布に近づけることができる。 Therefore, the confocal microscope of the present embodiment can bring the effective PSF closer to an isotropic distribution.
また、前記照明光(励起光)の波長は、前記観察対象面(P)に存在する蛍光物質の励起波長と同じであり、前記検出部(光検出器23−0〜23−6)の検出波長は、励起中の前記蛍光物質から発生する蛍光の波長と同じであってもよい。 Further, the wavelength of the illumination light (excitation light) is the same as the excitation wavelength of the fluorescent substance existing on the observation target surface (P), and is detected by the detection units (photodetectors 23-0 to 23-6). The wavelength may be the same as the wavelength of fluorescence generated from the fluorescent material being excited.
この場合、前記観察対象面の蛍光観察を超解像度で行うことができる。 In this case, fluorescence observation of the observation target surface can be performed with super resolution.
11…レーザ光源、7…光ファイバ、12…コリメートレンズ、13…フィルタ、14…ダイクロイックミラー、15…ガルバノスキャナ、16…リレーレンズ、17…対物レンズ、18…試料、19…フィルタ、20…集光レンズ、21…ピンホールマスク、22−0〜22−6…光ファイバ、光検出器23−0〜23−6、39…制御装置、40…演算装置
DESCRIPTION OF
Claims (9)
前記観察対象面における前記照明光の集光点から射出した観察光を集光する観察光学系と、
前記観察光学系に関して前記集光点と共役な位置に主ピンホールを配置すると共に、前記共役な位置から外れた位置に副ピンホールを配置したマスク部と、
前記主ピンホールを通過した前記観察光の強度を示す主強度信号と、前記副ピンホールを通過した前記観察光の強度を示す副強度信号とを個別に生成する検出部と、
前記観察対象面に前記観察光学系が形成する前記主ピンホールの像である主ピンホール像と、前記観察対象面に前記観察光学系が形成する前記副ピンホールの像である副ピンホール像と、前記観察対象面に前記照明光学系が形成する前記照明光の集光点とからなるプローブで前記観察対象面を走査する走査部と、
前記観察対象面の観察対象点に前記主ピンホール像が位置しているときに生成された前記主強度信号から、前記観察対象点に前記副ピンホール像が位置しているときに生成された前記副強度信号に応じた値を減算することにより、前記主ピンホール像より小さい領域を射出元とした前記観察光の強度信号を生成する演算部と、
を備えることを特徴とする共焦点顕微鏡装置。 An illumination optical system that collects illumination light on the observation target surface;
An observation optical system for condensing the observation light emitted from the condensing point of the illumination light on the observation target surface;
A mask portion in which a main pinhole is arranged at a position conjugate with the condensing point with respect to the observation optical system, and a sub pinhole is arranged at a position deviating from the conjugate position;
A detection unit that individually generates a main intensity signal indicating the intensity of the observation light that has passed through the main pinhole and a subintensity signal indicating the intensity of the observation light that has passed through the sub pinhole;
A main pinhole image that is an image of the main pinhole formed by the observation optical system on the observation target surface, and a sub pinhole image that is an image of the subpinhole formed by the observation optical system on the observation target surface. And a scanning unit that scans the observation target surface with a probe that includes the illumination light condensing point formed by the illumination optical system on the observation target surface;
Generated when the sub-pinhole image is positioned at the observation target point from the main intensity signal generated when the main pinhole image is positioned at the observation target point of the observation target surface A calculation unit that generates an intensity signal of the observation light with a region smaller than the main pinhole image as an emission source by subtracting a value according to the sub-intensity signal;
A confocal microscope apparatus comprising:
前記照明光の強度は、前記照明光の集光点における前記観察光の発生量が飽和するような高さに設定される
ことを特徴とする共焦点顕微鏡装置。 The confocal microscope apparatus according to claim 1,
The confocal microscope apparatus is characterized in that the intensity of the illumination light is set to such a height that the amount of the observation light generated at the condensing point of the illumination light is saturated.
前記プローブにおける前記主ピンホール像の中心から前記副ピンホール像の中心までの距離は、エアリーディスク半径に一致する
ことを特徴とする共焦点顕微鏡装置。 The confocal microscope apparatus according to claim 1 or 2,
A confocal microscope apparatus characterized in that a distance from the center of the main pinhole image to the center of the sub pinhole image in the probe coincides with an Airy disk radius.
前記観察対象面における前記プローブの走査ピッチは、前記プローブの幅よりも細かく設定される
ことを特徴とする共焦点顕微鏡装置。 In the confocal microscope apparatus according to any one of claims 1 to 3,
The confocal microscope apparatus, wherein a scanning pitch of the probe on the observation target surface is set to be finer than a width of the probe.
前記観察対象面における前記プローブの走査ピッチは、前記プローブにおける前記主ピンホール像から前記副ピンホール像までの配列ピッチと同じに設定される
ことを特徴とする共焦点顕微鏡装置。 The confocal microscope apparatus according to claim 4,
The confocal microscope apparatus, wherein a scanning pitch of the probe on the observation target surface is set to be the same as an arrangement pitch from the main pinhole image to the sub pinhole image on the probe.
前記飽和の程度は、ユーザが決定することが可能であり、
前記副強度信号と前記減算する値との比である減算係数は、前記飽和の程度に応じた値に設定される
ことを特徴とする共焦点顕微鏡装置。 The confocal microscope apparatus according to claim 2,
The degree of saturation can be determined by the user,
A confocal microscope apparatus, wherein a subtraction coefficient, which is a ratio between the sub-intensity signal and the value to be subtracted, is set to a value corresponding to the degree of saturation.
前記マスク部には、複数の前記副ピンホールが前記主ピンホールの周りに等間隔で配列されている
ことを特徴とする共焦点顕微鏡装置。 In the confocal microscope apparatus according to any one of claims 1 to 6,
The confocal microscope apparatus characterized in that a plurality of the sub pinholes are arranged at equal intervals around the main pinhole in the mask portion.
前記照明光の波長は、
前記観察対象面に存在する蛍光物質の励起波長と同じであり、
前記検出部の検出波長は、
励起中の前記蛍光物質から発生する蛍光の波長と同じである
ことを特徴とする共焦点顕微鏡装置。 In the confocal microscope apparatus according to any one of claims 1 to 7,
The wavelength of the illumination light is
It is the same as the excitation wavelength of the fluorescent substance present on the observation target surface,
The detection wavelength of the detection unit is
A confocal microscope apparatus having the same wavelength as that of fluorescence generated from the fluorescent substance being excited.
前記観察対象面における前記照明光の集光点から射出した観察光を観察光学系で集光し、
前記観察光学系に関して前記集光点と共役な位置に主ピンホールを配置すると共に、前記共役な位置から外れた位置に副ピンホールを配置し、
前記主ピンホールを通過した前記観察光の強度を示す主強度信号と、前記副ピンホールを通過した前記観察光の強度を示す副強度信号とを個別に生成し、
前記観察対象面に前記観察光学系が形成する前記主ピンホールの像である主ピンホール像と、前記観察対象面に前記観察光学系が形成する前記副ピンホールの像である副ピンホール像と、前記観察対象面に前記照明光学系が形成する前記照明光の集光点とからなるプローブで前記観察対象面を走査し、
前記観察対象面の観察対象点に前記主ピンホール像が位置しているときに生成された前記主強度信号から、前記観察対象点に前記副ピンホール像が位置しているときに生成された前記副強度信号に応じた値を減算することにより、前記主ピンホール像より小さい領域を射出元とした前記観察光の強度信号を生成する
ことを特徴とする共焦点観察方法。 The illumination light is condensed on the observation target surface by the illumination optical system,
Condensing the observation light emitted from the condensing point of the illumination light on the observation target surface with an observation optical system,
A main pinhole is arranged at a position conjugate with the condensing point with respect to the observation optical system, and a sub pinhole is arranged at a position deviating from the conjugate position,
Separately generating a main intensity signal indicating the intensity of the observation light passing through the main pinhole and a subintensity signal indicating the intensity of the observation light passing through the sub pinhole;
A main pinhole image that is an image of the main pinhole formed by the observation optical system on the observation target surface, and a sub pinhole image that is an image of the subpinhole formed by the observation optical system on the observation target surface. And scanning the observation target surface with a probe comprising a focusing point of the illumination light formed by the illumination optical system on the observation target surface,
Generated when the sub-pinhole image is positioned at the observation target point from the main intensity signal generated when the main pinhole image is positioned at the observation target point of the observation target surface A confocal observation method, wherein an intensity signal of the observation light having a region smaller than the main pinhole image as an emission source is generated by subtracting a value corresponding to the sub-intensity signal.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014065650A JP6260391B2 (en) | 2014-03-27 | 2014-03-27 | Confocal microscope apparatus and confocal observation method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014065650A JP6260391B2 (en) | 2014-03-27 | 2014-03-27 | Confocal microscope apparatus and confocal observation method |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2015190992A true JP2015190992A (en) | 2015-11-02 |
JP6260391B2 JP6260391B2 (en) | 2018-01-17 |
Family
ID=54425558
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014065650A Expired - Fee Related JP6260391B2 (en) | 2014-03-27 | 2014-03-27 | Confocal microscope apparatus and confocal observation method |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6260391B2 (en) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2017046863A1 (en) * | 2015-09-15 | 2017-03-23 | オリンパス株式会社 | Microscope and microscope observation method |
CN108254340A (en) * | 2017-12-28 | 2018-07-06 | 苏州国科医疗科技发展有限公司 | Flying-spot microscope based on linear polarization modulation |
US10209502B2 (en) | 2014-04-24 | 2019-02-19 | Olympus Corporation | Microscope and microscopy method |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004106432A (en) * | 2002-09-20 | 2004-04-08 | Konica Minolta Holdings Inc | Inkjet recorder |
JP2004219537A (en) * | 2003-01-10 | 2004-08-05 | Nikon Engineering Co Ltd | Confocal microscope |
JP2008046361A (en) * | 2006-08-16 | 2008-02-28 | Nikon Corp | Optical system and its control method |
US20100142041A1 (en) * | 2008-12-09 | 2010-06-10 | Spectral Applied Research Inc. | Multi-Mode Fiber Optically Coupling a Radiation Source Module to a Multi-Focal Confocal Microscope |
JP2015064462A (en) * | 2013-09-25 | 2015-04-09 | キヤノン株式会社 | Confocal microscope |
-
2014
- 2014-03-27 JP JP2014065650A patent/JP6260391B2/en not_active Expired - Fee Related
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004106432A (en) * | 2002-09-20 | 2004-04-08 | Konica Minolta Holdings Inc | Inkjet recorder |
JP2004219537A (en) * | 2003-01-10 | 2004-08-05 | Nikon Engineering Co Ltd | Confocal microscope |
JP2008046361A (en) * | 2006-08-16 | 2008-02-28 | Nikon Corp | Optical system and its control method |
US20100142041A1 (en) * | 2008-12-09 | 2010-06-10 | Spectral Applied Research Inc. | Multi-Mode Fiber Optically Coupling a Radiation Source Module to a Multi-Focal Confocal Microscope |
JP2015064462A (en) * | 2013-09-25 | 2015-04-09 | キヤノン株式会社 | Confocal microscope |
Non-Patent Citations (1)
Title |
---|
C.KUANG ET AL.: "Lateral resolution enhancement in confocal microscopy with a higher SNR", COMMUNICATIONS AND PHOTONICS CONFERENCE(ACP), 2012 ASIA, JPN6017042769, 7 November 2012 (2012-11-07), US, ISSN: 0003678117 * |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10209502B2 (en) | 2014-04-24 | 2019-02-19 | Olympus Corporation | Microscope and microscopy method |
WO2017046863A1 (en) * | 2015-09-15 | 2017-03-23 | オリンパス株式会社 | Microscope and microscope observation method |
US10401293B2 (en) | 2015-09-15 | 2019-09-03 | Olympus Corporation | Microscope and microscope observation method |
CN108254340A (en) * | 2017-12-28 | 2018-07-06 | 苏州国科医疗科技发展有限公司 | Flying-spot microscope based on linear polarization modulation |
CN108254340B (en) * | 2017-12-28 | 2021-11-16 | 苏州国科医工科技发展(集团)有限公司 | Scanning microscope based on linear polarization modulation |
Also Published As
Publication number | Publication date |
---|---|
JP6260391B2 (en) | 2018-01-17 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6346615B2 (en) | Optical microscope and microscope observation method | |
US7274446B2 (en) | Method and arrangement for the deep resolved optical recording of a sample | |
JP5265070B2 (en) | Light source device for illumination in scanning microscope inspection, and scanning microscope | |
US10514533B2 (en) | Method for creating a microscope image, microscopy device, and deflecting device | |
WO2019097587A1 (en) | Quantitative phase image generating method, quantitative phase image generating device, and program | |
EP3032312B1 (en) | Confocal scanner and confocal microscope | |
JP6000010B2 (en) | Laser scanning microscope | |
JP6358577B2 (en) | Scanning optical microscope | |
JP5592108B2 (en) | Interference confocal microscope and light source imaging method | |
US20130250088A1 (en) | Multi-color confocal microscope and imaging methods | |
JP6006053B2 (en) | Laser scanning fluorescence microscope | |
JP6260391B2 (en) | Confocal microscope apparatus and confocal observation method | |
JP6363477B2 (en) | 3D shape measuring device | |
JP5495740B2 (en) | Confocal scanning microscope | |
JP7016361B2 (en) | Spatial super-resolution device for fundus fluorescence analysis | |
JP4601266B2 (en) | Laser microscope | |
JP2013213695A (en) | Shape measurement device | |
WO2017169597A1 (en) | Image acquisition device and image acquisition method | |
WO2022145391A1 (en) | Scanning confocal microscope and adjustment method for scanning confocal microscope | |
Sheppard | Confocal microscopy–principles, practice and options | |
EP3853651B1 (en) | Confocal laser scanning microscope configured for generating line foci | |
JPH10142507A (en) | Laser scanning microscope | |
US20050017197A1 (en) | Scanning microscope and method for scanning microscopy | |
JP5973777B2 (en) | Laser scanning microscope equipment | |
JPH09325278A (en) | Confocal type optical microscope |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20170209 |
|
RD01 | Notification of change of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7426 Effective date: 20170323 |
|
RD03 | Notification of appointment of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7423 Effective date: 20170323 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20170327 |
|
TRDD | Decision of grant or rejection written | ||
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20171031 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20171114 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20171127 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6260391 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |