JP4917329B2 - Image acquisition apparatus, image acquisition method, and image acquisition program - Google Patents
Image acquisition apparatus, image acquisition method, and image acquisition program Download PDFInfo
- Publication number
- JP4917329B2 JP4917329B2 JP2006055456A JP2006055456A JP4917329B2 JP 4917329 B2 JP4917329 B2 JP 4917329B2 JP 2006055456 A JP2006055456 A JP 2006055456A JP 2006055456 A JP2006055456 A JP 2006055456A JP 4917329 B2 JP4917329 B2 JP 4917329B2
- Authority
- JP
- Japan
- Prior art keywords
- image acquisition
- image
- macro
- sample
- micro
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 96
- 238000003384 imaging method Methods 0.000 claims description 312
- 238000005259 measurement Methods 0.000 claims description 63
- 238000012545 processing Methods 0.000 claims description 39
- 230000003287 optical effect Effects 0.000 claims description 23
- 238000012790 confirmation Methods 0.000 abstract description 4
- 239000000523 sample Substances 0.000 description 261
- 239000012472 biological sample Substances 0.000 description 18
- 230000032258 transport Effects 0.000 description 15
- 238000013500 data storage Methods 0.000 description 7
- 238000010586 diagram Methods 0.000 description 7
- 239000000428 dust Substances 0.000 description 6
- 238000007726 management method Methods 0.000 description 5
- 239000011521 glass Substances 0.000 description 4
- 238000003702 image correction Methods 0.000 description 4
- 238000003705 background correction Methods 0.000 description 3
- 230000005540 biological transmission Effects 0.000 description 3
- 238000012937 correction Methods 0.000 description 3
- 238000005286 illumination Methods 0.000 description 2
- 238000002360 preparation method Methods 0.000 description 2
- 230000015572 biosynthetic process Effects 0.000 description 1
- 230000008602 contraction Effects 0.000 description 1
- 239000006059 cover glass Substances 0.000 description 1
- 238000013523 data management Methods 0.000 description 1
- 230000010339 dilation Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000003628 erosive effect Effects 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 230000012447 hatching Effects 0.000 description 1
- 230000001678 irradiating effect Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000007170 pathology Effects 0.000 description 1
- 239000013074 reference sample Substances 0.000 description 1
- 230000000717 retained effect Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000003786 synthesis reaction Methods 0.000 description 1
- 230000002194 synthesizing effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B21/00—Microscopes
- G02B21/36—Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
- G02B21/365—Control or image processing arrangements for digital or video microscopes
- G02B21/367—Control or image processing arrangements for digital or video microscopes providing an output produced by processing a plurality of individual source images, e.g. image tiling, montage, composite images, depth sectioning, image comparison
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Chemical & Material Sciences (AREA)
- Analytical Chemistry (AREA)
- General Physics & Mathematics (AREA)
- Optics & Photonics (AREA)
- Microscoopes, Condenser (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
- Processing Or Creating Images (AREA)
Abstract
Description
本発明は、試料の画像を取得するための画像取得装置、画像取得方法、及び画像取得プログラムに関するものである。 The present invention relates to an image acquisition apparatus, an image acquisition method, and an image acquisition program for acquiring an image of a sample.
近年、病理学の分野などにおいて、パーソナルコンピュータ等の仮想空間上であたかも実際の顕微鏡で試料を見ているかのように操作可能なバーチャル顕微鏡が知られている。このバーチャル顕微鏡で扱われる試料データは、予め実際の顕微鏡を利用して高解像度で取得された試料の画像データに基づいている。 In recent years, in the field of pathology and the like, a virtual microscope that can be operated as if a sample is being viewed with an actual microscope in a virtual space such as a personal computer is known. The sample data handled by this virtual microscope is based on image data of a sample acquired in advance with high resolution using an actual microscope.
このようにバーチャル顕微鏡で利用される試料の画像データを取得する画像取得装置では、バーチャル顕微鏡での画像操作を実現するために、充分に高解像度で試料の画像を取得することが要求される。また、このような高解像度の画像を効率的に取得するため、マクロ画像取得用のカメラと、高解像度のミクロ画像取得用のカメラとを用いて試料の画像を取得する構成が、特許文献1:米国特許第6816606号公報に記載されている。
上記したようにマクロ用カメラとミクロ用カメラとを備えた構成では、例えば、最初にマクロ用カメラでマクロ画像を取得して、マクロ画像を参照して試料に対する撮像条件を設定し、次に、設定された撮像条件を参照してミクロ用カメラでミクロ画像を取得する方法が考えられる。また、バーチャル顕微鏡で利用される試料の画像データの取得では、スライドガラスに生体サンプル等が密封されたスライドを試料として多数用意し、それらの複数のスライドに対して連続的に画像取得が行われる場合がある。このような場合には、上記構成では、試料に対してマクロ画像及びミクロ画像の取得動作が繰り返して行われることとなる。 In the configuration including the macro camera and the micro camera as described above, for example, the macro image is first acquired by the macro camera, the imaging condition for the sample is set with reference to the macro image, and then, A method of acquiring a micro image with a micro camera with reference to set imaging conditions is conceivable. In addition, when acquiring image data of a sample used in a virtual microscope, a large number of slides in which a biological sample or the like is sealed on a slide glass are prepared as samples, and image acquisition is continuously performed for the plurality of slides. There is a case. In such a case, in the above configuration, the macro image and micro image acquisition operations are repeatedly performed on the sample.
このような複数の試料の画像取得において、マクロ画像を用いた撮像条件の設定を自動で行えば、各試料に対するマクロ画像の取得、撮像条件の設定、及びミクロ画像の取得を順次自動で行うことが可能である。しかしながら、このような方法では、例えばスライド内に生体サンプル以外のゴミがあった場合、そのスライドに対する撮像条件が正しく設定されず、正常なミクロ画像が取得されないことがある。一方、各試料に対する撮像条件の設定を手動で行う方法では、複数の試料のそれぞれについての画像取得が完了するまでの間、操作者が画像取得装置に付きっ切りとなり、操作者の作業負担が大きくなる。 In such image acquisition of a plurality of samples, if the imaging conditions using the macro image are automatically set, the acquisition of the macro image, the setting of the imaging conditions, and the acquisition of the micro image for each sample are automatically performed sequentially. Is possible. However, in such a method, for example, if there is dust other than a biological sample in the slide, the imaging conditions for the slide may not be set correctly, and a normal micro image may not be acquired. On the other hand, in the method of manually setting the imaging conditions for each sample, the operator is completely attached to the image acquisition device until the image acquisition for each of the plurality of samples is completed, and the operator's work load is reduced. growing.
本発明は、以上の問題点を解決するためになされたものであり、複数の試料のそれぞれについての画像取得を効率良く実行することが可能な画像取得装置、画像取得方法、及び画像取得プログラムを提供することを目的とする。 The present invention has been made to solve the above problems, and provides an image acquisition apparatus, an image acquisition method, and an image acquisition program capable of efficiently performing image acquisition for each of a plurality of samples. The purpose is to provide.
このような目的を達成するために、本発明による画像取得装置は、(1)複数の試料を格納する試料格納手段と、(2)試料のマクロ画像を取得するためのマクロ画像取得手段と、(3)試料をマクロ画像よりも高解像度で走査して、そのミクロ画像を取得するためのミクロ画像取得手段と、(4)マクロ画像取得手段によるマクロ画像の取得動作を制御するマクロ画像取得制御手段、マクロ画像を参照してミクロ画像の撮像条件を設定する撮像条件設定手段、及びミクロ画像取得手段によるミクロ画像の取得動作を制御するミクロ画像取得制御手段を有する制御手段とを備え、撮像条件設定手段は、マクロ画像を参照して、ミクロ画像の撮像条件として画像取得範囲及び焦点計測位置を設定し、ミクロ画像取得制御手段は、焦点計測位置に基づいて試料に対する焦点情報を取得するとともに、得られた焦点情報及び画像取得範囲に基づいてミクロ画像を取得させる制御を行い、(5)制御手段は、その制御モードとして半自動モードを有し、(6)半自動モードにおいては、マクロ画像取得制御手段は、複数の試料のそれぞれについて、試料格納手段で格納位置にある試料をマクロ画像取得手段での画像取得位置に配置してマクロ画像を取得させ、さらに試料を待機位置に配置させる制御を行い、撮像条件設定手段は、マクロ画像が取得された試料について、マクロ画像、及びそれに対応する撮像条件を操作者に確認させてミクロ画像の撮像条件を設定するとともに、最初の試料のマクロ画像が取得された後は、マクロ画像の取得と並行して、撮像条件の設定を行い、ミクロ画像取得制御手段は、待機位置にあって撮像条件が設定された試料をミクロ画像取得手段での画像取得位置に配置し、撮像条件を参照してミクロ画像を取得させる制御を行うとともに、半自動モードにおいては、撮像条件設定手段は、マクロ画像に対応して自動で求められた撮像条件を表示手段に表示し、その撮像条件を用いるか、あるいは手動で撮像条件を設定し直すかを操作者に選択させることを特徴とする。 In order to achieve such an object, an image acquisition device according to the present invention includes (1) a sample storage means for storing a plurality of samples, (2) a macro image acquisition means for acquiring a macro image of the sample, (3) Micro image acquisition means for scanning the sample at a higher resolution than the macro image and acquiring the micro image; and (4) Macro image acquisition control for controlling the macro image acquisition operation by the macro image acquisition means. comprising means, image pickup condition setting means for setting the imaging conditions of the reference to micro image the macro image, and a control unit having a micro image acquisition control means for controlling an operation to acquire the micro image by the micro image acquiring means, image pickup condition The setting means refers to the macro image, sets an image acquisition range and a focus measurement position as imaging conditions for the micro image, and the micro image acquisition control means sets the focus measurement position to the focus measurement position. Acquires focus information for the sample by Zui performs control to acquire the micro image based on the focus information and the image acquiring range obtained, (5) the control means has a semi-automatic mode serving as a control mode, ( 6) In the semi-automatic mode, the macro image acquisition control unit arranges the sample at the storage position by the sample storage unit at each image acquisition position by the macro image acquisition unit for each of the plurality of samples, Furthermore, control is performed to place the sample at the standby position, and the imaging condition setting means sets the imaging condition for the micro image by allowing the operator to check the macro image and the corresponding imaging condition for the sample from which the macro image has been acquired. as well as, after the macro image of the first sample has been obtained, in parallel with the acquisition of the macro image, to set the image pickup condition, the micro image The resulting control means performs control to an imaging condition In the standby position is set samples were placed at an image acquiring position for the micro image acquiring means, to acquire the micro image with reference to the image pickup condition, the semi-automatic mode The imaging condition setting means displays the imaging condition automatically obtained corresponding to the macro image on the display means, and selects whether to use the imaging condition or to manually reset the imaging condition. It is characterized by making it.
また、本発明による画像取得方法は、(1)試料格納手段に格納された複数の試料を対象とし、(2)試料のマクロ画像を取得するマクロ画像取得ステップと、(3)試料をマクロ画像よりも高解像度で走査して、そのミクロ画像を取得するミクロ画像取得ステップと、(4)マクロ画像取得ステップによるマクロ画像の取得動作を制御するマクロ画像取得制御ステップ、マクロ画像を参照してミクロ画像の撮像条件を設定する撮像条件設定ステップ、及びミクロ画像取得ステップによるミクロ画像の取得動作を制御するミクロ画像取得制御ステップを有する制御ステップとを備え、撮像条件設定ステップは、マクロ画像を参照して、ミクロ画像の撮像条件として画像取得範囲及び焦点計測位置を設定し、ミクロ画像取得制御ステップは、焦点計測位置に基づいて試料に対する焦点情報を取得するとともに、得られた焦点情報及び画像取得範囲に基づいてミクロ画像を取得させる制御を行い、(5)制御ステップは、その制御モードとして半自動モードを有し、(6)半自動モードにおいては、マクロ画像取得制御ステップは、複数の試料のそれぞれについて、試料格納手段で格納位置にある試料をマクロ画像取得ステップでの画像取得位置に配置してマクロ画像を取得させ、さらに試料を待機位置に配置させる制御を行い、撮像条件設定ステップは、マクロ画像が取得された試料について、マクロ画像、及びそれに対応する撮像条件を操作者に確認させてミクロ画像の撮像条件を設定するとともに、最初の試料のマクロ画像が取得された後は、マクロ画像の取得と並行して、撮像条件の設定を行い、ミクロ画像取得制御ステップは、待機位置にあって撮像条件が設定された試料をミクロ画像取得ステップでの画像取得位置に配置し、撮像条件を参照してミクロ画像を取得させる制御を行うとともに、半自動モードにおいては、撮像条件設定ステップは、マクロ画像に対応して自動で求められた撮像条件を表示手段に表示し、その撮像条件を用いるか、あるいは手動で撮像条件を設定し直すかを操作者に選択させることを特徴とする。 The image acquisition method according to the present invention includes (1) a plurality of samples stored in the sample storage means, (2) a macro image acquisition step for acquiring a macro image of the sample, and (3) a macro image of the sample. A micro image acquisition step for scanning the image at a higher resolution and acquiring the micro image, and (4) a macro image acquisition control step for controlling the macro image acquisition operation by the macro image acquisition step. An imaging condition setting step for setting an imaging condition for the image, and a control step having a micro image acquisition control step for controlling a micro image acquisition operation by the micro image acquisition step. The imaging condition setting step refers to a macro image. Then, an image acquisition range and a focus measurement position are set as imaging conditions for the micro image, and the micro image acquisition control step Acquires focus information for the sample based on the measurement position, performs control to acquire the micro image based on the focus information and the image acquiring range obtained, (5) control step, have a semi-automatic mode serving as a control mode (6) In the semi-automatic mode, in the macro image acquisition control step, for each of the plurality of samples, the sample storage unit places the sample in the storage position at the image acquisition position in the macro image acquisition step, and displays the macro image. The imaging condition setting step allows the operator to check the macro image and the corresponding imaging conditions for the sample from which the macro image has been acquired. sets a condition, after the macro image of the first sample has been obtained, in parallel with the acquisition of the macro image, imaging Make matter settings, the micro image acquisition control step, the imaging conditions be in the standby position is set samples were arranged in the image acquiring position for the micro image acquiring step, to acquire the micro image with reference to the image pickup condition In the semi-automatic mode, the imaging condition setting step displays the imaging condition automatically obtained corresponding to the macro image on the display means, and uses the imaging condition or manually sets the imaging condition. It is characterized by having the operator select whether to redo .
また、本発明による画像取得プログラムは、(1)複数の試料を格納する試料格納手段と、(2)試料のマクロ画像を取得するためのマクロ画像取得手段と、(3)試料をマクロ画像よりも高解像度で走査して、そのミクロ画像を取得するためのミクロ画像取得手段とを備える画像取得装置に適用され、(4)マクロ画像取得手段によるマクロ画像の取得動作を制御するマクロ画像取得制御処理、マクロ画像を参照してミクロ画像の撮像条件を設定する撮像条件設定処理、及びミクロ画像取得手段によるミクロ画像の取得動作を制御するミクロ画像取得制御処理を有する制御処理を含み、撮像条件設定処理は、マクロ画像を参照して、ミクロ画像の撮像条件として画像取得範囲及び焦点計測位置を設定し、ミクロ画像取得制御処理は、焦点計測位置に基づいて試料に対する焦点情報を取得するとともに、得られた焦点情報及び画像取得範囲に基づいてミクロ画像を取得させる制御を行い、(5)制御処理は、その制御モードとして半自動モードを有し、(6)半自動モードにおいては、マクロ画像取得制御処理は、複数の試料のそれぞれについて、試料格納手段で格納位置にある試料をマクロ画像取得手段での画像取得位置に配置してマクロ画像を取得させ、さらに試料を待機位置に配置させる制御を行い、撮像条件設定処理は、マクロ画像が取得された試料について、マクロ画像、及びそれに対応する撮像条件を操作者に確認させてミクロ画像の撮像条件を設定するとともに、最初の試料のマクロ画像が取得された後は、マクロ画像の取得と並行して、撮像条件の設定を行い、ミクロ画像取得制御処理は、待機位置にあって撮像条件が設定された試料をミクロ画像取得手段での画像取得位置に配置し、撮像条件を参照してミクロ画像を取得させる制御を行うとともに、半自動モードにおいては、撮像条件設定処理は、マクロ画像に対応して自動で求められた撮像条件を表示手段に表示し、その撮像条件を用いるか、あるいは手動で撮像条件を設定し直すかを操作者に選択させる制御処理をコンピュータに実行させることを特徴とする。 The image acquisition program according to the present invention includes (1) a sample storage unit for storing a plurality of samples, (2) a macro image acquisition unit for acquiring a macro image of the sample, and (3) a sample from the macro image. Is applied to an image acquisition apparatus including a micro image acquisition means for acquiring a micro image by scanning at a high resolution, and (4) a macro image acquisition control for controlling a macro image acquisition operation by the macro image acquisition means process, reference imaging condition setting processing for setting an image pickup condition for the micro image by the macro image, and includes a control processing with a micro image acquisition control processing for controlling an operation to acquire the micro image by the micro image acquiring means, image pickup condition setting The process refers to the macro image, sets the image acquisition range and the focus measurement position as the imaging conditions of the micro image, and the micro image acquisition control process Acquires focus information for the sample on the basis of the position, performs control to acquire the micro image based on the focus information and the image acquiring range obtained, (5) the control processing has a semi-automatic mode serving as a control mode (6) In the semi-automatic mode, the macro image acquisition control process acquires a macro image by arranging the sample at the storage position by the sample storage means at the image acquisition position by the macro image acquisition means for each of the plurality of samples. In addition, the imaging condition setting process is configured to allow the operator to confirm the macro image and the corresponding imaging condition for the sample from which the macro image has been acquired. sets a, after the macro image of the first sample has been obtained, in parallel with the acquisition of the macro image, to set the imaging conditions, Mi B image acquisition control processing performs control to an imaging condition In the standby position is set samples were placed at an image acquiring position for the micro image acquiring means, to acquire the micro image with reference to the image pickup condition, the semi-automatic In the mode, the imaging condition setting process displays the imaging condition automatically obtained corresponding to the macro image on the display means, and the operator determines whether to use the imaging condition or to manually reset the imaging condition. The computer is caused to execute a control process to be selected .
上記した画像取得装置、画像取得方法、及び画像取得プログラムにおいては、画像取得の対象となる複数の試料に対してマクロ画像取得手段とミクロ画像取得手段とを設け、試料の全体像を示すマクロ画像を参照して撮像条件を設定した上で、高解像度のミクロ画像の取得を行っている。これにより、例えばバーチャル顕微鏡で用いられる試料の画像データとなるような高解像度の試料のミクロ画像を好適に取得することができる。 In the image acquisition apparatus, the image acquisition method, and the image acquisition program described above, a macro image showing a whole image of the sample is provided by providing a macro image acquisition unit and a micro image acquisition unit for a plurality of samples to be acquired. The high-resolution micro image is acquired after setting the imaging conditions with reference to FIG. Thereby, for example, a high-resolution micro image of a sample that becomes image data of the sample used in a virtual microscope can be suitably acquired.
さらに、各試料に対するマクロ画像の取得、撮像条件の設定、及びミクロ画像の取得を制御する制御モードとして、マクロ画像を参照してミクロ画像の撮像条件を設定する際に操作者が必要な確認を行う半自動モードを設けている。これにより、例えば試料となるスライド内にゴミなどの余分な対象物があった場合でも、そのような対象物の影響を確実に除外して、試料に対する撮像条件を正しく設定することが可能となる。 In addition, as a control mode for controlling the acquisition of macro images, the setting of imaging conditions, and the acquisition of micro images for each sample, the operator must confirm the settings necessary to set the imaging conditions for micro images with reference to macro images. Semi-automatic mode to perform is provided. As a result, for example, even if there is an extra object such as dust in the sample slide, it is possible to reliably exclude the influence of such an object and correctly set the imaging conditions for the sample. .
また、上記した半自動モードにおいて、マクロ画像取得手段でマクロ画像が取得された試料を直接にミクロ画像取得手段での画像取得位置へと移動せずに、待機位置に配置することとしている。このような構成では、試料のマクロ画像の取得及びマクロ画像を用いた撮像条件の設定を、高解像度の画像を取得するためにある程度の時間がかかるミクロ画像の取得とは独立に行うことが可能となる。これにより、操作者は、試料に対する撮像条件の設定後は、ミクロ画像の取得が完了するまで画像取得装置に付いている必要がなくなるため、操作者の作業負担が軽減される。 In the semi-automatic mode described above, the sample from which the macro image has been acquired by the macro image acquisition unit is not moved directly to the image acquisition position by the micro image acquisition unit, but is placed at the standby position. In such a configuration, acquisition of a macro image of a sample and setting of imaging conditions using the macro image can be performed independently of acquisition of a micro image that takes a certain amount of time to acquire a high-resolution image. It becomes. Thereby, after setting the imaging conditions for the sample, the operator does not need to be attached to the image acquisition device until the acquisition of the micro image is completed, thereby reducing the work load on the operator.
なお、マクロ画像取得後の試料の待機位置については、試料格納手段での格納位置を待機位置とし、マクロ画像が取得された試料を再び格納位置に戻す構成としても良い。あるいは、試料格納手段とは別に、複数の試料を待機させることが可能な試料待機手段を設ける構成としても良い。 In addition, about the stand-by position of the sample after macro image acquisition, it is good also as a structure which makes the storage position in a sample storage means the standby position, and returns the sample from which the macro image was acquired to a storage position again. Or it is good also as a structure which provides the sample waiting means which can be made to wait for a some sample separately from a sample storage means.
また、画像取得装置は、複数の試料のそれぞれを、格納位置と、待機位置と、マクロ画像取得手段及びミクロ画像取得手段のそれぞれでの画像取得位置との間で移動させる試料移動手段を備えることが好ましい。同様に、画像取得方法は、複数の試料のそれぞれを、格納位置と、待機位置と、マクロ画像取得ステップ及びミクロ画像取得ステップのそれぞれでの画像取得位置との間で移動させる試料移動ステップを備えることが好ましい。同様に、画像取得プログラムは、複数の試料のそれぞれを、格納位置と、待機位置と、マクロ画像取得手段及びミクロ画像取得手段のそれぞれでの画像取得位置との間で移動させる試料移動処理をコンピュータに実行させることが好ましい。これにより、試料を各位置の間で移動させつつ行われるマクロ画像の取得、撮像条件の設定、及びミクロ画像の取得を好適に実現することができる。 In addition, the image acquisition apparatus includes a sample moving unit that moves each of the plurality of samples between the storage position, the standby position, and the image acquisition position in each of the macro image acquisition unit and the micro image acquisition unit. Is preferred. Similarly, the image acquisition method includes a sample moving step of moving each of the plurality of samples between a storage position, a standby position, and an image acquisition position in each of the macro image acquisition step and the micro image acquisition step. It is preferable. Similarly, the image acquisition program executes a sample movement process for moving each of the plurality of samples between the storage position, the standby position, and the image acquisition position in each of the macro image acquisition unit and the micro image acquisition unit. It is preferable to make it execute. Thereby, the acquisition of the macro image performed while moving the sample between the respective positions, the setting of the imaging conditions, and the acquisition of the micro image can be suitably realized.
また、画像取得装置は、ミクロ画像取得手段が、1次元画像の取得が可能、または2次元画像の取得及びTDI駆動が可能な撮像装置を有するとともに、撮像装置での撮像面の長手方向に直交する方向をミクロ画像を取得する際の走査方向として構成され、ミクロ画像取得制御手段は、撮像装置によって試料を走査方向に走査して部分画像を取得し、この部分画像の取得を撮像面の長手方向に沿って撮像位置をずらしながら複数回繰返して、ミクロ画像となる複数の部分画像を取得させる制御を行うことが好ましい。 In addition, the image acquisition device includes an imaging device in which the micro image acquisition unit can acquire a one-dimensional image, or can acquire a two-dimensional image and perform TDI driving, and is orthogonal to the longitudinal direction of the imaging surface of the imaging device. The micro image acquisition control means scans the sample in the scanning direction with the imaging device to acquire a partial image, and the acquisition of the partial image is performed along the length of the imaging surface. It is preferable to perform control to acquire a plurality of partial images to be micro images by repeating a plurality of times while shifting the imaging position along the direction.
同様に、画像取得方法は、ミクロ画像取得ステップが、1次元画像の取得が可能、または2次元画像の取得及びTDI駆動が可能な撮像装置を用いるとともに、撮像装置での撮像面の長手方向に直交する方向をミクロ画像を取得する際の走査方向として構成され、ミクロ画像取得制御ステップは、撮像装置によって試料を走査方向に走査して部分画像を取得し、この部分画像の取得を撮像面の長手方向に沿って撮像位置をずらしながら複数回繰返して、ミクロ画像となる複数の部分画像を取得させる制御を行うことが好ましい。 Similarly, in the image acquisition method, the micro image acquisition step uses an imaging device capable of acquiring a one-dimensional image or capable of acquiring a two-dimensional image and TDI driving, and in the longitudinal direction of the imaging surface of the imaging device. The orthogonal direction is configured as the scanning direction when acquiring the micro image, and the micro image acquisition control step acquires the partial image by scanning the sample in the scanning direction by the imaging device, and acquires the partial image on the imaging surface. It is preferable to perform control to acquire a plurality of partial images to be micro images by repeating a plurality of times while shifting the imaging position along the longitudinal direction.
同様に、画像取得プログラムは、ミクロ画像取得手段が、1次元画像の取得が可能、または2次元画像の取得及びTDI駆動が可能な撮像装置を有するとともに、撮像装置での撮像面の長手方向に直交する方向をミクロ画像を取得する際の走査方向として構成され、ミクロ画像取得制御処理は、撮像装置によって試料を走査方向に走査して部分画像を取得し、この部分画像の取得を撮像面の長手方向に沿って撮像位置をずらしながら複数回繰返して、ミクロ画像となる複数の部分画像を取得させる制御を行うことが好ましい。 Similarly, in the image acquisition program, the micro image acquisition unit has an imaging device capable of acquiring a one-dimensional image or capable of acquiring a two-dimensional image and TDI driving, and in the longitudinal direction of the imaging surface of the imaging device. The orthogonal direction is configured as a scanning direction when acquiring a micro image, and the micro image acquisition control process acquires a partial image by scanning the sample in the scanning direction by the imaging device, and acquires the partial image on the imaging surface. It is preferable to perform control to acquire a plurality of partial images to be micro images by repeating a plurality of times while shifting the imaging position along the longitudinal direction.
このような構成によれば、1次元センサまたはTDI駆動2次元センサで試料を一方向に走査したストリップ状の部分画像を高解像度で取得するとともに、他方向について複数の部分画像を合成して試料の全体のミクロ画像とすることで、試料の画像データを充分に高い解像度で好適に取得することができる。 According to such a configuration, a strip-shaped partial image obtained by scanning the sample in one direction with a one-dimensional sensor or a TDI drive two-dimensional sensor is obtained with high resolution, and a plurality of partial images are synthesized in the other direction to obtain a sample. By using the micro image of the entire image, it is possible to suitably acquire the image data of the sample with a sufficiently high resolution.
また、画像取得装置は、半自動モードにおいては、撮像条件設定手段が、マクロ画像に対応して自動で求められた撮像条件を表示手段に表示し、その撮像条件を用いるか、あるいは手動で撮像条件を設定し直すかを操作者に選択させることが好ましい。同様に、画像取得方法は、半自動モードにおいては、撮像条件設定ステップが、マクロ画像に対応して自動で求められた撮像条件を表示手段に表示し、その撮像条件を用いるか、あるいは手動で撮像条件を設定し直すかを操作者に選択させることが好ましい。同様に、画像取得プログラムは、半自動モードにおいては、撮像条件設定処理が、マクロ画像に対応して自動で求められた撮像条件を表示手段に表示し、その撮像条件を用いるか、あるいは手動で撮像条件を設定し直すかを操作者に選択させることが好ましい。 Further, in the semi-automatic mode, the image acquisition device displays the imaging condition automatically obtained corresponding to the macro image on the display unit in the semi-automatic mode, and uses the imaging condition or manually sets the imaging condition. It is preferable to let the operator select whether to set again. Similarly, in the image acquisition method, in the semi-automatic mode, the imaging condition setting step displays the imaging condition automatically obtained corresponding to the macro image on the display unit, and uses the imaging condition or manually captures the image. It is preferable to let the operator select whether to reset the conditions. Similarly, in the semi-automatic mode, the image acquisition program causes the imaging condition setting process to display the imaging condition automatically obtained corresponding to the macro image on the display unit and use the imaging condition or manually capture the image. It is preferable to let the operator select whether to reset the conditions.
このような構成によれば、例えば試料に余分な対象物があるなど問題がある場合には、操作者が手動で撮像条件を修正または新たに設定し、それ以外の場合には、自動で設定された撮像条件をそのまま利用する方法を用いることができる。このように、必要な場合のみ撮像条件を手動で設定することにより、撮像条件の設定を含む複数の試料の画像取得作業を効率的に行うことが可能となる。 According to such a configuration, for example, when there is a problem such as an extra object in the sample, the operator manually corrects or newly sets the imaging condition, and in other cases, the setting is automatically performed. It is possible to use a method in which the captured imaging conditions are used as they are. In this way, by manually setting the imaging conditions only when necessary, it is possible to efficiently perform image acquisition operations for a plurality of samples including the setting of the imaging conditions.
また、画像取得装置は、制御手段が、その制御モードとして全自動モードを有し、全自動モードにおいては、マクロ画像取得制御手段は、格納位置にある試料をマクロ画像取得手段での画像取得位置に配置してマクロ画像を取得させる制御を行い、撮像条件設定手段は、マクロ画像が取得された試料について、マクロ画像に対応するミクロ画像の撮像条件を自動で設定し、ミクロ画像取得制御手段は、撮像条件が設定された試料をミクロ画像取得手段での画像取得位置に配置し、撮像条件を参照してミクロ画像を取得させる制御を行うこととしても良い。 Further, in the image acquisition apparatus, the control means has a fully automatic mode as its control mode, and in the fully automatic mode, the macro image acquisition control means takes the sample at the storage position as the image acquisition position in the macro image acquisition means. The imaging condition setting means automatically sets the imaging condition of the micro image corresponding to the macro image for the sample from which the macro image is acquired, and the micro image acquisition control means Alternatively, it is possible to perform control for arranging a sample for which imaging conditions are set at an image acquisition position in the micro image acquisition unit and acquiring a micro image with reference to the imaging conditions.
同様に、画像取得方法は、制御ステップが、その制御モードとして全自動モードを有し、全自動モードにおいては、マクロ画像取得制御ステップは、格納位置にある試料をマクロ画像取得ステップでの画像取得位置に配置してマクロ画像を取得させる制御を行い、撮像条件設定ステップは、マクロ画像が取得された試料について、マクロ画像に対応するミクロ画像の撮像条件を自動で設定し、ミクロ画像取得制御ステップは、撮像条件が設定された試料をミクロ画像取得ステップでの画像取得位置に配置し、撮像条件を参照してミクロ画像を取得させる制御を行うこととしても良い。 Similarly, in the image acquisition method, the control step has a fully automatic mode as its control mode, and in the fully automatic mode, the macro image acquisition control step acquires the sample at the storage position in the macro image acquisition step. The imaging condition setting step automatically sets the imaging condition of the micro image corresponding to the macro image for the sample from which the macro image has been acquired, and performs the control for acquiring the macro image by arranging at the position. May be configured to place a sample for which an imaging condition is set at an image acquisition position in the micro image acquisition step, and to perform a control for acquiring a micro image with reference to the imaging condition.
同様に、画像取得プログラムは、制御処理が、その制御モードとして全自動モードを有し、全自動モードにおいては、マクロ画像取得制御処理は、格納位置にある試料をマクロ画像取得手段での画像取得位置に配置してマクロ画像を取得させる制御を行い、撮像条件設定処理は、マクロ画像が取得された試料について、マクロ画像に対応するミクロ画像の撮像条件を自動で設定し、ミクロ画像取得制御処理は、撮像条件が設定された試料をミクロ画像取得手段での画像取得位置に配置し、撮像条件を参照してミクロ画像を取得させる制御を行う制御処理をコンピュータに実行させることとしても良い。 Similarly, in the image acquisition program, the control process has a fully automatic mode as its control mode. In the fully automatic mode, the macro image acquisition control process acquires an image of the sample at the storage position by the macro image acquisition means. The macro image acquisition control processing is performed by automatically setting the micro image imaging conditions corresponding to the macro image for the sample from which the macro image is acquired. May be arranged such that a sample for which an imaging condition is set is arranged at an image acquisition position in the micro image acquisition unit, and the computer performs control processing for performing control for acquiring a micro image with reference to the imaging condition.
このような構成では、各試料に対するマクロ画像の取得、撮像条件の設定、及びミクロ画像の取得を制御する制御モードとして、半自動モードによる画像取得と、全自動モードによる画像取得とのいずれかを操作者が適宜選択することにより、画像取得の対象となる複数の試料の状態等に応じて、好適な方法で画像取得を実行することが可能となる。 In such a configuration, as a control mode for controlling macro image acquisition, imaging condition setting, and micro image acquisition for each sample, either semi-automatic mode image acquisition or full-automatic mode image acquisition is operated. When the person appropriately selects, it is possible to execute image acquisition by a suitable method in accordance with the state of a plurality of samples to be acquired.
また、画像取得装置は、撮像条件設定手段が、マクロ画像を参照して、ミクロ画像の撮像条件として画像取得範囲及び焦点計測位置を設定し、ミクロ画像取得制御手段は、焦点計測位置に基づいて試料に対する焦点情報を取得するとともに、得られた焦点情報及び画像取得範囲に基づいてミクロ画像を取得させる制御を行うことが好ましい。 In the image acquisition device, the imaging condition setting unit refers to the macro image and sets the image acquisition range and the focus measurement position as the imaging condition of the micro image, and the micro image acquisition control unit is based on the focus measurement position. It is preferable to perform control to acquire focus information for the sample and acquire a micro image based on the acquired focus information and an image acquisition range.
同様に、画像取得方法は、撮像条件設定ステップが、マクロ画像を参照して、ミクロ画像の撮像条件として画像取得範囲及び焦点計測位置を設定し、ミクロ画像取得制御ステップは、焦点計測位置に基づいて試料に対する焦点情報を取得するとともに、得られた焦点情報及び画像取得範囲に基づいてミクロ画像を取得させる制御を行うことが好ましい。 Similarly, in the image acquisition method, the imaging condition setting step refers to the macro image, sets the image acquisition range and the focus measurement position as the micro image imaging condition, and the micro image acquisition control step is based on the focus measurement position. It is preferable to perform control for acquiring the focus information for the sample and acquiring the micro image based on the obtained focus information and the image acquisition range.
同様に、画像取得プログラムは、撮像条件設定処理が、マクロ画像を参照して、ミクロ画像の撮像条件として画像取得範囲及び焦点計測位置を設定し、ミクロ画像取得制御処理は、焦点計測位置に基づいて試料に対する焦点情報を取得するとともに、得られた焦点情報及び画像取得範囲に基づいてミクロ画像を取得させる制御を行うことが好ましい。 Similarly, in the image acquisition program, the imaging condition setting process refers to the macro image, sets the image acquisition range and the focus measurement position as the imaging condition of the micro image, and the micro image acquisition control process is based on the focus measurement position. It is preferable to perform control for acquiring the focus information for the sample and acquiring the micro image based on the obtained focus information and the image acquisition range.
これにより、マクロ画像で得られる試料についての情報から、ミクロ画像取得に用いられるパラメータを好適に設定して、高解像度で良好な状態の試料の画像データを取得することが可能となる。 Thereby, it is possible to suitably set parameters used for micro image acquisition from information about the sample obtained by the macro image, and to acquire image data of the sample in a good state at a high resolution.
また、画像取得装置での画像取得手段の構成については、マクロ画像取得手段と、ミクロ画像取得手段とは単一の画像取得手段であり、マクロ画像またはミクロ画像の取得に応じて画像取得用光学系を切換可能に構成されていることとしても良い。この場合の切換可能な画像取得用光学系としては、2種類の対物レンズを含むレボルバを備える光学系が例として挙げられる。 Further, regarding the configuration of the image acquisition means in the image acquisition device, the macro image acquisition means and the micro image acquisition means are a single image acquisition means, and the optical for image acquisition according to the acquisition of the macro image or the micro image The system may be configured to be switchable. An example of the switchable image acquisition optical system in this case is an optical system including a revolver including two types of objective lenses.
本発明の画像取得装置、画像取得方法、及び画像取得プログラムによれば、複数の試料のそれぞれに対するマクロ画像の取得、撮像条件の設定、及びミクロ画像の取得の制御について、マクロ画像を参照してミクロ画像の撮像条件を設定する際に操作者が必要な確認を行う半自動モードを設けるとともに、マクロ画像が取得された試料を直接にミクロ画像取得手段での画像取得位置へと移動せずに、待機位置に配置することにより、複数の試料のそれぞれについての画像取得を効率良く実行することが可能となる。 According to the image acquisition device, the image acquisition method, and the image acquisition program of the present invention, the macro image acquisition, the imaging condition setting, and the micro image acquisition control for each of the plurality of samples are referred to the macro image. In addition to providing a semi-automatic mode for the operator to perform necessary confirmation when setting the imaging conditions for micro images, without moving the sample from which the macro image was acquired directly to the image acquisition position in the micro image acquisition means, By arranging at the standby position, it is possible to efficiently execute image acquisition for each of the plurality of samples.
以下、図面とともに本発明による画像取得装置、画像取得方法、及び画像取得プログラムの好適な実施形態について詳細に説明する。なお、図面の説明においては同一要素には同一符号を付し、重複する説明を省略する。また、図面の寸法比率は、説明のものと必ずしも一致していない。 Hereinafter, preferred embodiments of an image acquisition device, an image acquisition method, and an image acquisition program according to the present invention will be described in detail with reference to the drawings. In the description of the drawings, the same elements are denoted by the same reference numerals, and redundant description is omitted. Further, the dimensional ratios in the drawings do not necessarily match those described.
まず、画像取得装置の全体構成について説明する。図1は、本発明による画像取得装置の一実施形態の構成を示すブロック図である。本実施形態による画像取得装置は、試料Sの画像を高解像度で取得するために用いられる顕微鏡システムであり、試料Sの画像取得を行う顕微鏡部10と、顕微鏡部10における画像取得の制御等を行う制御部60とを備える。画像取得の対象となる試料Sとしては、バーチャル顕微鏡で利用される画像データを取得する場合における、スライドガラスに組織切片等の生体サンプルが密封されたスライド(プレパラート)が例として挙げられる。
First, the overall configuration of the image acquisition device will be described. FIG. 1 is a block diagram showing a configuration of an embodiment of an image acquisition apparatus according to the present invention. The image acquisition apparatus according to the present embodiment is a microscope system used for acquiring an image of the sample S with high resolution. The
顕微鏡部10は、試料格納部11と、マクロ画像取得部20と、ミクロ画像取得部30とを有している。試料格納部11は、それぞれ画像取得の対象となる複数の試料(例えばそれぞれ生体サンプルが密封された複数のスライド)Sを格納可能に構成された格納手段である。この試料格納部11には、操作者による試料Sの格納、及び取り出し等に用いられる扉12が設けられている。また、本実施形態においては、画像取得中に誤って扉12が開放されることを防止するためのインターロック機構13が付設されている。
The
マクロ画像取得部20は、試料Sの低倍率画像としてマクロ画像を取得するための第1の画像取得手段である。この画像取得部20では、試料Sの全体像に相当する低解像度でのマクロ画像が取得される。また、マクロ画像取得部20に対して、マクロ画像取得時に試料Sの光像を生成するための光を供給するマクロ用光源25が設置されている。
The macro
一方、ミクロ画像取得部30は、試料Sの高倍率画像としてミクロ画像を取得するための第2の画像取得手段である。この画像取得部30では、目的とする試料Sの高解像度でのミクロ画像が取得される。また、ミクロ画像取得部30に対して、ミクロ画像取得時に試料Sの光像を生成するための光を供給するミクロ用光源35が設置されている。また、図1においては、画像取得部30で取得されるミクロ画像について、画像データに必要な補正を行うための画像補正部38が設けられている。この画像補正部38で行われる補正としては、ダーク補正、シェーディング補正などが挙げられる。例えば、シェーディング補正を行う場合、あらかじめ生体サンプルがのっていないスライドなどの参照用試料を撮像したブランク画像を取得しておき、このブランク画像を参照してシェーディング補正を行う方法を用いることができる。また、これらの画像補正については、マクロ画像についても同様に行う構成としても良い。
On the other hand, the micro
また、顕微鏡部10内での各位置の間で試料Sを移動させる試料移動手段として、試料搬送部14及び試料ステージ15が設けられている。試料搬送部14は、試料格納部11での格納位置と、マクロ画像取得部20及びミクロ画像取得部30のそれぞれでの画像取得位置との間で試料Sを搬送する搬送手段である。また、試料ステージ15は、マクロ画像またはミクロ画像の画像取得時に試料Sが載置されるとともに、試料Sの画像取得位置の設定、調整等に用いられる。また、顕微鏡部10には、これらの顕微鏡部10の各部を駆動制御するための駆動制御部40が設けられている。
A
制御部60は、データ処理部70と、データ記憶部75と、画像取得制御部80とを有している。データ処理部70には、マクロ画像取得部20で取得されたマクロ画像の画像データ、及びミクロ画像取得部30で取得されたミクロ画像の画像データが入力されており、これらの画像データについて必要なデータ処理が行われる。
The
画像取得制御部80は、駆動制御部40を介して、顕微鏡部10における試料Sの画像取得動作を制御する。また、データ処理部70に入力された画像データ、画像データを処理して得られた各種のデータや情報、あるいは画像取得制御部80で用いられる制御情報等は、必要に応じてデータ記憶部75に記憶、保持される。
The image
この制御部60は、例えばCPU及び必要なメモリ、ハードディスクなどの記憶装置を含むコンピュータによって構成される。また、この制御部60に対して、表示装置61、及び入力装置62が接続されている。表示装置61は、例えばCRTディスプレイまたは液晶ディスプレイであり、本画像取得装置の動作に必要な操作画面の表示、あるいは取得された試料Sの画像の表示等に用いられる。また、入力装置62は、例えばキーボードまたはマウスであり、画像取得に必要な情報の入力、画像取得動作についての指示の入力等に用いられる。
The
次に、図1に示した画像取得装置における顕微鏡部10の構成について説明する。図2は、顕微鏡部10の構成を概略的に示す図である。図2に示すように、本実施形態による顕微鏡部10は、試料Sの光像の取得に利用される透過型の顕微鏡システムとして構成されている。ここで、図中に示すように、水平方向で互いに直交する2方向をX軸方向及びY軸方向とし、水平方向に直交する垂直方向をZ軸方向とする。これらのうち、垂直方向であるZ軸方向が本顕微鏡システムにおける画像取得の光軸の方向となっている。また、図2においては、主にマクロ画像取得部20及びミクロ画像取得部30の構成を示し、試料格納部11及び試料搬送部14等については図示を省略している。
Next, the configuration of the
試料Sは、画像取得部20、30における画像取得時には、試料ステージ15上に載置される。この試料ステージ15は、ステッピングモータ、DCモータ、またはサーボモータ等を用い、X軸方向及びY軸方向に移動可能なXYステージとして構成されている。このような構成において、試料ステージ15をXY面内で駆動することにより、画像取得部20、30での試料Sに対する画像取得位置の設定、調整が行われる。また、本実施形態においては、この試料ステージ15は、マクロ画像取得部20での画像取得位置、及びミクロ画像取得部30での画像取得位置の間で移動可能となっている。
The sample S is placed on the
試料Sのマクロ画像を取得するためのマクロ画像取得位置に対し、光軸20a上の所定位置にそれぞれマクロ画像取得部20、及びマクロ用光源25が設置されている。マクロ用光源25は、試料Sに対してマクロ画像取得用の光像を生成するための光を照射する光源であり、試料ステージ15の下方に設置されている。
The macro
また、マクロ画像取得部20は、試料Sの光像による2次元画像の取得が可能な2次元CCDセンサなどの撮像装置21を用いて構成されている。また、試料Sが配置されるマクロ画像取得位置と、撮像装置21との間には、試料Sの光像を導く光学系として撮像光学系22が設けられている。
The macro
一方、試料Sのミクロ画像を取得するためのミクロ画像取得位置に対し、光軸30a上の所定位置にそれぞれミクロ画像取得部30、及びミクロ用光源35が設置されている。ミクロ用光源35は、試料Sに対してミクロ画像取得用の光像を生成するための光を照射する光源であり、集光レンズ36とともに試料ステージ15の下方に設置されている。
On the other hand, with respect to the micro image acquisition position for acquiring the micro image of the sample S, the micro
また、ミクロ画像取得部30は、試料Sの光像による1次元画像の取得が可能な1次元CCDセンサなどの撮像装置31を用いて構成されている。また、試料Sが配置されるミクロ画像取得位置と、撮像装置31との間には、試料Sの光像を導く光学系として対物レンズ32、及び導光光学系34が設けられている。対物レンズ32は、試料Sを透過した光を入射して試料Sの光像を生成する。また、導光光学系34は、例えばチューブレンズから構成され、試料Sの光像を撮像装置31へと導く。
The micro
また、対物レンズ32に対して、ステッピングモータまたはピエゾアクチュエータ等を用いたZステージ33が設けられており、このZステージ33で対物レンズ32をZ軸方向に駆動することで、試料Sに対する焦点合わせ等が可能となっている。なお、このミクロ画像取得部30での撮像装置31としては、1次元画像の取得が可能な撮像装置に限らず、2次元画像の取得及びTDI駆動が可能な撮像装置を用いることも可能である。
Further, a Z stage 33 using a stepping motor or a piezo actuator is provided for the
また、このミクロ画像取得用の撮像装置31としては、例えば3板式CCDカメラなどのカラー画像が取得可能な撮像装置を用いることが好ましい。なお、マクロ画像取得用の撮像装置21については、必要に応じて、白黒画像取得用の撮像装置、またはカラー画像が取得可能な撮像装置のいずれを用いても良い。また、撮像装置31についても、カラー画像を取得する必要がない場合には、白黒画像取得用の撮像装置を用いても良い。
Further, as the
これらの試料ステージ15、マクロ画像取得部20、ミクロ画像取得部30、及び光源25、35に対して、駆動制御部40には、ステージ制御部41、撮像装置制御部42、及び光源制御部43が設けられている。ステージ制御部41は、XYステージである試料ステージ15、及びZステージ33を駆動制御することにより、試料Sに対する撮像条件の設定、調整等を行う。また、撮像装置制御部42は、撮像装置21、31を駆動制御することにより、試料Sの画像取得を制御する。また、光源制御部43は、光源25、35を駆動制御することにより、試料Sに対する画像取得用の光の照射を制御する。なお、顕微鏡部10の各部の制御については、駆動制御部40を介さずに制御部60の画像取得制御部80によって直接に制御する構成など、他の構成を用いても良い。
In contrast to the
ここで、画像取得部20、30における試料Sのマクロ画像及びミクロ画像の取得について説明しておく。マクロ画像取得部20では、ミクロ画像の撮像条件の設定に用いられる試料Sの全体像であるマクロ画像が取得される。例えば、上記したスライドガラスに生体サンプル等が密封されたスライドを試料Sとした場合、マクロ画像としては、スライド全体、または生体サンプルを含む所定範囲の画像が取得される。
Here, acquisition of the macro image and the micro image of the sample S in the
また、ミクロ画像取得部30では、設定された撮像条件を参照して、目的とする解像度での試料Sのミクロ画像が取得される。このミクロ画像の取得は、図3(a)に模式的に示すように、マクロ画像よりも高い所定の解像度で試料Sを2次元に走査することによって行われる。ここで、1次元CCDカメラなどの撮像装置31を用いたミクロ画像の取得では、試料Sに対して平行なXY面内において、撮像装置31での撮像面の長手方向をX軸方向、この長手方向に直交する方向をY軸方向とする。このとき、ミクロ画像の取得においては、撮像装置31での撮像面の長手方向に直交する方向、図3(a)においてはY軸の負の方向が、試料Sに対する走査方向となる。
The micro
1次元CCDカメラなどの撮像装置31を用いたミクロ画像の取得では、まず、撮像装置31によって試料ステージ15上の試料Sを走査方向(Y軸の負の方向)に走査して、所望の解像度を有するストリップ状の部分画像Aを取得する。さらに、図3(a)に示すように、このような部分画像の取得を撮像面の長手方向(X軸の正の方向)に沿って撮像位置をずらしながら複数回繰り返して、複数の部分画像A、B、…、Iを取得する。
In acquiring a micro image using an
このようにして得られた部分画像A〜IをX軸方向に並べて合成することで、試料Sの全体のミクロ画像を生成することができる。このようなミクロ画像の取得方法によれば、試料Sの画像データを充分に高い解像度で好適に取得することが可能である。なお、図3(a)中において、部分画像A内に斜線で示したX軸方向を長手方向とする領域は、撮像装置31での撮像面に対応する撮像領域を示している。
By combining the partial images A to I obtained in this way in the X-axis direction, a micro image of the entire sample S can be generated. According to such a micro image acquisition method, the image data of the sample S can be preferably acquired with sufficiently high resolution. In FIG. 3A, an area having the X-axis direction indicated by hatching in the partial image A as the longitudinal direction indicates an imaging area corresponding to the imaging surface of the
また、ミクロ画像の撮像条件の設定については、マクロ画像取得部20の撮像装置21で取得されたマクロ画像を参照して、ミクロ画像の撮像条件として画像取得範囲、及び焦点計測位置を設定することが好ましい。これにより、試料Sの全体像であるマクロ画像で得られる情報から、ミクロ画像取得に用いられるパラメータを好適に設定して、高解像度で良好な状態の試料の画像データを取得することが可能となる。
In addition, regarding the setting of the micro image capturing condition, the image acquisition range and the focus measurement position are set as the micro image capturing condition with reference to the macro image acquired by the
具体的には、上記と同様にスライドを試料Sとした場合、図3(b)に示すように、試料Sに対する画像取得範囲は、画像取得の対象であるスライド中の生体サンプルLを含む矩形状の範囲Rによって設定することができる。ミクロ画像取得部30における試料Sの2次元の走査(図3(a)参照)は、このように設定された画像取得範囲R内について行われる。また、このような画像取得範囲Rの設定を自動で行う場合には、例えば、マクロ画像での輝度パターンに対して設定された閾値を参照して画像を二値化することで画像取得の対象物(例えば生体サンプルL)が存在する範囲を判別し、その判別結果に基づいて画像取得範囲Rを設定する方法を用いることができる。
Specifically, when the slide is the sample S as described above, as shown in FIG. 3B, the image acquisition range for the sample S is a rectangle including the biological sample L in the slide that is the target of image acquisition. It can be set by the shape range R. Two-dimensional scanning (see FIG. 3A) of the sample S in the micro
図4は、マクロ画像を二値化するための閾値の設定方法を示すグラフである。図4のグラフにおいて、横軸はマクロ画像の各画素での輝度値を示している。ここで、本実施形態で取得されるマクロ画像では、マクロ画像取得部20の透過型の構成により、生体サンプルLが存在しないスライドガラスのみの領域で最も輝度が高くなる。
FIG. 4 is a graph showing a threshold setting method for binarizing a macro image. In the graph of FIG. 4, the horizontal axis indicates the luminance value at each pixel of the macro image. Here, in the macro image acquired in the present embodiment, due to the transmission type configuration of the macro
マクロ画像に対する閾値の設定においては、例えば、図4に示すように、その輝度分布において2つのピークP1、P2を求め、その中心の輝度値を閾値Tとして設定する方法を用いることができる。そして、この閾値によって画像を二値化することによって、画像中で対象物Lが存在する範囲を容易に判別することができる。さらに、判別された範囲のうち、指定された面積以上の連続した範囲を1つの対象物Lの範囲とし、すべての対象物Lを包含する最小の矩形の領域を画像取得範囲Rとして設定する。なお、閾値の設定については、上記した方法以外にも、例えばピークの輝度値に対してあらかじめ固定に決められた割合で閾値を設定する方法など、様々な方法を用いることができる。 In setting the threshold value for the macro image, for example, as shown in FIG. 4, a method of obtaining two peaks P1 and P2 in the luminance distribution and setting the luminance value at the center as the threshold value T can be used. Then, by binarizing the image based on this threshold, it is possible to easily determine the range where the object L exists in the image. Further, among the determined ranges, a continuous range that is equal to or larger than the specified area is set as the range of one object L, and the smallest rectangular area that includes all the objects L is set as the image acquisition range R. In addition to the method described above, various methods can be used for setting the threshold, for example, a method of setting the threshold at a fixed ratio with respect to the peak luminance value.
また、二値化されたマクロ画像での対象物Lが存在する範囲の判別においては、二値化された画像に対してn回の収縮処理(erosion処理:絵の塊を小さくする処理)を行い、続いて、n回の膨張処理(dilation処理:絵の塊を大きくする処理)を行うことが好ましい。これにより、画像中の小さいノイズ等を取り除くことができる。また、スライドのカバーグラスのエッジやスライド内のゴミを取り除くためのフィルタリング処理をさらに行っても良い。 Further, in the determination of the range in which the object L exists in the binarized macro image, n times of contraction processing (erosion processing: processing for reducing a picture block) is performed on the binarized image. Subsequently, it is preferable to perform n times of expansion processing (dilation processing: processing for enlarging a block of pictures). Thereby, small noises and the like in the image can be removed. Further, a filtering process for removing the edge of the cover glass of the slide or dust in the slide may be further performed.
また、焦点計測位置は、ミクロ画像取得部30において、試料Sのミクロ画像の取得に先立って試料Sに対する焦点情報を取得する際に用いられるものである。ミクロ画像取得部30では、設定された焦点計測位置について撮像装置31を用いて焦点計測を行って、試料Sのミクロ画像を取得する際の焦点情報としての焦点位置を決定する。この焦点計測位置は、例えば試料Sの水平面内での傾き、すなわち水平面内での焦点位置のずれが問題にならない場合には、試料Sに対して1点の焦点計測位置を設定すれば良い。
The focus measurement position is used when the micro
また、水平面内での焦点位置のずれを考慮する必要がある場合には、試料Sに対して3点以上の焦点計測位置を設定することが好ましい。このように、3点もしくはそれ以上の焦点計測位置を設定して焦点計測を行うことにより、試料Sの画像取得範囲Rに対する2次元の焦点マップを求めることができる。例えば、焦点位置についての焦点マップを平面状の焦点面として決定する場合、3点の焦点計測位置での計測結果点を含む平面から焦点面を求めることができる。また、4点以上の焦点計測位置を用いた場合、その計測結果点から最小二乗法等のフィッティング手法を用いて焦点面を求めることができる。 Further, when it is necessary to consider the shift of the focus position in the horizontal plane, it is preferable to set three or more focus measurement positions for the sample S. Thus, by performing focus measurement by setting three or more focus measurement positions, a two-dimensional focus map for the image acquisition range R of the sample S can be obtained. For example, when the focal map for the focal position is determined as a planar focal plane, the focal plane can be obtained from the plane including the measurement result points at the three focal measurement positions. When four or more focus measurement positions are used, the focal plane can be obtained from the measurement result points using a fitting method such as a least square method.
図3(b)においては、マクロ画像を用いた焦点計測位置の設定について、9点の焦点計測位置を自動で設定する場合の例を示している。ここでは、試料Sに対して先に設定された画像取得範囲Rを3×3で9等分し、そのそれぞれの領域の中心点によって、9点の焦点計測位置Pを設定している。 FIG. 3B shows an example in which nine focus measurement positions are automatically set for setting a focus measurement position using a macro image. Here, the image acquisition range R previously set for the sample S is divided into 9 equal parts by 3 × 3, and nine focus measurement positions P are set by the center points of the respective areas.
また、ここでは、9点の焦点計測位置のうち8点については初期設定された位置が画像取得の対象物である生体サンプルLの範囲内に含まれているため、そのまま焦点計測位置として設定される。一方、左下の1点については生体サンプルLの範囲外にあり、そのままでは焦点計測位置とすることができない。このため、この左下の焦点計測位置については、例えば画像取得範囲R内で中心に向けて移動するなどの方法で求められる位置Qを焦点計測位置として設定しても良い。あるいは、このような位置については焦点計測位置から除外しても良い。 In addition, here, among the nine focus measurement positions, eight of the initial positions are included in the range of the biological sample L that is the object of image acquisition, and thus are set as the focus measurement positions as they are. The On the other hand, the lower left point is outside the range of the biological sample L, and cannot be used as a focus measurement position as it is. For this reason, for the focus measurement position at the lower left, for example, a position Q obtained by a method such as moving toward the center within the image acquisition range R may be set as the focus measurement position. Alternatively, such a position may be excluded from the focus measurement position.
なお、4点以上の焦点計測位置から最小二乗法を用いて焦点面を求める場合、焦点計測位置の中で求められた焦点面から離れすぎている計測位置があれば、それを除いて再度、焦点面を求め直すことが好ましい。また、焦点面を正常に求めることができなかった場合には、その対象物はゴミであるとして除外することが好ましい。 In addition, when obtaining a focal plane using the least square method from four or more focus measurement positions, if there is a measurement position that is too far from the focal plane obtained in the focus measurement position, except that, again, It is preferable to re-determine the focal plane. Further, when the focal plane cannot be normally obtained, it is preferable to exclude the object as dust.
以上説明した例のように、試料Sをスライドとした場合、ミクロ画像を取得するための撮像条件については、好ましくは、まず、マクロ画像取得部20で取得されたマクロ画像を参照して、ミクロ画像の撮像条件として生体サンプルLを含む画像取得範囲R、及び所定の点数の焦点計測位置Pを設定する。そして、ミクロ画像取得部30において焦点計測位置Pに基づいて試料Sに対する焦点位置または焦点面などについての焦点情報を取得するとともに、得られた焦点情報、及び設定された画像取得範囲Rに基づいて、試料Sのミクロ画像の取得が行われる。
As in the example described above, when the sample S is a slide, with respect to the imaging conditions for acquiring the micro image, preferably, referring to the macro image acquired by the macro
なお、試料Sのマクロ画像を用いた画像取得範囲R、及び焦点計測位置Pの設定については、図3(b)に示した例に限らず、具体的には様々な方法を用いて良い。例えば、図3(b)においては、焦点計測位置Pの設定については所定の設定アルゴリズムを用いて自動で設定する例を示したが、手動で焦点計測位置を設定する場合には、操作者がマクロ画像を確認した上で、適当な点数、配置となるように焦点計測位置を設定すれば良い。 The setting of the image acquisition range R and the focus measurement position P using the macro image of the sample S is not limited to the example illustrated in FIG. 3B, and various methods may be used specifically. For example, FIG. 3B shows an example in which the focus measurement position P is automatically set using a predetermined setting algorithm. However, when manually setting the focus measurement position, the operator must After confirming the macro image, the focus measurement position may be set so as to obtain an appropriate number of points and arrangement.
続いて、図1に示した画像取得装置における制御部60の構成について説明する。図5は、制御部60の構成を示すブロック図である。図5に示すように、本実施形態による制御部60は、データ処理部70と、データ記憶部75と、画像取得制御部80とを有して構成されている。
Next, the configuration of the
データ処理部70は、撮像条件設定部71と、試料データ作成部72とを有する。撮像条件設定部71は、顕微鏡部10のマクロ画像取得部20で取得されたマクロ画像を参照してミクロ画像の撮像条件を設定する設定手段である。また、試料データ作成部72は、ミクロ画像取得部30で取得されたミクロ画像を用い、試料Sの画像データである試料データを作成する。
The
図6は、ミクロ画像を用いた試料データの作成について模式的に示す図である。ここでは、顕微鏡部10のミクロ画像取得部30で取得されたミクロ画像の画像データとして、ストリップ状の部分画像A、B、C、…の画像データ群が制御部60に入力される(図3(a)参照)。試料データ作成部72は、これらの複数の部分画像を並べて合成し、試料Sの全体に対するミクロ画像となる画像データを生成して試料データとする。この試料データは、例えば、バーチャル顕微鏡での画像データとして利用することができる。なお、試料Sの画像データについては、必要に応じて、データ圧縮を行っても良い。また、顕微鏡部10から入力された画像データ、及び試料データ作成部72で作成された試料データは、必要に応じてデータ記憶部75に記憶される。
FIG. 6 is a diagram schematically illustrating creation of sample data using a micro image. Here, the image data group of strip-shaped partial images A, B, C,... Is input to the
画像取得制御部80は、マクロ画像取得制御部81と、ミクロ画像取得制御部82とを有する。マクロ画像取得制御部81は、マクロ画像取得部20による試料Sのマクロ画像の取得動作を制御する。また、ミクロ画像取得制御部82は、ミクロ画像取得部30によるミクロ画像の取得動作を制御する。これらの画像取得制御部81、82による試料Sのマクロ画像及びミクロ画像の取得動作の制御、及び撮像条件設定部71による撮像条件の設定は、画像取得処理について選択された制御モードにしたがって行われる。本実施形態においては、制御部60は、その制御モードとして、全自動モード、手動モード、及び半自動モードの3つの制御モードを有している。
The image
図7は、全自動モードでの画像取得方法について示すフローチャートである。全自動モードにおいては、制御部60のマクロ画像取得制御部81は、試料格納部11で格納位置にある試料Sをマクロ画像取得部20での画像取得位置に配置してマクロ画像を取得させる制御を行う(マクロ画像取得制御ステップ)。また、撮像条件設定部71は、マクロ画像が取得された試料Sについて、マクロ画像に対応するミクロ画像の撮像条件を自動で設定する(撮像条件設定ステップ)。また、ミクロ画像取得制御部82は、撮像条件が設定された試料Sをミクロ画像取得部30での画像取得位置に配置し、撮像条件を参照してミクロ画像を取得させる制御を行う(ミクロ画像取得制御ステップ)。
FIG. 7 is a flowchart showing an image acquisition method in the fully automatic mode. In the fully automatic mode, the macro image
図7に示す例では、まず、操作者が、画像取得の対象となる複数のスライドSを顕微鏡部10の試料格納部11にセットし、扉12を閉める(ステップS101)。試料格納部11に格納可能なスライド数は具体的な装置構成によって異なるが、例えば数百枚程度である。
In the example shown in FIG. 7, first, the operator sets a plurality of slides S to be imaged in the
次に、複数のスライドSのうちで、画像取得を実行するスライドSを試料格納部11から取り出し、試料搬送部14で搬送して試料ステージ15上に載置させて、マクロ画像取得部20での画像取得位置(図1及び図2参照)にセットする(S102)。そして、画像取得部20の撮像装置21により、生体サンプルLを含むスライドSのマクロ画像を取得する(S103、マクロ画像取得ステップ)。制御部60の撮像条件設定部71では、取得されたマクロ画像を参照して、そのスライドSに対する撮像条件である画像取得範囲R、及び複数の焦点計測位置Pが、所定のアルゴリズムを用いて自動で設定される(S104、撮像条件設定ステップ)。
Next, among the plurality of slides S, the slide S for performing image acquisition is taken out from the
マクロ画像の取得が完了したスライドSは、試料搬送部14または試料ステージ15により、マクロ画像取得部20での画像取得位置から移動され、ミクロ画像取得部30での画像取得位置にセットされる(S105)。そして、撮像条件設定部71で設定された撮像条件を参照し、画像取得部30の撮像装置31により、スライドSのミクロ画像を取得する(S106、ミクロ画像取得ステップ)。
The slide S for which the acquisition of the macro image is completed is moved from the image acquisition position in the macro
具体的には、まず、スライドSに対して設定された複数の焦点計測位置Pのそれぞれについて、ミクロ画像取得部30において焦点計測を行い、得られた焦点位置から生体サンプルLの画像取得に最適な焦点情報として焦点面を求める。そして、求められた焦点面に基づいて焦点制御を行いつつ、画像取得範囲Rについて撮像装置31によってスライドSを2次元に走査し、複数のストリップ状の部分画像を取得する。この複数の部分画像は、制御部60の試料データ作成部72で所定のデータ合成処理が行われることにより、スライドSの高解像度のミクロ画像(バーチャル顕微鏡でのデジタルスライド)となる。
Specifically, first, the micro
続いて、ミクロ画像の取得が完了したスライドSは、試料搬送部14によりミクロ画像取得部30での画像取得位置から試料格納部11での格納位置に戻される(S107)。そして、画像取得制御部80において、複数のスライドSのうちで画像取得処理が完了していないスライドSがあるかどうかが確認される(S108)。ここで、さらに画像取得処理を行うべきスライドSがあれば、上記したステップS102〜S107を繰り返して実行する。また、すべてのスライドSについての画像取得処理が完了していれば、試料格納部11にセットされた複数のスライドSに対する画像取得を終了する。
Subsequently, the slide S for which micro image acquisition has been completed is returned from the image acquisition position in the micro
なお、手動モードについては、各ステップを操作者からの指示によって手動で行う以外は、基本的には全自動モードでの画像取得手順と同様である。ただし、手動モードにおいても、例えばマクロ画像の取得が完了したスライドSのミクロ画像取得部30での画像取得位置への移動など、操作者からの指示が不要なステップについては、自動で行うこととしても良い。また、スライドSのミクロ画像の取得については、取得されたミクロ画像を操作者が確認し、問題があれば撮像条件の再設定、あるいはミクロ画像の再取得等を実行することが可能な構成であっても良い。
The manual mode is basically the same as the image acquisition procedure in the fully automatic mode except that each step is manually performed according to an instruction from the operator. However, even in the manual mode, for example, steps that do not require an instruction from the operator, such as movement of the slide S for which the macro image has been acquired to the image acquisition position in the micro
図8及び図9は、半自動モードでの画像取得方法について示すフローチャートである。半自動モードにおいては、制御部60のマクロ画像取得制御部81は、複数の試料Sのそれぞれについて、試料格納部11で格納位置にある試料Sをマクロ画像取得部20での画像取得位置に配置してマクロ画像を取得させ、さらに試料Sを待機位置に配置させる制御を行う(マクロ画像取得制御ステップ)。また、撮像条件設定部71は、マクロ画像が取得された試料Sについて、マクロ画像、及びそれに対応する撮像条件を操作者に確認させてミクロ画像の撮像条件を設定する(撮像条件設定ステップ)。また、ミクロ画像取得制御部82は、待機位置にあって撮像条件が設定された試料Sをミクロ画像取得部30での画像取得位置に配置し、撮像条件を参照してミクロ画像を取得させる制御を行う(ミクロ画像取得制御ステップ)。なお、本実施形態においては、試料Sの待機位置は、試料格納部11での格納位置に設定されている。
8 and 9 are flowcharts illustrating an image acquisition method in the semi-automatic mode. In the semi-automatic mode, the macro image
図8及び図9に示す例では、まず、全自動モードの場合と同様に、操作者が、画像取得の対象となる複数のスライドSを顕微鏡部10の試料格納部11にセットし、扉12を閉める(ステップS201)。
In the example shown in FIGS. 8 and 9, first, similarly to the case of the fully automatic mode, the operator sets a plurality of slides S to be imaged in the
次に、マクロ画像取得制御部81により、複数のスライドSのそれぞれについて、そのマクロ画像の取得が行われる(S202、マクロ画像取得ステップ)。具体的には、図8に示すように、複数のスライドSのうちで、画像取得を実行するスライドSを試料格納部11での格納位置から取り出し、試料搬送部14で搬送して試料ステージ15上に載置させて、マクロ画像取得部20での画像取得位置にセットする(S301)。そして、画像取得部20の撮像装置21により、生体サンプルLを含むスライドSのマクロ画像を取得する(S302)。
Next, the macro image
マクロ画像の取得が完了したスライドSは、試料搬送部14によりマクロ画像取得部20での画像取得位置から、その待機位置となっている試料格納部11での格納位置に戻される(S303)。そして、マクロ画像取得制御部81において、複数のスライドSのうちでマクロ画像取得処理が完了していないスライドSがあるかどうかが確認される(S304)。そして、さらにマクロ画像取得処理を行うべきスライドSがあれば、上記したステップS301〜S303を繰り返して実行する。また、すべてのスライドSについてのマクロ画像取得処理が完了していれば、試料格納部11にセットされた複数のスライドSに対するマクロ画像取得を終了する。
The slide S for which the macro image has been acquired is returned from the image acquisition position in the macro
また、本モードでは、最初のスライドSのマクロ画像が取得された後は、マクロ画像取得処理と並行して、ミクロ画像の撮像条件の設定が行われる(S203、撮像条件設定ステップ)。制御部60の撮像条件設定部71では、撮像条件の設定対象となるスライドSについて、取得されたマクロ画像、及びそれに対応する撮像条件を表示手段により操作者に確認させて、ミクロ画像を取得するための撮像条件である画像取得範囲R、及び複数の焦点計測位置Pが設定される。なお、ここでの撮像条件の設定方法については、詳しくは後述する。
Further, in this mode, after the macro image of the first slide S is acquired, the imaging conditions for the micro image are set in parallel with the macro image acquisition process (S203, imaging condition setting step). The imaging
すべてのスライドSについてのマクロ画像取得処理が完了したら、続いて、撮像条件の設定処理とも並行して、ミクロ画像取得制御部82により、複数のスライドSのそれぞれについて、そのミクロ画像の取得が行われる(S204、ミクロ画像取得ステップ)。具体的には、図9に示すように、複数のスライドSのうちで、既に撮像条件が設定されているスライドSを選択して、画像取得を実行する。選択したスライドSを待機位置である試料格納部11での格納位置から取り出し、試料搬送部14で搬送して試料ステージ15上に載置させて、ミクロ画像取得部30での画像取得位置にセットする(S401)。そして、撮像条件設定部71で設定された撮像条件を参照し、画像取得部30の撮像装置31により、スライドSのミクロ画像を取得する(S402)。なお、ミクロ画像の取得方法については、基本的には全自動モードの場合と同様である。
When the macro image acquisition processing for all the slides S is completed, the micro image
続いて、ミクロ画像の取得が完了したスライドSは、試料搬送部14によりミクロ画像取得部30での画像取得位置から試料格納部11での格納位置に戻される(S403)。そして、ミクロ画像取得制御部82において、複数のスライドSのうちで撮像条件が設定されている他のスライドSがあるかどうかが確認される(S404)。ここで、さらに撮像条件が設定されて画像取得処理が可能なスライドSがあれば、上記したステップS401〜S403を繰り返して実行する。
Subsequently, the slide S for which micro image acquisition has been completed is returned from the image acquisition position in the micro
また、撮像条件が設定されているスライドSがない場合には、さらにミクロ画像取得制御部82において、複数のスライドSのうちで画像取得処理が完了していないスライドSがあるかどうかが確認される(S405)。ここで、さらに画像取得処理を行うべきスライドSがあれば、撮像条件が設定されるのを待って上記したステップS401〜S403を繰り返して実行する。また、すべてのスライドSについての画像取得処理が完了していれば、試料格納部11にセットされた複数のスライドSに対する画像取得を終了する。
If there is no slide S for which the imaging condition is set, the micro image
なお、本実施形態の画像取得装置においては、操作者によって試料格納部11にセットされる複数の試料Sに対応してセッションが定義され、複数の試料Sの試料グループと、それに対応するマクロ画像、撮像条件、ミクロ画像などのデータグループとが、このセッションによって対応付けられる。このような構成に対応して、図5に示した制御部60には、データ処理部70においてセッション管理部73が、また、画像取得制御部80においてセッション切換部83が設けられている。
In the image acquisition apparatus of the present embodiment, a session is defined corresponding to a plurality of samples S set in the
セッション管理部73は、マクロ画像、撮像条件、ミクロ画像などのデータグループをセッション毎に管理し、必要に応じてデータ記憶部75に記憶させる。図5のデータ記憶部75においては、そのようなデータ管理の例として、セッション1、セッション2、…の複数のセッションのデータグループが記憶されている場合を示している。また、セッション切換部83は、複数の試料Sの試料グループの交換に伴う画像取得処理の切換えを制御するとともに、セッション管理部73に対して、対応するデータグループの切換えを指示する。このように、複数の試料Sの試料グループと画像取得でのデータグループとを、セッションという概念を用いて対応付けることにより、試料Sの画像取得処理の制御、及びそれに対応するデータの管理を好適に行うことができる。
The
半自動モードにおけるミクロ画像の撮像条件の設定の具体例について説明する。図10は、撮像条件の設定方法の一例を示すフローチャートである。また、図11〜図13は、それぞれ撮像条件の設定に用いられる操作画面の例を示す図である。なお、これらの操作画面は、図1に示した構成において表示装置61に表示される。
A specific example of setting a micro-image imaging condition in the semi-automatic mode will be described. FIG. 10 is a flowchart illustrating an example of an imaging condition setting method. FIGS. 11 to 13 are diagrams illustrating examples of operation screens used for setting the imaging conditions. Note that these operation screens are displayed on the
画像取得の対象となる複数のスライドSのうちの1または複数のスライドSについてマクロ画像が取得された状態では、表示装置61に図11に示す操作画面100が表示される。この操作画面100上には、そのリスト表示部101内において、マクロ画像が取得されたスライドのリスト(図11中ではスライド1〜3)が、対応するマクロ画像のサムネイル画像とともに表示されている。
In a state where a macro image is acquired for one or a plurality of slides S among a plurality of slides S to be acquired, an
また、操作者は、画面100上で所望のスライド名、例えば「スライド1」をクリックすることにより、図12に示すように、選択した「スライド1」のマクロ画像をマクロ画像表示部102に拡大表示させて、その内容を確認することができる。そして、この状態で撮像条件設定ボタン103をクリックすることにより、表示されたスライドリストから撮像条件を設定するスライドが選択される(ステップS501)。
In addition, the operator clicks a desired slide name, for example, “slide 1” on the
撮像条件を設定するスライドを選択すると、図13に示す撮像条件設定画面110内のマクロ画像表示部111において、選択されたスライド1のマクロ画像が表示される。操作者は、このマクロ画像を確認し、撮像条件の設定を自動/手動のどちらで行うかを選択する(S502)。そして、自動設定が選択されたかどうかが確認され(S503)、自動設定が選択されていれば、撮像条件を自動で設定するとともにそのスライドに対する撮像条件の設定を終了して、次のスライドの選択、及び撮像条件の設定作業に移行する。
When a slide for setting imaging conditions is selected, a macro image of the selected
また、手動設定が選択されていれば、操作者は、そのスライドのマクロ画像に対して、生体サンプルLが存在する範囲及び形状等を考慮して、画像取得範囲R、及び焦点計測位置Pを手動で設定する(S504)。そして、撮像条件の設定が終了したら、複数のスライドSのうちで撮像条件の設定が完了していないスライドSがあるかどうかが確認される(S505)。ここで、さらに撮像条件の設定を行うべきスライドSがあれば、上記したステップS501〜S504を繰り返して実行する。また、すべてのスライドSについての撮像条件の設定が完了していれば、試料格納部11にセットされた複数のスライドSに対する撮像条件の設定を終了する。
If the manual setting is selected, the operator sets the image acquisition range R and the focus measurement position P for the macro image of the slide in consideration of the range and shape of the biological sample L. Set manually (S504). When the setting of the imaging condition is completed, it is confirmed whether there is a slide S for which the setting of the imaging condition has not been completed among the plurality of slides S (S505). Here, if there is a slide S for which imaging conditions are further set, steps S501 to S504 described above are repeated. If the setting of the imaging conditions for all the slides S has been completed, the setting of the imaging conditions for the plurality of slides S set in the
図13に示した撮像条件設定画面110の例においては、そのマクロ画像表示部111にスライドSのマクロ画像を表示する際に、最初に自動設定による画像取得範囲R、及び焦点計測位置Pを求め、それらを撮像条件の初期設定としてマクロ画像上に表示する。操作者は、ここで表示された自動設定の撮像条件を確認した上で、撮像条件の設定を自動/手動のどちらで行うかを選択する。撮像条件の設定を自動で行う場合には、最初に表示された初期設定をそのまま用いれば良いので、設定終了ボタン112をクリックして、このスライドSに対する撮像条件の設定を終了する。
In the example of the imaging
また、自動設定による画像取得範囲R、及び焦点計測位置Pについては、図11に示したリスト表示部101内のマクロ画像のサムネイル画像上に表示させても良い。このように、サムネイル画像上に撮像条件を重畳させることにより、各スライドの撮像条件を一覧できるので、手動で設定すべきスライドを容易に抽出可能となる。
Further, the automatically acquired image acquisition range R and focus measurement position P may be displayed on the thumbnail image of the macro image in the
また、撮像条件の設定を手動で行う場合には、必要に応じて、焦点計測位置設定ボタン113または画像取得範囲設定ボタン114をクリックする。そして、マクロ画像表示部111上で、焦点計測位置Pまたは画像取得範囲Rの変更、追加、削除、あるいは新規作成等の操作を行うことにより、撮像条件を手動で設定する。また、必要があれば、自動設定ボタン115をクリックすることで、再度、撮像条件を自動で設定することも可能である。撮像条件の設定を終了したら、設定終了ボタン112をクリックして、このスライドSに対する撮像条件の設定を終了する。
When manually setting the imaging conditions, the focus measurement
なお、図1に示した画像取得装置において実行される画像取得方法に対応する処理は、画像取得処理をコンピュータに実行させるための画像取得プログラムによって実現可能である。例えば、画像取得装置の制御部60は、画像取得処理に必要な各ソフトウェアプログラムを動作させるCPUと、上記ソフトウェアプログラムなどが記憶されるROMと、プログラムの実行中に一時的にデータが記憶されるRAMとによって構成することができる。このような構成において、CPUによって所定の画像取得プログラムを実行することにより、上記した画像取得装置、及び画像取得方法を実現することができる。
The process corresponding to the image acquisition method executed in the image acquisition apparatus shown in FIG. 1 can be realized by an image acquisition program for causing a computer to execute the image acquisition process. For example, the
また、試料の画像取得のための各処理をCPUによって実行させるための上記プログラムは、コンピュータ読取可能な記録媒体に記録して頒布することが可能である。このような記録媒体には、例えば、ハードディスク及びフレキシブルディスクなどの磁気媒体、CD−ROM及びDVD−ROMなどの光学媒体、フロプティカルディスクなどの磁気光学媒体、あるいはプログラム命令を実行または格納するように特別に配置された、例えばRAM、ROM、及び半導体不揮発性メモリなどのハードウェアデバイスなどが含まれる。 Further, the above-described program for causing the CPU to execute each process for obtaining the image of the sample can be recorded on a computer-readable recording medium and distributed. In such a recording medium, for example, a magnetic medium such as a hard disk and a flexible disk, an optical medium such as a CD-ROM and a DVD-ROM, a magneto-optical medium such as a floppy disk, or a program instruction is executed or stored. For example, hardware devices such as RAM, ROM, and semiconductor non-volatile memory are included.
本実施形態による画像取得装置、画像取得方法、及び画像取得プログラムの効果について説明する。 The effects of the image acquisition device, the image acquisition method, and the image acquisition program according to the present embodiment will be described.
上記した画像取得装置、画像取得方法、及び画像取得プログラムにおいては、画像取得の対象となる複数の試料Sに対してマクロ画像取得部20とミクロ画像取得部30とを設け、撮像条件設定部71において試料Sの全体像を示すマクロ画像を参照して撮像条件を設定した上で、高解像度のミクロ画像の取得を行っている。これにより、例えばバーチャル顕微鏡で用いられる試料の画像データとなるような高解像度の試料のミクロ画像を好適に取得することができる。
In the image acquisition device, the image acquisition method, and the image acquisition program described above, the macro
さらに、顕微鏡部10での画像取得動作を制御する制御部60において、各試料Sに対するマクロ画像の取得、撮像条件の設定、及びミクロ画像の取得を制御する制御モードとして、マクロ画像を参照してミクロ画像の撮像条件を設定する際に操作者が必要な確認を行う半自動モードを設けている。これにより、例えば試料Sとなるスライド内にゴミ、あるいは生体サンプルについての情報の書込みなどの余分な対象物があった場合でも、撮像条件の設定におけるそのような対象物の影響を確実に除外して、試料に対する撮像条件を正しく設定することが可能となる。
Further, the
また、上記した半自動モードにおいて、マクロ画像取得部20でマクロ画像が取得された試料Sを直接にミクロ画像取得部30での画像取得位置へと移動せずに、待機位置に配置することとしている。このような構成では、図8及び図9のフローチャートに示したように、試料Sのマクロ画像の取得(ステップS202)、及びマクロ画像を用いた撮像条件の設定(S203)を、高解像度の画像を取得するための試料Sの走査にある程度の時間がかかるミクロ画像の取得(S204)とは独立に行うことが可能となる。
Further, in the semi-automatic mode described above, the sample S from which the macro image is acquired by the macro
これにより、操作者は、複数の試料Sのそれぞれに対するマクロ画像の取得、及びマクロ画像を用いた撮像条件の設定、確認を終了した後は、ミクロ画像の取得は、設定された撮像条件を参照してミクロ画像取得制御部82によって自動で実行されるため、ミクロ画像の取得が完了するまで画像取得装置に付いている必要がなくなる。これにより、操作者の作業負担が大幅に軽減される。
Thereby, the operator refers to the set imaging condition for obtaining the micro image after completing the acquisition of the macro image for each of the plurality of samples S and the setting and confirmation of the imaging condition using the macro image. Since it is automatically executed by the micro image
なお、マクロ画像取得後の試料Sの待機位置については、上記実施形態においては、試料格納部11での格納位置を待機位置とし、マクロ画像が取得された試料Sを再び格納位置に戻す構成としている。これにより、顕微鏡部10の構成を簡素化することができる。あるいは、試料格納部11とは別に、複数の試料Sを待機させることが可能な試料待機部を設ける構成としても良い。
As for the standby position of the sample S after obtaining the macro image, in the above embodiment, the storage position in the
また、上記した画像取得装置は、複数の試料Sのそれぞれを、試料格納部11での格納位置と、待機位置(上記構成では格納位置と一致)と、マクロ画像取得部20及びミクロ画像取得部30のそれぞれでの画像取得位置との間で移動させる試料移動手段として、試料搬送部14、及びXYステージである試料ステージ15を設けている。このような構成では、試料Sを各位置の間で移動させつつ行われるマクロ画像の取得、撮像条件の設定、及びミクロ画像の取得を好適に実現することができる。
Moreover, the above-described image acquisition apparatus includes a plurality of samples S, each of which stores a storage position in the
また、ミクロ画像取得部30は、1次元画像の取得が可能な1次元センサ、または2次元画像の取得及びTDI駆動が可能なTDI駆動2次元センサからなる撮像装置31を有するとともに、撮像装置31での撮像面の長手方向に直交する方向を、ミクロ画像を取得する際の走査方向として構成されている。さらに、ミクロ画像取得制御部82は、撮像装置31によって試料Sを走査方向に走査して部分画像を取得し、この部分画像の取得を撮像面の長手方向に沿って撮像位置をずらしながら複数回繰返して、ミクロ画像となる複数の部分画像を取得させる制御を行っている。このような構成によれば、試料Sを一方向に走査したストリップ状の部分画像を高解像度で取得するとともに、他方向について複数の部分画像を合成して試料の全体のミクロ画像とすることで、試料Sの画像データを充分に高い解像度で好適に取得することができる。
The micro
また、上記した画像取得装置では、半自動モードにおいては、撮像条件設定部71が、マクロ画像に対応して自動で求められた撮像条件を、撮像条件の初期設定として表示装置61に表示し、その撮像条件を用いるか、あるいは手動で撮像条件を設定し直すかを操作者に選択させることとしている。このような構成によれば、例えば試料Sに余分な対象物があるなど問題がある場合には、操作者が手動で撮像条件を修正または新たに設定し、それ以外の場合には、自動で設定された撮像条件をそのまま利用する方法を用いることができる。このように、必要な場合のみ撮像条件を手動で設定することにより、撮像条件の設定を含む複数の試料Sの画像取得作業を効率的に行うことが可能となる。
In the image acquisition device described above, in the semi-automatic mode, the imaging
また、上記した画像取得装置では、撮像条件設定部71が、マクロ画像を参照して、ミクロ画像の撮像条件として画像取得範囲R及び焦点計測位置Pを設定し、ミクロ画像取得制御部82は、焦点計測位置Pに基づいて試料Sに対する焦点情報を取得するとともに、得られた焦点情報及び画像取得範囲Rに基づいてミクロ画像を取得させる制御を行っている。これにより、マクロ画像で得られる試料Sについての情報から、ミクロ画像取得に用いられるパラメータを好適に設定して、高解像度で良好な状態の試料の画像データを取得することが可能となる。
In the image acquisition device described above, the imaging
また、制御部60による画像取得動作の制御モードとしては、半自動モードに加えて、全自動モードを用意している。このような構成では、各試料に対するマクロ画像の取得、撮像条件の設定、及びミクロ画像の取得を制御する制御モードとして、半自動モードによる画像取得と、全自動モードによる画像取得とのいずれかを操作者が適宜選択することにより、画像取得の対象となる複数の試料Sの状態、例えば各試料Sにゴミが多いか少ないか等に応じて、好適な方法で画像取得を実行することが可能となる。
Further, as a control mode of the image acquisition operation by the
なお、これらの制御モードについては、例えば半自動モードの実行中での全自動モードへの切換えなど、制御モードの切換えを可能に構成しても良い。また、全自動モード及び半自動モードのいずれにおいても、画像取得処理が完了した後に、取得されたミクロ画像に問題があれば、その試料Sについて再度、画像取得をやり直すことが可能となっていることが好ましい。 Note that these control modes may be configured such that the control modes can be switched, such as switching to the fully automatic mode during execution of the semi-automatic mode. In both the fully automatic mode and the semi-automatic mode, if there is a problem with the acquired micro image after completing the image acquisition process, the image acquisition for the sample S can be performed again. Is preferred.
また、複数枚のスライドについて、全く同じ条件を設定することができる場合には、1枚目のスライドに対して手動で条件を設定し、その設定された条件を残りのスライドにも適用する構成としても良い。あるいは、制御部60内にてあらかじめ設定済みの条件を、1枚、または複数枚のスライドに対して適用しても良い。また、すべてのスライドについて全自動モードで画像取得を行った後、画像取得を失敗したものについてのみ、半自動で撮像条件を再設定して画像を取得し直すことを可能に構成しても良い。
Also, when exactly the same conditions can be set for a plurality of slides, a condition is set manually for the first slide, and the set conditions are applied to the remaining slides. It is also good. Alternatively, the conditions set in advance in the
本発明による画像取得装置、画像取得方法、及び画像取得プログラムは、上記実施形態及び構成例に限られるものではなく、様々な変形が可能である。例えば、上記実施形態においては、試料ステージ15によって、マクロ画像取得部20での画像取得位置、及びミクロ画像取得部30での画像取得位置の間で試料Sを移動させているが、マクロ画像取得部20及びミクロ画像取得部30で別々の試料ステージを設けても良い。この場合、試料移動手段は試料搬送部14のみから構成されることとなる。また、マクロ画像取得部20については、例えば試料搬送部14の所定位置に設ける構成、あるいは試料格納部11内に設ける構成など、様々な構成を用いて良い。
The image acquisition device, the image acquisition method, and the image acquisition program according to the present invention are not limited to the above-described embodiments and configuration examples, and various modifications are possible. For example, in the above embodiment, the sample S is moved between the image acquisition position in the macro
また、上記実施形態の画像取得装置では、マクロ画像取得部20と、ミクロ画像取得部30とを別個に備える構成としたが、マクロ画像またはミクロ画像の取得に応じて切換可能な画像取得用光学系を設けることにより、光源、画像取得手段を単一の光源、単一の画像取得手段として構成しても良い。この場合、切換可能な画像取得用光学系としては、マクロ画像取得用対物レンズと、ミクロ画像取得用対物レンズとを含むレボルバを備える光学系が例として挙げられる。
In the image acquisition device of the above embodiment, the macro
また、上記実施形態においては、ミクロ画像取得部30での撮像装置31として、1次元画像の取得が可能な撮像装置や、2次元画像の取得及びTDI駆動が可能な撮像装置を例示したが、これらに限定されるものではなく、例えば2次元CCDカメラ(エリアセンサ)などの撮像装置を用いても良い。この場合、米国特許第6816606号公報に開示されているように、高解像度のタイル画像を複数取得して合成することにより、試料Sの全体のミクロ画像を生成することができる。
In the above embodiment, the
また、上記実施形態においては、透過型の顕微鏡システムを用いて画像取得装置を構成したが、これに限定されない。例えば、蛍光観察の場合にあっては、光源を透過照明に代えて落射照明とし、反射型の顕微鏡システムとして構成すれば良い。 Moreover, in the said embodiment, although the image acquisition apparatus was comprised using the transmissive | pervious microscope system, it is not limited to this. For example, in the case of fluorescence observation, the light source may be epi-illumination instead of transmission illumination, and a reflection-type microscope system may be configured.
本発明は、複数の試料のそれぞれについての画像取得を効率良く実行することが可能な画像取得装置、画像取得方法、及び画像取得プログラムとして利用可能である。 The present invention can be used as an image acquisition device, an image acquisition method, and an image acquisition program that can efficiently execute image acquisition for each of a plurality of samples.
10…顕微鏡部、11…試料格納部、12…扉、13…インターロック機構、14…試料搬送部、15…試料ステージ、20…マクロ画像取得部、21…マクロ用撮像装置、22…撮像光学系、25…マクロ用光源、30…ミクロ画像取得部、31…ミクロ用撮像装置、32…対物レンズ、33…Zステージ、34…導光光学系、35…ミクロ用光源、36…集光レンズ、38…画像補正部、40…駆動制御部、41…ステージ制御部、42…撮像装置制御部、43…光源制御部、
60…制御部、61…表示装置、62…入力装置、70…データ処理部、71…撮像条件設定部、72…試料データ作成部、73…セッション管理部、75…データ記憶部、80…画像取得制御部、81…マクロ画像取得制御部、82…ミクロ画像取得制御部、83…セッション切換部。
DESCRIPTION OF
DESCRIPTION OF
Claims (16)
前記試料のマクロ画像を取得するためのマクロ画像取得手段と、
前記試料を前記マクロ画像よりも高解像度で走査して、そのミクロ画像を取得するためのミクロ画像取得手段と、
前記マクロ画像取得手段による前記マクロ画像の取得動作を制御するマクロ画像取得制御手段、前記マクロ画像を参照して前記ミクロ画像の撮像条件を設定する撮像条件設定手段、及び前記ミクロ画像取得手段による前記ミクロ画像の取得動作を制御するミクロ画像取得制御手段を有する制御手段とを備え、
前記撮像条件設定手段は、前記マクロ画像を参照して、前記ミクロ画像の前記撮像条件として画像取得範囲及び焦点計測位置を設定し、
前記ミクロ画像取得制御手段は、前記焦点計測位置に基づいて前記試料に対する焦点情報を取得するとともに、得られた前記焦点情報及び前記画像取得範囲に基づいて前記ミクロ画像を取得させる制御を行い、
前記制御手段は、その制御モードとして半自動モードを有し、
前記半自動モードにおいては、
前記マクロ画像取得制御手段は、前記複数の試料のそれぞれについて、前記試料格納手段で格納位置にある前記試料を前記マクロ画像取得手段での画像取得位置に配置して前記マクロ画像を取得させ、さらに前記試料を待機位置に配置させる制御を行い、
前記撮像条件設定手段は、前記マクロ画像が取得された前記試料について、前記マクロ画像、及びそれに対応する前記撮像条件を操作者に確認させて前記ミクロ画像の前記撮像条件を設定するとともに、最初の試料の前記マクロ画像が取得された後は、前記マクロ画像の取得と並行して、前記撮像条件の設定を行い、
前記ミクロ画像取得制御手段は、前記待機位置にあって前記撮像条件が設定された前記試料を前記ミクロ画像取得手段での画像取得位置に配置し、前記撮像条件を参照して前記ミクロ画像を取得させる制御を行うとともに、
前記半自動モードにおいては、
前記撮像条件設定手段は、前記マクロ画像に対応して自動で求められた前記撮像条件を表示手段に表示し、その撮像条件を用いるか、あるいは手動で撮像条件を設定し直すかを操作者に選択させる
ことを特徴とする画像取得装置。 Sample storage means for storing a plurality of samples;
Macro image acquisition means for acquiring a macro image of the sample;
A micro image acquisition means for scanning the sample at a higher resolution than the macro image and acquiring the micro image;
Macro image acquisition control means for controlling the macro image acquisition operation by the macro image acquisition means, imaging condition setting means for setting the imaging condition of the micro image with reference to the macro image, and the micro image acquisition means Control means having a micro image acquisition control means for controlling the micro image acquisition operation,
The imaging condition setting means refers to the macro image, sets an image acquisition range and a focus measurement position as the imaging condition of the micro image,
The micro image acquisition control means acquires focus information for the sample based on the focus measurement position, and performs control to acquire the micro image based on the obtained focus information and the image acquisition range,
The control means has a semi-automatic mode as its control mode,
In the semi-automatic mode,
The macro image acquisition control unit is configured to acquire the macro image by disposing the sample at the storage position by the sample storage unit at the image acquisition position by the macro image acquisition unit for each of the plurality of samples. Performing control to place the sample in a standby position;
The imaging condition setting means sets the imaging condition of the micro image by allowing an operator to confirm the macro image and the imaging condition corresponding to the macro image for the sample from which the macro image has been acquired . After the macro image of the sample is acquired, in parallel with the acquisition of the macro image, setting the imaging conditions ,
The micro image acquisition control unit arranges the sample at the standby position and for which the imaging condition is set at the image acquisition position of the micro image acquisition unit, and acquires the micro image with reference to the imaging condition. performs control to,
In the semi-automatic mode,
The imaging condition setting means displays the imaging condition automatically obtained corresponding to the macro image on a display means, and asks an operator whether to use the imaging condition or to manually reset the imaging condition. An image acquisition apparatus characterized by being selected .
前記全自動モードにおいては、
前記マクロ画像取得制御手段は、前記格納位置にある前記試料を前記マクロ画像取得手段での画像取得位置に配置して前記マクロ画像を取得させる制御を行い、
前記撮像条件設定手段は、前記マクロ画像が取得された前記試料について、前記マクロ画像に対応する前記ミクロ画像の前記撮像条件を自動で設定し、
前記ミクロ画像取得制御手段は、前記撮像条件が設定された前記試料を前記ミクロ画像取得手段での画像取得位置に配置し、前記撮像条件を参照して前記ミクロ画像を取得させる制御を行う
ことを特徴とする請求項1または2記載の画像取得装置。 The control means has a fully automatic mode as its control mode,
In the fully automatic mode,
The macro image acquisition control means performs control to acquire the macro image by arranging the sample in the storage position at the image acquisition position in the macro image acquisition means,
The imaging condition setting means automatically sets the imaging condition of the micro image corresponding to the macro image for the sample from which the macro image has been acquired,
The micro image acquisition control unit performs control for arranging the sample for which the imaging condition is set at an image acquisition position in the micro image acquisition unit and acquiring the micro image with reference to the imaging condition. The image acquisition apparatus according to claim 1 , wherein the image acquisition apparatus is an image acquisition apparatus.
前記撮像条件設定手段は、前記マクロ画像が取得された試料のリストを、対応する前記マクロ画像のサムネイル画像とともに表示するリスト表示部を含む操作画面を前記表示手段に表示し、前記リスト表示部において、自動設定による前記撮像条件である前記画像取得範囲及び前記焦点計測位置を前記サムネイル画像上に表示させることを特徴とする請求項1〜4のいずれか一項記載の画像取得装置。 The imaging condition setting unit displays an operation screen including a list display unit that displays a list of samples from which the macro image has been acquired together with a thumbnail image of the corresponding macro image on the display unit. 5. The image acquisition apparatus according to claim 1, wherein the image acquisition range and the focus measurement position which are the imaging conditions by automatic setting are displayed on the thumbnail image. 6.
前記撮像条件設定手段は、前記マクロ画像が取得された試料のリストを、対応する前記マクロ画像のサムネイル画像とともに表示するリスト表示部を含む操作画面を前記表示手段に表示し、前記操作画面上で選択した試料の前記マクロ画像をマクロ画像表示部に拡大表示させて前記撮像条件の設定を行うことを特徴とする請求項1〜5のいずれか一項記載の画像取得装置。 The imaging condition setting unit displays an operation screen including a list display unit that displays a list of samples from which the macro image has been acquired together with a thumbnail image of the corresponding macro image on the display unit. The image acquisition apparatus according to claim 1, wherein the imaging condition is set by magnifying and displaying the macro image of the selected sample on a macro image display unit.
前記試料のマクロ画像を取得するマクロ画像取得ステップと、
前記試料を前記マクロ画像よりも高解像度で走査して、そのミクロ画像を取得するミクロ画像取得ステップと、
前記マクロ画像取得ステップによる前記マクロ画像の取得動作を制御するマクロ画像取得制御ステップ、前記マクロ画像を参照して前記ミクロ画像の撮像条件を設定する撮像条件設定ステップ、及び前記ミクロ画像取得ステップによる前記ミクロ画像の取得動作を制御するミクロ画像取得制御ステップを有する制御ステップとを備え、
前記撮像条件設定ステップは、前記マクロ画像を参照して、前記ミクロ画像の前記撮像条件として画像取得範囲及び焦点計測位置を設定し、
前記ミクロ画像取得制御ステップは、前記焦点計測位置に基づいて前記試料に対する焦点情報を取得するとともに、得られた前記焦点情報及び前記画像取得範囲に基づいて前記ミクロ画像を取得させる制御を行い、
前記制御ステップは、その制御モードとして半自動モードを有し、
前記半自動モードにおいては、
前記マクロ画像取得制御ステップは、前記複数の試料のそれぞれについて、前記試料格納手段で格納位置にある前記試料を前記マクロ画像取得ステップでの画像取得位置に配置して前記マクロ画像を取得させ、さらに前記試料を待機位置に配置させる制御を行い、
前記撮像条件設定ステップは、前記マクロ画像が取得された前記試料について、前記マクロ画像、及びそれに対応する前記撮像条件を操作者に確認させて前記ミクロ画像の前記撮像条件を設定するとともに、最初の試料の前記マクロ画像が取得された後は、前記マクロ画像の取得と並行して、前記撮像条件の設定を行い、
前記ミクロ画像取得制御ステップは、前記待機位置にあって前記撮像条件が設定された前記試料を前記ミクロ画像取得ステップでの画像取得位置に配置し、前記撮像条件を参照して前記ミクロ画像を取得させる制御を行うとともに、
前記半自動モードにおいては、
前記撮像条件設定ステップは、前記マクロ画像に対応して自動で求められた前記撮像条件を表示手段に表示し、その撮像条件を用いるか、あるいは手動で撮像条件を設定し直すかを操作者に選択させる
ことを特徴とする画像取得方法。 For multiple samples stored in the sample storage means,
A macro image acquisition step of acquiring a macro image of the sample;
Scanning the sample at a higher resolution than the macro image to obtain a micro image;
The macro image acquisition control step for controlling the macro image acquisition operation by the macro image acquisition step, the imaging condition setting step for setting the imaging condition of the micro image with reference to the macro image, and the micro image acquisition step A control step having a micro image acquisition control step for controlling a micro image acquisition operation,
The imaging condition setting step refers to the macro image, sets an image acquisition range and a focus measurement position as the imaging condition of the micro image,
The micro image acquisition control step acquires focus information for the sample based on the focus measurement position, and performs control to acquire the micro image based on the obtained focus information and the image acquisition range,
The control step has a semi-automatic mode as its control mode,
In the semi-automatic mode,
In the macro image acquisition control step, for each of the plurality of samples, the sample in the storage position by the sample storage means is arranged at the image acquisition position in the macro image acquisition step, and the macro image is acquired. Performing control to place the sample in a standby position;
The imaging condition setting step sets an imaging condition of the micro image by allowing an operator to confirm the macro image and the imaging condition corresponding to the macro image for the sample from which the macro image has been acquired . After the macro image of the sample is acquired, in parallel with the acquisition of the macro image, setting the imaging conditions ,
In the micro image acquisition control step, the sample in which the imaging condition is set at the standby position is arranged at the image acquisition position in the micro image acquisition step, and the micro image is acquired with reference to the imaging condition. performs control to,
In the semi-automatic mode,
In the imaging condition setting step, the imaging condition automatically obtained corresponding to the macro image is displayed on the display means, and the operator is asked whether to use the imaging condition or to manually reset the imaging condition. An image acquisition method characterized by selecting .
前記全自動モードにおいては、
前記マクロ画像取得制御ステップは、前記格納位置にある前記試料を前記マクロ画像取得ステップでの画像取得位置に配置して前記マクロ画像を取得させる制御を行い、
前記撮像条件設定ステップは、前記マクロ画像が取得された前記試料について、前記マクロ画像に対応する前記ミクロ画像の前記撮像条件を自動で設定し、
前記ミクロ画像取得制御ステップは、前記撮像条件が設定された前記試料を前記ミクロ画像取得ステップでの画像取得位置に配置し、前記撮像条件を参照して前記ミクロ画像を取得させる制御を行う
ことを特徴とする請求項7または8記載の画像取得方法。 The control step has a fully automatic mode as its control mode,
In the fully automatic mode,
The macro image acquisition control step performs control to acquire the macro image by arranging the sample in the storage position at the image acquisition position in the macro image acquisition step,
The imaging condition setting step automatically sets the imaging condition of the micro image corresponding to the macro image for the sample from which the macro image is acquired,
In the micro image acquisition control step, the sample in which the imaging condition is set is arranged at an image acquisition position in the micro image acquisition step, and control is performed to acquire the micro image with reference to the imaging condition. The image acquisition method according to claim 7 or 8, characterized in that
前記撮像条件設定ステップは、前記マクロ画像が取得された試料のリストを、対応する前記マクロ画像のサムネイル画像とともに表示するリスト表示部を含む操作画面を前記表示手段に表示し、前記リスト表示部において、自動設定による前記撮像条件である前記画像取得範囲及び前記焦点計測位置を前記サムネイル画像上に表示させることを特徴とする請求項7〜9のいずれか一項記載の画像取得方法。 In the imaging condition setting step, an operation screen including a list display unit that displays a list of samples from which the macro image is acquired together with a thumbnail image of the corresponding macro image is displayed on the display unit. The image acquisition method according to any one of claims 7 to 9, wherein the image acquisition range and the focus measurement position which are the imaging conditions by automatic setting are displayed on the thumbnail image.
前記撮像条件設定ステップは、前記マクロ画像が取得された試料のリストを、対応する前記マクロ画像のサムネイル画像とともに表示するリスト表示部を含む操作画面を前記表示手段に表示し、前記操作画面上で選択した試料の前記マクロ画像をマクロ画像表示部に拡大表示させて前記撮像条件の設定を行うことを特徴とする請求項7〜10のいずれか一項記載の画像取得方法。 In the imaging condition setting step, an operation screen including a list display unit for displaying a list of samples from which the macro image is acquired together with a thumbnail image of the corresponding macro image is displayed on the display means, The image acquisition method according to any one of claims 7 to 10, wherein the imaging condition is set by enlarging and displaying the macro image of the selected sample on a macro image display unit.
前記試料のマクロ画像を取得するためのマクロ画像取得手段と、
前記試料を前記マクロ画像よりも高解像度で走査して、そのミクロ画像を取得するためのミクロ画像取得手段とを備える画像取得装置に適用され、
前記マクロ画像取得手段による前記マクロ画像の取得動作を制御するマクロ画像取得制御処理、前記マクロ画像を参照して前記ミクロ画像の撮像条件を設定する撮像条件設定処理、及び前記ミクロ画像取得手段による前記ミクロ画像の取得動作を制御するミクロ画像取得制御処理を有する制御処理を含み、
前記撮像条件設定処理は、前記マクロ画像を参照して、前記ミクロ画像の前記撮像条件として画像取得範囲及び焦点計測位置を設定し、
前記ミクロ画像取得制御処理は、前記焦点計測位置に基づいて前記試料に対する焦点情報を取得するとともに、得られた前記焦点情報及び前記画像取得範囲に基づいて前記ミクロ画像を取得させる制御を行い、
前記制御処理は、その制御モードとして半自動モードを有し、
前記半自動モードにおいては、
前記マクロ画像取得制御処理は、前記複数の試料のそれぞれについて、前記試料格納手段で格納位置にある前記試料を前記マクロ画像取得手段での画像取得位置に配置して前記マクロ画像を取得させ、さらに前記試料を待機位置に配置させる制御を行い、
前記撮像条件設定処理は、前記マクロ画像が取得された前記試料について、前記マクロ画像、及びそれに対応する前記撮像条件を操作者に確認させて前記ミクロ画像の前記撮像条件を設定するとともに、最初の試料の前記マクロ画像が取得された後は、前記マクロ画像の取得と並行して、前記撮像条件の設定を行い、
前記ミクロ画像取得制御処理は、前記待機位置にあって前記撮像条件が設定された前記試料を前記ミクロ画像取得手段での画像取得位置に配置し、前記撮像条件を参照して前記ミクロ画像を取得させる制御を行うとともに、
前記半自動モードにおいては、
前記撮像条件設定処理は、前記マクロ画像に対応して自動で求められた前記撮像条件を表示手段に表示し、その撮像条件を用いるか、あるいは手動で撮像条件を設定し直すかを操作者に選択させる前記制御処理をコンピュータに実行させる画像取得プログラム。 Sample storage means for storing a plurality of samples;
Macro image acquisition means for acquiring a macro image of the sample;
The sample is scanned at a higher resolution than the macro image, and is applied to an image acquisition device including a micro image acquisition means for acquiring the micro image,
Macro image acquisition control processing for controlling the macro image acquisition operation by the macro image acquisition means, imaging condition setting processing for setting the imaging conditions of the micro image with reference to the macro image, and the micro image acquisition means by the micro image acquisition means Including a control process having a micro image acquisition control process for controlling a micro image acquisition operation;
The imaging condition setting process refers to the macro image, sets an image acquisition range and a focus measurement position as the imaging condition of the micro image,
The micro image acquisition control process acquires focus information for the sample based on the focus measurement position, and performs control to acquire the micro image based on the obtained focus information and the image acquisition range,
The control process has a semi-automatic mode as its control mode,
In the semi-automatic mode,
The macro image acquisition control process, for each of the plurality of samples, arranges the sample at the storage position by the sample storage means at the image acquisition position by the macro image acquisition means, and acquires the macro image, Performing control to place the sample in a standby position;
The imaging condition setting process sets the imaging condition of the micro image by letting an operator confirm the macro image and the imaging condition corresponding to the macro image for the sample from which the macro image has been acquired . After the macro image of the sample is acquired, in parallel with the acquisition of the macro image, setting the imaging conditions ,
In the micro image acquisition control process, the sample in which the imaging condition is set at the standby position is arranged at an image acquisition position in the micro image acquisition unit, and the micro image is acquired with reference to the imaging condition. performs control to,
In the semi-automatic mode,
In the imaging condition setting process, the imaging condition automatically obtained corresponding to the macro image is displayed on a display unit, and the operator is asked whether to use the imaging condition or to manually reset the imaging condition. An image acquisition program for causing a computer to execute the control process to be selected .
前記全自動モードにおいては、
前記マクロ画像取得制御処理は、前記格納位置にある前記試料を前記マクロ画像取得手段での画像取得位置に配置して前記マクロ画像を取得させる制御を行い、
前記撮像条件設定処理は、前記マクロ画像が取得された前記試料について、前記マクロ画像に対応する前記ミクロ画像の前記撮像条件を自動で設定し、
前記ミクロ画像取得制御処理は、前記撮像条件が設定された前記試料を前記ミクロ画像取得手段での画像取得位置に配置し、前記撮像条件を参照して前記ミクロ画像を取得させる制御を行う前記制御処理をコンピュータに実行させる請求項12または13記載の画像取得プログラム。 The control process has a fully automatic mode as its control mode,
In the fully automatic mode,
The macro image acquisition control process performs control to acquire the macro image by arranging the sample in the storage position at the image acquisition position in the macro image acquisition means,
The imaging condition setting process automatically sets the imaging condition of the micro image corresponding to the macro image for the sample from which the macro image is acquired,
The control for performing the control for acquiring the micro image with reference to the imaging condition by arranging the sample for which the imaging condition has been set at an image acquisition position in the micro image acquisition unit in the micro image acquisition control process The image acquisition program according to claim 12 or 13, which causes a computer to execute processing.
前記撮像条件設定処理は、前記マクロ画像が取得された試料のリストを、対応する前記マクロ画像のサムネイル画像とともに表示するリスト表示部を含む操作画面を前記表示手段に表示し、前記リスト表示部において、自動設定による前記撮像条件である前記画像取得範囲及び前記焦点計測位置を前記サムネイル画像上に表示させることを特徴とする請求項12〜14のいずれか一項記載の画像取得プログラム。 In the imaging condition setting process, an operation screen including a list display unit that displays a list of samples from which the macro image is acquired together with a thumbnail image of the corresponding macro image is displayed on the display unit. The image acquisition program according to any one of claims 12 to 14, wherein the image acquisition range and the focus measurement position which are the imaging conditions by automatic setting are displayed on the thumbnail image.
前記撮像条件設定処理は、前記マクロ画像が取得された試料のリストを、対応する前記マクロ画像のサムネイル画像とともに表示するリスト表示部を含む操作画面を前記表示手段に表示し、前記操作画面上で選択した試料の前記マクロ画像をマクロ画像表示部に拡大表示させて前記撮像条件の設定を行うことを特徴とする請求項12〜15のいずれか一項記載の画像取得プログラム。 The imaging condition setting process displays an operation screen including a list display unit that displays a list of samples from which the macro image has been acquired together with a thumbnail image of the corresponding macro image on the operation screen. The image acquisition program according to any one of claims 12 to 15, wherein the imaging condition is set by enlarging and displaying the macro image of the selected sample on a macro image display unit.
Priority Applications (6)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2006055456A JP4917329B2 (en) | 2006-03-01 | 2006-03-01 | Image acquisition apparatus, image acquisition method, and image acquisition program |
US11/477,802 US8126250B2 (en) | 2006-03-01 | 2006-06-30 | Image acquiring apparatus, image acquiring method, and image acquiring program |
EP07250728A EP1830216B1 (en) | 2006-03-01 | 2007-02-21 | Image acquiring apparatus, image acquiring method, and image acquiring program |
DE602007012375T DE602007012375D1 (en) | 2006-03-01 | 2007-02-21 | Image capture device, image capture process and image capture program |
AT07250728T ATE498147T1 (en) | 2006-03-01 | 2007-02-21 | IMAGE CAPTURE DEVICE, IMAGE CAPTURE METHOD AND IMAGE CAPTURE PROGRAM |
ES07250728T ES2361054T3 (en) | 2006-03-01 | 2007-02-21 | IMAGE ACQUISITION DEVICE, IMAGE ACQUISITION METHOD AND IMAGE ACQUISITION PROGRAM. |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2006055456A JP4917329B2 (en) | 2006-03-01 | 2006-03-01 | Image acquisition apparatus, image acquisition method, and image acquisition program |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2007233093A JP2007233093A (en) | 2007-09-13 |
JP4917329B2 true JP4917329B2 (en) | 2012-04-18 |
Family
ID=38110440
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2006055456A Active JP4917329B2 (en) | 2006-03-01 | 2006-03-01 | Image acquisition apparatus, image acquisition method, and image acquisition program |
Country Status (6)
Country | Link |
---|---|
US (1) | US8126250B2 (en) |
EP (1) | EP1830216B1 (en) |
JP (1) | JP4917329B2 (en) |
AT (1) | ATE498147T1 (en) |
DE (1) | DE602007012375D1 (en) |
ES (1) | ES2361054T3 (en) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11555995B2 (en) | 2020-05-20 | 2023-01-17 | Evident Corporation | Microscope system, control method, and recording medium |
US11611722B2 (en) | 2020-05-20 | 2023-03-21 | Evident Corporation | Microscope system, control method, and recording medium |
Families Citing this family (18)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
FR2938064B1 (en) * | 2008-10-31 | 2011-05-20 | Novacyt | PROCESS FOR PREPARING A PROCESSED VIRTUAL ANALYSIS PLATE |
JP5400882B2 (en) * | 2009-06-30 | 2014-01-29 | 株式会社日立ハイテクノロジーズ | Semiconductor inspection apparatus and semiconductor inspection method using the same |
JP5537281B2 (en) | 2010-06-21 | 2014-07-02 | オリンパス株式会社 | Microscope device and image acquisition method |
US8388891B2 (en) * | 2010-12-28 | 2013-03-05 | Sakura Finetek U.S.A., Inc. | Automated system and method of processing biological specimens |
WO2012112697A2 (en) * | 2011-02-15 | 2012-08-23 | The Johns Hopkins University | Method and system to digitize pathology specimens in a stepwise fashion for review |
JP2013025466A (en) * | 2011-07-19 | 2013-02-04 | Sony Corp | Image processing device, image processing system and image processing program |
JP5732353B2 (en) * | 2011-08-31 | 2015-06-10 | 株式会社キーエンス | Magnification observation apparatus, magnification observation method, and magnification observation program |
JP6455829B2 (en) * | 2013-04-01 | 2019-01-23 | キヤノン株式会社 | Image processing apparatus, image processing method, and program |
WO2014179269A2 (en) * | 2013-04-30 | 2014-11-06 | Molecular Devices, Llc | Apparatus and method for generating in-focus images using parallel imaging in a microscopy system |
JP6127926B2 (en) * | 2013-11-11 | 2017-05-17 | ソニー株式会社 | Image processing apparatus and image processing method |
US10119901B2 (en) * | 2013-11-15 | 2018-11-06 | Mikroscan Technologies, Inc. | Geological scanner |
US10162166B2 (en) | 2014-10-28 | 2018-12-25 | Mikroscan Technologies, Inc. | Microdissection viewing system |
JP2016224190A (en) * | 2015-05-28 | 2016-12-28 | オリンパス株式会社 | Microscope device, shading correction device, shading correction method, and program |
CN105092582A (en) * | 2015-08-07 | 2015-11-25 | 苏州合惠生物科技有限公司 | Large-visual-field microscopic examination device and method for full-automatic immunohistochemistry |
US11280803B2 (en) * | 2016-11-22 | 2022-03-22 | Sakura Finetek U.S.A., Inc. | Slide management system |
WO2019165480A1 (en) | 2018-02-26 | 2019-08-29 | Caliber Imaging & Diagnostics, Inc. | System and method for macroscopic and microscopic imaging ex-vivo tissue |
WO2020091965A2 (en) | 2018-11-02 | 2020-05-07 | Hologic, Inc. | Digital imaging system and method |
WO2024176621A1 (en) * | 2023-02-24 | 2024-08-29 | 浜松ホトニクス株式会社 | Image acquisition device |
Family Cites Families (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US4367915A (en) * | 1978-06-29 | 1983-01-11 | Georges Michael P | Automatic microscope slide |
WO1997004347A1 (en) * | 1995-07-19 | 1997-02-06 | Morphometrix Technologies Inc. | Automated scanning of microscope slides |
US6404906B2 (en) * | 1997-03-03 | 2002-06-11 | Bacus Research Laboratories,Inc. | Method and apparatus for acquiring and reconstructing magnified specimen images from a computer-controlled microscope |
US6272235B1 (en) * | 1997-03-03 | 2001-08-07 | Bacus Research Laboratories, Inc. | Method and apparatus for creating a virtual microscope slide |
US6396941B1 (en) * | 1996-08-23 | 2002-05-28 | Bacus Research Laboratories, Inc. | Method and apparatus for internet, intranet, and local viewing of virtual microscope slides |
US6847729B1 (en) * | 1999-04-21 | 2005-01-25 | Fairfield Imaging Limited | Microscopy |
GB2348002B (en) * | 1999-07-20 | 2001-02-07 | Genpak Ltd | Microarrayer |
US6711283B1 (en) * | 2000-05-03 | 2004-03-23 | Aperio Technologies, Inc. | Fully automatic rapid microscope slide scanner |
US7155049B2 (en) | 2001-01-11 | 2006-12-26 | Trestle Acquisition Corp. | System for creating microscopic digital montage images |
US6816606B2 (en) * | 2001-02-21 | 2004-11-09 | Interscope Technologies, Inc. | Method for maintaining high-quality focus during high-throughput, microscopic digital montage imaging |
JP2003248176A (en) * | 2001-12-19 | 2003-09-05 | Olympus Optical Co Ltd | Microscopic image photographing device |
US7272252B2 (en) * | 2002-06-12 | 2007-09-18 | Clarient, Inc. | Automated system for combining bright field and fluorescent microscopy |
JP2004101871A (en) * | 2002-09-10 | 2004-04-02 | Olympus Corp | Photographing apparatus for microscope image |
JP4544850B2 (en) * | 2002-11-29 | 2010-09-15 | オリンパス株式会社 | Microscope image photographing device |
GB2398196B (en) * | 2003-02-05 | 2005-06-01 | Fairfield Imaging Ltd | Microscope system and method |
JP2005114859A (en) * | 2003-10-03 | 2005-04-28 | Nikon Corp | Microscope |
-
2006
- 2006-03-01 JP JP2006055456A patent/JP4917329B2/en active Active
- 2006-06-30 US US11/477,802 patent/US8126250B2/en active Active
-
2007
- 2007-02-21 DE DE602007012375T patent/DE602007012375D1/en active Active
- 2007-02-21 ES ES07250728T patent/ES2361054T3/en active Active
- 2007-02-21 AT AT07250728T patent/ATE498147T1/en not_active IP Right Cessation
- 2007-02-21 EP EP07250728A patent/EP1830216B1/en active Active
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11555995B2 (en) | 2020-05-20 | 2023-01-17 | Evident Corporation | Microscope system, control method, and recording medium |
US11611722B2 (en) | 2020-05-20 | 2023-03-21 | Evident Corporation | Microscope system, control method, and recording medium |
Also Published As
Publication number | Publication date |
---|---|
US8126250B2 (en) | 2012-02-28 |
DE602007012375D1 (en) | 2011-03-24 |
EP1830216A1 (en) | 2007-09-05 |
ES2361054T3 (en) | 2011-06-13 |
US20070206096A1 (en) | 2007-09-06 |
JP2007233093A (en) | 2007-09-13 |
EP1830216B1 (en) | 2011-02-09 |
ATE498147T1 (en) | 2011-02-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4917329B2 (en) | Image acquisition apparatus, image acquisition method, and image acquisition program | |
JP4917331B2 (en) | Image acquisition apparatus, image acquisition method, and image acquisition program | |
JP4917330B2 (en) | Image acquisition apparatus, image acquisition method, and image acquisition program | |
US7248403B2 (en) | Microscopic image capture apparatus and microscopic image capturing method | |
US20070058054A1 (en) | Observation apparatus | |
JP4973162B2 (en) | Image processing apparatus, image processing program, and observation system | |
CN102313980A (en) | Signal conditioning package, dressing table fluctuation correcting method and program | |
JP2007102190A (en) | Observation apparatus and observation method | |
JP2008051773A (en) | Fluorescence image acquisition device and fluorescence image acquisition method | |
EP2804039A1 (en) | Microscope system and method for deciding stitched area | |
JP2012003214A (en) | Information processor, information processing method, program, imaging device and imaging device having light microscope | |
JP2016125913A (en) | Image acquisition device and control method of image acquisition device | |
JP4878815B2 (en) | Microscope equipment | |
US20180081162A1 (en) | Microscopy system, microscopy method, and computer-readable recording medium | |
JP2006284965A (en) | Microscope device and enlarged image generating method | |
JP2008051772A (en) | Fluorescence image acquisition device and fluorescence image acquisition method | |
JP5019279B2 (en) | Confocal microscope and method for generating focused color image | |
US20130016192A1 (en) | Image processing device and image display system | |
WO2021186637A1 (en) | Charged particle beam device | |
JP2006189510A (en) | Microscope apparatus and magnified image forming method | |
JP4822920B2 (en) | Three-dimensional image construction method and transmission electron microscope | |
JP2017072785A (en) | microscope |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20090217 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20110831 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20110906 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20111101 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20120124 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20120126 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20150203 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 4917329 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |