Nothing Special   »   [go: up one dir, main page]

JP3862582B2 - 蛍光画像取得方法および装置並びにプログラム - Google Patents

蛍光画像取得方法および装置並びにプログラム Download PDF

Info

Publication number
JP3862582B2
JP3862582B2 JP2002089107A JP2002089107A JP3862582B2 JP 3862582 B2 JP3862582 B2 JP 3862582B2 JP 2002089107 A JP2002089107 A JP 2002089107A JP 2002089107 A JP2002089107 A JP 2002089107A JP 3862582 B2 JP3862582 B2 JP 3862582B2
Authority
JP
Japan
Prior art keywords
fluorescence
image
observation unit
area
disturbing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2002089107A
Other languages
English (en)
Other versions
JP2003079568A (ja
Inventor
知成 千代
克巳 林
Original Assignee
富士フイルムホールディングス株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority to JP2002089107A priority Critical patent/JP3862582B2/ja
Application filed by 富士フイルムホールディングス株式会社 filed Critical 富士フイルムホールディングス株式会社
Priority to DE60229983T priority patent/DE60229983D1/de
Priority to EP02014010A priority patent/EP1275338B1/en
Priority to EP05002909A priority patent/EP1535569B1/en
Priority to DE60230365T priority patent/DE60230365D1/de
Priority to EP05002895A priority patent/EP1535568B1/en
Priority to DE60229793T priority patent/DE60229793D1/de
Priority to US10/186,390 priority patent/US20030001104A1/en
Publication of JP2003079568A publication Critical patent/JP2003079568A/ja
Application granted granted Critical
Publication of JP3862582B2 publication Critical patent/JP3862582B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0059Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
    • A61B5/0071Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence by measuring fluorescence emission
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/043Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances for fluorescence imaging
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/05Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances characterised by the image sensor, e.g. camera, being in the distal end portion
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/0638Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements providing two or more wavelengths
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0059Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
    • A61B5/0082Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence adapted for particular medical purposes
    • A61B5/0084Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence adapted for particular medical purposes for introduction into the body, e.g. by catheters
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00163Optical arrangements
    • A61B1/00186Optical arrangements with imaging filters
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/0646Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements with illumination filters

Landscapes

  • Life Sciences & Earth Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Surgery (AREA)
  • Engineering & Computer Science (AREA)
  • Biophysics (AREA)
  • Public Health (AREA)
  • Veterinary Medicine (AREA)
  • Physics & Mathematics (AREA)
  • Pathology (AREA)
  • General Health & Medical Sciences (AREA)
  • Animal Behavior & Ethology (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Medical Informatics (AREA)
  • Molecular Biology (AREA)
  • Radiology & Medical Imaging (AREA)
  • Optics & Photonics (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Signal Processing (AREA)
  • Endoscopes (AREA)
  • Investigating, Analyzing Materials By Fluorescence Or Luminescence (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、励起光を含む照明光を観察部に照射し、この励起光の照射により観察部から得られた蛍光に基づいて、観察部の蛍光診断画像を取得する蛍光画像取得方法および装置並びに蛍光画像取得方法をコンピュータに実行させるためのプログラムに関するものである。
【0002】
【従来の技術】
従来より、生体内在色素の励起光波長領域にある励起光を生体組織である観察部に照射した場合に、正常組織と病変組織とでは発生する蛍光強度が異なることを利用して、生体組織に所定波長領域の励起光を照射し、生体内在色素が発する蛍光を検出することにより病変組織の局在、浸潤範囲を認識する蛍光検出装置が提案されている。
【0003】
通常、生体組織に励起光を照射すると、図15に実線で示すように正常組織からは強い蛍光が発せられ、病変組織からは破線で示すように正常組織から発せられる蛍光より弱い蛍光が発せられるため、蛍光強度を測定することにより、生体組織が正常であるか病変状態にあるかを判定することができる。
【0004】
さらに、蛍光を撮像素子等により撮像し、蛍光の強度に応じた蛍光診断画像として表示する方法も提案されている。ここで、生体組織には凹凸があるため、生体組織に照射される励起光の強度は均一ではない。また、生体組織から発せられる蛍光強度は励起光照度に略比例するが、励起光照度は距離の2乗に反比例して低下する。このため、光源から遠くにある正常組織からよりも近くにある病変組織からの方が強い蛍光を受光する場合があり、励起光による蛍光の強度の情報だけでは生体組織の組織性状を正確に識別することができない。このような不具合を低減するために、異なる波長帯域(480nm付近の狭帯域および430nm近傍から730nm近傍の広帯域)の蛍光像における2種類の蛍光強度の比率を除算により求め、その除算値に基づく演算画像を蛍光診断画像として表示する方法、すなわち、生体の組織性状を反映した蛍光スペクトルの形状の違いに基づいた画像表示方法や、種々の生体組織に対して一様な吸収を受ける近赤外光を参照光として生体組織に照射し、この参照光の照射を受けた生体組織によって反射された反射光の強度を検出して蛍光強度との比率を除算により求め、その除算値に基づく演算画像を蛍光診断画像として表示する方法、すなわち、蛍光収率を反映した値を求めて画像表示する方法等が提案されている。また、異なる波長帯域の蛍光強度の除算値または蛍光強度と参照光の照射による反射光の強度の除算値に色の情報を割り当てて蛍光診断画像を生成し、蛍光診断画像における色の違いにより生体組織の病変状態を表す方法や、その色の違いにより生体組織の病変状態を示す色画像と参照光の照射による反射光の強度に輝度の情報を割り当てることにより得られた輝度画像とを合成することにより、生体組織の形状も画像に反映させた凹凸感のある蛍光診断画像を表示する方法等も提案されている(米国特許第5590660号、同第5647368号、特開平9−308604号公報、同10−225436号公報、特開2001−157658号等)。
【0005】
このようにして蛍光診断画像を取得し、モニタ等に表示して観察することにより、生体組織が正常であるか病変状態にあるか否かを正確に判定することができる。
【0006】
【発明が解決しようとする課題】
ところで、生体組織に血液、粘液、消化液、唾液、泡、残渣等(以下妨害因子とする)が付着している場合に生体組織を撮像して蛍光診断画像を取得すると、妨害因子も同時に撮像されることから、蛍光診断画像には妨害因子の画像が含まれることとなる。ここで、生体組織に妨害因子が付着していると、妨害因子が付着している部分において蛍光強度が低下したり、600nm以上の長波長での蛍光が発生したりする。このため、妨害因子が含まれる蛍光診断画像を用いて診断を行う場合、妨害因子が付着した部分については、正常組織であるにも拘わらず病変組織と判断するおそれがある。以下、妨害因子を原因とする誤判断について説明する。
【0007】
生体組織に励起光を照射することにより得られる蛍光の強度スペクトルは、上記図15に示すものとなり、この蛍光強度スペクトルを規格化(全波長域に亘る積分値が1となるようにする)することにより得られる規格化蛍光強度スペクトルは図16に示すものとなる。図15に示すように、正常組織と病変組織とでは蛍光強度(全波長域に亘る積分値)は明らかに異なり、さらに、図16に示すように規格化蛍光強度スペクトルにおいて、病変組織は480nm付近の相対強度が正常組織と比較して低下し、さらに630nm付近において相対強度が正常組織よりも大きくなる。したがって、蛍光強度および規格化蛍光強度スペクトルに基づいて、生体組織が正常であるか病変であるかを認識することができる。
【0008】
一方、残渣に励起光を照射することにより得られる蛍光の強度スペクトルを図17に、規格化蛍光強度スペクトルを図18にそれぞれ示す。図17に示すように、残渣の場合、蛍光強度が正常組織の蛍光強度と同程度となるが、図18に示すように規格化蛍光強度スペクトルにおいては、480nm付近の相対強度が正常組織と比較して低下し、さらに670nm付近において相対強度が正常組織よりも大きくなる。したがって、例えば上述した2種類の蛍光の強度の除算値に基づく演算画像を蛍光診断画像とする方法のように、規格化蛍光強度スペクトルの形状を反映させた蛍光診断画像を得る場合、残渣が存在する部分は病変組織と同様の画素値となることから、正常組織であるにもかかわらず残渣の存在によりその部分を病変組織と診断するおそれがある。
【0009】
本発明は上記事情に鑑みなされたものであり、蛍光診断画像を用いての診断を正確に行うことができる蛍光画像取得方法および装置並びに蛍光画像取得方法をコンピュータに実行させるためのプログラムを提供することを目的とするものである。
【0010】
【課題を解決するための手段】
本発明による蛍光画像取得方法は、励起光を含む照明光を観察部に照射することにより該観察部において得られる蛍光に基づいて、該観察部の蛍光診断画像を取得する蛍光画像取得方法において、
前記観察部に付着した妨害因子を表す妨害領域を検出することを特徴とするものである。
【0011】
「蛍光診断画像」としては、励起光の照射により観察部から発せられた蛍光の強度に応じた画像、異なる波長帯域において取得した2種類の蛍光強度の比率を表す画像、蛍光強度と参照光の照射により観察部から得られた反射光の強度との比率を表す画像、異なる波長帯域の蛍光強度の比率または蛍光強度と参照光の照射による反射光の強度の比率に色の情報を割り当てた画像、あるいはこの色の情報を割り当てた色画像と参照光の照射による反射光の強度に輝度の情報を割り当てることにより得られた輝度画像との合成画像等を用いることができる。
【0012】
「色の情報」とは、例えば、顕色系(HSB/HVC/Lab/Luv/La**/Lu**色空間)や混色系(XYZ色空間)の色相、彩度、色度(色相および彩度)、TV信号等に代表される映像信号の色差(例えばNTSC信号のYIQのYIQ、YCbCrのCbCr等)、色信号(R,G,BまたはC,M,Y,G)の混合比率等を意味する。
【0013】
「輝度の情報」とは、例えば、顕色系(HSB/HVC/Lab/Luv/La**/Lu**色空間)や混色系(XYZ色空間)の明度、輝度、TV信号等に代表される映像信号の輝度(例えばNTSC信号のYIQのYIQ、YCbCrのCbCr等)等を意味する。
【0014】
「妨害領域」とは、観察部において血液、粘液、消化液、唾液、泡、残渣等の妨害因子が付着した箇所を表す領域を意味する。この妨害領域は、正常組織であるにも拘わらず病変組織と判断される蓋然性が高い領域である。なお、本発明においては、妨害領域に対応する蛍光診断画像上の領域、および妨害領域に対応する通常画像上の領域についても、妨害領域と称するものとする。
【0015】
なお、本発明による蛍光画像取得方法においては、白色光を前記観察部に照射することにより該観察部において得られる反射光に基づいて、該観察部の通常画像をさらに取得し、
該通常画像の色情報に基づいて前記妨害領域を検出するようにしてもよい。
【0016】
また、本発明による蛍光画像取得方法においては、前記蛍光に基づいて前記観察部の蛍光情報を取得し、
該蛍光情報に基づいて前記妨害領域を検出するようにしてもよい。
【0017】
この場合、前記蛍光情報としては、前記蛍光の強度、および異なる波長帯域において取得した複数の蛍光強度の比率を表す蛍光演算値を用いることができる。
【0018】
また、この場合、前記蛍光の強度および前記蛍光演算値のいずれか一方(例えば蛍光の強度)に基づいて、前記観察部における仮妨害領域を検出し、
該仮妨害領域において前記蛍光の強度および前記蛍光演算値のいずれか他方(例えば蛍光演算値)に基づいて、前記妨害領域を検出するようにしてもよい。
【0019】
また、本発明による蛍光画像取得方法においては、白色光を前記観察部に照射することにより該観察部において得られる反射光に基づいて、該観察部の通常画像をさらに取得し、
前記蛍光に基づいて前記観察部の蛍光情報を取得し、
前記通常画像の色情報および前記蛍光情報に基づいて前記妨害領域を検出するようにしてもよい。
【0020】
この場合、前記蛍光情報としては、前記蛍光の強度または異なる波長帯域において取得した複数の蛍光強度の比率を表す蛍光演算値を用いることができる。
【0021】
また、この場合、前記色情報、および前記蛍光の強度または前記蛍光演算値のいずれか(例えば色情報)に基づいて、前記観察部における仮妨害領域を検出し、
該仮妨害領域において、該仮妨害領域の検出に用いた以外の情報(例えば蛍光の強度または蛍光演算値)に基づいて、前記妨害領域を検出することが好ましい。
【0022】
さらに、前記蛍光情報としては、前記蛍光の強度および異なる波長帯域において取得した複数の蛍光強度の比率を表す蛍光演算値を用いてもよく、この場合、前記色情報、前記蛍光の強度および前記蛍光演算値のいずれか(例えば色情報)に基づいて、前記観察部における第1の仮妨害領域を検出し、
該第1の仮妨害領域において、該第1の仮妨害領域の検出に用いた以外の情報(例えば蛍光の強度)に基づいて、前記観察部における第2の仮妨害領域を検出し、
該第2の仮妨害領域において、該第2の仮妨害領域の検出に用いた以外のいずれかの情報(例えば蛍光演算値)に基づいて、前記妨害領域を検出するようにしてもよい。
【0023】
また、本発明による蛍光画像取得方法においては、前記蛍光診断画像の前記妨害領域に対して例外表示処理を施し、該例外表示処理が施された蛍光診断画像を表示するようにしてもよい。
【0024】
「例外表示処理」とは、蛍光診断画像に含まれる妨害領域の画像を、一見してそれが妨害領域であると認識できるような態様にて表示可能とする処理をいう。具体的には、妨害領域の画像を他の領域の画像が取り得ない色となるような処理とすればよい。例えば、蛍光診断画像が有彩色であれば、妨害領域の画像を無彩色としたり、逆に蛍光診断画像が無彩色であれば、妨害領域の画像を有彩色としたり、さらには蛍光診断画像が正常組織から病変組織の変化に応じて、緑色から黄色を経て赤色に変化するものである場合には、妨害領域の画像を青色としたりすればよい。また、妨害領域の画像を背景と同一色としたり、妨害領域の画像を透明としてもよい。また、蛍光診断画像に含まれる妨害領域以外の画像を透明としてもよい。さらに、蛍光診断画像において病変組織と見なせる部分に矢印等のマーカを表示する場合があるが、このような場合には、妨害領域にマーカを付与しないようにする処理も例外表示処理に含むものである。
【0025】
本発明による蛍光画像取得装置は、励起光を含む照明光を観察部に照射することにより該観察部において得られる蛍光に基づいて、該観察部の蛍光診断画像を取得する蛍光診断画像取得手段を備えた蛍光画像取得装置において、
前記観察部に付着した妨害因子を表す妨害領域を検出する妨害領域検出手段を備えたことを特徴とするものである。
【0026】
なお、本発明による蛍光画像取得装置においては、白色光を前記観察部に照射することにより該観察部において得られる反射光に基づいて、該観察部の通常画像をさらに取得する通常画像取得手段をさらに備えるものとし、
前記妨害領域検出手段を、前記通常画像の色情報に基づいて前記妨害領域を検出する手段としてもよい。
【0027】
また、本発明による蛍光画像取得装置においては、前記妨害領域検出手段を、前記蛍光に基づいて前記観察部の蛍光情報を取得し、該蛍光情報に基づいて前記妨害領域を検出する手段としてもよい。
【0028】
この場合、前記蛍光情報は、前記蛍光の強度、および異なる波長帯域において取得した複数の蛍光強度の比率を表す蛍光演算値を用いることができる。
【0029】
また、この場合、前記妨害領域検出手段を、前記蛍光の強度および前記蛍光演算値のいずれか一方に基づいて、前記観察部における仮妨害領域を検出し、該仮妨害領域において前記蛍光の強度および前記蛍光演算値のいずれか他方に基づいて、前記妨害領域を検出する手段としてもよい。
【0030】
さらに、本発明による蛍光画像取得装置においては、白色光を前記観察部に照射することにより該観察部において得られる反射光に基づいて、該観察部の通常画像をさらに取得する通常画像取得手段をさらに備えるものとし、
前記妨害領域検出手段を、前記蛍光に基づいて前記観察部の蛍光情報を取得し、前記通常画像の色情報および前記蛍光情報に基づいて前記妨害領域を検出する手段としてもよい。
【0031】
この場合、前記蛍光情報としては、前記蛍光の強度または異なる波長帯域において取得した複数の蛍光強度の比率を表す蛍光演算値を用いることができる。
【0032】
また、この場合、前記妨害領域検出手段を、前記色情報、および前記蛍光の強度または前記蛍光演算値のいずれかに基づいて、前記観察部における仮妨害領域を検出し、該仮妨害領域において、該仮妨害領域の検出に用いた情報以外の情報に基づいて、前記妨害領域を検出する手段としてもよい。
【0033】
さらに、前記蛍光情報としては、前記蛍光の強度および異なる波長帯域において取得した複数の蛍光強度の比率を表す蛍光演算値を用いることができる。
【0034】
この場合、前記妨害領域検出手段を、前記色情報、前記蛍光の強度および前記蛍光演算値のいずれかに基づいて、前記観察部における第1の仮妨害領域を検出し、該第1の仮妨害領域において、該第1の仮妨害領域の検出に用いた情報以外のいずれかの情報に基づいて、前記観察部における第2の仮妨害領域を検出し、該第2の仮妨害領域において、前記第1および前記第2の仮妨害領域の検出に用いた情報以外の情報に基づいて、前記妨害領域を検出する手段としてもよい。
【0035】
また、本発明による蛍光画像取得装置においては、前記蛍光診断画像の前記妨害領域に対して例外表示処理を施す例外表示処理手段と、
該例外表示処理が施された蛍光診断画像を表示する表示手段とをさらに備えることが好ましい。
【0036】
さらに、本発明による蛍光画像取得装置においては、前記蛍光診断画像取得手段の一部または全部が、生体内部に挿入される内視鏡の形態であることが好ましい。
【0037】
なお、本発明による蛍光画像取得方法をコンピュータに実行させるためのプログラムとして提供してもよい。
【0038】
【発明の効果】
本発明によれば、蛍光診断画像を取得するに際し、蛍光診断画像において、観察部に付着した妨害因子を表す妨害領域を検出するようにしたため、検出した妨害領域を他の領域と異なる色としたり、妨害領域を除去等して蛍光診断画像を表示することにより、妨害領域が病変組織であると診断するおそれがなくなる。したがって、蛍光診断画像を用いての診断を正確に行うことができることとなる。
【0039】
また、白色光を観察部に照射することにより得られる反射光に基づいて観察部の通常画像を取得した場合、通常画像における妨害領域は通常画像内の他の領域とは色が異なるものとなる。したがって、通常画像の色情報に基づくことにより、妨害領域を正確に検出することができる。
【0040】
また、励起光を妨害因子を含む観察部に照射することにより得られる蛍光の強度を複数の波長帯域において取得し、これら複数の蛍光強度の比率を表す蛍光演算値を算出した場合、妨害領域における蛍光演算値は病変組織に近い値となる。一方、観察部の妨害因子から発生する蛍光強度は正常組織の蛍光強度に近い値となる。したがって、蛍光の強度および上記蛍光演算値等の蛍光情報に基づくことにより、観察部における妨害領域と他の領域とを識別することができる。したがって、蛍光情報に基づくことにより、妨害領域を正確に検出することができる。
【0041】
とくに、蛍光の強度および蛍光演算値に基づいて妨害領域を検出する際に、蛍光の強度および蛍光演算値のいずれか一方に基づいて仮妨害領域を検出し、さらにこの仮妨害領域において蛍光の強度および蛍光演算値の他方に基づいて妨害領域を検出することにより、仮妨害領域からの妨害領域の検出については、観察部の全領域についての蛍光情報から妨害領域を検出する場合と比較して、検出のための演算量を低減することができる。例えば、蛍光の強度に基づいて仮妨害領域を検出した場合、仮妨害領域についてのみ蛍光演算値に基づく妨害領域の検出を行えばよくなる。一方、蛍光演算値に基づいて仮妨害領域を検出した場合、仮妨害領域についてのみ蛍光強度に基づく妨害領域の検出を行えばよくなる。したがって、妨害領域検出のための演算量を低減して、より高速に妨害領域を検出することができる。
【0042】
また、通常画像の色情報および蛍光情報に基づいて妨害領域を検出することにより、妨害領域検出のためのパラメータを増やすことができ、これにより妨害領域をより正確に検出することができる。
【0043】
さらに、色情報および蛍光の強度または蛍光演算値を用いて妨害領域を検出する際に、色情報および蛍光の強度または蛍光演算値のいずれかに基づいて仮妨害領域を検出し、仮妨害領域において、仮妨害領域の検出に用いた情報以外の情報に基づいて妨害領域を検出することにより、仮妨害領域からの妨害領域の検出については、観察部の全領域についての色情報および蛍光情報から妨害領域を検出する場合と比較して、検出のための演算量を低減することができ、その結果、より高速に妨害領域を検出することができる。
【0044】
また、色情報、蛍光の強度および蛍光演算値を用いて妨害領域を検出する際に、色情報、蛍光の強度および蛍光演算値のいずれかに基づいて第1の仮妨害領域を検出し、第1の仮妨害領域において、第1の仮妨害領域の検出に用いた情報以外のいずれかの情報に基づいて第2の仮妨害領域を検出し、第2の仮妨害領域において、第1および第2の仮妨害領域の検出に用いた情報以外の情報に基づいて妨害領域を検出することにより、第1の仮妨害領域からの第2の仮妨害領域の検出、および第2の仮妨害領域からの妨害領域の検出については、観察部の全領域についての色情報および蛍光情報から妨害領域を検出する場合と比較して、検出のための演算量を低減することができ、その結果、より高速に妨害領域を検出することができる。
【0045】
さらに、蛍光診断画像を表示する際に、蛍光診断画像における妨害領域に対して例外表示処理を施すことにより、表示された蛍光診断画像を観察すれば、一見して妨害領域を視認することができる。したがって、妨害領域を病変組織と誤認するおそれがなくなり、蛍光診断画像を用いての診断をより正確に行うことができることとなる。
【0046】
また、例えば、蛍光診断画像に含まれる妨害領域以外の画像を透明とした画像を、通常画像に重畳して表示すれば、この通常画像を観察すれば、一見して妨害領域を視認することができる。したがって、妨害領域の中にある病変組織を見落とすおそれがなくなり、蛍光診断画像を用いての診断を一層正確に行うことができることとなる。
【0047】
【発明の実施の形態】
以下図面を参照して本発明の実施形態について説明する。図1は本発明の実施形態による蛍光画像取得装置を適用した蛍光内視鏡装置の概略構成図である。本発明の第1の実施形態による蛍光内視鏡装置は、励起光が照射された観察部から発せられた蛍光をイメージファイバにより2次元的に検出し、波長帯域が430nm〜530nmの蛍光から得られる狭帯域蛍光画像と波長帯域が430nm〜730nmの蛍光から得られる広帯域蛍光画像とを撮像し、両蛍光の光強度すなわち広帯域蛍光画像および狭帯域蛍光画像の各画素における画素値の除算値に基づいて色相画像を生成し、また白色光を照射された観察部の反射光からIR反射画像を撮像し、IR反射光の光強度すなわちIR反射画像の各画素の画素値に基づいて明度画像を生成し、両画像を合成した合成画像を蛍光診断画像としてモニタに表示するものである。
【0048】
図1に示すように、本発明の第1の実施形態による蛍光内視鏡装置は、患者の病巣と疑われる部位に挿入される内視鏡挿入部100および画像処理部1からなる。
【0049】
画像処理部1は、通常画像およびIR反射画像撮像用の白色光L1(参照光L5を含む)および蛍光画像撮像用の励起光L2を射出する光源を備える照明ユニット110、観察部10についての波長帯域が異なる2種類の蛍光画像およびIR反射画像を撮像して蛍光画像データK1,K2およびIR反射画像データF1を得る撮像ユニット120、各蛍光画像データK1,K2により表される蛍光画像間における対応する画素値の除算値を算出して除算値に基づいた色相画像データHと、IR反射画像データF1により表されるIR反射画像の各画素の画素値に基づいた明度画像データVとを生成し、色相画像データHおよび明度画像データVを合成し、さらに後述する例外表示処理を施して処理済みの蛍光診断画像を表す処理済み蛍光診断画像データKPを生成する蛍光診断画像生成ユニット130、通常画像を表す通常画像データNおよび処理済み蛍光診断画像データKPに対して、可視画像として表示するための画像処理を行う画像処理ユニット140、後述する妨害領域の検出を行う妨害領域検出ユニット150、各ユニットに接続され、動作タイミングの制御を行うコントローラ160、画像処理ユニット140において処理された通常画像データNを可視画像として表示するモニタ170、並びに画像処理ユニット140において処理された処理済み蛍光診断画像データKPを可視画像として表示するモニタ180から構成されている。
【0050】
内視鏡挿入部100は、内部に先端まで延びるライトガイド101、CCDケーブル102およびイメージファイバ103を備えている。ライトガイド101およびCCDケーブル102の先端部、すなわち内視鏡挿入部100の先端部には、照明レンズ104および対物レンズ105を備えている。また、イメージファイバ103は石英ガラスファイバであり、その先端部には集光レンズ106を備えている。CCDケーブル102の先端部には、図示省略されたカラーフィルタがオンチップされたCCD撮像素子107が接続され、CCD撮像素子107には、プリズム108が取り付けられている。また、CCD撮像素子107とプリズム108との間には、CCD撮像素子107の各画素に対応させてR,G,Bのバンドパスフィルタがモザイク状に配列されたRGBフィルタ109が配設されている。ライトガイド101は、多成分ガラスファイバである白色光ライトガイド101aおよび石英ガラスファイバである励起光ライトガイド101bがバンドルされ、ケーブル状に一体化されており、白色光ライトガイド101aおよび励起光ライトガイド101bは照明ユニット110へ接続されている。CCDケーブル102の一端は、画像処理ユニット140に接続され、イメージファイバ103の一端は、撮像ユニット120へ接続されている。
【0051】
なお、R,G,BのバンドパスフィルタからなるRGBフィルタ109に代えて、図2に示すように、C(シアン)、Y(イエロー)およびG(グリーン)のバンドパスフィルタからなるCYGフィルタを用いてもよい。
【0052】
照明ユニット110は、通常画像およびIR反射画像撮像用の白色光L1(近赤外光からなる参照光L5を含む)を発するハロゲンランプ等の白色光源111、白色光源111に電気的に接続された白色光源用電源112、白色光源111から射出された白色光を集光する白色光用集光レンズ113、蛍光画像撮像用の励起光L2を発するGaN系半導体レーザ114、GaN系半導体レーザ114に電気的に接続されている励起光用電源115、およびGaN系半導体レーザ114から射出される励起光を集光する励起光用集光レンズ116を備えている。なお、参照光L5を射出する参照光源を白色光源111とは別個に設けるようにしてもよい。
【0053】
撮像ユニット120は、イメージファイバ103により伝搬された蛍光L3を結像系に導くコリメートレンズ128、蛍光L3から励起光近傍の420nm以下の波長帯域をカットする励起光カットフィルタ121、3種類の光学フィルタが組み合わされた切換フィルタ122、切換フィルタ122を回転させるモータ等のフィルタ回転装置124、切換フィルタ122を透過した反射光L6および蛍光L3を結像させる集光レンズ129、集光レンズ129により結像された反射光L6および蛍光L3により表されるIR反射画像および蛍光画像を撮像するCCD撮像素子125、CCD撮像素子125において取得された撮像信号をデジタル化して2種類の蛍光画像データK1,K2およびIR反射画像データF1を得るA/D変換回路126を備えている。
【0054】
図3は切換フィルタの構成を示す図である。図3に示すように、切換フィルタ122は、430nm〜730nmの光を透過させるバンドパスフィルタである光学フィルタ123a、480nm±50nmの光を透過させるバンドパスフィルタである光学フィルタ123b、および750nm〜900nmの光を透過させるバンドパスフィルタである光学フィルタ123cから構成されている。光学フィルタ123aは、広帯域蛍光画像撮像用の光学フィルタであり、光学フィルタ123bは、狭帯域蛍光画像撮像用の光学フィルタであり、光学フィルタ123cは、IR反射画像撮像用の光学フィルタである。この切換フィルタ122は、観察部10に白色光L1が照射されている場合には、光路上に光学フィルタ123cが配置され、観察部10に励起光L2が照射されている場合には、光学フィルタ123aまたは光学フィルタ123bが交互に配置されるように、フィルタ回転装置124を介してコントローラ160により制御されている。
【0055】
蛍光診断画像生成ユニット130は、撮像ユニット120のA/D変換回路126において得られた2種類の蛍光画像データK1,K2およびIR反射画像データF1を記憶する画像メモリ131、IR反射画像データF1により表されるIR反射画像の各画素値の範囲とマンセル表色系における明度とを対応付けたルックアップテーブルが記憶され、このルックアップテーブルを参照してIR反射画像データF1から明度画像データVを求める明度演算部132、蛍光画像データK1,K2により表される蛍光画像間の除算値の範囲とマンセル表色系の色相環における色相とを対応付けたルックアップテーブルが記憶され、このルックアップテーブルを参照して蛍光画像間の除算値から色相画像データHを生成する色相演算部133、色相画像データHおよび明度画像データVを合成して蛍光診断画像を表す蛍光診断画像データK0を生成する画像合成部134、および蛍光診断画像における妨害領域に対して例外表示処理を施して処理済み蛍光診断画像データKPを得る例外表示処理部135から構成されている。
【0056】
画像メモリ131は、図示省略した狭帯域蛍光画像データ記憶領域、広帯域蛍光画像データ記憶領域およびIR反射画像データ記憶領域から構成され、励起光L2が照射され、狭帯域蛍光画像撮像用の光学フィルタ123aがイメージファイバ103を伝搬した蛍光L3の光路上に配置された状態で撮像された蛍光画像を表す狭帯域蛍光画像データK1は狭帯域蛍光画像データ記憶領域に記憶され、励起光L2が照射され、広帯域蛍光画像撮像用の光学フィルタ123bがイメージファイバ103を伝搬した蛍光L3光路上に配置された状態で撮像された蛍光画像を表す広帯域蛍光画像データK2は広帯域蛍光画像画像データ記憶領域に記憶される。また参照光L5すなわち白色光L1が照射され、IR反射画像撮像用の光学フィルタ123cがイメージファイバ103を伝搬した反射光L6すなわち反射光L4の光路上に配置された状態で撮像されたIR反射画像を表すIR反射画像データF1はIR反射画像データ記憶領域に記憶される。
【0057】
例外表示処理部135は、蛍光診断画像データK0により表される蛍光診断画像の妨害領域に対して例外表示処理を施す。この例外表示処理は、蛍光診断画像に含まれる妨害領域を、妨害領域以外の他の領域とは異なる態様にて表示するための処理である。具体的には、妨害領域に対応する画素値を他の領域が取り得ない色に変換する。例えば、蛍光診断画像が、観察部10における正常組織から病変組織の変化に応じて、緑色から黄色を経て赤色に変化する場合には、妨害領域が青色となるように妨害領域に対応する各画素値を変換する。なお、妨害領域の色を背景と同一色となるようにしてもよく、妨害領域を透明としてもよい。あるいは、蛍光診断画像に含まれる妨害領域以外の画像を透明としてもよい。また、本実施形態においては、蛍光診断画像は有彩色であるため、妨害領域を無彩色となるようにしてもよい。なお、蛍光診断画像が無彩色である場合には、妨害領域を有彩色とすればよい。
【0058】
さらに、妨害領域内の画像を階調表示してもよい。具体的には、観察部10が取り得る色情報の平均値Caveおよび標準偏差Cstdを予め算出しておき、妨害領域内の各画素の画素値Cxyについてのマハラノビス距離Cmを下記の式(1)により算出する。
Cm=(Cxy−Cave)2/Cstd (1)
【0059】
式(1)により算出されたマハラノビス距離Cmは、観察部10の平均的な色から外れ妨害領域である可能性が高いほど大きくなる。したがって、マハラノビス距離Cmの値に対して階調を割り当てることにより、妨害領域を妨害因子である可能性の大きさに応じて階調表示することができる。なお、階調表示に代えて、マハラノビス距離Cmの大きさに応じて、妨害領域に等高線を設定して等高線表示することも可能である。
【0060】
さらに、蛍光診断画像において病変組織と見なせる部分に矢印等のマーカを表示する場合があるが、このような表示を行う場合、例外表示処理としては妨害領域にはマーカを付与しないような処理としてもよい。
【0061】
なお、蛍光診断画像生成ユニット130は、蛍光画像データK1,K2により表される各蛍光画像の相対応する画素値間の除算値に基づいて処理済み蛍光診断画像データKPを生成するものであってもよく、いずれか一方の蛍光画像の画素値とIR反射画像の画素値との比率を除算により求め、その除算値に基づいて処理済み蛍光診断画像データKPを生成するものであってもよい。また、蛍光画像間の除算値または蛍光画像とIR反射画像との除算値に色の情報を割り当て、その色の違いにより観察部10の病変状態を表す処理済み蛍光診断画像データKPを生成するものであってもよい。
【0062】
また、IR反射画像データF1を用いて蛍光診断画像データK0を生成する際には、IR反射画像データF1に代えて、通常画像データNに含まれるRの色データあるいは通常画像データNから算出された輝度データを用いてもよい。また、後述するように、R,G,Bの各色の光を観察部10に照射して通常画像を撮像する場合には、R光の反射光に基づく色データをIR反射画像データF1に代えて用いてもよい。
【0063】
画像処理ユニット140は、CCD撮像素子107において取得された撮像信号からカラー画像である通常画像をアナログの通常画像データとして生成する信号処理回路141、信号処理回路において生成された通常画像データをデジタル化してデジタルの通常画像データNを得るA/D変換回路142、通常画像データNを記憶する通常画像メモリ143、通常画像メモリ143から出力された通常画像データNおよび蛍光診断画像生成ユニット130において生成された処理済み蛍光診断画像データKPをビデオ信号に変換するビデオ信号処理回路144を備えている。
【0064】
妨害領域検出ユニット150においては、通常画像データNにより表される通常画像の色情報に基づいて、観察部10において血液、粘液、消化液、唾液、泡、残渣等の妨害因子が付着した領域を表す妨害領域を検出するものである。ここで、色情報としては、例えば、顕色系(HSB/HVC/Lab/Luv/La**/Lu**色空間)や混色系(XYZ色空間)の色相、彩度、色度(色相および彩度)、TV信号等に代表される映像信号の色差(例えばNTSC信号のYIQのYIQ、YCbCrのCbCr等)、各色データ(R,G,BまたはC,M,Y,G)の混合比率等を用いることができる。
【0065】
具体的には、色相を色情報として用いた場合、観察部10が正常組織である場合および病変組織である場合には、通常画像は特定の色相の範囲に存在する。一方、妨害因子が存在する場合には、通常画像における妨害因子の色相は正常組織の色相からも病変組織の色相からも外れたものとなる。したがって、通常画像データNに基づいて通常画像の各画素における色相を算出し、各画素の色相が予め定められた特定範囲から外れたか否かを判断し、特定範囲から外れた画素からなる領域を妨害領域として検出する。
【0066】
また、色度を色情報として用いた場合、観察部10が正常組織である場合および病変組織である場合には、通常画像は色度図上において特定の色度範囲に存在する。一方、妨害因子が存在する場合には、通常画像における妨害因子の色度は正常組織の色度範囲からも病変組織の色度範囲からも外れたものとなる。したがって、通常画像データNに基づいて通常画像の各画素における色度を算出し、各画素の色度が予め定められた特定範囲から外れたか否かを判断し、特定範囲から外れた画素からなる領域を妨害領域として検出する。
【0067】
なお、通常画像データNは、R,G,B(またはC,Y,G)の各色データからなるものであるため、各色データを用いれば色相および色度を容易に算出することができる。一方、色差を色情報として妨害領域を検出する場合には、R,G,B(またはC,Y,G)の各色データから色差信号を算出すればよい。ところで、本実施形態におけるビデオ信号処理回路144においては、通常画像データNを輝度および色差からなるビデオ信号に変換しているものである。したがって、色差を色情報とする場合には、ビデオ信号処理回路144において、通常画像データNをビデオ信号に変換することにより得られる色差を用いて、妨害領域検出ユニット150において妨害画素を検出することにより、妨害領域検出ユニット150において色差を算出する演算を省略することができる。
【0068】
次いで、第1の実施形態の動作について説明する。まず、通常画像の撮像および通常画像の表示の動作を説明し、次に反射画像の撮像、蛍光画像の撮像時の動作を説明し、その後で妨害画素の検出、蛍光診断画像の合成および処理済み蛍光診断画像の表示の動作について説明する。
【0069】
第1の実施形態による実施形態においては、通常画像およびIR反射画像の撮像と、蛍光画像の撮像が時分割で交互に行われる。通常画像およびIR反射画像の撮像時には、コントローラ160からの信号に基づいて白色光源用電源112が駆動され、白色光源111から白色光L1が射出される。白色光L1は白色光用集光レンズ113を経て白色光ライトガイド101aに入射され、内視鏡挿入部100の先端まで導光された後、照明レンズ104から観察部10へ照射される。
【0070】
白色光L1の反射光L4は対物レンズ105によって集光され、プリズム108において反射されて、RGBフィルタ109を透過してCCD撮像素子107に結像される。
【0071】
信号処理回路141においては、CCD撮像素子107において撮像された反射光L4からカラー画像であるアナログの通常画像データが作成される。アナログの通常画像データはA/D変換回路142へ入力され、デジタル化された後、通常画像データNとして通常画像メモリ143に記憶される。通常画像メモリ143に記憶された通常画像データNは、ビデオ信号処理回路144によってビデオ信号に変換された後にモニタ170に入力され、モニタ170に可視画像として表示される。上記一連の動作は、コントローラ160によって制御される。
【0072】
一方、同時に白色光L1の反射光L4(参照光L5の反射光L6を含む)は、集光レンズ106により集光され、イメージファイバ103の先端に入射され、イメージファイバ103を経て、コリメートレンズ128により集光され、励起光カットフィルタ121および切換フィルタ122の光学フィルタ123cを透過する。
【0073】
光学フィルタ123cは、波長帯域750nm〜900nmの光のみを透過させるバンドパスフィルタであるため、光学フィルタ123cにおいては参照光L5の反射光L6のみが透過する。
【0074】
光学フィルタ123cを透過した反射光L6は、CCD撮像素子125において受光される。CCD撮像素子125において光電変換されることにより得られたアナログのIR反射画像データは、A/D変換回路126においてデジタル信号に変換された後、蛍光画像生成ユニット130における画像メモリ131のIR反射画像記憶領域にIR反射画像データF1として記憶される。
【0075】
次に、蛍光画像を撮像する場合の動作について説明する。コントローラ160からの信号に基づいて励起光用電源115が駆動され、GaN系半導体レーザ114から波長410nmの励起光L2が射出される。励起光L2は、励起光用集光レンズ116を透過し、励起光ライトガイド101bに入射され、内視鏡挿入部先端まで導光された後、照明レンズ104から観察部10へ照射される。
【0076】
励起光L2が照射されることにより観察部10から発生する蛍光L3は、集光レンズ106により集光され、イメージファイバ103の先端に入射され、イメージファイバ103を経てコリメートレンズ128により集光され、励起光カットフィルタ121および切換フィルタ122の光学フィルタ123aおよび123bを透過する。
【0077】
光学フィルタ123aは、波長帯域430nm〜730nmの光を透過させるバンドパスフィルタであり、光学フィルタ123aを透過した蛍光L3は、広帯域蛍光画像を表すものとなる。光学フィルタ123bは、波長帯域480±50nmの光を透過させるバンドパスフィルタであり、光学フィルタ123bを透過した蛍光L3は、狭帯域蛍光画像を表すものとなる。
【0078】
広帯域蛍光画像および狭帯域蛍光画像を表す蛍光L3は、CCD撮像素子125において受光され、光電変換された後、A/D変換回路126においてデジタル信号に変換され、蛍光画像生成ユニット130における画像メモリ131の広帯域蛍光画像記憶領域および狭帯域蛍光画像記憶領域にそれぞれ広帯域蛍光画像データK1および狭帯域蛍光画像データK2として記憶される。
【0079】
以下、蛍光診断画像生成ユニット130における処理済み蛍光診断画像データKPの生成動作を説明する。まず、明度演算部132においては、IR反射画像データF1により表されるIR反射画像の各画素毎に、信号強度とルックアップテーブルとを用いて、マンセル表色系における明度を定め、これを明度画像データVとして画像合成部134に出力する。
【0080】
蛍光診断画像生成ユニット130の色相演算部133においては、画像メモリ131に記憶された広帯域蛍光画像データK1および狭帯域蛍光画像データK2により表される広帯域蛍光画像および狭帯域蛍光画像の各画素毎に、狭帯域蛍光画像における画素値を広帯域蛍光画像における画素値で除算し、その除算値と予め記憶されているルックアップテーブルとを用いて、マンセル表色系における色相(Hue)を定め、これを色相画像データHとして画像合成部134に出力する。
【0081】
画像合成部134においては、色相画像データHおよび明度画像データVが合成され、蛍光診断画像を表す蛍光診断画像データK0が生成される。なお、画像をカラー表示する場合に、色の3属性である、色相、明度および彩度が必要であるため、画像合成の際には、マンセル表色系における彩度S(Saturation)として、各色相、明度毎の最大値を設定する。なお、蛍光診断画像データK0はRGB変換がなされ、RGB各色からなるカラー画像を表すものとなる。
【0082】
一方、妨害領域検出ユニット150においては、通常画像データNにより表される通常画像の色情報に基づいて観察部10に付着した妨害因子を表す妨害領域が検出される。そして、蛍光診断画像生成ユニット130の例外表示処理部135において、蛍光診断画像データK0により表される蛍光診断画像における妨害領域に対して例外表示処理が施され、処理済み蛍光診断画像データKPが得られる。
【0083】
以下、妨害領域の検出から例外表示処理までの動作をフローチャートを用いて説明する。図4は妨害領域の検出から例外表示処理までの動作を示すフローチャートである。まず、通常画像の各画素における色情報が妨害領域検出ユニット150において算出され(ステップS1)、通常画像の各画素の色情報が予め定められた特定の範囲外であるか否かが判断される(ステップS2)。ステップS2が否定された場合は、その画素は妨害領域を表すものではないことから、その画素に対応する蛍光診断画像の画素に対しては何ら処理は施されない(ステップS3)。ステップS2が肯定された場合には、その画素は妨害領域を表すものとして、その画素に対応する蛍光診断画像の画素に対して例外表示処理部135において蛍光診断画像データK0に対して例外表示処理が施され、処理済み蛍光診断画像データKPが得られる(ステップS4)。
【0084】
処理済み蛍光診断画像データKPは画像処理ユニット140のビデオ信号処理回路144へ出力される。ビデオ信号処理回路144によってビデオ信号に変換された処理済み蛍光診断画像データKPは、モニタ180に入力され、モニタ180に可視画像として表示される。モニタ180に表示された処理済み蛍光診断画像においては、妨害領域について例外表示処理が施されている。
【0085】
このように、本実施形態によれば、蛍光診断画像において妨害領域を検出するようにしたため、検出した妨害領域に対して例外表示処理を施して得られた処理済み蛍光診断画像をモニタ180に表示することにより、蛍光診断画像に含まれる妨害領域を一見して認識することが可能となる。したがって、妨害領域が病変組織であると診断するおそれがなくなり、蛍光診断画像を用いての診断を正確に行うことができることとなる。
【0086】
また、例えば、例外表示処理として、蛍光診断画像に含まれる妨害領域以外の画像を透明とする処理を施して得られた処理済み蛍光診断画像を、通常画像に重畳して、この通常画像をモニタ180に表示すれば、この通常画像を観察することにより、通常画像に含まれる妨害領域を一見して認識することが可能となる。したがって、妨害領域に含まれる病変組織を見落とすおそれがなくなり、蛍光診断画像を用いての診断を一層正確に行うことができることとなる。
【0087】
さらに、複数種類の例外表示処理から、所望の例外表示処理を外部スイッチ等を用いて選択可能な構成とすれば、本装置の利便性が一層向上する。例えば通常の診断時には、蛍光診断画像に含まれ妨害領域を無彩色とし、その他の部分を有彩色とした蛍光診断画像を表示することにより、妨害領域が病変組織であると診断されることを防止し、一方診断終了の直前に、蛍光診断画像に含まれる妨害領域以外の画像を透明とする処理を施して得られた処理済み蛍光診断画像を、通常画像に重畳して表示することにより、妨害領域に含まれる病変組織を見落とすことを防止できる。
【0088】
また、妨害領域は他の領域とは色が異なるため、通常画像の色情報に基づいて妨害領域を検出することにより、妨害領域を正確に検出することができる。
【0089】
次いで、本発明の第2の実施形態について説明する。図5は本発明の第2の実施形態による蛍光画像取得装置を適用した蛍光内視鏡装置の概略構成図である。なお、第2の実施形態において第1の実施形態と同一の構成については同一の参照番号を付し、詳細な説明は省略する。図5に示すように、本発明の第2の実施形態による内視鏡装置は、通常画像の色情報に基づいて妨害領域を検出する妨害領域検出ユニット150に代えて、蛍光の強度および2つの蛍光画像データK1,K2により表される蛍光画像間における対応する画素値の比率すなわち除算値に基づいて、妨害領域を検出する妨害領域検出ユニット151を備えた点が第1の実施形態と異なる。
【0090】
ここで、蛍光画像データK1,K2により表される蛍光画像間の画素値の除算値(以下蛍光演算値とする)は、妨害領域においては正常組織の値よりも小さく、病変組織に近い値となる。一方、妨害領域における蛍光強度は正常組織の蛍光強度に近い値となる。したがって、妨害領域検出ユニット150においては、蛍光画像データK1,K2から蛍光演算値を算出し、蛍光演算値が予め定められたしきい値Th1以下であるか否かを判断し、しきい値Th1以下となる画素についてのみ、蛍光強度すなわち蛍光画像データK1またはK2により表される蛍光画像の画素値が予め定められたしきい値Th2以上であるか否かを判断し、しきい値Th2以上となる画素からなる領域を妨害領域として検出するようにしたものである。なお、妨害領域検出ユニット151においては、蛍光演算値を算出することなく、蛍光診断画像生成ユニット130の色相演算部133において算出される蛍光画像間の除算値を用いるようにしてもよい。
【0091】
次いで、第2の実施形態の動作について説明する。通常画像の撮像、通常画像の表示、IR反射画像の撮像、蛍光画像の撮像、および蛍光診断画像の合成動作については、第1の実施形態と同一であるためここでは説明を省略し、妨害画素の検出および処理済み蛍光診断画像の表示についてのみ説明する。
【0092】
図6は、第2の実施形態における妨害領域の検出から例外表示処理までの動作を示すフローチャートである。図6に示すように、まず、蛍光画像データK1,K2により表される蛍光画像間の比率すなわち蛍光演算値が妨害領域検出ユニット151において算出され(ステップS11)、蛍光画像の各画素における蛍光演算値がしきい値Th1以下であるか否かが判断される(ステップS12)。ステップS12が否定された場合は、その画素は妨害領域を表すものではないことから、何ら処理は施されない(ステップS13)。ステップS12が肯定された場合には、その画素は妨害領域を表す可能性が高いことから、画素値がしきい値Th2以上であるか否かが判断される(ステップS14)。ステップS14が否定された場合は、その画素は妨害領域を表すものではないことから、何ら処理は施されない(ステップS13)。ステップS14が肯定された場合には、その画素は妨害領域を表すものとして、例外表示処理部135において蛍光診断画像データK0に対して例外表示処理が施され、処理済み蛍光診断画像データKPが得られる(ステップS15)。
【0093】
処理済み蛍光診断画像データKPは画像処理ユニット140のビデオ信号処理回路144へ出力され、上記第1の実施形態と同様に妨害領域について例外表示処理が施された状態で、モニタ180に表示される。
【0094】
なお、上記第2の実施形態においては、ステップS12において蛍光演算値がしきい値Th1以下となった画素についてのみ、ステップS14においてその画素値がしきい値Th2以上であるか否かを判断しているが、先にステップS14の判断を行い、ステップS14が肯定された画素についてのみ、蛍光演算値を算出してステップS11の処理およびステップS12の判断を行ってもよい。また、全ての画素についてステップS11の処理、ステップS12の判断およびステップS14の判断を並列に行い、蛍光演算値がしきい値Th1以下かつ画素値がしきい値Th2以上となる画素からなる領域を妨害領域として検出してもよい。
【0095】
また、第2の実施形態において、妨害領域内の画像を階調表示する場合には、まず、観察部10が取り得る蛍光強度の平均値FLaveおよび標準偏差FLstdを予め算出しておき、妨害領域内の各画素の画素値FLxyについてのマハラノビス距離Fmを下記の式(2)により算出する。
Fm=(FLxy−FLave)2/FLstd (2)
【0096】
式(2)により算出されたマハラノビス距離Fmは、観察部10の平均的な蛍光強度から外れ妨害領域である可能性が高いほど大きくなる。したがって、マハラノビス距離Fmの値に対して階調を割り当てることにより、妨害領域を妨害因子である可能性の大きさに応じて階調表示することができる。なお、階調表示に代えて、マハラノビス距離Fmの大きさに応じて、妨害領域に等高線を設定して等高線表示することも可能である。
【0097】
さらに、上記第2の実施形態においては、通常画像の撮像、IR反射画像の撮像および蛍光画像の撮像を行っているが、図7に示すように、ライトガイド101、イメージファイバ103、照明レンズ104、および集光レンズ106のみを備えた内視鏡挿入部100′、GaN系半導体レーザ114、励起光用電源115、および励起光用集光レンズ116のみを備えた照明ユニット110′、切換フィルタ122に代えて、光学フィルタ123a,123bのみからなる切換フィルタ122′を備えた撮像ユニット120′、画像メモリ131、蛍光演算値を算出する演算部137、および蛍光演算値により表される演算画像における妨害領域に対して例外表示処理を施して処理済み蛍光診断画像データKPを得る例外表示処理部135からなる蛍光診断画像生成ユニット130′、ビデオ信号処理回路144のみを備えた画像処理ユニット140′、コントローラ160、並びに蛍光診断画像を表示するモニタ180のみを備え、蛍光画像の撮影のみを行って蛍光演算値を算出し、この蛍光演算値を蛍光診断画像として表示する蛍光内視鏡装置においても、第2の実施形態と同様に妨害領域を検出して、例外表示処理を行うことができる。
【0098】
次いで、本発明の第3の実施形態について説明する。図8は本発明の第3の実施形態による蛍光画像取得装置を適用した蛍光内視鏡装置の概略構成図である。なお、第3の実施形態において第1の実施形態と同一の構成については同一の参照番号を付し、詳細な説明は省略する。図8に示すように、本発明の第3の実施形態による内視鏡装置は、通常画像の色情報に基づいて妨害領域を検出する妨害領域検出ユニット150に代えて、通常画像の色情報および蛍光の強度に基づいて、妨害領域を検出する妨害領域検出ユニット152を備えた点が第1の実施形態と異なる。
【0099】
ここで、通常画像において妨害領域の色は、正常組織および病変組織のいずれとも異なるものとなる。また、妨害領域における蛍光強度(すなわち蛍光画像の画素値)は正常組織の蛍光強度に近い値となる。したがって、妨害領域検出ユニット152においては、通常画像の色情報が予め定められた特定範囲外であるか否かを判断し、特定範囲外となった画素に対応する蛍光画像の画素値が予め定められたしきい値Th3以上であるか否かを判断し、しきい値Th3以上となる画素からなる領域を妨害領域として検出するようにしたものである。
【0100】
次いで、第3の実施形態の動作について説明する。通常画像の撮像、通常画像の表示、反射画像の撮像、蛍光画像の撮像、および蛍光診断画像の合成動作については、第1の実施形態と同一であるためここでは説明を省略し、妨害画素の検出および処理済み蛍光診断画像の表示についてのみ説明する。
【0101】
図9は、第3の実施形態における妨害領域の検出から例外表示処理までの動作を示すフローチャートである。図9に示すように、まず、通常画像の各画素における色情報が算出され(ステップS21)、通常画像の各画素の色情報が予め定められた特定の範囲外であるか否かが判断される(ステップS22)。ステップS22が否定された場合は、その画素は妨害領域を表すものではないことから、何ら処理は施されない(ステップS23)。ステップS22が肯定された場合には、その画素は妨害領域を表す可能性が高いことから、通常画像における色情報が特定範囲外となった画素に対応する蛍光画像の画素についてのみ、画素値がしきい値Th3以上であるか否かが判断される(ステップS24)。ステップS24が否定された場合は、その画素は妨害領域を表すものではないことから、何ら処理は施されない(ステップS23)。ステップS24が肯定された場合には、その画素は妨害領域を表すものとして、例外表示処理部135において蛍光診断画像データK0に対して例外表示処理が施され、処理済み蛍光診断画像データKPが得られる(ステップS25)。
【0102】
処理済み蛍光診断画像データKPは画像処理ユニット140のビデオ信号処理回路144へ出力され、上記第1の実施形態と同様に妨害領域について例外表示処理が施された状態で、モニタ180に表示される。
【0103】
なお、上記第3の実施形態においては、ステップS22において色情報が特定範囲外となった画素についてのみ、ステップS24において蛍光画像の画素値がしきい値Th3以上であるか否かを判断しているが、先にステップS24の判断を行い、ステップS24が肯定された画素についてのみ、色情報を算出してステップS22の判断を行ってもよい。また、全ての画素についてステップS22の判断およびステップS24の判断を並列に行い、通常画像の色情報が特定範囲外かつ蛍光画像の画素値がしきい値Th3以上となる画素からなる領域を妨害領域として検出してもよい。
【0104】
なお、第3の実施形態において、妨害領域内の画像を階調表示あるいは等高線表示する場合には、まず、上記式(1)または式(2)を用いてマハラノビス距離Cm,Fmを求め、これに階調を割り当てるあるいは等高線を設定すればよい。また、下記の式(3)に示すように、マハラノビス距離Cm,Fmを重み付け加算した総合距離Gmを求め、総合距離Gmの値に階調を割り当てるあるいは総合距離Gmの値に応じて等高線を設定してもよい。
Gm=α・Cm+β・Fm (3)
但し、α、β:重み係数
【0105】
次いで、本発明の第4の実施形態について説明する。本発明の第4の実施形態による蛍光内視鏡装置は、図8に示す本発明の第3の実施形態による蛍光内視鏡装置において、妨害領域検出ユニット152に代えて、通常画像の色情報および2つの蛍光画像データK1,K2により表される蛍光画像間における対応する画素値の比率すなわち除算値に基づいて妨害領域を検出する妨害領域検出ユニット153を備えた点が第3の実施形態と異なる。
【0106】
ここで、通常画像において妨害領域の色は、正常組織および病変組織のいずれとも異なるものとなる。また、蛍光画像データK1,K2により表される蛍光画像間の画素値の除算値(以下蛍光演算値とする)は、妨害領域においては、正常組織の値よりも小さく、病変組織に近い値となる。したがって、妨害領域検出ユニット153においては、通常画像の色情報が予め定められた特定範囲外であるか否かを判断し、特定範囲外となった画素に対応する蛍光画像の画素についてのみ、蛍光画像データK1,K2から蛍光演算値を算出し、蛍光演算値が予め定められたしきい値Th4以下であるか否かを判断し、しきい値Th4以下となる画素からなる領域を妨害領域として検出するようにしたものである。なお、妨害領域検出ユニット153においては、蛍光演算値を算出することなく、蛍光診断画像生成ユニット130の色相演算部133において算出される蛍光画像間の除算値を用いるようにしてもよい。
【0107】
次いで、第4の実施形態の動作について説明する。通常画像の撮像、通常画像の表示、反射画像の撮像、蛍光画像の撮像、および蛍光診断画像の合成動作については、第1の実施形態と同一であるためここでは説明を省略し、妨害画素の検出および処理済み蛍光診断画像の表示についてのみ説明する。
【0108】
図10は、第4の実施形態における妨害領域の検出から例外表示処理までの動作を示すフローチャートである。図10に示すように、まず、通常画像の各画素における色情報が算出され(ステップS31)、通常画像の各画素の色情報が予め定められた特定の範囲外であるか否かが判断される(ステップS32)。ステップS32が否定された場合は、その画素は妨害領域を表すものではないことから、何ら処理は施されない(ステップS33)。ステップS32が肯定された場合には、その画素は妨害領域を表す可能性が高いことから、通常画像における色情報が特定範囲外となった画素に対応する画素についてのみ、蛍光画像データK1,K2により表される蛍光画像間の除算値すなわち蛍光演算値が算出される(ステップS34)。そして、蛍光演算値がしきい値Th4以下であるか否かが判断される(ステップS35)。ステップS35が否定された場合は、その画素は妨害領域を表すものではないことから、何ら処理は施されない(ステップS33)。ステップS35が肯定された場合には、その画素は妨害領域を表すものとして、例外表示処理部135において蛍光診断画像データK0に対して例外表示処理が施され、処理済み蛍光診断画像データKPが得られる(ステップS36)。
【0109】
処理済み蛍光診断画像データKPは画像処理ユニット140のビデオ信号処理回路144へ出力され、上記第1の実施形態と同様に妨害領域について例外表示処理が施された状態で、モニタ180に表示される。
【0110】
なお、上記第4の実施形態においては、ステップS32において色情報が特定範囲外となった画素についてのみ、ステップS34において蛍光演算値を算出し、ステップS35において蛍光演算値がしきい値Th4以下であるか否かを判断しているが、先にステップS34の処理およびステップS35の判断を行い、ステップS35が肯定された画素についてのみ、通常画像の色情報を算出するステップS32の判断を行ってもよい。また、全ての画素についてステップS32の判断、ステップS34の処理およびステップS35の判断を並列に行い、通常画像の色情報が特定範囲外かつ蛍光演算値がしきい値Th4以下となる画素からなる領域を妨害領域として検出してもよい。
【0111】
次いで、本発明の第5の実施形態について説明する。本発明の第5の実施形態による蛍光内視鏡装置は、図8に示す本発明の第3の実施形態による蛍光内視鏡装置において、妨害領域検出ユニット152に代えて、通常画像の色情報、蛍光の強度および2つの蛍光画像データK1,K2により表される蛍光画像間における対応する画素値の比率すなわち除算値に基づいて妨害領域を検出する妨害領域検出ユニット154を備えた点が第3の実施形態と異なる。
【0112】
ここで、通常画像において妨害領域の色は、正常組織および病変組織のいずれとも異なるものとなる。また、妨害領域において得られる蛍光強度は正常組織の蛍光強度に近い値となる。さらに、蛍光画像データK1,K2により表される蛍光画像間の画素値の除算値(以下蛍光演算値とする)は、妨害領域においては、正常組織の値よりも小さく、病変組織に近い値となる。したがって、妨害領域検出ユニット154においては、通常画像の色情報が予め定められた特定範囲外であるか否かを判断し、特定範囲外となった画素に対応する蛍光画像の画素についてのみ、特定範囲外となった画素に対応する蛍光画像の画素値が予め定められたしきい値Th5以上であるか否かを判断し、さらに、しきい値Th5以上となった画素についてのみ蛍光画像データK1,K2から蛍光演算値を算出し、蛍光演算値が予め定められたしきい値Th6以下であるか否かを判断し、しきい値Th6以下となる画素からなる領域を妨害領域として検出するようにしたものである。なお、妨害領域検出ユニット154においては、蛍光演算値を算出することなく、蛍光診断画像生成ユニット130の色相演算部133において算出される蛍光画像間の除算値を用いるようにしてもよい。
【0113】
次いで、第5の実施形態の動作について説明する。通常画像の撮像、通常画像の表示、反射画像の撮像、蛍光画像の撮像、および蛍光診断画像の合成動作については、第1の実施形態と同一であるためここでは説明を省略し、妨害画素の検出および処理済み蛍光診断画像の表示についてのみ説明する。
【0114】
図11は、第5の実施形態における妨害領域の検出から例外表示処理までの動作を示すフローチャートである。図11に示すように、まず、通常画像の各画素における色情報が算出され(ステップS41)、通常画像の各画素の色情報が予め定められた特定の範囲外であるか否かが判断される(ステップS42)。ステップS42が否定された場合は、その画素は妨害領域を表すものではないことから、何ら処理は施されない(ステップS43)。ステップS42が肯定された場合には、その画素は妨害領域を表す可能性が高いことから、通常画像における色情報が特定範囲外となった画素に対応する蛍光画像の画素についてのみ、画素値がしきい値Th5以上であるか否かが判断される(ステップS44)。ステップS44が否定された場合は、その画素は妨害領域を表すものではないことから、何ら処理は施されない(ステップS43)。ステップS44が肯定された場合には、その画素は妨害領域を表す可能性がさらに高いことから、画素値がしきい値Th5以上となった画素についてのみ、蛍光画像データK1,K2により表される蛍光画像間の除算値すなわち蛍光演算値が算出される(ステップS45)。そして、蛍光演算値がしきい値Th6以下であるか否かが判断される(ステップS46)。ステップS46が否定された場合は、その画素は妨害領域を表すものではないことから、何ら処理は施されない(ステップS43)。ステップS46が肯定された場合には、その画素は妨害領域を表すものとして、例外表示処理部135において蛍光診断画像データK0に対して例外表示処理が施され、処理済み蛍光診断画像データKPが得られる(ステップS47)。
【0115】
処理済み蛍光診断画像データKPは画像処理ユニット140のビデオ信号処理回路144へ出力され、上記第1の実施形態と同様に妨害領域について例外表示処理が施された状態で、モニタ180に表示される。
【0116】
なお、上記第5の実施形態においては、ステップS42において色情報が特定範囲外となった画素についてのみ、ステップS44において蛍光画像の画素値がしきい値Th5以上であるか否かを判断し、しきい値Th5以上となった画素についてのみステップS45において蛍光演算値を算出し、ステップS46において蛍光演算値がしきい値Th6以下であるか否かを判断しているが、いずれのステップを先に行ってもよい。例えば、ステップS44の判断、ステップS42の判断、ステップS45の処理およびステップS46の判断をこの順序で行ってもよく、ステップS44の判断、ステップS45の処理、ステップS46の判断およびステップS42の判断をこの順序で行ってもよい。さらには、ステップS45の処理、ステップS46の判断、ステップS42の判断およびステップS44の判断をこの順序で行ってもよく、ステップS45の処理、ステップS46の判断、ステップS44の判断およびステップS42の判断をこの順序で行ってもよい。
【0117】
また、全ての画素についてステップS42の判断、ステップS44の判断、並びにステップS45の処理およびステップS46の判断を並列に行い、通常画像の色情報が特定範囲外、かつ蛍光画像の画素値がしきい値Th5以上かつ蛍光演算値がしきい値Th6以下となる画素からなる領域を妨害領域として検出してもよい。
【0118】
さらに、ステップS42の判断を行った後に、ステップS44の判断、並びにステップS45の処理およびステップS46の判断を並列に行ってもよく、ステップS44の判断を行った後に、ステップS42の判断、並びにステップS45の処理およびステップS46の判断を並列に行ってもよく、さらに、ステップS45の処理およびステップS46の判断を行った後に、ステップS42の判断およびステップS44の判断を並列に行ってもよい。
【0119】
なお、上記第1から第5の実施形態においては、色情報が特定範囲外となったか否かの判断、蛍光画像の画素値がしきい値以上であるか否かの判断および/または蛍光演算値がしきい値以下であるか否かの判断を行う際に、通常画像および/または蛍光画像の各画素を間引いて行ってもよい。このように画素を間引いて判断を行うことにより、処理の高速化を図ることができる。なお、このような判断を行った後、検出された妨害領域についてのみ画素を間引くことなく判断を行うことが好ましい。
【0120】
また、上記第1から第5の実施形態において、観察部10にR光、G光、B光、参照光および励起光を順次照射して通常画像、IR反射画像および蛍光画像の撮影を行うことも可能である。以下これを第6の実施形態として説明する。図12は本発明の第6の実施形態による蛍光画像取得装置を適用した蛍光内視鏡装置の構成を示す概略図である。なお、第6の実施形態において第1の実施形態と同一の構成については同一の参照番号を付し、詳細な説明は省略する。図12に示すように、本発明の第6の実施形態による内視鏡装置は、内視鏡挿入部200および画像処理部2からなる。
【0121】
内視鏡挿入部200は、第1の実施形態における内視鏡挿入部100を構成するライトガイド101、イメージファイバ103、照明レンズ104、および集光レンズ106と同様のライトガイド201、イメージファイバ203、照明レンズ204、および集光レンズ206を備える。
【0122】
画像処理部2は、R光、G光、B光(以下照明光L1′とする、参照光L5および励起光L2を順次射出する照明ユニット210、観察部10についての通常画像、波長帯域が異なる2種類の蛍光画像およびIR反射画像を撮像して通常画像データN、蛍光画像データK1,K2およびIR反射画像データF1を得る撮像ユニット220、蛍光診断画像生成ユニット130、通常画像を表す通常画像データNおよび処理済み蛍光診断画像データKPに対して、可視画像として表示するための画像処理を行う画像処理ユニット240、妨害領域検出ユニット150、コントローラ260およびモニタ170,180から構成されている。
【0123】
照明ユニット210は、白色光を射出するハロゲンランプ等の白色光源211、白色光源211に電気的に接続されている白色光源用電源212、白色光源211から射出される白色光を集光する集光レンズ213、白色光をR光、G光、B光、参照光L5および励起光L2に順次色分解するための回転フィルタ214、および回転フィルタ214を回転させるモータ215を備えている。
【0124】
図13は回転フィルタの構成を示す図である。図13に示すように、回転フィルタ214は、R,G,B、750nm〜900nmの近赤外域(IR)および410nmの励起光の波長域の光を透過するフィルタ要素214a〜214eからなる。
【0125】
撮像ユニット220は、イメージファイバ203により伝搬されたR光、G光、B光の反射光L4、参照光L5の反射光L6および蛍光L3を結像系に導くコリメートレンズ228、反射光L4,L6および蛍光L3から励起光近傍の420nm以下の波長帯域をカットする励起光カットフィルタ221、励起光カットフィルタ221を透過した反射光L4,L6および蛍光L3を結像させる集光レンズ229、集光レンズ229により結像された反射光L4,L6および蛍光L3により表される通常画像、IR反射画像および蛍光画像を撮像するモザイクフィルタ227がオンチップされたCCD撮像素子225、CCD撮像素子225において取得された撮像信号をデジタル化して通常画像データN、2種類の蛍光画像データK1,K2およびIR反射画像データF1を得るA/D変換回路226、並びに通常画像データNを記憶する通常画像メモリ224を備えている。
【0126】
図14はモザイクフィルタ227の構成を示す図である。図14に示すように、モザイクフィルタ227は、400nm〜900nmの波長域の全波長域の光を透過させる広帯域フィルタ要素227aおよび430nm〜530nmの波長域の光を透過させる狭帯域フィルタ要素227bが交互に組み合わされ、各帯域フィルタ要素227a,227bはCCD撮像素子225の画素に一対一で対応している。
【0127】
なお、回転フィルタ214が回転することにより、R光,G光,B光、近赤外光および励起光の観察部10への照射が繰り返される。ここで、観察部10にR光、G光、B光および参照光L5が照射されている間は、モザイクフィルタ227の広帯域フィルタ要素227aを透過した光学像のみをCCD撮像素子225において検出し、励起光L2が照射されている間は広帯域フィルタ要素227aおよび狭帯域フィルタ要素227bをそれぞれ透過した蛍光像をCCD撮像素子225において検出する。
【0128】
画像処理ユニット240は、第1の実施形態のビデオ信号処理回路144と同様のビデオ信号処理回路244を備える。
【0129】
以下、第6の実施形態による内視鏡装置の動作について説明する。なお、蛍光診断画像の合成、妨害画素の検出、および処理済み蛍光診断画像の表示動作については、第1の実施形態と同一であるため、ここでは説明を省略し、通常画像の撮像、通常画像の表示、IR反射画像の撮像および蛍光画像の撮像についてのみ説明する。
【0130】
第6の実施形態による蛍光内視鏡装置においては、R光、G光およびB光の観察部10への照射による通常画像の撮像、IR反射画像の撮像並びに蛍光画像の撮像が時分割で交互に行われる。このために、照明ユニット210における回転フィルタ214を回転させ、白色光源211から射出される白色光を、回転フィルタ214を透過させることにより、R光、G光、B光、参照光L5および励起光L2が順次観察部10に照射される。
【0131】
まず、通常画像を表示する際の動作を説明する。まず、R光が観察部10へ照射され、観察部10において反射されたR光による反射光L1は集光レンズ206により集光され、イメージファイバ203の先端に入射され、イメージファイバ203を経てコリメートレンズ228により集光され、励起光カットフィルタ221を透過し、集光レンズ229により集光され、モザイクフィルタ227の広帯域フィルタ要素227aを透過してCCD撮像素子225において受光される。
【0132】
CCD撮像素子225において受光されたR光の反射光L4は、光電変換された後、A/D変換回路226においてデジタル信号に変換され、通常画像メモリ224のR画像データの記憶領域に記憶される。
【0133】
所定時間が経過すると、回転フィルタ214が回転して白色光源211から射出される白色光の光路上にあるフィルタ要素がR光用のフィルタ要素214aからG光用のフィルタ要素214bに切り替わり、同様の動作によりG画像データが取得される。さらに、所定時間が経過すると回転フィルタ214が回転してフィルタ要素がB光用のフィルタ要素214c切り替わり、B画像データが取得される。G画像データおよびB画像データは通常画像メモリ224のG画像データの記憶領域およびB画像データの記憶領域にそれぞれ記憶される。
【0134】
3色の画像データが通常画像メモリ224に記憶されると、表示タイミングに合わせて同時化されて通常画像データNとして出力され、ビデオ信号処理回路244においてビデオ信号に変換されてモニタ170に入力され、モニタ170に可視画像として表示される。上記一連の動作は、コントローラ260によって制御される。
【0135】
次にIR反射画像を撮像する場合の動作について説明する。回転フィルタ214はコントローラ260からの信号に基づいて引き続き回転されており、フィルタ要素214cに続いてフィルタ要素214dが白色光源211から射出される白色光の光路上に位置する。これにより、観察部10には近赤外光である参照光L5が照射される。
【0136】
観察部10において反射された参照光L5による反射光L6は、集光レンズ206により集光され、イメージファイバ203の先端に入射され、イメージファイバ203を経てコリメートレンズ228により集光され、励起光カットフィルタ221を透過し、集光レンズ229により集光され、モザイクフィルタ227の広帯域フィルタ要素227aを透過してCCD撮像素子225において受光される。
【0137】
CCD撮像素子225において受光された反射光L6は、光電変換された後、A/D変換回路226においてデジタル信号に変換され、蛍光画像生成ユニット130における画像メモリ131のIR反射画像記憶領域にIR反射画像データF1として記憶される。
【0138】
次に、蛍光画像を撮像する場合の動作について説明する。回転フィルタ214はコントローラ260からの信号に基づいて引き続き回転されており、フィルタ要素214dに続いてフィルタ要素214eが白色光源211から射出される白色光の光路上に位置する。これにより、観察部10には励起光L2が照射される。
【0139】
励起光L2を照射されることにより観察部10から発生する蛍光L3は、集光レンズ206により集光され、イメージファイバ203の先端に入射され、イメージファイバ203を経てコリメートレンズ228により集光され、励起光カットフィルタ221を透過し、集光レンズ229により集光され、モザイクフィルタ227の広帯域フィルタ要素227aおよび狭帯域フィルタ要素227bを透過してCCD撮像素子225において受光される。
【0140】
CCD撮像素子225においては、蛍光L3が広帯域フィルタ要素227aおよび狭帯域フィルタ要素227bにそれぞれ対応する画素毎に光電変換された後、A/D変換回路226においてデジタル信号に変換され、蛍光画像生成ユニット130における画像メモリ131の広帯域蛍光画像記憶領域および狭帯域蛍光画像記憶領域にそれぞれ広帯域蛍光画像データK1および狭帯域蛍光画像データK2として記憶される。
【0141】
そして、第1の実施形態と同様に、蛍光診断画像生成ユニット130の画像合成部134において、蛍光診断画像データK0が合成される。一方、妨害領域検出ユニット150において、通常画像の色情報に基づいて妨害領域が検出され、例外表示処理部135において妨害領域に対して例外表示処理が施されて処理済み蛍光診断画像データKPが生成される。処理済み蛍光診断画像データKPは、ビデオ信号処理回路244においてビデオ信号に変換されてモニタ180に入力され、可視画像として表示される。
【0142】
なお、第2から第5の実施形態についても上記と同様に、照明ユニット110、撮像ユニット120および画像処理ユニット140に代えて、照明ユニット210、撮像ユニット220および画像処理ユニット240を用いることが可能である。
【0143】
また、上記第1から第6の実施形態においては、蛍光画像を撮像するためのCCD撮像素子を画像処理部内に設置しているが、図14に示すモザイクフィルタ227をオンチップしたCCD撮像素子を、内視鏡挿入部の先端に設置してもよい。さらに、CCD撮像素子を、例えば特開平7−176721号公報に記載されたように、増倍率制御信号に基づいた増倍率により、撮像された信号電荷を増倍する電荷増倍型のCCD撮像素子とすれば、より高感度で蛍光画像の撮像を行うことができ、さらには蛍光画像のノイズを低減することができる。
【図面の簡単な説明】
【図1】本発明の第1の実施形態による蛍光画像取得装置を適用した蛍光内視鏡装置の概略構成図
【図2】CYGフィルタの構成を示す図
【図3】切換フィルタの構成を示す図
【図4】第1の実施形態における妨害領域の検出から例外表示処理までの動作を示すフローチャート
【図5】本発明の第2の実施形態による蛍光画像取得装置を適用した蛍光内視鏡装置の概略構成図
【図6】第2の実施形態における妨害領域の検出から例外表示処理までの動作を示すフローチャート
【図7】本発明の第2の実施形態による蛍光画像取得装置を適用した蛍光内視鏡装置の変形例を示す概略構成図
【図8】本発明の第3の実施形態による蛍光画像取得装置を適用した蛍光内視鏡装置の概略構成図
【図9】第3の実施形態における妨害領域の検出から例外表示処理までの動作を示すフローチャート
【図10】第4の実施形態における妨害領域の検出から例外表示処理までの動作を示すフローチャート
【図11】第5の実施形態における妨害領域の検出から例外表示処理までの動作を示すフローチャート
【図12】本発明の第6の実施形態による蛍光画像取得装置を適用した蛍光内視鏡装置の概略構成図
【図13】回転フィルタの構成を示す図
【図14】モザイクフィルタの構成を示す図
【図15】正常組織および病変組織の蛍光強度スペクトルの強度分布を示す説明図
【図16】正常組織および病変組織の規格化蛍光強度スペクトルの強度分布を示す説明図
【図17】正常組織および残渣の蛍光強度スペクトルの強度分布を示す説明図
【図18】正常組織および残渣の規格化蛍光強度スペクトルの強度分布を示す説明図
【符号の説明】
1,2 画像処理部
10 観察部
100,200 内視鏡挿入部
110,210 照明ユニット
120,220 撮像ユニット
130 蛍光診断画像生成ユニット
131 画像メモリ
132 明度演算部
133 色相演算部
134 画像合成部
135 例外表示処理部
140,240 画像処理ユニット
150,151,152,153,154 妨害領域検出ユニット
160,260 コントローラ
170,180 モニタ

Claims (8)

  1. 励起光を含む照明光を観察部に照射することにより該観察部において得られる蛍光に基づいて、該観察部の蛍光診断画像を取得する蛍光診断画像取得手段を備えた蛍光画像取得装置において、
    白色光を前記観察部に照射することにより該観察部において得られる反射光に基づいて、該観察部の通常画像を取得する通常画像取得手段と、
    前記通常画像の色情報、前記蛍光の強度および異なる波長帯域において取得した複数の蛍光強度の比率を表す蛍光演算値のいずれかに基づいて、前記観察部における第1の仮妨害領域を検出し、該第1の仮妨害領域において、該第1の仮妨害領域の検出に用いた情報以外のいずれかの情報に基づいて、前記観察部における第2の仮妨害領域を検出し、該第2の仮妨害領域において、前記第1および前記第2の仮妨害領域の検出に用いた情報以外の情報に基づいて、前記観察部に付着した妨害因子を表す妨害領域を検出する妨害領域検出手段とを備えたことを特徴とする蛍光画像取得装置。
  2. 励起光を含む照明光を観察部に照射することにより該観察部において得られる蛍光に基づいて、該観察部の蛍光診断画像を取得する蛍光診断画像取得手段を備えた蛍光画像取得装置において、
    前記蛍光に基づいて、前記蛍光の強度および異なる波長帯域において取得した複数の蛍光強度の比率を表す蛍光演算値を取得する手段と、
    前記蛍光の強度および前記蛍光演算値に基いて、前記観察部に付着した妨害因子を表す妨害領域を検出する妨害領域検出手段とを備えたことを特徴とする蛍光画像取得装置。
  3. 前記妨害領域検出手段は、前記蛍光の強度および前記蛍光演算値のいずれか一方に基づいて、前記観察部における仮妨害領域を検出し、該仮妨害領域において前記蛍光の強度および前記蛍光演算値のいずれか他方に基づいて、前記妨害領域を検出する手段であることを特徴とする請求項2記載の蛍光画像取得装置。
  4. 前記蛍光診断画像の前記妨害領域に対して例外表示処理を施す例外表示処理手段と、
    該例外表示処理が施された蛍光診断画像を表示する表示手段とをさらに備えたことを特徴とする請求項からのいずれか1項記載の蛍光画像取得装置。
  5. 前記蛍光診断画像取得手段の一部または全部が、生体内部に挿入される内視鏡の形態であることを特徴とする請求項からのいずれか1項記載の蛍光画像取得装置。
  6. 励起光を含む照明光を観察部に照射することにより該観察部において得られる蛍光に基づいて、該観察部の蛍光診断画像を取得する蛍光画像取得方法をコンピュータに実行させるためのプログラムにおいて、
    白色光を前記観察部に照射することにより該観察部において得られる反射光に基づいて、該観察部の通常画像を取得する手順と、
    前記通常画像の色情報、前記蛍光の強度および異なる波長帯域において取得した複数の蛍光強度の比率を表す蛍光演算値のいずれかに基づいて、前記観察部における第1の仮妨害領域を検出し、該第1の仮妨害領域において、該第1の仮妨害領域の検出に用いた情報以外のいずれかの情報に基づいて、前記観察部における第2の仮妨害領域を検出し、該第2の仮妨害領域において、前記第1および前記第2の仮妨害領域の検出に用いた情報以外の情報に基づいて、前記観察部に付着した妨害因子を表す妨害領域を検出する手順とを備えたことを特徴とするプログラム。
  7. 励起光を含む照明光を観察部に照射することにより該観察部において得られる蛍光に基づいて、該観察部の蛍光診断画像を取得する蛍光画像取得方法をコンピュータに実行させるためのプログラムにおいて、
    前記蛍光に基づいて、前記蛍光の強度および異なる波長帯域において取得した複数の蛍光強度の比率を表す蛍光演算を取得する手順と、
    前記蛍光の強度および前記蛍光演算値に基づいて前記妨害領域を検出する手順とを有することを特徴とするプログラム。
  8. 前記蛍光診断画像の前記妨害領域に対して例外表示処理を施す手順と、
    該例外表示処理が施された蛍光診断画像を表示する手順とをさらに有することを特徴とする請求項または記載のプログラム。
JP2002089107A 2001-06-29 2002-03-27 蛍光画像取得方法および装置並びにプログラム Expired - Fee Related JP3862582B2 (ja)

Priority Applications (8)

Application Number Priority Date Filing Date Title
JP2002089107A JP3862582B2 (ja) 2001-06-29 2002-03-27 蛍光画像取得方法および装置並びにプログラム
EP02014010A EP1275338B1 (en) 2001-06-29 2002-06-26 Apparatus for obtaining fluorescence images, and computer executable program therefor
EP05002909A EP1535569B1 (en) 2001-06-29 2002-06-26 Apparatus for obtaining fluorescence images, and computer executable program therefor
DE60230365T DE60230365D1 (de) 2001-06-29 2002-06-26 Gerät zur Herstellung von fluorezierenden Bildern und computerausführbares Programm dafür
DE60229983T DE60229983D1 (de) 2001-06-29 2002-06-26 Gerät zur Herstellung von fluorezierenden Bildern und Computerausführbares Programm dafür
EP05002895A EP1535568B1 (en) 2001-06-29 2002-06-26 Apparatus for obtaining fluorescence images, and computer executable program therefor
DE60229793T DE60229793D1 (de) 2001-06-29 2002-06-26 Gerät zur Herstellung von fluorezierenden Bildern und Computerausführbares Programm dafür
US10/186,390 US20030001104A1 (en) 2001-06-29 2002-07-01 Method and apparatus for obtaining fluorescence images, and computer executable program therefor

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2001-199131 2001-06-29
JP2001199131 2001-06-29
JP2002089107A JP3862582B2 (ja) 2001-06-29 2002-03-27 蛍光画像取得方法および装置並びにプログラム

Publications (2)

Publication Number Publication Date
JP2003079568A JP2003079568A (ja) 2003-03-18
JP3862582B2 true JP3862582B2 (ja) 2006-12-27

Family

ID=26617894

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002089107A Expired - Fee Related JP3862582B2 (ja) 2001-06-29 2002-03-27 蛍光画像取得方法および装置並びにプログラム

Country Status (4)

Country Link
US (1) US20030001104A1 (ja)
EP (3) EP1535568B1 (ja)
JP (1) JP3862582B2 (ja)
DE (3) DE60230365D1 (ja)

Families Citing this family (39)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004298241A (ja) * 2003-03-28 2004-10-28 Olympus Corp カプセル内視鏡
JP4118916B2 (ja) * 2003-11-11 2008-07-16 オリンパス株式会社 マルチスペクトル画像撮影装置
JP4615963B2 (ja) * 2004-10-29 2011-01-19 オリンパス株式会社 カプセル型内視鏡装置
JP5114003B2 (ja) * 2005-11-04 2013-01-09 オリンパス株式会社 蛍光内視鏡装置
WO2006112227A1 (ja) * 2005-04-13 2006-10-26 Olympus Medical Systems Corp. 画像処理装置及び画像処理方法
JP4624841B2 (ja) * 2005-04-13 2011-02-02 オリンパスメディカルシステムズ株式会社 画像処理装置および当該画像処理装置における画像処理方法
JP4624842B2 (ja) * 2005-04-13 2011-02-02 オリンパスメディカルシステムズ株式会社 画像処理方法、画像処理装置及びプログラム
JP5191090B2 (ja) * 2005-07-15 2013-04-24 オリンパスメディカルシステムズ株式会社 内視鏡装置
JP4727374B2 (ja) * 2005-09-30 2011-07-20 富士フイルム株式会社 電子内視鏡装置
JP2007202589A (ja) * 2006-01-30 2007-08-16 National Cancer Center-Japan 電子内視鏡装置
US7667180B2 (en) 2007-11-07 2010-02-23 Fujifilm Corporation Image capturing system, image capturing method, and recording medium
PL2291640T3 (pl) 2008-05-20 2019-07-31 University Health Network Urządzenie i sposób obrazowania i monitorowania w oparciu o fluorescencję
DE102008027905A1 (de) * 2008-06-12 2009-12-17 Olympus Winter & Ibe Gmbh Verfahren und Endoskop zur Verbesserung von Endoskopbildern
EP2345359A4 (en) * 2008-10-17 2012-04-04 Olympus Corp Image generation device, endoscope system and image generation method
JP2010115243A (ja) * 2008-11-11 2010-05-27 Hoya Corp 電子内視鏡用画像信号処理装置
JP5443802B2 (ja) * 2009-03-24 2014-03-19 オリンパス株式会社 蛍光観察装置
EP2384686B8 (en) * 2009-04-21 2013-01-16 Olympus Medical Systems Corp. Fluorescence image device and fluorescence image acquiring method
DE102009025662A1 (de) * 2009-06-17 2010-12-23 Karl Storz Gmbh & Co. Kg Verfahren und Vorrichtung zum Steuern einer mehrfarbigen Ausgabe eines Bilds eines medizinischen Objekts
JP5460507B2 (ja) * 2009-09-24 2014-04-02 富士フイルム株式会社 内視鏡装置の作動方法及び内視鏡装置
JP5460506B2 (ja) * 2009-09-24 2014-04-02 富士フイルム株式会社 内視鏡装置の作動方法及び内視鏡装置
JP5555002B2 (ja) * 2010-02-10 2014-07-23 オリンパス株式会社 蛍光内視鏡装置
EP2520211B1 (en) * 2010-02-10 2014-04-23 Olympus Corporation Fluorescence endoscope device
CN102781305B (zh) * 2010-03-09 2015-06-03 奥林巴斯株式会社 荧光内窥镜装置
JP5484977B2 (ja) * 2010-03-23 2014-05-07 オリンパス株式会社 蛍光観察装置
JP5432793B2 (ja) * 2010-03-29 2014-03-05 オリンパス株式会社 蛍光内視鏡装置
JP5140206B2 (ja) * 2010-10-12 2013-02-06 パナソニック株式会社 色信号処理装置
JP2012217781A (ja) * 2011-04-14 2012-11-12 Fujifilm Corp 内視鏡装置
JP5926909B2 (ja) 2011-09-07 2016-05-25 オリンパス株式会社 蛍光観察装置
JP5363680B2 (ja) * 2011-09-22 2013-12-11 オリンパスメディカルシステムズ株式会社 医療機器
WO2013068885A1 (en) * 2011-11-07 2013-05-16 Koninklijke Philips Electronics N.V. Detection apparatus for determining a state of tissue
JP6141196B2 (ja) * 2011-12-28 2017-06-07 オリンパス株式会社 蛍光観察装置
WO2014091964A1 (ja) * 2012-12-13 2014-06-19 オリンパス株式会社 蛍光観察装置
JP2014161500A (ja) * 2013-02-25 2014-09-08 Canon Inc 画像処理装置、眼科撮影装置及び方法、並びにプログラム
CN115844328A (zh) 2014-07-24 2023-03-28 大学健康网络 用于诊断目的的数据的收集和分析
DE102017117428B4 (de) * 2017-08-01 2024-07-25 Schölly Fiberoptic GmbH Bildgebendes Verfahren unter Ausnutzung von Fluoreszenz sowie zugehörige Bildaufnahmevorrichtung
DE102017129971A1 (de) * 2017-12-14 2019-06-19 Detlef Schikora Vorrichtung zur Registrierung und zur Zerstörung einzelner Tumorzellen, Tumorzellencluster und Mikrometastasen im Blutkreislauf
JP7281308B2 (ja) * 2019-03-07 2023-05-25 ソニー・オリンパスメディカルソリューションズ株式会社 医療用画像処理装置及び医療用観察システム
CN111513660B (zh) * 2020-04-28 2024-05-17 深圳开立生物医疗科技股份有限公司 一种应用于内窥镜的图像处理方法、装置及相关设备
US11599999B2 (en) * 2021-02-03 2023-03-07 Verily Life Sciences Llc Apparatus, system, and method for fluorescence imaging with stray light reduction

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS60256443A (ja) * 1984-05-31 1985-12-18 オムロン株式会社 画像計測装置
SE8900612D0 (sv) * 1989-02-22 1989-02-22 Jonas Johansson Vaevnadskarakterisering utnyttjande ett blodfritt fluorescenskriterium
US5131398A (en) * 1990-01-22 1992-07-21 Mediscience Technology Corp. Method and apparatus for distinguishing cancerous tissue from benign tumor tissue, benign tissue or normal tissue using native fluorescence
US5769792A (en) * 1991-07-03 1998-06-23 Xillix Technologies Corp. Endoscopic imaging system for diseased tissue
US5294799A (en) * 1993-02-01 1994-03-15 Aslund Nils R D Apparatus for quantitative imaging of multiple fluorophores
JP3285265B2 (ja) * 1993-12-03 2002-05-27 オリンパス光学工業株式会社 蛍光観察装置
US5590660A (en) * 1994-03-28 1997-01-07 Xillix Technologies Corp. Apparatus and method for imaging diseased tissue using integrated autofluorescence
US5647368A (en) * 1996-02-28 1997-07-15 Xillix Technologies Corp. Imaging system for detecting diseased tissue using native fluorsecence in the gastrointestinal and respiratory tract
JP3796635B2 (ja) * 1996-03-06 2006-07-12 富士写真フイルム株式会社 蛍光検出装置
JP3771344B2 (ja) * 1997-02-13 2006-04-26 富士写真フイルム株式会社 蛍光電子内視鏡
JPH10328129A (ja) * 1997-06-02 1998-12-15 Olympus Optical Co Ltd 蛍光観察装置
CA2318180A1 (en) * 1998-01-26 1999-07-29 Massachusetts Institute Of Technology Fluorescence imaging endoscope
JP4413316B2 (ja) * 1999-06-29 2010-02-10 株式会社トプコン 医用画像合成処理装置及び記録媒体
JP4388182B2 (ja) * 1999-12-06 2009-12-24 オリンパス株式会社 内視鏡装置
US6826424B1 (en) * 2000-12-19 2004-11-30 Haishan Zeng Methods and apparatus for fluorescence and reflectance imaging and spectroscopy and for contemporaneous measurements of electromagnetic radiation with multiple measuring devices

Also Published As

Publication number Publication date
US20030001104A1 (en) 2003-01-02
DE60229983D1 (de) 2009-01-02
EP1535569A1 (en) 2005-06-01
EP1535569B1 (en) 2008-11-05
DE60229793D1 (de) 2008-12-18
EP1275338B1 (en) 2008-12-17
EP1275338A3 (en) 2004-01-02
JP2003079568A (ja) 2003-03-18
EP1535568B1 (en) 2008-11-19
DE60230365D1 (de) 2009-01-29
EP1535568A1 (en) 2005-06-01
EP1275338A2 (en) 2003-01-15

Similar Documents

Publication Publication Date Title
JP3862582B2 (ja) 蛍光画像取得方法および装置並びにプログラム
US10251538B2 (en) Endoscope system and method for controlling the same
JP3731814B2 (ja) 蛍光画像表示装置
JP5081720B2 (ja) 蛍光内視鏡装置および励起光ユニット
JP4311607B2 (ja) 蛍光診断情報生成方法および装置
WO2011080996A1 (ja) 画像処理装置、電子機器、プログラム及び画像処理方法
CN110325100A (zh) 内窥镜系统及其操作方法
JP4727374B2 (ja) 電子内視鏡装置
JP5191329B2 (ja) 画像取得装置
JP4327380B2 (ja) 蛍光画像表示方法および装置
JP2019081044A (ja) 画像処理装置、画像処理装置の作動方法、および画像処理プログラム
JP3983947B2 (ja) 蛍光画像表示方法および装置
JP2006175052A (ja) 蛍光画像撮像装置
JP2001157658A (ja) 蛍光画像表示装置
JP2001178672A (ja) 蛍光画像表示装置
JP2004024656A (ja) 蛍光内視鏡装置
JP2001258820A (ja) 蛍光画像表示方法および装置
JP5147538B2 (ja) 蛍光画像取得装置および蛍光画像取得装置の作動方法
US7613505B2 (en) Device for the detection and characterization of biological tissue
JP2004024497A (ja) 蛍光診断画像生成装置
JP2003164414A (ja) 蛍光診断画像表示方法および表示装置
JP5191327B2 (ja) 画像取得装置および画像取得装置の作動方法
JP3881142B2 (ja) 蛍光表示方法および装置
JP2004024496A (ja) 蛍光診断画像生成方法および装置
JP2003159209A (ja) 蛍光診断画像表示方法および表示装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20040308

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20050831

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20050906

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20051107

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20060704

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060904

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20060926

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20060926

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091006

Year of fee payment: 3

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091006

Year of fee payment: 3

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101006

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111006

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121006

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121006

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131006

Year of fee payment: 7

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees