Nothing Special   »   [go: up one dir, main page]

JP2009244561A - 顕微鏡撮影システム - Google Patents

顕微鏡撮影システム Download PDF

Info

Publication number
JP2009244561A
JP2009244561A JP2008090523A JP2008090523A JP2009244561A JP 2009244561 A JP2009244561 A JP 2009244561A JP 2008090523 A JP2008090523 A JP 2008090523A JP 2008090523 A JP2008090523 A JP 2008090523A JP 2009244561 A JP2009244561 A JP 2009244561A
Authority
JP
Japan
Prior art keywords
mail
camera
microscope
image data
time
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2008090523A
Other languages
English (en)
Inventor
Naohiro Ariga
尚洋 有賀
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Priority to JP2008090523A priority Critical patent/JP2009244561A/ja
Priority to US12/411,595 priority patent/US8200767B2/en
Priority to EP09004456A priority patent/EP2107409A1/en
Publication of JP2009244561A publication Critical patent/JP2009244561A/ja
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/36Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
    • G02B21/365Control or image processing arrangements for digital or video microscopes
    • G02B21/367Control or image processing arrangements for digital or video microscopes providing an output produced by processing a plurality of individual source images, e.g. image tiling, montage, composite images, depth sectioning, image comparison

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Chemical & Material Sciences (AREA)
  • Analytical Chemistry (AREA)
  • General Physics & Mathematics (AREA)
  • Optics & Photonics (AREA)
  • Microscoopes, Condenser (AREA)
  • Studio Devices (AREA)

Abstract

【課題】ユーザが実験機の傍に常駐しなくても観察状況を容易に知ることができるようにする。
【解決手段】カメラ30は、顕微鏡10により取得される標本の観察像を撮影する。ディスク42は、カメラ30により撮影された当該観察像を表している画像データを記録しておく。CPU44は、予め登録されている電子メールアドレスを宛先とし、当該画像データと、当該画像データで表されている観察像の撮影時における顕微鏡10若しくはカメラ30の設定状態を示す情報とが含まれている電子メールを作成する。通信制御装置48は、この電子メールを通信ネットワークへ送信する。
【選択図】 図1

Description

本発明は、顕微鏡の技術に関し、特に、顕微鏡の遠隔操作の技術に関する。
端末から実験機(顕微鏡及びカメラ)の制御装置への通信ネットワーク越しのアクセスを受けて、当該顕微鏡及び当該カメラの当該端末からの遠隔操作を可能にした顕微鏡撮影システムが提案されている。例えば特許文献1には、観察対象となる病理標本が配置される遠隔操作顕微鏡を、通信ネットワークを介して接続される遠隔操作装置で操作する遠隔操作顕微鏡システムについての技術が開示されている。
この他、本願発明に関し、例えば特許文献2には、培養容器の試料を培養する培養装置が、当該培養容器を取り巻く環境状態の変化や培養装置の故障等に起因する異常が検出されたときに、その異常の発生を外部のコンピュータへ通知するためのメールを送信するという技術が開示されている。
特開平10−186238号公報 特開2007−129971号公報
上述したような従来の顕微鏡撮影システムでは、端末からアクセスがされている間、端末との通信が確立された状態となり、そのための通信処理が制御装置で継続して実行される。この状態において、制御装置が実験機の制御処理のための処理負担が大きくなると、通信処理のための余裕が少なくなる。ここで、この余裕がなくなると、端末からの指示に適切に応答しなくなって、端末による実験機の遠隔操作が行えなくなる場合や、システム全体が動作停止に陥る場合が発生することがある。更には、システムの制御を第三者が行えるようになってしまうなどの、セキュリティ上の問題が発生することも考えられる。
本発明は上述した問題に鑑みてなされたものであり、その解決しようとする課題は、ユーザが実験機の傍に常駐しなくても観察状況を容易に知ることができるようにすることである。
本発明の態様のひとつである顕微鏡撮影システムは、顕微鏡により取得される標本の観察像を撮影するカメラと、該カメラにより撮影された該観察像を表している画像データを記録しておく記録手段と、予め登録されている電子メールアドレスを宛先とし、該画像データと、該画像データで表されている観察像の撮影時における該顕微鏡若しくは該カメラの設定状態を示す情報とが含まれている電子メールを作成する電子メール作成手段と、該電子メールを通信ネットワークへ送信する通信手段と、を有するというものである。
なお、上述した顕微鏡撮影システムにおいて、該カメラは、該観察像を所定の撮影間隔で撮影し、該電子メール作成手段は、該電子メールの作成を所定の時間間隔で行うと共に、該作成時の直近に該カメラで撮影された該観察像を表している画像データを該電子メールに含め、該通信手段は、該電子メール作成手段が該電子メールを作成する度に該電子メールを送信する、ように構成することができる。
また、前述した顕微鏡撮影システムにおいて、該カメラを制御して該観察像を所定の撮影間隔で撮影させる制御手段を更に有し、該通信手段は、該顕微鏡撮影システムが宛先とされている電子メールを該通信ネットワーク上の電子メールサーバから受信し、該制御手段は、該通信手段が受信した電子メールが、該電子メール作成手段により作成された電子メールについての返信である場合には、該カメラを制御して該観察像の撮影を停止させる、ように構成することもできる。
なお、このとき、該電子メール作成手段は、作成する電子メールに、該顕微鏡撮影システムを特定する識別情報を、該電子メールのヘッダ情報に含ませておくようにし、該制御手段は、該通信手段が受信した電子メールに該識別情報が含まれていた場合に、該受信メールが該返信であるとの判定を下す、ように構成することができる。
また、前述した顕微鏡撮影システムにおいて、該顕微鏡、該カメラ、若しくは該記録手段における異常の発生を検知する異常検知手段を更に有し、該電子メール作成手段は、該異常検知手段が該異常の発生を検知した場合には、その異常の発生を示す情報が含まれている電子メールである異常発生通知メールを作成する、ように構成することもできる。
なお、このとき、該電子メール作成手段は、該異常発生通知メールの宛先を、該画像データを含む電子メールの宛先と異なるものとするように構成することができる。
また、前述した顕微鏡撮影システムにおいて、該カメラは、該観察像を所定の撮影間隔で撮影し、該カメラにより直近に撮影された2枚の観察像間の変化量を所定の閾値と比較する比較手段を更に有し、該電子メール作成手段は、該比較の結果として、該変化量が該所定の閾値を超えて大きい場合に、該カメラにより直近に撮影された観察像を表している画像データが含まれている該電子メールを作成し、該通信手段は、該電子メール作成手段が該電子メールを作成する度に該電子メールを送信する、ように構成することもできる。
本発明によれば、以上のようにすることにより、ユーザが実験機の傍に常駐しなくても観察状況を容易に知ることができるようになるという効果を奏する。
以下、本発明の実施の形態を図面に基づいて説明する。
まず図1について説明する。図1は本発明を実施する顕微鏡撮影システムの構成を示している。
図1に示すように、この顕微鏡撮影システムは、顕微鏡10、顕微鏡制御装置20、カメラ30、コンピュータ40、入力装置50、及び表示装置60を備えて構成されている。
顕微鏡10は、電動レボルバ、電動フィルタ、電動ミラーユニットカセット、電動ステージ、電動シャッタ、電動プリズム、電動キューブターレット、電動底面ポート、電動コンデンサ、照明などの電動光学部材を備えている。
顕微鏡制御装置20は、顕微鏡10に備えられている上述した各電動光学部材の設定状態を、コンピュータ40からの指示に従って制御すると共に、各電動光学部材の設定状態を示す情報を顕微鏡10から取得してコンピュータ40へ通知する。
カメラ30は顕微鏡10に接続されており、顕微鏡10により取得される標本の観察像の撮影を行って、当該観察像の画像を表現している画像データをコンピュータ40へ伝送する。
コンピュータ40は、カメラ制御装置41、ディスク42、ディスク制御装置43、CPU44、メモリ45、入力制御装置46、グラフィック制御装置47、通信制御装置48、及びバス49を備えている。
カメラ制御装置41は、カメラ30の撮影動作における各種の撮影動作条件の設定を、CPU44の指示に従って制御すると共に、カメラ30から伝送されてきた画像データの取得や、カメラ30に設定されているこれらの撮影動作条件を示す情報の取得を、CPU44の指示に従って行う。なお、撮影動作条件としては、例えば、画像のサイズ、露出時間、ISO感度、ゲイン、ビニング(画素混合)の実施状態、コントラスト、ホワイトバランス、ブラックバランス、撮影時間の間隔、撮影枚数、撮影時間等である。
ディスク42は、ハードディスク装置などの情報記録媒体であり、カメラ30で撮影された標本像の画像データ、当該標本像の撮影時におけるプロパティ情報(顕微鏡10の電動光学部材の設定状態を示す情報及びカメラ30の撮影動作条件を示す情報)、CPU44で実行される制御プログラムなどの各種の情報を記録する。ディスク制御装置43は、このディスク42に対するデータの記録及び読み出しの制御を、CPU44の指示に従って行う。
CPU(中央演算装置)44は、ディスク42に記録されている制御プログラムを読み出して実行することにより、図1の顕微鏡撮影システム全体の動作を制御する。
メモリ45は半導体メモリであり、ROMとRAMとを備えている。ROMには、コンピュータ40の各構成要素の基本的な制御を行うための基本プログラムが格納されており、CPU43は、コンピュータ40に対する電力供給が開始されたときには、まず、この制御プログラムを読み出して実行することで、コンピュータ40の各構成要素の制御が可能になる。一方、RAMは、例えば、CPU44が制御プログラムを実行する際の作業用メモリとして、また、カメラ30で撮影された標本像の画像データの一時的な格納場所として、それぞれ使用される。
入力制御装置46は、入力装置50を制御して、入力装置50により取得された入力情報を取得する。なお、入力装置50は、例えばマウス装置、キーボード装置、ハンドスイッチなどといった、図1の顕微鏡撮影システムのユーザによって操作される操作子であり、当該操作に対応付けられている当該ユーザからの入力情報を取得する。
グラフィック制御装置47は、表示装置60を制御して、画像データで表現されている観察像の表示や各種の情報の表示を、CPU44からの指示に従って表示装置60に行わせる。なお、表示装置62は、例えば液晶ディスプレイである。
通信制御装置48は、この顕微鏡撮影システムを不図示の通信ネットワークに接続するインタフェース装置であり、CPU44からの指示に従い、不図示の端末との間で当該通信ネットワークを介して各種のデータの授受を行う。
なお、カメラ制御装置41、ディスク制御装置43、CPU44、メモリ45、入力制御装置46、グラフィック制御装置47、及び通信制御装置48はバス49を介して相互に接続されており、CPU44の管理の下で、各種のデータを相互に授受することができる。
次に、この顕微鏡撮影システムの動作の概要について説明する。
このシステムは、顕微鏡10により取得される標本の観察像の撮影を、所定の時間間隔をおいてカメラ30が間欠的に行い、得られた撮影画像を、ディスク42に構築される画像データベースに記録する、いわゆるタイムラプス撮影を行う。そして、図2に示すように、画像データベースに蓄積したタイムラプス撮影画像についての画像データファイルを添付した所定の端末宛の電子メールを作成して、通信ネットワークへ送信する。従って、当該端末の使用者は、この電子メールを受け取って添付されている画像データファイルを開くことで、この顕微鏡撮影システムとは物理的に離れた位置に在っても、タイムラプス撮影画像を閲覧することができる。
また、このシステムは、自身の動作に異常を検知した場合には、その旨を示す所定の端末宛の電子メールを作成して、通信ネットワークへ送信する。従って、当該端末の使用者は、この電子メールを受け取ることで、この顕微鏡撮影システムとは物理的に離れた位置に在っても、システムの異常を認知することができる。
更に、このシステムは、自身が送信した電子メールに対する返信の電子メールを受信した場合には、タイムラプス撮影を停止させることができる。つまり、図3に示すように、このシステムからの電子メール100を受信した端末の使用者は、この電子メールに対する返信の電子メール200の送信操作を行うだけで、タイムラプス撮影の停止の指示を行うことができる。また、端末から送信された顕微鏡撮影システム宛の電子メールは、通信ネットワーク上に存在する不図示のメールサーバに一旦蓄えられ、顕微鏡撮影システムは、CPU44の処理に余裕のあるときに自身宛の電子メールをメールサーバから受け取る。従って、CPU44の処理負担が、端末との通信に起因して過大なものとなることが防止される。
CPU44は、顕微鏡撮影システムを以上のように動作させるために、次に説明する制御処理を行う。
ここで図4について説明する。図4は、CPU44により行われる制御処理の処理内容をフローチャートで示したものである。CPU44は、入力装置50に対しユーザにより行われた所定の実行指示に従い、ディスク42に予め記録されている所定の制御プログラムを読み出して実行することにより、この制御処理を実現する。
図4において、まず、S101では、この顕微鏡撮影システムの遠隔操作を行う端末を、通信ネットワーク上で特定するアドレスを登録する処理が行われる。
なお、本実施形態では、顕微鏡撮影システムと端末とのデータ授受を、電子メールにより行うものとしているので、この処理では、通信ネットワーク上で端末を特定するアドレスとして、電子メールアドレスの登録を行うものとする。このために、CPU44は、まず、グラフィック制御装置47を制御して、図5に例示するような、この設定に利用するアドレス登録画面を表示装置60を表示させる。そして、この画面の表示内容に従ってユーザが入力装置50を操作して入力した、端末の使用者の名称(User Name)と、当該使用者に与えられている電子メールアドレスの情報(Addres)を取得して、ディスク42に記録する処理を行う。なお、この図5の画面に表されている表における同一行での対応関係に基づき、各使用者に対し識別用のユーザIDが割り当てられる。
なお、CPU44は、このときに、電子メールに添付する画像データファイルのデータ型式、当該ファイルで表されている画像の解像度、及び当該画像から当該画像データへの変換を行うときのデータ圧縮率の各情報も、併せて入力装置50から取得してディスク42に記録する処理を行う。
次に、S102では、顕微鏡10の各電動光学部材を設定する処理が行われる。
この処理では、観察対象である標本やその観察法(検鏡法)に応じ、顕微鏡10の各電動光学部材に対する初期設定が行われる。この処理のために、CPU44は、まず、グラフィック制御装置47を制御して、この設定に利用するGUI画面(顕微鏡設定GUI)を表示装置60に表示させる処理を行う。そして、この画面の表示内容に従ってユーザが入力装置50を操作して入力した情報を入力制御装置46から取得する処理を行い、この取得した情報に基づいて顕微鏡制御装置20に指示を与えて、ユーザの指示に従った設定となるように顕微鏡10の各電動光学部材を制御させる処理を行う。
次に、S103では、カメラ30の撮影動作条件を設定する処理が行われる。
このS103の処理では、CPU44は、まず、カメラ30で現在撮像されている画像についての画像データをカメラ制御装置に取得させ、取得された画像データをグラフィック制御装置47に転送して当該画像データで表現されている画像を表示装置60に表示させる処理を所定の間隔(例えば1秒当たりで30回)で行う。このようにして表示装置60に表示される標本の観察像は、ライブプレビュー像などと称されている。
また、このとき、CPU44は、グラフィック制御装置47を制御して、カメラ30の撮影動作条件の設定に利用するGUI画面(カメラ設定GUI)を表示装置60に表示させる処理を行う。そして、ライブプレビュー像を観察しているユーザが、この画面の表示内容に従って入力装置50を操作して入力した情報を、入力制御装置46から取得する処理を行い、この取得した情報に基づいてカメラ制御装置41に指示を与えて、ユーザの指示に従った設定となるようにカメラ30を制御させる処理を行う。
次に、S104では、タイムラプス撮影における、時間軸に応じた顕微鏡10及びカメラ30の設定登録処理が行われる。
この処理では、例えば、タイムラプス撮影における撮影時間や、撮影間隔と撮影枚数との設定登録が行われる。また所定の撮影枚数毎に、画像サイズ、露光時間、ゲイン、ビニングの有無、コントラスト、シャープネスといった、カメラ30の撮影動作条件を切り替える設定登録が、必要に応じて行われる。更に、各撮影動作の間に、顕微鏡10の各電動光学部材を切り替える設定登録も必要に応じて行われる。この顕微鏡10についての設定登録では、例えば、カメラ30の撮影動作のタイミングに同期して、電動シャッタの開閉制御を行って標本に対する照明に起因するダメージを減少させる設定や、電動キューブターレットを駆動して、光学部材を備えている光学キューブを切り替える設定などの登録も、必要に応じて行われる。
なお、このS104の処理では、CPU44は、グラフィック制御装置47を制御して、これらの設定登録に利用するGUI画面(設定GUI)を表示装置60に表示させる処理を行う。そして、この画面の表示内容に従ってユーザが入力装置50を操作して入力した情報を、入力制御装置46から取得してディスク42に記録する処理を行う。
ここで、図6A及び図6Bについて説明する。図6A及び図6Bは、このS104の処理により表示装置60に表示される設定GUIの画面例である。ここで、図6Aは顕微鏡10及びカメラ30の設定登録用のものであり、図6Bはタイムラプス撮影動作の設定登録用のものである。
図6Aでは、カメラ30に対する設定項目として、露光時間、ゲイン、及び画像サイズの各項目が設けられている。また、顕微鏡10に対する設定項目としては、使用する対物レンズの種別(電動レボルバの駆動制御用)、使用する光学キューブの種別(電動キューブターレットの駆動制御用)、位置(電動ステージの駆動制御用)、使用するコンデンサ(電動コンデンサの駆動制御用)、使用するランプ(照明装置の駆動制御用)、及び使用するフィルタ(電動フィルタの駆動制御用)の各項目が設けられている。
また、図6Bでは、タイムラプス撮影に対する設定項目として、撮影間隔と総撮影枚数との項目が設けられている。
なお、図6Aや図6Bに示した設定GUIを複数表示装置60に複数表示させるようにして、これらの設定登録を複数組行えるようにし、タイムラプス撮影において、各設定登録内容を所定の順序で顕微鏡撮影システムに再現して撮影を行うようにしてもよい。
次に、S105では、S101の処理により登録したアドレスにデータを転送するタイミングを登録する処理が行われる。すなわち、本実施形態においては、端末へデータを転送するための当該端末宛の電子メールをこの顕微鏡撮影システムが送信する時間間隔(送信間隔)を登録する処理が行われる。
このS105の処理では、CPU44は、前述した設定GUIの表示内容に従ってユーザが入力装置50を操作して入力した時間間隔の情報を、入力制御装置46から取得してディスク42に記録する処理を行う。
ここで図7について説明する。図7は、このS105の処理により表示装置60に表示される設定GUIの画面例である。この画面例では、設定登録項目として、送信間隔と、電子メールの送信先を特定するユーザIDとの項目が設けられている。
次に、S106では、上述したS104及びS105の処理により登録された設定内容に基づいたタイムラプス撮影の実行を開始させる処理が行われる。
この処理では、CPU44は、まず、グラフィック制御装置47を制御してタイムラプス撮影開始ボタンアイコンを表示装置60に表示させる処理を行う。そして、ユーザが入力装置50を操作して当該タイムラプス撮影開始ボタンアイコンを押下する指示情報を入力制御装置46が取得するまで、処理の信号を一時的に停止する処理を行う。ここで、当該指示情報を入力制御装置46が取得したことを検出した場合には、CPU44は、S104及びS105の処理によりディスク42に記録した情報を読み出し、この情報と、CPU44自身が内蔵している不図示のタイマにより計時される時間情報とに従って顕微鏡制御装置20及びカメラ制御装置41に指示を与えることで、顕微鏡10の電動光学部材の切り替え制御、カメラ30の撮影動作条件の切り替え設定制御、及びカメラ30に対する標本の観察像の撮影動作制御を、顕微鏡制御装置20及びカメラ制御装置41にそれぞれ行わせる処理を行う。
次に、S107では、登録されたアドレスにより特定される端末へデータを転送するタイミングが到来したか否かを判定する処理が行われる。すなわち、本実施形態においては、前述したタイマにより、S105の処理により登録していた時間間隔に相当する時間の経過が検出されて、端末宛の電子メールを送信するタイミングが到来したか否かを判定する処理がCPU44で行われる。ここで、当該タイミングが到来したと判定したとき(判定結果がYesのとき)にはS108に処理を進め、当該タイミングは到来していないと判定したとき(判定結果がNoのとき)にはS109に処理を進める。
S108では、アドレスを登録していた端末へのデータ転送処理が行われる。すなわち、本実施形態では、CPU44は、S101の処理によりディスク42に記録しておいた電子メールアドレスのうち、S105の処理によって送信先に指定されているものを読み出し、このアドレスを宛先とする電子メールを作成し、通信制御装置48を制御して、作成した電子メールを通信ネットワークへ送信させる処理を行う。
なお、CPU44は、このときに作成される電子メールに、例えば、この作成時刻の直近にカメラ30で撮影されてディスク42に記録されていた観察像の画像データを、S101の処理によりディスク42に記録しておいた画像サイズ、データ型式、データ圧縮率のものに変換して含めるようにする。なお、画像データの圧縮処理は、既存の手法(例えばJPEG方式やJPEG2000方式など)を使用するものとする。ここで、画像データは、当該電子メールに添付するようにしてもよく、また、当該電子メールの本文中に画像を埋め込む形式にしてもよい。
また、CPU44は、このときに作成される電子メールに、この顕微鏡撮影システムについて固有の識別情報をヘッダ情報として含めるようにする。
なお、CPU44は、作成する電子メールの本文として、当該画像を撮影したときにおける顕微鏡10の電動光学部材の設定情報、及びカメラ30の撮影動作条件を示す情報を、テキスト情報にして含めるようにする。
次に、S109では、顕微鏡10、カメラ30、若しくはデータを保存しているディスク42に異常が発生しているかどうかを判定する処理が行われる。
この処理では、顕微鏡10において、例えば、顕微鏡制御装置20が電動レボルバを駆動制御しているのに対物レンズの切り替えが顕微鏡制御装置20で検知されない場合、顕微鏡制御装置20が照明の点灯制御を行っているのに照明の点灯が顕微鏡制御装置20で検知されない場合、顕微鏡制御装置20が電動ステージを駆動制御しているのに電動ステージの位置の変化が顕微鏡制御装置20で検知されない場合、顕微鏡制御装置20がシャッタの開閉を制御しているのにシャッタの開閉が顕微鏡制御装置20で検知されない場合などに、顕微鏡制御装置002はその状態に対応したエラーコードをコンピュータ40に出力する。また、例えばカメラ30において、カメラ30に備えられている不図示の温度センサから、許容範囲を超えたカメラ30の内部温度を示す情報をカメラ制御装置41が取得した場合、カメラ30に対する露出時間の設定変更制御をカメラ制御装置41が行ったのにカメラ30での当該露出時間の設定変更がカメラ制御装置41で検知されない場合などに、カメラ制御装置41はその状態に対応したエラーコードをCPU44に出力する。CPU44は、このようなエラーコードを顕微鏡制御装置20若しくはカメラ制御装置41から受け取ることで、顕微鏡10若しくはカメラ30の異常を検知することができる。また、ディスク42については、ディスク制御装置43が出力するエラーコードを受け取ることで、その異常をCPU44は検知することができる。
このS109の判定処理において、異常が発生していると判定されたとき(判定結果がYesのとき)にはS110に処理を進め、異常が発生していないと判定されたとき(判定結果がNoのとき)にはS113に処理を進める。
S110では、異常が発生している箇所の情報を集計する処理が行われる。すなわち、本実施形態では、CPU44は、顕微鏡制御装置20、カメラ制御装置41、若しくはディスク制御装置43から受け取ったエラーコードを纏めてメモリ45に一時的に保存する処理を行う。
S111では、S110の処理の集計結果を示すデータを、アドレスを登録していた端末へ転送する処理が行われる。すなわち、本実施形態では、CPU44は、メモリ45に保存しておいたエラーコードを読み出し、当該エラーコードを示す情報を本文に含めた電子メールを作成し、S101の処理によりディスク42に記録しておいた電子メールアドレスのうち、S105の処理によって送信先に指定されているものを読み出してこのアドレスを当該電子メールの宛先とし、通信制御装置48を制御して、作成した電子メールを通信ネットワークへ送信させる処理を行う。
なお、この異常の発生を通知する電子メールの送信先を、タイムラプス画像を添付した電子メールの送信先と異なるものとすることも可能である。すなわち、図8に例示するように、緊急時(異常発生時)の電子メールの送信先を示すユーザIDを、別途ディスク42に登録しておくようにしておき、このS111の処理では、S101の処理によりディスク42に記録しておいた電子メールアドレスのうち、この登録内容によって緊急時送信先に指定されているものを読み出してこのアドレスを当該電子メールの宛先とし、通信制御装置48を制御して、作成した電子メールを通信ネットワークへ送信させる処理を行うようにしてもよい。
また、CPU44は、このときに作成される電子メールに、この顕微鏡撮影システムについて固有の識別情報をヘッダ情報として含めるようにする。
なお、以上のS109からS111にかけての処理については、後で更に具体的に説明する。
S112では、この顕微鏡撮影システムが送信した電子メールに対する返信の電子メールを受信したか否かを判定する処理が行われる。
この処理では、CPU44は、通信制御装置48を制御して、通信ネットワーク上の不図示の電子メールサーバに対し、この顕微鏡撮影システム宛の電子メールの配信要求を送信させる。そして、この配信要求に応じて電子メールサーバから受け取った電子メールが、顕微鏡撮影システムが送信した電子メールに対する返信であるか否かを、当該電子メールのヘッダ情報における当該顕微鏡撮影システムに固有の識別情報の存在有無と、当該電子メールの発信元とに基づいて判定する処理を行う。返信である電子メールを受け取ったと判定した場合には、S112の判定結果をYesとしてS114に処理を進める。一方、返信である電子メールを受け取っていないと判定した場合には、S112の判定結果をNoとしてS113に処理を進める。
次に、S113では、タイムラプス撮影の終了時間に達したか否かを判定する処理が行われる。すなわち、本実施形態では、CPU44は、前述したタイマによる計時動作により、タイムラプス撮影を開始してからの経過時間が、S104の設定登録処理により登録された撮影時間に達したか否かを判定する処理を行う。ここで、タイムラプス撮影の終了時間に達したと判定されたとき(判定結果がYesのとき)にはS114に処理を進める。一方、タイムラプス撮影の終了時間に達していないと判定されたとき(判定結果がNoのとき)にはS107に処理を戻して上述した処理が繰り返される。
S114では、S106の処理により開始させたタイムラプス撮影の実行を終了させる処理が行われ、その後はこの図4の制御処理を終了する。
以上の処理がCPU44で行われることにより、図1の顕微鏡撮影システムが前述したように動作する。
次に図9について説明する。図9は、CPU44で行われる異常通知処理の処理内容をフローチャートで示したものである。なお、この処理は、図4におけるS109からS111にかけての処理をより具体的に示したものである。
S201の処理は、図4の制御処理におけるS107の処理に続き、若しくは、当該制御処理におけるS107の処理の判定結果がNoであったときに行われる。このS201では、当該制御処理におけるS104及びS105の処理により設定登録された内容をディスク42から読み出して取得する処理が行われる。
次に、S202では、S201の処理により取得した内容の設定を顕微鏡10及びカメラ30で実現するための制御コマンドを、顕微鏡制御装置20及びカメラ制御装置41へ送信する処理が行われる。なお、顕微鏡制御装置20及びカメラ制御装置41は、この制御コマンドに対応する制御動作に成功した場合には、制御成功を示す値(例えば「1」)を戻り値としてCPU44に返送するものとし、この制御コマンドに対応する制御動作が成功しなかった場合には、制御失敗を示す値(例えば「0」)を戻り値としてCPU44に返送するものとする。
このS202に続くS203からS205にかけての各判定処理は、図4のS109の判定処理に対応するものである。
まず、S203では、S202の処理により送信した制御コマンドに対する戻り値を取得したか否かを判定する処理が行われる。ここで、戻り値を取得したと判定したとき(判定結果がYesのとき)にはS204に処理を進め、戻り値を取得していないと判定したとき(判定結果がNoのとき)にはS205に処理を進める。
S204では、取得した戻り値が制御失敗を示す値であるか否かを判定する処理が行われる。ここで、戻り値が制御失敗を示す値であると判定されたとき(判定結果がYesのとき)には、S206に処理を進める。一方、戻り値が制御成功を示す値であると判定されたとき(判定結果がNoのとき)には、この異常通知処理を終了して、図4のS113に処理を進める。
S205では、CPU44内蔵のタイマによる計時結果に基づき、S202の処理により制御コマンドを送信してからの経過時間が、予め設定されているタイムアウト時間を過ぎたか否かを判定する処理が行われる。ここで、当該タイムアウト時間を過ぎたと判定されたとき(判定結果がYesのとき)にはS206に処理を進める。一方、当該タイムアウト時間を未だ過ぎていないと判定されたとき(判定結果がNoのとき)にはS203へ処理を戻して上述した判定処理が繰り返される。
次のS206の処理は、図4のS110の処理に対応するものである。すなわち、S206では、顕微鏡制御装置20及びカメラ制御装置41から自律的に送られてくる、若しくはCPU44からの要求に従って送られてくる、異常の詳細を示すエラーコードを取得する処理が行われる。
次のS207からS209にかけての処理は、図4のS111の処理に対応するものである。
まず、S207では、エラーコードを、対応する説明文に変換する処理が行われる。なお、ディスク42には、エラーコードと説明文である文書データとを対応付けた文書データファイルを予め格納しておくようにし、CPU44は、この文書データファイルを参照、この内容に基づいてエラーコードを説明文に変換する処理を行う。
次に、S208では、この顕微鏡撮影システムについて固有の識別情報(ID)を生成し、このIDをヘッダ情報に含めると共に、S207の処理により得られた説明文を本文に含めた電子メールを作成する処理が行われる。
次に、S209では、S101の処理によりディスク42に記録しておいた電子メールアドレスのうち、S105の処理によって送信先に指定されているもの(若しくは図8に例示した画面に対する登録内容によって緊急時送信先に指定されているもの)を読み出してこのアドレスを当該電子メールの宛先とし、通信制御装置48を制御して、作成した電子メールを通信ネットワークへ送信させる処理を行う。その後は、この異常通知処理を終了して、図4のS112に処理を進める。
以上の異常通知処理がCPU44で行われることにより、図1の顕微鏡撮影システムがタイムラプス撮影動作を実行している途中でシステム内に異常が発生した場合に、その旨を通知する電子メールが、通知先として設定されている者へ宛てて送信される。
なお、図4に示した制御処理では、予め設定しておいた時間間隔で、端末宛のタイムラプス画像を含む電子メールを通信ネットワークへ送信するようにしていた。ここで、更に、カメラ30により撮影された標本の観察像に所定の閾値を超える変化が生じた場合に、当該電子メールを送信するように構成することもできる。
図10について説明する。図10は、図1の顕微鏡撮影システムにおいて、このような動作を行わせるために、CPU44により行われるメール送信処理の処理内容をフローチャートで示したものである。なお、この処理は、例えば、図4の制御処理におけるS107及びS108の処理と、S109の処理との間に行うようにする。
図10において、まず、S301では、直近にカメラ30で撮影されて画像データがディスク42に記録されていた観察像を、その撮影の直前にカメラ30で撮影されて画像データがディスク42に記録されていた観察像との差分(例えば画像を構成する画素毎の輝度の差分)を求めてその変化量を算出する処理が行われる。
次に、S302では、この変化量が、所定の閾値を超えているか否かを判定する処理が行われ、超えていると判定されたとき(判定結果がYesのとき)にはS303に処理を進め、超えていないと判定されたとき(判定結果がNoのとき)には、このメール送信処理を終了して図4のS109に処理を進める。
なお、この閾値は、例えば、図4の制御処理を開始する前に、図11に例示するような変化量閾値設定画面を表示装置60に表示させる処理と、この画面の表示内容に従ってユーザが入力装置50を操作して入力した閾値情報を入力制御装置46から取得してディスク42に記録する処理をCPU44が行って得られた閾値情報を用いるようにする。
次に、S303では、電子メールを作成して、この作成時刻の直近にカメラ30で撮影されてディスク42に記録されていた観察像(S301の処理の対象としたもの)の画像データを、S101の処理によりディスク42に記録しておいた画像サイズ、データ型式、データ圧縮率のものに変換して含める処理が行われる。そして、続くS304において、このときに作成される電子メールに、この顕微鏡撮影システムについて固有の識別情報をヘッダ情報として含めると共に、図4のS101の処理によりディスク42に記録しておいた電子メールアドレスのうち、S105の処理によって送信先に指定されているものを読み出し、このアドレスを当該電子メールの宛先として設定した上で、通信制御装置48を制御して、作成した電子メールを通信ネットワークへ送信させる処理が行われる。そして、その後は、このメール送信処理を終了して図4のS109に処理を進める。
以上のメール送信処理かせCPU44で行われることにより、カメラ30により撮影された標本の観察像に所定の閾値を超える変化が生じた場合に、当該観察像の画像データを含む端末宛の電子メールが送信される。従って、当該端末の使用者は、この電子メールを受け取ることで、この顕微鏡撮影システムとは物理的に離れた位置に在っても、タイムラプス撮影のために設定された撮影時間間隔に囚われることなく、観察像に発生した大きな変化を認識することができる。
以上のように、図1に示した顕微鏡撮影システムでは、視察者が実験機の傍にいなくても、タイムラプス撮影による標本観察の動向を知ることができる。また、端末との通信に電子メールを使用することにより、負荷の低い状態のときに、タイムラプス撮影のスケジュールを停止することができるので、安全なシステムを提供できる。
本発明を実施する顕微鏡撮影システムの構成を示す図である。 図1の顕微鏡撮影システムの動作の概要を説明する図(その1)である。 図1の顕微鏡撮影システムの動作の概要を説明する図(その2)である。 制御処理の処理内容をフローチャートで示した図である。 アドレス登録画面の画面例を示す図である。 顕微鏡及びカメラの設定登録用のGUI画面例を示す図である。 タイムラプス撮影動作の設定登録用のGUI画面例を示す図である。 電子メール送信間隔設定用のGUI画面例を示す図である。 緊急時の電子メールの送信先の例を示す図である。 異常通知処理の処理内容をフローチャートで示した図である。 メール送信処理の処理内容をフローチャートで示した図である。 変化量閾値設定画面の画面例を示す図である。
符号の説明
10 顕微鏡
20 顕微鏡制御装置
30 カメラ
40 コンピュータ
41 カメラ制御装置
42 ディスク
43 ディスク制御装置
44 CPU
45 メモリ
46 入力制御装置
47 グラフィック制御装置
48 通信制御装置
49 バス
50 入力装置
60 表示装置
100 電子メール(往信)
200 電子メール(返信)

Claims (7)

  1. 顕微鏡により取得される標本の観察像を撮影するカメラと、
    前記カメラにより撮影された前記観察像を表している画像データを記録しておく記録手段と、
    予め登録されている電子メールアドレスを宛先とし、前記画像データと、該画像データで表されている観察像の撮影時における前記顕微鏡若しくは前記カメラの設定状態を示す情報とが含まれている電子メールを作成する電子メール作成手段と、
    前記電子メールを通信ネットワークへ送信する通信手段と、
    を有することを特徴とする顕微鏡撮影システム。
  2. 前記カメラは、前記観察像を所定の撮影間隔で撮影し、
    前記電子メール作成手段は、前記電子メールの作成を所定の時間間隔で行うと共に、該作成時の直近に前記カメラで撮影された前記観察像を表している画像データを該電子メールに含め、
    前記通信手段は、前記電子メール作成手段が前記電子メールを作成する度に該電子メールを送信する、
    ことを特徴とする請求項1に記載の顕微鏡撮影システム。
  3. 前記カメラを制御して前記観察像を所定の撮影間隔で撮影させる制御手段を更に有し、
    前記通信手段は、前記顕微鏡撮影システムが宛先とされている電子メールを前記通信ネットワーク上の電子メールサーバから受信し、
    前記制御手段は、前記通信手段が受信した電子メールが、前記電子メール作成手段により作成された電子メールについての返信である場合には、前記カメラを制御して前記観察像の撮影を停止させる、
    ことを特徴とする請求項1に記載の顕微鏡撮影システム。
  4. 前記電子メール作成手段は、作成する電子メールに、前記顕微鏡撮影システムを特定する識別情報を、該電子メールのヘッダ情報に含ませておくようにし、
    前記制御手段は、前記通信手段が受信した電子メールに前記識別情報が含まれていた場合に、該受信メールが前記返信であるとの判定を下す、
    ことを特徴とする請求項3に記載の顕微鏡撮影システム。
  5. 前記顕微鏡、前記カメラ、若しくは前記記録手段における異常の発生を検知する異常検知手段を更に有し、
    前記電子メール作成手段は、前記異常検知手段が前記異常の発生を検知した場合には、その異常の発生を示す情報が含まれている電子メールである異常発生通知メールを作成する、
    ことを特徴とする請求項1に記載の顕微鏡撮影システム。
  6. 前記電子メール作成手段は、前記異常発生通知メールの宛先を、前記画像データを含む電子メールの宛先と異なるものとすることを特徴とする請求項5に記載の顕微鏡撮影システム。
  7. 前記カメラは、前記観察像を所定の撮影間隔で撮影し、
    前記カメラにより直近に撮影された2枚の観察像間の変化量を所定の閾値と比較する比較手段を更に有し、
    前記電子メール作成手段は、前記比較の結果として、前記変化量が前記所定の閾値を超えて大きい場合に、前記カメラにより直近に撮影された観察像を表している画像データが含まれている前記電子メールを作成し、
    前記通信手段は、前記電子メール作成手段が前記電子メールを作成する度に該電子メールを送信する、
    ことを特徴とする請求項1に記載の顕微鏡撮影システム。
JP2008090523A 2008-03-31 2008-03-31 顕微鏡撮影システム Pending JP2009244561A (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2008090523A JP2009244561A (ja) 2008-03-31 2008-03-31 顕微鏡撮影システム
US12/411,595 US8200767B2 (en) 2008-03-31 2009-03-26 Microscope image taking system
EP09004456A EP2107409A1 (en) 2008-03-31 2009-03-27 Microscope image taking system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008090523A JP2009244561A (ja) 2008-03-31 2008-03-31 顕微鏡撮影システム

Publications (1)

Publication Number Publication Date
JP2009244561A true JP2009244561A (ja) 2009-10-22

Family

ID=40810654

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008090523A Pending JP2009244561A (ja) 2008-03-31 2008-03-31 顕微鏡撮影システム

Country Status (3)

Country Link
US (1) US8200767B2 (ja)
EP (1) EP2107409A1 (ja)
JP (1) JP2009244561A (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5560966B2 (ja) * 2010-07-01 2014-07-30 ソニー株式会社 顕微鏡制御装置、画像管理サーバ、画像処理方法、プログラム及び画像管理システム
KR102078093B1 (ko) 2011-11-10 2020-02-18 삼성전자 주식회사 휴대단말기의 온도 제어장치 및 방법
TWI499309B (zh) * 2012-03-28 2015-09-01 Albert Chang 影像控制系統及其方法
US10119901B2 (en) * 2013-11-15 2018-11-06 Mikroscan Technologies, Inc. Geological scanner
US10162166B2 (en) 2014-10-28 2018-12-25 Mikroscan Technologies, Inc. Microdissection viewing system

Citations (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS6419318A (en) * 1987-04-09 1989-01-23 Olympus Optical Co Microscope for operation
JP2000181865A (ja) * 1998-12-14 2000-06-30 Matsushita Electric Ind Co Ltd 端末装置
JP2000181815A (ja) * 1998-12-15 2000-06-30 Fujitsu Ltd メール装置、端末装置および記録媒体
JP2003158599A (ja) * 2001-11-22 2003-05-30 Ricoh Co Ltd 電子機器、プログラムおよび記録媒体
WO2004036283A1 (ja) * 2002-09-06 2004-04-29 Celestar Lexico-Sciences, Inc. 顕微鏡画像処理システム、顕微鏡画像処理方法、プログラム、および、記録媒体
JP2004309719A (ja) * 2003-04-04 2004-11-04 Olympus Corp 顕微鏡システム、顕微鏡システムの制御方法、及び制御プログラム
JP2005278741A (ja) * 2004-03-29 2005-10-13 Shimadzu Corp 超音波診断装置
JP2006175215A (ja) * 2004-11-24 2006-07-06 Olympus Corp 内視鏡制御システム
JP2006227943A (ja) * 2005-02-17 2006-08-31 Heibon:Kk カード不正使用の検出および対応システム、カード不正使用の検出および対応プログラム、カード不正使用の検出および対応方法
JP2007011977A (ja) * 2005-07-04 2007-01-18 Nikon Corp 画像処理方法、コンピュータ実行可能なプログラム、及び顕微鏡システム
JP2007129971A (ja) * 2005-11-11 2007-05-31 Nikon Corp 培養装置
JP2007188513A (ja) * 2007-02-08 2007-07-26 Sharp Corp データ受信装置、データ受信方法、通信システム、データ受信プログラムおよびその記録媒体
WO2007132870A1 (ja) * 2006-05-15 2007-11-22 Nikon Corporation タイムラプス撮影装置

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6005964A (en) * 1996-01-24 1999-12-21 The Board Of Trustees Of The University Of Illinois Automatic machine vision microscope slide inspection system and method
JPH10186238A (ja) 1996-12-26 1998-07-14 Nippon Telegr & Teleph Corp <Ntt> 遠隔操作顕微鏡システム
US5724127A (en) * 1997-02-27 1998-03-03 Ciena Corporation System and method for inspecting an end of a fiber optic
US6930709B1 (en) * 1997-12-04 2005-08-16 Pentax Of America, Inc. Integrated internet/intranet camera
JP3509517B2 (ja) * 1997-12-18 2004-03-22 本田技研工業株式会社 電気自動車におけるバッテリおよび電気部品の冷却構造
US20030025599A1 (en) * 2001-05-11 2003-02-06 Monroe David A. Method and apparatus for collecting, sending, archiving and retrieving motion video and still images and notification of detected events
US6847729B1 (en) * 1999-04-21 2005-01-25 Fairfield Imaging Limited Microscopy
JP2001057171A (ja) * 1999-08-17 2001-02-27 Jeol Ltd 理化学機器における異常検知方式
WO2001026541A1 (en) 1999-10-08 2001-04-19 The Research Foundation Of State University Of New York Virtual telemicroscope
US7292251B1 (en) * 2000-10-06 2007-11-06 The Research Foundation Of State University Of New York Virtual telemicroscope
US7418118B2 (en) * 2000-11-10 2008-08-26 Furnas Steven J Method and apparatus for diagnosing pathogenic or allergenic microorganisms or microparticles at a remote location
JP2003050882A (ja) * 2001-08-07 2003-02-21 Konica Corp 保守管理サービス支援ホスト装置
US7756305B2 (en) 2002-01-23 2010-07-13 The Regents Of The University Of California Fast 3D cytometry for information in tissue engineering
JP2006259701A (ja) * 2005-02-16 2006-09-28 Nikon Corp 間欠撮影装置とこれを有する顕微鏡システム
US7657070B2 (en) * 2006-01-20 2010-02-02 Sakura Finetek U.S.A., Inc. Automated system of processing biological specimens and method
KR20090012230A (ko) * 2006-04-28 2009-02-02 마이크로닉 레이저 시스템즈 에이비 표면의 영상 및 연구 기록을 위한 방법 및 장치
US8144944B2 (en) * 2007-08-14 2012-03-27 Olympus Corporation Image sharing system and method

Patent Citations (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS6419318A (en) * 1987-04-09 1989-01-23 Olympus Optical Co Microscope for operation
JP2000181865A (ja) * 1998-12-14 2000-06-30 Matsushita Electric Ind Co Ltd 端末装置
JP2000181815A (ja) * 1998-12-15 2000-06-30 Fujitsu Ltd メール装置、端末装置および記録媒体
JP2003158599A (ja) * 2001-11-22 2003-05-30 Ricoh Co Ltd 電子機器、プログラムおよび記録媒体
WO2004036283A1 (ja) * 2002-09-06 2004-04-29 Celestar Lexico-Sciences, Inc. 顕微鏡画像処理システム、顕微鏡画像処理方法、プログラム、および、記録媒体
JP2004309719A (ja) * 2003-04-04 2004-11-04 Olympus Corp 顕微鏡システム、顕微鏡システムの制御方法、及び制御プログラム
JP2005278741A (ja) * 2004-03-29 2005-10-13 Shimadzu Corp 超音波診断装置
JP2006175215A (ja) * 2004-11-24 2006-07-06 Olympus Corp 内視鏡制御システム
JP2006227943A (ja) * 2005-02-17 2006-08-31 Heibon:Kk カード不正使用の検出および対応システム、カード不正使用の検出および対応プログラム、カード不正使用の検出および対応方法
JP2007011977A (ja) * 2005-07-04 2007-01-18 Nikon Corp 画像処理方法、コンピュータ実行可能なプログラム、及び顕微鏡システム
JP2007129971A (ja) * 2005-11-11 2007-05-31 Nikon Corp 培養装置
WO2007132870A1 (ja) * 2006-05-15 2007-11-22 Nikon Corporation タイムラプス撮影装置
JP2007188513A (ja) * 2007-02-08 2007-07-26 Sharp Corp データ受信装置、データ受信方法、通信システム、データ受信プログラムおよびその記録媒体

Also Published As

Publication number Publication date
EP2107409A1 (en) 2009-10-07
US20090248821A1 (en) 2009-10-01
US8200767B2 (en) 2012-06-12

Similar Documents

Publication Publication Date Title
CN101334578B (zh) 图像拍摄装置以及图像拍摄方法
JP2007281755A (ja) デジタルカメラシステム
JP2009244561A (ja) 顕微鏡撮影システム
JP2012217166A (ja) 画像送信装置、画像記録装置及び画像記録方法
CN104335570A (zh) 信息处理装置、系统和存储介质
JP4364465B2 (ja) 撮像装置
US20050117031A1 (en) Virtual film roll for grouping and storing digital images
US11700449B2 (en) Communication apparatus for wirelessly communicating with imaging apparatus, control method of communication apparatus, and recording medium
JP2011034237A (ja) 電子機器及びその制御方法、プログラム
JP2003199097A (ja) 監視システムセンタ装置、監視システムセンタプログラム、および監視システムセンタプログラムを記録した記録媒体
US20240292082A1 (en) Control apparatus, control method, and non-transitory computer-readable storage medium
US8619174B2 (en) Method and apparatus for controlling a display for image transmission
CN102572233A (zh) 电子相机
US20040263913A1 (en) Image capturing apparatus, method for controlling the image capturing apparatus and a computer program for controlling the image capturing apparatus
CN111835956A (zh) 摄像头控制方法和装置、图像采集设备和电子设备
JP2008252317A (ja) デジタルカメラ
US20150172910A1 (en) Communication apparatus, information processing apparatus, control methods therefor, and system
JPH08251528A (ja) 撮像装置及びその外部制御装置
KR101086408B1 (ko) 디지털 이미지 처리기에서 촬영된 이미지를 저장하는 장치및 방법
JP2005301850A (ja) 監視カメラシステム
JP2005192261A (ja) 電子カメラ
JP2011109551A (ja) 撮像装置
JP5262799B2 (ja) カメラ
JP2009049754A (ja) 撮像装置
JP2017073737A (ja) 通信装置、通信装置の制御方法及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110224

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120711

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120717

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20121120