JP4300327B2 - タンパク質結晶化状態判定方法およびそのシステム - Google Patents
タンパク質結晶化状態判定方法およびそのシステム Download PDFInfo
- Publication number
- JP4300327B2 JP4300327B2 JP2003172898A JP2003172898A JP4300327B2 JP 4300327 B2 JP4300327 B2 JP 4300327B2 JP 2003172898 A JP2003172898 A JP 2003172898A JP 2003172898 A JP2003172898 A JP 2003172898A JP 4300327 B2 JP4300327 B2 JP 4300327B2
- Authority
- JP
- Japan
- Prior art keywords
- state
- image
- determination
- precipitation
- protein solution
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0004—Industrial image inspection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10056—Microscopic image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30108—Industrial image inspection
Landscapes
- Engineering & Computer Science (AREA)
- Quality & Reliability (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Investigating Or Analysing Biological Materials (AREA)
Description
【発明が属する技術分野】
本発明は、タンパク質溶液におけるタンパク質結晶生成を自動化するためのタンパク質結晶状態を判定する方法およびそのシステムに関する。
【0002】
【従来の技術】
従来より、タンパク質の結晶構造を解析するためにX線結晶構造解析法が用いられている。かかる構造解析法においては、構造解析対象のサンプルとなるタンパク質の良質な結晶を得るために、構造解析サンプル作成の準備として、タンパク質の溶液(水溶液)から水分を蒸発させて結晶を生成する方法(結晶化法)が用いられる。この際、構造や性質が未知であるタンパク質溶液から結晶が得られるかどうかを選別するスクリーニング作業が行なわれている。
【0003】
従来のこのスクリーニング作業では、結晶状態を顕微鏡画像から人の目で逐次検討し、そのサンプルの結晶生成の様子を判定している。この判定においては、サンプルのタンパク質溶液が、溶液のままであるか、沈殿を起こしているか、微結晶が得られているか、あるいは、結晶が得られるかが判定される。表1に、このスクリーニングにおいて用いられる判定基準を示す。
【表1】
【0004】
表1において、「透明」とは、タンパク質溶液が何らの結晶も生成しない様子を表わしている。また、「沈殿」は、4つに分類される。即ち、粒が見られず黒ずんでいたり褐色を示すもの(沈殿(i))、点状の組織が観察されるもので白色にみえ、少し点々があるもの(沈殿(ii))、アモルファス様の組織で透明に見えることがあるもの(沈殿(iii))、大きなアモルファス様の組織で粒子が見えることがあるもの(沈殿(iv))に分類される。また、結晶が生成されているものは、5つに分類される。即ち、50μm程度以下の結晶で頂点が観察されるもの(微結晶)、針状結晶が観察されるもの(結晶(i))、板状結晶が観察されるもの(結晶(ii))、重なり合った結晶が観察されるもの(結晶(iii))、良質な結晶が観察されるもの(結晶(iv))というように分類される。便宜的に、各分類に対してスコアとなる数字が割り当てられて分類されることもある。ただし、タンパク質の結晶の成長過程に従ってこのスコアが順次増してゆくように変化するものとは限らない。このように分類される画像の模式図を、スコアごとに図7に示す。特に、未知タンパク質溶液の結晶化実験においてこれらに分類されるサンプルの数が多数であるため、大変有用な手段となる。
【0005】
従来の人の観察を基礎とするスクリーニング作業では、観察者はトレーニングによって養成されて、経験的にこのような分類を行なうことができるようになる。養成された観察者が多数のサンプルについて得た顕微鏡画像を観察して選別を行なう。このときに判定された分類は、それ自体も、X線構造解析向けのサンプルについての有用な情報であり、タンパク質の構造解析や性質の決定に際して重要な指標となっている。
【0006】
この結晶を得るための手法においては、大別すると、タンパク質溶液をカバーガラスの下面に下垂させて蒸発を行なう手法(ハンギングドロップ蒸気拡散法)と、タンパク質溶液を蒸発容器の上に載置させて蒸発を行なう手法(シッティングドロップ蒸気拡散法)とが用いられる。多数のタンパク質溶液の顕微鏡画像を得るには、自動的に顕微鏡画像を記録することが有効であり、機械化の容易なシッティングドロップ蒸気拡散法が望ましい。
【0007】
特に、表1に示した透明、沈殿(i)、沈殿(ii)、沈殿(iii)に未知タンパク質溶液のサンプルが分類されることが多いが、これ等に分類されるサンプルは、いまだ結晶が生成されておらず、観察者がこれらを全て観察するのは、効率が悪い。
【0008】
また、従来のテクスチャ解析手法の例が、非特許文献1に記載されている。
【0009】
【非特許文献1】
R. M. Haralick, K. Shanmugam and I. Dinstein, "Texture features for image classification" IEEE Trans. Syst., Man, Cybern., vol.SMC-3, no6, pp.610-621, 1973
【0010】
【発明が解決しようとする課題】
上記従来のタンパク質溶液の結晶化状態判定方法では、人の目による分類が欠かせず、スクリーニング作業で処理できるサンプルの数に限界がある。また、その分類基準についても、観察者ごとに判定が異なる場合があり、さらに、同じ観察者であっても繰り返し同じ判定が行なえない場合がある。
多数のサンプルの判定を行なうためには、シッティングドロップ蒸気拡散法による機械化が望ましいが、結晶化状態の判定は、ハンギングドロップ蒸気拡散法の顕微鏡画像に比べて判定が難しい傾向がある。
【0011】
本発明は、かかる従来のタンパク質溶液の結晶化状態判定方法を、顕微鏡画像に対してテクスチャ解析の手法を用いて機械化することを課題とする。また、機械化されて自動撮影される顕微鏡画像おいても良好に判定が行なえる判定方法を提供し、撮影から判定までを機械化することができるような効率の高い安定したタンパク質の結晶化状態の判定を可能にする方法やシステムを提供することを課題とする。さらに、表1に示した透明、沈殿(i)、沈殿(ii)、沈殿(iii)を適切に分類する方法を確立することも課題とする。
【0012】
【課題を解決するための手段】
本発明では、タンパク質溶液の電子画像を取得して原画像とする原画像取得ステップと、該原画像の少なくとも一部分について第1の同時生成行列を算出する原画像行列算出ステップと、該第1の同時生成行列から第1組の画像統計量を算出する原画像統計量算出ステップと、該原画像に微分処理を行なって微分画像を得る画像微分ステップと、該微分画像の少なくとも一部分について第2の同時生成行列を算出する微分画像行列算出ステップと、該第2の同時生成行列から第2組の画像統計量を算出する微分画像統計量算出ステップと、該第2組の画像統計量を用いて、タンパク質溶液の電子画像を少なくとも2種に分類する第1の判定ステップと、前記第1の判定ステップで分類された結果、前記2種のうちの第1種に属すると判定されたタンパク質溶液の電子画像をさらに前記第1組の画像統計量を用いて少なくとも2種に分類する第2の判定ステップとを含む、タンパク質溶液の結晶化状態の判定方法が提供される。
【0013】
画像の解析は、一般にテクスチャ解析と呼ばれる手法を用いることができる。この解析対象に、タンパク質溶液の原画像(電子的に取得して明るさや領域の切り出し等の予備的な調整をしたのみの画像で、微分していない画像)と、その原画像を微分した微分画像を共に用いることにより、未知タンパク質の溶液における結晶化の状態を良好に判定できる。
また、判定を2段階に行なうことにより、タンパク質溶液の結晶化状態を判定する作業の機械化が容易となる。本方法によれば、表1に示した透明と沈殿(i)とを他のものから適切に分類することが可能となる。
【0014】
また、本発明においては、前記第1の判定ステップで分類された結果、前記第1種以外の種に分類されたタンパク質溶液の電子画像を、前記第2組の画像統計量を用いてさらに少なくとも2種に分類する第3の判定ステップをさらに含む方法が提供される。
第3の判定ステップにより、透明と沈殿(i)との分類に加えて、沈殿(ii)と沈殿(iii)とを他のものから分類することができる。
【0015】
さらに、本発明においては、上記方法において、予め判定されているタンパク質の結晶状態の電子画像を用いて、前記第1の判定ステップにおいて用いる第1の判定基準と第2の判定基準とを、前記第2組の画像統計量に基づく線形判別法により確立するステップと、前記予め判定されているタンパク質の結晶状態の電子画像を用いて、前記第2の判定ステップにおいて用いる第3の判定基準を、前記第1組の画像統計量に基づく線形判別法により確立するステップと、前記予め判定されているタンパク質の結晶状態の電子画像を用いて、前記第3の判定ステップにおいて用いる第4の判定基準を、前記第2組の画像統計量に基づく線形判別法により確立するステップとをさらに含む方法が提供される。ここで、前記第1の判定ステップは、前記第1の判定基準と前記第2の判定基準とにより、前記第2組の画像統計量を用いて電子画像を3種に分類するものであり、前記第2の判定ステップは、前記第3の判定基準により、該第1組の画像統計量を用いて前記3種のうちの第1種に属する電子画像をさらに2種に分類するものであり、前記第3の判定ステップは、前記第4の判定基準により、該第2組の画像統計量を用いて前記第1種以外のいずれかの種に属する電子画像をさらに2種に分類するものである。
【0016】
判定ステップを適切に選択された4つの基準を適切な順序で用いるものとして構築すれば、判定の際のエラーが低減され、人による判定を十分に再現できる良好な判定が人による分類を経ずとも行なえる。
【0017】
本発明においては、上記方法において、透明状態、第1〜第4の沈殿状態、微結晶状態、および結晶状態を要素として構成される複数の状態のいずれかにタンパク質溶液の電子画像を分類する方法が提供される。ここで、前記第1の判定基準は、タンパク質溶液が、透明状態と第1〜第3の沈殿状態とからなる状態のいずれか、あるいは、第4の沈殿状態と微結晶状態と結晶状態とからなる状態のいずれかのどちらにあるかを判定するものであり、前記第2の判定基準は、タンパク質溶液が、透明状態と第1の沈殿状態とからなる状態のいずれか、あるいは、第2〜第4の沈殿状態と微結晶状態と結晶状態とからなる状態のいずれかのどちらにあるかを判定するものであり、前記第3の判定基準は、タンパク質溶液が、透明状態、あるいは、第1の沈殿状態のどちらにあるかを判定するものであり、前記第4の判定基準は、タンパク質溶液が、第2の沈殿状態、あるいは、第3の沈殿状態のどちらにあるかを判定するものであり、前記第1の判定ステップは、前記第1の判定基準と前記第2の判定基準とにより、タンパク質溶液が、透明状態と第1の沈殿状態からなる状態のいずれか、第2〜第3の沈殿状態からなる状態のいずれか、あるいは、第4の沈殿状態と微結晶状態と結晶状態とからなる状態のいずれかのいずれにあるかを判定するステップであり、前記第2の判定ステップは、前記第3の判定基準により、透明状態と第1の沈殿状態からなる状態のいずれかにあるタンパク質溶液が、透明状態、あるいは、第1の沈殿状態のどちらにあるかを判定するステップであり、前記第3の判定ステップは、前記第4の判定基準により、第2〜第3の沈殿状態からなる状態のいずれかにあるタンパク質溶液が、第2の沈殿状態、あるいは、第3の沈殿状態のどちらにあるかを判定するステップである。
【0018】
テクスチャ解析においては、判定基準は一般には様々な画像に基づいて確立することができるが、本発明においては、原画像と微分画像を用い、それぞれの基準が判定する特徴に適した画像の種類をこのように選択することが出来る。これにより、判定のエラーが低減され、人による判定を十分に再現可能な良好な判定の機械化が可能となる。
【0019】
本発明では、さらに、タンパク質溶液について観察された画像を解析することによって該タンパク質溶液における結晶化状態を判定する結晶化状態判定システムが提供される。このシステムは、タンパク質溶液の電子画像を取得して原画像とする原画像取得手段と、該原画像の少なくとも一部分について第1の同時生成行列を算出する原画像行列算出手段と、該第1の同時生成行列から第1組の画像統計量を算出する原画像統計量算出手段と、該原画像に微分処理を行ない、微分画像を得る画像微分手段と、該微分画像の少なくとも一部分について第2の同時生成行列を算出する微分画像行列算出手段と、該第2の同時生成行列から第2組の画像統計量を算出する微分画像統計量算出手段と、該第2組の画像統計量を用いて、タンパク質溶液の電子画像を少なくとも2種に分類する第1の判定手段と、前記第1の判定手段で分類された結果、前記2種のうちの第1種に属すると判定されたタンパク質溶液の電子画像をさらに前記第1組の画像統計量を用いて少なくとも2種に分類する第2の判定手段とを含んで構成される。
【0020】
本発明の解析システムは、タンパク質溶液の結晶化を判定するサンプルについて電子画像を用いて結晶化状態の判定を行なうことが出来る。これにより、従来は観察者に頼っていた結晶化状態の判定作業の機械化が可能となる。
さらに本発明の解析システムに、タンパク質の溶液の結晶化サンプルの自動観察手段を組合わせれば、未知タンパク質の観察とその未知タンパク質の結晶化状態の判定とを連続して自動で行なうタンパク質結晶化状態観察解析システムが構築できる。
【0021】
【発明の実施の形態】
本発明は、コンピュータ装置を用いて実施される。このコンピュータには、適当な画像入力手段が接続されている。その画像入力手段は、例えば顕微鏡に備えられたCCD(電荷結合デバイス)などの撮像装置、A/Dコンバータ、適当なメモリなどによって電子的な画像を取得し、コンピュータに入力する。また、コンピュータには、演算装置、記憶装置、表示装置、通信装置などの通常の装置が備えられる。本発明の各ステップや各手段は、演算装置に実現された機能ブロックとして処理が行なわれ、機能が実現される。例えば、判定ステップや判定手段は、演算装置において、記憶装置から読み込まれたプログラムが必要なレジスタやメモリによって構成される記憶動作と演算処理動作によって判定を行なう機能として実現される。本発明は、このようなコンピュータを用いて、画像処理および画像の分類を用いて、タンパク質溶液の結晶化状態を判定するための方法や手段を提供するものである。
【0022】
以下、図面を参照して、本発明の実施の形態について説明する。
図1は、本発明において観察対象の溶液においてタンパク質の結晶化(析出)をさせるために製作されるサンプルの準備された様子を表わす断面図である。本発明の観察対象は、タンパク質溶液1を観察する光学顕微鏡の観察像である。タンパク質溶液1は、水分を含んだ溶液である。このタンパク質溶液1は、容器3内に配置された滴下ステージ5に滴下して準備される。容器3の開口部は、カバースリップ2によって覆われ、容器3とカバースリップ2の接触部はシールされて、以後気密が保たれる。容器3には、予め沈殿材4が配置されており、容器内の水分を吸収してゆく。
【0023】
このようなサンプルでは、数日から数年の時間をかけて、溶液中の水分が減少してゆき、タンパク質の飽和溶解度に達すると、徐々にタンパク質の結晶が成長してゆくことがある。タンパク質の種類によっては、全く結晶を生成しない場合や、沈殿を生じる場合もある。
【0024】
図2は、本実施形態の結晶化状態判定システム100の構成を説明する構成図である。本システムには、原画像取得手段12、原画像行列算出手段14、原画像統計量算出手段20、画像微分手段22、微分画像行列算出手段24、微分画像統計量算出手段26、判定基準設定手段28、判定基準格納手段32、判定手段34が備えられている。なお、判定手段34には、図示しないが、第1〜第3の判定手段が含まれているものとしてもよい。また、本システムにおいては、判定基準を確立するために、予め結晶化状態が分類されたタンパク質の画像について、外部にある撮像装置16からの電子画像のデータ18を取得し、結晶状態データ30を取得するものであってもよい。本システムは、未知タンパク質溶液の画像について、外部にある撮像装置16からの電子画像のデータ18を取得し、その未知タンパク質溶液の結晶化状態を判定して、その結晶状態のデータ36を出力する。
【0025】
原画像取得手段12は、例えば顕微鏡に備えられた撮像装置16によって撮影され、デジタル化された電子画像のデータ18を取得して、その電子画像を調整して原画像のデータ122とする。調整は、デジタル化されたデータの明度等を適切な範囲に調整したり、計算に十分な範囲で階調の削減を行ったり、必要な領域を切り出す処理などの一般的な処理である。
【0026】
原画像行列算出手段14は、その調整された原画像のデータ122の少なくとも一部分の各画素を走査して、該原画像のデータ122に基づいて第1の同時生成行列142を算出する。
【0027】
ここで、同時生成行列とは、画像の濃度(画素値)iの点から一定の変位δ=(r、θ)(図3a参照)だけ離れた点の濃度がjとなる確率を要素として持つような行列である。例えば、図3bのような画像については、(r、θ)毎に次式のような同時生成行列が計算される。
【数1】
ここでは、処理対象の範囲の画素が走査されて、同時生成行列の行列要素に加算されている。
【0028】
この各行列に現われる要素は、その(r、θ)と(i、j)の組合わせごとの画素の出現頻度を表わしている。この画素の出現頻度を確率に換算するために正規化処理を行なう。この確率を要素とする同時生成行列の行列要素を以後E(i,j)とする。なお、(r、θ)毎にこの要素が計算されているが、記載を省略する。原画像行列算出手段14はこのような確率を求める機能を有しており、適当なメモリーを用いて頻度を計算し、その頻度を正規化して確率を要素とする同時生成行列を出力する機能を有している。
【0029】
このようにして定められる同時生成行列E(i,j)に基づいて、原画像統計量算出手段20は、第1組の画像統計量202を算出する。この画像統計量の組は、次式で表わされる。
【数2】
ここで、この各画像統計量の計算には、次の関係式が用いられている。
【数3】
なお、これらの画像統計量は、非特許文献1によって上記と同様に導入されている。
【0030】
画像微分手段22は、原画像取得手段12の出力する原画像122に微分処理を行なう。この微分処理は、本実施の形態においては、一次微分フィルタとして知られるSobelフィルタ(水平微分フィルタ:図4a参照、垂直微分フィルタ:図4b参照)を適用する。この際、図4では、注目画素である中央の画素に対して、周囲の画素を図示する各重みを考慮して加算する処理が、注目画素を順次走査して行なわれる。これにより、画像微分手段22によって微分画像222が得られる。
【0031】
微分画像行列算出手段24は、原画像行列算出手段14が原画像122に行なった処理と同様の処理により、微分画像222に基づいて第2の同時生成行列242を算出する。また、微分画像統計量算出手段26は、原画像統計量算出手段20と同様の処理により、第2の同時生成行列242から第2組の画像統計量262を算出する。
【0032】
判定基準設定手段28は、原画像122が表1の結晶状態のいずれのものあるかを結晶状態データ30として受け付ける。この結晶状態データ30は、表1のスコア0〜9の10段階のいずれであるかを示すデータである。また、判定基準設定手段28は、前記第1組の画像統計量202と、前記第2組の画像統計量262とを受け付ける。
【0033】
判定基準設定手段28は、これらの受け付けたデータから、4種の判定基準を線形判別法により確立する。線形判別法は、統計標本が持ついくつかの特性から、統計標本がどの群(クラス)に属するかを識別する手法である。このとき、統計標本としては、結晶状態データ30を用い、その識別が行なわれる空間(特徴空間)として、微分を用いない原画像に基づいている第1の画像統計量の14次元空間、あるいは、微分画像に基づいている第2の画像統計量の14次元空間が選択される。
【0034】
判定基準は、線形識別関数という関数として表現され、一つの線形識別関数で判定対象を2つに分類するような基準である。この線形識別関数は、14次元空間内の超平面(14次元空間を2つの半空間に仕切る13次元の自由度を有する面)として決定される。つまり、線形識別関数は、14次元空間に散布されたデータ(各々が、予め判定されているタンパク質の結晶状態のいずれかの情報によって分類可能であり、第1の画像統計量または第2の画像統計量のデータを座標値としてプロットされている点)を2つに仕切る際の超平面として定義される。
【0035】
線形識別関数を決定するための指標は、直感的には、予め分類されている各データを出来るだけ分離させるような仕切り方となる超平面(線形識別関数)を定めることである。具体的には、第1の画像統計量または第2組の画像統計量を要素とするデータu=(u1、・・・、u14)Tと、係数行列(係数ベクトル)Aとの内積をとって、スカラー量zを算出する(式(15))。なお、ここでは、係数行列Aは、後にフィッティングされる未知パラメータを要素としている。また、データuは、多数のデータが用いられるが、各々が、予め結晶状態が判定されていて結晶状態データ30が得られ、第1の画像統計量および第2画像統計量が算出される複数のデータである。
【数4】
【0036】
次に、クラス内共分散行列ΣZ、クラス間共分散行列ΣBが、式(16)、(17)により求められる。
【数5】
ここで、P(ωi)は2つに分類された分類の各クラスωiの事前確率、Σiはクラスωiの共分散行列、miはクラスωiの特徴データ(14次元の座標値)の単純平均によって作られるベクトル、mは全パターンにおける同様の平均のベクトルを表わす。
【0037】
データuを係数行列Aで変換したことに対応させて、スカラー量zのクラス内およびクラス間の分散Σ〜Z、Σ〜Bを求めると、
【数6】
のようになる。これを用いて、評価関数JΣ(A)を式(20)のように定める。
【数7】
この評価関数は、分類されるクラス間の分離度を表わしている。従って、最適となる係数行列Aは、この評価関数JΣの最大値を与えるものである。
【0038】
評価関数JΣの最大値を与えるAを算出するには、式(21)によって与えられる行列の最大の固有値を与える固有ベクトルを求めればよい。
【数8】
【0039】
このようにして求められた最適なAは、式(22)に定義される識別関数の超平面の法線ベクトルを与えるものである。
【数9】
なお、式22のu0は、14元のベクトルuにmを代入した場合にg(m)=0が成立するように定められる。
【0040】
以上のような処理を、判定基準設定手段28が実行する。このために、判定基準設定手段28には、図示はしないが、行列演算を適切に行なうための手段が備えられる。具体的には、内積計算(式15、17等)、積和演算(式16、17)、固有値演算(固有値の算出、固有ベクトルの決定)が処理できる演算機能を有する。上記の式の説明では、式変形の順を追って説明しているが、判定基準設定手段28は式18〜20については特段計算する必要がない。
【0041】
本実施形態の結晶化状態判定システム100の機能としての判定基準設定手段28の具体的な処理を、図5を用いて説明する。判定基準設定手段28は、まず、予め結晶状態が判定されている観察画像(教示用の観察画像)について、結晶状態データ30の入力(図5、S2)と、その画像について計算された第1組の画像統計量および第2組の画像統計量の入力(S4)を受け付ける。次に、確立する判定基準を選択する(S6)。そして、処理に用いる画像統計量の組が判定基準に依存するので、確立する判定基準を選択し、予め判定された結晶状態のデータによって各画像を分類する(S8)。この分類は、表1に示した各分類を要素とし、その要素の組合わせによってそれぞれが構成された2つの分類である。この分類は、以下に説明するように、そのとき確立しようとする判定基準によって定まる。
【0042】
本実施の形態では、判定基準g1〜g4を確立し、これを判定に用いる。g1は、タンパク質溶液が、透明状態と第1〜第3の沈殿状態とからなる状態にあるか、または、第4の沈殿状態と微結晶状態と結晶状態とからなる状態にあるかを判定する(第1の判定基準)。g2は、タンパク質溶液が、透明状態と第1の沈殿状態とからなる状態にあるか、または、第2〜第4の沈殿状態と微結晶状態と結晶状態とからなる状態にあるかを判定する(第2の判定基準)。g3は、タンパク質溶液が、透明状態にあるか、または、第1の沈殿状態にあるかを判定する(第3の判定基準)。g4は、タンパク質溶液が、第2の沈殿状態にあるか、または、第3の沈殿状態にあるかを判定する(第4の判定基準)。なお、各判定基準は式22の多項式の係数を定めるものであり、判定されるべき画像についての画像統計量(14個の統計量)uによって各判定基準の多項式の値を計算し、その正負によって分類がなされる。判定基準g1〜g4の正負をどのように定めるかについては、上述した最大固有値の固有ベクトルが、反転されても同様に同じ固有値の固有ベクトルとなる任意性を利用して、任意に定め得る。本実施の形態では、表1のスコアが小さい側の分類が、各判定基準の多項式の評価値が正となるように定める。
【0043】
例えば判定基準g1による判定においては、透明状態と第1の沈殿状態とからなる状態(第1の状態)と、第2〜第4の沈殿状態と微結晶状態と結晶状態とからなる状態(第2の状態)とのいずれにあるかを、分類することに相当する。このように、各判定基準によって異なる分け方で分類が行なわれる。
【0044】
そして、ステップS8において判定基準に合わせて分類された分類を用いて、クラス内共分散行列とクラス間共分散行列を、式16および17に従って算出する(S10)。そして、式21の行列を算出して(S12)、その行列の最大固有値に対応する固有ベクトルを算出する(S14)。この計算には、行列の固有値や固有ベクトルを数値的に算出する任意の計算方法を用いることが出来る。固有ベクトルが求まると、その固有ベクトルを係数とする多項式(式22)が、ベクトルuにm(mは全パターンにおける特徴データの平均のベクトル)を代入した場合にg(m)=0が成立するように、u0を定める(S16)。
【0045】
これにより、式22の全ての係数が算出されて、その判定基準が確立する。
判定基準g1〜g4の全てについてこのような過程を繰り返すことにより(S18)、判定基準が全て確立することとなる。なお、g3、g4は、既にg1、g2によって分類されたあと判定にのみ用いるため、ステップS8における判定基準に合わせた分類は、確立したg1、確立したg2によって分類されたものについて判定を行なえばよい。以上のようにして、判定基準設定手段28が判定基準を確立する。
【0046】
判定基準設定手段28は、判定基準g1〜g4を判定基準格納手段32に格納する。このような判定基準g1〜g4によって表1の右端の列に示す計算による分類A〜Eが分類される。また、いずれの分類にも入らないものがFとして分類される。
【0047】
本実施の形態では、実際にスコア0〜9に分類される画像を用いて判定基準g1〜g4を確立している。判定基準の確立に用いた画像は、スコア0〜9の各分類について、予め熟練した観察者によって分類されている20枚から60枚程度の画像である。
【0048】
続けて、本実施の形態のシステム100によって未知タンパク質溶液のサンプルについて判定を行なう方法について説明する。この判定に際しては、判定手段34が判定基準格納手段32から判定基準g1〜g4を読み込むことにより行なう。
【0049】
未知タンパク質溶液についても、図1に示したようにサンプルが準備される。そして、光学像として観察画像を取得し、判定基準を確立する際と同一の手段(原画像取得手段、原画像行列算出手段、原画像統計量算出手段、画像微分手段、微分画像行列算出手段、微分画像統計量算出手段)によって同一の処理がなされる。これにより、該未知タンパク質溶液のサンプルについての第1組の画像統計量と第2組の画像統計量が得られる。
【0050】
第1組の画像統計量と第2組の画像統計量は、各々14次元の数値データからなるベクトルであるので、これらに、判定基準設定手段28によって確立された4種の判定基準g1〜g4を適用して判定を行なう。つまり、判定基準を示す多項式にこの未知タンパク質溶液から得られた画像統計量のベクトルを代入して、値の正負を評価することにより、判定を行なう。判定結果のデータ36は、判定基準設定手段28から出力され、適当な表示手段に表示されたり、記憶手段に格納される。
【0051】
次に、図6に従って、第1〜第4の判定基準(g1〜g4)を適用する具体的なステップについて説明する。
判定手段は、まず、第1の判定基準g1と第2の判定基準g2とを用いて、判定を行なう(図6、S20)。ここで、g1が正であることは、透明状態と第1〜第3の沈殿状態とからなる状態にあることに対応し、g1が負であることは、第4の沈殿状態と微結晶状態と結晶状態とからなる状態にあることに対応する。同様に、g2の正と負は、それぞれ、透明状態と第1の沈殿状態とからなる状態にあること、第2〜第4の沈殿状態と微結晶状態と結晶状態とからなる状態にあることに対応する。したがって、g1とg2が共に正のときは、未知タンパク質溶液が透明状態と第1の沈殿状態からなる状態(図6、分枝202;表1、AまたはB)にある。また、g1が正、g2が負のときは、第2〜第3の沈殿状態からなる状態(分枝204;表1、CまたはD)にあり、g1とg2が共に負のときは、第4の沈殿状態と微結晶状態と結晶状態とからなる状態(分枝206;表1、E)にある。なお、判定基準において、g1が負、g2が正という組合わせについて、実際のタンパク質溶液の結晶化状態を示す画像がこのようになることはほとんどなく、この場合はエラーとして図示しない処理がなされ、表1のFに分類される。
【0052】
次に、画像が透明状態と第1の沈殿状態からなる状態(分枝202;表1、AまたはB)に判定されると、第3の判定基準g3を用いて判定を行なう(S22)。g3の正負は、それぞれ、未知タンパク質溶液が、透明状態(分枝222;表1、A)にあるか、第1の沈殿状態(分枝224;表1、B)にあるかに対応する。
【0053】
また、画像が、第2〜第3の沈殿状態からなる状態(分枝204;表1、CまたはD)に判定されると、第4の判定基準g4を用いて判定を行なう(S24)。g4の正負は、それぞれ、未知タンパク質溶液が、第2の沈殿状態(分枝242;表1、C)にあるか、第3の沈殿状態(分枝244;表1、D)にあるかに対応する。
以上のようにして、表1のA〜Eのいずれであるかが判定された後、各判定結果に応じて、判定結果を保持する変数Xにその結果を格納する(S26a〜S26e)。そして、その判定結果を出力する(S28)。
【0054】
表2に、本実施の形態において得られた未知タンパク質の画像の各分類の結果を示す。表の各行には、同じ画像を人により分類した結晶化状態であり、各列には、本実施の形態のシステムによって処理をして求められた分類である。各データは、人による分類と計算による分類とに当てはまる画像の実際の枚数である。「結果」の列には、人により分類されている画像が、計算によって適切に分類されている割合を示している。
【表2】
このように、人によって分類されていた分類のうち、透明(表1、A)、沈殿(i)(B)、沈殿(ii)(C)、沈殿(iii)(D)が、これらの相互からも、そして、残りの分類(E)からも良好に分類されている。
【0055】
本実施の形態の構成から、本発明によって提供されるタンパク質溶液の結晶化状態の判定方法をまとめると図8のようになる。
即ち、タンパク質溶液の電子画像を取得して原画像とする(原画像取得ステップ、S42)。そして、該原画像の少なくとも一部分について第1の同時生成行列を算出する(原画像行列算出ステップ、S44)。さらに、該第1の同時生成行列から第1組の画像統計量を算出する(原画像統計量算出ステップ、S46)。
原画像には、微分処理を行なって微分画像が求められる(画像微分ステップ、S48)。微分画像の少なくとも一部分について第2の同時生成行列が算出される(微分画像行列算出ステップ、S50)。この第2の同時生成行列から第2組の画像統計量が算出される(微分画像統計量算出ステップ、S52)。第2組の画像統計量は、タンパク質溶液の電子画像を少なくとも2種に分類するのに用いられる(第1の判定ステップ、S54)。第1の判定ステップで分類された結果、前記2種のうちの第1種に属すると判定されたタンパク質溶液の電子画像は、さらに前記第1組の画像統計量を用いて少なくとも2種に分類される(第2の判定ステップ、S56)。ここで、第1の判定ステップは、図6においてステップS20として表わされ、第2の判定ステップは、図6においてステップS22として表わされている。この処理は、第1の判定ステップおよび第2の判定ステップに本実施の形態のようにして確立した判定基準を用いてコンピュータの動作により実行される。
【0056】
【発明の効果】
タンパク質溶液の電子画像の原画像と微分画像を共に用いることにより、タンパク質の溶液における結晶化の状態を良好に判定できる。また、判定ステップを2段階とすることにより、タンパク質溶液の結晶化状態を判定する作業の機械化が容易となり、判定のエラーが低減される。また、透明、沈殿(i)、沈殿(ii)、沈殿(iii)を適切に分類することが可能となる。判定基準とその順序を適切に構築することにより、判定の際のエラーが低減され、人による判定が良好に再現されて機械化が可能となる。さらに本発明の解析システムに、タンパク質の溶液の結晶化サンプルの自動観察手段を組合わせれば、未知タンパク質の観察とその未知タンパク質の結晶化状態の判定とを連続して自動で行なうタンパク質結晶化状態観察解析システムが構築できる。
【図面の簡単な説明】
【図1】本発明の実施の形態におけるサンプルの構成を示すサンプル容器の断面図である。
【図2】本発明の実施の形態における結晶化状態判定システムの構成サンプルの構成を示す構成図である。
【図3】本発明の実施の形態におけるテクスチャ解析の手法を説明する説明図である。
【図4】本発明の実施の形態におけるテクスチャ解析における微分方法を説明する説明図である。
【図5】本発明の実施の形態における判定基準の確立の方法を示すフローチャートである。
【図6】本発明の実施の形態における判定方法を示すフローチャートである。
【図7】タンパク質溶液の結晶状態の画像による分類を模式的に示す説明図である。
【図8】本発明により提供されるタンパク質溶液の結晶状態の判定方法を表すフローチャートである。
【符号の説明】
1 タンパク質溶液
2 カバースリップ
3 容器
4 沈殿材
5 滴下ステージ
100 結晶化状態判定システム
12 原画像取得手段
14 原画像行列算出手段
16 撮像装置
20 原画像統計量算出手段
22 画像微分手段
24 微分画像行列算出手段
26 微分画像統計量算出手段
28 判定基準設定手段
32 判定基準格納手段
34 判定手段
Claims (8)
- タンパク質溶液の電子画像を取得して原画像とする原画像取得ステップと、
該原画像の少なくとも一部分について第1の同時生成行列を算出する原画像行列算出ステップと、
該第1の同時生成行列から第1組の画像統計量を算出する原画像統計量算出ステップと、
該原画像に微分処理を行なって微分画像を得る画像微分ステップと、
該微分画像の少なくとも一部分について第2の同時生成行列を算出する微分画像行列算出ステップと、
該第2の同時生成行列から第2組の画像統計量を算出する微分画像統計量算出ステップと、
該第2組の画像統計量を用いて、タンパク質溶液の電子画像を少なくとも2種に分類する第1の判定ステップと、
前記第1の判定ステップで分類された結果、前記2種のうちの第1種に属すると判定されたタンパク質溶液の電子画像をさらに前記第1組の画像統計量を用いて少なくとも2種に分類する第2の判定ステップと
を含む、タンパク質溶液の結晶化状態の判定方法。 - 前記第1の判定ステップで分類された結果、前記第1種以外の種に分類されたタンパク質溶液の電子画像を、前記第2組の画像統計量を用いてさらに少なくとも2種に分類する第3の判定ステップ
をさらに含む、請求項1に記載の方法。 - 予め判定されているタンパク質の結晶状態の電子画像を用いて、前記第1の判定ステップにおいて用いる第1の判定基準と第2の判定基準とを、前記第2組の画像統計量に基づく線形判別法により確立するステップと、
前記予め判定されているタンパク質の結晶状態の電子画像を用いて、前記第2の判定ステップにおいて用いる第3の判定基準を、前記第1組の画像統計量に基づく線形判別法により確立するステップと、
前記予め判定されているタンパク質の結晶状態の電子画像を用いて、前記第3の判定ステップにおいて用いる第4の判定基準を、前記第2組の画像統計量に基づく線形判別法により確立するステップと
をさらに含み、
前記第1の判定ステップは、前記第1の判定基準と前記第2の判定基準とにより、前記第2組の画像統計量を用いて電子画像を3種に分類するものであり、
前記第2の判定ステップは、前記第3の判定基準により、該第1組の画像統計量を用いて前記3種のうちの第1種に属する電子画像をさらに2種に分類するものであり、
前記第3の判定ステップは、前記第4の判定基準により、該第2組の画像統計量を用いて前記第1種以外のいずれかの種に属する電子画像をさらに2種に分類するものである、請求項2に記載の方法。 - 請求項3に記載の方法において、透明状態、第1〜第4の沈殿状態、微結晶状態、および結晶状態を要素として構成される複数の状態のいずれかにタンパク質溶液の電子画像を分類する方法であって、
前記第1の判定基準は、タンパク質溶液が、透明状態と第1〜第3の沈殿状態とからなる状態のいずれか、あるいは、第4の沈殿状態と微結晶状態と結晶状態とからなる状態のいずれかのどちらにあるかを判定するものであり、
前記第2の判定基準は、タンパク質溶液が、透明状態と第1の沈殿状態とからなる状態のいずれか、あるいは、第2〜第4の沈殿状態と微結晶状態と結晶状態とからなる状態のいずれかのどちらにあるかを判定するものであり、
前記第3の判定基準は、タンパク質溶液が、透明状態、あるいは、第1の沈殿状態のどちらにあるかを判定するものであり、
前記第4の判定基準は、タンパク質溶液が、第2の沈殿状態、あるいは、第3の沈殿状態のどちらにあるかを判定するものであり、
前記第1の判定ステップは、前記第1の判定基準と前記第2の判定基準とにより、タンパク質溶液が、透明状態と第1の沈殿状態からなる状態のいずれか、第2〜第3の沈殿状態からなる状態のいずれか、あるいは、第4の沈殿状態と微結晶状態と結晶状態とからなる状態のいずれかのいずれにあるかを判定するステップであり、
前記第2の判定ステップは、前記第3の判定基準により、透明状態と第1の沈殿状態からなる状態のいずれかにあるタンパク質溶液が、透明状態、あるいは、第1の沈殿状態のどちらにあるかを判定するステップであり、
前記第3の判定ステップは、前記第4の判定基準により、第2〜第3の沈殿状態からなる状態のいずれかにあるタンパク質溶液が、第2の沈殿状態、あるいは、第3の沈殿状態のどちらにあるかを判定するステップである、方法。 - タンパク質溶液の電子画像を取得して原画像とする原画像取得手段と、
該原画像の少なくとも一部分について第1の同時生成行列を算出する原画像行列算出手段と、
該第1の同時生成行列から第1組の画像統計量を算出する原画像統計量算出手段と、
該原画像に微分処理を行ない、微分画像を得る画像微分手段と、
該微分画像の少なくとも一部分について第2の同時生成行列を算出する微分画像行列算出手段と、
該第2の同時生成行列から第2組の画像統計量を算出する微分画像統計量算出手段と、
該第2組の画像統計量を用いて、タンパク質溶液の電子画像を少なくとも2種に分類する第1の判定手段と、
前記第1の判定手段で分類された結果、前記2種のうちの第1種に属すると判定されたタンパク質溶液の電子画像をさらに前記第1組の画像統計量を用いて少なくとも2種に分類する第2の判定手段と
を含む、タンパク質溶液の結晶化状態の判定システム。 - 前記第1の判定手段で分類された結果、前記第1種以外の種に分類されたタンパク質溶液の電子画像を、前記第2組の画像統計量を用いてさらに少なくとも2種に分類する第3の判定手段
をさらに含む、請求項5に記載のシステム。 - 判定基準設定手段をさらに備え、
該判定基準設定手段は、
予め判定されているタンパク質の結晶状態の電子画像を用いて、前記第1の判定手段において用いる第1の判定基準と第2の判定基準とを、前記第2組の画像統計量に基づく線形判別法により確立し、
前記予め判定されているタンパク質の結晶状態の電子画像を用いて、前記第2の判定手段において用いる第3の判定基準を、前記第1組の画像統計量に基づく線形判別法により確立し、
前記予め判定されているタンパク質の結晶状態の電子画像を用いて、前記第3の判定手段において用いる第4の判定基準を、前記第2組の画像統計量に基づく線形判別法により確立するものであり、
前記第1の判定手段は、前記第1の判定基準と前記第2の判定基準とにより、前記第2組の画像統計量を用いて電子画像を3種に分類するものであり、
前記第2の判定手段は、前記第3の判定基準により、該第1組の画像統計量を用いて前記3種のうちの第1種に属する電子画像をさらに2種に分類するものであり、
前記第3の判定手段は、前記第4の判定基準により、該第2組の画像統計量を用いて前記第1種以外のいずれかの種に属する電子画像をさらに2種に分類するものである、請求項6に記載のシステム。 - 請求項7に記載のシステムにおいて、透明状態、第1〜第4の沈殿状態、微結晶状態、および結晶状態を要素として構成される複数の状態のいずれかにタンパク質溶液の電子画像を分類するシステムであって、
前記第1の判定基準は、タンパク質溶液が、透明状態と第1〜第3の沈殿状態とからなる状態のいずれか、あるいは、第4の沈殿状態と微結晶状態と結晶状態とからなる状態のいずれかのどちらにあるかを判定するものであり、
前記第2の判定基準は、タンパク質溶液が、透明状態と第1の沈殿状態とからなる状態のいずれか、あるいは、第2〜第4の沈殿状態と微結晶状態と結晶状態とからなる状態のいずれかのどちらにあるかを判定するものであり、
前記第3の判定基準は、タンパク質溶液が、透明状態、あるいは、第1の沈殿状態のどちらにあるかを判定するものであり、
前記第4の判定基準は、タンパク質溶液が、第2の沈殿状態、あるいは、第3の沈殿状態のどちらにあるかを判定するものであり、
前記第1の判定手段は、前記第1の判定基準と前記第2の判定基準とにより、タンパク質溶液が、透明状態と第1の沈殿状態からなる状態のいずれか、第2〜第3の沈殿状態からなる状態のいずれか、あるいは、第4の沈殿状態と微結晶状態と結晶状態とからなる状態のいずれかのいずれにあるかを判定するものであり、
前記第2の判定手段は、前記第3の判定基準により、透明状態と第1の沈殿状態からなる状態のいずれかにあるタンパク質溶液が、透明状態、あるいは、第1の沈殿状態のどちらにあるかを判定するものであり、
前記第3の判定手段は、前記第4の判定基準により、第2〜第3の沈殿状態からなる状態のいずれかにあるタンパク質溶液が、第2の沈殿状態、あるいは、第3の沈殿状態のどちらにあるかを判定するものである、システム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003172898A JP4300327B2 (ja) | 2003-06-18 | 2003-06-18 | タンパク質結晶化状態判定方法およびそのシステム |
PCT/JP2004/008827 WO2005022166A1 (ja) | 2003-06-18 | 2004-06-17 | タンパク質結晶化状態判定方法およびそのシステム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003172898A JP4300327B2 (ja) | 2003-06-18 | 2003-06-18 | タンパク質結晶化状態判定方法およびそのシステム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2005009949A JP2005009949A (ja) | 2005-01-13 |
JP4300327B2 true JP4300327B2 (ja) | 2009-07-22 |
Family
ID=34096872
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003172898A Expired - Fee Related JP4300327B2 (ja) | 2003-06-18 | 2003-06-18 | タンパク質結晶化状態判定方法およびそのシステム |
Country Status (2)
Country | Link |
---|---|
JP (1) | JP4300327B2 (ja) |
WO (1) | WO2005022166A1 (ja) |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4761838B2 (ja) * | 2005-02-15 | 2011-08-31 | 独立行政法人理化学研究所 | タンパク質溶液の析出物を判定する方法及びシステム |
JP2006232644A (ja) * | 2005-02-28 | 2006-09-07 | Tsubakimoto Chain Co | タンパク質結晶観察装置 |
JP4740686B2 (ja) * | 2005-08-10 | 2011-08-03 | 独立行政法人理化学研究所 | タンパク質結晶化状態判別システムおよびその方法 |
JP4646847B2 (ja) * | 2006-04-17 | 2011-03-09 | 株式会社椿本チエイン | 蛋白質結晶化観察方法及び蛋白質結晶化観察装置 |
WO2012039377A1 (ja) * | 2010-09-22 | 2012-03-29 | 国立大学法人大阪大学 | タンパク質結晶の観測方法 |
EP2692911B1 (en) | 2011-03-31 | 2017-02-22 | Kunimine Industries Co., Ltd. | Use of agent for searching for protein crystallization conditions, and method for searching for protein crystallization conditions |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0735687A (ja) * | 1993-07-22 | 1995-02-07 | Fujitsu Ltd | 生体高分子結晶の検索方法 |
WO2000060345A1 (en) * | 1999-04-06 | 2000-10-12 | University Of Alabama At Birmingham Research Foundation | Method for screening crystallization conditions in solution crystal growth |
-
2003
- 2003-06-18 JP JP2003172898A patent/JP4300327B2/ja not_active Expired - Fee Related
-
2004
- 2004-06-17 WO PCT/JP2004/008827 patent/WO2005022166A1/ja active Application Filing
Also Published As
Publication number | Publication date |
---|---|
WO2005022166A1 (ja) | 2005-03-10 |
JP2005009949A (ja) | 2005-01-13 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110197493B (zh) | 眼底图像血管分割方法 | |
US8687879B2 (en) | Method and apparatus for generating special-purpose image analysis algorithms | |
EP3486836A1 (en) | Image analysis method, apparatus, program, and learned deep learning algorithm | |
CN112215117A (zh) | 一种基于宫颈细胞学图像的异常细胞识别方法及系统 | |
CN109767440A (zh) | 一种面向深度学习模型训练和学习的影像图像数据扩充方法 | |
US20040141641A1 (en) | Seed image analyzer | |
CN106780498A (zh) | 基于逐像素点深度卷积网络上皮和基质组织自动分割方法 | |
CN114821189B (zh) | 一种基于眼底图像的病灶图像分类与识别方法 | |
CN102982542A (zh) | 一种基于相位一致性的眼底图像血管分割方法 | |
CN111667490A (zh) | 一种眼底图片视杯视盘分割方法 | |
EP1579366B1 (en) | Histological assessment of nuclear pleomorphism | |
CN101882222A (zh) | 基于基元结构定义与区域生长技术的虹膜分区及阳光放射沟提取方法 | |
JP4300327B2 (ja) | タンパク質結晶化状態判定方法およびそのシステム | |
US10860835B2 (en) | Image processing device, cell recognition device, cell recognition method, and cell recognition program | |
CN109858521A (zh) | 一种基于人工智能深度学习的竹子种类识别方法 | |
EP1267305B1 (en) | Cell lineage extracting method | |
CN112651400B (zh) | 一种立体内窥镜辅助检测方法、系统、装置及存储介质 | |
JP4740686B2 (ja) | タンパク質結晶化状態判別システムおよびその方法 | |
CN110796638B (zh) | 毛孔检测方法 | |
Kurata et al. | An application of Fourier descriptor for selecting somatic embryos | |
KR100520125B1 (ko) | 선충 분류 방법 | |
JP2001258599A (ja) | 細胞系譜抽出方法 | |
JP4761838B2 (ja) | タンパク質溶液の析出物を判定する方法及びシステム | |
Tran et al. | EyeHex toolbox for complete segmentation of ommatidia in fruit fly eyes | |
TWI754945B (zh) | 利用光動力學技術之人工智慧的細胞檢測方法及其系統 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20060524 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20090303 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20090402 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120501 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130501 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130501 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140501 Year of fee payment: 5 |
|
LAPS | Cancellation because of no payment of annual fees |