Nothing Special   »   [go: up one dir, main page]

JP4229234B2 - デジタルカメラ - Google Patents

デジタルカメラ Download PDF

Info

Publication number
JP4229234B2
JP4229234B2 JP2003382070A JP2003382070A JP4229234B2 JP 4229234 B2 JP4229234 B2 JP 4229234B2 JP 2003382070 A JP2003382070 A JP 2003382070A JP 2003382070 A JP2003382070 A JP 2003382070A JP 4229234 B2 JP4229234 B2 JP 4229234B2
Authority
JP
Japan
Prior art keywords
sensitivity
low
signal
imaging signal
noise reduction
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2003382070A
Other languages
English (en)
Other versions
JP2005150886A5 (ja
JP2005150886A (ja
Inventor
寛和 小林
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Priority to JP2003382070A priority Critical patent/JP4229234B2/ja
Publication of JP2005150886A publication Critical patent/JP2005150886A/ja
Publication of JP2005150886A5 publication Critical patent/JP2005150886A5/ja
Application granted granted Critical
Publication of JP4229234B2 publication Critical patent/JP4229234B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Transforming Light Signals Into Electric Signals (AREA)
  • Studio Devices (AREA)

Description

本発明は、相対的に高感度の撮像信号と相対的に低感度の撮像信号とを取得する機能を有するデジタルカメラに関する。
CCD撮像素子等の固体撮像素子のダイナミックレンジは一般的に狭く、ハイコントラストの被写体を撮影する場合は、固体撮像素子の受光量がダイナミックレンジを越えて固体撮像素子の出力が飽和してしまい、被写体の情報が欠落する場合がある。
このような問題を解決するため、相対的に高感度の光電変換素子から得られる高感度画像データと、相対的に低感度の光電変換素子から得られる低感度画像データとの合成処理を行うことにより、ダイナミックレンジの拡大を図ったデジタルカメラが提案されている(例えば、特許文献1参照)。
特開平4−298175号公報 特開2000−69355号公報
特許文献1記載のデジタルカメラにおいては、上記合成処理を行わずに、低感度画像データのみを利用することが理論上可能である。ところが、低感度画像データをゲイン倍してガンマ補正を行うと、相対的に低感度の光電変換素子から得られる画像データの割に、その低輝度領域にノイズが目立ちがちになってしまうため、実用性に乏しい。
本発明は、上記事情に鑑みて為されたものであり、相対的に低感度の撮像信号を利用した高画質の画像を得ることが可能なデジタルカメラを提供することを目的とする。
本発明のデジタルカメラは、相対的に高感度の撮像信号と相対的に低感度の撮像信号とを取得する機能を有するデジタルカメラであって、前記低感度の撮像信号に基づく低感度撮影画像データを生成する低感度撮影モードを有し、前記低感度撮影モード時に、前記低感度撮影画像データの低輝度領域のノイズを低減するためのノイズ低減処理を行うノイズ低減処理手段を備え、前記ノイズ低減処理手段は、前記高感度の撮像信号に基づいて生成されるノイズ低減用信号を利用して前記ノイズ低減処理を行うものである。
この構成により、低感度撮影モードで撮影する場合に、低感度の撮像信号に基づく低感度撮影画像データの低輝度領域のノイズを、高感度の撮像信号を利用して低減することができる。このため、品質の高い低感度撮影を実現することができる。
又、本発明のデジタルカメラは、前記ノイズ低減用信号を生成するノイズ低減用信号生成手段を備え、前記ノイズ低減用信号生成手段が、前記低感度の撮像信号がとり得る被写体輝度の最大値に対する前記低感度の撮像信号の飽和値の比と、前記高感度の撮像信号がとり得る被写体輝度の最大値に対する前記高感度の撮像信号の飽和値の比とを略同一にするためのゲインを前記高感度の撮像信号に乗じ、前記ゲインを乗じた高感度の撮像信号を前記ノイズ低減用信号とするものである。
又、本発明のデジタルカメラは、前記低感度の撮像信号がとり得る被写体輝度の最大値が、前記ゲインを乗じた高感度の撮像信号がとり得る被写体輝度の最大値よりも大きいものである。
又、本発明のデジタルカメラは、相対的に高感度の光電変換信号を出力する第1の光電変換素子と相対的に低感度の光電変換信号を出力する第2の光電変換素子とを含む固体撮像素子を備え、前記高感度の撮像信号が前記第1の光電変換素子から取得されたものであり、前記低感度の撮像信号が前記第2の光電変換素子から取得されたものである。
本発明によれば、相対的に低感度の撮像信号を利用した高画質の画像を得ることが可能なデジタルカメラを提供することができる。
図1は、本発明の実施形態を説明するためのデジタルカメラの概略構成を示す図である。
図1のデジタルカメラは、撮像部1と、アナログ信号処理部2と、A/D変換部3と、駆動部4と、デジタル信号処理部6と、圧縮/伸張処理部7と、表示部8と、システム制御部9と、内部メモリ10と、メディアインタフェース11と、記録メディア12と、操作部13とを備える。デジタル信号処理部6、圧縮/伸張処理部7、表示部8、システム制御部9、内部メモリ10、及びメディアインタフェース11は、システムバス20に接続されている。
撮像部1は、撮影レンズ等の光学系及びCCDイメージセンサ等の撮像素子によって被写体の撮影を行うものであり、アナログの撮像信号を出力する。アナログ信号処理部2は、撮像部1で得られたアナログの撮像信号に所定のアナログ信号処理を施す。A/D変換部3は、アナログ信号処理部2で処理後のアナログの撮像信号をデジタルに変換する。A/D変換部3の出力はデジタル信号処理部6に送られる。
撮影に際しては、駆動部4を介して光学系の制御が行われる。撮像素子として利用されるCCDイメージセンサ等の固体撮像素子は、半導体基板表面に行方向とこれに直交する列方向に配設された複数の光電変換領域を有し、入射光に対応して発生され、蓄積された信号電荷に基づいたアナログの撮像信号を出力する。固体撮像素子は、操作部13の一部であるレリーズボタン(図示せず)の操作によるレリーズスイッチ(図示せず)オンを契機として、所定のタイミングで、駆動部4に含まれるタイミングジェネレータ(図1ではTGと記載)からの駆動信号によって駆動される。駆動部4は、システム制御部9によって所定の駆動信号を出力する。
撮像部1は、相対的に高感度のアナログの撮像信号(以下、高感度撮像信号ともいう)と相対的に低感度のアナログの撮像信号(以下、低感度撮像信号ともいう)とを出力するものであり、これらの撮像信号は、共にアナログ信号処理部2及びA/D変換部3を経てデジタルの撮像信号に変換され、デジタル信号処理部6に送られる。
感度の異なる撮像信号は、特許文献1に示すように高感度画素と低感度画素とを有する固体撮像素子を利用することによって取得しても良いし、特開2001−94870号公報に示すように露光条件又はアナログゲインを変更することによって取得しても良いし、以下の図2に示すような固体撮像素子を用いることによって取得しても良い。
図2は、高感度撮像信号と低感度撮像信号とを出力可能な固体撮像素子の概略構成を示す図である。
図2は、いわゆるハニカム構造の固体撮像素子の部分拡大平面図であって、この固体撮像素子は、半導体基板表面に行方向(矢印Xで示す方向)とこれに直交する列方向(矢印Y方向)に配設された複数の光電変換領域201〜203(図では一部のみに番号を付してある)、垂直転送部204〜209、水平転送部210、及び出力部211を含む。
複数の光電変換領域201〜203の内の奇数列のものは、偶数列のものに対して光電変換領域同士の列方向ピッチの略1/2だけ列方向にずれており、又、奇数行の光電変換領域は、偶数行の光電変換領域に対して光電変換領域同士の行方向ピッチの略1/2だけ行方向にずれて配置される。
光電変換領域201〜203は、入射光量に対応した信号電荷を発生し、蓄積するもので、例えばフォトダイオード等の光電変換素子が配置された領域である。光電変換領域201〜203は、相対的に広い受光面積を有する主領域mと相対的に狭い受光面積を有する副領域sに分割され、それぞれ所定の分光感度の光に対応する信号電荷を発生し、蓄積する。
垂直転送部204〜209は、光電変換領域201〜203からの信号電荷を読み出し、列方向に転送するものであり、光電変換領域201〜203の各列に対応してその側方に設けられる。列方向の転送は、主領域mの信号電荷と副領域sの信号電荷を、それぞれ独立に垂直転送部204〜209に読み出して行う。
水平転送部210は、複数の垂直転送部204〜209からの信号電荷が転送され、転送された信号電荷を行方向に転送するものである。出力部211は、転送された信号電荷量に応じたアナログの撮像信号を出力するものである。
デジタル信号処理部6は、例えばDSPで構成され、A/D変換部3からのデジタルの撮像信号に対して、操作部12によって設定された動作モードに応じたデジタル信号処理を行う。デジタル信号処理部6が行う処理には、黒レベル補正処理(OB処理)、リニアマトリクス補正処理、ホワイトバランス調整処理、ガンマ補正処理、画像合成処理、同時化処理、及びY/C変換処理等が含まれる。画像合成処理とは、撮像部1から得られる高感度撮像信号に基づく高感度撮影画像データと低感度撮像信号に基づく低感度撮影画像データとを合成した合成画像データを生成する処理である。この画像合成処理により、デジタルカメラ100のダイナミックレンジを拡大することができる。デジタルカメラ100は、この画像合成処理を行わずに、低感度撮像信号に基づく低感度撮影画像データのみを生成して記録可能な低感度撮影モードを有する。
デジタル信号処理部6は、低感度撮影モード時、低感度撮像信号に基づく低感度撮影画像データの低輝度領域のノイズを低減するためのノイズ低減処理を行う。デジタル信号処理部6は、高感度撮像信号に基づいてノイズ低減用信号を生成し、このノイズ低減用信号を用いて上記ノイズ低減処理を行う。
デジタル信号処理部6は、低感度撮像信号がとり得る被写体輝度の最大値に対する低感度撮像信号の飽和値の比xと、高感度撮像信号のとり得る被写体輝度の最大値に対する高感度撮像信号の飽和値の比yとを略同一にするためのゲインを高感度撮像信号に乗じ、ゲインを乗じた高感度撮像信号をノイズ低減用信号とする。
圧縮/伸張処理部7は、デジタル信号処理部6でデジタル処理後の撮影画像データ(YCデータ)に対して圧縮処理を施すとともに、記録メディア12から得られた圧縮画像データに対して伸張処理を施す。
表示部8は、例えばLCD表示装置を含んで構成され、撮影されてデジタル信号処理を経た撮影画像データに基づく画像を表示する。記録メディアに記録された圧縮画像データを伸張処理して得た画像データに基づく画像の表示も行う。また、撮影時のスルー画像、デジタルカメラの各種状態、操作に関する情報の表示等も可能である。
内部メモリ10は、例えばDRAMであり、デジタル信号処理部6やシステム制御部9のワークメモリとして利用される他、記録メディア12に記録される画像データを一時的に記憶するバッファメモリや表示部8への表示画像データのバッファメモリとしても利用される。メディアインタフェース11は、メモリカード等の記録メディア12との間のデータの入出力を行うものである。
システム制御部9は、所定のプログラムによって動作するプロセッサを主体に構成され、撮影動作を含むデジタルカメラ全体の統括制御を行う。
操作部13は、デジタルカメラ使用時の各種操作を行うものである。
以下、デジタルカメラ100の動作を図面を参照して説明する。以下では、撮像部1から出力される高感度撮像信号と低感度撮像信号との感度比が16:1である場合を例にして説明する。図3は、本発明の実施形態を説明するためのデジタルカメラの動作フローを示す図である。図4は、撮像部1から出力されA/D変換された後の高感度撮像信号と低感度撮像信号を示す図である。
操作部13の操作により低感度撮影モードが設定され、撮影が行われると(S301)、撮像部1からアナログの高感度撮像信号及び低感度撮像信号が出力される(S302)。アナログの高感度撮像信号及び低感度撮像信号は、アナログ信号処理を経た後、デジタルの高感度撮像信号及び低感度撮像信号に変換され、内部メモリ10に一時記憶される(S303)。
図4(a)に示すように、内部メモリ10に記憶されたデジタルの高感度撮像信号は、被写体輝度cで飽和値4095に達している。一方、内部メモリ10に記憶されたデジタルの低感度撮像信号は、被写体輝度4×cで飽和値4095/4に達している。
デジタル信号処理部6は、ノイズ低減用信号を生成するために、低感度撮像信号を4倍し(S304)、高感度撮像信号を1/4倍する(S305)。これにより、図4(b)に示すように、高感度撮像信号は、被写体輝度cで飽和値4095/4に達し、低感度撮像信号は、被写体輝度4cで飽和値4095に達する。このため、比xと比yとはほぼ同一となる。
その後、デジタル信号処理部6は、4倍後の低感度撮像信号に、画像合成処理時に使用するガンマカーブよりも低輝度領域の傾きが緩やかなガンマカーブを用いてガンマ変換を行い(S306)、1/4倍後の高感度撮像信号にも同様のガンマカーブを用いてガンマ変換を行う(S307)。尚、このガンマ変換は省略しても良い。
デジタル信号処理部6は、ガンマ変換後の高感度撮像信号をノイズ低減用信号とし、高感度撮像信号のとり得る被写体輝度cまでの出力値を利用して、ガンマ変換後の低感度撮像信号の低輝度領域(例えば、被写体輝度0〜cまでの領域)に含まれるノイズを低減する処理を行う(S308)。ノイズ低減は、例えば、低感度撮像信号の低輝度領域の出力値と高感度撮像信号のとり得る被写体輝度cまでの出力値とを加算平均することで行う。
ノイズ低減処理後、デジタル信号処理部6は、低感度撮像信号のとり得る被写体輝度の最大値がcより小さいか否か判定する(S309)。ここでは、低感度撮像信号のとり得る被写体輝度の最大値がcより大きいため、デジタル信号処理部6は、ノイズ低減処理後の低感度撮像信号に所定のデジタル信号処理を行って低感度撮影画像データを生成する(S310)。生成された低感度撮影画像データは圧縮され、記録メディア12に記録される(S311)。
S309の判定で、低感度撮像信号のとり得る被写体輝度の最大値がcより小さかった場合(S309:YES)、デジタル信号処理部6は、ノイズ低減後の低感度撮像信号を破棄し、ガンマ変換後の高感度撮像信号に所定のデジタル信号処理を行って高感度撮影画像データを生成する(S312)。そしてS311に処理を移行する。尚、S309:YESの場合に、ノイズ低減後の低感度撮像信号を破棄せずに、その低感度撮像信号に所定のデジタル信号処理を行って低感度撮影画像データを生成することも設定により可能である。
以上のようにデジタルカメラ100によれば、低感度撮影モードが設定された場合、低感度撮像信号に基づく低感度撮影画像データの低輝度領域のノイズを、高感度撮像信号を利用して低減することができる。このため、ハイライト領域にある被写体を低感度で撮影することができると共に、低感度でもノイズの少ない良質な低感度撮影画像データを生成することが可能となる。
尚、上記では、デジタルの高感度撮像信号及び低感度撮像信号を利用してデジタルのノイズ低減用信号を生成しているが、撮像部1から出力されたアナログの高感度撮像信号及び低感度撮像信号を利用してアナログのノイズ低減用信号を生成しても良い。この場合は、例えば、アナログ信号処理部2でアナログのノイズ低減用信号を生成する。又、このようにして生成したノイズ低減用信号を利用して、アナログ信号処理部2内でアナログの低感度撮像信号のノイズを低減しておくようにしても良い。
又、上記では、デジタルの低感度撮像信号に対してノイズ低減処理を行っているが、デジタルの低感度撮像信号に所定のデジタル信号処理を施した後に得られる低感度撮影画像データに対してノイズ低減処理を行っても良い。
又、上記において、撮像信号とは、固体撮像素子の画素単位の信号のことであり、撮影画像データとは、画素単位の撮像信号にRGB補間やYC分離処理等を施した後のデジタルデータのことを示す。
本発明の実施形態を説明するためのデジタルカメラの概略構成を示す図 高感度撮像信号と低感度撮像信号とを出力可能な固体撮像素子の概略構成を示す図 本発明の実施形態を説明するためのデジタルカメラの動作フローを示す図 本発明の実施形態を説明するためのデジタルカメラの撮像部から出力されA/D変換された後の高感度撮像信号と低感度撮像信号を示す図
符号の説明
100 デジタルカメラ
1 撮像部
6 デジタル信号処理部

Claims (5)

  1. 相対的に高感度の撮像信号と相対的に低感度の撮像信号とを取得する機能を有するデジタルカメラであって、
    前記低感度の撮像信号に基づく低感度撮影画像データを生成する低感度撮影モードを有し、
    前記低感度撮影モード時に、前記低感度撮影画像データの低輝度領域のノイズを低減するためのノイズ低減処理を行うノイズ低減処理手段を備え、
    前記ノイズ低減処理手段は、前記高感度の撮像信号に基づいて生成されるノイズ低減用信号を利用して前記ノイズ低減処理を行うものであるデジタルカメラ。
  2. 請求項1記載のデジタルカメラであって、
    前記ノイズ低減用信号を生成するノイズ低減用信号生成手段を備え、
    前記ノイズ低減用信号生成手段は、前記低感度の撮像信号がとり得る被写体輝度の最大値に対する前記低感度の撮像信号の飽和値の比と、前記高感度の撮像信号がとり得る被写体輝度の最大値に対する前記高感度の撮像信号の飽和値の比とを略同一にするためのゲインを前記高感度の撮像信号に乗じ、前記ゲインを乗じた高感度の撮像信号を前記ノイズ低減用信号とするものであるデジタルカメラ。
  3. 請求項2記載のデジタルカメラであって、
    前記ノイズ低減処理手段は、前記ゲインを乗じた高感度の撮像信号の低輝度領域の撮像信号と、前記低感度の撮像信号の低輝度領域の撮像信号とを加算平均することで、前記ノイズ低減処理を行うデジタルカメラ。
  4. 請求項2又は3記載のデジタルカメラであって、
    前記低感度の撮像信号がとり得る被写体輝度の最大値は、前記ゲインを乗じた高感度の撮像信号がとり得る被写体輝度の最大値よりも大きいものであるデジタルカメラ。
  5. 請求項1〜4のいずれか記載のデジタルカメラであって、
    相対的に高感度の光電変換信号を出力する第1の光電変換素子と相対的に低感度の光電変換信号を出力する第2の光電変換素子とを含む固体撮像素子を備え、
    前記高感度の撮像信号は前記第1の光電変換素子から取得されたものであり、前記低感度の撮像信号は前記第2の光電変換素子から取得されたものであるデジタルカメラ。
JP2003382070A 2003-11-12 2003-11-12 デジタルカメラ Expired - Fee Related JP4229234B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2003382070A JP4229234B2 (ja) 2003-11-12 2003-11-12 デジタルカメラ

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2003382070A JP4229234B2 (ja) 2003-11-12 2003-11-12 デジタルカメラ

Publications (3)

Publication Number Publication Date
JP2005150886A JP2005150886A (ja) 2005-06-09
JP2005150886A5 JP2005150886A5 (ja) 2007-01-25
JP4229234B2 true JP4229234B2 (ja) 2009-02-25

Family

ID=34691241

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003382070A Expired - Fee Related JP4229234B2 (ja) 2003-11-12 2003-11-12 デジタルカメラ

Country Status (1)

Country Link
JP (1) JP4229234B2 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009303010A (ja) * 2008-06-16 2009-12-24 Mitsubishi Electric Corp 撮像装置及び撮像方法
JP5040960B2 (ja) 2009-06-04 2012-10-03 株式会社ニコン 電子カメラ

Also Published As

Publication number Publication date
JP2005150886A (ja) 2005-06-09

Similar Documents

Publication Publication Date Title
JP4448888B2 (ja) 撮像装置及び撮像装置の信号処理方法
KR100798230B1 (ko) 촬상장치, 촬상방법 및 컴퓨터 판독 가능 기록매체
US7907193B2 (en) Image capturing apparatus
JP2006311240A (ja) 撮像装置
US20110267373A1 (en) Image pickup apparatus, solid-state imaging device, and image generating method
JP2013236298A (ja) 撮像装置
JP4503892B2 (ja) 撮像装置
JP2004221265A (ja) 固体撮像素子及びデジタルカメラ
JP4622790B2 (ja) 撮像素子および撮像装置
JP2005072966A (ja) 固体撮像素子及び撮像装置
JP2007135200A (ja) 撮像方法および撮像装置並びに駆動装置
JP3902525B2 (ja) 画像信号処理装置
JP6674255B2 (ja) 固体撮像素子及び撮像装置
US20070269133A1 (en) Image-data noise reduction apparatus and method of controlling same
JP4445662B2 (ja) 電子カメラ
JP4229234B2 (ja) デジタルカメラ
JP2005217955A (ja) 撮像装置及びその制御方法及びプログラム及び記憶媒体
JP2006060496A (ja) 画像表示装置
JP2012080297A (ja) 撮像装置及びその撮像制御方法
JP2009118430A (ja) 撮像装置、該撮像装置の駆動方法、画像生成装置及び画像生成方法
JP4284282B2 (ja) 撮像装置及び固体撮像素子
JP2007124542A (ja) 撮像装置及びその制御方法及びプログラム及び記憶媒体
JP4028396B2 (ja) 画像合成方法及びデジタルカメラ
JP2005303653A (ja) 撮像装置
JP2007104408A (ja) 撮像装置及び撮像方法

Legal Events

Date Code Title Description
RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20060327

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20061110

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20061110

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20061124

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20071108

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20071115

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20071122

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20081030

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20081105

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20081125

R150 Certificate of patent or registration of utility model

Ref document number: 4229234

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111212

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111212

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121212

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121212

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131212

Year of fee payment: 5

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees