JP3704238B2 - 撮像装置 - Google Patents
撮像装置 Download PDFInfo
- Publication number
- JP3704238B2 JP3704238B2 JP05252398A JP5252398A JP3704238B2 JP 3704238 B2 JP3704238 B2 JP 3704238B2 JP 05252398 A JP05252398 A JP 05252398A JP 5252398 A JP5252398 A JP 5252398A JP 3704238 B2 JP3704238 B2 JP 3704238B2
- Authority
- JP
- Japan
- Prior art keywords
- image information
- pixel
- information corresponding
- color
- imaging
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000003384 imaging method Methods 0.000 title claims description 97
- 238000006073 displacement reaction Methods 0.000 claims description 68
- 230000035945 sensitivity Effects 0.000 claims description 65
- 230000003287 optical effect Effects 0.000 claims description 45
- 230000035508 accumulation Effects 0.000 claims description 22
- 238000009825 accumulation Methods 0.000 claims description 22
- 238000012546 transfer Methods 0.000 claims description 14
- 238000012545 processing Methods 0.000 claims description 7
- 238000010586 diagram Methods 0.000 description 56
- 238000001444 catalytic combustion detection Methods 0.000 description 43
- 238000000034 method Methods 0.000 description 33
- 230000000875 corresponding effect Effects 0.000 description 31
- 230000007704 transition Effects 0.000 description 15
- 230000008859 change Effects 0.000 description 13
- 239000003086 colorant Substances 0.000 description 12
- 230000007246 mechanism Effects 0.000 description 9
- 241000282414 Homo sapiens Species 0.000 description 8
- 235000019557 luminance Nutrition 0.000 description 8
- 230000000694 effects Effects 0.000 description 7
- 238000000926 separation method Methods 0.000 description 7
- 230000000007 visual effect Effects 0.000 description 7
- 238000007796 conventional method Methods 0.000 description 6
- 230000003595 spectral effect Effects 0.000 description 6
- 230000006835 compression Effects 0.000 description 4
- 238000007906 compression Methods 0.000 description 4
- 230000008901 benefit Effects 0.000 description 3
- 230000000295 complement effect Effects 0.000 description 3
- 230000006837 decompression Effects 0.000 description 3
- 230000002950 deficient Effects 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000008569 process Effects 0.000 description 3
- 230000003252 repetitive effect Effects 0.000 description 3
- 238000005070 sampling Methods 0.000 description 3
- 238000004364 calculation method Methods 0.000 description 2
- 238000012937 correction Methods 0.000 description 2
- 230000002596 correlated effect Effects 0.000 description 2
- 238000012935 Averaging Methods 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 230000007274 generation of a signal involved in cell-cell signaling Effects 0.000 description 1
- 230000012447 hatching Effects 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 238000001454 recorded image Methods 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N1/00—Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
- H04N1/46—Colour picture communication systems
- H04N1/56—Processing of colour picture signals
- H04N1/58—Edge or detail enhancement; Noise or error suppression, e.g. colour misregistration correction
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/58—Means for changing the camera field of view without moving the camera body, e.g. nutating or panning of optics or image sensors
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/682—Vibration or motion blur correction
- H04N23/685—Vibration or motion blur correction performed by mechanical compensation
- H04N23/686—Vibration or motion blur correction performed by mechanical compensation with a variable apex prism
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/682—Vibration or motion blur correction
- H04N23/685—Vibration or motion blur correction performed by mechanical compensation
- H04N23/687—Vibration or motion blur correction performed by mechanical compensation by shifting the lens or sensor position
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/73—Circuitry for compensating brightness variation in the scene by influencing the exposure time
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
- H04N23/84—Camera processing pipelines; Components thereof for processing colour signals
- H04N23/843—Demosaicing, e.g. interpolating colour pixel values
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/10—Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
- H04N25/11—Arrangement of colour filter arrays [CFA]; Filter mosaics
- H04N25/13—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
- H04N25/134—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/10—Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
- H04N25/11—Arrangement of colour filter arrays [CFA]; Filter mosaics
- H04N25/13—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
- H04N25/135—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on four or more different wavelength filter elements
- H04N25/136—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on four or more different wavelength filter elements using complementary colours
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/48—Increasing resolution by shifting the sensor relative to the scene
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N2209/00—Details of colour television systems
- H04N2209/04—Picture signal generators
- H04N2209/041—Picture signal generators using solid-state devices
- H04N2209/042—Picture signal generators using solid-state devices having a single pick-up sensor
- H04N2209/045—Picture signal generators using solid-state devices having a single pick-up sensor using mosaic colour filter
- H04N2209/046—Colour interpolation to calculate the missing colour values
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N2209/00—Details of colour television systems
- H04N2209/04—Picture signal generators
- H04N2209/041—Picture signal generators using solid-state devices
- H04N2209/048—Picture signal generators using solid-state devices having several pick-up sensors
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N2209/00—Details of colour television systems
- H04N2209/04—Picture signal generators
- H04N2209/041—Picture signal generators using solid-state devices
- H04N2209/048—Picture signal generators using solid-state devices having several pick-up sensors
- H04N2209/049—Picture signal generators using solid-state devices having several pick-up sensors having three pick-up sensors
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- Spectroscopy & Molecular Physics (AREA)
- Color Television Image Signal Generators (AREA)
Description
【発明の属する技術分野】
この発明は、撮像装置に関し、詳細には、撮像素子を用いて被写体の高画質なカラー画像情報を入力する撮像装置に関するものである。
【0002】
【従来の技術】
被写体のカラー画像情報を得るためには、一般的に、R,G,B(原色)またはY,M,C,G(補色)等の異なる波長感度の撮像素子が必要である。そこで、従来は一般的に3つに分類される撮像方式がある。
【0003】
すなわち、第1の撮像方式は、撮影光学系の中にカラーフィルタを内蔵して順時切り換えながら、R,G,B各色のカラー画像情報を得る技法である。図35はこの第1の撮像方式を用いた撮像装置を概略的に示す構成図である。第1の撮像方式では、図35に示したように、撮影光学系401と撮像素子405間にカラーフィルタとしてR(レッド)フィルタ402,G(グリーン)フィルタ403,B(ブルー)フィルタ404が設置される。
【0004】
これらRフィルタ402,Gフィルタ403,Bフィルタ404を矢印S方向(図中の垂直方向)に移動させることで、順次カラーフィルタの切り換えが行われる。第1の撮像方式では、この切り替え動作の影響により、カラー画像情報を得るために時間がかかる。
【0005】
また、第2の撮像方式は、被写体像をダイクロイックプリズム等を用いて3色に色分解してR,G,Bそれぞれの色分解された被写体像をそれぞれ3枚の撮像素子を用いて各色のカラー画像情報を得る技法であり、一般的に3CCD方式と呼ばれている。図36はこの第2の撮像方式を用いた撮像装置を概略的に示す構成図である。第2の撮像方式では、図36に示したように、撮影光学系501とR撮像素子502,G撮像素子503,B撮像素子504間にダイクロックプリズム505が設置される。
【0006】
第2の撮像方式では、前記第1の撮像方式と比べて各色(R,G,B)のカラー画像情報が同時に得られるメリットがあるが、その反面複雑なプリズムを用いたり3枚ものR,G,B撮像素子502,503,504が必要になるなど、非常に高価な装置となる。
【0007】
また、第3の撮影方式は、固体撮像素子を用いて受光される各画素毎に異なる波長感度でカラー情報を得る技法である。図37はこの第3の撮像方式を用いた撮像装置を概略的に示す構成図、図38は受光素子のカラー配列を示す図、図39は濃淡のある被写体の一例を示す図、そして、図40は色に応じた濃度レベルを示す図である。第3の方式では、カラー固体撮像素子602は、図38に示した如く、2次元的に配列された受光素子上にカラーフィルタなどを設け、各画素ごとに異なる波長感度となるように受光素子を配列した構成である。
【0008】
この第3の撮影方式では、図37に示したように、撮影光学系601を通じてカラー固体撮像素子602に受光される各画素毎に異なる波長感度でカラー情報が得られる。この第3の撮影方式では、単板でカラー画像情報が得られるメリットがあるが、その反面異なる波長感度の受光素子を平面的に配列しているため、同一被写体の同一部分の色情報を得ることができなくなる。
【0009】
このため、図39のように、1画素毎に濃淡のある被写体像について図38に示したカラー配列のカラー固体撮像素子によりカラー画像情報を得た場合には、図40に示したように、R,G,Bの各色に応じた信号が発生する。このような現象は一般に疑色と呼ばれる。このような現象を防止するには、図39に示した濃淡のある画像すなわち高周波な画像を入力しないことが必要である。すなわち、一般には撮影光学系601に光学的ローパスフィルタを設けることで、画像がぼかされ、そのぼかしを利用して疑色の発生を防止することができる。
【0010】
ところが、光学的ローパスフィルタにより画像がぼけた場合には、高解像な画像が得られないという問題がある。この問題を解決する方法として、例えば特開平7−322121号公報による“高画質画像撮像装置”が提案されている。
【0011】
この公報には、光軸変更装置としてVA(Variable Angle)プリズムを用いることで被写体像の位置を撮像素子に対して変位させ、この変位を通じて高画質画像を得るという技術が開示されている。この技術によれば、複数回同一の画像を取り込むことで撮像素子の総画素がm画素とした場合には、n種の異なる被写体像を取り込めば、n×m画素相当の画像が得られる。
【0012】
この公報による技術は、第2の撮像方式と第3の撮像方式とを組み合わせた混合方式となる。図41及び図42はこの混合方式をカラー配列で説明する図である。この混合方式は、C(シアン),Y(イエロー),M(マゼンタ),G(グリーン)の補色フィルタのカラー配列(図41参照)をもつ撮像素子を1画素ピッチだけ左右上下の4方向に変位させ、図42に示したように4枚のカラー画像情報を得て被写体の同一部分の各C,Y,M,Gの色情報を得るものである。
【0013】
【発明が解決しようとする課題】
上記公報のように従来例による高画質画像撮像装置は、被写体像を変位させることで第2の撮像方式を時系列時に行うようにしたので、前述した第3の撮像方式のような疑色の発生はないが、第1の撮像方式と同様に切り替えを行うことから、順時4つのカラー画像情報を得ることになる。それゆえ、疑色の発生を防止する代わりに、撮像に必要以上に時間がかかったり手ブレが生じるなどの問題や、撮像素子を左右上下の4方向に変化させるために2軸(左右方向,上下方向)の変位装置が必要になるなどの問題があった。
【0014】
この発明は、上述した従来例による問題を解消するため、簡易な構成により疑色や手ブレの発生を防止することが可能な撮像装置を得ることを目的とする。
【0015】
【課題を解決するための手段】
上述した課題を解決し、目的を達成するため、請求項1の発明に係る撮像装置は、光学的に被写体像を入力する光学的入力手段と、複数の波長感度の受光素子が2次元的に配列され、前記光学的入力手段により入力された被写体像から画像情報を得る撮像手段と、前記撮像手段と前記光学的入力手段に入力された被写体像とを、相対的に変位させる相対位置変位手段と、前記相対的な変位前後で前記撮像手段により得られる同一被写体の複数の画像情報に基づいて、全画素が前記複数の波長感度に対応した画像情報を有する1画面の画像情報を生成する制御手段と、を備え、前記相対的な変位前後で前記撮像手段により得られる同一被写体の複数の画像情報で構成される1画面の画像情報において、全画素が特定の波長感度に対応した画像情報を有するように、前記受光素子を配置するとともに、前記相対位置変位手段を駆動し、前記制御手段は、各画素に不足している他の波長感度に対応した画像情報を、前記不足している他の波長感度に対応した画像情報を有している画素の画像情報と前記特定の波長感度に対応した画像情報から得られる係数を用いて補間処理することを特徴とする。
【0016】
この請求項1の発明によれば、相対位置変位手段により撮像手段と光学的入力手段により入力される被写体像とを相対的に変位させ、その変位で得られた同一被写体の複数のカラー画像情報に基づき一定の色で1画面分のカラー画像情報を求めてから、その一定の色のカラー画像情報に基づき1画面分のカラー画像情報を求めるようにしたので、色相の変化の分離能力が人間の視覚の特性である輝度の変化の分離能力よりも低いことを利用して、高い周波数での色相の変化は検出せずグレーと感じてしまう所を利用することになり、これによって、簡易な構成により疑色や手ブレの発生を防止することが可能である。
【0017】
また、請求項2の発明に係る撮像装置は、請求項1の発明において、前記制御手段は、前記不足した波長感度に対応した画像情報を求めるべき注目画素が有している前記特定の波長感度に対応した画像情報と、当該注目画素の周囲にある前記特定の波長感度に対応した画像情報との相関に基づいて、注目画素の前記不足した波長感度に対応した画像情報を求めることを特徴とする。
【0018】
この請求項2の発明によれば、一定の色の相関に基づいて、注目画素の不足したカラー画像情報を求めているので、不足したカラー画像情報を正確に算出することが可能となる。
【0019】
また、請求項3の発明に係る撮像装置は、請求項2の発明において、前記制御手段は、前記注目画素が有している前記特定の波長感度に対応した画像情報と、当該注目画素の周囲にある周囲画素が有している前記特定の波長感度に対応した画像情報とを比較し、相関の最も高い周囲画素の前記特定の波長感度に対応した画像情報に基づき、当該注目画素の前記不足した波長感度に対応した画像情報を求めることを特徴とする。
【0020】
この請求項3の発明によれば、注目画素の一定の色のカラー画像情報と注目画素の周囲にある周囲画素の一定の色のカラー画像情報とを比較し、相関の最も高い周囲画素のカラー画像情報に基づき、注目画素の不足したカラー画像情報を求めているので、不足したカラー画像情報をより正確に算出することが可能となる。
【0021】
また、請求項4の発明に係る撮像装置は、請求項1〜請求項3のいずれか1つの発明において、前記注目画素の前記不足した波長感度に対応した画像情報を求める際に、当該注目画素の周りにある使用可能な周囲画素が、当該注目画素に対して水平・垂直・斜めのいずれの方向にも少なくとも1画素存在するように前記受光素子を配したことを特徴とする。
【0022】
この請求項4の発明によれば、受光素子を、注目画素の不足したカラー画像情報を作成する際に、注目画素の周りにある使用可能な周囲画素が、注目画素に対して水平・垂直・斜めのいずれの方向にも少なくとも1画素存在するように配したので、不足したカラー画像情報を正確に算出することが可能となる。
【0023】
また、請求項5の発明に係る撮像装置は、請求項4の発明において、前記制御手段は、前記注目画素が有している前記特定の波長感度に対応した画像情報と前記使用可能な周囲画素が有している前記特定の波長感度に対応した画像情報とを比較し、相関の最も高い前記使用可能な周囲画素が有している前記特定の波長感度に対応した画像情報に基づき、当該注目画素の不足した前記不足した波長感度に対応した画像情報を求めることを特徴とする。
【0024】
この請求項5の発明によれば、注目画素の一定の色のカラー画像情報と使用可能な周囲画素の一定の色のカラー画像情報とを比較し、相関の最も高い使用可能な周囲画素のカラー画像情報に基づき、注目画素の不足したカラー画像情報を求めているので、不足したカラー画像情報をより正確に算出することが可能となる。
【0025】
また、請求項6の発明に係る撮像装置は、請求項1〜請求項5のいずれか1つの発明において、前記相対位置変位手段は前記被写体像と前記撮像手段とのいずれか一方を変位させることを特徴とする。
【0026】
この請求項6の発明によれば、被写体像と撮像手段とのいずれか一方を変位させるので、相対的位置に変位が生じ、これによって、複数の撮像素子及びミラー光学系を必要としない簡易な構成を得ることが可能である。
【0027】
また、請求項7の発明に係る撮像装置は、光学的に被写体像を入力する光学的入力手段と、複数の波長感度の受光素子が2次元的に配列され、前記光学的入力手段により入力された被写体像から画像情報を得る撮像手段と、前記撮像手段に対する前記光学的入力手段の結像位置を光学的に変位させる光学的相対位置変位手段と、前記光学的な変位を行うことで前記撮像手段により得られる同一被写体の複数の画像情報に基づいて、全画素が前記複数の波長感度に対応した画像情報を有する1画面の画像情報を生成する制御手段と、を備え、前記光学的な変位を行うことで前記撮像手段により得られる同一被写体の複数の画像情報で構成される1画面の画像情報において、全画素が特定の波長感度に対応した画像情報を有するように、前記受光素子を配置するとともに、前記光学的相対位置変位手段を駆動し、前記制御手段は、各画素に不足している他の波長感度に対応した画像情報を、前記不足している他の波長感度に対応した画像情報を有している画素の画像情報と前記特定の波長感度に対応した画像情報から得られる係数を用いて補間処理することを特徴とする。
【0028】
この請求項7の発明によれば、光学的入力手段により入力される被写体像を複数の光路に分岐させ、各撮像素子に被写体像と同一の被写体像を受光させるようにしたので、手ブレ等が発生せず動画情報も取得可能であるとともに、3板式撮像装置のように色分解のためのダイクロイックプリズム等の複雑な光学系を必要としない簡易な構成を得ることが可能である。
【0029】
また、請求項8の発明に係る撮像装置は、請求項1〜請求項7のいずれか1つの発明において、前記撮像手段はR(赤)、G(緑)、B(青)の3原色フィルタを有し、該3原色フィルタは前記相対位置変位手段の変位ですべての画素位置に前記特定の種類の波長感度に対応する画像情報であるG(緑)の原色フィルタが入るようにカラー配列されていることを特徴とする。
【0030】
この請求項8の発明によれば、R,G,Bの3原色フィルタを相対位置変位手段の変位ですべての画素位置に一定の色に当たるG(緑)の原色フィルタが入るようにカラー配列したので、R(赤),B(青)の分光感度に対して双方にオーバラップした広い分光感度を持つことになり、これによって、Gのカラー画像情報を1画面全体に取得することで被写体像の情報量が増え、人間の視覚特性に合致させることが可能である。
【0031】
また、請求項9の発明に係る撮像装置は、請求項1〜6,8のいずれか1つの発明において、前記撮像手段は、電子シャッタとメカシャッタとを有し、被写体像から画像情報を取得する際に一定の蓄積期間毎に複数回の蓄積を行い、前記電子シャッタと前記メカシャッタとの駆動タイミングによって前記複数回の蓄積の内有効な蓄積時間をそれぞれ設定し、前記各蓄積期間中に前記撮像手段の転送動作を完了することを特徴とする。
【0032】
この請求項9の発明によれば、電子シャッタとメカシャッタとの駆動タイミングに対応させて各カラー画像情報の露光時間の中での有効な蓄積時間を設定し、各露光時間中に撮像手段の転送動作を完了するようにしたので、複数のカラー画像情報を得るための蓄積時間の間隔が短縮され、これによって、手ブレ等の問題を解消することが可能である。
【0033】
【発明の実施の形態】
以下に添付図面を参照して、この発明に係る撮像装置の好適な実施の形態を詳細に説明する。なお、以下に説明する実施の形態では、この発明の一実施の形態としてデジタルカメラを例に挙げて説明する。
【0034】
(実施の形態1)
図1は本発明の実施の形態1によるデジタルカメラの構成を示すブロック図である。デジタルカメラは、図1に示したように、レンズ101、オートフォーカス等を含むメカ機構102、CCD103A、アクチュエータ103B、CDS(相関2重サンプリング)回路104、A/D変換器105、デジタル信号処理部106、DCT107、コーダー108、MCC109、バッファメモリ110、ビデオアンプ111、内部メモリ112、CPU121、表示部122、操作部123、パラメータメモリ124、モータドライバ125、SG(制御信号生成)部126、ストロボ127、AFセンサ128などを備えている。
【0035】
レンズユニットは、レンズ101、オートフォーカス(AF)・絞り・フィルタ部を含むメカ機構102等からなり、メカ機構102のメカニカルシャッターは2つのフィールドの同時露光を行う。CCD103Aは、レンズユニットを介して入力した映像を電気信号(アナログ画像データ)に変換する。アクチュエータ103Bは、CCD103Aに取り付けられ、CPU121の制御に従ってCCD103Aと被写体との相対的に位置関係を変位させる。
【0036】
CDS回路104は、CCD型撮像素子に対する低雑音化のための回路である。またA/D変換器105は、CDS回路104を介して入力したCCD103Aからのアナログ画像データをデジタル画像データに変換する。すなわち、CCD103の出力信号は、CDS回路104を通してA/D変換器105で最適なサンプリング周波数(例えば、NTSC信号のサブキャリア周波数の整数倍)にてデジタル信号に変換される。
【0037】
また、デジタル信号処理部106は、A/D変換器105から入力したデジタル画像データを色差と輝度に分けて各種処理、補正及び画像圧縮/伸長のためのデータ処理を施す。DCT(Discrete Cosine Transform)107は、例えばJPEG準拠の画像圧縮・伸長の一過程である直交変換を行い、そしてコーダー(Huffman Encoder/decoder)108は、JPEG準拠の画像圧縮・伸長の一過程であるハフマン符号化・複合化等を行う。
【0038】
またMCC(Memory Card Controller)109は、圧縮処理された画像と図示せぬマイクから取り込まれてデジタル化された音声を一旦蓄え、同時処理して内部メモリ112またはメモリカードへの記録・読み出しを行う。CPU121は、操作部123からの指示、或いは図示しないリモコン等の外部動作指示に従い、上記各部の動作を制御する。
【0039】
表示部122は、LCD,LED,EL等で実現されており、撮影したデジタル画像データや伸長処理された記録画像データに基づく画像を表示すると共に、当該デジタルカメラの状態等を表示する。また、操作部123は、機能選択、撮影指示、及びその他の各種設定を外部から行うためのボタンを備える。この操作部123は、レリーズボタン123Aを有しており、このレリーズボタン123Aの操作によりCPU121へレリーズ信号を出力する。
【0040】
次に、上記撮像装置の要部について説明する。図2はこの実施の形態1による相対変位機構を示す構成図である。図2において、カラー固体撮像素子であるCCD103Aは、素子ホルダ103Cに取り付けられ支持される。相対位置変位手段であるアクチュエータ103Bは、この素子ホルダ103Cに接続され、この素子ホルダ103Cを矢印Tで示す方向に移動させる。尚、アクチュエータ103Bの取り付け角度は、これに限定されるものではなく、CCD103Aを変位させる方向に対応した角度に取り付ければ良い。例えば、斜め方向にCCD103Aを変位させる場合には、素子ホルダ103Cに対して斜め方向にアクチュエータ103Bを取り付ければ良い。
【0041】
図2に示した構成によれば、撮影光学系であるレンズ101を通して入射される被写体像はCCD103Aによる受光で得られるが、CPU121の制御によりアクチュエータ103Bを駆動させることで撮影範囲が変化し、CCD103Aと被写体との間の複数の異なる相対位置関係で複数枚の被写体像(カラー画像情報)が取得される。
【0042】
次に、実施の形態1によるカラー画像情報の取得方法について説明する。図3〜図7は実施の形態1による相対変位による受光素子の遷移を説明する図、図8は注目画素のカラー画像情報を説明する図、そして、図9及び図10は明部と暗部との繰り返しパターンを説明する図である。
【0043】
図3に示したCCD103Aには、R(赤色),G(緑色),B(青色)の順にマトリクス状に画素を配列させたカラー配列が示されている。R画素,B画素,G画素はそれぞれ赤色,青色,緑色に主に感度を持つ受光部に当たる。ただし、図3に示したR,G,Bの各画素の配列は、一般的なR,G,B市松配列を示したものであり、これに限定されるものではない。
【0044】
図4を基準となる被写体像のカラー画像情報とした場合、相対位置変位手段であるアクチュエータ103Bによりカラー固体撮像素子であるCCD103Aを被写体像に対して相対的に水平方向(図5中の矢印Xで示した方向)に1画素変位させると、図5に示したように図4のものとは1画素右に変位したカラー画像情報が得られる。
【0045】
そこで、基準のカラー画像情報と変位で得られたカラー画像情報とを図42のように重ねて同一被写体像の対応関係をみる。すなわち、図6に示したように、同一被写体において、基準のカラー画像情報は画面左端をCCD103Aの第1列(R,G,B…)の配列で受光した被写体像となるが、変位で得られたカラー画像情報は、撮像時に基準の画面左端よりも1画素分右に変位していることから、基準の画面左端よりも1画素右に変位した左端をCCD103Aの第1列(R,G,B…)の配列で受光した被写体像となる。
【0046】
このため、例えば基準のCCD103Aの2行1列の位置にあるG画素で撮像した被写体の位置は、変位により撮像する場合には、CCD103Aの1行1列の位置にあるR画素で撮像することになる。したがって、変位による2回の撮像で得られる同一被写体の同一部分には、図6に示したように、2つの画素が配列される。すなわち、アクチュエータ103Bを用いて2つのカラー画像情報を得ることで、R,Gの組み合わせ、もしくはB,Gの組み合わせとの2種のカラーカラー画像情報が取得される。これにより、G画素のカラー画像情報に注目すると、図7に示した如く、すべての画素位置にG(緑色)のカラー画像情報が存在していることになる。
【0047】
さらに、被写体像のある特定の部分に注目する。図8には、ある列の3行分のカラー画像情報が示されている。1行目の画素位置1はG1,R1の組み合わせ、2行目の画素位置2はB2,G2の組み合わせ、3行目の画素位置3はG3,R3との組み合わせとなっている。このとき、画素位置2を注目部分とすれば、その画素位置2のカラー画像情報は、B2,G2の組み合わせでR(赤色)のカラー画像情報が不足している。このため、その注目部分については、R(赤色)のカラー画像情報R2を求めることができれば、R2,G2,B2の3色のカラー画像情報が求まることになる。
【0048】
そこで、(R,G,B)の各カラー画像情報を輝度情報と色差情報とで正規化された色情報(r,g,b)で表すと、(R,G,B)=I(r,g,b)となる。一般的に、人間の視覚の特性として被写体の輝度の変化に比べて色合いの変化の判別能力が低いことが知られている。このため、テレビジョン等のカラー画像の伝送は輝度信号Y及び色差信号U,Vに対して周波数帯域をY:U:V=4:2:2等のように、輝度信号に比べて色差信号の帯域を小さくしている。また、画像圧縮技術においても同様な方式がとられている。
【0049】
前述の式(R,G,B)=I(r,g,b)を変形して、(R,G,B)=Ig(r/g,1,b/g)とした場合、人間の視覚の特性により、r/g及びb/gなどの色調を表す部分のカラー画像情報は、曖昧な情報で問題ない。このため、近傍のカラー画像情報により予測することができる。すなわち、注目部分について考えると(不足のR2についてR ̄で示す)、(R ̄2,G2,B2)=I2・g2・(r2/g2,1,b2/g2)より、R ̄2=I2・g2・(r2/g2)でI2・g2=G2より、R ̄2=G2・(r2/g2)となる。
【0050】
ここで、前述の特性を利用して、r2/g2=(r1/g1+r3/g3)/2とすると、r1/g1=R1/G1,r3/g3=R3/G3より、R ̄2=G2・(R1/G1+R3/G3)/2となる。これより注目部分の3原色の画像情報がすべて求まり、(R,G,B)=(G2・(R1/G1+R3/G3)/2,G2,B2)となる。
【0051】
B(青色)のカラー画像情報が欠けている図8の画素位置3の部分についても同様に、(R,G,B)=(R3,G3,G3・(B2/G2+B4/G4)/2)となる。この例では、欠けているカラー画像情報を上下の部分で予測したが、図7の様なカラー画像情報が得られた場合には、r/g及びb/gは水平方向には画素ピッチごとに、垂直方向には2画素ごとに並んでいるので、標本化定理より水平方向には画素ピッチのナイキスト周波数まで、垂直方向にはナイキスト周波数の1/2までの変化まで予想が可能である。このため、前述のY:U:V=4:2:2に対して十分予測可能である。
【0052】
続いて、図9に示したように水平方向に明部,暗部の繰り返しパターンが存在する場合について考える。ここで、明部を(R0,G0,B0)とし、暗部を(1/10)・(R0,G0,B0)とすると、前述の注目部分の画素が明部の場合には、G,Bのカラー画像情報は、それぞれG,Bの画素が存在するため、G0,B0が再現されるのは自明である。
【0053】
ここでもR2について考える。R ̄2=G2・(R1/G1+R3/G3)/2の式にG1=G2=G3=G0,R1=R3=R0を代入すると、R2=R0となり、R ̄2は正確に算出される。同様に、暗部についても、G1’=G2’=G3’=(1/10)G0,R1’=R3’=(1/10)R0を代入すると、R ̄2’=(1/10)R0と正確に算出される。
【0054】
続いて、図10に示したように、垂直方向に繰り返しパターンが存在する場合について説明する。ここでも同様にB2=B0,G2=G0が再現されるのは自明である。
【0055】
ここでもR2について考える。前式R ̄2=G2・(R1/G1+R3/G3)/2の式にR1=R3=(1/10)R0,G1=G3=(1/10)G0,G2=G0を代入すると、R ̄2=R0となり、正確に再現される。同様に暗部についても、R ̄2’=(1/10)R0が正確に再現できる。よって疑色が生じない。
【0056】
すなわち、r/g,b/gが前述の条件を満たしていれば基本的に疑色は生じない。また、一般的な被写体の色合いはそのような高い周波数の変化は少なく、仮にそのように変化があっても色調のないグレーに再現されるだけで、人間はグレーにしか感じないので問題ない。
【0057】
以上説明したように、実施の形態1によれば、色相の変化の分離能力が人間の視覚の特性である輝度の変化の分離能力よりも低いことを利用して、高い周波数での色相の変化は検出せずグレーと感じてしまう所を利用するようにしたので、3板式の様にR,G,Bそれぞれ独立してCCDを用いなくてもよく、高い周波数の輝度変化があっても疑色は生じなくなる。
【0058】
また、被写体像と撮像素子とのいずれか一方を変位させるので、相対的位置に変位が生じ、これによって、複数の撮像素子及びミラー光学系を必要としない簡易な構成を得ることが可能である。
【0059】
さて、前述の実施の形態1では、相対位置変位手段としてアクチェータ103Bを設け、そのアクチュエータ103BによりCCD103Aを被写体像との間で変位させているが、この相対位置変位手段に一般的に使用される積層圧電素子等の手段を適用してもよい。
【0060】
また、実施の形態1では、原色フィルタR,G,BのG色のカラー画像情報は画面全体により取得されるが、他のR,G色や補色配列についても実施することが可能である。しかしながら、図11のように、人間の視感度やCCD301,302では緑(G)の感度が広く分布しているので、緑(G)のカラー画像情報を画面全体に取得した方がよくなる。
【0061】
この場合、R,G,Bの3原色フィルタを相対位置変位手段の変位ですべての画素位置に一定の色に当たるG(緑)の原色フィルタが入るようにカラー配列したので、R(赤),B(青)の分光感度に対して双方にオーバラップした広い分光感度を持つことになり、これによって、Gのカラー画像情報を1画面全体に取得することで被写体像の情報量が増え、人間の視覚特性に合致させることが可能である。
【0062】
また、上述した実施の形態1では、市松配列について説明したが、この発明は、図12のように、G列,R列,G列,B列,G列のようにストライプ配列についても適用可能である。
【0063】
(実施の形態2)
上記した実施の形態1においては、注目画素の不足したカラー画像情報を補間(算出)する際に、注目画素に対して垂直方向に隣接する画素の情報を使用していたが、実施の形態2においては、注目画素に対して隣接する周囲の画素に基づいて、不足したカラー情報を補間(算出)して、不足したカラー情報をより正確に取得する方法を説明する。以下、実施の形態2によるカラー画像情報の取得方法を、図13〜図16を参照して説明する。
【0064】
図13は注目画素のカラー画像情報を説明する図、図14は明部と暗部のパターンを説明するための図、図15は注目画素のカラー画像情報を一般化した図、図16は注目画素の不足したカラー画像情報の算出手順を説明するための図を示す。
【0065】
上記図7に示したCCDのカラー画像情報を、例えば、図13に示すように、(R1,G1)、(R2,G2)、(R3,G3)、(B4,G4)、(B5,G5)、(B6,G6)、(R7,G7)、(R8,G8)、(R9,G9)とする。ここで、注目画素を(B5,G5)とする。この注目画素(B5,G5)の不足しているカラー情報R5を作成する方法を以下に説明する。
【0066】
上記した実施の形態1の方法では、注目画素(B5,G5)の不足しているカラー情報R5を作成するため、注目画素(B5,G5)に対して、垂直方向に隣接する画素(G2,R2)、(G8、R8)の情報を使用していたが、実施の形態2においては、注目画素(B5,G5)に対して周囲に存在する画素のG情報(G1、G2、G3、G7、G8、G9)の中で最もG5に相関の高い画素のカラー画像情報を使用する。
【0067】
例えば、図14に示すような、明暗のパターンが存在する場合には、G5は、G2、G3、G8、G9と近い値となる。そこで、G5と最も相関の高い値をG2であるとした場合、この情報(G2、R2)を使用して、不足したR5の情報を、R5=R2・(G5/G2)として算出する。
【0068】
つぎに、上記算出方法を一般化した場合を説明する。上記図13のカラー配列を一般化すると、図15の如く表すごとできる。図15においては、注目画素のG情報をGmn、その他のカラー画像情報(R又はB情報)をCと表現している。注目画素の不足したカラー画像情報の算出手順を、図16のフローチャートに示す。
【0069】
図16において、まず、注目画素Gm,n と{Gm-1,n-1 、Gm,n-1 、Gm+1 ,n-1 、Gm-1,n+1 、Gm,n+1 、Gm+1 ,n +1 }のそれぞれとの相関を比較し、{Gm-1,n-1 、Gm,n-1 、Gm+1 ,n-1 、Gm-1,n+1 、Gm,n+1、Gm+1,n+1}の中で、Gm,n と最も差の小さいもの、すなわち相関が最も高い情報をG’とする(ステップS1)。ついで、G’と同じ画素位置にあるC情報をC’とする(ステップS2)。そして、求めるべき情報Xとした場合、求めるべき情報Xは、X=C’・(Gm ,n /G’)により算出することができる(ステップS3)。
【0070】
以上説明したように、本実施の形態2においては、注目画素の不足したカラー画像情報を取得する場合に、注目画素に対して隣接する周囲の画素のうち、注目画素のカラー画像情報と最も相関の高い画素のカラー画像情報に基づいて、不足したカラー画像情報を算出することとしたので、不足したカラー画像情報を正確に取得することが可能となる。
【0071】
(実施の形態3)
実施の形態3においては、本実施の形態では、注目画素において不足したカラー画像情報をより正確に取得するためのCCDのカラー画素配列及びその画素ずらし方向について説明する。以下、実施の形態3によるカラー画像情報の取得方法を、図17〜図27を参照して説明する。
【0072】
図17は明部と暗部のパターンを説明するための図、図18は受光素子(CCD)のカラー配列を示す図、図19はCCDの移動方向(画素ずらし方向)を説明するための図、図20〜図23は相対変位による図18に示す受光素子の遷移を説明するための図、図24は受光素子の他のカラー配列を示す図、図25〜図27は相対変位による図24に示す受光素子の遷移を説明するための図である。
【0073】
上記実施の形態1においては、CCDを図3に示すように、R,G,Bの市松配列とし、図5に示すように水平方向に1画素ずらし、図7に示すようなカラー画像情報を得ていた。このカラー画像情報で、図17に示すように、水平方向に暗部がある場合について考える。ここで注目画素(B5,G5)とした場合、不足しているカラー画像情報R5を算出するためには、周囲の画素(R1,G1)、(R2,G2)、(R3,G3)、(R7,G7)、(R8,G8)、(R9,G9)のカラー画像情報を使用しなければならない。この場合、水平方向に暗部があるので、注目画素(B5,G5)と周囲の画素(R1,G1)、(R2,G2)、(R3,G3)、(R7,G7)、(R8,G8)、(R9,G9)とでは、相関が余りない。
【0074】
そこで、CCD103Aの画素のカラー配列を、図18に示す如く、(G、G、G、G、・・・)、(R、B、R、B、・・・)、(G、G、G、G、・・・)、(B、R、B、R、・・・)、・・・・として、G列を1行おきにトライプ状に配列させ、それ以外の各行については、それぞれRとBの画素を交互に配置する。そして、相対位置変位手段であるアクチュエータ103Bにより、図18の如くカラー配列させたCCD103Aを、図19に示すように、被写体像に対して相対的に斜め方向(図19中の矢印Aで示した方向)に1画素変位させ、移動前の画素のカラー情報と移動後の画素のカラー情報とを合成すると、図20に示すようなカラー画像情報が得られる。
【0075】
この図20に示すカラー画像情報で、注目画素の不足したカラー画像情報を、上記実施の形態2で説明した方法と同じ方法で取得する場合を考える。図20において、注目画素(G、B)のR情報を、周囲の画素から算出するとした場合には、図21で斜線で示した画素が補間に使用できる画素である。これをさらに分かり易く示すと、使用できる周囲画素は図22に示す方向に存在することになる。逆に、注目画素と同じカラー配列となる部分を簡潔に示すと図23の如くなる。
【0076】
すなわち、図22に示すように、注目画素に対して、水平・垂直・斜めのいずれの方向にも補間に使用できる周囲画素が少なくとも1画素存在することになる。これにより、例えば、注目画素に対して、水平方向・垂直方向・斜め方向のいずれかが暗部となる場合においても、周囲画素で相関性の高い画素が存在することになる。
【0077】
従って、図20に示すようなカラー画像情報では、注目画素の水平方向、垂直方向、若しくは斜め方向のいずれかが暗部となる場合においても、注目画素にたいして相関の高い周囲画素が存在することになり、上記で示した方法と同様な方法により、注目画素の不足したカラー情報を作成する場合に、周囲で相関の高い画素のカラー情報に基づいて、不足したカラー情報を作成する。これにより、不足したカラー情報を正確に得ることが可能となる。
【0078】
以上説明したように、実施の形態3においては、G画素のみからなるG画素列と、R画素とB画素を交互に配置したRG画素列とを交互に配置したCCDを、斜め方向に1画素変位させ、注目画素のカラー画像情報と相関の高いカラー画像情報の画素が周囲に存在する確率を高くすることとしたので、注目画素の不足したカラー画像情報を取得する場合において、注目画素に対して隣接する周囲の画素のうち、注目画素のカラー画像情報と最も相関の高い画素のカラー画像情報に基づき不足したカラー画像情報を算出する場合に、不足したカラー画像情報をより正確に取得することが可能となる。
【0079】
尚、CCDの画素のカラー配列は、上記図18に示したものに限られるものではなく、例えば、図24の如きカラー配列としても良い。図24に示す例では、(G、G、G、G、・・・)、(R、B、R、B、・・・)、(G、G、G、G、・・・)、(R、B、R、B、R、・・・)、・・・・として、G列とRBの繰り返し列とを交互に配置している。図24の配列が図18の配列と異なっている点は、RとBの繰り返しパターンを各行とも同じにした点である。
【0080】
図24に示すカラー配列のCCD103Aを、アクチュエータ103Bにより、図19に示すように、被写体像に対して相対的に斜め方向(図19中の矢印Aで示した方向)に1画素変位させ、移動前の画素のカラー情報と移動後の画素のカラー情報とを合成すると、図25に示すようなカラー画像情報が得られる。ここで、注目画素を(G、B)として、不足したRの画像情報を取得する場合に、使用できる画素は、図26に示す如くとなり、これをさらに分かり易く示すと、使用できる周囲画素は図27に示す方向に存在することになる。
【0081】
(実施の形態4)
さて、前述した実施の形態1では、CCD103Aを相対位置変位手段であるアクチェータ103Bで変位させているが、以下に説明する実施の形態4のように、手ブレ等の被写体像の変化を利用し、被写体像の結像位置をプリズム等の相対位置変位手段により変位させてもよい。
【0082】
図28はこの発明の実施の形態4による撮像装置の相対変位機構を示す構成図である。実施の形態2では、図28に示したように、撮影光学系であるレンズ101と撮像素子であるCCD103Aとの間にプリズム201が設置される。全体の構成を図1に示したブロック構成とした場合には、相対変位機構を図2の構成に代わって図28の構成とすることで、CPU121からプリズム202に矢印Wで示す方向に回転指示を与えれば、被写体の撮影範囲が変化して、CCD103Aと被写体との相対的位置関係が変位する。
【0083】
この実施の形態4においても、前述の実施の形態1と同様の効果を得ることができる。
【0084】
(実施の形態5)
さて、前述した実施の形態1及び4では、アクチュエータやプリズムを駆動させて多くの相対的位置関係を取得するようにしていたが、以下に説明する実施の形態4のように、ひとつの被写体像を複数の被写体像に複製して相対的位置関係を取得するようしてもよい。なお、全体構成は実施の形態1の図1に示したブロック構成を採用するため、以下に相違する構成についてのみ説明する。
【0085】
図29はこの発明の実施の形態5による撮像装置の相対変位機構を示す構成図である。実施の形態3による撮像装置は、図29に示したように、レンズ101の光路に光が透過するハーフミラー303を固定して、そのハーフミラー303の後段に透過する光を受光するCCD301を設け、そのハーフミラー303の下方(図中)に反射光を受光するCCD302を設けた構成である。
【0086】
図29に示した構成によれば、レンズ101を通りハーフミラー303に入射された光は、ひとつは透過してCCD301に受光され、もうひとつは反射してCCD302に受光される。このため、被写体に対して異なる相対位置関係をもつ2つの被写体像が取得される。
【0087】
この実施の形態5によれば、光学的入力手段であるレンズ101により入力される被写体像をハーフミラー303により複数の光路に分岐させ、各撮像素子に被写体像と同一の被写体像を受光させるようにしたので、手ブレ等が発生せず動画情報も取得可能であるとともに、3板式撮像装置のように色分解のためのダイクロイックプリズム等の複雑な光学系を必要としない簡易な構成を得ることが可能である。
【0088】
次に、上述した各実施の形態に適用可能な変形例について説明する。なお、以下に説明する変形例は、1つもしくは2つ以上組み合わせて各実施の形態に適用してもよい。
【0089】
ところで、カラー固体撮像素子としてエリアCCDが使用された場合には、図30に示したように、電子シャッタを使用しても蓄積時間(露光時間)は短くなるが、蓄積時間の間隔は、その間隔の間に画像の転送時間が入ることから、一定となって短くならない。すなわち、転送パルス,電子シャッタ信号,蓄積時間t1,t2…のタイミングで動作している際に、必ず各蓄積時間t1,t2…に転送時間Tr1,tr2…が含まれる。
【0090】
そこで、図31に示したように、CCD全面にメカシャッタ等の遮光シャッタを設けて、電子シャッタと遮光シャッタとで2つの蓄積時間を設け、2つの蓄積時間の間隔を短くしてもよい。すなわち、電子シャッタ信号がオンして最初の転送パルスが立ち上がるまでに最初の転送(転送時間tr1)を完了させ、最初の転送パルスが立ち上がり遮光シャッタ信号により遮光シャッタが作動する迄の間に次の転送(転送時間tr2)を終えるようにする。
【0091】
この場合、電子シャッタとメカシャッタとの駆動タイミングに対応させて各カラー画像情報の露光時間の中での有効な蓄積時間を設定し、各露光時間中に撮像素子の転送動作を完了するようにしたので、複数のカラー画像情報を得るための蓄積時間の間隔が短縮され、これによって、手ブレ等の問題を解消することが可能である。
【0092】
また、複数のカラー画像情報を得るためには2回の露光を行うため、外光の変化や蓄積時間のばらつきが生じて露光がばらつく可能性がある。これを補正する方法としては、第1の露光と第2の露光とで緑(G)のカラー画像情報を得て、その全体または一部分の平均により露光のばらつきを検出し、その補正のための係数を第1または第2のカラー画像情報(G)に乗ずれば、補正することが可能である。
【0093】
この場合、少なくとも複数のカラー画像情報の蓄積時間の差を補正するようにしたので、複数のカラー画像情報を取得するときの露光ムラがあっても高画質な画像を取得することが可能である。
【0094】
また、前述した実施の形態では、変位により2種類つの被写体像(カラー画像情報)を得ることで説明してきたが、他の半画素ずらし等の手法と組み合わせてもなんら効果が低下するものではない。
【0095】
また、画素ずらしにおける画素を変位させる回数は一回に限られるものではなく、複数回行うことにしても良い。図32〜図34は画素を3回変位させる例を示している。例えば、図32に示すようなカラー配列の画素を、図33に示すように、水平方向に2画素、右上斜め方向・右下斜め方向にそれぞれ1画素変位させると、図34に示すようなカラー画像情報を得ることができる。図34において、△の部分は補間により画像情報を算出することにすれば良い。
【0096】
さて、前述の実施の形態では、デジタルカメラを一例として説明したが、この発明は、これに限定されるものではなく、ビデオカメラ,デジタルビデオカメラ,カラースキャナ,カラー複写機,カラーファクシミリ装置などへも種々変形可能である。
【0097】
【発明の効果】
以上説明したように、請求項1の発明によれば、相対位置変位手段により撮像手段と光学的入力手段により入力される被写体像とを相対的に変位させ、その変位で得られた同一被写体の複数のカラー画像情報に基づき一定の色で1画面分のカラー画像情報を求めてから、その一定の色のカラー画像情報に基づき1画面分のカラー画像情報を求めるようにしたので、色相の変化の分離能力が人間の視覚の特性である輝度の変化の分離能力よりも低いことを利用して、高い周波数での色相の変化は検出せずグレーと感じてしまう所を利用することになり、これによって、簡易な構成により疑色や手ブレの発生を防止することが可能な撮像装置が得られるという効果を奏する。
【0098】
また、請求項2の発明によれば、、一定の色の相関に基づいて、注目画素の不足したカラー画像情報を求めているので、不足したカラー画像情報を正確に算出することが可能となる。
【0099】
また、請求項3の発明によれば、注目画素の一定の色のカラー画像情報と注目画素の周囲にある周囲画素の一定の色のカラー画像情報とを比較し、相関の最も高い周囲画素のカラー画像情報に基づき、注目画素の不足したカラー画像情報を求めているので、不足したカラー画像情報をより正確に算出することが可能となる。
【0100】
また、請求項4の発明によれば、注目画素の不足したカラー画像情報を作成する際に、当該注目画素の周りにある使用可能な周囲画素が、当該注目画素に対して水平・垂直・斜めのいずれの方向にも少なくとも1画素存在するように受光素子を配したので、不足したカラー画像情報を正確に算出することが可能となる。
【0101】
また、請求項5の発明によれば、注目画素の一定の色のカラー画像情報と使用可能な周囲画素の一定の色のカラー画像情報とを比較し、相関の最も高い使用可能な周囲画素のカラー画像情報に基づき、注目画素の不足したカラー画像情報を求めているので、不足したカラー画像情報をより正確に算出することが可能となる。
【0102】
また、請求項6の発明によれば、被写体像と撮像手段とのいずれか一方を変位させるので、相対的位置に変位が生じ、これによって、複数の撮像素子及びミラー光学系を必要としない簡易な構成を得ることが可能な撮像装置が得られるという効果を奏する。
【0103】
また、請求項7の発明によれば、光学的入力手段により入力される被写体像を複数の光路に分岐させ、各撮像素子に被写体像と同一の被写体像を受光させるようにしたので、手ブレ等が発生せず動画情報も取得可能であるとともに、3板式撮像装置のように色分解のためのダイクロイックプリズム等の複雑な光学系を必要としない簡易な構成を得ることが可能な撮像装置が得られるという効果を奏する。
【0104】
また、請求項8の発明によれば、R,G,Bの3原色フィルタを相対位置変位手段の変位ですべての画素位置に一定の色に当たるG(緑)の原色フィルタが入るようにカラー配列したので、R(赤),B(青)の分光感度に対して双方にオーバラップした広い分光感度を持つことになり、これによって、Gのカラー画像情報を1画面全体に取得することで被写体像の情報量が増え、人間の視覚特性に合致させることが可能な撮像装置が得られるという効果を奏する。
【0105】
また、請求項9の発明によれば、電子シャッタとメカシャッタとの駆動タイミングに対応させて各カラー画像情報の露光時間の中での有効な蓄積時間を設定し、各露光時間中に撮像手段の転送動作を完了するようにしたので、複数のカラー画像情報を得るための蓄積時間の間隔が短縮され、これによって、手ブレ等の問題を解消することが可能な撮像装置が得られるという効果を奏する。
【図面の簡単な説明】
【図1】 本発明の実施の形態1によるデジタルカメラの構成を示すブロック図である。
【図2】 この実施の形態1による相対変位機構を示す構成図である。
【図3】 実施の形態1による相対変位による受光素子の遷移を説明する図である。
【図4】 実施の形態1による相対変位による受光素子の遷移を説明する図である。
【図5】 実施の形態1による相対変位による受光素子の遷移を説明する図である。
【図6】 実施の形態1による相対変位による受光素子の遷移を説明する図である。
【図7】 実施の形態1による相対変位による受光素子の遷移を説明する図である。
【図8】 実施の形態1において、注目画素のカラー画像情報を説明する図である。
【図9】 実施の形態1において、明部と暗部との繰り返しパターンを説明する図である。
【図10】 実施の形態1において、明部と暗部との繰り返しパターンを説明する図である。
【図11】 一変形例において波長と感度との関係をグラフ化して示す図である。
【図12】 他の変形例においてストライプ配列の一例を示す図である。
【図13】 実施に形態2において、注目画素のカラー画像情報を説明する図である。
【図14】 実施の形態2において、明部と暗部のパターンを説明するための図である。
【図15】 実施の形態2において、注目画素のカラー画像情報を一般化した図である。
【図16】 実施の形態2において、注目画素の不足したカラー画像情報の算出手順を説明するための図である。
【図17】 実施の形態3において、明部と暗部のパターンを説明するための図である。
【図18】 実施の形態3において、図18は受光素子(CCD)のカラー配列を示す図である。
【図19】 実施の形態3において、CCDの移動方向(画素ずらし方向)を説明するための図である。
【図20】 実施の形態3において、相対変位による図18に示す受光素子の遷移を説明するための図である。
【図21】 実施の形態3において、相対変位による図18に示す受光素子の遷移を説明するための図である。
【図22】 実施の形態3において、相対変位による図18に示す受光素子の遷移を説明するための図である。
【図23】 実施の形態3において、相対変位による図18に示す受光素子の遷移を説明するための図である。
【図24】 実施の形態3において、受光素子の他のカラー配列を示す図である。
【図25】 実施の形態3において、相対変位による図24に示す受光素子の遷移を説明するための図である。
【図26】 実施の形態3において、相対変位による図24に示す受光素子の遷移を説明するための図である。
【図27】 実施の形態3において、相対変位による図24に示す受光素子の遷移を説明するための図である。
【図28】 実施の形態4による撮像装置の相対変位機構を示す構成図である。
【図29】 実施の形態5による撮像装置の相対変位機構を示す構成図である。
【図30】 一変形例において電子シャッタを適用した場合のタイミングチャートである。
【図31】 他の変形例において電子シャッタと遮光シャッタとを適用した場合のタイミングチャートである。
【図32】 他の変形例において画素を3回変位させる例を説明するための図である。
【図33】 他の変形例において画素を3回変位させる例を説明するための図である。
【図34】 他の変形例において画素を3回変位させる例を説明するための図である。
【図35】 従来技術を示し、第1の撮像方式を用いた撮像装置を概略的に示す構成図である。
【図36】 従来技術を示し、第2の撮像方式を用いた撮像装置を概略的に示す構成図である。
【図37】 従来技術を示し、第3の撮像方式を用いた撮像装置を概略的に示す構成図である。
【図38】 従来技術を示し、受光素子のカラー配列を示す図である。
【図39】 従来技術を示し、濃淡のある被写体の一例を示す図である。
【図40】 従来技術を示し、色に応じた濃度レベルを示す図である。
【図41】 従来技術を示し、混合方式をカラー配列で説明する図である。
【図42】 従来技術を示し、混合方式をカラー配列で説明する図である。
【符号の説明】
101 レンズ
103A,301,302 CCD
103B アクチュエータ
121 CPU
201 プリズム
301 ハーフミラー
Claims (9)
- 光学的に被写体像を入力する光学的入力手段と、
複数の波長感度の受光素子が2次元的に配列され、前記光学的入力手段により入力された被写体像から画像情報を得る撮像手段と、
前記撮像手段と前記光学的入力手段に入力された被写体像とを、相対的に変位させる相対位置変位手段と、
前記相対的な変位前後で前記撮像手段により得られる同一被写体の複数の画像情報に基づいて、全画素が前記複数の波長感度に対応した画像情報を有する1画面の画像情報を生成する制御手段と、
を備え、
前記相対的な変位前後で前記撮像手段により得られる同一被写体の複数の画像情報で構成される1画面の画像情報において、全画素が特定の波長感度に対応した画像情報を有するように、前記受光素子を配置するとともに、前記相対位置変位手段を駆動し、
前記制御手段は、
各画素に不足している他の波長感度に対応した画像情報を、前記不足している他の波長感度に対応した画像情報を有している画素の画像情報と前記特定の波長感度に対応した画像情報から得られる係数を用いて補間処理することを特徴とする撮像装置。 - 前記制御手段は、前記不足した波長感度に対応した画像情報を求めるべき注目画素が有している前記特定の波長感度に対応した画像情報と、当該注目画素の周囲にある前記特定の波長感度に対応した画像情報との相関に基づいて、注目画素の前記不足した波長感度に対応した画像情報を求めることを特徴とする請求項1に記載の撮像装置。
- 前記制御手段は、前記注目画素が有している前記特定の波長感度に対応した画像情報と、当該注目画素の周囲にある周囲画素が有している前記特定の波長感度に対応した画像情報とを比較し、相関の最も高い周囲画素の前記特定の波長感度に対応した画像情報に基づき、当該注目画素の前記不足した波長感度に対応した画像情報を求めることを特徴とする請求項2記載の撮像装置。
- 前記注目画素の前記不足した波長感度に対応した画像情報を求める際に、当該注目画素の周りにある使用可能な周囲画素が、当該注目画素に対して水平・垂直・斜めのいずれの方向にも少なくとも1画素存在するように前記受光素子を配したことを特徴とする請求項1〜3のいずれか1つに記載の撮像装置。
- 前記制御手段は、前記注目画素が有している前記特定の波長感度に対応した画像情報と前記使用可能な周囲画素が有している前記特定の波長感度に対応した画像情報とを比較し、相関の最も高い前記使用可能な周囲画素が有している前記特定の波長感度に対応した画像情報に基づき、当該注目画素の不足した前記不足した波長感度に対応した画像情報を求めることを特徴とする請求項4記載の撮像装置。
- 前記相対位置変位手段は前記被写体像と前記撮像手段とのいずれか一方を変位させることを特徴とする請求項1〜5のいずれか1つに記載の撮像装置。
- 光学的に被写体像を入力する光学的入力手段と、
複数の波長感度の受光素子が2次元的に配列され、前記光学的入力手段により入力された被写体像から画像情報を得る撮像手段と、
前記撮像手段に対する前記光学的入力手段の結像位置を光学的に変位させる光学的相対位置変位手段と、
前記光学的な変位を行うことで前記撮像手段により得られる同一被写体の複数の画像情報に基づいて、全画素が前記複数の波長感度に対応した画像情報を有する1画面の画像情報を生成する制御手段と、
を備え、
前記光学的な変位を行うことで前記撮像手段により得られる同一被写体の複数の画像情報で構成される1画面の画像情報において、全画素が特定の波長感度に対応した画像情報を有するように、前記受光素子を配置するとともに、前記光学的相対位置変位手段を駆動し、
前記制御手段は、
各画素に不足している他の波長感度に対応した画像情報を、前記不足している他の波長感度に対応した画像情報を有している画素の画像情報と前記特定の波長感度に対応した画像情報から得られる係数を用いて補間処理することを特徴とする撮像装置。 - 前記撮像手段はR(赤)、G(緑)、B(青)の3原色フィルタを有し、該3原色フィルタは前記相対位置変位手段の変位ですべての画素位置に前記特定の種類の波長感度に対応する画像情報であるG(緑)の原色フィルタが入るようにカラー配列されていることを特徴とする請求項1〜7のいずれか1つに記載の撮像装置。
- 前記撮像手段は、電子シャッタとメカシャッタとを有し、
被写体像から画像情報を取得する際に一定の蓄積期間毎に複数回の蓄積を行い、
前記電子シャッタと前記メカシャッタとの駆動タイミングによって前記複数回の蓄積の内有効な蓄積時間をそれぞれ設定し、
前記各蓄積期間中に前記撮像手段の転送動作を完了することを特徴とする請求項1〜6、8のいずれか1つに記載の撮像装置。
Priority Applications (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP05252398A JP3704238B2 (ja) | 1997-03-31 | 1998-03-04 | 撮像装置 |
US09/048,899 US6426773B1 (en) | 1997-03-31 | 1998-03-27 | Image pickup device including an image pickup unit which is displaced relative to an object to be imaged |
EP98105787A EP0869683B1 (en) | 1997-03-31 | 1998-03-30 | Image pickup device |
DE69838194T DE69838194T2 (de) | 1997-03-31 | 1998-03-30 | Bildaufnahmevorrichtung |
ES98105787T ES2287962T3 (es) | 1997-03-31 | 1998-03-30 | Dispositivo para recoger imagenes. |
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP9842997 | 1997-03-31 | ||
JP9-98429 | 1997-03-31 | ||
JP05252398A JP3704238B2 (ja) | 1997-03-31 | 1998-03-04 | 撮像装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPH10336686A JPH10336686A (ja) | 1998-12-18 |
JP3704238B2 true JP3704238B2 (ja) | 2005-10-12 |
Family
ID=26393129
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP05252398A Expired - Fee Related JP3704238B2 (ja) | 1997-03-31 | 1998-03-04 | 撮像装置 |
Country Status (5)
Country | Link |
---|---|
US (1) | US6426773B1 (ja) |
EP (1) | EP0869683B1 (ja) |
JP (1) | JP3704238B2 (ja) |
DE (1) | DE69838194T2 (ja) |
ES (1) | ES2287962T3 (ja) |
Families Citing this family (23)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH10173859A (ja) * | 1996-12-09 | 1998-06-26 | Canon Inc | アナログ信号処理回路 |
IL126165A0 (en) * | 1998-09-10 | 1999-05-09 | Scitex Corp Ltd | Apparatus for the orthogonal movement of a ccd sensor |
JP4162111B2 (ja) * | 1999-07-27 | 2008-10-08 | 富士フイルム株式会社 | 画像処理方法および装置並びに記録媒体 |
US6757012B1 (en) * | 2000-01-13 | 2004-06-29 | Biomorphic Vlsi, Inc. | Color selection for sparse color image reconstruction |
JP4500434B2 (ja) * | 2000-11-28 | 2010-07-14 | キヤノン株式会社 | 撮像装置及び撮像システム、並びに撮像方法 |
JP2002209226A (ja) * | 2000-12-28 | 2002-07-26 | Canon Inc | 撮像装置 |
US20080036886A1 (en) * | 2001-06-29 | 2008-02-14 | Hannigan Brett T | Methods For Generating Enhanced Digital Images |
JP2003208343A (ja) * | 2002-01-10 | 2003-07-25 | Ricoh Co Ltd | ファイル作成・閲覧方法、ファイル作成方法、ファイル閲覧方法、ファイル構造及びプログラム |
JP3920675B2 (ja) * | 2002-03-22 | 2007-05-30 | 株式会社リコー | データ通信方法、コンピュータ、プログラム及び記憶媒体 |
EP1522046B1 (en) * | 2002-07-04 | 2009-03-25 | Koninklijke Philips Electronics N.V. | Method and apparatus for signal processing, computer program product, computing system and camera |
JP2004110573A (ja) * | 2002-09-19 | 2004-04-08 | Ricoh Co Ltd | データ通信方法、データ通信装置、データ通信システム及びデータ通信プログラム |
US20040194027A1 (en) * | 2002-12-27 | 2004-09-30 | Akira Suzuki | Computerized electronic document producing, editing and accessing system for maintaining high-security |
EP1638340B1 (en) | 2003-06-23 | 2013-08-07 | Sony Corporation | Image processing method and device, and program |
US20050052570A1 (en) * | 2003-08-21 | 2005-03-10 | Pentax Corporation | Image pickup apparatus |
US20060033824A1 (en) * | 2004-08-10 | 2006-02-16 | Nicholson Bruce A | Sodium screen digital traveling matte methods and apparatus |
JP4428195B2 (ja) * | 2004-10-22 | 2010-03-10 | 株式会社日立製作所 | 撮像装置、補完信号生成方法及びプログラム |
JP5151075B2 (ja) * | 2005-06-21 | 2013-02-27 | ソニー株式会社 | 画像処理装置及び画像処理方法、撮像装置、並びにコンピュータ・プログラム |
US7456881B2 (en) * | 2006-01-12 | 2008-11-25 | Aptina Imaging Corporation | Method and apparatus for producing Bayer color mosaic interpolation for imagers |
EP2015562A1 (en) * | 2007-07-10 | 2009-01-14 | Thomson Licensing S.A. | Processing device for correcting defect pixel values of an image sensor unit, image sensor unit with the processing device and method |
JP2012054774A (ja) * | 2010-09-01 | 2012-03-15 | Sanyo Electric Co Ltd | 撮像装置 |
JP2013128184A (ja) * | 2011-12-16 | 2013-06-27 | Samsung Electronics Co Ltd | 撮像装置及び撮像方法 |
JP6231284B2 (ja) * | 2013-02-21 | 2017-11-15 | クラリオン株式会社 | 撮像装置 |
US11012633B2 (en) | 2018-03-22 | 2021-05-18 | Ricoh Company, Ltd. | Image capturing apparatus, image capturing method, and image processing apparatus |
Family Cites Families (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPS5654115B2 (ja) | 1974-03-29 | 1981-12-23 | ||
US4404594A (en) * | 1981-11-02 | 1983-09-13 | Itek Corporation | Imaging system with enlarged depth of field |
JPS58169966A (ja) * | 1982-03-31 | 1983-10-06 | Toshiba Corp | 固体撮像装置の駆動方式 |
JPS59174085A (ja) * | 1983-03-23 | 1984-10-02 | Toshiba Corp | カラ−固体撮像装置 |
US4541116A (en) * | 1984-02-27 | 1985-09-10 | Environmental Research Institute Of Mi | Neighborhood image processing stage for implementing filtering operations |
US4642678A (en) * | 1984-09-10 | 1987-02-10 | Eastman Kodak Company | Signal processing method and apparatus for producing interpolated chrominance values in a sampled color image signal |
US4786964A (en) * | 1987-02-02 | 1988-11-22 | Polaroid Corporation | Electronic color imaging apparatus with prismatic color filter periodically interposed in front of an array of primary color filters |
DE3837063C1 (ja) * | 1988-10-31 | 1990-03-29 | Reimar Dr. 8000 Muenchen De Lenz | |
US5347599A (en) * | 1991-06-14 | 1994-09-13 | Matsushita Electric Industrial Co., Ltd. | Adaptive interpolation method and apparatus using correlation detection |
US5245416A (en) * | 1992-01-30 | 1993-09-14 | Florida Atlantic University | Multicolor solid state imager with rotational swing drive |
US5475769A (en) * | 1992-07-13 | 1995-12-12 | Polaroid Corporation | Method and apparatus for recovering image data through the use of a color test pattern |
US6031569A (en) * | 1994-02-28 | 2000-02-29 | Canon Kabushiki Kaisha | Image sensing method and apparatus utilizing the same |
JPH07322121A (ja) | 1994-05-20 | 1995-12-08 | Canon Inc | 高画質画像入力装置 |
JPH0832879A (ja) * | 1994-07-14 | 1996-02-02 | Fuji Photo Film Co Ltd | 画像読取方法 |
US5834761A (en) * | 1996-03-22 | 1998-11-10 | Sharp Kabushiki Kaisah | Image input apparatus having a spatial filter controller |
-
1998
- 1998-03-04 JP JP05252398A patent/JP3704238B2/ja not_active Expired - Fee Related
- 1998-03-27 US US09/048,899 patent/US6426773B1/en not_active Expired - Lifetime
- 1998-03-30 EP EP98105787A patent/EP0869683B1/en not_active Expired - Lifetime
- 1998-03-30 ES ES98105787T patent/ES2287962T3/es not_active Expired - Lifetime
- 1998-03-30 DE DE69838194T patent/DE69838194T2/de not_active Expired - Lifetime
Also Published As
Publication number | Publication date |
---|---|
DE69838194T2 (de) | 2008-05-15 |
US6426773B1 (en) | 2002-07-30 |
EP0869683A3 (en) | 2001-02-28 |
ES2287962T3 (es) | 2007-12-16 |
EP0869683B1 (en) | 2007-08-08 |
JPH10336686A (ja) | 1998-12-18 |
EP0869683A2 (en) | 1998-10-07 |
DE69838194D1 (de) | 2007-09-20 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP3704238B2 (ja) | 撮像装置 | |
JP4503878B2 (ja) | 撮像装置及び撮像方法 | |
US6765616B1 (en) | Electric camera | |
US6847397B1 (en) | Solid-state image sensor having pixels shifted and complementary-color filter and signal processing method therefor | |
JP4641675B2 (ja) | 画像信号処理装置 | |
US8111298B2 (en) | Imaging circuit and image pickup device | |
US20060197854A1 (en) | Image capturing apparatus and computer software product | |
JP3947969B2 (ja) | 画像処理装置、および画像処理方法、記録媒体、並びにプログラム | |
JP2004501542A (ja) | カラーフィルタを伴うカメラ | |
JP2003179819A (ja) | 撮像装置 | |
JP2009021985A (ja) | 撮像装置及び撮像装置の駆動方法 | |
JP4077161B2 (ja) | 撮像装置、輝度補正方法、およびその方法をコンピュータで実行するためのプログラム | |
JP3397397B2 (ja) | 撮像装置 | |
JP3738654B2 (ja) | デジタルカメラ | |
JP2004194248A (ja) | 撮像素子及び撮像装置 | |
JP3064721B2 (ja) | フレーム画像作成機能付き撮像装置 | |
JP3658049B2 (ja) | 映像入力装置 | |
JP3515585B2 (ja) | 2板式撮像装置 | |
JP3406674B2 (ja) | 2板式撮像装置 | |
JPH10136253A (ja) | 撮像装置 | |
JP2000261817A (ja) | 撮像装置 | |
JP3397399B2 (ja) | 撮像装置 | |
JPS61234686A (ja) | カラ−固体撮像装置 | |
JP2003018609A (ja) | 画像入力装置 | |
JPH03211977A (ja) | カラー撮像装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20040706 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20040906 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20050719 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20050722 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090729 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090729 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100729 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110729 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120729 Year of fee payment: 7 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120729 Year of fee payment: 7 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130729 Year of fee payment: 8 |
|
LAPS | Cancellation because of no payment of annual fees |