Nothing Special   »   [go: up one dir, main page]

JP2019029913A - 撮像装置 - Google Patents

撮像装置 Download PDF

Info

Publication number
JP2019029913A
JP2019029913A JP2017149462A JP2017149462A JP2019029913A JP 2019029913 A JP2019029913 A JP 2019029913A JP 2017149462 A JP2017149462 A JP 2017149462A JP 2017149462 A JP2017149462 A JP 2017149462A JP 2019029913 A JP2019029913 A JP 2019029913A
Authority
JP
Japan
Prior art keywords
imaging
imaging optical
optical system
pixel
pixels
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2017149462A
Other languages
English (en)
Inventor
石原 圭一郎
Keiichiro Ishihara
圭一郎 石原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2017149462A priority Critical patent/JP2019029913A/ja
Priority to US16/047,201 priority patent/US10582123B2/en
Publication of JP2019029913A publication Critical patent/JP2019029913A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/73Deblurring; Sharpening
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4015Image demosaicing, e.g. colour filter arrays [CFA] or Bayer patterns
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4053Scaling of whole images or parts thereof, e.g. expanding or contracting based on super-resolution, i.e. the output image resolution being higher than the sensor resolution
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/55Optical parts specially adapted for electronic image sensors; Mounting thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/95Computational photography systems, e.g. light-field imaging systems
    • H04N23/951Computational photography systems, e.g. light-field imaging systems by using two or more images to influence resolution, frame rate or aspect ratio
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/134Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/702SSIS architectures characterised by non-identical, non-equidistant or non-planar pixel layout
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14601Structural or functional details thereof
    • H01L27/14618Containers
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14601Structural or functional details thereof
    • H01L27/1462Coatings
    • H01L27/14621Colour filter arrangements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/48Increasing resolution by shifting the sensor relative to the scene

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • General Physics & Mathematics (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Computing Systems (AREA)
  • Color Television Image Signal Generators (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Cameras In General (AREA)
  • Studio Devices (AREA)

Abstract

【課題】複数枚の撮影画像から高解像度な再構成画像を取得する撮像装置において、静止画のみならず動きがある被写体や動画に対応可能な技術を提供する。
【解決手段】撮像装置は、2次元的に配列される複数の撮像光学系と、前記複数の撮像光学系にそれぞれ対応する複数の撮像領域を有する撮像素子と、を備え、前記複数の撮像光学系の少なくとも一部は、他の撮像光学系とは異なる偏心量で配置されている、ことを特徴とする。
【選択図】図1

Description

本発明は、撮像装置に関し、詳細には、画素ずらしにより解像度を向上させる技術に関する。
撮像素子の解像度を向上させる超解像手法には「画素ずらし」と呼ばれる周知の技術がある。画素ずらしは、撮像素子を所定方向にサブ画素ずらした複数枚の画像を時系列に撮影し、撮影した複数枚の画像から、多画素で高解像度な画像を生成する方法である。
特許文献1には、画素ずらしによる疑似高解像度化を行うカラー撮像装置において、各波長域に応じてずらし量を最適化させた撮像装置が開示されている。複数の光学系のそれぞれの光軸上に、互いに異なる波長の光を透過する色フィルターと平行平板状の透明部材とを配置し、透明部材の光軸に対する傾斜角度を色フィルターの透過波長域に応じて互いに異ならせて画素ずらしを行っている。
特許文献2には、基板上に作製された複数の撮像装置を用いた画像を撮像する撮像装置が開示されている。基板の第1の位置上に形成される第1の撮像装置と、基板の第2の位置上に形成される第2の撮像装置とを少なくとも含み、第2の撮像装置は第1の撮像装置により撮像された画像からサブピクセル位相でシフトされた画像を撮像する。そして、第1の撮像装置および第2の撮像装置からの画像は、高い解像度の画像を得るために、超解像処理を用いて組み合わせられる。
特開2006−186512号公報 特表2011−523538号公報
Malvar, Henrique S., Li-wei He, and Ross Cutler. "High-quality linear interpolation for demosaicing of Bayer-patterned color images." Acoustics, Speech, and Signal Processing, 2004. Proceedings.(ICASSP'04). IEEE International Conference on. Vol. 3. IEEE, 2004.
しかしながら、特許文献1では、各波長領域のずらし量を揃えるものであり、ベイヤー配列の撮像素子の場合、各波長領域の画素に対して不均等な疑似高解像度化が行われてしまい、高画質な画像を得ることができない問題があった。例えば、図15(A)に示したRGGBのベイヤー配列で疑似高解像度化した場合を例に示す。各画素の配置を図15(B)に見立てて、水平方向・垂直方向に1/2画素分、斜め方向に√2/2画素分のシフトを与えて画素ずらしをした場合、次のような問題が生じていた。すなわち、図15(C)に示したように同じ波長領域の画素が密集した不均等な疑似高解像度化が実施され、高画質な画像を得ることができないものであった。また、水平方向、垂直方向、斜め方向へ画素ずらしを行う際には時系列に平行平板状の透明部材の角度を設定する必要があり、動きがある被写体や、動画に対応できないものであった。
特許文献2では、基板上の異なる位置に配置された第1の撮像装置と第2の撮像装置と
に視差を与えることにより撮影画像にサブピクセルのオフセットを与えるものであり、各撮像光学系を撮像素子の画素周期に対して位相差を与えるものではない。特許文献2の撮像装置は視差が大きいため、撮影距離に応じて各撮像装置における各画素の配列が変化してしまう問題が生じる。撮像素子の有効領域内に写る被写体が同じ距離にあるとは限らない。そのため、超解像処理を実施するためには、まず各撮像装置の各画素における視差を検出し、次に各画素の視差に基づいて画素を再配列する必要があった。各画素の視差を検出することは非常に計算量が多く、計算時間もかかり、また正確性も低く、高解像度画像を生成することが困難な点が問題となっていた。
そこで本発明では、複数枚の撮影画像から高解像度な再構成画像を取得する撮像装置において、動きがある被写体や動画に対応可能な技術を提供することを目的とする。
上記の課題を解決するために、本発明の一態様に係る撮像装置は、
2次元的に配列される複数の撮像光学系と、
前記複数の撮像光学系にそれぞれ対応する複数の撮像領域を有する撮像素子と、
を備え、
前記複数の撮像光学系の少なくとも一部は、他の撮像光学系とは異なる偏心量で配置されている、
ことを特徴とする。
本発明の効果を用いれば、動きがある被写体や動画であっても、高解像度な画像を取得可能な撮像装置を提供できる。
実施形態1の撮像装置の構成を模式的に示す図。 実施形態1の撮像光学系および撮像素子の断面図。 実施形態1の撮像光学系の偏心と画素の撮像範囲を説明する図。 実施形態1の各画素の撮像範囲(担当画角)と再構成処理を説明する図。 実施形態1の撮像装置と画像処理装置を模式的に示す図。 実施形態1の画像処理装置における画像処理フローのフローチャート。 実施形態1の鮮鋭化フィルターを説明する図。 実施形態2の撮像装置の構成を模式的に示す図。 実施形態2の各画素の撮像範囲と再構成処理を説明する図。 実施形態2の各画素の撮像範囲と再構成処理を説明する図。 実施形態4の撮像装置の構成を模式的に示す図。 実施形態4の各画素の撮像範囲と再構成処理を説明する図。 実施形態5の撮像装置の構成を模式的に示す図。 実施形態5の撮像光学系の偏心および撮像色を説明する図。 実施形態5の各画素の撮像範囲と再構成処理を説明する図。 従来技術における画素ずらしを説明する図。
<実施形態1>
[全体構成]
本発明の実施形態1に係る撮像装置について説明する。図1は本実施形態に係る撮像装置を模式的に示す図である。撮像装置1は、複数の撮像光学系が2次元的に配列されたレンズユニット11とセンサユニット12を備える。
レンズユニット11は、複数の撮像光学系から成り、本実施形態では水平方向に3個、垂直方向に3個(以降、3×3と称する)の9個の撮像光学系111〜119がレンズ基板110に一体化されて構成される。このようなレンズユニット11は、例えば、リソグロフィーのプロセスによって石英基板にレンズ面を直接加工するか、またはレプリカ技術などの成型技術によってレンズ基板上にレンズ面を形成することによって製造できる。
センサユニット12は、撮像素子120の有効部内に撮像光学系111〜119其々に対応した3×3で2次元的に配列された9個の撮像領域121〜129がある。其々の撮像領域121〜129はベイヤー配列のカラーフィルターを有する。そして、其々の撮像光学系111〜119によって結像された像が撮像領域121〜129上に形成され、撮像素子120によって撮像される。
ここで、撮像光学系111と撮像素子120上の撮像領域121とからなる撮像系を第1の個眼撮像系と称する。同様に、其々の撮像光学系112〜119とそれに対応した撮像領域122〜129とからなる撮像系を第2〜第9の個眼撮像系と称する。
[撮像光学系および撮像素子の配置]
図2(A)には本実施形態に係る撮像装置1の水平断面図を示し、図2(B)には垂直断面図を示す。
図2(A)には、図1に示したレンズユニット11のうち第4の撮像光学系114、第5の撮像光学系115、第6の撮像光学系116の光軸を含む水平断面を示している。第4の撮像光学系114は、レンズ基板110の両面に形成された2枚のレンズ1141,1142で構成された撮像光学系である。第5の撮像光学系も同様に、レンズ基板110の両面に形成された2枚のレンズ1151,1152で構成された撮像光学系である。第6の撮像光学系も同様に、レンズ基板110の両面に形成された2枚のレンズ1161,1162で構成された撮像光学系である。図示しない第1〜3、ならびに第7〜9の撮像光学系も同様の構成である。本実施形態では、各撮像光学系111〜119に用いた第1のレンズ1111〜1191同士は同じ形状を有しており、また第2のレンズ1112〜1192同士も同じ形状を有している。これにより、撮像光学系の最大画角、ディストーション、像面湾曲といった光学特性を揃えて各画素が担当する画角のピッチを揃えることができ、後述する全撮像領域の各画素に別々の画角(撮像担当範囲)を設定し易くなる利点がある。
図2(A)には、図1に示したセンサユニット12の撮像素子120のうち第4の撮像光学系114と第5の撮像光学系115と第6の撮像光学系116とに対応する撮像領域124,125,126を示す。図2(A)では、撮像領域124,125,126中の画素を模式化して表現している。本実施形態では、各撮像領域124,125,126には水平方向に640画素、垂直方向に480画素を有しているが、図2(A)中では1画素を大きく表現したために、図示されている画素数が実際よりも少ない。
図2(B)には、図1に示したレンズユニット11のうち、第2の撮像光学系112、第5の撮像光学系115、第8の撮像光学系118の光軸を含む垂直断面を示している。また、図1に示したセンサユニット12の撮像素子120のうち、第2の撮像光学系112と第5の撮像光学系115と第8の撮像光学系118とに対応する撮像領域122,125,128を示す。図2(B)中の撮像領域122,125,128も画素を模式化して表現している。
ここで、図2(A)、図2(B)と図3(A)を用いて、全撮像領域の各画素に別々の画角(撮像担当範囲)を設定する構成について説明する。
第5の撮像光学系115は、その光軸1153を撮像領域125の中央付近にある画素1251の中心に配置している。これに対して、第4の撮像光学系は、その光軸1143を撮像領域124の中心付近にある画素1241の中心から偏心量Dsx4=−2/3画素ずらして配置している。また、第6の撮像光学系は、その光軸1163を撮像領域126の中心付近にある画素1261の中心から偏心量Dsx6=+2/3画素ずらして配置している。本実施形態の撮像素子120における画素ピッチはP=1.1μmである。
従って実際の偏心量は、第4の撮像光学系114の水平方向の偏心量Dsx4=−0.7
3μm、第6の撮像光学系116の水平方向の偏心量Dsx6=+0.73μmである。
尚、図2(A)の紙面上側をプラス、下側をマイナスの符号で表現している。
ここで、「偏心」について補足する。撮像光学系の光軸が、当該撮像光学系に対応する撮像領域内の特定の画素(基準画素)の中心と一致するとき、この撮像光学系は偏心していないと表現される。撮像光学系の光軸と基準画素の中心がずれる場合、この撮像光学系は偏心していると表現される。偏心量は、光軸と垂直な平面内で定義され、向きと大きさを持つベクトル量である。また、撮像光学系の光軸を基準画素の中心からずらして配置することを、撮像光学系を偏心させる、あるいは偏心して配置すると表現する。上述の基準画素は、撮像領域内の特定の位置(典型的には中心またはその付近)に位置する画素である。本開示では、2つの撮像光学系のあいだの相対的な偏心量あるいは偏心量の差を扱う場合がある。偏心量の定義から明らかなように、相対的な偏心量あるいは偏心量の差もベクトル量である。
なお、撮像光学系の配置は、撮像素子の画素ピッチに対する位相を用いても特定できる。2つの撮像光学系が同じ位相で配置されているということは、2つの撮像光学系の光軸が対応する基準画素の中心から同じ量だけ離れた状態で配置されていることを意味する。また、2つの撮像光学系の異なる位相で配置されているということは、2つの撮像光学系の光軸が対応する基準画素の中心から異なる量だけ離れた状態で配置されていることを意味する。
本実施形態では、第4の撮像光学系114ならびに第6の撮像光学系116は、中央に配置した第5の撮像光学系115に近づく方向に偏心させている。各撮像光学系は、基準撮像光学系との偏心量が互いに異なれば、効果を十分に発揮することができる。そのため、各撮像光学系は基準撮像光学系に近づく方向に偏心させても、遠ざかる方向に偏心させても良い。
垂直方向においても、第5の撮像光学系115は、その光軸1153を撮像領域125の中央付近にある画素1251の中心に配置している。第2の撮像光学系112は、その光軸1123を撮像領域122の中心付近にある画素1221の中心から偏心量Dsy2=−2/3画素ずらして配置している。また、第8の撮像光学系は、その光軸1183を撮像領域128の中心付近にある画素1281の中心から偏心量Dsy8=+2/3画素ずらして配置している。
また、撮像素子120における垂直方向の画素ピッチもP=1.1μmである。従っ
て実際の偏心量は、第2の撮像光学系112の垂直方向の偏心量Dsy2=−0.73μ
m、第8の撮像光学系118の垂直方向の偏心量Dsy8=+0.73μmである。尚、
図2(B)の紙面上側をプラス、下側をマイナスの符号で表現しており、第2の撮像光学系112ならびに第8の撮像光学系118は、中央に配置した第5の撮像光学系115に近づく方向に偏心させている。
従来技術に係る画素ずらしでは、撮像素子を時系列にサブ画素単位でシフトさせて複数の画像を取得しているのに対し、本実施形態では、各撮像光学系の偏心量を異ならせて複
数の画像を同時に取得する。本実施形態は、複数の画像をワンショットで取得するので、動きの速い被写体を撮影する場合や動画像を撮影する場合にも適用できる。本実施形態の場合、各画素に与えた画角は撮影距離(撮像光学系から被写体までの距離)に依らず一定である。そのため、撮影距離に依らず再構成画像の画素配列も一定とすることができる。なお、各撮像光学系がそれぞれ異なる位置に配置され、各撮像光学系間に物理的な間隔が存在する場合は視差の影響が発生する。視差の存在により、撮影距離に依存して再構成画像の画素配列が変化する影響を受ける。しかしながら、本実施形態に係る撮像装置では各撮像光学系の間隔を約1mmと非常に狭い間隔に設定されているため、視差の影響を殆ど受
けることが無い。これにより、本実施形態に係る撮像装置では、再構成画像の画質が撮影距離に依らず良好となる。また、各撮像光学系を基準撮像光学系に近づく方向にシフトさせることによって、少しでも視差の影響を軽減することができる。
図3(A)には本実施形態の撮像装置のレンズユニットにおける各撮像光学系の偏心の様子を示す。また、各撮像光学系の偏心量を表1に示した。
Figure 2019029913
図3(A)中のレンズユニット11にはレンズ基板11に各撮像光学系111〜119が3×3の配列で配置されている。図3(A)中の点線の交点は、各撮像光学系111〜119を偏心がない状態で配置したときの光軸の位置を示しており、実線の交点は偏心後の各撮像光学系の光軸の位置を示している。また、図3(A)中の矢印は各撮像光学系の偏心方向を示している。
本実施形態の撮像装置では、3×3の配列の中央に第5の撮像光学系115を配置しており、第5の撮像光学系115は偏心無し(偏心量ゼロ)、すなわち撮像光学系の光軸を画素中心に配置している。本実施形態では3×3の配列の中央に第5の撮像光学系115を基準撮像光学系としている。図2(A)で説明した様に、第4の撮像光学系114や第6の撮像光学系116は水平方向のみに偏心させており、基準撮像光学系115に近づく方向へ偏心させている。図2(B)で説明した様に、第2の撮像光学系112や第8の撮像光学系118は垂直方向のみに偏心させており、基準撮像光学系115に近づく方向へ偏心させている。
残りの4つの撮像光学系111,113,117,119は、水平方向、垂直方向ともに偏心させており、基準撮像光学系115に近づく方向へ偏心させている。
第1の撮像光学系111は水平方向の偏心量Dsx1=−2/3画素、垂直方向の偏心量Dsy1=−2/3画素に設定している。第3の撮像光学系113は水平方向の偏心量Dsx3=+2/3画素、垂直方向の偏心量Dsy3=−2/3画素に設定している。第7
の撮像光学系117は水平方向の偏心量Dsx7=−2/3画素、垂直方向の偏心量Dsy7=+2/3画素に設定している。第9の撮像光学系119は水平方向の偏心量Dsx
=+2/3画素、垂直方向の偏心量Dsy9=+2/3画素に設定している。本実施形
態の撮像装置では、全ての撮像光学系111〜119において、撮像素子の画素に対して
其々異なる偏心量を与えている。このように、2次元的に配列した複数の撮像光学系に異なる偏心量を与えることによって、全撮像領域の各画素に別々の画角(撮像担当領域)を設定することができる。
本実施形態の撮像装置では、3×3の2次元配列した複数の撮像光学系に其々異なる偏心量を与え、水平方向および垂直方向の偏心量を其々0画素、+2/3画素、−2/3画素のいずれかに設定している。これにより、全撮像領域の各画素に別々の画角(撮像領域)を設定している。本実施形態では偏心量の水平方向および垂直方向成分を0画素、+2/3画素、−2/3画素のいずれかとしたが、これに限ったものでは無く、基準撮像光学系に対する各撮像光学系の偏心量の各成分が0画素、+2/3画素、−2/3画素であればよい。従って、いずれかの撮像光学系の光軸を画素中心に配置する必要はなく、基準撮像光学系に対する相対的な偏心量が上記であればよい。換言すると、基準撮像光学系が対応する撮像領域の基準画素の中心から(Dx画素,Dy画素)だけ偏心しているときに、その他の基準撮像光学系は(Dx+2i/3画素,Dy+2j/3画素)だけ偏心するように配置すればよい。ここで、i=−1,0,+1のいずれか、j=−1,0,+1のいずれかであり(ただし、i=j=0を除く)、かつ、各撮像光学系においてi,jの組み合わせが異なる。
撮像素子の各撮像領域の各画素に備えたカラーフィルターはベイヤー配列とした。
このように構成することにより、複数の撮像領域における各画素に、其々が異なる撮像範囲を担当させることができる。また、複数の撮像領域における全ての画素を撮影範囲の順に再配列した際に各画素が備えるカラーフィルターの配列がベイヤー配列に構成することができる。
図4(B)に画素に設定した撮影範囲の説明図、図4(C)には撮像光学系の偏心と撮影範囲の関係の説明図を示す。
図4(B)中の1001は撮像光学系、1002は撮像素子、1003は撮像光学系の光軸である。実線1004は撮像素子1002の画素1005の中心へ結像する光束の主光線であり、主光線1004が光軸1003と成す角度が、画素1005に設定した中心画角θxである。2点鎖線1006は、画素1005の端に結像する光束の主光線であり、上端、下端其々に存在し、其々に異なる角度を有する。画素1005に設定した画角(撮影範囲)とは、画角θxを中心とした画素の両端の画角の範囲であるが、ここでは代表して画角θxと称する。
図4(C)中の1001〜1005は図4(B)と同じである。実線は撮像光学系の偏心が無しの状態であり、点線は撮像光学系が+Dsx偏心した状態、1点鎖線は撮像光学系が−Dsx偏心した状態を示す。画素1005の画角は、撮像光学系の偏心が無い状態(実線)ではθである。これに対して、撮像光学系が+Dsx偏心した状態(点線)では画角はθxpに、撮像光学系が−Dsx偏心した状態(1点鎖線)では画角はθxmに、それぞれ変化する。画角の変化分は、前者がθ−θxp、後者がθ−θxmであり、これを利用して、複数の撮像光学系を適切な量だけ偏心させることで、全撮像領域の各画素に所望の別々の画角(撮像範囲)を設定することができる。
[再構成方法]
次に、各個眼撮像系で取得した個眼画像から、多画素で高解像度な画像へ再構成する方法について図4(A)〜図4(G)を用いて説明する。
図4(A)にはRGGBのベイヤー配列の説明図である。本実施形態の撮像素子120
の各画素には赤色(R)、緑色(G)、青色(B)の3つのチャンネルのカラーフィルターがベイヤー配列で配置されている。各撮像領域121〜129は同様に、図4(A)に示したRGGBのベイヤー配列としている。
図4(B)には図4(A)の各画素の担当する画角を示す。図3(B)で示したように、1つの画素は画素の一端から他端までの画角を担当し、画素の中心における画角を注目画素の中心画角と称している。点線で示したように各画素の画角を3×3分割し、中心画角を黒で塗りつぶして表示している。また、カラーフィルターの記号(R,G,B)を表示している。撮像光学系の光軸が画素の中心にある時は、図3(C)に示すように、中心画角に変動はない。しかし、撮像光学系の光軸が画素の中心から偏心すると、偏心量に応じて中心画角も変化する。
各撮像領域の各画素における画角について、図4(C)〜図4(G)を用いて説明する。
図4(C)は、撮像領域の中央付近の4×4画素分の画角と中心画角を表現している。各撮像領域は640×480画素で構成されるので、図示した画素の周囲にも画素があることに留意されたい。図4(C)中の実線の枠が各画素の担当する画角であり、黒塗りした枠が各画素の中心画角であって、その中の文字でカラーフィルターのチャンネルをR・G・Bで表現している。図4(C)中の画角は本実施形態の構成では、3×3の2次元配列の中心に配置した第5の撮像光学系115を有する第5の個眼撮像系における各画素の担当する画角を表現したものである。
図4(D)には、図4(C)に示した画角と、図4(C)から撮像光学系が2/3画素右に偏心した状態の画角とを重ねて示した。本実施形態の撮像装置の構成では、第5の個眼撮像系と第4の撮像光学系114を有する第4の個眼撮像系の画角を表現したものである。つまり、第4と第5の個眼撮像系の撮像領域の各画素は、全撮像領域のうちの一部の画角を飛び飛びに担当した構成となることが分かる。
図4(E)には、図4(D)に示した画角と、図4(C)から撮像光学系が2/3画素左に偏心した状態の画角とを重ねて示した。本実施形態の撮像装置の構成では、第4の個眼撮像系と第5の個眼撮像系、及び第6の撮像光学系116を有する第6の個眼撮像系の画角を表現したものである。
図4(F)には、図4(E)の画角と、図4(E)の状態から撮像光学系が2/3画素下に偏心した状態の画角とを重ねて示した。本実施形態の撮像装置の構成では、第4〜第6の個眼撮像系と、第1〜第3の撮像光学系111〜113を有する第1〜第3の個眼撮像系の画角を表現したものである。
図4(G)には、図4(F)の画角と、図4(E)の状態から撮像光学系が2/3画素上に偏心した状態の画角とを重ねて示した。本実施形態の撮像装置の構成では、第1〜第6の個眼撮像系と、第7〜第9の撮像光学系117〜119を有する第7〜第9の個眼撮像系の画角を表現したものである。即ち、各個眼撮像系の撮像領域の各画素で、全撮像領域のほぼ全ての画角を構成することができる。
以上のように、3×3の2次元配列した複数の撮像光学系に其々異なる偏心量を付与して配置したことにより、全撮像領域の各画素に別々の画角を設定している。また、水平方向、垂直方向に与える偏心量を0画素、+2/3画素、−2/3画素のいずれかに設定し、個眼撮像系の画素のカラーフィルターをベイヤー配列とすることで、図4(G)に示したように、全撮像領域の画角をベイヤー配列に配置できる。すなわち、全撮像領域の各画
素を画角に応じて再配列した再構成画像における画素のカラーフィルターをベイヤー配列に設定することができる。
この再構成画像を既知のデモザイク処理によって、画素の総数を減らすこと無く多画素で高解像なカラー画像を取得することができる。これによって、全撮像領域の画素数とほぼ同数の画像を取得することが可能となる。
このように、2次元的に配列した複数の撮像光学系の其々の撮像光学系に異なる偏心量を与えることによって、全撮像領域の各画素に別々の画角(撮像範囲)を設定できる。さらに、隣り合う画角でチャンネルを異ならせることで、再構成したときにベイヤー配列の画像が得られるため、多画素で高解像度な画像を取得可能な撮像装置を提供することができる。
図5は、本実施形態の撮像装置で撮影した画像を用いて多画素で高解像度な画像を生成可能な画像処理装置を示す。画像処理装置2は、記憶部21、画像再構成処理部22、デモザイク処理部23、鮮鋭化処理部24を有し、例えば、本実施形態の撮像装置1に接続して使用する装置である。本実施形態では、画像処理装置2を撮像装置1と一体化して画像処理後の画像をリアルタイムに表示可能としているが、撮像装置1と画像処理装置2を分離して、撮影後に図6の処理を実行してもよい。
図6は、図5の画像処理装置における多画素・高解像画像生成の処理フローを示す。以下、図5と図6を用いて、複数の撮像光学系で取得した画像から多画素で高解像度な画像を生成する工程について説明する。
画像処理装置2は、撮像装置1の撮像素子120で取得した画像データを取得して、記憶部21に一旦格納する。図6に示すように撮像装置1の撮像素子120で取得した画像は、各撮像光学系で取得した画像を1枚の画像中に領域分割して配置した画像である。
画像再構成処理部22は、この撮像光学系毎に領域分割された撮影画像(データD1)を記憶部21から読み出し、画像再構成処理(ステップS1)を実行する。画像再構成処理(ステップS1)は、撮像光学系毎に領域分割された撮影画像(データD1)を各画素の画角に応じて、画素を再配列する処理である。この画像再構成処理(ステップS1)は図4(C)〜図4(G)に示した再構成処理を実施するものである。画像再構成処理部22は、複数の撮像光学系に設定された位相に応じて各撮像領域の画素群を水平方向、垂直方向に其々0画素、+2/3画素、−2/3画素のいずれかの画素ずらし量で再配列することにより再構成画像(データD2)を生成する。
ここで生成された再構成画像は各撮像光学系の撮像領域の画素の約3×3(=9)倍の画素数を有した多画素画像となり、各画素は夫々別々の画角に設定されているため被写体の詳細な情報を有しており解像度も向上する。また、3×3の2次元配列の撮像光学系で各撮像光学系に対応する撮像領域の各画素のカラーフィルターの配列をベイヤー配列とし、上記の画素ずらしを行うと、再構成画像は各画素のカラーフィルターの配列もベイヤー配列にできる。これにより、次に続くデモザイク処理が実行可能となり、全撮像領域とほぼ同数の多画素で高解像度なカラー画像を取得することができる。
デモザイク処理部23では、画像再構成処理(ステップS1)で生成した再構成画像(データD2)をカラーフィルターの配列に従って既知の方法でデモザイク処理(ステップS2)し、周囲の画素から他の2つのチャンネルの画素を生成する。これにより、画素数を減少させること無く、多画素高解像カラー画像(データD3)を生成できる。既知のデモザイク処理として、例えば非特許文献1に記載された手法がある。
鮮鋭化処理部24は、デモザイク処理(ステップS2)後の画像に対して、鮮鋭化処理(ステップS3)を実行する。鮮鋭化処理部24は、例えば図7(A)に示すようなアンシャープネスマスク等のフィルター処理を行い、エッジ強調を掛けて画像を鮮鋭化する。鮮鋭化処理部24は、図7(A)に示すフィルターの代わりに、図7(B)で表されるアンシャープネスフィルターを用いてもよい。なお、図7(B)におけるa,b,kは任意の正整数である。
再構成前の個々の画像は、1画素が担当する画角が広いので被写体の広い範囲の情報が1画素の中に混在する。再構成画像(データD2)においても1画素が担当する画角は広いままであるが、再配列したことにより注目画素の周囲には画素ずらしにより中心画角を1/3画素変化させた画素が配置されている。周囲の画素の1/3画素分は注目画素と異なる被写体情報を含んでおり解像度が向上する要因となるが、2/3画素分は注目画素と画角が重複しており、注目画素の被写体情報が周囲の画素に広がった状況になる。そのため、多画素高解像カラー画像(データD3)において鮮鋭化処理(ステップS3)を実施することにより、周囲の画素に広がった被写体情報を注目画素に戻すことができる。これにより、被写体の詳細な情報を再現した高解像度な画像を提供することができ、多画素超高解像度カラー画像(データD4)を生成することができる。
本実施形態の撮像装置では、各撮像領域の画素数は640×480画素であり、全撮像領域では1920×1440画素である。再構成画像(データD2)、多画素高解像カラー画像(データD3)、ならびに多画素超高解像度カラー画像(データD4)は、1920×1440画素で生成可能であり、全撮像領域の画素数と同数でかつ高解像なカラー画像を取得可能である。これは、個眼撮像系の画素と比較して3×3倍の多画素化と高解像度化を実現するものである。
[本実施形態の有利な効果]
本実施形態に係る撮像装置によれば、多画素で高解像度なカラー画像を取得することができる。一般的な画素ずらしでは、撮像素子やレンズを移動させて異なるタイミングで複数の画像を撮影するため、動画像や動きの速い被写体の静止画像を撮影することができない。それに対して、本実施形態の撮像装置は、2次元配列した複数の画像で被写体を同時に撮影することができるので、動画を多画素で高解像度なカラー画像にすることも可能である。
撮像素子120の全撮像領域を1つの撮像光学系で撮影する場合と比較すると、本実施形態は、複数の撮像光学系で撮像領域を分割した分だけ撮像光学系が薄くなり、撮像装置の薄型化が図れるメリットがある。
また、本実施形態のレンズユニット11は、レンズ基板110上に全ての撮像光学系111〜119を形成して一体化している。これにより、各撮像素子の2次元的な配置の精度を高められるので、画素ピッチに対する位相差を高精度に位置決めすることが可能となる。例えば、リソグロフィーのプロセスによって石英基板にレンズ面を直接加工したり、またはレプリカ技術などの成型技術によってレンズ基板上にレンズ面を形成したりできる。これにより、画素ピッチが3μm以下の微小ピッチな撮像素子を用いた場合においても、2/3画素、すなわち2μmの位相差を高精度に設定することが可能となる。このように、2次元的に配列した複数の撮像光学系を一体化することにより、画素ピッチが微小な撮像素子を使用することができる。そして、画素ピッチが微小になると各撮像素子の間隔も狭められるため視差の影響が軽減さる。そのため、被写体の距離による再構成画像誤差を軽減して常に高品な画像が得られる撮像装置提供することができる。
<実施形態2>
実施形態2に係る撮像装置について説明する。本実施形態と実施形態1との相違点は、レンズユニット11に備える撮像光学系の数を変更した点と、それに伴ってセンサユニット12の撮像素子120上の撮像領域を撮像光学系と同数設けた点である。図8(A)は本実施形態に係る撮像装置を模式的に示す図である。
本実施形態の撮像装置1は、実施形態1の撮像装置と同様にレンズユニット11とセンサユニット12を備える。本実施形態のレンズユニット11は5×5の2次元配列で撮像光学系を配置した複眼レンズユニットとしている。また、センサユニット12の撮像素子120上には各撮像光学系に対応した5×5の2次元配列した撮像領域を設けている。これにより、各撮像光学系を介して撮影した被写体の像を各撮像領域に結像し、撮像素子120で撮影画像を取得する。そのうちの1つの撮像光学系と撮像素子のそれに対応した1つの撮像領域との組み合わせを個眼撮像系とし、撮像素子120が取得した画像には5×5個の個眼撮像系が取得した5×5個の個眼画像が配置される。
図8(B)には、実施形態2におけるレンズユニットを示す。レンズユニット11は5×5の2次元配列で同一形状の第1から第25の撮像光学系1101〜1125をレンズ基板110上に一体化して配置した複眼レンズユニットであり、その中心には第13の撮像光学系1113が配置される。
本実施形態では、第13の撮像光学系1113の光軸を撮像素子120の画素の中心に配置し、その他の撮像光学系1101〜1112,1114〜1125については光軸が画素の中心から偏心させて配置している。
図8(B)中の矢印は各撮像光学系の偏心の様子を表す。図8(B)中の点線の交点は、各撮像光学系1101〜1125が偏心がない状態で配置したときの光軸の位置を示しており、実線の交点は偏心後の各撮像光学系の光軸の位置を示している。また、表2に各撮像光学系の偏心量を示す。
Figure 2019029913
撮像光学系1101〜1112,1114〜1125には互いに異なる偏心量(画素ピッチに対する位相)が与えられており、水平方向および垂直方向に、0画素、±2/5画素、±4/5画素のいずれかの値に設定している。図中の矢印は偏心方向を示しており、各撮像光学系1101〜1112,1114〜1125は水平方向、垂直方向ともに第13の撮像光学系1113に近づく方向に偏心させている。このように構成することにより、複数の撮像領域における各画素に、其々が異なる撮像範囲を担当させることができる。
次に、各撮像領域の撮像素子で取得した個眼画像から、多画素で高解像度なカラー画像へ再構成する方法について図9(A)〜図9(K)を用いて説明する。
図9(A)にはRGGBのベイヤー配列の説明図、図9(B)には各画素の中心を示す図、図9(C)には各撮像領域の画素配列の説明図、図9(D)〜図9(G)には各撮像領域の各画素を画角に応じて再配列した再構成画像を示す。
本実施形態の撮像素子120の各画素には赤色(R)、緑色(G)、青色(B)の3つのチャンネルのカラーフィルターがベイヤー配列で配置してあり、各撮像領域は同様に図9(A)に示したRGGBのベイヤー配列としている。
図9(B)には図9(A)の画素の中心画角を示す。図3(B)で示したように、1つの画素は画素の一端から他端までの画角を担当し、画素の中心における画角を注目画素の中心画角と称している。点線で示したように各画素の画角を5×5分割し、中心画角を黒で塗りつぶして表示している。また、カラーフィルターの記号(R,G,B)を表示している。撮像光学系の光軸が画素の中心にある時は、図3(C)に示すように、中心画角に変動はない。しかし、撮像光学系の光軸が画素の中心から偏心すると、偏心量に応じて中心画角も変化する。
各撮像領域の各画素における画角について、図9(C)〜図9(G)を用いて説明する。
図9(C)には、撮像領域の中央付近の4×4画素分の画角と中心画角を表現している。各撮像領域は400×300画素で構成されるので、図示した画素の周囲にも画素があることに留意されたい。図9(C)中の実線の枠が各画素の担当する画角であり、黒塗りした枠が各画素の中心画角であって、その中の文字でカラーフィルターのチャンネルをR・G・Bで表現している。図9(C)中の画角は本実施形態の構成では、5×5の2次元配列の中心に配置した第13の撮像光学系1113を有する第13の個眼撮像系における各画素の担当する画角を表現したものである。
図9(D)には、図9(C)に示した画角と、図9(C)から撮像光学系が2/5画素右に偏心した状態の画角を重ねて示した。本実施形態の撮像装置の構成では、第13の個眼撮像系と第12の撮像光学系1112を有する第12の個眼撮像系の画角を表現したものである。
図9(E)には、図9(D)に示した画角と、図9(C)から撮像光学系が4/5画素右に偏心した状態の画角とを重ねて示した。本実施形態の撮像装置の構成では、第12の個眼撮像系と第13の個眼撮像系、及び第11の撮像光学系1111を有する第11の個眼撮像系との画角を表現したものである。
図9(F)には、図9(E)の画角と、図4(C)の状態から撮像光学系が2/5画素左に偏心した状態の画角とを重ねて示した。本実施形態の撮像装置の構成では、第11の個眼撮像系、第12の個眼撮像系、第13の個眼撮像系、及び第14の撮像光学系1114を有する第14の個眼撮像系の画角を表現したものである。
図9(G)には、図9(F)の画角と、図4(C)の状態から撮像光学系が4/5画素左に偏心した状態の画角とを重ねて示した。本実施形態の撮像装置の構成では、第11の個眼撮像系、第12の個眼撮像系、第13の個眼撮像系、第14の個眼撮像系、及び第15の撮像光学系1115を有する第15の個眼撮像系の画角を表現したものである。
図9(H)には、図9(G)の画角と、図9(G)の状態から撮像光学系が2/5画素下に偏心した状態の画角とを重ねて示した。本実施形態の撮像装置の構成では、第11〜第15の個眼撮像系と、第6〜第10の撮像光学系1106〜1110を有する第6〜第
10の個眼撮像系の画角を表現したものである。
図9(I)には、図9(H)の画角と、図9(G)の状態から撮像光学系が4/5画素下に偏心した状態の画角とを重ねて示した。本実施形態の撮像装置の構成では、第6〜第15の個眼撮像系と、第1〜第5の撮像光学系1101〜1105を有する第1〜第5の個眼撮像系の画角を表現したものである。
図9(J)には、図9(I)の画角と、図9(G)の状態から撮像光学系が2/5画素上に偏心した状態の画角とを重ねて示した。本実施形態の撮像装置の構成では、第1〜第15の個眼撮像系と、第16〜第20の撮像光学系1116〜1120を有する第16〜第20の個眼撮像系の画角を表現したものである。
図9(K)には、図9(J)の画角と、図9(G)の状態から撮像光学系が4/5画素上に偏心した状態の画角とを重ねて示した。本実施形態の撮像装置の構成では、第1〜第20の個眼撮像系と、第21〜第25の撮像光学系1121〜1125を有する第21〜第25の個眼撮像系の画角を表現したものである。
以上のように、5×5の2次元配列した複数の撮像光学系に其々異なる偏心量を付与して配置したことにより、全撮像領域の各画素に別々の画角(撮像範囲)を設定している。本実施形態では水平方向、垂直方向に与える偏心量を0画素、±2/5画素、±4/5画素のいずれかに設定したので、隣り合う画角を等間隔に配置することができ、被写体の情報を詳細かつ均等に取得することができる。また、図9(K)に示したように、撮像素子をRGGBのベイヤー配列に構成していることから、各撮像領域の画素を画角に応じて再配列した再構成画像はRGGBベイヤー配列で構成することができる。従って、再構成画像をデモザイク処理することにより、多画素で高解像度なカラー画像を生成することができる。更には、デモザイク処理した再構成画像を鮮鋭化処理によって多画素で超高解像なカラー画像を生成することができる。デモザイク処理および鮮鋭化処理は、実施形態1と同様であるので説明を省略する。
本実施形態の撮像装置においては、各撮像領域の画素数は400×300画素であり、全撮像領域では2000×1500画素である。再構成画像(データD2)、多画素高解像カラー画像(データD3)、ならびに多画素超高解像度カラー画像(データD4)は、2000×1500画素で生成可能であり、全撮像領域の画素数と同数でかつ高解像なカラー画像を取得可能である。これは、個眼撮像系の画素と比較して5×5倍の多画素化と高解像度化を実現するものである。通常の撮像装置のように、1つの撮像光学系で全撮像領域に結像させる場合と比べて、本実施形態の撮像装置では各撮像光学系の焦点距離を1/5に縮小することができるので、レンズユニット11を薄型化でき、撮像装置の小型化に寄与できるメリットがある。
また、5×5の2次元配列した撮像光学系の中心にある撮像光学系1113は偏心させず、その他の撮像光学系は、撮像光学系1113に近づくように偏心させ、かつ、撮像光学系1113に近いほど撮像光学系1113との偏心量の差を小さく設定した。具体的には、撮像光学系1113の水平方向の隣にある撮像光学系1112,1114、及び垂直方向の隣にある撮像光学系1108,1118については其々の撮像光学系1113に対する偏心量の大きさを2/5画素と最小とした。続いて、撮像光学系1107,1109,1117,1119においては、水平方向、垂直方向ともに偏心量を2/5画素(偏心量の大きさは2√2/5画素)とした。更に、撮像光学系1103,1111,1115,1123は偏心量の大きさを4/5画素とした。また、撮像光学系1102,1104,1106,1110,1116,1120,1122,1124については、偏心量の水平方向・垂直方向どちらか一方の成分を2/5画素、他方を4/5画素とした(偏心量
の大きさは2√3/5画素)。最も撮像光学系1113から離れて配置した撮像光学系1101,1105,1121,1125については水平方向と垂直方向の両方の偏心量を4/5画素とした(偏心量の大きさは4√2/5画素)。このように設定することで、隣の撮像光学系との偏心量の差を最小限に留めることができ、高品位な再構成画像を生成することができる。
本実施形態に係る撮像装置によれば、実施形態1と同様に、多画素で高解像度なカラー画像を取得することができる。
<実施形態3>
実施形態1は3×3の撮像光学系を有し、実施形態2は5×5の撮像光学系を有する。本実施形態では、撮像光学系が奇数×奇数を有する一般的な場合を説明する。本実施形態においては、レンズユニット11は、(2M+1)×(2N+1)の2次元配列で配列された撮像光学系を有する。各撮像光学系は同一の基板上に1mm以下の間隔で配置される。また、センサユニット12の撮像素子120上には、各撮像光学系に対応した(2M+1)×(2N+1)の2次元配列した撮像領域が設けられ、画素単位でベイヤー配列のカラーフィルターが設けられる。ここで、MおよびNは0以上の整数であり、M=NであってもM≠Nであってもよい。なお、実施形態1はM=N=1の場合、実施形態2はM=N=2の場合にそれぞれ相当する。
本実施形態においては、(2M+1)×(2N+1)個の撮像光学系のそれぞれを、撮像光学系(i,j)と称する。ここで、−M≦i≦M,−N≦j≦Nである。撮像光学系(0,0)を中心として、iは水平方向位置、jは垂直方向位置を表す。例えば、撮像光学系(1,0)、(−1,0)、(0,1)、(0,−1)はそれぞれ、撮像光学系(0,0)の左側、右側、上側、下側に隣接する撮像光学系である。ただし、+x方向を左、+y方向を上としている。また、撮像光学系(−M,−N)、(−M,N),(M,−N),(M,N)はそれぞれ、右下隅、右上隅、左下隅、左上隅に位置する撮像光学系である。
本実施形態において、撮像光学系(i,j)は、その光軸が、撮像素子の基準画素の中心から水平方向に−2×i/(2M+1)画素、垂直方向に−2×j/(2N+1)画素分だけ偏心した状態で配置される。すなわち、撮像光学系(0,0)は、画素中心と光軸が一致するように配置されるのに対して、撮像光学系(i,j)はそれぞれ、撮像光学系(0,0)との距離に応じた量だけ、撮像光学系(0,0)に近づくように偏心して配置される。
このような構成により、複数の撮像領域における各画素に、それぞれが異なる撮像範囲を担当させることができ、実施形態1,2と同様の再構成処理・デモザイキング処理・鮮鋭化処理により、多画素で超高解像度なカラー画像が取得できる。
上述した撮像光学系の配置は、基準撮像光学系(0,0)の偏心量に対する相対的な各撮像光学系(i,j)の偏心量が、基準撮像光学系(0,0)の方向を向き、その大きさは基準撮像光学系(0,0)からの距離に応じた量となる配置と表現できる。なお、撮像光学系間の距離は、光軸間の距離である。なお、ここでは基準撮像光学系をレンズユニットの中心に最近接している撮像光学系(0,0)としたが、基準撮像光学系は(2M+1)×(2N+1)の撮像光学系の中から任意に選択してもよい。
上述した撮像光学系の配置は、次のように特定することもできる。すなわち、当該配置では、水平方向に隣接する撮像光学系の間の偏心量の差が水平方向に2/(2M+1)画素だけ異なっており、垂直方向に隣接する撮像光学系の間の偏心量の差が垂直方向に2/
(2N+1)画素だけ異なっている。斜め方向に隣接する撮像光学系の間の偏心量の差は、水平方向に2/(2M+1)画素かつ垂直方向に2/(2N+1)画素である。
なお、上述のように各撮像光学系を中心の撮像光学系に近づけるように偏心させることが視差の軽減という観点から効果的であるが、必ずしもこのように偏心させる必要はない。各撮像光学系の偏心量が、水平方向に−2×Km/(2M+1)画素、垂直方向に−2×Kn/(2N+1)画素(ここで、−M≦Km≦M,−N≦Kn≦N)であり、(2M+1)×(2N+1)個の撮像光学系の全てについて偏心量が異なっていればよい。上述したように本実施形態では視差が十分に小さいので、このようにしても多画素で超高解像度なカラー画像を取得できる。
上記の例では、対応する撮像領域の基準画素の中心と光軸が一致する撮像光学系(すなわち偏心量がゼロの撮像光学系)が存在するが、そのような撮像光学系は存在しなくてもよい。例えば、撮像光学系(i,j)の偏心量を、水平方向にDx−2×Km/(2M+1)画素、垂直方向にDy−2×Kn/(2N+1)画素としてもよい。ここで、Kmは−M≦Km≦Mを満たす整数であり、Knは−N≦Kn≦Nを満たす整数である。
さらに付言すると、必ずしも全ての撮像光学系の偏心量を異ならせなくてもよい。(2M+1)×(2N+1)個の撮像光学系のうちの少なくとも一部が、他の撮像光学系と異なる偏心量で配置されていればよい。ただし、(2M+1)×(2N+1)個の撮像光学系のうちの所定数個以上の撮像光学系について、偏心量が互いに異なっていることが好ましい。この所定数は、例えば、4、8、あるいは(2M+1)×(2N+1)の50%以上の最小の整数、(2M+1)×(2N+1)の80%以上の最小の整数、(2M+1)×(2N+1)の90%以上の最小の整数であってよい。例えば、全体の8/9(=88.8%)以上の撮像光学系の偏心量が互いに異なっていれば十分に解像感の高い画像が得られ、全体の23/25(=92%)以上の撮像光学系の偏心量が互いに異なっていればより解像感の高い画像が得られる。もっとも、全ての撮像光学系について、偏心量が互いに異なっている場合が、最も良い効果が得られる。
<実施形態4>
実施形態4に係る撮像装置について説明する。本実施形態と実施形態1との相違点は、レンズユニット11に備える撮像光学系の数を変更した点と、それに伴ってセンサユニット12の撮像素子120上の撮像領域を撮像光学系と同数設けた点である。図10(A)は本実施形態に係る撮像装置を模式的に示す図である。
[撮像光学系および撮像素子の配置]
本実施形態の撮像装置1は、実施形態1の撮像装置と同様にレンズユニット11とセンサユニット12を備える。本実施形態のレンズユニット11は2×2の2次元配列で撮像光学系を配置した複眼レンズユニットとしている。また、センサユニット12の撮像素子120上には各撮像光学系に対応した2×2の2次元配列した撮像領域を設けている。これにより、各撮像光学系を介して撮影した被写体の像を各撮像領域に結像し、撮像素子120で撮影画像を取得する。そのうちの1つの撮像光学系と撮像素子のそれに対応した1つの撮像領域との組み合わせを個眼撮像系とし、撮像素子120が取得した画像には各個眼撮像系が取得した2×2個の個眼画像が配置される。
図10(B)、図10(C)に、本実施形態におけるレンズユニットを示す。図10(B)を用いて、本実施形態の撮像装置における撮像光学系の配置を説明する。レンズユニット11は2×2の2次元配列で4つの撮像光学系111〜114をレンズ基板110上に一体化して配置した複眼レンズユニットである。本実施形態では、複数の撮像光学系を偶数×偶数の2次元配列で配置しており、中心の撮像光学系が存在しない。そこで、本実
施形態の撮像装置では第4の撮像光学系114を基準撮像光学系としている。尚、基準撮像光学系は第4の撮像光学系114に限られず、撮像光学系111〜114のいずれに設定してもよい。
本実施形態では、第4の撮像光学系114を偏心させずに配置し、その他の撮像光学系111〜113については偏心させて配置している。表3に各撮像光学系の偏心量を示す。
Figure 2019029913
撮像光学系111〜114には互いに異なる偏心量を与えており、その水平方向および垂直方向の成分は、0画素、−1/2画素のいずれかの値に設定されている。図10(B)中の矢印は偏心方向を示しており、各撮像光学系111〜113は第4の撮像光学系114に近づく方向に偏心されている。
また、図10(C)を用いてカラーフィルターの配置を説明する。本実施形態の撮像装置では、各撮像光学系111〜114に対応して、撮像素子12の撮像領域121〜124が定義される。1つの撮像領域内の各画素は同種類のカラーフィルターを用いており、かつ、隣り合う撮像領域とは異なる種類のカラーフィルターを用いている。具体的には、第1の撮像光学系111に対応する撮像領域121の各画素は青色(B)のカラーフィルターを有する。同様に、第2の撮像光学系112および第3の撮像光学系113に対応する撮像領域122,123の各画素は緑色(G)のカラーフィルターを有する。第4の撮像光学系114に対応する撮像領域124の各画素は赤色(R)のカラーフィルターを有する。
本実施形態の撮像光学系111〜114は、各光学系が担当するカラーフィルターのスペクトルにおいて、光学性能が最も高くなるように構成されている。具体的には、第1の撮像光学系111は青色(B)チャンネルに含まれるスペクトルにおいて、軸上色収差や倍率色収差を良好に補正している。更には、撮像光学系に回折面を用いており、青色(B)チャンネルに含まれるスペクトルにおいて回折面の回折効率を最大化している。同様に、第2の撮像光学系112及び第3の撮像光学系113は緑色(G)チャンネル、第4の撮像光学系114は赤色(R)チャンネルに含まれるスペクトルにおいて、軸上色収差や倍率色収差を良好に補正し、回折効率を最大化している。
上記のように、複数の撮像光学系を互いに異なる偏心量で配置することで、複数の撮像領域における全ての画素が担当する画角(撮像範囲)を異ならせることができる。さらに、撮像領域単位でカラーフィルターをベイヤー配列とすることで、特許文献1(図15(A)〜15(C))の場合とは異なり、各画素を画角に応じて再配列する再構成処理によってベイヤー配列の高解像度化画像が得られる。詳細は、再構成処理の説明において説明する。また、各撮像光学系は担当するカラーフィルターのスペクトル(波長)において光学性能が高くなるように構成されている。したがって、全てのチャンネルに含まれるスペクトルに対して色収差補正や回折効率を向上させた光学系と比べて単純な構成の光学系によって、必要な光学性能を発揮することが可能である。
[再構成処理]
次に、各個眼撮像系で取得した個眼画像から、多画素で高解像度な画像へ再構成する方法について図11(A)〜図11(G)を用いて説明する。
図11(A)には、撮像素子120上の各撮像領域に配置されるカラーフィルターが示される。本実施形態では、撮像領域124の各画素は赤色(R)のカラーフィルターを有し、撮像領域122,123の各画素は緑色(G)のカラーフィルターを有し、撮像領域121の各画素は青色(B)のカラーフィルターを有する。
図11(B)には図11(A)の画素の担当する画角を示す。図3(B)で示したように、1つの画素は画素の一端から他端までの画角を担当し、画素の中心における画角を注目画素の中心画角と称している。点線で示したように各画素の担当する画角を2×2分割し、左上の画角を黒で塗りつぶしてカラーフィルターの記号を表示している。図3(C)に示したように、撮像光学系の光軸が画素の中心にある時は中心画角に変動はないが、撮像光学系の光軸が画素の中心から偏心すると、偏心量に応じて中心画角も変化する。
各撮像領域の各画素における画角について、図11(C)〜図11(F)を用いて説明する。図11(C)、図11(D)、図11(E)、図11(F)には、撮像領域の中央付近の4×4画素分の画角と中心画角を表現している。図11(C)〜(E)の各個眼撮像系の撮像領域は1920×1080画素で構成されるので、図示した画素の周囲にも画素があることに留意されたい。図11(C)〜11(F)中の実線の枠が各画素の担当する画角であり、黒塗りした枠が各画素の中心画角であって、その中の文字でカラーフィルターのチャンネルをR・G・Bで表現した。
図11(C)には第4の撮像光学系114と第4の撮像領域124を含む第4の個眼撮像系の画角を示す。第4の撮像光学系114は光軸を画素中心に配置したため、画角の移動がない。図11(D)には第3の撮像光学系113と第3の撮像領域123を含む第3の個眼撮像系の画角を示す。第3の撮像光学系113は、水平方向のみに−1/2画素偏心させたので、各画素の担当する画角が1/2画素に相当する角度だけ右に移動する。1画素分の画角を2×2分割する点線が示されており、1個分シフトした形となる。図11(E)には第2の撮像光学系112と第2の撮像領域122を含む第2の個眼撮像系の画角を示す。第2の撮像光学系112は、垂直方向のみに−1/2画素偏心させたので、各画素の担当する画角が1/2画素に相当する角度だけ下に移動する。図11(F)には第1の撮像光学系111と第1の撮像領域121を含む第1の個眼撮像系の画角を示す。
図11(G)には、図11(C)〜図11(F)の画角を重ね合わせた示したものであり、本実施形態の撮像装置における全ての眼撮像系の画角を表現したものである。
以上のように、2×2の2次元配列した複数の撮像光学系に対して其々異なる偏心量を付与して配置したことにより、全撮像領域の各画素に別々の画角(撮像範囲)を設定している。各個眼撮像系に与える水平方向、垂直方向の偏心量を0画素、−1/2画素のいずれかに設定している。また、個眼撮像系内では同一のカラーフィルターを用い、個眼撮像系毎にカラーフィルターを異ならせている。これらの構成により、各撮像領域から得られる画像から得られる再構成画像の画素をベイヤー配列とすることができる。各撮像領域の画素をベイヤー配列とすると、再構成画像は図15(C)に示すように同じ色の画素が密集した不均等な疑似高解像度化がされ色むらや偽色が発生してしまう。これに対して、本実施形態であれば再構成画像がベイヤー配列なるため色むらや偽色の発生を抑制した、高画質な高解像度画像が得られる。
この再構成画像を既知のデモザイク処理によって、画素の総数を減らすこと無く多画素
で高解像なカラー画像を取得することができる。これによって、全撮像領域の画素数とほぼ同数の画像を取得することが可能となる。
このように、2次元的に配列した複数の撮像光学系に異なる偏心量を与えることによって、全撮像領域の各画素に別々の画角を設定し、隣り合う画角でチャンネルを異ならせることで、多画素で高解像度な画像を取得可能な撮像装置を提供することができる。
<実施形態5>
実施形態5に係る撮像装置について説明する。本実施形態と実施形態4との相違点は、レンズユニット11に備える撮像光学系の数を変更した点と、それに伴ってセンサユニット12の撮像素子120上の撮像領域を撮像光学系と同数設けた点である。図12は本実施形態における撮像装置を模式的に示す図である。
本実施形態の撮像装置1は、実施形態4と同様にレンズユニット11とセンサユニット12を備える。レンズユニットは4×4の2次元配列で撮像光学系を配置した複眼レンズユニットとしている。また、センサユニット12の撮像素子120上には各撮像光学系に対応した4×4の2次元配列した撮像領域を設けている。これにより、各撮像光学系を介して撮影した被写体の像を各撮像領域に結像し、撮像素子120で撮影画像を取得する。そのうちの1つの撮像光学系と撮像素子のそれに対応した1つの撮像領域との組み合わせを個眼撮像系とし、撮像素子120が取得した画像には各個眼撮像系が取得した4×4個の個眼画像が配置される。
図13(A)、図13(B)には、本実施形態におけるレンズユニットを示す。図13(A)を用いて、本実施形態の撮像装置における撮像光学系の配置を説明する。レンズユニット11は4×4の2次元配列で16個の撮像光学系1101〜1116をレンズ基板110上に一体化して配置した複眼レンズユニットである。本実施形態では、複数の撮像光学系を偶数×偶数の2次元配列で配置しており、中心の撮像光学系が存在しない。そこで、本実施形態の撮像装置では、レンズユニットの中心に最も近い第6の撮像光学系1106を基準撮像光学系としている。尚、基準撮像光学系は第6の撮像光学系1106に限られず、撮像光学系1101〜1116のいずれに設定してもよい。
本実施形態では、第6の撮像光学系1106を偏心させずに配置し、その他の撮像光学系1101〜1105,1107〜1116については偏心させて配置している。尚、基準光学系の光軸は必ずしも画素の中心にある必要はなく、基準光学系も偏心させてもよい。基準撮像光学系の偏心量との差が重要な要因の一つであるため、ここでは説明を分り易くする為に基準撮像光学系は偏心させていない。表4に各撮像光学系の偏心量を示す。
Figure 2019029913
撮像光学系1101〜1116には互いに異なる偏心量を与えており、その水平方向お
よび垂直方向の成分は、−1/4画素、0画素、+1/4画素、+2/4画素のいずれかの値に設定している。図13(A)中の矢印は偏心方向を示しており、各撮像光学系1101〜1116は第4の撮像光学系1106に近づく方向に偏心されている。
また、図13(B)を用いてカラーフィルターの配置を説明する。本実施形態の撮像装置では、各撮像光学系1101〜1116に対応して、撮像素子の撮像領域1201〜1206が定義される。1つの撮像領域内の各画素は同種類のカラーフィルターを用いており、かつ、隣り合う撮像領域とは異なる種類のカラーフィルターを用いている。具体的には、撮像光学系1101,1103,1109,1111に対応する撮像領域1201,1203,1209,12011の各画素は青色(B)のカラーフィルターを有する。撮像光学系1102,1104,1105,1107,1110,1112,1113,1115に対応する撮像領域1202,1204,1205,1207,1210,1212,1213,1215内の各画素は緑色(G)のカラーフィルターを有する。撮像光学系1106,1108,1114,1116に対応する撮像領域1206,1208,1214,1216内の各画素は赤色(R)のカラーフィルターを有する。
また、各撮像光学系が、担当するカラーフィルターのスペクトルにおいて光学性能が高くなるように構成されている点は、実施形態4と同様である。
上記のような構成によって実施形態4と同様の効果が得られる。
次に、各個眼撮像系で取得した個眼画像から、多画素で高解像度な画像へ再構成する方法について図14(A)〜図14(G)を用いて説明する。
図14(A)には第6の個眼撮像系における画角を示す。図14(A)には撮像領域の中央付近の4×4画素分の画角と中心画角を表現した。図11(A)中の実線の枠が各画素の担当する画角であり、黒塗りした枠が各画素の中心画角であって、その中の文字でカラーフィルターのチャンネルをR・G・Bで表現した。第6の個眼撮像系には赤色チャンネル(R)を設定しており、また撮像光学系1106の光軸を撮像素子の画素の中心に設定したことから、画角のシフトは発生しない。
図14(B)には、図14(A)に示した画角と第5の個眼撮像系の画角とを重ねて表示した。第5の個眼撮像系には緑色チェンネル(G)のカラーフィルターが設置してある。第5の撮像光学系1105は水平方向に−1/4画素偏心させたため、図14(A)に示した基準撮像光学系1106の個眼撮像系の画角に対して、画角は右に1/4画素分シフトし、第6の個眼撮像系の画角の横に配置される。
図14(C)には、図14(B)に示した画角と第1の個眼撮像系の画角とを重ねて表示した。第1の個眼撮像系には青色チャンネル(B)のカラーフィルターが設置してある。第1の撮像光学系1101は水平方向に−1/4画素、垂直方向に−1/4画素偏心させたため、図14(A)に示した基準撮像光学系1106の個眼撮像系の画角に対して、画角は右に1/4画素分、下に1/4画素分シフトして配置される。
図14(D)には、図14(C)に示した画角と第2の個眼撮像系の画角とを重ねて表示した。第2の個眼撮像系には緑色チャンネル(G)のカラーフィルターが設置してある。第2の撮像光学系1102は水平方向に0画素、垂直方向に−1/4画素偏心させたため、図14(A)に示した基準撮像光学系1106の個眼撮像系の画角に対して、画角は下に1/4画素分シフトして配置される。
図14(E)には、図14(D)の画角と、第3、第4、第7、第8の個眼撮像系にお
ける画角を重ねて表示している。其々の撮像光学系に与えた画素ピッチに対する位相差に応じて個眼撮像系の画角をシフトさせて配置した。
図14(F)には、図14(E)の画角と、第9〜第16の個眼撮像系における画角を重ねて表示した。全ての画素の画角が隙間なく配置され、撮像領域の全画素に其々異なる画角を設定している。また、画角に応じて画素を再配列した際には、カラーフィルターの配列がベイヤー配列になるように構成している。
以上のように、4×4の2次元配列した複数の撮像光学系に、撮像素子の画素ピッチに対して其々異なる位相を付与して配置したことにより、全撮像領域の各画素に別々の画角を設定している。また、個眼撮像系内では同一のカラーフィルターを用い、個眼撮像系毎にカラーフィルターを異ならせている。これらの構成により、各撮像領域から得られる画像から得られる再構成画像の画素をベイヤー配列とすることができる。各撮像領域の画素をベイヤー配列とすると、再構成画像は図15(C)に示すように同じ色の画素が密集した不均等な疑似高解像度化がされ色むらや偽色が発生してしまう。これに対して、本実施形態であれば再構成画像がベイヤー配列なるため色むらや偽色の発生を抑制した、高画質な高解像度画像が得られる。
この再構成画像を既知のデモザイク処理によって、画素の総数を減らすこと無く多画素で高解像なカラー画像を取得することができる。これによって、全撮像領域の画素数とほぼ同数の画像を取得することが可能となる。
このように、2次元的に配列した複数の撮像光学系に異なる偏心量を与えることによって、全撮像領域の各画素に別々の画角を設定し、隣り合う画角でチャンネルを異ならせることで、多画素で高解像度な画像を取得可能な撮像装置を提供することができる。
<実施形態6>
実施形態4は2×2の撮像光学系を有し、実施形態5は4×4の撮像光学系を有する。本実施形態では、撮像光学系が偶数×偶数を有する一般的な場合を説明する。本実施形態においては、レンズユニット11は、2M個×2N個の2次元配列で配列された撮像光学系を有する。各撮像光学系は同一の基板上に1mm以下の間隔で配置される。また、センサユニット12の撮像素子120上には、各撮像光学系に対応した2M個×2N個の2次元配列した撮像領域が設けられる。一つの撮像領域の画素には同一種類のカラーフィルターが配置され、かつ、撮像領域単位でカラーフィルターがベイヤー配列で配置される。ここで、MおよびNは1以上の整数であり、M=NであってもM≠Nであってもよい。なお、実施形態4はM=N=1の場合、実施形態5はM=N=2の場合にそれぞれ相当する。
本実施形態においては、2M×2N個の撮像光学系のそれぞれを、撮像光学系(i,j)と称する。ここで、−M+1≦i≦M,−N+1≦j≦Nである。iは水平方向位置、jは垂直方向位置を表す。例えば、撮像光学系(M,N)が左上隅の光学系であり、撮像光学系(M,N−1)、(M−1,N)、(M−1,N−1)はそれぞれ、撮像光学系(M,N)の下側、右側、右下側の撮像光学系である。ただし、+x方向を左、+y方向を上としている。また、撮像光学系(−M+1,−N+1)、(−M+1,N),(M,−N+1)はそれぞれ、右下隅、右上隅、左下隅に位置する撮像光学系である。
本実施形態において、撮像光学系(i,j)は、その光軸が、撮像素子の基準画素の中心から水平方向に−i/2M画素、垂直方向に−j/2N画素分だけ偏心した状態で配置される。すなわち、撮像光学系(0,0)は、画素中心と光軸が一致するように配置されるのに対して、撮像光学系(i,j)はそれぞれ、撮像光学系(0,0)との距離に応じた量だけ、撮像光学系(0,0)に近づくように偏心して配置される。
このような構成により、複数の撮像領域における各画素に、それぞれが異なる撮像範囲を担当させることができ、実施形態4,5と同様の再構成処理・デモザイキング処理・鮮鋭化処理により、多画素で超高解像度なカラー画像が取得できる。
上述した撮像光学系の配置は、基準撮像光学系(0,0)の偏心量に対する相対的な各撮像光学系(i,j)の偏心量が、基準撮像光学系(0,0)の方向を向き、その大きさは基準撮像光学系(0,0)からの距離に応じた量となる配置と表現できる。なお、撮像光学系間の距離は、光軸間の距離である。なお、ここでは基準撮像光学系をレンズユニットの中心に最近接している撮像光学系(撮像光学系(0,0)、(0,1)、(1,0)、(1,1))のうちの一つとしたが、基準撮像光学系は2M×2Nの撮像光学系の中から任意に選択してもよい。
上述した撮像光学系の配置は、次のように特定することもできる。すなわち、当該配置では、水平方向に隣接する撮像光学系の間の偏心量の差が水平方向に1/2M画素だけ異なっており、垂直方向に隣接する撮像光学系の間の偏心量の差が垂直方向に1/2N画素だけ異なっている。斜め方向に隣接する撮像光学系の間の偏心量の差は、水平方向に1/2M画素かつ垂直方向に1/2N画素である。
なお、上述のように各撮像光学系を互いに近づけるように偏心させることが視差の軽減という観点から効果的であるが、必ずしもこのように偏心させる必要はない。各撮像光学系の偏心量が、何れかの撮像光学系の偏心量に対して相対的に、水平方向に−Km/2M画素、垂直方向に−Kn/2N画素であり、2M×2N個の撮像光学系の全てについて偏心量が異なっていればよい。ここで、−M+1≦Km≦M,−N+Kn≦j≦Nである。上述したように本実施形態では視差が十分に小さいので、このようにしても多画素で超高解像度なカラー画像を取得できる。
上記の例では、対応する撮像領域の中心と光軸が一致する撮像光学系(すなわち偏心量がゼロの撮像光学系)が存在するが、そのような撮像光学系は存在しなくてもよい。例えば、撮像光学系(i,j)の偏心量を、水平方向にDx−Km/2M画素、垂直方向にDy−Kn/2N画素としてもよい。特に、Dx=1/2M,Dy=1/2Nとした配置では、全ての撮像光学系が、レンズユニット11の中心(複数の撮像光学系の中心)の方向に、当該中心からの距離に応じた量だけ偏心している。
さらに付言すると、必ずしも全ての撮像光学系の偏心量を異ならせなくてもよい。2M2N個の撮像光学系のうちの少なくとも一部が、他の撮像光学系と異なる偏心量で配置されていればよい。ただし、2M×2N個の撮像光学系のうちの所定数個以上の撮像光学系について、偏心量が互いに異なっていることが好ましい。この所定数は、例えば、4、8、あるいは2M×2Nの50%以上の最小の整数、2M×2Nの80%以上の最小の整数、2M×2Nの90%以上の最小の整数であってよい。例えば、14/16(=87.5%)以上の撮像光学系の偏心量が互いに異なっていれば十分に解像感の高い画像が得られるもっとも、全ての撮像光学系について、偏心量が互いに異なっている場合が、最も良い効果が得られる。
<その他の実施例>
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
本開示の技術は、電子撮像素子を有するカラー撮像装置、特に、デジタルスチルカメラやデジタルビデオカメラ、携帯電話用カメラ、監視カメラ、ウェアラブルカメラ、医療用カメラ等に好適に利用できる。本開示の画素ずらしにより、カラー撮像装置の解像度を疑似的に向上させることができる。
1 撮像装置
111〜119 撮像光学系
1101〜1125 撮像光学系
120 撮像素子
121〜129 撮像領域
1201〜1225 撮像領域

Claims (20)

  1. 2次元的に配列される複数の撮像光学系と、
    前記複数の撮像光学系にそれぞれ対応する複数の撮像領域を有する撮像素子と、
    を備え、
    前記複数の撮像光学系の少なくとも一部は、他の撮像光学系とは異なる偏心量で配置されている、
    ことを特徴とする撮像装置。
  2. 前記複数の撮像光学系のうち所定数個以上の撮像光学系について、偏心量が互いに異なる、
    請求項1に記載の撮像装置。
  3. 前記複数の撮像光学系の全てについて、偏心量が互いに異なる、
    請求項1または2に記載の撮像装置。
  4. 前記複数の撮像領域における各画素を各画素の画角に応じて再配列するとベイヤー配列となるように、前記撮像素子の各画素にカラーフィルターが設けられている、
    請求項3に記載の撮像装置。
  5. 前記複数の撮像光学系は、水平方向に(2M+1)個および垂直方向に(2N+1)個が2次元的に配列されており、
    各撮像領域の画素にはベイヤー配列のカラーフィルターが配置されている、
    ことを特徴とする請求項1から4のいずれか1項に記載の撮像装置。
    ただし、M、Nは1以上の整数である。
  6. 前記複数の撮像光学系の偏心量と、前記複数の撮像光学系のうちの基準撮像光学系の偏心量との差が、水平方向に2×Km/(2M+1)画素、垂直方向に2×Kn/(2N+1)画素である、
    ことを特徴とする請求項5に記載の撮像装置。
    ただし、Kmは−M≦Km≦Mを満たす整数、Knは−N≦Kn≦Nを満たす整数である。
  7. 前記基準撮像光学系は、前記複数の撮像光学系のうちの中心の撮像光学系である、
    請求項6に記載の撮像装置。
  8. 前記基準撮像光学系の偏心量はゼロである、
    請求項6または7に記載の撮像装置。
  9. 前記基準撮像光学系の偏心量に対する相対的な撮像光学系の偏心量は、前記基準撮像光学系の方向を向き、その大きさは前記基準撮像光学系からの距離に応じた量である、
    請求項6から8のいずれか1項に記載の撮像装置。
  10. 前記複数の撮像光学系は、水平方向に2M個および垂直方向に2N個が2次元的に配列されており、
    一つの撮像領域の画素は同一種類のカラーフィルターが配置されており、撮像領域単位でカラーフィルターがベイヤー配列されている、
    請求項1から4のいずれか1項に記載の撮像装置。
    ただし、M、Nは1以上の整数である。
  11. 前記複数の撮像光学系の偏心量と、前記複数の撮像光学系のうちの基準撮像光学系の偏心量との差が、水平方向にKm/2M画素、垂直方向にKn/2N画素である、
    ことを特徴とする請求項10に記載の撮像装置。
    ただし、Kmは−M+1≦Km≦Mを満たす整数、Knは−N+1≦Kn≦Nを満たす整数である。
  12. 前記基準撮像光学系は、前記複数の撮像光学系のうちの中心に最近接しているいずれかの撮像光学系である、
    請求項11に記載の撮像装置。
  13. 前記基準撮像光学系の偏心量はゼロである、
    請求項11または12に記載の撮像装置。
  14. 前記基準撮像光学系の偏心量に対する相対的な撮像光学系の偏心量は、前記基準撮像光学系の方向を向き、その大きさは前記基準撮像光学系からの距離に応じた量である、
    請求項11から13のいずれか1項に記載の撮像装置。
  15. 前記複数の撮像光学系のそれぞれは、前記撮像素子の中心の方向に、前記中心からの距離に応じた量だけ偏心している、
    請求項11に記載の撮像装置。
  16. 前記複数の撮像光学系のそれぞれは、対応する撮像領域の各画素が有するカラーフィルターに対応する波長において、その他の波長よりも光学性能が高くなるように構成されている、
    請求項11から15のいずれか1項に記載の撮像装置。
  17. 前記撮像素子から取得した画像における前記複数の撮像領域の画素を、画角に従って再配列することにより、各撮像領域の画素数よりも多画素な再構成画像を生成する再構成処理部と、
    前記再構成画像をデモザイク処理してカラー画像を生成するデモザイク処理部と、
    をさらに備える、請求項1から16のいずれか1項に記載の撮像装置。
  18. 前記カラー画像に鮮鋭化処理を施す鮮鋭化処理部をさらに備える、請求項17に記載の撮像装置。
  19. 前記複数の撮像光学系は、同一の基板上に配置されている、
    請求項1から18のいずれか1項に記載の撮像装置。
  20. 隣接する撮像光学系のあいだの距離は1mm以下である、
    請求項19に記載の撮像装置。
JP2017149462A 2017-08-01 2017-08-01 撮像装置 Pending JP2019029913A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2017149462A JP2019029913A (ja) 2017-08-01 2017-08-01 撮像装置
US16/047,201 US10582123B2 (en) 2017-08-01 2018-07-27 Imaging apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017149462A JP2019029913A (ja) 2017-08-01 2017-08-01 撮像装置

Publications (1)

Publication Number Publication Date
JP2019029913A true JP2019029913A (ja) 2019-02-21

Family

ID=65231909

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017149462A Pending JP2019029913A (ja) 2017-08-01 2017-08-01 撮像装置

Country Status (2)

Country Link
US (1) US10582123B2 (ja)
JP (1) JP2019029913A (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112616008B (zh) * 2020-12-31 2022-08-30 维沃移动通信有限公司 电子设备及其摄像模组
CN115760659A (zh) * 2021-09-03 2023-03-07 三星电子株式会社 图像处理设备及其操作方法

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002135796A (ja) * 2000-10-25 2002-05-10 Canon Inc 撮像装置
JP2002209226A (ja) * 2000-12-28 2002-07-26 Canon Inc 撮像装置
JP2003141529A (ja) * 2001-11-02 2003-05-16 Japan Science & Technology Corp 画像再構成法及び画像再構成装置
JP2004146619A (ja) * 2002-10-25 2004-05-20 Japan Science & Technology Agency 画像入力装置
JP2010118818A (ja) * 2008-11-12 2010-05-27 Sharp Corp 撮像装置
JP2011044801A (ja) * 2009-08-19 2011-03-03 Toshiba Corp 画像処理装置

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4492343B2 (ja) 2004-12-27 2010-06-30 パナソニック株式会社 撮像装置
JP4483951B2 (ja) * 2008-01-28 2010-06-16 ソニー株式会社 撮像装置
US8902321B2 (en) 2008-05-20 2014-12-02 Pelican Imaging Corporation Capturing and processing of images using monolithic camera array with heterogeneous imagers
WO2013046972A1 (ja) * 2011-09-27 2013-04-04 富士フイルム株式会社 固体撮像素子及び撮像装置

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002135796A (ja) * 2000-10-25 2002-05-10 Canon Inc 撮像装置
JP2002209226A (ja) * 2000-12-28 2002-07-26 Canon Inc 撮像装置
JP2003141529A (ja) * 2001-11-02 2003-05-16 Japan Science & Technology Corp 画像再構成法及び画像再構成装置
JP2004146619A (ja) * 2002-10-25 2004-05-20 Japan Science & Technology Agency 画像入力装置
JP2010118818A (ja) * 2008-11-12 2010-05-27 Sharp Corp 撮像装置
JP2011044801A (ja) * 2009-08-19 2011-03-03 Toshiba Corp 画像処理装置

Also Published As

Publication number Publication date
US20190045115A1 (en) 2019-02-07
US10582123B2 (en) 2020-03-03

Similar Documents

Publication Publication Date Title
Venkataraman et al. Picam: An ultra-thin high performance monolithic camera array
US9473700B2 (en) Camera systems and methods for gigapixel computational imaging
JP2011044801A (ja) 画像処理装置
US20130229540A1 (en) Compound camera sensor and related method of processing digital images
JP2007304525A (ja) 画像入力装置および電子機器および画像入力方法
CN110519493B (zh) 图像处理设备、图像处理方法和计算机可读记录介质
JP6478511B2 (ja) 画像処理方法、画像処理装置、複眼撮像装置、画像処理プログラム、および、記憶媒体
TW201626792A (zh) 高解析度陣列相機
JP6003578B2 (ja) 画像生成方法及び装置
CN103688536A (zh) 图像处理装置、图像处理方法及程序
JP2011135359A (ja) カメラモジュール及び画像処理装置
JP4991907B2 (ja) 画像処理装置、および、画像処理装置の制御方法
US20140184859A1 (en) Imaging device
JP2019029913A (ja) 撮像装置
JP2015004883A (ja) 結像光学系および撮像システムおよび撮像方法
Oberdörster et al. Correcting distortion and braiding of micro-images from multi-aperture imaging systems
JP6168220B2 (ja) 画像生成装置、画像処理装置、画像生成方法及び画像処理プログラム
JP4377656B2 (ja) インテグラルフォトグラフィ撮影装置およびインテグラルフォトグラフィ表示装置
JP2013162369A (ja) 撮像装置
WO2018088211A1 (ja) 画像処理装置、画像処理方法、及び、プログラム
JPWO2018088212A1 (ja) 画像処理装置、画像処理方法、及び、プログラム
JP6569769B2 (ja) 任意視点画像合成方法及び画像処理装置
CN110264406A (zh) 图像处理装置及图像处理的方法
JP6186573B2 (ja) 画像処理装置及び画像処理方法
KR102337745B1 (ko) 이중 도메인 뉴럴 네트워크 기반 영상 내 모아레 무늬 제거 장치 및 방법

Legal Events

Date Code Title Description
RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20181116

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200618

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210219

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210302

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20210928