以下、本発明の一実施形態として撮像素子に適用した例について説明する。本実施形態に係る撮像素子は、概略、画素遮光型の像面位相差AF機能を有しており、水平画素列(RL画素列)を4画素ピッチ以上の間隔で配置しており(詳しくは図1参照)、更に、垂直画素列(TB画素列)も4画素ピッチ以上の間隔で配置している。このTB画素列は、RL画素列をちょうど90度回転させた間隔で配置している(詳しくは図2(b)参照)。
また、TB画素又はRL画素のどちらかは、Bb画素に配置し、混合読み出し時は、Bb画素に配置した焦点検出用画素(TB画素又はRL画素のどちらか)をスキップして読み出す(詳しくは図3参照)。TB画素又はRL画素のどちらかは、Rr画素に配置し、混合読み出し時は、Rr画素に配置した焦点検出用画素(TB画素又はRL画素のどちらか)をスキップして読み出す(詳しくは図4参照)。
G画素に配置したTB画素もしくはRL画素は、アイランド化(G画素にTB画素もしくはRL画素が存在しない領域を設定)する(詳しくは図5参照)。アイランドの間隔は、混合読み出し時の画素混合に必要な垂直方向のライン数の2倍以上の画素数に相当する間隔を確保する。また、TB画素のスキップ読み出しは、TB画素が存在しない領域でも行う(詳しくは図6参照)。
図1は、撮像素子21における撮像用画素と焦点検出用画素の配置を示す。図1においては、右側が開口している焦点検出用画素(R画素)と、左側が開口している焦点検出用画素(L画素)を横方向(水平方向)に4画素ピッチの間隔で配置した例である。なお、図1においては、4画素ピッチ間隔であるが、4画素ピッチ以上の間隔があればよい。これは、焦点検出用画素を4画素ピッチ未満で配置すると、画質性能を保つことが困難となるためである。
図1において、R画素またはL画素は、焦点検出用画素を含まない通常のベイヤー配列の撮像素子の場合にG画素(Gフィルタを有する撮像用画素)が配置される位置の一部に配置している。R画素またはL画素を配置しない場合には、2×2画素の範囲内に、2つのG画素(緑色フィルタの配置された撮像用画素)がはす向かいに配置され、他のはす向かいの位置に1つのBb画素(青色フィルタが配置された撮像用画素)と1つのRr画素(赤色フィルタが配置された撮像用画素)が配置されている。
そして、図1において、焦点検出用画素を含まない通常のベイヤー配列の撮像素子の場合にG画素が配置される位置(x1、y1)、(x5、y1)、(x9、y1)、(x13、y1)、・・・、(x3、y9)、(x7、y9)、(x11、y9)、(x15、y9)、・・・にR画素が配置され、また位置(x1、y5)、(x5、y5)、(x9、y5)、(x13、y5)、・・・、(x3、y13)、(x7、y13)、(x11、y13)、(x15、y13)、・・・にL画素が配置されている。このように、R画素とL画素は、焦点検出用画素を含まない通常の撮像素子のG画素が配置される一部の位置に、横方向(水平方向)に4画素おきに配置されている。
また、焦点検出を行うにあたって、R画素とL画素のそれぞれ1画素ずつ用いて位相差を算出してもよいが、本実施形態においては、撮像素子21の縦方向(垂直方向)の所定範囲内(Rsumarea内)のR画素の出力を加算し、1画素の画像データとして扱う。同様に、撮像素子21の縦方向(垂直方向)の所定範囲内(Lsumarea内)のL画素の出力を加算し、1画素の画像データとして扱う。この所定範囲内におけるR画素の加算値とL画素の加算値の横方向(水平方向)の変化から位相差を算出する。
また、所定の範囲内(RsumareaとLsumarea)において、y方向に異なる位置のR画素をx方向に2画素ずらして配置している。すなわち、位置(x1、y1)、(x5、y1)、・・・のR画素に対して、横方向に2画素ずらした(x3、y9)、(x7、y9)、・・・にもR画素を配置している。これは、サンプリングピッチ(図1の例では4画素)に対して焦点検出用画素をより密に配置することで、AF精度を確保するためである。L画素についても、同様の配置としている。
次に、図2を用いて、T画素とB画素の配置について説明する。図2(a)は、図1に示した画素配列と同じである。この図2(a)の右下隅Oを中心として時計回りに90度回転し、Bb画素の位置にB画素とT画素を配置する(90度回転した後にR画素、L画素をそれぞれ左斜め下へ1画素分だけ移動してB画素、T画素とする)と、図2(b)の画素配置を得る。そして、図2(a)に示すR画素およびL画素と、図2(b)に示すT画素とB画素を重ね合わせると、図2(c)に示すように、RL画素(R画素とL画素の両方を指す場合の略称)およびTB画素(T画素とB画素の両方を指す場合の略称)の画素配置を得る。
例えば、位置(x1、y1)のR画素を、位置Oを中心に90度回転し(位置(x16、y1)))、図2(a)の配置のBb画素に対応させるため左斜め下へ1画素分移動すると、(x15、y2)の位置になり、この位置にB画素を配置する。また位置(x1、y5)のL画素を、位置Oを中心に90度回転し(位置x12、y1))、図2(a)の配置のBb画素に対応させるため左斜め下へ1画素分移動すると、(x11、y2)の位置になり、この位置にT画素を配置する。
このように、本実施形態における画素配置(図2(c)に示す)は、RL画素の水平画素列を4画素ピッチ以下の間隔で配置し、更に、TB画素の垂直画素列は、RL画素列と同様の画素ピッチであり、RL画素列を丁度90度回転させた間隔で配置している。また、TB画素の位置は、本来は、Bb画素の位置にあり、青色フィルタに代えて緑色または透明の色フィルタに置き換える。
したがって、本実施形態における撮像素子21は、複数の撮像用画素と、この撮像用画素よりも受光部の開口の位置をずらした複数の焦点検出用画素(RL画素、TB画素)を有している。そして、第1の方向(例えば、水平方向)に開口の位置をずらした第1焦点検出用画素(例えば、RL画素)を、撮像用画素の第1の色フィルタに対応する位置(例えば、G画素の位置)に第1の画素ピッチで配置し(例えば、4画素ピッチ以上)、また、第1の方向と異なる第2の方向(例えば、垂直方向)に開口をずらした第2の焦点検出用画素(例えば、TB画素)を、撮像用画素の第1の色フィルタと異なる第2の色フィルタに対応する位置(例えば、Gb画素の位置、Gr画素の位置)に第2の画素ピッチで配置している(例えば、4画素ピッチ以上)。
この場合、第1の色フィルタは緑色であり、第2の色フィルタは青色であってもよく(後述する図3参照、また青色フィルタに代えて赤色フィルタでもよい)、また第1の色フィルタは青色であり、第2の色フィルタは赤色であってもよい(後述する図4A、4B参照、また、第1の色フィルタを赤色とし、第2の色フィルタを青色としてもよい)。また、第1の色フィルタに対応する焦点検出用画素(例えば、RL画素)は撮像素子の有効受光領域に含まれる複数の領域に配置し(詳しくは図5参照)、第2の色フィルタに対応する焦点検出用画素(例えば、TB画素)は、撮像素子の受光領域の全体に配置される(詳しくは図6参照)。
次に、焦点検出用画素の読み出しについて説明する。焦点検出用画素は、以下の2点について、通常の撮像用画素とは特性が異なるため、静止画の画質を確保するために補正処理を行う。
(i) 焦点検出用画素は、通常の撮像用画素と比べて、30%〜80%程度、遮光されているため、撮像用画素と比較して光量が異なる(光量が30%〜80%程度減少する)
(ii) ピントずれた被写体像が撮像素子面に入射すると、位相がずれている(この特性を利用して、デフォーカス量を検出するが、画質の観点からみると、位相ずれが問題となる)。
基本的には、RL画素およびTB画素に対して、上述の2つの異なる特性に対して補正処理が必要である。この補正方法は、特開2013−257494および特開2013−106124に詳しく述べられているので、ここでは説明を省略する。
上述したように、静止画撮影の際の画素データに対しては、補正処理を行うが、ライブビュー表示中や動画記録中の画素データの読み出しの際には、混合読み出しを行い、静止画撮影の場合とは異なる処理を行う。この混合読み出しについて、図3を用いて説明する。
前述したように、本実施形態において、TB画素は、焦点検出用画素を含まない撮像素子の場合のBb画素の位置に配置している。混合読み出しの際には、焦点検出用画素のTB画素をスキップして読み出すようにする。これは、Bb画素は、色情報としての寄与度は高いが、輝度情報としての寄与度が低いため、一部のBb画素情報が欠落しても、動画の場合には画質として十分成立するからである。このように、RL画素に関しては混合読み出しの対象とするが、TB画素に関して画素読み出しの際にスキップすることにより、複雑な補正処理を行わずに、動画の画質を確保できる。また、G画素については焦点検出用画素のRL画素を混合して読み出すので、静止画と同様に、上記光量(i)の補正と位相ずれ(ii)の補正を行う。光量の補正については、後述する非混合領域におけるRL画素を含まないG画素の混合読み出し出力と、RL画素を含むG画素の混合読み出し出力との光量比を用いて光量の補正を行う。
図3に示す例は、4画素混合読み出し時の画素混合に説明するための画素配置と混合する画素ブロックを示している。なお、図3に示す画素配置は、図2(c)に示す画素配置と実質的に同一であるが、説明の都合上、座標系を変更している。図3(a)と図2(c)の座標の対応は以下のようになっている。図3(a)から図2(c)への対応を→で示すと、(x1、y1)→(x9、y16)、(x1、y16)→(x9、y1)、(x8、y1)→(x16、y16)、(x8、y16)→(x16、y1)となっている。4画素混合読み出しは、隣接する垂直方向の同色2ライン分の水平方向の同色2画素の計4画素を混合して読み出す方式である。なお、図3に示す例では、図の下側のライン(画素)から読み出す場合を示している。
図3(a)は、4画素混合読み出し動作について説明するための撮像素子21における一部の領域の画素配置を示している。撮像素子21の画素を、図3(a)に示すように、エリアA、B、C、Dに分けると、各エリア内においては、通常の焦点検出用画素を含まない撮像素子の配置とは、RL画素とTB画素の配置が異なる。
図3(b)は図3(a)の中のエリアA(位置(x1、y13)、(x4、y13)、(x1、y16)、(x4、y16)で囲まれた矩形の範囲)の拡大図である。4画素混合読み出しを行う場合には、この範囲の画素(画素ブロック)について各RGB画素(ベイヤー配列の場合の赤色、緑色、青色画素)のデータは下記式(1)〜(4)より求める。
なお、各エリア内での座標の表示は、図3(b)に示すように、左下隅の画素位置をGr(0,0)とし、水平方向右側へ順に、Rr(1,0)、Gr(2,0)、Rr(3,0)とし、垂直方向の上をBb(0,3)と表す。なお、この座標の取り方は、図3(c)(d)(e)においても同じである。
Gr_mix1={Gr(0,0):R+Gr(2,0)+Gr(0,2)+Gr(2,2)}/4 ・・・(1)
Rr_mix1={Rr(1,0)+Rr(3,0)+Rr(1,2)+Rr(3,2)}/4 ・・・(2)
Gb_mix1={Gb(1,1)+Gb(3,1)+Gb(1,3)+Gb(3,3)}/4 ・・・(3)
Bb_mix1={Bb(0,1)+Bb(0,3)+Bb(2,3)}/3 ・・・(4)
図3(b)から分かるように、Gr混合画素(緑色混合画素)、Gb混合画素(緑色混合画素)、およびRr混合画素(赤色混合画素)は、エリアA内の同色の4画素の画素データを加算し、4で除算することにより、混合値を算出している(式(1)〜(3)参照)。この場合、式(1)に示すように、Gr混合画素データを求めるにあたっては、R画素(位置Gr(0,0))も加算対象としている。一方、Bb混合画素(青色混合画素)は、式(4)に示すように、エリアA内の同色3画素の画素データを加算し、Bb(2,1)にあるT画素については加算対象とせずに、他の3つの同色画素のみで混合値を算出している。
図3(c)は図3(a)の中のエリアB(位置(x5、y13)、(x8、y13)、(x5、y16)、(x8、y16)で囲まれた矩形の範囲)の拡大図である。この範囲の画素について混合読み出しを行う場合には、各RGB画素(ベイヤー配列の場合の赤色、緑色、青色画素)のデータは下記式(5)〜(8)より求める。
Gr_mix2={Gr(0,0):R+Gr(2,0)+Gr(0,2)+Gr(2,2)}/4 ・・・(5)
Rr_mix2={Rr(1,0)+Rr(3,0)+Rr(1,2)+Rr(3,2)}/4 ・・・(6)
Gb_mix2={Gb(1,1)+Gb(3,1)+Gb(1,3)+Gb(3,3)}/4 ・・・(7)
Bb_mix2={Bb(0,1)+Bb(0,3)+Bb(2,3)}/3 ・・・(8)
図3(d)は図3(a)の中のエリアC(位置(x9、y13)、(x12、y13)、(x9、y16)、(x12、y16)で囲まれた矩形の範囲)の拡大図である。この範囲の画素について混合読み出しを行う場合には、各RGB画素(ベイヤー配列の場合の赤色、緑色、青色画素)のデータは下記式(9)〜(12)より求める。
Gr_mix3={Gr(0,0):R+Gr(2,0)+Gr(0,2)+Gr(2,2)}/4 ・・・(9)
Rr_mix3={Rr(1,0)+Rr(3,0)+Rr(1,2)+Rr(3,2)}/4 ・・・(10)
Gb_mix3={Gb(1,1)+Gb(3,1)+Gb(1,3)+Gb(3,3)}/4 ・・・(11)
Bb_mix3={Bb(0,1)+Bb(0,3)+Bb(2,1)}/3 ・・・(12)
図3(e)は図3(a)の中のエリアD(位置(x13、y13)、(x16、y13)、(x13、y16)、(x16、y16)で囲まれた矩形の範囲)の拡大図である。この範囲の画素について混合読み出しを行う場合には、各RGB画素(ベイヤー配列の場合の赤色、緑色、青色画素)のデータは下記式(13)〜(16)より求める。
Gr_mix4={Gr(0,0):R+Gr(2,0)+Gr(0,2)+Gr(2,2)}/4 ・・・(13)
Rr_mix4={Rr(1,0)+Rr(3,0)+Rr(1,2)+Rr(3,2)}/4 ・・・(14)
Gb_mix4={Gb(1,1)+Gb(3,1)+Gb(1,3)+Gb(3,3)}/4 ・・・(15)
Bb_mix4={Bb(0,1)+Bb(0,3)+Bb(2,1)}/3 ・・・(16)
図3(c)〜(e)の場合も、図3(b)と同様であり、Gr混合画素(緑色混合画素)、Gb混合画素(緑色混合画素)、およびRr混合画素(赤色混合画素)は、エリアB〜D内の同色の4画素の画素データを加算し、4で除算することにより、混合値を算出している。この場合、Gr混合画素データを求めるにあたっては、R画素(位置Gr(0,0))も加算対象としている(式(5)、(9)、(13)参照)。一方、Bb混合画素(青色混合画素)は、エリアB内では同色3画素の画素データを加算し、Bb(2,1)にあるB画素については加算対象とせずに、他の3つの同色画素のみで混合値を算出している(式(8)参照)。また、エリアC、D内では、Bb混合画素(青色混合画素)は、同色3画素の画素データを加算し、Bb(2,3)にあるT画素またはB画素については加算対象とせずに、他の3つの同色画素のみで混合値を算出している(式(12)(16)参照)。
次に、図4A、4Bを用いて、RL画素をRr画素の位置に配置し、TB画素をBb画素の位置に配置した変形例について説明する。図1ないし図3に示した本実施形態においては、RL画素をG画素の位置に配置し、TB画素をBb画素の位置に配置した。しかし、この配置以外にも、例えば、RL画素をRr画素の位置に配置し、TB画素をBb画素の位置に配置することも可能である。この場合、RL画素もTB画素も混合読み出し時には、焦点検出用画素(RL画素やTB画素)をスキップすることにより、画質を確保することが可能である。また、この場合には、図5を用いて後述するRL画素にアイランドの隙間を設定する必要がない。
図4Aは、撮像素子21における画素配置を示しており、RL画素をRr画素の位置に配置し、TB画素をBb画素の位置に配置した例である。図4Aの画素配置は、図3(a)の画素配置から、RL画素をそれぞれ右(x方向)へ1画素分だけ移動してRr画素の位置に位置させたものである。また、図4Bに示す例は、6画素混合読み出し時の画素混合のための画素ブロックを示している。6画素混合読み出しは、隣接する垂直方向の同色3ライン内の2ライン分の水平方向の同色3画素の計6画素を混合して読み出す方式である。6画素混合読み出しの説明のために、撮像素子21の画素を、図4Aに示すように、エリアE、F、G、Hに分け、それぞれの拡大図を図4B(a)(b)(c)(d)に示す。各エリアは、6×6画素であり、G画素の位置には焦点検出用画素(RL画素、TB画素)は配置されないが、Rr画素の一部の位置にRL画素が、またBb画素の一部の位置にTB画素が配置されている。
図4B(a)は図4Aの中のエリアE(位置(x1、y1)、(x6、y1)、(x1、y6)、(x6、y6)で囲まれた矩形の範囲)の拡大図である。この範囲の画素について、例として、太線枠内について6画素混合読み出しを行う場合には、各RGB画素(ベイヤー配列の場合の赤色、緑色、青色画素)のデータは下記式(17)〜(19)より求める。なお、6画素混合読み出しでは、隣接する同色の3ラインのうち2ライン分の画素を混合するが、残りの1ラインの同色の画素値を混合しない(読み出さない)ようにしている。
なお、各エリア内での座標の表示は、図4B(a)に示すように、左下隅の画素位置をGr(0,0)とし、水平方向右側へ順に、Rr(1,0)、Gr(2,0)、Rr(3,0)、Gr(4,0)、Rr(5,0)とし、垂直方向の上をBb(0,5)と表す。なお、この座標の取り方は、図4B(b)(c)(d)においても同じである。
Gr_mix5={Gr(0,0)+Gr(2,0)+Gr(4,0)+Gr(0,2)+Gr(2,2)+Gr(4,2)}/6 ・・・(17)
なお、6画素混合読み出しの場合は、Y=4のラインのGr画素での画素値を混合しない。
Rr_mix5={Rr(3,0)+Rr(1,2)+Rr(3,2)+Rr(5,2)}/4 ・・・(18)
なお、6画素混合読み出しの場合は、Y=4のラインのRr画素の画素値を混合しない。
Bb_mix5={Bb(0,3)+Bb(2,3)+Bb(4,3)+Bb(0,5)+Bb(4,5)}/5 ・・・(19)
なお、6画素混合読み出しの場合は、Y=1のラインのBb画素の画素値を混合しない。
式(17)から分かるように、Gr混合画素(緑色混合画素)は、エリアE内の同色(G)の6つのG画素の画素データを加算し、6で除算することにより、混合値を算出している。これに対して、Rr混合画素(赤色混合画素)は、式(18)に示すように、エリアE内の太枠内の4つのRr画素の画素データを加算し、4で除算することにより、Rr混合値を算出している。焦点検出用画素を含まない通常のベイヤー配列の撮像素子の場合は、Rr(1,0)とRr(5,0)にもRr画素が配置され、その画素値も混合されるが、この位置には、R画素が配置されていることから混合にあたってはスキップしている。
また、Bb混合画素(青色混合画素)は、式(19)に示すように、エリアE内の太枠内の5つのBb画素の画素データを加算し、5で除算することにより、Bb混合値を算出している。焦点検出用画素を含まない通常のベイヤー配列の撮像素子の場合は、Bb(2,5)にもBb画素が配置され、その画素値も混合されるが、この位置には、T画素が配置されていることから混合にあたってはスキップしている。
図4B(b)は図4Aの中のエリアF(位置(x7、y1)、(x12、y1)、(x7、y6)、(x12、y6)で囲まれた矩形の範囲)の拡大図である。この範囲の画素について、例として、太線枠内について6画素混合読み出しを行う場合には、各RGB画素(ベイヤー配列の場合の赤色、緑色、青色画素)のデータは下記式(20)〜(22)より求める。
Gr_mix6={Gr(0,0)+Gr(2,0)+Gr(4,0)+Gr(0,2)+Gr(2,2)+Gr(4,2)}/6 ・・・(20)
なお、6画素混合読み出しの場合は、Y=4のラインのGr画素の画素値を混合しない。
Rr_mix6={Rr(1,0)+Rr(5,0)+Rr(1,2)+Rr(3,2)+Rr(5,2)}/5 ・・・(21)
Bb_mix6={Bb(0,3)+Bb(2,3)+Bb(2,5)+Bb(4,5)}/4 ・・・(22)
なお、6画素混合読み出しの場合は、Y=1のラインのBb画素の画素値を混合しない。
式(20)から分かるように、エリアFにおいても、Gr混合画素(緑色混合画素)は、エリアF内の同色(G)の6つのG画素の画素データを加算し、6で除算することにより、混合値を算出している。これに対して、Rr混合画素(赤色混合画素)は、式(21)に示すように、エリアF内の太枠内の5つのRr画素の画素データを加算し、5で除算することにより、Rr混合値を算出している。焦点検出用画素を含まない通常のベイヤー配列の撮像素子の場合は、Rr(3,0)にもRr画素が配置され、その画素値も混合されるが、この位置には、R画素が配置されていることから混合にあたってはスキップしている。
また、Bb混合画素(青色混合画素)は、式(22)に示すように、エリアF内の太枠内の4つのBb画素の画素データを加算し、4で除算することにより、Bb混合値を算出している。焦点検出用画素を含まない通常のベイヤー配列の撮像素子の場合は、Bb(4,3)とBb(0,5)にもBb画素が配置され、その画素の画素値も混合されるが、この位置には、T画素またはB画素が配置されていることから混合にあたってはスキップしている。
図4B(c)は図4Aの中のエリアG(位置(x13、y1)、(x18、y1)、(x13、y6)、(x18、y6)で囲まれた矩形の範囲)の拡大図である。この範囲の画素について、例として、太線枠内について6画素混合読み出しを行う場合には、各RGB画素(ベイヤー配列の場合の赤色、緑色、青色画素)のデータは下記式(23)〜(25)より求める。
Gr_mix7={Gr(0,0)+Gr(2,0)+Gr(4,0)+Gr(0,2)+Gr(2,2)+Gr(4,2)}/6 ・・・(23)
なお、6画素混合読み出しの場合は、Y=4のラインのGr画素の画素値を混合しない。
Rr_mix7={Rr(3,0)+Rr(1,2)+Rr(3,2)+Rr(5,2)}/4 ・・・(24)
なお、6画素混合読み出しの場合は、Y=4のラインのRr画素の画素値を混合しない。
Bb_mix7={Bb(0,3)+Bb(4,3)+Bb(0,5)+Bb(2,5)+Bb(4,5)}/5 ・・・(25)
なお、6画素混合読み出しの場合は、Y=1のラインのBb画素の画素値を混合しない。
式(23)から分かるように、エリアGにおいても、Gr混合画素(緑色混合画素)は、エリアG内の同色(G)の6つのG画素の画素データを加算し、6で除算することにより、混合値を算出している。これに対して、Rr混合画素(赤色混合画素)は、式(24)に示すように、エリアG内の太枠内の4つのRr画素の画素データを加算し、4で除算することにより、Rr混合値を算出している。焦点検出用画素を含まない通常のベイヤー配列の撮像素子の場合は、Rr(1,0)とRr(5,0)にもRr画素が配置され、その画素値も混合されるが、この位置には、R画素が配置されていることから混合にあたってはスキップしている。
また、Bb混合画素(青色混合画素)は、式(25)に示すように、エリアF内の太枠内の5つのBb画素の画素データを加算し、5で除算することにより、Bb混合値を算出している。焦点検出用画素を含まない通常のベイヤー配列の撮像素子の場合は、Bb(2,3)にもBb画素が配置され、その画素値も混合されるが、この位置には、B画素が配置されていることから混合にあたってはスキップしている。
図4B(d)は図4Aの中のエリアH(位置(x19,y1)、(x24,y1)、(x19,y6)、(x24,y6)で囲まれた矩形の範囲)の拡大図である。この範囲の画素について、例として、太線枠内6画素混合読み出しを行う場合には、各RGB画素(ベイヤー配列の場合の赤色、緑色、青色画素)のデータは下記式(26)〜(28)より求める。
Gr_mix8={Gr(0,0)+Gr(2,0)+Gr(4,0)+Gr(0,2)+Gr(2,2)+Gr(4,2)}/6 ・・・(26)
なお、6画素混合読み出しの場合は、Y=4のラインのGr画素の画素値を混合しない。
Rr_mix8={Rr(1,0)+Rr(5,0)+Rr(1,2)+Rr(3,2)+Rr(5,2)}/5 ・・・(27)
なお、6画素混合読み出しの場合は、Y=4のラインのRr画素の画素値を混合しない。
Bb_mix8={Bb(0,3)+Bb(2,3)+Bb(4,3)+Bb(2,5)}/4 ・・・(28)
なお、6画素混合読み出しの場合は、Y=1のラインのBb画素の画素値を混合しない。
式(26)から分かるように、エリアHにおいても、Gr混合画素(緑色混合画素)は、エリアH内の同色(G)の6つのG画素の画素データを加算し、6で除算することにより、混合値を算出している。これに対して、Rr混合画素(赤色混合画素)は、式(27)に示すように、エリアH内の太枠内の5つのRr画素の画素データを加算し、4で除算することにより、Rr混合値を算出している。焦点検出用画素を含まない通常のベイヤー配列の撮像素子の場合は、Rr(3,0)にもRr画素が配置され、その画素値も混合されるが、この位置には、B画素が配置されていることから混合にあたってはスキップしている。
また、Bb混合画素(青色混合画素)は、式(28)に示すように、エリアH内の太枠内の5つのBb画素の画素データを加算し、4で除算することにより、Bb混合値を算出している。焦点検出用画素を含まない通常のベイヤー配列の撮像素子は、Bb(0,5)とBb(4,5)にもBb画素が配置され、その画素値も混合されるが、この位置には、T画素またはB画素が配置されていることから混合にあたってはスキップしている。
次に、図5を用いて、Gr画素にRL画素が存在しないアイランド化について説明する。本実施形態においては、G画素の一部の位置にRL画素を配置しているが、撮像素子21中の所定のエリアには、RL画素が存在しない領域を設定している(このことをアイランド化という)。すなわち、図5(a)の領域21aには、RL画素とTB画素を配置し、領域21bには、RL画素を配置せず、焦点検出用画素としてはTB画素のみを配置する(なお、領域21aおよび領域21bには、G画素は配置される)。
静止画撮影の際には、G画素の位置に配置したRL画素の画素データは前述したように、補正処理する必要がある。例えば、特開2013−257494に記載されているように、通常の撮像用画素とR画素またはL画素との光量比を算出し、この光量比を用いて補正処理を行う。混合読み出し時においても、この光量比を算出して補正を行うために、混合読み出し状態でもRL画素を混入しないで読み出して、撮像用画素の画素値だけが混合された情報を生成する必要がある。そのために、焦点検出用画素の画素値を混合しないで画素混合読み出しが可能な領域を設ける必要がある。
このため、混合読み出しにおいても、RL画素が存在しない非混合領域21bを設け、RL画素を混合しないで画素混合読み出しを行うことが可能としている。この非混合領域21bの図5(a)の上下方向の幅に相当する画素数は、最低でも、2×画素混合に必要な垂直方向のライン数が必要である。例えば、6画素混合読み出しを行うことが可能な撮像素子の場合には、前述のように隣接する垂直方向の同色3ラインの内の2ライン分の水平方向の同色3画素の計6画素を混合して読み出して6画素混合読み出しを行う。従って、非混合領域21bの幅に相当する画素数は、2×3(ライン)=6画素であることから6画素以上必要となる。
同様に、10画素混合読み出しを行うことが可能な撮像素子の場合には、非混合領域21bの画素数は10画素以上が必要となる。10画素混合読み出しとは、隣接する垂直方向の同色5ラインの内の2ライン分の水平方向の同色5画素の計10画素を混合して読み出す方式である。従って、非混合領域21bの幅に相当する画素数は、2×5(ライン)=10画素であるから10画素以上が必要となる。また、非混合領域21bは、画像の中央部を重複して適正に補正を行うために、中央部とその上下に最低でも3か所は必要であり、この数が多いほど、画質をより高品位とすることができる。
ここで、例えば、TB画素をRL画素と同様にG画素の位置に配置すると、焦点検出用画素が存在しない隙間領域を設定しようとしても、TB画素が邪魔して配置することができない。これは、TB画素は縦方向に位相差を検出するために、縦方向に長く配置する必要があるので(図5(b)の領域21c参照)、TB画素用のアイランドを配置することができない。つまり、図5(b)の領域21cと領域21bが交差する領域は、上記理由でTB画素を配置する必要があり、焦点検出用画素を配置しない領域とすることができないことを意味する。すると、この交差する領域の周辺の焦点検出用画素に関する補正処理を適切に行うことができず、画質が劣化するという問題が生ずる。
しかし、本実施形態においては、図3を用いて説明したように、TB画素を一部のBb画素の位置に配置しており、G画素の位置には、TB画素を存在させないようにしている。したがって、G画素の位置に対応させてRL画素のみを存在させ(領域21a参照)、RL画素を存在させない領域(非混合領域21b参照)を設けることで、アイランド化を可能とし、G画素に配置したRL画素の補正を可能としている。
このように、本実施形態においては、第1の色フィルタ(例えば、緑色フィルタ)に対応する焦点検出用画素は、撮像素子の有効領域に含まれる複数の領域に配置し、複数の領域の間の領域には第1の色フィルタに対応する焦点検出用画素を配置させず、第1の色フィルタに対応する焦点検出用画素を配置しない領域の幅は、画素混合読み出しに必要な画素ラインの数の2倍以上に相当するようにしている。
次に、図6を用いて、TB画素が存在しない領域での混合読み出しについて説明する。図6において領域21dは、通常の撮像用画素が配置されている領域である。撮像用画素は撮像素子21の撮像領域(ベイヤー画素内)の全域(領域21d)に亘って配置されている。TB画素は、領域21d内の一部の領域21eの範囲(例えば、80%×80%)に配置されている。したがって、図6において、領域21eには撮像用画素とTB画素の両方が配置されており、領域21dには撮像用画素のみが配置されている。
領域21eのみにTB画素が配置されていることから、領域21e内においてのみ混合読み出し時におけるTB画素のスキップ読み出しを行えばよく、領域21dのうちで領域21eを除いた領域においてはTB画素のスキップ読み出しを行う必要はない。しかし、本実施形態においては、領域21dのうちで領域21eを除いた領域においてもTB画素のスキップ読み出しを行う。すなわち、図3を用いて説明した混合読み出しの混合演算(式(2)、(4)、(6)、(8)等)は、領域21eだけでなく、領域21dのうちで領域21eを除いた領域においても同一の演算方法とする。これは、読み出し方式を画面内で全て統一し、境界線を設けないようにすることで、画質性能を確保している。
次に、図7を用いて、本実施形態に係る撮像素子21を組み込んだデジタルカメラについて説明する。図7は、本発明の一実施形態に係るカメラの主として電気的構成を示すブロック図である。本実施形態に係るカメラは、交換レンズ鏡筒10とカメラ本体20から構成されている。本実施形態においては、交換レンズ鏡筒10とカメラ本体20を別体に構成しているが、一般的なコンパクトカメラのように一体に構成しても勿論かまわない。
交換レンズ鏡筒10内には、撮影レンズ11が配置されている。撮影レンズ11は、被写体Sの光学像を形成するための複数の光学レンズから構成される。また、交換レンズ鏡筒10内には、アクチュエータ12およびレンズ制御部13が設けられている。レンズ制御部13は、カメラ本体20内のAF演算部23から、焦点ずれ方向と焦点ずれ量を受信し、これらの情報に基づいて、アクチュエータ12の制御を行う。アクチュエータ12は、撮影レンズ11を光軸方向に移動し、ピント合わせを行う。
カメラ本体20内には、撮像素子21、画像処理部22、AF演算部23、記録部24、表示部25が設けられている。
撮像素子21は、撮影レンズ11の光軸上であって、被写体像の結像位置付近に配置されている。撮像素子21は、被写体像(光学像)を電気信号に変換する光電変換部を有する複数の画素を備えている。すなわち、撮像素子21は、各画素を構成するフォトダイオードが二次元的にマトリックス状に配置されており、各フォトダイオードは受光量に応じた光電変換電流を発生し、この光電変換電流は各フォトダイオードに接続するキャパシタによって電荷蓄積される。各画素の前面には、ベイヤー配列のRGBフィルタが配置されている。これらの複数のフォトダイオードが、前述の複数の画素に対応する。
また、撮像素子21の複数の画素は、図1ないし図4A,4Bを用いて説明したように、画素へ入射する光束の入射方向を制限するよう構成された焦点検出用画素(RL画素、TB画素)と、画素へ入射する光束が焦点検出用画素よりも制限されないように構成された撮像用画素を含んでいる。撮像素子21は、焦点検出用画素と撮像用画素から出力される画素値を画像処理部22およびAF演算部23に出力する。
画像処理部22は、撮像用画素と焦点検出用画素(但し、TB画素は含まれず、RL画素のみ)からの混合画素値を入力し、ライブビュー表示用画像および動画記録用画像のための画像処理を行う。また、撮像用画素と焦点検出用画素からの画素値を入力し、静止画記録用の画像処理を行う。また、画像処理部22は、記録用に処理された画像データを記録部24に出力し、ライブビュー表示用に画像処理された画像データを表示部25に出力する。
記録部24は、電気的書き換え可能な不揮発性メモリを有し、記録用の画像データを入力し、記録する。表示部25は、ライブビュー表示用の画像データや再生用の画像データを入力し、LCDや有機EL等の表示パネルに画像データに基づくライブビュー画像や再生画像の表示を行う。
AF演算部23は、画素値の内、焦点検出用画素(RL画素、TB画素)からの画素値を入力し、位相差AF法によって焦点ずれ方向と焦点ずれ量を演算する。
なお、画素値の混合は、撮像素子21から読み出す際に、画素混合を行ってもよく、また撮像素子21から読み出した画素値を用いて、画像処理部22またはAF演算部23において、デジタル演算で画素混合を行ってもよい。
本実施形態においては、撮像素子21、画像処理部22、またはAF演算部23等のいずれか又はいずれかの各部が協働して、画素信号を混合して読み出す画素混合読み出し部の機能を設ける。この画素混合読み出し部は、第2の色フィルタに対応する撮像用画素の出力を混合して読み出す場合には(例えば、Bb画素またはRr画素を混合読み出しする場合)、第2の焦点検出用画素(例えば、T画素やB画素)の出力を混合しないで読み出すようにする(例えば、図3、図4A、図4B参照)。また、画素混合読み出し部は、第1の色フィルタ(例えば、G)に対応する撮像用画素の出力を混合して読み出す場合には、第1の焦点検出用画素(例えば、RL画素)の出力を混合して読み出す。
次に、図8に示すフローチャートを用いて、カメラの動作について説明する。このフローチャートは、不揮発性のメモリに記憶されたプログラムに従って、画像処理部22またはAF演算部23内に設けられたCPU(Central Processor Unit)等の制御部によってカメラ内の各部を制御することによって実行される。
カメラの電源がオンとなると、図8に示すフローチャートがスタートする。スタートすると、まず、スルー画(ライブビュー表示用画像データ)の取り込みを行う(S1)。ここでは、図3または図4を用いて説明したように、撮像素子1から通常の撮像用画素と焦点検出用画素(TB画素を除く)から混合読み出しを行う。
スルー画取り込みを行うと、次に、AF画素補正処理を行う(S3)。ここでは、焦点検出用画素のRL画素に対して、補正処理を行う。すなわち、焦点検出用画素は、開口が制限されているため、画素値が小さくなってしまう。通常の撮像用画素と同程度のレベルとなるように、補正を行う。焦点検出用画素であるRL画素の出力値はG画素の画素混合出力値に含まれているので、図5に示される非混合画素領域21bのG画素の混合画素出力値(焦点検出用画素の混合がない)との光量比に基づく補正処理や、撮影レンズ11の光学特性に応じた像高位置に基づく補正データ等を使用して補正処理を行う。
AF画素補正処理を行うと、次に、スルー画表示(ライブビュー表示)を行う(S5)。ここでは、ステップS1において読み出し、ステップS3において補正処理された画像データを用いて、画像処理部22が表示部25にスルー画表示を行う。
スルー画表示を行うと、次に、1stレリーズ押し下げか否かの判定を行う(S7)。ここでは、レリーズ釦の半押し操作、すなわち1stレリーズ押し下げが行われたか否かを、レリーズ釦の半押し操作でオンオフするスイッチの状態に基づいて判定する。この判定の結果、1stレリーズが押し下げされていない場合には、ステップS1に戻る。
一方、ステップS7における判定の結果、1stレリーズが押し下げされた場合には、AF用露光を行う(S9)。ここでは、焦点検出用画素(RL画素およびTB画素)に適正露光となるように露光制御を行い、撮像素子21からRL画素およびTB画素の画素値の加算値(図1参照)を読み出す。
AF用露光を行うと、次に、ピントずれ量の検出を行う(S11)。ここでは、焦点検出用画素(RL画素およびTB画素)の画素値の加算値(Rsumarea内のR画素の出力の加算値、Lsumarea内のL画素の出力の加算値)を用いて、撮影レンズ11のピントずれ方向(デフォーカス方向)およびピントずれ量(デフォーカス量)を算出する。
ピントずれ量を検出すると、次に、合焦状態か否かを判定する(S13)。ここでは、ステップS11において算出されたピントずれ量が所定範囲内(合焦とみなせる範囲)に入っているか否かに基づいて判定する。
ステップS13における判定の結果、合焦状態でない場合には、フォーカスレンズ駆動を行う(S15)。ここでは、ステップS11において算出したピントずれ量、ピントずれ方向に基づいて、レンズ制御部13がアクチュエータ12を介して、撮影レンズ11を合焦位置に移動させる。フォーカスレンズ駆動を行うと、ステップS1に戻る。
ステップS13における判定の結果、合焦状態の場合には、2ndレリーズ押し下げか否かを判定する(S17)。撮影者は、スルー画を観察し、シャッタチャンスと判断するとレリーズ釦の全押し、すなわち2ndレリーズ押し下げを行う。そこで、このステップでは、レリーズ釦の全押し操作でオンオフするスイッチの状態に基づいて判定する。この判定の結果、2ndレリーズが押し下げされていない場合には、ステップS1に戻る。
ステップS17における判定の結果、2ndレリーズ押し下げの場合には、本露光を行う(S19)。ここでは、予め定められた露出制御値に従って撮像素子21による露光動作を行う。この露光が終わると、撮像素子21から全画素(通常の撮像用画素および焦点検出用画素)の画素値を読み出し、画像処理部22が静止画の画像データを生成する。この画像データの生成にあたって、焦点検出用画素からの画素値は補正処理を行う。画像データが生成されると、記録部24に記録する。
本露光が終わると、次に、カメラ電源オフか否かを判定する(S21)。ここでは、カメラの電源スイッチの状態に基づいて判定する。この判定の結果、電源オフでない場合には、ステップS1に戻る。一方、電源オフの場合には、終了処理をしたのち、電源オフ状態になる。
以上説明したように、本発明の一実施形態に係る撮像素子は、複数の撮像用画素と撮像用画素よりも受光部の開口の位置をずらした複数の焦点検出用画素を有している。そして、第1の方向に開口をずらした第1の焦点検出用画素(例えば、RL画素)を第1の画素ピッチで配置し、この第1の方向と異なる方向に第2の方向に開口をずらした第2の焦点検出用画素(例えば、TB画素)を第2の画素ピッチで配置している。このため、焦点検出用に左右開口画素列に加えて上下開口の画素列を配置しても、混合読み出しを行う動画時に画質とAF性能を両立させることができる。
また、本発明の一実施形態においては、第1の方向と第2の方向を直交させ、第1の画素ピッチと第2の画素ピッチを等しくしている(例えば、4画素ピッチ)。そして、第2の焦点検出用画素(例えば、TB画素)の配置は、第1の焦点検出用画素(例えば、RL画素)の配置を90度回転させた配置と一致させている(図3参照)。このような焦点検出用画素の配置とすることにより、第1の方向と第2の方向のそれぞれの焦点検出精度等のAF性能を同等とすることが可能である。
なお、本発明の一実施形態に係る撮像素子おいては、画素ピッチは4画素ピッチであったが、これに限られない。また、画素は直交する2方向に沿って配置されていたが、これに限られない。また、RL画素およびTB画素は、RGB画素のいずれに配置するかは、図示の例に限られない。
また、本発明の一実施形態においては、撮影のための機器として、デジタルカメラを用いて説明したが、カメラとしては、デジタル一眼レフカメラでもコンパクトデジタルカメラでもよく、ビデオカメラ、ムービーカメラのような動画用のカメラでもよく、さらに、携帯電話、スマートフォン、携帯情報端末(PDA:Personal Digital Assist)、パーソナルコンピュータ(PC)、タブレット型コンピュータ、ゲーム機器等に内蔵されるカメラでも構わない。いずれにしても、撮像素子を組み込む機器であればよい。
また、本明細書において説明した技術のうち、主にフローチャートで説明した制御に関しては、プログラムで設定可能であることが多く、記録媒体や記録部に収められる場合もある。この記録媒体、記録部への記録の仕方は、製品出荷時に記録してもよく、配布された記録媒体を利用してもよく、インターネットを介してダウンロードしたものでもよい。
また、特許請求の範囲、明細書、および図面中の動作フローに関して、便宜上「まず」、「次に」等の順番を表現する言葉を用いて説明したとしても、特に説明していない箇所では、この順で実施することが必須であることを意味するものではない。
本発明は、上記実施形態にそのまま限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化できる。また、上記実施形態に開示されている複数の構成要素の適宜な組み合わせにより、種々の発明を形成できる。例えば、実施形態に示される全構成要素の幾つかの構成要素を削除してもよい。さらに、異なる実施形態にわたる構成要素を適宜組み合わせてもよい。