以下、図面を参照して、本技術を適用した実施の形態について説明する。
〈第1の実施の形態〉
〈固体撮像素子の構成例〉
本技術は、複数の光電変換部を利用してHDR合成を行う場合に、1または複数の光電変換部について、光電変換部に転送ゲートを介して電荷蓄積部を設けるとともに、光電変換部にリセットゲート(アンチブルーミングゲート)を設けてバースト駆動を行うことで、十分にダイナミックレンジを拡大し、かつより高品質な画像を得ることができるようにするものである。本技術は、例えば車載カメラなどに適用することができる。
図1は、本技術を適用した固体撮像素子の構成例を示す図である。
図1に示す固体撮像素子11は、例えばCMOS(Complementary Metal Oxide Semiconductor)イメージセンサなどからなる。
固体撮像素子11は、図示せぬ半導体基板(チップ)上に形成された画素アレイ部21と、画素アレイ部21と同じ半導体基板上に集積された周辺回路部とを有する構成となっている。周辺回路部は、例えば垂直駆動部22、カラム処理部23、水平駆動部24、およびシステム制御部25から構成されている。
固体撮像素子11は更に、信号処理部28およびデータ格納部29を備えている。信号処理部28およびデータ格納部29については、固体撮像素子11と同じ基板上に搭載してもよいし、固体撮像素子11とは別の基板上に配置するようにしてもよい。
また、信号処理部28およびデータ格納部29の各処理については、固体撮像素子11とは別の基板に設けられる外部信号処理部、例えば、DSP(Digital Signal Processor)回路やソフトウェアによる処理でも構わない。
画素アレイ部21は、受光した光量に応じた電荷を生成し、かつ蓄積する光電変換部を有する単位画素(以下、単に画素と記述する場合もある)が行方向および列方向に、すなわち行列状に2次元配置された構成となっている。
ここで、行方向とは画素行の画素の配列方向(すなわち、水平方向)をいい、列方向とは画素列の画素の配列方向(すなわち、垂直方向)をいう。つまり、行方向は図中、横方向であり、列方向は図中、縦方向である。
画素アレイ部21において、行列状の画素配列に対して、画素行ごとに画素駆動線26が行方向に沿って配線され、画素列ごとに1つまたは2つの垂直信号線27が列方向に沿って配線されている。画素駆動線26は、画素から信号を読み出す際の駆動を行うための駆動信号を伝送する。なお、図1では、画素駆動線26について1本の配線として示しているが、1本に限られるものではない。画素駆動線26の一端は、垂直駆動部22の各行に対応した出力端に接続されている。
垂直駆動部22は、シフトレジスタやアドレスデコーダなどによって構成され、画素アレイ部21の各画素を全画素同時あるいは行単位等で駆動する。すなわち、垂直駆動部22は、垂直駆動部22を制御するシステム制御部25とともに、画素アレイ部21の各画素の動作を制御する駆動部を構成している。この垂直駆動部22はその具体的な構成については図示を省略するが、一般的に、読出し走査系と掃出し走査系の2つの走査系を有する構成となっている。
垂直駆動部22によって選択走査された画素行の各単位画素から出力される信号は、画素列ごとに垂直信号線27を通してカラム処理部23に入力される。カラム処理部23は、画素アレイ部21の画素列ごとに、選択行の各画素から垂直信号線27を通して出力される信号に対して所定の信号処理を行うとともに、信号処理後の画素信号を一時的に保持する。
具体的には、カラム処理部23は、信号処理としてノイズ除去処理、DDS(Double Data Sampling)やCDS(Correlated Double Sampling)等のサンプリング処理、AD(Analog Digital)変換処理などを行う。
水平駆動部24は、シフトレジスタやアドレスデコーダなどによって構成され、カラム処理部23の画素列に対応する単位回路を順番に選択する。この水平駆動部24による選択走査により、カラム処理部23において単位回路ごとに信号処理された画素信号が順番に出力される。
システム制御部25は、各種のタイミング信号を生成するタイミングジェネレータなどによって構成され、そのタイミングジェネレータで生成された各種のタイミングを基に、垂直駆動部22、カラム処理部23、および水平駆動部24などの駆動制御を行う。
信号処理部28は、少なくとも演算処理機能を有し、カラム処理部23から出力される画素信号に対して演算処理等の種々の信号処理を行う。データ格納部29は、信号処理部28での信号処理に当たって、その処理に必要なデータを一時的に格納する。
〈画素の構成例〉
次に、画素アレイ部21に設けられた単位画素の構成について説明する。画素アレイ部21に設けられた単位画素は、例えば図2に示すように構成される。なお、図2において、図1における場合と対応する部分には同一の符号を付してあり、その説明は適宜省略する。
単位画素である画素51は、第1光電変換部61、第1転送ゲート部62、FD部63、第2光電変換部64、アンチブルーミングゲート部65、第2転送ゲート部66、電荷蓄積部67、第3転送ゲート部68、第4転送ゲート部69、リセットゲート部70、増幅トランジスタ71、および選択トランジスタ72を有している。
また、画素51に対して、画素駆動線26として例えば複数の駆動線が画素行毎に配線される。そして、垂直駆動部22から複数の駆動線を介して、第1転送ゲート部62、アンチブルーミングゲート部65、第2転送ゲート部66、第3転送ゲート部68、第4転送ゲート部69、リセットゲート部70、および選択トランジスタ72のそれぞれに、駆動信号TGL、駆動信号ABG、駆動信号TGS、駆動信号FDG、駆動信号FCG、駆動信号RST、および駆動信号SELのそれぞれが供給される。
これらの駆動信号は、高レベル(例えば、電源電圧VDD)の状態がアクティブ状態となり、低レベルの状態(例えば、負電位)が非アクティブ状態となるパルス信号である。すなわち、駆動信号TGL乃至駆動信号SELの各駆動信号が高レベルとされると、その供給先のトランジスタは導通状態、つまりオン状態となり、各駆動信号が低レベルとされると、その供給先のトランジスタは非導通状態、つまりオフ状態となる。
第1光電変換部61は、例えばPN接合のフォトダイオードからなる。第1光電変換部61は、入射した光を受光して光電変換し、その結果得られた電荷を蓄積する。
第1転送ゲート部62は、第1光電変換部61とFD部63との間に設けられており、第1転送ゲート部62のゲート電極には駆動信号TGLが供給される。この駆動信号TGLが高レベルとなると、第1転送ゲート部62がオンされて、第1光電変換部61に蓄積されている電荷が、第1転送ゲート部62を介してFD部63に転送される。
FD部63は、フローティングディフージョンと呼ばれる浮遊拡散領域であり、転送されてきた電荷を蓄積する。
第2光電変換部64は、第1光電変換部61と同様に、例えばPN接合のフォトダイオードからなり、入射した光を受光して光電変換し、その結果得られた電荷を蓄積する。
第1光電変換部61と第2光電変換部64を比較すると、第1光電変換部61の方が受光面の面積が広く、感度が高く、第2光電変換部64の方が受光面の面積が狭く、感度が低い。
アンチブルーミングゲート部65は、第2光電変換部64と電源VDDとの間に接続されている。アンチブルーミングゲート部65のゲート電極に供給される駆動信号ABGが高レベルとされると、アンチブルーミングゲート部65がオンされて、第2光電変換部64に蓄積されている電荷がアンチブルーミングゲート部65を介して排出される。すなわち、第2光電変換部64の電位が電源の電圧(以下、電源電圧VDDとも称する)のレベルにリセットされる。
第2転送ゲート部66は、第2光電変換部64と電荷蓄積部67との間に接続されており、第2転送ゲート部66のゲート電極には駆動信号TGSが供給される。駆動信号TGSが高レベルとされると、第2転送ゲート部66がオンされて、第2光電変換部64に蓄積されている電荷が、第2転送ゲート部66を介して電荷蓄積部67に転送される。
また、第2転送ゲート部66のゲート電極の下部は、ポテンシャルが若干深くなっており、第2光電変換部64の飽和電荷量を超え、第2光電変換部64から溢れた電荷を電荷蓄積部67に転送するオーバーフローパスが形成されている。
電荷蓄積部67は、例えばキャパシタからなり、第4転送ゲート部69と第2転送ゲート部66との間に接続されている。また、電荷蓄積部67の対向電極は電源電圧VDDを供給する電源VDDに接続されている。電荷蓄積部67は、第2光電変換部64から転送される電荷を蓄積する。
なお、ここでは電荷蓄積部67が電源VDDに接続される例について説明するが、電荷蓄積部67はキャパシタであるため、電源VDDではなくグランドGNDに接続されるようにしてもよい。
第3転送ゲート部68は、第4転送ゲート部69およびリセットゲート部70と、FD部63との間に接続されており、第3転送ゲート部68のゲート電極には、駆動信号FDGが供給される。駆動信号FDGが高レベルとされると、第3転送ゲート部68がオンされて、第4転送ゲート部69、リセットゲート部70、および第3転送ゲート部68の間のノード81と、FD部63とが電気的に接続される。すなわち、ノード81とFD部63とのポテンシャルが結合する。
第4転送ゲート部69は、電荷蓄積部67とノード81との間に接続されており、第4転送ゲート部69のゲート電極には駆動信号FCGが供給される。駆動信号FCGが高レベルとされると第4転送ゲート部69がオンされて、電荷蓄積部67とノード81とが電気的に接続される。すなわち、電荷蓄積部67とノード81のポテンシャルが結合する。
リセットゲート部70は、電源VDDとノード81との間に接続されており、リセットゲート部70のゲート電極には駆動信号RSTが供給される。駆動信号RSTが高レベルとされるとリセットゲート部70がオンされてノード81の電位が、電源電圧VDDのレベルにリセットされる。
増幅トランジスタ71は、ゲート電極がFD部63に接続され、ドレインが電源VDDに接続されており、FD部63に保持されている電荷に対応する信号を読み出す読出し回路、所謂ソースフォロワ回路の入力部となる。すなわち、増幅トランジスタ71は、ソースが選択トランジスタ72を介して垂直信号線27に接続されることにより、その垂直信号線27の一端に接続される定電流源82とソースフォロワ回路を構成する。
選択トランジスタ72は、増幅トランジスタ71のソースと垂直信号線27との間に接続されており、選択トランジスタ72のゲート電極には駆動信号SELが供給される。駆動信号SELが高レベルとされると、選択トランジスタ72がオンされて画素51が選択状態となる。これにより、増幅トランジスタ71から出力される画素信号が、選択トランジスタ72を介して、垂直信号線27に出力される。
なお、以下、各駆動信号がアクティブ状態、つまり高レベルとなることを、各駆動信号がオンするともいい、各駆動信号が非アクティブ状態、つまり低レベルとなることを、各駆動信号がオフするともいう。
〈第2光電変換部のバースト駆動について〉
ところで、固体撮像素子11では、第1光電変換部61と第2光電変換部64とで露光が行われ、それらの各光電変換部の露光で得られた画素信号がHDR合成されて最終的な撮影画像の画素の画素信号とされる。
固体撮像素子11では、画素アレイ部21の各画素51内に設けられた第2光電変換部64に対して、第2転送ゲート部66を介して電荷蓄積部67が接続されている。また、第2光電変換部64にはアンチブルーミングゲート部65が接続されている。
そのため、固体撮像素子11では、垂直駆動部22による駆動制御によって、第2光電変換部64のバースト駆動が可能となる。すなわち、1フレームの期間において、第2光電変換部64をリセットしてから第2光電変換部64の露光を行う露光動作と、その後、露光で得られた電荷を電荷蓄積部67に転送して蓄積させる転送動作とを、任意のタイミングでかつ任意の回数だけ繰り返し行うことができる。ここで、1フレーム期間とは、固体撮像素子11が撮影画像の撮影を行なうときの1フレーム分の撮影画像を取得する期間である。
このようにすることで、1フレーム期間内の第2光電変換部64での露光の合計時間を任意に変更することができる。これにより、第1光電変換部61と第2光電変換部64の感度比を十分に確保し、撮影画像のダイナミックレンジを十分に拡大することができる。しかも、このようなバースト駆動により、第1光電変換部61と第2光電変換部64の感度比、つまり画素信号の合成比を任意に変更することができるため、HDR合成時の自由度を向上させることができる。
また、1フレーム期間内の第2光電変換部64での露光の合計時間を任意に変更したり、1フレーム期間における第2光電変換部64での全露光時間に対する、所定期間内における露光時間の割合を高くしたりすることで、被写体のぼけを抑制することができる。すなわち、モーションブラーの発生を抑制することができる。
さらに、1フレーム期間内の第2光電変換部64での露光タイミングをパルス光源の発光タイミングに同期させたり、第2光電変換部64での露光タイミングをずらしながら1フレーム期間で複数回に分けて露光を行ったりすることで、パルス光源を捉えることができる。その結果、フリッカの発生を抑制することができる。
このように第2光電変換部64をバースト駆動することで、モーションブラーやフリッカの発生を抑制し、より高品質な撮影画像を得ることができる。
次に、第2光電変換部64のバースト駆動について、より具体的に説明する。
以下では、例として、例えば車両の前方を撮影し、得られた撮影画像から白線や道路信号機、LED道路標識、対向車両などを検出する車載カメラに固体撮像素子11が搭載される場合について説明する。特に、パルス光源を捉える例として、LEDを光源とする道路信号機について説明する。
近年、LEDを光源とする道路信号機が増加してきており、その駆動は商用AC電源の全波整流によるパルス発光が一般的であり、例えば図3に示すように、西日本においては60×2=120Hzの交流駆動となり、東日本においては50×2=100Hzの交流駆動となる。
なお、図3において横軸は時間を示している。また、期間T11および期間T12は、固体撮像素子11により撮影される撮影画像の1フレームの期間を示している。この例では、撮影画像のフレームレートは60Hzとなっているため、期間T11および期間T12は1/60秒の区間となっている。
さらに図3において、折れ線L11および折れ線L12は、東日本での道路信号機の発光タイミング、および西日本での道路信号機の発光タイミングを示している。特に、折れ線L11および折れ線L12のそれぞれが上に突となっている期間は、道路信号機が発光している期間を示している。
また、折れ線L13および折れ線L14は、第1光電変換部61の露光タイミング、および第2光電変換部64での露光タイミングを示している。特に、折れ線L13および折れ線L14のそれぞれが上に突となっている期間が露光期間を示している。
さらに折れ線L15および折れ線L16は、駆動信号TGSおよび駆動信号ABGを示している。ここで、各駆動信号が上に突となっている状態が駆動信号がオンとなっている状態、つまりアクティブ状態を示している。
図3では、折れ線L11および折れ線L12に示されるように、LED光源の道路信号機は西日本では120Hzの交流駆動となり、東日本では100Hzの交流駆動となっている。
この場合、一般的な60fpsのカメラでは、1フレーム期間内に1度の高速シャッタ露光が行われる。そのため、カメラの露光タイミングが、道路信号機の無発光のタイミングと一致したときには、道路信号機の発光(点灯)がカメラにより撮影されない、つまり撮影された撮影画像では道路信号機の発光が写っていない状態となってしまう。
これに対して、固体撮像素子11では、第2光電変換部64のバースト駆動を行い、撮影画像のフレーム読み出し周期とは異なる周波数および位相で受光(露光)を行うことで道路信号機のLEDパルス発光によるフリッカの発生を抑制することができる。
なお、発光光源被写体である道路信号機は高輝度であるので、より感度の低い第2光電変換部64のみバースト駆動を行うだけでも必要十分な効果を得ることができる。
具体的には、図3に示す例では駆動信号ABGがオンからオフへと切り替わって、第2光電変換部64のリセットが解除されたタイミングで第2光電変換部64の露光が開始される。そして、駆動信号TGSがオンとなって、露光により第2光電変換部64に蓄積された電荷が電荷蓄積部67に転送された時点で露光期間が終了する。
例えば1フレーム分の期間である期間T11では、第2光電変換部64の露光と非露光が交互に繰り返され、1フレーム期間内における露光期間の合計の長さ(以下、合計露光時間と称する)と、非露光期間の合計の長さ(以下、合計非露光時間と称する)とが同じ長さとなっている。この例では、1フレーム期間内における第2光電変換部64の合計露光時間を1フレーム期間の半分の時間とすることで、HDR合成比(感度比)が2倍に拡大されている。
また、この例では第2光電変換部64の非露光期間と、その非露光期間に続く露光期間の長さが等しくなっている。さらに、第2光電変換部64の各露光期間の長さは異なる長さとなっている。すなわち、垂直駆動部22は、適宜、第2光電変換部64の露光時間を変化させながら画素51を駆動することで、第2光電変換部64の非線形なバースト駆動を実現する。
特に、ここでは第2光電変換部64のバースト駆動が、東日本の道路信号機のパルス発光タイミング、すなわち100Hzのパルス発光光源に同期しており、東日本の道路信号機の発光タイミングに合わせて、第2光電変換部64の露光が行われている。
そのため、東日本の道路信号機の各発光タイミングにおいて、道路信号機の発光時間の略半分の時間が第2光電変換部64の露光期間と重なっており、道路信号機の各発光タイミングでの露光時間が十分に確保されている。同様に西日本の道路信号機の各発光タイミングにおいても、道路信号機の発光時間の略半分の時間が第2光電変換部64の露光期間と重なっている。
なお、折れ線L11および折れ線L12において、斜線部分は第2光電変換部64の露光期間ではない期間を示しており、斜線の施されていない部分は第2光電変換部64の露光期間と重なっている期間を示している。
折れ線L11および折れ線L12から分かるように、第2光電変換部64の非線形なバースト駆動によって、道路信号機の各発光期間において道路信号機により発せられた十分な量の光を第2光電変換部64で受光することができる。これにより、より確実に道路信号機等のパルス発光光源からの光を捉えることができ、フリッカの発生を抑制することができる。
また、第2光電変換部64の非線形なバースト駆動により各露光期間の長さや位相(時刻)を制御して、1フレーム期間内における第2光電変換部64の露光の重心位置を任意の位相(時刻)に調整することができる。この例では、例えば期間T11において、折れ線L14とともに描かれている正弦波の山の部分が第2光電変換部64の露光の重心位置となっており、第2光電変換部64の露光の重心位置が、東日本の道路信号機の発光期間内の位置となっていることが分かる。
そのため、第2光電変換部64の露光は、東日本の道路信号機の発光タイミングに同期した高速シャッタ露光となっている。また、1フレーム期間における第2光電変換部64の露光時間は、1フレーム期間の半分の時間となっている。
したがって、仮に固体撮像素子11から見て、被写体である道路信号機が動いていたとしても、つまり道路信号機が動被写体となったとしても、第2光電変換部64の露光により得られる画素信号からなる撮影画像において、道路信号機がぼけてしまうことはない。このような第2光電変換部64のバースト駆動により、モーションブラーやフリッカの発生を抑制することができる。
なお、第2光電変換部64を非線形にバースト駆動させる場合、非露光期間と、その非露光期間に続く露光期間とからなる期間の長さは、ランダムに変化するように設定してもよいし、所望のパルス発光光源の発光タイミングに合わせて変化させるようにしてもよい。特に、パルス発光光源の発光タイミングに同期させて第2光電変換部64での露光を制御すれば、より効率的に露光を行うことができる。
また、1フレーム期間内における第2光電変換部64の合計露光時間や各露光が行われるタイミングは、フレームごとに設定することが可能である。
さらに、第2光電変換部64のバースト駆動で、1フレーム期間における第2光電変換部64の合計露光時間を所望の長さに設定すれば、第1光電変換部61と第2光電変換部64の感度比を任意に設定することができる。これにより、撮影画像のダイナミックレンジを十分に拡大することができるだけでなく、HDR合成比も自由に設定することができる。
また、第2光電変換部64の露光を行うと同時に、第1光電変換部61でも露光を行う場合、1フレーム期間における第2光電変換部64の露光期間の重心位置と、第1光電変換部61の露光期間の重心位置とのずれが大きいと、合成アーチファクトが発生する。
そこで、垂直駆動部22は、例えば矢印A11に示すように第1光電変換部61の露光期間を任意の位相にシフトさせて、第1光電変換部61の露光期間の重心位置と、第2光電変換部64の露光期間の重心位置とを一致させるようにする。これにより、合成アーチファクトの発生を抑制し、より高品質な撮影画像を得ることができるようになる。
また、この例では、第1光電変換部61の露光期間も1フレーム期間よりも短い期間となっており、モーションブラーの発生を抑制することができる。なお、第1光電変換部61については、特に動被写体解像度が十分に確保できる、つまりモーションブラーが十分に小さい場合には、1フレーム期間の全期間を露光期間としてもよい。
固体撮像素子11では、例えば第2光電変換部64については、全画素で一斉に露光が行われ、第1光電変換部61については列方向に並ぶ画素行ごとに順番に露光が行われる。
例えば、第1光電変換部61のシャッタ制御を行うときには、1/60秒の画素信号の読み出しサイクル直前に受光するような方式では、第1光電変換部61の露光タイミングを、第2光電変換部64の露光タイミングやパルス発光光源の発光タイミングに同期させることができない。
そこで、撮影画像の奇数フレームと偶数フレームで、画素信号の読出し位相を変えることができるようにすることが有効である。
例えば図4に示すように、位相シフトにより第1光電変換部61の露光期間を時間方向にずらして、撮影画像の各フレームの露光と画素信号の読み出しを行う場合について考える。なお、図4において図3における場合と対応する部分には同一の符号を付してあり、その説明は適宜省略する。
図4では折れ線L21は所定の奇数フレームの露光、つまり電荷の蓄積と、画素信号の読み出しの様子を示している。なお、折れ線L21が図中、下方向に傾いている部分は、画素信号が読み出される画素行が列方向にシフトしていく様子を表している。
同様に、折れ線L22は、折れ線L21に示される奇数フレームに続く偶数フレームの露光と、画素信号の読み出しの様子を示している。なお、折れ線L22が図中、下方向に傾いている部分は、画素信号が読み出される画素行が列方向にシフトしていく様子を表している。
この例では、時刻t11に折れ線L21に示される奇数フレームでの画素信号の読み出しが開始され、画素アレイ部21の画素行が列方向に順番に選択されて、それらの選択された画素行を構成する画素から画素信号が読み出されていく。そして、1フレーム期間の終了の時刻である時刻t13に奇数フレームの全画素からの画素信号の読み出しが完了する。
これに対して、折れ線L22に示される偶数フレームでは、時刻t11から時刻t12までの期間は露光を行う期間となっており、この期間において、所定の時刻に第1光電変換部61や第2光電変換部64の露光が行われる。
そして、時刻t12において偶数フレームの露光が終了すると、その後、折れ線L22に示される偶数フレームでの画素信号の読み出しが開始され、画素アレイ部21の画素行が列方向に順番に選択されて、それらの選択された画素行を構成する画素から画素信号が読み出されていく。
しかし、このような駆動を行う場合、時刻t12から時刻t13まで期間T21では、折れ線L21に示される奇数フレームの画素信号の読み出しだけでなく、折れ線L22に示される偶数フレームでの画素信号の読み出しも行われることになる。すなわち、時間方向に連続する奇数フレームと偶数フレームとで、画素信号を読み出す信号出力期間がオーバーラップしている。
そのため、例えば画素アレイ部21に設けられた列方向に並ぶ画素が同じ垂直信号線27に接続されていると、奇数フレームにおける画素からの画素信号の読み出しが完了する前に、偶数フレームにおける画素からの画素信号の読み出しが開始されてしまう。したがって、時間的に前後するフレームの信号出力期間がオーバーラップしても正しく画素信号を読み出すことができるように何らかの工夫が必要となる。
そこで、例えば画素51の増幅トランジスタ71および選択トランジスタ72後から、カラム処理部23のAD変換器までの経路をDOL(Double Output Line)構造とすれば、信号出力期間がオーバーラップしても各画素から画素信号を読み出すことができるようになる。
具体的には、画素アレイ部21に列方向に並ぶ画素列に対して、2つの垂直信号線27が設けられるようにし、その画素列を構成する各画素51が2つの垂直信号線27うちの何れかの垂直信号線27に接続されるようにする。また、カラム処理部23では、2つの垂直信号線27のそれぞれに対して、AD変換処理を行うAD変換器のそれぞれが設けられる。
これにより、例えば奇数フレームについては、一方の垂直信号線27を用いて画素51からの画素信号を読み出し、偶数フレームについては、他方の垂直信号線27を用いて画素51からの画素信号を読み出せば、図3を参照して説明した駆動を実現するこができる。
このようにアンチブルーミングゲート部が接続されていない第1光電変換部61については、DOL出力回路を設けることで、フレームごとに第1光電変換部61の露光期間の位相をシフト(ずらす)ことができる。その結果、バースト駆動を行う第2光電変換部64の露光期間の時間方向の重心位置と、第1光電変換部61の露光期間の時間方向の重心位置とを略一致させることができる。
また、信号出力期間がオーバーラップしても、第1光電変換部61と、第2光電変換部64との同期信号処理を行うことができるように遅延用の外部メモリを設け、その外部メモリに画素信号を一時的に保持しておくようにしてもよい。
その他、画素信号を読み出す構成を通常の2倍の速度で動作できる構成とするようにしてもよい。すなわち、カラム処理部23に2倍速のAD変換器を設け、第1光電変換部61の露光期間の位相を1フレーム期間の半分までずらすことができるようにすれば、奇数フレームと偶数フレームで信号出力期間のオーバーラップを生じさせることなく画素信号を読み出すことができる。
さらに、画素信号の読み出し経路部分をDOL構造とすることができない場合には、フレームシーケンシャルとするようにしてもよい。
すなわち、例えば撮影画像の1フレーム目では、第1光電変換部61については1フレームの全期間露光が行われ、第2光電変換部64については上述した非線形なバースト駆動が行われる。これにより、1フレーム目の撮影画像ではフリッカの発生を抑制することができる。
これに対して、2フレーム目では、第1光電変換部61については1フレーム期間の後半、つまり画素信号の読み出し直前に高速シャッタ露光を行い、第2光電変換部64については第1光電変換部61での露光期間に合わせて露光を行う。第2光電変換部64の露光はバースト駆動であってもそうでなくてもよい。これにより、2フレーム目では合成アーチファクトの発生やモーションブラーの発生を抑制することができる。
このような駆動を交互に行えば、フリッカの発生が抑制された撮影画像と、合成アーチファクトおよびモーションブラーの発生が抑制された撮影画像とを得ることができる。
〈固体撮像素子の動作について〉
次に、固体撮像素子11の動作について説明する。
まず、図5のタイミングチャートを参照して、画素51の露光動作について説明する。なお、図5において折れ線L31乃至折れ線L37は、駆動信号SEL、駆動信号FDG、駆動信号RST、駆動信号TGS、駆動信号ABG、駆動信号FCG、および駆動信号TGLを示している。また、各駆動信号は図中、上に突の状態がオンとされた状態を示している。
時刻t21において、垂直駆動部22は駆動信号FDGをオンすることで第3転送ゲート部68をオンさせ、FD部63とノード81とを電気的に接続させる。そして、時刻t22において、垂直駆動部22は駆動信号RSTをオンすることでリセットゲート部70をオンさせる。これにより、FD部63とノード81がリセットされる。
時刻t23において、垂直駆動部22は駆動信号FCGおよび駆動信号ABGをオンする。これにより、第4転送ゲート部69がオンして電荷蓄積部67、ノード81、およびFD部63が電気的に接続された状態となり、それらの領域がリセットされる。また、アンチブルーミングゲート部65がオンし、第2光電変換部64がリセットされる。
時刻t24において、垂直駆動部22は駆動信号FCGをオフすることで第4転送ゲート部69をオフさせる。これにより、電荷蓄積部67とノード81が電気的に切り離された状態となり、電荷蓄積部67のリセットが解除される。
続いて時刻t25において、垂直駆動部22は駆動信号ABGをオフすることでアンチブルーミングゲート部65をオフさせ、第2光電変換部64のリセットを解除する。これにより、第2光電変換部64での露光が開始される。その後、垂直駆動部22は第2光電変換部64の非線形なバースト駆動を行う。
すなわち、時刻t26において、垂直駆動部22は駆動信号TGSをオンすることで第2転送ゲート部66をオンさせる。これにより、第2光電変換部64における光電変換により得られた電荷が、第2光電変換部64から第2転送ゲート部66を介して電荷蓄積部67へと転送され、蓄積される。また、時刻t27において、垂直駆動部22は駆動信号TGSをオフすることで第2転送ゲート部66をオフさせて電荷の転送を終了させ、第2光電変換部64での露光を終了させる。
時刻t28において、垂直駆動部22は駆動信号ABGをオンすることでアンチブルーミングゲート部65をオンさせ、第2光電変換部64をリセットする。時刻t29において、垂直駆動部22は駆動信号ABGをオフすることでアンチブルーミングゲート部65をオフさせ、第2光電変換部64のリセットを解除する。これにより、再度、第2光電変換部64の露光が開始される。
時刻t30において、垂直駆動部22は駆動信号TGSをオンすることで第2転送ゲート部66をオンさせて、第2光電変換部64の電荷を電荷蓄積部67に転送させ、時刻t31において、垂直駆動部22は駆動信号TGSをオフすることで第2転送ゲート部66をオフさせ、電荷の転送を終了させる。
時刻t32において、垂直駆動部22は駆動信号ABGをオンすることでアンチブルーミングゲート部65をオンさせて第2光電変換部64をリセットさせ、時刻t33において、垂直駆動部22は駆動信号ABGをオフすることでアンチブルーミングゲート部65をオフさせ、第2光電変換部64のリセットを解除する。
時刻t34において、垂直駆動部22は駆動信号TGLをオンして第1転送ゲート部62をオンさせることで、第1光電変換部61をリセットさせ、時刻t35において、垂直駆動部22は駆動信号TGLをオフして第1転送ゲート部62をオフさせることで、第1光電変換部61のリセットを解除する。これにより、第1光電変換部61での露光が開始される。
時刻t36において、垂直駆動部22は駆動信号RSTをオフすることでリセットゲート部70をオフさせ、FD部63とノード81のリセットを解除する。そして、時刻t37において、垂直駆動部22は駆動信号FDGをオフすることで第3転送ゲート部68をオフさせ、FD部63とノード81とを電気的に切り離す。
時刻t38において、垂直駆動部22は駆動信号TGSをオンすることで第2転送ゲート部66をオンさせて、第2光電変換部64の電荷を電荷蓄積部67に転送させ、時刻t39において、垂直駆動部22は駆動信号TGSをオフすることで第2転送ゲート部66をオフさせ、電荷の転送を終了させる。
時刻t40において、垂直駆動部22は駆動信号ABGをオンすることでアンチブルーミングゲート部65をオンさせて第2光電変換部64をリセットさせ、時刻t41において、垂直駆動部22は駆動信号ABGをオフすることでアンチブルーミングゲート部65をオフさせ、第2光電変換部64のリセットを解除する。
時刻t42において、垂直駆動部22は駆動信号TGLをオンして第1転送ゲート部62をオンさせる。これにより、第1光電変換部61における光電変換により得られた電荷が、第1転送ゲート部62を介して第1光電変換部61からFD部63へと転送され、蓄積される。さらに、時刻t43において、垂直駆動部22は駆動信号TGLをオフして第1転送ゲート部62をオフさせることで、第1光電変換部61からの電荷の転送を終了させる。これにより、第1光電変換部61での露光が終了する。
垂直駆動部22は第1光電変換部61の露光期間の時間重心位置を、第2光電変換部64の露光期間の時間重心位置と略一致させることで、合成アーチファクトやモーションブラーの発生を抑制することができる。
また、時刻t44において、垂直駆動部22は駆動信号TGSをオンすることで第2転送ゲート部66をオンさせて、第2光電変換部64の電荷を電荷蓄積部67に転送させ、時刻t45において、垂直駆動部22は駆動信号TGSをオフすることで第2転送ゲート部66をオフさせ、電荷の転送を終了させる。以降においても画素信号の読み出しが開始されるまで、第2光電変換部64の非線形なバースト駆動が適宜、行われる。
以上のようにして固体撮像素子11は、第2光電変換部64の非線形なバースト駆動を行って第2光電変換部64での露光を行いつつ、任意の位相で第1光電変換部61の露光を行う。これにより、撮影画像のダイナミックレンジを十分に拡大し、かつフリッカや、モーションブラー、合成アーチファクトの発生を抑制し、より高品質な撮影画像を得ることができる。
続いて、図6のタイミングチャートを参照して、画素51の画素信号の読み出し時の動作について説明する。この処理は、例えば画素アレイ部21の画素行ごとに、図5の処理が行われてから所定の走査順で行われる。
なお、図6において折れ線L41乃至折れ線L47は、駆動信号RST、駆動信号TGL、駆動信号TGS、駆動信号FDG、駆動信号FCG、駆動信号ABG、および駆動信号SELを示している。また、各駆動信号は図中、上に突の状態がオンとされた状態を示している。
画素信号の読み出し動作が行われるときには、駆動信号ABGがオンされてアンチブルーミングゲート部65がオンされた状態、つまり第2光電変換部64がリセットされた状態となっている。
時刻t51において、垂直駆動部22は駆動信号RSTをオンすることでリセットゲート部70をオンさせる。また、時刻t51において、垂直駆動部22は駆動信号SELをオンすることで選択トランジスタ72をオンさせ、画素51を選択状態とする。
このとき露光動作時に第1光電変換部61から転送された電荷がFD部63に蓄積された状態となっている。そのため、FD部63に蓄積されている電荷の量、すなわち第1光電変換部61での露光で得られた電荷の量に応じた信号が、増幅トランジスタ71から選択トランジスタ72および垂直信号線27を介してカラム処理部23へと出力される。カラム処理部23は、このようにして増幅トランジスタ71から出力された信号を、第1光電変換部61での露光により得られた画素信号の信号レベルとして読み取る。
時刻t52において、垂直駆動部22は駆動信号FDGをオンすることで第3転送ゲート部68をオンさせ、FD部63とノード81とを電気的に接続させる。これにより、FD部63とノード81とがリセットされる。
時刻t53において、垂直駆動部22は駆動信号FDGをオフすることで第3転送ゲート部68をオフさせ、FD部63とノード81とを電気的に切り離す。
この場合、FD部63がリセットされている状態で、FD部63に蓄積されている電荷の量に応じた信号が、増幅トランジスタ71から選択トランジスタ72および垂直信号線27を介してカラム処理部23へと出力される。カラム処理部23は、このようにして増幅トランジスタ71から出力された信号を、第1光電変換部61で得られる画素信号のリセットレベルとして読み取る。カラム処理部23では、以上において得られた第1光電変換部61についてのリセットレベルと信号レベルとから、第1光電変換部61での露光により得られた画素信号が生成される。
なお、第1光電変換部61で得られる画素信号の読み出し時に、第3転送ゲート部68をオンさせた状態、つまりFD部63とノード81が接続された状態で画素信号の読み出しを行うようにしてもよい。この場合、電荷の電気信号への変換効率、すなわち第1光電変換部61の感度を調整することができる。但し、そのような場合には、信号レベルの読み出し時には、リセットゲート部70をオフさせておく必要がある。
時刻t54において、垂直駆動部22は駆動信号RSTをオフすることでリセットゲート部70をオフさせ、ノード81のリセットを解除する。
時刻t55において、垂直駆動部22は駆動信号FDGおよび駆動信号FCGをオンすることで、第3転送ゲート部68および第4転送ゲート部69をオンさせる。これにより、電荷蓄積部67、ノード81、およびFD部63が電気的に接続された状態となる。
電荷蓄積部67には、露光動作時に第2光電変換部64から転送された電荷が蓄積されているから、電荷蓄積部67、ノード81、およびFD部63が電気的に接続されると、それらの電荷蓄積部67、ノード81、およびFD部63に、第2光電変換部64での露光により得られた電荷が蓄積された状態となる。
すると、電荷蓄積部67、ノード81、およびFD部63に蓄積されている電荷の量に応じた信号が、増幅トランジスタ71から選択トランジスタ72および垂直信号線27を介してカラム処理部23へと出力される。カラム処理部23は、このようにして増幅トランジスタ71から出力された信号を、第2光電変換部64での露光により得られた画素信号の信号レベルとして読み取る。
時刻t56において、垂直駆動部22は駆動信号RSTをオンすることでリセットゲート部70をオンさせる。これにより、電荷蓄積部67、ノード81、およびFD部63がリセットされる。そして、時刻t57において、垂直駆動部22は駆動信号RSTをオフすることでリセットゲート部70をオフさせ、電荷蓄積部67、ノード81、およびFD部63のリセットを解除する。
この場合、電荷蓄積部67、ノード81、およびFD部63がリセットされた状態で、それらの電荷蓄積部67、ノード81、およびFD部63に蓄積されている電荷の量に応じた信号が、増幅トランジスタ71から選択トランジスタ72および垂直信号線27を介してカラム処理部23へと出力される。カラム処理部23は、このようにして増幅トランジスタ71から出力された信号を、第2光電変換部64で得られる画素信号のリセットレベルとして読み取る。
カラム処理部23では、以上において得られた第2光電変換部64についてのリセットレベルと信号レベルとから、第2光電変換部64での露光により得られた画素信号が生成される。
そして、このようにして得られた第1光電変換部61についての画素信号と、第2光電変換部64についての画素信号とが、後段の信号処理部28等においてHDR合成され、ダイナミックレンジが拡大された1フレーム分の撮影画像の画素の画素信号とされる。
時刻t58において、垂直駆動部22は駆動信号RSTをオンすることでリセットゲート部70をオンさせるとともに、駆動信号TGLおよび駆動信号TGSをオンすることで、第1転送ゲート部62および第2転送ゲート部66をオンさせる。これにより、第1光電変換部61および第2光電変換部64と、電荷蓄積部67、ノード81、およびFD部63とがリセットされる。
その後、時刻t59において、垂直駆動部22は駆動信号TGLおよび駆動信号TGSをオフすることで、第1転送ゲート部62および第2転送ゲート部66をオフさせる。さらに時刻t60において、垂直駆動部22は駆動信号RSTをオフすることでリセットゲート部70をオフさせる。これにより、画素51の各部のリセットが解除される。
そして、時刻t61において、垂直駆動部22は駆動信号FCGをオフすることで、第4転送ゲート部69をオフさせ、時刻t62において、垂直駆動部22は駆動信号FDGをオフすることで、第3転送ゲート部68をオフさせる。これにより、電荷蓄積部67、ノード81、およびFD部63が電気的に切り離された状態となる。
また、時刻t62では、垂直駆動部22は駆動信号SELをオフすることで選択トランジスタ72をオフさせ、画素51の選択状態を解除する。
以上のようにして固体撮像素子11は、第1光電変換部61および第2光電変換部64のそれぞれの露光により得られた画素信号を順番に読み出す。これにより、撮影画像のダイナミックレンジを十分に拡大し、かつフリッカや、モーションブラー、合成アーチファクトの発生を抑制して、より高品質な撮影画像を得ることができる。
〈第1の実施の形態の変形例1〉
〈画素の構成例〉
なお、以上においては画素アレイ部21に設けられる単位画素が図2に示した構成とされる場合について説明した。しかし、単位画素の構成は図2に示した例に限られるものではない。例えば単位画素である画素51に、3以上の光電変換部が設けられるようにしてもよく、それらの光電変換部の一部または全部について、上述した非線形なバースト駆動を行うことができるようにしてもよい。非線形なバースト駆動を行うには、光電変換部にアンチブルーミングゲート部が接続されるとともに、さらにその光電変換部に転送ゲート部を介して電荷蓄積部が接続されていればよい。
また、画素51の構成は、例えば図7に示す構成とすることも可能である。なお、図7において図2における場合と対応する部分には同一の符号を付してあり、その説明は適宜省略する。
図7に示す画素51の構成は、第3転送ゲート部68が設けられていない点で図2に示した画素51の構成と異なり、その他の点では図2に示した画素51と同じ構成となっている。
したがって、図7に示す画素51では、リセットゲート部70および第4転送ゲート部69は、FD部63に接続されている。そのため、例えばリセットゲート部70がオンされるとFD部63がリセットされ、第4転送ゲート部69がオンされると電荷蓄積部67に蓄積されている電荷がFD部63に転送されることになる。
〈第1の実施の形態の変形例2〉
〈画素の構成例〉
また、画素51の構成は、例えば図8に示す構成とすることも可能である。なお、図8において図7における場合と対応する部分には同一の符号を付してあり、その説明は適宜省略する。
図8に示す画素51の構成は、電荷蓄積部67の対向電極の接続先がグランドとなっている点で図7に示した画素51の構成と異なり、その他の点では図7に示した画素51と同じ構成となっている。
〈第1の実施の形態の変形例3〉
〈画素の構成例〉
さらに、画素51の構成は、例えば図9に示す構成とすることも可能である。なお、図9において図7における場合と対応する部分には同一の符号を付してあり、その説明は適宜省略する。
図9に示す画素51の構成は、電荷蓄積部67の対向電極およびリセットゲート部70が、電源VDDの代わりに可変電源VCBに接続されている点で図7に示した画素51の構成と異なり、その他の点では図7に示した画素51と同じ構成となっている。
可変電源VCBの電源電圧VCBは、例えば、高レベルの電圧VHまたは低レベルの電圧VLに設定される。例えば、電圧VHは電源電圧VDDと同様のレベルに設定され、電圧VLはグランドレベルに設定される。
〈第2の実施の形態〉
〈画素の構成例〉
ところで、車両には夜間の前方認識のために前照灯が設けられており、前照灯により車両前方にある被写体を照明することで、その被写体を認識することができる。しかし、車両前方の遠距離にある被写体を認識するためのハイビームは、対向車に乗車している人や、前方にいる他の人の目に眩しいため、長時間点灯させておくことは望ましくない。そこで、前照灯ハイビームを眩しくならないようにする方法として、一瞬だけハイビームを発光させるフラッシュ制御が考えられる。
一般的に車両で車載カメラにより前方認識を行うときには、暗時には感度の高い光電変換部による受光が有効となる。ところが、フラッシュ制御を行ってハイビームを瞬間的に発光(点灯)させる場合、瞬間的な発光を従来の1/60蓄積のカメラ、すなわち1フレーム分の露光時間が1/60秒であるカメラで捉えても、ハイビームの発光時間に対して露光時間が長過ぎるため、ハイビームが他の環境光に埋もれて見えなくなってしまう。すなわち、撮影で得られた撮影画像では、ハイビームにより照明された遠距離に位置する被写体を認識することが困難となってしまう。
このように、車両の前方にいる人にハイビームを眩しく感じさせないようにすることと、ハイビームにより照明された遠距離に位置する被写体を確実に認識することとを両立させることは困難であった。
そこで、本技術では、図1に示した固体撮像素子11において、フラッシュ制御により瞬間的に発光されるハイビーム(以下、フラッシュハイビームとも称する)に同期させて露光を行うようにし、その結果得られた信号を最大限増幅処理することで、撮影画像において遠方の被写体を認識できるようにした。
そのような場合、例えば図2に示した画素51において、第1転送ゲート部62を介して第1光電変換部61に接続されているFD部63を、露光により得られた電荷を蓄積する信号蓄積部として利用すればよい。また、FD部63の容量を小さくし、FD部63における電荷の電気信号への変換効率を高くしておけば、車両前方の遠距離にある被写体まで効率的に認識(検出)することができる。
〈固体撮像素子の動作について〉
次に、図10のタイミングチャートを参照して、ハイビームの発光に同期させて露光を行う場合における固体撮像素子11の動作について説明する。
なお、図10において、折れ線L51はフラッシュハイビームの発光タイミングを示しており、上に突の状態が、フラッシュハイビームが発光した状態を示している。また、折れ線L52および折れ線L53は、第1光電変換部61の露光タイミング、および第2光電変換部64での露光タイミングを示している。特に、折れ線L52および折れ線L53のそれぞれが上に突となっている期間が露光期間を示している。また、折れ線L52が徐々に図中、上方向に上がっていく部分は第1光電変換部61に電荷が蓄積されていく様子を示している。
折れ線L54乃至折れ線L60は、駆動信号RST、駆動信号TGL、駆動信号TGS、駆動信号FDG、駆動信号FCG、駆動信号ABG、および駆動信号SELを示している。また、各駆動信号は図中、上に突の状態がオンとされた状態を示している。さらに、曲線L61および曲線L62は、画素信号読み出し時の垂直信号線27の電位を示している。
図10では、通常の撮影画像の1フレーム分の期間である1/60秒の期間が期間T31および期間T32に分割されており、それらの期間T31および期間T32は1/120秒の区間となっている。すなわち、ここでは撮影画像のフレームレートが通常の2倍とされており、期間T31においてフラッシュハイビームに同期させた露光が行われ、期間T32に通常の撮影画像の撮影が行われる例となっている。
この例では、一部の領域のみをハイビームで照明するスプリットハイビームやロービームが適切なタイミングで順番に発光される状態で、期間T31および期間T32からなる通常の1フレーム分の期間においてフラッシュハイビームが1度だけ発光する例となっている。
まず、フラッシュハイビームの発光直前のタイミングである時刻t81において、垂直駆動部22は駆動信号RST、駆動信号TGL、および駆動信号FDGをオンすることで、リセットゲート部70、第1転送ゲート部62、および第3転送ゲート部68をオンさせる。これにより、第1光電変換部61、FD部63、およびノード81が電気的に接続され、それらの第1光電変換部61、FD部63、およびノード81がリセットされる。
その後、垂直駆動部22は駆動信号TGLをオフすることで、第1光電変換部61のリセットを解除し、第1光電変換部61での露光を開始させる。
そして、フラッシュハイビームの発光タイミングである時刻t82において、垂直駆動部22は駆動信号FDGをオフすることで第3転送ゲート部68をオフさせ、FD部63とノード81を電気的に切り離す。
また、フラッシュハイビームの発光終了のタイミングである時刻t83において、垂直駆動部22は駆動信号TGLをオンすることで第1転送ゲート部62をオンさせ、第1光電変換部61における光電変換で得られた電荷をFD部63へと転送させ、蓄積させる。
その後、垂直駆動部22は駆動信号TGLをオフすることで第1転送ゲート部62をオフさせ、第1光電変換部61における光電変換で得られた電荷のFD部63への転送を終了させる。これにより、第1光電変換部61での露光が終了する。なお、ここでの第1光電変換部61の露光は、全画素51で一斉に行われる。
このようにパルス発光光源であるフラッシュハイビームの発光期間に同期させたタイミングおよび露光時間で、より感度の高い第1光電変換部61での露光を行うことで、車両前方の遠距離にある被写体をより確実に認識することができるようになる。
時刻t84において、垂直駆動部22は駆動信号RSTをオフすることで、リセットゲート部70をオフさせ、ノード81のリセットを解除する。
このようにして第1光電変換部61での露光により得られた電荷がFD部63に転送されて蓄積されると、垂直駆動部22は各画素行を順番に選択していき、全画素51から画素信号の読み出しを行っていく。
すなわち、時刻t85において、垂直駆動部22は、選択した画素行に供給する駆動信号SELをオンすることで選択トランジスタ72をオンさせ、その画素行の画素51を選択状態とする。また、垂直駆動部22は駆動信号RSTをオンすることでリセットゲート部70をオンさせ、ノード81をリセット状態とする。
このようにして画素51を選択状態とすると、曲線L61に示すようにFD部63に蓄積された電荷の量に応じて垂直信号線27の電位が変化する。
すなわち第1光電変換部61での露光で得られた電荷の量に応じた信号が、増幅トランジスタ71から選択トランジスタ72および垂直信号線27を介してカラム処理部23へと出力される。カラム処理部23は、このようにして増幅トランジスタ71から出力された信号を、第1光電変換部61での露光により得られた画素信号の信号レベルとして読み取る。
時刻t86において、垂直駆動部22は駆動信号FDGをオンすることで第3転送ゲート部68をオンさせ、FD部63およびノード81を電気的に接続させる。これにより、FD部63およびノード81がリセットされる。
時刻t87において、垂直駆動部22は駆動信号FDGをオフすることで第3転送ゲート部68をオフさせ、FD部63およびノード81を電気的に切り離す。これにより、FD部63のリセットが解除される。これにより、曲線L61に示すようにFD部63に蓄積された電荷の量に応じて垂直信号線27の電位が変化する。
この場合、FD部63がリセットされた状態で、FD部63に蓄積されている電荷の量に応じた信号が、増幅トランジスタ71から選択トランジスタ72および垂直信号線27を介してカラム処理部23へと出力される。カラム処理部23は、このようにして増幅トランジスタ71から出力された信号を、第1光電変換部61で得られる画素信号のリセットレベルとして読み取る。
そして、カラム処理部23では、以上において得られた第1光電変換部61についてのリセットレベルと信号レベルとから、第1光電変換部61での露光により得られた画素信号が生成される。これにより、フラッシュハイビームを照明光源とした、車両前方の遠方にある被写体を認識するための撮影画像が得られたことになる。
画素信号の読み出しが行われると、時刻t88において、垂直駆動部22は駆動信号RSTをオフすることでリセットゲート部70をオフさせ、ノード81のリセットを解除する。また、垂直駆動部22は必要に応じて駆動信号SELをオフすることで選択トランジスタ72をオフさせ、画素51の選択状態を解除する。
さらに、時刻t89において、垂直駆動部22は駆動信号RST、駆動信号TGL、駆動信号TGS、駆動信号FDG、および駆動信号FCGをオンする。これにより、リセットゲート部70、第1転送ゲート部62、第2転送ゲート部66、第3転送ゲート部68、および第4転送ゲート部69がオンして、第1光電変換部61、FD部63、ノード81、電荷蓄積部67、および第2光電変換部64が電気的に接続される。そして、これらの第1光電変換部61、FD部63、ノード81、電荷蓄積部67、および第2光電変換部64がリセットされる。
時刻t90において、垂直駆動部22は駆動信号TGLおよび駆動信号TGSをオフすることで、第1転送ゲート部62および第2転送ゲート部66をオフさせ、次フレームまでの第1光電変換部61および第2光電変換部64での露光を開始させる。ここで開始される露光は、通常の撮影画像の撮影のための露光となる。
なお、第1光電変換部61の露光については、上述した位相シフト制御、つまり任意のタイミングでの第1光電変換部61のリセット動作を行って、所望のタイミングで露光が開始されるようにしてもよい。
時刻t91において、垂直駆動部22は駆動信号RSTをオフすることでリセットゲート部70をオフさせて、FD部63、ノード81、および電荷蓄積部67のリセットを解除する。そして、時刻t92において、垂直駆動部22は駆動信号FCGをオフすることで第4転送ゲート部69をオフさせ、ノード81と電荷蓄積部67を電気的に切り離す。
さらに、時刻t93において、垂直駆動部22は駆動信号FDGをオフすることで第3転送ゲート部68をオフさせ、ノード81とFD部63を電気的に切り離す。
以上の時刻t85から時刻t93までの動作が選択状態とされた画素行ごとに順番に行われる。
その後、垂直駆動部22は、適宜、駆動信号TGSおよび駆動信号ABGをオン、オフしながら、上述した第2光電変換部64の非線形なバースト駆動を行う。
例えば時刻t94において垂直駆動部22は、駆動信号RSTおよび駆動信号FDGをオンすることで、リセットゲート部70および第3転送ゲート部68をオンさせるとともに、駆動信号TGSをオンすることで第2転送ゲート部66をオンさせる。
これにより、ノード81とFD部63が電気的に接続されて、それらのノード81とFD部63がリセットされるとともに、第2光電変換部64における光電変換により得られた電荷が、第2転送ゲート部66を介して第2光電変換部64から電荷蓄積部67に転送されて蓄積される。
時刻t95において垂直駆動部22は、駆動信号TGSをオフすることで第2転送ゲート部66をオフさせ、第2光電変換部64からの電荷の転送を終了させる。つまり露光が終了する。また、時刻t94および時刻t95では、駆動信号TGLの点線部分で示されるように、適宜、第1光電変換部61をリセットすることで、第1光電変換部61での露光の開始時刻を任意の時刻に調整するようにしてもよい。
時刻t96において垂直駆動部22は、駆動信号RSTをオフすることで、リセットゲート部70オフさせ、ノード81とFD部63のリセットを解除するとともに、駆動信号ABGをオンすることでアンチブルーミングゲート部65をオンさせ、第2光電変換部64をリセットする。
時刻t97において垂直駆動部22は、駆動信号FDGをオフすることで、第3転送ゲート部68をオフさせ、ノード81とFD部63を電気的に切り離す。その後、垂直駆動部22は、適切なタイミングで駆動信号ABGをオフすることでアンチブルーミングゲート部65をオフさせ、第2光電変換部64での露光を開始させる。
垂直駆動部22は、時刻t94乃至時刻t97の駆動を非線形に繰り返し行うことで、第2光電変換部64の非線形なバースト駆動を行う。図10では、第2光電変換部64の合計露光時間と合計非露光時間とが同じ長さとなる例が示されている。
また、画素51が含まれる画素行からの画素信号読み出しのタイミングとなると、時刻t98において、垂直駆動部22は駆動信号SELをオンすることで選択トランジスタ72をオンさせ、画素51を選択状態とする。
時刻t99において、垂直駆動部22は駆動信号TGSをオンすることで第2転送ゲート部66をオンさせるとともに、駆動信号FDGおよび駆動信号FCGをオンすることで、第3転送ゲート部68および第4転送ゲート部69をオンさせる。
これにより、電荷蓄積部67、ノード81、およびFD部63が電気的に接続された状態となるとともに、第2光電変換部64における光電変換で得られた電荷が、第2転送ゲート部66を介して電荷蓄積部67、ノード81、およびFD部63へと転送され、蓄積される。
また、時刻t100において、垂直駆動部22は駆動信号TGSをオフすることで第2転送ゲート部66をオフさせ、第2光電変換部64からの電荷の転送を終了させる。これにより、第2光電変換部64での露光が終了する。
このような動作が行われると、電荷蓄積部67、ノード81、およびFD部63に、第2光電変換部64での露光により得られた電荷が蓄積された状態となり、曲線L62に示すように蓄積された電荷の量に応じて垂直信号線27の電位が変化する。
すると、電荷蓄積部67、ノード81、およびFD部63に蓄積されている電荷の量に応じた信号が、増幅トランジスタ71から選択トランジスタ72および垂直信号線27を介してカラム処理部23へと出力される。カラム処理部23は、このようにして増幅トランジスタ71から出力された信号を、第2光電変換部64での露光により得られた画素信号の信号レベルとして読み取る。
時刻t101において、垂直駆動部22は駆動信号RSTをオンすることでリセットゲート部70をオンさせ、電荷蓄積部67、ノード81、およびFD部63をリセットする。これにより、曲線L62に示すように、リセット時に電荷蓄積部67、ノード81、およびFD部63に蓄積されている電荷の量に応じて垂直信号線27の電位が変化する。
時刻t102において、垂直駆動部22は駆動信号RSTをオフすることでリセットゲート部70をオフさせ、電荷蓄積部67、ノード81、およびFD部63のリセットを解除する。
この場合、電荷蓄積部67、ノード81、およびFD部63がリセットされた状態で、それらの電荷蓄積部67、ノード81、およびFD部63に蓄積されている電荷の量に応じた信号が、増幅トランジスタ71から選択トランジスタ72および垂直信号線27を介してカラム処理部23へと出力される。
カラム処理部23は、このようにして増幅トランジスタ71から出力された信号を、第2光電変換部64で得られる画素信号のリセットレベルとして読み取る。カラム処理部23では、以上において得られた第2光電変換部64についてのリセットレベルと信号レベルとから、第2光電変換部64での露光により得られた画素信号が生成される。
時刻t103において、垂直駆動部22は駆動信号FCGをオフすることで、第4転送ゲート部69をオフさせ、時刻t104において、垂直駆動部22は駆動信号FDGをオフすることで、第3転送ゲート部68をオフさせる。これにより、電荷蓄積部67、ノード81、およびFD部63が電気的に切り離された状態となり、曲線L62に示すように、リセットされた状態でFD部63に蓄積されている電荷の量に応じて垂直信号線27の電位が変化する。
この場合、FD部63がリセットされている状態で、FD部63に蓄積されている電荷の量に応じた信号が、増幅トランジスタ71から選択トランジスタ72および垂直信号線27を介してカラム処理部23へと出力される。カラム処理部23は、このようにして増幅トランジスタ71から出力された信号を、第1光電変換部61で得られる画素信号のリセットレベルとして読み取る。
時刻t105において、垂直駆動部22は駆動信号TGLをオンして第1転送ゲート部62をオンさせる。これにより、第1光電変換部61における光電変換により得られた電荷が、第1転送ゲート部62を介して第1光電変換部61からFD部63へと転送され、蓄積される。さらに、時刻t106において、垂直駆動部22は駆動信号TGLをオフして第1転送ゲート部62をオフさせることで、第1光電変換部61からの電荷の転送を終了させる。これにより、第1光電変換部61での露光が終了する。
なお、ここでは第1光電変換部61で得られる画素信号の読み出し直前まで第1光電変換部61の露光を行う例について説明した。しかし、画素信号の読み出し開始よりも前に第1光電変換部61の露光を終了させる場合には、上述した図6を参照して説明した駆動を行うようにすればよい。
第1光電変換部61での露光が終了すると、第1光電変換部61から転送された電荷がFD部63に蓄積された状態となり、曲線L62に示すようにFD部63に蓄積されている電荷の量に応じて垂直信号線27の電位が変化する。
そのため、FD部63に蓄積されている電荷の量、すなわち第1光電変換部61での露光で得られた電荷の量に応じた信号が、増幅トランジスタ71から選択トランジスタ72および垂直信号線27を介してカラム処理部23へと出力される。カラム処理部23は、このようにして増幅トランジスタ71から出力された信号を、第1光電変換部61での露光により得られた画素信号の信号レベルとして読み取る。
カラム処理部23では、以上において得られた第1光電変換部61についてのリセットレベルと信号レベルとから、第1光電変換部61での露光により得られた画素信号が生成される。そして、このようにして得られた第1光電変換部61についての画素信号と、第2光電変換部64についての画素信号とがHDR合成され、ダイナミックレンジが拡大された撮影画像の画素の画素信号とされる。
時刻t107において、垂直駆動部22は駆動信号RST、駆動信号TGL、駆動信号TGS、駆動信号FCG、および駆動信号FDGをオンすることで、リセットゲート部70、第1転送ゲート部62、第2転送ゲート部66、第4転送ゲート部69、および第3転送ゲート部68をオンさせる。
これにより、第1光電変換部61、FD部63、ノード81、電荷蓄積部67、および第2光電変換部64が電気的に接続され、それらの第1光電変換部61、FD部63、ノード81、電荷蓄積部67、および第2光電変換部64がリセットされる。
時刻t108において、垂直駆動部22は駆動信号TGLおよび駆動信号TGSをオフすることで、第1転送ゲート部62および第2転送ゲート部66をオフさせる。また、時刻t109において、垂直駆動部22は駆動信号RSTをオフすることでリセットゲート部70をオフさせ、FD部63、ノード81、および電荷蓄積部67のリセットを解除する。
時刻t110において、垂直駆動部22は駆動信号FCGをオフすることで第4転送ゲート部69をオフさせ、電荷蓄積部67とノード81を電気的に切り離す。さらに時刻t111において、垂直駆動部22は駆動信号FDGをオフすることで第3転送ゲート部68をオフさせ、FD部63とノード81とを電気的に切り離すとともに、駆動信号SELをオフすることで選択トランジスタ72をオフさせ、画素51の選択状態を解除する。
以上において説明したシャッタ駆動を行うことで、通常の1フレーム分の期間である1/60秒間の間に、フラッシュハイビームを照明光源とした、車両前方の遠方にある被写体を認識するための撮影画像と、通常の撮影画像とを同時に取得することができる。
〈第3の実施の形態〉
〈画素の構成例〉
ところで、図2に示した画素51の構成では、画素51内に設けられた2つの光電変換部のうち、第2光電変換部64にはアンチブルーミングゲート部65が接続されており、非線形なバースト駆動が可能とされていた。これに対して、第1光電変換部61にはアンチブルーミングゲート部が接続されておらず、バースト駆動ができない構成となっていた。
しかし、第1光電変換部61にもアンチブルーミングゲート部を接続する構成とすれば、さらに高付加価値な固体撮像素子11、すなわち高付加価値な車載カメラを提供することができる。
そのような場合、画素アレイ部21に設けられる各単位画素は、例えば図11に示すように構成される。なお、図11において図2における場合と対応する部分には同一の符号を付してあり、その説明は適宜省略する。
図11に示す単位画素である画素111は、第1光電変換部61、第1転送ゲート部62、FD部63、第2光電変換部64、アンチブルーミングゲート部65、第2転送ゲート部66、電荷蓄積部67、第3転送ゲート部68、第4転送ゲート部69、リセットゲート部70、増幅トランジスタ71、選択トランジスタ72、およびアンチブルーミングゲート部121を有している。
画素111の構成は、第1光電変換部61に対してアンチブルーミングゲート部121が接続されている点で図2の画素51の構成と異なり、その他の点では画素51と同じ構成となっている。
すなわち、画素111では、画素111内の各光電変換部に、転送ゲート部を介して電荷を蓄積する領域が接続され、かつ各光電変換部にアンチブルーミングゲート部も接続されて、それらの光電変換部の非線形なバースト駆動が可能な構成となっている。
アンチブルーミングゲート部121は、第1光電変換部61と電源VDDとの間に接続されており、アンチブルーミングゲート部121のゲート電極には垂直駆動部22から駆動信号AGLが供給される。この駆動信号AGLがオンとなると、アンチブルーミングゲート部121がオンされて、第1光電変換部61に蓄積されている電荷がアンチブルーミングゲート部121を介して排出される。すなわち、第1光電変換部61の電位が電源電圧VDDのレベルにリセットされる。
このように光電変換部に対して、転送ゲート部を介して電荷の蓄積領域を接続するとともに、さらにアンチブルーミングゲート部を接続した構成は、光飛行時間計測法により対象物までの距離を測定するToF(Time of Flight)測距センサの機能を実現可能な構成である。したがって、このような画素111が設けられた固体撮像素子11を、ToF測距センサとしても機能させることが可能である。
特に画素111には、より感度の高い第1光電変換部61と、より感度の低い第2光電変換部64といった感度の異なる光電変換部が設けられているため、輝度の高い近距離の対象物と輝度の低い遠距離の対象物とを効率的に検出することができる。
ここで、ToF測距センサについて説明する。
近年、パーソナルコンピュータ用やゲーム用などのToF測距センサが一般販売されるようになったが、それらのToF測距センサは、Continuous Wave方式と呼ばれる方式で測距が行われるものである。
Continuous Wave方式では、例えば1フレーム期間である1/60秒内で、対象距離の光飛行時間に応じた周波数で、繰り返し光電変換部のリセット、および光電変換部から電荷蓄積部への電荷の転送が行われる。そして、1フレーム期間で累積的に蓄積された電荷に対応する信号から、対象物までの距離を求める測距演算が行われる。
しかし、Continuous Wave方式では、外来光やノイズも1フレーム期間、蓄積されてしまうため、日中の屋外や太陽光下での環境光ノイズの影響が大きく、確実に対象物までの距離を測定することができない場合があった。
近年、車載用のToF測距センサとしては、太陽光を受光できないほどの短い時間に発光から受光までの動作を行うone pulse方式のものが主流となっている。
例えばこれを2次元化する方法として、1dot光源および1センサで2Dスキャンする方法や、1ライン光源および1ラインセンサで1Dスキャンする方法、2Dフラッシュ光源および2Dセンサでの非スキャン方法があり、それらの方法で測距を行うセンサが商品化されている。
〈固体撮像素子の動作について〉
一方で、車載ヘッドライトのレーザ化も実現されている。そこで、固体撮像素子11での受光タイミングを、この車載ヘッドライトである2Dレーザのフラッシュパルス駆動と同期させれば、固体撮像素子11を用いた測距が可能となる。
このように固体撮像素子11をToF測距センサとしても機能させる場合、例えば図12に示すように固体撮像素子11を駆動させればよい。ここでは、固体撮像素子11が搭載された車載センサが装備された車両のヘッドライド、すなわちフラッシュハイビームがToF測距時の光源(パルス発光光源)として使用されるものとする。
なお、図12において、折れ線L71はフラッシュハイビームの発光タイミングを示しており、上に突の状態が、フラッシュハイビームが発光した状態を示している。
また、折れ線L72乃至折れ線L79は、駆動信号RST、駆動信号TGL、駆動信号TGS、駆動信号FDG、駆動信号FCG、駆動信号AGL、駆動信号ABG、および駆動信号SELを示している。また、各駆動信号は図中、上に突の状態がオンとされた状態を示している。さらに、曲線L80乃至曲線L83は、画素信号読み出し時の垂直信号線27の電位を示している。また、図12において矢印Q11により示される部分を拡大表示したものが矢印Q12に示す部分となっている。
固体撮像素子11において、ToF測距を行うと同時に通常の撮影画像も取得できるようにする場合、one pulse方式で用いられるような、時間を直接読み取るTime to Digital Converterを利用することはできない。
そこで、固体撮像素子11では、Continuous Wave方式と同じように、位相の変化を信号レベルの変化に置き換えるPPM(Pulse Phase Modulation)方式を用いるコンビネーション方式により測距が行われる。
PPM方式では、最低180度位相がずれた駆動検出が必要であるが、近距離の進相は反射光も大きく、遠距離の遅相は反射光が小さいことを利用して、近距離位相を第2光電変換部64で受け、遠距離位相を第1光電変換部61で受けるような駆動制御とされる。
なお、第1光電変換部61と第2光電変換部64の感度差は、HDR合成のために事前に分かっているので補正可能である。また背景光やノイズの除去には、フレームシーケンシャル方式が用いられて、信号フレームと背景ノイズフレームの差分を取れるようにされている。さらに、フレームシーケンシャル方式で通常の撮影画像を取得するフレームも加えると、通常のフレームレートに対して3倍から4倍速とすれば、通常の撮影画像の取得とToF測距とを両立することが可能である。
フレームシーケンシャル方式によるフレームレートの低下が問題となる場合や、動被写体において信号フレームと背景ノイズフレームの差分の時間差が問題となる場合には、第1光電変換部61と第2光電変換部64のそれぞれに、転送ゲート部を介した電荷蓄積部をさらにもう1セット追加した2tap構造としてもよい。これにより、フレームレート低下を抑制したり、動被写体時の差分誤差を低減させることができる。このような2tap構造は、ToF測距センサでは一般的な構造である。
続いて、固体撮像素子11のより具体的な駆動について説明する。
この例では、通常の1フレーム分の期間である1/60秒が3つまたは4つのフレームに分割されて、ToF測距と、通常の撮影画像の取得とが行われる。以下では、1/60秒である通常の1フレーム期間を分割して得られたフレームを分割フレームとも称することとする。
図12では、期間T41と期間T42のそれぞれが分割フレームの期間を示しており、それらの分割フレームの期間は、例えば1/180秒や1/240秒などとされる。
まず、最初の分割フレームである期間T41では、垂直駆動部22はパルス発光光源であるフレッシュハイビームの発光タイミングに基づいて、第1光電変換部61および第2光電変換部64での露光を制御することで、光飛行時間計測法による測距を制御する。
具体的には、フラッシュハイビーム発光直前のタイミングである時刻t141において、垂直駆動部22は駆動信号RST、駆動信号TGL、駆動信号TGS、駆動信号FDG、駆動信号FCG、駆動信号AGL、および駆動信号ABGをオンする。これにより、リセットゲート部70、第1転送ゲート部62、第2転送ゲート部66、第3転送ゲート部68、第4転送ゲート部69、アンチブルーミングゲート部121、およびアンチブルーミングゲート部65がオンする。
その結果、第1光電変換部61、FD部63、ノード81、電荷蓄積部67、および第2光電変換部64が電気的に接続されて、それらの第1光電変換部61、FD部63、ノード81、電荷蓄積部67、および第2光電変換部64がリセットされる。
時刻t142において、垂直駆動部22は駆動信号TGLおよび駆動信号TGSをオフすることで、第1転送ゲート部62および第2転送ゲート部66をオフさせる。これにより、第1光電変換部61とFD部63が電気的に切り離されるとともに、第2光電変換部64と電荷蓄積部67が電気的に切り離される。
時刻t143において、垂直駆動部22は駆動信号FCGをオフすることで第4転送ゲート部69をオフさせ、電荷蓄積部67とノード81を電気的に切り離す。
そして、フラッシュハイビームの発光タイミングである時刻t144において、垂直駆動部22は駆動信号ABGをオフすることでアンチブルーミングゲート部65をオフさせ、第2光電変換部64のリセットを解除する。これにより、第2光電変換部64での露光が開始される。
また、時刻t144では、垂直駆動部22は駆動信号FDGをオフすることで第3転送ゲート部68をオフさせ、FD部63とノード81を電気的に切り離す。
時刻t145において、垂直駆動部22は駆動信号TGSをオンすることで第2転送ゲート部66をオンさせる。これにより、第2光電変換部64と電荷蓄積部67が電気的に接続され、第2光電変換部64における光電変換により得られた電荷が、第2転送ゲート部66を介して第2光電変換部64から電荷蓄積部67に転送されて蓄積される。
また、フラッシュハイビームの発光終了タイミングである時刻t146において垂直駆動部22は、駆動信号TGSをオフすることで第2転送ゲート部66をオフさせ、第2光電変換部64からの電荷の転送を終了させる。すなわち、第2光電変換部64での露光が終了する。
同時に、時刻t146において、垂直駆動部22は駆動信号AGLをオフすることでアンチブルーミングゲート部121をオフさせ、第1光電変換部61のリセットを解除する。これにより、第1光電変換部61での露光が開始される。
第2光電変換部64での露光開始に対して、第1光電変換部61での露光開始の時刻が遅いのは、第2光電変換部64により近距離にある対象物までの距離を測定するのに対して、第1光電変換部61により遠距離にある対象物までの距離を測定することを想定しているからである。
時刻t147において、垂直駆動部22は駆動信号TGLをオンすることで第1転送ゲート部62をオンさせる。これにより、第1光電変換部61とFD部63が電気的に接続され、第1光電変換部61における光電変換により得られた電荷が、第1転送ゲート部62を介して第1光電変換部61からFD部63に転送されて蓄積される。
時刻t148において、垂直駆動部22は駆動信号TGLをオフすることで第1転送ゲート部62をオフさせ、第1光電変換部61からの電荷の転送を終了させる。すなわち、第1光電変換部61での露光が終了する。
同時に、時刻t148において、垂直駆動部22は駆動信号RSTをオフすることでリセットゲート部70をオフさせ、ノード81のリセットを解除するとともに、駆動信号ABGをオンすることでアンチブルーミングゲート部65をオンさせ、第2光電変換部64をリセットする。
さらに、時刻t149において、垂直駆動部22は駆動信号AGLをオンすることでアンチブルーミングゲート部121をオンさせ、第1光電変換部61をリセットする。以上の動作により、ToF測距のためのフラッシュハイビームの発光と、そのフラッシュハイビームの対象物での反射光の受光が行われる。これらの動作は、全ての画素111で同時に行われる。
ここで、時刻t148および時刻t149において、第2光電変換部64および第1光電変換部61をリセット状態とするのは、露光終了後に、それらの第2光電変換部64および第1光電変換部61における光電変換により得られた電荷が電荷蓄積部67やFD部63へと溢れ出てしまうことを防止するためである。
また、上述したように第2光電変換部64の露光期間は、時刻t144から時刻t146までの期間T51である。これに対して、第1光電変換部61の露光期間は、時刻t146から時刻t148までの期間T52である。
ここで、例えばフラッシュハイビームの発光期間である時刻t144から時刻t146までの期間の長さ、すなわちフラッシュハイビームの発光時間が167nsecであるとする。この場合、光速c=299792458m/sとすると、167nsecの間にフラッシュハイビームは約50mだけ進むことになる。また、期間T51および期間T52の長さはともに167nsecであるとする。
この場合、期間T51を露光期間とする第2光電変換部64では、固体撮像素子11、すなわち固体撮像素子11を有する車載センサが搭載された車両から、0m乃至25mの間にある対象物で反射して戻ってきたフラッシュハイビームの光を受光することができる。
これに対して、期間T52を露光期間とする第1光電変換部61では、固体撮像素子11から、25m乃至50mの間にある対象物で反射して戻ってきたフラッシュハイビームの光を受光することができる。
そのため、例えば信号処理部28等において、第1光電変換部61での露光で得られた画素信号(以下、大信号とも称する)と、第2光電変換部64での露光で得られた画素信号(以下、小信号とも称する)とを感度比を補正してから比較することで、固体撮像素子11から対象物までの距離を算出することができる。
すなわち、例えば折れ線L71における矢印W11に示すタイミングでパルス発光されたフラッシュハイビームが、固体撮像素子11からの距離が0mである対象物で反射して戻ってくると、その反射光は矢印W12により示されるタイミングで受光されることになる。この場合、発光されたフラッシュハイビームの光量を1としたときの小信号と大信号に含まれるフラッシュハイビーム成分の量、つまりフラッシュハイビーム成分の小信号と大信号の信号値への配分は小信号:大信号=1:0となる。
また、フラッシュハイビームが、固体撮像素子11から12.5mの位置にある対象物で反射して戻ってくると、その反射光は矢印W13により示されるタイミングで受光されることになり、このときのフラッシュハイビームの配分は、小信号:大信号=0.5:0.5となる。
さらにフラッシュハイビームが、固体撮像素子11から25mの位置にある対象物で反射して戻ってくると、その反射光は矢印W14により示されるタイミングで受光されることになり、このときのフラッシュハイビームの配分は、小信号:大信号=0:1となる。
同様にフラッシュハイビームが、固体撮像素子11から37.5mの位置にある対象物で反射して戻ってくると、その反射光は矢印W15により示されるタイミングで受光されることになり、このときのフラッシュハイビームの配分は、小信号:大信号=0:0.5となる。
さらにフラッシュハイビームが、固体撮像素子11から50mの位置にある対象物で反射して戻ってくると、その反射光は矢印W16により示されるタイミングで受光されることになり、このときのフラッシュハイビームの配分は、小信号:大信号=0:0となる。
このように対象物までの距離が0mから50mまでの間では、フラッシュハイビームの小信号と大信号の信号値への配分が線形に(アナログ的に)変化するため、小信号と大信号とを比較することで、対象物までの距離を算出することができる。
以上のようにしてフラッシュハイビームに対する第1光電変換部61および第2光電変換部64での露光が終了すると、垂直駆動部22は各画素行を順番に画素信号の読み出しを行う画素行として選択していき、各画素111から画素信号を読み出していく。
すなわち、時刻t150において、垂直駆動部22は駆動信号RSTをオンすることでリセットゲート部70をオンさせる。また、時刻t150において、垂直駆動部22は駆動信号SELをオンすることで選択トランジスタ72をオンさせ、画素111を選択状態とする。
このとき露光動作時に第1光電変換部61から転送された電荷がFD部63に蓄積された状態となっている。そのため、FD部63に蓄積されている電荷の量、すなわち第1光電変換部61での露光で得られた電荷の量に応じた信号が、増幅トランジスタ71から選択トランジスタ72および垂直信号線27を介してカラム処理部23へと出力される。これにより、曲線L80に示すようにFD部63に蓄積されている電荷の量に応じて垂直信号線27の電位が変化する。
カラム処理部23は、このようにして増幅トランジスタ71から出力された信号を、第1光電変換部61での露光により得られた画素信号の信号レベルとして読み取る。
時刻t151において、垂直駆動部22は駆動信号FDGをオンすることで第3転送ゲート部68をオンさせ、FD部63とノード81とを電気的に接続させる。これにより、FD部63とノード81とがリセットされる。
時刻t152において、垂直駆動部22は駆動信号FDGをオフすることで第3転送ゲート部68をオフさせ、FD部63とノード81とを電気的に切り離す。
この場合、FD部63がリセットされている状態で、FD部63に蓄積されている電荷の量に応じた信号が、増幅トランジスタ71から選択トランジスタ72および垂直信号線27を介してカラム処理部23へと出力される。これにより、曲線L80に示すように、リセットされたFD部63に蓄積されている電荷の量に応じて垂直信号線27の電位が変化する。
カラム処理部23は、このようにして増幅トランジスタ71から出力された信号を、第1光電変換部61で得られる画素信号のリセットレベルとして読み取る。
カラム処理部23では、以上において得られた第1光電変換部61についてのリセットレベルと信号レベルとから、第1光電変換部61での露光により得られた画素信号が生成される。
時刻t153において、垂直駆動部22は駆動信号RSTをオフすることでリセットゲート部70をオフさせ、ノード81のリセットを解除する。また、時刻t153において、垂直駆動部22は駆動信号AGLをオフすることでアンチブルーミングゲート部121をオフさせ、第1光電変換部61のリセットを解除する。
時刻t154において、垂直駆動部22は駆動信号FDGおよび駆動信号FCGをオンすることで、第3転送ゲート部68および第4転送ゲート部69をオンさせる。これにより、電荷蓄積部67、ノード81、およびFD部63が電気的に接続された状態となる。
電荷蓄積部67には、露光動作時に第2光電変換部64から転送された電荷が蓄積されているから、電荷蓄積部67、ノード81、およびFD部63が電気的に接続されると、それらの電荷蓄積部67、ノード81、およびFD部63に、第2光電変換部64での露光により得られた電荷が蓄積された状態となる。
すると、電荷蓄積部67、ノード81、およびFD部63に蓄積されている電荷の量に応じた信号が、増幅トランジスタ71から選択トランジスタ72および垂直信号線27を介してカラム処理部23へと出力される。これにより、曲線L81に示すように、電荷蓄積部67、ノード81、およびFD部63に蓄積されている電荷の量に応じて垂直信号線27の電位が変化する。
カラム処理部23は、このようにして増幅トランジスタ71から出力された信号を、第2光電変換部64での露光により得られた画素信号の信号レベルとして読み取る。
時刻t155において、垂直駆動部22は駆動信号RSTをオンすることでリセットゲート部70をオンさせる。これにより、電荷蓄積部67、ノード81、およびFD部63がリセットされる。そして、時刻t156において、垂直駆動部22は駆動信号RSTをオフすることでリセットゲート部70をオフさせ、電荷蓄積部67、ノード81、およびFD部63のリセットを解除する。
この場合、電荷蓄積部67、ノード81、およびFD部63がリセットされた状態で、それらの電荷蓄積部67、ノード81、およびFD部63に蓄積されている電荷の量に応じた信号が、増幅トランジスタ71から選択トランジスタ72および垂直信号線27を介してカラム処理部23へと出力される。これにより、曲線L81に示すように、リセットされた電荷蓄積部67、ノード81、およびFD部63に蓄積されている電荷の量に応じて垂直信号線27の電位が変化する。
カラム処理部23は、このようにして増幅トランジスタ71から出力された信号を、第2光電変換部64で得られる画素信号のリセットレベルとして読み取る。
カラム処理部23では、第2光電変換部64についてのリセットレベルと信号レベルとから、第2光電変換部64での露光により得られた画素信号が生成される。
そして、このようにして得られた第1光電変換部61についての画素信号(大信号)と、第2光電変換部64についての画素信号(小信号)とが、第1光電変換部61と第2光電変換部64との感度比に基づいて補正される。
時刻t157において、垂直駆動部22は駆動信号RSTをオンすることでリセットゲート部70をオンさせるとともに、駆動信号TGLおよび駆動信号TGSをオンすることで、第1転送ゲート部62および第2転送ゲート部66をオンさせる。これにより、第1光電変換部61および第2光電変換部64と、電荷蓄積部67、ノード81、およびFD部63とがリセットされる。
その後、時刻t158において、垂直駆動部22は駆動信号TGLおよび駆動信号TGSをオフすることで、第1転送ゲート部62および第2転送ゲート部66をオフさせる。さらに時刻t159において、垂直駆動部22は駆動信号RSTをオフすることでリセットゲート部70をオフさせる。これにより、画素111の各部のリセットが解除される。
そして、時刻t160において、垂直駆動部22は駆動信号FCGをオフすることで、第4転送ゲート部69をオフさせ、時刻t161において、垂直駆動部22は駆動信号FDGをオフすることで、第3転送ゲート部68をオフさせる。これにより、電荷蓄積部67、ノード81、およびFD部63が電気的に切り離された状態となる。
また、時刻t161では、垂直駆動部22は駆動信号SELをオフすることで選択トランジスタ72をオフさせ、画素111の選択状態を解除する。
以上のように、期間T41においてフラッシュハイビーム発光時の大信号と小信号が得られると、固体撮像素子11は、続く期間T42においては期間T41と同じ動作を行い、大信号と小信号を得る。
但し、期間T42ではフラッシュハイビームは発光しない(非発光)ので、期間T42で得られる大信号と小信号は、フラッシュハイビーム以外の背景光の成分とノイズ成分のみが含まれた信号となる。
そこで、信号処理部28は、期間T41で得られた大信号から、期間T42で得られた大信号を減算することで、フラッシュハイビーム成分のみが含まれる大信号を算出する。同様に、信号処理部28は、期間T41で得られた小信号から、期間T42で得られた小信号を減算することで、フラッシュハイビーム成分のみが含まれる小信号を算出する。
このようにして得られたフラッシュハイビーム成分のみが含まれる大信号と小信号を比較すれば、より高精度に、かつより確実に対象物までの距離を算出することができる。
しかも、固体撮像素子11では、より感度の高い第1光電変換部61を遠距離にある対象物を検出するのに用い、より感度の低い第2光電変換部64を近距離にある対象物を検出するのに用いることで、より測距範囲を広くすることができる。また、より感度の高い第1光電変換部61を遠距離にある対象物の検出に用いることで、遠距離にある対象物までの測距性能を向上させることができる。
さらに、固体撮像素子11では、通常の撮影画像を得るときに2つの光電変換部の感度差と、それらの光電変換部での露光時間の制御とにより、シャッタ速度を極端に速くすることを回避することができ、動被写体の滑らかさを表現することができる。
なお、ここでは第1光電変換部61と第2光電変換部64での露光を同時に行って測距を行うようにする例について説明した。しかし、以上において説明したToF測距は、1つの光電変換部と、その光電変換部に接続された電荷を蓄積する領域を用いてフレームシーケンシャルに処理を行うことでも実現可能である。そこで、何れか一方の光電変換部のみを用いて測距を行うようにしてもよい。
例えばフレームシーケンシャルにToF測距を行う場合、第1光電変換部61を利用して0m乃至25mまでの間にある対象物を検出するための発光および露光を行い、続いて第1光電変換部61利用して25m乃至50mまでの間にある対象物を検出するための発光および露光を行うなどとすればよい。なお、この場合、より感度の高い第1光電変換部61を用いるか、またはよりダイナミックレンジの広い第2光電変換部64を用いるかは、周囲の環境等、つまり環境光等に応じて選択すればよい。
さらに期間T42に続く分割フレームでは、図5や図6を参照して説明した駆動により通常の撮影画像の撮影を行ったり、図10を参照して説明した駆動によりフラッシュハイビームに同期した撮影画像の撮影を行ったりすることができる。
例えば通常の1フレーム期間を分割したときの1番目および2番目の分割フレームである期間T41および期間T42以降に通常の撮影画像を取り込む場合、通常の撮影画像は、測距への影響がないようにするには、3番目の分割フレームから4番目の分割フレームの間で取り込む4フレームシーケンシャル動作とするのがよい。
しかし、2番目の分割フレームの各画素行からの画素信号の読み出し後から、電荷の蓄積、すなわち露光を開始することで、3フレームシーケンシャル動作に短縮することもできる。つまり、3番目の分割フレームまでで撮影画像を得ることができる。
そのような場合には、撮影画像の撮影制御として、2番目の分割フレームでの画素信号の読み出し後、図10に示した期間T31における第2光電変換部64の非線形なバースト駆動開始以降の動作、すなわち、時刻t94乃至時刻t111の動作を行うようにすればよい。
以上において説明した駆動により、通常の撮影画像の取得と、フラッシュハイビームを照明光源とした、車両前方の遠方にある被写体を認識するための撮影画像の取得と、ToF測距とを1つの固体撮像素子11により実現することができる。これにより、より安価で高機能な車載センサを実現することができる。
〈撮像装置の構成例〉
さらに、本技術は、車載センサや、監視カメラ、デジタルスチルカメラやビデオカメラ等の撮像装置や、撮像機能を有する携帯端末装置など、光電変換部に固体撮像素子を用いる電子機器全般に対して適用可能である。
図13は、本技術を適用した電子機器としての、撮像装置の構成例を示す図である。
図13の撮像装置901は、レンズ群などからなる光学部911、固体撮像素子(撮像デバイス)912、およびカメラ信号処理回路であるDSP回路913を備える。また、撮像装置901は、フレームメモリ914、記録部915、操作部916、および電源部917も備える。DSP回路913、フレームメモリ914、記録部915、操作部916および電源部917は、バスライン918を介して相互に接続されている。
光学部911は、被写体からの入射光(像光)を取り込んで固体撮像素子912の撮像面上に結像する。固体撮像素子912は、光学部911によって撮像面上に結像された入射光の光量を画素単位で電気信号に変換して画素信号として出力する。この固体撮像素子912は、図1に示した固体撮像素子11に対応する。
記録部915は、固体撮像素子912で撮影された動画像または静止画像を、ビデオテープやDVD(Digital Versatile Disk)等の記録媒体に記録する。
操作部916は、ユーザによる操作の下に、撮像装置901が持つ様々な機能について操作指令を発する。電源部917は、DSP回路913、フレームメモリ914、記録部915および操作部916の動作電源となる各種の電源を、これら供給対象に対して適宜供給する。
なお、上述した実施形態においては、可視光の光量に応じた信号を検知する画素が行列状に配置されてなる固体撮像素子に適用した場合を例に挙げて説明した。しかしながら、本技術はそのような固体撮像素子の適用に限られるものではなく、固体撮像素子全般に対して適用可能である。
〈固体撮像素子の使用例〉
図14は、上述の固体撮像素子(イメージセンサ)を使用する使用例を示す図である。
上述した固体撮像素子は、例えば、以下のように、可視光や、赤外光、紫外光、X線等の光をセンシングする様々なケースに使用することができる。
・ディジタルカメラや、カメラ機能付きの携帯機器等の、鑑賞の用に供される画像を撮影する装置
・自動停止等の安全運転や、運転者の状態の認識等のために、自動車の前方や後方、周囲、車内等を撮影する車載用センサ、走行車両や道路を監視する監視カメラ、車両間等の測距を行う測距センサ等の、交通の用に供される装置
・ユーザのジェスチャを撮影して、そのジェスチャに従った機器操作を行うために、TVや、冷蔵庫、エアーコンディショナ等の家電に供される装置
・内視鏡や、赤外光の受光による血管撮影を行う装置等の、医療やヘルスケアの用に供される装置
・防犯用途の監視カメラや、人物認証用途のカメラ等の、セキュリティの用に供される装置
・肌を撮影する肌測定器や、頭皮を撮影するマイクロスコープ等の、美容の用に供される装置
・スポーツ用途等向けのアクションカメラやウェアラブルカメラ等の、スポーツの用に供される装置
・畑や作物の状態を監視するためのカメラ等の、農業の用に供される装置
また、本技術の実施の形態は、上述した実施の形態に限定されるものではなく、本技術の要旨を逸脱しない範囲において種々の変更が可能である。
さらに、本技術は、以下の構成とすることも可能である。
(1)
複数の単位画素が配置されている画素アレイ部と、
前記単位画素の動作を制御する駆動部と
を備え、
前記単位画素は複数の光電変換部を有し、
前記複数の前記光電変換部のうちの1または複数の前記光電変換部には、前記光電変換部ごとに、
前記光電変換部における光電変換により得られた電荷を転送する転送ゲートと、
前記転送ゲートを介して前記光電変換部から転送された電荷を蓄積する電荷蓄積部と、
前記光電変換部をリセットするアンチブルーミングゲート部と
が接続されている
固体撮像素子。
(2)
前記駆動部は、前記1または複数の前記光電変換部について、1フレーム期間において前記光電変換部をリセットしてから前記光電変換部の露光を行う露光動作と、前記露光により得られた電荷を前記電荷蓄積部に転送する転送動作とを複数回繰り返すバースト駆動を行う
(1)に記載の固体撮像素子。
(3)
前記駆動部は、前記露光動作時の露光時間を変化させながら前記バースト駆動を行う
(2)に記載の固体撮像素子。
(4)
前記駆動部は、前記バースト駆動による複数回の前記露光の重心位置と、前記バースト駆動を行わない前記光電変換部の露光の重心位置とが略一致するように、前記バースト駆動を行わない前記光電変換部の露光を制御する
(2)または(3)に記載の固体撮像素子。
(5)
前記駆動部は、前記光電変換部の露光が所定のパルス光源の発光に同期するように、前記光電変換部の露光を制御する
(1)乃至(4)の何れか一項に記載の固体撮像素子。
(6)
前記駆動部は、所定のパルス光源の発光タイミングに基づいて前記光電変換部の露光を制御することで、光飛行時間計測法による測距を制御する
(1)に記載の固体撮像素子。
(7)
前記駆動部は、より感度の低い前記光電変換部によって、より近距離にある対象物が検出され、より感度の高い前記光電変換部によって、より遠距離にある対象物が検出されるように、前記光電変換部の露光を制御する
(6)に記載の固体撮像素子。
(8)
複数の単位画素が配置されている画素アレイ部と、
前記単位画素の動作を制御する駆動部と
を備え、
前記単位画素は複数の光電変換部を有し、
前記複数の前記光電変換部のうちの1または複数の前記光電変換部には、前記光電変換部ごとに、
前記光電変換部における光電変換により得られた電荷を転送する転送ゲートと、
前記転送ゲートを介して前記光電変換部から転送された電荷を蓄積する電荷蓄積部と、
前記光電変換部をリセットするアンチブルーミングゲート部と
が接続されている固体撮像素子の駆動方法であって、
前記駆動部が、前記1または複数の前記光電変換部について、1フレーム期間において前記光電変換部をリセットしてから前記光電変換部の露光を行う露光動作と、前記露光により得られた電荷を前記電荷蓄積部に転送する転送動作とを複数回繰り返すバースト駆動を行う
ステップを含む駆動方法。
(9)
複数の単位画素が配置されている画素アレイ部と、
前記単位画素の動作を制御する駆動部と
を備える固体撮像素子を有し、
前記単位画素は複数の光電変換部を有し、
前記複数の前記光電変換部のうちの1または複数の前記光電変換部には、前記光電変換部ごとに、
前記光電変換部における光電変換により得られた電荷を転送する転送ゲートと、
前記転送ゲートを介して前記光電変換部から転送された電荷を蓄積する電荷蓄積部と、
前記光電変換部をリセットするアンチブルーミングゲート部と
が接続されている
電子機器。