以下、本発明の一実施形態について図面を参照して説明する。図1は、本実施形態における撮像装置の構成を示したブロック図である。図示する例では、撮像装置1は、レンズ11と、撮像部12(固体撮像素子)と、画像処理部13と、AF(オートフォーカス)評価値演算部14と、撮像制御部15と、手振れ検出部16と、手振れ補正部17と、AF制御部18と、カメラ操作部19と、カメラ制御部20とを備えている。なお、図には表示部21とメモリーカード22とが記載されているが、これらは撮像装置1に対して着脱可能に構成されているために、撮像装置1に固有の構成でなくても構わない。
レンズ11は、被写体の光学像を撮像部12の撮像素子の撮像面に結像するための撮影レンズである。撮像部12は、入射光量に応じた信号電荷を発生させる光電変換部と光電変換部が発生した信号電荷を蓄積する電荷蓄積部とを有した画素を2次元状に複数配列した画素部を備えている。画素の構成については後述する。また、撮像部12は、静止画像を生成するための信号電荷を読み出す第1読出部121と、カメラ制御用画像データ(画素データ)を読み出す第2読出部122とを備えている。撮像部12は、レンズ11により結像された被写体の光学像を光電変換して、デジタル信号に変換してから出力する。この撮像部12は、少なくとも、全画素の露光開始時刻および露光終了時刻を同一とするグローバルシャッタによる動作を行い得るように構成されている。また、撮像部12は、グローバルシャッタによる動作に加えて、例えばライン単位(または画素単位)で順次露光を行うローリングシャッタによる動作を行い得るように構成されていても構わない。
撮像制御部15は、読出制御部150と、第1読出順序選択部151(選択部)と、第2読出順序選択部152(選択部)とを備えており、カメラ制御部20からの指令に基づいて、撮像部12を駆動し、露光制御や、読み出し領域や、読み出しタイミング等の制御などを行う。読出制御部150は、静止画像を生成するための信号電荷を電荷蓄積部から読み出すように第1読出部121を制御し、カメラ制御用画像データ(画素データ)として使用する信号電荷を電荷蓄積部から読み出すように第2読出部122を制御する。第1読出順序選択部151は、第2読出部122が所望の順序でカメラ制御用画像データを読み出せるよう、第1読出部121が信号電荷を読み出す画素領域の順を選択する。第2読出順序選択部152は、第2読出部122がカメラ制御用画像データを読み出す画素領域の順を選択する。
画像処理部13は、撮像部12から出力される画像信号に種々のデジタル的な画像処理を施す。この画像処理部13は、画像信号を記録用に処理する第1画像処理部131と、画像信号を表示用やカメラ制御用に処理する第2画像処理部132とを備えている。なお、撮像装置1は、第2画像処理部132の代わりに、画像信号を表示用に処理する画像処理部と、画像信号をカメラ制御用に処理する画像処理部とを個々に備えても良い。また、画像処理部13は、画像認識部133と、認識位置予測部134とを備えている。画像認識部133は、画像に含まれる被写体を認識し、この被写体の位置情報を取得する。認識位置予測部134は、例えば動体を追尾するAF追尾方式を用いて、被写体の移動速度、方向などを考慮した被写体の位置情報を算出する。
AF評価値演算部14は、撮像部12から出力される画像信号の全体の平均値や、ある領域のピーク値、輝度相当信号などから算出された計算値に基づいて、被写体への合焦度合いを示すAF評価値を演算する。このAF評価値演算部14により算出されたAF評価値は、カメラ制御部20へ出力される。カメラ制御部20は、このAF評価値を用いてAF制御部18を制御する。AF制御部18は、カメラ制御部20の制御に基づいてレンズ11に含まれるフォーカスレンズを駆動し、撮像部12に結像される被写体像が合焦されるようにする。
表示部21は、画像処理部13の第2画像処理部132により表示用に画像処理された信号に基づき、画像を表示する。この表示部21は静止画や動画記録された画像を再生表示することができると共に、被撮像範囲をリアルタイムに表示するライブビュー(LV)表示を行うことができるようになっている。メモリーカード22は、画像処理部13の第1画像処理部131により記録用に画像処理された信号を保存するための記録媒体である。メモリーカード22に保存されるデータは、画像処理部13にて容量を削減する為に圧縮されたり、画質を保つ為に非圧縮の処理が施された静止画または動画像データ化されることが多い。また、撮像装置1は、メモリーカード22の代わりに、出力部や、外部コンピュータ等と通信する為の外部I/F(インタフェース)部を備えても良い。
手振れ検出部16は、この撮像装置1自体の手振れを検出する。手振れ補正部17は、手振れ検出部16により検出された手振れ情報に基づいて、撮像される画像への手振れの影響を相殺するように、レンズ11や撮像部12を駆動する。カメラ操作部19は、ユーザが撮像装置1に対する各種の操作入力を行うためのものである。このカメラ操作部19に含まれる操作部材の例としては、撮像装置1の電源をオン/オフするための電源スイッチ、静止画撮影を指示入力するための2段式押圧ボタンでなるレリーズボタン、撮影モードを単写モードと連写モードとに切り換えるための撮影モードスイッチ、AFモードをシングルAFモードとコンティニュアスAFモードとに切り換えるためのAFモードスイッチ、オートフォーカスを行う位置を指定するスイッチなどが挙げられる。
カメラ制御部20は、AF評価値演算部14からのAF評価値や、手振れ検出部16からの手振れ情報や、カメラ操作部19からの操作入力などに基づいて、撮像制御部15と、画像処理部13と、メモリーカード22と、手振れ補正部17と、AF制御部18等を含む撮像装置1全体を制御する。
なお、第1読出部121と読出制御部150とをあわせたものが第1信号電荷読出部に対応する。また、第2読出部122と読出制御部150とをあわせたものが第2信号電荷読出部に対応する。
次に、撮像部12の画素部が備える画素(単一の画素)の構成について説明する。図2は、本実施形態における単一の画素の構成を示した図である。図示する例では、単一の画素100は、光電変換部101、転送トランジスタ102、電荷蓄積部(FD)103、FDリセットトランジスタ104、増幅トランジスタ105、選択トランジスタ106、及びPDリセットトランジスタ107を備えている。
光電変換部101は、入射光を信号電荷に変換して蓄積する光電変換部PD(フォトダイオード)である。転送トランジスタ102は、光電変換部101に蓄積された信号電荷を電荷蓄積部103(FD)に転送するための転送部およびゲート部として機能するトランジスタである。(転送パルスを印加するための信号線φTRiに接続されている。)
電荷蓄積部103は、光電変換部101から転送トランジスタ102によって転送された信号電荷を一時的に保持する。FDリセットトランジスタ104は、電荷蓄積部103内の信号電荷および増幅トランジスタ105の入力部をリセットする第2リセット部として機能するトランジスタである。(FDリセットパルスを印加するための信号線φRMiに接続されている。)
なお、上述した転送トランジスタ102への転送パルスの印加と、FDリセットトランジスタ104へのFDリセットパルスの印加とを同時に行えば、電荷蓄積部103(FD)をリセットすることができるだけでなく、同時にさらに光電変換部101(PD)をリセットすることができる。従って、転送トランジスタ102およびFDリセットトランジスタ104の組み合わせは、光電変換部101(PD)に対する第1リセット部としても機能するものとなっている。
増幅トランジスタ105は、増幅部として機能する増幅用トランジスタであり、電荷蓄積部103の電圧レベルを増幅し、画素信号として出力するためのトランジスタである。選択トランジスタ106は、信号電荷を読み出す画素として画素100が選択された場合に垂直信号線114へ画素信号を出力するための選択用トランジスタである。(選択パルスを印加するための信号線φSEiに接続されている。)
PDリセットトランジスタ107は、光電変換部101内の信号電荷をリセットする第1リセット部として機能するトランジスタである。(電流源VDDに接続されると共に、PDリセットパルスを印加するための信号線φRPDiに接続されている。)ここで、光電変換部101以外は遮光されている。
また、画素100内には、垂直信号線114のほか、画素電源線110、FDリセット線111、転送線112、選択線113、及びPDリセット線115が配置されている。画素電源線110は、電源電圧VDDを印加するための信号線であり、増幅トランジスタ105のドレイン側、PDリセットトランジスタ107のドレイン側、及びFDリセットトランジスタ104のドレイン側に電気的に接続されている。FDリセット線111は、1行分の電荷蓄積部103をリセットするためのFDリセットパルスφRMi(i=1〜m、mは行数)を印加するための信号線であり、1行分のFDリセットトランジスタ104のゲートに接続されている。
転送線112は、1行分の画素100の信号電荷をそれぞれの画素100の電荷蓄積部103に転送するための行転送パルスφTRi(i=1〜m)を印加するための信号線であり、1行分の画素100の転送トランジスタ102のゲートに電気的に接続されている。選択線113は、画素信号を読み出す1行分の画素100を選択するための行選択パルスφSEi(i=1〜m)を印加するための信号線であり、1行分の画素100の選択トランジスタ106のゲートに電気的に接続されている。このように5個のトランジスタを用いた画素構成により、光電変換機能、リセット機能、増幅読出し機能、一時メモリ機能、及び選択機能が実現される。
次に、一般的なグローバルシャッタにより動作する撮像部12の撮像動作について説明する。図3は、一般的なグローバルシャッタにより動作する撮像部12の撮像動作のタイミングを示すタイミングチャートである。VD(垂直同期信号)は、同期を取るための信号である。図示する例では、VDは高い値と低い値との2種類の値のいずれかの値を持つ信号であり、この信号に基づいて露光と読み出しとの同期を取っている。露光は、静止画像を撮像するために画素部が露光するタイミングを示している。読出しは、リセットデータを読み出すタイミング(リセットデータ読出)と、画像データを読み出すタイミング(画像データ読出)とを示している。READPOINTER RESETPOINTERは、リセットデータおよび画像データを電荷蓄積部103から読み出すタイミング(直線301,302)と、光電変換部101のリセットタイミング(破線303)と、光電変換部101から電荷蓄積部103に信号電荷を転送するタイミング(直線304)とを示している。
撮像部12は、グローバルシャッタ動作による露光を行う前に、まず、リセットデータ読出期間において、電荷蓄積部103のリセットおよびリセットノイズの読み出しを行う。このような動作を、2次元状に画素100が配置された撮像素子の場合には、画素部に含まれる第1行目の画素100から第n行目(最終行目)の画素100へ向かって順次行うことにより、全画素100のリセットノイズを読み出す(直線301)。リセットノイズを読み出す期間をリセットデータ読出期間とする。
続いて、撮像部12は、画素部に含まれる全ラインの全画素100の露光を同時に開始し、所定の露光期間が経過したところで、全画素100の露光を同時に終了させる。そして、撮像部12は、第1行目(スタート行)の画素100から第n行目(最終行)の画素100までのデータの読み出しを行う(直線302)。この期間を画像データ読み出し期間とする。
CMOS型撮像素子においては、ここで読み出されたリセットノイズを記憶しておき、後に読み出しを行う信号電荷より差し引くような動作を行う構成であってもよい。また、露光タイミングは、図示するようにリセットデータ読出期間と画像データ読出期間の間ではなく、リセットデータ読出期間よりも前のタイミングであってもよい。
次に、カメラ制御用(ライブビュー)画像データの取得を行っている最中に、一般的なグローバルシャッタにより静止画像を撮像するときの撮像部12の撮像動作について説明する。図4は、カメラ制御用(ライブビュー)画像データの取得を行っている最中に、一般的なグローバルシャッタにより静止画像を撮像するときの撮像部12の撮像動作のタイミングを示すタイミングチャートである。
図には、VDと、露光と、読出と、READPOINTER RESETPOINTERと、カメラ制御用データ(LV表示)とが示されている。VDと、露光とが示す内容は前述したとおりである。読出は、カメラ制御用画像データ(LV表示)を読み出すタイミング(A〜I)と、リセットデータを読み出すタイミング(リセットデータ読出)と、画像データを読み出すタイミング(画像データ読出α)とを示している。
READPOINTER RESETPOINTERは、カメラ制御用画像データ(LV表示)を電荷蓄積部103から読み出すタイミング(破線401〜409)と、リセットデータおよび画像データを電荷蓄積部103から読み出すタイミング(直線410,411)と、光電変換部101のリセットタイミング(破線412)と、光電変換部101から電荷蓄積部103に信号電荷を転送するタイミング(直線413)とを示している。カメラ制御用データ(LV表示)は、表示部21が表示するライブビュー画像(A〜I,α)を示している。
撮像部12は、高精細な静止画像を全て読み出す場合には、例えば62.5ms(16fps)の時間を要するが、カメラ制御(ライブビュー)用に間引きまたは切り出しなどある領域のみの画像データを読み出しするだけであるならば、例えば約8.33ms(120fps)と高速に読み出すことが可能である。前者の場合には、撮像部12は、1秒間に16枚の画像データを読み出すのがせいぜいであるが、後者の場合には1秒間に120枚の画像データを読み出すことができる。
従って、撮像部12は、カメラ制御用画像データを取得しているときには、レリーズボタンの押圧(ここでは、2段目の押圧)があるまでは、例えば毎秒120フレームで画像データを取得(図中の点線)して画像処理部13に送る。このときには、図示するように、撮像部12は、あるフレームにおいて画像データを取得すると、この画像データを次のフレームおいて処理を行う。この動作を行っている最中にレリーズボタンの押圧があると、図に示すような場合、つまり撮像部12を一般的なグローバルシャッタにより静止画像を撮像する場合には、カメラ制御用画像データの取り込みが中止されて、図3に示したような撮像動作が行われる。
この静止画像の撮像動作を行っている最中は、ライブビュー用の画像データが取得されないために、図4に示すように最後に取り込んだカメラ制御用画像データFを用いてカメラ制御を行う。なお、最後に取り込んだカメラ制御用画像データFを用いて処理しても結果が変化しない為、撮像動作中は所定の処理を行わず、前回処理した結果を用いても構わない。
そして、図3に示したような静止画像の撮像動作が終了したところで、撮像部12は、再びカメラ制御用画像データを取得し、取得したカメラ制御用画像データを次のフレームの処理に用いる。なお、この図4に示す例においては、カメラ制御用画像データが更新されない期間を1フレームでも少なくするために、直線411で示す静止画像の撮像動作(画像データ読出)が終了した次のフレームにおいて、静止画像からカメラ制御用画像データαを生成して、カメラ制御に用いる例を示している。
次に、静止画像を撮像している間にカメラ制御用画像データを取得する際の撮像部12の撮像動作について説明する。図5は、本実施形態において、撮像装置1の撮像部12が、静止画を撮像している間にカメラ制御用画像データを取得する際の動作タイミングを示すタイミングチャートである。図には、露光と、読出と、READPOINTER RESETPOINTERと、カメラ制御用データ(LV表示)と、レリーズとが示されている。レリーズは、レリーズボタンが押されたタイミングを示している。
撮像部12を図4に示したようなタイミングで駆動させた場合には、レリーズボタンが押されてから静止画像の撮像動作が終了するまでの間は、静止画像もAEやAFなどに用いるカメラ制御用画像データも更新されないことになる。これに対して、図5に示すタイミングで撮像部12を駆動させる場合には、レリーズボタンが押されてから撮像動作が終了するまでの間においても、カメラ制御用画像データを取得するようにしたものとなっている。
図5に示す撮像部12の動作は、レリーズボタンが押されるまでは図4に示した動作と同じである。そして、レリーズボタンが押されたところで、リセットデータの読み出しが開始されるが、撮像部12は、幾つかのラインのリセットデータの読み出しを行ったところで、カメラ制御用画像データを取得する動作を行う。具体的には、読出制御部150は、第1読出部121がリセットデータ(信号電荷)の読み出しを終了するまでに、第2読出部122が1回以上カメラ制御用画像データを取得するように制御する。このとき、第2読出部122が2回以上カメラ制御用画像データを取得する場合には、間にリセットデータの読み出しを挟みながら行う。
上述したようにリセットデータの読み出しが完了した後、露光動作が開始され、図4に示した動作と同様に露光期間が終了する。
続いて、画像データ読出期間が開始され撮像部12は画像データ(信号電荷)を読み出すが、このときには、読出制御部150は、撮像部12の第1読出部121が、最初にカメラ制御用画像データを取得するのに用いる各ラインの信号電荷の読み出しを行い、その後にそれ以外のラインの信号電荷の読み出しを行うように制御する。そして、読出制御部150は、カメラ制御用画像データを取得するのに用いる各ラインの信号電荷の読み出しが第1読出部121によって完了した後の適宜の時点(画像データ読出期間内の適宜の時点)で、第2読出部122が1回以上カメラ制御用画像データ(画素データ)を取得するように制御する。このとき、第2読出部122が2回以上カメラ制御用画像データを取得する場合には、間に画像データの読み出しを挟みながら行う。
このとき、撮像制御部15の第1読出順序選択部151は、第1読出部121が信号電荷を読み出す画素領域の順序を選択する。また、撮像制御部15の第2信号電荷読出部152は、第2読出部122がカメラ制御用画像データを読み出す画素領域の順序を選択する。
具体的には、第1読出順序選択部151は、第1読出部121が信号電荷を読み出す画素領域の順を選択し、第2読出順序選択部152は、第1読出部121が読み出した画素領域の中から第2読出部122が画素データを読み出すように、第2読出部122が画素データを読み出す画素領域の順を選択する。または、第2読出順序選択部152は、第2読出部122が画素データを読み出す画素領域の順を選択し、第1読出順序選択部151は、第2読出部122が画素データを読み出す前に当該画素が含まれる画素領域の信号電荷を読み出すように、第1読出部121が信号電荷を読み出す画素領域の順を選択する。
例えば、カメラ制御用画像データをオートフォーカス制御に用いる場合において、ユーザによる指定または画像認識部133や認識位置予測部134による被写体の認識により、中央部に焦点を合わせたい場合には、第2読出順序選択部152は、第2読出部122が画素部のうち中央部の画素領域の画素データを読み出すように、第2読出部122が画素データを読み出す画素領域の順を選択する。そして、第2読出部122の画素領域の順序が選択できるように第1読出順序選択部151は第1読出部121の画素領域の順序を選択する。
本実施形態の撮像部12は、グローバルシャッタにより静止画像を撮像するときに、画素100の光電変換部101が蓄積した信号電荷を電荷蓄積部103に転送する。そして、電荷蓄積部103は、転送された信号電荷を蓄積する。その後、第1読出部121は、電荷蓄積部103に蓄積されている信号電荷を順に読み出す。第1読出部121に信号電荷を読み出された画素100は、他の画素100の信号電荷が読み出される前に新たに露光されても、既に静止画像の信号電荷は読み出されているため撮像部12が撮像する静止画像には影響を及ぼすことがない。そのため、撮像部12が静止画像の撮影中(リセットデータ読み出し中または画像データ読み出し中)であっても、撮像制御部15は、第1読出部121に静止画像の信号電荷を読み出された画素100を新たに露光させて、第2読出部122が制御用画像データ(画素データ)を読み出すように制御する。これにより、撮像装置1は、静止画像を取得している間においても、カメラ制御用画像データやライブビュー表示用画像データを取得することができるので、静止画像を撮像する際にカメラ制御用のデータを取得することができない期間をより短くすることができる。
例えば、撮像部12が静止画像を撮像している間(第1読出部121が信号電荷を読み出している間)に、AF評価値演算部14は、第2読出部122が読み出した制御用画像データに基づいてオートフォーカスパラメータを演算し、AF制御部18は、このオートフォーカスパラメータに基づいてレンズ11のオートフォーカス制御を行う。これにより、撮像装置1は、静止画像を撮像している間にもオートフォーカス制御を行うことができる。
撮像装置1は上述した処理を行い、撮像部12は画像データ読出期間が終了したところで図4に示した例と同様に再び通常のカメラ制御用画像データの取得を行う。このような処理により、本実施形態の撮像装置1は、静止画像を撮像している間にカメラ制御用画像データを取得する。
次に、第1読出部121および第2読出部122に信号電荷を読み出される画素領域の一例について説明する。図6は、本実施形態において、第1読出部121および第2読出部122に信号電荷を読み出される画素領域の一例を示した図である。
図示する例では、撮像部12が備える画素部の全ライン数(行数)は、0ライン(line)から2999ラインまでの3000ラインとなっている。また、図6(1)には、全ライン(0ラインから2999ライン)を静止画像の画像データとして読み出す際に、領域を0ラインから999ライン(領域A)、1000ラインから1999ライン(領域B)、2000ラインから2999ライン(領域C)の3分割にした例が示されている。また、図6(2)には、カメラ制御用画像データとして読み出す画素領域を、領域Aに含まれる画素領域である領域aとして示している。
ここで領域Aは、図5中の読み出しタイミングA−1,A−2時の読み出し領域を示している。また、領域Bは、図5中の読み出しタイミングB−1,B−2時の読み出し領域を示している。また、領域Cは、図5中の読み出しタイミングC−1,C−2時の読み出し領域を示している。また領域aは、図5中の読み出しタイミングa−1〜a−4(読み出しフレームG〜J)時の読み出し領域を示している。領域aは、領域Aの読み出しが完了しているので、その後いつでも読み出し可能である。
なお、図6(2)に示した例では、カメラ制御用画像データとして第2読出部122が読み出す画素領域を、領域A(読み出し完了した領域)の一部である領域aとした場合の例を示しているが、領域A全部としても構わない。もちろん読み出しラインが多くなると、静止画像の読み出しのように当然読み出し時間がかかってしまうので、カメラ制御用画像データとして用いる必要ラインのみを読み出すことが望ましい。さらに、図6(2)に示した例では、連続したラインを1つの画素領域とした例となっているが、連続したラインを読み出すのではなく、間引き機能や加算(平均)機能の読み出しを用いて読み出しデータ量を削減しても良い。
次に、撮像装置1の撮像部12が静止画像を撮像している間にカメラ制御用画像データを取得する際の動作タイミングの詳細について説明する。図7は、本実施形態において、撮像装置1の撮像部12が静止画像を撮像している間にカメラ制御用画像データを取得する際の詳細な動作タイミングを示したタイミングチャートである。図には、VDと、露光と、読出しと、READPOINTER RESETPOINTERと、具体例として読出画像イメージとが示されている。
読出しとして、静止画像の信号電荷を読み出すタイミングを示す静止画用と、カメラ制御用画像データを読み出すタイミングを示すカメラ制御用とが示されている。具体例として、静止画像の信号電荷を読み出した領域を示す静止画読出イメージと、カメラ制御用画像データを読み出した領域を示すカメラ制御用読出イメージとが示されている。
なお、RESETPOINTERとして示されている破線c´−1〜5は、カメラ制御用画像データを取得するために光電変換部101をリセットするタイミングを示している。また、READPOINTERとして示されている直線c−1〜5は、カメラ制御用画像データを読み出すタイミングを示している。従って、光電変換部101がカメラ制御用画像データを取得するために露光する時間は、破線c´−1から直線c−1の間と、破線c´−2から直線c−2の間と、破線c´−3から直線c−3の間と、破線c´−4から直線c−4の間と、破線c´−5から直線c−5の間とである。
図示する例では、図5に示した例とは異なり、画像データ読み出し期間を5分割した場合の例を示している。読み出し期間の分割は、所望のカメラ制御用信号により任意に変更することが可能である。また、露光動作後からのタイミングを図示しているが、リセットデータ読み出しとカメラ制御用画像データ読み出しとの関係と、画像データ読み出しとカメラ制御用画像データ読み出しとの関係とは、ほぼ同じである為省略してある。
露光期間を経た後に、静止画データ読み出し期間が開始される。最初に、撮像部12は、カメラ制御用画像データとして用いる領域を含む、領域Cの静止画像の画素信号の読み出しを行う(静止画明信号読出a)。この読み出しが完了した時点以降は、露光期間後のカメラ制御用画像データcの読み出しは静止画信号読み出し期間内であっても可能となり、カメラ制御用画像データc−1が読み出される(第2露光読出a)。第2露光読出の際の露光開始タイミングは点線で示している。カメラ制御用画像データの露光時間は、各行毎に前記点線から第2露光読出までの期間となる。第2露光読出のタイミングは実線で示している。
ここで、撮像部12が読み出す領域cは、例えばAF制御の為のカメラ制御用画像データを含む注目領域であって、画面の中央部分で領域Cの領域を包括した領域であれば良い。その注目領域は、ユーザーインタフェース(UI)によって、例えば、表示部21の画面内に表示されたAFエリア枠を使って撮影者が撮影時に任意に決めたAFエリアであったり、AF評価値演算部14や第2画像処理部132にて演算処理され、その演算結果より決定された自動合焦エリアであったりする。図示する例では、読み出し領域は、中央部帯状の例を示しているが、中央部の1箇所に設定してもよいし、中央部に限定することはなく、複数の領域であっても良い。
同様に、静止画明信号読出bにおいても、次にカメラ制御用画像データとして読み出したい領域を含む領域の画像データの読み出しをあらかじめ行えばよい。なお、図示する例では、領域cのみが注目領域である為、その後の読み出し順序は規定しなくても良く、5分割された静止画明信号読出a〜eの期間で読み出したい画像データの全てを読めばよい。図示する例では、領域Cの周辺領域である領域B、領域Dの順に読み出し、その後領域E、領域Aの順に読み出している。
読み出したライブビュー表示用画像データを表示部21に表示する場合においては、第2画像処理部132にて、表示部21の画素数にあわせて拡大などの画像処理を施し表示を行う。さらに、画像データの読み出し期間の最後(静止画明信号読出e)の終了した後のカメラ制御用画像データeは、カメラ制御用画像データの他にLV用に間引かれた全体画像の読み出しが行える様に切り替えて制御しても良い。これにより、静止画像の撮像が終了(静止画明信号読出e)した後に、静止画全体像のライブビュー表示を行うことができる。
次に、ライブビュー表示に使用するために読み出されるラインの例について説明する。図8は、本実施形態において、ライブビュー表示に使用するために読み出されるラインの例を示す図である。図示する例においては、撮像部12が備える画素部の全ライン数(行数)は、0ラインから2999ラインまでの3000ラインとなっている。そして、これらの全ラインから、5ラインに1ラインの割合(5分割)でライブビュー用画素データの読み出しが行われる例が示されている。図示する例では、ライブビュー用画素データを読み出すラインとして5Nラインを選択しているが、読み出しラインは、5Nラインと、(5N+1)ラインと、(5N+2)ラインと、(5N+3)ラインと、(5N+4)ライン(Nは0以上の整数)とのいずれかを選択して読み出すようにしてもよい。
なお、ライブビュー表示用画像データとしてカメラ制御用画像データを読み出す際には、上記のように5分割して読み出しを行うが、AFやAE用としてカメラ制御用画像データとして読み出す際には、5分割の一つ全部(図では600ライン)を読み出すのではなく、ある領域だけ読み出しても良い。例えば、600ラインのうち中心の400ラインのみを読み出す場合、より高速に次の読み出し動作に移行することが出来る。また、撮像素子が単板カラー撮像素子である場合には、例えばベイヤー配列のカラーフィルターを備えている。この場合、偶数ラインと奇数ラインで交互にG(緑色)とR(赤色)のカラーフィルター、またはG(緑色)とB(青色)のカラーフィルターとなっている為、偶数分割した場合においては、GとRのみ、またはGとBのみのライブビュー表示用画像データとなってしまう。したがって、読み出しの際には、RGBの全ての色成分が得られ、画像処理部13で所望の画像が得られる様に、読み出しラインの選択位置を微調整するなどした方が望ましい。
次に、静止画像を撮像している間にライブビュー表示用画像データを取得する際の撮像部12の撮像動作について説明する。図9は、本実施形態において、撮像装置1の撮像部12が、静止画を撮像している間にライブビュー表示用画像データを取得する際の動作タイミングを示すタイミングチャートである。図には、VDと、露光と、読出しと、READPOINTER RESETPOINTERと、具体例として読出画像イメージとが示されている。
図示する例は、図7に示したタイミングチャートと同様に露光動作後からのタイミングを示している。図示する例において、露光期間を経た後に、静止画データ読み出し期間が開始される。すると最初に、第2露光読出aの読み出しを開始する期間に、露光期間後の第2露光読出aで読み出すラインの静止画像の信号電荷の読み出しを行う(静止画明信号読出a)。この読み出しが完了した時点以降は、露光期間後のライブビュー表示用画像データの読み出しが静止画信号読み出し期間内であっても可能となり、第2露光読出aでライブビュー表示用画像データを読み出すことが可能となる。同様に、静止画明信号読出bにおいて、露光期間後の静止画読出が完了したラインであれば次の第2露光読出が可能となるため、読み出したいラインの静止画像の信号電荷の読み出しをあらかじめ行えばよい。
図示する例では、第2読出順序選択部152の選択により、ライブビュー表示用画像データとして、第2露光読出aで第2読出部122が(5N)ラインを読み出すように読出制御部150は制御する。すなわち、第2読出順序選択部152は、画素領域内の行を間引いて画素データを読み出すが、ライブビュー表示用画像データが静止画像の画角と同一の画角となるように、第2読出部122が画素データを読み出す画素領域の順を選択する。そのため、第1読出順序選択部151は、静止画明信号読出aにおいて、読出制御部150の制御により第1読出部121が(5N)ラインの読み出しを行うように画素領域の順を選択する。
次に、撮像部12は、ライブビュー表示用画像データの読み出し(第2露光読出b)を行い、ライブビュー表示を行う為のデータを取得する。ここでは、すべて(5N)ラインを用いてライブビュー表示する例を示しているが、(5N+1)ラインや、(5N+2)ラインや、(5N+3)ラインや、(5N+4)ラインをライブビュー表示に用いても良い。また、(5N)ラインのみライブビュー表示に用いる場合は、その後の静止画明信号読出b〜eでは読み出し順序は規定しなくても良く、静止画明信号読出b〜e期間で読み出したい画像データの全てを読めばよい。この例では、(5N+1)ライン、(5N+2)ライン、(5N+3)ライン、(5N+4)ラインの順に読み出している。
なお、図7と図9においては画像データ読出期間のみにおいてカメラ制御用画像データを読み出しているが、リセットデータ読出期間および画像データ読出期間の両方かまたは一方のみにおいて、カメラ制御用画像データを読み出しようにすることももちろん可能である。すなわち、リセットデータ読出期間と画像データ読出期間との少なくとも一方の期間内において、カメラ制御用画像データを読み出すことが可能となっている。特に、連写モード時には、1枚の画像撮影が終了したとしても次の画像撮影を行うために、AF用のデータやAE用のデータを取得でき、かつ撮影者が被写体を確認できることが望ましい。
また、ライブビュー表示用画像データは、表示部21にライブビュー表示するために用いられるだけでなく、さらにAF用のデータやAE用のデータとしても用いることも出来るために、連写時には、カメラ制御またはライブビューに用いる領域に応じて、静止画像データ読み出しを制御する。
これにより、連写による撮影を行う際にカメラ制御用画像データによりAFやAE処理を行いつつ、ライブビューの表示が更新されないまたはブラックアウトする時間を短縮する為にライブビュー表示用画像データを取得し、被写体が移動する被写体であったとしても、撮影者がその被写体を撮影範囲内に収めるように撮像装置1の撮影方向を変更することが容易となる。
また、第2読出順序選択部152は、次に静止画像を撮影するために用いるカメラ制御用画像データを第2読出部122が読み出すように、画素データを読み出す画素領域の順を選択するようにしてもよい。これにより、さらに、連写時に撮影される各画像が、AF追従に基づくより高い精度で合焦した画像、AE追従に基づくより適正な露光の画像となることが可能となる。また、このカメラ制御用画像データを用いて、画像認識部133や認識位置予測部134が被写体の位置を認識するようにしてもよい。そして、例えば被写体が中央に位置しており、中央部に焦点を合わせたい場合には、第2読出順序選択部152は、第2読出部122が画素部のうち中央部の画素領域の画素データを読み出すように、第2読出部122が画素データを読み出す画素領域の順を選択するようにしてもよい。
撮像制御部15の第1読出順序選択部151と第2読出順序選択部152とは、所望するカメラ動作に応じて、静止画読出の画素領域の読み出し順序を選択する。例えば、撮像制御部15の第1読出順序選択部151と第2読出順序選択部152とは、図7のようにカメラ制御用画像データとして、注目領域の周辺から読み出したり、図9のようにライブビュー表示用画像データとして、間引き表示や拡大表示を行うための領域から読み出したり、また、それらを切り替えながら読み出すように制御を行う。
一方、単写モード時には通常のAF動作やAE動作を行えば足りるために、図4に示した一般的なグローバルシャッタによる制御により撮像部12を駆動するようにして、レリーズボタンが押圧されてからメモリーカード22への記録が終了するまでの時間を短縮するようにしてもよい。
さらに、ノイズ性能向上の為にリセットデータの読み出し終了時点から画像データの読み出し開始時点までの時間(図4中の点線412〜直線413の期間)が、各ラインについて、基本的に(タイミングに応じて、幾つかの例外は生じるかもしれないが)同一となるような読み出し順序とすれば、暗電流に起因するノイズ量を(上述したように、多少の例外を除いて)何れのラインについても同一とすることが可能となる。従って、ラインに応じてノイズ量が異なることによる画質の劣化を未然に防止することが可能となる。
次に、カメラ制御用画像データの読み出し順を、被写体の自動認識結果に応じて可変とする例について説明する。図10は、本実施形態において、撮像装置1の撮像部12が、静止画を撮像している間に、被写体の自動認識結果に応じてカメラ制御用画像データを取得する順を可変とする際の動作タイミングを示すタイミングチャートである。図には、VDと、露光と、読出しと、READPOINTER RESETPOINTERと、具体例として読出画像イメージとが示されている。
図7に示した例ではカメラ制御用読出領域(注目領域)が全て領域Cである例を示したが、図10に示す例では、被写体の移動に合わせて、カメラ制御用画像データを読み出す領域を領域a、領域a、領域b、領域c、領域cと可変している例を示している。この例は、読み出されたカメラ制御用画像データを用いて第2画像処理部132が画像を生成し、この画像に基づいて画像認識部133が被写体の位置を認識し、その位置情報より自動合焦エリアを決定する。そして、第2読出順序選択部152がカメラ制御用画像データを読み出す領域を選択する。すなわち、第2読出順序選択部152は、被写体が位置する領域のカメラ制御用画像データを読み出すように第2読出部122が読み出す画素領域の順を選択する。なお、被写体の位置を認識する方法は、例えば、動体を追尾するAF追尾方式を用いる。
まず、AF評価値演算部14の計算結果と画像認識部133の位置情報より被写体位置が領域Aであると認識される。第2読出順序選択部152は、カメラ制御用画像データを読み出す領域を領域aと選択する。第1読出順序選択部151は、第2読出順序選択部152が選択した領域aに応じて、静止画像を読み出す領域を領域Aと選択する。これにより、撮像部12は、領域Aの信号電荷の読み出しを開始する。次に、撮像部12は、カメラ制御用画像データとして領域aの画像データを読み出し、第2画像処理部132に入力する。第2画像処理部132は、入力された画像データに基づいて画像を生成する。画像認識部133は、第2画像処理部132が生成した画像に基づいて被写体の位置情報を取得する。また、撮像装置1は、認識位置予測部134を備えている為、被写体の移動速度、方向などが考慮された位置情報を得ることができる。これらの位置情報に基づいて、第2読出順序選択部152は、次にカメラ制御用画像データを読み出す領域を選択する。
図示する例では、注目被写体が領域Aから領域Bを経て領域Cに移動している為、撮像部12は、カメラ制御用画像データを、領域aから領域bを経て領域cと変更しながら読み出している。同時に静止画像の読み出しにおいても、撮像部12は、最初に静止画明信号読出aにおいて、領域Aの読み出しを開始し、露光後のカメラ制御用読出の領域を先に読み出す動作を行っている。このように、撮像装置1は、認識位置予測部134が算出した位置情報に応じて次にカメラ制御用画像データを読み出す領域を決定することができ、また、その決定された領域に応じて、静止画読出の領域や読出順序を決定する構成となっている為、AF追尾方式に対応することが出来る。
上述したとおり、本実施形態では、第1読出順序選択部151は、第1読出部121が信号電荷を読み出す画素領域の順を選択し、第2読出順序選択部152は、第1読出部121が読み出した画素領域の中から第2読出部122が画素データを読み出すように、第2読出部122が画素データを読み出す順を選択する。または、第2読出順序選択部152は、第2読出部122が画素データを読み出す順を選択し、第1読出順序選択部151は、第2読出部122が画素データを読み出す前に当該画素が含まれる画素領域の信号電荷を読み出すように、第1読出部121が信号電荷を読み出す順を選択する。
そして、第1読出順序選択部151が選択した信号電荷を読み出す画素領域の順に従って、読出制御部150は、第1読出部121が電荷蓄積部103に蓄積された信号電荷の内の所定の画素領域の信号電荷を他の画素領域の信号電荷よりも先に読み出し、その後に他の画素領域の信号電荷を読み出すように制御する。また、第2読出順序選択部152が選択した画素データを読み出す画素領域の順に従って、読出制御部150は、第1読出部121が他の画素領域の信号電荷を読み出す時間区間内において、第2読出部122が所定の画素領域に含まれる画素データを1回以上読み出すように制御する。
これにより、撮像装置1は、静止画像を取得している間においても、カメラ制御用画像データやライブビュー表示用画像データを取得することができるので、静止画像を撮像する際にカメラ制御用画像データを取得することができない期間をより短くすることができ、カメラ制御用画像データを速やかに取得することができる。また、取得したカメラ制御用画像データを用いて所望のカメラ制御を行うことを可能とする。
以上、この発明の一実施形態について図面を参照して詳述してきたが、具体的な構成はこの実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の設計等も含まれる。