JP2008172606A - Solid-state imaging apparatus and camera system - Google Patents
Solid-state imaging apparatus and camera system Download PDFInfo
- Publication number
- JP2008172606A JP2008172606A JP2007004754A JP2007004754A JP2008172606A JP 2008172606 A JP2008172606 A JP 2008172606A JP 2007004754 A JP2007004754 A JP 2007004754A JP 2007004754 A JP2007004754 A JP 2007004754A JP 2008172606 A JP2008172606 A JP 2008172606A
- Authority
- JP
- Japan
- Prior art keywords
- pixel
- signal
- solid
- pixels
- readout
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003384 imaging method Methods 0.000 title claims abstract description 68
- 238000012545 processing Methods 0.000 claims abstract description 67
- 238000001514 detection method Methods 0.000 claims abstract description 10
- 239000011159 matrix material Substances 0.000 claims abstract description 5
- 238000004364 calculation method Methods 0.000 claims description 15
- 230000005484 gravity Effects 0.000 description 17
- 238000012546 transfer Methods 0.000 description 8
- 238000000034 method Methods 0.000 description 7
- 238000010586 diagram Methods 0.000 description 6
- 230000000875 corresponding effect Effects 0.000 description 4
- 238000012544 monitoring process Methods 0.000 description 3
- 230000003321 amplification Effects 0.000 description 2
- 229910044991 metal oxide Inorganic materials 0.000 description 2
- 150000004706 metal oxides Chemical class 0.000 description 2
- 238000003199 nucleic acid amplification method Methods 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 230000000386 athletic effect Effects 0.000 description 1
- 230000015556 catabolic process Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 230000001276 controlling effect Effects 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 238000006731 degradation reaction Methods 0.000 description 1
- 238000009434 installation Methods 0.000 description 1
- 238000003672 processing method Methods 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 230000035945 sensitivity Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 230000001960 triggered effect Effects 0.000 description 1
Images
Landscapes
- Transforming Light Signals Into Electric Signals (AREA)
- Studio Devices (AREA)
Abstract
Description
本発明は、固体撮像装置とこれを用いたカメラシステムに関する。 The present invention relates to a solid-state imaging device and a camera system using the same.
動いている被写体(以下、「動被写体」とも記す)を常に画角の中心に収めたい場合、例えば運動会などで我が子の撮影を行ないたい場合に、現状の固体撮像装置を用いたカメラシステムでは、撮影者が被写体を常に画角に収めるように意識して撮影しなければならない。このため、撮影に不自由を強いられることが多い。 A camera system that uses a current solid-state imaging device when you want to keep a moving subject (hereinafter also referred to as a “moving subject”) at the center of the angle of view, for example, when you want to take a picture of your child at an athletic meet, etc. Then, the photographer must shoot with an awareness that the subject always falls within the angle of view. For this reason, inconvenience is often imposed on shooting.
また近年では、セキュリティ用途で固体撮像装置を用いた監視カメラが注目されている。例えば、港湾施設や空港施設では、テロなどの犯罪行為や自然災害などを監視する目的で、複数の監視カメラを用いた多点監視が一般的である。しかし、この場合、複数の監視カメラが必要であり、その設置コストが膨大になり、また多数の画像を監視することが難しい場合がある。そのため、これらの用途で、動いている被写体を動き検出し、それを画角に収める自動追尾カメラが用いられている。 In recent years, surveillance cameras using solid-state imaging devices have attracted attention for security purposes. For example, in a port facility or an airport facility, multipoint monitoring using a plurality of surveillance cameras is generally used for the purpose of monitoring criminal acts such as terrorism or natural disasters. However, in this case, a plurality of monitoring cameras are required, the installation cost becomes enormous, and it may be difficult to monitor a large number of images. Therefore, in these applications, an automatic tracking camera that detects a moving subject and keeps it within an angle of view is used.
このような自動追尾カメラに関する従来技術として、例えば特許文献1に記載された技術が知られている。この技術は、カメラで撮影される2フレーム分の画像を画像メモリに記憶し、そのフレーム画像から差画像を求めて、動被写体の移動量及び移動範囲を算出し、それに基づいて画像プロセッサ及びCPUを介して雲台駆動コントローラに指示を送り、カメラの撮影方向を動被写体の移動方向に追尾させるものである。
As a conventional technique related to such an automatic tracking camera, for example, a technique described in
しかしながら、上記従来技術においては、2フレーム分の画像を取得するにあたって、例えば、カメラのフレームレートが30(フレーム/秒)であるとすると、1/30秒に1枚の画像しか得られないため、高速に移動する動被写体に対しては自動追尾が困難であるという欠点がある。さらには、差画像を求める際に必要な演算量は画像の画素数に比例して増大するため、高解像度の画像を取得しようとすると、フレーム間隔での演算処理が困難である場合や、演算に要する消費電力が増大する欠点がある。また、これらの欠点を解消するために、例えば、画素数を少なくして高速撮像を可能にし、演算量を少なくすると、通常の観賞用の撮像に対して、画素数が少なくなることによる解像度の低下など画質の劣化が生じてしまう。 However, in the above-described prior art, when acquiring images for two frames, for example, if the camera frame rate is 30 (frames / second), only one image can be obtained in 1/30 seconds. However, there is a disadvantage that automatic tracking is difficult for a moving subject moving at high speed. Furthermore, the amount of computation required when obtaining a difference image increases in proportion to the number of pixels in the image. Therefore, when obtaining a high-resolution image, computation processing at frame intervals is difficult, There is a disadvantage that the power consumption required for the increase. In order to eliminate these drawbacks, for example, by reducing the number of pixels to enable high-speed imaging, and reducing the amount of calculation, the resolution is reduced by reducing the number of pixels compared to normal ornamental imaging. Degradation of image quality such as a drop occurs.
本発明は、上記課題を解決するためになされたもので、その目的とするところは、1つの固体撮像装置を用いて、動被写体の高速追尾と観賞用の高品位な撮像を行なうことが可能なカメラシステムを実現することにある。 The present invention has been made to solve the above-described problems, and the object of the present invention is to perform high-speed tracking of moving subjects and high-quality imaging for viewing using a single solid-state imaging device. Is to realize a simple camera system.
本発明に係る固体撮像装置は、複数の画素が行列状に2次元配置された画素アレイ部と、前記画素アレイ部から第1の画素数をもって画素信号を読み出す第1の読み出しモードと、前記画素アレイ部から前記第1の画素数よりも少ない第2の画素数をもって画素信号を読み出す第2の読み出しモードとを有し、前記第2の読み出しモードで画素信号をn回(nは2以上の整数)読み出すごとに、前記第1の読み出しモードで画素信号を1回読み出すように制御する制御手段とを備えるものである。また、本発明に係るカメラシステムは、上記構成の固体撮像装置と、前記n回の読み出しによって得られる画像を用いて、被写体の動き検出を行なう信号処理装置とを具備するものである。 The solid-state imaging device according to the present invention includes a pixel array unit in which a plurality of pixels are two-dimensionally arranged in a matrix, a first readout mode for reading out a pixel signal from the pixel array unit with a first number of pixels, and the pixels A second readout mode in which pixel signals are read out from the array unit with a second number of pixels smaller than the first number of pixels, and pixel signals are output n times (where n is 2 or more) in the second readout mode. (Integer) comprising a control means for controlling the pixel signal to be read once in the first reading mode each time reading is performed. In addition, a camera system according to the present invention includes the solid-state imaging device having the above-described configuration and a signal processing device that detects a motion of a subject using an image obtained by the n times of reading.
本発明に係る固体撮像装置とこれを用いたカメラシステムにおいては、固体撮像装置を駆動するにあたって、第2の読み出しモードで画素信号をn回読み出すごとに、第1の読み出しモードで画素信号を1回読み出すことにより、第1の読み出しモードに基づく画素信号の読み出しと第2の読み出しモードに基づくn回の画素信号の読み出しを無間欠に行なえるようになる。このため、第2の読み出しモードで読み出したn回分の画素信号に基づく画像を用いて被写体の動き検出を行ないながら、第1の読み出しモードで読み出した1回の画素信号に基づく画像を観賞用の画像として取り込むことが可能となる。 In the solid-state imaging device and the camera system using the solid-state imaging device according to the present invention, each time the pixel signal is read n times in the second readout mode when driving the solid-state imaging device, the pixel signal is 1 in the first readout mode. By performing the reading once, the pixel signal reading based on the first reading mode and the n times of pixel signal reading based on the second reading mode can be performed intermittently. For this reason, an image based on one pixel signal read in the first readout mode is used for ornamental purposes while performing motion detection of the subject using an image based on the n pixel signals read in the second readout mode. It can be captured as an image.
本発明によれば、1つの固体撮像装置を用いて、動被写体の高速追尾と観賞用の高品位な撮像を行なうことが可能なカメラシステムを実現することができる。 According to the present invention, it is possible to realize a camera system capable of performing high-speed tracking of moving subjects and high-quality imaging for viewing using a single solid-state imaging device.
以下、本発明の具体的な実施の形態について図面を参照しつつ詳細に説明する。 Hereinafter, specific embodiments of the present invention will be described in detail with reference to the drawings.
図1は本発明の実施形態に係るカメラシステムの全体構成図である。このカメラシステムは、大きくは、固体撮像装置1と、カメラ信号処理装置2と、画像メモリ3と、表示装置4と、雲台5とを備えた構成となっている。
FIG. 1 is an overall configuration diagram of a camera system according to an embodiment of the present invention. This camera system generally includes a solid-
固体撮像装置1は、例えば、CMOS(Complementary Metal Oxide Semiconductor)イメージセンサを用いて構成されるものである。固体撮像装置1は、画素アレイ部6と、垂直走査回路7と、カラムアンプ8と、水平走査回路9と、画素駆動コントローラ10とを備えた構成となっている。
The solid-
画素アレイ部6には、複数の単位画素(以下、単に「画素」と記す)が行列状に2次元配置されている。垂直走査回路7は、画素アレイ部6の各画素を行単位で順に選択走査し、その選択行の各画素を駆動するものである。カラムアンプ8は、画素アレイ部6内の各画素から出力される信号に対して、画素固有の固定パターンノイズを除去するためのCDS(Correlated Double Sampling;相関二重サンプリング)や信号増幅などの処理を行なうものである。
A plurality of unit pixels (hereinafter simply referred to as “pixels”) are two-dimensionally arranged in a matrix in the
水平走査回路9は、カラムアンプ8で処理された1行分の画素信号を、水平走査によって順に水平信号線に出力させるものである。水平信号線に出力された画素信号は、映像信号としてカメラ信号処理装置2に出力される。画素駆動コントローラ10は、カメラ信号処理装置2から入力される画素駆動信号に応じて、垂直走査回路7及び水平走査回路9に、それぞれ画素を駆動するための制御信号を送るものである。
The
カメラ信号処理装置2は、マイクロプロセッサ11と、A/Dコンバータ12と、カメラ信号処理部13と、駆動処理部14と、観賞用信号処理部15とを備えた構成となっている。このうち、カメラ信号処理部13、駆動処理部14及び観賞用信号処理部15は、それぞれDSP(Digital signal processor)によって構成されている。
The camera signal processing device 2 includes a microprocessor 11, an A / D converter 12, a camera
マイクロプロセッサ11は、カメラ信号処理装置2全体の処理を制御するものである。A/Dコンバータ12は、固体撮像装置1からカメラ信号処理装置2に入力される映像信号の形態を、アナログ信号からデジタル信号に変換するものである。
The microprocessor 11 controls the entire processing of the camera signal processing device 2. The A / D converter 12 converts the form of a video signal input from the solid-
カメラ信号処理部13は、A/Dコンバータ12で変換された映像信号に対して、例えばオフセット(クランプ)調整、ホワイトバランス、デモザイクなどのカメラ信号処理を行なうものである。カメラ信号処理を行なった撮像データは、画像データとして画像メモリ3に記憶される。間引き読み出しモードの場合は、画像メモリ3に記憶された画像データがカメラ信号処理部13や駆動処理部14に読み出される。カメラ信号処理部13では、画像メモリ3から読み出した画像データを用いて、被写体の動き検出にかかる処理を行なう。また、駆動処理部14では、画像メモリ3から読み出した画像データを用いて、画素駆動信号又は雲台駆動信号を生成する処理を行なう。全画素読み出しモードの場合は、画像メモリ3に記憶された画像データが観賞用信号処理部15に読み出される。観賞用信号処理部15では、画像メモリ3から読み出した画像データを、例えば表示装置4などに出力する処理を行なう。表示装置4は、カメラシステムとは別に外部の装置としてカメラ信号処理装置2に接続されてもよい。
The camera
駆動処理部14で生成された画素駆動信号は、固体撮像装置1の画素駆動コントローラ10に入力される。また、駆動処理部14で生成された雲台駆動信号は、雲台5に入力される。
The pixel drive signal generated by the
雲台5は、固体撮像装置1を搭載するとともに、固体撮像装置1の撮像方向を変えるべく駆動するものである。雲台5は、雲台駆動装置16と、雲台駆動コントローラ17とを備えた構成となっている。雲台駆動コントローラ17には、上記雲台駆動信号が入力される。雲台駆動コントローラ17は、雲台駆動信号に基づいて雲台駆動装置16を駆動するものである。雲台駆動装置16は、固体撮像装置1の撮像方向を変えるために駆動されるものである。
The camera platform 5 is mounted with the solid-
図2は固体撮像装置の内部回路の構成例を示す概略図である。画素アレイ部6に行列状に2次元配置された各々の画素(単位画素)18は、光電変換素子となるフォトダイオードPDに加えて、転送トランジスタTr1、リセットトランジスタTr2、増幅トランジスタTr3及び選択トランジスタTr4といった4つのMOS(Metal Oxide Semiconductor)トランジスタを有する画素回路となっている。また、各々の画素18には、転送配線L1、リセット配線L2及び行選択配線L3が同一行の画素に対して共通に配線されている。また、各々の画素18には、垂直信号線L4が同一列の画素に対して共通に配線されている。
FIG. 2 is a schematic diagram illustrating a configuration example of an internal circuit of the solid-state imaging device. Each pixel (unit pixel) 18 two-dimensionally arranged in a matrix in the
画素アレイ部6の各画素18を駆動する場合は、垂直走査回路7からリセット信号rst、転送信号trg及び行選択信号selが出力される一方、水平走査回路9から列選択信号hが出力される。図2においては、i行目の単位画素18に対して垂直走査回路7から出力されるリセット信号rst、転送信号trg及び行選択信号selには添え字iを、j列目の単位画素18に対して水平走査回路9から出力される列選択信号hには添え字jを付している。このため、例えば、画素アレイ部6の画素配列がVGA(640画素×480画素)であるとすると、i=1,2,…,480、j=1,2,…,640までの値をとることになる。
When driving each
固体撮像装置1は、画素アレイ部6の各画素から画素信号を読み出す場合の読み出しモードとして、第1の読み出しモードと第2の読み出しモードとを有している。第1の読み出しモードは、画素アレイ部6から第1の画素数をもって画素信号を読み出す読み出しモードであり、第2の読み出しモードは、画素アレイ部6から第1の画素数よりも少ない第2の画素数をもって画素信号を読み出す読み出しモードである。本実施形態においては、第1の読み出しモードとして全画素読み出しモードを適用するとともに、第2の読み出しモードとして間引き読み出しモードを適用することとする。全画素読み出しモードは、観賞用の読み出しモードとなり、間引き読み出しモードは、高速追尾用の読み出しモードとなる。読み出しモードの切り替えは、画素駆動コントローラ10によって行なわれる。
The solid-
図3は画素アレイ部の各画素を全画素読み出しモードで駆動する場合のタイミングチャートである。全画素読み出しの場合は、信号XHSの立ち下がりをトリガとして、画素アレイ部6のi行目の画素の駆動が開始される。i行目の画素行においては、まず、行選択信号seliが立ち上がることで、i行目の画素出力が有効になる。次に、画素のリセット信号rstiが立ち上がることで、i行目の画素からリセット信号rstiが読み出される。次に、転送信号trgiが立ち上がることで、i行目の画素から画素信号が読み出される。
FIG. 3 is a timing chart in the case where each pixel of the pixel array unit is driven in the all-pixel reading mode. In the case of all pixel readout, the driving of the pixels in the i-th row of the
次に、画素信号とリセット信号の差分をCDS処理した後の画素信号をサンプリング/ホールドし、この状態で列選択信号hjが立ち上がることで、j列目の画素信号が映像信号として出力される。こうした画素の駆動動作をi+1、i+2、…、と順に行ない、それぞれにj、j+1、j+2、…、と列方向に選択することで、画素アレイ部6の全画素に対応する映像信号が出力される。 Next, the pixel signal after the CDS processing of the difference between the pixel signal and the reset signal is sampled / held, and the column selection signal hj rises in this state, whereby the pixel signal in the jth column is output as a video signal. By performing such pixel driving operations in order of i + 1, i + 2,... And selecting them in the column direction as j, j + 1, j + 2,. A video signal corresponding to is output.
図4は画素アレイ部の各画素を間引き読み出しモードで駆動する場合のタイミングチャートである。間引き読み出しの場合は、信号XHSの立ち下がりをトリガとして、画素アレイ部6のi行目の画素の駆動が開始される。そして、全画素読み出しの場合と同様にして、j列目の画素信号が映像信号として出力される。その際、列選択信号hj+1を立ち上げないことで、j+1列目の画素信号を映像信号として出力させないようにする。さらに次の信号XHSの立ち下がりのときに、i+1行目の行選択信号seli+1、リセット信号rsti+1及び転送信号trgi+1を立ち上げないことで、i+1行目の画素を選択しないようにする。これにより、間引き読み出しが実現される。
FIG. 4 is a timing chart in the case where each pixel of the pixel array unit is driven in the thinning readout mode. In the case of thinning readout, the driving of the pixels in the i-th row of the
間引き読み出しの場合は、固体撮像装置1から出力される映像信号の画素数が全画素読み出しの場合よりも少なくなる。このため、間引き読み出しでは、全画素読み出しよりも高速な撮像が行なえることになる。例えばi、i+2、i+4、…、のように偶数行選択をした間引き駆動を行なった場合は、全画素読み出しよりも2倍高速な撮像を実現できることになる。
In the case of thinning readout, the number of pixels of the video signal output from the solid-
図5(A)は画素アレイ部の画素配列に対応した色フィルタ配列の一例を示す図である。図示した色フィルタの配列は、固体撮像装置1でよく用いられるベイヤー配列と呼ばれるもので、光の3原色であるR(赤)、G(緑)、B(青)の原色フィルタを用いて、ある行ではB,G,B,G,…の配列とし、次の行ではR,B,R,B,…の配列としている。全画素読み出しの場合は、もともとの色フィルタと同様のベイヤー配列で画素信号が読み出される。
FIG. 5A is a diagram illustrating an example of a color filter array corresponding to the pixel array of the pixel array unit. The arrangement of the color filters shown in the figure is called a Bayer arrangement that is often used in the solid-
一般に、間引き読み出しを行なう場合は、間引き後の画素信号の色配列も、全画素読み出しの場合と同様のベイヤー配列を保つようにすることが多い。これは色信号処理を同一のアルゴリズムで行えるようにするためである。そこで、間引きを行う場合は、例えば図5(B)に示すように、垂直方向では画素信号の読み出し行が2画素おきとなるように3行に1行を読み出し、水平方向でも画素信号の読み出し列が2画素おきとなるように3列に1列を読み出すことにより、間引き後の画素信号の色配列を全画素読み出しの場合と同様のベイヤー配列に保つことができる。なお、図5(B)においては、間引きモードで信号の読み出しが行なわれる画素部分を網掛け模様で表示している。 In general, when thinning readout is performed, the color arrangement of pixel signals after thinning is often maintained in the same Bayer arrangement as in the case of all pixel readout. This is because the color signal processing can be performed with the same algorithm. Therefore, when thinning out, as shown in FIG. 5B, for example, one row is read out every three rows so that every two pixels are read out in the vertical direction, and pixel signals are read out also in the horizontal direction. By reading one column out of every three columns so that the column is every two pixels, the color arrangement of the pixel signals after thinning can be maintained in the same Bayer arrangement as in the case of all pixel readout. Note that in FIG. 5B, pixel portions from which signals are read out in the thinning mode are displayed in a shaded pattern.
このような間引き読み出しを行なった場合は、実際に駆動する画素数が全画素読み出しに比較して少なくなるため、その分、フレームレートを高めることができる。図5(B)の例では、3行に1行を読み出しているため、全画素読み出しに比較してフレームレートが3倍高速になる。この図5(B)の例以外にも、例えば、信号の間引き動作と加算動作を組み合わせることで、間引き動作を行いつつ感度を向上させた読み出しも可能である。 When such thinning readout is performed, the number of pixels to be actually driven is smaller than that for all pixel readout, so that the frame rate can be increased accordingly. In the example of FIG. 5B, since one row is read out in three rows, the frame rate is three times faster than in the all-pixel readout. In addition to the example of FIG. 5B, for example, by combining a signal thinning operation and an addition operation, reading with improved sensitivity while performing a thinning operation is also possible.
図6は固体撮像装置の信号読み出し動作を示すタイミングチャートである。ここでは、一例として、画素アレイ部の画素行が8行で構成された固体撮像装置を想定している。まず、画素信号の読み出しは、信号XVSの立ち下がりをトリガとして開始される。すなわち、信号XVSが立ち下がると、信号XHSが立ち下がるたびに偶数番目(i=2,4,6,8)の画素行から順に画素信号が読み出される。この場合は、奇数番目(i=1,3,5,7)の画素行を間引くことになる。こうした間引き読み出しを信号XVSが立ち下がるたびに4回続けて繰り返すことにより、追尾用の間引き読み出しをフレーム1〜フレーム4まで4回行なう。
FIG. 6 is a timing chart showing the signal readout operation of the solid-state imaging device. Here, as an example, a solid-state imaging device in which the pixel rows of the pixel array unit are configured with 8 rows is assumed. First, the reading of the pixel signal is started with the falling edge of the signal XVS as a trigger. That is, when the signal XVS falls, every time the signal XHS falls, pixel signals are read in order from the even-numbered (i = 2, 4, 6, 8) pixel rows. In this case, odd-numbered (i = 1, 3, 5, 7) pixel rows are thinned out. Such thinning-out reading is repeated four times each time the signal XVS falls, so that the thinning-out reading for tracking is performed four times from
次に、第1のリセット動作として、4回の間引き読み出し後の信号XVSの立ち下がりをトリガとして、信号XHSが立ち下がるたびに全ての画素行から順に画素信号が読み出される。固体撮像装置1にCMOSイメージセンサを用いた場合は、同時読み出しが行えないため、フレームレートが異なるフレーム間の読み出しでは、露光時間の異なる行が存在してしまう。そのため、ここでは追尾用の間引き読み出しフレームと観賞用の全画素読み出しフレームとの間にリセット動作として、一旦全ての画素行から画素信号を読み出すようにしている。
Next, as the first reset operation, the pixel signal is read sequentially from all the pixel rows every time the signal XHS falls, triggered by the fall of the signal XVS after four thinning-out readings. When a CMOS image sensor is used for the solid-
次に、第1のリセット動作後の信号XVSの立ち下がりをトリガとして、信号XHSが立ち下がるたびに全ての画素行から順に画素信号が読み出される。これにより、観賞用の全画素読み出しを1回行なう。 Next, with the falling edge of the signal XVS after the first reset operation as a trigger, the pixel signals are sequentially read from all the pixel rows every time the signal XHS falls. Thereby, all the pixels for ornamental reading are read once.
次に、第2のリセット動作として、全画素読み出し後の信号XVSの立ち下がりをトリガとして、信号XHSが立ち下がるたびに偶数番目(i=2,4,6,8)の画素行から順に画素信号が読み出される。以降は、上述した4フレーム分の追尾用の間引き読み出し、第1のリセット動作、1フレーム分の観賞用の全画素読み出し、第2のリセット動作を順に繰り返すことになる。 Next, as a second reset operation, every time the signal XHS falls using the falling edge of the signal XVS after reading out all the pixels as a trigger, the pixels from the even-numbered (i = 2, 4, 6, 8) pixel rows in order. The signal is read out. Thereafter, the above-described thinning readout for tracking for 4 frames, the first reset operation, the readout of all pixels for viewing for 1 frame, and the second reset operation are repeated in order.
こうして画素アレイ部6の各画素から読み出された画素信号は、上述した4回の間引き読み出しや1回の全画素読み出しに対応する各フレームの画像を表す映像信号として固体撮像装置1からカメラ信号処理装置2に転送される。その際、固体撮像装置1は、図7に示すように、追尾用に間引き読み出しを行ないながら、カメラ信号処理装置2に映像信号を転送する。一方、カメラ信号処理装置2では、固体撮像装置1から送られた映像信号が表す画像のうち、上述した4回の間引き読み出しによって得られる画像を用いて、被写体の動き検出を行なう。これにより、固体撮像装置1とカメラ信号処理装置2とを含むカメラシステムにおいては、追尾用の間引き読み出しと被写体の動き検出を同時に行なっている。
The pixel signal read from each pixel of the
図8は本発明の実施形態に係るカメラシステムに適用される処理手順を示すフローチャートである。まず、固体撮像装置1で4回のうちの1回目の間引き読み出しを行なうことにより、間引き読み出しフレーム1の画像信号を生成するとともに、この画像信号をカメラ信号処理装置2に転送することにより、間引き読み出しフレーム1の画像信号(以下、「フレーム画像1」と記す)を画像メモリ3に取り込む(ステップS1)。
FIG. 8 is a flowchart showing a processing procedure applied to the camera system according to the embodiment of the present invention. First, the solid-
次に、固体撮像装置1で4回のうちの2回目の間引き読み出しを行なうことにより、間引き読み出しフレーム2の画像信号を生成するとともに、この画像信号をカメラ信号処理装置2に転送することにより、間引き読み出しフレーム2の画像信号(以下、「フレーム画像2」と記す)を画像メモリ3に取り込む(ステップS2)。
Next, by performing the second thinning out of the four times in the solid-
次に、カメラ信号処理装置2では、画像メモリ3に格納したフレーム画像1とフレーム画像2の差分をカメラ信号処理部13で演算し、その演算結果を二値化する(ステップS3)。これにより、フレーム画像1,2に動被写体が含まれる場合は、この動被写体の画像が二値化によって抽出される。その際に、カメラ信号処理部13の演算処理方法によっては、内部レジスタに被写体の座標を書き込みなどして、フレーム画像2を画像メモリ3に取り込む場合と取り込まない場合がある。
Next, in the camera signal processing device 2, the camera
次に、カメラ信号処理装置2では、上記ステップS3で二値化した画像の重心1をカメラ信号処理部13で計算し、この計算結果を画像メモリ3に取り込む(ステップS4)。
Next, in the camera signal processing apparatus 2, the camera
図9は重心計算の原理を説明する図である。重心の計算では、2つのフレーム画像の差分演算と二値化によって得られる動被写体の画像データを、ある間隔のメッシュに分割し、そのメッシュの座標を(Xm,Yn)とする(m,nは共に整数)。そして、メッシュ座標(Xm,Yn)上に動被写体の画像データが存在する場合は、amn=1とし、存在しない場合は、amn=0とする。このようにすると、二値化した動被写体の重心の座標(X,Y)は、次の(数1)式によって計算することができる。 FIG. 9 is a diagram for explaining the principle of centroid calculation. In the calculation of the center of gravity, the image data of the moving subject obtained by the difference calculation and binarization of the two frame images is divided into meshes with a certain interval, and the coordinates of the meshes are (Xm, Yn) (m, n). Are both integers). Then, if the moving subject image data exists on the mesh coordinates (Xm, Yn), amn = 1, and if not, amn = 0. In this way, the coordinates (X, Y) of the binarized moving subject's center of gravity can be calculated by the following equation (1).
次に、固体撮像装置1で4回のうちの3回目の間引き読み出しを行なうことにより、間引き読み出しフレーム3の画像信号を生成するとともに、この画像信号をカメラ信号処理装置2に転送することにより、間引き読み出しフレーム3の画像信号(以下、「フレーム画像3」と記す)を画像メモリ3に取り込む(ステップS5)。
Next, by performing the third thinning out of the four times in the solid-
次に、固体撮像装置1で4回のうちの4回目の間引き読み出しを行なうことにより、間引き読み出しフレーム4の画像信号を生成するとともに、この画像信号をカメラ信号処理装置2に転送することにより、間引き読み出しフレーム4の画像信号(以下、「フレーム画像4」と記す)を画像メモリ3に取り込む(ステップS6)。
Next, by performing the fourth thinning out of the four times in the solid-
次に、カメラ信号処理装置2では、画像メモリ3に格納したフレーム画像3とフレーム画像4の差分をカメラ信号処理部13で演算し、その演算結果を二値化する(ステップS7)。これにより、フレーム画像3,4に動被写体が含まれる場合は、この動被写体の画像が二値化によって抽出される。
Next, in the camera signal processing apparatus 2, the camera
次に、カメラ信号処理装置2では、上記ステップS7で二値化した画像の重心2を、前述した重心計算の原理にしたがってカメラ信号処理部13で計算し、この計算結果を画像メモリ3に取り込む(ステップS8)。
Next, in the camera signal processing apparatus 2, the camera
次に、カメラ信号処理装置2では、上記ステップS4で画像メモリ3に取り込んだ画像の重心1と上記ステップS8で画像メモリ3に取り込んだ画像の重心2とに基づいて、重心1から重心2への重心移動ベルトをカメラ信号処理部13で計算する(ステップS9)。
Next, in the camera signal processing device 2, from the center of
次に、カメラ信号処理装置2では、上記ステップS9で求めた重心移動ベクトルに基づいて、次のフレームで推定される移動ベクトルをカメラ信号処理部13で計算する(ステップS10)。具体的には、上記ステップS9で求めた重心移動ベルトを、当該重心移動ベクトルのベクトル方向に2倍したところが、次のフレームで推定される重心の移動位置(次のフレームの移動ベクトル)となる。
Next, in the camera signal processing device 2, the camera
図10は動き検出の処理内容を模式的に示す図である。図10においては、フレーム間の演算により、動いている被写体の重心を求め、この重心の動きから次のフレームにおける被写体の移動を予測する原理を示している。具体的には、フレーム画像1とフレーム画像2との差分演算と二値化により、動被写体の画像を抽出した後、重心計算によって動被写体の画像の重心1を計算する。次に、フレーム画像3とフレーム画像4との差分演算と二値化により、動被写体の画像を抽出した後、重心計算によって動被写体の画像の重心2を計算する。その後、重心1から重心2への移動ベクトルを計算した後、次のフレームで推定される重心の移動ベクトルを求める。なお、図10においては、フレーム画像2とフレーム画像3を共通の画像であるように示しているが、実際には異なるタイミングで撮像された画像となる。
FIG. 10 is a diagram schematically showing the processing contents of motion detection. FIG. 10 shows the principle of calculating the center of gravity of a moving subject by calculation between frames and predicting the movement of the subject in the next frame from the movement of the center of gravity. Specifically, after extracting the moving subject image by calculating the difference between the
その後、カメラ信号処理装置2では、上記ステップS10で推定した次のフレームでの重心移動位置が、間引き読み出しを行なった画素(以下、「間引き画素」と記す)の画角内に収まるかどうかをカメラ信号処理部13で判定する(ステップS11)。そして、次のフレームの重心移動位置が間引き画素の画角内に収まる場合は、上記ステップS10で推定した移動ベクトルと同じだけ画角を変化させるために必要な画素駆動信号を計算するとともに、この画素駆動信号を固体撮像装置1に転送する(ステップS12)。 Thereafter, the camera signal processing apparatus 2 determines whether or not the center-of-gravity movement position in the next frame estimated in step S10 is within the angle of view of the pixel that has been subjected to the thinning readout (hereinafter referred to as “thinning pixel”). The determination is made by the camera signal processing unit 13 (step S11). When the center-of-gravity movement position of the next frame falls within the angle of view of the thinned pixel, a pixel drive signal necessary for changing the angle of view by the same amount as the movement vector estimated in step S10 is calculated. The pixel drive signal is transferred to the solid-state imaging device 1 (step S12).
これにより、次のフレーム(全画素読み出しのフレーム)では、動被写体が画角の中心にくるように、固体撮像装置1の画素アレイ部6で画素信号の読み出しが開始される画素(以下、「読み出し開始画素」と記す)を変化させることができる。具体的には、画素アレイ部6のすべての画素のうち、ある1つの画素を読み出し開始画素として画素アレイ部6内に所定の大きさで矩形の撮像領域を設定し、この撮像領域の大きさで画角を規定する場合、図11に示すように、あるタイミングで全画素読み出しにより撮像されるフレーム画像Aでは、画素アレイ部6上の座標(Ha,Va)で示す画素を読み出し画素として撮像するのに対して、次のタイミングで全画素読み出しにより撮像されるフレーム画像Bでは、読み出し開始画素の位置を行方向と列方向で変化させることにより、画素アレイ部6上の座標(Hb,Vb)で示す画素を読み出し開始画素として撮像する。この読み出し開始画素の変化は、前述の動き検出の結果を用いて行なうため、被写体が動いている場合でも、読み出し開始画素を変化させることで、簡単に被写体を画角内に収めることができる。
Thereby, in the next frame (all pixel readout frame), the
一方、次のフレームの重心移動位置が間引き画素の画角内に収まらない場合は、上記ステップS10で推定した移動ベクトルと同じだけ画角を変化させるために必要な雲台駆動信号を計算するとともに、この雲台駆動信号を雲台5に転送することにより、雲台5を駆動する(ステップS13,S14)。 On the other hand, when the center-of-gravity movement position of the next frame does not fall within the angle of view of the thinned pixel, a pan head drive signal necessary for changing the angle of view as much as the movement vector estimated in step S10 is calculated. Then, the camera platform 5 is driven by transferring the camera platform drive signal to the camera platform 5 (steps S13 and S14).
これにより、次のフレーム(全画素読み出しのフレーム)では、動被写体が画角の中心にくるように、雲台5の方向を変化させることができる。具体的には、図12に示すように、固体撮像装置1を搭載した雲台5の方向を、パン方向及びチルト方向に適宜変化させることで、簡単に被写体を画角内に収めることができる。
As a result, in the next frame (all-pixel readout frame), the direction of the camera platform 5 can be changed so that the moving subject comes to the center of the angle of view. Specifically, as shown in FIG. 12, the subject can be easily within the angle of view by appropriately changing the direction of the camera platform 5 on which the solid-
このように画角を変化させた後は、ユーザからの撮像指示を受けて固体撮像装置1が1回の全画素読み出しを行なうことにより、全画素読み出しフレームの画像信号を生成するとともに、この画像信号をカメラ信号処理装置2に転送する(ステップS15,S16)。その後は、上記ステップS1に戻って同様の処理を繰り返す。また、ユーザからの撮像指示がない場合は、全画素読み出しを行なわずに、上記ステップS1に戻る。
After changing the angle of view in this way, the solid-
以上の処理により、常に動被写体が画角内に収まるように制御することができる。したがって、例えば、シャッターオンなどのユーザからの撮像要求や、あるフレーム数の追尾用の間引き読み出しを行なった後に、観賞用の全画素読み出しを行なうことにより、常に動被写体が画角中に存在している良質な画像を得ることができる。 Through the above processing, it is possible to control so that the moving subject always falls within the angle of view. Therefore, for example, after performing an imaging request from the user such as shutter-on or a thinning-out readout for tracking a certain number of frames, a moving subject always exists in the angle of view by performing all-pixel readout for viewing. You can get good quality images.
また、本発明により、動被写体が常に全画素読み出しの画角内に収まるような撮像が可能なカメラシステムを実現することができる。また、追尾用の撮像は間引き読み出しで行なうため、高速なフレームの撮像を実現することができる。このため、高速に移動する動被写体の追尾が可能である。また、動被写体の追尾に対して演算量を減少させることができるため、信号処理の負担(回路規模、消費電力など)を減らすことができる。また、演算で使用する外部メモリの容量を低減することができる。 In addition, according to the present invention, it is possible to realize a camera system capable of capturing an image so that a moving subject always falls within an angle of view for reading all pixels. In addition, since tracking imaging is performed by thinning readout, high-speed frame imaging can be realized. Therefore, it is possible to track a moving subject that moves at high speed. In addition, since the amount of calculation can be reduced for tracking a moving subject, the burden of signal processing (circuit scale, power consumption, etc.) can be reduced. In addition, the capacity of the external memory used for computation can be reduced.
さらに、観賞用の撮像は全画素読み出しで行なうため、解像度の高い良質な画像を得ることができる。また、追尾の演算結果に応じて、画素アレイ部6の読み出し開始画素を変化させるか、雲台5を駆動するかを切り替えるようにしているため、常に雲台5の駆動によって画角を変化させる場合に比較して、雲台5の駆動にかかる消費電力を低減することができる。また、追尾の演算結果により、全画素読み出しの際に、全画素読み出しによって得られるフレーム画像のなかで動被写体がいずれの位置にあるかを認識することができるため、ユーザーの好みの画像が得られる。
Furthermore, since ornamental imaging is performed by reading out all pixels, a high-quality image with high resolution can be obtained. In addition, since the readout start pixel of the
1…固体撮像装置、2…カメラ信号処理装置、5…雲台、6…画素アレイ部、8…画素、10…画素駆動コントローラ
DESCRIPTION OF
Claims (6)
前記画素アレイ部から第1の画素数をもって画素信号を読み出す第1の読み出しモードと、前記画素アレイ部から前記第1の画素数よりも少ない第2の画素数をもって画素信号を読み出す第2の読み出しモードとを有し、前記第2の読み出しモードで画素信号をn回(nは2以上の整数)読み出すごとに、前記第1の読み出しモードで画素信号を1回読み出すように制御する制御手段と
を備えることを特徴とする固体撮像装置。 A pixel array unit in which a plurality of pixels are two-dimensionally arranged in a matrix;
A first readout mode in which pixel signals are read out from the pixel array section with a first number of pixels, and a second readout in which pixel signals are read out from the pixel array section with a second number of pixels smaller than the first number of pixels. And a control means for controlling the pixel signal to be read once in the first readout mode every time the pixel signal is read n times (n is an integer of 2 or more) in the second readout mode. A solid-state imaging device comprising:
ことを特徴とする請求項1記載の固体撮像装置。 The solid-state imaging device according to claim 1, wherein the first readout mode is an all-pixel readout mode, and the second readout mode is a thinning readout mode.
前記n回の読み出しによって得られる画像を用いて、被写体の動き検出を行なう信号処理装置と
を具備することを特徴とするカメラシステム。 A pixel array unit in which a plurality of pixels are two-dimensionally arranged, a first readout mode in which a pixel signal is read from the pixel array unit with a first number of pixels, and the first number of pixels from the pixel array unit A second readout mode for reading out a pixel signal with a smaller number of second pixels, and each time the pixel signal is read out n times (n is an integer of 2 or more) in the second readout mode, A solid-state imaging device comprising control means for controlling the pixel signal to be read once in the readout mode of
And a signal processing device for detecting a motion of a subject using an image obtained by the n times of reading.
ことを特徴とする請求項3記載のカメラシステム。 The signal processing device binarizes the difference between the images obtained by the n times of reading, obtains the centroid of the binarized image by moment calculation, and tracks the movement of the centroid in the image. The camera system according to claim 3, wherein the movement of the subject is detected.
ことを特徴とする請求項3記載のカメラシステム。 4. The camera system according to claim 3, wherein a readout start pixel of a pixel array unit of the solid-state imaging device is changed based on detection of the movement of the subject.
前記被写体の動き検出に基づいて、前記雲台の方向を変化させる
ことを特徴とする請求項3記載のカメラシステム。 Comprising a pan head mounted with the solid-state imaging device;
The camera system according to claim 3, wherein the direction of the camera platform is changed based on the motion detection of the subject.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007004754A JP2008172606A (en) | 2007-01-12 | 2007-01-12 | Solid-state imaging apparatus and camera system |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007004754A JP2008172606A (en) | 2007-01-12 | 2007-01-12 | Solid-state imaging apparatus and camera system |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2008172606A true JP2008172606A (en) | 2008-07-24 |
Family
ID=39700266
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2007004754A Pending JP2008172606A (en) | 2007-01-12 | 2007-01-12 | Solid-state imaging apparatus and camera system |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2008172606A (en) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8937670B2 (en) | 2011-05-16 | 2015-01-20 | Kabushiki Kaisha Toshiba | Processing video signal imaging apparatus and processing video signal imaging method |
CN104754213A (en) * | 2013-12-27 | 2015-07-01 | 佳能株式会社 | Image capturing apparatus and control method thereof |
WO2015151790A1 (en) * | 2014-03-31 | 2015-10-08 | ソニー株式会社 | Solid-state imaging element, electronic device, and imaging method |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH04361484A (en) * | 1991-06-10 | 1992-12-15 | Matsushita Electric Ind Co Ltd | Picture movement correction device |
JPH0765299A (en) * | 1993-08-25 | 1995-03-10 | Shimizu Corp | Water surface monitor system |
JPH1144700A (en) * | 1997-07-25 | 1999-02-16 | Sanyo Electric Co Ltd | Speed-measuring apparatus, automatic tracking system using the apparatus and display system for estimated arrival position |
JP2000184367A (en) * | 1998-12-14 | 2000-06-30 | Olympus Optical Co Ltd | Camera controller and recording medium |
JP2004328735A (en) * | 2003-04-25 | 2004-11-18 | Agilent Technol Inc | Motion detecting apparatus and motion detecting method |
JP2006041861A (en) * | 2004-07-27 | 2006-02-09 | Kyocera Corp | Imaging device and image generation method therefor |
-
2007
- 2007-01-12 JP JP2007004754A patent/JP2008172606A/en active Pending
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH04361484A (en) * | 1991-06-10 | 1992-12-15 | Matsushita Electric Ind Co Ltd | Picture movement correction device |
JPH0765299A (en) * | 1993-08-25 | 1995-03-10 | Shimizu Corp | Water surface monitor system |
JPH1144700A (en) * | 1997-07-25 | 1999-02-16 | Sanyo Electric Co Ltd | Speed-measuring apparatus, automatic tracking system using the apparatus and display system for estimated arrival position |
JP2000184367A (en) * | 1998-12-14 | 2000-06-30 | Olympus Optical Co Ltd | Camera controller and recording medium |
JP2004328735A (en) * | 2003-04-25 | 2004-11-18 | Agilent Technol Inc | Motion detecting apparatus and motion detecting method |
JP2006041861A (en) * | 2004-07-27 | 2006-02-09 | Kyocera Corp | Imaging device and image generation method therefor |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8937670B2 (en) | 2011-05-16 | 2015-01-20 | Kabushiki Kaisha Toshiba | Processing video signal imaging apparatus and processing video signal imaging method |
CN104754213A (en) * | 2013-12-27 | 2015-07-01 | 佳能株式会社 | Image capturing apparatus and control method thereof |
CN104754213B (en) * | 2013-12-27 | 2018-04-03 | 佳能株式会社 | Picture pick-up device and its control method |
WO2015151790A1 (en) * | 2014-03-31 | 2015-10-08 | ソニー株式会社 | Solid-state imaging element, electronic device, and imaging method |
US10181485B2 (en) | 2014-03-31 | 2019-01-15 | Sony Corporation | Solid-state image sensor, electronic apparatus, and imaging method |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP2592838B1 (en) | Image capture device | |
KR20190029615A (en) | Image pickup apparatus and control method of image pickup apparatus | |
JP2007150643A (en) | Solid state imaging element, driving method therefor, and imaging apparatus | |
JP2009212909A (en) | Solid-state imaging apparatus, flicker detection method for solid-state imaging apparatus, control program, readable recording medium, and electronic information device | |
JP2008131407A (en) | Solid-state imaging element and imaging apparatus using same | |
JP2019134202A (en) | Imaging apparatus and control method of image pic-up device | |
US10582113B2 (en) | Image pickup device, image pickup apparatus, image pickup apparatus control method and computer-readable non-transitory recording medium in which processing program is recorded | |
JP2006203395A (en) | Moving body recognition system and moving body monitor system | |
JP2009089087A (en) | Solid-state image pickup apparatus and image pickup apparatus | |
EP1829361A1 (en) | Method for extracting of multiple sub-windows of a scanning area by means of a digital video camera | |
JP2009017459A (en) | Ccd solid-state imaging element, driving method thereof, and imaging apparatus | |
WO2021014867A1 (en) | Imaging device and control method for same | |
WO2021014921A1 (en) | Image capturing device and control method for same | |
JP2008172606A (en) | Solid-state imaging apparatus and camera system | |
JP2016058877A (en) | Imaging apparatus and control method thereof | |
JPWO2018021034A1 (en) | Imaging control apparatus, imaging control method, and imaging device | |
JP5398610B2 (en) | Solid-state electronic imaging device and operation control method thereof | |
JP2005167497A (en) | Imaging device, method for acquiring image with high quality, and program | |
JP4306676B2 (en) | Imaging device | |
JP2004015236A (en) | Imaging apparatus | |
WO2021124736A1 (en) | Imaging device | |
JP2006074440A (en) | Imaging apparatus | |
WO2023085138A1 (en) | Solid-state imaging device, method for driving same, and electronic apparatus | |
JP2006238205A (en) | Imaging apparatus and imaging method | |
JP2010011124A (en) | Image pickup apparatus |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20091007 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20091016 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20100107 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20111018 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20111108 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20120228 |