Nothing Special   »   [go: up one dir, main page]

JP2008172606A - Solid-state imaging apparatus and camera system - Google Patents

Solid-state imaging apparatus and camera system Download PDF

Info

Publication number
JP2008172606A
JP2008172606A JP2007004754A JP2007004754A JP2008172606A JP 2008172606 A JP2008172606 A JP 2008172606A JP 2007004754 A JP2007004754 A JP 2007004754A JP 2007004754 A JP2007004754 A JP 2007004754A JP 2008172606 A JP2008172606 A JP 2008172606A
Authority
JP
Japan
Prior art keywords
pixel
signal
solid
pixels
readout
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2007004754A
Other languages
Japanese (ja)
Inventor
Hiroki Sato
弘樹 佐藤
Noriyuki Yamashita
紀之 山下
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2007004754A priority Critical patent/JP2008172606A/en
Publication of JP2008172606A publication Critical patent/JP2008172606A/en
Pending legal-status Critical Current

Links

Images

Landscapes

  • Transforming Light Signals Into Electric Signals (AREA)
  • Studio Devices (AREA)

Abstract

<P>PROBLEM TO BE SOLVED: To attain a camera system by which high speed tracking of a moving subject and high definition imaging for appreciation can be performed using one solid-state imaging apparatus. <P>SOLUTION: As structure of the camera system with the solid-state imaging apparatus 1 and a camera signal processor 2, the solid-state imaging apparatus 1 is provided with a pixel array part 6 in which a plurality of pixels 8 are two-dimensionally arranged like a matrix and a control means for performing control so as to read a pixel signal once in all pixels reading modes from the pixel array part 6 whenever a pixel signal is read for n times (n is an integer ≥2) by thinning mode from the pixel array part 6 and the camera signal processor 2 is provided with a signal processing part which performs motion detection of a subject using an image obtained by thinning reading for n times. <P>COPYRIGHT: (C)2008,JPO&INPIT

Description

本発明は、固体撮像装置とこれを用いたカメラシステムに関する。   The present invention relates to a solid-state imaging device and a camera system using the same.

動いている被写体(以下、「動被写体」とも記す)を常に画角の中心に収めたい場合、例えば運動会などで我が子の撮影を行ないたい場合に、現状の固体撮像装置を用いたカメラシステムでは、撮影者が被写体を常に画角に収めるように意識して撮影しなければならない。このため、撮影に不自由を強いられることが多い。   A camera system that uses a current solid-state imaging device when you want to keep a moving subject (hereinafter also referred to as a “moving subject”) at the center of the angle of view, for example, when you want to take a picture of your child at an athletic meet, etc. Then, the photographer must shoot with an awareness that the subject always falls within the angle of view. For this reason, inconvenience is often imposed on shooting.

また近年では、セキュリティ用途で固体撮像装置を用いた監視カメラが注目されている。例えば、港湾施設や空港施設では、テロなどの犯罪行為や自然災害などを監視する目的で、複数の監視カメラを用いた多点監視が一般的である。しかし、この場合、複数の監視カメラが必要であり、その設置コストが膨大になり、また多数の画像を監視することが難しい場合がある。そのため、これらの用途で、動いている被写体を動き検出し、それを画角に収める自動追尾カメラが用いられている。   In recent years, surveillance cameras using solid-state imaging devices have attracted attention for security purposes. For example, in a port facility or an airport facility, multipoint monitoring using a plurality of surveillance cameras is generally used for the purpose of monitoring criminal acts such as terrorism or natural disasters. However, in this case, a plurality of monitoring cameras are required, the installation cost becomes enormous, and it may be difficult to monitor a large number of images. Therefore, in these applications, an automatic tracking camera that detects a moving subject and keeps it within an angle of view is used.

このような自動追尾カメラに関する従来技術として、例えば特許文献1に記載された技術が知られている。この技術は、カメラで撮影される2フレーム分の画像を画像メモリに記憶し、そのフレーム画像から差画像を求めて、動被写体の移動量及び移動範囲を算出し、それに基づいて画像プロセッサ及びCPUを介して雲台駆動コントローラに指示を送り、カメラの撮影方向を動被写体の移動方向に追尾させるものである。   As a conventional technique related to such an automatic tracking camera, for example, a technique described in Patent Document 1 is known. In this technique, images for two frames taken by a camera are stored in an image memory, a difference image is obtained from the frame images, a moving amount and a moving range of a moving subject are calculated, and an image processor and a CPU are calculated based on the calculated moving amount and moving range. An instruction is sent to the pan / tilt head drive controller to track the shooting direction of the camera in the moving direction of the moving subject.

特開2000−175101号公報JP 2000-175101 A

しかしながら、上記従来技術においては、2フレーム分の画像を取得するにあたって、例えば、カメラのフレームレートが30(フレーム/秒)であるとすると、1/30秒に1枚の画像しか得られないため、高速に移動する動被写体に対しては自動追尾が困難であるという欠点がある。さらには、差画像を求める際に必要な演算量は画像の画素数に比例して増大するため、高解像度の画像を取得しようとすると、フレーム間隔での演算処理が困難である場合や、演算に要する消費電力が増大する欠点がある。また、これらの欠点を解消するために、例えば、画素数を少なくして高速撮像を可能にし、演算量を少なくすると、通常の観賞用の撮像に対して、画素数が少なくなることによる解像度の低下など画質の劣化が生じてしまう。   However, in the above-described prior art, when acquiring images for two frames, for example, if the camera frame rate is 30 (frames / second), only one image can be obtained in 1/30 seconds. However, there is a disadvantage that automatic tracking is difficult for a moving subject moving at high speed. Furthermore, the amount of computation required when obtaining a difference image increases in proportion to the number of pixels in the image. Therefore, when obtaining a high-resolution image, computation processing at frame intervals is difficult, There is a disadvantage that the power consumption required for the increase. In order to eliminate these drawbacks, for example, by reducing the number of pixels to enable high-speed imaging, and reducing the amount of calculation, the resolution is reduced by reducing the number of pixels compared to normal ornamental imaging. Degradation of image quality such as a drop occurs.

本発明は、上記課題を解決するためになされたもので、その目的とするところは、1つの固体撮像装置を用いて、動被写体の高速追尾と観賞用の高品位な撮像を行なうことが可能なカメラシステムを実現することにある。   The present invention has been made to solve the above-described problems, and the object of the present invention is to perform high-speed tracking of moving subjects and high-quality imaging for viewing using a single solid-state imaging device. Is to realize a simple camera system.

本発明に係る固体撮像装置は、複数の画素が行列状に2次元配置された画素アレイ部と、前記画素アレイ部から第1の画素数をもって画素信号を読み出す第1の読み出しモードと、前記画素アレイ部から前記第1の画素数よりも少ない第2の画素数をもって画素信号を読み出す第2の読み出しモードとを有し、前記第2の読み出しモードで画素信号をn回(nは2以上の整数)読み出すごとに、前記第1の読み出しモードで画素信号を1回読み出すように制御する制御手段とを備えるものである。また、本発明に係るカメラシステムは、上記構成の固体撮像装置と、前記n回の読み出しによって得られる画像を用いて、被写体の動き検出を行なう信号処理装置とを具備するものである。   The solid-state imaging device according to the present invention includes a pixel array unit in which a plurality of pixels are two-dimensionally arranged in a matrix, a first readout mode for reading out a pixel signal from the pixel array unit with a first number of pixels, and the pixels A second readout mode in which pixel signals are read out from the array unit with a second number of pixels smaller than the first number of pixels, and pixel signals are output n times (where n is 2 or more) in the second readout mode. (Integer) comprising a control means for controlling the pixel signal to be read once in the first reading mode each time reading is performed. In addition, a camera system according to the present invention includes the solid-state imaging device having the above-described configuration and a signal processing device that detects a motion of a subject using an image obtained by the n times of reading.

本発明に係る固体撮像装置とこれを用いたカメラシステムにおいては、固体撮像装置を駆動するにあたって、第2の読み出しモードで画素信号をn回読み出すごとに、第1の読み出しモードで画素信号を1回読み出すことにより、第1の読み出しモードに基づく画素信号の読み出しと第2の読み出しモードに基づくn回の画素信号の読み出しを無間欠に行なえるようになる。このため、第2の読み出しモードで読み出したn回分の画素信号に基づく画像を用いて被写体の動き検出を行ないながら、第1の読み出しモードで読み出した1回の画素信号に基づく画像を観賞用の画像として取り込むことが可能となる。   In the solid-state imaging device and the camera system using the solid-state imaging device according to the present invention, each time the pixel signal is read n times in the second readout mode when driving the solid-state imaging device, the pixel signal is 1 in the first readout mode. By performing the reading once, the pixel signal reading based on the first reading mode and the n times of pixel signal reading based on the second reading mode can be performed intermittently. For this reason, an image based on one pixel signal read in the first readout mode is used for ornamental purposes while performing motion detection of the subject using an image based on the n pixel signals read in the second readout mode. It can be captured as an image.

本発明によれば、1つの固体撮像装置を用いて、動被写体の高速追尾と観賞用の高品位な撮像を行なうことが可能なカメラシステムを実現することができる。   According to the present invention, it is possible to realize a camera system capable of performing high-speed tracking of moving subjects and high-quality imaging for viewing using a single solid-state imaging device.

以下、本発明の具体的な実施の形態について図面を参照しつつ詳細に説明する。   Hereinafter, specific embodiments of the present invention will be described in detail with reference to the drawings.

図1は本発明の実施形態に係るカメラシステムの全体構成図である。このカメラシステムは、大きくは、固体撮像装置1と、カメラ信号処理装置2と、画像メモリ3と、表示装置4と、雲台5とを備えた構成となっている。   FIG. 1 is an overall configuration diagram of a camera system according to an embodiment of the present invention. This camera system generally includes a solid-state imaging device 1, a camera signal processing device 2, an image memory 3, a display device 4, and a camera platform 5.

固体撮像装置1は、例えば、CMOS(Complementary Metal Oxide Semiconductor)イメージセンサを用いて構成されるものである。固体撮像装置1は、画素アレイ部6と、垂直走査回路7と、カラムアンプ8と、水平走査回路9と、画素駆動コントローラ10とを備えた構成となっている。   The solid-state imaging device 1 is configured using, for example, a CMOS (Complementary Metal Oxide Semiconductor) image sensor. The solid-state imaging device 1 includes a pixel array unit 6, a vertical scanning circuit 7, a column amplifier 8, a horizontal scanning circuit 9, and a pixel drive controller 10.

画素アレイ部6には、複数の単位画素(以下、単に「画素」と記す)が行列状に2次元配置されている。垂直走査回路7は、画素アレイ部6の各画素を行単位で順に選択走査し、その選択行の各画素を駆動するものである。カラムアンプ8は、画素アレイ部6内の各画素から出力される信号に対して、画素固有の固定パターンノイズを除去するためのCDS(Correlated Double Sampling;相関二重サンプリング)や信号増幅などの処理を行なうものである。   A plurality of unit pixels (hereinafter simply referred to as “pixels”) are two-dimensionally arranged in a matrix in the pixel array unit 6. The vertical scanning circuit 7 selectively scans each pixel of the pixel array unit 6 in units of rows and drives each pixel in the selected row. The column amplifier 8 performs processing such as CDS (Correlated Double Sampling) and signal amplification for removing fixed pattern noise peculiar to the pixels output from each pixel in the pixel array unit 6. Is to do.

水平走査回路9は、カラムアンプ8で処理された1行分の画素信号を、水平走査によって順に水平信号線に出力させるものである。水平信号線に出力された画素信号は、映像信号としてカメラ信号処理装置2に出力される。画素駆動コントローラ10は、カメラ信号処理装置2から入力される画素駆動信号に応じて、垂直走査回路7及び水平走査回路9に、それぞれ画素を駆動するための制御信号を送るものである。   The horizontal scanning circuit 9 sequentially outputs pixel signals for one row processed by the column amplifier 8 to the horizontal signal lines by horizontal scanning. The pixel signal output to the horizontal signal line is output to the camera signal processing device 2 as a video signal. The pixel drive controller 10 sends control signals for driving the pixels to the vertical scanning circuit 7 and the horizontal scanning circuit 9 in accordance with the pixel driving signal input from the camera signal processing device 2.

カメラ信号処理装置2は、マイクロプロセッサ11と、A/Dコンバータ12と、カメラ信号処理部13と、駆動処理部14と、観賞用信号処理部15とを備えた構成となっている。このうち、カメラ信号処理部13、駆動処理部14及び観賞用信号処理部15は、それぞれDSP(Digital signal processor)によって構成されている。   The camera signal processing device 2 includes a microprocessor 11, an A / D converter 12, a camera signal processing unit 13, a drive processing unit 14, and an ornamental signal processing unit 15. Among these, the camera signal processing unit 13, the drive processing unit 14, and the ornamental signal processing unit 15 are each configured by a DSP (Digital signal processor).

マイクロプロセッサ11は、カメラ信号処理装置2全体の処理を制御するものである。A/Dコンバータ12は、固体撮像装置1からカメラ信号処理装置2に入力される映像信号の形態を、アナログ信号からデジタル信号に変換するものである。   The microprocessor 11 controls the entire processing of the camera signal processing device 2. The A / D converter 12 converts the form of a video signal input from the solid-state imaging device 1 to the camera signal processing device 2 from an analog signal to a digital signal.

カメラ信号処理部13は、A/Dコンバータ12で変換された映像信号に対して、例えばオフセット(クランプ)調整、ホワイトバランス、デモザイクなどのカメラ信号処理を行なうものである。カメラ信号処理を行なった撮像データは、画像データとして画像メモリ3に記憶される。間引き読み出しモードの場合は、画像メモリ3に記憶された画像データがカメラ信号処理部13や駆動処理部14に読み出される。カメラ信号処理部13では、画像メモリ3から読み出した画像データを用いて、被写体の動き検出にかかる処理を行なう。また、駆動処理部14では、画像メモリ3から読み出した画像データを用いて、画素駆動信号又は雲台駆動信号を生成する処理を行なう。全画素読み出しモードの場合は、画像メモリ3に記憶された画像データが観賞用信号処理部15に読み出される。観賞用信号処理部15では、画像メモリ3から読み出した画像データを、例えば表示装置4などに出力する処理を行なう。表示装置4は、カメラシステムとは別に外部の装置としてカメラ信号処理装置2に接続されてもよい。   The camera signal processing unit 13 performs camera signal processing such as offset (clamp) adjustment, white balance, and demosaicing on the video signal converted by the A / D converter 12. The imaging data subjected to the camera signal processing is stored in the image memory 3 as image data. In the thinning readout mode, the image data stored in the image memory 3 is read out to the camera signal processing unit 13 and the drive processing unit 14. The camera signal processing unit 13 uses the image data read from the image memory 3 to perform processing related to subject motion detection. Further, the drive processing unit 14 performs a process of generating a pixel drive signal or a pan head drive signal using the image data read from the image memory 3. In the all-pixel readout mode, the image data stored in the image memory 3 is read out to the ornamental signal processing unit 15. The ornamental signal processing unit 15 performs processing for outputting the image data read from the image memory 3 to, for example, the display device 4. The display device 4 may be connected to the camera signal processing device 2 as an external device separately from the camera system.

駆動処理部14で生成された画素駆動信号は、固体撮像装置1の画素駆動コントローラ10に入力される。また、駆動処理部14で生成された雲台駆動信号は、雲台5に入力される。   The pixel drive signal generated by the drive processing unit 14 is input to the pixel drive controller 10 of the solid-state imaging device 1. The pan head drive signal generated by the drive processing unit 14 is input to the pan head 5.

雲台5は、固体撮像装置1を搭載するとともに、固体撮像装置1の撮像方向を変えるべく駆動するものである。雲台5は、雲台駆動装置16と、雲台駆動コントローラ17とを備えた構成となっている。雲台駆動コントローラ17には、上記雲台駆動信号が入力される。雲台駆動コントローラ17は、雲台駆動信号に基づいて雲台駆動装置16を駆動するものである。雲台駆動装置16は、固体撮像装置1の撮像方向を変えるために駆動されるものである。   The camera platform 5 is mounted with the solid-state imaging device 1 and is driven to change the imaging direction of the solid-state imaging device 1. The camera platform 5 includes a camera platform drive device 16 and a camera platform drive controller 17. The camera platform drive controller 17 receives the camera platform drive signal. The pan head drive controller 17 drives the pan head drive device 16 based on the pan head drive signal. The pan / tilt head driving device 16 is driven to change the imaging direction of the solid-state imaging device 1.

図2は固体撮像装置の内部回路の構成例を示す概略図である。画素アレイ部6に行列状に2次元配置された各々の画素(単位画素)18は、光電変換素子となるフォトダイオードPDに加えて、転送トランジスタTr1、リセットトランジスタTr2、増幅トランジスタTr3及び選択トランジスタTr4といった4つのMOS(Metal Oxide Semiconductor)トランジスタを有する画素回路となっている。また、各々の画素18には、転送配線L1、リセット配線L2及び行選択配線L3が同一行の画素に対して共通に配線されている。また、各々の画素18には、垂直信号線L4が同一列の画素に対して共通に配線されている。   FIG. 2 is a schematic diagram illustrating a configuration example of an internal circuit of the solid-state imaging device. Each pixel (unit pixel) 18 two-dimensionally arranged in a matrix in the pixel array unit 6 includes a transfer transistor Tr1, a reset transistor Tr2, an amplification transistor Tr3, and a selection transistor Tr4, in addition to the photodiode PD serving as a photoelectric conversion element. The pixel circuit has four MOS (Metal Oxide Semiconductor) transistors. Further, in each pixel 18, a transfer wiring L1, a reset wiring L2, and a row selection wiring L3 are wired in common to the pixels in the same row. In addition, the vertical signal line L4 is wired to each pixel 18 in common to the pixels in the same column.

画素アレイ部6の各画素18を駆動する場合は、垂直走査回路7からリセット信号rst、転送信号trg及び行選択信号selが出力される一方、水平走査回路9から列選択信号hが出力される。図2においては、i行目の単位画素18に対して垂直走査回路7から出力されるリセット信号rst、転送信号trg及び行選択信号selには添え字iを、j列目の単位画素18に対して水平走査回路9から出力される列選択信号hには添え字jを付している。このため、例えば、画素アレイ部6の画素配列がVGA(640画素×480画素)であるとすると、i=1,2,…,480、j=1,2,…,640までの値をとることになる。   When driving each pixel 18 of the pixel array unit 6, the vertical scanning circuit 7 outputs the reset signal rst, the transfer signal trg, and the row selection signal sel, while the horizontal scanning circuit 9 outputs the column selection signal h. . In FIG. 2, the reset signal rst, the transfer signal trg, and the row selection signal sel output from the vertical scanning circuit 7 for the unit pixel 18 in the i-th row are suffixed i, and the unit pixel 18 in the j-th column. On the other hand, the column selection signal h output from the horizontal scanning circuit 9 has a suffix j. Therefore, for example, assuming that the pixel array of the pixel array unit 6 is VGA (640 pixels × 480 pixels), i = 1, 2,..., 480, j = 1, 2,. It will be.

固体撮像装置1は、画素アレイ部6の各画素から画素信号を読み出す場合の読み出しモードとして、第1の読み出しモードと第2の読み出しモードとを有している。第1の読み出しモードは、画素アレイ部6から第1の画素数をもって画素信号を読み出す読み出しモードであり、第2の読み出しモードは、画素アレイ部6から第1の画素数よりも少ない第2の画素数をもって画素信号を読み出す読み出しモードである。本実施形態においては、第1の読み出しモードとして全画素読み出しモードを適用するとともに、第2の読み出しモードとして間引き読み出しモードを適用することとする。全画素読み出しモードは、観賞用の読み出しモードとなり、間引き読み出しモードは、高速追尾用の読み出しモードとなる。読み出しモードの切り替えは、画素駆動コントローラ10によって行なわれる。   The solid-state imaging device 1 has a first readout mode and a second readout mode as readout modes when readout of pixel signals from each pixel of the pixel array unit 6. The first readout mode is a readout mode in which pixel signals are read out from the pixel array unit 6 with the first number of pixels, and the second readout mode is a second mode in which the pixel array unit 6 has a smaller number than the first number of pixels. This is a read mode in which pixel signals are read according to the number of pixels. In the present embodiment, the all-pixel readout mode is applied as the first readout mode, and the thinning readout mode is applied as the second readout mode. The all-pixel readout mode is an ornamental readout mode, and the thinning readout mode is a readout mode for high-speed tracking. Switching of the readout mode is performed by the pixel drive controller 10.

図3は画素アレイ部の各画素を全画素読み出しモードで駆動する場合のタイミングチャートである。全画素読み出しの場合は、信号XHSの立ち下がりをトリガとして、画素アレイ部6のi行目の画素の駆動が開始される。i行目の画素行においては、まず、行選択信号seliが立ち上がることで、i行目の画素出力が有効になる。次に、画素のリセット信号rstiが立ち上がることで、i行目の画素からリセット信号rstiが読み出される。次に、転送信号trgiが立ち上がることで、i行目の画素から画素信号が読み出される。   FIG. 3 is a timing chart in the case where each pixel of the pixel array unit is driven in the all-pixel reading mode. In the case of all pixel readout, the driving of the pixels in the i-th row of the pixel array unit 6 is started with the falling edge of the signal XHS as a trigger. In the i-th pixel row, first, when the row selection signal seli rises, the i-th pixel output becomes valid. Next, when the pixel reset signal rsti rises, the reset signal rsti is read from the pixel in the i-th row. Next, when the transfer signal trgi rises, the pixel signal is read from the pixel in the i-th row.

次に、画素信号とリセット信号の差分をCDS処理した後の画素信号をサンプリング/ホールドし、この状態で列選択信号hjが立ち上がることで、j列目の画素信号が映像信号として出力される。こうした画素の駆動動作をi+1、i+2、…、と順に行ない、それぞれにj、j+1、j+2、…、と列方向に選択することで、画素アレイ部6の全画素に対応する映像信号が出力される。   Next, the pixel signal after the CDS processing of the difference between the pixel signal and the reset signal is sampled / held, and the column selection signal hj rises in this state, whereby the pixel signal in the jth column is output as a video signal. By performing such pixel driving operations in order of i + 1, i + 2,... And selecting them in the column direction as j, j + 1, j + 2,. A video signal corresponding to is output.

図4は画素アレイ部の各画素を間引き読み出しモードで駆動する場合のタイミングチャートである。間引き読み出しの場合は、信号XHSの立ち下がりをトリガとして、画素アレイ部6のi行目の画素の駆動が開始される。そして、全画素読み出しの場合と同様にして、j列目の画素信号が映像信号として出力される。その際、列選択信号hj+1を立ち上げないことで、j+1列目の画素信号を映像信号として出力させないようにする。さらに次の信号XHSの立ち下がりのときに、i+1行目の行選択信号seli+1、リセット信号rsti+1及び転送信号trgi+1を立ち上げないことで、i+1行目の画素を選択しないようにする。これにより、間引き読み出しが実現される。   FIG. 4 is a timing chart in the case where each pixel of the pixel array unit is driven in the thinning readout mode. In the case of thinning readout, the driving of the pixels in the i-th row of the pixel array unit 6 is started with the falling edge of the signal XHS as a trigger. Then, the pixel signal of the jth column is output as a video signal in the same manner as in the case of all pixel readout. At that time, the column selection signal hj + 1 is not raised so that the pixel signal of the j + 1th column is not output as a video signal. Furthermore, when the next signal XHS falls, the row selection signal seli + 1, the reset signal rsti + 1, and the transfer signal trgi + 1 in the i + 1 row are not raised, so that the pixel in the i + 1 row Do not select. Thereby, thinning-out reading is realized.

間引き読み出しの場合は、固体撮像装置1から出力される映像信号の画素数が全画素読み出しの場合よりも少なくなる。このため、間引き読み出しでは、全画素読み出しよりも高速な撮像が行なえることになる。例えばi、i+2、i+4、…、のように偶数行選択をした間引き駆動を行なった場合は、全画素読み出しよりも2倍高速な撮像を実現できることになる。   In the case of thinning readout, the number of pixels of the video signal output from the solid-state imaging device 1 is smaller than in the case of all pixel readout. For this reason, thinning-out readout can perform imaging at a higher speed than all-pixel readout. For example, when thinning driving is performed with even-numbered rows selected as i, i + 2, i + 4,..., It is possible to realize imaging that is twice as fast as all pixel readout.

図5(A)は画素アレイ部の画素配列に対応した色フィルタ配列の一例を示す図である。図示した色フィルタの配列は、固体撮像装置1でよく用いられるベイヤー配列と呼ばれるもので、光の3原色であるR(赤)、G(緑)、B(青)の原色フィルタを用いて、ある行ではB,G,B,G,…の配列とし、次の行ではR,B,R,B,…の配列としている。全画素読み出しの場合は、もともとの色フィルタと同様のベイヤー配列で画素信号が読み出される。   FIG. 5A is a diagram illustrating an example of a color filter array corresponding to the pixel array of the pixel array unit. The arrangement of the color filters shown in the figure is called a Bayer arrangement that is often used in the solid-state imaging device 1, and the primary color filters of R (red), G (green), and B (blue) that are the three primary colors of light are used. One row has an array of B, G, B, G,..., And the next row has an array of R, B, R, B,. In the case of all pixel readout, pixel signals are read out with the same Bayer arrangement as the original color filter.

一般に、間引き読み出しを行なう場合は、間引き後の画素信号の色配列も、全画素読み出しの場合と同様のベイヤー配列を保つようにすることが多い。これは色信号処理を同一のアルゴリズムで行えるようにするためである。そこで、間引きを行う場合は、例えば図5(B)に示すように、垂直方向では画素信号の読み出し行が2画素おきとなるように3行に1行を読み出し、水平方向でも画素信号の読み出し列が2画素おきとなるように3列に1列を読み出すことにより、間引き後の画素信号の色配列を全画素読み出しの場合と同様のベイヤー配列に保つことができる。なお、図5(B)においては、間引きモードで信号の読み出しが行なわれる画素部分を網掛け模様で表示している。   In general, when thinning readout is performed, the color arrangement of pixel signals after thinning is often maintained in the same Bayer arrangement as in the case of all pixel readout. This is because the color signal processing can be performed with the same algorithm. Therefore, when thinning out, as shown in FIG. 5B, for example, one row is read out every three rows so that every two pixels are read out in the vertical direction, and pixel signals are read out also in the horizontal direction. By reading one column out of every three columns so that the column is every two pixels, the color arrangement of the pixel signals after thinning can be maintained in the same Bayer arrangement as in the case of all pixel readout. Note that in FIG. 5B, pixel portions from which signals are read out in the thinning mode are displayed in a shaded pattern.

このような間引き読み出しを行なった場合は、実際に駆動する画素数が全画素読み出しに比較して少なくなるため、その分、フレームレートを高めることができる。図5(B)の例では、3行に1行を読み出しているため、全画素読み出しに比較してフレームレートが3倍高速になる。この図5(B)の例以外にも、例えば、信号の間引き動作と加算動作を組み合わせることで、間引き動作を行いつつ感度を向上させた読み出しも可能である。   When such thinning readout is performed, the number of pixels to be actually driven is smaller than that for all pixel readout, so that the frame rate can be increased accordingly. In the example of FIG. 5B, since one row is read out in three rows, the frame rate is three times faster than in the all-pixel readout. In addition to the example of FIG. 5B, for example, by combining a signal thinning operation and an addition operation, reading with improved sensitivity while performing a thinning operation is also possible.

図6は固体撮像装置の信号読み出し動作を示すタイミングチャートである。ここでは、一例として、画素アレイ部の画素行が8行で構成された固体撮像装置を想定している。まず、画素信号の読み出しは、信号XVSの立ち下がりをトリガとして開始される。すなわち、信号XVSが立ち下がると、信号XHSが立ち下がるたびに偶数番目(i=2,4,6,8)の画素行から順に画素信号が読み出される。この場合は、奇数番目(i=1,3,5,7)の画素行を間引くことになる。こうした間引き読み出しを信号XVSが立ち下がるたびに4回続けて繰り返すことにより、追尾用の間引き読み出しをフレーム1〜フレーム4まで4回行なう。   FIG. 6 is a timing chart showing the signal readout operation of the solid-state imaging device. Here, as an example, a solid-state imaging device in which the pixel rows of the pixel array unit are configured with 8 rows is assumed. First, the reading of the pixel signal is started with the falling edge of the signal XVS as a trigger. That is, when the signal XVS falls, every time the signal XHS falls, pixel signals are read in order from the even-numbered (i = 2, 4, 6, 8) pixel rows. In this case, odd-numbered (i = 1, 3, 5, 7) pixel rows are thinned out. Such thinning-out reading is repeated four times each time the signal XVS falls, so that the thinning-out reading for tracking is performed four times from frame 1 to frame 4.

次に、第1のリセット動作として、4回の間引き読み出し後の信号XVSの立ち下がりをトリガとして、信号XHSが立ち下がるたびに全ての画素行から順に画素信号が読み出される。固体撮像装置1にCMOSイメージセンサを用いた場合は、同時読み出しが行えないため、フレームレートが異なるフレーム間の読み出しでは、露光時間の異なる行が存在してしまう。そのため、ここでは追尾用の間引き読み出しフレームと観賞用の全画素読み出しフレームとの間にリセット動作として、一旦全ての画素行から画素信号を読み出すようにしている。   Next, as the first reset operation, the pixel signal is read sequentially from all the pixel rows every time the signal XHS falls, triggered by the fall of the signal XVS after four thinning-out readings. When a CMOS image sensor is used for the solid-state imaging device 1, since simultaneous reading cannot be performed, there are rows with different exposure times in reading between frames having different frame rates. For this reason, here, pixel signals are once read from all pixel rows as a reset operation between the tracking thinning readout frame and the ornamental all pixel readout frame.

次に、第1のリセット動作後の信号XVSの立ち下がりをトリガとして、信号XHSが立ち下がるたびに全ての画素行から順に画素信号が読み出される。これにより、観賞用の全画素読み出しを1回行なう。   Next, with the falling edge of the signal XVS after the first reset operation as a trigger, the pixel signals are sequentially read from all the pixel rows every time the signal XHS falls. Thereby, all the pixels for ornamental reading are read once.

次に、第2のリセット動作として、全画素読み出し後の信号XVSの立ち下がりをトリガとして、信号XHSが立ち下がるたびに偶数番目(i=2,4,6,8)の画素行から順に画素信号が読み出される。以降は、上述した4フレーム分の追尾用の間引き読み出し、第1のリセット動作、1フレーム分の観賞用の全画素読み出し、第2のリセット動作を順に繰り返すことになる。   Next, as a second reset operation, every time the signal XHS falls using the falling edge of the signal XVS after reading out all the pixels as a trigger, the pixels from the even-numbered (i = 2, 4, 6, 8) pixel rows in order. The signal is read out. Thereafter, the above-described thinning readout for tracking for 4 frames, the first reset operation, the readout of all pixels for viewing for 1 frame, and the second reset operation are repeated in order.

こうして画素アレイ部6の各画素から読み出された画素信号は、上述した4回の間引き読み出しや1回の全画素読み出しに対応する各フレームの画像を表す映像信号として固体撮像装置1からカメラ信号処理装置2に転送される。その際、固体撮像装置1は、図7に示すように、追尾用に間引き読み出しを行ないながら、カメラ信号処理装置2に映像信号を転送する。一方、カメラ信号処理装置2では、固体撮像装置1から送られた映像信号が表す画像のうち、上述した4回の間引き読み出しによって得られる画像を用いて、被写体の動き検出を行なう。これにより、固体撮像装置1とカメラ信号処理装置2とを含むカメラシステムにおいては、追尾用の間引き読み出しと被写体の動き検出を同時に行なっている。   The pixel signal read from each pixel of the pixel array unit 6 in this manner is a camera signal from the solid-state imaging device 1 as a video signal representing an image of each frame corresponding to the above-described four-time thinning-out reading or one-time all-pixel reading. It is transferred to the processing device 2. At that time, as shown in FIG. 7, the solid-state imaging device 1 transfers the video signal to the camera signal processing device 2 while performing thinning readout for tracking. On the other hand, the camera signal processing device 2 performs subject motion detection using an image obtained by the above-described four-time thinning out of the images represented by the video signal sent from the solid-state imaging device 1. Thereby, in the camera system including the solid-state imaging device 1 and the camera signal processing device 2, the thinning-out readout for tracking and the motion detection of the subject are simultaneously performed.

図8は本発明の実施形態に係るカメラシステムに適用される処理手順を示すフローチャートである。まず、固体撮像装置1で4回のうちの1回目の間引き読み出しを行なうことにより、間引き読み出しフレーム1の画像信号を生成するとともに、この画像信号をカメラ信号処理装置2に転送することにより、間引き読み出しフレーム1の画像信号(以下、「フレーム画像1」と記す)を画像メモリ3に取り込む(ステップS1)。   FIG. 8 is a flowchart showing a processing procedure applied to the camera system according to the embodiment of the present invention. First, the solid-state imaging device 1 performs the first thinning out of the four times to generate an image signal of the thinned readout frame 1 and transfers the image signal to the camera signal processing device 2 to perform the thinning out. The image signal of the read frame 1 (hereinafter referred to as “frame image 1”) is taken into the image memory 3 (step S1).

次に、固体撮像装置1で4回のうちの2回目の間引き読み出しを行なうことにより、間引き読み出しフレーム2の画像信号を生成するとともに、この画像信号をカメラ信号処理装置2に転送することにより、間引き読み出しフレーム2の画像信号(以下、「フレーム画像2」と記す)を画像メモリ3に取り込む(ステップS2)。   Next, by performing the second thinning out of the four times in the solid-state imaging device 1, an image signal of the thinned readout frame 2 is generated, and the image signal is transferred to the camera signal processing device 2. The image signal of the thinned readout frame 2 (hereinafter referred to as “frame image 2”) is taken into the image memory 3 (step S2).

次に、カメラ信号処理装置2では、画像メモリ3に格納したフレーム画像1とフレーム画像2の差分をカメラ信号処理部13で演算し、その演算結果を二値化する(ステップS3)。これにより、フレーム画像1,2に動被写体が含まれる場合は、この動被写体の画像が二値化によって抽出される。その際に、カメラ信号処理部13の演算処理方法によっては、内部レジスタに被写体の座標を書き込みなどして、フレーム画像2を画像メモリ3に取り込む場合と取り込まない場合がある。   Next, in the camera signal processing device 2, the camera signal processing unit 13 calculates the difference between the frame image 1 and the frame image 2 stored in the image memory 3, and binarizes the calculation result (step S3). Thereby, when a moving subject is included in the frame images 1 and 2, images of the moving subject are extracted by binarization. At this time, depending on the arithmetic processing method of the camera signal processing unit 13, the frame image 2 may or may not be captured into the image memory 3 by writing the coordinates of the subject in the internal register.

次に、カメラ信号処理装置2では、上記ステップS3で二値化した画像の重心1をカメラ信号処理部13で計算し、この計算結果を画像メモリ3に取り込む(ステップS4)。   Next, in the camera signal processing apparatus 2, the camera signal processing unit 13 calculates the center of gravity 1 of the image binarized in step S3, and takes in the calculation result to the image memory 3 (step S4).

図9は重心計算の原理を説明する図である。重心の計算では、2つのフレーム画像の差分演算と二値化によって得られる動被写体の画像データを、ある間隔のメッシュに分割し、そのメッシュの座標を(Xm,Yn)とする(m,nは共に整数)。そして、メッシュ座標(Xm,Yn)上に動被写体の画像データが存在する場合は、amn=1とし、存在しない場合は、amn=0とする。このようにすると、二値化した動被写体の重心の座標(X,Y)は、次の(数1)式によって計算することができる。   FIG. 9 is a diagram for explaining the principle of centroid calculation. In the calculation of the center of gravity, the image data of the moving subject obtained by the difference calculation and binarization of the two frame images is divided into meshes with a certain interval, and the coordinates of the meshes are (Xm, Yn) (m, n). Are both integers). Then, if the moving subject image data exists on the mesh coordinates (Xm, Yn), amn = 1, and if not, amn = 0. In this way, the coordinates (X, Y) of the binarized moving subject's center of gravity can be calculated by the following equation (1).

Figure 2008172606
Figure 2008172606

次に、固体撮像装置1で4回のうちの3回目の間引き読み出しを行なうことにより、間引き読み出しフレーム3の画像信号を生成するとともに、この画像信号をカメラ信号処理装置2に転送することにより、間引き読み出しフレーム3の画像信号(以下、「フレーム画像3」と記す)を画像メモリ3に取り込む(ステップS5)。   Next, by performing the third thinning out of the four times in the solid-state imaging device 1, an image signal of the thinned readout frame 3 is generated, and the image signal is transferred to the camera signal processing device 2. The image signal of the thinning readout frame 3 (hereinafter referred to as “frame image 3”) is taken into the image memory 3 (step S5).

次に、固体撮像装置1で4回のうちの4回目の間引き読み出しを行なうことにより、間引き読み出しフレーム4の画像信号を生成するとともに、この画像信号をカメラ信号処理装置2に転送することにより、間引き読み出しフレーム4の画像信号(以下、「フレーム画像4」と記す)を画像メモリ3に取り込む(ステップS6)。   Next, by performing the fourth thinning out of the four times in the solid-state imaging device 1, an image signal of the thinned readout frame 4 is generated, and the image signal is transferred to the camera signal processing device 2. The image signal of the thinned readout frame 4 (hereinafter referred to as “frame image 4”) is taken into the image memory 3 (step S6).

次に、カメラ信号処理装置2では、画像メモリ3に格納したフレーム画像3とフレーム画像4の差分をカメラ信号処理部13で演算し、その演算結果を二値化する(ステップS7)。これにより、フレーム画像3,4に動被写体が含まれる場合は、この動被写体の画像が二値化によって抽出される。   Next, in the camera signal processing apparatus 2, the camera signal processing unit 13 calculates the difference between the frame image 3 and the frame image 4 stored in the image memory 3, and binarizes the calculation result (step S7). Thereby, when a moving subject is included in the frame images 3 and 4, the image of the moving subject is extracted by binarization.

次に、カメラ信号処理装置2では、上記ステップS7で二値化した画像の重心2を、前述した重心計算の原理にしたがってカメラ信号処理部13で計算し、この計算結果を画像メモリ3に取り込む(ステップS8)。   Next, in the camera signal processing apparatus 2, the camera signal processing unit 13 calculates the centroid 2 of the image binarized in step S7 in accordance with the principle of centroid calculation described above, and the calculation result is taken into the image memory 3. (Step S8).

次に、カメラ信号処理装置2では、上記ステップS4で画像メモリ3に取り込んだ画像の重心1と上記ステップS8で画像メモリ3に取り込んだ画像の重心2とに基づいて、重心1から重心2への重心移動ベルトをカメラ信号処理部13で計算する(ステップS9)。   Next, in the camera signal processing device 2, from the center of gravity 1 to the center of gravity 2 based on the center of gravity 1 of the image captured in the image memory 3 in step S4 and the center of gravity 2 of the image captured in the image memory 3 in step S8. Is calculated by the camera signal processing unit 13 (step S9).

次に、カメラ信号処理装置2では、上記ステップS9で求めた重心移動ベクトルに基づいて、次のフレームで推定される移動ベクトルをカメラ信号処理部13で計算する(ステップS10)。具体的には、上記ステップS9で求めた重心移動ベルトを、当該重心移動ベクトルのベクトル方向に2倍したところが、次のフレームで推定される重心の移動位置(次のフレームの移動ベクトル)となる。   Next, in the camera signal processing device 2, the camera signal processing unit 13 calculates a movement vector estimated in the next frame based on the center-of-gravity movement vector obtained in step S9 (step S10). Specifically, the center-of-gravity movement belt obtained in step S9 is doubled in the vector direction of the center-of-gravity movement vector to obtain the center-of-gravity movement position estimated in the next frame (movement vector of the next frame). .

図10は動き検出の処理内容を模式的に示す図である。図10においては、フレーム間の演算により、動いている被写体の重心を求め、この重心の動きから次のフレームにおける被写体の移動を予測する原理を示している。具体的には、フレーム画像1とフレーム画像2との差分演算と二値化により、動被写体の画像を抽出した後、重心計算によって動被写体の画像の重心1を計算する。次に、フレーム画像3とフレーム画像4との差分演算と二値化により、動被写体の画像を抽出した後、重心計算によって動被写体の画像の重心2を計算する。その後、重心1から重心2への移動ベクトルを計算した後、次のフレームで推定される重心の移動ベクトルを求める。なお、図10においては、フレーム画像2とフレーム画像3を共通の画像であるように示しているが、実際には異なるタイミングで撮像された画像となる。   FIG. 10 is a diagram schematically showing the processing contents of motion detection. FIG. 10 shows the principle of calculating the center of gravity of a moving subject by calculation between frames and predicting the movement of the subject in the next frame from the movement of the center of gravity. Specifically, after extracting the moving subject image by calculating the difference between the frame image 1 and the frame image 2 and binarizing, the center of gravity 1 of the moving subject image is calculated by calculating the center of gravity. Next, after extracting the moving subject image by calculating the difference between the frame image 3 and the frame image 4 and binarizing, the center of gravity 2 of the moving subject image is calculated by calculating the center of gravity. Then, after calculating a movement vector from the center of gravity 1 to the center of gravity 2, a movement vector of the center of gravity estimated in the next frame is obtained. In FIG. 10, the frame image 2 and the frame image 3 are shown to be a common image, but actually, the images are captured at different timings.

その後、カメラ信号処理装置2では、上記ステップS10で推定した次のフレームでの重心移動位置が、間引き読み出しを行なった画素(以下、「間引き画素」と記す)の画角内に収まるかどうかをカメラ信号処理部13で判定する(ステップS11)。そして、次のフレームの重心移動位置が間引き画素の画角内に収まる場合は、上記ステップS10で推定した移動ベクトルと同じだけ画角を変化させるために必要な画素駆動信号を計算するとともに、この画素駆動信号を固体撮像装置1に転送する(ステップS12)。   Thereafter, the camera signal processing apparatus 2 determines whether or not the center-of-gravity movement position in the next frame estimated in step S10 is within the angle of view of the pixel that has been subjected to the thinning readout (hereinafter referred to as “thinning pixel”). The determination is made by the camera signal processing unit 13 (step S11). When the center-of-gravity movement position of the next frame falls within the angle of view of the thinned pixel, a pixel drive signal necessary for changing the angle of view by the same amount as the movement vector estimated in step S10 is calculated. The pixel drive signal is transferred to the solid-state imaging device 1 (step S12).

これにより、次のフレーム(全画素読み出しのフレーム)では、動被写体が画角の中心にくるように、固体撮像装置1の画素アレイ部6で画素信号の読み出しが開始される画素(以下、「読み出し開始画素」と記す)を変化させることができる。具体的には、画素アレイ部6のすべての画素のうち、ある1つの画素を読み出し開始画素として画素アレイ部6内に所定の大きさで矩形の撮像領域を設定し、この撮像領域の大きさで画角を規定する場合、図11に示すように、あるタイミングで全画素読み出しにより撮像されるフレーム画像Aでは、画素アレイ部6上の座標(Ha,Va)で示す画素を読み出し画素として撮像するのに対して、次のタイミングで全画素読み出しにより撮像されるフレーム画像Bでは、読み出し開始画素の位置を行方向と列方向で変化させることにより、画素アレイ部6上の座標(Hb,Vb)で示す画素を読み出し開始画素として撮像する。この読み出し開始画素の変化は、前述の動き検出の結果を用いて行なうため、被写体が動いている場合でも、読み出し開始画素を変化させることで、簡単に被写体を画角内に収めることができる。   Thereby, in the next frame (all pixel readout frame), the pixel array unit 6 of the solid-state imaging device 1 starts reading pixel signals (hereinafter, “ (Referred to as “readout start pixel”). Specifically, a rectangular imaging area having a predetermined size is set in the pixel array unit 6 with a certain pixel out of all the pixels in the pixel array unit 6 as a read start pixel, and the size of the imaging area is set. 11, in the frame image A captured by reading all pixels at a certain timing, the pixel indicated by the coordinates (Ha, Va) on the pixel array unit 6 is captured as a readout pixel, as shown in FIG. On the other hand, in the frame image B picked up by all pixel readout at the next timing, the coordinates (Hb, Vb) on the pixel array unit 6 are changed by changing the position of the readout start pixel in the row direction and the column direction. The pixel indicated by () is imaged as a readout start pixel. Since the change of the readout start pixel is performed using the result of the motion detection described above, even when the subject is moving, the subject can be easily within the angle of view by changing the readout start pixel.

一方、次のフレームの重心移動位置が間引き画素の画角内に収まらない場合は、上記ステップS10で推定した移動ベクトルと同じだけ画角を変化させるために必要な雲台駆動信号を計算するとともに、この雲台駆動信号を雲台5に転送することにより、雲台5を駆動する(ステップS13,S14)。   On the other hand, when the center-of-gravity movement position of the next frame does not fall within the angle of view of the thinned pixel, a pan head drive signal necessary for changing the angle of view as much as the movement vector estimated in step S10 is calculated. Then, the camera platform 5 is driven by transferring the camera platform drive signal to the camera platform 5 (steps S13 and S14).

これにより、次のフレーム(全画素読み出しのフレーム)では、動被写体が画角の中心にくるように、雲台5の方向を変化させることができる。具体的には、図12に示すように、固体撮像装置1を搭載した雲台5の方向を、パン方向及びチルト方向に適宜変化させることで、簡単に被写体を画角内に収めることができる。   As a result, in the next frame (all-pixel readout frame), the direction of the camera platform 5 can be changed so that the moving subject comes to the center of the angle of view. Specifically, as shown in FIG. 12, the subject can be easily within the angle of view by appropriately changing the direction of the camera platform 5 on which the solid-state imaging device 1 is mounted to the pan direction and the tilt direction. .

このように画角を変化させた後は、ユーザからの撮像指示を受けて固体撮像装置1が1回の全画素読み出しを行なうことにより、全画素読み出しフレームの画像信号を生成するとともに、この画像信号をカメラ信号処理装置2に転送する(ステップS15,S16)。その後は、上記ステップS1に戻って同様の処理を繰り返す。また、ユーザからの撮像指示がない場合は、全画素読み出しを行なわずに、上記ステップS1に戻る。   After changing the angle of view in this way, the solid-state imaging device 1 receives an imaging instruction from the user and performs one-time all-pixel readout, thereby generating an image signal of the all-pixel readout frame and this image. The signal is transferred to the camera signal processing device 2 (steps S15 and S16). Thereafter, the process returns to step S1 and the same processing is repeated. If there is no imaging instruction from the user, the process returns to step S1 without reading all pixels.

以上の処理により、常に動被写体が画角内に収まるように制御することができる。したがって、例えば、シャッターオンなどのユーザからの撮像要求や、あるフレーム数の追尾用の間引き読み出しを行なった後に、観賞用の全画素読み出しを行なうことにより、常に動被写体が画角中に存在している良質な画像を得ることができる。   Through the above processing, it is possible to control so that the moving subject always falls within the angle of view. Therefore, for example, after performing an imaging request from the user such as shutter-on or a thinning-out readout for tracking a certain number of frames, a moving subject always exists in the angle of view by performing all-pixel readout for viewing. You can get good quality images.

また、本発明により、動被写体が常に全画素読み出しの画角内に収まるような撮像が可能なカメラシステムを実現することができる。また、追尾用の撮像は間引き読み出しで行なうため、高速なフレームの撮像を実現することができる。このため、高速に移動する動被写体の追尾が可能である。また、動被写体の追尾に対して演算量を減少させることができるため、信号処理の負担(回路規模、消費電力など)を減らすことができる。また、演算で使用する外部メモリの容量を低減することができる。   In addition, according to the present invention, it is possible to realize a camera system capable of capturing an image so that a moving subject always falls within an angle of view for reading all pixels. In addition, since tracking imaging is performed by thinning readout, high-speed frame imaging can be realized. Therefore, it is possible to track a moving subject that moves at high speed. In addition, since the amount of calculation can be reduced for tracking a moving subject, the burden of signal processing (circuit scale, power consumption, etc.) can be reduced. In addition, the capacity of the external memory used for computation can be reduced.

さらに、観賞用の撮像は全画素読み出しで行なうため、解像度の高い良質な画像を得ることができる。また、追尾の演算結果に応じて、画素アレイ部6の読み出し開始画素を変化させるか、雲台5を駆動するかを切り替えるようにしているため、常に雲台5の駆動によって画角を変化させる場合に比較して、雲台5の駆動にかかる消費電力を低減することができる。また、追尾の演算結果により、全画素読み出しの際に、全画素読み出しによって得られるフレーム画像のなかで動被写体がいずれの位置にあるかを認識することができるため、ユーザーの好みの画像が得られる。   Furthermore, since ornamental imaging is performed by reading out all pixels, a high-quality image with high resolution can be obtained. In addition, since the readout start pixel of the pixel array unit 6 is changed or the camera platform 5 is driven according to the tracking calculation result, the angle of view is always changed by driving the camera platform 5. Compared to the case, the power consumption for driving the pan head 5 can be reduced. In addition, according to the tracking calculation result, it is possible to recognize the position of the moving subject in the frame image obtained by the all-pixel readout at the time of all-pixel readout, so that the user's favorite image can be obtained. It is done.

本発明の実施形態に係るカメラシステムの全体構成図である。1 is an overall configuration diagram of a camera system according to an embodiment of the present invention. 固体撮像装置の内部回路の構成例を示す概略図である。It is the schematic which shows the structural example of the internal circuit of a solid-state imaging device. 画素アレイ部の各画素を全画素読み出しモードで駆動する場合のタイミングチャートである。It is a timing chart in the case of driving each pixel of a pixel array part by all pixel read-out mode. 画素アレイ部の各画素を間引き読み出しモードで駆動する場合のタイミングチャートである。It is a timing chart in the case of driving each pixel of the pixel array unit in a thinning readout mode. 画素アレイ部の画素配列に対応した色フィルタ配列の一例と間引き読み出しを行なう画素配列の一例を示す図である。It is a figure which shows an example of a color filter arrangement | sequence corresponding to the pixel arrangement | sequence of a pixel array part, and an example of a pixel arrangement | sequence which performs thinning-out reading. 固体撮像装置の信号読み出し動作を示すタイミングチャートである。It is a timing chart which shows signal read-out operation of a solid imaging device. 固体撮像装置とカメラ信号処理装置の動作例を示す図である。It is a figure which shows the operation example of a solid-state imaging device and a camera signal processing apparatus. 本発明の実施形態に係るカメラシステムに適用される処理手順を示すフローチャートである。It is a flowchart which shows the process sequence applied to the camera system which concerns on embodiment of this invention. 重心計算の原理を説明する図である。It is a figure explaining the principle of a gravity center calculation. 動き検出の処理内容を模式的に示す図である。It is a figure which shows typically the processing content of a motion detection. 読み出し開始画素を変化させて、画角を変化させる例を示す図である。It is a figure which shows the example which changes a read start pixel and changes an angle of view. 雲台の方向を変化させて、画角を変化させる例を示す図である。It is a figure which shows the example which changes the direction of a pan head and changes an angle of view.

符号の説明Explanation of symbols

1…固体撮像装置、2…カメラ信号処理装置、5…雲台、6…画素アレイ部、8…画素、10…画素駆動コントローラ   DESCRIPTION OF SYMBOLS 1 ... Solid-state imaging device, 2 ... Camera signal processing apparatus, 5 ... Pan head, 6 ... Pixel array part, 8 ... Pixel, 10 ... Pixel drive controller

Claims (6)

複数の画素が行列状に2次元配置された画素アレイ部と、
前記画素アレイ部から第1の画素数をもって画素信号を読み出す第1の読み出しモードと、前記画素アレイ部から前記第1の画素数よりも少ない第2の画素数をもって画素信号を読み出す第2の読み出しモードとを有し、前記第2の読み出しモードで画素信号をn回(nは2以上の整数)読み出すごとに、前記第1の読み出しモードで画素信号を1回読み出すように制御する制御手段と
を備えることを特徴とする固体撮像装置。
A pixel array unit in which a plurality of pixels are two-dimensionally arranged in a matrix;
A first readout mode in which pixel signals are read out from the pixel array section with a first number of pixels, and a second readout in which pixel signals are read out from the pixel array section with a second number of pixels smaller than the first number of pixels. And a control means for controlling the pixel signal to be read once in the first readout mode every time the pixel signal is read n times (n is an integer of 2 or more) in the second readout mode. A solid-state imaging device comprising:
前記第1の読み出しモードは全画素読み出しモードであり、前記第2の読み出しモードは間引き読み出しモードである
ことを特徴とする請求項1記載の固体撮像装置。
The solid-state imaging device according to claim 1, wherein the first readout mode is an all-pixel readout mode, and the second readout mode is a thinning readout mode.
複数の画素を行列状が2次元配置された画素アレイ部と、前記画素アレイ部から第1の画素数をもって画素信号を読み出す第1の読み出しモードと、前記画素アレイ部から前記第1の画素数よりも少ない第2の画素数をもって画素信号を読み出す第2の読み出しモードとを有し、前記第2の読み出しモードで画素信号をn回(nは2以上の整数)読み出すごとに、前記第1の読み出しモードで画素信号を1回読み出すように制御する制御手段とを備える固体撮像装置と、
前記n回の読み出しによって得られる画像を用いて、被写体の動き検出を行なう信号処理装置と
を具備することを特徴とするカメラシステム。
A pixel array unit in which a plurality of pixels are two-dimensionally arranged, a first readout mode in which a pixel signal is read from the pixel array unit with a first number of pixels, and the first number of pixels from the pixel array unit A second readout mode for reading out a pixel signal with a smaller number of second pixels, and each time the pixel signal is read out n times (n is an integer of 2 or more) in the second readout mode, A solid-state imaging device comprising control means for controlling the pixel signal to be read once in the readout mode of
And a signal processing device for detecting a motion of a subject using an image obtained by the n times of reading.
前記信号処理装置は、前記n回の読み出しによって得られる画像の差分を二値化するとともに、前記二値化した画像の重心をモーメント計算により求め、その重心の移動を画像内で追跡することにより、前記被写体の動き検出を行なう
ことを特徴とする請求項3記載のカメラシステム。
The signal processing device binarizes the difference between the images obtained by the n times of reading, obtains the centroid of the binarized image by moment calculation, and tracks the movement of the centroid in the image. The camera system according to claim 3, wherein the movement of the subject is detected.
前記被写体の動き検出に基づいて、前記固体撮像装置の画素アレイ部の読み出し開始画素を変化させる
ことを特徴とする請求項3記載のカメラシステム。
4. The camera system according to claim 3, wherein a readout start pixel of a pixel array unit of the solid-state imaging device is changed based on detection of the movement of the subject.
前記固体撮像装置を搭載する雲台を具備し、
前記被写体の動き検出に基づいて、前記雲台の方向を変化させる
ことを特徴とする請求項3記載のカメラシステム。
Comprising a pan head mounted with the solid-state imaging device;
The camera system according to claim 3, wherein the direction of the camera platform is changed based on the motion detection of the subject.
JP2007004754A 2007-01-12 2007-01-12 Solid-state imaging apparatus and camera system Pending JP2008172606A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2007004754A JP2008172606A (en) 2007-01-12 2007-01-12 Solid-state imaging apparatus and camera system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007004754A JP2008172606A (en) 2007-01-12 2007-01-12 Solid-state imaging apparatus and camera system

Publications (1)

Publication Number Publication Date
JP2008172606A true JP2008172606A (en) 2008-07-24

Family

ID=39700266

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007004754A Pending JP2008172606A (en) 2007-01-12 2007-01-12 Solid-state imaging apparatus and camera system

Country Status (1)

Country Link
JP (1) JP2008172606A (en)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8937670B2 (en) 2011-05-16 2015-01-20 Kabushiki Kaisha Toshiba Processing video signal imaging apparatus and processing video signal imaging method
CN104754213A (en) * 2013-12-27 2015-07-01 佳能株式会社 Image capturing apparatus and control method thereof
WO2015151790A1 (en) * 2014-03-31 2015-10-08 ソニー株式会社 Solid-state imaging element, electronic device, and imaging method

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04361484A (en) * 1991-06-10 1992-12-15 Matsushita Electric Ind Co Ltd Picture movement correction device
JPH0765299A (en) * 1993-08-25 1995-03-10 Shimizu Corp Water surface monitor system
JPH1144700A (en) * 1997-07-25 1999-02-16 Sanyo Electric Co Ltd Speed-measuring apparatus, automatic tracking system using the apparatus and display system for estimated arrival position
JP2000184367A (en) * 1998-12-14 2000-06-30 Olympus Optical Co Ltd Camera controller and recording medium
JP2004328735A (en) * 2003-04-25 2004-11-18 Agilent Technol Inc Motion detecting apparatus and motion detecting method
JP2006041861A (en) * 2004-07-27 2006-02-09 Kyocera Corp Imaging device and image generation method therefor

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04361484A (en) * 1991-06-10 1992-12-15 Matsushita Electric Ind Co Ltd Picture movement correction device
JPH0765299A (en) * 1993-08-25 1995-03-10 Shimizu Corp Water surface monitor system
JPH1144700A (en) * 1997-07-25 1999-02-16 Sanyo Electric Co Ltd Speed-measuring apparatus, automatic tracking system using the apparatus and display system for estimated arrival position
JP2000184367A (en) * 1998-12-14 2000-06-30 Olympus Optical Co Ltd Camera controller and recording medium
JP2004328735A (en) * 2003-04-25 2004-11-18 Agilent Technol Inc Motion detecting apparatus and motion detecting method
JP2006041861A (en) * 2004-07-27 2006-02-09 Kyocera Corp Imaging device and image generation method therefor

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8937670B2 (en) 2011-05-16 2015-01-20 Kabushiki Kaisha Toshiba Processing video signal imaging apparatus and processing video signal imaging method
CN104754213A (en) * 2013-12-27 2015-07-01 佳能株式会社 Image capturing apparatus and control method thereof
CN104754213B (en) * 2013-12-27 2018-04-03 佳能株式会社 Picture pick-up device and its control method
WO2015151790A1 (en) * 2014-03-31 2015-10-08 ソニー株式会社 Solid-state imaging element, electronic device, and imaging method
US10181485B2 (en) 2014-03-31 2019-01-15 Sony Corporation Solid-state image sensor, electronic apparatus, and imaging method

Similar Documents

Publication Publication Date Title
EP2592838B1 (en) Image capture device
KR20190029615A (en) Image pickup apparatus and control method of image pickup apparatus
JP2007150643A (en) Solid state imaging element, driving method therefor, and imaging apparatus
JP2009212909A (en) Solid-state imaging apparatus, flicker detection method for solid-state imaging apparatus, control program, readable recording medium, and electronic information device
JP2008131407A (en) Solid-state imaging element and imaging apparatus using same
JP2019134202A (en) Imaging apparatus and control method of image pic-up device
US10582113B2 (en) Image pickup device, image pickup apparatus, image pickup apparatus control method and computer-readable non-transitory recording medium in which processing program is recorded
JP2006203395A (en) Moving body recognition system and moving body monitor system
JP2009089087A (en) Solid-state image pickup apparatus and image pickup apparatus
EP1829361A1 (en) Method for extracting of multiple sub-windows of a scanning area by means of a digital video camera
JP2009017459A (en) Ccd solid-state imaging element, driving method thereof, and imaging apparatus
WO2021014867A1 (en) Imaging device and control method for same
WO2021014921A1 (en) Image capturing device and control method for same
JP2008172606A (en) Solid-state imaging apparatus and camera system
JP2016058877A (en) Imaging apparatus and control method thereof
JPWO2018021034A1 (en) Imaging control apparatus, imaging control method, and imaging device
JP5398610B2 (en) Solid-state electronic imaging device and operation control method thereof
JP2005167497A (en) Imaging device, method for acquiring image with high quality, and program
JP4306676B2 (en) Imaging device
JP2004015236A (en) Imaging apparatus
WO2021124736A1 (en) Imaging device
JP2006074440A (en) Imaging apparatus
WO2023085138A1 (en) Solid-state imaging device, method for driving same, and electronic apparatus
JP2006238205A (en) Imaging apparatus and imaging method
JP2010011124A (en) Image pickup apparatus

Legal Events

Date Code Title Description
RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20091007

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20091016

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100107

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20111018

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20111108

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20120228