Nothing Special   »   [go: up one dir, main page]

JP5597124B2 - Image signal processing device - Google Patents

Image signal processing device Download PDF

Info

Publication number
JP5597124B2
JP5597124B2 JP2010285285A JP2010285285A JP5597124B2 JP 5597124 B2 JP5597124 B2 JP 5597124B2 JP 2010285285 A JP2010285285 A JP 2010285285A JP 2010285285 A JP2010285285 A JP 2010285285A JP 5597124 B2 JP5597124 B2 JP 5597124B2
Authority
JP
Japan
Prior art keywords
white balance
signal
image
processing
adjustment amount
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2010285285A
Other languages
Japanese (ja)
Other versions
JP2012134779A (en
Inventor
麻莉 大渕
雄一 野中
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Consumer Electronics Co Ltd
Original Assignee
Hitachi Consumer Electronics Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Consumer Electronics Co Ltd filed Critical Hitachi Consumer Electronics Co Ltd
Priority to JP2010285285A priority Critical patent/JP5597124B2/en
Publication of JP2012134779A publication Critical patent/JP2012134779A/en
Application granted granted Critical
Publication of JP5597124B2 publication Critical patent/JP5597124B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Color Television Image Signal Generators (AREA)
  • Processing Of Color Television Signals (AREA)

Description

本発明は、画像信号処理装置に関する。   The present invention relates to an image signal processing apparatus.

本技術分野の背景技術として、例えば、特開2010−114667号公報(特許文献1)がある。該公報には、「[課題]映像のホワイトバランスを精度良く調整する自動ホワイトバランス調整システムを得ること。[解決手段]自動ホワイトバランス調整システムにおいて、色差信号の所定範囲を示す色範囲情報または輝度信号の所定範囲を示す輝度範囲情報に基づいて、色範囲情報内または輝度範囲情報内の画素を用いたホワイトバランス調整の調整ゲインを算出するホワイトバランス情報算出部16と、調整ゲインの算出に用いる色範囲情報または輝度範囲情報と、調整ゲインの算出に用いられる場合には調整ゲインの算出に用いられる1フレーム内の所定領域を示すフレーム内領域情報と、の中の少なくとも1つを、撮像画像のホワイトバランスに応じて撮像画像のフレーム毎に変更するレジスタ切替部19と、ホワイトバランス情報算出部16が算出した調整ゲインを用いて撮像画像のホワイトバランスを調整する乗算器12と、を備える。」と記載されている(要約参照)。   As background art in this technical field, for example, there is JP 2010-114667 A (Patent Document 1). In this publication, “[PROBLEM] To obtain an automatic white balance adjustment system that accurately adjusts white balance of an image. [Solution] Color range information or luminance indicating a predetermined range of a color difference signal in an automatic white balance adjustment system. A white balance information calculation unit 16 that calculates an adjustment gain for white balance adjustment using pixels in the color range information or the luminance range information based on luminance range information indicating a predetermined range of the signal, and is used for calculating the adjustment gain. At least one of color range information or luminance range information, and in-frame region information indicating a predetermined region in one frame used for calculation of adjustment gain when used for calculation of adjustment gain, is a captured image. Register switching unit 19 that changes every frame of the captured image according to the white balance of the image, and white balance information A multiplier 12 for adjusting the white balance of the captured image using the adjusted gain output unit 16 is calculated, and is described as comprising. "(See abstract).

また、例えば、特開2002−77733号公報がある。該公報には「[課題]本発明は、バイアス電圧を切り換えることなく、光電変換部に入射される入射光量に応じて、自動的に対数変換動作及び線形変換動作を切り換えることができる固体撮像装置を提供することを目的とする。[解決手段]信号φVPSに、撮像時にMOSトランジスタT1のソースに与える電圧VHより低い電圧VLとなるパルス信号を与えることによって、撮像開始時におけるMOSトランジスタT1のゲート電圧をソース電圧より低い電圧とする。よって、撮像時において、被写体が所定の輝度値を超えるまでは、MOSトランジスタT1がカットオフ状態となるので、線形変換された電気信号が出力され、又、被写体が所定の輝度値を超えたとき、MOSトランジスタT1がサブスレッショルド領域で動作するので、対数変換された電気信号が出力される。」と記載されている(要約参照)。   Further, for example, there is JP-A-2002-77733. In this publication, “[Problem] The present invention is capable of automatically switching between a logarithmic conversion operation and a linear conversion operation according to the amount of incident light incident on the photoelectric conversion unit without switching the bias voltage. [Solution] The gate of the MOS transistor T1 at the start of imaging is given to the signal φVPS by applying a pulse signal having a voltage VL lower than the voltage VH applied to the source of the MOS transistor T1 during imaging. The voltage is set to be lower than the source voltage, so that during imaging, the MOS transistor T1 is cut off until the subject exceeds a predetermined luminance value, so that a linearly converted electric signal is output, When the subject exceeds a predetermined luminance value, the MOS transistor T1 operates in the subthreshold region. A number-converted electrical signal is output ”(see summary).

特開2010−114667号公報JP 2010-114667 A 特開2002−77733号公報JP 2002-77733 A

被写体の光を入力とし光電変換した後に画像信号として出力する撮像素子を、画素飽和を極力抑えるよう非線形入出力特性とし、該非線形入出力特性の撮像素子を用いて撮影することでワイドダイナミックレンジの画像を取得する技術がある。   The imaging device that outputs the image signal after photoelectrically converting the light of the subject as input is set to nonlinear input / output characteristics so as to suppress pixel saturation as much as possible. There is technology to acquire images.

一般に、撮影を行う画像信号処理装置においては、適正なホワイトバランスを自動的に得るための自動ホワイトバランス処理を行うことが知られている。これは、撮影した画像から光源の色温度を判定し、ホワイトバランスが適正となるよう自動的に制御するものである。例えば、夕暮れ時の太陽光に照らされた被写体を映した場合には、ホワイトバランス処理の無い状態では白い被写体が赤く見えるが、ホワイトバランス処理を行うことにより白い被写体を白く撮影することができる。   In general, it is known that an image signal processing apparatus that performs photographing performs automatic white balance processing for automatically obtaining appropriate white balance. In this method, the color temperature of the light source is determined from the photographed image, and the white balance is automatically controlled to be appropriate. For example, when a subject illuminated by sunlight at dusk is projected, a white subject appears red without white balance processing, but a white subject can be photographed white by performing white balance processing.

ところが、前記ワイドダイナミックレンジ画像生成技術(特開2002−77733号公報)では、非線形入出力特性を持つ撮像素子は対数圧縮変換等により非線形入出力特性を実現しているため、画像信号の強弱が圧縮された画像となる。このため、前記の例のように入出力特性が線形である画像処理技術を対象とした自動ホワイトバランス処理(特開2010−114667号公報)によって、非線形入出力特性を持つ撮像素子を用いたカメラにて自動ホワイトバランス処理を行う場合、画像信号から光源の色温度を正確に判定できず自動ホワイトバランス処理が適正に行えないという課題があった。   However, in the wide dynamic range image generation technique (Japanese Patent Laid-Open No. 2002-77733), an image sensor having nonlinear input / output characteristics realizes nonlinear input / output characteristics by logarithmic compression conversion or the like. It becomes a compressed image. For this reason, a camera using an imaging element having nonlinear input / output characteristics by automatic white balance processing (Japanese Patent Laid-Open No. 2010-114667) targeted for an image processing technique having linear input / output characteristics as in the above example. When performing automatic white balance processing at, there is a problem in that the color temperature of the light source cannot be accurately determined from the image signal and automatic white balance processing cannot be performed properly.

上記目的を解決するために、特許請求の範囲に記載の構成を採用する。   In order to solve the above object, the configuration described in the claims is adopted.

本発明によれば、非線形の画像処理技術を使用する際に自動的に適切なホワイトバランスを提供することができる。   According to the present invention, it is possible to automatically provide an appropriate white balance when using a non-linear image processing technique.

上記した以外の課題、構成及び効果は、以下の実施形態の説明により明らかにされる。   Problems, configurations, and effects other than those described above will be clarified by the following description of embodiments.

本発明の実施例1における基本構成の一例を説明する図The figure explaining an example of the basic composition in Example 1 of this invention 非線形の入出力特性の一例を説明する図Diagram explaining an example of nonlinear input / output characteristics 色差信号のUV座標系を説明する図The figure explaining UV coordinate system of a color difference signal ホワイトバランス調整量を算出する方法の一例を説明する図The figure explaining an example of the method of calculating white balance adjustment amount ホワイトバランス調整量を算出する処理の流れを説明するフロー図Flow chart explaining the flow of processing to calculate the white balance adjustment amount 撮像部が出力する信号が非線形の場合に、ホワイトバランス調整量算出時の処理で対応する手法の流れを説明するフロー図Flow diagram for explaining the flow of the technique to cope with the processing when calculating the white balance adjustment amount when the signal output from the imaging unit is non-linear ホワイトバランス調整量算出処理の一例を説明する図The figure explaining an example of white balance adjustment amount calculation processing 実施例2における基本構成の一例を説明する図The figure explaining an example of the basic composition in Example 2 出力特性制御部809(図8)での補正処理を用いたホワイトバランス処理の流れを説明するフロー図Flow chart for explaining the flow of white balance processing using correction processing in the output characteristic control unit 809 (FIG. 8) 入出力特性対応処理部とホワイトバランス調整量算出部で、非線形の信号に対応したホワイトバランス処理を行う手法の流れを説明するフロー図Flow chart explaining the flow of a technique for performing white balance processing corresponding to a nonlinear signal in the input / output characteristic correspondence processing unit and the white balance adjustment amount calculation unit 実施例3における基本構成の一例を説明する図FIG. 6 is a diagram for explaining an example of a basic configuration in the third embodiment. 図11の構成におけるホワイトバランス処理の流れを示すフロー図The flowchart which shows the flow of the white balance process in the structure of FIG. 実施例3の効果の一例を説明する図The figure explaining an example of the effect of Example 3

以下、本発明の実施形態を図面を用いて説明する。   Hereinafter, embodiments of the present invention will be described with reference to the drawings.

(1)実施例1のシステム構成
本発明における実施例1について詳細に説明する。図1は、本発明の実施例1における基本構成の一例を説明する図である。撮像部101は、被写体からの入射光の光量を調整する絞り、該絞りを通った光を集めるためのレンズ、該レンズが集めた光を光電変換し画像信号として出力し、かつ、その入出力特性が非線形である撮像素子などで構成される。画像入力部102は、撮像部101からの画像信号に所定の処理を行い出力する。所定の処理とは、撮像素子からの信号を入力して後段の信号処理を行うブロックにて画像信号処理を行うための入力インタフェース処理であり、例えば、AD(Analog to Digital)変換処理であり、また、例えば、撮像素子と信号処理部との処理タイミングを調整する同期調整処理である。なお、画像入力部102は、信号レベル調整のための利得制御やフィルタ処理など、所定の画像信号処理を含んでも良い。露光制御部103は、画像入力部102から入力された画像信号の量を所定に保つように、撮像部101の絞りの制御を行う。信号レベル検出部104は、画像入力部102からの画像信号の信号レベルを検出する。ホワイトバランス(WB)システム制御部105は、信号レベル検出部104の検出結果と画像入力部102からの信号の入出力特性に応じてホワイトバランス調整量算出処理を行うよう、ホワイトバランス(WB)調整量算出部106に命令を行う。また、ホワイトバランス(WB)処理部107に対して、ホワイトバランス調整量算出部106から得たホワイトバランス調整量を用いて、画像入力部102からの画像信号に対してホワイトバランス処理を行うよう命令する。これにより、非線形の入出力特性を持つ撮像部101からの信号に対して、適切なホワイトバランスを得ることができる。画像出力部108は、ホワイトバランス処理部107からの画像信号に所定の処理を行い出力する。なお、所定の処理とは、ホワイトバランス処理部107からの画像信号にノイズ除去、ガンマ補正、輪郭強調、フィルタ処理、ズーム処理、手ぶれ補正、画像認識などの画像信号処理及び、TVやストレージなどの出力機器の信号フォーマットに変換する出力インタフェース処理である。出力インタフェース処理とは、例えば、NTSCやPALのビデオ出力に変換するものであり、例えば、HDMI信号に変換するものであり、例えば、ネットワーク伝送のために所定の信号に変換するものである。なお、実施例1ではホワイトバランス処理部と画像信号処理を行う画像出力部を個別に図示しているが、ホワイトバランス処理部が画像出力部の一部に含まれていても構わない。
(1) System Configuration of Embodiment 1 Embodiment 1 according to the present invention will be described in detail. FIG. 1 is a diagram illustrating an example of a basic configuration according to the first embodiment of the present invention. The imaging unit 101 is a diaphragm that adjusts the amount of incident light from the subject, a lens that collects the light that passes through the diaphragm, photoelectrically converts the light collected by the lens, and outputs it as an image signal. It is composed of an image sensor having non-linear characteristics. The image input unit 102 performs predetermined processing on the image signal from the imaging unit 101 and outputs it. The predetermined processing is input interface processing for performing image signal processing in a block that inputs a signal from the image sensor and performs subsequent signal processing, for example, AD (Analog to Digital) conversion processing, Further, for example, it is a synchronization adjustment process for adjusting the processing timing of the image sensor and the signal processing unit. The image input unit 102 may include predetermined image signal processing such as gain control and filter processing for signal level adjustment. The exposure control unit 103 controls the aperture of the imaging unit 101 so as to keep the amount of the image signal input from the image input unit 102 at a predetermined level. The signal level detection unit 104 detects the signal level of the image signal from the image input unit 102. The white balance (WB) system control unit 105 adjusts the white balance (WB) so as to perform a white balance adjustment amount calculation process according to the detection result of the signal level detection unit 104 and the input / output characteristics of the signal from the image input unit 102. An instruction is given to the quantity calculation unit 106. Further, a command is given to the white balance (WB) processing unit 107 to perform white balance processing on the image signal from the image input unit 102 using the white balance adjustment amount obtained from the white balance adjustment amount calculation unit 106. To do. Thereby, an appropriate white balance can be obtained for the signal from the imaging unit 101 having nonlinear input / output characteristics. The image output unit 108 performs predetermined processing on the image signal from the white balance processing unit 107 and outputs it. The predetermined processing refers to image signal processing such as noise removal, gamma correction, contour enhancement, filter processing, zoom processing, camera shake correction, and image recognition on the image signal from the white balance processing unit 107, and TV and storage. This is output interface processing for conversion to the signal format of the output device. The output interface processing is, for example, conversion into NTSC or PAL video output, for example, conversion into an HDMI signal, for example, conversion into a predetermined signal for network transmission. In the first embodiment, the white balance processing unit and the image output unit that performs image signal processing are individually illustrated, but the white balance processing unit may be included in a part of the image output unit.

以上の構成により、撮像部からの信号の入出力特性に応じたホワイトバランス処理を実現できるため、非線形の撮像素子を使用する場合にも適切なホワイトバランスを得ることが可能となる。   With the above configuration, it is possible to realize white balance processing according to the input / output characteristics of the signal from the imaging unit, and therefore it is possible to obtain appropriate white balance even when using a nonlinear imaging device.

図2は、非線形の入出力特性の一例を説明する図である。撮像部101(図1)に入出力特性が非線形である撮像素子が含まれると前記したが、図2の例では、低輝度(入射光の信号レベルが低い)領域がリニア特性であり、高輝度領域は対数特性を持ち、高輝度になればなるほど圧縮率を高くしている。これにより、ダイナミックレンジを広くすることができる。他にも、低輝度領域と高輝度領域の両方がリニア特性だが異なる傾きにすることで、低輝度領域と高輝度領域で圧縮率を変化させたり、低輝度領域と高輝度領域で異なる対数特性を持たせることで、低輝度領域と高輝度領域で圧縮率を変化させたりしても良い。また、低輝度領域から高輝度領域まで一種類の対数特性を持たせてももちろん構わない。また、対数特性でなくその他所定の関数により圧縮した非線形特性を持たせても良い。   FIG. 2 is a diagram illustrating an example of nonlinear input / output characteristics. As described above, the imaging unit 101 (FIG. 1) includes an imaging element whose input / output characteristics are nonlinear. However, in the example of FIG. 2, the low luminance (low incident light signal level) region has linear characteristics, and high The luminance region has logarithmic characteristics, and the higher the luminance, the higher the compression rate. Thereby, the dynamic range can be widened. In addition, both the low-brightness area and the high-brightness area are linear characteristics, but with different slopes, the compression ratio can be changed between the low-brightness area and the high-brightness area, or the logarithmic characteristics can be different between the low-brightness area and the high-brightness area. The compression ratio may be changed between the low luminance region and the high luminance region. Of course, one kind of logarithmic characteristic may be provided from the low luminance region to the high luminance region. Further, in addition to the logarithmic characteristic, a non-linear characteristic compressed by a predetermined function may be provided.

信号レベル検出部104(図1)について詳細を説明する。信号レベル検出部104にて検出する数値は、例えば、入力した画素信号の絶対値である。また、例えば、入力した画素信号を中心とし、その周辺画素で構成される所定の画像領域(n×m画素の領域)における信号のヒストグラム分布、最大値最小値、平均値など、画像領域の信号の輝度分布状態を示す情報となる数値である。以上の情報を検出すれば、画素信号を得た際の入射光の光量を推定することができる。入射光の光量推定のためには、画素信号の絶対値情報があれば良いが、入力した画素信号と相関性が非常に高い周辺画素を用いてそのヒストグラム分布や最大値最小値や平均値を検出すれば、撮像時に重畳するノイズ成分を高精度に分離することができるなど、撮影条件に依らず高精度な推定が可能である。   Details of the signal level detector 104 (FIG. 1) will be described. The numerical value detected by the signal level detection unit 104 is, for example, the absolute value of the input pixel signal. Further, for example, the signal of the image region such as the histogram distribution, maximum value minimum value, average value of the signal in a predetermined image region (n × m pixel region) composed of the peripheral pixels around the input pixel signal. It is a numerical value serving as information indicating the luminance distribution state of. If the above information is detected, the amount of incident light when the pixel signal is obtained can be estimated. In order to estimate the amount of incident light, it is sufficient if there is absolute value information of the pixel signal, but the histogram distribution, maximum value, minimum value, and average value are calculated using peripheral pixels that are highly correlated with the input pixel signal. If detected, noise components to be superimposed at the time of imaging can be separated with high accuracy, and high-precision estimation is possible regardless of shooting conditions.

ホワイトバランス調整量算出部106(図1)について詳細を説明する。ホワイトバランス調整量算出部106は、画像入力部102からの信号を入力とし、該信号のホワイトバランス調整量を算出するべく、例えば、画像入力部102からの画像信号から光源の色もしくはそれに近いと推定される画素の色差信号を積算し、色差信号平均値を算出する。該色差信号平均値は、UV座標系の原点からのずれに相当する。そこで、該色差信号平均値が原点となるホワイトバランス調整量を算出する。また、例えば、入出力特性対応処理部106で補正後の信号が非線形の入出力特性を保っている場合は、低輝度領域と高輝度領域で、ホワイトバランス調整量算出方法を切り替えてホワイトバランス調整量を算出する。なお、UV座標系とは、図3に示すような、Uを横軸とし、Vを縦軸として色差信号を表わしたものであり、原点(0, 0)が色の無い状態を示す。   Details of the white balance adjustment amount calculation unit 106 (FIG. 1) will be described. The white balance adjustment amount calculation unit 106 receives a signal from the image input unit 102 and calculates the white balance adjustment amount of the signal, for example, when the color of the light source is close to or from the image signal from the image input unit 102. The estimated color difference signals of the pixels are integrated to calculate an average value of the color difference signals. The color difference signal average value corresponds to a deviation from the origin of the UV coordinate system. Therefore, a white balance adjustment amount is calculated with the color difference signal average value as the origin. Further, for example, when the signal corrected by the input / output characteristic correspondence processing unit 106 maintains a nonlinear input / output characteristic, the white balance adjustment amount calculation method is switched between the low luminance region and the high luminance region to perform white balance adjustment. Calculate the amount. The UV coordinate system represents a color difference signal with U as the horizontal axis and V as the vertical axis as shown in FIG. 3, and the origin (0, 0) has no color.

以上の構成により、非線形特性の撮像素子を使用する場合であっても、適切なホワイトバランスを得られるよう自動ホワイトバランス処理を行うことが可能となる。   With the above configuration, automatic white balance processing can be performed so that an appropriate white balance can be obtained even when an image sensor having nonlinear characteristics is used.

(2)ホワイトバランス処理
図3は、色差信号のUV座標系を説明する図である。Uを横軸とし、Vを縦軸として色差信号を表わすと、原点(0, 0)が色の無い状態を示す。各画素の色は、この原点を中心としてUV座標系上で、図示のように、R(赤)、Mg(マゼンタ)、B(青)、Cy(シアン)、G(緑)、Ye(黄)などと示すことができる。
(2) White Balance Processing FIG. 3 is a diagram for explaining a UV coordinate system for color difference signals. When the color difference signal is expressed with U as the horizontal axis and V as the vertical axis, the origin (0, 0) indicates a state of no color. The color of each pixel is R (red), Mg (magenta), B (blue), Cy (cyan), G (green), Ye (yellow) on the UV coordinate system with this origin as the center as shown in the figure. ) Etc.

図4は、ホワイトバランス調整量を算出する方法の一例を説明する図である。本実施例では、光源の色温度がUV座標上のあるエリアであると推定し、該エリアを光源色判定エリア401とする。   FIG. 4 is a diagram illustrating an example of a method for calculating the white balance adjustment amount. In this embodiment, it is estimated that the color temperature of the light source is a certain area on the UV coordinates, and this area is set as the light source color determination area 401.

図5は、ホワイトバランス調整量を算出する処理の流れを説明するフロー図である。ステップS501で、ホワイトバランス調整量算出部107は、画像入力部102からの画像信号の各画素に対して、色差信号が光源色判定エリア401内に存在するか否かを判定し、存在する場合はステップS502で色差信号を積算する。存在しない場合は色差信号を積算せずに、処理を終了する。全ての画素に対して図5の処理を行った後、色差信号の積算値を全画素数で除算して色差信号平均値を算出する。該色差信号平均値は、前述の通り、UV座標系の原点からのずれに相当する。該ずれが原点になるよう補正することで、適切なホワイトバランスを得ることができる。   FIG. 5 is a flowchart for explaining the flow of processing for calculating the white balance adjustment amount. In step S501, the white balance adjustment amount calculation unit 107 determines whether or not a color difference signal exists in the light source color determination area 401 for each pixel of the image signal from the image input unit 102. In step S502, the color difference signals are integrated. If not, the process is terminated without integrating the color difference signals. After the processing of FIG. 5 is performed on all the pixels, the color difference signal average value is calculated by dividing the integrated value of the color difference signals by the total number of pixels. The average value of the color difference signals corresponds to a deviation from the origin of the UV coordinate system as described above. An appropriate white balance can be obtained by correcting the deviation to be the origin.

図6は、撮像部が出力する信号が非線形の場合に、ホワイトバランス調整量算出時の処理で対応する手法の流れを説明するフロー図である。ステップS601で、ホワイトバランスシステム制御部105(図1)に信号が入力されると、ステップS602で、ホワイトバランスシステム制御部105は信号レベル検出部104からの情報を元に、各画素に対して、高輝度領域か否を判定する。該画素が高輝度領域に属するものであれば、ステップS603で、ホワイトバランスシステム制御部105は、ホワイトバランス調整量算出部106に対して、高輝度領域用の光源色判定エリアを用いてホワイトバランス調整量算出処理を行うよう命令する。該画素が低輝度領域に属するものであれば、ステップS604で、低輝度領域用の光源色判定エリアを用いてホワイトバランス調整量算出処理を行うよう命令する。なお、ホワイトバランス調整量算出処理内容については、図5で説明したとおりである。ステップS605では、ホワイトバランスシステム制御部105は、ホワイトバランス処理部107に対して、ホワイトバランス調整量算出処理部から得られたホワイトバランス調整量を用いてホワイトバランス処理を行うよう命令し、処理を終了する。   FIG. 6 is a flowchart for explaining the flow of a technique corresponding to the processing at the time of calculating the white balance adjustment amount when the signal output from the imaging unit is nonlinear. In step S601, when a signal is input to the white balance system control unit 105 (FIG. 1), in step S602, the white balance system control unit 105 applies to each pixel based on information from the signal level detection unit 104. Then, it is determined whether or not it is a high luminance region. If the pixel belongs to the high luminance area, in step S603, the white balance system control unit 105 uses the light source color determination area for the high luminance area to the white balance adjustment amount calculation unit 106 to perform white balance. Command to perform adjustment amount calculation processing. If the pixel belongs to the low luminance area, in step S604, an instruction is given to perform white balance adjustment amount calculation processing using the light source color determination area for the low luminance area. The content of the white balance adjustment amount calculation process is as described with reference to FIG. In step S605, the white balance system control unit 105 instructs the white balance processing unit 107 to perform white balance processing using the white balance adjustment amount obtained from the white balance adjustment amount calculation processing unit. finish.

なお、ステップS603やステップS604で使用する光源色判定エリアの範囲は、撮像部から出力される信号の入力レベルと光源色判定エリアの範囲を示す情報を対応づけた情報をテーブルとして保持しておき、それを用いる方法で良い。なお、ステップS605のホワイトバランス処理は、前記色差信号平均値がUV座標系の原点に一致するような変換をしても構わないし、映像の見栄えを良くするために前記色差信号平均値がUV座標系の原点とは異なる任意の点に一致するような変換をしてももちろん構わない。   Note that the range of the light source color determination area used in step S603 and step S604 stores information associating the input level of the signal output from the imaging unit with information indicating the range of the light source color determination area as a table. The method of using it is sufficient. In the white balance process in step S605, the color difference signal average value may be converted so as to coincide with the origin of the UV coordinate system, and the color difference signal average value is converted to the UV coordinate in order to improve the appearance of the image. Of course, the conversion may be made so as to coincide with an arbitrary point different from the origin of the system.

以上の処理により、撮像部からの入出力特性に応じてホワイトバランス調整量算出処理を切り替えることができるため、撮像部からの出力信号が非線形の場合であっても、適切なホワイトバランスを得ることができる。   By the above processing, the white balance adjustment amount calculation processing can be switched according to the input / output characteristics from the imaging unit, so that even when the output signal from the imaging unit is nonlinear, an appropriate white balance can be obtained. Can do.

図7は、図6で説明したホワイトバランス調整量算出処理の一例を説明する図である。低輝度領域用光源色判定エリア701は、ステップS604(図6)で低輝度領域用のホワイトバランス調整量算出を行う際に使用する。具体的には、ステップS501(図5)の判定において、低輝度領域用光源色判定エリア701を使用することを意味する。高輝度領域用光源色判定エリア702は、ステップS603で高輝度領域用のホワイトバランス調整量算出を行う際に使用する。具体的には、ステップS501の判定において、高輝度領域用光源色判定エリア702を使用することを意味する。ここで、本実施例では、高輝度領域は低輝度領域よりも圧縮率の高い対数特性であるため、高輝度領域用光源色判定エリア702は、低輝度領域用光源色判定エリアよりも、面積を小さくする。これは、高輝度領域は対数特性であるため信号が圧縮されており、リニア特性である低輝度領域と比べて色差信号が全体的に原点に近いと考えられるためである。なお、対数特性である高輝度領域の光源色判定エリアの範囲は、撮像部から出力される信号の入力レベルと光源色判定エリアの範囲を示す情報を対応づけたテーブルを用いて可変に制御しても構わない。これにより、精度の高いホワイトバランス調整量算出を実現できる。また、対数特性を一次式で近似して圧縮率が一定とみなして、高輝度領域用光源色判定エリアを一種類に固定しても構わない。これにより、高輝度領域用光源色判定エリアの制御が容易になる。なお、本実施例では、低輝度領域がリニア特性で、高輝度領域が対数特性の信号を想定して説明したが、その他の低輝度領域と高輝度領域の信号圧縮率が異なる組み合わせにおいても本手法は適用可能である。   FIG. 7 is a diagram illustrating an example of the white balance adjustment amount calculation process described in FIG. The light source color determination area 701 for the low luminance area is used when calculating the white balance adjustment amount for the low luminance area in step S604 (FIG. 6). Specifically, this means that the light source color determination area 701 for the low luminance area is used in the determination in step S501 (FIG. 5). The light source color determination area 702 for the high luminance area is used when the white balance adjustment amount for the high luminance area is calculated in step S603. Specifically, this means that the light source color determination area 702 for the high luminance area is used in the determination in step S501. Here, in the present embodiment, since the high luminance area has a logarithmic characteristic with a higher compression ratio than the low luminance area, the high luminance area light source color determination area 702 has an area larger than that of the low luminance area light source color determination area. Make it smaller. This is because the signal is compressed because the high luminance region has a logarithmic characteristic, and the color difference signal is considered to be close to the origin as a whole compared to the low luminance region that has a linear characteristic. Note that the range of the light source color determination area in the high luminance region that is logarithmic characteristics is variably controlled using a table that associates the input level of the signal output from the imaging unit with the information indicating the range of the light source color determination area. It doesn't matter. Thereby, highly accurate white balance adjustment amount calculation can be realized. Alternatively, the logarithmic characteristics may be approximated by a linear expression, the compression rate may be regarded as constant, and the light source color determination area for the high luminance area may be fixed to one type. This facilitates the control of the light source color determination area for the high luminance area. In this embodiment, the low luminance region is assumed to have a linear characteristic and the high luminance region is assumed to have a logarithmic characteristic. However, the present invention is also applied to other combinations in which the signal compression rate of the low luminance region is different from that of the high luminance region. The method is applicable.

以上の手段により、ホワイトバランス調整量算出の際に使用する光源色判定エリアの範囲を変えることで、非線形の入出力特性を持つ信号に対して適切なホワイトバランスを得ることができる。   By changing the range of the light source color determination area used when calculating the white balance adjustment amount by the above means, an appropriate white balance can be obtained for a signal having nonlinear input / output characteristics.

(1)実施例2のシステム構成
本発明における実施例について詳細に説明する。図8は、本発明の実施例2における基本構成の一例を説明する図である。801から808までのブロックは、それぞれ図1の101から108までのブロックと同様の処理を行うが、ホワイトバランス(WB)システム制御部805及びホワイトバランス(WB)調整量算出部806及びホワイトバランス(WB)処理部807への入力信号は、画像入力部802ではなく、入出力特性対応処理部809からの画像信号である。入出力特性対応処理部809は、信号レベル検出部804から得た情報を元に、画像入力部802からの画像信号に対してその入出力特性に応じた処理を行う。該処理とは、例えば、信号レベル検出部804の検出結果と画像入力部802からの信号の入出力特性に応じて、画像入力部802からの画像信号の補正処理を行うことである。これにより、特性の異なる低輝度側と高輝度側の信号をホワイトバランス処理に適した特性、例えば、画像入力部からの出力信号が、リニア特性の低輝度側信号と対数特性の高輝度側信号から構成されている場合、圧縮された対数特性の高輝度側信号に対して伸長処理を行いリニア特性に変換する。また、例えば、リニア特性の低輝度側信号を圧縮処理して高輝度側信号の圧縮率に近づける。
(1) System Configuration of Embodiment 2 An embodiment of the present invention will be described in detail. FIG. 8 is a diagram illustrating an example of a basic configuration according to the second embodiment of the present invention. The blocks 801 to 808 perform the same processing as the blocks 101 to 108 in FIG. 1, respectively, but the white balance (WB) system control unit 805, the white balance (WB) adjustment amount calculation unit 806, and the white balance ( WB) An input signal to the processing unit 807 is an image signal from the input / output characteristic correspondence processing unit 809 instead of the image input unit 802. Based on the information obtained from the signal level detection unit 804, the input / output characteristic correspondence processing unit 809 performs processing corresponding to the input / output characteristics on the image signal from the image input unit 802. This processing is, for example, performing correction processing of the image signal from the image input unit 802 according to the detection result of the signal level detection unit 804 and the input / output characteristics of the signal from the image input unit 802. As a result, low luminance side and high luminance side signals with different characteristics are suitable for white balance processing, for example, the output signal from the image input unit is a low luminance side signal with linear characteristics and a high luminance side signal with logarithmic characteristics. , The decompression process is performed on the compressed high luminance side signal of the logarithmic characteristic to convert it into a linear characteristic. Further, for example, the low luminance side signal having linear characteristics is compressed to approximate the compression rate of the high luminance side signal.

以上の手段により、非線形の入出力特性を持つ信号を入出力特性制御で通常のリニア特性を持つ信号の入出力特性に近づけたのちにホワイトバランス調整量を算出し、ホワイトバランス処理を行うため、撮像部が出力する信号が非線形の場合であっても適切なホワイトバランスを得ることができる。なお、入出力特性制御部809が、画像入力部102からの信号の入出力特性に応じた処理を行うと前述したが、画像入力部102から出力される信号の入力レベルと出力レベルを対応づけた情報をテーブルとして保持しておき、それを用いる方法で良い。テーブルを用いる場合は、入出力特性の正確な把握が可能である。その他にも、入出力特性を表わす関数式を保持する方法でも良い。関数式を用いる場合、入出力特性の正確な把握が可能であり、かつ、テーブルとして保存しておく方法に比べて保持するデータを削減できる。その他にも、複数の入射光の輝度レベルにおける圧縮率情報など、入出力特性を推定できる情報を保持する方法でも良い。入出力特性を推定できる情報を用いる場合、例えば、データを間引いた状態で保持しておく近似補間することで入出力特性の正確な把握が可能であり、かつ、テーブルとして保持しておく方法に比べて保持するデータ量を削減できる。また、関数式を保持する方法は関数が多項式になればなるほど演算量が増加するが、間引いた状態のデータを近似補間で実現すれば相対的に演算量を削減できる。また、高輝度信号の伸長処理を行う手法の他に、例えば、高輝度の圧縮率と同等となるよう低輝度領域を圧縮処理することで、通常の線形特性を持つ撮像素子の特性に近づけることができ、かつ、高輝度信号に対して伸長処理を行い場合に比べて少ないビット数で処理できるため回路コストを削減できる。   By the above means, the white balance adjustment amount is calculated after the signal having nonlinear input / output characteristics is brought close to the input / output characteristics of the signal having normal linear characteristics by the input / output characteristics control, and the white balance processing is performed. Appropriate white balance can be obtained even when the signal output from the imaging unit is nonlinear. As described above, the input / output characteristic control unit 809 performs processing according to the input / output characteristics of the signal from the image input unit 102. However, the input level and the output level of the signal output from the image input unit 102 are associated with each other. The information may be stored as a table and used. When using a table, it is possible to accurately grasp the input / output characteristics. In addition, a method of holding a function expression representing input / output characteristics may be used. When a function formula is used, the input / output characteristics can be accurately grasped, and data to be held can be reduced as compared with the method of storing as a table. In addition, a method of holding information capable of estimating input / output characteristics such as compression rate information at the luminance levels of a plurality of incident lights may be used. When using information that can estimate the input / output characteristics, for example, it is possible to accurately grasp the input / output characteristics by approximating the data with the data thinned out and holding it as a table. Compared to this, the amount of data to be retained can be reduced. In the method of holding the function formula, the calculation amount increases as the function becomes a polynomial. However, if the thinned data is realized by approximate interpolation, the calculation amount can be relatively reduced. In addition to the method of expanding high-luminance signals, for example, compression processing of low-luminance areas so as to be equivalent to the high-luminance compression rate brings the characteristics close to the characteristics of an image sensor with normal linear characteristics. In addition, since it is possible to perform processing with a smaller number of bits than in the case of performing expansion processing on a high luminance signal, the circuit cost can be reduced.

図9は、入出力特性制御部809(図8)での補正処理を用いたホワイトバランス処理の流れを説明するフロー図である。ステップS901で入出力特性対応処理部809に信号が入力され、ステップS902で、入出力特性対応処理部809は、画像入力部802からの非線形の信号に対して非線形処理を行うことによって圧縮された高輝度信号に対して伸長処理を行うよう命令する。これにより、通常のリニア特性を持つ撮像部の入出力特性に近づける。次にステップS903で、ホワイトバランスシステム制御部805は、ホワイトバランス調整量算出部806に対して、図5の処理を行ってホワイトバランス調整量を算出するよう命令し、ステップS904でホワイトバランスシステム制御部805は、ホワイトバランス処理部807に対して、ステップS903から得たホワイトバランス調整量を用いて入出力特性対応処理部809から得た画像信号に対するホワイトバランス処理を行うよう命令して、処理を終了する。このとき、ステップS904のホワイトバランス処理は、前記色差信号平均値がUV座標系の原点に一致するような変換をしても構わないし、映像の見栄えを良くするために前記色差信号平均値がUV座標系の原点とは異なる任意の点に一致するような変換をしてももちろん構わない。   FIG. 9 is a flowchart illustrating the flow of white balance processing using correction processing in the input / output characteristic control unit 809 (FIG. 8). In step S901, a signal is input to the input / output characteristic correspondence processing unit 809. In step S902, the input / output characteristic correspondence processing unit 809 is compressed by performing nonlinear processing on the nonlinear signal from the image input unit 802. Instructs the decompression process to be performed on the high luminance signal. As a result, the input / output characteristics of the imaging unit having normal linear characteristics are brought close to. In step S903, the white balance system control unit 805 instructs the white balance adjustment amount calculation unit 806 to perform the processing in FIG. 5 to calculate the white balance adjustment amount. In step S904, the white balance system control unit 805 The unit 805 instructs the white balance processing unit 807 to perform white balance processing on the image signal obtained from the input / output characteristic correspondence processing unit 809 using the white balance adjustment amount obtained from step S903. finish. At this time, the white balance processing in step S904 may perform conversion so that the color difference signal average value coincides with the origin of the UV coordinate system. In order to improve the appearance of the video, the color difference signal average value is UV. Of course, the conversion may be made so as to coincide with an arbitrary point different from the origin of the coordinate system.

図10は、入出力特性対応処理部とホワイトバランス調整量算出部で、非線形の信号に対応したホワイトバランス処理を行う手法の流れを説明するフロー図である。図10の処理は、例えば、対数特性である高輝度領域の信号に対して伸長処理を行い、高輝度領域の信号を低輝度領域と同様にリニア特性に近づけた結果、低輝度領域と高輝度領域が圧縮率の異なるリニア特性になった際に適用すると効果的である。ステップS1001で、入出力特性対応処理部809(図8)に画像信号が入力されると、ステップS1002で入出力特性対応処理部809は撮像部801からの非線形の信号に対して非線形処理を行うことによって圧縮された高輝度信号に対して伸長処理を行うことで、通常の線形特性を持つ撮像部の入出力特性に近づける処理を行う。次に、ステップS1003で、各画素に対して、高輝度領域か否を判定する。該画素が高輝度領域に属するものであれば、ステップS1004で、高輝度領域用のホワイトバランス調整量算出処理を行う。該画素が低輝度領域に属するものであれば、ステップS1005で、低輝度領域用のホワイトバランス調整量算出処理を行う。ステップS1006では、各ホワイトバランス調整量算出処理で得られたホワイトバランス調整量を用いてホワイトバランス処理を行い、処理を終了する。なお、ホワイトバランス調整量算出時は、図7で説明したように、信号の圧縮率に応じて光源色判定エリアの面積を調節する。   FIG. 10 is a flowchart for explaining a flow of a technique for performing white balance processing corresponding to a non-linear signal in the input / output characteristic correspondence processing unit and the white balance adjustment amount calculation unit. The processing in FIG. 10 is performed, for example, by performing a decompression process on a signal in a high luminance region having a logarithmic characteristic and bringing the signal in the high luminance region closer to a linear characteristic in the same manner as in the low luminance region. It is effective when applied when the region has linear characteristics with different compression ratios. When an image signal is input to the input / output characteristic correspondence processing unit 809 (FIG. 8) in step S1001, the input / output characteristic correspondence processing unit 809 performs nonlinear processing on the nonlinear signal from the imaging unit 801 in step S1002. Thus, the decompression process is performed on the compressed high-intensity signal, so that the process approximates to the input / output characteristics of the imaging unit having a normal linear characteristic. Next, in step S1003, it is determined whether each pixel is a high luminance region. If the pixel belongs to the high luminance area, white balance adjustment amount calculation processing for the high luminance area is performed in step S1004. If the pixel belongs to the low luminance area, a white balance adjustment amount calculation process for the low luminance area is performed in step S1005. In step S1006, white balance processing is performed using the white balance adjustment amount obtained in each white balance adjustment amount calculation processing, and the processing ends. When calculating the white balance adjustment amount, as described with reference to FIG. 7, the area of the light source color determination area is adjusted according to the compression rate of the signal.

以上の処理により、撮像部からの出力信号がリニア特性と対数特性を持つ非線形な信号であった場合、ステップS1002で入出力特性対応処理部809が対数特性領域をリニア特性に変換し、ステップS1003からステップS1005でホワイトバランス調整量算出部806が、非線形である低輝度領域と高輝度領域それぞれに対して光源色判定エリアの領域を切り替えてホワイトバランス調整量算出処理を行うことができる。これにより、ホワイトバランス調整量算出をリニア特性の信号に対してのみ行えば良くなるため、光源色エリアの範囲を決定する制御が容易になる。   If the output signal from the imaging unit is a non-linear signal having a linear characteristic and a logarithmic characteristic through the above processing, the input / output characteristic correspondence processing unit 809 converts the logarithmic characteristic region into a linear characteristic in step S1002, and step S1003. In step S1005, the white balance adjustment amount calculation unit 806 can perform the white balance adjustment amount calculation process by switching the light source color determination area for each of the non-linear low luminance region and high luminance region. As a result, it is only necessary to calculate the white balance adjustment amount with respect to the signal having the linear characteristic, so that the control for determining the range of the light source color area is facilitated.

(1)実施例3のシステム構成
図11は、本発明の実施例3における基本構成の一例を説明する図である。撮像部1101からホワイトバランス(WB)システム制御部1105は、図1と同様の処理を行う。ホワイトバランス(WB)調整量算出部1106は、ホワイトバランスシステム制御部1105からの命令を受けて、画像入力部1102からの画像信号に対してホワイトバランス調整量を算出する。このとき、入出力特性の異なる低輝度領域と高輝度領域それぞれに対してホワイトバランス調整量を算出し、例えば、低輝度領域のホワイトバランス調整量を系統a、高輝度領域のホワイトバランス調整量を系統bとして出力する。ホワイトバランス(WB)処理部1107は、ホワイトバランスシステム制御部1105からの命令を受け、ホワイトバランス調整量算出部1106から得た各ホワイトバランス調整量を用いて、画像入力部からの画像信号の低輝度領域、高輝度領域それぞれに対してホワイトバランス処理を行い、低輝度領域にホワイトバランス処理を適用した系統aの信号と、高輝度領域にホワイトバランス処理を適用した系統bの信号を出力する。信号合成部1109は、ホワイトバランス処理部からの各画像信号を合成し、一つの画像信号として出力する。画像出力部1108は、図1の画像出力部108と同様の処理を行う。
(1) System Configuration of Embodiment 3 FIG. 11 is a diagram for explaining an example of a basic configuration in Embodiment 3 of the present invention. The imaging unit 1101 to the white balance (WB) system control unit 1105 perform the same processing as in FIG. A white balance (WB) adjustment amount calculation unit 1106 receives a command from the white balance system control unit 1105 and calculates a white balance adjustment amount for the image signal from the image input unit 1102. At this time, the white balance adjustment amount is calculated for each of the low luminance region and the high luminance region having different input / output characteristics. For example, the white balance adjustment amount of the low luminance region is set to the system a, and the white balance adjustment amount of the high luminance region is calculated. Output as system b. The white balance (WB) processing unit 1107 receives an instruction from the white balance system control unit 1105 and uses the white balance adjustment amounts obtained from the white balance adjustment amount calculation unit 1106 to reduce the image signal from the image input unit. White balance processing is performed for each of the luminance region and the high luminance region, and a signal of the system a in which the white balance processing is applied to the low luminance region and a signal of the system b in which the white balance processing is applied to the high luminance region are output. The signal synthesis unit 1109 synthesizes each image signal from the white balance processing unit and outputs it as one image signal. The image output unit 1108 performs the same processing as the image output unit 108 in FIG.

以上の構成により、低輝度領域の画像信号系統aと、高輝度領域の画像信号系統bの信号に対して、個別にホワイトバランス処理を行うことができるため、系統abそれぞれにおいて適切なホワイトバランスを得ることができる。これにより、後述のように、色温度が異なる複数の光源が存在するシーンで、より適切なホワイトバランスを得ることができる。なお、図11に対して、図8のように入出力特性対応処理部を加えたシステム構成にしても、同様の効果を得ることができる。   With the above configuration, since the white balance processing can be individually performed on the signals of the image signal system a in the low luminance area and the signal of the image signal system b in the high luminance area, an appropriate white balance can be obtained in each of the systems ab. Can be obtained. Thereby, as will be described later, a more appropriate white balance can be obtained in a scene where there are a plurality of light sources having different color temperatures. Note that the same effect can be obtained even if the system configuration is such that an input / output characteristic correspondence processing unit is added to FIG. 11 as shown in FIG.

図12は、図11の構成におけるホワイトバランス処理の流れを示すフロー図である。ステップS1201で、ホワイトバランスシステム制御部1105(図11)に信号が入力されると、ステップS1202で、ホワイトバランスシステム制御部1105は信号レベル検出部1104からの情報を元に、各画素に対して、高輝度領域か否を判定する。該画素が高輝度領域に属するものであれば、ステップS1203で、ホワイトバランスシステム制御部1105は、ホワイトバランス調整量算出部1106に対して、高輝度領域用のホワイトバランス調整量算出処理を行うよう命令する。該画素が低輝度領域に属するものであれば、ステップS1204で、低輝度領域用のホワイトバランス調整量算出処理を行うよう命令する。本実施例では、高輝度領域用ホワイトバランス調整量と低輝度領域用ホワイトバランス調整量が、別々に出力される。なお、ホワイトバランス調整量算出処理内容については、図5で説明したとおりである。ステップS1205では、ホワイトバランスシステム制御部1105は、ホワイトバランス処理部1107に対して、ホワイトバランス調整量算出処理部から得られた高輝度領域用ホワイトバランス調整量(系統b)を用いてホワイトバランス処理を行うよう命令する。ステップS1206では、ホワイトバランスシステム制御部1105は、ホワイトバランス処理部1107に対して、ホワイトバランス調整量算出処理部から得られた低輝度領域用ホワイトバランス調整量(系統a)を用いてホワイトバランス処理を行うよう命令する。ステップS1207では、ホワイトバランス処理部1107からの各画像信号を合成し、処理を終了する。なお、ステップS1203やステップS1204で使用する光源色判定エリアの範囲は、撮像部から出力される信号の入力レベルと光源色判定エリアの範囲を示す情報を対応づけた情報をテーブルとして保持しておき、それを用いる方法で良い。なお、ステップS1205とステップS1206のホワイトバランス処理は、色差信号平均値がUV座標系の原点に一致するような変換をしても構わないし、映像の見栄えを良くするために前記色差信号平均値がUV座標系の原点とは異なる任意の点に一致するような変換をしてももちろん構わない。   FIG. 12 is a flowchart showing the flow of white balance processing in the configuration of FIG. In step S1201, when a signal is input to the white balance system control unit 1105 (FIG. 11), in step S1202, the white balance system control unit 1105 applies to each pixel based on information from the signal level detection unit 1104. Then, it is determined whether or not it is a high luminance region. If the pixel belongs to the high brightness region, in step S1203, the white balance system control unit 1105 performs white balance adjustment amount calculation processing for the high brightness region on the white balance adjustment amount calculation unit 1106. Command. If the pixel belongs to the low luminance area, in step S1204, an instruction is given to perform white balance adjustment amount calculation processing for the low luminance area. In this embodiment, the white balance adjustment amount for the high luminance region and the white balance adjustment amount for the low luminance region are output separately. The content of the white balance adjustment amount calculation process is as described with reference to FIG. In step S1205, the white balance system control unit 1105 performs white balance processing on the white balance processing unit 1107 using the white balance adjustment amount (system b) for the high brightness area obtained from the white balance adjustment amount calculation processing unit. Order to do. In step S1206, the white balance system control unit 1105 performs white balance processing on the white balance processing unit 1107 using the white balance adjustment amount (system a) for the low luminance area obtained from the white balance adjustment amount calculation processing unit. Order to do. In step S1207, the image signals from the white balance processing unit 1107 are combined and the process ends. Note that the range of the light source color determination area used in step S1203 or step S1204 holds information associating the input level of the signal output from the imaging unit with information indicating the range of the light source color determination area as a table. The method of using it is sufficient. Note that the white balance processing in step S1205 and step S1206 may be performed such that the average color difference signal coincides with the origin of the UV coordinate system, and the average color difference signal is used to improve the appearance of the video. Of course, the conversion may be made so as to coincide with an arbitrary point different from the origin of the UV coordinate system.

以上の処理により、輝度に応じてホワイトバランス処理を切り替えることができるため、低輝度領域と高輝度領域の光源の色温度が異なる場合であっても、適切なホワイトバランスを得ることができる。   With the above processing, since the white balance processing can be switched according to the luminance, an appropriate white balance can be obtained even when the color temperatures of the light sources in the low luminance region and the high luminance region are different.

(2)実施例3の効果
図13は、本実施例の効果の一例を説明する図である。図13は、画角内に蛍光灯を光源とする室内1301と、太陽光を光源とする屋外1302が存在する例である。図13のようなシーンの場合、暗い室内と明るい室外で撮像する画像のダイナミックレンジが広くなるため、非線形の撮像素子を使用することによる広ダイナミックレンジ効果を得やすい。しかし、このシーンで一般的なホワイトバランス処理を適用すると、画面全体に対して一定のホワイトバランス処理が適用されるため、室内と室外の両方に最適となるホワイトバランスを得ることができないという課題がある。対して、図11の構成の場合は、蛍光灯を光源とする低輝度領域と太陽光を光源とする高輝度領域それぞれに対して異なるホワイトバランス処理を適用することができるため、異なる光源が存在するシーンにおいても適切なホワイトバランスを得ることができる。
(2) Effects of Embodiment 3 FIG. 13 is a diagram for explaining an example of the effects of the present embodiment. FIG. 13 shows an example in which an indoor 1301 using a fluorescent lamp as a light source and an outdoor 1302 using sunlight as a light source exist within the angle of view. In the case of a scene as shown in FIG. 13, the dynamic range of an image captured in a dark room and a bright room is widened, so that it is easy to obtain a wide dynamic range effect by using a non-linear image sensor. However, when a general white balance process is applied in this scene, a constant white balance process is applied to the entire screen, so that it is not possible to obtain an optimal white balance for both indoors and outdoors. is there. On the other hand, in the case of the configuration of FIG. 11, different white balance processes can be applied to each of the low-brightness region using a fluorescent lamp as a light source and the high-brightness region using sunlight as a light source. Appropriate white balance can be obtained even in a scene.

なお、本発明は上記した実施例に限定されるものではなく、様々な変形例が含まれる。例えば、上記した実施例は本発明を分かりやすく説明するために詳細に説明したものであり、必ずしも説明した全ての構成を備えるものに限定されるものではない。また、ある実施例の構成の一部を他の実施例の構成に置き換えることが可能であり、また、ある実施例の構成に他の実施例の構成を加えることも可能である。また、各実施例の構成の一部について、他の構成の追加・削除・置換をすることが可能である。   In addition, this invention is not limited to an above-described Example, Various modifications are included. For example, the above-described embodiments have been described in detail for easy understanding of the present invention, and are not necessarily limited to those having all the configurations described. Further, a part of the configuration of one embodiment can be replaced with the configuration of another embodiment, and the configuration of another embodiment can be added to the configuration of one embodiment. Further, it is possible to add, delete, and replace other configurations for a part of the configuration of each embodiment.

また、上記の各構成は、それらの一部又は全部が、ハードウェアで構成されても、プロセッサでプログラムが実行されることにより実現されるように構成されてもよい。また、制御線や情報線は説明上必要と考えられるものを示しており、製品上必ずしも全ての制御線や情報線を示しているとは限らない。実際には殆ど全ての構成が相互に接続されていると考えてもよい。   In addition, each of the above-described configurations may be configured such that some or all of them are configured by hardware, or are implemented by executing a program by a processor. Further, the control lines and information lines indicate what is considered necessary for the explanation, and not all the control lines and information lines on the product are necessarily shown. Actually, it may be considered that almost all the components are connected to each other.

101…撮像部、102…画像入力部、103…露光制御部、104…信号レベル検出部、105…ホワイトバランスシステム制御部、106…ホワイトバランス調整量算出部、107…ホワイトバランス処理部、108…画像出力部、401…光源色判定エリア、701…低輝度領域用光源色判定エリア、702…高輝度領域用光源色判定エリア、801…撮像部、802…画像入力部、803…露光制御部、804…信号レベル検出部、805…ホワイトバランスシステム制御部、806…ホワイトバランス調整量算出部、807…ホワイトバランス処理部、808…画像出力部、809…入出力特性対応処理部、1101…撮像部、1102…画像入力部、1103…露光制御部、1104…信号レベル検出部、1105…ホワイトバランスシステム制御部、1106…ホワイトバランス調整量算出部、1107…ホワイトバランス処理部、1108…画像出力部、1109…信号合成部、1301…暗い屋内、1302…明るい屋外 DESCRIPTION OF SYMBOLS 101 ... Imaging part, 102 ... Image input part, 103 ... Exposure control part, 104 ... Signal level detection part, 105 ... White balance system control part, 106 ... White balance adjustment amount calculation part, 107 ... White balance processing part, 108 ... Image output unit 401 ... Light source color determination area 701 ... Light source color determination area for low brightness area, 702 ... Light source color determination area for high brightness area, 801 ... Imaging section, 802 ... Image input section, 803 ... Exposure control section, 804: Signal level detection unit, 805 ... White balance system control unit, 806 ... White balance adjustment amount calculation unit, 807 ... White balance processing unit, 808 ... Image output unit, 809 ... Input / output characteristic correspondence processing unit, 1101 ... Imaging unit 1102 ... Image input unit 1103 ... Exposure control unit 1104 ... Signal level detection unit 1105 ... White bar Nsu system control unit, 1106 ... white balance adjusting amount calculating unit, 1107 ... white balance processing unit, 1108 ... image output unit, 1109 ... signal combining unit, 1301 ... dark indoors, 1302 ... bright outdoors

Claims (3)

光電変換特性が非線形である撮像素子と、
該撮像素子からの信号を入力する画像入力手段と、
該画像入力手段からの信号レベルを検出する信号レベル検出手段と、
前記画像入力手段からの信号を元にホワイトバランス調整量を算出するホワイトバランス調整量算出手段と、
該ホワイトバランス調整量算出手段からの信号を元にホワイトバランス処理を行うホワイトバランス処理手段と、
ホワイトバランスを統括して制御するホワイトバランスシステム制御手段と、
を具備し、
前記ホワイトバランスシステム制御手段は、
前記ホワイトバランス調整量算出手段より算出されたホワイトバランス調整量に応じて前記ホワイトバランス処理手段を制御し、
前記ホワイトバランス調整量算出手段は、
前記信号レベル検出手段からの情報を元に高輝度信号領域と低輝度信号領域を判別し、前記判別された高輝度領域の光源色判定エリアの範囲を、前記撮像素子からの信号の入力レベルと光源色判定エリアの範囲を対応づけた情報に基づいて、可変に制御すること、
を特徴とする画像信号処理装置。
An image sensor having non-linear photoelectric conversion characteristics;
Image input means for inputting a signal from the image sensor;
Signal level detection means for detecting the signal level from the image input means;
White balance adjustment amount calculating means for calculating a white balance adjustment amount based on a signal from the image input means;
White balance processing means for performing white balance processing based on a signal from the white balance adjusting amount calculating means,
A white balance system control means for controlling and controlling the white balance;
Comprising
The white balance system control means includes:
Controlling the white balance processing means according to the white balance adjustment amount calculated by the white balance adjustment amount calculating means ;
The white balance adjustment amount calculating means includes:
A high luminance signal region and a low luminance signal region are discriminated based on information from the signal level detection means, and the range of the light source color determination area of the discriminated high luminance region is determined as the input level of the signal from the image sensor. Variably controlling based on information associating the range of the light source color determination area;
An image signal processing apparatus.
光電変換特性が非線形である撮像素子と、
該撮像素子からの信号を入力する画像入力手段と、
該画像入力手段からの信号レベルを検出する信号レベル検出手段と、
前記画像入力手段からの信号を元に前記信号レベル検出手段が検出した信号レベルに応じて複数のホワイトバランス調整量を算出するホワイトバランス調整量算出手段と、
該ホワイトバランス調整量算出手段からの複数の信号を元にホワイトバランス処理を行うホワイトバランス処理手段と、
ホワイトバランス処理手段からの複数の信号を合成する信号合成手段と、
ホワイトバランスを統括して制御するホワイトバランスシステム制御手段と、
を具備し、
前記ホワイトバランスシステム制御手段は、
前記ホワイトバランス調整量算出手段より算出された複数のホワイトバランス調整量に応じて前記ホワイトバランス処理手段を制御し、
前記ホワイトバランス調整量算出手段は、
前記信号レベル検出手段からの情報を元に高輝度信号領域と低輝度信号領域を判別し、前記判別された高輝度領域の光源色判定エリアの範囲を、前記撮像素子からの信号の入力レベルと光源色判定エリアの範囲を対応づけた情報に基づいて、可変に制御すること、
を特徴とする画像信号処理装置。
An image sensor having non-linear photoelectric conversion characteristics;
Image input means for inputting a signal from the image sensor;
Signal level detection means for detecting the signal level from the image input means;
White balance adjustment amount calculation means for calculating a plurality of white balance adjustment amounts according to the signal level detected by the signal level detection means based on the signal from the image input means;
White balance processing means for performing white balance processing based on a plurality of signals from said white balance adjusting amount calculating means,
Signal synthesizing means for synthesizing a plurality of signals from the white balance processing means ;
A white balance system control means for controlling and controlling the white balance;
Comprising
The white balance system control means includes:
Controlling the white balance processing means in accordance with a plurality of white balance adjustment amounts calculated by the white balance adjustment amount calculating means ;
The white balance adjustment amount calculating means includes:
A high luminance signal region and a low luminance signal region are discriminated based on information from the signal level detection means, and the range of the light source color determination area of the discriminated high luminance region is determined as the input level of the signal from the image sensor. Variably controlling based on information associating the range of the light source color determination area;
An image signal processing apparatus.
請求項1又は2記載の画像信号処理装置において、
前記信号レベル検出手段は、前記撮像素子において光電変換した際の入射光の光量を推定するための信号を検出するものであって、前記画像入力手段から入力した画素信号を中心とし、その周辺画素を含めた画素領域におけるヒストグラム分布、最大値最小値、平均値のいずれかを検出すること、
を特徴とする画像信号処理装置。
The image signal processing apparatus according to claim 1 or 2 ,
The signal level detecting means detects a signal for estimating the amount of incident light when photoelectric conversion is performed in the imaging device, and the pixel signal input from the image input means is the center, and its peripheral pixels Detecting any one of histogram distribution, maximum value minimum value, average value in the pixel area including
An image signal processing apparatus.
JP2010285285A 2010-12-22 2010-12-22 Image signal processing device Active JP5597124B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2010285285A JP5597124B2 (en) 2010-12-22 2010-12-22 Image signal processing device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010285285A JP5597124B2 (en) 2010-12-22 2010-12-22 Image signal processing device

Publications (2)

Publication Number Publication Date
JP2012134779A JP2012134779A (en) 2012-07-12
JP5597124B2 true JP5597124B2 (en) 2014-10-01

Family

ID=46649840

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010285285A Active JP5597124B2 (en) 2010-12-22 2010-12-22 Image signal processing device

Country Status (1)

Country Link
JP (1) JP5597124B2 (en)

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006020055A (en) * 2004-07-01 2006-01-19 Konica Minolta Holdings Inc Image pickup device
US7791647B2 (en) * 2004-12-20 2010-09-07 Konica Minolta Holdings, Inc. Image capturing apparatus which converts incident light to first electric signals according to a plurality of photoelectronic conversion characteristics and image capturing method
JP2008271123A (en) * 2007-04-19 2008-11-06 Konica Minolta Holdings Inc Imaging device
JP5282306B2 (en) * 2007-11-01 2013-09-04 コニカミノルタ株式会社 Image processing apparatus, image processing method, and imaging apparatus

Also Published As

Publication number Publication date
JP2012134779A (en) 2012-07-12

Similar Documents

Publication Publication Date Title
CN102387373B (en) Image processing apparatus and image processing method
JP6446790B2 (en) Image processing apparatus, imaging apparatus, image correction method, and program
US8081242B2 (en) Imaging apparatus and imaging method
KR101352440B1 (en) Image processing apparatus, image processing method, and recording medium
US9270888B2 (en) Image processing apparatus and control method thereof
US8614751B2 (en) Image processing apparatus and image processing method
US8144216B2 (en) Imaging apparatus and imaging method
JP2010147786A (en) Imaging device and image processing method
JP6108680B2 (en) Imaging apparatus, control method therefor, program, and storage medium
JP6047686B2 (en) Imaging device
JP5315125B2 (en) Image processing apparatus, imaging apparatus, and composite image generation method
EP2515543B1 (en) Image capturing apparatus and image capturing method
KR20120122574A (en) Apparatus and mdthod for processing image in a digital camera
JP2010011153A (en) Imaging apparatus, imaging method and program
JP2012134745A (en) Image signal processing device
JP5545596B2 (en) Image input device
KR101143834B1 (en) Aparatus and metod for controlling auto white balance
JP5597124B2 (en) Image signal processing device
JP2004215063A (en) Photographing device and outline correction method
JP2004222160A (en) Digital camera
JP2010035120A (en) Video camera image sensing device
KR20100019222A (en) Method and apparatus for controlling automatic white balance using optical sensor, and digital photographing apparatus using thereof
JP6849351B2 (en) Image processing equipment, image processing methods, and programs
JP2017034536A (en) Image processing apparatus, image processing method, and program
JP6649176B2 (en) Image processing apparatus and image processing method

Legal Events

Date Code Title Description
RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20120521

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20130410

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130410

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20131217

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20131224

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140224

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20140310

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20140317

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20140318

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20140319

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140715

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140808

R150 Certificate of patent or registration of utility model

Ref document number: 5597124

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S631 Written request for registration of reclamation of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313631

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250