JP5597124B2 - Image signal processing device - Google Patents
Image signal processing device Download PDFInfo
- Publication number
- JP5597124B2 JP5597124B2 JP2010285285A JP2010285285A JP5597124B2 JP 5597124 B2 JP5597124 B2 JP 5597124B2 JP 2010285285 A JP2010285285 A JP 2010285285A JP 2010285285 A JP2010285285 A JP 2010285285A JP 5597124 B2 JP5597124 B2 JP 5597124B2
- Authority
- JP
- Japan
- Prior art keywords
- white balance
- signal
- image
- processing
- adjustment amount
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000004364 calculation method Methods 0.000 claims description 41
- 238000003384 imaging method Methods 0.000 claims description 31
- 238000001514 detection method Methods 0.000 claims description 17
- 238000006243 chemical reaction Methods 0.000 claims description 16
- 230000002093 peripheral effect Effects 0.000 claims description 3
- 230000002194 synthesizing effect Effects 0.000 claims 2
- 238000000034 method Methods 0.000 description 37
- 230000006835 compression Effects 0.000 description 13
- 238000007906 compression Methods 0.000 description 13
- 238000010586 diagram Methods 0.000 description 11
- 230000000694 effects Effects 0.000 description 6
- 230000000875 corresponding effect Effects 0.000 description 4
- 230000006837 decompression Effects 0.000 description 4
- 230000005540 biological transmission Effects 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000000717 retained effect Effects 0.000 description 1
- 238000003786 synthesis reaction Methods 0.000 description 1
Images
Landscapes
- Color Television Image Signal Generators (AREA)
- Processing Of Color Television Signals (AREA)
Description
本発明は、画像信号処理装置に関する。 The present invention relates to an image signal processing apparatus.
本技術分野の背景技術として、例えば、特開2010−114667号公報(特許文献1)がある。該公報には、「[課題]映像のホワイトバランスを精度良く調整する自動ホワイトバランス調整システムを得ること。[解決手段]自動ホワイトバランス調整システムにおいて、色差信号の所定範囲を示す色範囲情報または輝度信号の所定範囲を示す輝度範囲情報に基づいて、色範囲情報内または輝度範囲情報内の画素を用いたホワイトバランス調整の調整ゲインを算出するホワイトバランス情報算出部16と、調整ゲインの算出に用いる色範囲情報または輝度範囲情報と、調整ゲインの算出に用いられる場合には調整ゲインの算出に用いられる1フレーム内の所定領域を示すフレーム内領域情報と、の中の少なくとも1つを、撮像画像のホワイトバランスに応じて撮像画像のフレーム毎に変更するレジスタ切替部19と、ホワイトバランス情報算出部16が算出した調整ゲインを用いて撮像画像のホワイトバランスを調整する乗算器12と、を備える。」と記載されている(要約参照)。
As background art in this technical field, for example, there is JP 2010-114667 A (Patent Document 1). In this publication, “[PROBLEM] To obtain an automatic white balance adjustment system that accurately adjusts white balance of an image. [Solution] Color range information or luminance indicating a predetermined range of a color difference signal in an automatic white balance adjustment system. A white balance information calculation unit 16 that calculates an adjustment gain for white balance adjustment using pixels in the color range information or the luminance range information based on luminance range information indicating a predetermined range of the signal, and is used for calculating the adjustment gain. At least one of color range information or luminance range information, and in-frame region information indicating a predetermined region in one frame used for calculation of adjustment gain when used for calculation of adjustment gain, is a captured image. Register switching unit 19 that changes every frame of the captured image according to the white balance of the image, and white balance
また、例えば、特開2002−77733号公報がある。該公報には「[課題]本発明は、バイアス電圧を切り換えることなく、光電変換部に入射される入射光量に応じて、自動的に対数変換動作及び線形変換動作を切り換えることができる固体撮像装置を提供することを目的とする。[解決手段]信号φVPSに、撮像時にMOSトランジスタT1のソースに与える電圧VHより低い電圧VLとなるパルス信号を与えることによって、撮像開始時におけるMOSトランジスタT1のゲート電圧をソース電圧より低い電圧とする。よって、撮像時において、被写体が所定の輝度値を超えるまでは、MOSトランジスタT1がカットオフ状態となるので、線形変換された電気信号が出力され、又、被写体が所定の輝度値を超えたとき、MOSトランジスタT1がサブスレッショルド領域で動作するので、対数変換された電気信号が出力される。」と記載されている(要約参照)。 Further, for example, there is JP-A-2002-77733. In this publication, “[Problem] The present invention is capable of automatically switching between a logarithmic conversion operation and a linear conversion operation according to the amount of incident light incident on the photoelectric conversion unit without switching the bias voltage. [Solution] The gate of the MOS transistor T1 at the start of imaging is given to the signal φVPS by applying a pulse signal having a voltage VL lower than the voltage VH applied to the source of the MOS transistor T1 during imaging. The voltage is set to be lower than the source voltage, so that during imaging, the MOS transistor T1 is cut off until the subject exceeds a predetermined luminance value, so that a linearly converted electric signal is output, When the subject exceeds a predetermined luminance value, the MOS transistor T1 operates in the subthreshold region. A number-converted electrical signal is output ”(see summary).
被写体の光を入力とし光電変換した後に画像信号として出力する撮像素子を、画素飽和を極力抑えるよう非線形入出力特性とし、該非線形入出力特性の撮像素子を用いて撮影することでワイドダイナミックレンジの画像を取得する技術がある。 The imaging device that outputs the image signal after photoelectrically converting the light of the subject as input is set to nonlinear input / output characteristics so as to suppress pixel saturation as much as possible. There is technology to acquire images.
一般に、撮影を行う画像信号処理装置においては、適正なホワイトバランスを自動的に得るための自動ホワイトバランス処理を行うことが知られている。これは、撮影した画像から光源の色温度を判定し、ホワイトバランスが適正となるよう自動的に制御するものである。例えば、夕暮れ時の太陽光に照らされた被写体を映した場合には、ホワイトバランス処理の無い状態では白い被写体が赤く見えるが、ホワイトバランス処理を行うことにより白い被写体を白く撮影することができる。 In general, it is known that an image signal processing apparatus that performs photographing performs automatic white balance processing for automatically obtaining appropriate white balance. In this method, the color temperature of the light source is determined from the photographed image, and the white balance is automatically controlled to be appropriate. For example, when a subject illuminated by sunlight at dusk is projected, a white subject appears red without white balance processing, but a white subject can be photographed white by performing white balance processing.
ところが、前記ワイドダイナミックレンジ画像生成技術(特開2002−77733号公報)では、非線形入出力特性を持つ撮像素子は対数圧縮変換等により非線形入出力特性を実現しているため、画像信号の強弱が圧縮された画像となる。このため、前記の例のように入出力特性が線形である画像処理技術を対象とした自動ホワイトバランス処理(特開2010−114667号公報)によって、非線形入出力特性を持つ撮像素子を用いたカメラにて自動ホワイトバランス処理を行う場合、画像信号から光源の色温度を正確に判定できず自動ホワイトバランス処理が適正に行えないという課題があった。 However, in the wide dynamic range image generation technique (Japanese Patent Laid-Open No. 2002-77733), an image sensor having nonlinear input / output characteristics realizes nonlinear input / output characteristics by logarithmic compression conversion or the like. It becomes a compressed image. For this reason, a camera using an imaging element having nonlinear input / output characteristics by automatic white balance processing (Japanese Patent Laid-Open No. 2010-114667) targeted for an image processing technique having linear input / output characteristics as in the above example. When performing automatic white balance processing at, there is a problem in that the color temperature of the light source cannot be accurately determined from the image signal and automatic white balance processing cannot be performed properly.
上記目的を解決するために、特許請求の範囲に記載の構成を採用する。 In order to solve the above object, the configuration described in the claims is adopted.
本発明によれば、非線形の画像処理技術を使用する際に自動的に適切なホワイトバランスを提供することができる。 According to the present invention, it is possible to automatically provide an appropriate white balance when using a non-linear image processing technique.
上記した以外の課題、構成及び効果は、以下の実施形態の説明により明らかにされる。 Problems, configurations, and effects other than those described above will be clarified by the following description of embodiments.
以下、本発明の実施形態を図面を用いて説明する。 Hereinafter, embodiments of the present invention will be described with reference to the drawings.
(1)実施例1のシステム構成
本発明における実施例1について詳細に説明する。図1は、本発明の実施例1における基本構成の一例を説明する図である。撮像部101は、被写体からの入射光の光量を調整する絞り、該絞りを通った光を集めるためのレンズ、該レンズが集めた光を光電変換し画像信号として出力し、かつ、その入出力特性が非線形である撮像素子などで構成される。画像入力部102は、撮像部101からの画像信号に所定の処理を行い出力する。所定の処理とは、撮像素子からの信号を入力して後段の信号処理を行うブロックにて画像信号処理を行うための入力インタフェース処理であり、例えば、AD(Analog to Digital)変換処理であり、また、例えば、撮像素子と信号処理部との処理タイミングを調整する同期調整処理である。なお、画像入力部102は、信号レベル調整のための利得制御やフィルタ処理など、所定の画像信号処理を含んでも良い。露光制御部103は、画像入力部102から入力された画像信号の量を所定に保つように、撮像部101の絞りの制御を行う。信号レベル検出部104は、画像入力部102からの画像信号の信号レベルを検出する。ホワイトバランス(WB)システム制御部105は、信号レベル検出部104の検出結果と画像入力部102からの信号の入出力特性に応じてホワイトバランス調整量算出処理を行うよう、ホワイトバランス(WB)調整量算出部106に命令を行う。また、ホワイトバランス(WB)処理部107に対して、ホワイトバランス調整量算出部106から得たホワイトバランス調整量を用いて、画像入力部102からの画像信号に対してホワイトバランス処理を行うよう命令する。これにより、非線形の入出力特性を持つ撮像部101からの信号に対して、適切なホワイトバランスを得ることができる。画像出力部108は、ホワイトバランス処理部107からの画像信号に所定の処理を行い出力する。なお、所定の処理とは、ホワイトバランス処理部107からの画像信号にノイズ除去、ガンマ補正、輪郭強調、フィルタ処理、ズーム処理、手ぶれ補正、画像認識などの画像信号処理及び、TVやストレージなどの出力機器の信号フォーマットに変換する出力インタフェース処理である。出力インタフェース処理とは、例えば、NTSCやPALのビデオ出力に変換するものであり、例えば、HDMI信号に変換するものであり、例えば、ネットワーク伝送のために所定の信号に変換するものである。なお、実施例1ではホワイトバランス処理部と画像信号処理を行う画像出力部を個別に図示しているが、ホワイトバランス処理部が画像出力部の一部に含まれていても構わない。
(1) System Configuration of Embodiment 1 Embodiment 1 according to the present invention will be described in detail. FIG. 1 is a diagram illustrating an example of a basic configuration according to the first embodiment of the present invention. The
以上の構成により、撮像部からの信号の入出力特性に応じたホワイトバランス処理を実現できるため、非線形の撮像素子を使用する場合にも適切なホワイトバランスを得ることが可能となる。 With the above configuration, it is possible to realize white balance processing according to the input / output characteristics of the signal from the imaging unit, and therefore it is possible to obtain appropriate white balance even when using a nonlinear imaging device.
図2は、非線形の入出力特性の一例を説明する図である。撮像部101(図1)に入出力特性が非線形である撮像素子が含まれると前記したが、図2の例では、低輝度(入射光の信号レベルが低い)領域がリニア特性であり、高輝度領域は対数特性を持ち、高輝度になればなるほど圧縮率を高くしている。これにより、ダイナミックレンジを広くすることができる。他にも、低輝度領域と高輝度領域の両方がリニア特性だが異なる傾きにすることで、低輝度領域と高輝度領域で圧縮率を変化させたり、低輝度領域と高輝度領域で異なる対数特性を持たせることで、低輝度領域と高輝度領域で圧縮率を変化させたりしても良い。また、低輝度領域から高輝度領域まで一種類の対数特性を持たせてももちろん構わない。また、対数特性でなくその他所定の関数により圧縮した非線形特性を持たせても良い。 FIG. 2 is a diagram illustrating an example of nonlinear input / output characteristics. As described above, the imaging unit 101 (FIG. 1) includes an imaging element whose input / output characteristics are nonlinear. However, in the example of FIG. 2, the low luminance (low incident light signal level) region has linear characteristics, and high The luminance region has logarithmic characteristics, and the higher the luminance, the higher the compression rate. Thereby, the dynamic range can be widened. In addition, both the low-brightness area and the high-brightness area are linear characteristics, but with different slopes, the compression ratio can be changed between the low-brightness area and the high-brightness area, or the logarithmic characteristics can be different between the low-brightness area and the high-brightness area. The compression ratio may be changed between the low luminance region and the high luminance region. Of course, one kind of logarithmic characteristic may be provided from the low luminance region to the high luminance region. Further, in addition to the logarithmic characteristic, a non-linear characteristic compressed by a predetermined function may be provided.
信号レベル検出部104(図1)について詳細を説明する。信号レベル検出部104にて検出する数値は、例えば、入力した画素信号の絶対値である。また、例えば、入力した画素信号を中心とし、その周辺画素で構成される所定の画像領域(n×m画素の領域)における信号のヒストグラム分布、最大値最小値、平均値など、画像領域の信号の輝度分布状態を示す情報となる数値である。以上の情報を検出すれば、画素信号を得た際の入射光の光量を推定することができる。入射光の光量推定のためには、画素信号の絶対値情報があれば良いが、入力した画素信号と相関性が非常に高い周辺画素を用いてそのヒストグラム分布や最大値最小値や平均値を検出すれば、撮像時に重畳するノイズ成分を高精度に分離することができるなど、撮影条件に依らず高精度な推定が可能である。
Details of the signal level detector 104 (FIG. 1) will be described. The numerical value detected by the signal
ホワイトバランス調整量算出部106(図1)について詳細を説明する。ホワイトバランス調整量算出部106は、画像入力部102からの信号を入力とし、該信号のホワイトバランス調整量を算出するべく、例えば、画像入力部102からの画像信号から光源の色もしくはそれに近いと推定される画素の色差信号を積算し、色差信号平均値を算出する。該色差信号平均値は、UV座標系の原点からのずれに相当する。そこで、該色差信号平均値が原点となるホワイトバランス調整量を算出する。また、例えば、入出力特性対応処理部106で補正後の信号が非線形の入出力特性を保っている場合は、低輝度領域と高輝度領域で、ホワイトバランス調整量算出方法を切り替えてホワイトバランス調整量を算出する。なお、UV座標系とは、図3に示すような、Uを横軸とし、Vを縦軸として色差信号を表わしたものであり、原点(0, 0)が色の無い状態を示す。
Details of the white balance adjustment amount calculation unit 106 (FIG. 1) will be described. The white balance adjustment
以上の構成により、非線形特性の撮像素子を使用する場合であっても、適切なホワイトバランスを得られるよう自動ホワイトバランス処理を行うことが可能となる。 With the above configuration, automatic white balance processing can be performed so that an appropriate white balance can be obtained even when an image sensor having nonlinear characteristics is used.
(2)ホワイトバランス処理
図3は、色差信号のUV座標系を説明する図である。Uを横軸とし、Vを縦軸として色差信号を表わすと、原点(0, 0)が色の無い状態を示す。各画素の色は、この原点を中心としてUV座標系上で、図示のように、R(赤)、Mg(マゼンタ)、B(青)、Cy(シアン)、G(緑)、Ye(黄)などと示すことができる。
(2) White Balance Processing FIG. 3 is a diagram for explaining a UV coordinate system for color difference signals. When the color difference signal is expressed with U as the horizontal axis and V as the vertical axis, the origin (0, 0) indicates a state of no color. The color of each pixel is R (red), Mg (magenta), B (blue), Cy (cyan), G (green), Ye (yellow) on the UV coordinate system with this origin as the center as shown in the figure. ) Etc.
図4は、ホワイトバランス調整量を算出する方法の一例を説明する図である。本実施例では、光源の色温度がUV座標上のあるエリアであると推定し、該エリアを光源色判定エリア401とする。 FIG. 4 is a diagram illustrating an example of a method for calculating the white balance adjustment amount. In this embodiment, it is estimated that the color temperature of the light source is a certain area on the UV coordinates, and this area is set as the light source color determination area 401.
図5は、ホワイトバランス調整量を算出する処理の流れを説明するフロー図である。ステップS501で、ホワイトバランス調整量算出部107は、画像入力部102からの画像信号の各画素に対して、色差信号が光源色判定エリア401内に存在するか否かを判定し、存在する場合はステップS502で色差信号を積算する。存在しない場合は色差信号を積算せずに、処理を終了する。全ての画素に対して図5の処理を行った後、色差信号の積算値を全画素数で除算して色差信号平均値を算出する。該色差信号平均値は、前述の通り、UV座標系の原点からのずれに相当する。該ずれが原点になるよう補正することで、適切なホワイトバランスを得ることができる。
FIG. 5 is a flowchart for explaining the flow of processing for calculating the white balance adjustment amount. In step S501, the white balance adjustment
図6は、撮像部が出力する信号が非線形の場合に、ホワイトバランス調整量算出時の処理で対応する手法の流れを説明するフロー図である。ステップS601で、ホワイトバランスシステム制御部105(図1)に信号が入力されると、ステップS602で、ホワイトバランスシステム制御部105は信号レベル検出部104からの情報を元に、各画素に対して、高輝度領域か否を判定する。該画素が高輝度領域に属するものであれば、ステップS603で、ホワイトバランスシステム制御部105は、ホワイトバランス調整量算出部106に対して、高輝度領域用の光源色判定エリアを用いてホワイトバランス調整量算出処理を行うよう命令する。該画素が低輝度領域に属するものであれば、ステップS604で、低輝度領域用の光源色判定エリアを用いてホワイトバランス調整量算出処理を行うよう命令する。なお、ホワイトバランス調整量算出処理内容については、図5で説明したとおりである。ステップS605では、ホワイトバランスシステム制御部105は、ホワイトバランス処理部107に対して、ホワイトバランス調整量算出処理部から得られたホワイトバランス調整量を用いてホワイトバランス処理を行うよう命令し、処理を終了する。
FIG. 6 is a flowchart for explaining the flow of a technique corresponding to the processing at the time of calculating the white balance adjustment amount when the signal output from the imaging unit is nonlinear. In step S601, when a signal is input to the white balance system control unit 105 (FIG. 1), in step S602, the white balance
なお、ステップS603やステップS604で使用する光源色判定エリアの範囲は、撮像部から出力される信号の入力レベルと光源色判定エリアの範囲を示す情報を対応づけた情報をテーブルとして保持しておき、それを用いる方法で良い。なお、ステップS605のホワイトバランス処理は、前記色差信号平均値がUV座標系の原点に一致するような変換をしても構わないし、映像の見栄えを良くするために前記色差信号平均値がUV座標系の原点とは異なる任意の点に一致するような変換をしてももちろん構わない。 Note that the range of the light source color determination area used in step S603 and step S604 stores information associating the input level of the signal output from the imaging unit with information indicating the range of the light source color determination area as a table. The method of using it is sufficient. In the white balance process in step S605, the color difference signal average value may be converted so as to coincide with the origin of the UV coordinate system, and the color difference signal average value is converted to the UV coordinate in order to improve the appearance of the image. Of course, the conversion may be made so as to coincide with an arbitrary point different from the origin of the system.
以上の処理により、撮像部からの入出力特性に応じてホワイトバランス調整量算出処理を切り替えることができるため、撮像部からの出力信号が非線形の場合であっても、適切なホワイトバランスを得ることができる。 By the above processing, the white balance adjustment amount calculation processing can be switched according to the input / output characteristics from the imaging unit, so that even when the output signal from the imaging unit is nonlinear, an appropriate white balance can be obtained. Can do.
図7は、図6で説明したホワイトバランス調整量算出処理の一例を説明する図である。低輝度領域用光源色判定エリア701は、ステップS604(図6)で低輝度領域用のホワイトバランス調整量算出を行う際に使用する。具体的には、ステップS501(図5)の判定において、低輝度領域用光源色判定エリア701を使用することを意味する。高輝度領域用光源色判定エリア702は、ステップS603で高輝度領域用のホワイトバランス調整量算出を行う際に使用する。具体的には、ステップS501の判定において、高輝度領域用光源色判定エリア702を使用することを意味する。ここで、本実施例では、高輝度領域は低輝度領域よりも圧縮率の高い対数特性であるため、高輝度領域用光源色判定エリア702は、低輝度領域用光源色判定エリアよりも、面積を小さくする。これは、高輝度領域は対数特性であるため信号が圧縮されており、リニア特性である低輝度領域と比べて色差信号が全体的に原点に近いと考えられるためである。なお、対数特性である高輝度領域の光源色判定エリアの範囲は、撮像部から出力される信号の入力レベルと光源色判定エリアの範囲を示す情報を対応づけたテーブルを用いて可変に制御しても構わない。これにより、精度の高いホワイトバランス調整量算出を実現できる。また、対数特性を一次式で近似して圧縮率が一定とみなして、高輝度領域用光源色判定エリアを一種類に固定しても構わない。これにより、高輝度領域用光源色判定エリアの制御が容易になる。なお、本実施例では、低輝度領域がリニア特性で、高輝度領域が対数特性の信号を想定して説明したが、その他の低輝度領域と高輝度領域の信号圧縮率が異なる組み合わせにおいても本手法は適用可能である。
FIG. 7 is a diagram illustrating an example of the white balance adjustment amount calculation process described in FIG. The light source
以上の手段により、ホワイトバランス調整量算出の際に使用する光源色判定エリアの範囲を変えることで、非線形の入出力特性を持つ信号に対して適切なホワイトバランスを得ることができる。 By changing the range of the light source color determination area used when calculating the white balance adjustment amount by the above means, an appropriate white balance can be obtained for a signal having nonlinear input / output characteristics.
(1)実施例2のシステム構成
本発明における実施例について詳細に説明する。図8は、本発明の実施例2における基本構成の一例を説明する図である。801から808までのブロックは、それぞれ図1の101から108までのブロックと同様の処理を行うが、ホワイトバランス(WB)システム制御部805及びホワイトバランス(WB)調整量算出部806及びホワイトバランス(WB)処理部807への入力信号は、画像入力部802ではなく、入出力特性対応処理部809からの画像信号である。入出力特性対応処理部809は、信号レベル検出部804から得た情報を元に、画像入力部802からの画像信号に対してその入出力特性に応じた処理を行う。該処理とは、例えば、信号レベル検出部804の検出結果と画像入力部802からの信号の入出力特性に応じて、画像入力部802からの画像信号の補正処理を行うことである。これにより、特性の異なる低輝度側と高輝度側の信号をホワイトバランス処理に適した特性、例えば、画像入力部からの出力信号が、リニア特性の低輝度側信号と対数特性の高輝度側信号から構成されている場合、圧縮された対数特性の高輝度側信号に対して伸長処理を行いリニア特性に変換する。また、例えば、リニア特性の低輝度側信号を圧縮処理して高輝度側信号の圧縮率に近づける。
(1) System Configuration of Embodiment 2 An embodiment of the present invention will be described in detail. FIG. 8 is a diagram illustrating an example of a basic configuration according to the second embodiment of the present invention. The
以上の手段により、非線形の入出力特性を持つ信号を入出力特性制御で通常のリニア特性を持つ信号の入出力特性に近づけたのちにホワイトバランス調整量を算出し、ホワイトバランス処理を行うため、撮像部が出力する信号が非線形の場合であっても適切なホワイトバランスを得ることができる。なお、入出力特性制御部809が、画像入力部102からの信号の入出力特性に応じた処理を行うと前述したが、画像入力部102から出力される信号の入力レベルと出力レベルを対応づけた情報をテーブルとして保持しておき、それを用いる方法で良い。テーブルを用いる場合は、入出力特性の正確な把握が可能である。その他にも、入出力特性を表わす関数式を保持する方法でも良い。関数式を用いる場合、入出力特性の正確な把握が可能であり、かつ、テーブルとして保存しておく方法に比べて保持するデータを削減できる。その他にも、複数の入射光の輝度レベルにおける圧縮率情報など、入出力特性を推定できる情報を保持する方法でも良い。入出力特性を推定できる情報を用いる場合、例えば、データを間引いた状態で保持しておく近似補間することで入出力特性の正確な把握が可能であり、かつ、テーブルとして保持しておく方法に比べて保持するデータ量を削減できる。また、関数式を保持する方法は関数が多項式になればなるほど演算量が増加するが、間引いた状態のデータを近似補間で実現すれば相対的に演算量を削減できる。また、高輝度信号の伸長処理を行う手法の他に、例えば、高輝度の圧縮率と同等となるよう低輝度領域を圧縮処理することで、通常の線形特性を持つ撮像素子の特性に近づけることができ、かつ、高輝度信号に対して伸長処理を行い場合に比べて少ないビット数で処理できるため回路コストを削減できる。
By the above means, the white balance adjustment amount is calculated after the signal having nonlinear input / output characteristics is brought close to the input / output characteristics of the signal having normal linear characteristics by the input / output characteristics control, and the white balance processing is performed. Appropriate white balance can be obtained even when the signal output from the imaging unit is nonlinear. As described above, the input / output
図9は、入出力特性制御部809(図8)での補正処理を用いたホワイトバランス処理の流れを説明するフロー図である。ステップS901で入出力特性対応処理部809に信号が入力され、ステップS902で、入出力特性対応処理部809は、画像入力部802からの非線形の信号に対して非線形処理を行うことによって圧縮された高輝度信号に対して伸長処理を行うよう命令する。これにより、通常のリニア特性を持つ撮像部の入出力特性に近づける。次にステップS903で、ホワイトバランスシステム制御部805は、ホワイトバランス調整量算出部806に対して、図5の処理を行ってホワイトバランス調整量を算出するよう命令し、ステップS904でホワイトバランスシステム制御部805は、ホワイトバランス処理部807に対して、ステップS903から得たホワイトバランス調整量を用いて入出力特性対応処理部809から得た画像信号に対するホワイトバランス処理を行うよう命令して、処理を終了する。このとき、ステップS904のホワイトバランス処理は、前記色差信号平均値がUV座標系の原点に一致するような変換をしても構わないし、映像の見栄えを良くするために前記色差信号平均値がUV座標系の原点とは異なる任意の点に一致するような変換をしてももちろん構わない。
FIG. 9 is a flowchart illustrating the flow of white balance processing using correction processing in the input / output characteristic control unit 809 (FIG. 8). In step S901, a signal is input to the input / output characteristic
図10は、入出力特性対応処理部とホワイトバランス調整量算出部で、非線形の信号に対応したホワイトバランス処理を行う手法の流れを説明するフロー図である。図10の処理は、例えば、対数特性である高輝度領域の信号に対して伸長処理を行い、高輝度領域の信号を低輝度領域と同様にリニア特性に近づけた結果、低輝度領域と高輝度領域が圧縮率の異なるリニア特性になった際に適用すると効果的である。ステップS1001で、入出力特性対応処理部809(図8)に画像信号が入力されると、ステップS1002で入出力特性対応処理部809は撮像部801からの非線形の信号に対して非線形処理を行うことによって圧縮された高輝度信号に対して伸長処理を行うことで、通常の線形特性を持つ撮像部の入出力特性に近づける処理を行う。次に、ステップS1003で、各画素に対して、高輝度領域か否を判定する。該画素が高輝度領域に属するものであれば、ステップS1004で、高輝度領域用のホワイトバランス調整量算出処理を行う。該画素が低輝度領域に属するものであれば、ステップS1005で、低輝度領域用のホワイトバランス調整量算出処理を行う。ステップS1006では、各ホワイトバランス調整量算出処理で得られたホワイトバランス調整量を用いてホワイトバランス処理を行い、処理を終了する。なお、ホワイトバランス調整量算出時は、図7で説明したように、信号の圧縮率に応じて光源色判定エリアの面積を調節する。
FIG. 10 is a flowchart for explaining a flow of a technique for performing white balance processing corresponding to a non-linear signal in the input / output characteristic correspondence processing unit and the white balance adjustment amount calculation unit. The processing in FIG. 10 is performed, for example, by performing a decompression process on a signal in a high luminance region having a logarithmic characteristic and bringing the signal in the high luminance region closer to a linear characteristic in the same manner as in the low luminance region. It is effective when applied when the region has linear characteristics with different compression ratios. When an image signal is input to the input / output characteristic correspondence processing unit 809 (FIG. 8) in step S1001, the input / output characteristic
以上の処理により、撮像部からの出力信号がリニア特性と対数特性を持つ非線形な信号であった場合、ステップS1002で入出力特性対応処理部809が対数特性領域をリニア特性に変換し、ステップS1003からステップS1005でホワイトバランス調整量算出部806が、非線形である低輝度領域と高輝度領域それぞれに対して光源色判定エリアの領域を切り替えてホワイトバランス調整量算出処理を行うことができる。これにより、ホワイトバランス調整量算出をリニア特性の信号に対してのみ行えば良くなるため、光源色エリアの範囲を決定する制御が容易になる。
If the output signal from the imaging unit is a non-linear signal having a linear characteristic and a logarithmic characteristic through the above processing, the input / output characteristic
(1)実施例3のシステム構成
図11は、本発明の実施例3における基本構成の一例を説明する図である。撮像部1101からホワイトバランス(WB)システム制御部1105は、図1と同様の処理を行う。ホワイトバランス(WB)調整量算出部1106は、ホワイトバランスシステム制御部1105からの命令を受けて、画像入力部1102からの画像信号に対してホワイトバランス調整量を算出する。このとき、入出力特性の異なる低輝度領域と高輝度領域それぞれに対してホワイトバランス調整量を算出し、例えば、低輝度領域のホワイトバランス調整量を系統a、高輝度領域のホワイトバランス調整量を系統bとして出力する。ホワイトバランス(WB)処理部1107は、ホワイトバランスシステム制御部1105からの命令を受け、ホワイトバランス調整量算出部1106から得た各ホワイトバランス調整量を用いて、画像入力部からの画像信号の低輝度領域、高輝度領域それぞれに対してホワイトバランス処理を行い、低輝度領域にホワイトバランス処理を適用した系統aの信号と、高輝度領域にホワイトバランス処理を適用した系統bの信号を出力する。信号合成部1109は、ホワイトバランス処理部からの各画像信号を合成し、一つの画像信号として出力する。画像出力部1108は、図1の画像出力部108と同様の処理を行う。
(1) System Configuration of
以上の構成により、低輝度領域の画像信号系統aと、高輝度領域の画像信号系統bの信号に対して、個別にホワイトバランス処理を行うことができるため、系統abそれぞれにおいて適切なホワイトバランスを得ることができる。これにより、後述のように、色温度が異なる複数の光源が存在するシーンで、より適切なホワイトバランスを得ることができる。なお、図11に対して、図8のように入出力特性対応処理部を加えたシステム構成にしても、同様の効果を得ることができる。 With the above configuration, since the white balance processing can be individually performed on the signals of the image signal system a in the low luminance area and the signal of the image signal system b in the high luminance area, an appropriate white balance can be obtained in each of the systems ab. Can be obtained. Thereby, as will be described later, a more appropriate white balance can be obtained in a scene where there are a plurality of light sources having different color temperatures. Note that the same effect can be obtained even if the system configuration is such that an input / output characteristic correspondence processing unit is added to FIG. 11 as shown in FIG.
図12は、図11の構成におけるホワイトバランス処理の流れを示すフロー図である。ステップS1201で、ホワイトバランスシステム制御部1105(図11)に信号が入力されると、ステップS1202で、ホワイトバランスシステム制御部1105は信号レベル検出部1104からの情報を元に、各画素に対して、高輝度領域か否を判定する。該画素が高輝度領域に属するものであれば、ステップS1203で、ホワイトバランスシステム制御部1105は、ホワイトバランス調整量算出部1106に対して、高輝度領域用のホワイトバランス調整量算出処理を行うよう命令する。該画素が低輝度領域に属するものであれば、ステップS1204で、低輝度領域用のホワイトバランス調整量算出処理を行うよう命令する。本実施例では、高輝度領域用ホワイトバランス調整量と低輝度領域用ホワイトバランス調整量が、別々に出力される。なお、ホワイトバランス調整量算出処理内容については、図5で説明したとおりである。ステップS1205では、ホワイトバランスシステム制御部1105は、ホワイトバランス処理部1107に対して、ホワイトバランス調整量算出処理部から得られた高輝度領域用ホワイトバランス調整量(系統b)を用いてホワイトバランス処理を行うよう命令する。ステップS1206では、ホワイトバランスシステム制御部1105は、ホワイトバランス処理部1107に対して、ホワイトバランス調整量算出処理部から得られた低輝度領域用ホワイトバランス調整量(系統a)を用いてホワイトバランス処理を行うよう命令する。ステップS1207では、ホワイトバランス処理部1107からの各画像信号を合成し、処理を終了する。なお、ステップS1203やステップS1204で使用する光源色判定エリアの範囲は、撮像部から出力される信号の入力レベルと光源色判定エリアの範囲を示す情報を対応づけた情報をテーブルとして保持しておき、それを用いる方法で良い。なお、ステップS1205とステップS1206のホワイトバランス処理は、色差信号平均値がUV座標系の原点に一致するような変換をしても構わないし、映像の見栄えを良くするために前記色差信号平均値がUV座標系の原点とは異なる任意の点に一致するような変換をしてももちろん構わない。
FIG. 12 is a flowchart showing the flow of white balance processing in the configuration of FIG. In step S1201, when a signal is input to the white balance system control unit 1105 (FIG. 11), in step S1202, the white balance
以上の処理により、輝度に応じてホワイトバランス処理を切り替えることができるため、低輝度領域と高輝度領域の光源の色温度が異なる場合であっても、適切なホワイトバランスを得ることができる。 With the above processing, since the white balance processing can be switched according to the luminance, an appropriate white balance can be obtained even when the color temperatures of the light sources in the low luminance region and the high luminance region are different.
(2)実施例3の効果
図13は、本実施例の効果の一例を説明する図である。図13は、画角内に蛍光灯を光源とする室内1301と、太陽光を光源とする屋外1302が存在する例である。図13のようなシーンの場合、暗い室内と明るい室外で撮像する画像のダイナミックレンジが広くなるため、非線形の撮像素子を使用することによる広ダイナミックレンジ効果を得やすい。しかし、このシーンで一般的なホワイトバランス処理を適用すると、画面全体に対して一定のホワイトバランス処理が適用されるため、室内と室外の両方に最適となるホワイトバランスを得ることができないという課題がある。対して、図11の構成の場合は、蛍光灯を光源とする低輝度領域と太陽光を光源とする高輝度領域それぞれに対して異なるホワイトバランス処理を適用することができるため、異なる光源が存在するシーンにおいても適切なホワイトバランスを得ることができる。
(2) Effects of
なお、本発明は上記した実施例に限定されるものではなく、様々な変形例が含まれる。例えば、上記した実施例は本発明を分かりやすく説明するために詳細に説明したものであり、必ずしも説明した全ての構成を備えるものに限定されるものではない。また、ある実施例の構成の一部を他の実施例の構成に置き換えることが可能であり、また、ある実施例の構成に他の実施例の構成を加えることも可能である。また、各実施例の構成の一部について、他の構成の追加・削除・置換をすることが可能である。 In addition, this invention is not limited to an above-described Example, Various modifications are included. For example, the above-described embodiments have been described in detail for easy understanding of the present invention, and are not necessarily limited to those having all the configurations described. Further, a part of the configuration of one embodiment can be replaced with the configuration of another embodiment, and the configuration of another embodiment can be added to the configuration of one embodiment. Further, it is possible to add, delete, and replace other configurations for a part of the configuration of each embodiment.
また、上記の各構成は、それらの一部又は全部が、ハードウェアで構成されても、プロセッサでプログラムが実行されることにより実現されるように構成されてもよい。また、制御線や情報線は説明上必要と考えられるものを示しており、製品上必ずしも全ての制御線や情報線を示しているとは限らない。実際には殆ど全ての構成が相互に接続されていると考えてもよい。 In addition, each of the above-described configurations may be configured such that some or all of them are configured by hardware, or are implemented by executing a program by a processor. Further, the control lines and information lines indicate what is considered necessary for the explanation, and not all the control lines and information lines on the product are necessarily shown. Actually, it may be considered that almost all the components are connected to each other.
101…撮像部、102…画像入力部、103…露光制御部、104…信号レベル検出部、105…ホワイトバランスシステム制御部、106…ホワイトバランス調整量算出部、107…ホワイトバランス処理部、108…画像出力部、401…光源色判定エリア、701…低輝度領域用光源色判定エリア、702…高輝度領域用光源色判定エリア、801…撮像部、802…画像入力部、803…露光制御部、804…信号レベル検出部、805…ホワイトバランスシステム制御部、806…ホワイトバランス調整量算出部、807…ホワイトバランス処理部、808…画像出力部、809…入出力特性対応処理部、1101…撮像部、1102…画像入力部、1103…露光制御部、1104…信号レベル検出部、1105…ホワイトバランスシステム制御部、1106…ホワイトバランス調整量算出部、1107…ホワイトバランス処理部、1108…画像出力部、1109…信号合成部、1301…暗い屋内、1302…明るい屋外
DESCRIPTION OF
Claims (3)
該撮像素子からの信号を入力する画像入力手段と、
該画像入力手段からの信号レベルを検出する信号レベル検出手段と、
前記画像入力手段からの信号を元にホワイトバランス調整量を算出するホワイトバランス調整量算出手段と、
該ホワイトバランス調整量算出手段からの信号を元にホワイトバランス処理を行うホワイトバランス処理手段と、
ホワイトバランスを統括して制御するホワイトバランスシステム制御手段と、
を具備し、
前記ホワイトバランスシステム制御手段は、
前記ホワイトバランス調整量算出手段より算出されたホワイトバランス調整量に応じて前記ホワイトバランス処理手段を制御し、
前記ホワイトバランス調整量算出手段は、
前記信号レベル検出手段からの情報を元に高輝度信号領域と低輝度信号領域を判別し、前記判別された高輝度領域の光源色判定エリアの範囲を、前記撮像素子からの信号の入力レベルと光源色判定エリアの範囲を対応づけた情報に基づいて、可変に制御すること、
を特徴とする画像信号処理装置。 An image sensor having non-linear photoelectric conversion characteristics;
Image input means for inputting a signal from the image sensor;
Signal level detection means for detecting the signal level from the image input means;
White balance adjustment amount calculating means for calculating a white balance adjustment amount based on a signal from the image input means;
White balance processing means for performing white balance processing based on a signal from the white balance adjusting amount calculating means,
A white balance system control means for controlling and controlling the white balance;
Comprising
The white balance system control means includes:
Controlling the white balance processing means according to the white balance adjustment amount calculated by the white balance adjustment amount calculating means ;
The white balance adjustment amount calculating means includes:
A high luminance signal region and a low luminance signal region are discriminated based on information from the signal level detection means, and the range of the light source color determination area of the discriminated high luminance region is determined as the input level of the signal from the image sensor. Variably controlling based on information associating the range of the light source color determination area;
An image signal processing apparatus.
該撮像素子からの信号を入力する画像入力手段と、
該画像入力手段からの信号レベルを検出する信号レベル検出手段と、
前記画像入力手段からの信号を元に前記信号レベル検出手段が検出した信号レベルに応じて複数のホワイトバランス調整量を算出するホワイトバランス調整量算出手段と、
該ホワイトバランス調整量算出手段からの複数の信号を元にホワイトバランス処理を行うホワイトバランス処理手段と、
該ホワイトバランス処理手段からの複数の信号を合成する信号合成手段と、
ホワイトバランスを統括して制御するホワイトバランスシステム制御手段と、
を具備し、
前記ホワイトバランスシステム制御手段は、
前記ホワイトバランス調整量算出手段より算出された複数のホワイトバランス調整量に応じて前記ホワイトバランス処理手段を制御し、
前記ホワイトバランス調整量算出手段は、
前記信号レベル検出手段からの情報を元に高輝度信号領域と低輝度信号領域を判別し、前記判別された高輝度領域の光源色判定エリアの範囲を、前記撮像素子からの信号の入力レベルと光源色判定エリアの範囲を対応づけた情報に基づいて、可変に制御すること、
を特徴とする画像信号処理装置。 An image sensor having non-linear photoelectric conversion characteristics;
Image input means for inputting a signal from the image sensor;
Signal level detection means for detecting the signal level from the image input means;
White balance adjustment amount calculation means for calculating a plurality of white balance adjustment amounts according to the signal level detected by the signal level detection means based on the signal from the image input means;
White balance processing means for performing white balance processing based on a plurality of signals from said white balance adjusting amount calculating means,
Signal synthesizing means for synthesizing a plurality of signals from the white balance processing means ;
A white balance system control means for controlling and controlling the white balance;
Comprising
The white balance system control means includes:
Controlling the white balance processing means in accordance with a plurality of white balance adjustment amounts calculated by the white balance adjustment amount calculating means ;
The white balance adjustment amount calculating means includes:
A high luminance signal region and a low luminance signal region are discriminated based on information from the signal level detection means, and the range of the light source color determination area of the discriminated high luminance region is determined as the input level of the signal from the image sensor. Variably controlling based on information associating the range of the light source color determination area;
An image signal processing apparatus.
前記信号レベル検出手段は、前記撮像素子において光電変換した際の入射光の光量を推定するための信号を検出するものであって、前記画像入力手段から入力した画素信号を中心とし、その周辺画素を含めた画素領域におけるヒストグラム分布、最大値最小値、平均値のいずれかを検出すること、
を特徴とする画像信号処理装置。 The image signal processing apparatus according to claim 1 or 2 ,
The signal level detecting means detects a signal for estimating the amount of incident light when photoelectric conversion is performed in the imaging device, and the pixel signal input from the image input means is the center, and its peripheral pixels Detecting any one of histogram distribution, maximum value minimum value, average value in the pixel area including
An image signal processing apparatus.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010285285A JP5597124B2 (en) | 2010-12-22 | 2010-12-22 | Image signal processing device |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010285285A JP5597124B2 (en) | 2010-12-22 | 2010-12-22 | Image signal processing device |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2012134779A JP2012134779A (en) | 2012-07-12 |
JP5597124B2 true JP5597124B2 (en) | 2014-10-01 |
Family
ID=46649840
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2010285285A Active JP5597124B2 (en) | 2010-12-22 | 2010-12-22 | Image signal processing device |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5597124B2 (en) |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006020055A (en) * | 2004-07-01 | 2006-01-19 | Konica Minolta Holdings Inc | Image pickup device |
US7791647B2 (en) * | 2004-12-20 | 2010-09-07 | Konica Minolta Holdings, Inc. | Image capturing apparatus which converts incident light to first electric signals according to a plurality of photoelectronic conversion characteristics and image capturing method |
JP2008271123A (en) * | 2007-04-19 | 2008-11-06 | Konica Minolta Holdings Inc | Imaging device |
JP5282306B2 (en) * | 2007-11-01 | 2013-09-04 | コニカミノルタ株式会社 | Image processing apparatus, image processing method, and imaging apparatus |
-
2010
- 2010-12-22 JP JP2010285285A patent/JP5597124B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
JP2012134779A (en) | 2012-07-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN102387373B (en) | Image processing apparatus and image processing method | |
JP6446790B2 (en) | Image processing apparatus, imaging apparatus, image correction method, and program | |
US8081242B2 (en) | Imaging apparatus and imaging method | |
KR101352440B1 (en) | Image processing apparatus, image processing method, and recording medium | |
US9270888B2 (en) | Image processing apparatus and control method thereof | |
US8614751B2 (en) | Image processing apparatus and image processing method | |
US8144216B2 (en) | Imaging apparatus and imaging method | |
JP2010147786A (en) | Imaging device and image processing method | |
JP6108680B2 (en) | Imaging apparatus, control method therefor, program, and storage medium | |
JP6047686B2 (en) | Imaging device | |
JP5315125B2 (en) | Image processing apparatus, imaging apparatus, and composite image generation method | |
EP2515543B1 (en) | Image capturing apparatus and image capturing method | |
KR20120122574A (en) | Apparatus and mdthod for processing image in a digital camera | |
JP2010011153A (en) | Imaging apparatus, imaging method and program | |
JP2012134745A (en) | Image signal processing device | |
JP5545596B2 (en) | Image input device | |
KR101143834B1 (en) | Aparatus and metod for controlling auto white balance | |
JP5597124B2 (en) | Image signal processing device | |
JP2004215063A (en) | Photographing device and outline correction method | |
JP2004222160A (en) | Digital camera | |
JP2010035120A (en) | Video camera image sensing device | |
KR20100019222A (en) | Method and apparatus for controlling automatic white balance using optical sensor, and digital photographing apparatus using thereof | |
JP6849351B2 (en) | Image processing equipment, image processing methods, and programs | |
JP2017034536A (en) | Image processing apparatus, image processing method, and program | |
JP6649176B2 (en) | Image processing apparatus and image processing method |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20120521 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20130410 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20130410 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20131217 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20131224 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20140224 |
|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20140310 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20140317 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20140318 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20140319 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20140715 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20140808 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5597124 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
S631 | Written request for registration of reclamation of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313631 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313111 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313111 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313111 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |