Nothing Special   »   [go: up one dir, main page]

JP5321163B2 - 撮像装置及び撮像方法 - Google Patents

撮像装置及び撮像方法 Download PDF

Info

Publication number
JP5321163B2
JP5321163B2 JP2009059883A JP2009059883A JP5321163B2 JP 5321163 B2 JP5321163 B2 JP 5321163B2 JP 2009059883 A JP2009059883 A JP 2009059883A JP 2009059883 A JP2009059883 A JP 2009059883A JP 5321163 B2 JP5321163 B2 JP 5321163B2
Authority
JP
Japan
Prior art keywords
white balance
divided
correction coefficient
area
white
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2009059883A
Other languages
English (en)
Other versions
JP2010213213A (ja
Inventor
健一郎 野村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to JP2009059883A priority Critical patent/JP5321163B2/ja
Priority to US12/713,373 priority patent/US8212890B2/en
Publication of JP2010213213A publication Critical patent/JP2010213213A/ja
Application granted granted Critical
Publication of JP5321163B2 publication Critical patent/JP5321163B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/88Camera processing pipelines; Components thereof for processing colour signals for colour balance, e.g. white-balance circuits or colour temperature control

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Color Television Image Signal Generators (AREA)
  • Processing Of Color Television Signals (AREA)
  • Image Processing (AREA)

Description

本発明は、撮像装置及び撮像方法、並びにコンピュータ読み取り可能な記録媒体に関し、特に、良好なホワイトバランス補正が可能なホワイトバランス制御機能を備えた撮像装置及び撮像方法に関するものである。
従来の撮像装置では、画面全体に均一な光源であれば、光源を推定して画面全体に同じホワイトバランスをかけるといった方法が広く用いられている。しかし、画面内に異なる種類の光源の照射エリアが存在する場合、画面全体に同じホワイトバランスをかける方法であると、異なる種類の光源の照射エリアそれぞれに対して適切なホワイトバランスとすることができない。
そこで特許文献1では、小領域に分割したエリア毎にホワイトバランスを掛けることで、画面全体に対して色ずれを生じさせないホワイトバランス制御機能が開示されている。
また特許文献2では、隣り合うエリアで異なるホワイトバランスが掛けられたエリア境界での色ずれを解消するために、画素毎にホワイトバランス係数を掛けるホワイトバランス制御機能が開示されている。
さらに特許文献3では、カラー画像を照明成分の輝度値によって複数種類の光源に対応する領域に分割し、領域毎の補正係数を算出するホワイトバランス制御機能が開示されている。
しかし、上記した特許文献1〜3に記載の発明では、同じ距離に位置する被写体に対して複数の光源が存在する場合、同一の物体に対して複数のホワイトバランスが掛かることになり、不自然な画像となる。
また、黄色は比較的輝度が高く、一方で青色は輝度が低いため、日向の青色が日陰の黄色よりも輝度が低いといった減少が起こるので、撮影シーンによっては輝度成分のみを基にした領域分割では必ずしも光源に対応したホワイトバランス補正を行うことができないという問題がある。
本発明は、以上の従来技術における問題に鑑みてなされたものであり、安定した領域分割を行い、良好なホワイトバランス補正を行う撮像装置及び撮像方法、並びにコンピュータ読み取り可能な記録媒体を提供することを目的とする。
上記課題を解決するために本発明に係る撮像装置及び撮像方法、並びにコンピュータ読取可能な記録媒体は、具体的には下記(1)〜(12)に記載の技術的特徴を有する。
(1):被写体に対応した光を電気信号に変換して撮像信号として出力する撮像素子と、前記撮像信号に基づき前記被写体に対応した撮影画像を作成する画像作成手段と、を備える撮像装置において、前記撮影画像をnの分割ブロック(但し、nは4以上の整数である。)に分割するブロック分割手段と、前記撮像信号から色情報を取得すると共に、該色情報からホワイトバランス制御を行うためのホワイトバランス評価値を前記nの分割ブロック夫々から取得するホワイトバランス評価値取得手段と、前記色情報に基づき前記nの分割ブロックを統合することで、前記撮影画像をmの分割領域(但し、mは整数であり、n>m≧2を満たす。)に分割する領域分割手段と、前記mの分割領域の夫々について、当該分割領域が有する分割ブロックから取得されたホワイトバランス評価値に基づいて、対応したホワイトバランス補正係数を算出する補正係数算出手段と、前記複数の分割領域夫々に、各分割領域に対応した前記ホワイトバランス補正係数を設定するホワイトバランス演算手段と、前記色情報に基づき、前記分割ブロックが緑領域であるか否かを判定する緑領域判定手段と、を備え、前記領域分割手段は、前記撮像信号の色情報と、輝度情報とに基づき、高輝度領域と低輝度領域とに分割し、前記高輝度領域および前記低輝度領域の夫々において、領域毎に白抽出範囲を変えて白抽出を行う白抽出手段を有し、前記補正係数算出手段は、前記白抽出手段によって得られた白抽出結果と、前記分割領域毎のホワイトバランス評価値とに基づいて分割領域毎のホワイトバランス補正係数を算出し、前記ホワイトバランス演算手段は、前記nの分割ブロックの中で、前記緑領域判定手段により緑領域であると判定された分割ブロックに対して、当該分割ブロックが含まれる分割領域に対応したホワイトバランス補正係数とは異なるホワイトバランス補正係数を設定すると共に、前記緑領域判定手段により緑領域と判定された分割ブロックに対して、当該分割ブロックが含まれる分割領域が前記高輝度領域である場合には、前記高輝度領域に対応したホワイトバランス補正係数を取得し、当該分割ブロックが含まれる分割領域が前記低輝度領域である場合には、前記高輝度領域に対応したホワイトバランス補正係数と、前記低輝度領域に対応したホワイトバランス補正係数とを加重平均したホワイトバランス補正係数を取得して、ホワイトバランス補正係数を設定することを特徴とする撮像装置である。
(2):前記白抽出手段は、前記高輝度領域において、当該高輝度領域のホワイトバランス評価値と、高輝度領域用白抽出範囲とを基に白抽出を行い、前記低輝度領域において、当該低輝度領域のホワイトバランス評価値と、低輝度領域用白抽出範囲とを基に白抽出を行うことを特徴とする上記(1)に記載の撮像装置である。
(3):前記分割ブロックは、注目画素と、非注目画素とを有し、前記ホワイトバランス演算手段は、前記分割ブロック毎の注目画素に、前記ホワイトバランス補正係数を取得する第1補正係数取得手段と、前記分割ブロック毎の非注目画素に、周辺の注目画素のホワイトバランス補正係数と、当該非注目画素から前記周辺の注目画素までの距離による補間で前記ホワイトバランス補正係数を取得する第2補正係数取得手段と、を有し、前記第1補正係数取得手段と前記第2補正係数取得手段とによって取得したホワイトバラン補正係数を画素毎に設定することを特徴とする上記(1)または(2)に記載の撮像装置である。
(4):前記注目画素は、前記分割ブロックの中央に位置する画素であることを特徴とする上記(3)に記載の撮像装置である。
(5):被写体に対応した光を電気信号に変換して撮像信号として出力する光電変換工程と、前記撮像信号に基づき前記被写体に対応した撮影画像を作成する画像作成工程と、を備える撮像方法において、前記撮影画像をnの分割ブロック(但し、nは4以上の整数である。)に分割するブロック分割工程と、前記撮像信号から色情報を取得すると共に、該色情報からホワイトバランス制御を行うためのホワイトバランス評価値を前記nの分割ブロック夫々から取得するホワイトバランス評価値取得工程と、前記色情報に基づき前記nの分割ブロックを統合することで、前記撮影画像をmの分割領域(但し、mは整数であり、n>m≧2を満たす。)に分割する領域分割工程と、前記mの分割領域の夫々について、当該分割領域が有する分割ブロックから取得されたホワイトバランス評価値に基づいて、対応したホワイトバランス補正係数を算出する補正係数算出工程と、前記複数の分割領域夫々に、各分割領域に対応した前記ホワイトバランス補正係数を設定するホワイトバランス演算工程と、前記色情報に基づき、前記分割ブロックが緑領域であるか否かを判定する緑領域判定工程と、を備え、前記領域分割工程は、前記撮像信号の色情報と、輝度情報とに基づき、高輝度領域と低輝度領域とに分割し、前記高輝度領域および前記低輝度領域の夫々において、領域毎に白抽出範囲を変えて白抽出を行う白抽出工程を有し、前記補正係数算出工程は、前記白抽出工程によって得られた白抽出結果と、前記分割領域毎のホワイトバランス評価値とに基づいて分割領域毎のホワイトバランス補正係数を算出し、前記ホワイトバランス演算工程は、前記nの分割ブロックの中で、前記緑領域判定工程により緑領域であると判定された分割ブロックに対して、当該分割ブロックが含まれる分割領域に対応したホワイトバランス補正係数とは異なるホワイトバランス補正係数を設定すると共に、前記緑領域判定工程により緑領域と判定された分割ブロックに対して、当該分割ブロックが含まれる分割領域が前記高輝度領域である場合には、前記高輝度領域に対応したホワイトバランス補正係数を取得し、当該分割ブロックが含まれる分割領域が前記低輝度領域である場合には、前記高輝度領域に対応したホワイトバランス補正係数と、前記低輝度領域に対応したホワイトバランス補正係数とを加重平均したホワイトバランス補正係数を取得して、ホワイトバランス補正係数を設定することを特徴とする撮像方法である。
(6):前記白抽出工程は、前記高輝度領域において、当該高輝度領域のホワイトバランス評価値と、高輝度領域用白抽出範囲とを基に白抽出を行い、前記低輝度領域において、当該低輝度領域のホワイトバランス評価値と、低輝度領域用白抽出範囲とを基に白抽出を行うことを特徴とする上記(5)に記載の撮像方法である。
(7):前記分割ブロックは、注目画素と、非注目画素とを有し、前記ホワイトバランス演算工程は、前記分割ブロック毎の注目画素に、前記ホワイトバランス補正係数を取得する第1補正係数取得工程と、前記分割ブロック毎の非注目画素に、周辺の注目画素のホワイトバランス補正係数と、当該非注目画素から前記周辺の注目画素までの距離による補間で前記ホワイトバランス補正係数を取得する第2補正係数取得工程と、を有し、前記第1補正係数取得工程と前記第2補正係数取得工程とによって取得したホワイトバラン補正係数を画素毎に設定することを特徴とする上記(5)または(6)に記載の撮像方法である。
(8):前記注目画素は、前記分割ブロックの中央に位置する画素であることを特徴とする上記(7)に記載の撮像方法である。
(9):被写体に対応した光を電気信号に変換して撮像信号として出力する光電変換処理と、前記撮像信号に基づき前記被写体に対応した撮影画像を作成する画像作成処理と、をコンピュータに実行させるためのプログラムを記録したコンピュータ読み取り可能な記録媒体であって、前記撮影画像をnの分割ブロック(但し、nは4以上の整数である。)に分割するブロック分割処理と、前記撮像信号から色情報を取得すると共に、該色情報からホワイトバランス制御を行うためのホワイトバランス評価値を前記nの分割ブロック夫々から取得するホワイトバランス評価値取得処理と、前記色情報に基づき前記nの分割ブロックを統合することで、前記撮影画像をmの分割領域(但し、mは整数であり、n>m≧2を満たす。)に分割する領域分割処理と、前記mの分割領域の夫々について、当該分割領域が有する分割ブロックから取得されたホワイトバランス評価値に基づいて、対応したホワイトバランス補正係数を算出する補正係数算出処理と、前記複数の分割領域夫々に、各分割領域に対応した前記ホワイトバランス補正係数を設定するホワイトバランス演算処理と、前記色情報に基づき、前記分割ブロックが緑領域であるか否かを判定する緑領域判定処理と、を備え、前記領域分割処理は、前記撮像信号の色情報と、輝度情報とに基づき、高輝度領域と低輝度領域とに分割し、前記高輝度領域および前記低輝度領域の夫々において、領域毎に白抽出範囲を変えて白抽出を行う白抽出処理を有し、前記補正係数算出処理は、前記白抽出処理によって得られた白抽出結果と、前記分割領域毎のホワイトバランス評価値とに基づいて分割領域毎のホワイトバランス補正係数を算出し、前記ホワイトバランス演算処理は、前記nの分割ブロックの中で、前記緑領域判定処理により緑領域であると判定された分割ブロックに対して、当該分割ブロックが含まれる分割領域に対応したホワイトバランス補正係数とは異なるホワイトバランス補正係数を設定すると共に、前記緑領域判定処理により緑領域と判定された分割ブロックに対して、当該分割ブロックが含まれる分割領域が前記高輝度領域である場合には、前記高輝度領域に対応したホワイトバランス補正係数を取得し、当該分割ブロックが含まれる分割領域が前記低輝度領域である場合には、前記高輝度領域に対応したホワイトバランス補正係数と、前記低輝度領域に対応したホワイトバランス補正係数とを加重平均したホワイトバランス補正係数を取得して、ホワイトバランス補正係数を設定することを特徴とするコンピュータ読み取り可能な記録媒体である。
(10):前記白抽出処理は、前記高輝度領域において、当該高輝度領域のホワイトバランス評価値と、高輝度領域用白抽出範囲とを基に白抽出を行い、前記低輝度領域において、当該低輝度領域のホワイトバランス評価値と、低輝度領域用白抽出範囲とを基に白抽出を行うことを特徴とする上記(9)に記載のコンピュータ読み取り可能な記録媒体である。
(11):前記分割ブロックは、注目画素と、非注目画素とを有し、前記ホワイトバランス演算処理は、前記分割ブロック毎の注目画素に、前記ホワイトバランス補正係数を取得する第1補正係数取得処理と、前記分割ブロック毎の注目画素に、周辺の注目画素のホワイトバランス補正係数と、当該非注目画素から前記周辺の注目画素までの距離による補間で前記ホワイトバランス補正係数を取得する第2補正係数取得処理と、を有し、前記第1補正係数取得処理と前記第2補正係数取得処理とによって取得したホワイトバラン補正係数を画素毎に設定することを特徴とする上記(9)または(10)に記載のコンピュータ読み取り可能な記録媒体である。
(12):前記注目画素は、前記分割ブロックの中央に位置する画素であることを特徴とする上記(11)に記載のコンピュータ読み取り可能な記録媒体である。
本発明によれば、安定した領域分割を行い、良好なホワイトバランス補正を行う撮像装置および撮像方法、並びにコンピュータに実行可能な記録媒体を提供することができる。
本発明に係る撮像装置の1実施の形態であるデジタルカメラの外観を示す概略図である。 本発明に係る撮像装置の1実施の形態における構成を示すブロック図である。 本発明に係る撮像装置の1実施の形態におけるホワイトバランス補正の一連の処理のフローを示すフロー図である。 輝度値Yと、青成分と赤成分との比B/Rとの相関図である。 大きな領域内に存在する微小領域の一例を示す概略図である。 本発明に係る撮像装置の1実施の形態における撮像信号が格子状のブロックに分割された模式図と、該模式図における被写体領域と背景領域を説明する説明図である。 4×4分割ブロックにおける日向日陰境界ブロックを説明するための説明図である。 G/R−G/B座標における緑領域を示すグラフである。 輝度値Yと日陰ホワイトバランス抑圧係数との関係を示すグラフである。 G/R−G/B座標における白抽出範囲を示すグラフである。 図10における日向領域の白抽出範囲を示すグラフである。 図10における日陰領域の白抽出範囲を示すグラフである。 Lvと日陰領域ホワイトバランス強度調整との関係を示すグラフである。 日向日陰境界ブロックのホワイトバランス補正係数算出を説明するための説明図である。 図6の模式図における被写体領域ブロック中央画素及び背景領域ブロック中央画素を説明する説明図である。 補間によるホワイトバランス補正係数の算出方法の説明図である。 図6の模式図における領域12を説明する説明図である。 図6の模式図における領域13、14、15、16を説明する説明図である。
本発明の撮像装置は、被写体に対応した光を電気信号に変換して撮像信号として出力する撮像素子と、前記撮像信号に基づき前記被写体に対応した撮影画像を作成する画像作成手段と、を備える撮像装置において、前記撮影画像をnの分割ブロック(但し、nは4以上の整数である。)に分割するブロック分割手段と、前記撮像信号から色情報を取得すると共に、該色情報からホワイトバランス制御を行うためのホワイトバランス評価値を前記nの分割ブロック夫々から取得するホワイトバランス評価値取得手段と、前記色情報に基づき前記nの分割ブロックを統合することで、前記撮影画像をmの分割領域(但し、mは整数であり、n>m≧2を満たす。)に分割する領域分割手段と、前記mの分割領域の夫々について、当該分割領域が有する分割ブロックから取得されたホワイトバランス評価値に基づいて、対応したホワイトバランス補正係数を算出する補正係数算出手段と、前記複数の分割領域夫々に、各分割領域に対応した前記ホワイトバランス補正係数を設定するホワイトバランス演算手段と、前記色情報に基づき、前記分割ブロックが緑領域であるか否かを判定する緑領域判定手段と、を備え、前記ホワイトバランス演算手段は、前記nの分割ブロックの中で、前記緑領域判定手段により緑領域であると判定された分割ブロックに対して、当該分割ブロックが含まれる分割領域に対応したホワイトバランス補正係数とは異なるホワイトバランス補正係数を設定することを特徴とする。
次に、図面を用いて本発明に係る撮像装置の基本的な構成についてさらに詳細に説明する。
尚、以下に述べる実施の形態は、本発明の好適な実施の形態であるから、技術的に好ましい種々の限定が付されているが、本発明の範囲は以下の説明において特に本発明を限定する旨の記載がない限りこれらの態様に限られるものではない。
(デジタルカメラの外観構成)
図1は、本実施形態に係る撮像装置の1実施の形態であるデジタルカメラの外観を示す概略図である。
図1に示すように、本実施の形態に係るデジタルカメラの上面側には、レリーズボタン(シャッタボタン)、電源ボタン、撮影・再生切替ダイアルが設けられており、デジタルカメラの正面(前面)側には、撮影レンズ系を有する鏡胴ユニット、ストロボ発光部、光学ファインダが設けられている。
デジタルカメラの背面側には、液晶モニタ(LCD)、前記光学ファインダの接眼レンズ部、広角側ズーム(W)スイッチ、望遠側ズーム(T)スイッチ、メニュー(MENU)ボタン、確定ボタン(OKボタン)等が設けられている。また、デジタルカメラの側面内部には、撮影した画像データを保存するためのメモリカードを収納するメモリカード収納部が設けられている。
(デジタルカメラのシステム構成)
図2は、本発明に係る撮像装置の1実施の形態であるデジタルカメラの構成を示すブロック図である。
図2に示すように、このデジタルカメラ内には、鏡胴ユニットに設置した撮影レンズ系(光学系)を通して入射される被写体画像が受光面上に結像する固体撮像素子としてのCCD、CCDから出力される電気信号(アナログRGB画像信号)をデジタル信号(撮像信号)に処理するアナログフロントエンド部(AFE部)、AFE部から出力されるデジタル信号を処理する信号処理部、データを一時的に格納するSDRAM、制御プログラム等が記憶されたROM、モータドライバ等が設けられている。
鏡胴ユニットは、ズームレンズやフォーカスレンズ等を有する撮影レンズ系、絞りユニット、メカシャッタユニットを備えており、撮影レンズ系、絞りユニット、メカシャッタユニットの各駆動ユニット(不図示)は、モータドライバによって駆動される。モータドライバは、信号処理部の制御部(CPU)からの駆動信号により駆動制御される。
CCDは、CCDを構成する複数の画素上に色分解フィルタとしてのRGB原色フィルタが配置されており、RGB3原色に対応した電気信号(アナログRGB画像信号)が出力される。
AFE部は、CCDを駆動するTG(タイミング信号発生部)、CCDから出力される電気信号(アナログRGB画像信号)をサンプリングするCDS(相関2重サンプリング部)、CDSにてサンプリングされた画像信号のゲインを調整するAGC(アナログ利得制御部)、AGCでゲイン調整された画像信号をデジタル信号(RAW−RGBデータ)に変換するA/Dを備えている。
信号処理部は、AFE部のTGへ画面水平同期信号(HD)と画面垂直同期信号(VD)の出力を行い、これらの同期信号に合わせて、AFE部のA/Dから出力されるRAW−RGBデータを取り込むCCDインターフェース(CCDI/F)と、SDRAMを制御するメモリコントローラと、取り込んだRAW−RGBデータを表示や記録が可能なYUV形式の画像データに変換するYUV変換部と、表示や記録される画像データのサイズに合わせて画像サイズを変更するリサイズ処理部と、画像データの表示出力を制御する表示出力制御部と、画像データをJPEG形成などで記録するためのデータ圧縮部と、画像データをメモリカードへ書き込み、又はメモリカードに書き込まれた画像データを読み出すメディアインターフェース(メディアI/F)と、操作部からの操作入力情報に基づき、ROMに記憶された制御プログラムに基づいてデジタルカメラ全体のシステム制御等を行う制御部(CPU)を備えている。
操作部は、デジタルカメラ(図1参照)の外観表面に設けられているレリーズボタン、電源ボタン、撮影・再生切替ダイアル、広角側ズームスイッチ、望遠側ズームスイッチ、メニューボタン、確定ボタン等であり、撮影者の操作によって所定の動作指示信号が制御部に入力される。
SDRAMには、CCDI/Fに取り込まれたRAW−RGBデータが保存されると共に、YUV変換部で変換処理されたYUVデータ(YUV形式の画像データ)が保存され、更に、データ圧縮部で圧縮処理されたJPEG形成などの画像データが保存される。また、OSD(オンスクリーンディスプレイ)とは、LCDディスプレイに表示させるデータであり、YUVデータ若しくはJPEG画像の上に操作系の設定情報を重ねたものとなる。
なお、前記YUVデータのYUVは、輝度データ(Y)と、色差(輝度データと青色(B)成分データの差分(U)と、輝度データと赤色(R)成分データの差分(V))の情報で色を表現する形式である。この画像変換をする際に、制御部からISPに対して、WBゲインRg、Bgを設定する。
ISP(イメージシグナルプロセッサ)とは、ホワイトバランス、ガンマ補正、色補正等を行う信号処理部のメイン部分である。
(デジタルカメラのモニタリング動作、静止画撮影動作)
次に、前記したデジタルカメラのモニタリング動作と静止画撮影動作について説明する。このデジタルカメラは、静止画撮影モード時には、以下に説明するようなモニタリング動作を実行しながら静止画撮影動作が行われる。
先ず、撮影者が電源ボタンをONし、撮影・再生切替ダイアルを撮影モード(静止画撮影モード)に設定することで、デジタルカメラが記録モードで起動する。電源ボタンがONされて、撮影・再生切替ダイアルが撮影モードに設定されたことを制御部が検知すると、制御部はモータドライバに制御信号を出力して、鏡胴ユニットを撮影可能位置に移動させ、かつ、CCD、AFE部、信号処理部、SDRAM、ROM、液晶モニタ等を起動させる。
そして、鏡胴ユニットの撮影レンズ系を被写体に向けることにより、撮影レンズ系を通して入射される被写体画像がCCDの各画素の受光面上に結像する。そして、CCDから出力される被写体画像に応じた電気信号(アナログRGB画像信号)は、CDS、AGCを介してA/Dに入力され、A/Dにより12ビット(bit)のRAW−RGBデータに変換する。
このRAW−RGBデータは、信号処理部のCCDI/Fに取り込まれてメモリコントローラを介してSDRAMに保存される。そして、SDRAMから読み出されたRAW−RGBデータは、YUV変換部に入力されて表示可能な形式であるYUVデータ(YUV信号)に変換された後に、メモリコントローラを介してSDRAMにYUVデータが保存される。
そして、SDRAMからメモリコントローラを介して読み出したYUVデータは、表示出力制御部を介して液晶モニタ(LCDディスプレイ)へ送られ、撮影画像(動画)が表示される。前記した液晶モニタ(LCDディスプレイ)に撮影画像を表示しているモニタリング時においては、CCDI/Fによる画素数の間引き処理により1/30秒の時間で1フレームを読み出している。
なお、このモニタリング動作時は、電子ファインダとして機能する液晶モニタ(LCDディスプレイ)に撮影画像(動画)が表示されているだけで、まだレリーズボタンが押圧(半押も含む)操作されていない状態である。
この撮影画像の液晶モニタ(LCD)への表示によって、静止画を撮影するための構図の確認等をすることができる。なお、表示出力制御部からTVビデオ信号として出力して、ビデオケーブルを介して外部のTV(テレビ)に撮影画像(動画)を表示することもできる。
そして、信号処理部のCCDI/Fは、取り込まれたRAW−RGBデータより、AF(自動合焦)評価値、AE(自動露出)評価値、AWB(オートホワイトバランス)評価値を算出する。
尚、本発明において、輝度情報とはAE評価値であり、ホワイトバランス評価値とは、AWB評価値であり、ホワイトバランス評価値取得手段および合焦情報取得手段とは、それぞれ信号処理部のCCDI/Fの一部である。
AF評価値は、例えば高周波成分抽出フィルタの出力積分値や、近接画素の輝度差の積分値によって算出される。合焦状態にあるときは、被写体のエッジ部分がはっきりとしているため、高周波成分が一番高くなる。これを利用して、AF動作時(合焦検出動作時)には、撮影レンズ系内の各フォーカスレンズ位置におけるAF評価値を取得して、その極大になる点を合焦検出位置としてAF動作が実行される。
AE評価値とAWB評価値は、RAW−RGBデータにおけるRGB値のそれぞれの積分値から算出される。例えば、信号処理部のCCDI/Fの一部である検波回路(ブロック分割手段)によってCCDの全画素の受光面に対応した画面を256エリア(ブロック)に等分割(水平16分割、垂直16分割)された後、それぞれのエリア(ブロック)のRGB積算値がCCDI/Fによって算出される。
そして、制御部は、算出されたRGB積算値を読み出し、適正なホワイトバランスになるようなホワイトバランスのゲインRgainとBgainを算出する。また、AE処理では、画面のそれぞれのエリア(ブロック)の輝度を算出して、輝度分布から適正な露光量を決定する。決定した露光量に基づいて、露光条件(CCDの電子シャッタ回数、絞りユニットの絞り値、NDフィルタの出し入れ等)を設定する。さらに、AWB処理では、RGBの分布から被写体の光源の色に合わせたAWBの制御値を決定する。このAWB処理により、YUV変換部でYUVデータに変換処理するときのホワイトバランスを合わせる。なお、前記したAE処理とAWB処理は、前記モニタリング時には連続的に行われている。
そして、前記したモニタリング動作時に、レリーズボタンが押圧(半押しから全押し)操作される静止画撮影動作が開始されると、合焦位置検出動作であるAF動作と静止画記録処理が行われる。
即ち、レリーズボタンが押圧(半押しから全押し)操作されると、制御部からモータドライバへの駆動指令により撮影レンズ系のフォーカスレンズが移動し、例えば、いわゆる山登りAFと称されるコントラスト評価方式のAF動作が実行される。
いわゆる山登りAFとは、AF(合焦)対象範囲が無限から至近までの全領域であった場合、撮影レンズ系のフォーカスレンズは、至近から無限、又は無限から至近までの間の各フォーカス位置に移動し、CCDI/F(合焦情報取得手段)で算出されている各フォーカス位置における前記AF評価値、つまり画像データから高周波成分を抽出すべく、画像データにハイパスフィルタ処理を施して得たハイパスフィルタ出力値を制御部が読み出す。そして、各フォーカス位置のAF評価値が極大になる点を合焦位置としてフォーカスレンズを合焦位置に移動させ、合焦させる。
そして、前記したAE処理が行われ、露光完了時点で、制御部からモータドライバへの駆動指令によりメカシャッタユニットが閉じられ、CCDから静止画用のアナログRGB画像信号が出力される。そして、前記モニタリング時と同様に、AFE部のA/D変換部によりRAW−RGBデータに変換される。
そして、このRAW−RGBデータ(撮像信号)は、信号処理部のCCDI/Fに取り込まれ、YUV変換部でYUVデータに変換されて、メモリコントローラを介してSDRAMに保存される。そして、このYUVデータはSDRAMから読み出されて、リサイズ処理部で記録画素数に対応するサイズに変換され、データ圧縮部でJPEG形式等の画像データへと圧縮される。圧縮されたJPEG形式等の画像データは、SDRAMに書き戻された後にメモリコントローラを介してSDRAMから読み出され、メディアI/Fを介してメモリカードに保存される。
次に、本発明の特徴となる撮像動作について説明する。
図3は本実施の形態におけるホワイトバランス(以下、WBとも称する)補正の一連の処理をフローにしたものである。
先ず、静止画撮影動作におけるWB、ガンマ補正、色補正等の一連の信号処理を終えた後、ISPより出力されたYUVデータと信号処理前のCCD−I/Fより出力されたRAW−RGBデータとがSDRAMに格納される。尚、ここで格納されたYUVデータは領域毎のWB補正を行う上で必要なデータであって、最終的にメモリカードへ保存されるデータとは異なるものである。
(S1;ブロック分割、ホワイトバランス評価値取得)
次に、RAW−RGBデータ(撮影画像に対応した画像データ)を、水平16×垂直16のブロック単位で等分割を行い、分割された分割ブロック100の夫々に対してRGB値を積算することでRGB積算値(ホワイトバランス評価値)を取得する。
本発明において、分割ブロック100の分割数は、16×16=256に限定されるものではない(但し、n個の分割ブロックとしたとき、n≧4を満たす。)。また、本発明においては等分割であることを必ずしも要するものではないが、全ての分割ブロックが等面積かつ同形状に等分割されてなることが好ましい。
RGB積算値について詳細に説明する。
このRGB積算値の算出は、上述した分割ブロック100の夫々に対して行うものである。本実施の形態において分割ブロック100は、上述したように、撮影画像が256に等分割されたものなので、例えば撮影画像が約1000万画素を有していると、分割ブロック100の夫々は約3.9万画素を有する。ここで、この分割ブロック100の夫々が有する画素夫々は、対応する被写体部分のR,G,またはB成分の情報であり、本実施の形態では各成分は8bitの情報(0乃至255)として記録・利用されている。即ち、256個ある分割ブロック100の夫々において、各ブロックが有する画素の数(約1000万画素÷256=約3.9万画素)だけ8bitのR,G,B成分の情報がある。
RGB積算値は、この分割ブロック100の夫々について、各ブロックが有する画素全てのR成分、G成分、B成分夫々について加算平均して算出するものである。本実施の形態では、256個に分割した分割ブロック100の夫々において、R,G,B成分毎に8bitの情報として出力される。
尚、本実施の形態の場合、R,G,B各画素の比率は、R:G:B=1:2:1となっていて、分割ブロック100の夫々はR画素=約0.975万画素、G画素=約1.95万画素、B画素=0.975万画素から構成されている。
(S2;曇天シーン判定)
さらに、取得した分割ブロック100の夫々のRGB積算値を全ブロック分加算することで求めた画面全体のRGB積算値と、シャッタ速度(Tv)、絞り値(Av)、及び感度(Sv)から曇天シーン判定を行う。
より詳しくは、シャッタ速度(Tv)、絞り値(Av)、及び感度(Sv)から被写体の明るさ(Lv)を下記式(1)を用いて算出し、例えばLvが8以上14以下であり、且つ、G/B≦1.4、G/R≦1.4であるような場合に曇天シーンと判定する。
尚、曇天シーン判定は撮影画像全体について判定を行う処理である。
Lv=Tv+Av−Sv ・・・式(1)
(S3;青空領域判定)
次いで、取得した分割ブロック100の夫々のRGB積算値分割ブロック100の夫々について青空領域判定を行う。この青空領域判定は、分割ブロック100の中で、B成分が高いブロックが存在するか、否かを判定することで、そのブロックが青空領域であるか否かを判定する。かかる方法における判定の具体例を挙げると、G/R>=2で、且つG/B<=1.5であるようなブロックを青空領域として判定する。
(S4;日向日陰領域分割)
そして、RGB積算値を基にした輝度値(Y)及びRGB積算値から、分割ブロック100の夫々について日向領域と日陰領域とに分類(日向日陰領域分割)を行う。本実施の形態においては、分割ブロック100の夫々について、日向領域と日陰領域とからなる2つの領域に分類することにより、画面全体を2つに分割するが、本発明はこれに限定されるものではない。即ち、nの分割ブロックに分割された撮影画像において、分割ブロックを統合することでm(但し、n>m≧2を満たす。)の分割領域に分割するものであれば特に限定されるものではない。
尚、本実施の形態において、輝度値(輝度信号)Yは下記式(2)を用いて算出する。また、下記式(3)及び(4)を用いて、色差信号U(Cb)、色差信号V(Cr)を算出することができる。
Y=0.299×R+0.587×G+0.144×B ・・・式(2)
U=−0.169×R−0.3316×G+0.500×B ・・・式(3)
V=0.500×R−0.4186×G−0.0813×B ・・・式(4)
ここで、日向日陰領域分割の具体的な方法について以下に例を示す。尚、言うまでもなく本発明は以下の例に何ら限定されるものではない。
日向日陰領域分割には、分割ブロック100の夫々について輝度値Y、及びRGB積算値から算出される赤成分の値Rと青成分の値Bとの比であるR/Bを用いて、分割条件に従い日向領域と日陰領域とを分割する。
この分割条件の具体例について説明する。図4に、下記式(5)と下記(6)により、日向領域と日陰領域とに分割する具体例を示す。
図4において縦軸が輝度値Yを表し、横軸が比B/Rを表す。
B/R > K ・・・式(5)
Y<Ythre ・・・式(6)
即ち、本実施の形態では少なくとも上記式(5)または(6)を満たさないものを日向と判定し、上記式(5)及び(6)のの両方を満たすものを日陰と判定するものであって、上記式(5)及び(6)が分割条件として撮像装置に記憶されている。次いで、S1で分割された分割ブロック100の夫々について、RGB積算値から算出される輝度値Yと、RGB積算値の比R/Bと、を用いて、ブロックが日向領域であるか日陰領域であるかを判定して日向日陰領域分割を行う。
本実施の形態では、K=2(B画素の積算値がR画素の積算値の2倍より大きい)、Ythre=100(但し、8bitデータ(0乃至255)における値である。)として日向日陰分割を行う。
そして、しかる後に本実施の形態では、S3において青空領域と判定され、且つ、日向日陰領域分割において日陰領域とされたブロックを、日向領域に変更する。これにより青空に対して日陰領域のWBをかけないようにすることができるため、精度の高いWB処理を行うことができる。
さらに、分割ブロック100の夫々において、隣接するブロックにおけるRGB積算値の連続性を判断し、大きな領域内に存在する微小領域を、当該大きな領域に属するものに変更する。即ち、大きな日向領域内に微小な日陰領域が存在する場合において、該微小な日陰領域に対しても大きな日向領域と同じWBをかけることで、ある程度まとまった領域に同じWBをかけることができる(日向と日陰とが逆の場合であっても同様)。即ち、細かな日向領域または日陰領域が混在するような被写体を撮影する場合であっても自然なWBをかけることができる。
具体的には、図5において示すように、判定対象である1個のブロックの周囲を取り囲む8個のブロックの中、6個のブロックが当該1個のブロックの日向日陰領域判定結果とは異種の領域である場合に、RGB積算値の連続性を判断する。
RGB積算値の連続性は、この6個のブロックと当該1個のブロックとでRGB積算値を比較し、6個のRGB積算値が当該1個のブロックのRGB積算値の5%以内であれば、連続性があると判断し、当該1個のブロックの日向/日陰領域判定結果を、6個のブロックと同じ判定結果に置き換える。このときの対象ブロックと異種の6個のブロックの積算値の範囲との関係の一例を図5に併せて示す。
そしてさらに、日向日陰領域分割された撮影画像に対して更に合焦情報を使用して、S1で分割された分割ブロック100夫々のブロックを合焦情報に応じて微小な領域を大きな領域にまとめてもよい。
尚、ここで言う合焦情報とは、前記AF評価値を使用したものである。
即ち、前述したAF動作時に、前記AF評価値を水平16×垂直16分割の分割ブロック毎に取得し、分割ブロック夫々において、AF評価値が極大となるフォーカス位置が前記AF動作時において合焦位置としたフォーカス位置と同一である場合は、その分割ブロックを合焦ブロックとし、非同一である場合は、その分割ブロックを非合焦ブロックとする。
図6は分割ブロック単位で領域分割を行ったもので、被写体領域1は合焦ブロックであり、背景領域2は非合焦ブロックである。
合焦情報を用いた領域のまとめ方としては、判定対象である1個のブロックの日向日陰領域判定結果が、当該1個のブロックの上下あるいは左右に配置されている2個のブロックのいずれに対しても異種の領域である場合に、合焦情報を用いて、領域をまとめる動作を行う。
具体的には、当該1個のブロックが合焦ブロックであり、当該1個のブロックの上下あるいは左右に配置されている2個のブロックも合焦ブロックである場合に、当該1個のブロックの日向/日陰領域判定結果を、2個のブロックと同じ判定結果に置き換える。
(S5;日向日陰境界ブロック)
そして、日向日陰領域分割の後、日向領域と日陰領域とが隣接する境界において、日陰領域に属するブロックを日向日陰境界ブロックに設定する。
例えば、図7に示すような撮影画像の一部である4×4=16のブロックについて考える。色つき(灰色)で示された領域が日陰領域の分割ブロック、それ以外(無色)が日向領域の分割ブロックであり、日向領域と日陰領域との境界が太線で示されている。この境界を示す太線に接する日陰領域の分割ブロック100a,b,c,dをいずれも日向日陰境界ブロックとして設定する。
(S6;緑領域判定)
次いで、分割ブロック100の夫々について、G/R、G/Bを基に緑領域を判定する。
図8は緑領域におけるG/RとG/Bとの関係を示す図である。緑領域の判定はG成分がR成分及びB成分と比較して大きい領域を緑領域と判定するものであって、本実施の形態では図示のごとく、G/R≧1.5、且つ、G/B≧1.5である領域である。
即ち、分割ブロック100の夫々のブロックにおいて、RGB積算値から、G/RとG/Bを計算し、G/R≧1.5、且つ、G/B≧1.5を満足するブロックを緑領域と判定する。
尚、本発明は上述した緑判定の方法に限られるものではなく、RGB積算値を基に、色情報と輝度情報とから緑領域を判定しても良い。例えば、RGB積算値をHLS空間に変換して色相と彩度とから判定しても良い。HLS空間は、Hue(色相)、Light(明度)、Saturation(彩度)を属性とする空間のことを言う。
(S7;日陰ホワイトバランス抑圧係数)
さらに、輝度情報を基に日陰WB抑圧係数を算出する。図9は輝度値Yと日陰WB抑圧係数との関係を示すグラフである。図9に示すように、輝度値(Y)が高いほどWBを抑圧するような日陰WB抑圧係数を算出するものであって、例えば輝度が0の場合は100%日陰WBを用いて(日陰WB0%抑圧)、所定の閾値以上の輝度の場合に100%日向WBを用いて(日陰WB100%抑圧)、これらの間の輝度の場合は線形補間した割合をもって日陰WB抑圧を行う。
ここで例えば、雨が降った後に晴れた環境下において太陽光が照射されている濡れた地面(黒っぽくなっている)のような被写体を撮影した場合、比較的高輝度であるにも関わらず日陰領域と判定されてしまうことがあるが、高輝度であるほど日陰WB抑圧をすることで、ホワイトバランス処理を違和感ないものとすることができる。即ち、少し暗い日向領域を日陰領域であると判定し、日陰WBをかけることで色が付いてしまうという現象を抑制することができる。
(S8;ホワイトバランス補正係数算出)
そしてさらに、各ブロック100毎に白いものが白くなるようなWB補正係数を算出する。
ここでは先ず、日向領域及び日陰領域のそれぞれに対して白抽出を行う。この白抽出は日向領域、日陰領域毎に分割ブロック単位で取得したRGB積算値から分割ブロック100夫々について、のG/R、G/Bを求め、図10に示すようなG/R(x軸)vsG/B(y軸)の色座標上において、複数の楕円形状からなる黒体輻射カーブが表される白抽出範囲に含まれるブロックを白抽出ブロックとして記憶する。
尚、この白抽出範囲は、抽出する対象となる領域に応じて予め設定してあるものである。本実施の形態における白抽出範囲は、日向領域と日陰領域とで白抽出範囲が異なる。また、図10に示すG/R−G/B軸上の白抽出範囲は一例であり、CCDの構成などによって変化するものである。さらに、例えば黒体輻射カーブが複数の矩形状からなるものであっても良い。
予め設定してある白抽出範囲とは、例えば図11および図12に示すような例が挙げられる。図11の斜線部分は日向領域の白抽出範囲(高輝度領域用白抽出範囲)で約2300〜約5800K(ケルビン)まで、図12の斜線部分は日陰領域の白抽出範囲(低輝度領域用白抽出範囲)で約5800〜約8000Kまでに対応する。
次いで、日向領域及び日陰領域のそれぞれにおいて、抽出された白抽出ブロック数がある一定基準以上ある場合は、白抽出ブロックのG/R、G/Bと当該白抽出ブロックの平均輝度値の重み付けを行い、その後、白抽出ブロックの平均G/Rと平均G/Bを求める。
本発明においてホワイトバランス補正係数は、平均輝度値が高い領域を重視するような補正係数であることが好ましく、G/R、G/Bに対して平均輝度値が高い領域を重視するような演算を行うことで算出できる。例えば、輝度が所定の閾値α以上の分割ブロックであれば2倍の重み付けとし、所定の閾値β以上の分割ブロックであれば1.5倍の重み付けとする等の算出を行う(但し、α>βである。)。
そして、算出した平均G/Rと平均G/Bが図10における黒体輻射カーブの範囲内に含まれるように補正し、ホワイトバランス補正係数とする。
また、日向領域及び日陰領域のいずれか一方の白抽出ブロック数がある一定基準未満の場合は、その領域内の全ブロックのG/R、G/Bに対して、平均G/Rと平均G/Bを求め、図10における黒体輻射カーブの範囲内に含まれるように補正し、ホワイトバランス補正係数とする。
日向領域、日陰領域いずれにも一定基準を満たす白抽出ブロックが存在しない場合、画面全体のG/R、G/Bから、平均G/Rと平均G/Bを求め、ホワイトバランス補正係数とする。
またこのとき、S2において曇天シーンと判定された場合、日向領域の分割ブロックのWB補正係数は、日陰領域の分割ブロックにおけるWB補正係数に近付けるように設定する。具体的には、G/R及びG/Bをいずれも0.2ずつ近付けるように(G/Rは0.2大きく、G/Bは0.2小さく)設定する。こうすることで、曇天シーンで日向領域と日陰領域とに分割した場合であっても、日向領域に設定するWB補正係数と日陰領域に設定するWB補正係数との差が小さくなるため、違和感のないWB処理を行うことができる。
(S9;日陰領域ホワイトバランス強度調整)
以上のようにして算出されたホワイトバランス補正係数に対して、日陰領域WB強度調整を行う。
日陰WB強度調整は、被写体の明るさLvに応じてS8で設定した日向領域に設定するWB補正係数と、日陰領域に設定するWB補正係数との加重平均をして、日陰領域におけるWB補正係数の強度調整を行うものである。例えば図13に示すように、Lv=8の場合には日陰領域のホワイトバランス補正係数が0%、日向領域のホワイトバランス補正係数が100%となるように、日陰領域のホワイトバランス補正係数の強度を調整する。また例えば、図13に示すように、Lv=14の場合には日陰領域のホワイトバランス補正係数が100%、日向領域のホワイトバランス補正係数が0%となるように、日陰領域のホワイトバランス補正係数の強度を調整する。
このように、被写体の明るさLvによって日陰領域のホワイトバランス補正係数の強度を調整することで、例えば屋外より比較的暗い室内で、日向領域、日陰領域毎にホワイトバランスをかけても違和感が生じないようになる。さらに他の例を挙げると、暗くなるに従って日向領域、日陰領域毎のホワイトバランス補正係数の差をなくすようにすることで、日中で日が傾いた場合や、日向日陰がはっきりとしないシーンにおいて、日向領域、日陰領域毎にホワイトバランスをかけても違和感が生じないようになる。
さらに被写体の明るさLvが大きい、つまり日向と日陰とがはっきりしている明るいシーンにおいて、日陰領域におけるホワイトバランス補正係数と、日向領域におけるホワイトバランス補正係数とに差がつくような場合には、差が一定の範囲内に収まるようにリミット処理を行う。例えば、G/R及びG/Bのいずれも、日向領域と日陰領域とで差が10%以内となるように、日陰領域のホワイトバランス補正係数を、日向領域のホワイトバランス補正係数に近づける。より具体的には、日陰領域のホワイトバランス補正係数を、図10示す黒体輻射カーブ上を移動させて、日向領域のホワイトバランス補正係数と比較してG/R及びG/Bのいずれにおいても差が10%以内に収まるようにするものである。一例を挙げると、例えば日向領域のホワイトバランス補正係数がG/R=1.5、G/B=1である場合には、日陰領域のホワイトバランス補正係数はG/R=1.65、G/B=0.9とする。
このように、本実施の形態におけるLvに応じたホワイトバランス補正係数の強度調整では、日陰領域のホワイトバランス補正係数を日向領域のホワイトバランス補正係数に近づけることが好ましい。
(S10;ホワイトバランス補正係数演算)
そして、得られた日向領域のホワイトバランス補正係数と日陰領域のホワイトバランス補正係数とを用いて、各画素にホワイトバランス補正係数を設定する。
先ず、日向領域と判定されたブロックには日向領域のホワイトバランス補正係数をそのまま用いることができる。
但し、日向領域の中でもS6において緑領域と判定されたブロックは、日向領域に属するものであれば、そのまま日向領域に属するものとして扱うが、日陰領域に属するものであれば日向領域を70%、日陰領域を30%として加重平均を行い、ホワイトバランス補正係数を設定する。これにより人間の目に敏感な緑を補正することができ、違和感を生じることがなくなる。
一方、日陰領域と判定されたブロックには、S9における日陰領域ホワイトバランス強度調整後のホワイトバランス補正係数が設定される。但し、日陰領域の中でもS5において日向日陰境界ブロックと判定された分割ブロック100は、以下の処理に従い日向領域のホワイトバランス補正係数と日陰領域のホワイトバランス補正係数とが加重平均されたものが設定される。
本実施の形態では、日向領域のホワイトバランス補正係数と、S9における日陰領域ホワイトバランス強度調整後のホワイトバランス補正係数との加重平均により、日向日陰境界ブロックのホワイトバランス補正係数が設定される。
具体的な加重平均の処理については図14に示す。図14は、撮影画像における一直線上のWB補正係数の例を説明するための説明図である。図14において縦線で等間隔に分割されている横幅が分割ブロック100における1個のブロックを表し、各ブロックにおけるWB補正係数が丸印で示されている。
一般的に日陰領域では各信号量(RGB)が低いものとして撮像されるのに対して、日向領域では各信号量(RGB)が高くなる。従って、日向領域のホワイトバランス補正係数を調整すると、日向領域の各信号量の高さゆえに、調整による誤差が大きくなり、違和感を生じる可能性が高くなってしまう。このため、各信号量が低い傾向にある日陰領域のホワイトバランス補正係数を調整することで、違和感のないホワイトバランスを達成できる。
先ず、加重平均前における日向領域のブロックには日向領域のWB補正係数が設定されている。また、日陰領域のブロックには日陰領域ホワイトバランス強度調整後のWB補正係数が設定されている。また、日向領域との境界に面した日陰領域のブロックである日向日陰境界ブロック100a,b,c,dには、日陰領域のブロックと同様に、日陰領域ホワイトバランス強度調整後のWB補正係数が設定されている。
そして、この日向日陰境界ブロック100a,b,c,dにおけるWB補正係数に対して、当該日向日陰境界ブロック100a,b,c,dのWB補正係数と、隣接する日向ブロックのWB補正係数との加重平均したホワイトバランス補正係数を設定する。本実施の形態では、加重平均の割合は、日向領域のホワイトバランス補正係数が50%、日陰領域ホワイトバランス強度調整後のホワイトバランス補正係数が50%である。こうすることで、信号量の少ない日陰側のホワイトバランスが補正されるため、日陰領域の色合いは崩れずに、日向領域と日陰領域とのホワイトバランスの差が少なくすることができ、境界の色つきの発生を抑制できる。このときの計算例と、計算結果(日向領域、日陰領域、日向日陰境界ブロック(領域)のそれぞれにおけるG/B、G/R)の一例を図7に併せて示す。
次いで、各画素にホワイトバランス補正係数を設定する。
図15のように各分割ブロック100の中央を注目画素とし、日向領域、日陰領域等のそれぞれにおいて算出したホワイトバランス補正係数Rgain、Bgainを分割ブロック100の注目画素に設定する。図15の3は日向領域で算出したホワイトバランス補正係数Rgain、Bgainを設定する注目画素、図15の4は日陰領域で算出したホワイトバランス補正係数Rgain、Bgainを設定する注目画素である。
非注目画素のホワイトバランス補正係数Rgain、Bgainは当該分割ブロック100の注目画素と周辺の注目画素に設定されているホワイトバランス補正係数と当該画素からの距離による補間によって求める。
図16を基に非注目画素のホワイトバランス補正係数算出方法を説明する。ホワイトバランス補正係数の算出対象とする非注目画素のRgain(Bgain)を11とし周辺の注目画素のホワイトバランス補正係数Rgain(Bgain)をR0(B0)、R1(B1)、R2(B2)、R3(B3)とする。R3(B3)の位置を1で正規化し補正係数の算出対象となる非注目画素の位置をx、yで表し以下の計算式によって補正係数を算出する。
Rgain=(1−x)(1−y)R0+x(1−y)R1+(1−x)yR2+xyR3
Bgain=(1−x)(1−y)B0+x(1−y)B1+(1−x)yB2+xyB3
具体的には、例えばR0=1.5、R1=1.2、R2=1.2、R3=1.2、x=0.7、y=0.6とした場合の非注目画素のRgainは以下のようになる。
Rgain={(1−0.7)×(1−0.6)×1.5}+{0.7×(1−0.6)×1.2}+{(1−0.7)×0.6×1.2}+{0.7×0.6×1.2}=1.236
図17の12部分の画素のように周辺の注目画素が1つしか存在しない場合は、当該分割ブロック100のホワイトバランス補正係数を設定する。
図18の13、14、15、16部分の画素のように周辺の注目画素が2つしか存在しない場合は、2つのホワイトバランス補正係数と当該画素からの距離による補間によって求める。計算式を以下に示す。
領域13の場合
Rgain=(1−x)R2+xR3
Bgain=(1−x)B2+xB3
領域14の場合
Rgain=(1−x)R0+xR1
Bgain=(1−x)B0+xB1
領域15の場合
Rgain=(1−y)R1+yR3
Bgain=(1−y)B1+yB3
領域16の場合
Rgain=(1−y)R0+yR2
Bgain=(1−y)B0+yB2
そして、SDRAMに格納されたRAW−RGBデータのR、Bデータそれぞれに対して、画素毎に算出したホワイトバランス補正係数Rgain、Bgainを掛ける。
尚、以上説明した非注目画素のホワイトバランス補正係数演算は、日向領域と日陰領域とからなる撮影画像の一部の場合を例に挙げているが、緑領域と判定された分割ブロック100や、日向日陰領域と判定された分割ブロック100についてもこれと同様にホワイトバランス補正係数演算を行うものである。
〔記録媒体〕
本発明に係る記録媒体は、上記した実施の形態の撮像動作を、画像処理機能を有する装置が備えるコンピュータに実行可能とするプログラムを記録したものである。また、記録媒体の形態やプログラムの記録方法(コンピュータ言語)等は従来公知のものであれば何れのものであっても良い。
1 被写体領域
2 背景領域
3 被写体領域注目画素
4 背景領域注目画素
5 日陰領域
6 日向領域
12、13、14、15、16 領域
特開2002−271638号公報 特開2005−347811号公報 特開2007−129622号公報

Claims (12)

  1. 被写体に対応した光を電気信号に変換して撮像信号として出力する撮像素子と、
    前記撮像信号に基づき前記被写体に対応した撮影画像を作成する画像作成手段と、
    を備える撮像装置において、
    前記撮影画像をnの分割ブロック(但し、nは4以上の整数である。)に分割するブロック分割手段と、
    前記撮像信号から色情報を取得すると共に、該色情報からホワイトバランス制御を行うためのホワイトバランス評価値を前記nの分割ブロック夫々から取得するホワイトバランス評価値取得手段と、
    前記色情報に基づき前記nの分割ブロックを統合することで、前記撮影画像をmの分割領域(但し、mは整数であり、n>m≧2を満たす。)に分割する領域分割手段と、
    前記mの分割領域の夫々について、当該分割領域が有する分割ブロックから取得されたホワイトバランス評価値に基づいて、対応したホワイトバランス補正係数を算出する補正係数算出手段と、
    前記複数の分割領域夫々に、各分割領域に対応した前記ホワイトバランス補正係数を設定するホワイトバランス演算手段と、
    前記色情報に基づき、前記分割ブロックが緑領域であるか否かを判定する緑領域判定手段と、を備え、
    前記領域分割手段は、前記撮像信号の色情報と、輝度情報とに基づき、高輝度領域と低輝度領域とに分割し、前記高輝度領域および前記低輝度領域の夫々において、領域毎に白抽出範囲を変えて白抽出を行う白抽出手段を有し、
    前記補正係数算出手段は、前記白抽出手段によって得られた白抽出結果と、前記分割領域毎のホワイトバランス評価値とに基づいて分割領域毎のホワイトバランス補正係数を算出し、
    前記ホワイトバランス演算手段は、前記nの分割ブロックの中で、前記緑領域判定手段により緑領域であると判定された分割ブロックに対して、当該分割ブロックが含まれる分割領域に対応したホワイトバランス補正係数とは異なるホワイトバランス補正係数を設定すると共に、前記緑領域判定手段により緑領域と判定された分割ブロックに対して、当該分割ブロックが含まれる分割領域が前記高輝度領域である場合には、前記高輝度領域に対応したホワイトバランス補正係数を取得し、当該分割ブロックが含まれる分割領域が前記低輝度領域である場合には、前記高輝度領域に対応したホワイトバランス補正係数と、前記低輝度領域に対応したホワイトバランス補正係数とを加重平均したホワイトバランス補正係数を取得して、ホワイトバランス補正係数を設定することを特徴とする撮像装置。
  2. 前記白抽出手段は、
    前記高輝度領域において、当該高輝度領域のホワイトバランス評価値と、高輝度領域用白抽出範囲とを基に白抽出を行い、
    前記低輝度領域において、当該低輝度領域のホワイトバランス評価値と、低輝度領域用白抽出範囲とを基に白抽出を行うことを特徴とする請求項1に記載の撮像装置。
  3. 前記分割ブロックは、注目画素と、非注目画素とを有し、
    前記ホワイトバランス演算手段は、
    前記分割ブロック毎の注目画素に、前記ホワイトバランス補正係数を取得する第1補正係数取得手段と、
    前記分割ブロック毎の非注目画素に、周辺の注目画素のホワイトバランス補正係数と、当該非注目画素から前記周辺の注目画素までの距離による補間で前記ホワイトバランス補正係数を取得する第2補正係数取得手段と、を有し、
    前記第1補正係数取得手段と前記第2補正係数取得手段とによって取得したホワイトバラン補正係数を画素毎に設定することを特徴とする請求項1または2に記載の撮像装置。
  4. 前記注目画素は、前記分割ブロックの中央に位置する画素であることを特徴とする請求項3に記載の撮像装置。
  5. 被写体に対応した光を電気信号に変換して撮像信号として出力する光電変換工程と、
    前記撮像信号に基づき前記被写体に対応した撮影画像を作成する画像作成工程と、
    を備える撮像方法において、
    前記撮影画像をnの分割ブロック(但し、nは4以上の整数である。)に分割するブロック分割工程と、
    前記撮像信号から色情報を取得すると共に、該色情報からホワイトバランス制御を行うためのホワイトバランス評価値を前記nの分割ブロック夫々から取得するホワイトバランス評価値取得工程と、
    前記色情報に基づき前記nの分割ブロックを統合することで、前記撮影画像をmの分割領域(但し、mは整数であり、n>m≧2を満たす。)に分割する領域分割工程と、
    前記mの分割領域の夫々について、当該分割領域が有する分割ブロックから取得されたホワイトバランス評価値に基づいて、対応したホワイトバランス補正係数を算出する補正係数算出工程と、
    前記複数の分割領域夫々に、各分割領域に対応した前記ホワイトバランス補正係数を設定するホワイトバランス演算工程と、
    前記色情報に基づき、前記分割ブロックが緑領域であるか否かを判定する緑領域判定工程と、を備え、
    前記領域分割工程は、前記撮像信号の色情報と、輝度情報とに基づき、高輝度領域と低輝度領域とに分割し、前記高輝度領域および前記低輝度領域の夫々において、領域毎に白抽出範囲を変えて白抽出を行う白抽出工程を有し、
    前記補正係数算出工程は、前記白抽出工程によって得られた白抽出結果と、前記分割領域毎のホワイトバランス評価値とに基づいて分割領域毎のホワイトバランス補正係数を算出し、
    前記ホワイトバランス演算工程は、前記nの分割ブロックの中で、前記緑領域判定工程により緑領域であると判定された分割ブロックに対して、当該分割ブロックが含まれる分割領域に対応したホワイトバランス補正係数とは異なるホワイトバランス補正係数を設定すると共に、前記緑領域判定工程により緑領域と判定された分割ブロックに対して、当該分割ブロックが含まれる分割領域が前記高輝度領域である場合には、前記高輝度領域に対応したホワイトバランス補正係数を取得し、当該分割ブロックが含まれる分割領域が前記低輝度領域である場合には、前記高輝度領域に対応したホワイトバランス補正係数と、前記低輝度領域に対応したホワイトバランス補正係数とを加重平均したホワイトバランス補正係数を取得して、ホワイトバランス補正係数を設定することを特徴とする撮像方法。
  6. 前記白抽出工程は、
    前記高輝度領域において、当該高輝度領域のホワイトバランス評価値と、高輝度領域用白抽出範囲とを基に白抽出を行い、
    前記低輝度領域において、当該低輝度領域のホワイトバランス評価値と、低輝度領域用白抽出範囲とを基に白抽出を行うことを特徴とする請求項5に記載の撮像方法。
  7. 前記分割ブロックは、注目画素と、非注目画素とを有し、
    前記ホワイトバランス演算工程は、
    前記分割ブロック毎の注目画素に、前記ホワイトバランス補正係数を取得する第1補正係数取得工程と、
    前記分割ブロック毎の非注目画素に、周辺の注目画素のホワイトバランス補正係数と、当該非注目画素から前記周辺の注目画素までの距離による補間で前記ホワイトバランス補正係数を取得する第2補正係数取得工程と、を有し、
    前記第1補正係数取得工程と前記第2補正係数取得工程とによって取得したホワイトバラン補正係数を画素毎に設定することを特徴とする請求項5または6に記載の撮像方法。
  8. 前記注目画素は、前記分割ブロックの中央に位置する画素であることを特徴とする請求項7に記載の撮像方法。
  9. 被写体に対応した光を電気信号に変換して撮像信号として出力する光電変換処理と、
    前記撮像信号に基づき前記被写体に対応した撮影画像を作成する画像作成処理と、
    をコンピュータに実行させるためのプログラムを記録したコンピュータ読み取り可能な記録媒体であって、
    前記撮影画像をnの分割ブロック(但し、nは4以上の整数である。)に分割するブロック分割処理と、
    前記撮像信号から色情報を取得すると共に、該色情報からホワイトバランス制御を行うためのホワイトバランス評価値を前記nの分割ブロック夫々から取得するホワイトバランス評価値取得処理と、
    前記色情報に基づき前記nの分割ブロックを統合することで、前記撮影画像をmの分割領域(但し、mは整数であり、n>m≧2を満たす。)に分割する領域分割処理と、
    前記mの分割領域の夫々について、当該分割領域が有する分割ブロックから取得されたホワイトバランス評価値に基づいて、対応したホワイトバランス補正係数を算出する補正係数算出処理と、
    前記複数の分割領域夫々に、各分割領域に対応した前記ホワイトバランス補正係数を設定するホワイトバランス演算処理と、
    前記色情報に基づき、前記分割ブロックが緑領域であるか否かを判定する緑領域判定処理と、を備え、
    前記領域分割処理は、前記撮像信号の色情報と、輝度情報とに基づき、高輝度領域と低輝度領域とに分割し、前記高輝度領域および前記低輝度領域の夫々において、領域毎に白抽出範囲を変えて白抽出を行う白抽出処理を有し、
    前記補正係数算出処理は、前記白抽出処理によって得られた白抽出結果と、前記分割領域毎のホワイトバランス評価値とに基づいて分割領域毎のホワイトバランス補正係数を算出し、
    前記ホワイトバランス演算処理は、前記nの分割ブロックの中で、前記緑領域判定処理により緑領域であると判定された分割ブロックに対して、当該分割ブロックが含まれる分割領域に対応したホワイトバランス補正係数とは異なるホワイトバランス補正係数を設定すると共に、前記緑領域判定処理により緑領域と判定された分割ブロックに対して、当該分割ブロックが含まれる分割領域が前記高輝度領域である場合には、前記高輝度領域に対応したホワイトバランス補正係数を取得し、当該分割ブロックが含まれる分割領域が前記低輝度領域である場合には、前記高輝度領域に対応したホワイトバランス補正係数と、前記低輝度領域に対応したホワイトバランス補正係数とを加重平均したホワイトバランス補正係数を取得して、ホワイトバランス補正係数を設定することを特徴とするコンピュータ読み取り可能な記録媒体。
  10. 前記白抽出処理は、
    前記高輝度領域において、当該高輝度領域のホワイトバランス評価値と、高輝度領域用白抽出範囲とを基に白抽出を行い、
    前記低輝度領域において、当該低輝度領域のホワイトバランス評価値と、低輝度領域用白抽出範囲とを基に白抽出を行うことを特徴とする請求項9に記載のコンピュータ読み取り可能な記録媒体。
  11. 前記分割ブロックは、注目画素と、非注目画素とを有し、
    前記ホワイトバランス演算処理は、
    前記分割ブロック毎の注目画素に、前記ホワイトバランス補正係数を取得する第1補正係数取得処理と、
    前記分割ブロック毎の注目画素に、周辺の注目画素のホワイトバランス補正係数と、当該非注目画素から前記周辺の注目画素までの距離による補間で前記ホワイトバランス補正係数を取得する第2補正係数取得処理と、を有し、
    前記第1補正係数取得処理と前記第2補正係数取得処理とによって取得したホワイトバラン補正係数を画素毎に設定することを特徴とする請求項9または10に記載のコンピュータ読み取り可能な記録媒体。
  12. 前記注目画素は、前記分割ブロックの中央に位置する画素であることを特徴とする請求項11に記載のコンピュータ読み取り可能な記録媒体。
JP2009059883A 2009-03-12 2009-03-12 撮像装置及び撮像方法 Active JP5321163B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2009059883A JP5321163B2 (ja) 2009-03-12 2009-03-12 撮像装置及び撮像方法
US12/713,373 US8212890B2 (en) 2009-03-12 2010-02-26 Imaging device and imaging method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009059883A JP5321163B2 (ja) 2009-03-12 2009-03-12 撮像装置及び撮像方法

Publications (2)

Publication Number Publication Date
JP2010213213A JP2010213213A (ja) 2010-09-24
JP5321163B2 true JP5321163B2 (ja) 2013-10-23

Family

ID=42730373

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009059883A Active JP5321163B2 (ja) 2009-03-12 2009-03-12 撮像装置及び撮像方法

Country Status (2)

Country Link
US (1) US8212890B2 (ja)
JP (1) JP5321163B2 (ja)

Families Citing this family (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2010024824A1 (en) * 2008-08-30 2010-03-04 Hewlett-Packard Development Company, L.P. Color constancy method and system
JP5458937B2 (ja) * 2010-02-17 2014-04-02 株式会社リコー 撮像装置及び撮像方法及びこの撮像方法を実行するためのプログラムが記録されたコンピュータが読み取り可能な記録媒体
JP5576706B2 (ja) * 2010-05-10 2014-08-20 キヤノン株式会社 画像処理装置およびその制御方法、撮像装置
JP5807378B2 (ja) * 2011-05-13 2015-11-10 株式会社リコー 撮像装置、撮像方法および撮像プログラム
JP5769524B2 (ja) * 2011-07-05 2015-08-26 キヤノン株式会社 撮像装置、撮像装置の制御方法、及びコンピュータプログラム
KR101251803B1 (ko) 2011-08-30 2013-04-09 엘지이노텍 주식회사 영상 처리 방법
TWI504253B (zh) * 2013-01-10 2015-10-11 Realtek Semiconductor Corp 使用場景偵測之白平衡調整方法及其裝置
JP6196882B2 (ja) * 2013-11-08 2017-09-13 オリンパス株式会社 マルチエリアホワイトバランス制御装置、マルチエリアホワイトバランス制御方法、マルチエリアホワイトバランス制御プログラム、マルチエリアホワイトバランス制御プログラムを記録したコンピュータ、マルチエリアホワイトバランス画像処理装置、マルチエリアホワイトバランス画像処理方法、マルチエリアホワイトバランス画像処理プログラム、マルチエリアホワイトバランス画像処理プログラムを記録したコンピュータ及びマルチエリアホワイトバランス画像処理装置を備えた撮像装置
JP6234191B2 (ja) * 2013-11-28 2017-11-22 オリンパス株式会社 マルチエリアホワイトバランス制御装置、マルチエリアホワイトバランス制御方法、マルチエリアホワイトバランス制御プログラム、マルチエリアホワイトバランス制御プログラムを記録したコンピュータ、マルチエリアホワイトバランス画像処理装置、マルチエリアホワイトバランス画像処理方法、マルチエリアホワイトバランス画像処理プログラム、マルチエリアホワイトバランス画像処理プログラムを記録したコンピュータ及びマルチエリアホワイトバランス画像処理装置を備えた撮像装置
JP6345430B2 (ja) * 2014-01-31 2018-06-20 オリンパス株式会社 マルチエリアホワイトバランス制御装置、マルチエリアホワイトバランス制御方法、マルチエリアホワイトバランス制御プログラム、マルチエリアホワイトバランス制御プログラムを記録したコンピュータ、マルチエリアホワイトバランス画像処理装置、マルチエリアホワイトバランス画像処理方法、マルチエリアホワイトバランス画像処理プログラム、マルチエリアホワイトバランス画像処理プログラムを記録したコンピュータ及びマルチエリアホワイトバランス画像処理装置を備えた撮像装置
JP6446790B2 (ja) 2014-02-21 2019-01-09 株式会社リコー 画像処理装置、撮像装置、画像補正方法およびプログラム
JP6274931B2 (ja) 2014-03-19 2018-02-07 オリンパス株式会社 マルチエリアホワイトバランス制御装置、マルチエリアホワイトバランス制御方法、マルチエリアホワイトバランス制御プログラム、マルチエリアホワイトバランス制御プログラムを記録したコンピュータ、マルチエリアホワイトバランス画像処理装置、マルチエリアホワイトバランス画像処理方法、マルチエリアホワイトバランス画像処理プログラム、マルチエリアホワイトバランス画像処理プログラムを記録したコンピュータ及びマルチエリアホワイトバランス画像処理装置を備えた撮像装置
JP5843027B1 (ja) 2015-03-10 2016-01-13 株式会社リコー 撮像装置、制御方法およびプログラム
WO2017043190A1 (ja) 2015-09-09 2017-03-16 株式会社リコー 制御システム、撮像装置、およびプログラム
CN105872499A (zh) * 2016-03-31 2016-08-17 乐视控股(北京)有限公司 一种基于rgb传感器的绿区判断方法
CN106128382B (zh) * 2016-08-24 2019-02-22 深圳市华星光电技术有限公司 一种四色显示器白平衡过程中颜色漂移的调整方法
CN106851121B (zh) * 2017-01-05 2019-07-05 Oppo广东移动通信有限公司 控制方法及控制装置
JP6921972B2 (ja) * 2017-09-29 2021-08-18 富士フイルム株式会社 画像処理装置、撮像装置、画像処理方法、撮像方法、およびプログラム
CN107635123B (zh) * 2017-10-30 2019-07-19 Oppo广东移动通信有限公司 白平衡处理方法及装置、电子装置和计算机可读存储介质
CN108337496B (zh) * 2018-04-25 2020-01-31 普联技术有限公司 白平衡处理方法、处理装置、处理设备及存储介质
WO2019216072A1 (ja) * 2018-05-08 2019-11-14 富士フイルム株式会社 画像処理装置、画像処理方法、及びプログラム
JP2021144641A (ja) 2020-03-13 2021-09-24 株式会社リコー 画像処理装置および画像処理方法

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5442408A (en) * 1989-11-17 1995-08-15 Sanyo Electric Co., Ltd. White balance adjusting apparatus for automatically adjusting white balance in response to luminance information signal and color information signal obtained from image sensing device
JP2532956B2 (ja) * 1989-12-26 1996-09-11 三洋電機株式会社 カラ―ビデオカメラ
JPH07162890A (ja) * 1993-12-08 1995-06-23 Matsushita Electric Ind Co Ltd ホワイトバランス調整装置
JP2000354253A (ja) 1999-06-11 2000-12-19 Ricoh Co Ltd ホワイトバランス制御装置
JP2002271638A (ja) * 2001-03-09 2002-09-20 Fuji Photo Film Co Ltd ホワイトバランス補正方法及び装置並びに該方法を実行するためのプログラムを記録した記録媒体
JP2004173010A (ja) * 2002-11-20 2004-06-17 Konica Minolta Holdings Inc 撮像装置、画像処理装置、画像記録装置、画像処理方法、プログラム及び記録媒体
JP4433883B2 (ja) * 2004-05-31 2010-03-17 カシオ計算機株式会社 ホワイトバランス補正装置及びホワイトバランス補正方法、プログラム、電子カメラ装置
JP4635828B2 (ja) 2005-11-07 2011-02-23 コニカミノルタホールディングス株式会社 撮像装置、画像処理装置、画像処理方法及び画像処理プログラム
JP2009004966A (ja) * 2007-06-20 2009-01-08 Panasonic Corp 撮像装置

Also Published As

Publication number Publication date
US20100231746A1 (en) 2010-09-16
JP2010213213A (ja) 2010-09-24
US8212890B2 (en) 2012-07-03

Similar Documents

Publication Publication Date Title
JP5321163B2 (ja) 撮像装置及び撮像方法
JP5187241B2 (ja) 撮像装置及び撮像方法
JP5660341B2 (ja) 撮像装置、撮像方法
JP5375457B2 (ja) 撮像装置及び撮像方法
JP6446790B2 (ja) 画像処理装置、撮像装置、画像補正方法およびプログラム
JP5647209B2 (ja) 撮像装置及び撮像方法
JP2014120844A (ja) 画像処理装置および撮像装置
US8319864B2 (en) Imaging apparatus and imaging method
JP5458937B2 (ja) 撮像装置及び撮像方法及びこの撮像方法を実行するためのプログラムが記録されたコンピュータが読み取り可能な記録媒体
JP4999871B2 (ja) 撮像装置およびその制御方法
EP2161938B1 (en) Imaging apparatus, imaging method and computer readable recording medium storing programs for executing the imaging method
JP5146015B2 (ja) 撮像装置及び撮像方法
JP5948997B2 (ja) 撮像装置及び撮像方法
CN106412391B (zh) 图像处理设备、图像处理方法和摄像设备
JP5903478B2 (ja) 撮像装置及び撮像方法
JP5335964B2 (ja) 撮像装置およびその制御方法
JP5310331B2 (ja) 撮像装置および撮像方法
JP5123010B2 (ja) 撮像装置、撮像方法及び撮像装置が備えるコンピュータに撮像方法を実行させるためのプログラム
JP2011130243A (ja) 画像処理装置、画像処理方法および画像入力装置
JP2010068064A (ja) 撮像装置及び撮像方法
US11470258B2 (en) Image processing apparatus and image processing method to perform image processing on divided areas
JP5807378B2 (ja) 撮像装置、撮像方法および撮像プログラム
JP2009225252A (ja) 撮像装置および撮像方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120130

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120621

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130322

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130326

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130523

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130618

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130701

R151 Written notification of patent or utility model registration

Ref document number: 5321163

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151