Nothing Special   »   [go: up one dir, main page]

JP2009130845A - フリッカ補正装置、フリッカ補正方法並びに撮像装置 - Google Patents

フリッカ補正装置、フリッカ補正方法並びに撮像装置 Download PDF

Info

Publication number
JP2009130845A
JP2009130845A JP2007306309A JP2007306309A JP2009130845A JP 2009130845 A JP2009130845 A JP 2009130845A JP 2007306309 A JP2007306309 A JP 2007306309A JP 2007306309 A JP2007306309 A JP 2007306309A JP 2009130845 A JP2009130845 A JP 2009130845A
Authority
JP
Japan
Prior art keywords
flicker
flicker detection
detection frame
component
image signal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2007306309A
Other languages
English (en)
Other versions
JP4971956B2 (ja
JP2009130845A5 (ja
Inventor
Shinya Urisaka
真也 瓜阪
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2007306309A priority Critical patent/JP4971956B2/ja
Priority to US12/270,163 priority patent/US8089524B2/en
Publication of JP2009130845A publication Critical patent/JP2009130845A/ja
Publication of JP2009130845A5 publication Critical patent/JP2009130845A5/ja
Priority to US13/312,438 priority patent/US8471923B2/en
Application granted granted Critical
Publication of JP4971956B2 publication Critical patent/JP4971956B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/745Detection of flicker frequency or suppression of flicker wherein the flicker is caused by illumination, e.g. due to fluorescent tube illumination or pulsed LED illumination

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)
  • Picture Signal Circuits (AREA)

Abstract

【課題】 明るさが周期的に変化する光源下で撮影された画像中に含まれるフリッカ成分を簡便な構成により、かつ被写体や撮像装置の動きがあっても精度良く補正するフリッカ補正装置を提供する。
【解決手段】 画像の垂直方向及び水平方向に設定した複数のフリッカ検出枠のうち、含まれる画像信号の輝度及び色に関する値が予め定めた範囲内であるフリッカ検出枠を抽出する。そして、抽出されたフリッカ検出枠の中から、フリッカ成分の検出に用いるフリッカ検出枠を選択する。選択したフリッカ検出枠内の画像信号の輝度情報を用いてフリッカ成分を検出し、検出したフリッカ成分から、当該フリッカ成分を補正するための補正値を生成する。
【選択図】 図3

Description

本発明はフリッカ補正装置及びフリッカ補正方法に関し、特には、明るさが周期的に変化する光源下で撮影された画像中に含まれるフリッカ成分を補正するフリッカ補正装置及びフリッカ補正方法に関する。
従来、CMOSイメージセンサに代表されるXYアドレス方式の固体撮像素子を用いた撮像装置が実現されている。このような撮像装置を用い、蛍光灯やタングステン電球など、電源周波数に対応して明るさが変動する照明下で撮影を行う場合、撮像画像に垂直方向に周期的な明暗が現れることがある。この現象はフリッカと呼ばれ、商用電源周波数と撮像装置の垂直同期周波数との違いによるものである。
このようなフリッカを抑制するため、例えば電源周波数が50Hzの場合、シャッタ速度を1/100秒に固定することで、露光量が各ライン、各フレームで均一になるように制御する方法が知られている。しかしながら、この方法では、シャッタ速度が固定されるため、露出制御の自由度が低下するという問題がある。
また、特許文献1には、イメージセンサとは別に設けた測光素子を用いて蛍光灯のフリッカ波形を測定し、撮像素子から出力された映像信号の利得をフリッカ波形によって制御することで、フリッカを抑圧する撮像装置が開示されている。
特許文献2には、画像を垂直走査線方向に分割して複数のフリッカ検波枠を設定し、検波枠ごとの輝度を検波し、検波枠ごとに前後の二つのフレームの輝度データの差分を取ることによって、フリッカ成分を抽出、補正する撮像信号処理装置が開示されている。
特開2000−23040号公報 特許第3823314号公報
しかしながら、特許文献1記載の撮像装置においては、CMOSイメージセンサの他にフリッカ検出用の測光素子を設ける必要がある。また、特許文献2記載のフリッカ検出方法では、被写体あるいはカメラに動きがあると、撮影画像の動き成分とフリッカ成分の判別が困難となり、フリッカ検出精度、ひいてはフリッカ補正精度が低下する。
本発明はこのような従来技術の問題点に鑑みてなされたものである。従って、本発明の目的は、明るさが周期的に変化する光源下で撮影された画像中に含まれるフリッカ成分を簡便な構成により、かつ被写体や撮像装置の動きがあっても精度良く補正するフリッカ補正装置及びフリッカ補正方法を提供することにある。
上述の目的は、撮像素子により得られた画像信号のフリッカ成分を補正するフリッカ補正装置であって、1画面分の画像信号に対し、垂直方向及び水平方向に複数のフリッカ検出枠を設定する設定手段と、複数のフリッカ検出枠のうち、含まれる画像信号の輝度及び色に関する値が予め定めた範囲内であるフリッカ検出枠を抽出する抽出手段と、抽出手段によって抽出されたフリッカ検出枠の中から、フリッカ成分の検出に用いるフリッカ検出枠を選択する選択手段と、選択手段が選択したフリッカ検出枠内の画像信号の輝度情報を用いてフリッカ成分を検出する検出手段と、検出手段が検出したフリッカ成分から、当フリッカ成分を補正するための補正値を生成する生成手段と、生成手段が生成した補正値を1画面分の画像信号に対して適用し、フリッカ成分の補正を行う補正手段とを有することを特徴とするフリッカ補正装置によって達成される。
また、上述の目的は、撮像素子と、撮像素子に被写体像を結像するレンズと、撮像素子から画像信号を読み出し、読み出した画像信号に信号処理を行う信号処理手段と、信号処理手段の出力する画像信号のフリッカ成分を補正する本発明のフリッカ補正装置とを有することを特徴とする撮像装置によっても達成される。
また、上述の目的は、撮像素子により得られた画像信号のフリッカ成分を補正するフリッカ補正方法であって、1画面分の画像信号に対し、垂直方向及び水平方向に複数のフリッカ検出枠を設定する設定ステップと、複数のフリッカ検出枠のうち、含まれる画像信号の輝度及び色に関する値が予め定めた範囲内であるフリッカ検出枠を抽出する抽出ステップと、抽出手段によって抽出されたフリッカ検出枠の中から、フリッカ成分の検出に用いるフリッカ検出枠を選択する選択ステップと、選択手段が選択したフリッカ検出枠内の画像信号の輝度情報を用いてフリッカ成分を検出する検出ステップと、検出手段が検出したフリッカ成分から、当フリッカ成分を補正するための補正値を生成する生成ステップと、生成手段が生成した補正値を1画面分の画像信号に対して適用し、フリッカ成分の補正を行う補正ステップとを有することを特徴とするフリッカ補正方法によっても達成される。
このような構成により、本発明によれば、フリッカ成分を簡便な構成により、かつ被写体やカメラの動きがあっても精度良く補正することができる。
以下、添付図面を参照して、本発明の好適かつ例示的な実施形態について詳細に説明する。
(第1の実施形態)
図1は、本発明の第1の実施形態に係るフリッカ補正装置の一例としての撮像装置の構成例を示す図である。
101はレンズであり、レンズ101の後方には絞り102が配置されている。レンズ101、絞り102を介して入射した光は、イメージセンサ105の結像面上に被写体像として結像される。イメージセンサ105は、XYアドレス方式の撮像素子、例えばCMOSイメージセンサであり、結像された被写体像を、画素単位の画像信号に変換する。
前置信号処理部119は、イメージセンサ105が変換した画像信号に対し、欠陥画素補正やA/D変換、色補間処理などの前置信号処理を行い、画像データ(CCD−RAWデータ。以下、単にRAWデータという)を生成する。
フリッカ検出部107は、前置信号処理部119が出力するRAWデータが、フリッカ成分を含むかどうかを検出する。RAWデータがフリッカ成分を含んでいる場合、RAWデータに対し、フリッカ検出部107によって得られた検出データに基づくフリッカ補正処理をフリッカ補正部108で適用する。フリッカ検出部107およびフリッカ補正部108における、フリッカ検出、フリッカ補正処理については、後で詳しく述べる。
フリッカ検出部107において、フリッカ成分が含まれないと検出されたRAWデータについては、フリッカ補正部108ではフリッカ補正処理を適用せずに出力する。
フリッカ補正部108の出力するRAWデータには、画像処理部112において、ホワイトバランス処理、輪郭強調処理、ガンマ補正処理など、いわゆる現像処理に相当する画像処理が適用され、画像データに変換される。画像処理部112はまた、符号化処理など、出力装置に応じた所定の処理を画像データに適用する。そして、画像処理部112の出力する画像データは、ディスプレイ116に表示されるか、磁気テープ115、光ディスク117、あるいはメモリカード118に記録される。
カメラ制御部111は、例えばマイクロコンピュータであり、例えば図示しない内部メモリに記憶された制御プログラムを実行することにより、撮像装置の各部を制御し、撮像装置の各種動作を実現する。
カメラ制御部111は、センサ駆動部106を通じて、イメージセンサ105における電荷蓄積、読み出しなどの制御を行う。また、カメラ制御部111は、レンズ制御部103を通じて、レンズ101のフォーカス、ズームなどの制御を行う。
また、カメラ制御部111は、イメージセンサ105から得られる画像データから求められる被写体の輝度情報を用い、絞り制御部104を通じた絞り102の制御と、図示しないシャッタの制御とを行うことで、露出制御を行う。
また、カメラ制御部111は、レンズ制御部103を通じてレンズ101の一部のレンズを駆動するか、センサ駆動部106を通じてイメージセンサ105を駆動することで、手ぶれ補正処理を行う。
さらに、カメラ制御部111は、フリッカ検出部107やフリッカ補正部108を制御し、上述したフリッカ成分の検出やフリッカ成分の補正処理を制御する。
図2は、本実施形態の撮像装置の外観例を示す斜視図である。
120は撮像装置の本体である。本体120内部には、光ディスク、磁気テープおよびメモリカードなどの記録媒体が内蔵もしくは着脱可能に装着され、撮影した動画像や静止画像を記録媒体に記録したり、記録媒体から再生したりすることができる。121はレンズ部である。122はマイクであり、撮影時の音声を記録するために備えられている。123は電子ビューファインダ(EVF)である。
動画撮影用トリガースイッチ124はプッシュボタンであり、動画撮影開始および終了を撮像装置に指示するために使用者が操作する。静止画撮影用トリガースイッチ125はプッシュボタンであり、静止画撮影開始および終了を撮像装置に指示するために使用者が操作する。
回転式のスイッチからなるモードダイヤル126は、撮像装置の動作モードを設定するために操作者が用いる。本実施形態におけるモードダイヤル126は、動作モードを、再生モードに設定する“再生”、カメラモードに設定する“カメラ”およびそのいずれでもない“OFF”のいずれかを選択できる。
127は操作スイッチ群であり、使用者が撮像装置に対し、ホワイトバランス制御モードや露出制御モードを入力するためのキーや、その他のメニュー操作や再生系の操作などを行うためのキーが配置されている。
表示装置128は、本体120の側面に、開閉自在に取り付けられたフラットディスプレイパネルであり、EVF123と同様、カメラモード時には被写体像の確認、再生モード時には再生画像の表示に主に使用される。表示装置128は、本体120から開いている状態で、本体120から垂直方向に延びる軸周りにも回転可能である。
129はスピーカであり、動画像の再生時に音声を出力するために設けられている。130はバッテリであり、本体120と着脱可能である。
(フリッカ検出およびフリッカ補正処理)
次に、本実施形態において、フリッカ検出部107およびフリッカ補正部108が行うフリッカ検出処理およびフリッカ補正処理について、図3のフローチャートを参照しながら説明する。
図3は、本実施形態の撮像装置におけるフリッカ検出・補正処理の手順を示すフローチャートである。
まず、フリッカ検出部107は、信号処理部119が生成する1画面分のRAWデータを水平、垂直方向にそれぞれ複数に分割し、フリッカ検出枠を設定する。そして、フリッカ検出部107は、設定したフリッカ検出枠ごとに、画像データの輝度成分および色成分の検波を行う(S103)。
図4は、CMOSイメージセンサなどのXYアドレス方式のイメージセンサを用いた撮像装置において、蛍光灯下で撮影した画像中に生じる横縞状のフリッカ模式的に示す図である。
フリッカ成分が画像データ中に含まれる場合、被写体の輝度値が、画面内の場所によらず均一な場合であっても、垂直方向に見た輝度値は一定にはならず、140に示すような横縞状の輝度ムラが生じる。
図5は、フリッカ検出部107が設定するフリッカ検出枠の例を示す図である。図5に示す例では、1画面に縦18列×横10行のフリッカ検出枠を設定している。なお、フリッカ検出枠は必ずしも全画面に渡って設定しなくてもよい。
1画面のRAWデータを水平、垂直方向に複数に分割し、複数のフリッカ検出枠142を設定し、各フリッカ検出枠において輝度および色に関する値を求める。本実施形態では、輝度及び色に関する値の一例としてフリッカ検出枠に含まれる画素の平均輝度値及び平均色差値を求める。これは、信号処理部119が生成するRAWデータのうち、フリッカ検出枠に含まれる画素のR,G,Bの各色成分について平均値を求め、R,G,Bの平均値から、周知の変換式を用いて輝度値及び色差値を求めることによって実現できる。
次に、フリッカ検出部107は、それぞれのフリッカ検出枠について求めた平均輝度値及び平均色差値が、共に、あらかじめ設定された閾値の範囲内であるかどうかを判断し、条件を満たすフリッカ検出枠を抽出する(S105)。ここで、あらかじめ設定する平均輝度値および平均色差値の閾値の範囲は、適正露出時の白色、即ちホワイトバランス調整後の白色に対応する輝度値及び色差値を含み、かつ、明るすぎる(白トビした)領域や、暗すぎる領域が除かれるように設定する。なお、適正露出時の白色に対応する輝度値及び色差値は、過去の画像データ、例えば1画面前の画像データに基づいて画像処理部112で求めた値を用いることができる。
次に、フリッカ検出部107は、S105で抽出された、平均輝度値および平均色差値が共にあらかじめ設定された閾値の範囲内であるすべてのフリッカ検出枠の各々に対し、フリッカ検出に関する信頼度を計算する(S106)。ここで、フリッカ検出に関する信頼度は、フリッカ検出枠内の画像の時間的な変化、検出枠における平均輝度値、平均色差値と適正露出時の白色との差分のうち、一つもしくは、重み付けされた複数を評価値として計算する。
フリッカ検出枠内の画像の時間的変化については、例えば前フレーム及び後フレームの少なくとも1つの画像データをフリッカ検出部107内の図示しないメモリに記憶しておき、これらフレーム中の対応するフリッカ検出枠内の画像と比較して求められる。フリッカ検出枠内の画像の時間的変化が少ないほど、カメラ又は被写体の動きが少ないと考えられ、フリッカ検出に関する信頼度は高くなる。また、適正露出時の白色との差分が小さい平均輝度値及び平均色差値を有するフリッカ検出枠ほど、輝度値が適正かつ安定していると考えられるため、フリッカ検出に関する信頼度は高くなる。
つづいて、S107において、フリッカ検出部107は、フリッカ検出枠の各行(すなわち、各垂直位置)から、最終的にフリッカ検出を行うために用いるフリッカ検出枠を一つずつ選択する。具体的には、フリッカ検出部107は、S105において抽出されたフリッカ検出枠のうち、S106で求めた信頼度が最も高いものを選択する。行を構成するフリッカ検出枠のいずれも所定の信頼度に満たない場合、その行についてはフリッカ検出枠の選択を行わない。
画面中に生じるフリッカは、図4に示すように横縞状であるため、水平方向で少なくとも一つのフリッカ検出枠が選択されれば、該当する垂直位置でのフリッカ成分を検出することができる。
信頼度の高いフリッカ検出枠を選択することで、フリッカ成分の検出精度が向上が期待され、結果としてフリッカ補正値の精度向上と、フリッカ成分の除去精度の向上が期待される。
次に、フリッカ検出部107は、各行で一つ選択したフリッカ検出枠の平均輝度値と、処理中のフレームと連続する1つ以上のフレームにおける、対応するフリッカ検出枠内の画像の平均輝度値の平均値(経時平均値)との差を求める。そして、フリッカ検出部107は、この差の大きさに基づいて、選択されたフリッカ検出枠内の画像にフリッカ成分が存在するかどうかを判断する(S114)。
ここで、選択したフリッカ検出枠の輝度の経時平均値と、現処理フレームにおける輝度値との差が所定値以上であればフリッカ成分が存在するものとする。
S107で選択されたフリッカ検出枠の全てにおいてフリッカ成分が検出されない場合には、フリッカ補正処理を行わない。
一方、1つ以上のフリッカ検出枠においてフリッカ成分が検出された場合、カメラ制御部111は、フリッカ補正値を算出する(S115)。ここで、フリッカ成分は垂直方向における輝度変動であり、水平方向には一定であるから、同一の垂直位置に対しては、水平位置によらず、一定のフリッカ補正値を用いる。フリッカ補正値は、検出されたフリッカ成分を打ち消す値として求める。例えば、フリッカ成分の逆数を垂直方向の画素単位に補正値として求めることができる。
また、フリッカ検出枠が選択されていない行(垂直位置)に対するフリッカ補正値は、その上下行で選択されたフリッカ検出枠に対して算出されたフリッカ補正値から補間して求める。つづいて、カメラ制御部111は、算出されたフリッカ補正値をフリッカ補正部108に供給し、フリッカ補正部108はフリッカ検出部107の出力する画像データに対して、フリッカ補正処理を施す(S117)。フリッカ補正部108は、フリッカ成分の逆数を乗じる乗算器であって良い。
フリッカ補正部108の出力は、画像処理部112に供給され、上述のように、表示や記録に必要な信号処理がなされる。
以上の処理を行った後、カメラ制御部111は、撮影が継続されているかどうかの判定を行い(S119)、撮影が終了するまで、S103からの処理を繰り返す。撮影の終了が検出されると、カメラ制御部111はフリッカ検出及び補正処理を終了する(S120)。
以上説明したように、本実施形態によれば、1画面分の画像に対し、垂直及び水平方向に複数のフリッカ検出枠を設定し、含まれる画素の輝度および色に関する値が予め定めた閾値の範囲内であるフリッカ検出枠の輝度情報を用いてフリッカ成分を検出する。そのため、イメージセンサに特殊なフリッカ検出用のセンサを設けることなく、撮像信号の処理だけでフリッカを検出し、除去することができる。
さらに、画像の動きが少ないフリッカ検出枠や、画像の輝度値が適正かつ安定しているフリッカ検出枠など、信頼度の高いフリッカ検出枠をフリッカ検出に用いることで、フリッカ検出精度をより向上させることができる。そのため、結果としてフリッカ補正値の精度及びフリッカ除去精度を向上させることができる。
(第2の実施形態)
次に、本発明の第2の実施形態について説明する。本実施形態においては、フリッカ検出部107およびフリッカ補正部108における、フリッカ検出、補正処理以外は第1の実施形態と共通である。
そのため、以下では、本実施形態の撮像装置のフリッカ検出部107およびフリッカ補正部108における、フリッカ検出、補正処理について、図6のフローチャートを参照しながら説明する。
なお、図6において、第1の実施形態と同じ動作を行うステップについては、図3と同じ参照数字を付し、説明を省略する。
図6と図3との比較から明らかなように、本実施形態では、各垂直位置に対するフリッカ検出枠の選択処理が異なる。
S105において、平均輝度値および平均色差値が閾値範囲内であるフリッカ検出枠の抽出を行った後、S206から、フリッカ検出枠の各行(各垂直位置)において、フリッカ検出に用いるフリッカ検出枠の選択処理を行う。
まず、フリッカ検出部107は、ある垂直位置(例えば一番上の行)において、S105で抽出されているフリッカ検出枠が存在するかどうかを判別する。この垂直位置において、抽出されているフリッカ検出枠が一つもない場合、フリッカ検出部107は、その行を構成するフリッカ検出枠の平均輝度値を算出し、その垂直位置における輝度値とする(S209)。
一方、該当する垂直位置においてフリッカ検出枠が抽出されている場合、フリッカ検出部107は、同一垂直位置(同じ行内)において複数のフリッカ検出枠が抽出されているかどうかを判別する(S208)。
同一垂直位置で抽出されているフリッカ検出枠が一つだけの場合、フリッカ検出部107は、抽出されたフリッカ検出枠の輝度値を、該当する垂直位置における輝度値とする(S210)。
一方、同一垂直位置で複数のフリッカ検出枠が抽出されている場合、フリッカ検出部107は、それら複数のフリッカ検出枠の輝度値の平均値を算出し、該当する垂直位置における輝度値とする(S207)。
そして、S212で、フリッカ検出部107は、全ての垂直位置における輝度値を求める処理が終了したかどうかを判定し、全ての垂直位置について輝度値を求める処理が終わるまでS206〜S210の処理を繰り返し行う。
全ての垂直位置に対する輝度値が求まったら、S114から、第1の実施形態で説明したようにして、フリッカ成分の検出、補正値の生成及び補正処理を、撮影が終了するまで継続する。
なお、本実施形態では、S105でフリッカ検出枠が一つも抽出されなかった場合、S206において、その行内に含まれる全フリッカ検出枠の平均輝度を該当する垂直位置での輝度値として、フリッカ成分を検出するものとした。しかし、該当する垂直位置の上下の垂直位置での輝度値を補間して該当する垂直位置での輝度値を求めても良い。あるいは、フリッカ検出枠が一つも抽出されていない場合は、該当する垂直位置におけるフリッカ補正を行わないようにしても構わない。
また、本実施形態では、同一垂直位置で複数のフリッカ検出枠が抽出されている場合、S207においてそれらフリッカ検出枠の輝度値の平均値を、該当する垂直位置での輝度値としてフリッカ成分を検出するものとした。しかし、第1の実施形態で説明したように、抽出された複数のフリッカ検出枠に対してフリッカ検出を行う上での信頼度を計算し、輝度値の信頼度に応じた加重平均値を該当する垂直位置での輝度値としてもよい。
以上説明したように、本実施形態によれば、画像を水平、垂直方向に分割して複数のフリッカ検出枠を設定し、平均輝度値および平均色差値があらかじめ設定された閾値の範囲内であるフリッカ検出枠の輝度データを用いてフリッカ成分を検出する。そのため、イメージセンサに特殊なフリッカ検出用のセンサを設けることなく、撮像信号の処理だけでフリッカを検出し、除去することができる。
また、あらかじめ設定された閾値の範囲内の平均輝度値および平均色差値を有するフリッカ検出枠が、同一垂直位置においていくつ抽出されたかに応じて、その垂直位置におけるフリッカ成分の検出に用いる輝度値の算出方法を変更する。そのため、複数のフリッカ検出枠が抽出された垂直位置についてはより精度の良い輝度値が求まるほか、フリッカ検出枠が抽出されなかった垂直位置においても、他の垂直位置の輝度値から補間した値を用いることで、信頼性のある輝度値を得ることができる。
従って、抽出されたフリッカ検出枠の数に応じた適切な輝度値をその垂直位置における輝度値として算出することができ、フリッカ検出精度を向上させることができる。従って、撮影画像中に動きのある領域が多い場合においても、フリッカ補正値の精度並びにフリッカ除去精度の精度も向上させることができる。
(第3の実施形態)
次に、本発明の第3の実施形態について説明する。本実施形態においては、フリッカ検出部107およびフリッカ補正部108における、フリッカ検出、補正処理以外は第1の実施形態と共通である。
そのため、以下では、本実施形態の撮像装置のフリッカ検出部107およびフリッカ補正部108における、フリッカ検出、補正処理について、図7のフローチャートを参照しながら説明する。
なお、図7において、第1の実施形態と同じ動作を行うステップについては、図3と同じ参照数字を付し、説明を省略する。
S303において、フリッカ検出部107は、第1の実施形態と同様に、信号処理部119が出力する1画面分のRAWデータに対してフリッカ検出枠を設定する。そして、フリッカ検出枠の輝度値として、枠内の全画素ではなく、輝度値および色差値が共に、あらかじめ設定された閾値の範囲内である画素の平均輝度値を算出する。ここでの閾値は、第1の実施形態と同様であって良い。
次に、フリッカ検出部107は、すべてのフリッカ検出枠において、フリッカ検出を行う上での信頼度を計算する(S306)。ここでの信頼度は、フリッカ検出枠内の画像の時間的な変化、フリッカ検出枠における輝度値の白色点との差分、閾値の範囲内である画素の数、のうち、一つ、もしくは複数に重み付けした評価値を用いて、計算することができる。
次に、第1の実施形態と同様にして、フリッカ検出枠の各垂直位置に対して、フリッカ検出を行うために用いるフリッカ検出枠を一つ選択する(S107)。そして、やはり第1の実施形態と同様に、S114から、フリッカ成分の検出、補正値の生成及び補正処理を、撮影が終了するまで継続する。ただし、本実施形態では、フリッカ検出枠の輝度値として、枠内の全画素ではなく、輝度及び色差値があらかじめ設定された閾値の範囲内である画素についての平均輝度値を用いる点が異なる。
なお、本実施形態においては、S107で、各垂直位置に対するフリッカ検出枠を選択する際、同一垂直位置(同一行)にあるフリッカ検出枠の中で、最も信頼度の高いフリッカ検出枠を一つ選択し、その検出枠の輝度値をその垂直位置における輝度値とした。しかし、同一垂直位置の複数のフリッカ検出枠における輝度データの平均値を、その垂直位置における輝度値としても良い。
あるいは、同一垂直位置の全フリッカ検出枠の輝度値を各フリッカ検出枠の信頼度に応じて加重平均した輝度値を、その垂直位置における輝度値としてもよい。
また、信頼度が最も高いフリッカ検出枠の信頼度が所定の信頼度よりも低い場合、該当する垂直位置の全フリッカ検出枠の平均輝度を、その垂直位置における輝度値としてもよい。あるいは、その垂直位置の上下の垂直位置で選択されたフリッカ検出枠の輝度値を補間して求めた輝度値を、その垂直位置での輝度値としても良い。あるいは、信頼度が最も高いフリッカ検出枠の信頼度が所定の信頼度よりも低い垂直位置については、フリッカ補正を行わないようにしても構わない。
以上説明したように、本実施形態では、本実施形態によれば、画像を水平、垂直方向に分割して複数のフリッカ検出枠を設定し、輝度値および色差値があらかじめ設定された閾値の範囲内である画素の輝度値を用いてフリッカ成分を検出する。そのため、イメージセンサに特殊なフリッカ検出用のセンサを設けることなく、撮像信号の処理だけでフリッカを検出し、除去することができる。また、フリッカ検出枠内の全画素でなく、輝度値及び色差値が共に、あらかじめ設定された閾値の範囲内である画素のみを用いて、フリッカ検出枠の輝度値を求める。そのため、フリッカ検出枠内で変化の大きい画素を排除することができ、フリッカ補正を精度よく行うことができる。
(他の実施形態)
なお、上述の実施形態においては、フリッカ検出枠又は画素の色データの一例として色差値を用いた例を説明したが、RGB値など、他の形式の値であっても良いことは言うまでもない。
また、上述の実施形態においては、フリッカ補正装置の一例としての撮像装置を説明したが、フリッカ検出及び補正処理においては、撮像機能や記録機能が必須でないことが容易に理解されよう。
従って、図1に示した構成のうち、フリッカ検出部107、フリッカ補正部108及びカメラ制御部111以外の構成は、本発明において必須な構成ではない。
本発明の実施形態に係るフリッカ補正装置の一例としての撮像装置の構成例を示す図である。 本発明の実施形態に係る撮像装置の外観例を示す斜視図である。 本発明の第1の実施形態の撮像装置におけるフリッカ検出・補正処理の手順を示すフローチャートである。 XYアドレス方式のイメージセンサを用いた撮像装置において、蛍光灯下で撮影した画像中に生じる横縞状のフリッカ模式的に示す図である。 本発明の実施形態の撮像装置におけるフリッカ検出部が設定するフリッカ検出枠の例を示す図である。 本発明の第2の実施形態の撮像装置におけるフリッカ検出・補正処理の手順を示すフローチャートである。 本発明の第3の実施形態の撮像装置におけるフリッカ検出・補正処理の手順を示すフローチャートである。

Claims (9)

  1. 撮像素子により得られた画像信号のフリッカ成分を補正するフリッカ補正装置であって、
    1画面分の前記画像信号に対し、垂直方向及び水平方向に複数のフリッカ検出枠を設定する設定手段と、
    前記複数のフリッカ検出枠のうち、含まれる画像信号の輝度及び色に関する値が予め定めた範囲内であるフリッカ検出枠を抽出する抽出手段と、
    前記抽出手段によって抽出されたフリッカ検出枠の中から、フリッカ成分の検出に用いるフリッカ検出枠を選択する選択手段と、
    前記選択手段が選択したフリッカ検出枠内の画像信号の輝度情報を用いてフリッカ成分を検出する検出手段と、
    前記検出手段が検出したフリッカ成分から、当該フリッカ成分を補正するための補正値を生成する生成手段と、
    前記生成手段が生成した補正値を前記1画面分の画像信号に対して適用し、フリッカ成分の補正を行う補正手段とを有することを特徴とするフリッカ補正装置。
  2. 前記予め定めた範囲が、前記1画面分の前記画像信号より前に前記撮像素子により得られた画像信号に基づいて求められた適正露出時の前記輝度及び色に関する値を含む範囲であることを特徴とする請求項1記載のフリッカ補正装置。
  3. 前記抽出手段によって抽出されたフリッカ検出枠の各々について、フリッカ検出に関する信頼度を算出する算出手段をさらに有し、
    前記選択手段が、前記算出手段が算出した信頼度が所定の信頼度を満たすフリッカ検出枠を選択することを特徴とする請求項1又は請求項2記載のフリッカ補正装置。
  4. 前記選択手段が、前記抽出手段によって抽出されたフリッカ検出枠から、前記垂直方向のフリッカ検出枠の位置ごとに、前記信頼度の最も高いフリッカ検出枠を選択することを特徴とする請求項3記載のフリッカ補正装置。
  5. 前記検出手段が、前記垂直方向のフリッカ検出枠の同一の位置に、前記選択手段が選択したフリッカ検出枠が複数ある場合、これら複数のフリッカ検出枠の輝度情報から求めた輝度情報を用いてフリッカ成分を検出することを特徴とする請求項1乃至請求項3のいずれか1項に記載のフリッカ補正装置。
  6. 前記検出手段が、前記垂直方向のフリッカ検出枠の位置のうち、前記選択手段が選択したフリッカ検出枠が存在しない位置についてのフリッカ成分を検出するための輝度情報として、前記選択手段が選択したフリッカ検出枠が存在しない位置の上下の位置において前記選択手段が選択したフリッカ検出枠の輝度情報から求めた輝度情報を用いてフリッカ成分を検出することを特徴とする請求項1乃至請求項3のいずれか1項に記載のフリッカ補正装置。
  7. 前記検出手段が、前記選択手段が選択したフリッカ検出枠に含まれる画像信号のうち、前記輝度及び色に関する値が前記予め定めた範囲内の画像信号の輝度情報を用いてフリッカ成分を検出することを特徴とする請求項1乃至請求項4のいずれか1項に記載のフリッカ補正装置。
  8. 撮像素子と、
    前記撮像素子に被写体像を結像するレンズと、
    前記撮像素子から画像信号を読み出し、読み出した画像信号に信号処理を行う信号処理手段と、
    前記信号処理手段の出力する画像信号のフリッカ成分を補正する請求項1乃至請求項7のいずれか1項に記載のフリッカ補正装置とを有することを特徴とする撮像装置。
  9. 撮像素子により得られた画像信号のフリッカ成分を補正するフリッカ補正方法であって、
    1画面分の前記画像信号に対し、垂直方向及び水平方向に複数のフリッカ検出枠を設定する設定ステップと、
    前記複数のフリッカ検出枠のうち、含まれる画像信号の輝度及び色に関する値が予め定めた範囲内であるフリッカ検出枠を抽出する抽出ステップと、
    前記抽出ステップによって抽出されたフリッカ検出枠の中から、フリッカ成分の検出に用いるフリッカ検出枠を選択する選択ステップと、
    前記選択ステップが選択したフリッカ検出枠内の画像信号の輝度情報を用いてフリッカ成分を検出する検出ステップと、
    前記検出ステップが検出したフリッカ成分から、当該フリッカ成分を補正するための補正値を生成する生成ステップと、
    前記生成ステップが生成した補正値を前記1画面分の画像信号に対して適用し、フリッカ成分の補正を行う補正ステップとを有することを特徴とするフリッカ補正方法。
JP2007306309A 2007-11-27 2007-11-27 フリッカ補正装置、フリッカ補正方法並びに撮像装置 Active JP4971956B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2007306309A JP4971956B2 (ja) 2007-11-27 2007-11-27 フリッカ補正装置、フリッカ補正方法並びに撮像装置
US12/270,163 US8089524B2 (en) 2007-11-27 2008-11-13 Flicker correction apparatus, flicker correction method, and image sensing apparatus
US13/312,438 US8471923B2 (en) 2007-11-27 2011-12-06 Flicker correction apparatus, flicker correction method and image sensing apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007306309A JP4971956B2 (ja) 2007-11-27 2007-11-27 フリッカ補正装置、フリッカ補正方法並びに撮像装置

Publications (3)

Publication Number Publication Date
JP2009130845A true JP2009130845A (ja) 2009-06-11
JP2009130845A5 JP2009130845A5 (ja) 2011-01-20
JP4971956B2 JP4971956B2 (ja) 2012-07-11

Family

ID=40669358

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007306309A Active JP4971956B2 (ja) 2007-11-27 2007-11-27 フリッカ補正装置、フリッカ補正方法並びに撮像装置

Country Status (2)

Country Link
US (2) US8089524B2 (ja)
JP (1) JP4971956B2 (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2011093112A1 (ja) * 2010-01-29 2011-08-04 ソニー株式会社 画像処理装置、および信号処理方法、並びにプログラム
WO2012073657A1 (ja) * 2010-11-30 2012-06-07 富士フイルム株式会社 画像処理装置、撮影装置、画像処理方法及びホワイトバランス調整方法
JP2016019139A (ja) * 2014-07-08 2016-02-01 株式会社朋栄 フリッカーを除去する画像処理方法とその画像処理装置
JP2016219899A (ja) * 2015-05-15 2016-12-22 カシオ計算機株式会社 撮像装置、撮像方法、及びプログラム

Families Citing this family (54)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7568628B2 (en) 2005-03-11 2009-08-04 Hand Held Products, Inc. Bar code reading device with global electronic shutter control
US7770799B2 (en) 2005-06-03 2010-08-10 Hand Held Products, Inc. Optical reader having reduced specular reflection read failures
JP4971956B2 (ja) * 2007-11-27 2012-07-11 キヤノン株式会社 フリッカ補正装置、フリッカ補正方法並びに撮像装置
JP5099701B2 (ja) * 2008-06-19 2012-12-19 シャープ株式会社 信号処理装置、信号処理方法、制御プログラム、可読記録媒体、固体撮像装置および電子情報機器
JP2010021645A (ja) * 2008-07-08 2010-01-28 Nikon Corp 画像処理装置、撮像装置、および画像処理プログラム
JP2011091775A (ja) 2009-10-26 2011-05-06 Toshiba Corp 固体撮像装置
JP2012010105A (ja) * 2010-06-24 2012-01-12 Sony Corp 画像処理装置、撮像装置、画像処理方法、およびプログラム
US8531542B2 (en) * 2010-09-01 2013-09-10 Apple Inc. Techniques for acquiring and processing statistics data in an image signal processor
TWI469632B (zh) * 2011-11-09 2015-01-11 Silicon Motion Inc 抗閃爍攝錄裝置與攝錄方法
US8917336B2 (en) 2012-05-31 2014-12-23 Apple Inc. Image signal processing involving geometric distortion correction
US8872946B2 (en) 2012-05-31 2014-10-28 Apple Inc. Systems and methods for raw image processing
US9105078B2 (en) 2012-05-31 2015-08-11 Apple Inc. Systems and methods for local tone mapping
US9031319B2 (en) 2012-05-31 2015-05-12 Apple Inc. Systems and methods for luma sharpening
US8817120B2 (en) 2012-05-31 2014-08-26 Apple Inc. Systems and methods for collecting fixed pattern noise statistics of image data
US9077943B2 (en) 2012-05-31 2015-07-07 Apple Inc. Local image statistics collection
US11089247B2 (en) 2012-05-31 2021-08-10 Apple Inc. Systems and method for reducing fixed pattern noise in image data
US8953882B2 (en) 2012-05-31 2015-02-10 Apple Inc. Systems and methods for determining noise statistics of image data
US9142012B2 (en) 2012-05-31 2015-09-22 Apple Inc. Systems and methods for chroma noise reduction
US9332239B2 (en) 2012-05-31 2016-05-03 Apple Inc. Systems and methods for RGB image processing
US9014504B2 (en) 2012-05-31 2015-04-21 Apple Inc. Systems and methods for highlight recovery in an image signal processor
US9743057B2 (en) 2012-05-31 2017-08-22 Apple Inc. Systems and methods for lens shading correction
US9025867B2 (en) 2012-05-31 2015-05-05 Apple Inc. Systems and methods for YCC image processing
JP2014045408A (ja) * 2012-08-28 2014-03-13 Sony Corp 画像データ処理装置、撮像装置、及び画像データ処理方法
US9462194B2 (en) * 2012-12-04 2016-10-04 Hanwha Techwin Co., Ltd. Apparatus and method for calculating flicker-evaluation value
US9293500B2 (en) 2013-03-01 2016-03-22 Apple Inc. Exposure control for image sensors
US9276031B2 (en) 2013-03-04 2016-03-01 Apple Inc. Photodiode with different electric potential regions for image sensors
US9741754B2 (en) 2013-03-06 2017-08-22 Apple Inc. Charge transfer circuit with storage nodes in image sensors
US9549099B2 (en) 2013-03-12 2017-01-17 Apple Inc. Hybrid image sensor
US9319611B2 (en) 2013-03-14 2016-04-19 Apple Inc. Image sensor with flexible pixel summing
US9596420B2 (en) 2013-12-05 2017-03-14 Apple Inc. Image sensor having pixels with different integration periods
US9473706B2 (en) * 2013-12-09 2016-10-18 Apple Inc. Image sensor flicker detection
US10285626B1 (en) 2014-02-14 2019-05-14 Apple Inc. Activity identification using an optical heart rate monitor
US9277144B2 (en) 2014-03-12 2016-03-01 Apple Inc. System and method for estimating an ambient light condition using an image sensor and field-of-view compensation
US9584743B1 (en) 2014-03-13 2017-02-28 Apple Inc. Image sensor with auto-focus and pixel cross-talk compensation
US9497397B1 (en) 2014-04-08 2016-11-15 Apple Inc. Image sensor with auto-focus and color ratio cross-talk comparison
US9538106B2 (en) 2014-04-25 2017-01-03 Apple Inc. Image sensor having a uniform digital power signature
US9686485B2 (en) 2014-05-30 2017-06-20 Apple Inc. Pixel binning in an image sensor
US9912883B1 (en) 2016-05-10 2018-03-06 Apple Inc. Image sensor with calibrated column analog-to-digital converters
US10848684B2 (en) * 2016-08-16 2020-11-24 Sony Corporation Imaging control device, imaging control method, and imaging system
CN109716525B (zh) 2016-09-23 2020-06-09 苹果公司 堆叠式背面照明spad阵列
EP3574344B1 (en) 2017-01-25 2024-06-26 Apple Inc. Spad detector having modulated sensitivity
US10656251B1 (en) 2017-01-25 2020-05-19 Apple Inc. Signal acquisition in a SPAD detector
US10962628B1 (en) 2017-01-26 2021-03-30 Apple Inc. Spatial temporal weighting in a SPAD detector
US10622538B2 (en) 2017-07-18 2020-04-14 Apple Inc. Techniques for providing a haptic output and sensing a haptic input using a piezoelectric body
US10440301B2 (en) 2017-09-08 2019-10-08 Apple Inc. Image capture device, pixel, and method providing improved phase detection auto-focus performance
GB2568924B (en) * 2017-11-30 2022-07-20 Apical Ltd Method of flicker reduction
US11991808B2 (en) * 2018-07-12 2024-05-21 Apple Inc. Electronic device with ambient light flicker sensor
US10848693B2 (en) 2018-07-18 2020-11-24 Apple Inc. Image flare detection using asymmetric pixels
US11019294B2 (en) 2018-07-18 2021-05-25 Apple Inc. Seamless readout mode transitions in image sensors
US11233966B1 (en) 2018-11-29 2022-01-25 Apple Inc. Breakdown voltage monitoring for avalanche diodes
US11563910B2 (en) 2020-08-04 2023-01-24 Apple Inc. Image capture devices having phase detection auto-focus pixels
US11546532B1 (en) 2021-03-16 2023-01-03 Apple Inc. Dynamic correlated double sampling for noise rejection in image sensors
EP4274207A4 (en) 2021-04-13 2024-07-10 Samsung Electronics Co Ltd ELECTRONIC DEVICE AND ITS CONTROL METHOD
US12069384B2 (en) 2021-09-23 2024-08-20 Apple Inc. Image capture devices having phase detection auto-focus pixels

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11252446A (ja) * 1998-03-03 1999-09-17 Matsushita Electric Ind Co Ltd フリッカ補正装置
JP2001119708A (ja) * 1999-10-19 2001-04-27 Matsushita Electric Ind Co Ltd フリッカ検出・補正装置およびフリッカ検出・補正方法
JP2004260574A (ja) * 2003-02-26 2004-09-16 Matsushita Electric Ind Co Ltd フリッカ検出方法およびフリッカ検出装置
JP2007067736A (ja) * 2005-08-30 2007-03-15 Sony Corp フリッカ検出装置とフリッカ除去装置と撮像装置およびフリッカ検出方法

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000023040A (ja) 1998-06-30 2000-01-21 Toshiba Corp 固体撮像装置及びシステムオンチップ型固体撮像素子
CA2322593C (en) * 1999-10-08 2004-02-03 Matsushita Electric Industrial Co., Ltd. Method and apparatus for detection and correction of illumination flicker
JP3823314B2 (ja) 2001-12-18 2006-09-20 ソニー株式会社 撮像信号処理装置及びフリッカ検出方法
JP4423889B2 (ja) * 2002-11-18 2010-03-03 ソニー株式会社 フリッカ低減方法、撮像装置およびフリッカ低減回路
JP4971956B2 (ja) * 2007-11-27 2012-07-11 キヤノン株式会社 フリッカ補正装置、フリッカ補正方法並びに撮像装置

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11252446A (ja) * 1998-03-03 1999-09-17 Matsushita Electric Ind Co Ltd フリッカ補正装置
JP2001119708A (ja) * 1999-10-19 2001-04-27 Matsushita Electric Ind Co Ltd フリッカ検出・補正装置およびフリッカ検出・補正方法
JP2004260574A (ja) * 2003-02-26 2004-09-16 Matsushita Electric Ind Co Ltd フリッカ検出方法およびフリッカ検出装置
JP2007067736A (ja) * 2005-08-30 2007-03-15 Sony Corp フリッカ検出装置とフリッカ除去装置と撮像装置およびフリッカ検出方法

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2011093112A1 (ja) * 2010-01-29 2011-08-04 ソニー株式会社 画像処理装置、および信号処理方法、並びにプログラム
JP2011160090A (ja) * 2010-01-29 2011-08-18 Sony Corp 画像処理装置、および信号処理方法、並びにプログラム
US8890975B2 (en) 2010-01-29 2014-11-18 Sony Corporation Image processing apparatus, signal processing method and computer-readable medium for image flicker correction
WO2012073657A1 (ja) * 2010-11-30 2012-06-07 富士フイルム株式会社 画像処理装置、撮影装置、画像処理方法及びホワイトバランス調整方法
JPWO2012073657A1 (ja) * 2010-11-30 2014-05-19 富士フイルム株式会社 画像処理装置、撮影装置、画像処理方法及びホワイトバランス調整方法
US8743238B2 (en) 2010-11-30 2014-06-03 Fujifilm Corporation Image processing apparatus, imaging apparatus, image processing method, and white balance adjustment method
JP2016019139A (ja) * 2014-07-08 2016-02-01 株式会社朋栄 フリッカーを除去する画像処理方法とその画像処理装置
JP2016219899A (ja) * 2015-05-15 2016-12-22 カシオ計算機株式会社 撮像装置、撮像方法、及びプログラム

Also Published As

Publication number Publication date
JP4971956B2 (ja) 2012-07-11
US20090135276A1 (en) 2009-05-28
US20120075497A1 (en) 2012-03-29
US8471923B2 (en) 2013-06-25
US8089524B2 (en) 2012-01-03

Similar Documents

Publication Publication Date Title
JP4971956B2 (ja) フリッカ補正装置、フリッカ補正方法並びに撮像装置
TWI491214B (zh) 影像擷取裝置及控制影像擷取裝置的方法
JP2010114834A (ja) 撮像装置
JP6518452B2 (ja) 撮像装置及び撮像方法
JP2009077057A (ja) 撮像装置、撮像装置の制御方法
JP2000217033A (ja) 撮像装置及び自動露出制御の補正処理方法
JP6576028B2 (ja) 画像処理装置及び画像処理方法
CN104243863A (zh) 拍摄装置、拍摄方法
JP5106283B2 (ja) ビデオカメラ
JP2005269130A (ja) 手振れ補正機能を有する撮像装置
CN107205123B (zh) 闪光带判断装置及其控制方法、存储介质和摄像设备
JP5311922B2 (ja) 撮像装置及びその制御方法
JP5569361B2 (ja) 撮像装置およびホワイトバランス制御方法
JP5618765B2 (ja) 撮像装置及びその制御方法
CN109964479A (zh) 摄像设备及其控制方法
JP5586415B2 (ja) カメラの制御方法およびカメラ
JP4948248B2 (ja) 撮像装置およびその制御方法
JP2006135381A (ja) キャリブレーション方法およびキャリブレーション装置
US10536621B2 (en) Image capturing apparatus, storage medium and controlling method for correcting a second image by correcting a pixel value of the second image corresponding to a detected defective pixel
JP2017038174A (ja) 撮像装置、その制御方法およびプログラム
JP2011146767A (ja) 撮像装置
JP5341536B2 (ja) 撮像装置
JP2011004085A (ja) 撮像装置およびその制御方法
JP2009200981A (ja) ビデオカメラ
JP2008283477A (ja) 画像処理装置及び画像処理方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20101126

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20101126

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120305

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120309

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120406

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150413

Year of fee payment: 3

R151 Written notification of patent or utility model registration

Ref document number: 4971956

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150413

Year of fee payment: 3