Nothing Special   »   [go: up one dir, main page]

JP6259185B2 - 撮像装置及びその制御方法、プログラム並びに記憶媒体 - Google Patents

撮像装置及びその制御方法、プログラム並びに記憶媒体 Download PDF

Info

Publication number
JP6259185B2
JP6259185B2 JP2012280064A JP2012280064A JP6259185B2 JP 6259185 B2 JP6259185 B2 JP 6259185B2 JP 2012280064 A JP2012280064 A JP 2012280064A JP 2012280064 A JP2012280064 A JP 2012280064A JP 6259185 B2 JP6259185 B2 JP 6259185B2
Authority
JP
Japan
Prior art keywords
luminance
predetermined
value
exposure
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2012280064A
Other languages
English (en)
Other versions
JP2014123914A (ja
JP2014123914A5 (ja
Inventor
窪田 聡
聡 窪田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2012280064A priority Critical patent/JP6259185B2/ja
Priority to US14/108,493 priority patent/US9148561B2/en
Priority to CN201310705994.2A priority patent/CN103888644B/zh
Publication of JP2014123914A publication Critical patent/JP2014123914A/ja
Publication of JP2014123914A5 publication Critical patent/JP2014123914A5/ja
Application granted granted Critical
Publication of JP6259185B2 publication Critical patent/JP6259185B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • H04N23/611Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/71Circuitry for evaluating the brightness variation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/74Circuitry for compensating brightness variation in the scene by influencing the scene brightness using illuminating means
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/743Bracketing, i.e. taking a series of images with varying exposure conditions

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)
  • Exposure Control For Cameras (AREA)
  • Details Of Cameras Including Film Mechanisms (AREA)

Description

本発明は、異なる露出で複数枚の画像を撮影する撮影技術に関する。
被写体を撮影するカメラ等の撮像装置において、被写体の明るさに応じて絞りやシャッター速度を調節して適切な露出で撮影を行う自動露出(AE)制御がある。AE制御では、撮影したい被写体は画像中央に存在することが多いという前提のもとで、画像中央付近の明るさを重点的に測光して使用するものや、画像内の明暗差を検出し、明部領域か暗部領域かいずれを重点的に測光するかを適応的に選択するものもある。画像内の明暗差があるシーンとしては、例えば画像上部の明るい空と画像下部の暗い地面といった空シーンや、背後にある明るい太陽と手前にいる暗い人物といった逆光シーンなどがある。このような各シーンにおいて、ユーザが撮影したいメイン被写体が何であるかをくみ取り、そのメイン被写体が適切な露出になるように撮影できることが望ましい。しかしながら、常にユーザの意図通りのAE制御が実現できるか否かに関して、現実的には意図通りの露出にならないケースは起こり得る。
このように、AEが決定した露出が必ずしもユーザの意図通りの作画にならないことを踏まえ、AEが決定した露出を指定された量だけシフトした明るい画像と暗い画像を同時に撮影する露出ブラケット(AEB)撮影が知られている。AEB撮影では異なる露出の画像が複数枚記録されるため、ユーザが自分の嗜好に合わせて後で選択することができる。
ただ、ブラケット撮影時の露出量は予めユーザが指定しておく必要があるため、シーンに応じて再設定するユーザ操作が必要であった。
例えば、特許文献1には、撮像素子の輝度レンジに着目し、輝度レンジ内に収まるよう露出を決定することが記載されている。
特開2008−104009号公報
上記特許文献1は、撮像素子の輝度レンジに着目して露出を決定するものであり、シーンに応じて適切な露出を決定する作画意図や、写真という作品としての質が考慮されていない。例えば人物の顔領域が画像内に存在するときの適切なAEB露出量や、画像内の色情報に応じた適切なAEB露出量が決定できておらず、最適な画像とならない場合がある。
本発明は、上記課題に鑑みてなされ、その目的は、異なる露出で複数枚の画像を撮影する際に、被写体の状況や背景の状況を考慮し、シーンに応じて適切な露出量を決定できる撮影技術を実現することである。
上記課題を解決し、目的を達成するために、本発明の撮像装置は、像手段と、前記撮像手段により撮像された画像から所定の被写体を検出する検出手段と、撮像された画像の輝度分布を生成する生成手段と、前記検出手段により検出された前記所定の被写体に対応する第1の輝度値が所定の第1の閾値以下であって、前記輝度分布に基づく第2の輝度値が所定の第2の閾値以下であって且つ前記第2の輝度値よりも高輝度領域の前記輝度分布に基づく第3の輝度値が所定の第3の閾値以上である場合に異なる露出で複数枚の画像を撮像する露出ブラケット撮影を実施すると判定するとともに、前記第1の輝度値に対応する第1の露出量と前記第3の輝度値に対応する第3の露出量を用いて前記露出ブラケット撮影を実施するように制御する制御手段と、を有することを特徴とする。
本発明によれば、異なる露出で複数枚の画像を撮影する際に、被写体の状況や背景の状況を考慮し、シーンに応じて適切な露出量を決定できる。
本発明に係る実施形態の撮像装置の構成を示すブロック図。 本実施形態の撮像装置の前面(a)及び背面(b)を示す外観図。 風景シーンを例示する図。 図3に示す画像全体の輝度ヒストグラムを例示する図。 人物シーンを例示する図。 図5に示す画像のブロックごとの輝度情報を例示する図。 図5に示す画像のブロックごとの彩度情報を例示する図。 本実施形態の彩度情報に応じたAEB露出量の補正量を示す図。 本実施形態の撮像装置による撮影動作を示すフローチャート。 図9の露出ブラケット撮影判定処理を示すフローチャート。 図10の輝度ヒストグラムによるAEB露出量算出処理を示すフローチャート。 図10の人物の顔領域の輝度情報によるAEB露出量算出処理を示すフローチャート。 図10の彩度情報によるAEB露出量の補正量算出処理を示すフローチャート。 図10のAEB撮影実施判定処理を示すフローチャート。
以下に、本発明を実施するための形態について詳細に説明する。尚、以下に説明する実施の形態は、本発明を実現するための一例であり、本発明が適用される装置の構成や各種条件によって適宜修正又は変更されるべきものであり、本発明は以下の実施の形態に限定されるものではない。また、後述する各実施形態の一部を適宜組み合わせて構成しても良い。
以下、本発明を、例えば、適正露出とは異なる露出で複数枚の画像を撮影する露出ブラケット撮影機能を有するデジタルカメラ等の撮像装置に適用した実施形態について説明する。
<装置構成>図1を参照して、本発明に係る実施形態の撮像装置100の構成及び機能の概略について説明する。
図1において、撮影レンズ101はフォーカスレンズやズームレンズを備え、光学系制御部109の動作指令に従って、撮像部103の受光面上に焦点を合わせて被写体の反射光である光学像を結像させる。絞り/シャッター102は、光学系制御部109の動作指令に従って、被写体の反射光である光学像の撮像部103への入射光量を制御する。光学系制御部109は、システム制御部115からの制御信号に従って、撮影レンズ101の光軸方向の位置や絞り/シャッター102の動作を制御し、レンズを通過した光の光量を調節することができる。光量を調節する方法としては、絞り口径を変化させる光彩絞り、光透過量を落とすNDフィルタ、全閉により遮光する機械式シャッターなど様々な形態があり、用途に応じて使い分けられる。また、光学系制御部109は、装置のブレに応じてレンズを光軸方向以外にも駆動することで手ぶれ補正を行うことも可能である。また、手ぶれ補正は、撮像部103を変位させることでも同様に実現可能である。
撮像部103は、受光面に結像した光学像をCCDやCMOS等の光電変換素子によって電気信号に変換する。また、撮像部103は、A/D変換部を有し、光電変換されたアナログ信号をデジタル信号に変換する。また、撮像部103は、アナログ信号からノイズを除去するCDS回路や、デジタル信号に変換する前にアナログ信号を非線形増幅するための非線形増幅回路を含む。撮像制御部110は、システム制御部115からの制御信号に従って、撮像部103での電荷蓄積時間やA/D変換部やCDS回路や非線形増幅回路を制御する。撮像部103は、撮像制御部110の動作指令に従って、光電変換素子への露光、露光量の調節、電荷信号の読み出し、増幅、減衰、デジタル変換などを行う。撮像部103から出力されたデジタル信号は画像処理部104に出力されるか、メモリ105に一時記憶される。メモリ105は、高速な内蔵メモリの一例であり、画像データの一時的な記憶を司る高速バッファとして、或いは、画像データの圧縮/伸張処理における作業用メモリ等として使用される。
ストロボ111は、発光制御部112の動作指令に従って、ストロボ光を発光する。発光制御部112は、システム制御部115からの制御信号に従って、ストロボ111を発光させることにより、被写体の輝度が適正露出よりも暗い場合に十分な光量が得られ、暗いシーンであってもシャッター速度を高速に保ち、最適な明るさの画像が得られる。
画像処理部104は、撮像部103から直接出力され、あるいはメモリ105から読み出されたデジタル信号に対して、所定の画素補間や画像縮小等のリサイズ処理と色変換処理とを行って、画像データを生成する。また、画像処理部104は、生成した画像データをメモリ105に一時記憶し、外部メモリ90や外部機器92に記録・出力するために、生成した画像データのフォーマット変換を行う
また、画像処理部104は、撮像部103から順次出力されるデジタル信号から輝度成分や周波数成分を抽出し、これらを評価値として用いることでAE(自動露出)処理やAF(オートフォーカス)処理、AWB(オートホワイトバランス)処理等を行う。さらに、画像処理部104は、撮像部103から得た画像データを現像処理して画質を調節することができ、色合い、階調、明るさ、などを適切に設定して鑑賞に適した画像に仕上げる。さらにまた、画像処理部104は、撮像部103から得た画像データ中から人物の顔に代表される被写体を検出する被写体検出機能を有する。画像処理部104は、被写体検出機能を用いて撮影画像中の人物の顔領域の位置、大きさ、傾き、顔の確からしさに関する特徴情報を抽出すると共に、抽出した特徴情報を用いて、特定の個人であるかを認証する個人認証機能を有する。個人認証では、画像処理部104は、不揮発性メモリ106に予め登録されている個人の特徴情報を読み出し、撮影画像から抽出した人物の顔の特徴情報と比較して一致度を判定する。また、画像処理部104は、人物の顔の詳細な解析を行うことができ、例えばその人物の眼を解析して視線方向を検出することができる。
表示部108は、例えば、LCD等であり、画像の表示や操作補助のための表示、カメラの状態表示を行う他、撮影時には撮影画面にAF領域を表示する。
不揮発性メモリ106は、電気的に消去・記録可能なメモリであり、例えばフラッシュメモリ等が用いられる。不揮発性メモリ106には、画像処理部104により生成された画像ファイル等が記憶されるが、システム制御部115のROMとして、動作用の定数、プログラムも記憶される。ここでいう、プログラムとは、本実施形態にて後述する各種フローチャートを実行するためのプログラムのことである。
システム制御部115は、CPU、ROM、RAMを有し、CPUがROMに格納されたプログラムをRAMの作業エリアに展開し、実行することにより、装置全体の動作を制御する。システム制御部115は、前述した不揮発性メモリ106に記録されたプログラムを実行することで、後述する本実施形態の各処理を実現する。また、システム制御部115は画像処理部104、メモリ105、表示部108等を制御することにより表示制御も行う。
撮像装置100にはメモリカード等の外部メモリ90が着脱可能なスロットが設けられ、メモリインターフェース113を介して外部メモリ90へのアクセスが可能である。また、撮像装置100には、外部機器92を有線または無線により通信可能に接続するための入出力インタフェース114を備え、外部機器92から画像ファイルやコマンド等を送受信することができる。
操作部107は、例えば、電源スイッチ、シャッタースイッチ、露出補正や絞り値の設定、画像再生時の設定等の各種設定を行うメニュースイッチ、撮影レンズのズーム動作を指示するズームレバー、撮影モードと再生モードのモード切替スイッチ等を含む。シャッタースイッチは、半押しにより第1スイッチ信号SW1をシステム制御部115へ出力し、AE処理やAF処理等の撮影準備動作を行い、全押しにより第2スイッチ信号SW2をシステム制御部115へ出力し、撮影指示を行うスイッチである。
次に、本実施形態の撮像装置の外観を示す図2において、装置前面には撮影レンズ101が配置され、被写体像を捉えることができる。また、装置前面にはストロボ111が配置されている。操作部材200〜208は、操作部107としてユーザ操作を受け付けて、該当する操作信号をシステム制御部115へ出力する。
<露出ブラケット(AEB)撮影>次に、図3ないし図8を参照して、本実施形態の撮像装置によAEB露出量を決定する方法について説明する。
図3の風景シーンにおいて、画像内には雲501、503、空505、木507、509、地面511が存在しており、雲や空は輝度が高く、木や地面は輝度が低い状態であるとする。このような明暗差があるシーンにおいて画像全体を平均するように測光した場合、雲や空は適正輝度よりも明るく白飛びしたようになり、木や地面は適正輝度よりも暗く黒潰れしたような印象の悪い画像になる場合がある。このような明暗差のあるシーンに対してAEB撮影を行うことで、雲や空の見栄えを重視した露出で撮影した画像と、木や地面の見栄えを重視した露出で撮影した画像を1組として撮影できる。
図4(a)は図3の画像全体の輝度ヒストグラムを示しており、横軸は輝度値Yvalue、縦軸は各輝度値に分布している画素数Numを表している。図中のRefY503は、通常のAE処理における適正輝度値を示している。通常のAE処理では、測光領域の輝度値が適正輝度RefY503に近づくように露出値を決定する。適正輝度RefY503を基準にすると、輝度ヒストグラムには低輝度側と高輝度側にそれぞれ大きな分布の山である主分布が存在しており、これから明暗差のあるコントラストの高い画像であることが分かる。輝度ヒストグラムを用いてAEB露出量を算出する1つの方法として、低輝度側と高輝度側に主分布を持つ領域が適正輝度RefY503に近づくような露出値を求める方法がある。
図4(a)において、適正輝度RefY503より低輝度側にある主分布の頂点の輝度値をLowY511、RefY503より高輝度側にある主分布の頂点の輝度値をHiY513とする。この場合、低輝度ピーク値LowY511を適正輝度RefY503に近づけるためには、以下の式で算出された段数だけ明るくなるようなAEB露出量を用いれば良い。
ΔMinus=log2(RefY/LowY)
同様に、高輝度ピーク値HiY513を適正輝度RefY503に近づけるためには、以下の式で算出された段数だけ暗くなるようなプラスAEB露出量を用いれば良い。
ΔPlus=log2(RefY/HiY)
図4(b)は図3の画像全体の輝度分布から得た輝度ヒストグラムを示したものであるが、低輝度側と高輝度側それぞれを適正輝度RefY503に近づけるような低輝度側のAEB露出量と高輝度側のAEB露出量の算出方法が図4(a)と異なっている。図4(a)では、低輝度ピーク値LowY511及び高輝度ピーク値HiY513がそれぞれ適正輝度RefY503に近づくようにAEB露出量を算出した。一方、図4(b)では、低輝度領域に含まれる画素のY値の平均値(低輝度平均値)LowAveY521と、高輝度領域に含まれる画素のY値の平均値(高輝度平均値)HiAveY523が適正輝度RefY503に近づくようにAEB露出量を算出している。
図4(a)に示す算出方法では、低輝度ピーク値LowY511及び高輝度ピーク値HiY513をそれぞれ適正輝度RefY503に近づけることができる一方、多少の輝度のバラツキにも反応する敏感な仕様となる。よって、求める効果に応じて、図4(a)のように輝度のピーク値を用いる方法と、図4(b)のように所定の条件を満たす輝度領域の平均値を用いる方法とを使い分けても良い。
図5は画像中に人物が存在するシーンを示しており、画像内には雲501、503、空505、顔551、人物胴体553、地面511が存在しており、雲や空は輝度が高く、人物や地面は輝度が低い状態であるとする。このような人物シーンに対してAEB撮影を行う場合、高輝度側に露出を補正するときに人物の顔領域の輝度が適正輝度付近になることが望ましい。
人物シーンに対して人物の顔領域が適正輝度になるようなAEB露出量を求める場合、図4に示す輝度ヒストグラムにおいて低輝度側に主分布が存在するからと言って、この分布のピーク値や平均輝度値を適正輝度RefY503に近づけたとしても、人物の顔領域が適正輝度になるとは限らない。低輝度側の分布にはその人物の胴体領域や、地面の暗い部分も含まれており、正確な顔領域の輝度値が原理的に分からない。ゆえに、顔領域の輝度値を正確に求めるのであれば画像全体の輝度ヒストグラムではなく、画像から顔領域のみの輝度値を算出することが必要である。
図6は、図に示す画像をブロックで表現した様子を例示している。図示の例では、画像を縦6ブロック、横8ブロックの計48ブロックに分割し、各ブロックの輝度値を算出する。次に、これら48のブロックのうち、図5の人物の顔551に相当する4つのブロック651の平均輝度値を顔領域の輝度値FaceYとして算出する。そして、顔領域の輝度値FaceYを適正輝度にするためには、以下の式で算出された段数だけ明るくなるように顔領域用のAEB露出量ΔPlusFaceを補正すれば良い。

ΔPlusFace=log2(FaceY/RefY)
図6では画像を48ブロックに分割しているが、さらに細かく分割すればより正確な顔領域の輝度値を算出することも可能であり、また、マトリクス状にせずに顔領域全体をカバーできる任意の領域を設定して算出しても良い。
図4では、画像全体の輝度ヒストグラムを用いてAEB露出量を算出する方法を説明したが、輝度ヒストグラムだけによる算出方法では、シーンによっては最適な露出にならない場合がある。例えば画像中に機関車のような低輝度かつ低彩度の黒い物体が存在する場合、黒い物体の輝度値を適正輝度に近づけるようなAEB露出量を算出すると、黒い物体が明るくなりすぎて不自然な印象を与える場合がある。また、画像内に青空、紅葉、新緑など、高輝度かつ高彩度の被写体が存在する場合、彩度の高い領域の輝度値を適正輝度に近づけると、まだ明るすぎる場合があり、もう少し低輝度にした方が高彩度の色が際立つ場合がある。
図7は図3の風景シーンの画像を図6と同様に48ブロックに分割し、各ブロックの彩度値を示している。図7において、白い雲の領域701、703は彩度が低く、青空の領域705は彩度が高い状態、木707、709と地面711は彩度が低い状態とする。図7の状態を、図4の輝度ヒストグラムと対応付けると、太枠751内のブロックが高輝度領域、太枠753内のブロックが低輝度領域となる。そして、高輝度/高彩度領域の平均彩度値HiChromaを算出し、HiChromaに基づいて高輝度領域を適正輝度に近づけるようにAEB露出量ΔPlusを補正する。また、低輝度/低彩度領域の平均彩度値LowChromaを算出し、LowChromaに基づいて低輝度領域を適正輝度に近づけるようにAEB露出量ΔMinusを補正する。なお、ここで用いるAEB露出量の補正量を、図8に示すようなテーブルに予め用意しておいても良い。図8(a)は、低輝度/低彩度領域の彩度値LowChromaに応じてプラス補正量ΔPlusHoseiが決められており、彩度が低いほど、被写体の明るさを暗くするような露出をアンダー側に補正するパラメータが設定されている。同様に、図8(b)は、高輝度/高彩度領域の彩度値HiChromaに応じてマイナス補正量ΔMinusHoseiが決められており、彩度が高いほど、被写体の明るさを暗くするような露出をアンダー側に補正するようなパラメータが設定されている。
<撮影動作>次に、図9ないし図14を参照して、本実施形態の撮像装置による撮影動作について説明する。
なお、図9ないし図14の処理は、システム制御部115のCPUがROMに格納されたプログラムをRAMの作業エリアに展開し、実行することにより実現される。
図9において、装置の電源がオンされると、システム制御部115は、システムの起動処理として、カメラシステムが動作するのに必要なCPUやLSIへの電源供給、クロック供給、メモリやOSの初期化等を行う(ステップS901)。
ステップS902では、システム制御部115は、光学系制御部109や撮像制御部110により、撮影レンズ101や絞り/シャッター102、撮像部103の起動処理を行う。
ステップS903では、システム制御部115は、画像処理部104により、撮像部103から順次出力される画像信号から輝度成分や色成分、合焦情報等を抽出してAE処理やAF処理、AWB処理を行う。
ステップS904では、システム制御部115は、画像処理部104により、撮像部103から順次出力される画像信号に現像処理を施して画像データを生成し、表示部108に表示する(ライブビュー)。
ステップS905では、システム制御部115は、画像処理部104が表示部108に表示される画像データを用いて、顔検出処理、個人認証処理、視線検出処理等を行う。
ステップS906では、システム制御部115は、ライブビューの状態から、シャッタースイッチが半押しされ、第1スイッチ信号SW1が検出されるまで待つ。そして、第1スイッチ信号SW1が検出された場合にはステップS907へ進む。
ステップS907では、システム制御部115は、AEB撮影実施判定処理やAEB露出量算出処理を行う。これらの処理の詳細については図10ないし図14で後述する。
ステップS908では、システム制御部115は、画像処理部104により、撮影する画像のAE処理やAF処理を行う。
ステップS909では、システム制御部115は、シャッタースイッチが全押しされ、第2スイッチ信号SW2が検出されるのを待つ。そして、第2スイッチ信号SW2が検出された場合にはステップS910へ進み、第1スイッチ信号SW1が検出されなくなった場合にはステップS906へ戻る。
ステップS910では、システム制御部115は、ステップS907での処理の結果に応じてAEB撮影を実施するか、AEB撮影を実施しない場合にはステップS908で決定された撮影条件に応じて通常の撮影を実施する。
<AEB撮影実施判定処理及びAEB露出量算出処理>次に、図10を参照して、図9のステップS907におけるAEB撮影実施判定処理及びAEB露出量算出処理について説明する。
図10において、ステップS1001では、システム制御部115は、図3及び図4で説明した画像全体の輝度ヒストグラムを用いてAEB露出量を算出する。
ステップS1002では、システム制御部115は、図5及び図6で説明した人物の顔領域の輝度値FaceYを用いて顔領域用のAEB露出量ΔPlusFaceを算出する。
ステップS1003では、システム制御部115は、図7で説明した彩度情報を用いた顔領域用のAEB露出量の補正量ΔPlusHosei、ΔMinusHoseiを算出する。
ステップS1004では、システム制御部115は、ステップS1001〜S1003で算出された値に基づいて、AEB撮影を実施するか否かの判定及びAEB露出量を決定する。
<画像全体の輝度ヒストグラムによるAEB露出量算出処理>次に、図11を参照して、図10のステップS1001における画像全体の輝度ヒストグラムを用いたAEB露出量の算出処理について説明する。
図11において、ステップS1101では、システム制御部115は、画像処理部104により、撮像部103から順次出力される画像信号を現像処理した画像データを用いて輝度ヒストグラムを生成する。
ステップS1102、S1103では、システム制御部115は、ステップS1101で生成された輝度ヒストグラムから、低輝度領域の輝度値LowY、高輝度領域の輝度値HiYを算出する。
ステップS1104では、システム制御部115は、ステップS1101で生成された輝度ヒストグラムから、中間輝度に分布する画素の割合を算出する。中間輝度とは、図4(c)に示すように、適正輝度RefYを基準とした所定の範囲内の輝度領域を表している。そして、画像全体の画素数AllPixelNumに対する、中間輝度帯に分布する画素MidPixelNumの割合を中間輝度割合MidYRatioとして以下の式から算出される。
MidYRatio=MidPixelNum/AllPixelNum*100
ステップS1105では、システム制御部115は、ステップS1104で算出した中間輝度割合MidYRatioが所定の閾値ThMidYRatio以下であるか判定し、この判定結果に基づいてAEB撮影を実施するか否かを判定する。中間輝度割合が所定の閾値を超えるシーンの場合、画像中の明るさが適正輝度付近になっており、明暗差が少ないことが分かる。このようなシーンでAEB撮影を行っても、画像全体が黒潰れしたり、白飛びするだけで、露出の補正によって適正露出になる領域が少ない。よって、中間輝度割合が所定の閾値を超えるシーンの場合は、AEB撮影により得られる効果が少ないので、ステップS1110で、システム制御部115は、AEB撮影を実施しないと判定する。
ステップS1106では、システム制御部115は、低輝度領域の輝度LowYが所定の第1の閾値ThLowY以下であるか判定し、この判定結果に基づいてAEB撮影を実施するか否かを判定する。低輝度領域の輝度LowYが適正輝度に近い場合、低輝度領域を適正輝度に近づけるためのAEB露出量も小さくなり、AEB撮影によって複数枚の撮影を行う意味が薄れてくる。このため、低輝度領域の輝度が所定の第1の閾値を超えるシーンの場合、ステップS1110で、システム制御部115は、AEB撮影を実施しないと判定する。
ステップS1107では、システム制御部115は、低輝度領域の輝度が所定の第1の閾値以下であるので、露出を高輝度側に補正するためのAEB露出量ΔPlusを以下の式により算出する。
ΔPlus=log2(RefY/LowY)
ステップS1108では、システム制御部115は、高輝度領域の輝度HiYが所定の第2の閾値ThHiY以上であるか判定し、この判定結果に基づいてAEB撮影を実施するか否かを判定する。高輝度領域の輝度HiYが適正輝度に近い場合、高輝度領域を適正輝度に近づけるためのAEB露出量も小さくなり、AEB撮影によって複数枚の撮影を行う意味が薄れてくる。このため、高輝度領域の輝度が所定の第2の閾値未満のシーンの場合、ステップS1110で、システム制御部115は、AEB撮影を実施しないと判定する。
ステップS1109では、システム制御部115は、高輝度領域の輝度が所定の第2の閾値以上であるので、露出を低輝度側に補正するためのAEB露出量ΔMinusを以下の式により算出する。
ΔMinus=log2(RefY/HiY)
このようにして、輝度ヒストグラムを用いてAEB露出量ΔPlus及びΔMinusが算出される。
<人物の顔領域の輝度情報によるAEB露出量算出処理>次に、図12を参照して、図10のステップS1002における人物の顔の輝度情報を用いたAEB露出量の算出処理について説明する。
画像中に人物の顔が存在するか否か、及び、人物の顔領域の輝度値は、図5及び図6で説明したように、FaceYとして求めることができる。
図12において、ステップS1201では、システム制御部115は、人物の顔領域の輝度値FaceYが所定の閾値ThFaceY以下であるか判定する。判定の結果、所定の閾値以下の場合は、ステップS1202に進み、所定の閾値を超える場合は、ステップS1203に進む。
ステップS1202では、システム制御部115は、人物の顔の輝度値が暗めであり、AEB撮影を実施して顔領域の輝度値を適正輝度に補正するためのAEB露出量ΔFaceを以下の式により算出する。
ΔFace=log2(FaceY/RefY)
ステップS1203では、システム制御部115は、AEB撮影を実施しないので、ΔFace=0とする。これは、通常のAE処理では顔領域の明るさがオーバー側にシフトしないように制御されることを前提としているからである。しかしながら、これに限らず、例えば背景が黒いシーンにおいて、背景に影響されて顔領域の輝度がオーバー側にシフトするようなAE処理の場合、これを考慮して、明るすぎる顔を適正露出に補正するためにAEB撮影を実施するようにしても良い。
ステップS1204では、システム制御部115は、ステップS1202で算出された人物の顔領域の輝度値FaceYと適正輝度との差分ΔFaceに基づいて、顔領域用のAEB露出量ΔPlusFaceを以下の式により算出する。
ΔPlusFace=−ΔFace
<彩度情報によるAEB露出量の補正量算出処理>次に、図13を参照して、図10のステップS1003における彩度情報を用いたAEB露出量の補正量算出処理について説明する。
図13において、ステップS1301では、システム制御部115は、図7で説明したように、画像の低輝度/低彩度領域の彩度値LowChromaを算出する。
同様に、ステップS1302では、システム制御部115は、高輝度/高彩度領域の彩度値HiChromaを算出する。
ステップS1303では、システム制御部115は、低輝度/低彩度領域の彩度値LowChromaが所定の第3の閾値ThLowChroma以下であるか判定する。判定の結果、所定の第3の閾値以下の場合は、ステップS1304に進み、所定の第3の閾値を超える場合は、ステップS1305に進む。
ステップS1304では、システム制御部115は、図8(a)のようなテーブルTABLELow(LowChroma)に従ってAEB露出量を補正するための補正量ΔPlusHoseiを算出する。これは、低輝度/低彩度領域の被写体は、むやみに適正輝度で撮影するのではなく、ある程度暗めに撮影した方が、その被写体が持つ雰囲気を再現できる場合があるためである。
ステップS1305では、システム制御部115は、低輝度/高彩度領域の被写体は、適正輝度で撮影した方が見栄えが良いため、露出がアンダーにならないようにAEB露出量を補正しないでそのまま使用する(ΔPlusHosei=0)。
ステップS1306では、システム制御部115は、高輝度/高彩度領域の彩度値HiChromaが所定の第4の閾値ThHiChroma以上であるか判定する。判定の結果、所定の第4の閾値以上の場合は、ステップS1307に進み、所定の第4の閾値未満の場合は、ステップS1308に進む。
ステップS1307では、システム制御部115は、図8(b)のようなテーブルTABLEHi(HiChroma)に従ってAEB露出量を補正するための補正量ΔMinusHoseiを算出する。青空や夕景など、高輝度かつ高彩度の被写体は、適正輝度よりも多少アンダーで撮影すると、色再現性が良くなる場合があるからである。
ステップS1308では、システム制御部115は、露出がアンダーにならないようにAEB露出量を補正しないでそのまま使用する(ΔMinusHosei=0)。これは、白い雲や雪のシーンなど、高輝度/低彩度領域の被写体は、適正輝度で撮影した方が見栄えが良いためである。
<AEB撮影実施判定処理>次に、図14を参照して、図10のステップS1004におけるAEB撮影実施判定処理について説明する。
図14の処理では、図11ないし図13で算出されたAEB露出量ΔPlus、ΔMinus、ΔPlusFace及び補正量ΔPlusHosei、ΔMinusHoseiを用いて、AEB撮影を実施するか否かを判定し、最終的なAEB露出量を決定する。
図14において、ステップS1401では、システム制御部115は、図12で説明した人物の顔領域の輝度値から算出される顔領域用AEB露出量ΔPlusFaceが値を持っているか判定する。判定の結果、値を持っている場合は、ステップS1402に進み、値を持っていない場合は、ステップS1403に進む。
ステップS1402では、システム制御部115は、画像中に顔領域が存在し、顔領域が低輝度の場合であるので、顔領域用AEB露出量ΔPlusFaceの値をAEB露出量ΔPlusFixに設定する。
ステップS1403では、システム制御部115は、図11で説明した画像全体の輝度ヒストグラムから算出されるAEB露出量ΔPlusが値を持っているか判定する。判定の結果、値を持っている場合は、ステップS1404に進み、値を持っていない場合は、ステップS1410に進む。
ステップS1404では、システム制御部115は、プラスAEB露出量ΔPlusの値をAEB露出量ΔPlusFixに設定する。
ステップS1405では、システム制御部115は、プラスAEB露出量ΔPlusFixに、図13で説明した彩度を用いて算出された補正量ΔPlusHoseiを加算する。
ステップS1406では、システム制御部115は、図11で説明した画像全体の輝度ヒストグラムから算出されるAEB露出量ΔMinusが値を持っているか判定する。判定の結果、値を持っている場合は、ステップS1407に進み、値を持っていない場合は、ステップS1410に進む。
ステップS1407では、システム制御部115は、AEB露出量ΔMinusの値をAEB露出量ΔMinusFixに設定する。
ステップS1408では、システム制御部115は、AEB露出量ΔMinusFixに、図13で説明した彩度を用いて算出された補正量ΔMinusHoseiを加算する。
ステップS1409では、システム制御部115は、AEB露出量ΔPlusFix、ΔMinusFixの値に基づいてAEB撮影を実施し、本処理を終了する。
ステップS1410では、システム制御部115は、AEB撮影を実施せずに本処理を終了する。
以上説明したように、本実施形態によれば、画像全体の輝度ヒストグラム、人物の顔領域の輝度、低輝度領域や高輝度領域の彩度に基づいて適切なAEB露出量が決定されるので、シーンに応じた最適なAEB撮影を実施することができる。なお、本実施形態では、彩度に基づいてAEB露出量を決定しているが、彩度に基づいてAEB露出量を決定しなくても、従来技術と比較するとシーンに応じた最適なAEB撮影を実施することができる。
なお、本発明は、以下の処理を実行することによっても実現される。即ち、本実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステムあるいは装置に供給し、そのシステムあるいは装置のコンピュータ(またはCPUやMPUなど)がプログラムを読み出して実行する処理である。

Claims (11)

  1. 像手段と、
    前記撮像手段により撮像された画像から所定の被写体を検出する検出手段と、
    撮像された画像の輝度分布を生成する生成手段と
    記検出手段により検出された前記所定の被写体に対応する第1の輝度値が所定の第1の閾値以下であって、前記輝度分布に基づく第2の輝度値が所定の第2の閾値以下であって且つ前記第2の輝度値よりも高輝度領域の前記輝度分布に基づく第3の輝度値が所定の第3の閾値以上である場合に異なる露出で複数枚の画像を撮像する露出ブラケット撮影を実施すると判定するとともに、前記第1の輝度値に対応する第1の露出量と前記第3の輝度値に対応する第3の露出量を用いて前記露出ブラケット撮影を実施するように制御する制御手段と、を有することを特徴とする撮像装置。
  2. 前記生成手段は、前記撮像された画像を複数のブロックに分割し、各ブロックの輝度情報から前記輝度分布として輝度ヒストグラムを生成し、
    前記検出手段は、前記撮像された画像中の人物の顔領域を検出し、
    前記制御手段は、前記第1の輝度値と、前記輝度ヒストグラムにおける低輝度側の主分布に基づく前記第2の輝度値と前記輝度ヒストグラムにおける高輝度側の主分布に基づく前記第3の輝度値とに基づいて前記露出ブラケット撮影を実施するか判定することを特徴とする請求項1に記載の撮像装置。
  3. 前記生成手段は、前記撮像された画像を複数のブロックに分割し、各ブロックの輝度情報から前記輝度分布として輝度ヒストグラムを生成し、
    前記制御手段は、前記輝度ヒストグラムから、画像全体の画素数に対する中間輝度領域に分布する画素の割合である中間輝度割合を算出し、
    前記中間輝度割合が所定の閾値以下ではない場合に前記露出ブラケット撮影を実施しないと判定することを特徴とする請求項1に記載の撮像装置。
  4. 前記制御手段は、前記第1の輝度値が前記所定の第1の閾値よりも大きく、前記第2の輝度値が前記所定の第2の閾値以下であって前記第3の輝度値が前記所定の第3の閾値以上である場合に前記露出ブラケット撮影を実施すると判定するとともに、前記第2の輝度値に対応する第2の露出量と前記第3の露出量を用いて前記露出ブラケット撮影を実施するように制御することを特徴とする請求項2に記載の撮像装置。
  5. 前記検出手段は、前記所定の被写体として、前記撮像された画像中の人物の顔領域を検出し
    制御手段は、前記第1の輝度値が前記所定の第1の閾値よりも大きく、前記第3の輝度値が前記所定の第3の閾値よりも小さい場合に前記露出ブラケット撮影を実施しないと判定することを特徴とする請求項1に記載の撮像装置。
  6. 前記第1の露出量は、前記第1の輝度値が前記所定の第1の閾値以下である場合に、前記第1の輝度値が適正露出に近づくよう露出量であることを特徴とする請求項5に記載の撮像装置。
  7. 前記生成手段は、前記撮像された画像を複数のブロックに分割し、各ブロックの彩度情報を算出し、
    前記制御手段は、前記低輝度側の主分布に含まれる各ブロックの彩度情報が所定の第の閾値以下の場合、前記低輝度側の主分布に基づいて算出された露出量をアンダー側に補正することを特徴とする請求項2または4に記載の撮像装置。
  8. 前記生成手段は、前記撮像された画像を複数のブロックに分割し、各ブロックの彩度情報を算出し、
    前記制御手段は、前記高輝度側の主分布に含まれる各ブロックの彩度情報が所定の第の閾値以上の場合、前記高輝度側の主分布に基づいて算出された露出量をアンダー側に補正することを特徴とする請求項2または4に記載の撮像装置。
  9. 像手段を有する撮像装置の制御方法であって、
    前記撮像手段により撮像された画像から所定の被写体を検出する検出工程と、
    撮像された画像の輝度分布を生成する生成工程と
    記検出工程で検出された前記所定の被写体に対応する第1の輝度値が所定の閾値以下であって、前記輝度分布に基づく第2の輝度値が所定の第2の閾値以下であって且つ前記第2の輝度値よりも高輝度領域の前記輝度分布に基づく第3の輝度値が所定の第3の閾値以上である場合に異なる露出で複数枚の画像を撮像する露出ブラケット撮影を実施すると判定するとともに、前記第1の輝度値に対応する第1の露出量と前記第3の輝度値に対応する第3の露出量を用いて前記露出ブラケット撮影を実施するように制御する制御工程と、を有することを特徴とする撮像装置の制御方法。
  10. 請求項9に記載の制御方法をコンピュータに実行させるためのプログラム。
  11. コンピュータに、請求項9に記載の制御方法を実行させるためのプログラムを記憶したコンピュータにより読み取り可能な記憶媒体。
JP2012280064A 2012-12-21 2012-12-21 撮像装置及びその制御方法、プログラム並びに記憶媒体 Expired - Fee Related JP6259185B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2012280064A JP6259185B2 (ja) 2012-12-21 2012-12-21 撮像装置及びその制御方法、プログラム並びに記憶媒体
US14/108,493 US9148561B2 (en) 2012-12-21 2013-12-17 Image capturing apparatus, executable autoexposure bracketing and control method thereof
CN201310705994.2A CN103888644B (zh) 2012-12-21 2013-12-19 摄像设备及其控制方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012280064A JP6259185B2 (ja) 2012-12-21 2012-12-21 撮像装置及びその制御方法、プログラム並びに記憶媒体

Publications (3)

Publication Number Publication Date
JP2014123914A JP2014123914A (ja) 2014-07-03
JP2014123914A5 JP2014123914A5 (ja) 2016-02-12
JP6259185B2 true JP6259185B2 (ja) 2018-01-10

Family

ID=50957356

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012280064A Expired - Fee Related JP6259185B2 (ja) 2012-12-21 2012-12-21 撮像装置及びその制御方法、プログラム並びに記憶媒体

Country Status (3)

Country Link
US (1) US9148561B2 (ja)
JP (1) JP6259185B2 (ja)
CN (1) CN103888644B (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11928797B2 (en) 2018-10-24 2024-03-12 Samsung Electronics Co., Ltd. Electronic device and method for acquiring a synthesized image
US11933599B2 (en) 2018-11-08 2024-03-19 Samsung Electronics Co., Ltd. Electronic device and method for controlling same

Families Citing this family (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014165527A (ja) * 2013-02-21 2014-09-08 Kyocera Corp 撮像装置及び制御プログラム並びに露出量制御方法
US8958658B1 (en) * 2013-09-10 2015-02-17 Apple Inc. Image tone adjustment using local tone curve computation
CN105407295B (zh) * 2015-10-30 2019-02-22 努比亚技术有限公司 移动终端拍摄装置和方法
JP6643109B2 (ja) * 2016-01-26 2020-02-12 キヤノン株式会社 撮像装置、その制御方法とプログラム
JP6723092B2 (ja) * 2016-06-24 2020-07-15 キヤノン株式会社 撮像装置およびその制御方法ならびにプログラム
US10375317B2 (en) * 2016-07-07 2019-08-06 Qualcomm Incorporated Low complexity auto-exposure control for computer vision and imaging systems
DE112017000017T5 (de) * 2016-08-17 2018-05-24 Google Inc. Kameraeinstellungsanpassung basierend auf vorhergesagten umgebungsfaktoren und nachverfolgungssysteme, die diese einsetzen
CN109845241B (zh) * 2016-10-04 2020-12-15 富士胶片株式会社 摄像装置、摄像方法及记录介质
CN106780626B (zh) * 2016-12-21 2019-03-05 维沃移动通信有限公司 一种摄像头参数调节的方法及移动终端
CN107509044B (zh) * 2017-08-31 2020-08-18 Oppo广东移动通信有限公司 图像合成方法、装置、计算机可读存储介质和计算机设备
JP7197981B2 (ja) * 2018-01-24 2022-12-28 キヤノン株式会社 カメラ、端末装置、カメラの制御方法、端末装置の制御方法、およびプログラム
TWI695622B (zh) * 2018-09-06 2020-06-01 華晶科技股份有限公司 影像處理方法及影像處理裝置
CN112153296B (zh) * 2019-06-27 2022-04-05 杭州海康威视数字技术股份有限公司 一种自动曝光控制方法、装置及带有fpga的摄像机
KR20210016984A (ko) * 2019-08-06 2021-02-17 삼성전자주식회사 얼굴이 포함된 영상의 노출 값을 조절하는 전자 장치
CN110572585B (zh) * 2019-08-26 2021-03-23 Oppo广东移动通信有限公司 图像处理方法、装置、存储介质及电子设备
CN110569822A (zh) * 2019-09-16 2019-12-13 深圳市商汤科技有限公司 图像处理方法及装置、电子设备和存储介质
CN112153304B (zh) * 2020-09-28 2021-11-05 成都微光集电科技有限公司 曝光调整方法和系统、驾驶员监控系统、高级驾驶辅助系统
JP7527947B2 (ja) * 2020-12-14 2024-08-05 キヤノン株式会社 撮像装置、その制御方法およびプログラム
JPWO2023166556A1 (ja) * 2022-03-01 2023-09-07

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003348438A (ja) * 2002-05-29 2003-12-05 Fuji Photo Film Co Ltd 画像撮影方法および装置、画像選択方法および装置並びにプログラム
JP4567618B2 (ja) * 2006-02-23 2010-10-20 富士フイルム株式会社 撮像装置およびその制御方法
JP2008104009A (ja) * 2006-10-19 2008-05-01 Sony Corp 撮像装置および撮像方法
CN104618659A (zh) * 2007-07-25 2015-05-13 坎德拉微系统(S)私人有限公司 用于成像系统的曝光控制
JP5083090B2 (ja) * 2007-09-18 2012-11-28 ソニー株式会社 表示制御装置、撮像装置、表示制御方法およびプログラム
JP5148989B2 (ja) * 2007-12-27 2013-02-20 イーストマン コダック カンパニー 撮像装置

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11928797B2 (en) 2018-10-24 2024-03-12 Samsung Electronics Co., Ltd. Electronic device and method for acquiring a synthesized image
US11933599B2 (en) 2018-11-08 2024-03-19 Samsung Electronics Co., Ltd. Electronic device and method for controlling same

Also Published As

Publication number Publication date
US9148561B2 (en) 2015-09-29
US20140176789A1 (en) 2014-06-26
JP2014123914A (ja) 2014-07-03
CN103888644B (zh) 2017-03-01
CN103888644A (zh) 2014-06-25

Similar Documents

Publication Publication Date Title
JP6259185B2 (ja) 撮像装置及びその制御方法、プログラム並びに記憶媒体
US10412296B2 (en) Camera using preview image to select exposure
KR101900097B1 (ko) 이미지 캡처 방법 및 이미지 캡처 장치
US9426372B2 (en) Imaging device and imaging method
CN108028894B (zh) 控制系统、成像装置和计算机可读介质
JP6521776B2 (ja) 画像処理装置、画像処理方法
US9684988B2 (en) Imaging device, image processing method, and recording medium
US20100103268A1 (en) Digital camera
KR20110043162A (ko) 다중 노출 제어 장치 및 그 방법
US8786728B2 (en) Image processing apparatus, image processing method, and storage medium storing image processing program
KR20080030477A (ko) 화상보정장치 및 화상보정방법과 컴퓨터 판독 가능한 매체
US9013593B2 (en) Image editing device and image editing method
JP6137800B2 (ja) 画像処理装置、画像処理方法、及び、画像処理プログラム
JP4999871B2 (ja) 撮像装置およびその制御方法
JP2015211233A (ja) 画像処理装置および画像処理装置の制御方法
JP5048599B2 (ja) 撮像装置
JP5335964B2 (ja) 撮像装置およびその制御方法
JP6492452B2 (ja) 制御システム、撮像装置、制御方法およびプログラム
US7920168B2 (en) Systems and methods of customizing a color palette on a digital camera
JP6602093B2 (ja) 撮像装置、撮像方法、撮影システムおよびプログラム
JP5460909B2 (ja) 撮像装置及び画像処理方法
KR20100096494A (ko) 플래시를 이용한 화이트 밸런스 조정 방법 및 장치, 이를 이용한 디지털 촬영 장치
JP6624895B2 (ja) 画像処理装置、撮像装置、制御方法及びプログラム
JP6703787B2 (ja) 撮像装置及びその制御方法、プログラム、記憶媒体

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20151221

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20151221

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20160908

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20161003

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20161129

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20170526

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170824

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20170901

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20171010

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20171020

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20171110

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20171208

R151 Written notification of patent or utility model registration

Ref document number: 6259185

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees