Nothing Special   »   [go: up one dir, main page]

JP2008182485A - 撮影装置及び撮影方法 - Google Patents

撮影装置及び撮影方法 Download PDF

Info

Publication number
JP2008182485A
JP2008182485A JP2007014264A JP2007014264A JP2008182485A JP 2008182485 A JP2008182485 A JP 2008182485A JP 2007014264 A JP2007014264 A JP 2007014264A JP 2007014264 A JP2007014264 A JP 2007014264A JP 2008182485 A JP2008182485 A JP 2008182485A
Authority
JP
Japan
Prior art keywords
subject
photographing
line
image
face
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2007014264A
Other languages
English (en)
Other versions
JP4787180B2 (ja
Inventor
Shoichiro Sakamoto
昇一郎 坂本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Priority to JP2007014264A priority Critical patent/JP4787180B2/ja
Priority to US12/010,301 priority patent/US7769287B2/en
Publication of JP2008182485A publication Critical patent/JP2008182485A/ja
Application granted granted Critical
Publication of JP4787180B2 publication Critical patent/JP4787180B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B15/00Special procedures for taking photographs; Apparatus therefor

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Studio Devices (AREA)
  • Focusing (AREA)
  • Indication In Cameras, And Counting Of Exposures (AREA)
  • Automatic Focus Adjustment (AREA)

Abstract

【課題】 被写体の視線が撮影装置側に向いた状態を確実に撮影することが可能な撮影装置及び撮影方法を提供する。
【解決手段】 顔検出部46は、撮影モードがプレシャッターモードに設定された場合に、CCD30から出力されたスルー画像データに対して顔検出処理を施し、スルー画像データから被写体の顔の画像を含む顔領域を検出する。視線方向判定部48は、上記顔領域から被写体の目の画像を検出し、被写体の人物の視線方向がカメラ10側に向いているかどうかを判定する。上記顔領域の検出処理及び視線方向の判定処理はプレシャッターモード時に所定の時間間隔で繰り返される。そして、視線方向判定部48は、被写体の人物の視線方向がカメラ10側に向いていると判定した場合にその旨を示す信号をCPU12に送信する。CPU12は、視線方向判定部48から視線方向がカメラ10側に向いていることを示す信号を受信すると、カメラ10の各部を制御して即座に撮影処理を実行する。
【選択図】 図1

Description

本発明は撮影装置及び撮影方法に係り、特に人物を撮影するための撮影装置及び撮影方法に関する。
特許文献1には、被写体の顔が所定の方向を向いたことを検出した時に、自動的に撮影動作を行う撮像装置が開示されている。
特開2003−224761号公報
幼児を撮影する場合には、幼児自身に静止していなければならないという意識が薄いため常に動いてしまう。このため、幼児の撮影では、成人を撮影する場合に比べてシャッターチャンスをとらえるのが困難であった。また、被写体の顔が撮影装置に向いた状態で撮影したとしても、視線が撮影装置の方に向いていないことがあった。特許文献1では、被写体の人物の視線方向については考慮されていない。
本発明はこのような事情に鑑みてなされたもので、被写体の視線が撮影装置の方に向いた状態を確実に撮影することが可能な撮影装置及び撮影方法を提供することを目的とする。
上記課題を解決するために、本願発明1に係る撮影装置は、被写体の画像を撮影する撮影手段と、前記被写体の画像の撮影指示を入力するための撮影指示手段と、前記撮影指示手段からの撮影指示に応じて、前記撮影手段によって撮影されたライブビュー画像から前記被写体の顔画像を検出する顔検出手段と、前記顔画像から前記被写体の視線方向を検出し、前記被写体の視線方向が前記撮影手段の方を向いているかどうかを判定する視線方向判定手段と、前記被写体の視線方向が前記撮影手段の方を向いていると判定された場合に、即座に前記撮影手段に前記被写体の画像の撮影を実行させる撮影制御手段とを備えることを特徴とする。
本願発明1によれば、被写体の人物の視線が撮影手段の方に向いた場合に即座に撮影が実行されるので、幼児を撮影する場合にもシャッターチャンスを確実にとらえることができる。
本願発明2は、本願発明1の撮影装置において、特定の被写体の顔画像を記憶する特定顔記憶手段を更に備え、前記顔検出手段は、前記ライブビュー画像から前記特定の被写体の顔画像を検出し、前記視線方向判定手段は、前記特定の被写体の顔画像から前記特定の被写体の視線方向を検出し、前記特定の被写体の視線方向が前記撮影手段の方を向いているかどうかを判定し、前記撮影制御手段は、前記特定の被写体の視線方向が前記撮影手段の方を向いていると判定された場合に、即座に前記撮影手段に撮影を実行させることを特徴とする。
本願発明2によれば、予め記憶された特定の人物の視線が撮影手段の方に向いた場合に即座に撮影が実行されるので、例えば、ライブビュー画像から複数の顔領域が検出された場合に、特定の顔の視線方向に応じてシャッターチャンスを確実にとらえることができる。
本願発明3は、本願発明1又は2の撮影装置において、前記撮影指示が入力されてからの経過時間を測定する経過時間測定手段と、前記経過時間が所定の設定値を越えても前記被写体の撮影が実行されない場合に、前記被写体に向けて発光又は音声出力を行って、前記被写体の視線方向を前記撮影手段の方に誘導する視線方向誘導手段とを更に備えることを特徴とする。
本願発明3によれば、被写体の視線方向が撮影手段の方に向けられない場合に被写体の注意を撮影手段の方に誘導するようにしたので、静止させておくことが困難な幼児が被写体の場合であっても視線方向が撮影手段の方に向いた状態で撮影を行うことができる。
本願発明4は、本願発明3の撮影装置において、前記視線方向誘導手段は、前記被写体に向けてAF補助光を発光させることを特徴とする。
本願発明5に係る撮影方法は、被写体の画像を撮影する撮影手段に対して撮影指示を入力する撮影指示工程と、前記撮影指示に応じて、前記撮影手段によって撮影されたライブビュー画像から前記被写体の顔画像を検出する顔検出工程と、前記顔画像から前記被写体の視線方向を検出し、前記被写体の視線方向が前記撮影手段の方を向いているかどうかを判定する視線方向判定工程と、前記被写体の視線方向が前記撮影手段の方を向いていると判定された場合に、即座に前記撮影手段に前記被写体の画像の撮影を実行させる撮影制御工程とを備えることを特徴とする。
本願発明6に係る撮影方法は、特定の被写体の顔画像を記憶する特定顔記憶工程と、被写体の画像を撮影する撮影手段に対して撮影指示を入力する撮影指示工程と、前記撮影指示に応じて、前記撮影手段によって撮影されたライブビュー画像から前記特定の被写体の顔画像を検出する顔検出工程と、前記特定の被写体の顔画像から前記特定の被写体の視線方向を検出し、前記特定の被写体の視線方向が前記撮影手段の方を向いているかどうかを判定する視線方向判定工程と、前記特定の被写体の視線方向が前記撮影手段の方を向いていると判定された場合に、即座に前記撮影手段に撮影を実行させる撮影制御工程とを備えることを特徴とする。
本願発明7は、本願発明5又は6の撮影方法において、前記撮影指示が入力されてからの経過時間を測定する経過時間測定工程と、前記経過時間が所定の設定値を越えても前記被写体の撮影が実行されない場合に、前記被写体に向けて発光又は音声出力を行って、前記被写体の視線方向を前記撮影手段の方に誘導する視線方向誘導工程とを更に備えることを特徴とする。
本発明によれば、被写体の人物の視線が撮影手段の方に向いた場合に即座に撮影が実行されるので、幼児を撮影する場合にもシャッターチャンスを確実にとらえることができる。
以下、添付図面に従って本発明に係る撮影装置及び撮影方法の好ましい実施の形態について説明する。
[第1の実施形態]
図1は、本発明の第1の実施形態に係る撮影装置の主要構成を示すブロック図である。図1に示すように、CPU12は、バス14を介して撮影装置10(以下、カメラ10と記載する)内の各部に接続されており、操作部16等からの操作入力に基づいてカメラ10の動作を制御する統括制御部である。CPU12は、操作部16からの入力信号に基づいてカメラ10の各部を制御し、例えば、レンズユニット28の駆動制御、撮影動作制御、画像処理制御、画像データの記録/再生制御、画像表示部40の表示制御等を行う。
操作部16は、電源スイッチ、動作モード切り替えスイッチ、撮影モード切り替えスイッチ、顔検出機能オン/オフスイッチ、レリーズボタン、メニュー/OKキー、十字キー、キャンセルキーを含んでいる。
電源スイッチは、カメラ10の電源のオン/オフを制御するための操作手段である。
動作モード切り替えスイッチは、カメラ10の動作モードを、撮影モードと再生モードとの間で切り替えるための操作手段である。
撮影モード切り替えスイッチは、カメラ10の撮影モードを切り替えるスイッチとして機能する。カメラ10の撮影モードは、後述するプレシャッターモードのほか、シーンポジション(例えば、ナチュラルフォト、人物、風景、スポーツ、夜景、水中、接写(花等)又はテキスト文章)に応じてフォーカスや露出を最適化して撮影するためのシーンポジションモード、フォーカスや露出を自動的に設定するオートモード、フォーカスや露出をマニュアルで設定可能なマニュアルモード又は動画撮影モードに切り替え可能となっている。
顔検出機能オン/オフスイッチは、撮影した画像から顔を検出する顔検出機能のオン/オフを制御する。
レリーズボタンは、撮影開始の指示を入力する操作ボタンであり、半押し時にオンするS1スイッチと、全押し時にオンするS2スイッチとを有する2段ストローク式のスイッチにより構成されている。
メニュー/OKキーは、画像表示部40の画面上にメニューを表示させる指令を行うためのメニューボタンとしての機能と、選択内容の確定及び実行等を指令するOKボタンとしての機能とを兼備した操作キーである。
十字キーは、上下左右の4方向の指示を入力する操作部であり、メニュー画面から項目を選択したり、各メニューから各種設定項目の選択を指示したりするボタン(カーソル移動操作手段)として機能する。また、十字キーの上キー及び下キーは撮影モード時のズームスイッチあるいは再生時の再生ズームスイッチとして機能し、左キー及び右キーは再生モード時のコマ送り(順方向/逆方向送り)ボタンとして機能する。
キャンセルキーは、選択項目等の所望の対象の消去や指示内容の取り消し、あるいは1つ前の操作状態に戻す時等に使用される。
ROM18には、CPU12が処理するプログラム及び制御に必要な各種データ等が格納される。RAM20には、CPU12が各種の演算処理等を行う作業用領域及び画像処理領域が含まれている。
カメラ10は、メディアソケット(メディア装着部)を有しており、記録メディア22を装着することができる。記録メディア22の形態は特に限定されず、xDピクチャカード(登録商標)、スマートメディア(登録商標)に代表される半導体メモリカード、可搬型小型ハードディスク、磁気ディスク、光ディスク、光磁気ディスク等の種々の媒体を用いることができる。メディア制御部24は、記録メディア22に適した入出力信号の受渡しを行うために所要の信号変換を行う。
また、カメラ10は、インターネットや携帯電話用の通信網等の公衆回線網に接続するための通信手段として通信インターフェース部(通信I/F)26を備えている。
[撮影モード]
次に、カメラ10の撮影機能について説明する。撮影モード時には、カラーCCD固体撮像素子30(以下、CCD30と記載する)を含む撮像部に電源が供給され、画像の撮影が可能な状態になる。
レンズユニット28は、フォーカスレンズ及びズームレンズを含む撮影レンズと、絞りとを含む光学ユニットである。レンズ駆動部28Aは、フォーカスレンズ、ズームレンズ及び絞りを移動させるためのモータ及び上記レンズの位置を検出するためのセンサ等を備える。CPU12は、レンズ駆動部28Aに制御信号を出力して、撮影レンズのフォーカシング、ズーミング及び絞りの制御を行う。
レンズユニット28を通過した光は、CCD30の受光面に結像される。CCD30の受光面には多数のフォトダイオード(受光素子)が2次元的に配列されており、各フォトダイオードには赤(R)、緑(G)、青(B)の原色カラーフィルタが所定の配列構造で配置されている。CCD30の受光面に結像された被写体像は、各フォトダイオードによって入射光量に応じた量の信号電荷に変換される。この信号電荷は、電荷量に応じたR、G、Bの電圧信号(画像信号)として順次読み出される。CCD30は、各フォトダイオードの電荷蓄積時間(シャッタースピード)を制御する電子シャッター機能を有している。CPU12は、撮影制御部30Aを介して、CCD30からの信号電荷の読み出しタイミング及びCCD30のフォトダイオードの電荷蓄積時間を制御する。
CCD30から読み出されたR、G、Bの画像信号は、アナログ処理部(CDS/AMP)32によって、CCD30の画素ごとにサンプリングホールド(相関2重サンプリング処理)されて増幅された後、A/D変換器34に加えられてデジタル信号に変換される。A/D変換器34によってデジタル信号に変換されたR、G、B信号は、画像入力制御部36を介してRAM20に格納される。
画像信号処理部38は、同時化回路(単板CCDのカラーフィルタ配列に伴う色信号の空間的なズレを補間して色信号を同時式に変換する処理回路)、ホワイトバランス調整回路、ガンマ補正回路、輪郭補正回路、輝度・色差信号生成回路等を含む画像処理手段として機能し、CPU12からの指令に従ってRAM20を活用しながら所定の信号処理を行う。即ち、画像信号処理部38は、RAM20に記憶されたデジタルのR、G、B信号を輝度信号(Y信号)及び色差信号(Cr、Cb信号)に変換するとともに、ガンマ補正等の所定の処理を施してRAM20に書き戻す。
撮影画像を画像表示部40(例えば、液晶モニタ)にモニタ出力する場合には、RAM20に格納された輝度/色差信号(Y/C信号)が読み出されて、バス14を介して表示制御部42に送られる。表示制御部42は、入力されたY/C信号を表示用の所定方式のビデオ信号(例えば、NTSC方式のカラー複合画像信号)に変換して画像表示部40に出力する。
ライブビュー画像(スルー画)表示を行う際には、CCD30から出力される画像信号によってRAM20内の画像データが定期的に書き換えられ、その画像データから生成される画像信号が画像表示部40に供給される。これにより、撮影中の映像(スルー画)がリアルタイムに画像表示部40に表示される。撮影者は、画像表示部40に表示されるスルー画によって撮影画角を確認できる。
レリーズボタンが半押しされると(S1オン)、CCD30から出力された画像信号はA/D変換後に画像入力制御部36を介してCPU12に入力されてAE及びAF処理が開始される。
CPU12は、1画面を複数の分割エリア(例えば、8×8又は16×16)に分割して、この分割エリアごとにR、G、Bの画像信号を積算する。そして、CPU12は、この積算値に基づいて被写体の明るさ(被写体輝度)を検出して撮影に適した露出値(撮影EV値)を算出し、この露出値と所定のプログラム線図に従って絞り値とシャッタースピードを決定して、CCD30の電子シャッター及び絞りを制御して適正な露光量を得る。
また、CPU12は、自動ホワイトバランス調整時に、分割エリアごとにR、G、Bの画像信号の色別の平均積算値を算出して、分割エリアごとにR/G及びB/Gの比を求め、R/G、B/Gの値のR/G、B/G軸座標の色空間における分布等に基づいて光源種の判別を行う。そして、CPU12は、判別された光源種に応じてR、G、Bの画像信号に対するゲイン値(ホワイトバランスゲイン)を制御し、R、G、Bの各色チャンネルの画像信号に補正をかける。
カメラ10におけるAF制御は、例えば、画像信号のG信号の高周波成分が極大になるようにフォーカスレンズを移動させるコントラストAFが適用される。即ち、CPU12は、CCD30の有効画素領域の一部(例えば、有効画素領域の中央部)に予め設定されているAFエリア内の信号を切り出して、ハイパスフィルタによりAFエリア内のG信号の高周波成分のみを通過させ、この高周波成分の絶対値データを積算し、AFエリア内の被写体像に関する焦点評価値(AF評価値)を算出する。
CPU12は、レンズ駆動部28Aを制御してフォーカスレンズを移動させながら、複数のAF検出ポイントで焦点評価値を演算し、焦点評価値が極大となるレンズ位置を合焦位置として決定する。そして、CPU12は、レンズ駆動部28Aを制御して、決定した合焦位置にフォーカスレンズを移動させる。なお、焦点評価値の演算はG信号を利用する態様に限らず、輝度信号(Y信号)を利用してもよい。
レリーズボタンが半押し(S1オン)されてAE/AF処理が行われた後、レリーズボタンが全押しされると(S2オン)、記録用の撮影動作がスタートする。S2オンに応動して取得された画像データは画像信号処理部38において輝度/色差信号(Y/C信号)に変換され、ガンマ補正等の所定の処理が施された後、RAM20に格納される。
RAM20に格納されたY/C信号は、圧縮・伸張処理部44によって所定のフォーマットに従って圧縮された後、メディア制御部24を介して記録メディア22に記録される。例えば、静止画についてはJPEG(Joint Photographic Experts Group)形式、動画についてはAVI(Audio Video Interleaving)形式、Motion-JPEGの画像ファイルとして記録される。
[再生モード]
再生モード時には、記録メディア22に記録されている最終の画像ファイル(最後に記録された画像ファイル)の圧縮データが読み出される。最後の記録に係る画像ファイルが静止画の場合、読み出された圧縮データは、圧縮・伸張処理部44によって非圧縮のYC信号に伸張され、画像信号処理部38及び表示制御部42によって表示用の信号に変換された後、画像表示部40に出力される。これにより、当該画像ファイルの画像内容が画像表示部40に表示される。
静止画の1コマ再生中(動画の先頭フレーム再生中も含む)に、十字ボタンの右ボタン又は左ボタンを操作することによって、再生対象の画像ファイルを切り換えること(順コマ送り/逆コマ送り)ができる。コマ送りされた位置の画像ファイルは記録メディア22から読み出され、上記と同様にして静止画や動画が画像表示部40に再生表示される。
[プレシャッターモード]
次に、プレシャッターモードについて説明する。図2は、プレシャッターモード時における撮影処理を説明するためのブロック図である。
顔検出部46は、撮影モードがプレシャッターモードに設定された場合に、CCD30から出力されたスルー画像データに対して顔検出処理を施し、スルー画像データから被写体の顔の画像を含む顔領域を検出する。ここで、顔領域の検出処理の方法としては、例えば、原画像から肌色に指定した色と近い色を持つ画素を取り出し、取り出した領域を顔領域として検出するものがある。上記の処理は、例えば、肌色を他の色と区別するための色空間上で、予めサンプリングした肌色の情報から色空間上の肌色の範囲を定め、各画素の色が定めた範囲に入っているか否かを判定することにより行われる。なお、顔領域の検出処理の方法は上記以外の方法を用いてもよい。
視線方向判定部48は、上記顔領域から被写体の目の画像を検出し、被写体の人物の視線方向がカメラ10の方に向いているかどうかを判定する。上記顔領域の検出処理及び視線方向の判定処理はプレシャッターモード時に所定の時間間隔で繰り返される。そして、視線方向判定部48は、被写体の人物の視線方向がカメラ10の方に向いていると判定した場合にその旨を示す信号をCPU12に送信する。CPU12は、視線方向判定部48から視線方向がカメラ10の方に向いていることを示す信号を受信すると、カメラ10の各部を制御して即座に撮影処理を実行する。
次に、視線方向の判定処理について具体的に説明する。視線方向判定部48は、顔検出部46により検出された顔領域から被写体の目の画像を検出し、目の画像中の黒目の中心位置を検出する。そして、視線方向判定部48は、上記黒目の中心位置に基づいて、被写体の人物の視線方向がカメラ10の方に向いている度合を示す視線方向パラメータを算出し、この視線方向パラメータに基づいて被写体の人物の視線方向がカメラ10の方に向いているかどうかを判定する。ここで、黒目の中心位置の検出方法としては、例えば、上記顔領域の濃淡画像を生成し、上記濃淡画像から黒目の中心位置を検出する方法、又は顔領域の濃淡画像にエッジ(画像内に生じる明るい部分と暗い部分の境界)を検出するためのエッジ抽出フィルタをかけてエッジ画像を生成し、当該エッジ画像とエッジでできた顔部品(目等)のテンプレートとのマッチングによって黒目の中心位置を検出する方法がある。
図3は、視線方向パラメータの算出方法を説明するための図である。図3において、左右の黒目の中心位置(それぞれ点E及び点E)を通る直線の顔領域(肌色領域)の左右の端部との交点をそれぞれ点P及び点Pとする。被写体の顔領域の横幅(点Pと点P間の距離)をa、右の黒目の中心位置Eと顔領域の右の端部Pとの距離をb、左の黒目の中心位置Eと顔領域の左の端部Pとの距離をcとすると、視線方向パラメータα[%]は下記の式(1)により表される。
Figure 2008182485
図3(M)に示すように、被写体の視線が正面のカメラ10の方向に向いている場合には、視線方向パラメータαは100%に近い値となる。一方、図3(L)及び図3(R)に示すように、被写体の視線がカメラ10の方向に向いていない場合には、視線方向パラメータαは低い値になる。
図4は、プレシャッターモード時における画像表示部40の表示の例を示す図である。なお、図4において、符号F10は、検出された顔領域に付される顔検出枠である。プレシャッターモード時において、シャッターボタンが押下されると(S2オン)、図4(a)から図4(c)に示すように、顔領域の検出、視線方向パラメータαの算出及び視線方向の判定が繰り返される。そして、図4(d)に示すように、視線方向パラメータαが所定の判定値より大きくなると、視線方向判定部48により視線方向が被写体の人物の視線方向がカメラ10の方に向いていると判定され、即座に撮影処理が実行される。
次に、プレシャッターモード時における撮影処理について、図5のフローチャートを参照して説明する。まず、撮影モードがプレシャッターモードに設定されて(ステップS10)、シャッターボタンの押下(S2オン)が検出されると(ステップS12)、CCD30から出力されたスルー画像データに対して顔領域の検出処理が実行され(ステップS14)、検出された顔領域の画像に基づいて視線方向パラメータαの算出処理が実行される(ステップS16)。視線方向パラメータαが判定値未満の場合には(ステップS18のno)、所定の時間間隔ごとにステップS14及びS16の工程が繰り返される。そして、視線方向パラメータαが判定値より大きくなると(ステップS18のyes)、即座に被写体の撮影が実行されて、撮影された画像が画像ファイルとして記録メディア22に記録される(ステップS20)。
本実施形態によれば、被写体の人物の視線がカメラ10の方に向いた場合に即座に撮影が実行されるので、幼児を撮影する場合にもシャッターチャンスを確実にとらえることができる。
なお、上記ステップS14において複数の顔領域が検出された場合には、検出されたすべての顔領域について視線方向の判定を行い、すべての顔領域の視線方向がカメラ10の方に向いた場合に撮影を実行するようにすればよい。また、検出された顔領域のうち、顔領域の面積が所定値以上のもの、画像の中心近傍にあるもの、カメラ10に近いもの又はこれらの条件の組み合わせに該当するものについてのみ視線方向の判定を行うようにしてもよい。また、視線方向の判定対象の顔領域を手動で選択できるようにしてもよい。
[第2の実施形態]
次に、本発明の第2の実施形態について説明する。図6は、本発明の第2の実施形態に係る撮影装置の主要構成を示すブロック図であり、図7は、プレシャッターモード時における撮影処理を説明するためのブロック図である。なお、以下の説明において、上記図1と同様の構成については同一の符号を付して説明を省略する。
特定顔記憶部50は、特定の人物の顔(特定顔)の画像を記憶するための記憶装置である。特定顔の記憶処理は、操作部16の顔記憶ボタン16Aを押下して、被写体の顔を撮影することにより実行される。
顔検出部46は、プレシャッターモード時において、CCD30から出力されたスルー画像データから特定顔を含む顔領域を検出して視線方向の判定対象として選択する。ここで、スルー画像データから特定顔を含む顔領域を検出する方法としては、特定顔記憶部50に記憶された特定顔の画像から顔特徴量と信頼性指標(例えば、画像のコントラスト指標)とを抽出して顔メタデータを予め生成し、特定顔の顔メタデータを特定顔記憶部50に格納しておき、スルー画像データ中の顔領域から生成された顔メタデータとのパターンマッチングの類似度を算出することにより行う方法がある(例えば、特開2003−187229号公報)。
視線方向判定部48は、視線方向の判定対象の顔領域の目の画像を検出し、上記特定の人物の視線方向がカメラ10の方に向いているかどうかを判定する。上記視線方向の判定対象の顔領域の検出処理及び視線方向の判定処理はプレシャッターモード時に所定の時間間隔で繰り返される。そして、視線方向判定部48は、上記特定の人物の視線方向がカメラ10の方に向いていると判定した場合にその旨を示す信号をCPU12に送信する。CPU12は、視線方向判定部48から上記特定の人物の視線方向がカメラ10の方に向いていることを示す信号を受信すると、カメラ10の各部を制御して即座に撮影処理を実行する。
次に、特定の人物の顔を特定顔記憶部50に記憶させる処理について、図8及び図9を参照して説明する。まず、操作部16の顔記憶ボタン16Aの押下が検出されると(ステップS30)、被写体の画像が撮影され、撮影画像に対して顔検出部46により顔検出処理が実行される。そして、図8(a)に示すように、撮影画像から顔領域F20が検出されると、顔領域F20の顔の特徴量が取得されて、特定顔記憶部50に記憶される(ステップS32)。
次に、プレシャッターモード時における撮影処理について説明する。図10は、プレシャッターモード時における画像表示部40の表示の例を示す図である。撮影モードがプレシャッターモードに設定されると、図10(a)に示すように、スルー画像データが取得され、顔領域の検出処理が実行される。図10(b)に示すように、顔領域が複数検出された場合には、検出された顔領域F30及びF32の特徴量が取得されて、特定顔記憶部50に記憶された特定顔の特徴量と照合される。そして、顔領域F30及びF32のうち特定顔に最も類似した顔領域(図10(c)では顔領域F30)が視線方向の判定対象として選択される。次に、図10(d)及び図10(e)に示すように、顔領域F30に対して視線方向の判定処理が行われて、視線方向パラメータαは判定値より大きくなると即座に撮影処理が実行される。
図11は、プレシャッターモード時における撮影処理の流れを示すフローチャートである。まず、撮影モードがプレシャッターモードに設定されて(ステップS50)、シャッターボタンの押下(S2オン)が検出されると(ステップS52)、CCD30から出力されたスルー画像データに対して顔領域の検出処理が実行される(ステップS54)。
次に、ステップS54においてスルー画像データから検出された顔領域の特徴量が取得されて、特定顔記憶部50に記憶された特定顔の特徴量と照合される。そして、スルー画像データから検出された顔領域のうち特定顔に最も類似した顔領域が視線方向の判定対象として選択される(ステップS56)。
次に、視線方向の判定対象の顔領域の画像に基づいて視線方向パラメータαの算出処理が実行され(ステップS58)、視線方向パラメータαが判定値未満の場合には(ステップS60のno)、所定の時間間隔ごとにステップS54からS58の工程が繰り返される。そして、視線方向パラメータαが判定値より大きくなると(ステップS60のyes)、即座に被写体の撮影が実行されて、撮影された画像が画像ファイルとして記録メディア22に記録される(ステップS62)。
本実施形態によれば、カメラ10に予め記憶された特定の人物の視線がカメラ10の方に向いた場合に即座に撮影が実行されるので、例えば、スルー画像データから複数の顔領域が検出された場合に、特定の顔の視線方向に応じてシャッターチャンスを確実にとらえることができる。
[第3の実施形態]
次に、本発明の第3の実施形態について説明する。図12は、本発明の第3の実施形態に係る撮影装置の主要構成を示すブロック図であり、図13は、プレシャッターモード時における撮影処理を説明するためのブロック図である。なお、以下の説明において、上記図1等と同様の構成については同一の符号を付して説明を省略する。
経過時間測定部52は、プレシャッターモード時にシャッターボタンが押下(S2オン)されてからの経過時間を測定し、経過時間の測定値が予め設定された設定値を越えた場合に、AF補助光発光部54に対してAF補助光の発光を指示する信号を送信する。AF補助光発光部54は、経過時間測定部52からの信号に応じてAF補助光を発光させる。
次に、プレシャッターモード時における撮影処理について説明する。図14は、プレシャッターモード時における画像表示部40の表示の例を示す図である。撮影モードがプレシャッターモードに設定され、シャッターボタンが押下されると(S2オン)、図14(a)に示すように、スルー画像データが取得され、顔領域の検出処理が実行される。次に、図14(b)から図14(d)に示すように、検出された顔領域F50に対して視線方向の判定処理が行われる。そして、シャッターボタンが押下されてからの経過時間の測定値が設定値を越えると、AF補助光が発光し、被写体の注意がカメラ10の方に引きつけられて視線方向パラメータαは判定値より大きくなると即座に撮影処理が実行される。
図15は、プレシャッターモード時における撮影処理の流れを示すフローチャートである。まず、撮影モードがプレシャッターモードに設定されて(ステップS70)、シャッターボタンの押下(S2オン)が検出されると(ステップS72)、CCD30から出力されたスルー画像データに対して顔領域の検出処理が実行され(ステップS74)、検出された顔領域の画像に基づいて視線方向パラメータαの算出処理が実行される(ステップS76)。視線方向パラメータαが判定値未満の場合には(ステップS78のno)、シャッターボタンが押下されてからの経過時間が測定される(ステップS80)。シャッターボタンが押下されてからの経過時間の測定値が設定値以下の場合には(ステップS82のno)、ステップS74に戻り、顔領域の検出処理及び視線方向パラメータαの算出処理が再度実行される。
ステップS74からS82の工程が繰り返されて、シャッターボタンが押下されてからの経過時間が設定値を越えると(ステップS82のyes)、経過時間測定部52からAF補助光発光部54にAF補助光の発光を指示する信号が送信され、AF補助光が間欠発光し(ステップS84)、ステップS74に戻る。
そして、ステップS74からステップS84の工程が繰り返されて、視線方向パラメータαが判定値より大きくなると(ステップS78のyes)、即座に被写体の撮影が実行されて、撮影された画像が画像ファイルとして記録メディア22に記録される(ステップS86)。
本実施形態によれば、被写体の視線方向がカメラ10の方に向けられない場合にAF補助光を用いて被写体の注意をカメラ10の方に誘導するようにしたので、静止させておくことが困難な幼児が被写体の場合であっても視線方向がカメラ10の方に向いた状態で撮影を行うことができる。
なお、上記ステップS74において複数の顔領域が検出された場合には、検出されたすべての顔領域について視線方向の判定を行い、すべての顔領域の視線方向がカメラ10の方に向いた場合に撮影を実行するようにすればよい。また、検出された顔領域のうち、顔領域の面積が所定値以上のもの、画像の中心近傍にあるもの、カメラ10に近いもの又はこれらの条件の組み合わせに該当するものについてのみ視線方向の判定を行うようにしてもよい。また、視線方向の判定対象の顔領域を手動で選択できるようにしてもよい。
また、本実施形態では、AF補助光を用いて被写体の注意を引くようにしたが、例えば、音声出力部56から音声を出力して被写体の注意を引くようにしてもよいし、AF補助光と音声を併用してもよい。また、フラッシュ発光を行わないモードの場合には、フラッシュを発光させるようにしてもよい。また、撮影の都度、AF補助光又はフラッシュの発光の仕方、音声の種類又はこれらの組み合わせを変更するようにしてもよい。
なお、上記の各実施形態では、視線方向パラメータαを用いて視線方向の判定を行うようにしたが、視線方向の判定方法はこれに限定されるものではない。
また、上記の各実施形態では、顔領域中の両目の位置又は顔と胴体との位置関係等に基づいて、顔が正面に向いているかどうかを判定し、顔が正面に向いていると判定された場合に、視線方向の判定を行うようにしてもよい。
なお、本発明に係る撮影装置及び撮影方法は、上記した処理を行うプログラムを撮影手段を備えたコンピュータに適用することによっても実現可能である。
本発明の第1の実施形態に係る撮影装置の主要構成を示すブロック図 プレシャッターモード時における撮影処理を説明するためのブロック図 視線方向パラメータの算出方法を説明するための図 プレシャッターモード時における画像表示部40の表示の例を示す図 プレシャッターモード時における撮影処理の流れを示すフローチャート 本発明の第2の実施形態に係る撮影装置の主要構成を示すブロック図 プレシャッターモード時における撮影処理を説明するためのブロック図 特定の人物の顔を特定顔記憶部50に記憶させる処理を示す図 特定の人物の顔を特定顔記憶部50に記憶させる処理の流れをフローチャート プレシャッターモード時における画像表示部40の表示の例を示す図 プレシャッターモード時における撮影処理の流れを示すフローチャート 本発明の第3の実施形態に係る撮影装置の主要構成を示すブロック図 プレシャッターモード時における撮影処理を説明するためのブロック図 プレシャッターモード時における画像表示部40の表示の例を示す図 プレシャッターモード時における撮影処理の流れを示すフローチャート
符号の説明
10…撮影装置(カメラ)、12…CPU、14…バス、16…操作部、18…ROM、20…RAM、22…記録メディア、24…メディア制御部、26…通信インターフェース部(通信I/F)、28…レンズユニット、28A…レンズ駆動部、30…CCD、30A…撮影制御部、32…アナログ処理部(CDS/AMP)、34…A/D変換器、36…画像入力制御部、38…画像信号処理部、40…画像表示部、42…表示制御部、44…圧縮・伸張処理部、46…顔検出部、48…視線方向判定部、50…特定顔記憶部、16A…顔記憶ボタン、52…経過時間測定部、54…AF補助光発光部、56…音声出力部

Claims (7)

  1. 被写体の画像を撮影する撮影手段と、
    前記被写体の画像の撮影指示を入力するための撮影指示手段と、
    前記撮影指示手段からの撮影指示に応じて、前記撮影手段によって撮影されたライブビュー画像から前記被写体の顔画像を検出する顔検出手段と、
    前記顔画像から前記被写体の視線方向を検出し、前記被写体の視線方向が前記撮影手段の方を向いているかどうかを判定する視線方向判定手段と、
    前記被写体の視線方向が前記撮影手段の方を向いていると判定された場合に、即座に前記撮影手段に前記被写体の画像の撮影を実行させる撮影制御手段と、
    を備えることを特徴とする撮影装置。
  2. 特定の被写体の顔画像を記憶する特定顔記憶手段を更に備え、
    前記顔検出手段は、前記ライブビュー画像から前記特定の被写体の顔画像を検出し、
    前記視線方向判定手段は、前記特定の被写体の顔画像から前記特定の被写体の視線方向を検出し、前記特定の被写体の視線方向が前記撮影手段の方を向いているかどうかを判定し、
    前記撮影制御手段は、前記特定の被写体の視線方向が前記撮影手段の方を向いていると判定された場合に、即座に前記撮影手段に撮影を実行させることを特徴とする請求項1記載の撮影装置。
  3. 前記撮影指示が入力されてからの経過時間を測定する経過時間測定手段と、
    前記経過時間が所定の設定値を越えても前記被写体の撮影が実行されない場合に、前記被写体に向けて発光又は音声出力を行って、前記被写体の視線方向を前記撮影手段の方に誘導する視線方向誘導手段と、
    を更に備えることを特徴とする請求項1又は2記載の撮影装置。
  4. 前記視線方向誘導手段は、前記被写体に向けてAF補助光を発光させることを特徴とする請求項3記載の撮影装置。
  5. 被写体の画像を撮影する撮影手段に対して撮影指示を入力する撮影指示工程と、
    前記撮影指示に応じて、前記撮影手段によって撮影されたライブビュー画像から前記被写体の顔画像を検出する顔検出工程と、
    前記顔画像から前記被写体の視線方向を検出し、前記被写体の視線方向が前記撮影手段の方を向いているかどうかを判定する視線方向判定工程と、
    前記被写体の視線方向が前記撮影手段の方を向いていると判定された場合に、即座に前記撮影手段に前記被写体の画像の撮影を実行させる撮影制御工程と、
    を備えることを特徴とする撮影方法。
  6. 特定の被写体の顔画像を記憶する特定顔記憶工程と、
    被写体の画像を撮影する撮影手段に対して撮影指示を入力する撮影指示工程と、
    前記撮影指示に応じて、前記撮影手段によって撮影されたライブビュー画像から前記特定の被写体の顔画像を検出する顔検出工程と、
    前記特定の被写体の顔画像から前記特定の被写体の視線方向を検出し、前記特定の被写体の視線方向が前記撮影手段の方を向いているかどうかを判定する視線方向判定工程と、
    前記特定の被写体の視線方向が前記撮影手段の方を向いていると判定された場合に、即座に前記撮影手段に撮影を実行させる撮影制御工程と、
    を備えることを特徴とする撮影方法。
  7. 前記撮影指示が入力されてからの経過時間を測定する経過時間測定工程と、
    前記経過時間が所定の設定値を越えても前記被写体の撮影が実行されない場合に、前記被写体に向けて発光又は音声出力を行って、前記被写体の視線方向を前記撮影手段の方に誘導する視線方向誘導工程と、
    を更に備えることを特徴とする請求項5又は6記載の撮影方法。
JP2007014264A 2007-01-24 2007-01-24 撮影装置及び撮影方法 Active JP4787180B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2007014264A JP4787180B2 (ja) 2007-01-24 2007-01-24 撮影装置及び撮影方法
US12/010,301 US7769287B2 (en) 2007-01-24 2008-01-23 Image taking apparatus and image taking method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007014264A JP4787180B2 (ja) 2007-01-24 2007-01-24 撮影装置及び撮影方法

Publications (2)

Publication Number Publication Date
JP2008182485A true JP2008182485A (ja) 2008-08-07
JP4787180B2 JP4787180B2 (ja) 2011-10-05

Family

ID=39716022

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007014264A Active JP4787180B2 (ja) 2007-01-24 2007-01-24 撮影装置及び撮影方法

Country Status (2)

Country Link
US (1) US7769287B2 (ja)
JP (1) JP4787180B2 (ja)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010062854A (ja) * 2008-09-03 2010-03-18 Fujifilm Corp 撮影装置及び方法
JP2010199728A (ja) * 2009-02-23 2010-09-09 Olympus Imaging Corp 撮像装置
JP2010283537A (ja) * 2009-06-03 2010-12-16 Appliya Inc シャッターチャンス創出装置
CN102148931A (zh) * 2010-02-09 2011-08-10 三洋电机株式会社 摄像装置
JP2018124457A (ja) * 2017-02-01 2018-08-09 国立大学法人静岡大学 顔画像処理装置
JP2019161322A (ja) * 2018-03-08 2019-09-19 大日本印刷株式会社 写真撮影装置

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4286292B2 (ja) * 2007-01-30 2009-06-24 三洋電機株式会社 電子カメラ
US8218069B2 (en) 2008-09-19 2012-07-10 Panasonic Corporation Camera body with which various flash devices can be interchangeably used
JP4561914B2 (ja) * 2008-09-22 2010-10-13 ソニー株式会社 操作入力装置、操作入力方法、プログラム
DE102008053395A1 (de) * 2008-10-21 2010-04-29 Cognitec Systems Gmbh Verfahren und Einrichtung zur fotografischen Bilderfassung des Gesichtsfelds einer Person
JP2011193063A (ja) * 2010-03-12 2011-09-29 Sanyo Electric Co Ltd 電子カメラ
JP5633679B2 (ja) * 2010-09-03 2014-12-03 カシオ計算機株式会社 撮像装置およびプログラム
US9008436B2 (en) * 2011-10-28 2015-04-14 Intellectual Ventures Fund 83 Llc Image recomposition from face detection and facial features
US8938100B2 (en) 2011-10-28 2015-01-20 Intellectual Ventures Fund 83 Llc Image recomposition from face detection and facial features
US9025836B2 (en) 2011-10-28 2015-05-05 Intellectual Ventures Fund 83 Llc Image recomposition from face detection and facial features
KR102068049B1 (ko) * 2013-05-13 2020-01-20 삼성전자주식회사 영상 처리 장치 및 영상 처리 방법
JP7542973B2 (ja) * 2020-03-18 2024-09-02 キヤノン株式会社 撮像装置およびその制御方法

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003078792A (ja) * 2001-09-04 2003-03-14 Victor Co Of Japan Ltd アイキャッチ装置、撮像装置
JP2003224761A (ja) * 2002-01-28 2003-08-08 Konica Corp 撮像装置
JP2005164623A (ja) * 2003-11-28 2005-06-23 K-2:Kk 撮影補助装置
JP2006203600A (ja) * 2005-01-21 2006-08-03 Konica Minolta Holdings Inc 撮像装置、画像処理装置、画像処理システム、画像処理方法及びプログラム
JP2006319610A (ja) * 2005-05-12 2006-11-24 Matsushita Electric Ind Co Ltd 撮像装置

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2787488B2 (ja) * 1989-11-28 1998-08-20 旭光学工業株式会社 視線検出装置
US5548354A (en) * 1993-06-10 1996-08-20 Konan Common Co., Ltd. Method for observing and photographing a cornea and apparatus for the same
KR100639750B1 (ko) * 1998-10-09 2006-10-31 소니 가부시끼 가이샤 통신 장치 및 방법
JP3903783B2 (ja) 2001-12-14 2007-04-11 日本電気株式会社 顔メタデータ生成方法および装置、並びに顔類似度算出方法および装置
JP4876687B2 (ja) * 2006-04-19 2012-02-15 株式会社日立製作所 注目度計測装置及び注目度計測システム

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003078792A (ja) * 2001-09-04 2003-03-14 Victor Co Of Japan Ltd アイキャッチ装置、撮像装置
JP2003224761A (ja) * 2002-01-28 2003-08-08 Konica Corp 撮像装置
JP2005164623A (ja) * 2003-11-28 2005-06-23 K-2:Kk 撮影補助装置
JP2006203600A (ja) * 2005-01-21 2006-08-03 Konica Minolta Holdings Inc 撮像装置、画像処理装置、画像処理システム、画像処理方法及びプログラム
JP2006319610A (ja) * 2005-05-12 2006-11-24 Matsushita Electric Ind Co Ltd 撮像装置

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010062854A (ja) * 2008-09-03 2010-03-18 Fujifilm Corp 撮影装置及び方法
US8358344B2 (en) 2008-09-03 2013-01-22 Fujifilm Corporation Photographing apparatus and method
JP2010199728A (ja) * 2009-02-23 2010-09-09 Olympus Imaging Corp 撮像装置
JP2010283537A (ja) * 2009-06-03 2010-12-16 Appliya Inc シャッターチャンス創出装置
CN102148931A (zh) * 2010-02-09 2011-08-10 三洋电机株式会社 摄像装置
JP2018124457A (ja) * 2017-02-01 2018-08-09 国立大学法人静岡大学 顔画像処理装置
JP2019161322A (ja) * 2018-03-08 2019-09-19 大日本印刷株式会社 写真撮影装置

Also Published As

Publication number Publication date
JP4787180B2 (ja) 2011-10-05
US7769287B2 (en) 2010-08-03
US20080205866A1 (en) 2008-08-28

Similar Documents

Publication Publication Date Title
JP4787180B2 (ja) 撮影装置及び撮影方法
US8106995B2 (en) Image-taking method and apparatus
JP4904108B2 (ja) 撮影装置及び画像表示制御方法
JP4697606B2 (ja) 撮影装置及び合焦制御方法
JP4135100B2 (ja) 撮影装置
US7668451B2 (en) System for and method of taking image
JP4644883B2 (ja) 撮像装置
JP5005570B2 (ja) 画像処理装置およびプログラム
JP4730553B2 (ja) 撮影装置及び露出制御方法
JP2009219020A (ja) 撮影装置、撮像装置の制御方法及び撮像装置の制御プログラム
JP2008219428A (ja) 撮像装置
JP5533053B2 (ja) カメラ、カメラ制御プログラム及び撮影教示方法
JP4697549B2 (ja) 撮影装置及びその顔検出方法
JP2009048136A (ja) 焦点調節装置及び焦点調節方法
JP2007299339A (ja) 画像再生装置および方法並びにプログラム
JP2010141609A (ja) 撮像装置
JP2008263478A (ja) 撮像装置
JP2008118289A (ja) 撮像装置
JP4049291B2 (ja) デジタルスチルカメラ
JP4964992B2 (ja) 撮影装置及びその画像記録方法
JP4887840B2 (ja) 撮影装置及びプログラム
JP2009139423A (ja) 撮像装置及び被写体距離算出方法
JP5054209B2 (ja) 撮影装置及び合焦制御方法
JP4761039B2 (ja) 撮像装置
JP2009212644A (ja) 撮影装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090910

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20100913

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20101013

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20101105

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20101228

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110328

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110524

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110622

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110714

R150 Certificate of patent or registration of utility model

Ref document number: 4787180

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140722

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250