Nothing Special   »   [go: up one dir, main page]

JP7301615B2 - 電子機器およびその制御方法 - Google Patents

電子機器およびその制御方法 Download PDF

Info

Publication number
JP7301615B2
JP7301615B2 JP2019112316A JP2019112316A JP7301615B2 JP 7301615 B2 JP7301615 B2 JP 7301615B2 JP 2019112316 A JP2019112316 A JP 2019112316A JP 2019112316 A JP2019112316 A JP 2019112316A JP 7301615 B2 JP7301615 B2 JP 7301615B2
Authority
JP
Japan
Prior art keywords
line
sight
touch
frame
move
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019112316A
Other languages
English (en)
Other versions
JP2020204915A5 (ja
JP2020204915A (ja
Inventor
翔 市川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2019112316A priority Critical patent/JP7301615B2/ja
Priority to US16/900,693 priority patent/US11108945B2/en
Priority to CN202010551188.4A priority patent/CN112104809B/zh
Publication of JP2020204915A publication Critical patent/JP2020204915A/ja
Publication of JP2020204915A5 publication Critical patent/JP2020204915A5/ja
Application granted granted Critical
Publication of JP7301615B2 publication Critical patent/JP7301615B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/667Camera operation mode switching, e.g. between still and video, sport and normal or high- and low-resolution modes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/013Eye tracking input arrangements
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B13/00Viewfinders; Focusing aids for cameras; Means for focusing for cameras; Autofocus systems for cameras
    • G03B13/02Viewfinders
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B13/00Viewfinders; Focusing aids for cameras; Means for focusing for cameras; Autofocus systems for cameras
    • G03B13/32Means for focusing
    • G03B13/34Power focusing
    • G03B13/36Autofocus systems
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G06F3/04845Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range for image manipulation, e.g. dragging, rotation, expansion or change of colour
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/55Optical parts specially adapted for electronic image sensors; Mounting thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • H04N23/611Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/62Control of parameters via user interfaces
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/631Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/633Control of cameras or camera modules by using electronic viewfinders for displaying additional information relating to control or operation of the camera
    • H04N23/635Region indicators; Field of view indicators
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/675Focus control based on electronic image sensor signals comprising setting of focusing regions
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/73Circuitry for compensating brightness variation in the scene by influencing the exposure time

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Position Input By Displaying (AREA)
  • User Interface Of Digital Computer (AREA)
  • Studio Devices (AREA)
  • Camera Bodies And Camera Details Or Accessories (AREA)
  • Indication In Cameras, And Counting Of Exposures (AREA)
  • Viewfinders (AREA)
  • Details Of Cameras Including Film Mechanisms (AREA)

Description

本発明は、ユーザーの視線による視線入力が可能な電子機器、及び電子機器の制御方法に関するものである。
従来、ユーザーである撮影者の視線方向を検出し、撮影者がファインダー視野内のどの領域(位置)を観察しているかを検出して、自動焦点調節等の撮影機能を制御するカメラが提案されている。ユーザーが、視線による機能を実行したくないと考えた場合には、視線による機能が実行可能な状態から実行しない状態へと切り替えることができる。特許文献1には、ユーザーの視線を検出し、検出された視線位置にカーソル移動が可能であることが開示されている。また特許文献1では、ユーザーの視線位置にカーソルが追従するカーソル追従モードについて、ユーザーのジェスチャ、音声、視線、操作のいずれか1つによってカーソル追従モードのON/OFFが切り替え可能である。
特開2001-100903号公報
しかし特許文献1では、ユーザーが視線入力によるカーソル追従のモードのON/OFFを切り替えるためには、その都度ジェスチャ、音声、視線、操作の指示を出さなければならない。そのため、切り替えるたびに操作の一手間が必要になり、ユーザーがわずらわしく感じる可能性が生じる。また、ユーザーがカーソル追従モードをONからOFFへ切り替えた後、OFFからONへとカーソル追従モードを戻し忘れてしまう可能性が生じる。
そこで本発明は、ユーザーの意図に応じて、視線入力による選択位置の移動を行うか否かの切替を、ユーザーがわずらわしく感じることなく行うことができるようにすることを目的とする。
上記目的を達成するために、本発明の電子機器は、
撮像部により撮像して得られたライブ画像が表示された表示部に対するユーザーの視線位置を検出する視線検出手段と、撮像部により撮像して得られたライブ画像において、被写体を追尾する追尾手段と、ユーザー操作を受け付ける特定の操作手段と、視線検出手段により検出した視線位置または特定の操作手段への操作に応じて、ライブ画像における選択位置を移動するように制御する制御手段と、を有し、制御手段は、特定の操作手段への操作が行われていない場合は、視線検出手段により検出した視線位置に基づいて選択位置を移動するように制御し、特定の操作手段への操作が継続されている間は、操作が移動操作のときは、当該移動操作の移動に応じて選択位置を移動するように制御し、操作が移動操作を含まない非移動操作のときは、当該非移動操作に応じて決定した追尾対象の被写体を追尾手段により追尾し、追尾手段により追尾した追尾対象の被写体の位置に選択位置を移動するように制御する、ことを特徴とする。
本発明によれば、ユーザーの意図に応じて、視線入力による選択位置の移動を行うか否かの切替を、ユーザーがわずらわしく感じることなく行うことができるようにすることができる。
本発明の実施形態である、デジタルカメラの外観図である。 本発明の実施形態である、デジタルカメラの構成を示すブロック図である。 本発明の第1の実施形態における、視線入力に基づくAF枠の制御処理フローチャートである。 本発明の第1の実施形態における、タッチ操作と視線入力に基づくAF枠の表示位置の表示例である。 本発明の第2の実施形態における、視線入力に基づくAF枠の制御処理フローチャートである。 本発明の第2の実施形態における、タッチ操作と視線入力に基づくAF枠の表示位置の表示例である。 本発明の実施形態における、視線に関する設定画面の表示例である。 ファインダーを用いない場合の本発明の実施形態を示す図である。
以下、図面を参照して本発明の好適な実施形態を説明する。
図1(a)、(b)に本発明を適用可能な装置(電子機器)の一例としてのデジタルカメラ100の外観図を示す。図1(a)はデジタルカメラ100の前面斜視図であり、図1(b)はデジタルカメラ100の背面斜視図である。図1において、表示部28は画像や各種情報を表示する、カメラ背面に設けられた表示部である。タッチパネル70aはタッチ操作部材であり、表示部28の表示面(操作面)に対するタッチ操作を検出することができる。ファインダー外表示部43は、カメラ上面に設けられた表示部であり、シャッター速度や絞りをはじめとするカメラの様々な設定値が表示される。
シャッターボタン61は撮影指示を行うための操作部である。モード切替スイッチ60は各種モードを切り替えるための操作部である。端子カバー40は外部機器との接続ケーブルとデジタルカメラ100とを接続するコネクタ(不図示)を保護するカバーである。メイン電子ダイヤル71は操作部70に含まれる回転操作部材であり、このメイン電子ダイヤル71を回すことで、シャッター速度や絞りなどの設定値の変更等が行える。電源スイッチ72はデジタルカメラ100の電源のON及びOFFを切り替える操作部材である。サブ電子ダイヤル73は操作部70に含まれる回転操作部材であり、選択枠の移動や画像送りなどを行える。十字キー74は操作部70に含まれ、4方向に押し込み可能な押しボタンを有する操作部材である。十字キー74の押下した方向に応じた操作が可能である。SETボタン75は操作部70に含まれ、押しボタンであり、主に選択項目の決定などに用いられる。動画ボタン76は、動画撮影(記録)の開始、停止の指示に用いられる。AEロックボタン77は操作部70に含まれ、撮影待機状態で押下することにより、露出状態を固定することができる。拡大ボタン78は操作部70に含まれ、撮影モードのライブビュー表示において拡大モードのON、OFFを行うための操作ボタンである。拡大モードをONとしてからメイン電子ダイヤル71を操作することにより、ライブビュー画像の拡大、縮小を行える。再生モードにおいては再生画像を拡大し、拡大率を増加させるための拡大ボタンとして機能する。再生ボタン79は操作部70に含まれ、撮影モードと再生モードとを切り替える操作ボタンである。撮影モード中に再生ボタン79を押下することで再生モードに移行し、記録媒体200に記録された画像のうち最新の画像を表示部28に表示させることができる。メニューボタン81は、操作部70に含まれ、押下することにより各種の設定可能なメニュー画面が表示部28に表示される。ユーザーは、表示部28に表示されたメニュー画面と、十字キー74やSETボタン75を用いて直感的に各種設定を行うことができる。
通信端子10はデジタルカメラ100が後述するレンズユニット150(着脱可能)と通信を行う為の通信端子である。接眼部16は、接眼ファインダー(覗き込み型のファインダー)の接眼部であり、ユーザーは、接眼部16を介して内部のEVF(Electric View Finder)29に表示された映像を視認することができる。接眼検知部57は接眼部16に撮影者が接眼しているか否かを検知する接眼検知センサーである。蓋202は記録媒体200を格納したスロットの蓋である。グリップ部90は、ユーザーがデジタルカメラ100を構えた際に右手で握りやすい形状とした保持部である。グリップ部90を右手の小指、薬指、中指で握ってデジタルカメラを保持した状態で、右手の人差指で操作可能な位置にシャッターボタン61、メイン電子ダイヤル71が配置されている。また、同じ状態で、右手の親指で操作可能な位置に、サブ電子ダイヤル73が配置されている。
図2は、本実施形態によるデジタルカメラ100の構成例を示すブロック図である。図2において、レンズユニット150は、交換可能な撮影レンズを搭載するレンズユニットである。レンズ103は通常、複数枚のレンズから構成されるが、ここでは簡略して一枚のレンズのみで示している。通信端子6はレンズユニット150がデジタルカメラ100と通信を行う為の通信端子である。レンズユニット150は、この通信端子6と前述の通信端子10を介してシステム制御部50と通信し、内部のレンズシステム制御回路4によって絞り駆動回路2を介して絞り1の制御を行う。その後AF駆動回路3を介して、レンズ103を変位させることで焦点を合わせる。
シャッター101は、システム制御部50の制御で撮像部22の露光時間を自由に制御できるフォーカルプレーンシャッターである。
撮像部22は光学像を電気信号に変換するCCDやCMOS素子等で構成される撮像素子である。A/D変換器23は、撮像部22から出力されるアナログ信号をデジタル信号に変換するために用いられる。
画像処理部24は、A/D変換器23からのデータ、または、後述するメモリ制御部15からのデータに対し所定の画素補間、縮小といったリサイズ処理や色変換処理を行う。また、画像処理部24では、撮像した画像データを用いて所定の演算処理を行う。画像処理部24により得られた演算結果に基づいてシステム制御部50が露光制御、測距制御を行う。これにより、TTL(スルー・ザ・レンズ)方式のAF(オートフォーカス)処理、AE(自動露出)処理、EF(フラッシュプリ発光)処理が行われる。画像処理部24では更に、撮像した画像データを用いて所定の演算処理を行い、得られた演算結果に基づいてTTL方式のAWB(オートホワイトバランス)処理を行う。
メモリ制御部15は、A/D変換器23、画像処理部24、メモリ32間のデータ送受を制御する。A/D変換器23からの出力データは、画像処理部24およびメモリ制御部15を介して、あるいは、メモリ制御部15を介してメモリ32に直接書き込まれる。メモリ32は、撮像部22によって得られA/D変換器23によりデジタルデータに変換された画像データや、表示部28、EVF29に表示するための画像データを格納する。メモリ32は、所定枚数の静止画像や所定時間の動画像および音声を格納するのに十分な記憶容量を備えている。
また、メモリ32は画像表示用のメモリ(ビデオメモリ)を兼ねている。メモリ32に書き込まれた表示用の画像データはメモリ制御部15を介して表示部28、EVF29により表示される。表示部28、EVF29は、LCDや有機EL等の表示器上に、メモリ制御部15からの信号に応じた表示を行う。A/D変換器23によってA/D変換されメモリ32に蓄積されたデータを、表示部28またはEVF29に逐次転送して表示することで、ライブビュー表示(LV表示)を行える。以下、ライブビューで表示される画像をライブビュー画像(LV画像)と称する。
赤外発光ダイオード166は、ファインダー内の画面におけるユーザーの視線位置を検出するための発光素子であり、ユーザーの眼球(目)161に赤外光を照射する。赤外発光ダイオード166から発した赤外光は眼球(目)161で反射し、その赤外反射光はダイクロイックミラー162に到達する。ダイクロイックミラー162は赤外光だけを反射して可視光を透過させる。光路を変更された赤外反射光は、結像レンズ163を介して視線検知センサー164の撮像面に結像する。結像レンズ163は視線検知光学系を構成する光学部材である。視線検知センサー164は、CCD型イメージセンサ等の撮像デバイスから成る。
視線検知センサー164は、入射された赤外反射光を電気信号に光電変換して視線検出回路165へ出力する。視線検出回路165は少なくとも1つのプロセッサーを含み、視線検知センサー164の出力信号に基づき、ユーザーの眼球(目)161の画像または動きからユーザーの視線位置を検出し、検出情報をシステム制御部50に出力する。このようにダイクロイックミラー162、結像レンズ163、視線検知センサー164、赤外発光ダイオード166、視線検出回路165により視線検出ブロック160が構成される。
本発明では視線検出ブロック160を用いて、角膜反射法と呼ばれる方式で視線を検出する。角膜反射法とは、赤外発光ダイオード166から発した赤外光が眼球(目)161の、特に角膜で反射した反射光と、眼球(目)161の瞳孔との位置関係から、視線の向き・位置を検出する方式である。この他にも黒目と白目での光の反射率が異なることを利用する強膜反射法と呼ばれる方式など、様々な視線の向き・位置を検出する方式がある。なお、視線の向き・位置を検出できる方式であれば、上記以外の視線検出手段の方式を用いてもよい。
ファインダー外表示部43には、ファインダー外表示部駆動回路44を介して、シャッター速度や絞りをはじめとするカメラの様々な設定値が表示される。
不揮発性メモリ56は、電気的に消去・記録可能なメモリであり、例えばFlash-ROM等が用いられる。不揮発性メモリ56には、システム制御部50の動作用の定数、プログラム等が記憶される。ここでいう、プログラムとは、本実施形態にて後述する各種フローチャートを実行するためのプログラムのことである。
システム制御部50は、少なくとも1つのプロセッサーまたは回路からなる制御部であり、デジタルカメラ100全体を制御する。前述した不揮発性メモリ56に記録されたプログラムを実行することで、後述する本実施形態の各処理を実現する。システムメモリ52には、例えばRAMが用いられ、システム制御部50の動作用の定数、変数、不揮発性メモリ56から読み出したプログラム等が展開される。また、システム制御部50はメモリ32、表示部28等を制御することにより表示制御も行う。
システムタイマー53は各種制御に用いる時間や、内蔵された時計の時間を計測する計時部である。
モード切替スイッチ60、第1シャッタースイッチ62、第2シャッタースイッチ64、操作部70はシステム制御部50に各種の動作指示を入力するための操作手段である。モード切替スイッチ60は、システム制御部50の動作モードを静止画撮影モード、動画撮影モード等のいずれかに切り替える。静止画撮影モードに含まれるモードとして、オート撮影モード、オートシーン判別モード、マニュアルモード、絞り優先モード(Avモード)、シャッター速度優先モード(Tvモード)、プログラムAEモード(Pモード)、がある。また、撮影シーン別の撮影設定となる各種シーンモード、カスタムモード等がある。モード切替スイッチ60により、ユーザーは、これらのモードのいずれかに直接切り替えることができる。あるいは、モード切替スイッチ60で撮影モードの一覧画面に一旦切り換えた後に、表示された複数のモードのいずれかを選択し、他の操作部材を用いて切り替えるようにしてもよい。同様に、動画撮影モードにも複数のモードが含まれていてもよい。
第1シャッタースイッチ62は、デジタルカメラ100に設けられたシャッターボタン61の操作途中、いわゆる半押し(撮影準備指示)でONとなり第1シャッタースイッチ信号SW1を発生する。第1シャッタースイッチ信号SW1により、AF(オートフォーカス)処理、AE(自動露出)処理、AWB(オートホワイトバランス)処理、EF(フラッシュプリ発光)処理等の撮影準備動作を開始する。
第2シャッタースイッチ64は、シャッターボタン61の操作完了、いわゆる全押し(撮影指示)でONとなり、第2シャッタースイッチ信号SW2を発生する。システム制御部50は、第2シャッタースイッチ信号SW2により、撮像部22からの信号読み出しから撮像された画像を画像ファイルとして記録媒体200に書き込むまでの一連の撮影処理の動作を開始する。
操作部70は、ユーザーからの操作を受け付ける入力部としての各種操作部材である。操作部70には、少なくとも以下の操作部が含まれる。シャッターボタン61、タッチパネル70a、メイン電子ダイヤル71、電源スイッチ72、サブ電子ダイヤル73、十字キー74、SETボタン75、動画ボタン76、AEロックボタン77、拡大ボタン78、再生ボタン79、メニューボタン81。
電源制御部80は、電池検出回路、DC-DCコンバータ、通電するブロックを切り替えるスイッチ回路等により構成され、電池の装着の有無、電池の種類、電池残量の検出を行う。また、電源制御部80は、その検出結果及びシステム制御部50の指示に基づいてDC-DCコンバータを制御し、必要な電圧を必要な期間、記録媒体200を含む各部へ供給する。電源部30は、アルカリ電池やリチウム電池等の一次電池やNiCd電池やNiMH電池、Li電池等の二次電池、ACアダプター等からなる。
記録媒体I/F18は、メモリカードやハードディスク等の記録媒体200とのインターフェースである。記録媒体200は、撮影された画像を記録するためのメモリカード等の記録媒体であり、半導体メモリや磁気ディスク等から構成される。
通信部54は、無線または有線ケーブルによって接続し、映像信号や音声信号の送受信を行う。通信部54は無線LAN(Local Area Network)やインターネットとも接続可能である。また、通信部54は、Bluetooth(登録商標)や Bluetooth Low Energyでも外部機器と通信可能である。通信部54は撮像部22で撮像した画像(ライブビュー画像を含む)や、記録媒体200に記録された画像を送信可能であり、また、外部機器から画像やその他の各種情報を受信することができる。
姿勢検知部55は重力方向に対するデジタルカメラ100の姿勢を検知する。姿勢検知部55で検知された姿勢に基づいて、撮像部22で撮影された画像が、デジタルカメラ100を横に構えて撮影された画像であるか、縦に構えて撮影された画像であるかを判別可能である。システム制御部50は、姿勢検知部55で検知された姿勢に応じた向き情報を撮像部22で撮像された画像の画像ファイルに付加したり、画像を回転して記録したりすることが可能である。姿勢検知部55としては、加速度センサーやジャイロセンサーなどを用いることができる。姿勢検知部55である、加速度センサーやジャイロセンサーを用いて、デジタルカメラ100の動き(パン、チルト、持ち上げ、静止しているか否か等)を検知することも可能である。
接眼検知部57はファインダーの接眼部16に対する目(物体)161の接近(接眼)および離脱(離眼)を検知する(接近検知)、接眼検知センサーである。システム制御部50は、接眼検知部57で検知された状態に応じて、表示部28とEVF29の表示(表示状態)/非表示(非表示状態)を切り替える。より具体的には、少なくともデジタルカメラ100が撮影待機状態、かつ、撮像部22で撮像されたライブビュー画像の表示先の切替設定が自動切替設定である場合において、非接眼中は表示先を表示部28として表示をオンとし、EVF29は非表示とする。また、接眼中は表示先をEVF29として表示をオンとし、表示部28は非表示とする。接眼検知部57は、例えば赤外線近接センサーを用いることができ、EVF29を内蔵するファインダーの接眼部16への何らかの物体の接近を検知することができる。物体が接近した場合は、接眼検知部57の投光部(不図示)から投光した赤外線が反射して赤外線近接センサーの受光部(不図示)に受光される。受光された赤外線の量によって、物体が接眼部16からどの距離まで近づいているか(接眼距離)も判別することができる。このように、接眼検知部57は、接眼部16への物体の近接距離を検知する接眼検知を行う。なお、本実施形態では接眼検知部57の投光部および受光部は前述の赤外発光ダイオード166および視線検知センサー164とは別体のデバイスであるものとする。ただし、接眼検知部57の投光部を赤外発光ダイオード166で兼ねてもよい。また、受光部を視線検知センサー164で兼ねてもよい。非接眼状態(非接近状態)から、接眼部16に対して所定距離以内に近づく物体が検出された場合に、接眼されたと検出するものとする。接眼状態(接近状態)から、接近を検知していた物体が所定距離以上離れた場合に、離眼されたと検出するものとする。接眼を検出する閾値と、離眼を検出する閾値は例えばヒステリシスを設けるなどして異なっていてもよい。また、接眼を検出した後は、離眼を検出するまでは接眼状態であるものとする。離眼を検出した後は、接眼を検出するまでは非接眼状態であるものとする。なお、赤外線近接センサーは一例であって、接眼検知部57には、接眼とみなせる目や物体の接近を検知できるものであれば他のセンサーを採用してもよい。
システム制御部50は視線検出ブロック160からの出力に基づいて以下の操作、あるいは状態を検知できる。
・接眼部16に接眼したユーザーの視線入力がある状態であること。
・接眼部16に接眼したユーザーが注視している状態であること。
・接眼部16に接眼したユーザーが入力していた視線を外したこと。すなわち、視線入力の終了。
・接眼部16に接眼したユーザーが何も視線入力していない状態。
ここで述べた注視とは、ユーザーの視線位置が所定時間内に所定の移動量を超えなかった場合のことを指す。
タッチパネル70aと表示部28とは一体的に構成することができる。例えば、タッチパネル70aは光の透過率が表示部28の表示を妨げないように構成され、表示部28の表示面の上層に取り付けられる。そして、タッチパネル70aにおける入力座標と、表示部28の表示画面上の表示座標とを対応付ける。これにより、あたかもユーザーが表示部28上に表示された画面を直接的に操作可能であるかのようなGUI(グラフィカルユーザーインターフェース)を提供できる。システム制御部50はタッチパネル70aへの以下の操作、あるいは状態を検出できる。
・タッチパネル70aにタッチしていなかった指やペンが新たにタッチパネル70aにタッチしたこと。すなわち、タッチの開始(以下、タッチダウン(Touch-Down)と称する)。
・タッチパネル70aを指やペンでタッチしている状態であること(以下、タッチオン(Touch-On)と称する)。
・タッチパネル70aを指やペンでタッチしたまま移動していること(以下、タッチムーブ(Touch-Move)と称する)。
・タッチパネル70aへタッチしていた指やペンを離したこと。すなわち、タッチの終了(以下、タッチアップ(Touch-Up)と称する)。
・タッチパネル70aに何もタッチしていない状態(以下、タッチオフ(Touch-Off)と称する)。
タッチダウンが検出されると、同時にタッチオンであることも検出される。タッチダウンの後、タッチアップが検出されない限りは、通常はタッチオンが検出され続ける。タッチムーブが検出されるのもタッチオンが検出されている状態である。タッチオンが検出されていても、タッチ位置が移動していなければタッチムーブは検出されない。タッチしていた全ての指やペンがタッチアップしたことが検出された後は、タッチオフとなる。
これらの操作・状態や、タッチパネル70a上に指やペンがタッチしている位置座標は内部バスを通じてシステム制御部50に通知される。システム制御部50は通知された情報に基づいてタッチパネル70a上にどのような操作(タッチ操作)が行なわれたかを判定する。タッチムーブについてはタッチパネル70a上で移動する指やペンの移動方向についても、位置座標の変化に基づいて、タッチパネル70a上の垂直成分・水平成分毎に判定できる。所定距離以上をタッチムーブしたことが検出された場合はスライド操作が行なわれたと判定するものとする。タッチパネル上に指をタッチしたままある程度の距離だけ素早く動かして、そのまま離すといった操作をフリックと呼ぶ。フリックは、言い換えればタッチパネル70a上を指ではじくように素早くなぞる操作である。所定距離以上を、所定速度以上でタッチムーブしたことが検出され、そのままタッチアップが検出されるとフリックが行なわれたと判定できる(スライド操作に続いてフリックがあったものと判定できる)。更に、複数箇所(例えば2点)を同時にタッチして、互いのタッチ位置を近づけるタッチ操作をピンチイン、互いのタッチ位置を遠ざけるタッチ操作をピンチアウトと称する。ピンチアウトとピンチインを総称してピンチ操作(あるいは単にピンチ)と称する。タッチパネル70aは、抵抗膜方式や静電容量方式、表面弾性波方式、赤外線方式、電磁誘導方式、画像認識方式、光センサー方式等、様々な方式のタッチパネルのうちいずれの方式のものを用いても良い。方式によって、タッチパネルに対する接触があったことでタッチがあったと検出する方式や、タッチパネルに対する指やペンの接近があったことでタッチがあったと検出する方式があるが、いずれの方式でもよい。
本実施形態では、デジタルカメラ100における視線入力操作によるAF枠の表示をタッチ入力操作によって制御する制御処理について説明する。
(第1の実施形態)
第1の実施形態では、操作部材(本実施形態ではタッチパネル70a)に対する操作を継続して行っている間は、視線入力によるAF枠の移動を行わないように制御する例を説明する。図3は、視線入力によるAF枠の表示を、タッチ操作により制御するフローチャートである。この制御処理は、システム制御部50が、不揮発性メモリ56に格納されたプログラムをシステムメモリ52に展開して実行することにより実現される。図3のフローチャートは、デジタルカメラ100を撮影モードで起動し、撮影待機状態においてユーザーがファインダーを覗いている場合、つまり接眼部16へ接眼状態で、視線入力に関する設定が有効であるときに開始される。図7はEVF29または表示部28に表示される撮影に関する設定メニュー画面である。メニュー画面には設定項目701~704が表示される。このうち設定項目703が視線入力に関する設定項目である。視線入力とは、ユーザーの視線による操作についての機能を指す。視線入力は有効と無効のいずれかに設定することができる。設定項目703aを選択すれば、視線入力に関する設定が有効になり、設定項目703bを選択すれば、視線入力に関する設定が無効になる。視線入力を有効に設定すると、例えば視線によるAF枠位置の選択・移動操作が可能になる。視線入力を無効に設定すると、例えば視線によるAF枠位置の選択・移動操作が行えない。図7は、視線入力の設定が有効であることを表している。視線入力の設定は、不揮発性メモリ56に保存される。
S301では、システム制御部50は、視線入力の有無を判定する。視線入力がある、すなわち視線検出ブロック160においてユーザーによる視線が検出された場合には、S302へ進む。検出されない場合はS301へ戻る。視線入力があった場合、システム制御部50は、視線入力が始まった時点からの時間を計時する。視線検出ブロック160において検出された視線位置について、例えば30ミリ秒毎に視線位置を検出し、システム制御部50へ送る。システム制御部50は、視線位置と計時した時間から、ユーザーが視線を大きく動かしているか(視線をきょろきょろと動かしているか)、ある位置を見つめているか(注視)を判定する。注視についてはS302で後述する。
S302では、システム制御部50は、ユーザーによる注視があるか否かを判定する。システム制御部50は、視線位置と計時した時間から、所定時間内における視線位置の移動量が既定の閾値以下であるときに、注視があったと判定する。例えば、120ミリ秒のうちに視線位置の移動量が既定の閾値以下であった場合に、注視があったと判定する。注視があった場合はS303に進み、注視がなかった場合はS301へ戻る。ここでは、視線入力による焦点検出領域(以下、AF枠)の表示位置の移動について、ユーザーの意図する視線位置と判定する条件として注視を取り上げたが、ユーザーのまばたきや音声による指示等を条件としてもよい。また、注視がなくとも視線の検出位置に応じてAF枠を移動するようにしてもよい(すなわちS302をなくして、S301からS303へ進むようにしてもよい)。また、具体例として注視と判定する計時時間を120ミリ秒としたが、この計時時間はあらかじめ設定しておいてもいいし、ユーザーが自由に設定できるようにしてもよいし、表示されている視線位置と注視位置との位置関係に応じて可変するようにしてもよい。
S303では、システム制御部50は、EVF29において検出されている視線(注視)位置へAF枠の表示位置を移動し、自動焦点調整(以下AF)処理を実行する。S304においてタッチダウンが行われるまでの間、注視位置(視線位置)が移動した場合は、S302で述べたように経時的に注視位置を検出し、注視位置にAF枠を移動する。例えば、注視と判定するたび(所定時間毎)に、注視位置にAF枠を移動する。ここでは、注視の判定時間に倣って視線によるAF枠移動の更新を行う時間の周期としてとして120ミリ秒毎としたが、この周期はあらかじめ設定しておいてもいいし、ユーザーが自由に設定できるようにしてもよい。更新時間の周期を短くすれば、より正確に視線位置へAF枠を移動することができ、視線移動に素早くAF枠を追従させることができる。更新時間の周期を長くすれば、視線位置の移動に応じて細かくAF枠が追従することなく、ある程度大まかにAF枠が追従するので、ユーザーが煩わしく感じることを低減できる。視線によって移動するAF枠(選択位置)は、上述した更新時間にかかわらず、視線移動の軌跡に追従してなめらかに移動するようにする。つまり、ユーザーが視線を速く大きく移動したとしても、AF枠(選択位置)が表示されていた位置から視線の検出位置へと飛ぶように移動することなく、視線移動の軌跡に追従してなめらかに移動するようにする。すなわち、更新時間の周期が短い場合は、視線移動に対して遅れることなく素早くAF枠が追従して移動する。周期が長い場合は、視線移動の軌跡をたどってなめらかにAF枠が移動する。なお、視線検出ブロック160によって検出される視線位置(注視位置)がEVF29上に表示されているAF枠位置から移動したことを検出すると、視線位置とAF枠位置との距離の長さ、短さに関わらず、視線位置にAF枠を追従する。
S304では、システム制御部50は、タッチパネル70aへのタッチダウンの有無を判定する。タッチダウンがあった場合は、S305へ進み、なかった場合はS301へ戻る。
S305では、システム制御部50は、視線入力によるAF枠の表示位置の移動を一時的に禁止(制限)する。例えば、EVF29上に表示されているアイコンや数値を確認する際には、ユーザーはアイコンや数値などの領域を注視することが考えられる。しかしこの注視は視線によるAF枠の表示位置の移動を意図する注視ではない。アイコンや数値などの確認のための注視に応じてAF枠が移動してしまうと、ユーザー所望の位置ではない位置にAF枠が移動し、AF処理が行われてしまう可能性が生じる。ユーザー所望の位置にAF処理が実行できていた場合には、意図せぬAF枠の移動が生じてしまうと、ユーザーは再び所望の位置を注視しなければならず、煩わしい。また、S302の注視判定ステップがない場合でも、ユーザーがEVF29上に表示された画像全体のチェックを行う等の理由で視線を大きく動かしている場合に、視線移動に応じてAF枠が追従してしまうと、ユーザーが煩わしく感じる可能性がある。そのため、注視があった(もしくは視線入力があった)と判定された後にタッチパネル70aへのタッチダウン操作が行われると、タッチ操作が継続している間は視線によるAF枠の表示位置の移動を一時的に禁止・制限する。これにより、タッチダウンがあってからタッチアップがあるまでのタッチオン継続中は、視線の検出位置が変わってもそれに応じたAF枠の移動は行わない。また、前述のタッチオン継続中は視線検出ブロック160での視線の検出処理の少なくとも一部を停止して省電力してもよい。タッチアップがあると、停止した視線検出処理を再開する。
S306では、システム制御部50は、タッチダウン時、具体的には、タッチダウン操作が行われる前、もしくは、タッチダウン操作開始時点の視線位置に基づいてAF枠が追尾する追尾対象の決定を行う。
S307では、システム制御部50は、S306で決定した追尾対象への追尾を開始する。第1の実施形態では、例えばS303において、ユーザーが視線によるAF枠で選択した対象が動くものの場合、対象の動きに合わせてAF枠が移動してほしいとユーザーが考える可能性があるため、S306、S307において対象を追尾する。しかし、ユーザーが、複数あるAF枠のうちから任意の1点のAF枠を選択し、その任意の1点にAF処理を行うように設定していた場合、上述の限りではない。S306やS307のように、対象の動きに応じてAF枠を追尾させてしまうと、ユーザーにとって所望でない位置にAF枠が移動することが生じてしまう。そのため、ユーザーが上述したような任意の1点にAF処理を行う設定にしていた場合は、S303でAF処理をした対象が動いたとしても追尾対象とは決定することなく(追尾することなく)、ユーザー所望の1点にAF枠を固定してもよい。すなわち、S306とS307をなくして、S305からS308へと進む制御フローにしてもよい。
S308では、システム制御部50は、タッチパネル70aに対するタッチムーブ操作があったか否かを判定する。タッチムーブ操作があった場合は、S309へ進み、なかった場合はS310へ進む。
S309では、システム制御部50は、S308において判定したタッチムーブ量に対応した量だけ、S303でEVF29上に表示したAF枠を移動する。ユーザーがタッチパネル70aに対してタッチムーブを行ったということは、EVF29上の視線によるAF枠をタッチムーブ方向へ移動させたいと考えていることが想定できる。そのため、タッチムーブ量に対応した量だけ、EVF29上に表示したAF枠を移動する。詳細は図4(e)(f)を用いて後述する。なお、タッチムーブ量に対応して移動するEVF29上の移動量は、タッチムーブ量に係数をかけて算出するものである。この係数を小さくすればタッチムーブ量に対してEVF29上でのAF枠の移動量が小さくなるため、視線によって移動したAF枠をより細かく調整できる。
なお、S308、S309の処理を省略し、S307からS310に進むようにしてもよい。すなわち、タッチムーブがあってもAF枠を移動しないようにしてもよい。
S310では、システム制御部50は、タッチパネル70aからのタッチアップの有無を判定する。タッチアップがあった場合は、S311へ進み、タッチ操作が継続している場合はS305へ戻る。
S311では、システム制御部50は、不揮発性メモリ56を参照し、タッチシャッターに関する設定が入であるか否かを判定する。タッチシャッターの設定が入である場合は、S312に進み、切である場合はS313へ進む。タッチシャッターとは、タッチパネル70aへのタップ操作によって、撮影を行う(シャッターを切る)機能を指す。ユーザーはシャッターボタン61の押下にのみならず、上述したタッチシャッターに関する設定が入であれば、タッチパネル70aへのタップ操作により撮影を行うことができる。これにより、ユーザーは直感的に所望の合焦位置を指定でき、シャッターチャンスを逃すことなく撮影を行うことができる。S310においてタッチアップがあったということは、アイコンや数値、画像全体の確認が終了し、撮影を行う準備ができたと想定できる。このときにタッチシャッターに関する設定が入である場合は、タッチシャッター機能に従って、タッチアップに応じて撮影を行ったとしても、ユーザーの意図に反する可能性は低い。タッチシャッターに関する設定が切である場合は、タッチアップに応じた撮影は行わない(S310からS313へと進む)。
なお変形例として、S311において、S310でのタッチアップ時のユーザーの視線位置に応じて、タッチシャッターによる撮影を行うか否かを判定してもよい。具体的には、図4(b)のAF枠212aにおいてAF処理が行われている場合に、タッチパネル70aからのタッチアップ時のユーザーの視線位置がAF枠212a近傍であれば、タッチシャッターによる撮影を実行する。AF枠212a近傍とは、AF枠212aの内部またはAF枠212から所定の範囲内とする。タッチアップ時のユーザーの視線位置がAF枠212a近傍ではなく、図4(d)のように鳥214の位置にあった場合は、タッチシャッターによる撮影を実行しない。そして、図4(h)のAF枠212aに示すように、鳥214の位置へと視線入力によるAF枠を移動する。
S312では、システム制御部50は、撮影を行う。S311においてタッチシャッターに関する設定が入であったときに、S310のタッチパネル70aからのタッチアップに応じて撮影処理を行う。
S313では、システム制御部50は、S305において一時的に禁止・制限を行った、視線によるAF枠の表示位置の移動を許可(一時的な禁止・制限を解除)する。S310においてタッチパネル70aからのタッチアップがあった場合は、ユーザーが画像全体のチェックなどが終了したため、視線によるAF枠の表示位置の移動の制限を解除し、視線によるAF枠の表示位置の移動を再開しようと考えていると想定できる。そのため、一時的に制限を行った視線によるAF枠位置の移動を許可し、S314へ進む。
S314では、システム制御部50は、撮影待機状態が終了したか否かを判定する。撮影待機状態が終了した場合は、本制御フローを終了し、撮影待機状態が終了していない場合はS301へ戻る。
なお、図3の制御フロー中に第1シャッタースイッチ62がオンとなった場合は、その時点でのAF枠位置でAF処理を行う。具体的には、視線によりAF枠位置が表示されている場合は、視線によるAF枠位置でAF処理を行う。視線によりAF枠位置が表示されていない場合は、システム制御部50が判断した位置でAF処理を行う。その後、第2シャッタースイッチ64がオンとなった場合は、撮影を行う。
図4(a)~(h)を用いて、図3で説明した処理によるAF枠の表示位置の移動を説明する。図4(a)(c)(e)(g)はタッチパネル70a上の操作例、図4(b)(d)(f)(h)はEVF29上のAF枠の表示例、ユーザーの目161による視線位置の表示例である。情報表示213はEVF29上にLV画像とともに表示される情報である。例えばシャッター速度や絞り値、ISO感度などの撮影設定に関する情報や電池残量情報などが表示される。
図4(a)(b)は、図3のS302、S303における表示例である。図4(a)からわかるように、S302、S303の時点ではタッチパネル70aへのタッチ操作はされていない。図4(b)のAF枠212aは、視線入力に関する設定が有効で、かつ、注視があると判定された場合に、目161の視線位置に表示されたAF枠位置である。図4(b)では、AF枠212aは花215にAF処理を行っているが、タッチパネル70aへのタッチダウンが行われていない状態では、目161の動きに応じてAF枠212aに追従する。具体的には、目161が鳥214へと視線位置を素早く移動すれば、AF枠は素早く移動し、視線位置を花215から鳥214へとゆっくり移動すれば、視線位置の移動の軌跡に沿ってAF枠も移動する。なお、視線位置に対するAF枠の追従のレスポンスについては、S302の注視と判定する判定時間(上述では120ミリ秒)と同じにしてもよいし、別の時間をあらかじめ設定しておいてもよいし、ユーザーが任意に設定できるようにしてもよい。また、時間に応じて移動するのではなく、システム制御部50が認識している被写体にAF処理ができるように、認識している被写体に飛ぶように移動してもよい。具体的には、図4(b)の状態でシャッターボタン61を押下して撮影を行えば、花215に合焦した画像が撮影される。AF枠の移動操作をしなくてもユーザーが見ているところに合焦した画像を撮影することができるので、素早く直感的に撮影を行うことができる。
図4(c)(d)は、図3のS304からS305におけるタッチパネル70a上の操作例とEVF29上のAF枠の表示例、ならびにユーザーの視線位置の表示例である。図4(c)に示すように、S304においてタッチパネル70aへのタッチ操作(タッチダウン)を行っている。図4(c)では、ユーザーはタッチパネル70aの中央付近をタッチしている(タッチ入力211a)が、第1の実施形態ではタッチパネル70aへのタッチ操作の有無で視線によるAF枠移動を制御するため、タッチパネル70aのタッチ位置には依らない。S305において視線によるAF枠移動を一時的に禁止・制限するため、タッチパネル70aへのタッチ操作継続中は、AF枠212aは目161による視線位置がAF枠212aの位置から移動したとしても、AF枠は視線位置に追従しない。図4(d)において目161による視線位置が鳥214を注視していたとしても、図4(c)のようにタッチパネル70aへのタッチ操作継続中はAF枠212aはタッチダウン時点もしくはタッチダウン前に表示されたAF枠位置にとどまる。すなわち、視線位置へは移動しない。具体的には、図4(d)の状態でシャッターボタン61を押下して撮影を行えば、鳥214ではなく花215に合焦した画像が撮影される。花215に合焦させたいが、撮影のタイミングは鳥214が飛び立った瞬間に撮影を行いたい、といったような要望を持つユーザーにとっては、視線位置が鳥214にあったとしても花215に合焦した画像が撮影されることが望ましい。つまり、視線位置に合焦しない(AF枠が移動しない)ことが望ましい。これにより、ユーザーは視線によって素早く直感的に指定したAF枠位置を維持したまま、ユーザーの好適なタイミングで撮影を行うことができる。
図4(e)(f)は、図3のS308、S309における表示例である。図4(c)(d)を用いて説明したように、タッチパネル70aに対してタッチダウンを行ったことで、視線によるAF枠の移動を一時的に制限する(S304、S305の処理)。そのため、図4(d)に示すように、目161による視線位置が鳥214にあったとしても、AF枠212aは視線位置への移動は行わない。ここで、図4(e)に示すように、タッチ入力211aをタッチパネル70aからタッチアップすることなくタッチムーブし、タッチ入力211aからタッチ入力211bの位置に移動する。これにより、図4(f)に示すようにEVF29上では、タッチ入力211aがタッチダウンした時点で表示されていたAF枠212aが、タッチムーブによりAF枠212bへと移動する。このとき、タッチパネル70aに対するタッチムーブ量に対応する量、もしくはタッチムーブ量に対応する量よりも小さな移動量だけEVF29上でAF枠を移動させる。これは、ユーザーが視線によってAF枠を移動した場合に、例えば図4(f)の花215と犬216のように被写体同士が近くに存在していると、ユーザー所望の位置にAF枠が移動しない可能性が生じる。そのため、視線によって大まかなAF枠の指定を行ったあとに、タッチムーブ操作を行うことで、より正確にユーザー所望の位置へとAF枠を移動させることができる。この際に視線によるAF枠の移動を一時的に制限するのは、タッチムーブによって微調整を行ったAF枠が、意図しない視線によって、AF枠が大きく移動してしまうことを避けるためである。このケースでは例えば、ユーザーが犬216の目にピントを合わせたかった場合に、視線で素早く犬216の顔近傍(AF枠212aの位置)にAF枠を設定し、タッチムーブ操作を行う。タッチムーブ操作でAF枠を少し移動させるだけで、視線入力によるAF枠位置である犬216の顔近傍(AF枠212aの位置)から犬216の目の位置(AF枠212bの位置)にAF枠を設定することができる。
図4(g)(h)は、図3のS310、S313における表示例である。図4(g)からわかるように、S310においてタッチパネル70aからのタッチアップが行われ、タッチパネル70aへの操作はなにもしていない状態である。タッチパネル70aからのタッチアップにより、一時的に禁止・制限されていた視線によるAF枠移動を許可することで、図4(h)に示すように、目161による視線位置に、AF枠212aが移動する(視線位置にAF枠が追従する)。
図3の制御フローと図4から、ユーザーによる視線入力が有効、かつ注視がある場合は、ユーザーの視線入力に応じて視線位置にAF枠を表示・移動する。タッチパネル70aへのタッチ操作(タッチダウン)が継続して行われている間は、ユーザーによる視線入力があったとしても視線位置にAF枠は追従しないように制限を行う。制限を行うことで、ユーザーがタッチパネル70aへタッチ操作を継続している間は、ユーザーは画像全体のチェックや、撮影に関する設定値などの確認を、所望位置にAF枠を表示したまま、行うことができる。ユーザーが再び視線によるAF枠の移動を行いたいと考えた場合には、タッチ操作を終了(タッチパネル70aからのタッチアップ)すればよい。これにより、ユーザーはAF枠である選択位置を視線入力によって移動を行うか否かの切替を、タッチ操作の有無によって煩わしく感じることなく行うことができる。また、タッチダウン、タッチアップという一連のタッチ操作によって切り替えることができるため、ユーザーが視線によりAF枠の移動を制限した状態に切り替えた後に、元の非制限状態に戻すことを忘れてしまうことによる不都合も防止することができる。
なお、上述した第1の実施形態では、ファインダーをのぞくユーザーの視線を検出し、タッチパネルへのタッチ操作によって視線入力による選択位置の切替を行う例を説明したが、これに限るものではない。例えば、第1の実施形態でのタッチ操作に代えて、SETボタン75の押下でも第1の実施形態を適用することができる。具体的には、視線(注視)によるAF枠がEVF29上に表示(S303の処理)された後に、SETボタン75の押下(S304の処理)があると、視線によるAF枠の移動を一時的に禁止・制限(S305の処理)する。そのあと、SETボタン75の押下(S310の処理)が終了すると、視線によるAF枠の移動を許可(S313の処理)し、視線位置にAF枠を表示する。
(第2の実施形態)
第2の実施形態では、操作部材(本実施形態ではタッチパネル70a)を継続して行っている間に限り、視線入力によるAF枠の表示位置の移動を行うことができるように制御する例を説明する。図5は、視線入力によるAF枠の表示を、タッチ操作により制御するフローチャートである。この制御処理は、システム制御部50が、不揮発性メモリ56に格納されたプログラムをシステムメモリ52に展開して実行することにより実現される。図5のフローチャートは、第1の実施形態同様に、デジタルカメラ100を撮影モードで起動し、撮影待機状態においてユーザーがファインダーを覗いている場合、つまり接眼部16へ接眼状態で、視線入力に関する設定が有効あるときに開始される。
S501では、システム制御部50は、タッチパネル70aへのタッチダウンの有無を判定する。タッチダウンがあった場合はS502へ進み、なかった場合はS501へ戻る。
S502では、図3のS301と同様に、システム制御部50は、視線入力の有無を判定する。
S503では、図3のS302と同様に、システム制御部50は、ユーザーによる注視があるか否かを判定する。
S504では、図3のS303と同様に、システム制御部50は、EVF29において検出されている視線(注視)位置へAF枠の表示位置を移動し、自動焦点調整(以下AF)処理を実行する。S501において行われたタッチ操作が継続して行われている間、注視位置(視線位置)が移動した場合は、S503で述べたように経時的に注視位置を検出し、注視位置にAF枠を移動する。S501においてタッチパネル70aへのタッチダウンが開始し、タッチパネル70aへのタッチ操作が継続されて行われている限り、視線入力によるAF枠の移動を行う。すなわち、タッチムーブや後述するタッチプッシュなどの、タッチダウンに加えて別の操作がなくとも、視線入力によるAF枠の移動を行う。これによって、ユーザーは視線によって直感的、かつ、素早くAF枠を視線位置へ移動することができ、ユーザー所望のタイミングで撮影へと移行することができ、シャッターチャンスを逃す可能性を低減できる。
S505では、図3のS310と同様に、システム制御部50は、タッチパネル70aからのタッチアップの有無を判定する。タッチアップがあった場合は、S506へ進み、タッチアップがなかった場合はS502へ戻る。
S506では、図3のS305と同様に、システム制御部50は、視線入力によるAF枠の表示位置の移動を一時的に禁止(制限)する。タッチパネル70aへのタッチオン中に注視があった(もしくは視線入力があった)と判定された場合は、視線位置へAF枠を表示する(S504)。その後にタッチパネル70aからのタッチアップがあると、タッチパネル70aへのタッチ操作がない間は、視線によるAF枠位置の移動を一時的に禁止・制限する。例えば、ユーザーは視線入力によるAF枠の移動がされてほしいと考えて、タッチパネル70aにタッチダウンをしていることが考えられる。そのためタッチオン中は視線に追従してAF枠が移動したとしても、ユーザーが煩わしく感じる可能性は低い。つまり、ユーザーは視線に追従してAF枠が移動してほしくない、と考えた場合には、タッチパネル70aからのタッチアップを行うことが想定できる。そのため、タッチパネル70aからのタッチアップがあると、視線によるAF枠の移動を一時的に禁止・制限する。これにより、ユーザーは視線によるAF枠の移動を行うか否かの切替をタッチ操作により直感的に行うことができる。また、この視線によるAF枠の移動を一時的に制限している期間は視線検出ブロック160での視線の検出処理の少なくとも一部を停止して省電力してもよい。タッチダウンがあると、停止した視線検出処理を再開する。
S507では、図3のS311と同様に、システム制御部50は、不揮発性メモリ56を参照し、タッチシャッターに関する設定が入であるか否かを判定する。タッチシャッターの設定が入である場合は、S508に進み、切である場合はS509へ進む。S505においてタッチアップ操作を行ったということは、画像全体の確認が終了し、撮影を行う準備ができたと想定できる。このときにタッチシャッターに関する設定が入である場合は、タッチシャッター機能に従って、タッチアップに応じて撮影を行ったとしても、ユーザーの意図に反する可能性は低い。また、S507においてタッチシャッターに関する設定内容に関わらず、S505でのタッチアップ時のユーザーの視線位置に応じて、タッチシャッターによる撮影を行うか否かを判定してもよい。具体的には、図6(d)のAF枠212aにおいてAF処理が行われている場合に、タッチパネル70aからのタッチアップ時のユーザーの視線位置がAF枠212a近傍であれば、タッチシャッターによる撮影を実行してもよい。タッチアップ時のユーザーの視線位置がAF枠212a近傍ではなく図6(d)の鳥214の位置にあった場合は、タッチシャッターによる撮影を実行せず、図6(h)のAF枠212a位置へと視線入力によるAF枠を移動するようにしてもよい。
S508では、図3のS312と同様に、システム制御部50は、撮影を行う。S507においてタッチシャッターに関する設定が入であったときにS505のタッチパネル70aからのタッチアップに応じて撮影処理を行う。
S509では、システム制御部50は、タッチアップ時の視線位置(すなわち、S505でYesと判定された時点で検出されていた視線位置)に基づいて追尾対象決定を行う。
S510では、図3のS307と同様に、システム制御部50は、S509で決定した追尾対象への追尾を開始する。ユーザーが、複数あるAF枠のうちから任意の1点にAF処理を行うように設定していた場合は、S509とS510をなくして、S508からS511へと進む制御フローにしてもよい。
S511では、システム制御部50は、撮影待機状態が終了したか否かを判定する。撮影待機状態が終了した場合は、本制御フローを終了し、撮影待機状態が終了していない場合はS501へ戻る。
なお、図5の制御フロー中に第1シャッタースイッチ62がオンとなった場合は、その時点でのAF枠位置でAF処理を行う。具体的には、視線によるAF枠が表示されている場合は、視線によるAF枠位置でAF処理を行う。視線によりAF枠位置が表示されていない場合は、システム制御部50が判断した位置でAF処理を行う。その後、第2シャッタースイッチ64がオンとなった場合は、撮影を行う。
図6(a)~(h)を用いて、図5で説明した処理によるAF枠位置の移動を説明する。図6(a)(c)(e)(g)はタッチパネル70a上の操作例、図6(b)(d)(f)(h)はEVF29上のAF枠の表示例、ユーザーの目161による視線位置の表示例である。
図6(a)(b)は、図5のS501~S504における表示例(特に、タッチダウン直後の表示例)である。図6(a)に示すように、タッチパネル70aへのタッチ操作(タッチオン)がされている。このタッチ操作については、タッチの有無で視線によるAF枠移動を制御するための操作であるため、タッチ位置には依らない。図6(b)のAF枠212aは、タッチパネル70aへのタッチがあり、かつ、視線入力に関する設定が有効、かつ、注視があると判定された場合に、目161の視線位置に表示されたAF枠位置である。図6(b)では、ユーザーはEVF29上に表示されている犬216の尾付近を見ていることがわかる。そのため、AF枠212aは視線位置である犬216の尾付近へ表示される。
図6(c)(d)は、図6(a)(b)同様に、図5のS501~S504での表示例である。このとき図6(c)に示すように、ユーザーは引き続きタッチパネル70aへのタッチ操作を継続しているため、ユーザーの視線入力によるAF枠は視線位置に応じて移動する。ここでは、目161は花215を見ていることから、AF枠212aは犬216の尾(図6(b)での視線位置に応じた位置)から花215(図6(d)での視線位置に応じた位置)へと移動する。図5のS504で述べたように、視線入力によるAF枠の表示位置の移動が可能である間は、AF枠は注視位置(視線位置)の移動に応じて経時的に移動する。例えば、図3のS302、図5のS503で述べたように、注視判定の時間である120ミリ秒毎にAF枠の表示位置を移動する。この時間は、ユーザーの視線移動の軌跡をたどることができる程度の時間であれば、あらかじめ設定しておいてもいいし、ユーザーが任意に設定できるようにしてもよい。時間を短く設定すれば、ユーザーの視線移動に応じて、より俊敏にAF枠が追尾することができるし、時間を長く設定すれば、視線移動に応じてAF枠が細かく移動することがないため、ユーザーが煩わしく感じることを低減できる。図6(b)(d)では犬216の尾から花215はある程度の距離が離れているが、図5のS504で説明したように、視線位置とAF枠位置との距離に関わらず、視線位置にAF枠が追従するようにする。なお、図6(a)(c)ではタッチ入力211aはタッチダウンを行った位置から移動することなく、また、後述するタッチプッシュのような、タッチパネル70aへの押圧を変化させることなく、タッチ操作を継続している状態である。図6(b)(d)の状態でシャッターボタン61を押下して撮影を行えば、視線位置に応じた位置であるそれぞれ、犬216の尾、花215に合焦した画像が撮影される。タッチオン中はAF枠の移動操作を行わなくても、ユーザーが見ているところに合焦した画像を撮影できるので、素早く直感的に撮影を行うことができる。
図6(e)(f)は、S505、S506における表示例である。図6(e)に示すように、ユーザーはS505においてタッチパネル70aからのタッチアップを行い、タッチパネル70aへの操作はなにもされていない。タッチパネル70aへの操作を何も行っていない間は視線によるAF枠移動を一時的に禁止・制限する(S506)。そのため、目161による視線位置がAF枠212aの位置から移動したとしても、AF枠212aは視線位置に追従しない。図6(f)において目161による視線位置が鳥214を注視していたとしても、図6(e)のようにタッチパネル70aへの操作がない間は、AF枠212aはタッチアップ時点もしくはタッチアップ前に表示されたAF枠位置に留まり、視線位置には追従しない。また、図6(e)(f)の時点で、すなわちタッチパネル70aへのタッチ操作がない間に、シャッターボタン61が押下された場合は、図6(f)の視線位置である鳥214ではなく、AF枠212aの位置でAF処理を実行し撮影を行う。具体的には、図6(f)の状態でシャッターボタン61を押下して撮影を行えば、鳥214ではなく花215に合焦した画像が撮影される。花215に合焦させたいが、撮影のタイミングは鳥214が飛び立った瞬間に撮影を行いたい、といったような要望を持つユーザーにとっては、鳥214に視線位置があったとしても花215に合焦した画像が撮影されることが望ましい。これにより、ユーザーは視線によって素早く直感的にAF枠位置を指定でき、ユーザーの好適なタイミングで撮影を行うことができる。
図6(g)(h)は、図5のS511NoからS501へと戻るフローにおける表示例である。図6では、タッチシャッターに関する設定の内容に係わらない場合の表示例を示している(図5のS507、S508はないものとしている)。図6(e)(f)の状態から、図6(g)に示すように、タッチパネル70aへのタッチダウンが行われた状態(S501)である。タッチパネル70aへのタッチダウンにより、一時的に禁止・制限されていた視線によるAF枠移動を許可することで、図6(h)に示すように、目161の視線入力(鳥214の位置)位置に、AF枠212aが移動する。例えば、ユーザーは図6(f)の時点では、花215に合焦させたまま、鳥214が飛び立った瞬間に撮影をしたいと考えていた。しかし、花215ではなく鳥214に合焦をした画像を撮影したいと考えを変更した場合には、再度タッチダウンを行うことで視線入力ができるようになるため、視線位置である鳥214へ合焦させることができる。ユーザーが図6(h)の状態でシャッターボタン61を押下して撮影を行えば、図6(b)(d)と同様に、視線位置に応じた位置である鳥214に合焦した画像が撮影される。これにより、ユーザーは直感的に視線によるAF枠の移動を行うか否かの切替を行い、撮影を行うことができる。
図5の制御フローと図6(a)~(h)から、タッチパネル70aへのタッチ操作が継続して行われているときに、ユーザーによる視線入力(注視)がある場合は、タッチ操作継続中はユーザーの視線入力に応じて視線位置にAF枠を移動する。タッチパネル70aからのタッチアップにより、タッチパネル70aへの操作を何もしていない状態では、ユーザーによる視線入力があったとしても視線位置にAF枠は追従しないように制限を行う。制限を行うことで、ユーザーは画像全体のチェックや、撮影に関する設定値などの確認を、所望位置にAF枠を表示したまま、行うことができる。ユーザーが再び視線によるAF枠の移動を行いたいと考えた場合には、タッチパネル70aへのタッチ操作を開始し、視線によるAF枠の移動を行いたい間はタッチ操作を継続すればよい。これにより、ユーザーはタッチ操作の有無によって、AF枠である選択位置を視線入力によって移動を行うか否かの切替を、煩わしく感じることなく行うことができる。また、タッチダウン、タッチアップという一連のタッチ操作によって切り替えることができるため、ユーザーが視線によるAF枠の移動を制限した状態に切り替えた後に、元の一時的な制限状態に戻すことを忘れてしまうことによる不都合も防止することができる。
なお、上述した第2の実施形態では、ファインダーをのぞくユーザーの視線を検出し、タッチパネルへのタッチ操作によって視線入力による選択位置の切替を行う例を説明したが、これに限るものではない。例えば、第2の実施形態でのタッチ操作に代えて、SETボタン75の押下でも本実施形態を適用することができる。具体的には、SETボタン75の押下(S501の処理)継続中に視線入力があると、視線(注視)によるAF枠がEVF29上に表示(S504の処理)される。SETボタン75の押下が終了(S505の処理)すると、視線によるAF枠の移動を一時的に禁止・制限(S506の処理)する。第2の実施形態では、タッチパネル70aやSETボタン75などの、シャッターボタン61とは異なる操作部材を用いて、視線によるAF枠の移動を行うか否かの制御を行う。これにより、例えば、ユーザーが第1シャッタースイッチ62や第2シャッタースイッチ64のオン状態を保持したままでも、上記タッチパネル70aなどの操作部材を操作することで視線によるAF枠の移動を行うか否かの切替を行うことができる。つまり、ユーザーは直感的に視線入力の切替を行うことができ、より素早く撮影を行うことができる。
上述した第1の実施形態、第2の実施形態いずれに対しても、タッチパネル70aへの押圧を検知可能なように構成し、タッチパネル70aへの押圧に応じて決定処理を行うようにしてもよい。すなわち、表示部28の操作面(タッチパネル70aの操作面)に対する押圧力を検知する、タッチ操作の強度を検出するための圧力センサー(不図示)を備える構成としてもよい。圧力センサーは、表示部28に対するタッチ操作によって押圧された場合の押圧力の強度を連続的に検知することができる。圧力センサーとしては、表示部28の操作面に対する押圧力によって歪む部分に、1つまたは複数の歪みゲージセンサーを設置し、この歪みゲージセンサーからの出力値によってタッチパネル70aの操作面に対する押圧力を検知する構成とすることができる。あるいは、タッチパネル70aと平行に備えられた静電容量センサーにより、表示部28の操作面に対する押圧力によって操作面が歪んだことによる、操作面上の指と静電容量センサーとの距離を静電容量値から算出する。そして、この距離に基づいて圧力を算出、あるいは距離を圧力と同等に扱うものとしてもよい。また、圧力センサーは、タッチパネル70aの操作面に対する押圧力を検知可能なものであれば、他の方式のものでも良い。例えば、スタイラスを用いて操作面に対する操作を行うのであれば、スタイラス側に設けられたスタイラスの先端部にかかる圧力を検知するセンサーでもよく、そのセンサーからの出力に基づいてタッチ操作の強度(押圧力)を検知してもよい。また、操作面へのタッチの力またはタッチの圧力の代替物(例えば上述の操作面上の指と静電容量センサとの距離)を検知するものでもよい。また、様々な方法、及び様々なセンサー、または複数のセンサーの組合せ(例えば加重平均によって)を使用してタッチ操作の強度(圧力)を検知しても良い。圧力センサーは、タッチパネル70aと一体に構成されるものであっても良い。以下、表示部28の操作面に対する押圧操作をタッチプッシュと称する。
具体的には、この圧力センサーを備えたタッチパネル70aを搭載したデジタルカメラ100であれば、第1の実施形態における図3のS304のタッチダウン後にタッチプッシュを行うことで、図3のS305の視線によるAF枠の移動を禁止してもよい。すなわち、タッチオンのみでは視線によるAF枠の移動を禁止することなく、タッチプッシュが行われた時点でのAF枠位置を適用することで、ユーザーがより正確に視線によるAF枠位置を決定することができる。第2の実施形態における図5のS501のタッチダウン後にタッチプッシュを行うことで、図5のS504の視線位置へAF枠を表示するようにしてもよい。すなわち、タッチオン中に視線入力を検知していたとしてもAF枠を表示せず、タッチプッシュに応じて視線位置へAF枠を表示するため、視線に応じてAF枠が表示され続けることがなく、ユーザーが煩わしく感じることを低減することができる。
このように第1の実施形態、第2の実施形態いずれでも、視線入力によるAF枠の表示を、タッチ操作により制御する。これにより、ユーザーはタッチ操作の有無によって、AF枠である選択位置を視線入力によって移動するか否かの切替を、煩わしく感じることなく行うことができる。また、タッチダウン、タッチアップという一連のタッチ操作によって切り替えることができるため、ユーザーが切り替えたあとに元に戻すことを忘れてしまうことによる不都合を低減することができる。つまり、現在どちらの状態(視線可か、視線不可か)であるか、ユーザーがわからなくなってしまうということを防止することができる。
なお、上述した第1の実施形態、第2の実施形態では、EVF29を有したデジタルカメラ100の例を説明したが、これに限るものではない。EVF29を用いない場合にも適用可能である。図8はタッチパッドを備えたノートパソコンのモニターに表示されたマウスポインタを視線入力によって移動する例である。図8において、本実施形態で述べたタッチパネル70aに対応するものとして、タッチパッド805を示す。ノートパソコンでの視線検出ブロック160として、独立した視線検出機器810をノートパソコンに接続し、視線検出機器810に搭載されているカメラ811や、ノートパソコンに内蔵されている内蔵カメラ812を用いて視線位置を判定する。ノートパソコンにおいても本実施形態と同様に、タッチパッド805へのタッチ操作の有無によって、視線によるAF枠の移動を行うか否かの切替を行う。第1の実施形態をノートパソコンに適用する場合には、タッチパッド805へのタッチオン継続中は視線によるAF枠の移動を制限し、タッチパッド805へのタッチ操作がなければ視線によるAF枠の移動を行えるようにする。第2の実施形態を適用する場合には、タッチパッド805へのタッチ操作がない間は視線によるAF枠の移動を制限し、タッチオン継続中は視線によるAF枠の移動を行えるようにする。
また、タッチパッド805にはクリック操作のように、タッチパッド805を押し込み可能なものもある。このように、押し込み可能なタッチパッド805の場合は、前述のSETボタン75のように押し込み中は視線を非制限/制限状態とするようにしてもよい。前述のタッチプッシュのように、タッチオン中は視線を検出していてもAF枠を表示せず、押し込みがあった時点でのAF枠位置を適用するようにしてもよい。
図8において、他の実施形態としてノートパソコンをあげたが、マウスやポインティングデバイス等のタップ操作や押し込み可能な操作部材を備えているものであれば、本実施形態は実施可能である。マウスの場合は、クリック操作の継続中は視線を非制限/制限状態とする。ポインティングデバイスにタッチ操作可能な操作部材が搭載されている場合は、タッチ操作の継続中は視線を非制限/制限状態とし、押し込み可能な操作部材の場合は前述したSETボタン75のように、押し込み中は視線を非制限/制限状態とする。なお、これらタッチパッドやマウス、ポインティングデバイス等はノートパソコン内蔵のものである必要はなく、外付けのものでもよい。
以上のように、操作部材への操作がないときに視線入力があった場合は、操作部材への操作がされない間は視線入力による表示位置の移動がされ、操作部材への操作の継続中は視線入力による表示位置の移動を一時的に制限する。操作部材への操作の終了により視線入力による表示位置の移動を許可し、移動ができるようにする。また、操作部材への操作がされているときに視線入力があった場合は、タッチ操作がされている間(タッチ操作の継続中)は視線入力による表示位置の移動がされ、タッチ操作がない間は視線入力による表示位置の移動を一時的に制限する。タッチ操作が再度行われた場合は、視線入力による表示位置の移動を許可し、移動ができるようにする。これにより、タッチ操作の有無により、視線入力による表示位置の移動を行うか否かの切替をより素早く行うことができる。
なお、システム制御部50が行うものとして説明した上述の各種制御は、1つのハードウエアが行ってもよいし、複数のハードウエア(例えば複数のプロセッサーや回路)が処理を分担することで装置全体の制御を行ってもよい。
また、本発明をその好適な実施形態に基づいて詳述してきたが、本発明はこれら特定の実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の様々な形態も本発明に含まれる。視線入力と組み合わせて使う位置移動の指示部材としてタッチパネル70aの例を説明したが、ボタンやダイヤルなどこれ以外の操作手段としてもよい。表示位置をAF枠としたが、アイコン枠やパラメーター設定枠などとしてもよいし、マウスポインタなどのAF枠とは異なるインジケーター表示としてもよい。注視の判定基準について、視線検出ブロック160への視線入力が開始したあとの蓄積時間としたが、この蓄積時間についてあらかじめ設定した時間でもよい。表示されているAF枠と視線位置との位置関係に応じて変化するようにしてもよいし、ユーザーが任意に設定できるようにしてもよい。また、ユーザーの意図した視線位置の判断基準として本実施例では注視を取り上げたが、注視による判断基準ではなく視線入力設定(図7の設定項目703の視線入力)の有効/無効のみで判断してもよい。
また、上述した実施形態においては、本発明をデジタルカメラに適用した場合を例にして説明したが、これはこの例に限定されず視線入力を受け付け可能な受付手段を有した電子機器であれば適用可能である。また、各実施形態を適宜組み合わせることも可能である。本実施形態ではEVF29と視線検出を使用する構成としたが、EVF29以外の表示装置と視線検出を使用する構成でも本実施形態は実施可能である。すなわち、本発明はパーソナルコンピューターやPDA、携帯電話端末や携帯型の画像ビューワ、ディスプレイを備えるプリンタ装置、デジタルフォトフレーム、音楽プレーヤーなどに適用可能である。また、ゲーム機、電子ブックリーダー、ヘッドマウントディスプレイ等のウェアラブル機器などに適用可能である。
(他の実施形態)
本発明は、以下の処理を実行することによっても実現される。即ち上述した実施形態の機能を実現するソフトウェア(プログラム)をネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピューター(又はCPUやMPU等)がプログラムコードを読み出して実行する処理である。この場合、そのプログラム、及び該プログラムを記憶した記憶媒体は本発明を構成することになる。

Claims (18)

  1. 撮像部により撮像して得られたライブ画像が表示された表示部に対するユーザーの視線位置を検出する視線検出手段と、
    前記撮像部により撮像して得られたライブ画像において、被写体を追尾する追尾手段と、
    ユーザー操作を受け付ける特定の操作手段と、
    前記視線検出手段により検出した視線位置または前記特定の操作手段への操作に応じて、前記ライブ画像における選択位置を移動するように制御する制御手段と、
    を有し、
    前記制御手段は、
    前記特定の操作手段への操作が行われていない場合は、前記視線検出手段により検出した視線位置に基づいて前記選択位置を移動するように制御し、
    前記特定の操作手段への操作が継続されている間は、
    前記操作が移動操作のときは、当該移動操作の移動に応じて前記選択位置を移動するように制御し、
    前記操作が移動操作を含まない非移動操作のときは、当該非移動操作に応じて決定した追尾対象の被写体を前記追尾手段により追尾し、前記追尾手段により追尾した前記追尾対象の被写体の位置に前記選択位置を移動するように制御する、
    ことを特徴とする電子機器。
  2. 前記制御手段は、前記特定の操作手段へ行われている前記操作が非移動操作のときに、当該非移動操作の前または当該非移動操作の開始時点に前記視線検出手段により検出した視線位置に基づいて、前記追尾対象の被写体を決定する、ことを特徴とする請求項1に記載の電子機器。
  3. 前記制御手段は、前記非移動操作が継続されている間、前記追尾手段により追尾した前記追尾対象の被写体の位置に前記選択位置を移動するように制御する、ことを特徴とする請求項1または2に記載の電子機器。
  4. 前記制御手段は、前記特定の操作手段への前記操作が終了したことに応じて、前記視線検出手段により検出した視線位置に基づいて前記選択位置を移動するように制御する、ことを特徴とする請求項1乃至3のいずれか1項に記載の電子機器。
  5. 前記制御手段は、前記特定の操作手段へ前記移動操作が行われている場合、当該移動操作の移動方向に、当該移動操作の移動量に対応する移動量で、前記選択位置を移動するように制御する、ことを特徴とする請求項1乃至4のいずれか1項に記載の電子機器。
  6. 前記特定の操作手段は、操作面に対するタッチ操作を検出するタッチ操作手段である、ことを特徴とする請求項1乃至5のいずれか1項に記載の電子機器。
  7. 前記制御手段は、
    前記操作面に対するタッチ操作が前記タッチ操作手段により検出されたことに応じて、前記追尾対象の被写体を決定し、前記追尾手段により追尾した前記追尾対象の被写体の位置に前記選択位置を移動するように制御し、
    前記タッチ操作を検出した後、当該タッチ操作によるタッチが前記操作面から離れることなく、タッチ位置を移動する前記移動操作が前記タッチ操作手段により検出されたことに応じて、当該移動操作の移動に応じて前記選択位置を移動するように制御する、
    ことを特徴とする請求項6に記載の電子機器。
  8. 前記撮像部により撮像して得られた画像の記録を指示するための第1の操作手段をさらに有し、
    前記特定の操作手段は、前記第1の操作手段とは異なる操作手段であることを特徴とすることを特徴とする請求項1乃至のいずれか1項に記載の電子機器。
  9. 前記制御手段は、
    前記特定の操作手段への操作が行われていない場合に、前記選択位置を視線位置に基づいて移動する際に
    前記選択位置を所定の周期で前記視線検出手段により検出した視線位置に追従して移動するように制御することを特徴とする請求項1乃至のいずれか1項に記載の電子機器。
  10. 前記制御手段は、前視線検出手段により検出した視線位置に基づいて前記選択位置を移動する場合前記視線検出手段により検出した視線位置に追従して前記選択位置を移動するように制御することを特徴とする請求項1乃至のいずれか1項に記載の電子機器。
  11. 前記制御手段は、
    前記特定の操作手段へのタッチ操作が終了したことに応じて、前記撮像部により撮像して得られた画像を記録する撮影処理を行うように制御することを特徴とする請求項6または7に記載の電子機器
  12. 前記制御手段は、前記選択位置を示すインジケーターを前記ライブ画像に重畳して前記表示部に表示するように制御することを特徴とする請求項1乃至11のいずれか1項に記載の電子機器。
  13. 前記選択位置は焦点検出領域の選択位置であることを特徴とする請求項1乃至12のいずれか1項に記載の電子機器。
  14. 前記選択位置は、AF処理を実行するためのAF位置であることを特徴とする請求項1乃至12のいずれか1項に記載の電子機器。
  15. 前記電子機器は、
    ファインダーと、
    前記表示部であるファインダー内表示部を更に有することを特徴とする請求項1乃至12のいずれか1項に記載の電子機器。
  16. 撮像部により撮像して得られたライブ画像が表示された表示部にユーザーの視線位置を検出する視線検出ステップと、
    前記視線検出ステップで検出した視線位置または特定の操作手段への操作に応じて、前記ライブ画像における選択位置を移動するように制御する制御ステップと、
    を有し、
    前記制御ステップでは、
    前記特定の操作手段への操作が行われていない場合は、前記視線検出ステップで検出した視線位置に基づいて、前記選択位置を移動するように制御し、
    前記特定の操作手段への操作が継続されている間は、
    前記操作が移動操作のときは、当該移動操作の移動に応じて前記選択位置を移動するように制御し、
    前記操作が移動操作を含まない非移動操作のときは、当該非移動操作に応じて決定した追尾対象の被写体を追尾し、当該追尾した追尾対象の被写体の位置に前記選択位置を移動するように制御する、
    ことを特徴とする電子機器の制御方法。
  17. コンピューターを、請求項1乃至15のいずれか1項に記載された電子機器の各手段として機能させるためのプログラム。
  18. コンピューターを、請求項1乃至15のいずれか1項に記載された電子機器の各手段として機能させるためのプログラムを格納したコンピューターが読み取り可能な記録媒体。
JP2019112316A 2019-06-17 2019-06-17 電子機器およびその制御方法 Active JP7301615B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2019112316A JP7301615B2 (ja) 2019-06-17 2019-06-17 電子機器およびその制御方法
US16/900,693 US11108945B2 (en) 2019-06-17 2020-06-12 Electronic apparatus, method for controlling the electronic apparatus, and storage medium
CN202010551188.4A CN112104809B (zh) 2019-06-17 2020-06-17 电子装置、电子装置的控制方法及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019112316A JP7301615B2 (ja) 2019-06-17 2019-06-17 電子機器およびその制御方法

Publications (3)

Publication Number Publication Date
JP2020204915A JP2020204915A (ja) 2020-12-24
JP2020204915A5 JP2020204915A5 (ja) 2022-06-13
JP7301615B2 true JP7301615B2 (ja) 2023-07-03

Family

ID=73745310

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019112316A Active JP7301615B2 (ja) 2019-06-17 2019-06-17 電子機器およびその制御方法

Country Status (3)

Country Link
US (1) US11108945B2 (ja)
JP (1) JP7301615B2 (ja)
CN (1) CN112104809B (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7301615B2 (ja) * 2019-06-17 2023-07-03 キヤノン株式会社 電子機器およびその制御方法
JP7253988B2 (ja) * 2019-07-03 2023-04-07 キヤノン株式会社 表示制御装置およびその制御方法、表示制御システム、並びにプログラム
JP7277306B2 (ja) * 2019-07-31 2023-05-18 キヤノン株式会社 電子機器、電子機器の制御方法、プログラム、記憶媒体
US20230199299A1 (en) * 2020-03-27 2023-06-22 Sony Group Corporation Imaging device, imaging method and program

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010218405A (ja) 2009-03-18 2010-09-30 Brother Ind Ltd ヘッドマウントディスプレイ
JP2015087921A (ja) 2013-10-30 2015-05-07 セイコーエプソン株式会社 頭部装着型表示装置および頭部装着型表示装置の制御方法
JP2018036426A (ja) 2016-08-30 2018-03-08 キヤノン株式会社 撮像装置及びその制御方法、撮像制御装置、プログラム、並びに記憶媒体
JP2018142230A (ja) 2017-02-28 2018-09-13 キヤノンマーケティングジャパン株式会社 情報処理装置、情報処理システム、情報処理方法及びプログラム
WO2019067901A2 (en) 2017-09-29 2019-04-04 Apple Inc. USER INTERACTIONS BASED ON THE LOOK

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0846833A (ja) * 1994-07-29 1996-02-16 Canon Inc 視線検出機能付カメラ
JPH08184746A (ja) * 1994-12-27 1996-07-16 Nikon Corp 視線検出機能を有するカメラ
JPH09167049A (ja) * 1995-12-15 1997-06-24 Nissan Motor Co Ltd コンソール用視線入力装置
JPH10191132A (ja) * 1996-12-26 1998-07-21 Canon Inc 画像記録方法及び装置並びに記憶媒体
JP2001100903A (ja) 1999-09-28 2001-04-13 Sanyo Electric Co Ltd 視線検出機能搭載装置
US9596401B2 (en) * 2006-10-02 2017-03-14 Sony Corporation Focusing an image based on a direction of a face of a user
CN103246044B (zh) * 2012-02-09 2017-03-22 联想(北京)有限公司 一种自动对焦方法、系统及具有该系统的照相机和摄像机
JP6257199B2 (ja) 2013-07-22 2018-01-10 キヤノン株式会社 光学機器、その制御方法、および制御プログラム
CN103516985A (zh) * 2013-09-18 2014-01-15 上海鼎为软件技术有限公司 移动终端及其获取图像的方法
CN106303193A (zh) * 2015-05-25 2017-01-04 展讯通信(天津)有限公司 图像拍摄方法及装置
JP6397454B2 (ja) 2016-08-31 2018-09-26 キヤノン株式会社 撮像制御装置及びその制御方法、プログラム、並びに記憶媒体
JP6991746B2 (ja) * 2017-06-09 2022-01-13 キヤノン株式会社 撮像装置
JP7341729B2 (ja) * 2019-05-29 2023-09-11 キヤノン株式会社 電子機器、電子機器の制御方法、プログラム、記憶媒体
JP7301615B2 (ja) * 2019-06-17 2023-07-03 キヤノン株式会社 電子機器およびその制御方法
JP7321786B2 (ja) * 2019-06-17 2023-08-07 キヤノン株式会社 電子機器およびその制御方法
JP7346135B2 (ja) * 2019-07-30 2023-09-19 キヤノン株式会社 電子機器、電子機器の制御方法、プログラムおよび記憶媒体

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010218405A (ja) 2009-03-18 2010-09-30 Brother Ind Ltd ヘッドマウントディスプレイ
JP2015087921A (ja) 2013-10-30 2015-05-07 セイコーエプソン株式会社 頭部装着型表示装置および頭部装着型表示装置の制御方法
JP2018036426A (ja) 2016-08-30 2018-03-08 キヤノン株式会社 撮像装置及びその制御方法、撮像制御装置、プログラム、並びに記憶媒体
JP2018142230A (ja) 2017-02-28 2018-09-13 キヤノンマーケティングジャパン株式会社 情報処理装置、情報処理システム、情報処理方法及びプログラム
WO2019067901A2 (en) 2017-09-29 2019-04-04 Apple Inc. USER INTERACTIONS BASED ON THE LOOK

Also Published As

Publication number Publication date
CN112104809A (zh) 2020-12-18
JP2020204915A (ja) 2020-12-24
US11108945B2 (en) 2021-08-31
CN112104809B (zh) 2023-04-21
US20200396373A1 (en) 2020-12-17

Similar Documents

Publication Publication Date Title
JP7321786B2 (ja) 電子機器およびその制御方法
JP7301615B2 (ja) 電子機器およびその制御方法
JP7410629B2 (ja) 撮像装置およびその制御方法
US11240419B2 (en) Electronic device that can execute function in accordance with line of sight of user, method of controlling electronic device, and non-transitory computer readable medium
JP2021141573A (ja) 電子機器
JP7442331B2 (ja) 音声入力装置およびその制御方法ならびにプログラム
WO2020255675A1 (ja) 電子機器およびその制御方法
JP7346375B2 (ja) 電子機器及びその制御方法及びプログラム及び記録媒体
JP7423248B2 (ja) 電子機器、電子機器の制御方法、プログラム及び記憶媒体
JP2022018244A (ja) 電子機器およびその制御方法
US11442244B2 (en) Imaging device
JP7336266B2 (ja) 電子機器、電子機器の制御方法、プログラム、記憶媒体
JP7450408B2 (ja) 電子機器、その制御方法、プログラム及び記憶媒体
JP7451255B2 (ja) 電子機器及びその制御方法
JP7286469B2 (ja) 撮像制御装置、撮像制御装置の制御方法、プログラム、記憶媒体
WO2024095888A1 (ja) 撮像装置、制御方法およびプログラム
JP2022067578A (ja) 撮像装置及びその制御方法及びプログラム及び記録媒体
JP2022172840A (ja) 電子機器、電子機器の制御方法、プログラム、及び記憶媒体
JP2021018634A (ja) 電子機器およびその制御方法
JP2022096462A (ja) 電子機器及びその制御方法及びプログラム及び記録媒体
JP2022095306A (ja) 表示制御装置及びその制御方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220601

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220601

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230215

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230221

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230407

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230523

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230621

R151 Written notification of patent or utility model registration

Ref document number: 7301615

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151