Nothing Special   »   [go: up one dir, main page]

JP2010010936A - 画像記録装置、画像記録方法、画像処理装置、画像処理方法、プログラム - Google Patents

画像記録装置、画像記録方法、画像処理装置、画像処理方法、プログラム Download PDF

Info

Publication number
JP2010010936A
JP2010010936A JP2008166243A JP2008166243A JP2010010936A JP 2010010936 A JP2010010936 A JP 2010010936A JP 2008166243 A JP2008166243 A JP 2008166243A JP 2008166243 A JP2008166243 A JP 2008166243A JP 2010010936 A JP2010010936 A JP 2010010936A
Authority
JP
Japan
Prior art keywords
image
image structure
imaging
image data
recording
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2008166243A
Other languages
English (en)
Other versions
JP4640456B2 (ja
Inventor
Shingo Yoshizumi
真吾 善積
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2008166243A priority Critical patent/JP4640456B2/ja
Priority to US12/487,180 priority patent/US8199221B2/en
Priority to EP09163582A priority patent/EP2139226A1/en
Priority to BRPI0902284-8A priority patent/BRPI0902284A2/pt
Priority to RU2009124279/09A priority patent/RU2415513C1/ru
Priority to CN2009101509111A priority patent/CN101616261B/zh
Publication of JP2010010936A publication Critical patent/JP2010010936A/ja
Application granted granted Critical
Publication of JP4640456B2 publication Critical patent/JP4640456B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/765Interface circuits between an apparatus for recording and another apparatus
    • H04N5/77Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera
    • H04N5/772Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera the recording apparatus and the television camera being placed in the same enclosure
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/21Intermediate information storage
    • H04N1/2104Intermediate information storage for one or a few pictures
    • H04N1/2112Intermediate information storage for one or a few pictures using still video cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/32Circuits or arrangements for control or supervision between transmitter and receiver or between image input and image output device, e.g. between a still-image camera and its memory or between a still-image camera and a printer device
    • H04N1/32101Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title
    • H04N1/32128Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title attached to the image data, e.g. file header, transmitted message header, information on the same page or in the same computer file as the image
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • H04N23/611Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/631Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters
    • H04N23/632Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters for displaying or modifying preview images prior to image capturing, e.g. variety of image resolutions or capturing parameters
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/64Computer-aided capture of images, e.g. transfer from script file into camera, check of taken image quality, advice or proposal for image composition or decision on when to take image
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/667Camera operation mode switching, e.g. between still and video, sport and normal or high- and low-resolution modes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/695Control of camera direction for changing a field of view, e.g. pan, tilt or based on tracking of objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/79Processing of colour television signals in connection with recording
    • H04N9/80Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
    • H04N9/82Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only
    • H04N9/8205Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only involving the multiplexing of an additional signal and the colour video signal
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2101/00Still video cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2201/00Indexing scheme relating to scanning, transmission or reproduction of documents or the like, and to details thereof
    • H04N2201/32Circuits or arrangements for control or supervision between transmitter and receiver or between image input and image output device, e.g. between a still-image camera and its memory or between a still-image camera and a printer device
    • H04N2201/3201Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title
    • H04N2201/3225Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title of data relating to an image, a page or a document
    • H04N2201/3242Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title of data relating to an image, a page or a document of processing required or performed, e.g. for reproduction or before recording
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2201/00Indexing scheme relating to scanning, transmission or reproduction of documents or the like, and to details thereof
    • H04N2201/32Circuits or arrangements for control or supervision between transmitter and receiver or between image input and image output device, e.g. between a still-image camera and its memory or between a still-image camera and a printer device
    • H04N2201/3201Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title
    • H04N2201/3225Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title of data relating to an image, a page or a document
    • H04N2201/3252Image capture parameters, e.g. resolution, illumination conditions, orientation of the image capture device
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2201/00Indexing scheme relating to scanning, transmission or reproduction of documents or the like, and to details thereof
    • H04N2201/32Circuits or arrangements for control or supervision between transmitter and receiver or between image input and image output device, e.g. between a still-image camera and its memory or between a still-image camera and a printer device
    • H04N2201/3201Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title
    • H04N2201/3274Storage or retrieval of prestored additional information
    • H04N2201/3277The additional information being stored in the same storage device as the image data

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Human Computer Interaction (AREA)
  • General Engineering & Computer Science (AREA)
  • Studio Devices (AREA)
  • Television Signal Processing For Recording (AREA)

Abstract

【課題】良好とされる画内容の撮像画像を自動記録していく際に、画構造的に似たような画内容の画像が多数記録されてしまうことを避ける。
【解決手段】撮像画像データの画内容を基にして適切とされる画構造(適切画構造)を判定し、判定された適切画構造の撮像画像データの画内容が実際に得られたとされると、この撮像画像データを記録させる。そのうえで、判定された適切画構造と同じとされる画構造の撮像画像データについて、既に規定回数分の撮像記録が行われている場合には、この判定された適切画構造の撮像画像データの記録を実行しないように制御する。
【選択図】図30

Description

本発明は、撮像画像データを記録する画像記録装置とその方法に関する。また、取り込んだ画像データの画像内容に関しての判定処理を実行するようにされた画像処理装置とその方法に関する。また、これら画像記録装置、画像処理装置が実行するプログラムに関する。
例えばデジタルスチルカメラなどの撮像装置において、人としての被写体が笑顔になったことを検出して自動的に撮像記録を実行するようにされたデジタルスチルカメラが知られるようになってきている。
また、例えば特許文献1には、画像撮影装置に設けたジャイロ部やGPS部からの検出出力を利用して画像撮影装置の移動量を算出することよりにより、パノラマ画像に必要な複数の画像を自動的に判断して撮像記録していく構成が記載されている。
これらの構成は、例えば撮像記録を自動的に実行するのにあたり、撮像記録するのにふさわしい撮像画像の画内容を自動的に判定する機能を有しているといえる。
特開2006−217478号公報
例えば説明を分かりやすくするために、撮像装置を定点に設置した上で、上記した笑顔検出に基づいた自動撮像機能による撮像を続けさせるような状況を想定してみる。この場合には、例えば意図的に被写体となる人物を代えるなどしない限り、同じような構図で被写体が笑顔のみで写っているという、似たような画内容のものばかりが撮像記録されてしまうことになる。
特許文献1であれば、画像撮像装置の移動量に基づいて異なる画内容の画像を自動的に撮像記録していくことができる。しかし、この特許文献1の構成は、確かにパノラマ画像に必要な画像を得るためには有効であるが、画像撮像装置の移動量のみに依存していることから、パノラマ画像以外での、人などを被写体する通常の撮像記録には向かない。
そこで本願発明としては、似たような画内容の画像ばかりが得られてしまうことがないようにされた画内容判定の構成を提供することを、その目的とする。
そこで本発明は上記した課題を考慮して、画像記録装置として次のように構成する。
つまり、撮像により撮像画像データを得る撮像部と、撮像画像データの画内容に基づいて適切画構造を判定する画構造判定手段と、この画構造判定手段により判定された適切画構造を有する画内容の撮像画像データを得るための画構造獲得制御を実行する画構造獲得制御手段と、画構造獲得制御の実行により、上記適切画構造を有する画内容の撮像画像データが得られたとされるタイミングで、この撮像画像データを記憶媒体に記録させる撮像記録手段と、この撮像記録手段により撮像記録された撮像画像データごとの画構造に関連した情報を撮像履歴情報として保持する撮像履歴情報保持手段と、撮像履歴情報を参照することで、画構造判定手段が判定したのと同じ適切画構造を有する画内容の撮像画像データについて規定回数分の記録が行われているか否かについて判別する、画構造消尽判別手段と、画構造消尽判別手段により規定回数分の記録が行われていると判別された適切画構造を有する画内容の撮像画像データについては撮像記録手段による記録が行われないようにする記録可否設定手段とを備えることとした。
なお、ここでの画構造とは、後述もするように、画枠内の画内容を決定する特定の要素の状態、また、これら特定の要素の状態に応じて現に形成される画内容をいう。
そして、上記構成では、撮像画像データの画内容を基にして適切とされる画構造(適切画構造)を判定し、判定された適切画構造の撮像画像データの画内容が実際に得られたとされると、この撮像画像データを記録することができる。つまり、良好な画内容を有する画像を自動的に撮像記録できる。
そのうえで、判定された適切画構造と同じとされる画構造の撮像画像データについて、既に規定回数分の撮像記録が行われている場合には、この判定された適切画構造の撮像画像データの記録を実行しないようにする。
このようにして本発明は、良好とされる画内容の撮像画像を自動記録していく際に、画構造的に似たような画内容の画像が多数記録されてしまうことが防がれる。
以降、本願発明を実施するための最良の形態(以降、実施の形態という)についての説明を行っていくのにあたり、構図、画枠、画角、撮像視野角、画構造なる語を用いることとする。
構図は、ここでは、フレーミングともいわれるもので、例えば画枠内における被写体のサイズ、向きなども含めた配置状態をいう。
画枠は、例えば画像が嵌め込まれるようにしてみえる一画面相当の領域範囲をいい、一般には縦長若しくは横長の長方形としての外枠形状を有する。
画角は、ズーム角などともいわれるもので、撮像装置の光学系におけるズームレンズの位置によって決まる画枠に収まる範囲を角度により表したものである。一般的には、撮像光学系の焦点距離と、像面(イメージセンサ、フィルム)のサイズによって決まるものとされているが、ここでは、焦点距離に対応して変化し得る要素を画角といっている。
撮像視野角は、定位置に置かれた撮像装置により撮像して得られる画像の画枠に収まる範囲について、上記の画角に加え、パン(水平)方向における振り角度と、チルト(垂直)方向における角度(仰角、俯角)により決まるものをいう。
例えば、構図は、画像視野角によって決まる画枠内に収まる被写体の配置状態を指すものとなる。
そして、画構造は、例えば上記した構図を含め、画枠内の画内容を決定する特定の要素の状態、また、これら特定の要素の状態に応じて現に形成される画内容をいう。
例えば同じ人物の被写体が同じ構図で写っている2つの画像があるとする。この場合において、画内容を形成する要素として人物被写体の表情を含めることとして、これら2つの画像において、一方の被写体の顔は笑っている状態であるが、一方の被写体の顔は笑っていない状態であるとする。この場合、構図は同じであるが、画構造は違うということになる。
先ず、本願発明を実施するための最良の形態(以降、実施の形態という)としての装置構成を説明するのに先立ち、本実施形態により得ようとする目的について、図1を例にして説明しておく。
図1の説明にあたっては、例えばデジタルスチルカメラなどの撮像装置が、撮像により得られる画像の内容について一定の条件が満たされた場合に撮像記録を自動的に実行するように構成されているものとする。
図1(a)には、例えば撮像によって得られた画像の内容例として、画枠300内に3つの被写体301A、301B、301Cが存在している状態が示されている。
撮像装置としては、このように3つの被写体が検出された場合には、これらの被写体301A、301B、301Cが、画枠300内において、左右上下に偏らないような位置で、かつ、一定範囲内のサイズとなる画像が撮像記録のための条件が満たされることとする。
図1(a)は、このような条件を満たした画像とされる。従って、撮像装置は、この図1(a)に示される画構造が得られたことに応じて、この画構造の画像を撮像記録することになる。
そして、その後において、撮像装置が、再度、図1(b)に示すようにして、同じ被写体301A、301B、301Cを検出したとする。この図1(b)に示される画内容は、厳密には図1(a)とは同一ではないが、3つの被写体が検出された場合の条件を満たしているので、撮像装置は、この図1(b)の画像も撮像記録することになる。
ここまでの説明から理解されるように、例えば単純に、撮像画像について、或る特定の画内容についての条件を満たした場合に自動撮像記録を実行させるようにした場合、被写体などを含め、撮像装置により撮像される画内容を意図的に変えない限りは、似たような画像ばかりが多数撮像されてしまうことになる。これは、撮像された画像を鑑賞するユーザにとっては面白みの書けることであるし、また、似たような画像ばかりが重複して無駄に撮像記録されるともいえるから、この点では記録媒体の記録容量を無駄に消費しているともいえる。
そこで、本実施形態としては、以降説明するようにして、似たような画像ばかりが得られてしまうことが無いようにするための構成を提案するものである。
図2は、本実施形態としての最も基本的な構成例を概念的に示した図である。
この図には、画構造判定ブロック200が示されている。この画構造判定ブロック200は、画像データを取り込んで画構造判定処理を実行するものとされており、図示するようにして、画構造判定部201、履歴保持部202から成るものとしている。
また、ここでは、画構造判定ブロック200とともに判定結果利用部203が示されている。判定結果利用部203は、画構造判定ブロック200による画構造についての判定結果を利用して所定の動作を実行する部位としてみることができる。このために、画構造判定ブロック200は、自身の画構造判定処理により得た画構造判定結果に応じて、判定結果利用部203が実行する処理、動作を制御する。
判定結果利用部203の実際としては、この図に示す画構造判定ブロック200が何に適用されるのかに応じて異なってくる。例えば画構造判定ブロック200をデジタルスチルカメラなどの撮像装置における自動撮像記録に適用するものとすれば、判定結果利用部203としては、例えば撮像装置において、画構造判定結果に従った画内容の撮像画像データを記録するための撮像記録部などとなる。
上記画構造判定ブロック200において、画構造判定部201は、画像データを取り込み、取り込んだ画像データが有するとされる画内容に基づき、その画内容から得ることが可能なもので、適切であるとしてみなせる画構造(適切画構造)が何であるのかを判定するための、画構造判定処理を実行する。そして、この画構造判定処理による判定結果の情報を得るようにされる。
なお、画構造判定部201としての画構造判定処理は、例えばCPU(Central Processing Unit)がプログラムを実行することにより実現できる。つまり、ソフトウェアにより実現できる。また、必要に応じて、ソフトウェア若しくはハードウェアによる画像信号処理を併用する構成とされてもよい。
先にも述べたように、判定結果利用部203は、画構造判定部201が、画構造判定結果に従って制御することで、画構造判定に応じた所定の動作を実行する部位とされ、画構造判定結果の情報を利用して所定の動作を実行する部位としてみなされる。
例えば、判定結果利用部203が上記した撮像記録部であるとする。この場合、画構造判定部201は、自身の画構造判定処理の判定結果に応じた適切画構造を有する撮像画像データの画内容が得られるように、判定結果利用部203に対する制御を実行し、適切画構造が得られたとされるタイミングで、撮像記録を実行させる。
また、画構造判定部201は、上記のようにして画構造判定結果を反映させた判定結果利用部203の動作を完了させたことに応じて、このときに利用した判定結果の情報(判定結果利用情報)を、履歴保持部202に対して記憶保持させる。このようにして履歴保持部202において保持される判定結果利用情報の集合により、判定結果利用履歴情報が形成される。
図3は、上記図2に示す画構造判定ブロック200が実行する処理手順例を示している。なお、以降の説明では、各手順を、画構造判定ブロック200における画構造判定部201が実行するものとしている。
ステップS101においては、先ず、画構造判定部201が画像データの取り込みを開始する。
次に画構造判定部201は、ステップS102により、取り込んだ画像データを利用して、先に述べた画構造判定処理を実行する。これにより、画構造判定部201においては、判定結果(画構造判定結果)として、適切画構造としての条件を満たす所定のパラメータ(画構造形成要素)の状態を示す情報が得られる。
次に画構造判定部201は、上記ステップS102により得た画構造判定結果が反映されるように、判定結果利用部203を制御する。例えば、判定結果利用部203が上記の撮像記録部であるとした場合には、画構造判定部201は、判定結果として得た画構造の画内容が得られるようにして撮像記録部を制御する。
続いて画構造判定部201は、ステップS104により履歴保持部202から判定結果利用履歴情報を読み込んで取得し、ステップS105により、判定結果利用履歴情報を形成するこれまでの判定結果利用情報とと、今回のステップS102により取得した画構造判定結果の内容とを照合する。なお、ここで照合の対象となる画構造判定結果の内容としては、ステップS102による画構造判定処理により得られた判定結果自体に対応する情報に加えて、ステップS103の制御に応じた動作の結果、判定結果利用部203において得られた各種の設定項目についての状態を示す情報(パラメータ)を含んで形成することとしてよい。例えば上記撮像記録部であれば、このパラメータとしては、ズームレンズ位置(画角)、絞り、シャッタースピード、ホワイトバランス等のカメラ設定情報などを挙げることができる。
そして、画構造判定部201は、上記ステップS105による照合処理の結果に基づき、ステップS106により、今回のステップS102により取得した判定結果が示す画構造について、消尽済みであるか否かについて判定する。
ここで、「消尽済みである」場合とは、判定結果利用部203が、或る1つの同じとみなされる画構造の内容を有する画構造の判定結果を利用した動作の完了が、予め定めた規定回数だけ既に実行されている場合をいう。
先の説明から理解されるように、履歴保持部202にて保持されている判定結果利用履歴情報を形成する判定結果利用情報は、過去において判定結果利用部203が所定の目的動作を完了させたときに利用したとされる画構造判定結果を示している。従って、ステップS105による照合処理の結果として、今回のステップS102により得られた画構造判定結果と同じ(若しくは一定以内の近似度を持つ)内容の判定結果利用情報が、上記の必要回数分以上存在すれば、ステップS106においては、肯定の判別結果が得られることになる。
これに対して、ステップS105による照合処理の結果として、今回のステップS102により得られた画構造判定結果と同じ(若しくは一定以内の近似度を持つ)内容の判定結果利用情報の数が、上記の必要回数分に満たないのであれば、ステップS106においては、否定の判別結果が得られることになる。
ステップS106において消尽済みではないとして否定の判別結果が得られた場合、画構造判定部201は、ステップS107により、判定結果利用部203に対して、先のステップS103の制御により実行させた動作を完了させるための指示を行う。これに応じて、判定結果利用部203が動作を完了させることで、ステップS102にて判定された画構造が反映された動作結果が生じることになる。例えば、判定結果利用部203が上記の撮像記録部であるとした場合には、画構造判定部201は、ステップS107の動作完了指示として、撮像画像データの記録を指示する。これに応じて、撮像記録部は、そのときに得られている撮像画像データ、即ちステップS103の制御によってそのときに得られているとされる、判定された画構造の画内容を有しているとされる撮像画像データを記録媒体に記録させる動作を実行する。つまり、これによって判定結果に応じた画構造の画像データを記録媒体に記録させるという動作が完了することになる。
上記のようにして判定結果利用部203の動作を完了させたことに応じて、画構造判定部201は、履歴保持部202における判定結果利用履歴情報を更新する。つまり、画構造判定部201は、今回のステップS102により得た判定結果を示す情報を、新規な判定結果利用情報として判定結果利用履歴情報に登録する。なお、この判定結果利用情報には、先にも述べた、ステップS103の制御に応じて判定結果利用部203にて設定されたパラメータの情報も含めることができる。
これに対して、ステップS106にて消尽済みであるとして肯定の判別結果が得られた場合には、ステップS107、S108による手順を実行せずに、ステップS102の画構造判定処理に戻るようにされる。
このような処理によれば、例えば以降において、取り込んだ画像データの画構造についてあまり変化が無いような状況では、ステップS106にて肯定の判別結果が得られることとなって、判定結果利用部203において、判定結果を反映させた動作が完了、確定されることがない。つまり、判定結果利用部203は、同じ適切画構造の判定結果に応じた動作完了を必要以上に繰り返すことがない。
そして、あるときに、取り込んだ画像データの画内容が変化しさえすれば、同じアルゴリズムによる画構造判定処理であっても、その新たな画内容に応じた適切画構造についての判定結果が得られる。この際には、ステップS106にて否定の判別結果が得られることになって、新たな画内容についての画構造判定結果が出力されることになる。
なお、上記図3の例では、ステップS106にて消尽済みであるとして肯定の判別結果が得られた場合、ステップS102の画構造判定処理に戻ることとしているが、これに代えて、以降の画内容判定処理を実行しないようにする手順とすることも考えられる。このような手順としても、判定結果利用部203にて、似たような画構造の判定結果を反映した動作が必要回数以上に実行完了してしまうことは防がれる。
図4は、図2に示した画構造判定ブロック200が実行する処理手順についての他の例を示している。なお、この説明にあっても、各手順は、画構造判定ブロック200における画構造判定部201が実行するものとしている。
図4におけるステップS201〜S206、及びステップS208、S209の各処理は、図3におけるステップS101〜S108と同様となる。
ただし、この図4の場合においては、ステップS206による消尽済みか否かの判別処理により肯定の判別結果が得られた場合には、ステップS207の処理を実行したうえで、ステップS202に戻る。
この他の例においては、構図判定部201は、構図判定処理のためのアルゴリズム(構図判定アルゴリズム)として複数を有し、これら複数の構図判定アルゴリズムのうちから1つのものを適宜選択したうえで、この選択した構図判定アルゴリズムによる構図判定処理を実行可能に構成されているものとする。
そのうえで、ステップS207において構図判定部201は、これまでに設定されていた画構造判定アルゴリズムから、他の画構造判定アルゴリズムに変更設定する。これにより、ステップS102に戻った際には、これまでとは異なる構図判定アルゴリズムによる画構造判定処理が実行されることになる。
図2に示した構成では、構図判定部201が取り込んでいる画像について、例えば被写体が入れ替わるなどの相応に大きな画内容の変化が生じないかぎり、判定結果としては消尽済みの画構造が判定結果として得られ続ける。
これに対して、図4のようにして、消尽済みの画構造の判定結果が得られたことに応じて画構造判定アルゴリズムが変更されれば、取り込まれる画像データの画内容があまり変化していない状況であっても、前回とは異なる適切画構造が反映された判定結果利用部203の動作を得ることが可能になる。
例えば、判定結果利用部203が撮像記録部であるとすれば、撮像により得られる画像データの画内容自体にあまり変化が無くとも、異なる画構造の判定結果が反映された複数の撮像画像を記録することが可能になる。
続いては、上記図2〜図4により説明した画構造判定のための構成を適用した、より具体的な例として、デジタルスチルカメラと、このデジタルスチルカメラが取り付けられる雲台とからなる撮像システムについて説明する。この本実施形態に対応する撮像システムによっては、判定された画構造が反映された画内容を有した静止画の撮像記録が可能とされる。
図5は、本実施形態に対応する撮像システムの外観構成例を、正面図により示している。
この図に示されるように、本実施形態の撮像システムは、デジタルスチルカメラ1と雲台10とから成る。
デジタルスチルカメラ1は、本体正面側のパネルに設けられているレンズ部3によって撮像して得られる撮像光に基づいて静止画像データを生成し、これを内部に装填されている記憶媒体に記憶させることが可能とされている。つまり、写真として撮影した画像を、静止画像データとして記憶媒体に記憶保存させる機能を有する。このような写真撮影を手動で行うときには、ユーザは、本体上面部に設けられているシャッター(レリーズ)ボタンを押し操作する。
雲台10には、上記デジタルスチルカメラ1を固定するようにして取り付けることができる。つまり、雲台10とデジタルスチルカメラ1は、相互の取り付けを可能とするための機構部位を備えている。
そして、雲台10においては、取り付けられたデジタルスチルカメラ1を、パン方向(水平方向)とチルト方向との両方向により動かすためのパン・チルト機構を備える。
雲台10のパン・チルト機構により与えられるデジタルスチルカメラ1のパン方向、チルト方向それぞれの動き方は例えば図6(a)(b)に示されるものとなる。図6(a)(b)は、雲台10に取り付けられているとされるデジタルスチルカメラ1を抜き出して、それぞれ、平面方向、側面方向より見たものである。
先ずパン方向については、デジタルスチルカメラ1の本体横方向と図6(a)に示される直線X1とが同じ向きとなる位置状態を基準にして、例えば回転軸Ct1を回転中心として回転方向+αに沿った回転が行われることで、右方向へのパンニングの動きが与えられる。また、回転方向−αに沿った回転が行われることで、左方向へのパンニングの動きが与えられる。
また、チルト方向については、デジタルスチルカメラ1の本体縦方向が垂直方向の直線Y1と一致する位置状態を基準にして、例えば回転軸Ct2を回転中心として回転方向+βへの回転が行われることで、下方向へのパンニングの動きが与えられる。また、回転方向−βへの回転が行われることで、上方向へのパンニングの動きが与えられる。
なお、図6(a)(b)に示される、±α方向、及び±β方向のそれぞれにおける最大可動回転角度については言及していないが、被写体の捕捉の機会をできるだけ多くするべきことを考慮するのであれば、できるだけ最大可動回転角度を大きく取ることが好ましいことになる。
また、図7は、デジタルスチルカメラ1の内部構成例を示している。
この図において、先ず、光学系部21は、例えばズームレンズ、フォーカスレンズなども含む所定枚数の撮像用のレンズ群、絞りなどを備えて成り、入射された光を撮像光としてイメージセンサ22の受光面に結像させる。
また、光学系部21においては、上記のズームレンズ、フォーカスレンズ、絞りなどを駆動させるための駆動機構部も備えられているものとされる。これらの駆動機構部は、例えば制御部27が実行するとされるズーム(画角)制御、自動焦点調整制御、自動露出制御などのいわゆるカメラ制御によりその動作が制御される。
イメージセンサ22は、上記光学系部21にて得られる撮像光を電気信号に変換する、いわゆる光電変換を行う。このために、イメージセンサ22は、光学系部21からの撮像光を光電変換素子の受光面にて受光し、受光された光の強さに応じて蓄積される信号電荷を、所定タイミングにより順次出力するようにされる。これにより、撮像光に対応した電気信号(撮像信号)が出力される。なお、イメージセンサ22として採用される光電変換素子(撮像素子)としては、特に限定されるものではないが、現状であれば、例えばCMOSセンサやCCD(Charge Coupled Device)などを挙げることができる。また、CMOSセンサを採用する場合には、イメージセンサ22に相当するデバイス(部品)として、次に述べるA/Dコンバータ23に相当するアナログ−デジタル変換器も含めた構造とすることができる。
上記イメージセンサ22から出力される撮像信号は、A/Dコンバータ23に入力されることで、デジタル信号に変換され、信号処理部24に入力される。
信号処理部24では、A/Dコンバータ23から出力されるデジタルの撮像信号について、例えば1つの静止画 (フレーム画像)に相当する単位で取り込みを行い、このようにして取り込んだ静止画単位の撮像信号について所要の信号処理を施すことで、1枚の静止画に相当する画像信号データである撮像画像データ(撮像静止画像データ)を生成することができる。
上記のようにして信号処理部24にて生成した撮像画像データを画像情報として記憶媒体であるメモリカード40に記録させる場合には、例えば1つの静止画に対応する撮像画像データを信号処理部24からエンコード/デコード部25に対して出力するようにされる。
エンコード/デコード部25は、信号処理部24から出力されてくる静止画単位の撮像画像データについて、所定の静止画像圧縮符号化方式により圧縮符号化を実行したうえで、例えば制御部27の制御に応じてヘッダなどを付加して、所定形式に圧縮された撮像画像データの形式に変換する。そして、このようにして生成した撮像画像データをメディアコントローラ26に転送する。メディアコントローラ26は、制御部27の制御に従って、メモリカード40に対して、転送されてくる撮像画像データを書き込んで記録させる。この場合のメモリカード40は、例えば所定規格に従ったカード形式の外形形状を有し、内部には、フラッシュメモリなどの不揮発性の半導体記憶素子を備えた構成を採る記憶媒体である。なお、画像データを記憶させる記憶媒体については、上記メモリカード以外の種別、形式などとされてもよい。
また、本実施形態としての信号処理部24は、撮像画像データを利用して被写体検出としての画像処理を実行することも可能とされている。本実施形態における被写体検出処理がどのようなものであるのかについては後述する。
また、デジタルスチルカメラ1は信号処理部24にて得られる撮像画像データを利用して表示部33により画像表示を実行させることで、現在撮像中の画像であるいわゆるスルー画を表示させることが可能とされる。例えば信号処理部24においては、先の説明のようにしてA/Dコンバータ23から出力される撮像信号を取り込んで1枚の静止画相当の撮像画像データを生成するのであるが、この動作を継続することで、動画におけるフレーム画像に相当する撮像画像データを順次生成していく。そして、このようにして順次生成される撮像画像データを、制御部27の制御に従って表示ドライバ32に対して転送する。これにより、スルー画の表示が行われる。
表示ドライバ32では、上記のようにして信号処理部24から入力されてくる撮像画像データに基づいて表示部33を駆動するための駆動信号を生成し、表示部33に対して出力していくようにされる。これにより、表示部33においては、静止画単位の撮像画像データに基づく画像が順次的に表示されていくことになる。これをユーザが見れば、そのときに撮像しているとされる画像が表示部33において動画的に表示されることになる。つまり、スルー画像が表示される。
また、デジタルスチルカメラ1は、メモリカード40に記録されている撮像画像データを再生して、その画像を表示部33に対して表示させることも可能とされる。
このためには、制御部27が撮像画像データを指定して、メディアコントローラ26に対してメモリカード40からのデータ読み出しを命令する。この命令に応答して、メディアコントローラ26は、指定された撮像画像データが記録されているメモリカード40上のアドレスにアクセスしてデータ読み出しを実行し、読み出したデータを、エンコード/デコード部25に対して転送する。
エンコード/デコード部25は、例えば制御部27の制御に従って、メディアコントローラ26から転送されてきた撮像画像データから圧縮静止画データとしての実体データを取り出し、この圧縮静止画データについて、圧縮符号化に対する復号処理を実行して、1つの静止画に対応する撮像画像データを得る。そして、この撮像画像データを表示ドライバ32に対して転送する。これにより、表示部33においては、メモリカード40に記録されている撮像画像データの画像が再生表示されることになる。
また表示部33に対しては、上記のスルー画像や撮像画像データの再生画像などとともに、ユーザインターフェイス画像も表示させることができる。この場合には、例えばそのときの動作状態などに応じて制御部27が必要なユーザインターフェイス画像としての表示用画像データを生成し、これを表示ドライバ32に対して出力するようにされる。これにより、表示部33においてユーザインターフェイス画像が表示されることになる。なお、このユーザインターフェイス画像は、例えば特定のメニュー画面などのようにスルー画像や撮像画像データの再生画像とは個別に表示部33の表示画面に表示させることも可能であるし、スルー画像や撮像画像データの再生画像上の一部において重畳・合成されるようにして表示させることも可能である。
制御部27は、例えば実際においてはCPU(Central Processing Unit)を備えて成るもので、ROM28、RAM29などとともにマイクロコンピュータを構成する。ROM28には、例えば制御部27としてのCPUが実行すべきプログラムの他、デジタルスチルカメラ1の動作に関連した各種の設定情報などが記憶される。RAM29は、CPUのための主記憶装置とされる。
また、この場合のフラッシュメモリ30は、例えばユーザ操作や動作履歴などに応じて変更(書き換え)の必要性のある各種の設定情報などを記憶させておくために使用する不揮発性の記憶領域として設けられるものである。なおROM28について、例えばフラッシュメモリなどをはじめとする不揮発性メモリを採用することとした場合には、フラッシュメモリ30に代えて、このROM28における一部記憶領域を使用することとしてもよい。
操作部31は、デジタルスチルカメラ1に備えられる各種操作子と、これらの操作子に対して行われた操作に応じた操作情報信号を生成してCPUに出力する操作情報信号出力部位とを一括して示している。制御部27は、操作部31から入力される操作情報信号に応じて所定の処理を実行する。これによりユーザ操作に応じたデジタルスチルカメラ1の動作が実行されることになる。
雲台対応通信部34は、雲台10側とデジタルスチルカメラ1側との間での所定の通信方式に従った通信を実行する部位であり、例えばデジタルスチルカメラ1が雲台10に対して取り付けられた状態において、雲台10側の通信部との間での有線若しくは無線による通信信号の送受信を可能とするための物理層構成と、これより上位となる所定層に対応する通信処理を実現するための構成とを有して成る。
図8は、雲台10の構成例をブロック図により示している。
先に述べたように、雲台10は、パン・チルト機構を備えるものであり、これに対応する部位として、パン機構部53、パン用モータ54、チルト機構部56、チルト用モータ57を備える。
パン機構部53は、雲台10に取り付けられたデジタルスチルカメラ1について、図6(a)に示したパン(横)方向の動きを与えるための機構を有して構成され、この機構の動きは、パン用モータ54が正逆方向に回転することによって得られる。同様にして、チルト機構部56は、雲台10に取り付けられたデジタルスチルカメラ1について、図6(b)に示したチルト(縦)方向の動きを与えるための機構を有して構成され、この機構の動きは、チルト用モータ57が正逆方向に回転することによって得られる。
制御部51は、例えばCPU、ROM、RAMなどが組み合わされて形成されるマイクロコンピュータを有して成り、上記パン機構部53、チルト機構部56の動きをコントロールする。例えば制御部51がパン機構部53の動きを制御するときには、パン機構部53に必要な移動量と移動方向に対応した制御信号をパン用駆動部55に対して出力する。パン用駆動部55は、入力される制御信号に対応したモータ駆動信号を生成してパン用モータ54に出力する。このモータ駆動信号によりパン用モータ54が、例えば所要の回転方向及び回転角度で回転し、この結果、パン機構部53も、これに対応した移動量と移動方向により動くようにして駆動される。
同様にして、チルト機構部56の動きを制御するときには、制御部51は、チルト機構部56に必要な移動量と移動方向に対応した制御信号をチルト用駆動部58に対して出力する。チルト用駆動部58は、入力される制御信号に対応したモータ駆動信号を生成してチルト用モータ57に出力する。このモータ駆動信号によりチルト用モータ57が、例えば所要の回転方向及び回転角度で回転し、この結果、チルト機構部56も、これに対応した移動量と移動方向により動くようにして駆動される。
通信部52は、雲台10に取り付けられたデジタルスチルカメラ1内の雲台対応通信部34との間で所定の通信方式に従った通信を実行する部位であり、雲台対応通信部34と同様にして、相手側通信部と有線若しくは無線による通信信号の送受信を可能とするための物理層構成と、これより上位となる所定層に対応する通信処理を実現するための構成とを有して成る。
次に、図9により、本実施形態に対応する撮像システムを成すデジタルスチルカメラ1及び雲台10の内部を、機能動作ごとに対応したブロック構成により示す。
この図において、デジタルスチルカメラ1は、撮像記録ブロック61、画構造判定ブロック62、パン・チルト・ズーム制御ブロック63、及び通信制御処理ブロック64を備えて成るものとされている。
撮像記録ブロック61は、撮像により得られた画像を画像信号のデータ(撮像画像データ)として得て、この撮像画像データを記憶媒体に記憶するための制御処理を実行する部位である。この部位は、例えば撮像のための光学系、撮像素子(イメージセンサ)、及び撮像素子から出力される信号から撮像画像データを生成する信号処理回路、また、撮像画像データを記憶媒体に書き込んで記録(記憶)させるための記録制御・処理系などを有して成る部位である。
この場合の撮像記録ブロック61における撮像画像データの記録(撮像記録)は、画構造判定ブロック(画構造判定処理部212)の指示、制御により実行される。
画構造判定ブロック62は、撮像記録ブロック61から出力される撮像画像データを取り込んで入力し、この撮像画像データを基にして画構造判定のための処理を実行する。さらに、この判定した画構造による画内容の撮像画像データが得られるようにするための、画構造獲得制御も実行する。
この画構造判定ブロック62は、先に図2に示した画構造判定ブロック200に相当する。
パン・チルト・ズーム制御ブロック63は、画構造判定ブロック62の指示に応じて、判定された適切画構造に応じた構図、撮像視野角が得られるように、パン・チルト・ズーム制御を実行する。つまり、画構造獲得制御として、画構造判定ブロック62は、例えば判定された適切画構造に応じて得るべき上記構図、撮像視野角をパン・チルト・ズーム制御ブロック63に指示する。パン・チルト・ズーム制御ブロック63は、指示された構図、撮像視野角が得られる撮像方向にデジタルスチルカメラ1が向くための、雲台10のパン・チルト機構についての移動量を求め、この求めた移動量に応じた移動を指示するパン・チルト制御信号を生成する。
また、例えば判定された適切画角を得るためのズーム位置を求め、このズーム位置となるようにして、撮像記録ブロック61が備えるとされるズーム機構を制御する。
通信制御ブロック64は、雲台10側に備えられる通信制御ブロック71との間で所定の通信プロトコルに従って通信を実行するための部位となる。上記パン・チルト・ズーム制御ブロック63が生成したパン・チルト制御信号は、通信制御ブロック64の通信により、雲台10の通信制御ブロック71に対して送信される。
雲台10は、例えば図示するようにして、通信制御ブロック71、及びパン・チルト制御処理ブロック72を有している。
通信制御ブロック71は、デジタルスチルカメラ1側の通信制御ブロック64との間での通信を実行するための部位であり、上記のパン・チルト制御信号を受信した場合には、このパン・チルト制御信号をパン・チルト制御処理ブロック72に対して出力する。
パン・チルト制御処理ブロック72は、ここでは図示していない雲台10側のマイクロコンピュータなどが実行する制御処理のうちで、パン・チルト制御に関する処理の実行機能に対応するものとなる。
このパン・チルト制御処理ブロック72は、入力したパン・チルト制御信号に応じて、ここでは図示していないパン駆動機構部、チルト駆動機構部を制御する。これにより、適切画構造に応じて必要な水平視野角と垂直視野角を得るためのパンニング、チルティングが行われる。
また、この場合の画構造判定ブロック62は後述するようにして被写体検出処理を実行するが、この被写体検出処理の結果として被写体が検出されないときには、パン・チルト・ズーム制御ブロック63は、例えば指令に応じて被写体探索のためのパン・チルト・ズーム制御を行うことができるようになっている。
また、図10は、図9に示した画構造判定ブロック62の内部構成例を示している。この図に示される画構造判定ブロック62は、先ず、大きくは画内容判定部210と撮像履歴保持部213とから成る。画内容判定部210は、図2における画内容判定部201に相当し、撮像履歴保持部213は、履歴保持部202に相当する。
さらに、この場合の画構造判定部210は、被写体検出処理部211及び画構造判定処理部212から成るものとしている。
また、この図では、図2の判定結果利用部203に相当するものとして、撮像記録ブロック61とパン・チルト・ズーム制御ブロック63が、画構造判定ブロック62とともに示されている。
被写体検出処理部211は、撮像記録ブロック61から出力される撮像画像データを取り込んで、被写体検出処理を実行する部位とされる。
ここでの被写体検出処理は、先ず取り込んだ撮像画像データの画内容から、人としての被写体を弁別して検出する処理をいうものとする。ここでの検出結果として得られる情報(個別被写体検出情報)は、先ず、人としての被写体の数と、個々の被写体(個別被写体)ごとについての画枠内での位置情報(例えば画枠内の位置であれば画素のマトリクスの下でのX座標、Y座標により表現できる)、及び個別被写体ごとについての画像内におけるサイズ(占有面積)などとなる。
上記被写体検出処理の具体的手法としては、顔検出の技術を用いることができる。この顔検出の方式、手法はいくつか知られているが、本実施形態においてはどの方式を採用するのかについては特に限定されるべきものではなく、検出精度や設計難易度、また、後述する静止検出に採用する手法との兼ね合いなどを考慮して適当とされる方式が採用されればよい。
さらに、本実施形態における被写体検出処理部211は、被写体検出処理として、検出された個別被写体について、個人を弁別する個人認識処理も実行するものとする。これにより、上記個別被写体検出情報には、検出個別被写体ごとの個人認識処理結果を示す個人認識情報も含められる。
なお、個人認識処理のアルゴリズムについても、上記の顔検出の方式、手法と同様にして、本実施形態の下では特に限定されるべきものではない。
そして、被写体検出処理部211は、上記個別被写体検出情報の集合から成る情報を検出被写体情報として得る。例えば、被写体検出処理部211は、自身が取り込んだ撮像画像データとともに、検出被写体情報を画構造判定処理部212に渡す。
また、この被写体検出処理部211が実行する被写体検出処理は、画像信号処理として実現することができる。例えば画像信号処理をDSP(Digital Signal Processor)により実行するように構成する場合、この被写体検出処理は、DSPに与えるプログラム、インストラクションにより実現できる。
画内容判定処理部212は、被写体検出処理部211から渡された撮像画像データと、検出被写体情報とを利用して、この撮像画像データが有する画内容に対応して適切とされる画構造を判定するとともに、判定結果に基づく画構造獲得制御を実行する。
つまり、図9の画構造判定ブロック62の動作として述べたのと同様に、画内容判定処理部212は、画構造の判定結果に基づき、パン・チルト・ズーム制御ブロック63に対して、判定結果に応じた構図、撮像視野角が得られるように制御、指示を行う。
また、画内容判定処理部212は、画構造獲得制御として、撮像画像データの画内容を監視して、判定された適切画構造に応じた画内容が得られるのを待機するようにしている。そして、判定した画構造を有する画内容が得られたことを認識すると、そのタイミングで、撮像記録ブロック61に対して撮像画像データの記録を指示する。
この指示に応じて撮像記録ブロック61は、そのときに得られている撮像画像データを記録するが、このようにして記録された撮像画像データは、画構造判定処理部212が判定した画構造による画内容を有したものとなる。
ここで、上記図9、図10に示した撮像システムの構成と、図7、図8に示したデジタルスチルカメラ1、雲台10の構成との対応は、例えば次のようになる。なお、ここで述べる対応は、あくまでも順当に考えられるものの1つとして捉えられるべきものであり、ここで述べる以外の対応の態様も採り得るものである。
図9、図10のデジタルスチルカメラ1における撮像記録ブロック61は、例えば図7における光学系部21、イメージセンサ22、A/Dコンバータ23、信号処理部24、エンコード/デコード部25、メディアコントローラ26から成る部位が対応する。画構造判定ブロックが画構造判定処理に利用する撮像画像データは、例えば信号処理部24における所定の信号処理段階にて得ることができる。
図9、図10のデジタルスチルカメラ1における画構造判定ブロック62は、例えば図7の信号処理部24における被写体検出処理部211に相当する所要の処理に対応する画像信号処理機能が対応する。また、制御部(CPU)27が実行するものとされる、画構造判定処理部212に相当する処理機能、及び撮像履歴保持部213おける撮像履歴情報の管理機能が対応する。撮像履歴情報保持部213としての記憶領域は、図7におけるRAM29、若しくはフラッシュメモリ30を利用できる。
図9、図10のパン・チルト・ズーム制御処理ブロック63は、例えば図7における制御部27がパン・チルト・ズーム制御のために実行する処理機能が対応する。
図9、図10のデジタルスチルカメラ1における通信制御処理ブロック64は、例えば図7における雲台対応通信部34と、この雲台対応通信部34を利用する通信のために制御部27が実行する処理機能が対応する。
図9、図10の雲台10における通信制御ブロック71は、例えば図8における通信部52と、この通信部を利用した通信のために制御部51が実行する処理が対応する。
図9、図10のパン・チルト制御処理ブロック72は、例えば図8における制御部51が実行する制御処理のうちで、パン・チルト制御に関する処理の実行機能に対応するもので、入力される制御信号に応じてパン機構部53、チルト機構部56の動きをコントロールするための信号をパン用駆動部55、チルト用駆動部58に対して出力する。
このようにして、上記図9及び図10に示す構成を採る撮像システムでは、デジタルスチルカメラによる写真撮影(撮像画像データの撮像記録)を行うのにあたり、先ず、適切画構造を決定(判定)し、この適切画構造が得られている画内容の撮像画像データについての記録を行うという動作が自動的に実行される。これにより、ユーザ自身が、構図を始めとする画構造としての各形成要素の状態を判断して撮影を行わなくとも、相応に良質な写真の画像を得ることが可能になる。
また、このようなシステムでは、誰かがカメラを持って撮影する必要が無くなるので、その撮影が行われる場所に居る全員が被写体となることができる。また、被写体となるユーザが、カメラの視野角範囲に入ろうと特に意識しなくとも、被写体が収まった写真が得られることになる。つまり、その撮影場所に居る人の自然な様子を撮影する機会が増えるものであり、これまでにはあまりなかった雰囲気の写真を多く得ることができる。
次に、図11により、本実施形態の撮像システムにおける最も基本的な自動撮像記録の規則について説明しておく。これは、判定された画構造が消尽済みであるか否かについての判定に応じた記録可否設定の処理に対応する。
先ず、前提として、本実施形態においては、本実施形態の撮像システムは、同じ1つの画構造を有する撮像画像データについて、予め設定した最大撮像記録数(規定回数)を越えて撮像記録しないようにされている。この図11の説明にあたって、最大撮像記録数は2が設定されているものとする。
そして、画構造判定処理部212が画構造判定処理を開始し、最初の判定結果が反映されるようにして画構造獲得制御を実行した結果、撮像画像データの画内容として、図11(a)に示すものが得られたとする。ここにおいて示される画内容は、画枠300内において画構造Aを有したものとされる。この画構造Aが、画構造判定処理部212により判定された画構造に対応している。
この段階では、この画構造Aによる撮像画像データの記録は未だ一回も実行していない、即ち、今回撮像記録を行ったとしても最大撮像記録数を越えてはない。従って、この場合、画構造判定処理部212は、この図11(a)に示す画内容が得られたタイミングで撮像記録ブロック61に対して撮像記録を指示する。これにより、図11(a)に示す画内容を有する撮像画像データが記録されることになる。この撮像画像データは、画構造Aを有するものとして最初に記録されたものとなる。つまり、画構造Aを有する写真画像として1枚目の撮像記録が行われたものである。
この後において、画構造判定処理部212が同じ画構造判定アルゴリズムによって画構造判定処理を実行した結果、前回と同じく、画構造Aが適切画構造であるとして判定されたとする。そして、この判定結果に応じた画構造獲得制御を実行したことにより、図11(b)に示すようにして、図11(a)と同様の画構造Aを有する画内容の撮像画像データが得られたとする。
上記したように、ここで設定されている最大撮像記録数は2とされているので、2回目となる今回の撮像記録を実行してもよいことになる。そこで、画構造判定処理部212は、撮像記録ブロック61に対して撮像記録を実行させる。
なお、上記図11(b)に対応して、画構造Aを有する画内容の撮像画像データについての2回目の撮像記録が実行された段階で、最大撮像記録数=2に相当する回数分の撮像記録が完了したことになる。図3、図4との対応では、この図11(b)の段階の撮像記録の完了段階が、判定された画構造Aについての判定結果利用部203による利用が消尽したことに相当する。
そして、さらにこの後において、画構造判定処理部212が同じ画構造判定アルゴリズムによって画構造判定処理を実行した結果、前回と同じく、画構造Aが適切画構造であるとして判定されたとする。そして、この判定結果に応じた画構造獲得制御を実行したことにより、図11(c)に示すようにして、図11(a)、図11(b)と同様の画内容の撮像画像データが得られたとする。
この段階では、上記もしたように、画構造Aについては消尽している。換言すれば、既に画構造Aによる撮像画像データを2回記録しているので、今回さらに撮像記録を実行すると、記録回数は3回となって最大撮像記録数である2を越えてしまう。
このために、今回、画構造判定処理部212は、撮像記録ブロック61に対して撮像記録実行の指示は与えないようにする。つまり、撮像記録ブロック61による撮像記録は実行されない。また、以降において、同様に画構造判定により画構造Aによる撮像画像データが得られたとしても、撮像記録を実行させることはしない。
このようにして、本実施形態の撮像システムは、設定された最大撮像記録数を越えて同じ画構造による画内容を有する撮像画像データを記録しない(消尽された画構造の判定結果については、以後において利用しない)という基本構成を採る。このようにして1つの画構造についての記録回数制限を与えることで、判定した適切画構造に応じた画内容の撮像画像データを自動的に撮像記録していくのにあたり、同じような画構造の画像ばかりが記録されてしまうことが防がれる。
例えば画内容は、例えばパン・チルト位置、画枠内における被写体の位置、画枠内における被写体ごとの向き、さらには、画枠内における被写体がどの個人であるのかなど、或る特定の要素がどのような状態に在るのかによって決まることになる。
本実施形態では、このようにして画内容を決定する要素ごとの状態の組み合わせ(構造)を画構造という。また、これらの画内容を決定する要素については、画構造を形成(判定)するための要素である見ることができるので、画構造形成要素(画構造判定要素)ということにする。
続いては、本実施形態の撮像システムにおいて採用し得る画構造形成要素の例と、画構造判定に応じた自動撮像記録の態様例について説明していく。
先ず、図12は、画構造形成要素として、雲台10におけるパン機構部53、チルト機構部56についてのパン位置、チルト位置を採用した場合に対応した、撮像システムの自動撮像記録の動作例を概念的に示している。なお、ここでは説明を簡単なものとすることの都合上、パン方向のみについて述べる。
図12(a)は、雲台10と、これに取り付けられているデジタルスチルカメラ1とを平面から見ている。また、この図においては、デジタルスチルカメラ1は、雲台10のパン機構部53によるパン方向(横方向)における可動範囲内において、基準として設定した位置(基準位置:例えば可動範囲における中間位置)にあるものとされる。基準線Lは、デジタルスチルカメラ1がこのパン方向における基準位置に在るとした場合において、そのレンズ部3(光学系部21)の光軸(撮像光軸)と一致、若しくは平行となる線である。
また、ここでは、画角(ズーム角)を、画角中央angC、画角左端angL、画角右端angRにより表現している。なお、画角中央angCは、デジタルスチルカメラ1の撮像光軸と一致するものであり、画角中央angCから画角左端angLまでの角度の大きさと、画角中央angCから画角右端angRまでの角度の大きさは同じになる。なお、説明を簡単なものとするため、ここでの画角(ズーム角)は固定されているものと仮定する。
そして、このデジタルスチルカメラ1及び雲台10が設置されている周囲において、図示するように、デジタルスチルカメラ1に対して、紙面上で右手前となる方向の位置に1つの被写体が存在しているものとする。また、ここでは説明の都合上、被写体は移動せず、その絶対的な位置は固定とする。
例えば、本実施形態のデジタルスチルカメラ1が、図12(a)に示す状態から被写体探索を開始して画構造判定・画構造獲得制御に伴うパン制御を実行した結果、図12(b)に示すようにして撮像視野角内に被写体が収まる状態での撮像画像が適切画構造として得られたとする。なお、図12(b)に示される状態でのパン位置については角度(基準線と画角中央との間の角度)α°として示している。
そして、デジタルスチルカメラ1は、このパン位置で撮像される撮像画像データを、予め設定された最大撮像記録数に相当する回数分だけ撮像記録したとする。
次に、例えば上記のように図12(b)に示す状態の撮像画像データを最大撮像記録数分だけ撮像記録した後において、改めて被写体探索・画構造判定処理を実行し、この判定結果に応じた画構造獲得制御を実行した結果として、図12(c)に示すようにして、図12(b)とは異なるパン角度β°となるパン位置が得られたとする。デジタルスチルカメラ1は、この図12(c)の位置状態にて、撮像記録を実行することができる。
そして、例えば図12(c)の状態からさらに、改めて被写体探索・画構造判定処理を実行し、この判定結果に応じた画構造獲得制御を実行したところ、図12(d)に示すパン位置の状態得られたとする。
しかし、この図12(d)は、図12(a)と同じパン角度α°となる位置であり、既に図12(a)の段階で撮像記録数分の撮像記録が完了している。このために、図12(d)に示す段階で得られたこの状態の下では、撮像記録は実行しない。
そのうえで、本実施形態では、上記したパン位置についての自動撮像記録の態様について、実際には、パン位置とチルト位置の組み合わせにより決まる撮像視野角に適用するものとする。つまり、複数回の画構造判定処理・画構造獲得制御に対応して得られた複数のパン・チルト位置について、例えばパン位置が同じであってもチルト位置が異なれば、これらは異なる画構造を有していることになる。
このようにして、本実施形態では、画構造形成要素の1つとして「パン・チルト位置」を採用することとして、同じパン・チルト位置により最大撮像記録数分の撮像記録を行った場合には、以降、そのパン・チルト位置での撮像記録を実行しないようにされる。
本実施形態の撮像システムを利用するのにあたっては、デジタルスチルカメラ1が雲台10に取り付けられた状態で或る定位置に配置することになる。従って、パン・チルト位置が同じであれば撮像画像の画枠内に収まる背景が同じになる。
つまり、パン・チルト位置を画構造形成要素として、同じパン・チルト位置での撮像記録回数に制限を与えることによっては、同じ背景の画像ばかりが撮像記録されてしまうことが防がれることになる。
また、先に述べたようにして、本実施形態の被写体検出処理によっては、検出した個別被写体ごとに個人認識処理を行うことで、被写体と個人とを対応させて識別することが可能とされている。そこで、本実施形態は、画構造形成要素として、個人認識処理により特定された被写体ごとの個人の情報を採用する。これにより、基本的には、例えば仮に同じ人としての被写体が同じ構図で画枠内に収まっているとしても、個人が異なれば、画枠内における画構造は異なるものとして扱うことができる。
図13は、主に個人認識結果(個人特徴パラメータ)を画構造形成要素として採用した場合の構図判定処理及び自動撮像記録の一態様例を示している。
はじめに、図13(a)に示す撮像画像データの画内容に応じた画構造が適切であると判定されたとする。この図13(a)に示される画像は、個人認識結果の画構造形成要素については、「被写体はAさんである」という状態が適切であると判定されている。なお、この被写体Aさんは、被写体検出時の個人認識処理により、他の被写体との弁別が可能となっている。
撮像システムでは、この図13(a)に示される画構造を有する画内容の撮像画像データを、最大撮像記録数分だけ撮像記録したとする。このために、以降、図13(b)に示すようにして、被写体Aさんだけが被写体として収まっている図13(a)と同じ画構造のものについては、撮像記録しない。
そして、この後において、例えば撮像画像の内容が、図13(b)に示す状態から図13(c)に示すように、被写体Aさんとは異なる被写体Bさんのみが画枠300内に収まる状態に変化したとする。被写体Bさんは、個人認識処理によって被写体Aさんとは異なる個人として認識されている被写体である。
この変化に応じて、適切画構造として、個人認識結果の点では「被写体はBさんである」という状態が適切であるとして判定されることになる。この場合、例えば被写体が1つであっても、被写体Aさんのみが存在する図13(a)(b)の画像と、被写体Bさんのみが存在する図13(c)の画像とは、画構造が異なるものとして判断することになる。従って、デジタルスチルカメラ1は、この図13(c)に示す画内容の撮像画像データについて、予め設定された最大撮像記録数の範囲で撮像することができる。
また、一方、撮像画像の画内容が図13(b)に示す状態から、図13(d)に示すようにして、被写体Aさんと被写体Bさんとの二つが画枠内に存在する状態に変化したとする。これに応じて、図13(d)に示す画内容に基づく適切画構造の判定結果では、個人認識結果については「被写体はAさんとBさんである」という状態が適切である判定されたとする。このようにして図13(d)の画内容に応じて判定された適切画構造もまた、図13(b)の画構造とは異なるものとなる。従って、デジタルスチルカメラ1は、この図13(d)に示す画内容の撮像画像データについても、予め設定された最大撮像記録数の範囲で撮像することができる。
このような画構造判定の態様では、同じ特定の人物、若しくは同じ複数の人物の組み合わせばかりが撮像記録されてしまうことが防がれる。
また、本実施形態の被写体検出処理部211による被写体検出処理にあっては、被写体として検出した人の顔について、その表情として、例えば笑顔の状態にあるか否かについて検出することも可能とされている。
図14は、笑顔検出結果を画構造形成要素として採用している場合の画構造判定処理、自動撮像記録の一態様例を示している。
先ず、図14(a)に示す画内容が得られたとする。図14(a)は撮像画像の画枠300において、被写体1、2の2つの被写体が左右に並ぶようにして収まっている画内容となっている。そのうえで、笑顔(表情)に関しては、被写体1が笑顔であり、被写体2が笑顔でない状態となっている。
例えば、この画像について画構造判定を行った結果、笑顔については、「被写体1が笑顔。被写体2は笑顔でない」状態が適切であると判定されたので、図14(a)に示す撮像画像を最大撮像記録数分により撮像記録したとする。すると以降、図14(b)に示すように、図14(a)と同じ被写体と笑顔の組み合わせが得られたとしても、この画像の撮像画像データの記録は実行しない。
そして、例えばこの後において、図14(c)に示すように、被写体1が笑顔でなく、被写体2が笑顔となる画内容に新たに変化したとする。これに応じて、判定された適切画構造における笑顔のパラメータにいては、「被写体1は笑顔でない、被写体2は笑顔」の状態であることが適切だと設定されたとする。この図14(c)は、図14(a)(b)とは異なる画構造であることになる。従って、この図14(c)に示す画内容の撮像画像は、設定された最大撮像記録数だけ撮像記録することができる。
また、例えば図14(c)の状態から、図14(d)に示すようにして、被写体1、2のいずれも笑顔の画像に変化したとする。このとき判定された適切画構造は、「被写体1は笑顔、被写体2は笑顔」であったとする。この図14(d)の画構造もまた、図14(a)(b)若しくは図14(c)のいずれとも異なる。従って、この図14(d)に示す画内容の撮像画像も、設定された最大撮像記録数だけ撮像記録できる。
このようにして、例えば表情として笑顔検出の結果を画構造形成要素として採用すれば、同じような表情の画像ばかりが撮像記録されてしまうことが防がれる。
なお、例えば表情検出として、笑顔検出に代えて、例えば怒った顔であるとか泣き顔などを検出するようにして、このような表情検出を画構造形成要素として採用することも考えられる。
図15は、画枠内における被写体位置を画構造形成要素として採用している場合の画構造判定処理、自動撮像記録の態様例を示している。なお、被写体位置の情報は、被写体検出処理部211が実行する被写体検出処理により得られる。
ここで、図15(a)に示すように、画枠300において1つの被写体が、画枠300の左右方向において中央よりも左側に寄って位置している画内容の撮像画像データが得られたとする。
この場合、本実施形態のデジタルスチルカメラ1は、例えば図15(a)に示した画内容について適切画構造であると判定したものとする。従って、撮像システムは、この図15(a)に示した画内容の撮像画像データを、設定された最大撮像記録数だけ記録することができる。
例えば図15(a)に示す画内容の画像を最大撮像記録数だけ記録した後において、図15(b)に示すようにして、図15(a)と同じ位置に被写体が存在する画像が得られたとする。しかし、図15(a)と図15(b)は同じ画構造として判定されるものなので、図15(b)の画像については記録されることがない。
これに対して、例えばこの後において、図15(c)に示す画内容に変化したとする。
この図15(c)に示す画内容では、1つの被写体が、画枠300における中央よりも右側に位置している。例えばこのときに判定された適切画構造における被写体位置として、図15(c)に対応する位置が適切であるとされた場合、図15(a)(b)とは異なる画構造を有していることになる。従って、デジタルスチルカメラ1は、この図15(c)に示す撮像画像データを設定された最大撮像記録数だけ記録することができる。
このようにして、被写体位置の情報を画構造形成要素として採用すれば、画枠内において被写体が同じような位置に存在している画像ばかりが撮像されてしまうことが防止される。
また、本実施形態の被写体検出処理部211が実行する被写体検出処理によっては、検出した被写体の顔が画像上で向いている方向についての検出(顔方向検出)を行うことが可能とされている。
図16は、上記顔方向検出により検出された被写体の顔方向を、画構造形成要素として採用している場合の画構造判定処理、自動撮像記録の態様例を示している。
先ず、図16(a)には、画枠300において1つの被写体の顔が右(画像を観測する側から見た方向)を向いている画内容が示されている。例えばこの図16(a)に示した画内容に応じた画構造判定結果により、被写体の顔方向については「右向き」の状態が適切であると判定したのであれば、この図16(a)の画内容の撮像画像データを、設定された最大撮像記録数だけ記録することができる。
そして、最大撮像記録数だけ記録した後において、図16(b)に示すようにして、図16(a)と同じく、被写体の顔方向が右向きとなっている画像について、同様の画構造判定結果が得られたとしても、図15(a)と図15(b)は同じ画構造として判定されるので、図15(b)の画像については撮像記録を実行しない。
これに対して、例えばこの後において、図16(c)に示す画内容に変化したとする。
この図16(c)に示す画内容では、被写体が左方向を向いている。そして、この図16(c)に示した画内容に応じた画構造判定により、顔方向については「左向き」の状態が適切であると判定したのであれば、図16(a)(b)とは異なる画構造であることになる。従って、図16(c)に示される画内容の撮像画像データを設定された最大撮像記録数だけ記録することができる。
これにより、人としての被写体が同じような方向を向いている画像ばかりが撮像記録されてしまうことを防ぐことができる。
図17は、画枠内に存在する被写体数を画構造形成要素として採用している場合の画構造判定処理、自動撮像記録の態様例を示している。
なお、被写体数の情報も、被写体検出処理部211が実行する被写体検出処理によって得ることができる。
先ず、図17(a)に示すように、画枠300において1つの被写体が存在している撮像画像が得られたとする。この画内容に基づいて、例えば被写体数については「1である」状態が適切であるとの構図判定結果が得られたとする。そして、この図17(a)に示した画内容の撮像画像データを、設定された最大撮像記録数だけ記録したとする。
次に、この後において、図17(b)に示すようにして、図17(a)と同じく、被写体数が1つの画像が得られたとしても、図17(a)と図17(b)は同じ画構造として判定されるので、図17(b)の画像については撮像記録を実行しない。
これに対して、例えばこの後において、図17(c)に示すように画枠内の被写体数が2の画内容に変化したとする。この画内容は、被写体数としての画構造形成要素の点からは、被写体数が1である図17(a)(b)とは異なる画構造であることになる。従って、この図17(c)に示した画内容について適切画構造であると判定したのであれば、この撮像画像データを、設定された最大撮像記録数だけ記録することができる。
このようにして、被写体数を画構造形成要素とすれば、被写体数が同じ画像ばかりが撮像記録されてしまうことが防がれる。
図18は、画枠内での被写体のサイズを画構造形成要素としている場合の画構造判定処理、自動撮像記録の態様例を示している。被写体サイズの情報は、被写体検出処理部211が実行する被写体検出処理によって得られる。
先ず、図18(a)に示すように、画枠300において1つの被写体が存在している撮像画像が得られたとする。
この画内容に基づいた画構造判定処理により、被写体サイズについては「V1(垂直サイズ)」の状態が適切であるとの結果が得られたとする。そして、必要に応じて、例えば被写体サイズがより正確にV1となるように画構造獲得制御(例えばズーム制御)を行ったうえで、この図18(a)に示した画内容の撮像画像データを、設定された最大撮像記録数だけ記録したとする。
次に、この後において、図18(b)に示すようにして、図18(a)と同じく、被写体数が1つの画像が得られたとしても、図18(a)と図18(b)は同じ画構造として判定されるので、図18(b)の画像については撮像記録を実行しない。
これに対して、例えばこの後において、被写体としての実体となる人物がデジタルスチルカメラ1により近づいてきたなどの理由で、図18(c)に示すように、図18(a)(b)よりも大きなサイズの被写体の画像に変化したとする。
そして、この画内容に基づいて判定された適切画構造において、適切とされる被写体サイズ(垂直サイズは「V2(V2>V1)」の状態であるとして指定されたとする。この構図判定結果に応じては、必要に応じて、例えば被写体サイズがより正確にV2となるように画構造獲得制御(例えばズーム制御)を行ったうえで、この図18(c)に示した画内容の撮像画像データを、設定された最大撮像記録数だけ記録することができる。
このようにして、被写体数を画構造形成要素とすれば、画枠内に存在する被写体について、そのサイズが同じような画像ばかりが撮像記録されてしまうことが防がれる。
また、本実施形態の撮像システムでは、先に基本構成として図4にて述べた処理を適用することができる。
つまり、判定された適切画構造が消尽済みとなった場合、即ち、最大撮像記録数分だけ撮像記録し終えてしまった場合には、画構造判定アルゴリズムを変更して、以降の画構造判定処理を継続させていくように構成できる。これにより、例えば撮像システムにおける周囲の環境に大きな変化が生じなくとも、多様な適切画構造を有した画像を撮像記録することが可能である。
そこで続いては、本実施形態の撮像システムにおける画構造判定アルゴリズム変更の態様についていくつかの例を挙げておくこととする。
図19は、画構造判定アルゴリズム変更についての第1の態様例を示している。
先ず、図19(a)は、はじめの画構造判定アルゴリズムにより判定された適切画構造に対応して獲得された画像の画内容を示している。この画像において存在する被写体サイズはV1であったとする。なお、このときに設定されていたズーム倍率の値についてはZ1とする。
ここでは図19(a)に示す画内容の画像について、最大撮像記録数分の撮像記録を完了したとする。
すると、この後は、はじめの画構造判定アルゴリズムによって図19(a)に示す画像が得られたとしても、これを撮像記録することはできない。
そこで、この場合には、画構造判定アルゴリズムとして、適切画構造を形成するとされる被写体サイズのパラメータを変更する。ここでは、はじめの画構造判定アルゴリズムにおいて設定されていた被写体サイズに対してa倍となるようにしてパラメータを変更するものとする。
これに応じて、画構造判定結果に応じた画構造獲得制御によっては、Z1×aで表されるズーム倍率により撮像した画像が得られることになる。この画像においては、図19(b)に示すようにして、画枠300における被写体のサイズはV1×aに拡大されるものとなる。
これにより、被写体サイズは、図19(a)のときとは異なるものとなり、結果、異なる画構造が得られている。以降において、デジタルスチルカメラ1は、この図19(b)の画内容による撮像画像データを、設定された最大撮像記録数だけ記録することができる。
なお、ここでは画構造判定アルゴリズムの変更に伴い、被写体サイズを拡大する方向にパラメータを変更しているが、これとは逆に被写体サイズを縮小する方向にパラメータを変更するようにして構わない。
図20は、画構造判定アルゴリズム変更についての第2の態様例を示している。
例えば、図20(a)は、1つめの画構造判定アルゴリズムによる画構造獲得制御によって得られた撮像画像の画内容を示している。この画像における被写体の位置に着目すると、被写体は、画枠300の水平サイズHの1/2となる位置を通過する垂線を通過する位置、つまり画枠の水平方向においてほぼ中央となる位置に存在している。つまり、このときに判定された適切画構造において、被写体の位置としては、「水平方向において中央」である状態が適切であるとして指定されている。
そして、この図20(a)に示す被写体位置の画内容により、最大撮像記録数分の撮像記録を行ったとする。
上記のようにして、図20(a)に示す被写体位置の画内容により、最大撮像記録数分の撮像記録を行ってしまった後は、同じ図20(a)の画構造による撮像記録を実行することはできない。そこで、ここでは、2番目の画構造判定アルゴリズムとして、画枠内における被写体位置を変更するものとする。
2番目の画構造判定アルゴリズムに基づく画構造獲得制御により得られた撮像画像を図20(b)に示す。この図において被写体は、画枠の水平方向を3等分する仮想線のうち、最も左の仮想線上に位置するように配置されている。即ち、今回の画構造判定アルゴリズムでは、被写体位置について「画枠の水平方向を3等分する仮想線のうち、最も左の仮想線上の位置」となる状態が適切であるとして設定されている。
このようにして、画構造判定アルゴリズムとして指定すべき被写体位置を変更して画構造判定、画構造獲得制御を実行すれば、これまでとは被写体位置が異なる撮像画像を得ることができる。そして、この図20(b)に示す被写体位置の画内容により、最大撮像記録数分の撮像記録を行うことができる。
さらに、図20(b)に示す被写体位置の画内容により、最大撮像記録数分の撮像記録を完了したとされると、以降は、図20(b)に示す画構造の撮像画像を撮像記録することもできなくなる。
そこで、この場合には、さらに2番目から3番目に画構造判定アルゴリズムを変更することとして、この際、1番目及び2番目の画構造判定アルゴリズムのときとは異なる被写体位置のパラメータを設定する。
この3番目の画構造判定アルゴリズムに基づく画構造判定処理の結果として得られた撮像画像は、図20(c)に示される。この図において被写体は、画枠の水平方向を3等分する仮想線のうち、最も右の仮想線上に位置するように配置されている。つまり、この場合の画構造判定アルゴリズムにおいては、被写体位置について「画枠の水平方向を3等分する仮想線のうち、最も右の仮想線上の位置」が適切であるとして設定されている。
そして、この図20(b)に示す被写体位置の画内容により、最大撮像記録数分の撮像記録を行うことができる。
なお、上記図20による説明からも理解されるように、本実施形態では、画構造判定アルゴリズムについては複数回変更して構わない。
また、被写体位置については、図20に示したパターン以外の変更を多様に考えることができる。
図21は、画構造判定アルゴリズム変更についての第3の態様例を示している。
先ず、はじめの画構造判定アルゴリズムに基づく画構造獲得制御により得られた撮像画像が図21(a)に示すものであるとする。図21(a)の画内容としては画枠300内において2つの被写体1,2が存在し、画枠水平方向において、被写体1は左側に位置し、被写体2は右側に位置した状態にある。
デジタルスチルカメラ1としては、先ず、はじめの画構造判定アルゴリズムのもとで、図21(a)の画内容の撮像画像データについて最大撮像記録数分の撮像記録を実行したものとする。
このときの画構造判定アルゴリズムによる画構造判定結果は、2つの被写体1,2が検出されていることに基づき、被写体については、「被写体1、2が存在する」ことが適切であるとして指定されていた。また、そのサイズについては、「被写体1:V11、被写体2:V12」である状態が適切であると指定されていた。
例えばこの後において、図21(a)と同様に、被写体1、2がともに存在する画構造による撮像画像データが得られたとする。しかし、以降においては、この画内容の撮像画像データは記録せず、2番目の画構造判定アルゴリズムに変更して画構造判定処理を実行する。この2番目の画構造判定アルゴリズムに基づく画構造判定処理の結果として得られる撮像画像の画内容を、図21(b)に示す。
図21(b)においては、被写体1、2のうち、被写体1のみが画枠300内に収まるようにしたうえで、図21の場合よりも大きな所定の被写体サイズV21となるようにされている。
つまり、2番目の画構造判定アルゴリズムでは、画枠内にて被写体1,2が検出されたとしても、「被写体1のみが存在する」という状態を適切であると指定するものである。また、サイズについては、被写体が1つとされることに応じて、V11よりも大きな「V21とする」状態が適切であると指定するものである。
そして、上記図21(b)に示す画構造による撮像画像データについても、最大撮像記録数分の撮像記録を実行し、以降において、同じ図21(b)の画構造による撮像画像データの撮像画像データの記録を行えなくなったとされる。これに応じては、3番目の画構造判定アルゴリズムに変更する。
3番目の画構造判定アルゴリズムでは、被写体については、被写体1ではなく、「被写体2のみが存在する」という状態を適切であると指定するものである。また、サイズについては、同じく「V21とする」状態が適切であると指定したものとする。
3番目の画構造判定アルゴリズムに従った画構造判定処理、画構造獲得制御による撮像画像の画内容の遷移例が、図21(c)(d)により示されている。
ここでは、3番目の画構造判定アルゴリズムに従った処理として、先ず、被写体探索により、図21(c)に示すように被写体1,2を検出、補足したとする。なお、この図21(c)は、図21(a)と同じ画内容としている。しかし、このときには、既に3番目の画構造判定アルゴリズムに変更されているので、この図21(c)の撮像画像の記録は実行しない。
かわりに、3番目の画構造判定アルゴリズムに従って、画枠内において被写体2のみが存在し、かつ被写体2の被写体サイズをV21となる画内容が得られるようにして画構造獲得制御が行われる。この結果、例えば図21(d)に示す画内容の撮像画像が得られる。デジタルスチルカメラ1は、このようにして得られた画内容の撮像画像データについて、最大撮像記録数分の撮像記録を実行できる。
図22は、画構造判定アルゴリズム変更についての第4の態様例を示している。
先ず図22(a)が、はじめの画構造判定アルゴリズムに基づく画構造獲得制御により得られた撮像画像であるとする。つまり、この場合には、被写体に関して「被写体1が存在」しているという状態が適切であるとして指定されていたものである。
デジタルスチルカメラ1は、この図22(a)に示す画内容の撮像画像データについて、最大撮像記録数分の撮像記録を行ったものとする。
この後において被写体探索を実行したところ、図22(b)に示すようにして、画枠内において被写体1とともに被写体2が存在する画内容が得られたとする。
ただし、この場合においては、図22(b)に示す撮像画像が得られたときに、たまたま被写体1は画枠の左方向に移動し、被写体2は画枠の右方向に移動している状態であったとする。
例えばこのようにして、一度検出された探索された被写体の移動方向が互いに異なるような状態を検出した場合、本実施形態では、次の画構造判定アルゴリズムとして、これら被写体1,2を1つの画枠内に収めようとするのではなく、いずれか1つの被写体のみが画枠内に在るようにされた画構造が得られるように変更を行うものとする。また、被写体1,2のいずれを画枠内に収めるのかについては、未だ撮像記録していないほうを選ぶこととする。つまり、この場合であれば、被写体2を選ぶことになる。この選択に際しては、例えば個人認識結果を利用すれば、被写体1と被写体2を容易に弁別することができる。
そして、本実施形態の撮像システム(デジタルスチルカメラ1、雲台10)は、図22(b)に示す状態から、画構造獲得制御として、被写体2の移動に応じて、これを追尾するようにして例えばパン方向の制御を実行する。そして、この被写体2の追尾により、例えば図22(c)に示す撮像画像が得られたとする。この撮像画像が、変更後の画構造判定アルゴリズムにより判定された適切画構造に対応するものとする。そこで、デジタルスチルカメラ1は、この図22(c)に示される画内容の撮像画像データについて、最大撮像記録数分により撮像記録することができる。
続いて,これまでに説明してきた本実施形態の撮像システムによる自動撮像記録を実現するための技術構成例について説明していくこととする。
先ず、本実施形態の撮像システムを形成するデジタルスチルカメラ1及び雲台10の構成例としては、先に図7、図8により説明したとおりである。
次に、撮像履歴保持部213にて保持される撮像履歴情報について説明する。
図23は、撮像履歴情報の構造例を示している。
撮像履歴情報は、単位撮像履歴情報1〜nの集合により形成される。1つの単位撮像履歴情報が、1回の自動撮像記録に応じた履歴の情報を格納する。
1つの単位撮像履歴情報は、図示するようにして、ファイル名、撮像日時情報、パン・チルト位置情報、被写体数情報、個人認識情報、画枠内位置情報、サイズ情報、顔方向情報、表情情報から成る。
ファイル名は、対応する自動撮像記録によりメモリカード40にファイルとして記録された撮像画像データのファイル名が示される。また、ファイル名に代えて、ファイルパスなどとされてもよい。いずれにせよ、このようなファイル名、ファイルパスの情報によって、単位撮像履歴情報とメモリカード40に記憶された撮像画像データとが対応付けられる。
撮像日時情報は、対応する自動撮像記録が実行された日時を示す。
パン・チルト位置情報は、対応する自動撮像記録が実行されたときに設定されていたパン・チルト位置を示す。このパン・チルト位置情報は、パン・チルト・ズーム制御ブロック63から取得すればよい。
被写体数情報は、対応する撮像画像データ、即ち、対応する自動撮像記録によりメモリカード40に記憶された撮像画像データの画像(画枠)内に存在する被写体(検出個別被写体)の数を示す。
個人認識情報は、対応する撮像画像データの画像内に存在する被写体ごとについての個人認識結果の情報(個人認識情報)である。
画枠内位置情報は、対応する撮像画像データの画像内に存在する被写体ごとについての画枠内における位置を示す情報である。例えば、この画枠内位置情報は、画枠内における被写体ごとに求められた重心に対応する点の座標位置として表すことができる。
サイズ情報は、対応する撮像画像データの画像内に存在する被写体ごとについての画枠内におけるサイズを示す情報である。
顔方向情報は、対応する撮像画像データの画像内に存在する被写体ごとについて検出された顔方向を示す情報である。
表情情報は、対応する撮像画像データの画像内に存在する被写体ごとについて検出された表情が何であるのか(例えば笑顔、笑顔でないなどの区別)を示す情報である。
図24、図25は、撮像履歴情報についての他の構造例を示している。
上記の説明によると、画枠内位置情報、サイズ情報、顔方向情報、表情情報は、対応する撮像画像データの画像内に存在する被写体ごとについての情報となっている。そのうえで、本実施形態のようにして被写体ごとに個人認識処理結果である個人認識情報のデータを得ることとした場合、上記画枠内位置情報、サイズ情報、顔方向情報、表情情報については、個人として認識された被写体(個人認識情報)ごとに対応させることができる。このようにして、画枠内位置情報、サイズ情報、顔方向情報、表情情報を、個人として認識された被写体ごとに対応させることとした場合の構造例が、図24、図25に示すものとなる。
先ず、図24は、撮像履歴情報全体としての構造を示している。つまり、他の例では、図23に代えて、この図24に示す全体構造を有する。
図24に示される撮像履歴情報も、単位撮像履歴情報1〜nの集合により形成される点では同じである。ただし、単位撮像履歴情報を形成する情報として、ここでは、ファイル名、撮像日時情報、パン・チルト位置情報、個人認識情報となる。
そして、個人認識情報は、さらに図25に示す構造を有するものとして形成される。
この図25に示される個人認識情報は、n個の単位個人認識情報1〜nの集合として形成される。個々の単位個人認識情報が、それぞれ、対応する撮像画像データの画像内に存在する被写体に一対一で対応する。従って、対応する撮像画像データの画像内に存在する被写体の数(被写体数情報)は、単位個人認識情報の数により認識できる。
1つの単位個人認識情報は、個人別被写体ID、個人特徴パラメータ、画枠内位置情報、サイズ情報、顔方向情報、表情情報から成る。
個人別被写体IDは、認識された個人ごとに固有となるようにして個人認識処理時に与えられた識別子である。例えば、異なる機会において同じ個人の被写体Aさんが自動撮像記録されたのであれば、これらの自動撮像記録に対応する撮像履歴情報の個人認識情報においては、上記被写体Aさんに対応する同じ個人別被写体IDが格納されることになる。
例えば個人認識処理によっては、個人の特徴量を表し得る所定のパラメータについて認識処理に応じて得られた値が求められる。個人特徴パラメータは、このようにして求められたパラメータの値を格納する。
例えば、現在の撮像画像データにて検出されている個人としての被写体が、既に撮像記録されたことがあるかどうか判定する必要のある場合には、現在の撮像画像データにおいて存在する被写体について個人認識処理を行ってリアルタイムに得られた個人特徴パラメータと、撮像履歴情報の個人認識情報において格納される個人特徴パラメータとを比較すればよい。
また、単位個人認識情報における画枠内位置情報、サイズ情報、顔方向情報、表情情報は、それぞれ、対応する個人としての被写体についての画枠内位置、被写体サイズ、顔方向、表情を示す。
なお、以降においては、撮像履歴情報は、図24、図25に示した構造であるものとして説明を行う。
図26のフローチャートは、本実施形態の撮像システムにおいて、自動撮像記録に対応して画構造判定ブロック62が実行する処理手順についての第1例を示している。この第1例としての処理は、先の基本構成との対応では、図3に示した、画構造判定アルゴリズムを変更しない手順に準じたものとなる。
図26においては、先ず、ステップS301により被写体検出処理部211が撮像画像データの取り込みを開始する。
ステップS302においては、被写体検出処理部211が、取り込んだ撮像画像データを利用して、これまでに述べてきた被写体検出処理を実行する。これにより、個別被写体ごとに認識した個人特徴パラメータ、個別被写体ごとの画枠内位置、被写体サイズ、顔方向、表情などが検出される。なお、例えばこの被写体検出処理は、例えば1画像フレームごと、若しくは所定フレーム数ごとに実行する。
ステップS303において画構造判定処理部212は、ステップS302により得られた被写体検出情報及び撮像画像データを利用し、現在において検出される被写体がどの個人であるのかをはじめ、被写体数、被写体サイズなどをはじめとする諸条件を認識し、予め定めた画構造判定アルゴリズムに従って画構造判定処理を実行する。
そして、ステップS304により、この画構造判定処理により判定した適切画構造を有する撮像画像データの画内容を得るための画構造獲得制御を実行する。例えば、この適切画構造の形成要素として、被写体位置や被写体サイズが設定されているのであれば、この設定された被写体位置、被写体サイズとなるようにして、パン・チルト・ズーム制御ブロック63に対する指示(パン・チルト・ズーム制御)を実行する。
画構造判定処理部212は、ステップS304による画構造獲得制御を実行しながら、ステップS305により、撮像画像データについて適切画構造を有する画内容が得られた(OK)か否かについて判別する。この判別にあたっては、例えば画構造獲得制御によって画内容が変化する撮像画像データについて被写体検出処理部211が逐次被写体検出処理を実行して得られる被写体検出情報を利用することができる。
画構造獲得制御の実行により、或るタイミングで適切画構造の画内容が得られた場合、ステップS305にて肯定の判別結果が得られることとなる。この場合には、ステップS306以降の手順に進む。
これに対して、例えば、画構造獲得制御として必要とされる制御を全て実行したとしても適切画構造を有する画内容が得られなかった場合には、ステップS305にて否定の判別結果が得られることになる。この場合には、ステップS302に戻ることで、被写体探索のための被写体検出処理を実行する。
ステップS306において画構造判定処理部212は、撮像履歴保持部213から撮像履歴情報の読み込みを実行する。次に、画構造判定処理部212は、ステップS307により、撮像履歴情報と、今回のステップS303にて得たとされる画構造判定結果とを照合する。この画構造判定結果を形成する情報項目としては、後述するように、主としては、撮像の対象として判定した被写体についての各種情報とされる。この各種情報としては、例えば、図25に示される個人認識情報を形成するのと同じ情報項目とすることが考えられる。
また、ここでの画構造判定結果には、画構造獲得制御により適切画構造を有する画内容が得られたとするタイミング(ステップS305にて肯定の判別結果が得られたタイミング)での実際のパン・チルト位置の情報も含める。このパン・チルト位置情報は、ステップS304による画構造獲得制御により得られるものであるから、この点で、画構造判定結果を形成する情報の一要素であるということができる。
そして、ステップS308において画構造判定処理部212は、上記ステップS307による処理の結果に基づいて、今回のステップS303により判定された画構造は消尽済みのもの(消尽済み画構造)であるか否かについて判別する。つまり、今回のステップS303により判定された画構造を有する画内容の撮像画像データについて、予め設定された最大撮像記録数分の撮像記録が完了してしまっているか否かについての判別を行う。
なお、上記ステップS307及びステップS308に相当する処理手順の具体例については、図27により後述する。
ステップS308において消尽済み画構造であるとして肯定の判別結果が得られた場合には、ステップS302に戻り、被写体探索を再開させる。このようにして、今回判定した画構造について消尽済みであるとして判別された場合には、再度、被写体探索、被写体検出処理を経て画構造判定処理を実行することで、撮像最大記録枚数を超えて、同じ画構造を有する撮像画像データが撮像記録されることはない。
これに対して、ステップS308において消尽済み画構造ではないとして否定の判別結果が得られた場合には、画構造判定処理部212はステップS309に進む。
ステップS309において画構造判定処理部212は、撮像記録タイミングについての判定処理を行い、この判定処理の結果を受けて、ステップS310において、撮像記録タイミングがOKと成ったか否かについての判別を行う。
本実施形態のデジタルスチルカメラ1は、例えば検出された被写体の顔の表情を検出可能であるが、ステップS309にて判定される撮像記録タイミングは、この表情検出に関連する。
例えばここで、ステップS303による画構造判定結果として、画構造形成要素の1つである被写体の表情については、或る特定の検出個別被写体は笑顔が適切であるとして判定されているものとする。
この場合のステップS309では、現在においてリアルタイムで検出されている上記特定の検出個別被写体の表情が、現に笑顔であるか否かについての判定を行うことになる。即ち、画構造獲得制御として、画構造形成要素の1つとして指定された笑顔が得られるのを待機する。
そして、或るタイミングで、上記特定の検出個別被写体の表情が笑顔になったことが検出されたとすると、ステップS310において肯定の判別結果が得られることとなり、ステップS311以降に進む。これに対して、例えば或る一定時間を越えても上記特定の検出個別被写体の表情について笑顔が検出されなければ、ステップS310において否定の判別結果が得られることとなって、ステップS302に戻る。
ステップS311において画構造判定処理部212は、撮像記録を実行させる。つまり、デジタルスチルカメラ1の記録制御系により、そのときに得られている撮像画像データを、メモリカード40に対して静止画のファイルとして記録する動作が実行されるように指示を行う。
続いて、画構造判定処理部212は、ステップS312により今回の撮像記録の結果が反映された単位撮像履歴情報(図24,図25)を新規に生成し、続くステップS313により、この新規生成した単位撮像履歴情報により、撮像履歴保持部213における撮像履歴情報を更新する。
ここで、上記図26におけるステップS307及びステップS308に相当する処理についてのより具体的な手順例を、図27のフローチャートにより説明する。ステップS307、ステップS308による処理とは、即ち、撮像履歴情報と画構造判定情報とを照合することで、最終的に、判定された適切画構造が消尽済みであるか否かについての判別結果を出力するための処理となる。
図27において画構造判定処理部212は、先ず、ステップS401において、撮像履歴情報から、画構造判定結果として得られているパン・チルト位置情報と同じとされるパン・チルト位置情報を有する単位撮像履歴情報を抽出する。前述のように、画構造判定結果として得られるパン・チルト位置情報は、図26のステップS304による画構造獲得制御の結果、ステップS305においてOKであると判別された際に、実際にパン・チルト機構部において設定されているパン・チルト位置となる。
次に、画構造判定処理部212は、ステップS5402により、上記ステップS401により抽出された単位撮像履歴情報数(抽出数)が、パン・チルト位置の画構造形成要素に対応して設定された最大撮像記録数Amax未満であるか否かについて判別する。
先ず、上記ステップS402にて肯定の判別結果が得られたということは、パン・チルト位置としての画構造形成要素のみに着目したときに、今回判定された画構造による撮像画像データについて、未だ最大撮像記録数Amax分の撮像記録を完了していないということになる。つまり、未だ、最大撮像記録数Amax−抽出数で表される回数だけ、今回において画構造の一要素として判定されたパン・チルト位置での撮像記録が可能であることになる。
そこで、この場合には、ステップS416に進むことで、直ちに、今回判定された画構造は消尽済みではない(消尽済み画構造ではない)、との判別結果を出力する。
なお、上記ステップS416の処理が、即ち、図26のステップS308において消尽済み画構造ではないとして否定の判別結果を得ることに相当する。
これに対して、ステップS402により否定の判別結果が得られた場合には、今回判定された画構造と同じパン・チルト位置により記録された撮像画像データが、既にその抽出数だけ存在することになる。この場合には、今回の画構造判定結果が消尽済みである可能性がある。
ただし、この段階では、今回判定された画構造において、パン・チルト位置情報以外の画構造形成要素について撮像記録済みであるかどうかの確認は行っていない。そこで、画構造判定処理部212は、ステップS403以降の手順に進むことで、他の画構造形成要素について、撮像記録済みであるか否かについての判別を行っていく。
ステップS403においては、先のステップS401により抽出された単位撮像履歴情報(抽出単位撮像履歴情報)から、今回の画構造判定結果として得られている被写体数と同じとされる被写体数となっている単位撮像履歴情報を抽出する。次いで、ステップS404により、この抽出数が、被写体数に対応して設定された最大撮像記録数Bmax未満であるか否かについて判別する。
ステップS404において肯定の判別結果が得られた場合、今回判定された画構造と同じ被写体数の画内容を有する画像については、未だ最大撮像記録数Bmax分の撮像記録を完了していない。つまり、この段階で被写体数としての画構造形成要素については消尽されていない。従って、今回判定された画構造と同じ被写体数の撮像画像についても、最大撮像記録数Amax−抽出数で表される回数だけ撮像記録が可能であることになる。そこで、この場合には、ステップS402にて肯定の判別結果が得られた場合と同様に、ステップS416に進み、消尽済み画構造ではないとの判別結果を出力する。
これに対して、ステップS404において否定の判別結果が得られた場合には、ステップS42にて否定の判別結果が得られたのと同様の理由により、即ち、パン・チルト位置情報及び被写体数以外の画構造形成要素について撮像記録済みであるかどうかの確認のために、ステップS405に進む。
ステップS405において画構造判定処理部212は、ステップS403により抽出された単位撮像履歴情報から、今回の画構造判定結果として得られている個人特徴パラメータと同じとされる内容の個人特徴パラメータを有する単位撮像履歴情報を抽出する。次いで、ステップS406により、この抽出数が、個人特徴パラメータに対応して設定された最大撮像記録数Cmax未満であるか否かに否かについて判別する。
ステップS406において肯定の判別結果が得られた場合には、ステップS416により消尽済み画構造ではないとの判別結果を出力し、否定の判別結果が得られた場合には、ステップS407に進む。
ステップS407において画構造判定処理部212は、ステップS405により抽出された単位撮像履歴情報から、今回の画構造判定結果として得られている画枠内位置情報と同じとされる画枠内位置情報を有する単位撮像履歴情報を抽出する。次いで、ステップS408により、この抽出数が、画枠内位置情報に対応して設定された最大撮像記録数Dmax未満であるか否かについて判別する。
ステップS408において肯定の判別結果が得られた場合には、ステップS416により消尽済み画構造ではないとの判別結果を出力し、否定の判別結果が得られた場合には、ステップS409に進む。
ステップS409において画構造判定処理部212は、ステップS407により抽出された単位撮像履歴情報から、今回の画構造判定結果として得られているサイズ情報(被写体サイズ)と同じとされるサイズ情報を有する単位撮像履歴情報を抽出し、ステップS410により、この抽出数が、画枠内位置情報に対応して設定された最大撮像記録数Emax未満であるか否かについて判別する。
ステップS410において肯定の判別結果が得られた場合には、ステップS416により消尽済み画構造ではないとの判別結果を出力し、否定の判別結果が得られた場合には、ステップS411に進む。
ステップS411において画構造判定処理部212は、ステップS409により抽出された単位撮像履歴情報から、今回の画構造判定結果として得られている顔方向情報と同じとされる顔方向情報を有する単位撮像履歴情報を抽出し、ステップS412により、この抽出数が、画枠内位置情報に対応して設定された最大撮像記録数Fmax未満であるか否かについて判別する。
ステップS412において肯定の判別結果が得られた場合には、ステップS416により消尽済み画構造ではないとの判別結果を出力し、否定の判別結果が得られた場合には、ステップS413に進む。
ステップS413において画構造判定処理部212は、ステップS411により抽出された単位撮像履歴情報から、今回の画構造判定結果として得られている表情情報と同じとされる表情情報を有する単位撮像履歴情報を抽出し、ステップS414により、この抽出数が、表情情報に対応して設定された最大撮像記録数Gmax未満であるか否かについて判別する。
ステップS414において否定の判別結果が得られた場合には、ステップS416により消尽済み画構造ではないとの判別結果を出力することになる。
これに対して、ステップS414において肯定の判別結果が得られた場合には、画構造形成要素であるパン・チルト位置情報、被写体数、個人特徴パラメータ、画枠内位置情報、サイズ情報(被写体サイズ)、顔方向情報、表情情報の全てに関して消尽済みであるということになる。
そこでこの場合には、ステップS415により、今回判定された画構造は消尽済みであるとの判定結果を出力する。
このステップS415の処理は、図26のステップS308において肯定の判別結果を得ることに相当する。
続いて、図28のフローチャートにより、画構造判定ブロック62が実行する処理手順についての第2例を示す。この第2例としての処理は、先の基本構成との対応では、図4に示した画構造判定アルゴリズムを変更する手順に準じたものとなる。
そのうえで、本実施形態の撮像システムとしては、画構造判定アルゴリズムについて、第1種画構造判定アルゴリズムと第2種画構造判定アルゴリズムとの2種類に区分できるものとする。
第1種画構造判定アルゴリズムは、あくまでも一具体例であるが、図27にて消尽済み画構造の判別に利用する画構造形成要素のうちであれば、表情以外を除く、パン・チルト位置、被写体数、個人特徴パラメータ、画枠内位置、写体サイズ、顔方向の要素を判定処理に利用する画構造判定アルゴリズムとなる。
これに対して、第2種画構造判定アルゴリズムは、図27にて消尽済み画構造の判別に利用する画構造形成要素のうちであれば、表情を判定処理に利用する画構造判定アルゴリズムとなる。
第1種画構造判定アルゴリズムは、主に、画構造として構図を決定する画構造形成要素を利用するアルゴリズムとなる。これに対して、第2種画構造判定アルゴリズムは、例えば図26との対応では、ステップS309の撮像記録タイミング判定処理に対応するもので、ここでの撮像記録タイミングを決定することとなる画構造形成要素を利用するアルゴリズムとなる。この点からすると、例えば、顔方向が適切であると判定されたときに、撮像記録タイミングがOKであると判定するようなアルゴリズムとすることも考えられ、この場合には、顔方向も第2種画構造判定アルゴリズムにて利用することが妥当になる。
そして、図28の第2例は、画構造判定アルゴリズムの変更として、第1種画構造判定アルゴリズムと第2種画構造判定アルゴリズムのうち、第1種画構造判定アルゴリズムを変更するようにした処理手順例となる。
図28において画構造判定処理部212は、ステップS501により、複数在るとされる第1種画構造判定アルゴリズムのうちから、初期設定用として定められているアルゴリズムを設定する。
ステップS502〜S514の各処理は、図26におけるステップS301〜S313と同様となる。
ただし、ステップS509における消尽済み画構造か否かの判別処理により、肯定の判別結果が得られた場合には、ステップS515により第1種画構造判定アルゴリズムについて、これまで設定されていたアルゴリズムとは異なるアルゴリズムを設定してステップS503に戻る。
このような処理により、判定された画構造が消尽済みである場合には、これまでとは異なる第1種画構造判定アルゴリズムにより、再度、画構造判定処理が行われて、新たな画構造を適切画構造として判定することができる。これにより、例えば撮像画像データの画内容にあまり変化がないような状況でも、これまでとは異なる画構造を有した画内容の撮像画像データを、改めて撮像記録していくことが可能になる。
また、確認のために述べておくと、ステップS515により変更可能な第1種画構造判定アルゴリズムのバリエーションの数については特に限定されるものではない。また、ステップS515が繰り返し実行されて、変更可能なアルゴリズムを一巡した場合には、また、はじめのアルゴリズムに戻し、以降、循環するようにして変更させればよい。
なお、ステップS515の処理の具体例を挙げておくが、先に説明した図19との対応であれば、適切画構造であることの条件を満たす被写体サイズについてV1(図19(a))としていたアルゴリズムから、V2(図19(b))とするアルゴリズムに変更するものとなる。
また、図20との対応であれば、適切画構造であることの条件を満たす被写体位置について、例えば図20(a)から図20(b)、若しくは図20(b)から図20(c)への遷移として示すようにして変更するものとなる。
また、図21との対応であれば、適切画構造であることの条件を満たす被写体数について、図21(a)から図21(b)への遷移として示すように、被写体数=2から被写体数=1に変更するものとなる。さらには、図21(b)から図21(c)(d)への遷移として示すようにして、適切画構造であることの条件を満たす被写体自体について、被写体1から被写体2に変更するものとなる。
この際において、被写体自体を変更する規則として、1つには、被写体1、2ごとの個人認識パラメータを利用して、被写体1としての個人のみを撮像対象とするアルゴリズムから、被写体2としての個人のみを撮像対象とするアルゴリズムに変更する、というものが考えられる。
あるいは、左に位置している被写体のみを撮像対象とするアルゴリズムから、これより右に位置している被写体のみを撮像対象とするアルゴリズムに変更するという規則とすることも考えられる。
図29は、画構造判定ブロック62が実行する処理手順についての第3例を示す。
この第3例としての処理も、図28の第2例と同じく、先の基本構成との対応では、図4に示した画構造判定アルゴリズムを変更する手順に準じたものとなる。ただし、第3例としては、第1種画構造判定アルゴリズムと第2種画構造判定アルゴリズムのうち、第2種画構造判定アルゴリズムを変更するものとなっている。
図29において画構造判定処理部212は、先ず、ステップS601により、複数在るとされる第2種画構造判定アルゴリズムのうちから、初期設定用として定められているアルゴリズムを設定する。
ステップS602〜S614の各処理は、図26のステップS301〜S313と同様とされてよい。
ただし、ステップS609での消尽済み画構造か否かの判別処理により、肯定の判別結果が得られた場合には、ステップS615により第2種画構造判定アルゴリズムを変更してから、ステップS610に進む。この場合のステップS610においては、ステップS615により変更されたアルゴリズムに従って撮像記録タイミングがOKであるか否かの判定を行うことになる。
例えば、ステップS615において、適切画構であることの表情の条件として笑顔とするアルゴリズムから、笑顔でない表情とするアルゴリズムに変更されたとする。これに応じて、ステップS610、S611では、そのときの撮像画像データの画像において存在する被写体の表情が笑顔でないときに、撮像記録タイミングがOKであると判別することになる。
なお、第2種画構造判定アルゴリズムについても、変更されるべきアルゴリズムのバリエーション数についての限定はなく、ステップS615が繰り返されることに応じては、複数のバリエーションを循環させるようにしてアルゴリズムを変更すればよい。
また、第2種画構造判定アルゴリズムは、撮像記録タイミングに関わるものであるので、図29の処理の流れのなかでは、図示するようにして、ステップS615により第2種画構造判定アルゴリズムを変更した後は、ステップS603に戻ることなく、ステップS601の撮像記録タイミング判定処理に移行させるという手順にすることができる。
ただし、ステップS615からステップS603に戻るという手順としてもよい。この手順であっても、結果的には、次のステップS610にて、変更後の第2種画構造判定アルゴリズムに応じた撮像記録タイミング判定処理が実行されることになるからである。
図30は、画構造判定ブロック62が実行する処理手順についての第4例を示す。
この第4例としての処理も、先の基本構成との対応として図4に示した画構造判定アルゴリズムを変更する手順に準じたものとなる。ただし、第4例では、第1種画構造判定アルゴリズムと第2種画構造判定アルゴリズムの両者を変更可能に構成している。
図30において画構造判定処理部212は、先ず、ステップS701により、それぞれが複数在るとされる第1種画構造判定アルゴリズムと第2種画構造判定アルゴリズムのうちから、初期設定用として定められている第1種画構造判定アルゴリズム、第2種画構造判定アルゴリズムを設定する。
ステップS702〜S714の各処理は、図26のステップS301〜S313と同様とされてよい。
ただし、ステップS709の消尽済み画構造か否かの判別処理により、肯定の判別結果が得られた場合には、ステップS715によりしかるべき画構造判定アルゴリズムを変更してから、ステップS703に戻る。
ここで、ステップS715においては、第1種画構造判定アルゴリズムと第2種画構造判定アルゴリズムの内で、少なくともいずれか一方のアルゴリズムを変更すればよい。つまり、第1種画構造判定アルゴリズムのみを変更してもよいし、第2種画構造判定アルゴリズムを変更してもよいし、第1種画構造判定アルゴリズムと第2種画構造判定アルゴリズムを同時に変更してもよい。
また、ステップS715において、どのようにして画構造判定アルゴリズムを変更するのかについては、第1例から第3例についてもいえることであるが、例えば、これまで設定された画構造判定アルゴリズムに基づいて、次に設定することが適当な画構造判定アルゴリズムに変更すればよい。
ステップS715の処理の具体例を挙げておく。
被写体探索によっては個人認識された被写体Aと被写体Bとが検出される状況において、先ずは「被写体Aのみが存在、表情は笑顔」という画構造判定結果を得るための画構造判定アルゴリズムが設定されていたとする。これは、第1種画構造判定アルゴリズムについては「被写体Aとしての個人のみが存在」する状態が適切とする指定内容であり、第2種画構造判定アルゴリズムについては「表情は笑顔」である状態が適切とする指定内容であるとみることができる。
そして、この後の或る段階で、ステップS715に至り、「被写体Bのみが存在、表情は笑顔でない」というアルゴリズムに変更したものとする。これは、第1種画構造判定アルゴリズムについては、「被写体Aとしての個人のみが存在」する状態が適切とする指定内容から、「被写体Bとしての個人のみが存在」することが適切とする指定内容に変更したものとしてみることができる。また、第2種画構造判定アルゴリズムについては、「表情は笑顔」である状態が適切とする指定内容から、「表情は笑顔でない」状態が適切とする指定内容に変更したものとしてみることができる。
ところで、例えば図27において示した画構造形成要素ごとの最大撮像記録数は、形成要素ごとに画構造が同じとされる画像を撮像記録可能な数に対応するものとなる。これまでは、この最大撮像記録数については、予め設定され、以降固定的なものであるとして説明したが、この最大撮像記録数、即ち、同じ画構造を持つ撮像画像の最大記録数について、所定の条件に応じて適応的に変化させるという構成も採ることができる。
そこで、最大撮像記録数を適応的に変更する構成の一例として、次の構成を挙げておく。
先ず、本実施形態のデジタルスチルカメラ1は、個人認識が可能とされている。そこで、例えば予め、本実施形態の撮像システムを設置する場所に居る人たちについて、本実施形態のデジタルスチルカメラ1による個人認識処理を実行させて、認識により得られた個人特徴パラメータを登録しておくようにする。
このようにして個人特徴パラメータを登録することにより形成される個人登録テーブルの構造例を図31に示す。この個人登録テーブルは、例えば、RAM29若しくはフラッシュメモリ30に保持しておくようにされる。
図31に示される個人登録テーブルは、i個の単位登録データ1〜iから成る。1つの単位登録データは、認識された1人の個人に対応する。
単位登録データは、例えば図示するように、個人ID、特徴パラメータ1〜j、主役情報から成るものとしている。
個人IDは、個人登録テーブルに登録された個人ごとに固有となるようにして割り与えられる識別子である。特徴パラメータ1〜jは、個人認識処理の結果得られた、個人を特定する各種のパラメータである。これら特徴パラメータ1〜jを用いることで、例えば個人ごとの顔が具体的に識別されることになる。
主役情報は、対応する個人が主役であるか否かを示す。ここでいう主役とは、本実施形態の撮像システムが撮像の対象とする個人としての被写体(個人被写体)のうち、重要度が高いとされる個人被写体であることをいう。
ユーザは、デジタルスチルカメラ1に対する所定操作によって、個人登録テーブルに登録されている個人のうちで主役としたいものを選択して登録しておくことが可能とされる。この操作に応じて、個人登録テーブルにおいて、主役であるとして登録された個人に対応する単位登録データの主役情報は、主役であることを示す値が格納されることになる。
そして、本実施形態では、上記のようにして、登録された個人のうちで主役として設定された個人が被写体となる画構造の撮像画像については、主役として設定された個人が被写体とならない画構造の撮像画像よりも、多く撮像記録されるように構成する。
例えば、パーティなどで主役となるような人は、他の人たちよりも多くの撮像画像を記録することが好ましいが、この構成を採用すれば、このような要求に応えることができる。
続いて、上記のように、主役が設定された個人をより多く撮像記録するという動作(主役重視撮像記録)の実現に対応した処理手順例について説明する。
なお、この説明に際しては、図30に示した第4例の処理の流れにおいて主役重視撮像記録が行われる場合を例に挙げる。そして、図30の処理の下で主役重視撮像記録を実現するためには、例えば、図30のステップS706とS707との間に、図32に示す処理を追加して挿入する。
図32において画構造判定処理部212は、ステップS801により、現在RAM29若しくはフラッシュメモリ30に保持しているとされる個人登録テーブルから、主役が設定されている個人を探索する。このためには、個人登録テーブを形成する単位登録データのうち、主役情報にて主役であることが示されている単位登録データを探索すればよい。そして、探索した個人登録テーブルから、特徴パラメータを読み込んで取得する。つまり、ステップS801によっては、主役が設定された個人の個人特徴パラメータを取得する。
次に画構造判定処理部212は、ステップS802により、現在において得られている撮像画像データ(現撮像画像データ)を対象にして検出された被写体のうちから、主役である被写体を探索する。このためには、現撮像画像データから検出された被写体ごとの個人特徴パラメータのうちで、ステップS801にて取得した個人特徴パラメータと一致するものを探索すればよい。個人特徴パラメータが一致した被写体が主役であることになる。
そして、画構造判定処理部212は、上記ステップS802の探索結果に基づいて、ステップS803において、現撮像画像データの画像内にて主役の被写体が存在するか否かについて判別する。
ステップS803により否定の判別結果が得られた場合、画構造判定処理部212は、ステップS804により、個人特徴パラメータに対応して設定される最大撮像記録数Cmax(図27のステップS406)に、標準値a1を代入する。
これに対して、ステップS803により否定の判別結果が得られた場合には、ステップS805により、個人特徴パラメータに対応して設定される最大撮像記録数Cmax(図27のステップS406)に、主役撮像対応値a2を代入する。
主役撮像対応値a2は、標準値a1よりも大きな所定値である。
従って、図30のステップS708、S709として、図27に示す処理を実行するのにあたって、最大撮像記録数Cmaxについて主役撮像対応値a2が代入されているときには、標準値a1が代入されているときよりも、ステップS5406において抽出数と比較する最大撮像記録数Cmaxは大きな値となる。即ち、個人特徴パラメータとしての画構造形成要素については、消尽済みであるとして判定されるまでの撮像記録数の上限が高くなる。
これにより、主役としての個人が被写体であるときには、撮像記録が可能な回数が多くなるものであり、結果として、主役として設定された個人が写っている撮像画像を、他の撮像画像よりも多く記録できる。
ところで、本実施形態の撮像システムは、例えば使用中において、ユーザが、雲台10ごとデジタルスチルカメラ1を動かしてこれまでとは異なる位置状態に配置し直したり、これまでとは異なる周囲環境に配置し直したりする可能性がある。
また、これまでの説明のようにして本実施形態の消尽済み画構造であるか否かの判別に際しては撮像履歴保持部213にて保持されている撮像履歴情報を利用する。
すると、上記のようにして、撮像システム(デジタルスチルカメラ1及び雲台10)の位置が動かされた場合には、例えば或る同じパン・チルト位置であっても、そのときに撮像される画像は、撮像システムの移動前と移動後とで必然的に異なるものになる。また、周囲環境の変化によっては、被写体となり得る個人も、移動前と移動後とで異なってくる可能性がある。
このようなことを考慮すると、撮像システムの移動後においては、移動前の撮像履歴情報は信頼性の無いものとなっているとみてよい。従って、撮像システムの移動後において、移動前の撮像履歴情報を利用することは避けることが妥当であることになる。
このためには、例えばユーザが、撮像システムを移動させて置き直した後、例えばデジタルスチルカメラ1に対する所定操作により、撮像履歴保持部213にこれまで保持させていた撮像履歴情報を、クリア(消去)させることが考えられる。以降においては、デジタルスチルカメラ1において、自動撮像記録により応じて新規生成された単位撮像履歴情報により、新たに撮像履歴情報を形成し、逐次更新していくことになる。
しかし、撮像システムを移動させた都度、ユーザに撮像履歴情報をクリアする操作を行わせることは、ユーザにとっては面倒であるし、撮像履歴情報をクリアする操作を忘れた場合には、適切な画構造による撮像画像が記録できなくなるという不具合も生じ得る。
このようなことを考慮すると、撮像システムが移動されたことに応じて、撮像履歴保持部213における撮像履歴情報のクリアが自動実行されるように構成することが好ましいといえる。
図33は、上記したように、撮像履歴情報を自動的にクリア可能なようにされた画構造判定ブロック62の構成例を示している。なお、この図において、図10と同一部分には同一符号を付して説明を省略する。
図33の画構造判定ブロック62においては、図10の構成に対して、クリア制御部214、及び加速度センサ215を追加して設けている。
加速度センサ215は、例えば実際においてはデジタルスチルカメラ1における所定位置に固定して取り付けられ、自身に生じる加速度、即ちデジタルスチルカメラ1自体に加えられる力による動きを検出する。なお、デジタルスチルカメラ1自体の動きが検出されるのであれば、例えばジャイロセンサなどをはじめ、加速度センサ以外による動き検出のための構成が採られて構わない。
クリア制御部214は、パン・チルト・ズーム制御ブロック63から出力されるパン・チルト制御信号と、加速度センサ215にて検出された加速度値とに基づいて、撮像履歴保持部213にて保持している撮像履歴情報をクリアする処理を実行する。
図34は、加速度センサ215にて検出される加速度値の変化を、時間経過とともに示している。なお、加速度センサでは、例えばX軸、Y軸、Z軸の三軸方向における各加速度値を検出可能なものが知られている。本実施形態の加速度センサ215もこのような三軸方向に対応した検出が可能なものを採用してよいが、図34においては、図示を簡単で分かりやすいものとすることの便宜から、一軸方向のみについて検出される加速度値のみを示している。
例えばデジタルスチルカメラ1が定位置にて固定され、かつ、雲台10によるパン・チルト方向への移動も行われていない、静止しているとされる状態(定常状態)にあっては、検出される加速度値は、図34において区間A以外の前後の区間において示されるように、0としてみることのできる値となる。
これに対して、例えばデジタルスチルカメラ1を人が持って動かしたときには、図の区間Aとして示すようにして、定常状態のときよりも大きな加速度値が発生する。
そこで、デジタルスチルカメラ1を人が持って動かしたときに得られるとされる一般的、平均的な加速度値と、定常状態のときに得られるとされる一般的、平均的な加速度値を考慮して、図のようにして閾値を設定する。そして、この閾値と、検出される加速度値とを比較するようにして、加速度値の絶対値が閾値を越えた状態が得られれば、この状態を以て、デジタルスチルカメラ1(撮像システム)が動かされたとして判断することができる。
図35も、加速度センサ215にて検出したとされる加速度値の変化を、時間経過とともに示している。
例えば、デジタルスチルカメラ1が雲台10に取り付けられた状態で定点に設置されている状態のもとで、雲台10によるデジタルスチルカメラ1の移動が行われたとする。
雲台10によるパン方向、チルト方向への動きは、その速度であるとか動きの起動などが決まっている。このために、雲台10自体は動かされずに定位置にあるとされる状態の下で、雲台10がパン・チルト方向に動いたときに応じて加速度センサ215が検出する加速度値のパターンは概ね決まったものとなる。
このようして、雲台10がパン・チルト方向に動いたときに応じて得られる加速度値のパターンを、図34においては、一点鎖線で囲った期待加速度値パターンとして示している。例えばこのようにして、雲台10がパン・チルト方向に動いているパン・チルト実行期間においては、決まったパターンの加速度値の変化が得られる。
これに対して、例えば雲台10がパン・チルト方向に動いている状態にありながら、これと同時に、撮像システムを人が手に持って動かしてしまっているようなときには、期待加速度値パターンに対して、撮像システムを人が手に持って動かしたことによる加速度値の成分が合成されることになる。従って、この場合には、例えば図35において区間Bの加速度値パターンとして示すように、期待加速度値パターンとは全く異なるパターンが現れる。
図36のフローチャートは、図33に示したクリア制御部214が実行するとされる処理手順例を示している。
クリア制御部214は、先ず、ステップS901により加速度センサ215から出力されている検出信号の取り込みを実行し、ステップS902において、取り込んだ検出信号が示す加速度値(絶対値)が、閾値以上であるか否かを判別する。
ステップS902において否定の判別結果が得られた場合、デジタルスチルカメラ1は、パン・チルト方向の移動に応じた動きもなく、かつ、人などが手に持ったことによる強制的な動きもない状態にあるものとしてみることができる。つまり、デジタルスチルカメラ1は静止の状態にあるとみることができる。そこで、この場合には、ステップS901に戻る。
これに対して、ステップS902において肯定の判別結果が得られた場合には、デジタルスチルカメラ1は、雲台10によりパン・チルト方向への移動が行われているか、若しくは強制的に動かされている可能性がある。この場合には、ステップS903以降の手順を実行する。
ステップS903においてクリア制御部214は、パン・チルト・ズーム制御ブロック63からパン・チルト制御信号を取り込む。
次にクリア制御部214は、ステップS904により、現在においてパン・チルト駆動、即ち、雲台10によるパン方向及び/又はチルト方向に対する移動が実行中であるか否かについての判別を行う。例えば、ステップS903にて、パン・チルト駆動を実行中であることに対応した有効なパン・チルト制御信号を取り込むことができなかった場合には、そのときにパン・チルト・ズーム制御ブロック63は、パン・チルト制御を行っておらず、従って、これに応じた雲台10によるデジタルスチルカメラ1の移動も行われていないことになる。この場合、ステップS904としては否定の判別結果が得られる。これに対して、ステップS903により有効なパン・チルト制御信号が取り込まれたのであれば、これに応じた雲台10によるデジタルスチルカメラ1の移動が実行中であることになり、肯定の判別結果が得られる。
クリア制御部214は、ステップS904にて否定の判別結果が得られた場合には、ステップS905、S906をスキップしてステップS907に進むが、肯定の判別結果が得られたのであれば、ステップS905、S906の手順を実行する。
ステップS905に至った段階では、雲台10によりデジタルスチルカメラ1のパンニング、チルティングが実行中であることは分かっているが、このパンニング、チルティングが実行中の状態において、さらに、デジタルスチルカメラ1(及び雲台10)が強制的に動かされている状態にあるか否かは分かっていない。そこで、ステップS905、S906においては、この点についての判別を行う。
このために、ステップS905においてクリア制御部214は、期待加速度値パターンを取得する。この期待加速度値パターンの情報は、例えばフラッシュメモリ30などにおいてプリセットデータとして記憶させてあるので、このデータを読み出すことにより、期待加速度値パターンが取得できる。
ステップS906においてクリア制御部214は、上記ステップS905により取得した期待加速度値パターンと、先のステップS901にて取り込んだ検出信号が示す実の加速度値パターンとを比較して、両者の差が一定以上であるか(近似率が一定以下であるか)否かについて判別する。
ステップS906にて否定の判別結果が得られた場合、クリア制御部214は、雲台10は強制亭に動かされておらず静止して置かれた状態で、パンニング・チルティングの動作を実行中であることになる。この場合には、そのままステップS901に戻る。
これに対してステップS906にて肯定の判別結果が得られた場合には、雲台10はパンニング・チルティングの動作を実行中であり、かつ、雲台10とこれに固定されているデジタルスチルカメラ1が強制的に動かされている状態であることになる。この場合、クリア制御部214は、ステップS907に進む。
このようにして、本実施形態では、パンニング・チルティングの動作が実行中であっても、的確に、雲台10とこれに固定されているデジタルスチルカメラ1自体が、雲台10のパン・チルト機構(可動機構部)以外の力により動かされている状態であることを検知できるようになっている。
これまでの説明から分かるように、ステップS907に至る場合とは、雲台10がパンニング・チルティングの動作を実行している、いないに関わらず、雲台10とこれに固定されているデジタルスチルカメラ1が強制的に動かされている状態のときとなる。
そこでクリア制御部214は、ステップS907により、撮像履歴保持部210において保持されている撮像履歴情報をクリア(消去)するための処理を実行する。
次に、上記本実施形態としての撮像システムについての変形例について、図37、図38により説明する。
先ず、図38では、デジタルスチルカメラ1において、撮像記録ブロック61により得られる撮像画像データを、通信制御処理ブロック64から雲台10側の通信制御ブロック71に対して送信するようにされている。
また、この図38においては、雲台10の構成として通信制御処理ブロック71、パン・チルト制御処理ブロック72、及び画構造判定ブロック73が示されている。
通信制御処理ブロック71により受信された撮像画像データは、画構造判定ブロック73に対して出力される。この画構造判定ブロック73は、例えば先に図9、図10、図33などに示した画構造判定ブロック62の構成が適用されるもので、入力した撮像画像データを基として画構造判定処理を実行する。そして、この場合には、例えば、判定された適切画構造が得られる撮像方向(撮像視野角)とするためのパン機構部とチルト機構部の移動量を求め、この移動量を指示するパン・チルト制御信号をパン・チルト制御処理ブロック72に対して出力する。これにより、画構造判定ブロック73にて判定した適切画構造が得られるようにしてパンニング、チルティングが行われる。
このようにして、図37に示す撮像システムは、デジタルスチルカメラ1から雲台10に撮像画像データを送信させることとして、雲台10側により、取り込んだ撮像画像データに基づく画構造判定とこれに応じたパン・チルト制御とを実行するようにして構成しているものである。
また、この図37に示す構成においては、撮像視野角の制御として、ズーム(画角)制御を可能とするためには、通信制御処理ブロック63,71間での通信を利用して、雲台10の画構造判定ブロック73にて判定された適切画構造に応じた画角を撮像記録ブロックに指示し、この指示された画角となるように撮像記録ブロック61がズームレンズの駆動を実行するように構成すればよい。
図38は、本実施形態に対応する撮像システムについての他の変形例としての構成例を示している。なお、この図において、図37と同一部分には同一符号を付して説明を省略する。
このシステムにおいては、雲台10側において撮像記録ブロック75が備えられる。この撮像記録ブロック75は、例えば図9、図10、図33の撮像記録ブロック61と同様に、撮像のための光学系と撮像素子(イメージセンサ)を備えて、撮像光に基づいた信号(撮像信号)を得るようにされているとともに、この撮像信号から撮像画像データを生成するための信号処理部、及び撮像記録データの記録制御系から成る。
撮像記録ブロック75により生成される撮像画像データは、画構造判定ブロック73に出力される。
なお、撮像記録ブロック75が撮像光を取り込む方向(撮像方向)は、例えば雲台10に載置されるデジタルスチルカメラ1の撮撮像方向とできるだけ一致するようにして設定することが好ましい。つまり、撮像記録ブロック75は、デジタルスチルカメラ1側の撮像記録ブロック61により撮像される画像とできるだけ同じとなるようにして、雲台10にて設けられるようにする。
この場合の画構造判定ブロック73、及びパン・チルト制御処理ブロック72は、上記図37と同様にして画構造判定と、この画構造判定結果に応じたパン・チルト機構の駆動制御を実行する。
但し、この場合の画構造判定ブロック73は、デジタルスチルカメラ1に撮像記録を実行させるタイミングに対応しては、通信制御処理ブロック71経由でデジタルスチルカメラ1に対して、撮像記録の実行を指示する指示信号を送信させる。デジタルスチルカメラ1では、この指示信号が受信されることに応じて撮像記録を実行し、そのときに撮像記録ブロック61により得られているとされる撮像画像データの撮像記録を実行する。
このようにして他の変形例では、画構造判定及び画構造獲得制御に関して、撮像記録の実行動作以外の全ての制御・処理を雲台10側で完結して行うことができる。
なお、上記の説明では、パン制御、チルト制御に関しては、雲台10のパン・チルト機構の動きを制御することにより行うこととしているが、雲台10に代えて、例えば、デジタルスチルカメラ1の光学系部(21)に対しては、反射鏡により反射された撮像光が入射されるようにしたうえで、撮像光に基づいて得られる画像についてパンニング・チルティングされた結果が得られるようにして上記反射光を動かす構成を採用することも考えられる。
また、デジタルスチルカメラ1の撮像素子(イメージセンサ22)から画像として有効な撮像信号を取り込むための画素領域を水平方向と垂直方向にシフトさせるという制御を行うことによっても、パンニング・チルティングが行われるのと同等の結果を得ることができる。この場合には、雲台10若しくはこれに準ずる、デジタルスチルカメラ1以外のパン・チルトのための装置部を用意する必要が無く、デジタルスチルカメラ1単体により本実施形態としての画構造獲得制御に相当する動作を完結させることが可能となる。
また、画角制御(ズーム制御)についても、ズームレンズの駆動に代えて、撮像画像データから一部画像領域を切り出すという画像処理を実行することによって実現可能である。
また、デジタルスチルカメラ1の光学系部におけるレンズの光軸を水平・垂直方向に変更することのできる機構を備えて、この機構の動きを制御するように構成しても、パンニング・チルティングを行うことが可能である。
また、上記実施形態としての撮像システムでは、画構造形成要素については、パン・チルト位置情報、被写体数、個人特徴パラメータ、画枠内位置情報、サイズ情報(被写体サイズ)、顔方向情報、表情情報の7つのパラメータを採用しているが、画構造形成要素として採用できるパラメータは他にも考えられる。
例えば、画構造像形成要素として、画像の明るさ(輝度)、色情報、コントラストなどの画像データ自体についてのパラメータを採用することができる。例えば、画像の明るさ(輝度)や色情報をパラメータとすれば、同じ被写体で同じ構図により撮像されているとしても、その周囲の照明の変化などに応じて撮像される画像の明るさであるとか、色合いが変化すれば、以前とは異なる画構造として扱える。
なお、これまでの説明にあっては、デジタルスチルカメラ1が雲台10に取り付けられた撮像システムとしているが、本実施形態としての画構造判定と、画構造判定結果に基づいた撮像記録の構成自体は、雲台が無くとも、デジタルスチルカメラ1単体でも実現される。
つまり、本実施形態のデジタルスチルカメラ1を、単に固定的に置いた状態とする状況であっても、そこで撮像される画像に応じて画構造判定が行われ、この判定結果に応じて自動撮像記録が実行される。そして、このようなデジタルスチルカメラ1の利用の仕方であっても、状況によっては、充分に有用となるものである。
続いては、先に図2,図3により示した本実施形態の画構造判定の基本構成を、上記撮像システム以外に適用した例について挙げていく。
先ず、図39は、実施の形態としての画構造判定構成を、デジタルスチルカメラなどの撮像装置単体に対して適用している。この撮像装置は、例えば撮像モード時において撮像装置により撮像している画像が、判定結果に応じた適正な画構造になったときに、このことを表示によってユーザに通知する。
このために撮像装置が備えるべき構成として、ここでは画構造判定ブロック81、通知制御処理ブロック82、表示部83を示している。ここでの画構造判定ブロック81が、図2に示した画構造判定ブロック200としての構成を採るものとされる。
例えばユーザは、撮像装置を撮像モードに設定したうえで、撮像装置を手に持っており、いつでもレリーズ操作(シャッターボタン操作)を行えば撮像記録が行える状況にあるものとする。
このような状態の下、画構造判定ブロック81では、先ず、そのときに撮像して得られる撮像画像データを取り込んで、一連の画構造判定の処理を実行して、適切画構造を判定する。
そのうえで、さらに、この場合の画構造判定ブロック81としては、そのときに実際に得られている撮像画像データの画構造と、判定された適切画構造との一致性、類似度を求めるようにされる。そして、例えば類似度が一定以上になったときに、実際に撮影して得られている撮像画像データの画内容が適切画構造になったと判定する。なお、例えば実際においては、撮像画像データの画構造と適切画構造とが一致したとみなされる程度の、所定以上の類似度が得られたら、適切画構造と判断するようにしてアルゴリズムを構成することが考えられる。また、ここでの一致性、類似度をどのようにして求めるのかについては、多様なアルゴリズムを考えることができ、採用する画構造形成要素によっても異なってくるので、ここでは、その具体例については特に言及しない。
このようにして撮像画像データの画面内容が適切画構造になったことの判定結果の情報は通知制御処理ブロック82に対して出力される。通知制御処理ブロック82は、上記の情報の入力に応じて、現在において撮像されている画像が適切画構造であることをユーザに通知するための所定態様による表示が表示部83にて行われるように表示制御を実行する。なお、通知制御処理ブロック82は、撮像装置が備えるマイクロコンピュータ(CPU)などによる表示制御機能と、表示部83に対する画像表示を実現するための表示用画像処理機能などにより実現される。なお、ここでの適切画構造であることのユーザへの通知は、電子音、若しくは合成音声などをはじめとした音により行われるように構成してもよい。
また、表示部83は、例えば本実施形態のデジタルスチルカメラ1の表示部33に対応するもので、例えば撮像装置における所定位置に対してそのディスプレイパネルが表出するようにして設けられ、撮影モード時にはいわゆるスルー画といわれる、そのときに撮像されている画像が表示されることが一般的である。従って、この撮像装置の実際にあっては、表示部83において、スルー画に対して重畳される態様で適切画構造であることを通知する内容の画像が表示されることになる。ユーザは、この適切画構造であることを通知する表示が現れたときにレリーズ操作を行うようにされる。これにより、写真撮影の知識や技術に長けていないようなユーザであっても、適切な画構造、即ち良好な画内容の写真撮影を簡単に行うことが可能になる。
また、図40に示す例も、上記図39と同様にデジタルスチルカメラなどの撮像装置単体に対して実施の形態の画構造判定の構成を適用したものとなる。
先ず、この図に示す構成においては、図39と同様に、画構造判定ブロック81により、入力される撮像画像データを基にして適切画構造を判定する処理を実行するとともに、その後のタイミングにおいて得られる撮像画像データの画内容から適切画構造が何であるのかを判定し、次に、撮像画像データの画内容が、判定された適切画構造となるのを判定する。そして、適切画構造になったことを判定すると、このことをレリーズ制御処理ブロック84に対して通知する。
レリーズ制御処理ブロック84は、撮像画像データを記録(撮像記録)するための制御を実行する部位とされ、例えば撮像装置が備えるマイクロコンピュータが実行する制御などにより実現される。上記の通知を受けたレリーズ制御処理ブロック84は、そのときに得られている撮像画像データが、例えば記憶媒体に記憶されるようにして画像信号処理、記録制御処理を実行する。
このような構成であれば、デジタルスチルカメラ1を手持ちで撮像する際に、撮像画像について適切画構造を有する画内容が得られたタイミングで、自動的にその撮像画像の記録が行われるようにできる。
なお、上記図39及び図40の構成は、例えばスチルカメラの範疇であれば、デジタルスチルカメラに適用できるほか、銀塩フィルムなどに撮像画像を記録するいわゆる銀塩カメラといわれるものにも、例えば光学系により得られた撮像光を分光して取り入れるイメージセンサと、このイメージセンサからの信号を入力して処理するデジタル画像信号処理部などを設けることで適用が可能である。
図41も、実施の形態の画構造判定の基本構成をデジタルスチルカメラなどの撮像装置に適用した構成の一例である。この図に示す撮像装置100は、図示するようにして、画構造判定ブロック101、メタデータ作成処理ブロック102、ファイル作成処理ブロック103を備える。ここでは、画構造判定ブロック101が、図2の画構造判定ブロック202に対応する。
ここでは図示していない撮像記録ブロックにより撮像して得られる撮像画像データは、撮像装置100内の画構造判定ブロック101、ファイル作成処理ブロック103とに対して入力することとしている。なお、この場合において、撮像装置100内に入力された撮像画像データは、例えばレリーズ操作などに応じて記憶媒体に記憶されるべきこととなった撮像画像データであり、ここでは図示していない、撮像記録ブロックでの撮像により得られた撮像信号を基に生成されたものである。
先ず画構造判定ブロック101では、定常的に繰り返し画構造判定処理を実行する。
そのうえで、この場合の画構造判定処理としては、さらに、判定結果に基づき、入力された撮像画像データの全画像領域において、判定された適切画構造が得られるとされる所定の縦横比による画像部分(トリミング画像部分)がどこであるのかを特定する処理を実行する。そして、特定したトリミング画像部分を示す情報を、メタデータ作成処理ブロック102に対して出力する。
そして、このような処理を実行していく際に、画構造判定ブロック101においては、判定結果の履歴情報(判定結果履歴情報)を保持していくようにするとともに、この判定結果履歴情報を参照して、判定した画構造が消尽されている場合には、図3に準じて、以降は同じ画構造判定結果に基づいたトリミング画像部分の特定を行わないようにする。若しくは図4に準じて画構造判定アルゴリズムを変更して、画構造判定処理とトリミング画像部分の特定を実行していく。
メタデータ作成処理ブロック102では、入力された情報に基づいて、対応する撮像画像データから適切画構造を有する画像を得るために必要な情報から成るメタデータ(編集メタデータ)を作成し、ファイル作成処理ブロック103に対して出力する。この編集メタデータは、例えば、対応する撮像画像データとしての画面におけるトリミング画像部分がどこであるのかを示す情報などとなる。
この図に示す撮像装置100では、撮像画像データについて、所定形式による静止画像ファイルとして管理されるようにして記憶媒体に記録するものとされる。これに対応して、ファイル作成処理ブロック103は、撮像画像データを、静止画像ファイル形式に変換(作成)する。
ファイル作成処理ブロック103は、先ず、入力される撮像画像データについて、画像ファイル形式に対応した画像圧縮符号化を行い、撮像画像データから成るファイル本体部分を作成する。これとともに、メタデータ作成処理ブロック102から入力された編集メタデータを、所定の格納位置に対して格納するようにしてヘッダ及び付加情報ブロックなどのデータ部分を作成する。そして、これらファイル本体部分、ヘッダ、付加情報ブロックなどから静止画像ファイルを作成し、これを出力する。これにより、図示するようにして、記憶媒体に記録すべき静止画像ファイルとしては、撮像画像データとともにメタデータ(編集メタデータ)が含まれる構造を有したものが得られる。
図42は、上記図23の装置により作成された静止画像ファイルについて編集を行う編集装置の構成例を示している。
図に示す編集装置110は、静止画像ファイルのデータを取り込んで、先ずメタデータ分離処理ブロック111に入力する。メタデータ分離処理ブロック111は、静止画像ファイルのデータから、ファイル本体部分に相当する撮像画像データとメタデータとを分離する。分離して得られたメタデータについてはメタデータ解析処理ブロック112に対して出力し、撮像画像データについてはトリミング処理ブロック113に対して出力する。
メタデータ解析処理ブロック112は、取り込んだメタデータを解析する処理を実行する部位である。そして、解析処理として、編集メタデータを解析した場合には、適切画構造が得られるトリミング画像部分を認識する。そして、この認識された画像部分のトリミングを指示するトリミング指示情報をトリミング処理ブロック113に対して出力する。
トリミング処理ブロック113は、メタデータ分離処理ブロック111側から入力した撮像画像データから、上記メタデータ分離処理ブロック112から入力されるトリミング指示情報が示す画像部分を抜き出すための画像処理を実行し、抜き出した画像部分を1つの独立した画像データである、編集撮像画像データとして出力する。
上記図41、図42に示される撮像装置と編集装置から成るシステムによれば、例えば撮影などにより得たオリジナルの静止画像データ(撮像画像データ)はそのまま無加工で保存しておけるようにしたうえで、このオリジナルの静止画像データから、メタデータを利用して、適切画構造となる画像部分を抜き出す編集が行えることになる。また、このような適切画構造に対応した抜き出し画像部分の決定は、自動的に行われるものであり、ユーザにとっては、非常に編集が簡単になる。
なお、図42に示す編集装置としての機能は、例えばパーソナルコンピュータなどにインストールされる画像データ編集のためのアプリケーションであるとか、画像データを管理するアプリケーションにおける画像編集機能などで採用することが考えられる。
図43は、ビデオカメラなどとしての動画像の撮影記録が可能な撮像装置に、実施の形態の画構造判定の構成を適用した例である。
この図に示す撮像装置120には、動画像データが入力される。この動画像データは、例えば同じ撮像装置120が有するとされる撮像部により撮像を行って得られる撮像信号に基づいて生成されるものである。この動画像データは、撮像装置120における画構造判定ブロック122、及びファイル作成・記録処理ブロック124に対して入力される。
この場合は画構造判定ブロック122が図2に示した画構造判定ブロック200に相当する。画構造判定ブロック122は、入力されてくる動画像データの画像について、定常的に画構造判定処理を行う。そのうえで、さらに、上記動画像データの画像の実際の画内容について、判定結果として得た適切画構造との差違(近似度)を比較することにより、良否判定を行う。
そして、この比較結果として、実際の撮像画像にて得られている画構造と、判定された適切画構造とについて一定以上の近似度が得られたのであれば、良好な画構造であると判定され、上記類似度が一定以下であれば、良好な画構造ではないと判定される。
画構造判定ブロック122は、上記のようにして動画像データについて良好な画構造が得られていると判定したときには、メタデータ作成処理ブロック123に対して、動画像データにおいて、今回、上記の良好な画構造が得られていると判定した画像区間(良好画構造区間)がどこであるのかを示す情報(良好画構造区間指示情報)を出力する。良好画構造区間指示情報)は、例えば動画像データにおける良好画構造区間の開始位置と終了位置を示す情報などとされる。
そのうえで、画構造判定ブロック122は、画構造の判定結果履歴情報を保持するとともに、この判定結果履歴情報に基づいて、消尽された画構造判定結果に応じては、上記の良好画構造区間指示情報は作成しないようにされる。これにより、似たような画構造の画像ばかりが良好画構造区間として指定される結果を避けることができる。
この場合のメタデータ作成処理ブロック123は、次に説明する動画像記録処理ブロック124により記憶媒体にファイルとして記録される動画像データについての、各種所要のメタデータを生成するものとされる。そのうえで、上記のようにして画構造判定ブロック122から良好画構造区間指示情報を入力した場合には、入力された良好画構造区間指示情報により示される画像区間が良好な画構造であることを示すメタデータを生成し、動画像記録処理ブロック124に対して出力する。
動画像記録処理ブロック124は、入力された動画像データについて、所定形式による動画像ファイルとして管理されるようにして記憶媒体に記録するための制御を実行する。そして、メタデータ作成処理ブロック123からメタデータが出力されてきた場合には、このメタデータが、動画像ファイルに付随するメタデータに含められるようにして記録されるようにするための制御を実行する。
これにより、図示するようにして、記憶媒体に記録される動画像ファイルは、撮像により得られたとする動画像データに、良好な画構造が得られている画像区間を示すメタデータが付随された内容を有することになる。
なお、上記のようにしてメタデータにより示される、良好な画構造が得られている画像区間は、或る程度の時間幅を有する動画像による画像区間とされてもよいし、動画像データから抜き出した静止画像によるものとされてもよい。また、上記のメタデータに代えて、良好な画構造が得られている画像区間の動画像データ若しくは静止画像データを生成して、これを動画像ファイルに付随する副次的な画像データ(或いは動画像ファイルと独立したファイル)として記録する構成も考えられる。
また、図43に示されるようにして、撮像装置120に対して画構造判定ブロック122を備える構成では、画構造判定ブロック122により良好画構造区間であると判定された動画像の区間のみを動画像ファイルとして記録するように構成することも考えられる。さらには、画構造判定ブロック122により良好な画構造であると判定された画像区間に対応する画像データを、データインターフェースなどを経由して外部機器に出力するような構成も考えることができる。
また、図41の撮像装置100に対応する装置としては、図42に示した編集装置以外に、図44に示す印刷装置130を考えることができる。
この場合には、印刷装置130が、印刷すべき画像として、静止画像ファイルを取り込むこととされている。この静止画像ファイルは、例えば撮像装置100により生成して記録されたものを含み、図示するようにして、静止画としての画像データの実体と、メタデータとを有する構造を持っている。従って、このメタデータは、図41、図42に示した静止画像ファイルにおけるものと同意義の内容の画構造編集メタデータを含んでいるものである。
このようにして取り込んだファイルは、メタデータ分離処理ブロック131が入力する。メタデータ分離処理ブロック131は、図42のメタデータ分離処理ブロック111と同様にして、静止画像ファイルのデータから、ファイル本体部分に相当する画像データと、これに付随するメタデータとを分離する。分離して得られたメタデータについてはメタデータ解析処理ブロック132に対して出力し、画像データについてはトリミング処理ブロック133に対して出力する。
メタデータ解析処理ブロック132は、取り込んだメタデータについて、図42のメタデータ分離処理ブロック111と同様の解析処理を実行し、トリミング処理ブロック133に対してトリミング指示情報を出力する。
トリミング処理ブロック133は、図42におけるトリミング処理ブロック113と同様にして、メタデータ分離処理ブロック131より入力した画像データから、上記メタデータ分離処理ブロック132から入力されるトリミング指示情報が示す画像部分を抜き出すための画像処理を実行する。そして、この抜き出した画像部分から生成した印刷用の形式の画像データを、印刷用画像データとして、印刷制御処理ブロック134に出力する。
印刷制御処理ブロック134は、入力された印刷用画像データを利用して、ここでは図示していない印刷機構を動作させるための制御を実行する。
このような動作により、印刷装置130によっては、入力した画像データの全体画像から、適切画構造が得られているとされる画像部分が自動的に抜き出されて、1枚の画として印刷されることになる。
なお、本願発明による画構造判定の構成を適用できる装置、システム、アプリケーションソフトウェアなどは、これまでに説明した撮像システム、撮像装置などのほかにも考えられる。
また、これまでの実施の形態の説明にあっては、被写体(対象個別被写体)は、人であることを前提としているが、例えば、人以外の動物を被写体とするような場合にも、本願発明を適用することが考えられる。
また、これまでにも述べてきたように、本願に基づく構成における少なくとも一部は、CPUやDSPにプログラムを実行させることで実現できる。
このようなプログラムは、例えばROMなどに対して製造時などに書き込んで記憶させるほか、リムーバブルの記憶媒体に記憶させておいたうえで、この記憶媒体からインストール(アップデートも含む)させるようにしてDSP対応の不揮発性の記憶領域やフラッシュメモリ30などに記憶させることが考えられる。また、USBやIEEE1394などのデータインターフェース経由により、他のホストとなる機器からの制御によってプログラムのインストールを行えるようにすることも考えられる。さらに、ネットワーク上のサーバなどにおける記憶装置に記憶させておいたうえで、デジタルスチルカメラ1にネットワーク機能を持たせることとし、サーバからダウンロードして取得できるように構成することも考えられる。
撮像により得られた画像として、同じ画構造としてみることのできる2つの画内容を比較して示す図である。 実施形態における画構造判定ブロックの基本構成例を示す図である。 図2の画構造判定ブロックが実行する処理手順例を示すフローチャートである。 図2の画構造判定ブロックが実行する他の処理手順例を示すフローチャートである。 実施形態としての撮像システムを構成するデジタルスチルカメラ及び雲台を示す図である。 実施形態の撮像システムについて、雲台に取り付けられたデジタルスチルカメラのパン方向及びチルト方向に沿った動きの例を模式的に示す図である。 実施形態の撮像システムを構成するデジタルスチルカメラの内部構成例を示すブロック図である。 実施形態の撮像システムを構成する雲台の内部構成例を示すブロック図である。 実施形態における撮像システムについての内部システム構成例を示すブロック図である。 図9に示される画構造判定部の内部構成例を示すブロック図である。 本実施形態の撮像システムにおける、画構造判定に関連した最も基本的な自動撮像記録の規則例を説明するための図である。 画構造形成要素としてパン位置、チルト位置を採用した場合における、撮像システムの自動撮像記録の動作例を概念的に示す図である。 個人認識結果を画構造形成要素として採用した場合の自動撮像記録の一態様例を示す図である。 笑顔検出結果を画構造形成要素として採用した場合の自動撮像記録の一態様例を示す図である。 画枠内における被写体位置を画構造形成要素として採用した場合の自動撮像記録の一態様例を示す図である。 顔方向検出により検出された被写体の顔方向を、画構造形成要素として採用した場合の自動撮像記録結果を示す図である。 画枠内に存在する被写体数を画構造形成要素として採用した場合の自動撮像記録の一態様例を示す図である。 画枠内での被写体のサイズを画構造形成要素として採用した場合の自動撮像記録の一態様例を示す図である。 画構造判定アルゴリズム変更についての第1の態様例を示す図である。 画構造判定アルゴリズム変更についての第2の態様例を示す図である。 画構造判定アルゴリズム変更についての第3の態様例を示す図である。 画構造判定アルゴリズム変更についての第4の態様例を示す図である。 実施形態の撮像システムにおける撮像履歴情報の構造例を示す図である。 実施形態の撮像システムにおける撮像履歴情報の他の構造例を示す図である。 実施形態の撮像システムにおける撮像履歴情報の他の構造例を示す図である。 実施形態の撮像システムによる自動撮像記録のための処理手順例(第1例)を示すフローチャートである。 実施形態の撮像システムにおける、消尽済み画構造についての判定処理のための手順例を示すフローチャートである。 実施形態の撮像システムによる自動撮像記録のための処理手順例(第2例)を示すフローチャートである。 実施形態の撮像システムによる自動撮像記録のための処理手順例(第3例)を示すフローチャートである。 実施形態の撮像システムによる自動撮像記録のための処理手順例(第4例)を示すフローチャートである。 個人登録テーブルの構造例を示す図である。 主役重視撮像記録のための処理手順例を示すフローチャートである。 撮像履歴情報をクリア可能な画構造判定ブロックの構成例を示す図である。 加速度センサにて検出される加速度値について、定常時の状態と、デジタルスチルカメラが強制的に動かされたときの状態を比較して示す図である。 雲台により駆動されているときに加速度センサにて検出される加速度値のパターン例を示す図である。 図33におけるクリア制御部が実行するとされる撮像履歴情報クリアのための処理手順例を示すフローチャートである。 実施形態の撮像システムについての、他の内部システム構成例を示すブロック図である。 実施の形態の撮像システムについて、他の内部システム構成例を示すブロック図である。 撮像システム以外での実施形態における、構図判定ブロックの適用例を示すブロック図である。 撮像システム以外での実施形態における、構図判定ブロックの適用例を示すブロック図である。 撮像システム以外での実施形態における、構図判定ブロックの適用例を示すブロック図である。 図41の撮像装置に対応する編集装置の構成例を示すブロック図である。 撮像システム以外での実施形態における、構図判定ブロックの適用例を示すブロック図である。 図41の撮像装置に対応する編集装置の構成例を示すブロック図である。
符号の説明
1 デジタルスチルカメラ、2 シャッターボタン、3 レンズ部、10 雲台、21 光学系、22 イメージセンサ、23 A/Dコンバータ、24 信号処理部、25 エンコード/デコード部、26 メディアコントローラ、27 制御部、28 ROM、29 RAM、30 フラッシュメモリ、31 操作部、32 表示ドライバ、33 表示部、34 雲台対応通信部、40 メモリカード、51 制御部、52 通信部、53 パン機構部、54 パン用モータ、55 パン用駆動部、56 チルト機構部、57 チルト用モータ、58 チルト用駆動部、61・75 撮像記録ブロック、62・73 画構造判定ブロック、63 パン・チルト・ズーム制御ブロック、64・71 通信制御処理ブロック、72 パン・チルト制御処理ブロック

Claims (12)

  1. 撮像により撮像画像データを得る撮像部と、
    上記撮像画像データの画内容に基づいて適切画構造を判定する画構造判定手段と、
    上記画構造判定手段により判定された適切画構造を有する画内容の撮像画像データを得るための画構造獲得制御を実行する画構造獲得制御手段と、
    上記画構造獲得制御の実行により、上記適切画構造を有する画内容の撮像画像データが得られたとされるタイミングで、この撮像画像データを記憶媒体に記録させる撮像記録手段と、
    上記撮像記録手段により撮像記録された撮像画像データごとの画構造に関連した情報を撮像履歴情報として保持する撮像履歴情報保持手段と、
    上記撮像履歴情報を参照することで、上記画構造判定手段が判定したのと同じ適切画構造を有する画内容の撮像画像データについて規定回数分の記録が行われているか否かについて判別する、画構造消尽判別手段と、
    上記画構造消尽判別手段により上記規定回数分の記録が行われていると判別された適切画構造を有する画内容の撮像画像データについては上記撮像記録手段による記録が行われないようにする記録可否設定手段と、
    を備える画像記録装置。
  2. 上記撮像部により得られる撮像視野角を可変するための機構部を制御する機構制御手段をさらに備えるとともに、
    上記画構造獲得制御手段は、
    上記画構造獲得制御として、判定された適切画構造に応じた撮像視野角を得るために上記機構制御手段に対する制御を実行する、
    請求項1に記載の画像記録装置。
  3. 上記画構造獲得制御手段は、
    上記画構造獲得制御として、上記撮像画像データについて判定された適切画構造の画内容が得られるのを待機する、
    請求項1又は請求項2に記載の画像記録装置。
  4. 上記画構造判定手段は、
    上記画構造消尽判別手段により上記規定回数分の記録が行われていると判別されたことに応じて、画構造判定のためのアルゴリズムを変更して適切画構造を判定する、
    請求項1から請求項3の少なくともいずれか1つに記載の画像記録装置。
  5. 上記画構造判定手段が判定に利用する撮像画像データの画内容に適応して、上記規定回数を変更する規定回数変更手段をさらに備える、
    請求項1から請求項4の少なくともいずれか1つに記載の画像記録装置。
  6. この画像記録装置自体の動きを検出する動き検出手段と、
    上記動き検出手段により、上記画像記録装置自体の動きが検出されたことに応じて、上記撮像履歴情報保持手段にて保持されている撮像履歴情報を消去する消去手段とをさらに備える、
    請求項1から請求項5の少なくともいずれか1つに記載の画像記録装置。
  7. 上記動き検出手段は、
    上記機構部の動作のみによる、上記画像記録装置の動きについては、動きであると検出しないようにされ、
    上記機構部が動作中であり、かつ、この機構部以外の力によっても上記撮像記録装置自体が動かされるときには、上記動きであると検出するようにされている、
    ことを特徴とする請求項2及び請求項6に記載の画像記録装置。
  8. 撮像部により得られる撮像画像データの画内容に基づいて適切画構造を判定する画構造判定手順と、
    上記画構造判定手順により判定された適切画構造を有する画内容の撮像画像データを得るための画構造獲得制御を実行する画構造獲得制御手順と、
    上記画構造獲得制御の実行により、上記適切画構造を有する画内容の撮像画像データが得られたとされるタイミングで、この撮像画像データを記憶媒体に記録させる撮像記録手順と、
    上記撮像記録手順により撮像記録された撮像画像データごとの画構造に関連した情報を撮像履歴情報として保持する撮像履歴情報保持手順と、
    上記撮像履歴情報を参照することで、上記画構造判定手順が判定したのと同じ適切画構造を有する画内容の撮像画像データについて規定回数分の記録が行われているか否かについて判別する、画構造消尽判別手順と、
    上記画構造消尽判別手順により上記規定回数分の記録が行われていると判別された適切画構造を有する画内容の撮像画像データについては上記撮像記録手順による記録が行われないようにする記録可否設定手順と、
    を実行する画像記録方法。
  9. 撮像部により得られる撮像画像データの画内容に基づいて適切画構造を判定する画構造判定手順と、
    上記画構造判定手順により判定された適切画構造を有する画内容の撮像画像データを得るための画構造獲得制御を実行する画構造獲得制御手順と、
    上記画構造獲得制御の実行により、上記適切画構造を有する画内容の撮像画像データが得られたとされるタイミングで、この撮像画像データを記憶媒体に記録させる撮像記録手順と、
    上記撮像記録手順により撮像記録された撮像画像データごとの画構造に関連した情報を撮像履歴情報として保持する撮像履歴情報保持手順と、
    上記撮像履歴情報を参照することで、上記画構造判定手順が判定したのと同じ適切画構造を有する画内容の撮像画像データについて規定回数分の記録が行われているか否かについて判別する、画構造消尽判別手順と、
    上記画構造消尽判別手順により上記規定回数分の記録が行われていると判別された適切画構造を有する画内容の撮像画像データについては上記撮像記録手順による記録が行われないようにする記録可否設定手順と、
    を画像記録装置に実行させるプログラム。
  10. 取り込んだ画像データの画内容に基づいて適切画構造を判定する画構造判定手段と、
    上記画構造判定手段により判定された適切画構造を有する画内容の画像データを得るための画構造獲得制御を実行する画構造獲得制御手段と、
    上記画構造獲得制御の実行により、上記適切画構造を有する画内容の画像データが得られたとされるタイミングで、この画像データを利用する画像データ利用手段と、
    上記画像データ利用手段により利用された画像データごとの画構造に関連した情報を利用履歴情報として保持する利用履歴情報保持手段と、
    上記利用履歴情報を参照することで、上記画構造判定手段が判定したのと同じ適切画構造を有する画内容の画像データについて規定回数分の記録が行われているか否かについて判別する、画構造消尽判別手段と、
    上記画構造消尽判別手段により上記規定回数分の記録が行われていると判別された適切画構造を有する画内容の画像データについては上記画像データ利用手段による利用が行われないようにする利用可否設定手段と、
    を備える画像処理装置。
  11. 取り込んだ画像データの画内容に基づいて適切画構造を判定する画構造判定手順と、
    上記画構造判定手順により判定された適切画構造を有する画内容の画像データを得るための画構造獲得制御を実行する画構造獲得制御手順と、
    上記画構造獲得制御の実行により、上記適切画構造を有する画内容の画像データが得られたとされるタイミングで、この画像データを利用する画像データ利用手順と、
    上記画像データ利用手順により利用された画像データごとの画構造に関連した情報を利用履歴情報として保持する利用履歴情報保持手順と、
    上記利用履歴情報を参照することで、上記画構造判定手順が判定したのと同じ適切画構造を有する画内容の画像データについて規定回数分の記録が行われているか否かについて判別する、画構造消尽判別手順と、
    上記画構造消尽判別手順により上記規定回数分の記録が行われていると判別された適切画構造を有する画内容の画像データについては上記画像データ利用手順による利用が行われないようにする利用可否設定手順と、
    を実行する画像処理方法。
  12. 取り込んだ画像データの画内容に基づいて適切画構造を判定する画構造判定手順と、
    上記画構造判定手順により判定された適切画構造を有する画内容の画像データを得るための画構造獲得制御を実行する画構造獲得制御手順と、
    上記画構造獲得制御の実行により、上記適切画構造を有する画内容の画像データが得られたとされるタイミングで、この画像データを利用する画像データ利用手順と、
    上記画像データ利用手順により利用された画像データごとの画構造に関連した情報を利用履歴情報として保持する利用履歴情報保持手順と、
    上記利用履歴情報を参照することで、上記画構造判定手順が判定したのと同じ適切画構造を有する画内容の画像データについて規定回数分の記録が行われているか否かについて判別する、画構造消尽判別手順と、
    上記画構造消尽判別手順により上記規定回数分の記録が行われていると判別された適切画構造を有する画内容の画像データについては上記画像データ利用手順による利用が行われないようにする利用可否設定手順と、
    を画像処理装置に実行させるプログラム。
JP2008166243A 2008-06-25 2008-06-25 画像記録装置、画像記録方法、画像処理装置、画像処理方法、プログラム Expired - Fee Related JP4640456B2 (ja)

Priority Applications (6)

Application Number Priority Date Filing Date Title
JP2008166243A JP4640456B2 (ja) 2008-06-25 2008-06-25 画像記録装置、画像記録方法、画像処理装置、画像処理方法、プログラム
US12/487,180 US8199221B2 (en) 2008-06-25 2009-06-18 Image recording apparatus, image recording method, image processing apparatus, image processing method, and program
EP09163582A EP2139226A1 (en) 2008-06-25 2009-06-24 Image recording apparatus, image recording method, image processing apparatus, image processing method, and program
BRPI0902284-8A BRPI0902284A2 (pt) 2008-06-25 2009-06-24 aparelho e método de gravação de imagem, programa, e, aparelho e método de processamento de imagem
RU2009124279/09A RU2415513C1 (ru) 2008-06-25 2009-06-24 Устройство записи изображения, способ записи изображения, устройство обработки изображения, способ обработки изображения и программа
CN2009101509111A CN101616261B (zh) 2008-06-25 2009-06-25 图像记录设备和方法、图像处理设备和方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008166243A JP4640456B2 (ja) 2008-06-25 2008-06-25 画像記録装置、画像記録方法、画像処理装置、画像処理方法、プログラム

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2010268714A Division JP2011061857A (ja) 2010-12-01 2010-12-01 画像処理装置、画像処理方法、プログラム、撮像装置

Publications (2)

Publication Number Publication Date
JP2010010936A true JP2010010936A (ja) 2010-01-14
JP4640456B2 JP4640456B2 (ja) 2011-03-02

Family

ID=40984905

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008166243A Expired - Fee Related JP4640456B2 (ja) 2008-06-25 2008-06-25 画像記録装置、画像記録方法、画像処理装置、画像処理方法、プログラム

Country Status (6)

Country Link
US (1) US8199221B2 (ja)
EP (1) EP2139226A1 (ja)
JP (1) JP4640456B2 (ja)
CN (1) CN101616261B (ja)
BR (1) BRPI0902284A2 (ja)
RU (1) RU2415513C1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021057816A (ja) * 2019-09-30 2021-04-08 キヤノン株式会社 撮像装置及びその制御方法、プログラム、記憶媒体

Families Citing this family (31)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5206095B2 (ja) 2008-04-25 2013-06-12 ソニー株式会社 構図判定装置、構図判定方法、プログラム
JP5347802B2 (ja) * 2009-07-27 2013-11-20 ソニー株式会社 構図制御装置、撮像システム、構図制御方法、プログラム
JP5434338B2 (ja) 2009-07-29 2014-03-05 ソニー株式会社 撮像制御装置、撮像方法、プログラム
JP5407640B2 (ja) * 2009-07-29 2014-02-05 ソニー株式会社 画像対応装置、動作設定方法、プログラム
JP5434339B2 (ja) * 2009-07-29 2014-03-05 ソニー株式会社 撮像制御装置、撮像システム、撮像方法、プログラム
JP2011109428A (ja) * 2009-11-18 2011-06-02 Sony Corp 情報処理装置、情報処理方法、およびプログラム
CN102118556B (zh) * 2009-12-31 2012-12-19 敦南科技股份有限公司 图像感测装置即时调整图像撷取频率的方法
JP5577793B2 (ja) 2010-03-30 2014-08-27 ソニー株式会社 画像処理装置および方法、並びにプログラム
US20120039537A1 (en) * 2010-08-10 2012-02-16 Keys Gregory C Method, apparatus, and system for workflow participation of an imaging device
US9282238B2 (en) 2010-10-29 2016-03-08 Hewlett-Packard Development Company, L.P. Camera system for determining pose quality and providing feedback to a user
US8736697B2 (en) 2011-03-25 2014-05-27 Apple Inc. Digital camera having burst image capture mode
US8736704B2 (en) 2011-03-25 2014-05-27 Apple Inc. Digital camera for capturing an image sequence
US8736716B2 (en) 2011-04-06 2014-05-27 Apple Inc. Digital camera having variable duration burst mode
GB2492529B (en) * 2011-05-31 2018-01-10 Skype Video stabilisation
GB201116566D0 (en) 2011-09-26 2011-11-09 Skype Ltd Video stabilisation
GB2497507B (en) 2011-10-14 2014-10-22 Skype Received video stabilisation
US8957988B2 (en) * 2013-01-23 2015-02-17 Orcam Technologies Ltd. Apparatus for processing images to prolong battery life
JP5820986B2 (ja) * 2013-03-26 2015-11-24 パナソニックIpマネジメント株式会社 映像受信装置及び受信映像の画像認識方法
EP3026922B1 (en) 2013-07-26 2021-01-06 Panasonic Intellectual Property Management Co., Ltd. Video receiving device, appended information display method, and appended information display system
EP3029944B1 (en) 2013-07-30 2019-03-06 Panasonic Intellectual Property Management Co., Ltd. Video reception device, added-information display method, and added-information display system
EP3043571A4 (en) 2013-09-04 2016-08-17 Panasonic Ip Man Co Ltd VIDEO RECEIVING DEVICE, VIDEO RECOGNITION METHOD, AND ADDITIONAL INFORMATION DISPLAY SYSTEM
JP6281125B2 (ja) 2013-09-04 2018-02-21 パナソニックIpマネジメント株式会社 映像受信装置、映像認識方法および付加情報表示システム
JP6194483B2 (ja) 2014-03-26 2017-09-13 パナソニックIpマネジメント株式会社 映像受信装置、映像認識方法および付加情報表示システム
WO2015145493A1 (ja) 2014-03-26 2015-10-01 パナソニックIpマネジメント株式会社 映像受信装置、映像認識方法および付加情報表示システム
JP6471359B2 (ja) 2014-07-17 2019-02-20 パナソニックIpマネジメント株式会社 認識データ生成装置、画像認識装置および認識データ生成方法
WO2016027457A1 (ja) 2014-08-21 2016-02-25 パナソニックIpマネジメント株式会社 コンテンツ認識装置およびコンテンツ認識方法
US9986155B2 (en) * 2014-09-05 2018-05-29 Htc Corporation Image capturing method, panorama image generating method and electronic apparatus
US10929812B2 (en) * 2014-11-26 2021-02-23 Adobe Inc. Content creation, deployment collaboration, and subsequent marketing activities
JP6640460B2 (ja) * 2015-03-30 2020-02-05 富士フイルム株式会社 画像撮影装置、画像撮影方法、プログラムおよび記録媒体
JP6419278B1 (ja) * 2017-09-19 2018-11-07 キヤノン株式会社 制御装置、制御方法、及びプログラム
JP7542973B2 (ja) * 2020-03-18 2024-09-02 キヤノン株式会社 撮像装置およびその制御方法

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006115406A (ja) * 2004-10-18 2006-04-27 Omron Corp 撮像装置
JP2008078951A (ja) * 2006-09-21 2008-04-03 Casio Comput Co Ltd 撮像装置、撮影制御方法、およびプログラム
JP2009225103A (ja) * 2008-03-17 2009-10-01 Nikon Corp カメラ

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6614994B2 (en) * 2000-08-02 2003-09-02 Nikon Corporation Shake detection device, optical device, camera system, and interchangeable lens
JP2006217478A (ja) 2005-02-07 2006-08-17 Sony Ericsson Mobilecommunications Japan Inc 画像撮影装置及び画像撮影方法
CN100454978C (zh) * 2005-03-17 2009-01-21 佳能株式会社 摄像装置以及控制显示装置和摄像装置的方法
JP4324170B2 (ja) 2005-03-17 2009-09-02 キヤノン株式会社 撮像装置およびディスプレイの制御方法
US8169484B2 (en) 2005-07-05 2012-05-01 Shai Silberstein Photography-specific digital camera apparatus and methods useful in conjunction therewith
JP4525558B2 (ja) * 2005-11-08 2010-08-18 ソニー株式会社 情報処理装置、撮像装置、および情報処理方法、並びにコンピュータ・プログラム
US20080144906A1 (en) * 2006-10-09 2008-06-19 General Electric Company System and method for video capture for fluoroscopy and navigation
US20080154907A1 (en) * 2006-12-22 2008-06-26 Srikiran Prasad Intelligent data retrieval techniques for synchronization
KR100810601B1 (ko) 2006-12-29 2008-03-06 새한에너테크 주식회사 대면적 2차전지용 크루드 셀 및 그 제조방법
US20080174676A1 (en) * 2007-01-24 2008-07-24 Squilla John R Producing enhanced photographic products from images captured at known events

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006115406A (ja) * 2004-10-18 2006-04-27 Omron Corp 撮像装置
JP2008078951A (ja) * 2006-09-21 2008-04-03 Casio Comput Co Ltd 撮像装置、撮影制御方法、およびプログラム
JP2009225103A (ja) * 2008-03-17 2009-10-01 Nikon Corp カメラ

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021057816A (ja) * 2019-09-30 2021-04-08 キヤノン株式会社 撮像装置及びその制御方法、プログラム、記憶媒体

Also Published As

Publication number Publication date
EP2139226A1 (en) 2009-12-30
RU2415513C1 (ru) 2011-03-27
CN101616261B (zh) 2012-07-04
JP4640456B2 (ja) 2011-03-02
US8199221B2 (en) 2012-06-12
CN101616261A (zh) 2009-12-30
RU2009124279A (ru) 2010-12-27
US20090322896A1 (en) 2009-12-31
BRPI0902284A2 (pt) 2010-04-13

Similar Documents

Publication Publication Date Title
JP4640456B2 (ja) 画像記録装置、画像記録方法、画像処理装置、画像処理方法、プログラム
JP5115139B2 (ja) 構図判定装置、構図判定方法、プログラム
JP4894712B2 (ja) 構図判定装置、構図判定方法、プログラム
JP5056061B2 (ja) 撮像装置
US8810673B2 (en) Composition determination device, composition determination method, and program
JP5434339B2 (ja) 撮像制御装置、撮像システム、撮像方法、プログラム
US20100157075A1 (en) Image capture system, image presentation method, and program
JP2005128156A (ja) 焦点調節装置及び焦点調節方法
JP2010073002A (ja) 画像処理装置およびカメラ
JP2014050022A (ja) 画像処理装置、撮像装置、およびプログラム
JP5440588B2 (ja) 構図判定装置、構図判定方法、プログラム
JP2007110262A (ja) 画像鑑賞用ソフトウェア及び画像蓄積装置
JP5098917B2 (ja) 構図判定装置、構図判定方法、プログラム
JP2011061857A (ja) 画像処理装置、画像処理方法、プログラム、撮像装置
JP2008103850A (ja) カメラ及び画像検索システム並びに画像検索方法
JP2007110261A (ja) デジタルカメラ
JP7175772B2 (ja) 撮像装置及び撮像方法
JP5269639B2 (ja) 撮像装置および通信システム
JP5613285B2 (ja) 撮像装置、撮像方法、表示装置および表示方法
JP6375114B2 (ja) 画像再生装置及び画像再生装置の制御方法

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100517

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100525

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100726

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100817

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20101008

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20101102

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20101115

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131210

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees