JP6608314B2 - Image evaluation apparatus, image evaluation method, and image evaluation program - Google Patents
Image evaluation apparatus, image evaluation method, and image evaluation program Download PDFInfo
- Publication number
- JP6608314B2 JP6608314B2 JP2016051484A JP2016051484A JP6608314B2 JP 6608314 B2 JP6608314 B2 JP 6608314B2 JP 2016051484 A JP2016051484 A JP 2016051484A JP 2016051484 A JP2016051484 A JP 2016051484A JP 6608314 B2 JP6608314 B2 JP 6608314B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- evaluation
- information
- image information
- unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
- Image Analysis (AREA)
Description
本発明は、画像評価装置、画像評価方法および画像評価プログラムに関し、特に、画像情報に基づく評価を行うための画像評価装置、画像評価方法および画像評価プログラムに関する。 The present invention relates to an image evaluation apparatus, an image evaluation method, and an image evaluation program, and more particularly to an image evaluation apparatus, an image evaluation method, and an image evaluation program for performing evaluation based on image information.
従来、画像の撮影時などにおけるユーザの生体情報に基づいて、画像の撮影などを行う技術が知られている。特許文献1では、デジタルスチルカメラ・ビデオカメラにおいて静止画・動画を撮影する場合、および、画像に対する処理、例えば、分類・保存・検索・再利用をする場合に、脳波を検出することで、「かわいい」と感じた場合と「興味がない」と感じた場合とで区別して、撮像を行うことが記載されている。
2. Description of the Related Art Conventionally, a technique for capturing an image based on user's biological information at the time of capturing an image is known. In
特許文献2では、脳波情報を検出し、脳波情報が、脳波条件として記録された振幅値の閾値を越えた場合に、記憶した脳波情報を消去するとともに、表示している画像に、Exif(登録商標)情報として、使用者に選択されたことを示す指標を付与する。 In Patent Document 2, when the electroencephalogram information is detected and the electroencephalogram information exceeds the threshold value of the amplitude value recorded as the electroencephalogram condition, the stored electroencephalogram information is erased, and Exif (registered) is displayed on the displayed image. Trademark information is given an index indicating that the user has selected it.
特許文献3では、顔のサイズ、顔の画像上における位置、顔の向き、顔の回転角度、顔が複数含まれる場合の顔の位置関係、および顔の検出スコアのうちの少なくとも1つの情報に基づいて、画像の評価結果を表す評価値を算出する。 In Patent Document 3, at least one piece of information of the face size, the position on the face image, the face orientation, the face rotation angle, the face positional relationship when a plurality of faces are included, and the face detection score is included. Based on this, an evaluation value representing the evaluation result of the image is calculated.
特許文献1では、「かわいい」と感じた画像の品質を判別していない。このため、「かわいい」と感じて撮影された画像であっても、画像そのものの品質が悪く、写真プリントなどに適さない可能性がある。
In
また、特許文献2では、脳波情報が閾値を超え、使用者に選択された指標を付与された画像であっても、画像そのものの品質が悪く、写真プリントなどに適さない可能性がある。 Further, in Patent Document 2, even if the electroencephalogram information exceeds the threshold value and the image is given the index selected by the user, the quality of the image itself is poor and may not be suitable for photographic prints.
また、特許文献3では、撮影者や被写体の感情面や心理面の配慮がないため、画像の品質が良くてもユーザの感情に即した画像の評価値の補正や提示はできない。 Further, in Patent Document 3, there is no consideration of the emotional and psychological aspects of the photographer and the subject, so that even if the quality of the image is good, the evaluation value of the image in accordance with the emotion of the user cannot be corrected or presented.
本発明は、喜怒哀楽の感情など心理状態に応じた基準によって画像の評価値を補正し、心理状態に応じた適切な画像をユーザに提示できる画像評価装置、画像評価方法および画像評価プログラムを提供することを目的とする。 The present invention provides an image evaluation apparatus, an image evaluation method, and an image evaluation program that can correct an evaluation value of an image based on a criterion according to a psychological state such as emotions of emotion, and can present an appropriate image according to the psychological state to a user. The purpose is to provide.
上記の課題を解決するため、本発明の第1の態様に係る画像評価装置は、画像情報を取得する画像情報取得部と、画像情報に基づいて第1評価値を算出する第1評価値算出部と、画像情報に関連する生体情報を取得する生体情報取得部と、生体情報に基づいて第1評価値の補正値を算出する補正値算出部と、補正値に基づいて第1評価値を補正することで、画像情報の第2評価値を算出する第2評価値算出部と、を備える。 In order to solve the above problem, an image evaluation apparatus according to a first aspect of the present invention includes an image information acquisition unit that acquires image information, and a first evaluation value calculation that calculates a first evaluation value based on the image information. A biological information acquisition unit that acquires biological information related to the image information, a correction value calculation unit that calculates a correction value of the first evaluation value based on the biological information, and a first evaluation value based on the correction value And a second evaluation value calculation unit that calculates the second evaluation value of the image information by performing correction.
この発明によると、画像情報に基づく第1評価値が生体情報に基づく補正値により補正され、画像情報の第2評価値が算出される。これにより、画像撮影時などにおける喜怒哀楽の感情など心理状態に応じた基準によって画像情報の評価値が補正され、心理状態に応じた適切な画像をユーザに提示できる。 According to this invention, the first evaluation value based on the image information is corrected by the correction value based on the biological information, and the second evaluation value of the image information is calculated. As a result, the evaluation value of the image information is corrected based on a criterion corresponding to the psychological state such as emotions of emotions when taking an image, and an appropriate image corresponding to the psychological state can be presented to the user.
本発明の第2の態様に係る画像評価装置において、第1評価値算出部は、画像情報の画質、解像度、登場人物、撮影日時、撮影場所、画像情報の被写体の大きさ、向き、角度、被写体同士の位置関係のうち少なくとも1つを含む画像情報評価項目に基づいて、第1評価値を算出する。 In the image evaluation apparatus according to the second aspect of the present invention, the first evaluation value calculation unit includes the image quality of image information, the resolution, the characters, the shooting date and time, the shooting location, the size of the subject of the image information, the orientation, the angle, A first evaluation value is calculated based on an image information evaluation item including at least one of the positional relationships between subjects.
ここで、画像情報の画質、解像度、登場人物、撮影日時、撮影場所、画像情報の被写体の大きさ、向き、角度、被写体同士の位置関係のうち少なくとも1つは、画像データそのもの、画像データの解析、画像データの付帯情報そのもの、あるいは、付帯情報の解析で得ることができる。 Here, at least one of the image information image quality, resolution, characters, shooting date and time, shooting location, subject size, orientation, angle, and positional relationship between the subject is the image data itself, the image data It can be obtained by analysis, incidental information itself of image data, or analysis of incidental information.
本発明の第3の態様に係る画像評価装置において、補正値算出部は、画像情報の撮影者および/または被写体の脈拍、呼吸数、体温、発汗量および脳波のうち少なくとも1つ、並びにこれらのうち少なくとも1つの時間的変化量を含む生体情報評価項目に基づいて、補正値を算出する。 In the image evaluation apparatus according to the third aspect of the present invention, the correction value calculation unit includes at least one of a pulse, a respiratory rate, a body temperature, a sweat amount, and an electroencephalogram of the photographer and / or the subject of the image information, and these A correction value is calculated based on a biological information evaluation item including at least one temporal change amount.
ここで、画像情報の撮影者および/または被写体の脈拍、呼吸数、体温、発汗量および脳波のうち少なくとも1つ、並びにこれらのうち少なくとも1つの時間的変化量を含む生体情報評価項目は、撮影者および/または被写体の生体情報を取得可能なウェアラブル端末などから取得することができる。 Here, the biometric information evaluation item including at least one of the pulse, respiration rate, body temperature, sweating amount, and electroencephalogram of the photographer of the image information and / or the subject, and at least one temporal change amount of these is taken. It can be acquired from a wearable terminal or the like that can acquire biological information of a person and / or a subject.
本発明の第4の態様に係る画像評価装置は、補正値を算出するモードを設定する補正値算出モード設定部と、設定されたモードに基づいて生体情報評価項目に対応する各々の重みを設定する生体情報評価項目重み設定部と、を備え、補正値算出部は、生体情報評価項目と生体情報評価項目に対応する各々の重みに基づいて補正値を算出する。 An image evaluation apparatus according to a fourth aspect of the present invention sets a correction value calculation mode setting unit for setting a mode for calculating a correction value, and sets each weight corresponding to a biological information evaluation item based on the set mode. A biometric information evaluation item weight setting unit that calculates a correction value based on each weight corresponding to the biometric information evaluation item and the biometric information evaluation item.
これにより、喜怒哀楽などの感情面や心理面に関連する生体情報評価項目の関連の度合いを示す重みをモードに応じて可変した上で画像情報の評価項目が補正され、適切な画像をユーザに提示できる。 As a result, the evaluation item of the image information is corrected after changing the weight indicating the degree of association of the biometric information evaluation item related to emotional and psychological aspects such as emotions and emotions according to the mode, and an appropriate image is displayed to the user. Can be presented.
本発明の第5の態様に係る画像評価装置において、生体情報評価項目重み設定部は、補正値算出モード設定部により設定されたモードに対応する重みを、設定されたモードに対応しない重みよりも相対的に大きく設定する。 In the image evaluation device according to the fifth aspect of the present invention, the biological information evaluation item weight setting unit sets the weight corresponding to the mode set by the correction value calculation mode setting unit to a weight not corresponding to the set mode. Set relatively large.
これにより、より重要な生体情報評価項目を第1評価値の補正に反映でき、より適切な画像をユーザに提示できる。 Thereby, a more important biological information evaluation item can be reflected in the correction of the first evaluation value, and a more appropriate image can be presented to the user.
本発明の第6の態様に係る画像評価装置において、モードは、画像情報の撮影者の生体情報に対応する重みを画像情報の被写体の生体情報に対応する重みよりも相対的に大きく設定する撮影者モード、画像情報の撮影者の生体情報に対応する重みよりも画像情報の被写体の生体情報に対応する重みを相対的に大きく設定する被写体モード、および画像情報の撮影者の生体情報に対応する重みと画像情報の被写体の生体情報に対応する重みとを同等に設定する撮影者被写体モードのうちいずれか1つを含む。 In the image evaluation device according to the sixth aspect of the present invention, the mode is an imaging in which the weight corresponding to the biological information of the photographer of the image information is set to be relatively larger than the weight corresponding to the biological information of the subject of the image information. The subject mode, the subject mode for setting the weight corresponding to the biological information of the subject of the image information relatively larger than the weight corresponding to the biological information of the photographer of the image information, and the biological information of the photographer of the image information This includes any one of the photographer subject modes in which the weight and the weight corresponding to the biological information of the subject of the image information are set equally.
これにより、撮影者、被写体、あるいはその両方の生体情報を、第1評価値の補正に反映できる。 Accordingly, the biological information of the photographer, the subject, or both can be reflected in the correction of the first evaluation value.
本発明の第7の態様に係る画像評価装置において、モードは、画像情報の撮影者および/または被写体の喜怒哀楽の感情の中から任意に選択された1つの感情に基づいて、生体情報評価項目に対応する各々の重みを設定する感情選択モードを含む。 In the image evaluation apparatus according to the seventh aspect of the present invention, the mode is a biometric information evaluation based on one emotion arbitrarily selected from emotions of the photographer and / or subject of the image information. It includes an emotion selection mode for setting each weight corresponding to the item.
これにより、撮影者、被写体、あるいはその両方の感情を、第1評価値の補正に反映できる。 Thereby, the emotion of the photographer, the subject, or both can be reflected in the correction of the first evaluation value.
本発明の第8の態様に係る画像評価装置は、画像情報を推奨する基準となる評価基準値を設定する評価基準値設定部と、第2評価値と評価基準値とに基づいて、画像情報を推奨画像に分類するか否かの判定を行う推奨画像分類判定部と、判定の結果に従って画像情報を推奨画像に分類する推奨画像分類部と、を備える。 The image evaluation apparatus according to the eighth aspect of the present invention provides image information based on an evaluation reference value setting unit that sets an evaluation reference value serving as a reference for recommending image information, a second evaluation value, and an evaluation reference value. A recommended image classification determination unit that determines whether or not to classify image information into recommended images, and a recommended image classification unit that classifies image information into recommended images according to the determination result.
これにより、撮影者、被写体、あるいはその両方の生体情報を反映した第2評価値に基づいて、画像を推奨画像に分類することができる。 Accordingly, the image can be classified as a recommended image based on the second evaluation value reflecting the biological information of the photographer, the subject, or both.
本発明の第9の態様に係る画像評価装置において、推奨画像分類部は、ユーザ操作で任意に指定された1または複数の画像情報を推奨画像に分類し、ユーザ操作に基づいて分類された1または複数の推奨画像に対応する生体情報評価項目に基づいて、生体情報評価項目の各々の重みを補正する重み補正部を備える。 In the image evaluation device according to the ninth aspect of the present invention, the recommended image classification unit classifies one or a plurality of pieces of image information arbitrarily designated by a user operation into recommended images, and is classified based on the user operation. Or the weight correction part which correct | amends each weight of a biometric information evaluation item based on the biometric information evaluation item corresponding to a some recommended image is provided.
これにより、ユーザ操作を考慮し、生体情報評価項目の各々の重みを補正できる。 Thereby, each user's operation can be considered and the weight of each biometric information evaluation item can be corrected.
本発明の第10の態様に係る画像評価装置において、推奨画像分類部は、ユーザ操作で任意に指定された1または複数の画像情報を推奨画像から除外し、ユーザ操作に基づいて推奨画像から除外された1または複数の画像情報に対応する生体情報評価項目に基づいて、生体情報評価項目の各々の重みを補正する重み補正部を備える。 In the image evaluation device according to the tenth aspect of the present invention, the recommended image classification unit excludes one or more pieces of image information arbitrarily designated by the user operation from the recommended image, and excludes the recommended image from the recommended image based on the user operation. A weight correction unit is provided for correcting the weight of each biometric information evaluation item based on the biometric information evaluation item corresponding to the one or more image information.
これにより、ユーザ操作を考慮し、生体情報評価項目の各々の重みを補正できる。 Thereby, each user's operation can be considered and the weight of each biometric information evaluation item can be corrected.
本発明の第11の態様に係る画像評価方法は、コンピュータが、画像情報を取得するステップと、画像情報に基づいて第1評価値を算出するステップと、画像情報に関連する生体情報を取得するステップと、生体情報に基づいて第1評価値の補正値を算出するステップと、補正値に基づいて第1評価値を補正することで、画像情報の第2評価値を算出するステップと、を実行する。 In the image evaluation method according to the eleventh aspect of the present invention, a computer acquires image information, calculates a first evaluation value based on the image information, and acquires biological information related to the image information. Calculating a correction value for the first evaluation value based on the biological information; and calculating a second evaluation value for the image information by correcting the first evaluation value based on the correction value. Execute.
この画像評価方法をコンピュータに実行させるための画像評価プログラムも本発明の態様に含まれる。なお、画像評価プログラムは、各種のコンピュータ読み取り可能な非一時的有形媒体(non-transitory computer-readable tangible medium)に記録されて提供されうる。 An image evaluation program for causing a computer to execute this image evaluation method is also included in an aspect of the present invention. Note that the image evaluation program can be provided by being recorded in various computer-readable non-transitory computer-readable tangible media.
本発明によると、画像情報に基づく第1評価値が生体情報に基づく補正値により補正され、画像情報の第2評価値が算出される。これにより、画像撮影時などにおける喜怒哀楽の感情などユーザの心理状態に応じた基準によって画像情報の評価値が補正され、ユーザの心理状態に応じた適切な画像をユーザに提示できる。 According to the present invention, the first evaluation value based on the image information is corrected by the correction value based on the biological information, and the second evaluation value of the image information is calculated. As a result, the evaluation value of the image information is corrected based on a criterion according to the user's psychological state, such as emotions at the time of image capture, and an appropriate image according to the user's psychological state can be presented to the user.
以下、添付図面を参照しつつ、本発明に係る画像評価装置、画像評価方法および画像評価プログラムの実施形態について説明する。 Hereinafter, embodiments of an image evaluation apparatus, an image evaluation method, and an image evaluation program according to the present invention will be described with reference to the accompanying drawings.
図1は、本発明に係る画像評価装置、画像評価方法および画像評価プログラムが適用されるスマートフォン500およびウェアラブル端末1の外観を示す図である。
FIG. 1 is a diagram illustrating the appearance of a
図1に示すスマートフォン500は、平板状の筐体502を有し、筐体502の一方の面に表示部としての表示パネル521と、入力部としての操作パネル522とが一体となった表示入力部520を備えている。また、筐体502は、スピーカ531と、マイクロホン532と、操作部540と、カメラ部541と、投射部542とを備えている。尚、筐体502の構成はこれに限定されず、例えば、表示部と入力部とが独立した構成を採用することや、折り畳み構造やスライド機構を有する構成を採用することもできる。
A
また、図1に示すように、ウェアラブル端末1は、ユーザの身体の一部に装着可能な電子機器の一例である。ウェアラブル端末1は、ウェアラブル端末1を装着したユーザの生体情報を検出可能である。
As shown in FIG. 1, the
生体情報とは、生体から計測可能な情報であり、典型的には、心拍数、脈拍、血圧、体温、呼吸数、発汗量、脳波パターンなどのバイタルサインが含まれうる。あるいは、歩数、消費カロリーなどが含まれてもよい。 The biological information is information that can be measured from a living body, and typically includes vital signs such as heart rate, pulse, blood pressure, body temperature, respiratory rate, sweating, and electroencephalogram pattern. Alternatively, the number of steps, calorie consumption, etc. may be included.
さらに、ウェアラブル端末1は、ユーザの生体情報の検出結果等の各種情報を表示可能な画面の一例である表示画面11(例えば、LCD:Liquid Crystal Displayや有機EL(Electro Luminescence)ディスプレイ等)を有する表示部10と、表示部10の表示画面11上でのタッチ操作の位置であるタッチ位置を検出可能なタッチセンサ12と、ユーザの指紋を検出可能な検出部の一例である指紋センサ13と、ウェアラブル端末1本体の側面に設けられかつウェアラブル端末1に対して各種操作を入力可能な操作ボタン14と、を有している。すなわち、本実施形態では、表示部10およびタッチセンサ12は、所謂タッチパネルディスプレイとして機能する。ウェアラブル端末1は、無線通信によってスマートフォン500等の外部機器と通信可能である。
Furthermore, the
図示は省略するが、ウェアラブル端末1は、複数存在し、撮影者や被写体などの複数のユーザのそれぞれに装着されうるものとする。スマートフォン500は、複数のウェアラブル端末1のそれぞれと区別可能に通信し、それぞれのウェアラブル端末1から複数のユーザのそれぞれの生体情報を区別可能に受信しうる。
Although illustration is omitted, it is assumed that there are a plurality of
ウェアラブル端末1は、図1のような腕時計型に限られず、眼鏡型、指輪型、靴型、懐中型、ペンダント型など様々な形態をとってもよい。
The
スマートフォン500は、ウェアラブル端末1から受信した生体情報を、画像データと関連づけて記憶することができる。例えば、図2に示すように、スマートフォン500は、Exif(登録商標)ファイルのタグなど画像データの付帯情報を利用して、画像データとその撮影日時とを関連付けて記憶する。これとともに、スマートフォン500は、画像データの撮影時点を識別キーとして、画像データの撮影時点かその近傍で検出された撮影者および被写体の生体情報を、Exifファイルとは別個のファイル(CSVファイルなど)として記憶してもよい。Exifファイルと生体情報ファイルの記憶領域は、別個でも同一でもよい。
The
あるいは、スマートフォン500の画像には、Exifファイルのタグなどの付帯情報を利用して、画像データとその撮影日時などとを関連付けて記憶させておく。一方、ウェアラブル端末1は、画像データの撮影日時の情報をスマートフォン500から撮影実行時に即時に取得し、これを識別キーとして、画像データの撮影時点かその近傍で検出された撮影者および被写体の生体情報を記憶してもよい。なお、撮影時点を識別キーとする代わりに、Exifファイルの保存時点、画像のプレビュー時点などを識別キーとすることもできる。ウェアラブル端末1が位置情報を取得可能であれば、撮影時点と位置情報の組を識別キーとしてもよい。
Alternatively, the image of the
あるいは、スマートフォン500は、画像データの撮影時点かその近傍でウェアラブル端末1から受信した撮影者および被写体の生体情報を、画像データの付帯情報としてExifファイルなどに記憶してもよい。本明細書では、画像データと付帯情報とをまとめて画像情報と呼ぶものとする。また、画像情報に関連する生体情報とは、画像ファイル内で画像データに対応づけられた付帯情報に含まれる生体情報、撮影時点などの特定の時点をキーにすることで画像データに対応づけられた生体情報の双方を含む。また、画像情報に関連する生体情報の保存場所は、画像データと同一でも異なっていてもよいものとする。
Or the
図3は、図1に示したスマートフォン500の構成を示すブロック図である。図3に示すように、スマートフォン500の主たる構成要素として、無線通信部510と、表示入力部520と、通話部530と、操作部540と、撮像部として機能するカメラ部541と、記憶部550と、外部入出力部560と、GPS(Global Positioning System)受信部570と、モーションセンサ部580と、電源部590と、主制御部501とを備える。また、スマートフォン500の主たる機能として、基地局装置と移動通信網とを介した移動無線通信を行う無線通信部510を備える。
FIG. 3 is a block diagram showing the configuration of the
無線通信部510は、主制御部501の指示に従って、移動通信網に収容された基地局装置に対し無線通信を行うものである。この無線通信を使用して、音声データ、画像データ等の各種ファイルデータ、電子メールデータなどの送受信や、Webデータやストリーミングデータなどの受信を行う。
The
表示入力部520は、主制御部501の制御により、画像(静止画及び動画)や文字情報などを表示して視覚的にユーザに情報を伝達すると共に、表示した情報に対するユーザ操作を検出する、いわゆるタッチパネルであって、表示パネル521と、操作パネル522とを備える。生成された3次元画像を鑑賞する場合には、表示パネル521は、3次元表示パネルであることが好ましい。
The
表示パネル521は、LCD(Liquid Crystal Display)、OELD(Organic Electro-Luminescence Display)などを表示デバイスとして用いたものである。
The
操作パネル522は、表示パネル521の表示面上に表示される画像を視認可能に載置され、ユーザの指や尖筆によって操作される一又は複数の座標を検出するデバイスである。このデバイスをユーザの指や尖筆によって操作すると、操作に起因して発生する検出信号を主制御部501に出力する。次いで、主制御部501は、受信した検出信号に基づいて、表示パネル521上の操作位置(座標)を検出する。
The
図1に示すように、スマートフォン500の表示パネル521と操作パネル522とは一体となって表示入力部520を構成しているが、操作パネル522が表示パネル521を完全に覆うような配置となっている。この配置を採用した場合、操作パネル522は、表示パネル521外の領域についても、ユーザ操作を検出する機能を備えてもよい。換言すると、操作パネル522は、表示パネル521に重なる重畳部分についての検出領域(以下、表示領域と称する)と、それ以外の表示パネル521に重ならない外縁部分についての検出領域(以下、非表示領域と称する)とを備えていてもよい。
As shown in FIG. 1, the
尚、表示領域の大きさと表示パネル521の大きさとを完全に一致させても良いが、両者を必ずしも一致させる必要はない。また、操作パネル522が、外縁部分と、それ以外の内側部分の2つの感応領域を備えていてもよい。更に、外縁部分の幅は、筐体502の大きさなどに応じて適宜設計されるものである。更にまた、操作パネル522で採用される位置検出方式としては、マトリクススイッチ方式、抵抗膜方式、表面弾性波方式、赤外線方式、電磁誘導方式、静電容量方式などが挙げられ、いずれの方式を採用することもできる。
Note that the size of the display area and the size of the
通話部530は、スピーカ531やマイクロホン532を備え、マイクロホン532を通じて入力されたユーザの音声を主制御部501にて処理可能な音声データに変換して主制御部501に出力したり、無線通信部510あるいは外部入出力部560により受信された音声データを復号してスピーカ531から出力するものである。また、図1に示すように、例えば、スピーカ531及びマイクロホン532を表示入力部520が設けられた面と同じ面に搭載することができる。
The
操作部540は、キースイッチなどを用いたハードウェアキーであって、ユーザからの指示を受け付けるものである。例えば、操作部540は、スマートフォン500の筐体502の表示部の下部、下側面に搭載され、指などで押下されるとオンとなり、指を離すとバネなどの復元力によってオフ状態となる押しボタン式のスイッチである。
The
記憶部550は、主制御部501の制御プログラムや制御データ、通信相手の名称や電話番号などを対応づけたアドレスデータ、送受信した電子メールのデータ、WebブラウジングによりダウンロードしたWebデータや、ダウンロードしたコンテンツデータを記憶し、またストリーミングデータなどを一時的に記憶するものである。また、記憶部550は、スマートフォン内蔵の内部記憶部551と着脱自在な外部メモリスロットを有する外部記憶部552により構成される。尚、記憶部550を構成するそれぞれの内部記憶部551と外部記憶部552は、フラッシュメモリタイプ(flash memory type)、ハードディスクタイプ(hard disk type)、マルチメディアカードマイクロタイプ(multimedia card micro type)、カードタイプのメモリ(例えば、Micro SD(登録商標)メモリ等)、RAM(Random Access Memory)、ROM(Read Only Memory)などの格納媒体を用いて実現される。
The
外部入出力部560は、スマートフォン500に連結される全ての外部機器とのインターフェースの役割を果たすものであり、他の外部機器に通信等(例えば、ユニバーサルシリアルバスなど)又はネットワーク(例えば、インターネット、無線LAN(Local Area Network)、ブルートゥース(Bluetooth)(登録商標)、RFID(Radio Frequency Identification)、赤外線通信(Infrared Data Association:IrDA)、UWB(Ultra Wideband)(登録商標)、ジグビー(ZigBee)(登録商標)など)により直接的又は間接的に接続するためのものである。
The external input /
スマートフォン500に連結される外部機器としては、例えば、有/無線ヘッドセット、有/無線外部充電器、有/無線データポート、カードソケットを介して接続されるメモリカード(Memory card)やSIM(Subscriber Identity Module Card)/UIM(User Identity Module Card)カード、オーディオ・ビデオI/O(Input/Output)端子を介して接続される外部オーディオ・ビデオ機器、無線接続される外部オーディオ・ビデオ機器、有/無線接続されるスマートフォン、有/無線接続されるパーソナルコンピュータ、有/無線接続されるPDA、イヤホンなどがある。外部入出力部560は、このような外部機器から伝送を受けたデータをスマートフォン500の内部の各構成要素に伝達することや、スマートフォン500の内部のデータが外部機器に伝送されるようにすることができる。
External devices connected to the
GPS受信部570は、主制御部501の指示に従って、GPS衛星ST1〜STnから送信されるGPS信号を受信し、受信した複数のGPS信号に基づく測位演算処理を実行し、スマートフォン500の緯度、経度、高度からなる位置を検出する。GPS受信部570は、無線通信部510や外部入出力部560(例えば、無線LAN)から位置情報を取得できるときには、その位置情報を用いて位置を検出することもできる。
The
モーションセンサ部580は、例えば、3軸の加速度センサなどを備え、主制御部501の指示に従って、スマートフォン500の物理的な動きを検出する。スマートフォン500の物理的な動きを検出することにより、スマートフォン500の動く方向や加速度が検出される。この検出結果は、主制御部501に出力されるものである。
The
電源部590は、主制御部501の指示に従って、スマートフォン500の各部に、バッテリ(図示しない)に蓄えられる電力を供給するものである。
The
主制御部501は、マイクロプロセッサを備え、記憶部550が記憶する制御プログラムや制御データに従って動作し、スマートフォン500の各部を統括して制御するものである。また、主制御部501は、無線通信部510を通じて、音声通信やデータ通信を行うために、通信系の各部を制御する移動通信制御機能と、アプリケーション処理機能を備える。
The
アプリケーション処理機能は、記憶部550が記憶するアプリケーションソフトウェアに従って主制御部501が動作することにより実現するものである。アプリケーション処理機能としては、例えば、外部入出力部560を制御して対向機器とデータ通信を行う赤外線通信機能や、電子メールの送受信を行う電子メール機能、Webページを閲覧するWebブラウジング機能などがある。
The application processing function is realized by the
また、主制御部501は、受信データやダウンロードしたストリーミングデータなどの画像データ(静止画や動画のデータ)に基づいて、映像を表示入力部520に表示する等の画像処理機能を備える。画像処理機能とは、主制御部501が、上記画像データを復号し、この復号結果に画像処理を施して、画像を表示入力部520に表示する機能のことをいう。
The
更に、主制御部501は、表示パネル521に対する表示制御と、操作部540、操作パネル522を通じたユーザ操作を検出する操作検出制御を実行する。
Further, the
表示制御の実行により、主制御部501は、アプリケーションソフトウェアを起動するためのアイコンや、スクロールバーなどのソフトウェアキーを表示し、あるいは電子メールを作成するためのウィンドウを表示する。尚、スクロールバーとは、表示パネル521の表示領域に収まりきれない大きな画像などについて、画像の表示部分を移動する指示を受け付けるためのソフトウェアキーのことをいう。
By executing the display control, the
また、操作検出制御の実行により、主制御部501は、操作部540を通じたユーザ操作を検出したり、操作パネル522を通じて、上記アイコンに対する操作や、上記ウィンドウの入力欄に対する文字列の入力を受け付けたり、あるいは、スクロールバーを通じた表示画像のスクロール要求を受け付ける。
Further, by executing the operation detection control, the
更に、操作検出制御の実行により主制御部501は、操作パネル522に対する操作位置が、表示パネル521に重なる重畳部分(表示領域)か、それ以外の表示パネル521に重ならない外縁部分(非表示領域)かを判定し、操作パネル522の感応領域や、ソフトウェアキーの表示位置を制御するタッチパネル制御機能を備える。
Furthermore, by executing the operation detection control, the
また、主制御部501は、操作パネル522に対するジェスチャ操作を検出し、検出したジェスチャ操作に応じて、予め設定された機能を実行することもできる。ジェスチャ操作とは、従来の単純なタッチ操作ではなく、指などによって軌跡を描いたり、複数の位置を同時に指定したり、あるいはこれらを組み合わせて、複数の位置から少なくとも1つについて軌跡を描く操作を意味する。
The
カメラ部541(画像情報取得部に相当)は、CMOS(Complementary Metal Oxide Semiconductor)やCCD(Charge-Coupled Device)などのイメージセンサを用いて電子撮像する撮像装置である。 The camera unit 541 (corresponding to an image information acquisition unit) is an imaging device that performs electronic imaging using an image sensor such as a CMOS (Complementary Metal Oxide Semiconductor) or a CCD (Charge-Coupled Device).
また、カメラ部541は、主制御部501の制御により、撮像によって得た可視光の画像データを、例えばJPEG(Joint Photographic coding Experts Group)などの圧縮した画像データに変換し、記憶部550に記録したり、外部入出力部560や無線通信部510を通じて出力することができ、同様に被写体の距離を示す距離画像を記憶部550に記録したり、外部入出力部560や無線通信部510を通じて出力することができる。図3に示すにスマートフォン500において、カメラ部541は表示入力部520と同じ面に搭載されているが、カメラ部541の搭載位置はこれに限らず、表示入力部520の背面に搭載されてもよいし、あるいは、複数のカメラ部541が搭載されてもよい。尚、複数のカメラ部541が搭載されている場合には、撮像に供するカメラ部541を切り替えて単独にて撮像したり、あるいは、複数のカメラ部541を同時に使用して撮像することもできる。
In addition, the
また、カメラ部541はスマートフォン500の各種機能に利用することができる。例えば、表示パネル521にカメラ部541で取得した画像を表示することや、操作パネル522の操作入力のひとつとして、カメラ部541の画像を利用することができる。また、GPS受信部570が位置を検出する際に、カメラ部541からの画像を参照して位置を検出することもできる。更には、カメラ部541からの画像を参照して、3軸の加速度センサを用いずに、あるいは、3軸の加速度センサと併用して、スマートフォン500のカメラ部541の光軸方向を判断することや、現在の使用環境を判断することもできる。勿論、カメラ部541からの画像をアプリケーションソフトウェア内で利用することもできる。
The
図4は、ウェアラブル端末1のハードウェア構成を示すブロック図である。図4に示すように、ウェアラブル端末1は、表示部10、タッチセンサ12、指紋センサ13、操作ボタン14、コントローラ101、記憶部102、生体情報センサ103、および通信部104を有する。
FIG. 4 is a block diagram illustrating a hardware configuration of the
コントローラ101は、CPU(Central Processing Unit)等により構成され、記憶部102に記憶されたプログラムを実行することにより、ウェアラブル端末1が備える各部を制御する。 記憶部102は、ROM(Read Only Memory)やRAM(Random Access Memory)等により構成され、コントローラ101が実行するプログラム、コントローラ101がプログラムを実行する際に使用するデータ等の各種情報を記憶可能である。 生体情報センサ103は、ウェアラブル端末1を装着したユーザの生体情報(例えば、体温、発汗量、脈拍、脳波)を検出可能である。通信部104は、無線通信によってスマートフォン500等の外部機器と通信可能である。なお、ウェアラブル端末1のユーザ、すなわち画像データの撮影者または被写体は主として人物であるが、動物の生体情報を検出できるのであれば、被写体となる動物がウェアラブル端末1のユーザでもよい。例えば、犬や猫の体温などを検出する首輪型のウェアラブル端末1が使用できる。
The
ウェアラブル端末1が腕時計型以外の場合、例えばメガネ型の場合は、装着者の視線方向、表情、網膜形状、虹彩形状、指紋、声紋、耳形、まばたき、歩行による振動などを生体情報として取得できてもよい。
When the
図5はスマートフォン500の実行するおすすめ画像分類処理のフローチャートを示す。このおすすめ画像分類処理の各ステップをスマートフォン500の主制御部501に実行させるためのプログラムは内部記憶部551などのコンピュータ読み取り可能な非一時的有形媒体に保存されているものとする。
FIG. 5 shows a flowchart of recommended image classification processing executed by the
S1(第1評価値算出ステップ)では、主制御部501は、記憶部550に保存され、かつ任意に選択された1つの画像データについて、この画像データの評価項目から、画像データの評価値である第1評価値を算出する。記憶部550に保存された1または複数の画像情報は、スマートフォン500のカメラ部541や、カメラ部541以外のデジタルカメラなどにて撮影された画像情報である。この第1評価値算出ステップを実行する主制御部501は、第1評価値算出部に相当する。
In S1 (first evaluation value calculation step), the
この画像データの評価項目の算出方法は特許文献3と同様にして行うことができる。以下では、一例として、画像データの評価項目は、顔のサイズ、顔の画像上における位置、顔の向き、顔の回転角度、顔が複数含まれる場合の顔同士の位置関係、および顔の検出スコアであるものとする。これらの画像データの評価項目は、画像データそのもの、あるいは、画像データを格納するExifファイルのタグその他の付帯情報、あるいは、画像データとは別個の記憶領域に格納された付帯情報などから直接取得されうるか、これらを解析することで取得されうる。 The method for calculating the evaluation items of the image data can be performed in the same manner as in Patent Document 3. In the following, as an example, the evaluation items of the image data are the face size, the position on the face image, the face orientation, the face rotation angle, the positional relationship between faces when a plurality of faces are included, and the face detection. Assume that it is a score. The evaluation items for these image data are directly obtained from the image data itself, the Exif file tag or other additional information for storing the image data, or the additional information stored in a storage area separate from the image data. Or they can be obtained by analyzing them.
また、画像データの評価項目ごとの個別の評価値A1〜A6はそれぞれ、顔のサイズ、顔の画像上における位置、顔の向き、顔の回転角度、顔が複数含まれる場合の顔同士の位置関係、および顔の検出スコアを数値化した値であるものとする。これらの評価項目ごとの個別の評価値A1〜A6は、画像データそのものから算出されてもよいし、画像データの付帯情報から算出されてもよい。 The individual evaluation values A 1 to A 6 for each evaluation item of the image data are the face size, the position on the face image, the face orientation, the face rotation angle, and the faces when there are multiple faces. It is assumed that the positional relationship and the face detection score are numerical values. The individual evaluation values A 1 to A 6 for each of these evaluation items may be calculated from the image data itself or from the incidental information of the image data.
第1評価値は、これらの評価項目ごとの個別の評価値A1〜A6に基づいて算出される。一例として、第1評価値Ef0は、以下の式で算出されるものとする。 The first evaluation value is calculated based on the individual evaluation values A 1 to A 6 for each of these evaluation items. As an example, the first evaluation value Ef0 is calculated by the following equation.
Ef0=α1A1+α2A2+α3A3+α4A4+α5A5+α6A6
ここで、α1〜α6は、画像情報の評価項目ごとの評価値A1〜A6に対応した重みである。これらの重みα1〜α6は、ユーザが任意に設定してもよいし、画像データや付帯情報の内容に応じて変動させてもよい。さらに、後述する撮影モードおよび感情モードに応じて、重みα1〜α6が変動してもよい。
Ef0 = α 1 A 1 + α 2 A 2 + α 3 A 3 + α 4 A 4 + α 5 A 5 + α 6 A 6
Here, α 1 to α 6 are weights corresponding to the evaluation values A 1 to A 6 for each evaluation item of the image information. These weights α 1 to α 6 may be arbitrarily set by the user, or may be changed according to the contents of the image data and the accompanying information. Furthermore, the weights α 1 to α 6 may vary according to a shooting mode and an emotion mode described later.
また、第1評価値Ef0の算出基準となる評価項目は、上記に限られない。例えば、評価項目は、画像データの画質、解像度、登場人物、撮影日時、撮影場所などを含んでもよい。これらの評価項目は、画像解析、人物認識、付帯情報の解析などで取得できる。さらに、これらの評価項目ごとの個別の評価値に対応する重みが適宜設定されてもよい。 Further, the evaluation items serving as the calculation criteria for the first evaluation value Ef0 are not limited to the above. For example, the evaluation items may include image data quality, resolution, characters, shooting date and time, shooting location, and the like. These evaluation items can be acquired by image analysis, person recognition, analysis of incidental information, and the like. Furthermore, weights corresponding to individual evaluation values for each of these evaluation items may be set as appropriate.
S2(撮影モード判別ステップ)では、主制御部501は、操作部540を介して、「撮影者モード」、「被写体モード」、「撮影者・被写体モード」の中から、任意の撮影モードの設定を受け付ける。主制御部501は、操作部540を介して受け付けた撮影モードが、「撮影者モード」、「被写体モード」、「撮影者・被写体モード」のいずれであるかを判別する。撮影モードが「撮影者モード」の場合はS3、「被写体モード」の場合はS4、「撮影者・被写体モード」の場合はS5に進む。この撮影モード判別ステップを実行する主制御部501は、補正値算出モード設定部に相当する。
In S <b> 2 (shooting mode determination step), the
S3(撮影者モード重み設定ステップ)では、主制御部501は、「撮影者モード」に対応する補正値の重みを設定する。例えば、撮影者の生体情報による補正値の重みX=1, 被写体の生体情報による補正値の重みY=0と設定する。この撮影者モード重み設定ステップを実行する主制御部501は、生体情報評価項目重み設定部に相当する。
In S3 (photographer mode weight setting step), the
S4(被写体モード重み設定ステップ)では、主制御部501は、「被写体モード」に対応する画像評価値の補正値の重みを設定する。例えば、撮影者の生体情報による補正値の重みX=0, 被写体の生体情報による補正値の重みY=1と設定する。この被写体モード重み設定ステップを実行する主制御部501は、生体情報評価項目重み設定部に相当する。
In S4 (subject mode weight setting step), the
S5(撮影者・被写体モード重み設定ステップ)では、主制御部501は、「撮影者・被写体モード」に対応する画像評価値の補正値の重みを設定する。例えば、撮影者の生体情報による補正値の重みX=0.5, 被写体の生体情報による補正値の重みY=0.5と設定する。この撮影者・被写体モード重み設定ステップを実行する主制御部501は、生体情報評価項目重み設定部に相当する。
In S5 (photographer / subject mode weight setting step), the
S6(感情モード判別ステップ)では、主制御部501は、操作部540を介して、「喜モード」、「怒モード」、「哀モード」、「楽モード」の4種類の感情モードの中から、任意の感情モードの設定を受け付ける。主制御部501は、操作部540を介して受け付けた感情モードが、「喜モード」、「怒モード」、「哀モード」、「楽モード」のいずれであるかを判別する。感情モードが「喜モード」の場合はS7、「怒モード」の場合はS8、「哀モード」の場合はS9、「楽モード」の場合はS10に進む。
In S6 (emotion mode determination step), the
S7(喜モード重み設定ステップ)では、主制御部501は、「喜モード」に対応する画像評価値の重みを設定する。例えば、Z1を「喜」の重み係数、Z2を「怒」の重み係数、Z3を「哀」の重み係数、Z4を「楽」の重み係数とした場合、
Z1=1, Z2=Z3=Z4=0
と設定する。
In S7 (joy mode weight setting step), the
Z 1 = 1, Z 2 = Z 3 = Z 4 = 0
And set.
S8(怒モード重み設定ステップ)では、主制御部501は、「怒モード」に対応する画像評価値の重みを設定する。例えば、
Z2=1, Z1=Z3=Z4=0
と設定する。
In S8 (anger mode weight setting step), the
Z 2 = 1, Z 1 = Z 3 = Z 4 = 0
And set.
S9(哀モード重み設定ステップ)では、主制御部501は、「哀モード」に対応する画像評価値の重みを設定する。例えば、
Z3=1, Z1=Z2=Z4=0
と設定する。
In S9 (sad mode weight setting step), the
Z 3 = 1, Z 1 = Z 2 = Z 4 = 0
And set.
S10(楽モード重み設定ステップ)では、主制御部501は、「楽モード」に対応する画像評価値の重みを設定する。例えば、
Z4=1, Z1=Z2=Z3=0
と設定する。
In S10 (easy mode weight setting step), the
Z 4 = 1, Z 1 = Z 2 = Z 3 = 0
And set.
なお、感情モードの設定に応じたZ1, Z2, Z3, Z4の値は上記に限られない。例えば、「喜モード」の場合、Z1=0.7, Z2=Z3=Z4=0.1などでもよい。 Note that the values of Z 1 , Z 2 , Z 3 , and Z 4 according to the emotion mode setting are not limited to the above. For example, in the case of “joy mode”, Z 1 = 0.7, Z 2 = Z 3 = Z 4 = 0.1 may be used.
S11(生体情報取得および第2評価値算出ステップ)では、主制御部501は、画像データに関連する撮影者および被写体の生体情報を取得する。そして、主制御部501は、S3〜5、S7〜10の重みが付与された生体情報から算出される補正値で第1評価値Ef0を補正した第2評価値Efを算出する。具体的には、第2評価値Efは以下の数式で算出されるものとする。この生体情報取得および第2評価値算出ステップを実行する主制御部501は、補正値算出部に相当する。
In S11 (biometric information acquisition and second evaluation value calculation step), the
Ef=Ef0+(Ef1+Ef2+Ef3+Ef4)*X+(Ef5+Ef6+Ef7+Ef8)*Y
ただし、Ef1,Ef2,Ef3,Ef4は、撮影者の生体情報による補正値,Ef5,Ef6,Ef7,Ef8は被写体nの生体情報の平均による補正値であり、以下の式で算出される。
Ef = Ef0 + (Ef1 + Ef2 + Ef3 + Ef4) * X + (Ef5 + Ef6 + Ef7 + Ef8) * Y
However, Ef1, Ef2, Ef3, and Ef4 are correction values based on the photographer's biological information, and Ef5, Ef6, Ef7, and Ef8 are correction values based on the average of the biological information of the subject n, and are calculated by the following equations.
Ef1=(β1Cp+β2Dp+β3Ep+β4Fp+β5Gp+β6Hp)×Z1
Ef2=(γ1Cp+γ2Dp+γ3Ep+γ4Fp+γ5Gp+γ6Hp)×Z2
Ef3=(ω1Cp+ω2Dp+ω3Ep+ω4Fp+ω5Gp+ω6Hp)×Z3
Ef4=(λ1Cp+λ2Dp+λ3Ep+λ4Fp+λ5Gp+λ6Hp)×Z4
Ef5={(β1C1+β2D1+β3E1+β4F1+β5G1+β6H1)+...+(β1Cn+β2Dn+β3En+β4Fn+β5Gn+β6Hn)}/n×Z1
Ef6={(γ1C1+γ2D1+γ3E1+γ4F1+γ5G1+γ6H1)+...+(γ1Cn+γ2Dn+γ3En+γ4Fn+γ5Gn+γ6Hn)}/n×Z2
Ef7={(ω1C1+ω2D1+ω3E1+ω4F1+ω5G1+ω6H1)+...+(ω1Cn+ω2Dn+ω3En+ω4Fn+ω5Gn+ω6Hn)}/n×Z3
Ef8={(λ1C1+λ2D1+λ3E1+λ4F1+λ5G1+λ6H1)+...+(λ1Cn+λ2Dn+λ3En+λ4Fn+λ5Gn+λ6Hn)}/n×Z4
ここで、Cp,Dp,Ep,Fp,Gp,Hpはそれぞれ、画像データの撮影者の脈拍数、呼吸数、血圧、発汗、脳波、およびそれらの変化量である。これらは撮影者の装着したウェアラブル端末1から、画像データの撮影時点(撮影日時またはその近傍)で取得される。
Ef1 = (β 1 Cp + β 2 Dp + β 3 Ep + β 4 Fp + β 5 Gp + β 6 Hp) × Z 1
Ef2 = (γ 1 Cp + γ 2 Dp + γ 3 Ep + γ 4 Fp + γ 5 Gp + γ 6 Hp) × Z 2
Ef3 = (ω 1 Cp + ω 2 Dp + ω 3 Ep + ω 4 Fp + ω 5 Gp + ω 6 Hp) × Z 3
Ef4 = (λ 1 Cp + λ 2 Dp + λ 3 Ep + λ 4 Fp + λ 5 Gp + λ 6 Hp) × Z 4
Ef5 = {(β 1 C1 + β 2 D1 + β 3 E1 + β 4 F1 + β 5 G1 + β 6 H1) + ... + (β 1 Cn + β 2 Dn + β 3 En + β 4 Fn + β 5 Gn + β 6 Hn)} / n × Z 1
Ef6 = {(γ 1 C1 + γ 2 D1 + γ 3 E1 + γ 4 F1 + γ 5 G1 + γ 6 H1) + ... + (γ 1 Cn + γ 2 Dn + γ 3 En + γ 4 Fn + γ 5 Gn + γ 6 Hn)} / n × Z 2
Ef7 = {(ω 1 C1 + ω 2 D1 + ω 3 E1 + ω 4 F1 + ω 5 G1 + ω 6 H1) + ... + (ω 1 Cn + ω 2 Dn + ω 3 En + ω 4 Fn + ω 5 Gn + ω 6 Hn) } / n × Z 3
Ef8 = {(λ 1 C1 + λ 2 D1 + λ 3 E1 + λ 4 F1 + λ 5 G1 + λ 6 H1) + ... + (λ 1 Cn + λ 2 Dn + λ 3 En + λ 4 Fn + λ 5 Gn + λ 6 Hn)} / n × Z 4
Here, Cp, Dp, Ep, Fp, Gp, and Hp are the pulse rate, respiratory rate, blood pressure, sweating, electroencephalogram, and their changes in the photographer of the image data, respectively. These are acquired from the
また、Cn、Dn、En、Fn、Gn、Hn(n=1, 2, ....)はそれぞれ、被写体n(n=1, 2, ....)の脈拍数、呼吸数、血圧、発汗、脳波、およびそれらの変化量である。これらは被写体nのそれぞれが装着したウェアラブル端末1から、画像データの撮影時点(撮影日時またはその近傍)で取得される。
Cn, Dn, En, Fn, Gn, and Hn (n = 1, 2, ....) are the pulse rate, respiratory rate, and blood pressure of subject n (n = 1, 2, ....), respectively. Sweating, brain waves, and their changes. These are acquired from the
また、β1〜β6は撮影者または被写体の「喜」の感情に関係する脈拍数、呼吸数、血圧、発汗、脳波、およびそれらの変化量の各生体情報の重み係数、γ1〜γ6は撮影者または被写体の「怒」の感情に関係する各生体情報の重み係数、ω1〜ω6は撮影者または被写体の「哀」の感情に関係する各生体情報の重み係数、λ1〜λ6は撮影者または被写体の「楽」の感情に関係する各生体情報の重み係数である。これらの重み係数は、撮影者または被写体の各感情に対する各生体情報の関連性の強弱に応じた0以上1以下の値が予め設定されている。 Β 1 to β 6 are weighting factors of biological information of pulse rate, respiratory rate, blood pressure, sweating, electroencephalogram, and their changes related to the feeling of “joy” of the photographer or subject, γ 1 to γ 6 is a weighting coefficient of each biometric information related to the emotion of "anger" of the photographer or the subject, ω 1 ~ω 6 is a weighting coefficient of each biometric information related to the emotion of the "sorrow" of the photographer or the subject, λ 1 ˜λ 6 is a weighting coefficient of each piece of biometric information related to the “easy” feeling of the photographer or subject. As these weighting factors, a value of 0 or more and 1 or less is set in advance in accordance with the strength of relevance of each biological information to each emotion of the photographer or the subject.
例えば、「喜」の感情に関連する脈拍数の重み係数β1=0.8、「怒」の感情に関係する脈拍数の重み係数γ1=1、「哀」の感情に関係する脈拍数の重み係数ω1=0.1、「楽」の感情に関係する脈拍数の重み係数λ1=0.5などとなる。これらの重みは、「怒」の感情が高まると脈拍数が顕著に増えるが、「哀」の感情が高まっても脈拍数は大きく変化しないといった感情ごとの各生体情報への反映の度合いによって経験的に決まる。この生体情報取得および第2評価値算出ステップを実行する主制御部501は、生体情報取得部および第2評価値算出部に相当する。
For example, the pulse weighting factor β 1 = 0.8 related to the emotion of “joy”, the pulse weighting factor γ 1 = 1 related to the emotion of “anger”, the weight of the pulse rate related to the emotion of “sorrow” The coefficient ω 1 = 0.1, the pulse weight weight coefficient λ 1 = 0.5 related to the emotion of “Easy”, and the like. These weights are experienced by the degree of reflection in each biological information for each emotion that the pulse rate increases significantly when the emotion of “anger” increases, but the pulse rate does not change greatly even if the emotion of “sorrow” increases. Is determined. The
S12(基準値設定およびおすすめ画像判定ステップ)では、主制御部501は、おすすめ画像の基準値Ethを設定する。基準値Ethは、操作部540を介したユーザ操作、予め記憶部550に記憶された値などに基づいて設定される。主制御部501は、第2評価値Efが、おすすめ画像の基準値Ethに達しているか否かを判定する。Ef≧Ethと判定された場合、S13に進む。Ef<Ethと判定された場合、処理を終了する。この基準値設定およびおすすめ画像判定ステップを実行する主制御部501は、評価基準値設定部および推奨画像分類判定部に相当する。
In S12 (reference value setting and recommended image determination step), the
S13(おすすめ画像分類ステップ)では、上記画像データをおすすめ画像に分類する。分類は、上記画像データへのおすすめ画像を示すフラグの付与やおすすめ画像用の特定のフォルダへの上記画像データの移動などにより行われる。このおすすめ画像分類ステップを実行する主制御部501は、推奨画像分類部に相当する。
In S13 (recommended image classification step), the image data is classified into recommended images. The classification is performed by adding a flag indicating a recommended image to the image data or moving the image data to a specific folder for recommended images. The
なお、おすすめ画像分類処理は、記憶部550に記憶されている任意の複数の画像データの各々について、S11〜13が繰り返し実行されてもよい。これにより、任意に設定された特定の撮影・被写体モードおよび感情モードの下、記憶部550に記憶されている任意の画像データが、おすすめ画像とそうでないもの(非おすすめ画像)の2つに分類される。
In the recommended image classification process, S11 to S13 may be repeatedly executed for each of a plurality of arbitrary image data stored in the
図6はスマートフォン500の実行する重み係数補正処理のフローチャートである。この重み係数補正処理の各ステップをスマートフォン500の主制御部501に実行させるためのプログラムは内部記憶部551などのコンピュータ読み取り可能な非一時的有形媒体に保存されているものとする。この処理は、おすすめ画像分類処理の実行により、おすすめ画像の分類が完了した後に行われる。
FIG. 6 is a flowchart of the weighting factor correction process executed by the
S21(おすすめ画像削除判定ステップ)では、主制御部501は、操作部540を介して、上記のおすすめ画像分類処理で設定された特定の撮影モードおよび感情モードの下でおすすめ画像に分類された画像データの中から、任意に選択された1または複数の画像データがおすすめ画像の分類から削除される操作がされたか否かを判定する。Yesの場合はS22に進み、Noの場合はS23に進む。
In S21 (recommended image deletion determination step), the
S22(おすすめ画像削除ステップ)では、主制御部501は、上記削除の操作が行われた画像データをおすすめ画像の分類から削除し、画像データに関連する生体情報を削除画像生体情報リストに追加する。
In S22 (recommended image deletion step), the
S23(おすすめ画像追加判定ステップ)では、主制御部501は、操作部540を介して、おすすめ画像に分類されていない画像データの中から、任意に選択された1または複数の画像がおすすめ画像の分類に追加される操作がされたか否かを判定する。Yesの場合はS24に進み、Noの場合はS25に進む。
In S23 (recommended image addition determination step), the
S24(おすすめ画像追加ステップ)では、主制御部501は、上記追加の操作が行われた画像データをおすすめ画像に分類し、画像データに関連する生体情報を追加画像生体情報リストに追加する。
In S24 (recommended image adding step), the
S25(重み補正ステップ)では、主制御部501は、削除画像生体情報リストの生体情報と、追加画像生体情報リストの生体情報とから、生体情報の重み係数β1〜β6、γ1〜γ6、ω1〜ω6、λ1〜λ6を補正する。この重み補正ステップを実行する主制御部501は、重み補正部に相当する。なお、削除画像生体情報リストの生体情報が存在しない場合は、追加画像生体情報リストの生体情報から生体情報の重み係数β1〜β6、γ1〜γ6、ω1〜ω6、λ1〜λ6が補正されるものとする。追加画像生体情報リストの生体情報が存在しない場合は、削除画像生体情報リストの生体情報から生体情報の重み係数β1〜β6、γ1〜γ6、ω1〜ω6、λ1〜λ6が補正されるものとする。
S25, (weight correction step), the
具体的には、例えば、「撮影者モード」かつ「喜モード」の下で第2評価値Efを算出済みの全画像データに関連する撮影者の脈拍数、呼吸数、血圧、発汗量、脳波およびその変化量の平均値を求める。これらをAvg(B1), Avg(B2), Avg(B3), Avg(B4),Avg(B5), Avg(B6)とする。 Specifically, for example, the photographer's pulse rate, respiratory rate, blood pressure, sweating amount, brain wave related to all image data for which the second evaluation value Ef has been calculated under “photographer mode” and “joy mode” And the average value of the changes. Let these be Avg (B 1 ), Avg (B 2 ), Avg (B 3 ), Avg (B 4 ), Avg (B 5 ), Avg (B 6 ).
次に、追加画像生体情報リストの画像に関連する撮影者の脈拍数、呼吸数、血圧、発汗量、脳波およびその変化量の平均値を求める。これらをAvg(Ba1), Avg(Ba2), Avg(Ba3), Avg(Ba4),Avg(Ba5), Avg(Ba6)とする。 Next, an average value of the photographer's pulse rate, respiratory rate, blood pressure, sweating amount, brain wave and change amount related to the images in the additional image biometric information list is obtained. Let these be Avg (Ba 1 ), Avg (Ba 2 ), Avg (Ba 3 ), Avg (Ba 4 ), Avg (Ba 5 ), Avg (Ba 6 ).
次に、削除画像生体情報リストの画像に関連する撮影者の脈拍数、呼吸数、血圧、発汗量、脳波およびその変化量の平均値を求める。これらをAvg(Bd1), Avg(Bd2), Avg(Bd3), Avg(Bd4),Avg(Bd5), Avg(Bd6)とする。 Next, an average value of the photographer's pulse rate, respiratory rate, blood pressure, sweating amount, brain wave, and change amount related to the image of the deleted image biometric information list is obtained. Let these be Avg (Bd 1 ), Avg (Bd 2 ), Avg (Bd 3 ), Avg (Bd 4 ), Avg (Bd 5 ), Avg (Bd 6 ).
次に、これらの差分Δ1〜Δ6を求める。すなわち
Δ1=(Avg(B1)- Avg(Ba1))+(Avg(Bd1)- Avg(B1))
Δ2=(Avg(B2)- Avg(Ba2))+(Avg(Bd2)- Avg(B2))
Δ3=(Avg(B3)- Avg(Ba3))+(Avg(Bd3)- Avg(B3))
Δ4=(Avg(B4)- Avg(Ba4))+(Avg(Bd4)- Avg(B4))
Δ5=(Avg(B5)- Avg(Ba5))+(Avg(Bd5)- Avg(B5))
Δ6=(Avg(B6)- Avg(Ba6))+(Avg(Bd6)- Avg(B6))
次に、Δ1〜Δ6の中で最も値が大きいパラメータMとそのMの添え字mを特定する。すなわち
[M, m]=max(Δ1, Δ2, Δ3, Δ4, Δ5, Δ6)
である。
Next, these differences Δ 1 to Δ 6 are obtained. That is, Δ 1 = (Avg (B 1 )-Avg (Ba 1 )) + (Avg (Bd 1 )-Avg (B 1 ))
Δ 2 = (Avg (B 2 )-Avg (Ba 2 )) + (Avg (Bd 2 )-Avg (B 2 ))
Δ 3 = (Avg (B 3 )-Avg (Ba 3 )) + (Avg (Bd 3 )-Avg (B 3 ))
Δ 4 = (Avg (B 4 )-Avg (Ba 4 )) + (Avg (Bd 4 )-Avg (B 4 ))
Δ 5 = (Avg (B 5 )-Avg (Ba 5 )) + (Avg (Bd 5 )-Avg (B 5 ))
Δ 6 = (Avg (B 6 )-Avg (Ba 6 )) + (Avg (Bd 6 )-Avg (B 6 ))
Next, the parameter M having the largest value among Δ 1 to Δ 6 and the subscript m of the M are specified. Ie
[M, m] = max (Δ 1 , Δ 2 , Δ 3 , Δ 4 , Δ 5 , Δ 6 )
It is.
そして、以下の式により、「喜」の感情に関係する重み係数βmを補正し、これを新たな重み係数βmとする。 Then, the weighting coefficient β m related to the emotion of “joy” is corrected by the following expression, and this is set as a new weighting coefficient β m .
{(Avg(Bm)-Avg(Bam))+(Avg(Bdm)-Avg(Bm))}/Avg(Bm)*βm+βm→βm
これは、S24でユーザが追加選択したおすすめ画像に関連する生体情報の重みを大きくし、かつ、S22でユーザが削除したおすすめ画像に関連する生体情報の重みを小さくするための補正である。
{(Avg (B m ) -Avg (Ba m )) + (Avg (Bd m ) -Avg (B m ))} / Avg (B m ) * β m + β m → β m
This is a correction for increasing the weight of the biometric information related to the recommended image additionally selected by the user in S24 and reducing the weight of the biometric information related to the recommended image deleted by the user in S22.
撮影・被写体モードに応じ、撮影者および/または被写体nの生体情報を用いて、同様の補正を、「怒」、「哀」、「楽」の感情に関係する重み係数γ1〜γ6、ω1〜ω6、λ1〜λ6に対しても行うことができる。すなわち、
「撮影者モード」かつ「怒モード」の下では、
{(Avg(Bm)-Avg(Bam))+(Avg(Bdm)-Avg(Bm))}/Avg(Bm)*γm+γm→γm
「撮影者モード」かつ「哀モード」の下では、
{(Avg(Bm)-Avg(Bam))+(Avg(Bdm)-Avg(Bm))}/Avg(Bm)*ωm+ωm→ωm
「撮影者モード」かつ「楽モード」の下では、
{(Avg(Bm)-Avg(Bam))+(Avg(Bdm)-Avg(Bm))}/Avg(Bm)*λm+λm→λm
また、「被写体モード」かつ「喜モード」の下では、上記の差分Δ1〜Δ6を、撮影者の生体情報の代わりに、追加画像生体情報リストにおける各被写体nの生体情報の平均値および削除画像生体情報リストにおける各被写体nの生体情報の平均値について求め、この値に応じてβ1〜β6、γ1〜γ6、ω1〜ω6、λ1〜λ6を補正する。
Depending on the shooting / subject mode, using the biometric information of the photographer and / or the subject n, the same correction is applied to the weighting factors γ 1 to γ 6 related to the emotions of “anger”, “sadness”, “easy”, This can also be performed for ω 1 to ω 6 and λ 1 to λ 6 . That is,
Under “Photographer mode” and “Anger mode”
{(Avg (B m ) -Avg (Ba m )) + (Avg (Bd m ) -Avg (B m ))} / Avg (B m ) * γ m + γ m → γ m
Under “Photographer mode” and “Sad mode”
{(Avg (B m ) -Avg (Ba m )) + (Avg (Bd m ) -Avg (B m ))} / Avg (B m ) * ω m + ω m → ω m
Under “Photographer mode” and “Easy mode”
{(Avg (B m ) -Avg (Ba m )) + (Avg (Bd m ) -Avg (B m ))} / Avg (B m ) * λ m + λ m → λ m
In addition, under the “subject mode” and the “joy mode”, the above differences Δ 1 to Δ 6 are calculated using the average value of the biometric information of each subject n in the additional image biometric information list, instead of the biometric information of the photographer, and The average value of the biological information of each subject n in the deleted image biological information list is obtained, and β 1 to β 6 , γ 1 to γ 6 , ω 1 to ω 6 , and λ 1 to λ 6 are corrected according to this value.
すなわち、「被写体モード」かつ「喜モード」の下で第2評価値Efを算出済みの各画像データに関連する各被写体の脈拍数、呼吸数、血圧、発汗量、脳波およびその変化量の平均値を求める。これらをAvg(BS1), Avg(BS2), Avg(BS3), Avg(BS4),Avg(BS5), Avg(BS6)とする。 That is, the average of the pulse rate, respiratory rate, blood pressure, sweating amount, electroencephalogram and the amount of change of each subject related to each image data for which the second evaluation value Ef has been calculated under “subject mode” and “joy mode” Find the value. These are designated as Avg (BS 1 ), Avg (BS 2 ), Avg (BS 3 ), Avg (BS 4 ), Avg (BS 5 ), Avg (BS 6 ).
また、追加画像生体情報リストにおける各被写体(1または複数)の脈拍数、呼吸数、血圧、発汗量、脳波およびその変化量の平均値を、Avg(BSa1), Avg(BSa2), Avg(BSa3), Avg(BSa4),Avg(BSa5), Avg(BSa6)とし、削除画像生体情報リストにおける各被写体(1または複数)の脈拍数、呼吸数、血圧、発汗量、脳波およびその変化量の平均値をAvg(BSd1), Avg(BSd2), Avg(BSd3), Avg(BSd4),Avg(BSd5), Avg(BSd6)とする。 In addition, the average value of the pulse rate, respiratory rate, blood pressure, sweating amount, brain wave and change amount of each subject (one or more) in the additional image biometric information list is expressed as Avg (BSa 1 ), Avg (BSa 2 ), Avg (BSa 3 ), Avg (BSa 4 ), Avg (BSa 5 ), Avg (BSa 6 ), and the pulse rate, respiratory rate, blood pressure, sweat rate, brain wave of each subject (one or more) in the deleted image biometric information list The average values of the changes are Avg (BSd 1 ), Avg (BSd 2 ), Avg (BSd 3 ), Avg (BSd 4 ), Avg (BSd 5 ), and Avg (BSd 6 ).
次に、これらの差分Δ1〜Δ6を求める。すなわち
Δ1=(Avg(BS1)- Avg(BSa1))+(Avg(BSd1)- Avg(BS1))
Δ2=(Avg(BS2)- Avg(BSa2))+(Avg(BSd2)- Avg(BS2))
Δ3=(Avg(BS3)- Avg(BSa3))+(Avg(BSd3)- Avg(BS3))
Δ4=(Avg(BS4)- Avg(BSa4))+(Avg(BSd4)- Avg(BS4))
Δ5=(Avg(BS5)- Avg(BSa5))+(Avg(BSd5)- Avg(BS5))
Δ6=(Avg(BS6)- Avg(BSa6))+(Avg(BSd6)- Avg(BS6))
次に、Δ1〜Δ6の中で最も値が大きいパラメータMとそのMの添え字mを特定する。すなわち
[M, m]=max(Δ1, Δ2, Δ3, Δ4, Δ5, Δ6)
である。
Next, determine these differences Δ 1 ~Δ 6. That is, Δ 1 = (Avg (BS 1 )-Avg (BSa 1 )) + (Avg (BSd 1 )-Avg (BS 1 ))
Δ 2 = (Avg (BS 2 )-Avg (BSa 2 )) + (Avg (BSd 2 )-Avg (BS 2 ))
Δ 3 = (Avg (BS 3 )-Avg (BSa 3 )) + (Avg (BSd 3 )-Avg (BS 3 ))
Δ 4 = (Avg (BS 4 )-Avg (BSa 4 )) + (Avg (BSd 4 )-Avg (BS 4 ))
Δ 5 = (Avg (BS 5 )-Avg (BSa 5 )) + (Avg (BSd 5 )-Avg (BS 5 ))
Δ 6 = (Avg (BS 6 )-Avg (BSa 6 )) + (Avg (BSd 6 )-Avg (BS 6 ))
Next, the parameter M having the largest value among Δ 1 to Δ 6 and the subscript m of the M are specified. Ie
[M, m] = max (Δ 1 , Δ 2 , Δ 3 , Δ 4 , Δ 5 , Δ 6 )
It is.
そして、以下の式により、βmを補正し、これを新たな重みβmとする。 Then, β m is corrected by the following formula, and this is set as a new weight β m .
{(Avg(BSm)-Avg(BSam))+(Avg(BSdm)-Avg(BSm))}/Avg(BSm)*βm+βm→βm
「被写体モード」かつ「怒モード」の下では、
{(Avg(BSm)-Avg(BSam))+(Avg(BSdm)-Avg(BSm))}/Avg(BSm)*γm+γm→γm
「被写体モード」かつ「哀モード」の下では、
{(Avg(BSm)-Avg(BSam))+(Avg(BSdm)-Avg(SBm))}/Avg(BSm)*ωm+ωm→ωm
「被写体モード」かつ「楽モード」の下では、
{(Avg(BSm)-Avg(BSam))+(Avg(BSdm)-Avg(BSm))}/Avg(BSm)*λm+λm→λm
「撮影者・被写体モード」の場合は、「撮影者モード」と同じ補正かつ「被写体モード」と同じ補正の双方を行う。
{(Avg (BS m) -Avg (BSa m)) + (Avg (BSd m) -Avg (BS m))} / Avg (BS m) * β m + β m → β m
Under “Subject Mode” and “Anger Mode”
{(Avg (BS m ) -Avg (BSa m )) + (Avg (BSd m ) -Avg (BS m ))} / Avg (BS m ) * γ m + γ m → γ m
Under “Subject Mode” and “Sad Mode”
{(Avg (BS m ) -Avg (BSa m )) + (Avg (BSd m ) -Avg (SB m ))} / Avg (BS m ) * ω m + ω m → ω m
Under “Subject Mode” and “Easy Mode”
{(Avg (BS m ) -Avg (BSa m )) + (Avg (BSd m ) -Avg (BS m ))} / Avg (BS m ) * λ m + λ m → λ m
In the case of the “photographer / subject mode”, both the same correction as the “photographer mode” and the same correction as the “subject mode” are performed.
重み係数補正処理は、所望の画像データのおすすめ画像への追加、またはおすすめ画像からの所望の画像データの削除が行われる度に繰り返すことができる。これにより、ユーザがおすすめ画像に選んだ画像データの生体情報に近い画像データはよりおすすめ画像に選ばれやすくなり、ユーザがおすすめ画像に選ばない画像データの生体情報に近い画像データはよりおすすめ画像に選ばれにくくなる。 The weighting coefficient correction process can be repeated each time desired image data is added to a recommended image or desired image data is deleted from the recommended image. As a result, the image data close to the biometric information of the image data selected by the user as the recommended image is more easily selected as the recommended image, and the image data close to the biometric information of the image data not selected by the user as the recommended image becomes a more recommended image. It becomes difficult to be chosen.
重み係数補正処理の終了後に、再びおすすめ画像分類処理を行ってもよい。さらに、おすすめ画像分類処理と重み係数補正処理の繰り返しを任意の回数行ってもよい。 The recommended image classification process may be performed again after the end of the weighting coefficient correction process. Further, the recommended image classification process and the weight coefficient correction process may be repeated any number of times.
おすすめ画像に分類された画像データは、フォトアルバムやフォルダなどに登録する画像データとして、主制御部501によりユーザに提示される。例えば、おすすめ画像の提示は、おすすめ画像に分類されたフォルダ内の各画像データのサムネイルを表示パネル521に一覧表示したり、おすすめ画像に分類されたフォルダ内の各画像データを順次表示パネル521にプレビュー表示する制御が主制御部501により行われる。
The image data classified as the recommended image is presented to the user by the
以上で本発明の例に関して説明してきたが、本発明は上述した実施形態及び変形例に限定されず、本発明の精神を逸脱しない範囲で種々の変形が可能である。例えば、ウェアラブル端末1とスマートフォン500とが一体に構成されていてもよい。あるいは、スマートフォン500の代わりに、パソコンなどで上記の処理が行われてもよい。
Although the examples of the present invention have been described above, the present invention is not limited to the above-described embodiments and modifications, and various modifications can be made without departing from the spirit of the present invention. For example, the
また、おすすめ画像の分類は、第2評価値が閾値を超えたものをおすすめ画像に分類する積極的な分類に限られず、第2評価値が閾値を超えないものを排除し、残った画像をおすすめ画像とするような消極的な分類でもよい。 Moreover, the classification of the recommended image is not limited to the active classification in which the image whose second evaluation value exceeds the threshold value is classified as the recommended image, the image whose second evaluation value does not exceed the threshold value is excluded, and the remaining images are excluded. A passive classification such as a recommended image may be used.
また、感情モードの区分も上記に限られず、生体情報に即して、撮影者や被写体の感情、心理、精神状態を示すことができるものであれば何でもよい。 Also, the emotion mode classification is not limited to the above, and any may be used as long as it can indicate the emotion, psychology, and mental state of the photographer or subject in accordance with the biological information.
例えば、リラックス、活動的、不安、興奮、驚愕、緊張、無関心、ストレスフル、休眠状態などが感情モードの区分とされてもよい。また、これらの心理状態に対応する生体情報の重み係数を定義しておき、リラックス、活動的、不安、興奮、驚愕、緊張、無関心、ストレスフル、休眠状態などの撮影者または被写体の心理状態が反映された補正値をこれらの重み係数で算出し、上記補正値で第1評価値を補正し、第2評価値を算出することができる。 For example, relax, active, anxiety, excitement, startle, tension, indifference, stressful, sleep state, etc. may be classified as emotion modes. In addition, by defining weighting factors for biological information corresponding to these psychological states, the psychological state of the photographer or subject such as relaxed, active, anxiety, excitement, startle, tension, indifference, stressful, and dormant state The reflected correction value can be calculated with these weighting factors, the first evaluation value can be corrected with the correction value, and the second evaluation value can be calculated.
そして、例えば、「リラックス」の重み係数で画像データの第1評価値を補正した第2評価値が、「リラックス」に対応する閾値を超えた場合、画像データを「リラックス」モードのおすすめ画像に分類する。 For example, when the second evaluation value obtained by correcting the first evaluation value of the image data with the weight coefficient “relaxed” exceeds the threshold value corresponding to “relaxation”, the image data is changed to the recommended image in the “relaxation” mode. Classify.
あるいは、例えば、ひとまず全画像データをおすすめ画像に分類しておき、「リラックスモード」では、おすすめ画像に分類されたある1つの画像データについて、「不安」、「興奮」、「緊張」、または「ストレスフル」の重み係数で画像データの第1評価値が補正された第2評価値が、「不安」、「興奮」、「緊張」、または「ストレスフル」に対応する閾値を超えた場合、画像データを「リラックス」モードのおすすめ画像の分類から排除する。ここでいう第1評価値は、笑顔度のように画像データの分析で把握される被写体の心理状態でもよい。この場合、第1評価値の笑顔度が高くても、緊張の重み係数に比重の置かれた第2評価値が大きければ、画像データの被写体は不自然な笑顔ということで、おすすめ画像から排除されうる。 Alternatively, for example, all image data is classified into recommended images for the time being, and in “relaxation mode”, “anxiety”, “excitement”, “tension”, or “ When the second evaluation value obtained by correcting the first evaluation value of the image data with the weighting factor of “stressful” exceeds a threshold corresponding to “anxiety”, “excitement”, “tension”, or “stressful”, Exclude image data from the classification of recommended images in "Relax" mode. The first evaluation value here may be the psychological state of the subject that is grasped by analyzing the image data, such as the degree of smile. In this case, even if the smile level of the first evaluation value is high, if the second evaluation value with a specific gravity placed on the tension weighting factor is large, the subject of the image data is excluded from the recommended image because it is an unnatural smile. Can be done.
このように、スマートフォン500が画像データの撮影時にウェアラブル端末1から取得した撮影者や被写体の生体情報によって、画像データから得られる第1評価値を補正し、撮影時の様々な心理状態を反映した第2評価値を求めることができる。そして、この第2評価値によって、撮影時の撮影者や被写体の心理状態に即したおすすめ画像の分類および提示を行うことができる。また、ユーザによるおすすめ画像の追加や削除に応じて、第1評価値を補正する生体情報の重み係数を補正できる。
As described above, the first evaluation value obtained from the image data is corrected by the photographer and the biological information of the subject acquired by the
1 ウェアラブル端末
10 表示部
11 表示画面
12 タッチセンサ
13 指紋センサ
14 操作ボタン
500 スマートフォン
501 主制御部
502 筐体
510 無線通信部
520 表示入力部
521 表示パネル
522 操作パネル
530 通話部
531 スピーカ
532 マイクロホン
540 操作部
541 カメラ部
542 投射部
550 記憶部
551 内部記憶部
552 外部記憶部
560 外部入出力部
570 GPS受信部
580 モーションセンサ部
590 電源部
S1 第1評価値算出ステップ
S2 撮影モード判別ステップ
S3 撮影者モード重み設定ステップ
S4 被写体モード重み設定ステップ
S5 撮影者・被写体モード重み設定ステップ
S6 感情モード判別ステップ
S7 喜モード重み設定ステップ
S8 怒モード重み設定ステップ
S9 哀モード重み設定ステップ
S10 楽モード重み設定ステップ
S11 生体情報取得および第2評価値算出ステップ
S12 基準値設定およびおすすめ画像判定ステップ
S13 おすすめ画像分類ステップ
S21 おすすめ画像削除判定ステップ
S22 おすすめ画像削除ステップ
S23 おすすめ画像追加判定ステップ
S24 おすすめ画像追加ステップ
S25 重み補正ステップ
DESCRIPTION OF
Claims (9)
前記画像情報に基づいて第1評価値を算出する第1評価値算出部と、
前記画像情報に関連する生体情報を取得する生体情報取得部と、
前記生体情報であって、前記画像情報の撮影者および/または被写体の脈拍、呼吸数、体温、発汗量および脳波のうち少なくとも1つ、並びにこれらのうち少なくとも1つの時間的変化量を含む生体情報評価項目に基づいて前記第1評価値の補正値を算出する補正値算出部と、
前記補正値に基づいて前記第1評価値を補正することで、前記画像情報の第2評価値を算出する第2評価値算出部と、
前記補正値を算出するモードを設定する補正値算出モード設定部と、
前記設定されたモードに基づいて前記生体情報評価項目に対応する各々の重みを設定する生体情報評価項目重み設定部と、
を備え、
前記補正値算出部は、前記生体情報評価項目と前記生体情報評価項目に対応する各々の重みに基づいて前記補正値を算出する画像評価装置。 An image information acquisition unit for acquiring image information;
A first evaluation value calculation unit for calculating a first evaluation value based on the image information;
A biological information acquisition unit that acquires biological information related to the image information;
The biological information , which includes at least one of a pulse, a respiratory rate, a body temperature, a sweat amount, and an electroencephalogram of the photographer and / or subject of the image information, and at least one temporal change amount thereof A correction value calculation unit that calculates a correction value of the first evaluation value based on an evaluation item ;
A second evaluation value calculator that calculates a second evaluation value of the image information by correcting the first evaluation value based on the correction value;
A correction value calculation mode setting unit for setting a mode for calculating the correction value;
A biometric information evaluation item weight setting unit that sets each weight corresponding to the biometric information evaluation item based on the set mode;
With
The correction value calculation unit, images evaluation device calculates the correction value based on a weight of each corresponding to the biological information evaluation items and the biological information evaluation items.
前記画像情報に基づいて第1評価値を算出する第1評価値算出部と、
前記画像情報に関連する生体情報を取得する生体情報取得部と、
前記生体情報であって、前記画像情報の撮影者および/または被写体の脈拍、呼吸数、体温、発汗量および脳波のうち少なくとも1つ、並びにこれらのうち少なくとも1つの時間的変化量を含む生体情報評価項目に基づいて、前記第1評価値の補正値を算出する補正値算出部と、
前記補正値に基づいて前記第1評価値を補正することで、前記画像情報の第2評価値を算出する第2評価値算出部と、
前記画像情報を推奨する基準となる評価基準値を設定する評価基準値設定部と、
前記第2評価値と前記評価基準値とに基づいて、前記画像情報を推奨画像に分類するか否かの判定を行う推奨画像分類判定部と、
前記判定の結果に従って前記画像情報を推奨画像に分類する推奨画像分類部と、
を備え、
前記推奨画像分類部は、ユーザ操作で任意に指定された1または複数の画像情報を推奨画像に分類し、
前記ユーザ操作に基づいて分類された1または複数の推奨画像に対応する生体情報評価項目に基づいて、前記生体情報評価項目の各々の重みを補正する重み補正部を備える画像評価装置。 An image information acquisition unit for acquiring image information;
A first evaluation value calculation unit for calculating a first evaluation value based on the image information;
A biological information acquisition unit that acquires biological information related to the image information;
The biological information, which includes at least one of a pulse, a respiratory rate, a body temperature, a sweat amount, and an electroencephalogram of the photographer and / or subject of the image information, and at least one temporal change amount thereof A correction value calculation unit that calculates a correction value of the first evaluation value based on an evaluation item;
A second evaluation value calculator that calculates a second evaluation value of the image information by correcting the first evaluation value based on the correction value;
An evaluation reference value setting unit for setting an evaluation reference value serving as a reference for recommending the image information;
A recommended image classification determination unit that determines whether to classify the image information into recommended images based on the second evaluation value and the evaluation reference value;
A recommended image classification unit that classifies the image information into recommended images according to the determination result;
With
The recommended image classification unit classifies one or more pieces of image information arbitrarily designated by a user operation into recommended images,
On the basis of the biological information evaluation items corresponding to the classified one or more recommended image based on a user's operation, each weight correcting unit images evaluation device Ru with a for correcting the weight of the biological information evaluation items.
前記画像情報に基づいて第1評価値を算出する第1評価値算出部と、
前記画像情報に関連する生体情報を取得する生体情報取得部と、
前記生体情報であって、前記画像情報の撮影者および/または被写体の脈拍、呼吸数、体温、発汗量および脳波のうち少なくとも1つ、並びにこれらのうち少なくとも1つの時間的変化量を含む生体情報評価項目に基づいて、前記第1評価値の補正値を算出する補正値算出部と、
前記補正値に基づいて前記第1評価値を補正することで、前記画像情報の第2評価値を算出する第2評価値算出部と、
前記画像情報を推奨する基準となる評価基準値を設定する評価基準値設定部と、
前記第2評価値と前記評価基準値とに基づいて、前記画像情報を推奨画像に分類するか否かの判定を行う推奨画像分類判定部と、
前記判定の結果に従って前記画像情報を推奨画像に分類する推奨画像分類部と、
を備え、
前記推奨画像分類部は、ユーザ操作で任意に指定された1または複数の画像情報を前記推奨画像から除外し、
前記ユーザ操作に基づいて前記推奨画像から除外された1または複数の画像情報に対応する生体情報評価項目に基づいて、前記生体情報評価項目の各々の重みを補正する重み補正部を備える画像評価装置。 An image information acquisition unit for acquiring image information;
A first evaluation value calculation unit for calculating a first evaluation value based on the image information;
A biological information acquisition unit that acquires biological information related to the image information;
The biological information, which includes at least one of a pulse, a respiratory rate, a body temperature, a sweat amount, and an electroencephalogram of the photographer and / or subject of the image information, and at least one temporal change amount thereof A correction value calculation unit that calculates a correction value of the first evaluation value based on an evaluation item;
A second evaluation value calculator that calculates a second evaluation value of the image information by correcting the first evaluation value based on the correction value;
An evaluation reference value setting unit for setting an evaluation reference value serving as a reference for recommending the image information;
A recommended image classification determination unit that determines whether to classify the image information into recommended images based on the second evaluation value and the evaluation reference value;
A recommended image classification unit that classifies the image information into recommended images according to the determination result;
With
The recommended image classification unit excludes one or more pieces of image information arbitrarily designated by a user operation from the recommended image,
Based on the biological information evaluation items corresponding to one or a plurality of image information are excluded from the recommendation image based on the user operation, images of Ru with a weight corrector for correcting the weights of each of the biological information evaluation items Evaluation device.
画像情報を取得するステップと、
前記画像情報に基づいて第1評価値を算出するステップと、
前記画像情報に関連する生体情報を取得するステップと、
前記生体情報であって、前記画像情報の撮影者および/または被写体の脈拍、呼吸数、体温、発汗量および脳波のうち少なくとも1つ、並びにこれらのうち少なくとも1つの時間的変化量を含む生体情報評価項目に基づいて前記第1評価値の補正値を算出するステップと、
前記補正値に基づいて前記第1評価値を補正することで、前記画像情報の第2評価値を算出するステップと、
前記補正値を算出するモードを設定するステップと、
前記設定されたモードに基づいて前記生体情報評価項目に対応する各々の重みを設定するステップと、
を実行する画像評価方法。 Computer
Obtaining image information;
Calculating a first evaluation value based on the image information;
Obtaining biological information related to the image information;
The biological information , which includes at least one of a pulse, a respiratory rate, a body temperature, a sweat amount, and an electroencephalogram of the photographer and / or subject of the image information, and at least one temporal change amount thereof Calculating a correction value of the first evaluation value based on an evaluation item ;
Calculating the second evaluation value of the image information by correcting the first evaluation value based on the correction value;
Setting a mode for calculating the correction value;
Setting each weight corresponding to the biometric information evaluation item based on the set mode;
Perform image evaluation method.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016051484A JP6608314B2 (en) | 2016-03-15 | 2016-03-15 | Image evaluation apparatus, image evaluation method, and image evaluation program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016051484A JP6608314B2 (en) | 2016-03-15 | 2016-03-15 | Image evaluation apparatus, image evaluation method, and image evaluation program |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2017164216A JP2017164216A (en) | 2017-09-21 |
JP6608314B2 true JP6608314B2 (en) | 2019-11-20 |
Family
ID=59909321
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016051484A Active JP6608314B2 (en) | 2016-03-15 | 2016-03-15 | Image evaluation apparatus, image evaluation method, and image evaluation program |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6608314B2 (en) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7148624B2 (en) * | 2018-09-21 | 2022-10-05 | 富士フイルム株式会社 | Image proposal device, image proposal method, and image proposal program |
CN113538368B (en) * | 2021-07-14 | 2024-07-16 | Oppo广东移动通信有限公司 | Image selection method, image selection device, storage medium and electronic equipment |
JP7193663B1 (en) | 2022-01-18 | 2022-12-20 | 株式会社エクサウィザーズ | Information processing device, information processing program, and information processing method |
CN117100237B (en) * | 2023-10-18 | 2024-02-06 | 众保健康科技服务(济南)有限公司 | Intelligent monitoring system for home care |
Family Cites Families (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005045600A (en) * | 2003-07-23 | 2005-02-17 | Casio Comput Co Ltd | Image photographing apparatus and program |
JP2005157961A (en) * | 2003-11-28 | 2005-06-16 | Konica Minolta Holdings Inc | Imaging apparatus and image processor |
JP2006254107A (en) * | 2005-03-10 | 2006-09-21 | Olympus Imaging Corp | Image evaluation device, image evaluation program, recording medium with image evaluation program recorded thereon, and image evaluation method |
JP2007097090A (en) * | 2005-09-30 | 2007-04-12 | Fujifilm Corp | Image display apparatus and method, program, and photo print order receiving apparatus |
JP4826485B2 (en) * | 2007-01-25 | 2011-11-30 | ソニー株式会社 | Image storage device and image storage method |
JP2009210992A (en) * | 2008-03-06 | 2009-09-17 | Sony Corp | Photographing device |
JP2010193183A (en) * | 2009-02-18 | 2010-09-02 | Nikon Corp | Image display device, image display program, and storage medium |
JP4998630B2 (en) * | 2010-03-30 | 2012-08-15 | 株式会社ニコン | Image processing apparatus and image evaluation program |
JP2013183289A (en) * | 2012-03-01 | 2013-09-12 | Nikon Corp | Electronic device |
JP6410427B2 (en) * | 2014-01-20 | 2018-10-24 | キヤノン株式会社 | Information processing apparatus, information processing method, and program |
JP2015191551A (en) * | 2014-03-28 | 2015-11-02 | 株式会社ニコン | Electronic device |
-
2016
- 2016-03-15 JP JP2016051484A patent/JP6608314B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
JP2017164216A (en) | 2017-09-21 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6490023B2 (en) | Biological information communication apparatus, server, biometric information communication method, and biometric information communication program | |
KR102184272B1 (en) | Glass type terminal and control method thereof | |
EP3321787B1 (en) | Method for providing application, and electronic device therefor | |
EP2919142B1 (en) | Electronic apparatus and method for providing health status information | |
JP5302793B2 (en) | Cosmetic support device, cosmetic support method, cosmetic support program, and portable terminal device | |
CN113596316B (en) | Photographing method and electronic equipment | |
EP3217254A1 (en) | Electronic device and operation method thereof | |
US8928770B2 (en) | Multi-subject imaging device and imaging method | |
JP6608314B2 (en) | Image evaluation apparatus, image evaluation method, and image evaluation program | |
CN107341006A (en) | Lock screen wallpaper recommendation method and related products | |
US10142598B2 (en) | Wearable terminal device, photographing system, and photographing method | |
CN108712603B (en) | An image processing method and mobile terminal | |
KR20150079804A (en) | Image processing method and apparatus, and terminal device | |
CN109660728B (en) | Photographing method and device | |
US11599739B2 (en) | Image suggestion apparatus, image suggestion method, and image suggestion program | |
EP2402839A2 (en) | System and method for indexing content viewed on an electronic device | |
WO2013128715A1 (en) | Electronic device | |
CN108984143B (en) | Display control method and terminal equipment | |
WO2019044135A1 (en) | Information processing device, information processing method, and program | |
CN110059211A (en) | Record the method and relevant apparatus of user feeling | |
WO2017175447A1 (en) | Information processing apparatus, information processing method, and program | |
KR20150109993A (en) | Method and system for determining preference emotion pattern of user | |
JP2013182422A (en) | Electronic device | |
CN111263073A (en) | Image processing method and electronic device | |
KR20160068390A (en) | Mobile terminal and method for controlling the same |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20180314 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20190204 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20190218 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190419 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20191001 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20191023 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6608314 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |