Nothing Special   »   [go: up one dir, main page]

JP6991401B2 - 情報処理装置、プログラム及び情報処理方法 - Google Patents

情報処理装置、プログラム及び情報処理方法 Download PDF

Info

Publication number
JP6991401B2
JP6991401B2 JP2021541019A JP2021541019A JP6991401B2 JP 6991401 B2 JP6991401 B2 JP 6991401B2 JP 2021541019 A JP2021541019 A JP 2021541019A JP 2021541019 A JP2021541019 A JP 2021541019A JP 6991401 B2 JP6991401 B2 JP 6991401B2
Authority
JP
Japan
Prior art keywords
opening
yawning
predetermined
unit
determination
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021541019A
Other languages
English (en)
Other versions
JPWO2021053806A1 (ja
Inventor
隼也 大澤
大貴 樋口
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Publication of JPWO2021053806A1 publication Critical patent/JPWO2021053806A1/ja
Application granted granted Critical
Publication of JP6991401B2 publication Critical patent/JP6991401B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/16Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state
    • A61B5/18Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state for vehicle drivers or machine operators
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/48Other medical applications
    • A61B5/4806Sleep evaluation
    • A61B5/4809Sleep detection, i.e. determining whether a subject is asleep or not
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/168Feature extraction; Face representation
    • G06V40/171Local features and components; Facial parts ; Occluding parts, e.g. glasses; Geometrical relationships
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/174Facial expression recognition
    • G06V40/176Dynamic expression

Landscapes

  • Health & Medical Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Physics & Mathematics (AREA)
  • Biomedical Technology (AREA)
  • Animal Behavior & Ethology (AREA)
  • Theoretical Computer Science (AREA)
  • Veterinary Medicine (AREA)
  • Public Health (AREA)
  • General Physics & Mathematics (AREA)
  • Biophysics (AREA)
  • Pathology (AREA)
  • Human Computer Interaction (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Medical Informatics (AREA)
  • Molecular Biology (AREA)
  • Surgery (AREA)
  • Multimedia (AREA)
  • Anesthesiology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Child & Adolescent Psychology (AREA)
  • Developmental Disabilities (AREA)
  • Educational Technology (AREA)
  • Hospice & Palliative Care (AREA)
  • Psychiatry (AREA)
  • Psychology (AREA)
  • Social Psychology (AREA)
  • Image Analysis (AREA)
  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)

Description

本発明は、情報処理装置、プログラム及び情報処理方法に関する。
車内又は工場等において、事故防止のために人の眠気状態を推定する技術開発が進んでいる。例えば、心拍、脳波又は瞬き等から眠気状態に応じて変化する特徴量を抽出し、その特徴量を閾値と比較することによって眠気状態を推定する技術がある。
心拍又は脳波といった生体信号は人の状態を直接計測でき、可能性のある手法であるが、センサを装着する必要があり、煩わしく感じる場合がある。また、センサを装着し忘れた場合には機能自体が損なわれてしまい、コストが高いという問題点がある。
一方、カメラで撮像された動画像から人の眠気状態を推定する手法は、低コスト、センサ寿命が長い、ユーザに非接触及びシステムが簡易という利点がある。
動画像から人の眠気状態を推定する手法として例えば、瞬目頻度、瞬目速度、及び瞬目持続時間の各々に閾値を設定して、眠気状態を推定する技術がある。しかし、サングラスを装着している場合は瞬目情報を正確に取得できないため、眠気状態を正確に推定できないという問題がある。
瞬目情報を用いず、動画像から人の眠気状態を推定する手法として、例えば、欠伸発生頻度を用いて眠気状態を推定する技術が特許文献1に開示されている。特許文献1に記載された技術は、開口の変化のパターンマッチングで欠伸を判定する(段落0082等)。
特開2005-199078号公報
しかしながら、上述の特許文献1に記載された技術は、開口の変化のパターンマッチングで欠伸を判定するため、パターンの設定の仕方によっては誤判定率が高くなるという問題点がある。
そこで、本発明の一又は複数の態様は、精度良く欠伸状態を判定できるようにすることを目的とする。
本発明の一態様に係る情報処理装置は、動画像に含まれている複数のフレームの各々から、人物の顔の領域である顔領域を抽出する顔領域抽出部と、前記顔領域から、予め定められた複数の特徴点を抽出する顔特徴点抽出部と、前記複数の特徴点から、前記顔の特徴を示す顔特徴量を算出する顔特徴量算出部と、前記顔特徴量から、前記顔において口が開いている度合いである開口度を特定する開口度特定部と、前記複数のフレームから特定された複数の前記開口度により、前記口が継続して開いている度合いである開口継続度を算出する開口継続度算出部と、前記人物が欠伸以外の予め定められた要因による開口を行っているか否かを判定し、前記予め定められた要因による開口を行っていると判定されたフレームに、予め定められた第1の閾値よりも低い値を欠伸開口継続度として対応付け、前記予め定められた要因による開口を行っていないと判定されたフレームに、前記開口継続度を欠伸開口継続度として対応付け、最新のフレームを含む予め定められた数の連続したフレームの内、前記第1の閾値以上となっている欠伸開口継続度が対応付けられているフレームの数が、予め定められた第2の閾値以上の場合に、前記人物が欠伸をしたと判定する判定処理部と、を備えることを特徴とする。
本発明の一態様に係るプログラムは、コンピュータを、動画像に含まれている複数のフレームの各々から、人物の顔の領域である顔領域を抽出する顔領域抽出部、前記顔領域から、予め定められた複数の特徴点を抽出する顔特徴点抽出部、前記複数の特徴点から、前記顔の特徴を示す顔特徴量を算出する顔特徴量算出部、前記顔特徴量から、前記顔において口が開いている度合いである開口度を特定する開口度特定部、前記複数のフレームから特定された複数の前記開口度により、前記口が継続して開いている度合いである開口継続度を算出する開口継続度算出部、及び、前記人物が欠伸以外の予め定められた要因による開口を行っているか否かを判定し、前記予め定められた要因による開口を行っていると判定されたフレームに、予め定められた第1の閾値よりも低い値を欠伸開口継続度として対応付け、前記予め定められた要因による開口を行っていないと判定されたフレームに、前記開口継続度を欠伸開口継続度として対応付け、最新のフレームを含む予め定められた数の連続したフレームの内、前記第1の閾値以上となっている欠伸開口継続度が対応付けられているフレームの数が、予め定められた第2の閾値以上の場合に、前記人物が欠伸をしたと判定する判定処理部、として機能させることを特徴とする。
本発明の一態様に係る情報処理方法は、動画像に含まれている複数のフレームの各々から、人物の顔の領域である顔領域を抽出し、前記顔領域から、予め定められた複数の特徴点を抽出し、前記複数の特徴点から、前記顔の特徴を示す顔特徴量を算出し、前記顔特徴量から、前記顔において口が開いている度合いである開口度を特定し、前記複数のフレームから特定された複数の前記開口度により、前記口が継続して開いている度合いである開口継続度を算出し、前記人物が欠伸以外の予め定められた要因による開口を行っているか否かを判定し、前記予め定められた要因による開口を行っていると判定されたフレームに、予め定められた第1の閾値よりも低い値を欠伸開口継続度として対応付け、前記予め定められた要因による開口を行っていないと判定されたフレームに、前記開口継続度を欠伸開口継続度として対応付け、最新のフレームを含む予め定められた数の連続したフレームの内、前記第1の閾値以上となっている欠伸開口継続度が対応付けられているフレームの数が、予め定められた第2の閾値以上の場合に、前記人物が欠伸をしたと判定することを特徴とする。
本発明の一又は複数の態様によれば、精度良く欠伸状態を判定することができる。
実施の形態1に係る欠伸判定装置の構成を概略的に示すブロック図である。 実施の形態1における開口区別判定条件の一例を示す概略図である。 欠伸判定条件の一例を示す概略図である。 実施の形態1における処理部の構成を概略的に示すブロック図である。 顔特徴点情報の一例を示す概略図である。 顔特徴量を説明するための概略図である。 顔特徴量情報を示す概略図である。 (A)及び(B)は、開口速度を説明するためのグラフである。 欠伸判定装置のハードウェア構成を概略的に示すブロック図である。 実施の形態1における欠伸判定部での処理を示すフローチャートである。 実施の形態2及び3に係る欠伸判定装置の構成を概略的に示すブロック図である。 実施の形態2における開口区別判定条件の一例を示す概略図である。 実施の形態2における顔表情特徴モデルの一例を示す概略図である。 実施の形態2における処理部の構成を概略的に示すブロック図である。 実施の形態2における欠伸判定部での処理を示すフローチャートである。 実施の形態3における開口区別判定条件の一例を示す概略図である。 実施の形態3における処理部の構成を概略的に示すブロック図である。 実施の形態3における欠伸判定部での処理を示すフローチャートである。
実施の形態1.
図1は、実施の形態1に係る情報処理装置としての欠伸判定装置100の構成を概略的に示すブロック図である。
欠伸判定装置100は、撮像部110と、データベース部120と、処理部130と、表示部150とを備える。
撮像部110は、動画像を取得して、取得された動画像を処理部130に与える。
データベース部120は、欠伸判定条件モデル121を記憶する記憶部である。
欠伸判定条件モデル121は、開口区別判定条件及び欠伸判定条件を含む。
開口区別判定条件は、予め定められた要因による開口と、予め定められた要因ではない要因による開口とを区別するために使用される判定条件である。
図2は、開口区別判定条件の一例を示す概略図である。
実施の形態1では、開口区別判定条件は、後述する開口速度評価値が予め定められた閾値(例えば、20)以上である場合には、予め定められた要因ではない要因による開口と判定し、その開口速度評価値が予め定められた閾値未満である場合には、予め定められた要因による開口と判定する条件になっている。開口速度評価値の詳細は、後述する。なお、予め定められた要因ではない要因による開口が行われている場合は、予め定められた要因による開口が行われていないことになる。
欠伸判定条件は、欠伸と判定するための条件である。
図3は、欠伸判定条件の一例を示す概略図である。
実施の形態1では、欠伸判定条件は、過去の予め定められた数のフレーム(例えば、100フレーム)の内、欠伸開口継続度が第1の閾値としての予め定められた値(例えば、40)以上となっているフレームの数が第2の閾値としての予め定められた数(例えば、20)以上の場合に、欠伸と判定する条件となっている。なお、欠伸開口継続度の詳細は、後述する。ここで、過去の予め定められた数のフレームは、最新のフレームを含む予め定められた数の連続したフレームである。
図1に戻り、処理部130は、欠伸判定装置100での処理を実行する。
図4は、実施の形態1における処理部130の構成を概略的に示すブロック図である。
処理部130は、入力部131と、顔領域抽出部132と、顔特徴点抽出部133と、顔特徴点記憶部134と、顔特徴量算出部135と、顔特徴量記憶部136と、開口度特定部137と、開口度記憶部138と、開口継続度算出部139と、開口継続度記憶部140と、判定処理部141と、欠伸判定結果記憶部146と、出力部147とを備える。
判定処理部141は、開口速度評価値算出部142と、開口速度評価値記憶部143と、欠伸判定部144と、一時記憶部145とを備える。
入力部131は、撮像部110で取得された動画像の入力を受ける。入力された動画像は、顔領域抽出部132に与えられる。
顔領域抽出部132は、動画像に含まれている複数のフレームの各々から、人物の顔の領域である顔領域を抽出する。
例えば、顔領域抽出部132は、Adaboost学習によるHaar-like特徴を用いた識別器を用いて、入力された動画像から人物の顔領域を抽出する。
これについては、例えば、下記の文献に記載されている。
Paul Viola, Michael J. Jones、“Robust Real-Time Face Detection”、International Journal of Computer Vision. Vol. 57、 No.2、 pp137-154、2004年
顔特徴点抽出部133は、抽出された顔領域から、輪郭、眉毛、目、鼻又は口等の予め定められた複数の特徴点である複数の顔特徴点を抽出する。
抽出された顔領域画像において輪郭、眉毛、目、鼻又は口等の顔特徴点を抽出する抽出方法としては、例えば、下記の文献に記載されている公知の方法が用いられればよい。
Wiskott L., Fellous j.-M., Kruger N., von der Mlsburg C.、 “Face Recognition by Elastic Bunch Graph Matching”、 IEEE Transactions on Pattern Analysis and Machine Intelligence、 Vol. 19、 Issue 7、 pp.775-779、 1997年
また、顔特徴点抽出部133は、抽出された複数の顔特徴点の配置から顔の向きも算出する。顔の向きは、例えば、Yaw、Pitch及びRollの角度で特定される。
顔特徴点記憶部134は、顔特徴点抽出部133で抽出された複数の顔特徴点及び算出された顔の向きを示す顔特徴点情報を格納する。
図5は、顔特徴点記憶部134に記憶されている顔特徴点情報の一例を示す概略図である。
図5に示されているように、顔特徴点情報は、顔特徴点の座標及び顔の向きの角度を含む。
図4に戻り、顔特徴量算出部135は、抽出された複数の顔特徴点から、顔の特徴を示す顔特徴量を算出する。
例えば、顔特徴量算出部135は、2点の顔特徴点間の距離又は3点の顔特徴点からなる角度等により顔の特徴を表す顔特徴量を算出する。
具体的には、顔特徴量算出部135は、図6に示されているように、人物の顔の正面から見て左目の目頭と目尻との2点間の距離V1、右目の目頭と目尻との2点間の距離V2、上唇と下唇との2点間の距離V3、基準点(例えば、鼻の先端)Pと両眉の内端とを結んだ直線L1、L2間の角度(V4)、基準点Pと鼻の下の両端とを結んだ直線L3、L4間の角度V5、及び、基準点Pと左右両口角とを結んだ直線L5、L6間の角度V6を顔特徴量として算出する。これらの顔特徴量は、口角の上がり、小鼻の開き、眉のしかめ等表情変化において特徴が表れるとされている特徴量である。
顔特徴量算出部135が算出する顔特徴量は、以上の例に限定されない。例えば、顔特徴量は、顔の眉間領域、口領域又は頬領域における画像特徴量であってもよい。
このとき画像特徴量は、例えば、HOG(Histograms of Oriented Gradients)特徴量を用いるものとする。
これについては、例えば、下記の文献に記載されている。
N.Dalal, B.Triggs、 “Histograms of Oriented Gradients for human Detection”、 Proc. IEEE Conference on Computer Vision and Pattern Recognition (CVPR)、 pp.886-893、2005年
なお、画像特徴量としては、HOG特徴量以外でも、SIFT(Scaled Invariance Feature Transform)特徴量、SURF(Speede-up Robust Features)又はHaar-like特徴量が用いられてもよい。
図4に戻り、顔特徴量記憶部136は、顔特徴量算出部135で算出された顔特徴量を示す顔特徴量情報を記憶する。
図7は、顔特徴量記憶部136に記憶されている顔特徴量情報を示す概略図である。
図7に示されているように、顔特徴量情報は、顔特徴量として算出された値を格納する。
図4に戻り、開口度特定部137は、顔特徴量記憶部136に記憶されている顔特徴量から、人物の顔において口が開いている度合いである開口度を特定する。
例えば、開口度特定部137は、上唇と下唇との2点間の距離V3を開口度として特定する。
また、開口度特定部137は、距離V3を正規化して0~100までのパーセントの値に変換して用いてもよい。
具体的には、2次元の画像において、人物が正面を向いているときの開口度100%における距離V3と、人物が上又は下を見ているときの開口度100%における距離V3とは異なる。このため、開口度特定部137は、人物が正面を向いているときは、距離V3=5cmで開口度100%となるようにし、人物が上を向いているときは、距離V3=3cmで開口度100%となるように、顔特徴点記憶部134に記憶されている顔の向きに応じて、開口度100%となる距離V3の値を変化させる正規化処理を行ってもよい。
開口度記憶部138は、開口度特定部137により特定された開口度を記憶する。
開口継続度算出部139は、開口度記憶部138に記憶されている複数の開口度により、口が継続して開いている度合いである開口継続度を算出する。複数の開口度は、複数のフレームから特定される。
例えば、開口継続度算出部139は、動画像におけるt番目(tは1以上の整数)のフレームであるtフレームの開口度と、過去のフレームの開口度とを重み付けして加算することで、開口継続度を算出する。t+1番目のフレームであるt+1フレームにおける開口継続度xt+1の算出式は、下記の(1)式である。
Figure 0006991401000001
ここで、xは、tフレームにおける開口継続度、yt+1は、t+1フレームにおける開口度、αは、パラメータの調整値であり、0<α<1を満たす。
この開口継続度は、継続して開口する場合に数値が高くなる時間フィルタをかけた値である。
開口継続度記憶部140は、開口継続度算出部139で算出された開口継続度を記憶する。
判定処理部141は、フレーム内の人物が欠伸以外の予め定められた要因による開口を行っているか否かを判定する。判定処理部141は、予め定められた要因による開口を行っていると判定されたフレームに、予め定められた第1の閾値よりも低い値を欠伸開口継続度として対応付け、予め定められた要因による開口を行っていないと判定されたフレームに、開口継続度算出部139で算出された開口継続度を欠伸開口継続度として対応付ける。
そして、判定処理部141は、最新のフレームを含む予め定められた数の連続したフレームの内、第1の閾値以上となっている欠伸開口継続度が対応付けられているフレームの数が、予め定められた第2の閾値以上の場合に、その人物が欠伸をしたと判定する。
実施の形態1では、判定処理部141は、フレーム内の人物が会話を行っている場合に、予め定められた要因による開口を行っていると判定する。
具体的には、判定処理部141は、人物の口が開く速度である開口速度が予め定められた第3の閾値未満の場合に、その人物が会話を行っていると判定する。
判定処理部141での処理は、開口速度評価値算出部142、開口速度評価値記憶部143、欠伸判定部144及び一時記憶部145で実現される。以下、説明する。
開口速度評価値算出部142は、開口継続度記憶部140に記憶されている開口継続度から、開口速度が速くなるほど大きくなる値である開口速度評価値を算出する。
tフレームにおける開口速度zは、下記の(2)式で算出することができる。
Figure 0006991401000002
ここで、V3は、tフレームにおける距離V3、V3t-1は、t-1フレームにおける距離V3である。
開口速度評価値算出部142は、(2)式を用いて、開口速度zを算出してもよいが、実施の形態1では、下記の(3)式~(5)式に示されている開口速度評価値z#1~z#3の内の何れか一つを算出している。
Figure 0006991401000003
Figure 0006991401000004
Figure 0006991401000005
開口速度評価値z#1~z#3は、何れも開口速度zが速くなるほど、大きくなる値である。このため、開口速度評価値z#1~z#3が第4の閾値未満であるか否かを判定することで、開口速度が予め定められた第3の閾値未満であるか否かを判定することができる。
実施の形態1では、開口速度評価値算出部142は、開口速度評価値z#3を算出するものとする。ここで、(5)式では、xの勾配に着目しており、上記の(1)式のαの値を小さく設定した場合、開口速度が速くなると、xとyとの差分が大きくなるため、開口速度評価値z#3は、開口速度の評価値として使用することができる。
ここで、開口速度は、開口継続度の傾斜が大きい場合に数値が高くなる。このため、図8(A)及び(B)に示されているように、欠伸時は開口速度が速く、会話時は開口速度が遅くなる。
図4に戻り、開口速度評価値記憶部143は、開口速度評価値算出部142で算出された開口速度評価値を記憶する。
欠伸判定部144は、開口継続度記憶部140に記憶されている開口継続度と、開口速度評価値記憶部143に記憶されている開口速度評価値とを用いて、予め定められた要因(ここでは、会話)による開口と、予め定められた要因ではない要因による開口とを判別し、欠伸を判定する。
具体的には、開口速度評価値記憶部143に記憶されている開口速度評価値が欠伸判定条件モデル121に含まれている開口区別判定条件において、開口速度評価値が予め定められた閾値(例えば、20)未満である場合には、予め定められた要因による開口と判定する。ここでの閾値は、第4の閾値ともいう。
次に、欠伸判定部144は、予め定められた要因による開口と判定した場合には、無効値を欠伸開口継続値とし、予め定められた要因ではない要因による開口と判定した場合には、そのフレームの開口継続度を欠伸開口継続度として、そのフレームを識別するための識別情報であるフレーム識別番号に対応付けて、一時記憶部145に記憶する。無効値は、第1の閾値よりも小さい値であれば、どのような値でもよい。
そして、欠伸判定部144は、欠伸判定条件モデル121に含まれている欠伸判定条件が満たされている場合に、欠伸と判定する。
ここでは、欠伸判定部144は、過去の予め定められた数のフレーム(例えば、100フレーム)の内、欠伸開口継続度が予め定められた値(例えば、40)以上となっているフレームの数が予め定められた数(例えば、20)以上のときに、欠伸と判定する。
欠伸判定結果記憶部146は、欠伸判定部144での欠伸判定結果を記憶する。ここでの欠伸判定結果は、例えば、「欠伸」又は「欠伸ではない」である。
出力部147は、欠伸判定結果記憶部146に記憶されている欠伸判定結果を図1に示されている表示部150に送り、表示部150にその欠伸判定結果又はその欠伸判定結果に対応する情報を表示させる。
図9は、実施の形態1に係る欠伸判定装置100のハードウェア構成を概略的に示すブロック図である。
実施の形態1に係る欠伸判定装置100は、カメラ161と、補助記憶装置162と、プロセッサ163と、メモリ164と、表示装置165とを備えるコンピュータ160により構成することができる。
具体的には、撮像部110は、撮像装置としてのカメラ161により実現することができる。
データベース部120は、HDD(Hard Disk Drive)等の補助記憶装置162により実現することができる。
処理部130は、プロセッサ163及びメモリ164により実現することができる。
プロセッサ163は、CPU(Central Processing Unit)等により実現することができ、メモリ164は、不揮発メモリにより実現することができる。プロセッサ163は、補助記憶装置162に記憶されているプログラムをメモリ164に読み出して、そのプログラムを実行することで各種処理を実行する。このようなプログラムは、ネットワークを通じて提供されてもよく、また、記録媒体に記録されて提供されてもよい。即ち、このようなプログラムは、例えば、プログラムプロダクトとして提供されてもよい。
表示部150は、表示装置165により実現することができる。
図10は、実施の形態1における欠伸判定部144での処理を示すフローチャートである。
まず、欠伸判定部144は、開口継続度記憶部140に記憶されている開口継続度と、開口速度評価値記憶部143に記憶されている開口速度評価値とを取得する(S10)。
次に、欠伸判定部144は、取得された開口速度評価値が、開口区別判定条件における閾値a以上であるか否かを判定する(S11)。開口速度評価値が閾値a未満である場合(S11でNo)には、処理はステップS12に進み、開口速度評価値が閾値a以上である場合(S11でYes)には、処理はステップS13に進む。
ステップS12では、開口速度評価値が閾値a未満であり、動画像に映っている人物の開口が欠伸以外の会話であると考えられるため、欠伸判定部144は、開口継続度を予め定められた値である無効値(例えば、「-1」)とする。そして、処理はステップS13に進む。
ステップS13では、欠伸判定部144は、現フレームの開口継続度を、欠伸開口継続度として、そのフレーム番号とともに一時記憶部145に記憶させる。ここで、欠伸開口継続度は、開口速度評価値が閾値a以上である場合には、現フレームに対応して開口継続度算出部139で算出された開口継続度であり、開口速度評価値が閾値a未満である場合には、ステップS12で設定された無効値となる。
次に、欠伸判定部144は、欠伸判定条件モデル121に含まれている欠伸判定条件を満たすか否かを判定する(S14)。ここでは、欠伸判定部144は、過去の予め定められた数のフレーム(例えば、100フレーム)の内、欠伸開口継続度が予め定められた値(例えば、40)以上となっているフレームの数が予め定められた数(例えば、20)以上のときに、欠伸と判定する。欠伸判定条件が満たされている場合(S14でYes)には、処理はステップS15に進み、欠伸判定条件が満たされていない場合(S14でNo)には、処理はステップS16に進む。
ステップS15では、欠伸判定部144は、欠伸と判定し、その判定結果を欠伸判定結果記憶部146に記憶する。なお、欠伸判定部144は、欠伸は続けて発生しないと想定し、一度欠伸と判定したら一定フレーム(例えば、100フレーム)は、欠伸と判定しない。
一方、ステップS16では、欠伸判定部144は、欠伸ではないと判定し、その判定結果を欠伸判定結果記憶部146に記憶する。
以上のように、実施の形態1によれば、動画像に映っている人物が会話している状態では、欠伸と判定しないため、人物の口が開いている状態から、精度よく欠伸を検出することができる。
実施の形態2.
図11は、実施の形態2に係る情報処理装置としての欠伸判定装置200の構成を概略的に示すブロック図である。
欠伸判定装置200は、撮像部110と、データベース部220と、処理部230と、表示部150とを備える。
実施の形態2に係る欠伸判定装置200の撮像部110及び表示部150は、実施の形態1に係る欠伸判定装置100の撮像部110及び表示部150と同様である。
データベース部220は、欠伸判定条件モデル221と、顔表情特徴モデル222とを記憶する記憶部である。
欠伸判定条件モデル221は、開口区別判定条件及び欠伸判定条件を含む。
実施の形態2における欠伸判定条件モデル221の欠伸判定条件は、実施の形態1における欠伸判定条件モデル121の欠伸判定条件と同様である。
開口区別判定条件は、予め定められた要因による開口と、予め定められた要因ではない要因による開口とを区別するために使用される判定条件である。
図12は、開口区別判定条件の一例を示す概略図である。
実施の形態2では、開口区別判定条件は、後述する顔表情特徴比較結果に応じて、予め定められた要因による開口か、予め定められた要因ではない要因による開口かを判定する条件になっている。実施の形態2では、予め定められた要因は、人物の表情が、笑顔又は怒った顔であることである。
顔表情特徴モデル222は、笑顔判定条件及び驚き判定条件を含む。
笑顔判定条件は、顔特徴量に基づいて、動画像に含まれている人物の表情が笑顔であることを判定するための条件である。
驚き判定条件は、顔特徴量に基づいて、動画像に含まれている人物の表情が驚いた顔であることを判定するための条件である。
図13は、顔表情特徴モデル222の一例を示す概略図である。
顔特徴量が、図13に示されている何れかの条件を満たす場合には、人物の表情が笑顔又は驚いた顔であると判定される。
図11に戻り、処理部230は、欠伸判定装置200での処理を実行する。
図14は、実施の形態2における処理部230の構成を概略的に示すブロック図である。
処理部230は、入力部131と、顔領域抽出部132と、顔特徴点抽出部133と、顔特徴点記憶部134と、顔特徴量算出部135と、顔特徴量記憶部136と、開口度特定部137と、開口度記憶部138と、開口継続度算出部139と、開口継続度記憶部140と、判定処理部241と、欠伸判定結果記憶部146と、出力部147とを備える。
判定処理部241は、欠伸判定部244と、一時記憶部145と、顔表情特徴比較部248と、顔表情特徴比較結果記憶部249とを備える。
実施の形態2における処理部230の入力部131、顔領域抽出部132、顔特徴点抽出部133、顔特徴点記憶部134、顔特徴量算出部135、顔特徴量記憶部136、開口度特定部137、開口度記憶部138、開口継続度算出部139、開口継続度記憶部140、一時記憶部145、欠伸判定結果記憶部146及び出力部147は、実施の形態1における処理部130の入力部131、顔領域抽出部132、顔特徴点抽出部133、顔特徴点記憶部134、顔特徴量算出部135、顔特徴量記憶部136、開口度特定部137、開口度記憶部138、開口継続度算出部139、開口継続度記憶部140、一時記憶部145、欠伸判定結果記憶部146及び出力部147と同様である。
実施の形態2でも、判定処理部241は、フレーム内の人物が欠伸以外の予め定められた要因による開口を行っているか否かを判定する。
但し、実施の形態2では、判定処理部241は、人物の表情が欠伸とは異なる予め定められた表情である場合に、予め定められた要因による開口を行っていると判定する。
実施の形態2における判定処理部241での処理は、欠伸判定部244、一時記憶部145、顔表情特徴比較部248及び顔表情特徴比較結果記憶部249により実現される。以下説明する。
顔表情特徴比較部248は、顔特徴量から、フレーム内の人物が予め定められた表情であるか否かを判定する顔表情判定部である。ここでは、顔表情特徴比較部248は、現在の顔特徴と、顔表情特徴(例えば、笑顔又は驚き時に表出する顔の特徴)とを比較することで、人物の表情を判定する。
例えば、顔表情特徴比較部248は、顔特徴量記憶部136に記憶されている顔特徴量を用いて欠伸時に発生しない顔特徴が見られるかを判定する。一般に、人物の顔が笑顔又は驚いた顔になっている場合には、欠伸時には発生しない顔特徴が表れる。従って、顔表情特徴比較部248は、人物の顔の特徴量が、欠伸時には発生しない顔特徴を示す顔特徴量となっている場合には、欠伸を要因とする開口ではないと判定する。
具体的には、顔表情特徴比較部248は、顔特徴量記憶部136に記憶されている顔表情の何れかが、図13の顔表情特徴モデル222に示されている判定条件を満たしている場合には、笑顔による開口又は驚きによる開口であると判定する。
なお、顔表情特徴比較部248は、顔特徴量記憶部136に記憶されている顔特徴量を用いて、Random Forest、SVM(Support Vector Machine)、Adaboost、CNN(Convolutional Neural Network)等の機械学習技術を用いて、予め定められた要因による開口か否かを判定してもよい。
顔表情特徴比較結果記憶部249は、顔表情特徴比較部248での比較結果(判定結果ともいう)を記憶する。
顔表情特徴比較部248での比較結果は、例えば、「笑顔による開口」、「驚きによる開口」又は「開口」であるものとする。「開口」は、「笑顔による開口」又は「驚きによる開口」であると判定されなかった場合の比較結果である。ここで、「笑顔による開口」は、フレーム内の人物の表情が笑顔であることを示し、「驚きによる開口」は、その表情が驚いた顔であることを示す。
欠伸判定部244は、開口継続度記憶部140に記憶されている開口継続度と、顔表情特徴比較結果記憶部249に記憶されている比較結果とを用いて、予め定められた要因による開口であるか否かを判別し、欠伸を判定する。例えば、欠伸判定部244は、顔表情特徴比較部248での判定結果が、人物の表情が予め定められた表情である場合に、予め定められた要因による開口を行っていると判定し、その判定結果が、その人物の表情が予め定められた表情ではない場合に、予め定められた要因ではない要因による開口であると判定する。
具体的には、欠伸判定部244は、顔表情特徴比較結果記憶部249に記憶されている比較結果が「笑顔による開口」又は「驚きによる開口」である場合には、予め定められた要因による開口と判定し、その比較結果が「開口」である場合には、予め定められた要因ではない要因による開口と判定する。
次に、欠伸判定部244は、予め定められた要因による開口と判定した場合には、無効値を欠伸開口継続値とし、予め定められた要因ではない要因による開口と判定した場合には、そのフレームの開口継続度を欠伸開口継続度として、そのフレームを識別するための識別情報であるフレーム識別番号に対応付けて、一時記憶部145に記憶する。
そして、欠伸判定部244は、欠伸判定条件モデル221に含まれている欠伸判定条件が満たされている場合に、欠伸と判定する。
図15は、実施の形態2における欠伸判定部244での処理を示すフローチャートである。
まず、欠伸判定部244は、開口継続度記憶部140に記憶されている開口継続度と、顔表情特徴比較結果記憶部249に記憶されている比較結果とを取得する(S20)。
次に、欠伸判定部244は、取得された比較結果が予め定められた要因による開口であるか否かを判定する(S21)。例えば、欠伸判定部244は、比較結果が「笑顔による開口」又は「驚きによる開口」である場合には、予め定められた要因による開口であると判定し、比較結果が「開口」である場合には、予め定められた要因ではない要因による開口であると判定する。予め定められた要因による開口である場合(S21でYes)には、処理はステップS22に進み、予め定められた要因ではない要因による開口である場合(S21でNo)には、処理はステップS23に進む。
ステップS22では、欠伸判定部244は、開口継続度を予め定められた値である無効値(例えば、「-1」)とする。そして、処理はステップS23に進む。
ステップS23では、欠伸判定部244は、現フレームの開口継続度を、欠伸開口継続度として、そのフレーム番号とともに一時記憶部145に記憶させる。ここで、欠伸開口継続度は、予め定められた要因ではない要因による開口である場合には、現フレームに対応して開口継続度算出部139で算出された開口継続度であり、予め定められた要因による開口である場合には、ステップS22で設定された無効値となる。
次に、欠伸判定部244は、欠伸判定条件モデル221に含まれている欠伸判定条件を満たすか否かを判定する(S24)。ここでは、欠伸判定部244は、過去の予め定められた数のフレーム(例えば、100フレーム)の内、欠伸開口継続度が予め定められた値(例えば、40)以上となっているフレームの数が予め定められた数(例えば、20)以上のときに、欠伸と判定する。欠伸判定条件が満たされている場合(S24でYes)には、処理はステップS25に進み、欠伸判定条件が満たされていない場合(S24でNo)には、処理はステップS26に進む。
ステップS25では、欠伸判定部244は、欠伸と判定し、その判定結果を欠伸判定結果記憶部146に記憶する。なお、欠伸判定部244は、欠伸は続けて発生しないと想定し、一度欠伸と判定したら一定フレーム(例えば、100フレーム)は、欠伸と判定しない。
一方、ステップS26では、欠伸判定部144は、欠伸ではないと判定し、その判定結果を欠伸判定結果記憶部146に記憶する。
以上のように、実施の形態2によれば、動画像に映っている人物の表情が笑顔又は驚いた顔となっている状態では、欠伸と判定しないため、人物の口が開いている状態から、精度よく欠伸を検出することができる。
実施の形態3.
図11に示されているように、実施の形態3に係る情報処理装置としての欠伸判定装置300は、撮像部110と、データベース部320と、処理部330と、表示部150とを備える。
実施の形態3に係る欠伸判定装置300の撮像部110及び表示部150は、実施の形態1に係る欠伸判定装置100の撮像部110及び表示部150と同様である。
データベース部320は、欠伸判定条件モデル321と、顔表情特徴モデル222とを記憶する記憶部である。
実施の形態3における顔表情特徴モデル222は、実施の形態2における顔表情特徴モデル222と同様である。
欠伸判定条件モデル321は、開口区別判定条件及び欠伸判定条件を含む。
実施の形態3における欠伸判定条件モデル321の欠伸判定条件は、実施の形態1における欠伸判定条件モデル121の欠伸判定条件と同様である。
開口区別判定条件は、予め定められた要因による開口と、予め定められた要因ではない要因による開口とを区別するために使用される判定条件である。
図16は、開口区別判定条件の一例を示す概略図である。
実施の形態3では、開口区別判定条件は、開口速度評価値が予め定められた閾値(例えば、20)未満である場合には、予め定められた要因による開口と判定し、その開口速度評価値が予め定められた閾値以上である場合には、予め定められた要因ではない要因による開口であると判定する条件と、顔表情特徴比較結果に応じて、予め定められた要因による開口か、予め定められた要因ではない要因による開口かを判定する条件とになっている。実施の形態3でも、予め定められた要因は、人物の表情が、笑顔又は怒った顔であることである。
図11に戻り、処理部330は、欠伸判定装置300での処理を実行する。
図17は、実施の形態3における処理部330の構成を概略的に示すブロック図である。
処理部330は、入力部131と、顔領域抽出部132と、顔特徴点抽出部133と、顔特徴点記憶部134と、顔特徴量算出部135と、顔特徴量記憶部136と、開口度特定部137と、開口度記憶部138と、開口継続度算出部139と、開口継続度記憶部140と、判定処理部341と、欠伸判定結果記憶部146と、出力部147とを備える。
判定処理部341は、開口速度評価値算出部142と、開口速度評価値記憶部143と、欠伸判定部344と、一時記憶部145と、顔表情特徴比較部248と、顔表情特徴比較結果記憶部249とを備える。
実施の形態3における処理部330の入力部131、顔領域抽出部132、顔特徴点抽出部133、顔特徴点記憶部134、顔特徴量算出部135、顔特徴量記憶部136、開口度特定部137、開口度記憶部138、開口継続度算出部139、開口継続度記憶部140、一時記憶部145、欠伸判定結果記憶部146及び出力部147は、実施の形態1における処理部130の入力部131、顔領域抽出部132、顔特徴点抽出部133、顔特徴点記憶部134、顔特徴量算出部135、顔特徴量記憶部136、開口度特定部137、開口度記憶部138、開口継続度算出部139、開口継続度記憶部140、一時記憶部145、欠伸判定結果記憶部146及び出力部147と同様である。
また、実施の形態3における処理部330の顔表情特徴比較部248及び顔表情特徴比較結果記憶部249は、実施の形態2における処理部230の顔表情特徴比較部248及び顔表情特徴比較結果記憶部249と同様である。
実施の形態3でも、判定処理部341は、フレーム内の人物が予め定められた要因による開口を行っているか否かを判定する。
但し、実施の形態3では、判定処理部341は、その人物が会話を行っている場合、又は、その人物の表情が欠伸とは異なる予め定められた表情である場合に、予め定められた要因による開口を行っていると判定する。
実施の形態3における判定処理部341での処理は、開口速度評価値算出部142、開口速度評価値記憶部143、欠伸判定部344、一時記憶部145、顔表情特徴比較部248及び顔表情特徴比較結果記憶部249により実現される。以下説明する。
欠伸判定部344は、開口継続度記憶部140に記憶されている開口継続度と、開口速度評価値記憶部143に記憶されている開口速度と、顔表情特徴比較結果記憶部249に記憶されている比較結果とを用いて、予め定められた要因による開口と、予め定められた要因ではない要因による開口とを区別し、欠伸を判定する。
具体的には、欠伸判定部344は、開口速度評価値記憶部143に記憶されている開口速度評価値が欠伸判定条件モデル121に含まれている開口区別判定条件において、開口速度評価値が予め定められた閾値(例えば、20)未満である場合には、予め定められた要因による開口と判定する。
また、欠伸判定部344は、顔表情特徴比較結果記憶部249に記憶されている比較結果が「笑顔による開口」又は「驚きによる開口」である場合には、予め定められた要因による開口であると判定し、その比較結果が「開口」である場合には、予め定められた要因ではない要因による開口と判定する。
次に、欠伸判定部344は、予め定められた要因による開口と判定した場合には、無効値を欠伸開口継続値とし、予め定められた要因ではない要因による開口と判定した場合には、そのフレームの開口継続度を欠伸開口継続度として、そのフレームを識別するための識別情報であるフレーム識別番号に対応付けて、一時記憶部145に記憶する。
そして、欠伸判定部344は、欠伸判定条件モデル321に含まれている欠伸判定条件が満たされている場合に、欠伸と判定する。
ここでは、欠伸判定部344は、過去の予め定められた数のフレーム(例えば、100フレーム)の内、欠伸開口継続度が予め定められた値(例えば、40)以上となっているフレームの数が予め定められた数(例えば、20)以上のときに、欠伸と判定する。
図18は、実施の形態3における欠伸判定部344での処理を示すフローチャートである。
まず、欠伸判定部344は、開口継続度記憶部140に記憶されている開口継続度と、開口速度評価値記憶部143に記憶されている開口速度評価値と、顔表情特徴比較結果記憶部249に記憶されている比較結果とを取得する(S30)。
次に、欠伸判定部344は、取得された開口速度評価値が、開口区別判定条件における閾値a以上であるか否かを判定する(S31)。開口速度評価値が閾値a未満である場合(S31でNo)には、処理はステップS32に進み、開口速度評価値が閾値a以上である場合(S31でYes)には、処理はステップS33に進む。
ステップS32では、開口速度評価値が閾値a未満であり、動画像に映っている人物の開口が欠伸以外の会話であると考えられるため、欠伸判定部344は、開口継続度を予め定められた値である無効値(例えば、「-1」)とする。そして、処理はステップS33に進む。
ステップS33では、欠伸判定部344は、取得された比較結果が予め定められた要因による開口であるか否かを判定する。例えば、欠伸判定部344は、比較結果が「笑顔による開口」又は「驚きによる開口」である場合には、予め定められた要因による開口であると判定し、比較結果が「開口」である場合には、予め定められた要因ではない要因による開口であると判定する。予め定められた要因による開口である場合(S33でYes)には、処理はステップS34に進み、予め定められた要因ではない要因による開口である場合(S34でNo)には、処理はステップS35に進む。
ステップS34では、欠伸判定部344は、開口継続度を予め定められた値である無効値(例えば、「-1」)とする。そして、処理はステップS35に進む。
ステップS35では、欠伸判定部344は、現フレームの開口継続度を、欠伸開口継続度として、そのフレーム番号とともに一時記憶部145に記憶させる。
次に、欠伸判定部344は、欠伸判定条件モデル321に含まれている欠伸判定条件を満たすか否かを判定する(S36)。ここでは、欠伸判定部344は、過去の予め定められた数のフレーム(例えば、100フレーム)の内、欠伸開口継続度が予め定められた値(例えば、40)以上となっているフレームの数が予め定められた数(例えば、20)以上のときに、欠伸と判定する。欠伸判定条件が満たされている場合(S36でYes)には、処理はステップS37に進み、欠伸判定条件が満たされていない場合(S36でNo)には、処理はステップS38に進む。
ステップS37では、欠伸判定部344は、欠伸と判定し、その判定結果を欠伸判定結果記憶部146に記憶する。なお、欠伸判定部344は、欠伸は続けて発生しないと想定し、一度欠伸と判定したら一定フレーム(例えば、100フレーム)は、欠伸と判定しない。
一方、ステップS36では、欠伸判定部344は、欠伸ではないと判定し、その判定結果を欠伸判定結果記憶部146に記憶する。
以上のように、実施の形態3によれば、動画像に映っている人物が会話している状態、笑顔である状態、及び、驚いている状態では、欠伸と判定しないため、人物の口が開いている状態から、精度よく欠伸を検出することができる。
以上に記載された実施の形態1~3では、欠伸判定装置100、200、300が、撮像部110、データベース部120、処理部130、230、330及び表示部150の全てを備えているが、実施の形態1~3は、このような例に限定されない。例えば、撮像部110、データベース部120及び表示部150の少なくとも一つは、欠伸判定装置100、200、300とネットワークで接続された別の装置であってもよい。
100,200,300 欠伸判定装置、 110 撮像部、 120,220,320 データベース部、 121,221,321 欠伸判定条件モデル、 222 顔表情特徴モデル、 130,230,330 処理部、 131 入力部、 132 顔領域抽出部、 133 顔特徴点抽出部、 134 顔特徴点記憶部、 135 顔特徴量算出部、 136 顔特徴量記憶部、 137 開口度特定部、 138 開口度記憶部、 139 開口継続度算出部、 140 開口継続度記憶部、 141,241,341 判定処理部、 142 開口速度評価値算出部、 143 開口速度評価値記憶部、 144,244,344 欠伸判定部、 145 一時記憶部、 146 欠伸判定結果記憶部、 147 出力部、 248 顔表情特徴比較部、 249 顔表情特徴比較結果記憶部、 150 表示部。

Claims (14)

  1. 動画像に含まれている複数のフレームの各々から、人物の顔の領域である顔領域を抽出する顔領域抽出部と、
    前記顔領域から、予め定められた複数の特徴点を抽出する顔特徴点抽出部と、
    前記複数の特徴点から、前記顔の特徴を示す顔特徴量を算出する顔特徴量算出部と、
    前記顔特徴量から、前記顔において口が開いている度合いである開口度を特定する開口度特定部と、
    前記複数のフレームから特定された複数の前記開口度により、前記口が継続して開いている度合いである開口継続度を算出する開口継続度算出部と、
    前記人物が欠伸以外の予め定められた要因による開口を行っているか否かを判定し、前記予め定められた要因による開口を行っていると判定されたフレームに、予め定められた第1の閾値よりも低い値を欠伸開口継続度として対応付け、前記予め定められた要因による開口を行っていないと判定されたフレームに、前記開口継続度を欠伸開口継続度として対応付け、最新のフレームを含む予め定められた数の連続したフレームの内、前記第1の閾値以上となっている欠伸開口継続度が対応付けられているフレームの数が、予め定められた第2の閾値以上の場合に、前記人物が欠伸をしたと判定する判定処理部と、を備えること
    を特徴とする情報処理装置。
  2. 前記判定処理部は、前記人物が会話を行っている場合に、前記予め定められた要因による開口を行っていると判定すること
    を特徴とする請求項1に記載の情報処理装置。
  3. 前記判定処理部は、前記口が開く速度である開口速度が予め定められた第3の閾値未満の場合に、前記人物が会話を行っていると判定すること
    を特徴とする請求項2に記載の情報処理装置。
  4. 前記判定処理部は、
    前記開口継続度から、前記開口速度が速くなるほど大きくなる値である開口速度評価値を算出する開口速度評価値算出部と、
    前記開口速度評価値が予め定められた第4の閾値未満である場合に、前記開口速度が前記第3の閾値未満であると判定する欠伸判定部と、を備えること
    を特徴とする請求項3に記載の情報処理装置。
  5. 前記判定処理部は、前記人物の表情が欠伸とは異なる予め定められた表情である場合に、前記予め定められた要因による開口を行っていると判定すること
    を特徴とする請求項1に記載の情報処理装置。
  6. 前記判定処理部は、
    前記顔特徴量から、前記人物の表情が前記予め定められた表情であるか否かを判定する顔表情判定部と、
    前記顔表情判定部での判定結果が、前記人物の表情が前記予め定められた表情である場合に、前記予め定められた要因による開口を行っていると判定し、前記顔表情判定部での判定結果が、前記人物の表情が前記予め定められた表情ではない場合に、前記予め定められた要因による開口を行っていないと判定する欠伸判定部と、を備えること
    を特徴とする請求項5に記載の情報処理装置。
  7. 前記予め定められた表情は、笑顔又は驚いた顔であること
    を特徴とする請求項5又は6に記載の情報処理装置。
  8. 前記判定処理部は、前記人物が会話を行っている場合、又は、前記人物の表情が欠伸とは異なる予め定められた表情である場合に、前記予め定められた要因による開口を行っていると判定すること
    を特徴とする請求項1に記載の情報処理装置。
  9. 前記判定処理部は、前記口が開く速度である開口速度が予め定められた第3の閾値未満の場合に、前記人物が会話を行っていると判定すること
    を特徴とする請求項8に記載の情報処理装置。
  10. 前記判定処理部は、
    前記開口継続度から、前記開口速度が速くなるほど大きくなる値である開口速度評価値を算出する開口速度評価値算出部と、
    前記開口速度評価値が予め定められた第4の閾値未満である場合に、前記開口速度が前記第3の閾値未満であると判定する欠伸判定部と、を備えること
    を特徴とする請求項9に記載の情報処理装置。
  11. 前記判定処理部は、
    前記顔特徴量から、前記人物の表情が前記予め定められた表情であるか否かを判定する顔表情判定部と、
    前記顔表情判定部での判定結果が、前記人物の表情が前記予め定められた表情である場合に、前記予め定められた要因による開口を行っている判定し、前記顔表情判定部での判定結果が、前記人物の表情が前記予め定められた表情ではない場合に、前記予め定められた要因による開口を行っていないと判定する欠伸判定部と、を備えること
    を特徴とする請求項8に記載の情報処理装置。
  12. 前記予め定められた表情は、笑顔又は驚いた顔であること
    を特徴とする請求項11に記載の情報処理装置。
  13. コンピュータを、
    動画像に含まれている複数のフレームの各々から、人物の顔の領域である顔領域を抽出する顔領域抽出部、
    前記顔領域から、予め定められた複数の特徴点を抽出する顔特徴点抽出部、
    前記複数の特徴点から、前記顔の特徴を示す顔特徴量を算出する顔特徴量算出部、
    前記顔特徴量から、前記顔において口が開いている度合いである開口度を特定する開口度特定部、
    前記複数のフレームから特定された複数の前記開口度により、前記口が継続して開いている度合いである開口継続度を算出する開口継続度算出部、及び、
    前記人物が欠伸以外の予め定められた要因による開口を行っているか否かを判定し、前記予め定められた要因による開口を行っていると判定されたフレームに、予め定められた第1の閾値よりも低い値を欠伸開口継続度として対応付け、前記予め定められた要因による開口を行っていないと判定されたフレームに、前記開口継続度を欠伸開口継続度として対応付け、最新のフレームを含む予め定められた数の連続したフレームの内、前記第1の閾値以上となっている欠伸開口継続度が対応付けられているフレームの数が、予め定められた第2の閾値以上の場合に、前記人物が欠伸をしたと判定する判定処理部、として機能させること
    を特徴とするプログラム。
  14. 動画像に含まれている複数のフレームの各々から、人物の顔の領域である顔領域を抽出し、
    前記顔領域から、予め定められた複数の特徴点を抽出し、
    前記複数の特徴点から、前記顔の特徴を示す顔特徴量を算出し、
    前記顔特徴量から、前記顔において口が開いている度合いである開口度を特定し、
    前記複数のフレームから特定された複数の前記開口度により、前記口が継続して開いている度合いである開口継続度を算出し、
    前記人物が欠伸以外の予め定められた要因による開口を行っているか否かを判定し、前記予め定められた要因による開口を行っていると判定されたフレームに、予め定められた第1の閾値よりも低い値を欠伸開口継続度として対応付け、
    前記予め定められた要因による開口を行っていないと判定されたフレームに、前記開口継続度を欠伸開口継続度として対応付け、
    最新のフレームを含む予め定められた数の連続したフレームの内、前記第1の閾値以上となっている欠伸開口継続度が対応付けられているフレームの数が、予め定められた第2の閾値以上の場合に、前記人物が欠伸をしたと判定すること
    を特徴とする情報処理方法。
JP2021541019A 2019-09-20 2019-09-20 情報処理装置、プログラム及び情報処理方法 Active JP6991401B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2019/036871 WO2021053806A1 (ja) 2019-09-20 2019-09-20 情報処理装置、プログラム及び情報処理方法

Publications (2)

Publication Number Publication Date
JPWO2021053806A1 JPWO2021053806A1 (ja) 2021-11-25
JP6991401B2 true JP6991401B2 (ja) 2022-01-12

Family

ID=74884460

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021541019A Active JP6991401B2 (ja) 2019-09-20 2019-09-20 情報処理装置、プログラム及び情報処理方法

Country Status (3)

Country Link
JP (1) JP6991401B2 (ja)
DE (1) DE112019007642T5 (ja)
WO (1) WO2021053806A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2022149287A (ja) * 2021-03-25 2022-10-06 トヨタ自動車株式会社 ドライバ監視装置、ドライバ監視方法及びドライバ監視用コンピュータプログラム

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005199078A (ja) 2005-02-07 2005-07-28 Toshiba Corp 状態監視装置
CN109934199A (zh) 2019-03-22 2019-06-25 扬州大学 一种基于计算机视觉的驾驶员疲劳检测方法及系统

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5365374B2 (ja) * 2009-06-30 2013-12-11 日産自動車株式会社 欠伸判定装置及び方法

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005199078A (ja) 2005-02-07 2005-07-28 Toshiba Corp 状態監視装置
CN109934199A (zh) 2019-03-22 2019-06-25 扬州大学 一种基于计算机视觉的驾驶员疲劳检测方法及系统

Also Published As

Publication number Publication date
WO2021053806A1 (ja) 2021-03-25
DE112019007642T5 (de) 2022-05-19
JPWO2021053806A1 (ja) 2021-11-25

Similar Documents

Publication Publication Date Title
US8837773B2 (en) Apparatus which detects moving object from image and method thereof
CN106557723B (zh) 一种带交互式活体检测的人脸身份认证系统及其方法
CN109840565A (zh) 一种基于眼部轮廓特征点纵横比的眨眼检测方法
Basu et al. Human emotion recognition from facial thermal image based on fused statistical feature and multi-class SVM
US20210271865A1 (en) State determination device, state determination method, and recording medium
JP2014093023A (ja) 物体検出装置、物体検出方法及びプログラム
JP6784261B2 (ja) 情報処理装置、画像処理システム、画像処理方法及びプログラム
Dey et al. Computer vision based gender detection from facial image
JP6991401B2 (ja) 情報処理装置、プログラム及び情報処理方法
CN111860057A (zh) 人脸图像模糊和活体检测方法、装置、存储介质及设备
Zhao et al. Applying contrast-limited adaptive histogram equalization and integral projection for facial feature enhancement and detection
JP6101470B2 (ja) 顔表情解析装置および顔表情解析プログラム
KR102616230B1 (ko) 사용자 이미지에 기반하여 사용자의 집중력을 판단하는방법 및 이를 수행하는 운영 서버
WO2022049704A1 (ja) 情報処理システム、情報処理方法、及びコンピュータプログラム
JP2014119879A (ja) 顔表情評価結果平滑化装置および顔表情評価結果平滑化プログラム
JP7439932B2 (ja) 情報処理システム、データ蓄積装置、データ生成装置、情報処理方法、データ蓄積方法、データ生成方法及び記録媒体、並びに、データベース
JP7552698B2 (ja) 画像処理装置、画像処理方法、及び、記録媒体
Lollett et al. Driver’s drowsiness classifier using a single-camera robust to mask-wearing situations using an eyelid, lower-face contour, and chest movement feature vector gru-based model
Simbolon et al. The Effect of Bicubic Interpolation on Viola-Jones and Principal Component Analysis in Detecting Faces and Helmet Wearers
Patil et al. Analysis of Facial Expression using Deep Learning Techniques
Mariappan et al. A labVIEW design for frontal and non-frontal human face detection system in complex background
KR102674496B1 (ko) 원격 광용적맥파신호를 이용한 위조 얼굴 판별 방법 및 장치
Adepoju et al. Gender classification based on local binary pattern and K-nearest neighbour
Colak et al. Eyematch: an eye localization method for frontal face images
Robin et al. A novel approach to detect & track iris for a different and adverse dataset

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210714

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20210714

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20211109

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20211207

R150 Certificate of patent or registration of utility model

Ref document number: 6991401

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350