JP6991401B2 - 情報処理装置、プログラム及び情報処理方法 - Google Patents
情報処理装置、プログラム及び情報処理方法 Download PDFInfo
- Publication number
- JP6991401B2 JP6991401B2 JP2021541019A JP2021541019A JP6991401B2 JP 6991401 B2 JP6991401 B2 JP 6991401B2 JP 2021541019 A JP2021541019 A JP 2021541019A JP 2021541019 A JP2021541019 A JP 2021541019A JP 6991401 B2 JP6991401 B2 JP 6991401B2
- Authority
- JP
- Japan
- Prior art keywords
- opening
- yawning
- predetermined
- unit
- determination
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000010365 information processing Effects 0.000 title claims description 22
- 238000003672 processing method Methods 0.000 title claims description 4
- 206010048232 Yawning Diseases 0.000 claims description 222
- 241001282135 Poromitra oscitans Species 0.000 claims description 209
- 230000008921 facial expression Effects 0.000 claims description 86
- 238000011156 evaluation Methods 0.000 claims description 57
- 230000001815 facial effect Effects 0.000 claims description 56
- 238000004364 calculation method Methods 0.000 claims description 48
- 238000000605 extraction Methods 0.000 claims description 34
- 239000000284 extract Substances 0.000 claims description 12
- 238000000034 method Methods 0.000 description 36
- 230000008569 process Effects 0.000 description 24
- 238000010586 diagram Methods 0.000 description 22
- 206010041349 Somnolence Diseases 0.000 description 9
- 210000004709 eyebrow Anatomy 0.000 description 4
- 238000003384 imaging method Methods 0.000 description 3
- 238000013527 convolutional neural network Methods 0.000 description 2
- 230000007812 deficiency Effects 0.000 description 2
- 238000001514 detection method Methods 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 238000012706 support-vector machine Methods 0.000 description 2
- 238000004458 analytical method Methods 0.000 description 1
- 210000004556 brain Anatomy 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 210000000887 face Anatomy 0.000 description 1
- 230000001771 impaired effect Effects 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 238000010606 normalization Methods 0.000 description 1
- 238000003909 pattern recognition Methods 0.000 description 1
- 230000002250 progressing effect Effects 0.000 description 1
- 238000007637 random forest analysis Methods 0.000 description 1
- 230000000630 rising effect Effects 0.000 description 1
- 230000007704 transition Effects 0.000 description 1
Images
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/16—Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state
- A61B5/18—Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state for vehicle drivers or machine operators
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/48—Other medical applications
- A61B5/4806—Sleep evaluation
- A61B5/4809—Sleep detection, i.e. determining whether a subject is asleep or not
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/168—Feature extraction; Face representation
- G06V40/171—Local features and components; Facial parts ; Occluding parts, e.g. glasses; Geometrical relationships
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/174—Facial expression recognition
- G06V40/176—Dynamic expression
Landscapes
- Health & Medical Sciences (AREA)
- Engineering & Computer Science (AREA)
- Life Sciences & Earth Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Oral & Maxillofacial Surgery (AREA)
- Physics & Mathematics (AREA)
- Biomedical Technology (AREA)
- Animal Behavior & Ethology (AREA)
- Theoretical Computer Science (AREA)
- Veterinary Medicine (AREA)
- Public Health (AREA)
- General Physics & Mathematics (AREA)
- Biophysics (AREA)
- Pathology (AREA)
- Human Computer Interaction (AREA)
- Heart & Thoracic Surgery (AREA)
- Medical Informatics (AREA)
- Molecular Biology (AREA)
- Surgery (AREA)
- Multimedia (AREA)
- Anesthesiology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Child & Adolescent Psychology (AREA)
- Developmental Disabilities (AREA)
- Educational Technology (AREA)
- Hospice & Palliative Care (AREA)
- Psychiatry (AREA)
- Psychology (AREA)
- Social Psychology (AREA)
- Image Analysis (AREA)
- Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
Description
図1は、実施の形態1に係る情報処理装置としての欠伸判定装置100の構成を概略的に示すブロック図である。
欠伸判定装置100は、撮像部110と、データベース部120と、処理部130と、表示部150とを備える。
データベース部120は、欠伸判定条件モデル121を記憶する記憶部である。
欠伸判定条件モデル121は、開口区別判定条件及び欠伸判定条件を含む。
図2は、開口区別判定条件の一例を示す概略図である。
実施の形態1では、開口区別判定条件は、後述する開口速度評価値が予め定められた閾値(例えば、20)以上である場合には、予め定められた要因ではない要因による開口と判定し、その開口速度評価値が予め定められた閾値未満である場合には、予め定められた要因による開口と判定する条件になっている。開口速度評価値の詳細は、後述する。なお、予め定められた要因ではない要因による開口が行われている場合は、予め定められた要因による開口が行われていないことになる。
図3は、欠伸判定条件の一例を示す概略図である。
実施の形態1では、欠伸判定条件は、過去の予め定められた数のフレーム(例えば、100フレーム)の内、欠伸開口継続度が第1の閾値としての予め定められた値(例えば、40)以上となっているフレームの数が第2の閾値としての予め定められた数(例えば、20)以上の場合に、欠伸と判定する条件となっている。なお、欠伸開口継続度の詳細は、後述する。ここで、過去の予め定められた数のフレームは、最新のフレームを含む予め定められた数の連続したフレームである。
図4は、実施の形態1における処理部130の構成を概略的に示すブロック図である。
処理部130は、入力部131と、顔領域抽出部132と、顔特徴点抽出部133と、顔特徴点記憶部134と、顔特徴量算出部135と、顔特徴量記憶部136と、開口度特定部137と、開口度記憶部138と、開口継続度算出部139と、開口継続度記憶部140と、判定処理部141と、欠伸判定結果記憶部146と、出力部147とを備える。
例えば、顔領域抽出部132は、Adaboost学習によるHaar-like特徴を用いた識別器を用いて、入力された動画像から人物の顔領域を抽出する。
これについては、例えば、下記の文献に記載されている。
Paul Viola, Michael J. Jones、“Robust Real-Time Face Detection”、International Journal of Computer Vision. Vol. 57、 No.2、 pp137-154、2004年
抽出された顔領域画像において輪郭、眉毛、目、鼻又は口等の顔特徴点を抽出する抽出方法としては、例えば、下記の文献に記載されている公知の方法が用いられればよい。
Wiskott L., Fellous j.-M., Kruger N., von der Mlsburg C.、 “Face Recognition by Elastic Bunch Graph Matching”、 IEEE Transactions on Pattern Analysis and Machine Intelligence、 Vol. 19、 Issue 7、 pp.775-779、 1997年
図5は、顔特徴点記憶部134に記憶されている顔特徴点情報の一例を示す概略図である。
図5に示されているように、顔特徴点情報は、顔特徴点の座標及び顔の向きの角度を含む。
例えば、顔特徴量算出部135は、2点の顔特徴点間の距離又は3点の顔特徴点からなる角度等により顔の特徴を表す顔特徴量を算出する。
具体的には、顔特徴量算出部135は、図6に示されているように、人物の顔の正面から見て左目の目頭と目尻との2点間の距離V1、右目の目頭と目尻との2点間の距離V2、上唇と下唇との2点間の距離V3、基準点(例えば、鼻の先端)Pと両眉の内端とを結んだ直線L1、L2間の角度(V4)、基準点Pと鼻の下の両端とを結んだ直線L3、L4間の角度V5、及び、基準点Pと左右両口角とを結んだ直線L5、L6間の角度V6を顔特徴量として算出する。これらの顔特徴量は、口角の上がり、小鼻の開き、眉のしかめ等表情変化において特徴が表れるとされている特徴量である。
このとき画像特徴量は、例えば、HOG(Histograms of Oriented Gradients)特徴量を用いるものとする。
これについては、例えば、下記の文献に記載されている。
N.Dalal, B.Triggs、 “Histograms of Oriented Gradients for human Detection”、 Proc. IEEE Conference on Computer Vision and Pattern Recognition (CVPR)、 pp.886-893、2005年
図7は、顔特徴量記憶部136に記憶されている顔特徴量情報を示す概略図である。
図7に示されているように、顔特徴量情報は、顔特徴量として算出された値を格納する。
例えば、開口度特定部137は、上唇と下唇との2点間の距離V3を開口度として特定する。
具体的には、2次元の画像において、人物が正面を向いているときの開口度100%における距離V3と、人物が上又は下を見ているときの開口度100%における距離V3とは異なる。このため、開口度特定部137は、人物が正面を向いているときは、距離V3=5cmで開口度100%となるようにし、人物が上を向いているときは、距離V3=3cmで開口度100%となるように、顔特徴点記憶部134に記憶されている顔の向きに応じて、開口度100%となる距離V3の値を変化させる正規化処理を行ってもよい。
例えば、開口継続度算出部139は、動画像におけるt番目(tは1以上の整数)のフレームであるtフレームの開口度と、過去のフレームの開口度とを重み付けして加算することで、開口継続度を算出する。t+1番目のフレームであるt+1フレームにおける開口継続度xt+1の算出式は、下記の(1)式である。
この開口継続度は、継続して開口する場合に数値が高くなる時間フィルタをかけた値である。
そして、判定処理部141は、最新のフレームを含む予め定められた数の連続したフレームの内、第1の閾値以上となっている欠伸開口継続度が対応付けられているフレームの数が、予め定められた第2の閾値以上の場合に、その人物が欠伸をしたと判定する。
具体的には、判定処理部141は、人物の口が開く速度である開口速度が予め定められた第3の閾値未満の場合に、その人物が会話を行っていると判定する。
tフレームにおける開口速度ztは、下記の(2)式で算出することができる。
実施の形態1では、開口速度評価値算出部142は、開口速度評価値z#3tを算出するものとする。ここで、(5)式では、xtの勾配に着目しており、上記の(1)式のαの値を小さく設定した場合、開口速度が速くなると、xtとytとの差分が大きくなるため、開口速度評価値z#3tは、開口速度の評価値として使用することができる。
ここでは、欠伸判定部144は、過去の予め定められた数のフレーム(例えば、100フレーム)の内、欠伸開口継続度が予め定められた値(例えば、40)以上となっているフレームの数が予め定められた数(例えば、20)以上のときに、欠伸と判定する。
実施の形態1に係る欠伸判定装置100は、カメラ161と、補助記憶装置162と、プロセッサ163と、メモリ164と、表示装置165とを備えるコンピュータ160により構成することができる。
データベース部120は、HDD(Hard Disk Drive)等の補助記憶装置162により実現することができる。
プロセッサ163は、CPU(Central Processing Unit)等により実現することができ、メモリ164は、不揮発メモリにより実現することができる。プロセッサ163は、補助記憶装置162に記憶されているプログラムをメモリ164に読み出して、そのプログラムを実行することで各種処理を実行する。このようなプログラムは、ネットワークを通じて提供されてもよく、また、記録媒体に記録されて提供されてもよい。即ち、このようなプログラムは、例えば、プログラムプロダクトとして提供されてもよい。
表示部150は、表示装置165により実現することができる。
まず、欠伸判定部144は、開口継続度記憶部140に記憶されている開口継続度と、開口速度評価値記憶部143に記憶されている開口速度評価値とを取得する(S10)。
一方、ステップS16では、欠伸判定部144は、欠伸ではないと判定し、その判定結果を欠伸判定結果記憶部146に記憶する。
図11は、実施の形態2に係る情報処理装置としての欠伸判定装置200の構成を概略的に示すブロック図である。
欠伸判定装置200は、撮像部110と、データベース部220と、処理部230と、表示部150とを備える。
実施の形態2に係る欠伸判定装置200の撮像部110及び表示部150は、実施の形態1に係る欠伸判定装置100の撮像部110及び表示部150と同様である。
欠伸判定条件モデル221は、開口区別判定条件及び欠伸判定条件を含む。
実施の形態2における欠伸判定条件モデル221の欠伸判定条件は、実施の形態1における欠伸判定条件モデル121の欠伸判定条件と同様である。
図12は、開口区別判定条件の一例を示す概略図である。
実施の形態2では、開口区別判定条件は、後述する顔表情特徴比較結果に応じて、予め定められた要因による開口か、予め定められた要因ではない要因による開口かを判定する条件になっている。実施の形態2では、予め定められた要因は、人物の表情が、笑顔又は怒った顔であることである。
笑顔判定条件は、顔特徴量に基づいて、動画像に含まれている人物の表情が笑顔であることを判定するための条件である。
驚き判定条件は、顔特徴量に基づいて、動画像に含まれている人物の表情が驚いた顔であることを判定するための条件である。
顔特徴量が、図13に示されている何れかの条件を満たす場合には、人物の表情が笑顔又は驚いた顔であると判定される。
図14は、実施の形態2における処理部230の構成を概略的に示すブロック図である。
処理部230は、入力部131と、顔領域抽出部132と、顔特徴点抽出部133と、顔特徴点記憶部134と、顔特徴量算出部135と、顔特徴量記憶部136と、開口度特定部137と、開口度記憶部138と、開口継続度算出部139と、開口継続度記憶部140と、判定処理部241と、欠伸判定結果記憶部146と、出力部147とを備える。
但し、実施の形態2では、判定処理部241は、人物の表情が欠伸とは異なる予め定められた表情である場合に、予め定められた要因による開口を行っていると判定する。
実施の形態2における判定処理部241での処理は、欠伸判定部244、一時記憶部145、顔表情特徴比較部248及び顔表情特徴比較結果記憶部249により実現される。以下説明する。
顔表情特徴比較部248での比較結果は、例えば、「笑顔による開口」、「驚きによる開口」又は「開口」であるものとする。「開口」は、「笑顔による開口」又は「驚きによる開口」であると判定されなかった場合の比較結果である。ここで、「笑顔による開口」は、フレーム内の人物の表情が笑顔であることを示し、「驚きによる開口」は、その表情が驚いた顔であることを示す。
そして、欠伸判定部244は、欠伸判定条件モデル221に含まれている欠伸判定条件が満たされている場合に、欠伸と判定する。
まず、欠伸判定部244は、開口継続度記憶部140に記憶されている開口継続度と、顔表情特徴比較結果記憶部249に記憶されている比較結果とを取得する(S20)。
一方、ステップS26では、欠伸判定部144は、欠伸ではないと判定し、その判定結果を欠伸判定結果記憶部146に記憶する。
図11に示されているように、実施の形態3に係る情報処理装置としての欠伸判定装置300は、撮像部110と、データベース部320と、処理部330と、表示部150とを備える。
実施の形態3に係る欠伸判定装置300の撮像部110及び表示部150は、実施の形態1に係る欠伸判定装置100の撮像部110及び表示部150と同様である。
実施の形態3における顔表情特徴モデル222は、実施の形態2における顔表情特徴モデル222と同様である。
実施の形態3における欠伸判定条件モデル321の欠伸判定条件は、実施の形態1における欠伸判定条件モデル121の欠伸判定条件と同様である。
図16は、開口区別判定条件の一例を示す概略図である。
実施の形態3では、開口区別判定条件は、開口速度評価値が予め定められた閾値(例えば、20)未満である場合には、予め定められた要因による開口と判定し、その開口速度評価値が予め定められた閾値以上である場合には、予め定められた要因ではない要因による開口であると判定する条件と、顔表情特徴比較結果に応じて、予め定められた要因による開口か、予め定められた要因ではない要因による開口かを判定する条件とになっている。実施の形態3でも、予め定められた要因は、人物の表情が、笑顔又は怒った顔であることである。
図17は、実施の形態3における処理部330の構成を概略的に示すブロック図である。
処理部330は、入力部131と、顔領域抽出部132と、顔特徴点抽出部133と、顔特徴点記憶部134と、顔特徴量算出部135と、顔特徴量記憶部136と、開口度特定部137と、開口度記憶部138と、開口継続度算出部139と、開口継続度記憶部140と、判定処理部341と、欠伸判定結果記憶部146と、出力部147とを備える。
但し、実施の形態3では、判定処理部341は、その人物が会話を行っている場合、又は、その人物の表情が欠伸とは異なる予め定められた表情である場合に、予め定められた要因による開口を行っていると判定する。
実施の形態3における判定処理部341での処理は、開口速度評価値算出部142、開口速度評価値記憶部143、欠伸判定部344、一時記憶部145、顔表情特徴比較部248及び顔表情特徴比較結果記憶部249により実現される。以下説明する。
そして、欠伸判定部344は、欠伸判定条件モデル321に含まれている欠伸判定条件が満たされている場合に、欠伸と判定する。
ここでは、欠伸判定部344は、過去の予め定められた数のフレーム(例えば、100フレーム)の内、欠伸開口継続度が予め定められた値(例えば、40)以上となっているフレームの数が予め定められた数(例えば、20)以上のときに、欠伸と判定する。
まず、欠伸判定部344は、開口継続度記憶部140に記憶されている開口継続度と、開口速度評価値記憶部143に記憶されている開口速度評価値と、顔表情特徴比較結果記憶部249に記憶されている比較結果とを取得する(S30)。
一方、ステップS36では、欠伸判定部344は、欠伸ではないと判定し、その判定結果を欠伸判定結果記憶部146に記憶する。
Claims (14)
- 動画像に含まれている複数のフレームの各々から、人物の顔の領域である顔領域を抽出する顔領域抽出部と、
前記顔領域から、予め定められた複数の特徴点を抽出する顔特徴点抽出部と、
前記複数の特徴点から、前記顔の特徴を示す顔特徴量を算出する顔特徴量算出部と、
前記顔特徴量から、前記顔において口が開いている度合いである開口度を特定する開口度特定部と、
前記複数のフレームから特定された複数の前記開口度により、前記口が継続して開いている度合いである開口継続度を算出する開口継続度算出部と、
前記人物が欠伸以外の予め定められた要因による開口を行っているか否かを判定し、前記予め定められた要因による開口を行っていると判定されたフレームに、予め定められた第1の閾値よりも低い値を欠伸開口継続度として対応付け、前記予め定められた要因による開口を行っていないと判定されたフレームに、前記開口継続度を欠伸開口継続度として対応付け、最新のフレームを含む予め定められた数の連続したフレームの内、前記第1の閾値以上となっている欠伸開口継続度が対応付けられているフレームの数が、予め定められた第2の閾値以上の場合に、前記人物が欠伸をしたと判定する判定処理部と、を備えること
を特徴とする情報処理装置。 - 前記判定処理部は、前記人物が会話を行っている場合に、前記予め定められた要因による開口を行っていると判定すること
を特徴とする請求項1に記載の情報処理装置。 - 前記判定処理部は、前記口が開く速度である開口速度が予め定められた第3の閾値未満の場合に、前記人物が会話を行っていると判定すること
を特徴とする請求項2に記載の情報処理装置。 - 前記判定処理部は、
前記開口継続度から、前記開口速度が速くなるほど大きくなる値である開口速度評価値を算出する開口速度評価値算出部と、
前記開口速度評価値が予め定められた第4の閾値未満である場合に、前記開口速度が前記第3の閾値未満であると判定する欠伸判定部と、を備えること
を特徴とする請求項3に記載の情報処理装置。 - 前記判定処理部は、前記人物の表情が欠伸とは異なる予め定められた表情である場合に、前記予め定められた要因による開口を行っていると判定すること
を特徴とする請求項1に記載の情報処理装置。 - 前記判定処理部は、
前記顔特徴量から、前記人物の表情が前記予め定められた表情であるか否かを判定する顔表情判定部と、
前記顔表情判定部での判定結果が、前記人物の表情が前記予め定められた表情である場合に、前記予め定められた要因による開口を行っていると判定し、前記顔表情判定部での判定結果が、前記人物の表情が前記予め定められた表情ではない場合に、前記予め定められた要因による開口を行っていないと判定する欠伸判定部と、を備えること
を特徴とする請求項5に記載の情報処理装置。 - 前記予め定められた表情は、笑顔又は驚いた顔であること
を特徴とする請求項5又は6に記載の情報処理装置。 - 前記判定処理部は、前記人物が会話を行っている場合、又は、前記人物の表情が欠伸とは異なる予め定められた表情である場合に、前記予め定められた要因による開口を行っていると判定すること
を特徴とする請求項1に記載の情報処理装置。 - 前記判定処理部は、前記口が開く速度である開口速度が予め定められた第3の閾値未満の場合に、前記人物が会話を行っていると判定すること
を特徴とする請求項8に記載の情報処理装置。 - 前記判定処理部は、
前記開口継続度から、前記開口速度が速くなるほど大きくなる値である開口速度評価値を算出する開口速度評価値算出部と、
前記開口速度評価値が予め定められた第4の閾値未満である場合に、前記開口速度が前記第3の閾値未満であると判定する欠伸判定部と、を備えること
を特徴とする請求項9に記載の情報処理装置。 - 前記判定処理部は、
前記顔特徴量から、前記人物の表情が前記予め定められた表情であるか否かを判定する顔表情判定部と、
前記顔表情判定部での判定結果が、前記人物の表情が前記予め定められた表情である場合に、前記予め定められた要因による開口を行っている判定し、前記顔表情判定部での判定結果が、前記人物の表情が前記予め定められた表情ではない場合に、前記予め定められた要因による開口を行っていないと判定する欠伸判定部と、を備えること
を特徴とする請求項8に記載の情報処理装置。 - 前記予め定められた表情は、笑顔又は驚いた顔であること
を特徴とする請求項11に記載の情報処理装置。 - コンピュータを、
動画像に含まれている複数のフレームの各々から、人物の顔の領域である顔領域を抽出する顔領域抽出部、
前記顔領域から、予め定められた複数の特徴点を抽出する顔特徴点抽出部、
前記複数の特徴点から、前記顔の特徴を示す顔特徴量を算出する顔特徴量算出部、
前記顔特徴量から、前記顔において口が開いている度合いである開口度を特定する開口度特定部、
前記複数のフレームから特定された複数の前記開口度により、前記口が継続して開いている度合いである開口継続度を算出する開口継続度算出部、及び、
前記人物が欠伸以外の予め定められた要因による開口を行っているか否かを判定し、前記予め定められた要因による開口を行っていると判定されたフレームに、予め定められた第1の閾値よりも低い値を欠伸開口継続度として対応付け、前記予め定められた要因による開口を行っていないと判定されたフレームに、前記開口継続度を欠伸開口継続度として対応付け、最新のフレームを含む予め定められた数の連続したフレームの内、前記第1の閾値以上となっている欠伸開口継続度が対応付けられているフレームの数が、予め定められた第2の閾値以上の場合に、前記人物が欠伸をしたと判定する判定処理部、として機能させること
を特徴とするプログラム。 - 動画像に含まれている複数のフレームの各々から、人物の顔の領域である顔領域を抽出し、
前記顔領域から、予め定められた複数の特徴点を抽出し、
前記複数の特徴点から、前記顔の特徴を示す顔特徴量を算出し、
前記顔特徴量から、前記顔において口が開いている度合いである開口度を特定し、
前記複数のフレームから特定された複数の前記開口度により、前記口が継続して開いている度合いである開口継続度を算出し、
前記人物が欠伸以外の予め定められた要因による開口を行っているか否かを判定し、前記予め定められた要因による開口を行っていると判定されたフレームに、予め定められた第1の閾値よりも低い値を欠伸開口継続度として対応付け、
前記予め定められた要因による開口を行っていないと判定されたフレームに、前記開口継続度を欠伸開口継続度として対応付け、
最新のフレームを含む予め定められた数の連続したフレームの内、前記第1の閾値以上となっている欠伸開口継続度が対応付けられているフレームの数が、予め定められた第2の閾値以上の場合に、前記人物が欠伸をしたと判定すること
を特徴とする情報処理方法。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/JP2019/036871 WO2021053806A1 (ja) | 2019-09-20 | 2019-09-20 | 情報処理装置、プログラム及び情報処理方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2021053806A1 JPWO2021053806A1 (ja) | 2021-11-25 |
JP6991401B2 true JP6991401B2 (ja) | 2022-01-12 |
Family
ID=74884460
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2021541019A Active JP6991401B2 (ja) | 2019-09-20 | 2019-09-20 | 情報処理装置、プログラム及び情報処理方法 |
Country Status (3)
Country | Link |
---|---|
JP (1) | JP6991401B2 (ja) |
DE (1) | DE112019007642T5 (ja) |
WO (1) | WO2021053806A1 (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2022149287A (ja) * | 2021-03-25 | 2022-10-06 | トヨタ自動車株式会社 | ドライバ監視装置、ドライバ監視方法及びドライバ監視用コンピュータプログラム |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005199078A (ja) | 2005-02-07 | 2005-07-28 | Toshiba Corp | 状態監視装置 |
CN109934199A (zh) | 2019-03-22 | 2019-06-25 | 扬州大学 | 一种基于计算机视觉的驾驶员疲劳检测方法及系统 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5365374B2 (ja) * | 2009-06-30 | 2013-12-11 | 日産自動車株式会社 | 欠伸判定装置及び方法 |
-
2019
- 2019-09-20 WO PCT/JP2019/036871 patent/WO2021053806A1/ja active Application Filing
- 2019-09-20 DE DE112019007642.6T patent/DE112019007642T5/de active Pending
- 2019-09-20 JP JP2021541019A patent/JP6991401B2/ja active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005199078A (ja) | 2005-02-07 | 2005-07-28 | Toshiba Corp | 状態監視装置 |
CN109934199A (zh) | 2019-03-22 | 2019-06-25 | 扬州大学 | 一种基于计算机视觉的驾驶员疲劳检测方法及系统 |
Also Published As
Publication number | Publication date |
---|---|
WO2021053806A1 (ja) | 2021-03-25 |
DE112019007642T5 (de) | 2022-05-19 |
JPWO2021053806A1 (ja) | 2021-11-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8837773B2 (en) | Apparatus which detects moving object from image and method thereof | |
CN106557723B (zh) | 一种带交互式活体检测的人脸身份认证系统及其方法 | |
CN109840565A (zh) | 一种基于眼部轮廓特征点纵横比的眨眼检测方法 | |
Basu et al. | Human emotion recognition from facial thermal image based on fused statistical feature and multi-class SVM | |
US20210271865A1 (en) | State determination device, state determination method, and recording medium | |
JP2014093023A (ja) | 物体検出装置、物体検出方法及びプログラム | |
JP6784261B2 (ja) | 情報処理装置、画像処理システム、画像処理方法及びプログラム | |
Dey et al. | Computer vision based gender detection from facial image | |
JP6991401B2 (ja) | 情報処理装置、プログラム及び情報処理方法 | |
CN111860057A (zh) | 人脸图像模糊和活体检测方法、装置、存储介质及设备 | |
Zhao et al. | Applying contrast-limited adaptive histogram equalization and integral projection for facial feature enhancement and detection | |
JP6101470B2 (ja) | 顔表情解析装置および顔表情解析プログラム | |
KR102616230B1 (ko) | 사용자 이미지에 기반하여 사용자의 집중력을 판단하는방법 및 이를 수행하는 운영 서버 | |
WO2022049704A1 (ja) | 情報処理システム、情報処理方法、及びコンピュータプログラム | |
JP2014119879A (ja) | 顔表情評価結果平滑化装置および顔表情評価結果平滑化プログラム | |
JP7439932B2 (ja) | 情報処理システム、データ蓄積装置、データ生成装置、情報処理方法、データ蓄積方法、データ生成方法及び記録媒体、並びに、データベース | |
JP7552698B2 (ja) | 画像処理装置、画像処理方法、及び、記録媒体 | |
Lollett et al. | Driver’s drowsiness classifier using a single-camera robust to mask-wearing situations using an eyelid, lower-face contour, and chest movement feature vector gru-based model | |
Simbolon et al. | The Effect of Bicubic Interpolation on Viola-Jones and Principal Component Analysis in Detecting Faces and Helmet Wearers | |
Patil et al. | Analysis of Facial Expression using Deep Learning Techniques | |
Mariappan et al. | A labVIEW design for frontal and non-frontal human face detection system in complex background | |
KR102674496B1 (ko) | 원격 광용적맥파신호를 이용한 위조 얼굴 판별 방법 및 장치 | |
Adepoju et al. | Gender classification based on local binary pattern and K-nearest neighbour | |
Colak et al. | Eyematch: an eye localization method for frontal face images | |
Robin et al. | A novel approach to detect & track iris for a different and adverse dataset |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20210714 |
|
A871 | Explanation of circumstances concerning accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A871 Effective date: 20210714 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20211109 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20211207 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6991401 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313111 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |