JP4259585B2 - 眠気判定装置,プログラムおよび眠気判定方法 - Google Patents
眠気判定装置,プログラムおよび眠気判定方法 Download PDFInfo
- Publication number
- JP4259585B2 JP4259585B2 JP2007058980A JP2007058980A JP4259585B2 JP 4259585 B2 JP4259585 B2 JP 4259585B2 JP 2007058980 A JP2007058980 A JP 2007058980A JP 2007058980 A JP2007058980 A JP 2007058980A JP 4259585 B2 JP4259585 B2 JP 4259585B2
- Authority
- JP
- Japan
- Prior art keywords
- drowsiness
- sleepiness
- degree
- determined
- eyes
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 206010041349 Somnolence Diseases 0.000 title claims description 331
- 238000000034 method Methods 0.000 title claims description 278
- 208000032140 Sleepiness Diseases 0.000 title claims description 148
- 230000037321 sleepiness Effects 0.000 title claims description 148
- 210000004709 eyebrow Anatomy 0.000 claims description 80
- 238000012545 processing Methods 0.000 claims description 50
- 238000001514 detection method Methods 0.000 claims description 48
- 230000037007 arousal Effects 0.000 claims description 33
- 210000000744 eyelid Anatomy 0.000 claims description 21
- 206010062519 Poor quality sleep Diseases 0.000 claims description 14
- 230000003247 decreasing effect Effects 0.000 claims description 14
- 230000009467 reduction Effects 0.000 claims description 8
- 230000008569 process Effects 0.000 description 226
- 230000002265 prevention Effects 0.000 description 61
- 238000013480 data collection Methods 0.000 description 37
- 210000005036 nerve Anatomy 0.000 description 22
- 230000002889 sympathetic effect Effects 0.000 description 18
- 230000000694 effects Effects 0.000 description 17
- 210000005037 parasympathetic nerve Anatomy 0.000 description 16
- 238000003384 imaging method Methods 0.000 description 10
- 230000008859 change Effects 0.000 description 8
- 230000001186 cumulative effect Effects 0.000 description 8
- 230000007423 decrease Effects 0.000 description 8
- 230000001537 neural effect Effects 0.000 description 6
- 238000000692 Student's t-test Methods 0.000 description 5
- 230000008035 nerve activity Effects 0.000 description 5
- 238000012353 t test Methods 0.000 description 5
- 230000036626 alertness Effects 0.000 description 4
- 230000000630 rising effect Effects 0.000 description 4
- 210000000467 autonomic pathway Anatomy 0.000 description 3
- 238000003825 pressing Methods 0.000 description 3
- 238000012217 deletion Methods 0.000 description 2
- 230000037430 deletion Effects 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 230000005611 electricity Effects 0.000 description 2
- 210000001097 facial muscle Anatomy 0.000 description 2
- 230000001734 parasympathetic effect Effects 0.000 description 2
- 210000001002 parasympathetic nervous system Anatomy 0.000 description 2
- 230000002040 relaxant effect Effects 0.000 description 2
- 210000002820 sympathetic nervous system Anatomy 0.000 description 2
- 230000009471 action Effects 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 230000008921 facial expression Effects 0.000 description 1
- 210000003128 head Anatomy 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 208000024891 symptom Diseases 0.000 description 1
- 230000002618 waking effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G08—SIGNALLING
- G08B—SIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
- G08B21/00—Alarms responsive to a single specified undesired or abnormal condition and not otherwise provided for
- G08B21/02—Alarms for ensuring the safety of persons
- G08B21/06—Alarms for ensuring the safety of persons indicating a condition of sleep, e.g. anti-dozing alarms
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/168—Feature extraction; Face representation
- G06V40/171—Local features and components; Facial parts ; Occluding parts, e.g. glasses; Geometrical relationships
Landscapes
- Engineering & Computer Science (AREA)
- Oral & Maxillofacial Surgery (AREA)
- Health & Medical Sciences (AREA)
- Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Human Computer Interaction (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Theoretical Computer Science (AREA)
- Business, Economics & Management (AREA)
- Emergency Management (AREA)
- Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
- Image Processing (AREA)
- Image Analysis (AREA)
- Traffic Control Systems (AREA)
Description
例えば、眉と目の位置を検出し、眉と目との相対距離から目の開度を判定する技術が提案されている(特許文献1参照)。この技術においては、眉と目との相対距離が大きくなることで目の開度が小さくなったと判断する。そして、目の開度が小さくなるにつれて、眠気の度合が強くなったと判定する。
本発明は、このような問題に鑑みてなされたものであり、高い精度で眠気の度合を判定することができる眠気判定装置,プログラムおよび眠気判定方法を提供することを目的とする。
なお、具体的に覚醒低下の兆候および葛藤の兆候を検出するためには、目の開度に基づいて覚醒低下の兆候を検出し、眉と該眉の直下の目との間の距離に基づいて、葛藤の兆候を検出するとよい。
また、このように構成された眠気判定装置であれば、目の開度および眉と該眉の直下の目との間の距離に基づいて、眠気の度合を判定できる。
また、上述した構成の眠気判定装置は、請求項2に記載のように、目の開度が、上瞼と下瞼との間の距離に基づく値であり、前記眉と該眉の直下の目との間の距離が、目頭と目尻の中点と、眉上端と、の距離に基づく値であることとしてもよい。
また、眠気の度合をもう1段階増やして判定するためには、請求項3に記載の眠気判定装置のような方法で眠気の度合を判定する構成としてもよい。
このように構成された眠気判定装置は、目の開度が前記第2しきい値より小さい第3しきい値以下である場合には、他の条件に関わらず、眠気の度合を、前記強度眠気よりも強いと判定する。
よって、このような方法で眠気の度合を判定する眠気判定装置であれば、上述した請求項3の構成にて判定される4段階より1段階多い5段階で眠気の度合を判定することができる。
例えば、電極を顔面に貼り付け、顔の筋肉が動くときにその力の大きさに比例して発生する微弱な電気を検出して、瞼の動き,眉の動きなどを検出し、それらに基づいて目の開度および眉と該眉の直下の目との間の距離を取得することが考えられる。
このように構成された眠気判定装置は、撮影手段を備えた車両に搭載されて用いられるものである。そして、撮影手段により撮影された顔画像を示す画像データに基づいて、該画像データに示される顔画像における目および眉の位置を示す位置情報を検出する。
なお、眠気の度合の判定結果に応じて運転者の居眠りを防止する動作を行う装置を車両に備え、その装置と連携することで、運転者の居眠りを防止することができる。例えば、上記眠気判定装置をカーナビゲーションシステムと連携して、眠気の度合の判定結果に応じた画面表示および音声出力をすることが考えられる。また、眠気の度合の判定結果に応じて、運転者に送風する装置,シートベルトを振動させる装置,ブレーキを制御する装置などを動作させてもよい。
なお、副交感神経および交感神経を検出する具体的な方法については特に限定されない。例えば、心電図波形取得手段が心電図波形を取得し、その心電図波形に基づいて、前記副交感神経の活動,および,交感神経の活動を検出する構成としてもよい。
なお、上述したプログラムは、コンピュータシステムによる処理に適した命令の順番付けられた列からなるものであって、各種記録媒体や通信回線を介して眠気判定装置や、これを利用するユーザに提供されるものである。
(1.1)全体構成
実施例1における居眠り防止システム1は、車両2に搭載されて用いられるものであり、図1に示すように、運転者3の顔画像を撮影する撮影装置10と、顔画像に基づいて眠気の度合を判定する眠気判定装置20と、判定された眠気の度合に応じて居眠り運転による事故防止のための動作を行う複数の装置(警報装置30,首元空調装置40,シートベルト振動装置50,および,ブレーキ制御装置60)と、から構成される。
また、眠気判定装置20は、図2に示すように、制御部21,受信部22,入力部23,記憶部24,出力部25,などを備えている。
また、この制御部21は、撮影装置10により撮影された顔画像を示す画像データを受信部22より受信する毎に、内蔵するメモリ(以降、「内蔵メモリ」という)にその画像データを記憶させる。その後、その画像データに基づいて、後述する覚醒時データ収集処理,居眠り防止警報処理,位置情報検出処理,状態特定処理,眠気ステージ判定処理を行う。そして、眠気ステージ判定処理において、眠気の度合をステージ1〜5の5段階(ステージ1の眠気の度合が最も弱く,ステージ5が最も強い)にて判定する。
記憶部24は、データを記憶する記憶領域として、制御部21を制御するプログラム用の記憶領域、後述する各種データを記憶するための記憶領域などを有している。
(1.2)判定原理
本実施例における眠気の度合の判定原理を、図3を用いて説明する。図3(a)〜(e)は、ステージ1〜ステージ5それぞれにおける目の状態を示す。
例えば車両を運転している場合など、対象者自身が眠ってしまわないように意識している場合、さらに眠気が強くなると、覚醒低下に対して葛藤して、目を開くために眉を上げる行動をとる(図3におけるステージ3)。
そこで、本実施例では、目の開度(図7(b)における(x4,y4)と(x5,y5)との距離に基づく値),眉と目の間の距離(図7(b)における(x3,y3)と(x6,y6)との距離に基づく値)を測定し、その結果を組み合わせることで、眠気の度合を判定する。
(1.3)眠気判定装置20による処理
以下に、実施例1における居眠り防止システム1の眠気判定装置20により実行される各種処理について説明する。
(1.3.1)覚醒時データ収集処理
以下に、制御部21による覚醒時データ収集処理の処理手順を、図4に基づいて説明する。この覚醒時データ収集処理は、入力部23に備えられた開始ボタンを押すことによって開始され、覚醒状態における目の開度および眉と目の間の距離を取得する。
次に、運転者3の目および眉の位置情報を検出する位置情報検出処理を行う(S3)。ここでは、撮影装置10により撮影された顔画像を示す画像データに基づき、目の開度を示す開度情報L1(以降、単に「L1」という),眉上がりの度合を示す眉上がり情報L2(以降、単に「L2」という)を、所定の回数(m回)算出し、記憶部24に記憶する。このとき、記憶部24には、L1,L2がそれぞれm個ずつ記憶されている。
ここでは、まず、記憶部24に記憶されたm個のL1,L2をすべて読み出す。そして、すべてのL1による度数分布に基づき、累積相対度数が最小値より5%に該当する値をL1aとして算出する。同様に、すべてのL2による度数分布に基づき、累積相対度数が最大値より5%に該当する値をL2aとして算出する。
ここでは、S4にて記憶部24に記憶されたn個のL1a,L2aをすべて読み出す。そして、すべてのL1aによって作られる正規分布において、平均値をμ,標準偏差をσとしたときに、μ−2σに該当する値をL1bとして算出する。同様に、すべてのL2aによって作られる正規分布において、μ+2σに該当する値をL2bとして算出する。そして、このように算出したL1b,L2bそれぞれの値を記憶部24に記憶し、記憶部24に記憶されていたL1a,L2aを削除する。
(1.3.2)居眠り防止警報処理
以下に、制御部21による居眠り防止警報処理の処理手順を、図5に基づいて説明する。この居眠り防止警報処理は、覚醒時データ収集処理のS8において起動される。
次に、覚醒時データ収集処理のS3と同様に、運転者3の目および眉の位置情報を検出する位置情報検出処理を行う(S22)。ここでは、m個のL1,L2を算出して、この算出したL1,L2それぞれの値を記憶部24に記憶する。この位置情報検出処理について詳しくは後述する。
ここでは、まず、記憶部24に記憶されたm個のL1,L2をすべて読み出す。そして、すべてのL1による度数分布に基づき、累積相対度数が最小値より5%に該当する値をL1dとして算出する。同様に、すべてのL2による度数分布に基づき、累積相対度数が最大値より5%に該当する値をL2dとして算出する。
次に、運転者3の目および眉の状態を特定する状態特定処理を行う(S24)。
ここでは、S24において特定された目および眉の状態に基づき、眠気の度合をステージ1〜5(ステージ1の眠気の度合が最も弱く,ステージ5が最も強い)にて判定する。この眠気ステージ判定処理について詳しくは後述する。
(1.3.3)位置情報検出処理
以下に、制御部21による位置情報検出処理の処理手順を、図6に基づいて説明する。この位置情報検出処理は、覚醒時データ収集処理におけるS3,居眠り防止警報処理におけるS22に該当する。
次に、撮影装置10により撮影された顔画像を示す画像データに基づき、この画像データに示される顔画像における目および眉の位置を示す位置情報を検出する(S42)。ここでは、まず、撮影装置10により運転者3の顔画像を撮影する。その顔画像を示す画像データに基づき、図7(a)に示すように、画像データを黒色部分と白色部分とに分ける2値化処理を行う。具体的には、例えば、特願平03−220633号に記載されている技術を用いるとよい。
L1=[(x4−x5)2+(y4−y5)2]0.5/[(x1−x7)2+(y1−y7)2]0.5
上式のうち、『[(x4−x5)2+(y4−y5)2]0.5』は、顔画像における上瞼と下瞼との間の距離を表す。
L2=[(x6−x3)2+(y6−y3)2]0.5/[(x1−x7)2+(y1−y7)2]0.5
上式のうち、『[(x6−x3)2+(y6−y3)2]0.5』は、左目頭および左目尻の中心点と、左眉上端と、の間の距離を表す。
(1.3.4)状態特定処理
以下に、制御部21による状態特定処理の処理手順を、図8に基づいて説明する。この状態特定処理は、居眠り防止警報処理のS24に該当する。
次に、運転者3の目が閉じているか否かを判定する(S62)。ここでは、覚醒時データ収集処理のS7において算出されたL1bの値と、居眠り防止警報処理のS23において算出されたL1dの値と、を比較し、L1dの値が、閉眼の検出しきい値である所定値(本実施例においてはL1bの値の1/3)以下であれば(S62:YES)、つまり、覚醒状態の1/3以下にまで目が閉じていれば、目が閉じているものとして、変数L1fを3に設定し(S63)、処理がS69へ移行する。
このとき、L2dの値がL2bの値以上であれば(S69:YES)、つまり、覚醒状態と比較して眉目間の距離が大きくなっていれば、変数L2fを1に設定し(S70)、本処理が終了する。一方、L2dの値がL2bの値以上でなければ(S69:NO)、変数L2fを変更することなく、本処理が終了する。
(1.3.5)眠気ステージ判定処理
以下に、制御部21による眠気ステージ判定処理の処理手順を、図9に基づいて説明する。この眠気ステージ判定処理は、居眠り防止警報処理のS25に該当する。
一方、変数tが所定数n以下でなければ(S89:NO)、つまり、L1rがn個以上記憶されていれば、上述した状態特定処理のS65にて用いられるL1rbを算出する(S90)。
また、上述したS84において条件を満たさなかった場合は、続いて、変数L1fが1であり、かつ、変数L2fが1であるか否かを判定する(S92)。上記の条件を満たす場合は(S92:YES)、つまり、目が覚醒状態より閉じており、かつ、眉が上がっている場合は、眠気の度合をステージ3と判定し(S93)、処理がS97へ移行する。
(1.4)効果
このように構成された実施例1における眠気判定装置20であれば、覚醒低下の兆候を検出することにより運転者3の眠気の有無を判定できると共に、覚醒低下の兆候と葛藤の兆候との検出結果の組み合わせにより眠気の度合の強弱を判定することができる。
また、上述した居眠り防止システム1においては、眠気判定装置20が警報装置30と連携しており、眠気の度合の判定結果に応じた画面表示および音声出力を行う。また、眠気の度合の判定結果に応じて、首元空調装置40,シートベルト振動装置50,ブレーキ制御装置60が動作する。そのため、運転者3に対して眠気の度合に応じた適切な居眠り防止対応を行うことができ、居眠り運転による事故を未然に防止できる。
(1.5)対応関係
以上説明した実施形態において、撮影装置10が本発明における撮影手段である。また、図5のS23,図6のS43,図8のS62,S63,S65,S66,S67,S68が本発明における覚醒低下検出手段であり、図5のS23,図6のS43,図8のS69,S70が本発明における葛藤検出手段であり、図9のS81,S82,S84,S85,S92,S93,S94,S95,S96が本発明における眠気判定手段であり、図6におけるS42が本発明における位置情報検出手段である。
[実施例2]
(2.1)全体構成
実施例2における居眠り防止システム1は、基本的に実施例1と同じ構成であり、実施例1と同様の判定原理にて判定を行う。しかしながら、制御部21による処理が一部変更されているため、変更された処理を以下に示す。
(2.2)眠気判定装置20による処理
以下に、実施例2における居眠り防止システムの眠気判定装置20により実行される各種処理について説明する。この実施例2は、上述した実施例1と比べて、眠気に基づく状態変化の特定方法が異なる。また、位置情報検出処理は、実施例1と同様の処理を行う。
(2.2.1)覚醒時データ収集処理
以下に、制御部21による覚醒時データ収集処理の処理手順を、図10に基づいて説明する。
(2.2.2)居眠り防止警報処理
以下に、制御部21による居眠り防止警報処理の処理手順を、図11に基づいて説明する。この居眠り防止警報処理は、覚醒時データ収集処理のS107にて起動される。
次に、変数kを1に設定する(S122)。
次に、上述した位置情報検出処理を行い、m個のL1,L2を算出する(S123)。
ここでは、S124において算出されたL1d,L2dと、覚醒時データ収集処理のS104において算出されたL1a,L2aと、後述する眠気ステージ判定処理において算出されるL1rと、に基づき、目の開度および眉目間の距離の変化を判断する。なお、L1rは、眠気ステージ判定処理により算出された後にのみ用いられる。この状態特定処理について、詳しくは後述する。
ここでは、S127において特定された目および眉の状態に基づき、眠気の度合をステージ1〜5(ステージ1の眠気の度合が最も弱く,ステージ5が最も強い)にて判定する。この眠気ステージ判定処理について詳しくは後述する。
(2.2.3)状態特定処理
以下に、制御部21による状態特定処理の処理手順を、図12に基づいて説明する。この状態特定処理は、居眠り防止警報処理のS127に該当する。
次に、運転者3の目が閉じているか否かを判定する(S162)。ここでは、覚醒時データ収集処理のS104において算出されたL1aの平均値と、居眠り防止警報処理のS124において算出されたL1dの平均値と、を比較し、L1dの平均値が、閉眼の検出しきい値である所定値(本実施例においては、L1aの平均値の1/3)以下であれば(S162:YES)、つまり、覚醒状態の1/3以下にまで目が閉じていれば、目が閉じているものとして、変数L1fを3に設定し(S163)、処理がS169へ移行する。
(2.2.4)眠気ステージ判定処理
以下に、制御部21による眠気ステージ判定処理の処理手順を、図13に基づいて説明する。この眠気ステージ判定処理は、居眠り防止警報処理のS128に該当する。
また、上述したS184において条件を満たさなかった場合は、続いて、変数L1fが1であり、かつ、変数L2fが1であるか否かを判定する(S189)。上記の条件を満たす場合は(S189:YES)、つまり、目が覚醒状態より閉じており、かつ、眉が上がっている場合は、眠気の度合をステージ3と判定し(S190)、処理がS194へ移行する。
(2.3)効果
実施例2に記載の眠気判定装置20および居眠り防止システム1においても、実施例1と同様の効果を得ることができる。さらに本実施例においては、状態特定処理において、目および眉の状態変化の判断(S165,S167,S169)を対応のあるt検定にて行っているため、その判定結果がより信頼性の高いものとなっており、上述した実施例1と比べて誤判定を少なくすることができる。
(2.4)対応関係
以上説明した実施形態において、撮影装置10が本発明における撮影手段である。また、図6のS43,図11のS124,図12のS162,S163,S165,S166,S167,S168が本発明における覚醒低下検出手段であり、図6のS43,図11のS124,図12のS169,S170が本発明における葛藤検出手段であり、図13のS181,S182,S184,S185,S189,S190,S191,S192,S193が本発明における眠気判定手段であり、図6におけるS42が本発明における位置情報検出手段である。
[参考例]
(3.1)全体構成
参考例における居眠り防止システム100は、実施例1とは異なり、撮影装置10の替わりに、図14に示すように、ステアリングに備えられたステアリング心電センサ70と、シートに備えられたシート内蔵心電センサ80と、を備えている。
また、シートベルト振動装置50は、制御部21によりステージ3〜4であると判定されたときに、シートベルトを振動させる。
(3.2)判定原理
本実施例における眠気の度合の判定原理を説明する。
具体的には、運転者3の心電図波形信号を測定し、瞬時心拍数HRを算出する(図15(a)参照)。さらにその情報をFFT解析してHF(High Frequency domain),および,LF(Low Frequency domain)を求める(図15(b)参照)。
このように、本実施例では、交感神経と副交感神経の両方を測定し、その結果を組み合わせることで、眠気の度合を判定する。
(3.3)眠気判定装置20による処理
以下に、参考例における居眠り防止システム100の眠気判定装置20により実行される各種処理について説明する。
(3.3.1)覚醒時データ収集処理
以下に、制御部21による覚醒時データ収集処理の処理手順を、図16に基づいて説明する。この覚醒時データ収集処理は、入力部23に備えられた開始ボタンを押すことによって開始される。
次に、運転者3の交感神経,副交感神経それぞれの活動を測定する神経情報取得処理を行う(S203)。ここでは、ステアリング心電センサ70またはシート内蔵心電センサ80のいずれかにより検出された心電図波形信号に基づき、L3およびL4を所定の回数(m回)算出し、記憶部24に記憶する。このとき、記憶部24には、L3,L4がそれぞれm個ずつ記憶されている。この神経情報取得処理について詳しくは後述する。
ここでは、まず、記憶部24に記憶されたm個のL3,L4をすべて読み出す。そして、すべてのL3による度数分布に基づき、累積相対度数が最大値より5%に該当する値をL3aとして算出する。同様に、すべてのL4による度数分布に基づき、累積相対度数が最大値より5%に該当する値をL4aとして算出する。
ここでは、S204にて記憶部24に記憶されたn個のL3a,L4aをすべて読み出す。そして、すべてのL3aによって作られる正規分布において、平均値をμ,標準偏差をσとしたときに、μ+2σに該当する値をL3bとして算出する。同様に、すべてのL4aによって作られる正規分布において、μ+2σに該当する値をL4bとして算出する。そして、このように算出したL3b,L4bそれぞれの値を記憶部24に記憶し、記憶部24に記憶されていたL3a,L4aを削除する。
(3.3.2)居眠り防止警報処理
以下に、制御部21による居眠り防止警報処理の処理手順を、図17に基づいて説明する。この居眠り防止警報処理は、覚醒時データ収集処理のS208において起動される。
次に、覚醒時データ収集処理のS203と同様に、運転者3の交感神経,副交感神経それぞれの活動を測定する神経情報取得処理を行う(S222)。ここでは、m個のL3,L4を算出して、この算出したL3,L4それぞれの値を記憶部24に記憶する。この神経情報取得処理について詳しくは後述する。
ここでは、記憶部24に記憶されたm個のL3,L4をすべて読み出す。そして、すべてのL3による度数分布に基づき、累積相対度数が最大値より5%に該当する値をL3dとして算出する。同様に、すべてのL4による度数分布に基づき、累積相対度数が最大値より5%に該当する値をL4dとして算出する。
次に、運転者3の交感神経および副交感神経の状態を特定する状態特定処理を行う(S224)。
(3.3.3)神経情報取得処理
以下に、制御部21による神経情報取得処理の処理手順を、図18に基づいて説明する。この神経情報取得処理は、覚醒時データ収集処理におけるS203,居眠り防止警報処理におけるS222に該当する。
次に、ステアリング心電センサ70またはシート内蔵心電センサ80により、運転者3の心電図波形信号を検出する(S242)。ここでは、図15(a)に示すような心電図波形が検出される。
(3.3.4)状態特定処理
以下に、制御部21による状態特定処理の処理手順を、図19に基づいて説明する。この状態特定処理は、居眠り防止警報処理のS224に該当する。
次に、変数qが1であるか否かを判定する(S262)。このとき、変数qが1であれば(S262:YES)、処理がS263へ移行する。また、変数qが1でなければ(S262:NO)、処理がS265へ移行する。
このとき、L4dの値がL4bの値より大きければ(S267:YES)、つまり、覚醒状態と比較して葛藤の兆候が大きくなっていれば、変数L4fを1に設定し(S268)、本処理が終了する。一方、L4dの値がL4bの値より大きくなければ(S267:NO)、変数L4fを変更することなく、本処理が終了する。
(3.3.5)眠気ステージ判定処理
以下に、制御部21による眠気ステージ判定処理の処理手順を、図20に基づいて説明する。この眠気ステージ判定処理は、居眠り防止警報処理のS225に該当する。
一方、変数tが所定数n以下でなければ(S289:NO)、つまり、L3rがn個以上記憶されていれば、上述した状態特定処理のS264にて用いられるL3rbを算出する(S290)。
また、上述したS284において条件を満たさなかった場合は、変数L3fが1であり、かつ、変数L4fが1であるか否かを判定する(S292)。上記の条件を満たす場合は(S292:YES)、つまり、覚醒状態より眠気の兆候が大きくなっており、かつ、葛藤の兆候が大きくなっている場合は、眠気の度合をステージ3と判定し(S293)、処理がS295へ移行する。
(3.4)効果
このように構成された参考例における居眠り防止システム100であれば、副交感神経の活動および交感神経の活動に基づいて、高精度な眠気の度合の判定が可能となるという効果を得ることができる。
また、本参考例の居眠り防止システム100においては、眠気判定装置20が警報装置30と連携しており、眠気の度合の判定結果に応じた画面表示および音声出力を行う。また、眠気の度合の判定結果に応じて、首元空調装置40,シートベルト振動装置50,ブレーキ制御装置60が動作する。そのため、運転者3に対して眠気の度合に応じた適切な居眠り防止対応を行うことができ、居眠り運転による事故を未然に防止できる。
[変形例]
以上、本発明の実施例について説明したが、本発明は、上記各実施例に何ら限定されることはなく、本発明の技術的範囲に属する限り種々の形態をとり得ることはいうまでもない。
Claims (8)
- 目の開度に基づいて、眠気による覚醒低下の兆候を検出する覚醒低下検出手段と、
眉と該眉の直下の目との間の距離に基づいて、眠気に逆らう葛藤の兆候を検出する葛藤検出手段と、
前記覚醒低下の兆候および前記葛藤の兆候に基づいて眠気の度合を判定する眠気判定手段と、を備え、
前記眠気判定手段は、
前記覚醒低下の兆候が検出されていない場合には眠気なしと判定し、
前記覚醒低下の兆候が検出されている場合には眠気を有していると判定し、
眠気を有していると判定されている状態において、前記葛藤の兆候の有無により、眠気の度合を判定する
ことを特徴とする眠気判定装置。 - 前記目の開度は、上瞼と下瞼との間の距離に基づく値であり、
前記眉と該眉の直下の目との間の距離は、目頭と目尻の中点と、眉上端と、の距離に基づく値である
ことを特徴とする請求項1に記載の眠気判定装置。 - 前記眠気判定手段は、
目の開度が第1しきい値以下であることを条件Aとし、目の開度が前記第1しきい値より小さい第2しきい値以下であることを条件Bとし、眉と該眉の直下の目との間の距離が所定のしきい値より大きいことを条件Cとし、
前記条件Bが満たされる場合には、眠気の度合を、強度眠気と判定し、
前記条件Aおよび前記条件Cが満たされると共に、前記条件Bが満たされない場合には、眠気の度合を、前記強度眠気よりも眠気の度合が弱い中度眠気と判定し、
前記条件Aが満たされると共に、前記条件Bおよび前記条件Cが満たされない場合には、眠気の度合を、前記中度眠気よりも眠気の度合が弱い弱度眠気と判定し、
前記条件Aおよび条件Bがいずれも満たされない場合には、眠気なしと判定する
ことを特徴とする請求項1または請求項2に記載の眠気判定装置。 - 前記眠気判定手段は、目の開度が前記第2しきい値より小さい第3しきい値以下である場合には、他の条件に関わらず、眠気の度合を、前記強度眠気よりも強いと判定する
ことを特徴とする請求項3に記載の眠気判定装置。 - 顔画像を示す画像データに基づいて、該画像データに示される顔画像における目および眉の位置を示す位置情報を検出する位置情報検出手段を備え、
前記覚醒低下検出手段は、前記位置情報に基づいて目の開度を特定し、
前記葛藤検出手段は、前記位置情報に基づいて眉と該眉の直下の目との間の距離を特定する
ことを特徴とする請求項3または請求項4に記載の眠気判定装置。 - 車両に搭載されて用いられるものであって、
前記位置情報検出手段は、該車両に備えられた撮影手段により撮影された前記画像データに基づいて、該画像データに示される顔画像における目および眉の位置を示す位置情報を検出する
ことを特徴とする請求項5に記載の眠気判定装置。 - 請求項1から6のいずれかに記載の覚醒低下検出手段,葛藤検出手段,および,眠気判定手段として機能させるための処理手順を、コンピュータシステムに実行させるためのプログラム。
- 目の開度に基づいて、眠気による覚醒低下の兆候を検出し、
眉と該眉の直下の目との間の距離に基づいて、眠気に逆らう葛藤の兆候を検出し、
前記覚醒低下の兆候が検出されていない場合には眠気なしと判定し、
前記覚醒低下の兆候が検出されている場合には眠気を有していると判定し、
眠気を有していると判定されている状態において、前記葛藤の兆候の有無により、眠気の度合を判定する
ことを特徴とする眠気判定方法。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007058980A JP4259585B2 (ja) | 2007-03-08 | 2007-03-08 | 眠気判定装置,プログラムおよび眠気判定方法 |
US12/073,075 US7948387B2 (en) | 2007-03-08 | 2008-02-29 | Drowsiness determination apparatus, program, and method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007058980A JP4259585B2 (ja) | 2007-03-08 | 2007-03-08 | 眠気判定装置,プログラムおよび眠気判定方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2008220424A JP2008220424A (ja) | 2008-09-25 |
JP4259585B2 true JP4259585B2 (ja) | 2009-04-30 |
Family
ID=39741090
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2007058980A Expired - Fee Related JP4259585B2 (ja) | 2007-03-08 | 2007-03-08 | 眠気判定装置,プログラムおよび眠気判定方法 |
Country Status (2)
Country | Link |
---|---|
US (1) | US7948387B2 (ja) |
JP (1) | JP4259585B2 (ja) |
Families Citing this family (33)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8400313B2 (en) * | 2007-01-19 | 2013-03-19 | Asahi Kasei Kabushiki Kaisha | Vehicle driver sleep state classification generating device based on Hidden Markov Model, sleep state classification device and warning device |
JP4582137B2 (ja) * | 2007-10-11 | 2010-11-17 | 株式会社デンソー | 眠気度判定装置 |
JP5262243B2 (ja) * | 2008-03-31 | 2013-08-14 | アイシン精機株式会社 | 眼開閉判別装置、及びプログラム |
JP5078815B2 (ja) * | 2008-09-12 | 2012-11-21 | 株式会社豊田中央研究所 | 開眼度推定装置 |
KR101480564B1 (ko) | 2008-10-21 | 2015-01-12 | 삼성전자주식회사 | 안면 인식을 이용한 알람 제어 장치 및 방법 |
JP4788786B2 (ja) * | 2009-02-09 | 2011-10-05 | 株式会社デンソー | 眠気検出装置,プログラムおよび眠気検出方法 |
TWI488149B (zh) * | 2009-09-22 | 2015-06-11 | Automotive Res & Testing Ct | Driver monitoring method and its monitoring system |
KR20120058230A (ko) * | 2010-11-29 | 2012-06-07 | 한국전자통신연구원 | 이동체 안전운행 장치 및 방법 |
US9292471B2 (en) | 2011-02-18 | 2016-03-22 | Honda Motor Co., Ltd. | Coordinated vehicle response system and method for driver behavior |
US8698639B2 (en) | 2011-02-18 | 2014-04-15 | Honda Motor Co., Ltd. | System and method for responding to driver behavior |
JP2013015970A (ja) * | 2011-07-01 | 2013-01-24 | Aisin Seiki Co Ltd | 瞼検出装置、瞼検出方法及びプログラム |
DE112012004773T5 (de) * | 2011-11-16 | 2014-08-07 | Flextronics Ap, Llc | Konfigurierbare Armaturenanzeige |
US9751534B2 (en) | 2013-03-15 | 2017-09-05 | Honda Motor Co., Ltd. | System and method for responding to driver state |
US10499856B2 (en) | 2013-04-06 | 2019-12-10 | Honda Motor Co., Ltd. | System and method for biological signal processing with highly auto-correlated carrier sequences |
JP6039504B2 (ja) * | 2013-05-23 | 2016-12-07 | 学校法人常翔学園 | 覚醒維持支援装置 |
CN103318083A (zh) * | 2013-06-24 | 2013-09-25 | 成都衔石科技有限公司 | 智能汽车感知系统 |
CN103303197A (zh) * | 2013-06-24 | 2013-09-18 | 成都衔石科技有限公司 | 一种智能感知预警装置 |
CN103287333A (zh) * | 2013-06-24 | 2013-09-11 | 成都衔石科技有限公司 | 一种用于辅助驾驶的智能预警系统 |
WO2015107607A1 (ja) * | 2014-01-14 | 2015-07-23 | パナソニックIpマネジメント株式会社 | 環境制御システム、制御装置、プログラム |
DE102015218306A1 (de) * | 2015-09-23 | 2017-03-23 | Robert Bosch Gmbh | Verfahren und Vorrichtung zum Ermitteln eines Schläfrigkeitszustands eines Fahrers |
DE102015225109A1 (de) | 2015-12-14 | 2017-06-14 | Robert Bosch Gmbh | Verfahren und Vorrichtung zum Klassieren von Augenöffnungsdaten zumindest eines Auges eines Insassen eines Fahrzeugs und Verfahren und Vorrichtung zum Erfassen einer Schläfrigkeit und/oder eines Sekundenschlafes eines Insassen eines Fahrzeugs |
US10065651B2 (en) | 2016-05-10 | 2018-09-04 | Samsung Electronics Co., Ltd | Electronic device and method for determining a state of a driver |
CN106236047A (zh) * | 2016-09-05 | 2016-12-21 | 合肥飞鸟信息技术有限公司 | 驾驶员疲劳监测系统的控制方法 |
CN106236046A (zh) * | 2016-09-05 | 2016-12-21 | 合肥飞鸟信息技术有限公司 | 驾驶员疲劳监测系统 |
JP6973928B2 (ja) * | 2017-11-10 | 2021-12-01 | アルパイン株式会社 | 瞼開閉判定装置および眠気検知装置 |
JP2019124977A (ja) * | 2018-01-11 | 2019-07-25 | トヨタ自動車株式会社 | 車載音声出力装置、音声出力制御方法、及び音声出力制御プログラム |
CN111114315A (zh) * | 2019-12-30 | 2020-05-08 | 上海臣乾物流有限公司 | 一种用于现代物流的安全监控系统 |
JP2021174436A (ja) * | 2020-04-30 | 2021-11-01 | 株式会社デンソー | 制御装置 |
DE112020007803T5 (de) | 2020-11-27 | 2023-11-16 | Mitsubishi Electric Corporation | Schlafdetektionsvorrichtung und Schlafdetektionsverfahren |
TWI741892B (zh) * | 2020-12-01 | 2021-10-01 | 咸瑞科技股份有限公司 | 車內駕駛監測系統 |
CN118317875A (zh) * | 2021-11-29 | 2024-07-09 | 金瑟姆股份有限公司 | 与温度有关的困倦缓解策略 |
WO2023193038A1 (en) * | 2022-04-08 | 2023-10-12 | Sdip Holdings Pty Ltd | Interventional protocol in respect of human-operated machine based on processing of blepharometric data and/or other physiological parameters |
CN118220202B (zh) * | 2024-05-07 | 2024-09-20 | 江苏益展研创智能科技有限公司 | 一种车辆驾驶员高危驾驶行为自动提醒系统 |
Family Cites Families (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH05184558A (ja) * | 1992-01-17 | 1993-07-27 | Mitsubishi Motors Corp | 運転者の異常検出装置 |
JP3282259B2 (ja) * | 1993-01-06 | 2002-05-13 | 三菱自動車工業株式会社 | 覚醒度判定装置 |
JP3063504B2 (ja) | 1993-12-22 | 2000-07-12 | 日産自動車株式会社 | 画像データの特徴量検出装置 |
JPH0919420A (ja) * | 1995-07-07 | 1997-01-21 | Omron Corp | 生理状態判定方法及び生理状態判定装置 |
JP3350296B2 (ja) * | 1995-07-28 | 2002-11-25 | 三菱電機株式会社 | 顔画像処理装置 |
JP3451832B2 (ja) | 1996-04-01 | 2003-09-29 | 日産自動車株式会社 | 顔画像の特徴量認識装置 |
JPH11314534A (ja) * | 1998-05-06 | 1999-11-16 | Nissan Motor Co Ltd | 車両用注意能力低下防止装置 |
JP2000163564A (ja) * | 1998-12-01 | 2000-06-16 | Fujitsu Ltd | 目の追跡装置および瞬き検出装置 |
CN1144166C (zh) * | 1999-06-17 | 2004-03-31 | 现代自动车株式会社 | 瞌睡驾驶警告系统的驾驶员瞌睡检测方法 |
JP2001307076A (ja) * | 2000-04-24 | 2001-11-02 | Niles Parts Co Ltd | 眼の状態検出装置、居眠り検出装置 |
JP3719112B2 (ja) * | 2000-06-29 | 2005-11-24 | 日産自動車株式会社 | 運転負荷判定装置 |
JP4123050B2 (ja) * | 2003-05-16 | 2008-07-23 | 日産自動車株式会社 | 覚醒度レベル判定装置 |
JP4111062B2 (ja) * | 2003-05-27 | 2008-07-02 | 株式会社デンソー | 眠気度合検出装置 |
EP1749477A1 (en) * | 2004-05-24 | 2007-02-07 | Pioneer Corporation | Bioinformation sensor |
US20080071177A1 (en) | 2005-04-28 | 2008-03-20 | Pioneer Corporation | Bioinformation Sensor |
JP4743137B2 (ja) * | 2007-03-01 | 2011-08-10 | 株式会社豊田中央研究所 | 眠気判定装置及びプログラム |
-
2007
- 2007-03-08 JP JP2007058980A patent/JP4259585B2/ja not_active Expired - Fee Related
-
2008
- 2008-02-29 US US12/073,075 patent/US7948387B2/en not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2008220424A (ja) | 2008-09-25 |
US7948387B2 (en) | 2011-05-24 |
US20080218359A1 (en) | 2008-09-11 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4259585B2 (ja) | 眠気判定装置,プログラムおよび眠気判定方法 | |
US11383721B2 (en) | System and method for responding to driver state | |
US6337629B1 (en) | Method and a system for monitoring a person | |
EP3683623A1 (en) | System and method for responding to driver state | |
JP4458146B2 (ja) | 眠気判定装置およびプログラム | |
JP2009039167A (ja) | 眠気判定装置 | |
JP4677963B2 (ja) | 居眠り検知装置、居眠り検知方法 | |
JP3435413B2 (ja) | 車両用ヒューマンマシンシステム | |
US20220036101A1 (en) | Methods, systems and computer program products for driver monitoring | |
JP4867215B2 (ja) | 生理・心理状態判定装置、生理・心理状態判定方法、リファレンスデータ生成装置、及びリファレンスデータ生成方法。 | |
JP2001245871A (ja) | 動脈血酸素飽和度を居眠り判定法に用いた居眠り判定装置 | |
KR20180131045A (ko) | 다 센서 기반의 감지ㆍ경보수단과 중앙처리수단이 일체로 구성된 졸음운전 방지장치 및 제어방법 | |
Manjula et al. | Driver inattention monitoring system based on the orientation of the face using convolutional neural network | |
Parsai et al. | Intelligent Monitoring System for Driver’s Alertness (A vision based approach) | |
KR101767316B1 (ko) | 졸음 경고 방법 및 장치 | |
KR101932147B1 (ko) | 심전도 신호를 이용한 운전자의 졸음운전 진단 방법 및 장치 | |
JP2006130046A (ja) | 覚醒度判定装置 | |
JP7636856B2 (ja) | 警報提示方法、警報提示装置及び警報提示プログラム | |
KR102507038B1 (ko) | 안전을 위한 운전자 감시 시스템 | |
JP3362664B2 (ja) | 状態監視装置 | |
WO2001019249A1 (en) | A method and a system for monitoring a person | |
JP2024148629A (ja) | 安全運転支援装置及び安全運転支援方法 | |
SARIKA et al. | DRIVER ASSISTANCE SYSTEM | |
REDDY et al. | DRIVER DROWSINESS DETECTION & IDENTIFICATION OF ALCOHOLIC SYSTEM USING OPEN CV ENHANCED WITH EMBEDDED TECHNOLOGY | |
JPH02151532A (ja) | 居眠り警告装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20080623 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20081014 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20081215 |
|
TRDD | Decision of grant or rejection written | ||
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A821 Effective date: 20081215 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20090120 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20090202 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120220 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 4259585 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130220 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140220 Year of fee payment: 5 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |