JP2017209262A - 眠気検知装置 - Google Patents
眠気検知装置 Download PDFInfo
- Publication number
- JP2017209262A JP2017209262A JP2016103858A JP2016103858A JP2017209262A JP 2017209262 A JP2017209262 A JP 2017209262A JP 2016103858 A JP2016103858 A JP 2016103858A JP 2016103858 A JP2016103858 A JP 2016103858A JP 2017209262 A JP2017209262 A JP 2017209262A
- Authority
- JP
- Japan
- Prior art keywords
- closed state
- eyelid
- transition
- subject
- opening
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 206010041349 Somnolence Diseases 0.000 title claims abstract description 117
- 238000001514 detection method Methods 0.000 title claims abstract description 23
- 210000000744 eyelid Anatomy 0.000 claims abstract description 148
- 230000007704 transition Effects 0.000 claims abstract description 63
- 230000008859 change Effects 0.000 claims description 14
- 230000037303 wrinkles Effects 0.000 claims description 3
- 210000001508 eye Anatomy 0.000 abstract description 62
- 208000032140 Sleepiness Diseases 0.000 description 35
- 230000037321 sleepiness Effects 0.000 description 35
- 238000003384 imaging method Methods 0.000 description 10
- 238000000034 method Methods 0.000 description 9
- 230000008569 process Effects 0.000 description 8
- 230000004397 blinking Effects 0.000 description 7
- 238000010586 diagram Methods 0.000 description 7
- 230000008921 facial expression Effects 0.000 description 7
- 230000037007 arousal Effects 0.000 description 3
- 238000001467 acupuncture Methods 0.000 description 2
- 210000005252 bulbus oculi Anatomy 0.000 description 2
- 230000002596 correlated effect Effects 0.000 description 2
- 230000007423 decrease Effects 0.000 description 2
- 239000011521 glass Substances 0.000 description 2
- 238000005259 measurement Methods 0.000 description 2
- 239000000725 suspension Substances 0.000 description 2
- 230000002123 temporal effect Effects 0.000 description 2
- 241000282412 Homo Species 0.000 description 1
- 125000002066 L-histidyl group Chemical group [H]N1C([H])=NC(C([H])([H])[C@](C(=O)[*])([H])N([H])[H])=C1[H] 0.000 description 1
- 206010048232 Yawning Diseases 0.000 description 1
- 238000009825 accumulation Methods 0.000 description 1
- 230000002457 bidirectional effect Effects 0.000 description 1
- 230000000875 corresponding effect Effects 0.000 description 1
- 238000013075 data extraction Methods 0.000 description 1
- 239000006185 dispersion Substances 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000004399 eye closure Effects 0.000 description 1
- 210000003128 head Anatomy 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000009434 installation Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000003672 processing method Methods 0.000 description 1
- 239000004071 soot Substances 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Landscapes
- Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
Abstract
Description
2…被検者の目
3…カメラ
4…信号処理装置
本発明の眠気検知装置は、端的に述べれば、特許文献1に記載の装置と同様に、被検者の瞼の開閉運動を計測し、その計測された瞼の開閉運動の時系列データから被検者の眠気に相関のある瞼開閉特徴量を抽出し、瞼開閉特徴量が眠気を感じている場合の値域に入ったときに、被検者が眠気を感じていると判定する形式の装置である。図1(A)を参照して、本発明の眠気検知装置の基本的な構成に於いては、まず、被検者1の目及び瞼2が、カメラ3などの撮像装置の視野に含まれるように、撮像装置が配置され、撮像装置で得られた画像信号が、信号処理装置4に取り込まれる。なお、後述の如く、被検者1の目及び瞼2の開閉運動は、眼電信号によって検出されてもよく、その場合には、被検者の顔面に貼られた電極からの信号が信号処理装置4へ与えられる。そして、信号処理装置4に於いて、画像処理部が撮像装置から送られてきた画像信号から被検者の目及び瞼2の像を含む画像を構成し、データ処理部が、後に説明されるように、被検者の目及び瞼2の画像を用いて、被検者の眠気の検知に必要なデータ処理と眠気の有無の判定を実行する。かくして、データ処理部に於いて、被検者が眠気を感じていることが判定されると、その判定結果が、結果出力部へ送信され、例えば、スピーカ5による音声や、被検者に物理的な刺激を与える振動器などを通じて、被検者に伝達される。信号処理装置4は、典型的には、コンピュータ装置であってよく、通常の態様にて、図示していない双方向コモン・バスにより相互に連結されたCPU、記憶装置、入出力装置(I/O)が装備され、眠気検知装置の各部の作動は、CPUに於いてプログラムを実行することにより達成されることとなる。
図1(B)を参照して、本発明の装置による眠気検知処理に於いては、プログラムに従って、まず、被検者の瞼の開閉状態を表す指標値の取得が逐次的に実行され(ステップ1)、その指標値の時系列データに於いて、瞼の開状態と閉状態との間の遷移の時間間隔が逐次的に計測され(ステップ2)、しかる後、瞼の開閉状態の遷移の時間間隔の時系列データに於いて眠気の有無に相関のある「瞼開閉特徴量」の算出が逐次的に実行される(ステップ3)。そして、眠気の有無の判定のための「瞼開閉特徴量」に対する閾値が設定されていないときには(通常、装置の使用開始直後から所定の期間)、閾値の設定のための処理(ステップ4、5)が実行される。かくして、サイクルが繰り返される間に、閾値の設定が為されると(ステップ4)、被検者の眠気の判定(ステップ6)が実行されることとなる。即ち、被検者の瞼の開閉状態を検出する手段、瞼の開状態と閉状態との間の遷移の時間間隔を逐次的に検出する手段、瞼開閉特徴量を算出する手段及び眠気判定手段は、図1(A)の撮像装置(又は電極装置)と信号処理装置4のプログラムに従った作動により実現される。以下、上記の一連の処理の各々について、詳細に説明する。
本発明の装置に於ける被検者の瞼の開閉状態を表す指標値(瞼開閉状態指標値)の取得に於いては、一つの態様として、既に触れた如く、カメラ等の撮像装置によって逐次的に撮影された被検者の目と瞼の画像に於いて瞼の開閉運動が検出され、その瞼の開閉運動の検出データから瞼が開いている状態と閉じている状態とを表す時系列データが調製される。その場合、まず、カメラ等の撮像装置は、図2(A)に模式的に描かれている如く、その視野が被検者の目及び瞼を含むように任意の場所に設置されてよい。具体的なカメラ等の撮像装置の設置位置は、例えば、被検者として車両の運転者の眠気を判定する場合には、車両のダッシュボードの上、ハンドル、天井等の被検者の目及び瞼を撮影できる部位であれば、任意の場所であってよい。また、カメラ等の撮像装置は、被検者のメガネ、帽子等の装着物に取り付けられてもよい。そして、カメラ等の撮像装置は、逐次的に被検者の目と瞼を撮像し、その画像信号から目と瞼の画像が逐次的に構成される。
瞼開閉状態指標値の時系列データが得られると、その瞼開閉状態指標値の時系列データから、被験者の眠気の有無に相関のある量が抽出される。かかる被験者の眠気の有無に相関のある量を、本発明に於いては、「瞼開閉特徴量」と称する。本実施形態に於いて、「瞼開閉特徴量」は、瞼開閉状態指標値の時系列データに於いて瞼開閉状態の遷移時間間隔を、所定の期間に亘って逐次的に計測し、その計測された遷移時間間隔の統計的演算処理によって算出されるが、本発明においては、瞼開閉特徴量の算出処理に当たって、先ず、瞼開閉特徴量を算出するための時間幅の設定が行われる。
瞼開閉特徴量の算出処理過程に於いては、まず、データメモリに記憶された瞼開閉状態指標値の時系列データ上に於いて、瞼の開状態と閉状態との間の遷移の時間間隔が計測される。瞼の開状態と閉状態との間の遷移の時間間隔(以下、「瞼開閉状態遷移時間間隔」と称する。)とは、「発明の概要」の欄にて述べた如く、瞼が開状態から閉状態へ又は閉状態から開状態への遷移が生じた時点の間隔であり、具体的には、(1)開眼時間(瞼が継続して開いている時間の長さ)、即ち、瞼の閉状態から開状態への遷移から瞼の開状態から閉状態への遷移までの時間間隔(図4(A))、(2)瞬き開始時間隔(瞼が閉じたときから、一旦、瞼が開いた後、再び閉じるまでの時間長さ)、即ち、瞼の開状態から閉状態への遷移からの次の開状態から閉状態への遷移までの時間間隔(図4(B))、(3)瞬き終了時間隔(瞼が開いたときから、一旦、瞼が開じた後、再び開くまでの時間長さ)即ち、瞼の閉状態から開状態への遷移から次の閉状態から開状態への遷移までの時間間隔(図4(C))、或いは、(4)閉眼時間(瞼が継続して閉じている時間の長さ)、即ち、瞼の開状態から閉状態への遷移から瞼の閉状態から開状態への遷移までの時間間隔(図示せず)のいずれであってもよい。また、瞼開閉状態遷移時間間隔は、(1)〜(4)のいずれの場合も、図4(A)〜図4(C)に描かれている如く、現在(Tnow)より、過去に遡って計測されて、遷移の時間間隔の値の時系列データが調製される。例えば、図4(A)の開眼時間の場合、開眼時間tonが、現在時刻Tnowから遡って、to1,to2,to3,…ton−1,tonの如く計測され、時系列データが構成される。図5(A)、4(B)及び4(C)は、それぞれ、目と瞼の画像から得られる瞼の開度の時間変化から得られた瞼開閉状態指標値に於いて計測された開眼時間、眼電信号から得られる瞼の開度の時間変化から得られた瞼開閉状態指標値に於いて計測された開眼時間、及び、眼電信号から得られる瞼の開度の時間変化から得られた瞼開閉状態指標値に於いて計測された瞬き開始時間隔の時系列データの例を示している。
上記の如く、瞼開閉状態遷移時間間隔が、上記の瞼開閉特徴量算出時間幅に亙って計測されると、現在時点又は判定時点から時間軸に於いて遡って任意の個数のデータを用いて、瞼開閉特徴量として、瞼開閉状態遷移時間間隔の統計量が算出される。統計量としては、標準偏差値、分散、平均値、中央値などであってよい。例えば、具体的には、瞼開閉状態遷移時間間隔として開眼時間が選択され、瞼開閉特徴量として開眼時間の標準偏差値が選択される場合には、現在時点から遡って、n個の開眼時間データ
{to1,to2,to3, ton−1,ton} …(1)
がデータメモリから抽出され、標準偏差値SD(t)が、下記の式
本発明に於いては、既に触れた如く、上記の瞼開閉状態遷移時間間隔の標準偏差値等の瞼開閉特徴量の値が、被検者が眠気を感じていないときの値域から逸脱したときに、被検者が眠気を感じているとの判定が為される。そこで、被検者が眠気を感じていないときの瞼開閉特徴量の値域を画定するための閾値が設定される。この点に関し、既に述べた如く、従前では、被検者が眠気を感じたときには、瞼開閉特徴量は、被検者が眠気を感じていないときに比して、専ら、低減すると想定していたが、被検者によっては、眠気を感じたときに瞼開閉特徴量が増大する場合がある。そこで、本発明の装置に於いては、被検者が眠気を感じていないときの瞼開閉特徴量の値域の境界である閾値は、下限値(第一の閾値)と上限値(第二の閾値)との二つが設定される。また、被検者が眠気を感じていないときの瞼開閉特徴量の値域には、個人差や個人内差があるので、かかる値域を画定する閾値は、できるだけ、眠気の判定時に近い時期で、被検者が眠気を感じていないときの瞼開閉特徴量に基づいて設定されることが好ましい。そこで、本実施形態に於いては、図6(B)に模式的に描かれている如く、本発明の装置の作動直後から所定の期間の瞼開閉特徴量を用いて設定されてよい。例えば、本発明の装置が被検者として車両の運転者の眠気を判定するために用いられる場合、走行直後から所定の期間が、閾値設定用のデータを蓄積するための期間とされてよい。(眠気の判定は、図示の如く、閾値設定用データ期間の経過後に閾値が設定された状態になってから、実施される。)
閾値Hi=Thh×Mav …(3a)
閾値Lo=Thl×Mav …(3b)
ここで、Thhは、1より大きい正係数であり、Thlは、1より小さい正係数である。Mavは、M個の瞼開閉特徴量の平均値である。M、Thh、Thlは、実験的に決定されてよい。上記の式(3a)、(3b)によれば、判定時に比較的近い時期に於ける同一被検者の閾値設定用データ期間のM個の瞼開閉特徴量の平均値によって、閾値が設定されることとなるので、瞼開閉特徴量の個人差や個人内差の影響をより小さく抑えられることが期待される。
かくして、閾値が設定されると、瞼開閉特徴量が上下の閾値にて画定された範囲内にあるか否かの判定が実行され、瞼開閉特徴量が上下の閾値の間の範囲から逸脱した場合には、被検者は眠気を感じていると判定される。図7(A)は、図5(A)の瞼画像から得られた開眼時間の時系列データから算出された開眼時間の標準偏差の時系列データに於いて眠気の判定を実施した例であり、図示の例では、2500秒付近に於いて、標準偏差が閾値Hiを超えたため、被検者が眠気を感じていると判定された(図示の例では、閾値は、M=100、Thh=2.0、Thl=0.5と設定して算出されている。)。なお、図示の例の如く、標準偏差は、閾値Hiに対して、値が増減する場合があるが、図7(A)の下段にて示されている如く、一度でも、瞼開閉特徴量が上下の閾値にて画定された範囲から逸脱したときには、それ以降、眠気ありとの判定が為されてよい。
Claims (10)
- 眠気検知装置であって、
被検者の瞼の開閉状態を検出する手段と、
前記瞼の開状態と閉状態との間の遷移の時間間隔を逐次的に検出する手段と、
被験者の覚醒時の開眼時間最大値のデータから該被験者に適した瞼開閉特徴量算出時間幅を定める手段と、
前記瞼開閉特徴量算出時間幅に亙る前記瞼の開状態と閉状態との間の遷移の時間間隔の時系列データから瞼開閉特徴量を算出する手段と、
前記瞼開閉特徴量が第一の閾値を下回ったとき、及び、前記第一の閾値よりも高い第二の閾値を上回ったときのいずれに於いても、前記被検者が眠気を感じていると判定する眠気判定手段と、
を含む装置。 - 請求項1の装置であって、前記瞼の開状態と閉状態との間の遷移の時間間隔が、前記瞼の閉状態から開状態への遷移から前記瞼の開状態から閉状態への遷移までの時間間隔である装置。
- 請求項1の装置であって、前記瞼の開状態と閉状態との間の遷移の時間間隔が、前記瞼の開状態から閉状態への遷移からの次の開状態から閉状態への遷移までの時間間隔である装置。
- 請求項1の装置であって、前記瞼の開状態と閉状態との間の遷移の時間間隔が、前記瞼の閉状態から開状態への遷移から次の閉状態から開状態への遷移までの時間間隔である装置。
- 請求項1乃至4のいずれかの装置であって、前記瞼開閉特徴量が前記瞼の開状態と閉状態との間の遷移の時間間隔の統計的な変化を表す指標値である装置。
- 請求項5の装置であって、前記瞼開閉特徴量が前記瞼の開状態と閉状態との間の遷移の時間間隔の標準偏差である装置。
- 請求項1の装置であって、前記第一及び第二の閾値が前記眠気の判定時よりも前の所定期間に於ける前記瞼開閉特徴量に基づいて決定される装置。
- 請求項7の装置であって、前記第一及び第二の閾値が前記眠気の判定時よりも前の所定期間に於ける前記瞼開閉特徴量の平均値に、それぞれ、1よりも所定の小さい正数及び1より所定の大きい正数を乗じた値である装置。
- 請求項1の装置であって、前記瞼の開閉状態を検出する手段が被検者の瞼のカメラ画像に基づいて前記瞼の開閉状態を判定する装置。
- 請求項1の装置であって、前記瞼の開閉状態を検出する手段が被検者の眼電信号に基づいて前記瞼の開閉状態を判定する装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016103858A JP6604266B2 (ja) | 2016-05-25 | 2016-05-25 | 眠気検知装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016103858A JP6604266B2 (ja) | 2016-05-25 | 2016-05-25 | 眠気検知装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2017209262A true JP2017209262A (ja) | 2017-11-30 |
JP6604266B2 JP6604266B2 (ja) | 2019-11-13 |
Family
ID=60474979
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016103858A Active JP6604266B2 (ja) | 2016-05-25 | 2016-05-25 | 眠気検知装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6604266B2 (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2020015336A (ja) * | 2018-07-23 | 2020-01-30 | トヨタ自動車株式会社 | 乗員状態認識装置 |
WO2023154899A1 (en) * | 2022-02-11 | 2023-08-17 | Blinktbi, Inc. | Systems and methods for determining eye closure status |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH07241283A (ja) * | 1994-03-04 | 1995-09-19 | Omron Corp | 覚醒度判定方法及び覚醒度判定装置 |
JP2009213779A (ja) * | 2008-03-12 | 2009-09-24 | Denso Corp | 車両用操作入力装置 |
JP2009261516A (ja) * | 2008-04-23 | 2009-11-12 | Toyota Motor Corp | 覚醒度推定装置 |
JP2010128649A (ja) * | 2008-11-26 | 2010-06-10 | Nissan Motor Co Ltd | 覚醒状態判断装置及び覚醒状態判断方法 |
WO2010092860A1 (ja) * | 2009-02-13 | 2010-08-19 | トヨタ自動車株式会社 | 生体状態推定装置及び車両制御装置 |
JP2013202273A (ja) * | 2012-03-29 | 2013-10-07 | Fuji Heavy Ind Ltd | 眠気レベルの推定装置、眠気レベルの推定方法および眠気レベルの推定処理プログラム |
-
2016
- 2016-05-25 JP JP2016103858A patent/JP6604266B2/ja active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH07241283A (ja) * | 1994-03-04 | 1995-09-19 | Omron Corp | 覚醒度判定方法及び覚醒度判定装置 |
JP2009213779A (ja) * | 2008-03-12 | 2009-09-24 | Denso Corp | 車両用操作入力装置 |
JP2009261516A (ja) * | 2008-04-23 | 2009-11-12 | Toyota Motor Corp | 覚醒度推定装置 |
JP2010128649A (ja) * | 2008-11-26 | 2010-06-10 | Nissan Motor Co Ltd | 覚醒状態判断装置及び覚醒状態判断方法 |
WO2010092860A1 (ja) * | 2009-02-13 | 2010-08-19 | トヨタ自動車株式会社 | 生体状態推定装置及び車両制御装置 |
JP2013202273A (ja) * | 2012-03-29 | 2013-10-07 | Fuji Heavy Ind Ltd | 眠気レベルの推定装置、眠気レベルの推定方法および眠気レベルの推定処理プログラム |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2020015336A (ja) * | 2018-07-23 | 2020-01-30 | トヨタ自動車株式会社 | 乗員状態認識装置 |
JP6992693B2 (ja) | 2018-07-23 | 2022-01-13 | トヨタ自動車株式会社 | 乗員状態認識装置 |
WO2023154899A1 (en) * | 2022-02-11 | 2023-08-17 | Blinktbi, Inc. | Systems and methods for determining eye closure status |
Also Published As
Publication number | Publication date |
---|---|
JP6604266B2 (ja) | 2019-11-13 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6387892B2 (ja) | 眠気検知装置 | |
JP5679066B2 (ja) | 居眠り検出方法と装置 | |
JP5326521B2 (ja) | 覚醒状態判断装置及び覚醒状態判断方法 | |
RU2540901C2 (ru) | Способ и устройство для выявления случаев микросна | |
JP5210773B2 (ja) | 眠気判定装置及びプログラム | |
US20220095975A1 (en) | Detection of cognitive state of a driver | |
JP3733133B2 (ja) | 睡眠状態推定装置 | |
JP4811255B2 (ja) | 状態推定装置 | |
JP4743137B2 (ja) | 眠気判定装置及びプログラム | |
JP2007229218A (ja) | 覚醒度推定装置及びシステム並びに方法 | |
JP6344254B2 (ja) | 眠気検知装置 | |
JP2017194772A (ja) | 覚醒度判定装置 | |
JP2013257691A (ja) | 居眠り状態判定装置及び居眠り状態判定方法 | |
JP6604266B2 (ja) | 眠気検知装置 | |
JP4867215B2 (ja) | 生理・心理状態判定装置、生理・心理状態判定方法、リファレンスデータ生成装置、及びリファレンスデータ生成方法。 | |
CN109044375A (zh) | 一种实时跟踪检测眼球疲劳度的控制系统及其方法 | |
Yin et al. | A driver fatigue detection method based on multi-sensor signals | |
Riztiane et al. | Driver drowsiness detection using visual information on android device | |
JP7211441B2 (ja) | 覚醒度推定装置、覚醒度推定方法、及びプログラム | |
JP7279812B2 (ja) | ストレス推定装置、ストレス推定装置の作動方法、及び、プログラム | |
JP2020057198A (ja) | 眠気発生予測装置 | |
KR101643744B1 (ko) | 시선고정 눈 반응 감지장치 및 방법 | |
JP6910982B2 (ja) | ドライバ状態推定装置及びドライバ状態推定方法 | |
John et al. | Driver Drowsiness Detection From Multiple Facial Features Using Mobile Devices | |
Jothibasu et al. | Advanced Safety System with Computer Vision-Based Eye Movement and Heart Rate Monitoring |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20181015 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20190628 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20190716 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190819 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20190917 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20190930 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 6604266 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |