JP6656166B2 - Program, information processing device, and eyewear - Google Patents
Program, information processing device, and eyewear Download PDFInfo
- Publication number
- JP6656166B2 JP6656166B2 JP2016563623A JP2016563623A JP6656166B2 JP 6656166 B2 JP6656166 B2 JP 6656166B2 JP 2016563623 A JP2016563623 A JP 2016563623A JP 2016563623 A JP2016563623 A JP 2016563623A JP 6656166 B2 JP6656166 B2 JP 6656166B2
- Authority
- JP
- Japan
- Prior art keywords
- electrode
- signal
- value
- unit
- threshold
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000010365 information processing Effects 0.000 title claims description 4
- 238000001514 detection method Methods 0.000 claims description 121
- 238000000034 method Methods 0.000 claims description 83
- 230000008569 process Effects 0.000 claims description 79
- 238000012545 processing Methods 0.000 claims description 75
- 238000004364 calculation method Methods 0.000 claims description 33
- 230000004424 eye movement Effects 0.000 claims description 11
- 210000004709 eyebrow Anatomy 0.000 claims description 9
- 210000001508 eye Anatomy 0.000 description 50
- 239000000872 buffer Substances 0.000 description 28
- 230000003321 amplification Effects 0.000 description 25
- 238000003199 nucleic acid amplification method Methods 0.000 description 25
- 238000010586 diagram Methods 0.000 description 23
- 239000011521 glass Substances 0.000 description 23
- 238000004891 communication Methods 0.000 description 20
- 230000005540 biological transmission Effects 0.000 description 8
- 230000004397 blinking Effects 0.000 description 5
- 238000002474 experimental method Methods 0.000 description 4
- 238000006243 chemical reaction Methods 0.000 description 3
- 238000009434 installation Methods 0.000 description 3
- 230000002776 aggregation Effects 0.000 description 2
- 238000004220 aggregation Methods 0.000 description 2
- 230000007423 decrease Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 238000010295 mobile communication Methods 0.000 description 2
- 206010041349 Somnolence Diseases 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 210000005252 bulbus oculi Anatomy 0.000 description 1
- 229940112822 chewing gum Drugs 0.000 description 1
- 235000015218 chewing gum Nutrition 0.000 description 1
- 210000004087 cornea Anatomy 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000004069 differentiation Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 210000001525 retina Anatomy 0.000 description 1
- 230000007704 transition Effects 0.000 description 1
Images
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B3/00—Apparatus for testing the eyes; Instruments for examining the eyes
- A61B3/10—Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions
-
- G—PHYSICS
- G02—OPTICS
- G02C—SPECTACLES; SUNGLASSES OR GOGGLES INSOFAR AS THEY HAVE THE SAME FEATURES AS SPECTACLES; CONTACT LENSES
- G02C5/00—Constructions of non-optical parts
- G02C5/12—Nose pads; Nose-engaging surfaces of bridges or rims
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
-
- G—PHYSICS
- G02—OPTICS
- G02C—SPECTACLES; SUNGLASSES OR GOGGLES INSOFAR AS THEY HAVE THE SAME FEATURES AS SPECTACLES; CONTACT LENSES
- G02C11/00—Non-optical adjuncts; Attachment thereof
Landscapes
- Engineering & Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Physics & Mathematics (AREA)
- Life Sciences & Earth Sciences (AREA)
- General Engineering & Computer Science (AREA)
- Ophthalmology & Optometry (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Molecular Biology (AREA)
- Biophysics (AREA)
- Surgery (AREA)
- Animal Behavior & Ethology (AREA)
- General Health & Medical Sciences (AREA)
- Public Health (AREA)
- Veterinary Medicine (AREA)
- Medical Informatics (AREA)
- Human Computer Interaction (AREA)
- Heart & Thoracic Surgery (AREA)
- Biomedical Technology (AREA)
- Optics & Photonics (AREA)
- Position Input By Displaying (AREA)
- User Interface Of Digital Computer (AREA)
- Eye Examination Apparatus (AREA)
Description
本発明は、プログラム、情報処理装置、及びアイウエアに関する。 The present invention relates to a program, an information processing device, and eyewear.
フレーム部分に複数の電極を設け、各電極から眼電図信号を取得するアイウエアが知られている(例えば、特許文献1参照)。また、眼電位信号から、ユーザの視線方向を検出する装置が知られている(例えば、特許文献2参照)。 2. Description of the Related Art Eyewear is known in which a plurality of electrodes are provided in a frame portion and an electrocardiogram signal is obtained from each electrode (for example, see Patent Document 1). In addition, a device that detects the direction of the user's line of sight from an electro-oculogram signal is known (for example, see Patent Document 2).
しかしながら、眼電位信号から瞬目や視線移動を検出することは可能であるが、瞬目及び視線移動の検出処理を適応的に切り替えながら、適切に瞬目や視線移動を検出する技術は存在しない。 However, it is possible to detect a blink or a line of sight from an electro-oculogram signal, but there is no technology that appropriately detects a blink or a line of sight while appropriately switching the detection process of the blink and the line of sight. .
そこで、本発明は、瞬目及び視線移動の検出処理を適切に切り替えることができることを目的とする。 Then, an object of the present invention is to be able to appropriately switch the processing of detecting blinks and eye movements.
本発明の一態様におけるプログラムは、対象者の眼周辺に接触する各電極により検出される眼電位に基づく眼電図信号を取得する取得ステップと、取得された前記眼電図信号と該眼電図信号の所定時間前の眼電図信号との差分信号を算出する算出ステップと、前記差分信号の極大値及び極小値を算出する算出ステップと、前記極大値及び/又は前記極小値に関する所定条件が満たされるか否かに基づいて、瞬目の検出処理及び視線移動の検出処理のいずれの検出処理を行うかを判定する判定ステップと、判定された検出処理を行う検出ステップと、をコンピュータに実行させる。 The program according to one aspect of the present invention includes an acquisition step of acquiring an electrocardiogram signal based on an electrooculogram detected by each electrode in contact with a periphery of a subject's eye; A calculating step of calculating a difference signal between the electrogram signal and the electrogram signal a predetermined time before the diagram signal; a calculating step of calculating a local maximum value and a local minimum value of the differential signal; and a predetermined condition regarding the local maximum value and / or the local minimum value A determination step of determining which of a blink detection process and a line-of-sight movement detection process to perform based on whether or not is satisfied, and a detection step of performing the determined detection process on a computer. Let it run.
本発明によれば、瞬目及び視線移動の検出処理を適切に切り替えることができる。 ADVANTAGE OF THE INVENTION According to this invention, the detection process of a blink and a gaze movement can be switched appropriately.
以下、図面を参照して本発明の実施の形態を説明する。ただし、以下に説明する実施形態は、あくまでも例示であり、以下に明示しない種々の変形や技術の適用を排除する意図はない。即ち、本発明は、その趣旨を逸脱しない範囲で種々変形して実施することができる。また、以下の図面の記載において、同一または類似の部分には同一または類似の符号を付して表している。図面は模式的なものであり、必ずしも実際の寸法や比率等とは一致しない。図面相互間においても互いの寸法の関係や比率が異なる部分が含まれていることがある。 Hereinafter, embodiments of the present invention will be described with reference to the drawings. However, the embodiment described below is merely an example, and there is no intention to exclude various modifications and application of technology not explicitly described below. That is, the present invention can be variously modified and implemented without departing from the spirit thereof. In the following description of the drawings, the same or similar parts are denoted by the same or similar reference numerals. The drawings are schematic and do not always match actual dimensions and ratios. The drawings may include portions having different dimensional relationships and ratios between drawings.
[実施例]
図1は、実施例におけるメガネ100の前方からの一例を示す斜視図である。図2は、実施例におけるメガネ100の後方からの一例を示す斜視図である。メガネ100は、レンズ110及びフレーム120を備える。メガネ100及びフレーム120は、アイウエアの一例である。[Example]
FIG. 1 is a perspective view illustrating an example from the front of the
フレーム120は、一対のレンズ110を支持する。フレーム120は、リム122と、眉間部(例えばブリッジ)124と、ヨロイ126と、丁番128と、テンプル130と、モダン132と、一対のノーズパッド140と、第1電極152と、第2電極154と、第3電極156と、電線(不図示)と、処理装置200と、増幅部250とを有する。なお、メガネ100の種類によっては、一枚レンズを用いることでフレームのブリッジ部分がない場合がある。この場合、一枚レンズの眉間部分を眉間部とする。
The
一対のノーズパッド140は、右ノーズパッド142及び左ノーズパッド144を含む。リム122、ヨロイ126、丁番128、テンプル130、及びモダン132は、それぞれ左右一対に設けられる。
The pair of
リム122は、レンズ110を保持する。ヨロイ126は、リム122の外側に設けられ、丁番128によりテンプル130を回転可能に保持する。テンプル130は、使用者の耳の上部を押圧して、この部位を挟持する。モダン132は、テンプル130の先端に設けられる。モダン132は、使用者の耳の上部に接触する。なお、モダン132は、必ずしもメガネ100に設ける必要はない。
The
第1電極152及び第2電極154は、一対のノーズパッド140のそれぞれの表面に設けられ、眼電位を検出する。例えば、第1電極152は、右ノーズパッド142に設けられ、第2電極154は、左ノーズパッド144に設けられる。
The
第1電極152は、使用者の右眼の眼電位を検出する。第2電極154は、使用者の左眼の眼電位を検出する。このように、眼電位を検出するための電極を、使用者の皮膚に必然的に接触するノーズパッドの表面に設ける。これにより、使用者の眼の周囲に二対の電極を接触させるのに比べて、使用者の皮膚に与える負担を軽減することができる。
The
第3電極156は、眉間部124の表面に設けられ、眼電位を検出する。接地電極(不図示)は、モダン132の表面に設けられるとする。メガネ100にモダン132がない場合は、接地電極は、テンプル130の先に設けられる。実施例において、第1電極152、第2電極154及び第3電極156が検出する電位は、接地電極が検出する電位を基準としてもよい。
The
処理装置200は、例えば、テンプル130に設けてもよい。これにより、メガネ100を正面から見たときのデザイン性を損なうことがない。処理装置200の設置位置は、必ずしもテンプル130である必要はないが、メガネ100を装着した際のバランスを考慮して位置決めすればよい。処理装置200は、電線を介して増幅部250に接続される。なお、処理装置200と、増幅部250とは、無線を介して接続されてもよい。
The
増幅部250は、第1電極152、第2電極154及び第3電極156の近傍に設けられ、増幅対象の各電極と電線を介して接続される。増幅部250は、各電極が検出した眼電位を示す眼電図信号を取得する。例えば、増幅部250は、第1電極152、第2電極154及び第3電極156により検出された眼電位を示す眼電図信号を増幅する。
The
また、増幅部250は、眼電図信号を処理する処理部を有していれば、増幅する前又は増幅した後の各眼電図信号に対し、加減処理を行ってもよい。例えば、増幅部250は、第3電極156を基準とした第1電極152の電位を示す基準眼電図信号を求めてもよい。また、増幅部250は、第3電極156を基準とした第2電極154の電位を示す基準眼電図信号を求めてもよい。増幅部250により増幅又は処理された信号は、処理装置200に出力される。
In addition, if the
外部装置300は、通信機能を有する情報処理装置である。例えば、外部装置300は、使用者が所持する携帯電話及びスマートフォン等の携帯通信端末、パーソナルコンピュータ等である。外部装置300は、送信部220から受信した眼電図信号に基づく処理を実行する。例えば、外部装置300は、受信した眼電図信号から、瞬目や視線移動を検出する。瞬目を検出する場合の応答として、外部装置300は、使用者の瞬目の回数が増加していることを検出した場合などに、居眠りを防止するための警告を発する。外部装置300の詳細については後述する。
The
<処理装置の構成>
図3は、実施例における処理装置200の一例を示すブロック図である。図3に示すように、処理装置200は、処理部210、送信部220、及び電源部230を有する。第1電極152、第2電極154、第3電極156は、例えば増幅部250を介して処理部210に接続される。処理装置200の各構成は、一対のテンプルに分散して設けられてもよい。<Configuration of processing device>
FIG. 3 is a block diagram illustrating an example of the
処理部210は、増幅部250から増幅された眼電図信号を取得し、処理する。例えば、処理部210は、第3電極156を基準とした第1電極152の電位を示す基準眼電図信号を処理してもよい。なお、基準眼電図信号は、説明の便宜上「基準」を付したが、眼電図信号に含まれる。また、処理部210は、第3電極156を基準とした第2電極154の電位を示す基準眼電図信号を処理してもよい。
The
このとき、処理部210は、右眼及び左眼において、各電極から検出された眼電位に基づいて、眼の垂直方向及び/又は水平方向の動きを示す眼電図信号となるように処理を行ってもよい。
At this time, the
他にも、処理部210は、取得した眼電図信号がデジタル化されていなければ、デジタル化処理を行ったり、各電極から増幅された眼電図信号を取得した場合には、眼電図信号の加減処理を行ったりする。また、処理部210は、増幅部250から取得した眼電図信号をそのまま送信部220に送信してもよい。
In addition, the
送信部220は、処理部210によって処理された眼電図信号を外部装置300に送信する。例えば、送信部220は、Bluetooth(登録商標)及び無線LAN等の無線通信、又は有線通信によって眼電図信号を外部装置300に送信する。電源部230は、処理部210、送信部220、及び増幅部250に電力を供給する。
The transmitting
図4は、使用者に対する電極の接触位置を概略的に示す図である。第1接触位置452は、第1電極152の接触位置を表す。第2接触位置454は、第2電極154の接触位置を表す。第3接触位置456は、第3電極156の接触位置を表す。水平中心線460は、右眼402の中心と左眼404の中心とを結んだ水平方向の中心線を表す。垂直中心線462は、右眼402と左眼404との中心において水平中心線460と直交する中心線を表す。
FIG. 4 is a diagram schematically showing a contact position of the electrode with respect to the user. The
第1接触位置452及び第2接触位置454は、水平中心線460よりも下側に位置することが望ましい。また、第1接触位置452及び第2接触位置454は、第1接触位置452と第2接触位置454との中心を結ぶ線分が、水平中心線460と平行になるべく配置されることが望ましい。
It is desirable that the
また、第1接触位置452及び第2接触位置454は、第1接触位置452から右眼402への距離と、第2接触位置454と左眼404との距離が等しくなるべく配置されることが望ましい。また、第1接触位置452及び第2接触位置454は、互いに一定の距離以上離間していることが望ましい。
Further, it is desirable that the
第3接触位置456は、垂直中心線462上に位置することが望ましい。また、第3接触位置456は、水平中心線460よりも上側であって、第1接触位置452及び第2接触位置454から離れた位置であることが望ましい。また、例えば、第3接触位置456と右眼402との距離は、右眼402と第1接触位置452との距離よりも離間させ、左眼404との距離は、左眼404と第2接触位置454との距離よりも離間させてよい。
The
眼球は、角膜側が正に帯電しており、網膜側が負に帯電している。したがって、視線が上に移動した場合、第3電極156を基準とした第1電極152の電位及び第3電極156を基準とした第2電極154の電位が負となる。視線が下に移動した場合、第3電極156を基準とした第1電極152の電位及び第3電極156を基準とした第2電極154の電位が正となる。
In the eyeball, the cornea side is positively charged, and the retina side is negatively charged. Therefore, when the line of sight moves upward, the potential of the
視線が右に移動した場合、第3電極156を基準とした第1電極152の電位が負となり、第3電極156を基準とした第2電極154の電位が正となる。視線が左に移動した場合、第3電極156を基準とした第1電極152の電位が正となり、第3電極156を基準とした第2電極154の電位が負となる。
When the line of sight moves right, the potential of the
第3電極156を基準とした第1電極152の電位及び第3電極156を基準とした第2電極154の電位を検出することによって、好適にノイズの影響を軽減することができる。第3接触位置456を第1接触位置452及び第2接触位置454から可能な限り離間させるべく、眉間部124は、リム122の上端又はその近傍に配置されてもよい。また、眉間部124の中心よりも上側に第3電極156は設けられてもよい。この場合、第3電極156の配置位置として、縦幅の広い眉間部124を採用することが望ましい。
By detecting the potential of the
なお、処理部210は、第3電極156を基準とした第1電極152の電位を検出する代わりに、基準電極を基準とした第1電極152の電位から、基準電極を基準とした第3電極156の電位を減じてもよい。そして同様に、処理部210は、第3電極156を基準とした第2電極154の電位を検出する代わりに、基準電極を基準とした第2電極154の電位から、基準電極を基準とした第3電極156の電位を減じてもよい。
Note that, instead of detecting the potential of the
基準電極としては、接地電極を用いてもよい。また、メガネ100の、第1電極152、第2電極154及び第3電極156から離間した位置に、別途基準電極を設けてもよい。例えば、基準電極は、右側のモダン132に設けられてもよい。また、基準電極は、右側のテンプル130の使用者の肌に接する部位に設けられてもよい。
A ground electrode may be used as the reference electrode. Further, a separate reference electrode may be provided at a position of the
なお、基準電極を基準とした第1電極152の電位から第3電極156の電位を減じる処理、及び基準電極を基準とした第2電極154の電位から第3電極156の電位を減じる処理は、処理部210が実行してもよく、増幅部250又は外部装置300が実行してもよい。この場合、処理対象の電位を示す信号は、増幅部250により増幅されている。
Note that the process of subtracting the potential of the
<増幅部の構成>
次に、増幅部250の構成について説明する。図5は、実施例における増幅部250の構成の一例を示す図である。図5に示すように、増幅部250は、第1アンプ260及び第2アンプ270を有する。第1アンプ260は、第2アンプ270の前段に位置し、バッファアンプとして機能するアンプである。以下、第1アンプ260をバッファアンプ260とも称する。第2アンプ270は、メインのアンプとして機能するアンプである。以下、第2アンプ270は、メインアンプ270とも称する。メインアンプ270により増幅された信号は処理装置200に有線又は無線を用いて出力される。<Configuration of amplifying unit>
Next, the configuration of the
増幅部250の設置位置は、眉間部124部分であることが望ましい。なお、増幅部250は、眉間部124に埋め込むようにして設けてもよい。前述したとおり、各電極は可能な限り離間させた方が望ましいが、各電極の設置位置はフレーム120の形状に依存してしまうため、離間させるにしても限界がある。
It is desirable that the installation position of the amplifying
このため、各電極の電位差が十分な大きさにならない場合があり、各電極で検出された小さい電位を示す眼電図信号にノイズが混入してしまうと、十分な精度の電位を検出することが困難になってしまう。 For this reason, the potential difference between the electrodes may not be large enough.If noise is mixed in the electro-oculogram signal indicating a small potential detected at each electrode, it is necessary to detect the potential with sufficient accuracy. Becomes difficult.
そこで、実施例においては、検出された眼電図信号にノイズが混入する前に増幅することを目的として、増幅部250は、第1電極152、第2電極154及び第3電極156の近傍に設けられる。例えば、増幅部250は、各電極に近く、フレーム120にスペースが存在する眉間部124部分に設けることが好ましい。これにより、各電極により検出された眼電図信号が電線を通過する間に、ノイズが混入して眼電図信号の精度を低下させるリスクを減らすことができる。
Therefore, in the embodiment, the
次に、メインアンプ270の前段の位置にバッファアンプ260を設ける理由を、図6を用いて説明する。図6は、バッファアンプ260を設ける理由を説明するための図である。図6に示す例は、第3電極156を用いるが、第1電極152及び第2電極154においても同様である。
Next, the reason why the
第3電極156は、メガネ100を装着した際、人肌に触れるため、グランドとの間に抵抗R0が存在すると考えてよい。このとき、抵抗R0は、例えば数100kΩである。また、メインアンプ270には、内部抵抗R1が存在する。このとき、メインアンプ270として通常のアンプを用いると、内部抵抗R1は、数10kΩ〜数100kΩである。Since the
ここで、理想的にはメインアンプ270に電流が流れ込まないことであるが、内部抵抗R1が抵抗R0よりも小さいと、電流がメインアンプ270側に流れ込む。そうすると、電極の電圧Viとメインアンプ270の電圧Vxとが分圧されて観測されてしまう。そこで、メインアンプ270の前段の位置にバッファアンプ260を設けてメインアンプ270側に電流が流れ込まないようにする。Here, although ideally is that does not flow a current to the
図7は、実施例における増幅部の構成の他の例を示す図である。図7に示す増幅部は、符号250Aと表記される。増幅部250Aは、バッファアンプ260、メインアンプ270、A/D変換部280、及び無線通信部290を有する。バッファアンプ260及びメインアンプ270は、図5に示す機能と同様であるため、以下では、A/D変換部280及び無線通信部290について主に説明する。
FIG. 7 is a diagram illustrating another example of the configuration of the amplification unit according to the embodiment. The amplification unit illustrated in FIG. 7 is denoted by reference numeral 250A. The amplification unit 250A includes a
A/D変換部280は、メインアンプ270により増幅された信号をアナログからデジタルに変換する。A/D変換部280は、デジタル変換した信号を無線通信部290に出力する。
The A /
無線通信部290は、A/D変換部280により変換されたデジタル信号を、無線通信を用いて処理装置200に送信する。よって、無線通信部290は、送信部として機能する。無線通信部290は、例えばBluetooth(登録商標)及び無線LAN等の無線通信を用いる。また、無線通信部290は、外部装置300にデジタル信号を直接送信してもよい。
The
なお、実施例では、バッファアンプ260及びメインアンプ270を1つ設ける例を示したが、この場合は各電極からの眼電図信号に対して順番を決めて増幅していけばよい。また、各電極それぞれにバッファアンプ260及びメインアンプ270を設けてもよい。
In the embodiment, an example is shown in which one
<外部装置の構成>
次に、外部装置300の構成について説明する。図8は、実施例における外部装置300の構成の一例を示すブロック図である。図8に示すように、外部装置300は、通信部310、記憶部320、及び制御部330を有する。<Configuration of external device>
Next, the configuration of the
通信部310は、Bluetooth(登録商標)及び無線LAN等の無線通信、又は有線通信によって眼電図信号を受信する。通信部310は、処理装置200の通信部220から受信した眼電図信号を制御部330に出力する。
The
記憶部320は、例えば、RAM(Random Access Memory)であり、右眼及び左眼の眼電図信号の極大値及び/又は極小値を記憶する。また、記憶部320は、眼電図信号の差分信号の極大値及び/又は極小値を記憶してもよい。また、極大値又は極小値は、それぞれ所定時間毎の最大値又は最小値でもよい。
The
例えば、記憶部320は、極大値用のFIFOバッファと、極小値用のFIFOバッファとを有する。FIFOバッファは、極大値または極小値のデータにより記憶容量が一杯になったときは、最も古いデータが消去されて最新のデータが記憶されることにより、記憶領域に記憶されるデータが更新される。また、記憶部320は、後述する検出部340の検出結果を記憶してもよい。
For example, the
また、記憶部320は、後述する瞬目検出処理や視線移動検出処理をコンピュータに実行させるプログラムを記憶する。以下、瞬目検出処理及び視線移動検出処理をまとめて検出処理とも称す。このプログラムは、インターネット、又はSDカードなどの記録媒体を介して外部装置300にインストールされてもよいし、プリインストールされていてもよい。また、このプログラムを記憶する記憶部は、記憶部320とは別であってもよい。
Further, the
制御部330は、例えばCPU(Central Processing Unit)であり、各部の制御を行ったり、各種の演算処理を行ったりする。図8に示す例では、制御部330は、取得部332、差分算出部334、極値算出部336、判定部338、検出部340を有する。
The
取得部332は、対象者の眼周辺に接触する各電極により検出される眼電位に基づく眼電図信号を取得する。取得される眼電図信号は、右眼及び/又は左眼の眼電図信号であり、垂直方向の眼電図信号などでもよい。取得部332は、例えば、通信部310が受信した眼電図信号を取得すると、この眼電図信号を差分算出部334、判定部338に出力する。
The
制御部330は、取得された眼電図信号に対し、右眼及び左眼の動きを示す眼電図信号又は差分信号の極大値及び極小値を記憶部320に記憶するようにする。また、制御部330は、所定期間毎に、右眼及び左眼の動きを示す眼電図信号又は差分信号の最大値及び/又は最小値を記憶部320に記憶するようにしてもよい。
The
所定期間は、例えば200msecとするが、この限りではない。また、所定期間は、時間窓を用いることで重複を許して時間的に変動するようにしてもよい。 The predetermined period is, for example, 200 msec, but is not limited to this. In addition, the predetermined period may be changed over time by using a time window to allow overlap.
差分算出部334は、取得部332により取得された眼電図信号と、この眼電図信号の所定時間前の眼電図信号との差分信号を算出する。所定時間前の眼電図信号とは、例えば、離散的な眼電図信号に対し、取得部332により取得された眼電図信号から4つ前の測定点の眼電図信号とするが、この例に限られない。差分信号を求めることで、後述するように眼電図信号のベースラインの変動を吸収することができる。
The
極値算出部336は、差分算出部334により算出された差分信号の極大値及び極小値を算出する。極値算出部336は、差分信号の極大値及び極小値を判定部338に出力する。また、極値算出部336は、算出した極大値及び極小値を記憶部320に記憶するようにしてもよい。
The extreme
判定部338は、極値算出部336により算出された極大値及び/又は極小値に関する所定条件が満たされるか否かに基づいて、瞬目の検出処理及び視線移動の検出処理のいずれの検出処理を行うかを判定する。また、判定部338は、取得部332により取得された眼電図信号も用いて所定条件を満たすか否かを判定してもよい。
The
検出部340は、判定部338により判定された瞬目又は視線移動の検出処理を行う。そのため、検出部340は、瞬目検出部342と、視線移動検出部344とを含む。瞬目検出部342は、瞬目の検出処理として、公知の技術を用いて検出処理を行ってもよいし、後述する検出処理を行ってもよい。視線移動検出部344は、視線移動の検出処理として、公知の技術を用いて検出処理を行ってもよいし、後述する検出処理を行ってもよい。次に、判定部338及び検出部340について詳しく説明する。
The
≪判定処理≫
図9は、実施例における判定部338の構成の一例を示すブロック図である。図9に示す判定部338は、極大値と極小値との比に関する所定条件を用いて判定処理を行う第1判定部402と、眼電図信号の第1値から第2値までの時間に関する所定条件を用いて判定処理を行う第2判定部404とを含む。なお、判定処理については、第1判定部402及び第2判定部404のいずれかの条件が用いられてもよいし、両方の条件が満たされる場合に、判定部338は検出処理を判定してもよい。≪ Judgment processing ≫
FIG. 9 is a block diagram illustrating an example of a configuration of the
第1判定部402は、極大値と極小値との比が、第1閾値以上第2閾値以下の所定範囲に含まれる場合、瞬目の検出処理を行うと判定し、この比が所定範囲に含まれない場合、視線移動の検出処理を行うと判定する。なお、極大値と極小値との比とは、例えば、後述する閾値算出部502により算出される閾値を超える極大値又は極小値と、次に現れる極小値又は極大値との比である。極小値は基本的にマイナスの値であるため、比は、マイナスの値になるが、絶対値を取ってもよい。なお、この比は、ピーク比とも称される。
When the ratio between the local maximum value and the local minimum value falls within a predetermined range equal to or greater than the first threshold and equal to or less than the second threshold, the
第1判定部402は、ピーク比を用いることで、瞬目検出に適切ではない差分信号に基づいて瞬目をすることを防止する。瞬目検出に適切ではない差分信号とは、極大値の振幅が極小値の振幅よりも十分に大きい信号などである。例えば、ガムを噛むなどの場合に、瞬目検出に適切ではない差分信号が現れる。
Using the peak ratio, the
他方、適切な瞬目における極大値と極小値との比は、所定範囲に入ることが実験等により知られている。下限となる第1閾値は、例えば−1.7から−1.5であり、上限となる第2閾値は、例えば−0.5から−0.3である。 On the other hand, it is known from experiments and the like that the ratio between the local maximum value and the local minimum value at an appropriate blink is within a predetermined range. The first threshold value serving as the lower limit is, for example, from -1.7 to -1.5, and the second threshold value serving as the upper limit is, for example, from -0.5 to -0.3.
また、第1判定部402は、ピーク比が、第1閾値よりも小さい第3閾値以下、又は第2閾値よりも大きい第4値以上の場合に、視線移動の検出処理を行うと判定してもよい。視線移動の場合は、上を向いた場合はこのピーク比が大きくなり、下を向いた場合はピーク比が小さくなることが実験等により知られている。このとき、第3閾値は、例えば−2.0であり、第4閾値は−0.1である。
In addition, the
第2判定部404は、極大値又は極小値に関する眼電図信号の値から眼電図信号の所定値までに要する時間に関する所定条件を用いる。例えば、所定条件として、差分信号の極大値に対応する眼電図信号の第1値から、この第1値から所定範囲内に入る眼電図信号の第2値までにかかる時間が、所定時間以内であることとする。
The
このとき、第2判定部404は、眼電図信号の第1値から第2値までに推移するのに要する時間が、所定時間以内である場合、瞬目の検出処理を行うと判定し、この時間が所定時間以内ではない場合、視線移動の検出処理を行うと判定する。
At this time, the
なお、眼電図信号の極大値から次の極小値までの時間が短いものが瞬目であり、極大値から次の極小値までの時間が長いものが視線移動であることが実験等により知られている。したがって、第2判定部404は、上述したことが判定できるように、眼電図信号の第1値から第2値までの時間差を用いた条件を設定すればよい。
It is known from experiments and the like that blinks have a short time from the maximum value of the electrocardiogram signal to the next minimum value, and eye movements have a long time from the maximum value to the next minimum value. Have been. Therefore, the
これにより、判定部338は、差分信号又は眼電図信号の極大値や極小値に関する条件に基づいて、瞬目の検出を行うのか、視線移動の検出を行うのかを適切に判断し、検出処理を適応的に切り替えることができる。
Accordingly, the
また、ピーク比が用いられる場合は、上述した第3又は第4閾値を用いるなどして、外乱などの影響によるノイズを除去し、適切に瞬目検出又は視線移動検出を行うことができる。 When a peak ratio is used, noise caused by disturbance or the like can be removed by using the above-described third or fourth threshold, and blink detection or gaze movement detection can be appropriately performed.
≪瞬目検出≫
つぎに、瞬目検出について説明する。図10は、実施例における瞬目検出部342の一例を示すブロック図である。≪Blink detection≫
Next, blink detection will be described. FIG. 10 is a block diagram illustrating an example of the
瞬目検出部342は、眼電図信号を用いた公知の瞬目検出アルゴリズムを用いることができるが、以下では、瞬目判定に用いる閾値を可変にすることで、適切な瞬目が検出可能なアルゴリズムについて説明する。瞬目検出部342は、閾値算出部502を有する。
The
閾値算出部502は、記憶部320に記憶された極大値及び/又は極小値を用いて閾値を算出する。閾値算出部502は、例えば処理を簡略化するため、極大値又は極小値の絶対値の平均値等から閾値の絶対値を算出してもよい。
The
また、閾値算出部502は、記憶部320に記憶された極大値を用いて第5閾値を算出し、また、記憶部320に記憶された極小値を用いて第6閾値を算出してもよい。ここで、第5閾値は、眼が垂直方向の上に動いたことを判定するために用いられ、第6閾値は、眼が垂直方向の下に動いたことを判定するために用いられる。これにより、上方向の眼の動き、下方向の眼の動きそれぞれに閾値を設定できるので、適切な閾値判定を行うことができる。
Further,
また、閾値算出部502は、第1算出部512及び第2算出部514を有する。第1算出部512は、極大値用のFIFOバッファに記憶されている極大値の平均値及び標準偏差を算出する。また、第1算出部512は、極小値用のFIFOバッファに記憶されている最小値の平均値及び標準偏差を算出する。
Further, the threshold
第2算出部514は、極大値の平均値及び標準偏差に基づいて第5閾値を算出し、極小値の平均値及び標準偏差に基づいて第6閾値を算出する。これにより、例えば対象者の直近の状態を示す眼電図信号又は差分信号を用いて閾値を設定することができる。また、第5閾値及び第6閾値は、使用者の直近の状態を示す信号の強度に追従して値を変更させることができる。
The
例えば、第2算出部514は、極大値の平均値に、極大値の標準偏差に係数を乗算した値を加算した値を第5閾値とする。第2算出部514は、極小値の平均値から、極小値の標準偏差に係数を乗算した値を減算した値を第6閾値とする。これにより、適切な閾値を設定することができる。
For example, the second calculating
また、閾値算出部502は、記憶部320に極大値及び/又は極小値が記憶される度に、第5閾値及び第6閾値を更新する。これにより、閾値算出部502は、過去の眼電図信号又は差分信号に基づいて閾値を設定することができるため、眠くなって眼の動きが遅くなり、眼電図信号が弱くなった場合であっても、その弱くなった信号に応じて閾値を設定することができるので、適切に瞬目を検出することができる。閾値算出部502により算出された第5閾値及び第6閾値は、判定部338において、極大値及び極小値の精度を上げるために、これらの閾値を超えた極大値及び極小値を判定するために用いられてもよい。
Further, the threshold
また、閾値算出部502は、記憶部320に記憶された所定個の極大値の平均を第5閾値としたり、記憶部320に記憶された所定個の極小値の平均を第6閾値としたりしてもよい。また、閾値算出部502は、記憶部320に記憶された極大値及び極小値それぞれの標準偏差を用いて第5閾値及び第6閾値を算出してもよい。
Further, the threshold
瞬目検出部342は、第2算出部514により算出された第5閾値、及び第6閾値を用いて、眼電図信号又は差分信号から瞬目を検出する。例えば、瞬目検出部342は、第5閾値以上となる記憶部320に記憶された極大値の第1時刻と、第6閾値以下となる記憶部320に記憶された極小値の第2時刻との差分が所定時間以内であれば、瞬目を検出する。ここで、第2時刻は、第1時刻以降であって直近の時刻とする。所定時間は、例えば500msecとするがこの限りではない。
The
なお、瞬目検出部342は、右眼、左眼それぞれの眼電図信号を用いて瞬目を検出し、所定範囲内のタイミングで両目において瞬目が検出されたときに最終的な瞬目を検出してもよい。また、瞬目検出部342は、右眼と左眼は同様の動きをすることを前提とし、双方の眼電図信号の平均を用いて瞬目を検出してもよい。具体的な眼電図信号を用いた瞬目検出アルゴリズムについては、図15を用いて後述する。
Note that the
≪視線移動検出≫
次に、視線移動の検出について説明する。図8に戻り、視線移動検出部344は、公知の方法を用いて視線移動を検出すればよい。例えば、視線移動検出部344は、取得した眼電図信号又は差分信号から右眼電図と、左眼電図とに分けて、右眼電図及び左眼電図で負の電位が示された場合には視線が上を向いたことを検出する。また、視線移動検出部344は、右眼電図及び左眼電図で正の電位が示された場合には視線が下、右眼電図で負の電位が示され左眼電図で正の電位が示された場合には視線が右、右眼電図で正の電位が示され左眼電図で負の電位が示された場合には視線が左に向いたことを検出する。≪Gaze movement detection≫
Next, detection of gaze movement will be described. Returning to FIG. 8, the gaze
さらに、視線移動検出部344は、右眼電図が示す電位V1と左眼電図が示す電位V2とを加減算することによって、視線の検出精度を高めることができる。例えば、V1+V2が負であり、V1−V2が略ゼロの場合は、視線が上に向けられたと検出できる。V1+V2が正であり、V1−V2が略ゼロの場合は、視線が下に向けられたと判断できる。V1+V2が略ゼロであり、V1−V2が負の場合は、視線が右に向けられたと判断できる。V1+V2が略ゼロであり、V1−V2が正の場合は、視線が左に向けられたと判断できる。V1とV2とを加減算することにより、算出される正の値及び負の値が大きくなる。したがって、その分閾値を大きく設定することができるので、ノイズを誤って視線移動として検出してしまう誤検出を低減できる。
Further, the line-of-sight
<具体例>
次に、眼電図信号や差分信号の具体例を用いて判定処理や検出処理について説明する。図11は、眼電図信号の一例を示す図である。図11に示すグラフにおいて、縦軸の眼電強度は、眼電位の強度を示す単位であり、例えば眼電図信号の計測値×1.5(V)÷2048などで表される。横軸は時間である。<Specific examples>
Next, the determination process and the detection process will be described using specific examples of an electro-oculogram signal and a difference signal. FIG. 11 is a diagram illustrating an example of an electrogram signal. In the graph shown in FIG. 11, the electrooculogram strength on the vertical axis is a unit indicating the electrooculogram strength, and is represented by, for example, a measured value of electrocardiogram signal × 1.5 (V) ÷ 2048. The horizontal axis is time.
図11に示す眼電図信号S1は、ベースとなる眼電図信号の強度が大きく変動している。そのため、上述した閾値算出部502により算出される第5閾値及び/又は第6閾値が、ベースとなる眼電図信号S1の強度に影響を受けて大きく変動してしまい、適切な閾値を設定することが困難な場合がある。
In the electrogram signal S1 shown in FIG. 11, the intensity of the base electrogram signal greatly fluctuates. For this reason, the fifth threshold value and / or the sixth threshold value calculated by the above-described threshold
そこで、ベースとなる眼電図信号S1の強度の変動に影響を受けないようにするため、眼電図信号S1の差分信号が用いられるとよい。 Therefore, in order not to be affected by the fluctuation of the intensity of the base electrogram signal S1, a difference signal of the electrogram signal S1 may be used.
図12は、差分信号の一例を示す図である。図12に示す差分信号S2は、ベースとなる差分信号の強度がほぼ一定である。よって、閾値算出部502は、この差分信号S2を用いて閾値を算出すれば、ノイズの影響等を小さくし、適切な閾値を算出することが可能になる。
FIG. 12 is a diagram illustrating an example of the difference signal. In the difference signal S2 shown in FIG. 12, the intensity of the base difference signal is substantially constant. Therefore, if the threshold
図13は、ピーク比を用いた判定処理を説明するための図である。図13に示す例では、差分信号S3を用いて第5閾値TH1、第6閾値TH2が算出されている。 FIG. 13 is a diagram for explaining the determination process using the peak ratio. In the example shown in FIG. 13, the fifth threshold value TH1 and the sixth threshold value TH2 are calculated using the difference signal S3.
このとき、極大値が第5閾値以上、次の極小値が第6閾値以下の場合に、基本的に瞬目と検出されてもよいが、ガムを噛むなどの場合にも瞬目として検出されてしまう場合がある。 At this time, when the maximum value is equal to or greater than the fifth threshold value and the next minimum value is equal to or less than the sixth threshold value, it may be basically detected as a blink. In some cases.
そこで、実施例では、極大値と、その極大値の次の極小値とのピーク比に着目し、このピーク比が所定範囲に入っていれば瞬目の検出処理が行われるようにする。図13に示す例では、符号Pにおける極大値のところは、ピーク比が所定範囲に含まれ、さらに、極大値が閾値を超えているため、瞬目として検出される。他方、符号Eにおける極大値のところは、極大値が閾値を超えているが、ピーク比が所定範囲に含まれないために、瞬目として検出されない。なお、瞬目の検出処理における判定は、判定部338によるピーク比判定と、瞬目検出部342による閾値判定とがあるが、これらは順不同であり、閾値判定を先に行って、次にピーク比判定をしてもよく、また両判定が並行して判定されてもよい。
Thus, in the embodiment, attention is paid to the peak ratio between the local maximum value and the local minimum value next to the local maximum value, and if the peak ratio falls within a predetermined range, the blink detection processing is performed. In the example shown in FIG. 13, the peak value at the symbol P is detected as a blink because the peak ratio is included in the predetermined range and the maximum value exceeds the threshold. On the other hand, at the local maximum value in the code E, the local maximum value exceeds the threshold, but is not detected as a blink because the peak ratio is not included in the predetermined range. Note that the determination in the blink detection process includes a peak ratio determination by the
図14は、時間差を用いた判定処理を説明するための図である。図14(A)は眼電図信号の一例であり、図14(B)は、図14(A)に示す眼電図信号における差分信号の一例とするが、差分の正確性は問わない。図14に示す例では、視線移動の場合の眼電図信号又は差分信号であるが、視線移動の場合、瞬目と異なり、眼電図信号は極大値から緩やかに下がってくる。実施例では、この緩やかさに着目し、差分信号の極大値に対応する眼電図信号の第1値Q1から、Q1に相当する値の第2値Q2になるまでの時間tが所定条件に用いられる。第1値Q1は、例えば、差分信号が時刻t1の眼電図信号から時刻t2の眼電図信号の差分信号の場合、時刻t1の眼電図信号とするが、時刻t2の眼電図信号でもよい。第2値Q2は、第1値Q1と同じ値でもよいし、第1値にオフセットを加算した値でもよい。 FIG. 14 is a diagram illustrating a determination process using a time difference. FIG. 14A shows an example of an electrogram signal, and FIG. 14B shows an example of a difference signal in the electrogram signal shown in FIG. 14A, but the accuracy of the difference does not matter. In the example shown in FIG. 14, the signal is an electrocardiogram signal or a difference signal in the case of movement of the line of sight. However, in the case of movement of the line of sight, the electrocardiogram signal gradually decreases from the maximum value, unlike blinking. In the embodiment, focusing on this gradualness, the time t from the first value Q1 of the electrogram signal corresponding to the maximum value of the difference signal to the second value Q2 of the value corresponding to Q1 is set to a predetermined condition. Used. For example, when the difference signal is a difference signal between the electrogram signal at time t1 and the electrogram signal at time t2, the first value Q1 is the electrogram signal at time t1, but the electrogram signal at time t2. May be. The second value Q2 may be the same value as the first value Q1, or may be a value obtained by adding an offset to the first value.
例えば、第2判定部404は、第1値Q1から第2値Q2になるまでの時間tを算出し、この時間tが所定時間以内であるか否かを判定し、時間tが所定時間以内であれば瞬目の検出処理を行うと判定し、時間tが所定時間以内でなければ視線移動の検出処理を行うと判定する。所定時間は、例えば500msecなどであり、事前の実験などにより適切な値が設定されればよい。なお、時間tは、眼電図信号の勾配が緩やかであるか、又は急であるかを判定できればよいので、眼電図信号の極大値から極小値までの時間などでもよい。
For example, the
次に、瞬目検出のアルゴリズムを具体的な眼電図信号を用いて説明する。図15は、眼の垂直方向の動きを示す眼電図信号の一例を示す図である。図15に示す眼電図信号S4は、片側の眼の垂直方向の動きを示す眼電図信号である。以下に説明する瞬目検出アルゴリズムは、所定期間の極大値及び極小値を用いて閾値を算出する場合のアルゴリズムである。 Next, the blink detection algorithm will be described using a specific electrogram signal. FIG. 15 is a diagram illustrating an example of an electrogram signal indicating a vertical movement of the eye. The electro-oculogram signal S4 shown in FIG. 15 is an electro-oculogram signal indicating the vertical movement of one eye. The blink detection algorithm described below is an algorithm in a case where a threshold value is calculated using the maximum value and the minimum value in a predetermined period.
(1)所定期間ごとの最大値、最小値を求める
制御部330は、眼電図信号S4の所定期間T1(例えば500msec)ごとの最大値、最小値を求める。(1) Finding the maximum value and the minimum value every predetermined period The
(2)最大値が極大値である場合、第1FIFOバッファに保存する
制御部330は、(1)で求めた最大値が極大値である場合、第1FIFOバッファ(記憶部320)に保存する。(2) When the maximum value is the maximum value, save it in the first FIFO buffer. When the maximum value obtained in (1) is the maximum value, the
(3)最小値が極小値である場合、第2FIFOバッファに保存する
制御部330は、(1)で求めた最小値が極小値である場合、第1FIFOバッファとは別領域の第2FIFOバッファに保存(記憶部320)する。なお、(2)及び(3)について、順序は問わない。以降、第1FIFOバッファ及び第2FIFOバッファをまとめる場合は、単にバッファと称する。図15において、眼電図信号S4上にある黒点は、各期間において極大値又は極小値として検出された値を表す。なお、極大値及び極小値は、微分を用いて、例えば眼電図信号S4の差分信号を用いて求めることができる。(3) When the minimum value is the minimum value, save it in the second FIFO buffer. When the minimum value obtained in (1) is the minimum value, the
(4)バッファの容量分データが保存されたら、平均値及び標準偏差を算出する
第1算出部512は、第1FIFOバッファに保存されている極大値の平均値(a1)及び標準偏差(b1)を算出する。また、第1算出部512は、第2FIFOバッファに保存されている極小値の平均値(a2)及び標準偏差(b2)を算出する。(4) When the data corresponding to the capacity of the buffer is stored, calculate the average value and the standard deviation. The
(5)閾値を算出する
第2算出部514は、(4)で算出された平均値及び標準偏差を用いて第5閾値及び第6閾値を算出する。第5閾値(Th1)及び第6閾値(Th2)は、以下の式で算出される。
Th1=a1+E×b1・・・式(1)
Th2=a2−E×b2・・・式(2)
ここで、係数Eは、例えば2とする。
なお、第5閾値(Th1)、第6閾値(Th2)の絶対値に下限値を設定しておいてもよい。これにより、眼のわずかな上下運動を瞬きであると誤検出することを防止することができる。また、係数Eは、信号強度に応じて可変に設定できるようにされてもよい。(5) Calculating the Threshold The
Th1 = a1 + E × b1 Equation (1)
Th2 = a2−E × b2 Equation (2)
Here, the coefficient E is, for example, 2.
Note that lower limits may be set to the absolute values of the fifth threshold (Th1) and the sixth threshold (Th2). This can prevent erroneous detection of slight vertical movement of the eye as blinking. Further, the coefficient E may be set variably according to the signal strength.
図15において、第5閾値の例として、符号TH1で表し、第6閾値の例として符号TH2で表す。図15に示すとおり、眼電図信号の時間経過に伴って、それぞれの閾値が変動し、さらに、眼電図信号の強さ(振幅の大きさ)に追従して閾値が適切に変更される。図15に示す第5閾値TH1と第6閾値TH2は、閾値の変動を概念的に示したものに過ぎない。 In FIG. 15, an example of the fifth threshold is represented by a symbol TH1 and an example of the sixth threshold is represented by a symbol TH2. As shown in FIG. 15, each threshold value changes with the passage of time of the electrogram signal, and further, the threshold value is appropriately changed in accordance with the strength (magnitude of the amplitude) of the electrogram signal. . The fifth threshold value TH1 and the sixth threshold value TH2 shown in FIG. 15 are merely conceptual representations of threshold value fluctuations.
(6)第5閾値以上の極大値、及び第6閾値以下の極小値を特定する
検出部340は、(5)で算出された第5閾値以上の極大値を特定する。ここで、閾値判定の対象となる極大値は、第1FIFOバッファに記憶されており、閾値判定がまだされていない極大値である。(6) Specifying the maximum value equal to or greater than the fifth threshold value and the minimum value equal to or less than the sixth threshold value The
また、検出部340は、(5)で算出された第6閾値以下の最小値を特定する。ここで、閾値判定の対象となる極小値は、第2FIFOバッファに記憶されており、閾値判定がまだされていない極小値である。図15において、特定された極大値及び極小値は、四角で囲われた黒点により表される。
Further, the
(7)瞬目を検出する
検出部340は、特定された極大値毎に、この極大値の第1時刻と、特定された極小値の第2時刻であり、この第1時刻以降の直近の第2時刻との差が、所定時間以内であれば、その眼の上下の動きを瞬目とみなして検出する。(7) Detecting a blink The
図15において、例えば、特定された極大値の時刻t11と、t11以降で直近に特定された極小値の時刻t21との差が所定時間以内であれば、その眼の動きを瞬目として検出する。所定時間は、例えば500msecとする。 In FIG. 15, for example, if the difference between the specified maximum value time t11 and the latest specified minimum time t21 after t11 is within a predetermined time, the movement of the eye is detected as a blink. . The predetermined time is, for example, 500 msec.
以上、瞬目検出アルゴリズムを説明したが、このアルゴリズムは、あくまでも一例であり、この例に限らない。なお、瞬目、視線移動の検出処理においては、眼電図信号の時間方向の差分信号を用いて上述した処理と同様の処理を行ってもよい。差分信号とは、例えば時間tの眼電図信号から時間tの所定時間前の眼電図信号を減算した信号である。これにより、ノイズ耐性が強い差分信号を用いることで、検出精度を向上させることができる。 The blink detection algorithm has been described above, but this algorithm is merely an example, and the present invention is not limited to this example. In addition, in the process of detecting the blinking and the movement of the line of sight, the same process as the above-described process may be performed using the difference signal of the electro-oculogram signal in the time direction. The difference signal is, for example, a signal obtained by subtracting the electrogram signal at a predetermined time before the time t from the electrogram signal at the time t. Thus, the detection accuracy can be improved by using a differential signal having strong noise resistance.
<動作>
次に、実施例における外部装置300の動作について説明する。図16は、実施例における瞬目、視線移動の検出処理に関する処理の一例を示すフローチャートである。図16に示すフローチャートは、使用者がメガネ100を装着して、第1電極152、第2電極154、第3電極156及び接地電極が使用者の皮膚に接触した状態であって、外部装置300が瞬目又は視線移動の検出を実行するモードである動作モード(通常モード)に設定された場合に開始する。<Operation>
Next, the operation of the
図16に示すステップS102で、取得部332は、メガネ100から、眼電図信号を取得する。
In step S102 illustrated in FIG. 16, the
ステップS104で、差分算出部334は、取得された眼電図信号と、この眼電図信号の所定時間前の眼電図信号との差分信号を算出する。
In step S104, the
ステップS106で、極値算出部336は、差分信号の極大値及び極小値を算出する。また、極値算出部336は、眼電図信号の極大値及び極小値を算出してもよい。
In step S106, the
ステップS108で、判定部338は、算出された極大値及び/又は極小値に関する所定条件が満たされるか否かに基づいて、瞬目の検出処理及び視線移動の検出処理のいずれの検出処理を行うかを判定する。所定条件の違いについては図17及び図18を用いて後述する。
In step S108, the
ステップS110で、瞬目検出部342は、瞬目の検出処理を行う。
In step S110, the
ステップS112で、視線移動検出部344は、視線移動の検出処理を行う。
In step S112, the gaze
ステップS110及びステップS112の後は、制御部330が、動作モードの終了指示を受けるまで、図16に示す処理が繰り返される。
After steps S110 and S112, the process shown in FIG. 16 is repeated until
次に、図17は、実施例におけるピーク比を用いた判定処理の一例を示すフローチャートである。図17に示すステップS202で、第1判定部402は、極大値と極小値とのピーク比を算出する。
Next, FIG. 17 is a flowchart illustrating an example of the determination process using the peak ratio in the embodiment. In step S202 shown in FIG. 17, the
ステップS204で、第1判定部402は、ピーク比が、第1閾値以上第2閾値以下の所定範囲に含まれるか否かを判定する。ピーク比が所定範囲に含まれる場合(ステップS204−YES)、処理はステップS110へ進み、ピーク比が所定範囲に含まれない場合(ステップS204−NO)、処理はステップS206へ進む。
In step S204, the
ステップS206で、第1判定部402は、ピーク比が第3閾値以下か否かを判定する。ピーク比が第3閾値以下である場合(ステップS206−YES)、処理はステップS112に進み、ピーク比が第3閾値以下ではない場合(ステップS206−NO)、処理はステップS102に進む。なお、ステップS206において、ピーク比が第4閾値以上である場合を判定条件に追加してもよい。また、ステップS206が削除され、ステップS204のNOの後にステップS112に進んでもよい。
In step S206, the
次に、図18は、実施例における時間差を用いた判定処理の一例を示すフローチャートである。図18に示すステップS302で、第2判定部404は、極大値に対応する眼電図信号の第1値Q1を取得する。
Next, FIG. 18 is a flowchart illustrating an example of a determination process using a time difference in the embodiment. In step S302 illustrated in FIG. 18, the
ステップS304で、第2判定部404は、次に取得される眼電図信号が第2値Q2であるか否かを判定する。次に取得される眼電図信号が第2値Q2である場合(ステップS304−YES)、処理はステップS306に進み、次に取得される眼電図信号が第2値Q2でない場合(ステップS304−NO)、処理はステップS304に戻る。
In step S304, the
ステップS306で、第2判定部404は、第2値Q2の時刻t_Q2から、第1値Q1の時刻t_Q1を減算して時間tを算出する。
In step S306, the
ステップS308で、第2判定部404は、時間tが所定時間(時間閾値)以内であるか否かを判定する。時間tが所定時間以内である場合(ステップS308−YES)、処理はステップS110に進み、時間tが所定時間以内でない場合(ステップS308−NO)、処理はステップS112に進む。
In step S308, the
以上、実施例によれば、瞬目及び視線移動の検出処理を適切に切り替えることができる。また、瞬目検出や視線検出の精度を上げるため、以下の場合には、判定部338による判定処理をキャンセルする。例えば、極大値又は極小値が、瞬目や視線移動の際に現れる値をはるかに超える場合に、判定部338は、その値はノイズであるとして判定処理をキャンセルする。この場合、判定部338は、第5閾値又は第6閾値よりも絶対値の値が大きな値の閾値を設定し、差分信号がこの閾値を超える場合に、判定処理をキャンセルすればよい。また、例えば、閾値算出部502により算出される第5閾値及び第6閾値の絶対値が小さくなりすぎた場合、判定部338は、適切な判定処理ができないとして、判定処理をキャンセルする。この場合、判定部338は、第5閾値及び第6閾値よりも絶対値の値が小さい値の閾値を設定し、差分信号がこの閾値を超えない場合に、判定処理をキャンセルすればよい。
As described above, according to the embodiment, it is possible to appropriately switch the processing of detecting the blink and the line of sight. In addition, in order to increase the accuracy of blink detection and line-of-sight detection, the determination process by the
なお、本実施例において、アイウエアがメガネである場合について説明した。しかし、アイウエアはこれに限定されない。アイウエアは、眼に関連する装具であればよく、メガネ、サングラス、ゴーグル及びヘッドマウントディスプレイならびにこれらのフレームなどの顔面装着具又は頭部装着具であってよい。 In this embodiment, the case where the eyewear is glasses is described. However, eyewear is not limited to this. The eyewear may be any eye-related equipment, such as eyeglasses, sunglasses, goggles, and head-mounted displays, as well as face or headwear such as these frames.
本実施例において、メガネ100が第3電極156を備える例を挙げて説明した。しかし、メガネ100はこれに限定されない。メガネ100が、第3電極156を備えなくてもよい。この場合、基準電極を基準とした第1電極152の電位が示す眼電図及び基準電極を基準とした第2電極154の電位が示す眼電図が、外部装置300に送信されればよい。ここで、接地電極を第3電極156の位置に設けて、基準電極としてもよい。また、左モダンに設けられた接地電極を基準電極として用いてもよいし、第1電極152及び第2電極154から離間した位置に、別途設けられた電極を基準電極として用いてもよい。
In the present embodiment, an example in which the
本実施例において、メガネ100が、リム122と一体になっているノーズパッド140を備える例を挙げて説明した。しかし、メガネ100はこれに限定されない。メガネ100が、リム122に備え付けられたクリングスと、クリングスに取り付けられたノーズパッド140とを備えてもよい。この場合、ノーズパッド140の表面に設けられた電極は、クリングスを介して、フレームに埋設された電線と電気的に接続される。
In the present embodiment, an example in which the
本実施例において、第1電極152及び第2電極154をノーズパッド140の中心よりも下側に設ける例を挙げて説明した。しかし、これに限定されない。ノーズパッド140が下側に延伸する延伸部を備え、第1電極152及び第2電極154を延伸部に設けてもよい。これにより、眼及び鼻の位置の個人差によってノーズパッドが眼の真横に位置してしまう使用者であっても、第1電極152及び第2電極154を眼の位置よりも下に接触させることができる。
In the present embodiment, an example in which the
本実施例において、第3電極156を眉間部124の表面に設ける例を挙げて説明した。しかし、これに限定されない。眉間部124が、上側に延伸する延伸部を備え、延伸部に第3電極156を設けてもよい。またさらに、延伸部と眉間部124との間に延伸部を上下に可動させる可動部を備え、第3電極156の位置を上下に調整可能としてもよい。これにより、眼の位置の個人差によって、第3電極156の接触位置が眼の近傍になってしまう使用者であっても、調整により第3電極156の接触位置を眼から離間させることができる。また、本実施例において、各電極の位置は前述した位置に限られず、眼の垂直方向及び水平方向の動きを示す眼電図信号が取得できる位置に配置されていればよい。
In the present embodiment, an example has been described in which the
本実施例では、外部装置300の例として、処理装置200と別体の、携帯電話及びスマートフォン等の携帯通信端末やパーソナルコンピュータを挙げて説明した。しかし、これに限定されない。外部装置300は、メガネ100又は処理装置200の「外部」にある装置として設けられるのではなく、処理装置200と一体のユニットとして設けられてもよい。例えば、外部装置300は、アイウエアに一体として設けられる。また、外部装置300の任意の各機能が、処理装置200A(不図示)に設けられてもよい。
In the present embodiment, as an example of the
例えば、処理装置200Aは、外部装置300の差分算出部334、極値算出部336、及び判定部338、検出部340の各機能を備えてもよい。この場合、処理装置200Aは、上述した処理装置200の場合と同様の効果を奏することができ、さらに、外部装置300との通信エラー等に影響を受けない信号を用いて検出処理を行うことができる。
For example, the processing device 200A may include the functions of the
なお、検出結果の送信については、リアルタイム処理とバッチ処理とがある。リアルタイム処理では、検出結果が取得される度に、検出結果が外部装置300に送信される。また、検出結果とともに眼電図信号等がリアルタイムに外部装置300に送信されてもよい。このリアルタイム処理を行うことで、早期に詳細な分析を外部装置300等で行うことができるようになる。
The transmission of the detection result includes real-time processing and batch processing. In the real-time processing, the detection result is transmitted to the
また、バッチ処理では、所定時間(例えば1分間)ごとに、検出結果が集計され、集計結果が外部装置300に送信される。集計結果は、その間の眼電図信号を含んでもよい。このバッチ処理を行うことで、所定時間ごとに集計結果を送信することになるので、送信回数を減らし、処理装置200Aの消費電力を低減することができる。
In the batch processing, the detection results are totaled for each predetermined time (for example, one minute), and the totaling results are transmitted to the
また、本実施例では、電線としてシールドケーブルを用いることで、ノイズの混入を防ぐようにしてもよい。 Further, in this embodiment, the use of shielded cables as electric wires may prevent noise from being mixed.
また、本実施例では、図1において3つの電極を用いる構成を例示したが、4つ以上の電極を用いる構成であってもよい。この場合、メガネは、上部電極と、下部電極と、左部電極と、右部電極とを有する。例えば、上部電極及び下部電極は、図1に示すリム122に設けられ、左部電極は、左テンプル130に設けられ、右部電極は、右テンプル130に設けられるが、必ずしもこの位置にある必要はない。なお、これらの電極は、顔の一部に接触しているとする。
Further, in this embodiment, the configuration using three electrodes is illustrated in FIG. 1, but a configuration using four or more electrodes may be used. In this case, the glasses have an upper electrode, a lower electrode, a left electrode, and a right electrode. For example, the upper electrode and the lower electrode are provided on the
4つの電極の例では、上部電極及び下部電極の電圧差により、眼の上下方向を検知することができ、左部電極及び右部電極の電圧差により、眼の左右方向を検知することができる。 In the example of four electrodes, the vertical direction of the eye can be detected by the voltage difference between the upper electrode and the lower electrode, and the horizontal direction of the eye can be detected by the voltage difference between the left electrode and the right electrode. .
以上、本発明について実施例を用いて説明したが、本発明の技術的範囲は上記実施例に記載の範囲には限定されない。上記実施例に、多様な変更又は改良を加えることが可能であることが当業者に明らかである。その様な変更又は改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。 As described above, the present invention has been described using the embodiments. However, the technical scope of the present invention is not limited to the scope described in the above embodiments. It is apparent to those skilled in the art that various changes or improvements can be made to the above-described embodiment. It is apparent from the description of the appended claims that embodiments with such changes or improvements can be included in the technical scope of the present invention.
100 メガネ
120 フレーム
124 眉間部
140 ノーズパッド
152 第1電極
154 第2電極
156 第3電極
200 処理装置
300 外部装置
320 記憶部
330 制御部
332 取得部
334 差分算出部
336 極値算出部
338 判定部
340 検出部100
Claims (8)
取得された前記眼電図信号と該眼電図信号の所定時間前の眼電図信号との差分信号を算出する算出ステップと、
前記差分信号の極大値及び極小値を算出する算出ステップと、
前記極大値及び/又は前記極小値を用いて、瞬目の検出処理又は視線移動の検出処理の切り替えに関する所定条件が満たされるか否かに基づいて、前記瞬目の検出処理及び前記視線移動の検出処理のいずれの検出処理を行うかを判定する判定ステップと、
判定された前記瞬目の検出処理又は前記視線移動の検出処理を適応的に行う検出ステップと、
をコンピュータに実行させるプログラム。 An acquisition step of acquiring an electro-oculogram signal based on an electro-oculogram detected by each electrode contacting around the eye of the subject,
A calculation step of calculating a difference signal between the obtained electrogram signal and the electrogram signal a predetermined time before the electrogram signal,
Calculating a maximum value and a minimum value of the difference signal;
Using said maximum value and / or the minimum value, based on whether or not a predetermined condition related to the switching of the detection processing detection processing or eye movement blink is satisfied, the blink detection process and the eye movement A determining step of determining which of the detection processes to perform,
A detection step of adaptively performing the determined blink detection process or the gaze movement detection process ,
A program that causes a computer to execute.
前記判定ステップは、
前記比が、第1閾値以上第2閾値以下の所定範囲に含まれる場合、前記瞬目の検出処理を行うと判定し、前記比が前記所定範囲に含まれない場合、前記視線移動の検出処理を行うと判定する、請求項2に記載のプログラム。 The predetermined condition is that the ratio is included in a predetermined range equal to or more than a first threshold and equal to or less than a second threshold.
The determining step includes:
If the ratio is within a predetermined range equal to or greater than a first threshold and equal to or less than a second threshold, it is determined that the blink detection process is to be performed. If the ratio is not within the predetermined range, the gaze movement detection process is determined. The program according to claim 2, wherein the program is determined to be performed.
前記比が、前記第1閾値よりも小さい第3閾値以下又は前記第2閾値よりも大きい第4閾値以上の場合に、前記視線移動の検出処理を行うと判定する、請求項3に記載のプログラム。 The determining step includes:
The program according to claim 3, wherein when the ratio is equal to or smaller than a third threshold smaller than the first threshold or equal to or larger than a fourth threshold larger than the second threshold, it is determined that the gaze movement detection process is performed. .
前記判定ステップは、
前記時間が前記所定時間以内である場合、前記瞬目の検出処理を行うと判定し、前記時間が前記所定時間以内ではない場合、前記視線移動の検出処理を行うと判定する、請求項5に記載のプログラム。 The predetermined condition is that the time is within a predetermined time,
The determining step includes:
The method according to claim 5, wherein when the time is within the predetermined time, it is determined to perform the blink detection processing, and when the time is not within the predetermined time, it is determined to perform the gaze movement detection processing. The described program.
取得された前記眼電図信号と該眼電図信号の所定時間前の眼電図信号との差分信号を算出する差分算出部と、
前記差分信号の極大値及び極小値を算出する極値算出部と、
前記極大値及び/又は前記極小値を用いて、瞬目の検出処理又は視線移動の検出処理の切り替えに関する所定条件が満たされるか否かに基づいて、前記瞬目の検出処理及び前記視線移動の検出処理のいずれの検出処理を行うかを判定する判定部と、
判定された前記瞬目の検出処理又は前記視線移動の検出処理を適応的に行う検出部と、
を備える情報処理装置。 An acquisition unit that acquires an electrocardiogram signal based on an electrooculogram detected by each electrode that contacts the periphery of the eye of the subject,
A difference calculation unit that calculates a difference signal between the acquired electrogram signal and the electrogram signal a predetermined time before the electrogram signal,
An extreme value calculating unit that calculates a local maximum value and a local minimum value of the difference signal,
Using said maximum value and / or the minimum value, based on whether or not a predetermined condition related to the switching of the detection processing detection processing or eye movement blink is satisfied, the blink detection process and the eye movement A determining unit that determines which of the detection processes to perform,
A detection unit that adaptively performs the detected blink detection process or the gaze movement detection process ,
An information processing apparatus comprising:
一対のノーズパッドを有するフレームと、
前記一対のノーズパッドそれぞれの表面に設けられる第1電極及び第2電極と、
前記眉間部の表面に設けられる第3電極と、
各電極により検出される眼電位に基づく眼電図信号を取得する取得部と、
取得された前記眼電図信号と該眼電図信号の所定時間前の眼電図信号との差分信号を算出する差分算出部と、
前記差分信号の極大値及び極小値を算出する極値算出部と、
前記極大値及び/又は前記極小値を用いて、瞬目の検出処理又は視線移動の検出処理の切り替えに関する所定条件が満たされるか否かに基づいて、前記瞬目の検出処理及び前記視線移動の検出処理のいずれの検出処理を行うかを判定する判定部と、
判定された前記瞬目の検出処理又は前記視線移動の検出処理を適応的に行う検出部と、
を備えるアイウエア。 Between the eyebrows,
A frame having a pair of nose pads,
A first electrode and a second electrode provided on a surface of each of the pair of nose pads,
A third electrode provided on the surface of the glabella,
An acquisition unit that acquires an electrocardiogram signal based on an electrooculogram detected by each electrode,
A difference calculation unit that calculates a difference signal between the acquired electrogram signal and the electrogram signal a predetermined time before the electrogram signal,
An extreme value calculating unit that calculates a local maximum value and a local minimum value of the difference signal,
Using said maximum value and / or the minimum value, based on whether or not a predetermined condition related to the switching of the detection processing detection processing or eye movement blink is satisfied, the blink detection process and the eye movement A determining unit that determines which of the detection processes to perform,
A detection unit that adaptively performs the detected blink detection process or the gaze movement detection process ,
Eyewear with
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014249120 | 2014-12-09 | ||
JP2014249120 | 2014-12-09 | ||
PCT/JP2015/083588 WO2016093096A1 (en) | 2014-12-09 | 2015-11-30 | Program, information processing device, and eyewear |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2016093096A1 JPWO2016093096A1 (en) | 2017-11-30 |
JP6656166B2 true JP6656166B2 (en) | 2020-03-04 |
Family
ID=56107286
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016563623A Active JP6656166B2 (en) | 2014-12-09 | 2015-11-30 | Program, information processing device, and eyewear |
Country Status (2)
Country | Link |
---|---|
JP (1) | JP6656166B2 (en) |
WO (1) | WO2016093096A1 (en) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108245154B (en) * | 2018-01-24 | 2020-10-09 | 福州大学 | Method for accurately determining blink interval in electroencephalogram or electrooculogram by using abnormal value detection |
CN110441912B (en) * | 2019-08-27 | 2024-04-19 | 高维度(深圳)生物信息智能应用有限公司 | Portable glasses intelligent wearing equipment and control method thereof |
CN112578682A (en) * | 2021-01-05 | 2021-03-30 | 陕西科技大学 | Intelligent obstacle-assisting home system based on electro-oculogram control |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH10207615A (en) * | 1997-01-22 | 1998-08-07 | Tec Corp | Network system |
JP2008531142A (en) * | 2005-03-04 | 2008-08-14 | スリープ・ダイアグノスティックス・プロプライアタリー・リミテッド | Awakening measurement |
JP5661067B2 (en) * | 2012-05-29 | 2015-01-28 | 株式会社ジェイアイエヌ | Eyewear |
-
2015
- 2015-11-30 WO PCT/JP2015/083588 patent/WO2016093096A1/en active Application Filing
- 2015-11-30 JP JP2016563623A patent/JP6656166B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
WO2016093096A1 (en) | 2016-06-16 |
JPWO2016093096A1 (en) | 2017-11-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9706941B2 (en) | Eyewear | |
JP6426589B2 (en) | Electro-oculogram detection device, electro-oculogram detection method, eyewear and frame | |
US20160070122A1 (en) | Computerized replacement temple for standard eyewear | |
JP2015213734A (en) | Program, information processing device, and eyewear | |
JP6656166B2 (en) | Program, information processing device, and eyewear | |
JP6687639B2 (en) | Information processing method, information processing device, program, and eyewear | |
WO2015159851A1 (en) | Detection unit, eyewear, and ocular potential detection system | |
JP6556860B2 (en) | Information processing method, information processing apparatus, program, and eyewear | |
WO2016076268A1 (en) | Program, information processing device, and eyewear | |
JP6594953B2 (en) | Gaze movement detection method, program, information processing apparatus, and eyewear | |
WO2016072395A1 (en) | Program, information processing device, and eyewear | |
JP2017185148A (en) | Wearable biomedical measurement device | |
WO2017064800A1 (en) | Program, information processing device, and eyewear | |
WO2016152849A1 (en) | Signal processing method, program, information processing device, and eyewear | |
JP5689206B1 (en) | Eyewear | |
KR20210016790A (en) | Method and apparatus for eog-based eye tracking protocol using baseline drift removal algorithm for long-term eye movement detection | |
JP2017192548A (en) | Eyewear, information processing method, and program | |
EP3725221A1 (en) | System, device and method for eye activity monitoring | |
CA2824972A1 (en) | Eyewear |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
AA64 | Notification of invalidation of claim of internal priority (with term) |
Free format text: JAPANESE INTERMEDIATE CODE: A241764 Effective date: 20170807 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20170824 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20181025 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20191203 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200120 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20200128 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20200204 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6656166 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |