Nothing Special   »   [go: up one dir, main page]

JP6656166B2 - Program, information processing device, and eyewear - Google Patents

Program, information processing device, and eyewear Download PDF

Info

Publication number
JP6656166B2
JP6656166B2 JP2016563623A JP2016563623A JP6656166B2 JP 6656166 B2 JP6656166 B2 JP 6656166B2 JP 2016563623 A JP2016563623 A JP 2016563623A JP 2016563623 A JP2016563623 A JP 2016563623A JP 6656166 B2 JP6656166 B2 JP 6656166B2
Authority
JP
Japan
Prior art keywords
electrode
signal
value
unit
threshold
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016563623A
Other languages
Japanese (ja)
Other versions
JPWO2016093096A1 (en
Inventor
俊介 塩谷
俊介 塩谷
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Jins Holdings Inc
Original Assignee
Jins Holdings Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Jins Holdings Inc filed Critical Jins Holdings Inc
Publication of JPWO2016093096A1 publication Critical patent/JPWO2016093096A1/en
Application granted granted Critical
Publication of JP6656166B2 publication Critical patent/JP6656166B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B3/00Apparatus for testing the eyes; Instruments for examining the eyes
    • A61B3/10Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions
    • GPHYSICS
    • G02OPTICS
    • G02CSPECTACLES; SUNGLASSES OR GOGGLES INSOFAR AS THEY HAVE THE SAME FEATURES AS SPECTACLES; CONTACT LENSES
    • G02C5/00Constructions of non-optical parts
    • G02C5/12Nose pads; Nose-engaging surfaces of bridges or rims
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • GPHYSICS
    • G02OPTICS
    • G02CSPECTACLES; SUNGLASSES OR GOGGLES INSOFAR AS THEY HAVE THE SAME FEATURES AS SPECTACLES; CONTACT LENSES
    • G02C11/00Non-optical adjuncts; Attachment thereof

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Physics & Mathematics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • General Engineering & Computer Science (AREA)
  • Ophthalmology & Optometry (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Molecular Biology (AREA)
  • Biophysics (AREA)
  • Surgery (AREA)
  • Animal Behavior & Ethology (AREA)
  • General Health & Medical Sciences (AREA)
  • Public Health (AREA)
  • Veterinary Medicine (AREA)
  • Medical Informatics (AREA)
  • Human Computer Interaction (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Biomedical Technology (AREA)
  • Optics & Photonics (AREA)
  • Position Input By Displaying (AREA)
  • User Interface Of Digital Computer (AREA)
  • Eye Examination Apparatus (AREA)

Description

本発明は、プログラム、情報処理装置、及びアイウエアに関する。   The present invention relates to a program, an information processing device, and eyewear.

フレーム部分に複数の電極を設け、各電極から眼電図信号を取得するアイウエアが知られている(例えば、特許文献1参照)。また、眼電位信号から、ユーザの視線方向を検出する装置が知られている(例えば、特許文献2参照)。   2. Description of the Related Art Eyewear is known in which a plurality of electrodes are provided in a frame portion and an electrocardiogram signal is obtained from each electrode (for example, see Patent Document 1). In addition, a device that detects the direction of the user's line of sight from an electro-oculogram signal is known (for example, see Patent Document 2).

米国特許出願公開第2004/0070729号明細書US Patent Application Publication No. 2004/0070729 特開2011−125692号公報JP-A-2011-125692

しかしながら、眼電位信号から瞬目や視線移動を検出することは可能であるが、瞬目及び視線移動の検出処理を適応的に切り替えながら、適切に瞬目や視線移動を検出する技術は存在しない。   However, it is possible to detect a blink or a line of sight from an electro-oculogram signal, but there is no technology that appropriately detects a blink or a line of sight while appropriately switching the detection process of the blink and the line of sight. .

そこで、本発明は、瞬目及び視線移動の検出処理を適切に切り替えることができることを目的とする。   Then, an object of the present invention is to be able to appropriately switch the processing of detecting blinks and eye movements.

本発明の一態様におけるプログラムは、対象者の眼周辺に接触する各電極により検出される眼電位に基づく眼電図信号を取得する取得ステップと、取得された前記眼電図信号と該眼電図信号の所定時間前の眼電図信号との差分信号を算出する算出ステップと、前記差分信号の極大値及び極小値を算出する算出ステップと、前記極大値及び/又は前記極小値に関する所定条件が満たされるか否かに基づいて、瞬目の検出処理及び視線移動の検出処理のいずれの検出処理を行うかを判定する判定ステップと、判定された検出処理を行う検出ステップと、をコンピュータに実行させる。   The program according to one aspect of the present invention includes an acquisition step of acquiring an electrocardiogram signal based on an electrooculogram detected by each electrode in contact with a periphery of a subject's eye; A calculating step of calculating a difference signal between the electrogram signal and the electrogram signal a predetermined time before the diagram signal; a calculating step of calculating a local maximum value and a local minimum value of the differential signal; and a predetermined condition regarding the local maximum value and / or the local minimum value A determination step of determining which of a blink detection process and a line-of-sight movement detection process to perform based on whether or not is satisfied, and a detection step of performing the determined detection process on a computer. Let it run.

本発明によれば、瞬目及び視線移動の検出処理を適切に切り替えることができる。   ADVANTAGE OF THE INVENTION According to this invention, the detection process of a blink and a gaze movement can be switched appropriately.

実施例におけるメガネの前方からの一例を示す斜視図である。It is a perspective view showing an example from the front of glasses in an example. 実施例におけるメガネの後方からの一例を示す斜視図である。It is a perspective view showing an example from the back of glasses in an example. 実施例における処理装置の一例を示すブロック図である。FIG. 2 is a block diagram illustrating an example of a processing apparatus according to the embodiment. 使用者に対する電極の接触位置を概略的に示す図である。It is a figure which shows the contact position of the electrode with respect to a user schematically. 実施例における増幅部の構成の一例を示す図である。FIG. 4 is a diagram illustrating an example of a configuration of an amplification unit according to the embodiment. バッファアンプを設ける理由を説明するための図である。FIG. 4 is a diagram for explaining the reason for providing a buffer amplifier. 実施例における増幅部の構成の他の例を示す図である。FIG. 9 is a diagram illustrating another example of the configuration of the amplification unit according to the embodiment. 実施例における外部装置の構成の一例を示すブロック図である。FIG. 3 is a block diagram illustrating an example of a configuration of an external device according to the embodiment. 実施例における判定部の構成の一例を示すブロック図である。FIG. 4 is a block diagram illustrating an example of a configuration of a determination unit according to the embodiment. 実施例における瞬目検出部の一例を示すブロック図である。It is a block diagram showing an example of a blink detection part in an example. 眼電図信号の一例を示す図である。It is a figure showing an example of an electrocardiogram signal. 差分信号の一例を示す図である。FIG. 7 is a diagram illustrating an example of a difference signal. ピーク比を用いた判定処理を説明するための図である。It is a figure for explaining the judgment processing using a peak ratio. 時間差を用いた判定処理を説明するための図である。It is a figure for explaining the judgment processing using a time difference. 眼の垂直方向の動きを示す眼電図信号の一例を示す図である。FIG. 5 is a diagram illustrating an example of an electro-oculogram signal indicating vertical movement of an eye. 実施例における瞬目、視線移動の検出処理に関する処理の一例を示すフローチャートである。It is a flowchart which shows an example of the process regarding the detection process of a blink and a gaze movement in an Example. 実施例におけるピーク比を用いた判定処理の一例を示すフローチャートである。9 is a flowchart illustrating an example of a determination process using a peak ratio according to the embodiment. 実施例における時間差を用いた判定処理の一例を示すフローチャートである。9 is a flowchart illustrating an example of a determination process using a time difference according to the embodiment.

以下、図面を参照して本発明の実施の形態を説明する。ただし、以下に説明する実施形態は、あくまでも例示であり、以下に明示しない種々の変形や技術の適用を排除する意図はない。即ち、本発明は、その趣旨を逸脱しない範囲で種々変形して実施することができる。また、以下の図面の記載において、同一または類似の部分には同一または類似の符号を付して表している。図面は模式的なものであり、必ずしも実際の寸法や比率等とは一致しない。図面相互間においても互いの寸法の関係や比率が異なる部分が含まれていることがある。   Hereinafter, embodiments of the present invention will be described with reference to the drawings. However, the embodiment described below is merely an example, and there is no intention to exclude various modifications and application of technology not explicitly described below. That is, the present invention can be variously modified and implemented without departing from the spirit thereof. In the following description of the drawings, the same or similar parts are denoted by the same or similar reference numerals. The drawings are schematic and do not always match actual dimensions and ratios. The drawings may include portions having different dimensional relationships and ratios between drawings.

[実施例]
図1は、実施例におけるメガネ100の前方からの一例を示す斜視図である。図2は、実施例におけるメガネ100の後方からの一例を示す斜視図である。メガネ100は、レンズ110及びフレーム120を備える。メガネ100及びフレーム120は、アイウエアの一例である。
[Example]
FIG. 1 is a perspective view illustrating an example from the front of the glasses 100 in the embodiment. FIG. 2 is a perspective view illustrating an example from behind the glasses 100 in the embodiment. The glasses 100 include a lens 110 and a frame 120. The glasses 100 and the frame 120 are examples of eyewear.

フレーム120は、一対のレンズ110を支持する。フレーム120は、リム122と、眉間部(例えばブリッジ)124と、ヨロイ126と、丁番128と、テンプル130と、モダン132と、一対のノーズパッド140と、第1電極152と、第2電極154と、第3電極156と、電線(不図示)と、処理装置200と、増幅部250とを有する。なお、メガネ100の種類によっては、一枚レンズを用いることでフレームのブリッジ部分がない場合がある。この場合、一枚レンズの眉間部分を眉間部とする。   The frame 120 supports the pair of lenses 110. The frame 120 includes a rim 122, an eyebrow part (for example, a bridge) 124, a flap 126, a hinge 128, a temple 130, a modern 132, a pair of nose pads 140, a first electrode 152, and a second electrode 154, a third electrode 156, an electric wire (not shown), a processing device 200, and an amplification unit 250. Note that, depending on the type of the glasses 100, the use of a single lens may eliminate the bridge portion of the frame. In this case, the part between the eyebrows of the single lens is defined as the part between the eyebrows.

一対のノーズパッド140は、右ノーズパッド142及び左ノーズパッド144を含む。リム122、ヨロイ126、丁番128、テンプル130、及びモダン132は、それぞれ左右一対に設けられる。   The pair of nose pads 140 include a right nose pad 142 and a left nose pad 144. The rim 122, the yoke 126, the hinge 128, the temple 130, and the modern 132 are each provided in a left and right pair.

リム122は、レンズ110を保持する。ヨロイ126は、リム122の外側に設けられ、丁番128によりテンプル130を回転可能に保持する。テンプル130は、使用者の耳の上部を押圧して、この部位を挟持する。モダン132は、テンプル130の先端に設けられる。モダン132は、使用者の耳の上部に接触する。なお、モダン132は、必ずしもメガネ100に設ける必要はない。   The rim 122 holds the lens 110. The spoiler 126 is provided outside the rim 122, and rotatably holds the temple 130 by the hinge 128. The temple 130 presses the upper part of the user's ear to pinch this part. The modern 132 is provided at the tip of the temple 130. The modern 132 contacts the upper part of the user's ear. Note that the modern 132 need not always be provided on the glasses 100.

第1電極152及び第2電極154は、一対のノーズパッド140のそれぞれの表面に設けられ、眼電位を検出する。例えば、第1電極152は、右ノーズパッド142に設けられ、第2電極154は、左ノーズパッド144に設けられる。   The first electrode 152 and the second electrode 154 are provided on respective surfaces of the pair of nose pads 140, and detect an electro-oculogram. For example, the first electrode 152 is provided on the right nose pad 142, and the second electrode 154 is provided on the left nose pad 144.

第1電極152は、使用者の右眼の眼電位を検出する。第2電極154は、使用者の左眼の眼電位を検出する。このように、眼電位を検出するための電極を、使用者の皮膚に必然的に接触するノーズパッドの表面に設ける。これにより、使用者の眼の周囲に二対の電極を接触させるのに比べて、使用者の皮膚に与える負担を軽減することができる。   The first electrode 152 detects an electro-oculogram of the right eye of the user. The second electrode 154 detects an electro-oculogram of the left eye of the user. As described above, the electrodes for detecting the electro-oculogram are provided on the surface of the nose pad which necessarily comes into contact with the skin of the user. Thus, the burden on the skin of the user can be reduced as compared with the case where two pairs of electrodes are brought into contact with the periphery of the eye of the user.

第3電極156は、眉間部124の表面に設けられ、眼電位を検出する。接地電極(不図示)は、モダン132の表面に設けられるとする。メガネ100にモダン132がない場合は、接地電極は、テンプル130の先に設けられる。実施例において、第1電極152、第2電極154及び第3電極156が検出する電位は、接地電極が検出する電位を基準としてもよい。   The third electrode 156 is provided on the surface of the glabella 124 and detects an electrooculogram. It is assumed that a ground electrode (not shown) is provided on the surface of the modern 132. If there is no modern 132 in the glasses 100, the ground electrode is provided at the tip of the temple 130. In the embodiment, the potential detected by the first electrode 152, the second electrode 154, and the third electrode 156 may be based on the potential detected by the ground electrode.

処理装置200は、例えば、テンプル130に設けてもよい。これにより、メガネ100を正面から見たときのデザイン性を損なうことがない。処理装置200の設置位置は、必ずしもテンプル130である必要はないが、メガネ100を装着した際のバランスを考慮して位置決めすればよい。処理装置200は、電線を介して増幅部250に接続される。なお、処理装置200と、増幅部250とは、無線を介して接続されてもよい。   The processing device 200 may be provided on the temple 130, for example. This does not impair the design of the glasses 100 when viewed from the front. The installation position of the processing device 200 does not necessarily need to be the temple 130, but may be determined in consideration of the balance when the glasses 100 are worn. The processing device 200 is connected to the amplification unit 250 via an electric wire. Note that the processing device 200 and the amplifying unit 250 may be connected via wireless.

増幅部250は、第1電極152、第2電極154及び第3電極156の近傍に設けられ、増幅対象の各電極と電線を介して接続される。増幅部250は、各電極が検出した眼電位を示す眼電図信号を取得する。例えば、増幅部250は、第1電極152、第2電極154及び第3電極156により検出された眼電位を示す眼電図信号を増幅する。   The amplification unit 250 is provided near the first electrode 152, the second electrode 154, and the third electrode 156, and is connected to each electrode to be amplified via an electric wire. The amplification unit 250 acquires an electrooculogram signal indicating the electrooculogram detected by each electrode. For example, the amplification unit 250 amplifies an electrooculogram signal indicating the electrooculogram detected by the first electrode 152, the second electrode 154, and the third electrode 156.

また、増幅部250は、眼電図信号を処理する処理部を有していれば、増幅する前又は増幅した後の各眼電図信号に対し、加減処理を行ってもよい。例えば、増幅部250は、第3電極156を基準とした第1電極152の電位を示す基準眼電図信号を求めてもよい。また、増幅部250は、第3電極156を基準とした第2電極154の電位を示す基準眼電図信号を求めてもよい。増幅部250により増幅又は処理された信号は、処理装置200に出力される。   In addition, if the amplification unit 250 has a processing unit that processes an electrogram signal, the amplification unit 250 may perform an addition / subtraction process on each electrogram signal before or after amplification. For example, the amplification unit 250 may obtain a reference electro-oculogram signal indicating the potential of the first electrode 152 with reference to the third electrode 156. In addition, the amplification unit 250 may obtain a reference electro-oculogram signal indicating the potential of the second electrode 154 based on the third electrode 156. The signal amplified or processed by the amplification unit 250 is output to the processing device 200.

外部装置300は、通信機能を有する情報処理装置である。例えば、外部装置300は、使用者が所持する携帯電話及びスマートフォン等の携帯通信端末、パーソナルコンピュータ等である。外部装置300は、送信部220から受信した眼電図信号に基づく処理を実行する。例えば、外部装置300は、受信した眼電図信号から、瞬目や視線移動を検出する。瞬目を検出する場合の応答として、外部装置300は、使用者の瞬目の回数が増加していることを検出した場合などに、居眠りを防止するための警告を発する。外部装置300の詳細については後述する。   The external device 300 is an information processing device having a communication function. For example, the external device 300 is a mobile communication terminal such as a mobile phone and a smartphone owned by the user, a personal computer, and the like. The external device 300 performs a process based on the electro-oculogram signal received from the transmission unit 220. For example, the external device 300 detects a blink or a line-of-sight movement from the received electrogram signal. As a response in the case of detecting a blink, the external device 300 issues a warning for preventing falling asleep, for example, when detecting that the number of blinks of the user is increasing. Details of the external device 300 will be described later.

<処理装置の構成>
図3は、実施例における処理装置200の一例を示すブロック図である。図3に示すように、処理装置200は、処理部210、送信部220、及び電源部230を有する。第1電極152、第2電極154、第3電極156は、例えば増幅部250を介して処理部210に接続される。処理装置200の各構成は、一対のテンプルに分散して設けられてもよい。
<Configuration of processing device>
FIG. 3 is a block diagram illustrating an example of the processing device 200 according to the embodiment. As illustrated in FIG. 3, the processing device 200 includes a processing unit 210, a transmission unit 220, and a power supply unit 230. The first electrode 152, the second electrode 154, and the third electrode 156 are connected to the processing unit 210 via, for example, the amplification unit 250. Each component of the processing device 200 may be provided separately on a pair of temples.

処理部210は、増幅部250から増幅された眼電図信号を取得し、処理する。例えば、処理部210は、第3電極156を基準とした第1電極152の電位を示す基準眼電図信号を処理してもよい。なお、基準眼電図信号は、説明の便宜上「基準」を付したが、眼電図信号に含まれる。また、処理部210は、第3電極156を基準とした第2電極154の電位を示す基準眼電図信号を処理してもよい。   The processing unit 210 acquires the electro-oculogram signal amplified from the amplification unit 250 and processes the electro-oculogram signal. For example, the processing unit 210 may process a reference electro-oculogram signal indicating the potential of the first electrode 152 based on the third electrode 156. The reference electrocardiogram signal is given a “reference” for convenience of description, but is included in the electrocardiogram signal. Further, the processing unit 210 may process a reference electro-oculogram signal indicating the potential of the second electrode 154 with reference to the third electrode 156.

このとき、処理部210は、右眼及び左眼において、各電極から検出された眼電位に基づいて、眼の垂直方向及び/又は水平方向の動きを示す眼電図信号となるように処理を行ってもよい。   At this time, the processing unit 210 performs processing on the right eye and the left eye based on the electro-oculogram detected from each electrode so as to generate an electro-oculogram signal indicating vertical and / or horizontal movement of the eye. May go.

他にも、処理部210は、取得した眼電図信号がデジタル化されていなければ、デジタル化処理を行ったり、各電極から増幅された眼電図信号を取得した場合には、眼電図信号の加減処理を行ったりする。また、処理部210は、増幅部250から取得した眼電図信号をそのまま送信部220に送信してもよい。   In addition, the processing unit 210 performs a digitization process if the acquired electrogram signal is not digitized, or acquires an electrogram signal amplified from each electrode, For example, the signal is adjusted. Further, the processing unit 210 may directly transmit the electrocardiogram signal acquired from the amplification unit 250 to the transmission unit 220.

送信部220は、処理部210によって処理された眼電図信号を外部装置300に送信する。例えば、送信部220は、Bluetooth(登録商標)及び無線LAN等の無線通信、又は有線通信によって眼電図信号を外部装置300に送信する。電源部230は、処理部210、送信部220、及び増幅部250に電力を供給する。   The transmitting unit 220 transmits the electrocardiogram signal processed by the processing unit 210 to the external device 300. For example, the transmission unit 220 transmits an electrogram signal to the external device 300 by wireless communication such as Bluetooth (registered trademark) and a wireless LAN, or by wire communication. The power supply unit 230 supplies power to the processing unit 210, the transmission unit 220, and the amplification unit 250.

図4は、使用者に対する電極の接触位置を概略的に示す図である。第1接触位置452は、第1電極152の接触位置を表す。第2接触位置454は、第2電極154の接触位置を表す。第3接触位置456は、第3電極156の接触位置を表す。水平中心線460は、右眼402の中心と左眼404の中心とを結んだ水平方向の中心線を表す。垂直中心線462は、右眼402と左眼404との中心において水平中心線460と直交する中心線を表す。   FIG. 4 is a diagram schematically showing a contact position of the electrode with respect to the user. The first contact position 452 indicates a contact position of the first electrode 152. The second contact position 454 indicates a contact position of the second electrode 154. The third contact position 456 indicates a contact position of the third electrode 156. The horizontal center line 460 represents a horizontal center line connecting the center of the right eye 402 and the center of the left eye 404. The vertical center line 462 represents a center line orthogonal to the horizontal center line 460 at the center between the right eye 402 and the left eye 404.

第1接触位置452及び第2接触位置454は、水平中心線460よりも下側に位置することが望ましい。また、第1接触位置452及び第2接触位置454は、第1接触位置452と第2接触位置454との中心を結ぶ線分が、水平中心線460と平行になるべく配置されることが望ましい。   It is desirable that the first contact position 452 and the second contact position 454 are located below the horizontal center line 460. Further, it is desirable that the first contact position 452 and the second contact position 454 are arranged such that a line connecting the centers of the first contact position 452 and the second contact position 454 is parallel to the horizontal center line 460.

また、第1接触位置452及び第2接触位置454は、第1接触位置452から右眼402への距離と、第2接触位置454と左眼404との距離が等しくなるべく配置されることが望ましい。また、第1接触位置452及び第2接触位置454は、互いに一定の距離以上離間していることが望ましい。   Further, it is desirable that the first contact position 452 and the second contact position 454 are arranged so that the distance from the first contact position 452 to the right eye 402 and the distance between the second contact position 454 and the left eye 404 are equal. . Further, it is desirable that the first contact position 452 and the second contact position 454 are separated from each other by a certain distance or more.

第3接触位置456は、垂直中心線462上に位置することが望ましい。また、第3接触位置456は、水平中心線460よりも上側であって、第1接触位置452及び第2接触位置454から離れた位置であることが望ましい。また、例えば、第3接触位置456と右眼402との距離は、右眼402と第1接触位置452との距離よりも離間させ、左眼404との距離は、左眼404と第2接触位置454との距離よりも離間させてよい。   The third contact position 456 is preferably located on the vertical center line 462. Further, it is desirable that the third contact position 456 be above the horizontal center line 460 and be apart from the first contact position 452 and the second contact position 454. In addition, for example, the distance between the third contact position 456 and the right eye 402 is made longer than the distance between the right eye 402 and the first contact position 452, and the distance between the left eye 404 and the left eye 404 is The distance may be larger than the distance from the position 454.

眼球は、角膜側が正に帯電しており、網膜側が負に帯電している。したがって、視線が上に移動した場合、第3電極156を基準とした第1電極152の電位及び第3電極156を基準とした第2電極154の電位が負となる。視線が下に移動した場合、第3電極156を基準とした第1電極152の電位及び第3電極156を基準とした第2電極154の電位が正となる。   In the eyeball, the cornea side is positively charged, and the retina side is negatively charged. Therefore, when the line of sight moves upward, the potential of the first electrode 152 with respect to the third electrode 156 and the potential of the second electrode 154 with reference to the third electrode 156 become negative. When the line of sight moves downward, the potential of the first electrode 152 based on the third electrode 156 and the potential of the second electrode 154 based on the third electrode 156 become positive.

視線が右に移動した場合、第3電極156を基準とした第1電極152の電位が負となり、第3電極156を基準とした第2電極154の電位が正となる。視線が左に移動した場合、第3電極156を基準とした第1電極152の電位が正となり、第3電極156を基準とした第2電極154の電位が負となる。   When the line of sight moves right, the potential of the first electrode 152 with respect to the third electrode 156 becomes negative, and the potential of the second electrode 154 with respect to the third electrode 156 becomes positive. When the line of sight moves to the left, the potential of the first electrode 152 with respect to the third electrode 156 becomes positive, and the potential of the second electrode 154 with respect to the third electrode 156 becomes negative.

第3電極156を基準とした第1電極152の電位及び第3電極156を基準とした第2電極154の電位を検出することによって、好適にノイズの影響を軽減することができる。第3接触位置456を第1接触位置452及び第2接触位置454から可能な限り離間させるべく、眉間部124は、リム122の上端又はその近傍に配置されてもよい。また、眉間部124の中心よりも上側に第3電極156は設けられてもよい。この場合、第3電極156の配置位置として、縦幅の広い眉間部124を採用することが望ましい。   By detecting the potential of the first electrode 152 with reference to the third electrode 156 and the potential of the second electrode 154 with reference to the third electrode 156, it is possible to preferably reduce the influence of noise. In order to make the third contact position 456 as far as possible from the first contact position 452 and the second contact position 454, the eyebrow part 124 may be arranged at or near the upper end of the rim 122. Further, the third electrode 156 may be provided above the center of the glabella portion 124. In this case, it is desirable to adopt a wide vertical eyebrow portion 124 as the arrangement position of the third electrode 156.

なお、処理部210は、第3電極156を基準とした第1電極152の電位を検出する代わりに、基準電極を基準とした第1電極152の電位から、基準電極を基準とした第3電極156の電位を減じてもよい。そして同様に、処理部210は、第3電極156を基準とした第2電極154の電位を検出する代わりに、基準電極を基準とした第2電極154の電位から、基準電極を基準とした第3電極156の電位を減じてもよい。   Note that, instead of detecting the potential of the first electrode 152 based on the third electrode 156, the processing unit 210 uses the third electrode based on the reference electrode based on the potential of the first electrode 152 based on the reference electrode. The potential at 156 may be reduced. Then, similarly, instead of detecting the potential of the second electrode 154 with the third electrode 156 as a reference, the processing unit 210 uses the potential of the second electrode 154 with the reference electrode as a reference, based on the reference electrode. The potential of the three electrodes 156 may be reduced.

基準電極としては、接地電極を用いてもよい。また、メガネ100の、第1電極152、第2電極154及び第3電極156から離間した位置に、別途基準電極を設けてもよい。例えば、基準電極は、右側のモダン132に設けられてもよい。また、基準電極は、右側のテンプル130の使用者の肌に接する部位に設けられてもよい。   A ground electrode may be used as the reference electrode. Further, a separate reference electrode may be provided at a position of the glasses 100 separated from the first electrode 152, the second electrode 154, and the third electrode 156. For example, the reference electrode may be provided on the modern 132 on the right side. In addition, the reference electrode may be provided at a portion of the right temple 130 that is in contact with the skin of the user.

なお、基準電極を基準とした第1電極152の電位から第3電極156の電位を減じる処理、及び基準電極を基準とした第2電極154の電位から第3電極156の電位を減じる処理は、処理部210が実行してもよく、増幅部250又は外部装置300が実行してもよい。この場合、処理対象の電位を示す信号は、増幅部250により増幅されている。   Note that the process of subtracting the potential of the third electrode 156 from the potential of the first electrode 152 with reference to the reference electrode and the process of subtracting the potential of the third electrode 156 from the potential of the second electrode 154 with reference to the reference electrode are: The processing may be executed by the processing unit 210, or may be executed by the amplification unit 250 or the external device 300. In this case, the signal indicating the potential to be processed is amplified by the amplifier 250.

<増幅部の構成>
次に、増幅部250の構成について説明する。図5は、実施例における増幅部250の構成の一例を示す図である。図5に示すように、増幅部250は、第1アンプ260及び第2アンプ270を有する。第1アンプ260は、第2アンプ270の前段に位置し、バッファアンプとして機能するアンプである。以下、第1アンプ260をバッファアンプ260とも称する。第2アンプ270は、メインのアンプとして機能するアンプである。以下、第2アンプ270は、メインアンプ270とも称する。メインアンプ270により増幅された信号は処理装置200に有線又は無線を用いて出力される。
<Configuration of amplifying unit>
Next, the configuration of the amplification unit 250 will be described. FIG. 5 is a diagram illustrating an example of a configuration of the amplification unit 250 according to the embodiment. As shown in FIG. 5, the amplification unit 250 has a first amplifier 260 and a second amplifier 270. The first amplifier 260 is located before the second amplifier 270 and functions as a buffer amplifier. Hereinafter, the first amplifier 260 is also referred to as a buffer amplifier 260. The second amplifier 270 is an amplifier that functions as a main amplifier. Hereinafter, the second amplifier 270 is also referred to as a main amplifier 270. The signal amplified by the main amplifier 270 is output to the processing device 200 by wire or wirelessly.

増幅部250の設置位置は、眉間部124部分であることが望ましい。なお、増幅部250は、眉間部124に埋め込むようにして設けてもよい。前述したとおり、各電極は可能な限り離間させた方が望ましいが、各電極の設置位置はフレーム120の形状に依存してしまうため、離間させるにしても限界がある。   It is desirable that the installation position of the amplifying unit 250 is the part between the eyebrows 124. The amplifying unit 250 may be provided so as to be embedded in the glabella 124. As described above, it is preferable that the electrodes are separated as much as possible. However, since the installation position of each electrode depends on the shape of the frame 120, there is a limit even if the electrodes are separated.

このため、各電極の電位差が十分な大きさにならない場合があり、各電極で検出された小さい電位を示す眼電図信号にノイズが混入してしまうと、十分な精度の電位を検出することが困難になってしまう。   For this reason, the potential difference between the electrodes may not be large enough.If noise is mixed in the electro-oculogram signal indicating a small potential detected at each electrode, it is necessary to detect the potential with sufficient accuracy. Becomes difficult.

そこで、実施例においては、検出された眼電図信号にノイズが混入する前に増幅することを目的として、増幅部250は、第1電極152、第2電極154及び第3電極156の近傍に設けられる。例えば、増幅部250は、各電極に近く、フレーム120にスペースが存在する眉間部124部分に設けることが好ましい。これにより、各電極により検出された眼電図信号が電線を通過する間に、ノイズが混入して眼電図信号の精度を低下させるリスクを減らすことができる。   Therefore, in the embodiment, the amplification unit 250 is provided near the first electrode 152, the second electrode 154, and the third electrode 156 in order to amplify the detected electrogram signal before noise is mixed. Provided. For example, the amplifying unit 250 is preferably provided in a portion between the eyebrows 124 where there is a space in the frame 120 near each electrode. Accordingly, it is possible to reduce the risk that noise is mixed and the accuracy of the electrogram signal is reduced while the electrogram signal detected by each electrode passes through the electric wire.

次に、メインアンプ270の前段の位置にバッファアンプ260を設ける理由を、図6を用いて説明する。図6は、バッファアンプ260を設ける理由を説明するための図である。図6に示す例は、第3電極156を用いるが、第1電極152及び第2電極154においても同様である。   Next, the reason why the buffer amplifier 260 is provided at a position preceding the main amplifier 270 will be described with reference to FIG. FIG. 6 is a diagram for explaining the reason why the buffer amplifier 260 is provided. Although the example shown in FIG. 6 uses the third electrode 156, the same applies to the first electrode 152 and the second electrode 154.

第3電極156は、メガネ100を装着した際、人肌に触れるため、グランドとの間に抵抗Rが存在すると考えてよい。このとき、抵抗Rは、例えば数100kΩである。また、メインアンプ270には、内部抵抗Rが存在する。このとき、メインアンプ270として通常のアンプを用いると、内部抵抗Rは、数10kΩ〜数100kΩである。Since the third electrode 156 touches human skin when the eyeglasses 100 are worn, the third electrode 156 may be considered to have a resistance R0 between itself and the ground. At this time, the resistance R 0 is, for example, several hundred kΩ. Further, the main amplifier 270, there is an internal resistance R 1. In this case, the use of conventional amplifier as a main amplifier 270, the internal resistance R 1 is the number 10kΩ~ number 100 k.OMEGA.

ここで、理想的にはメインアンプ270に電流が流れ込まないことであるが、内部抵抗Rが抵抗Rよりも小さいと、電流がメインアンプ270側に流れ込む。そうすると、電極の電圧Viとメインアンプ270の電圧Vxとが分圧されて観測されてしまう。そこで、メインアンプ270の前段の位置にバッファアンプ260を設けてメインアンプ270側に電流が流れ込まないようにする。Here, although ideally is that does not flow a current to the main amplifier 270, the internal resistance R 1 is smaller than the resistance R 0, the current flows to the main amplifier 270 side. Then, the voltage Vi of the electrode and the voltage Vx of the main amplifier 270 are divided and observed. Therefore, a buffer amplifier 260 is provided at a position before the main amplifier 270 to prevent current from flowing into the main amplifier 270.

図7は、実施例における増幅部の構成の他の例を示す図である。図7に示す増幅部は、符号250Aと表記される。増幅部250Aは、バッファアンプ260、メインアンプ270、A/D変換部280、及び無線通信部290を有する。バッファアンプ260及びメインアンプ270は、図5に示す機能と同様であるため、以下では、A/D変換部280及び無線通信部290について主に説明する。   FIG. 7 is a diagram illustrating another example of the configuration of the amplification unit according to the embodiment. The amplification unit illustrated in FIG. 7 is denoted by reference numeral 250A. The amplification unit 250A includes a buffer amplifier 260, a main amplifier 270, an A / D conversion unit 280, and a wireless communication unit 290. Since the buffer amplifier 260 and the main amplifier 270 have the same functions as those shown in FIG. 5, the following mainly describes the A / D converter 280 and the wireless communication unit 290.

A/D変換部280は、メインアンプ270により増幅された信号をアナログからデジタルに変換する。A/D変換部280は、デジタル変換した信号を無線通信部290に出力する。   The A / D converter 280 converts the signal amplified by the main amplifier 270 from analog to digital. A / D conversion section 280 outputs the digitally converted signal to wireless communication section 290.

無線通信部290は、A/D変換部280により変換されたデジタル信号を、無線通信を用いて処理装置200に送信する。よって、無線通信部290は、送信部として機能する。無線通信部290は、例えばBluetooth(登録商標)及び無線LAN等の無線通信を用いる。また、無線通信部290は、外部装置300にデジタル信号を直接送信してもよい。   The wireless communication unit 290 transmits the digital signal converted by the A / D conversion unit 280 to the processing device 200 using wireless communication. Therefore, wireless communication section 290 functions as a transmission section. The wireless communication unit 290 uses wireless communication such as Bluetooth (registered trademark) and wireless LAN. In addition, the wireless communication unit 290 may directly transmit a digital signal to the external device 300.

なお、実施例では、バッファアンプ260及びメインアンプ270を1つ設ける例を示したが、この場合は各電極からの眼電図信号に対して順番を決めて増幅していけばよい。また、各電極それぞれにバッファアンプ260及びメインアンプ270を設けてもよい。   In the embodiment, an example is shown in which one buffer amplifier 260 and one main amplifier 270 are provided. In this case, however, it is sufficient to amplify the electro-oculogram signals from the respective electrodes in an order. Further, a buffer amplifier 260 and a main amplifier 270 may be provided for each electrode.

<外部装置の構成>
次に、外部装置300の構成について説明する。図8は、実施例における外部装置300の構成の一例を示すブロック図である。図8に示すように、外部装置300は、通信部310、記憶部320、及び制御部330を有する。
<Configuration of external device>
Next, the configuration of the external device 300 will be described. FIG. 8 is a block diagram illustrating an example of a configuration of the external device 300 according to the embodiment. As shown in FIG. 8, the external device 300 includes a communication unit 310, a storage unit 320, and a control unit 330.

通信部310は、Bluetooth(登録商標)及び無線LAN等の無線通信、又は有線通信によって眼電図信号を受信する。通信部310は、処理装置200の通信部220から受信した眼電図信号を制御部330に出力する。   The communication unit 310 receives an electro-oculogram signal by wireless communication such as Bluetooth (registered trademark) and a wireless LAN, or by wired communication. The communication unit 310 outputs the electrocardiogram signal received from the communication unit 220 of the processing device 200 to the control unit 330.

記憶部320は、例えば、RAM(Random Access Memory)であり、右眼及び左眼の眼電図信号の極大値及び/又は極小値を記憶する。また、記憶部320は、眼電図信号の差分信号の極大値及び/又は極小値を記憶してもよい。また、極大値又は極小値は、それぞれ所定時間毎の最大値又は最小値でもよい。   The storage unit 320 is, for example, a RAM (Random Access Memory), and stores the maximum value and / or the minimum value of the electrogram signals of the right eye and the left eye. Further, the storage unit 320 may store the local maximum value and / or the local minimum value of the difference signal of the electro-oculogram signal. Further, the maximum value or the minimum value may be a maximum value or a minimum value for each predetermined time.

例えば、記憶部320は、極大値用のFIFOバッファと、極小値用のFIFOバッファとを有する。FIFOバッファは、極大値または極小値のデータにより記憶容量が一杯になったときは、最も古いデータが消去されて最新のデータが記憶されることにより、記憶領域に記憶されるデータが更新される。また、記憶部320は、後述する検出部340の検出結果を記憶してもよい。   For example, the storage unit 320 has a FIFO buffer for a local maximum value and a FIFO buffer for a local minimum value. When the storage capacity of the FIFO buffer becomes full due to the maximum value or the minimum value data, the oldest data is erased and the latest data is stored, so that the data stored in the storage area is updated. . The storage unit 320 may store a detection result of the detection unit 340 described below.

また、記憶部320は、後述する瞬目検出処理や視線移動検出処理をコンピュータに実行させるプログラムを記憶する。以下、瞬目検出処理及び視線移動検出処理をまとめて検出処理とも称す。このプログラムは、インターネット、又はSDカードなどの記録媒体を介して外部装置300にインストールされてもよいし、プリインストールされていてもよい。また、このプログラムを記憶する記憶部は、記憶部320とは別であってもよい。   Further, the storage unit 320 stores a program that causes a computer to execute blink detection processing and gaze movement detection processing to be described later. Hereinafter, the blink detection processing and the eye movement detection processing are collectively referred to as detection processing. This program may be installed in the external device 300 via the Internet or a recording medium such as an SD card, or may be preinstalled. Further, the storage unit that stores this program may be different from storage unit 320.

制御部330は、例えばCPU(Central Processing Unit)であり、各部の制御を行ったり、各種の演算処理を行ったりする。図8に示す例では、制御部330は、取得部332、差分算出部334、極値算出部336、判定部338、検出部340を有する。   The control unit 330 is, for example, a CPU (Central Processing Unit), and controls each unit and performs various arithmetic processes. In the example illustrated in FIG. 8, the control unit 330 includes an acquisition unit 332, a difference calculation unit 334, an extreme value calculation unit 336, a determination unit 338, and a detection unit 340.

取得部332は、対象者の眼周辺に接触する各電極により検出される眼電位に基づく眼電図信号を取得する。取得される眼電図信号は、右眼及び/又は左眼の眼電図信号であり、垂直方向の眼電図信号などでもよい。取得部332は、例えば、通信部310が受信した眼電図信号を取得すると、この眼電図信号を差分算出部334、判定部338に出力する。   The acquisition unit 332 acquires an electrocardiogram signal based on an electro-oculogram detected by each electrode contacting around the eye of the subject. The acquired electrogram signal is an electrogram signal of the right eye and / or the left eye, and may be an electrogram signal of a vertical direction or the like. For example, when acquiring the electrocardiogram signal received by the communication unit 310, the acquisition unit 332 outputs the electrogram signal to the difference calculation unit 334 and the determination unit 338.

制御部330は、取得された眼電図信号に対し、右眼及び左眼の動きを示す眼電図信号又は差分信号の極大値及び極小値を記憶部320に記憶するようにする。また、制御部330は、所定期間毎に、右眼及び左眼の動きを示す眼電図信号又は差分信号の最大値及び/又は最小値を記憶部320に記憶するようにしてもよい。   The control unit 330 stores the maximum value and the minimum value of the electrogram signal or the difference signal indicating the movement of the right eye and the left eye with respect to the obtained electrogram signal in the storage unit 320. Further, the control unit 330 may store the maximum value and / or the minimum value of the electrogram signal or the difference signal indicating the movement of the right eye and the left eye in the storage unit 320 every predetermined period.

所定期間は、例えば200msecとするが、この限りではない。また、所定期間は、時間窓を用いることで重複を許して時間的に変動するようにしてもよい。   The predetermined period is, for example, 200 msec, but is not limited to this. In addition, the predetermined period may be changed over time by using a time window to allow overlap.

差分算出部334は、取得部332により取得された眼電図信号と、この眼電図信号の所定時間前の眼電図信号との差分信号を算出する。所定時間前の眼電図信号とは、例えば、離散的な眼電図信号に対し、取得部332により取得された眼電図信号から4つ前の測定点の眼電図信号とするが、この例に限られない。差分信号を求めることで、後述するように眼電図信号のベースラインの変動を吸収することができる。   The difference calculation unit 334 calculates a difference signal between the electrogram signal acquired by the acquisition unit 332 and the electrogram signal a predetermined time before the electrogram signal. The electrocardiogram signal before a predetermined time is, for example, an electrocardiogram signal at a measurement point four times before the electrocardiogram signal acquired by the acquisition unit 332 for a discrete electrogram signal, It is not limited to this example. By obtaining the difference signal, it is possible to absorb the fluctuation of the baseline of the electro-oculogram signal as described later.

極値算出部336は、差分算出部334により算出された差分信号の極大値及び極小値を算出する。極値算出部336は、差分信号の極大値及び極小値を判定部338に出力する。また、極値算出部336は、算出した極大値及び極小値を記憶部320に記憶するようにしてもよい。   The extreme value calculation unit 336 calculates the maximum value and the minimum value of the difference signal calculated by the difference calculation unit 334. The extremum calculation unit 336 outputs the maximum value and the minimum value of the difference signal to the determination unit 338. The extreme value calculating unit 336 may store the calculated local maximum value and local minimum value in the storage unit 320.

判定部338は、極値算出部336により算出された極大値及び/又は極小値に関する所定条件が満たされるか否かに基づいて、瞬目の検出処理及び視線移動の検出処理のいずれの検出処理を行うかを判定する。また、判定部338は、取得部332により取得された眼電図信号も用いて所定条件を満たすか否かを判定してもよい。   The determination unit 338 performs any one of a blink detection process and a line-of-sight movement detection process based on whether a predetermined condition regarding the maximum value and / or the minimum value calculated by the extreme value calculation unit 336 is satisfied. Is determined. In addition, the determination unit 338 may determine whether or not a predetermined condition is satisfied, also using the electrogram signal acquired by the acquisition unit 332.

検出部340は、判定部338により判定された瞬目又は視線移動の検出処理を行う。そのため、検出部340は、瞬目検出部342と、視線移動検出部344とを含む。瞬目検出部342は、瞬目の検出処理として、公知の技術を用いて検出処理を行ってもよいし、後述する検出処理を行ってもよい。視線移動検出部344は、視線移動の検出処理として、公知の技術を用いて検出処理を行ってもよいし、後述する検出処理を行ってもよい。次に、判定部338及び検出部340について詳しく説明する。   The detection unit 340 performs detection processing of the blink or the line of sight determined by the determination unit 338. Therefore, the detection unit 340 includes a blink detection unit 342 and a gaze movement detection unit 344. The blink detection unit 342 may perform a detection process using a known technique as the blink detection process, or may perform a detection process described later. The line-of-sight movement detection unit 344 may perform a detection process using a known technique as a line-of-sight movement detection process, or may perform a detection process described later. Next, the determination unit 338 and the detection unit 340 will be described in detail.

≪判定処理≫
図9は、実施例における判定部338の構成の一例を示すブロック図である。図9に示す判定部338は、極大値と極小値との比に関する所定条件を用いて判定処理を行う第1判定部402と、眼電図信号の第1値から第2値までの時間に関する所定条件を用いて判定処理を行う第2判定部404とを含む。なお、判定処理については、第1判定部402及び第2判定部404のいずれかの条件が用いられてもよいし、両方の条件が満たされる場合に、判定部338は検出処理を判定してもよい。
≪ Judgment processing ≫
FIG. 9 is a block diagram illustrating an example of a configuration of the determination unit 338 according to the embodiment. The determination unit 338 illustrated in FIG. 9 includes a first determination unit 402 that performs a determination process using a predetermined condition regarding a ratio between a local maximum value and a local minimum value, and a time period from a first value to a second value of an electrogram signal. A second determination unit 404 that performs a determination process using predetermined conditions. In the determination process, either of the conditions of the first determination unit 402 and the second determination unit 404 may be used, or if both conditions are satisfied, the determination unit 338 determines the detection process. Is also good.

第1判定部402は、極大値と極小値との比が、第1閾値以上第2閾値以下の所定範囲に含まれる場合、瞬目の検出処理を行うと判定し、この比が所定範囲に含まれない場合、視線移動の検出処理を行うと判定する。なお、極大値と極小値との比とは、例えば、後述する閾値算出部502により算出される閾値を超える極大値又は極小値と、次に現れる極小値又は極大値との比である。極小値は基本的にマイナスの値であるため、比は、マイナスの値になるが、絶対値を取ってもよい。なお、この比は、ピーク比とも称される。   When the ratio between the local maximum value and the local minimum value falls within a predetermined range equal to or greater than the first threshold and equal to or less than the second threshold, the first determination unit 402 determines that the blink detection process is to be performed, and this ratio falls within the predetermined range. If not included, it is determined that the gaze movement detection process is to be performed. The ratio between the local maximum value and the local minimum value is, for example, a ratio between a local maximum value or a local minimum value exceeding a threshold value calculated by a threshold value calculation unit 502 described later and a local minimum value or a local maximum value that appears next. Since the minimum value is basically a negative value, the ratio is a negative value, but may be an absolute value. This ratio is also called a peak ratio.

第1判定部402は、ピーク比を用いることで、瞬目検出に適切ではない差分信号に基づいて瞬目をすることを防止する。瞬目検出に適切ではない差分信号とは、極大値の振幅が極小値の振幅よりも十分に大きい信号などである。例えば、ガムを噛むなどの場合に、瞬目検出に適切ではない差分信号が現れる。   Using the peak ratio, the first determination unit 402 prevents blinking based on a difference signal that is not appropriate for blink detection. The difference signal that is not appropriate for blink detection is a signal whose amplitude at the maximum is sufficiently larger than the amplitude at the minimum. For example, when chewing gum, a difference signal that is not appropriate for blink detection appears.

他方、適切な瞬目における極大値と極小値との比は、所定範囲に入ることが実験等により知られている。下限となる第1閾値は、例えば−1.7から−1.5であり、上限となる第2閾値は、例えば−0.5から−0.3である。   On the other hand, it is known from experiments and the like that the ratio between the local maximum value and the local minimum value at an appropriate blink is within a predetermined range. The first threshold value serving as the lower limit is, for example, from -1.7 to -1.5, and the second threshold value serving as the upper limit is, for example, from -0.5 to -0.3.

また、第1判定部402は、ピーク比が、第1閾値よりも小さい第3閾値以下、又は第2閾値よりも大きい第4値以上の場合に、視線移動の検出処理を行うと判定してもよい。視線移動の場合は、上を向いた場合はこのピーク比が大きくなり、下を向いた場合はピーク比が小さくなることが実験等により知られている。このとき、第3閾値は、例えば−2.0であり、第4閾値は−0.1である。   In addition, the first determination unit 402 determines that the gaze movement detection process is to be performed when the peak ratio is equal to or less than a third threshold smaller than the first threshold or equal to or greater than a fourth value greater than the second threshold. Is also good. It is known from experiments and the like that, in the case of a line-of-sight movement, the peak ratio increases when facing upward, and decreases when facing downward. At this time, the third threshold is -2.0, for example, and the fourth threshold is -0.1.

第2判定部404は、極大値又は極小値に関する眼電図信号の値から眼電図信号の所定値までに要する時間に関する所定条件を用いる。例えば、所定条件として、差分信号の極大値に対応する眼電図信号の第1値から、この第1値から所定範囲内に入る眼電図信号の第2値までにかかる時間が、所定時間以内であることとする。   The second determination unit 404 uses a predetermined condition regarding a time required from a value of the electrogram signal regarding the maximum value or the minimum value to a predetermined value of the electrogram signal. For example, as the predetermined condition, the time taken from the first value of the electrogram signal corresponding to the maximum value of the difference signal to the second value of the electrogram signal falling within a predetermined range from the first value is a predetermined time. Within.

このとき、第2判定部404は、眼電図信号の第1値から第2値までに推移するのに要する時間が、所定時間以内である場合、瞬目の検出処理を行うと判定し、この時間が所定時間以内ではない場合、視線移動の検出処理を行うと判定する。   At this time, the second determination unit 404 determines that the blink detection processing is to be performed when the time required for the transition from the first value to the second value of the electrogram signal is within a predetermined time, If this time is not within the predetermined time, it is determined that the gaze movement detection processing is to be performed.

なお、眼電図信号の極大値から次の極小値までの時間が短いものが瞬目であり、極大値から次の極小値までの時間が長いものが視線移動であることが実験等により知られている。したがって、第2判定部404は、上述したことが判定できるように、眼電図信号の第1値から第2値までの時間差を用いた条件を設定すればよい。   It is known from experiments and the like that blinks have a short time from the maximum value of the electrocardiogram signal to the next minimum value, and eye movements have a long time from the maximum value to the next minimum value. Have been. Therefore, the second determination unit 404 only needs to set a condition using the time difference between the first value and the second value of the electro-oculogram signal so that the above can be determined.

これにより、判定部338は、差分信号又は眼電図信号の極大値や極小値に関する条件に基づいて、瞬目の検出を行うのか、視線移動の検出を行うのかを適切に判断し、検出処理を適応的に切り替えることができる。   Accordingly, the determination unit 338 appropriately determines whether to perform blink detection or gaze movement detection based on the condition regarding the maximum value or the minimum value of the difference signal or the electro-oculogram signal, and performs the detection process. Can be switched adaptively.

また、ピーク比が用いられる場合は、上述した第3又は第4閾値を用いるなどして、外乱などの影響によるノイズを除去し、適切に瞬目検出又は視線移動検出を行うことができる。   When a peak ratio is used, noise caused by disturbance or the like can be removed by using the above-described third or fourth threshold, and blink detection or gaze movement detection can be appropriately performed.

≪瞬目検出≫
つぎに、瞬目検出について説明する。図10は、実施例における瞬目検出部342の一例を示すブロック図である。
≪Blink detection≫
Next, blink detection will be described. FIG. 10 is a block diagram illustrating an example of the blink detection unit 342 according to the embodiment.

瞬目検出部342は、眼電図信号を用いた公知の瞬目検出アルゴリズムを用いることができるが、以下では、瞬目判定に用いる閾値を可変にすることで、適切な瞬目が検出可能なアルゴリズムについて説明する。瞬目検出部342は、閾値算出部502を有する。   The blink detection unit 342 can use a known blink detection algorithm using an electro-oculogram signal. In the following, an appropriate blink can be detected by changing a threshold used for blink determination. A simple algorithm will be described. The blink detection unit 342 includes a threshold value calculation unit 502.

閾値算出部502は、記憶部320に記憶された極大値及び/又は極小値を用いて閾値を算出する。閾値算出部502は、例えば処理を簡略化するため、極大値又は極小値の絶対値の平均値等から閾値の絶対値を算出してもよい。   The threshold calculation unit 502 calculates a threshold using the maximum value and / or the minimum value stored in the storage unit 320. For example, in order to simplify the process, the threshold value calculating unit 502 may calculate the absolute value of the threshold value from the average value of the absolute values of the local maximum value or the local minimum value.

また、閾値算出部502は、記憶部320に記憶された極大値を用いて第5閾値を算出し、また、記憶部320に記憶された極小値を用いて第6閾値を算出してもよい。ここで、第5閾値は、眼が垂直方向の上に動いたことを判定するために用いられ、第6閾値は、眼が垂直方向の下に動いたことを判定するために用いられる。これにより、上方向の眼の動き、下方向の眼の動きそれぞれに閾値を設定できるので、適切な閾値判定を行うことができる。   Further, threshold calculating section 502 may calculate the fifth threshold using the local maximum value stored in storage section 320, and may calculate the sixth threshold using the local minimum value stored in storage section 320. . Here, the fifth threshold is used to determine that the eye has moved up in the vertical direction, and the sixth threshold is used to determine that the eye has moved down in the vertical direction. Thus, a threshold can be set for each of the upward eye movement and the downward eye movement, so that appropriate threshold determination can be performed.

また、閾値算出部502は、第1算出部512及び第2算出部514を有する。第1算出部512は、極大値用のFIFOバッファに記憶されている極大値の平均値及び標準偏差を算出する。また、第1算出部512は、極小値用のFIFOバッファに記憶されている最小値の平均値及び標準偏差を算出する。   Further, the threshold value calculation unit 502 includes a first calculation unit 512 and a second calculation unit 514. The first calculation unit 512 calculates the average value and the standard deviation of the local maximum values stored in the local maximum value FIFO buffer. In addition, the first calculation unit 512 calculates the average value and the standard deviation of the minimum values stored in the minimum value FIFO buffer.

第2算出部514は、極大値の平均値及び標準偏差に基づいて第5閾値を算出し、極小値の平均値及び標準偏差に基づいて第6閾値を算出する。これにより、例えば対象者の直近の状態を示す眼電図信号又は差分信号を用いて閾値を設定することができる。また、第5閾値及び第6閾値は、使用者の直近の状態を示す信号の強度に追従して値を変更させることができる。   The second calculator 514 calculates a fifth threshold value based on the average value and the standard deviation of the local maximum values, and calculates a sixth threshold value based on the average value and the standard deviation of the local minimum values. Thereby, the threshold value can be set using, for example, an electro-oculogram signal or a difference signal indicating the latest state of the subject. In addition, the fifth threshold value and the sixth threshold value can be changed according to the intensity of a signal indicating the latest state of the user.

例えば、第2算出部514は、極大値の平均値に、極大値の標準偏差に係数を乗算した値を加算した値を第5閾値とする。第2算出部514は、極小値の平均値から、極小値の標準偏差に係数を乗算した値を減算した値を第6閾値とする。これにより、適切な閾値を設定することができる。   For example, the second calculating unit 514 sets a value obtained by adding a value obtained by multiplying the average value of the maximum value by a coefficient to the standard deviation of the maximum value as the fifth threshold value. The second calculator 514 sets a value obtained by subtracting a value obtained by multiplying the standard deviation of the minimum value by a coefficient from the average value of the minimum values as the sixth threshold value. Thereby, an appropriate threshold value can be set.

また、閾値算出部502は、記憶部320に極大値及び/又は極小値が記憶される度に、第5閾値及び第6閾値を更新する。これにより、閾値算出部502は、過去の眼電図信号又は差分信号に基づいて閾値を設定することができるため、眠くなって眼の動きが遅くなり、眼電図信号が弱くなった場合であっても、その弱くなった信号に応じて閾値を設定することができるので、適切に瞬目を検出することができる。閾値算出部502により算出された第5閾値及び第6閾値は、判定部338において、極大値及び極小値の精度を上げるために、これらの閾値を超えた極大値及び極小値を判定するために用いられてもよい。   Further, the threshold value calculating unit 502 updates the fifth threshold value and the sixth threshold value each time the maximum value and / or the minimum value are stored in the storage unit 320. Accordingly, the threshold value calculation unit 502 can set the threshold value based on the past electrogram signal or the difference signal, so that when the user becomes sleepy, the movement of the eye becomes slow, and the electrogram signal becomes weak. Even so, the threshold can be set according to the weakened signal, so that the blink can be detected appropriately. The fifth threshold value and the sixth threshold value calculated by the threshold value calculation unit 502 are used by the determination unit 338 to determine the maximum value and the minimum value exceeding these threshold values in order to increase the accuracy of the maximum value and the minimum value. May be used.

また、閾値算出部502は、記憶部320に記憶された所定個の極大値の平均を第5閾値としたり、記憶部320に記憶された所定個の極小値の平均を第6閾値としたりしてもよい。また、閾値算出部502は、記憶部320に記憶された極大値及び極小値それぞれの標準偏差を用いて第5閾値及び第6閾値を算出してもよい。   Further, the threshold value calculation unit 502 sets the average of a predetermined number of local maximum values stored in the storage unit 320 as a fifth threshold value, or sets the average of the predetermined number of local minimum values stored in the storage unit 320 as a sixth threshold value. You may. Further, the threshold value calculation unit 502 may calculate the fifth threshold value and the sixth threshold value using the standard deviation of each of the maximum value and the minimum value stored in the storage unit 320.

瞬目検出部342は、第2算出部514により算出された第5閾値、及び第6閾値を用いて、眼電図信号又は差分信号から瞬目を検出する。例えば、瞬目検出部342は、第5閾値以上となる記憶部320に記憶された極大値の第1時刻と、第6閾値以下となる記憶部320に記憶された極小値の第2時刻との差分が所定時間以内であれば、瞬目を検出する。ここで、第2時刻は、第1時刻以降であって直近の時刻とする。所定時間は、例えば500msecとするがこの限りではない。   The blink detection unit 342 detects a blink from an electrooculogram signal or a difference signal using the fifth threshold value and the sixth threshold value calculated by the second calculation unit 514. For example, the blink detection unit 342 calculates the first time of the maximum value stored in the storage unit 320 that is equal to or more than the fifth threshold value, and the second time of the minimum value stored in the storage unit 320 that is equal to or less than the sixth threshold value. If the difference is within a predetermined time, a blink is detected. Here, the second time is the latest time after the first time. The predetermined time is, for example, 500 msec, but is not limited to this.

なお、瞬目検出部342は、右眼、左眼それぞれの眼電図信号を用いて瞬目を検出し、所定範囲内のタイミングで両目において瞬目が検出されたときに最終的な瞬目を検出してもよい。また、瞬目検出部342は、右眼と左眼は同様の動きをすることを前提とし、双方の眼電図信号の平均を用いて瞬目を検出してもよい。具体的な眼電図信号を用いた瞬目検出アルゴリズムについては、図15を用いて後述する。   Note that the blink detection unit 342 detects a blink using the electrogram signals of the right eye and the left eye, and determines a final blink when the blink is detected in both eyes at a timing within a predetermined range. May be detected. Further, the blink detection unit 342 may detect a blink using an average of both electrogram signals, on the assumption that the right eye and the left eye make the same movement. A blink detection algorithm using a specific electrogram signal will be described later with reference to FIG.

≪視線移動検出≫
次に、視線移動の検出について説明する。図8に戻り、視線移動検出部344は、公知の方法を用いて視線移動を検出すればよい。例えば、視線移動検出部344は、取得した眼電図信号又は差分信号から右眼電図と、左眼電図とに分けて、右眼電図及び左眼電図で負の電位が示された場合には視線が上を向いたことを検出する。また、視線移動検出部344は、右眼電図及び左眼電図で正の電位が示された場合には視線が下、右眼電図で負の電位が示され左眼電図で正の電位が示された場合には視線が右、右眼電図で正の電位が示され左眼電図で負の電位が示された場合には視線が左に向いたことを検出する。
≪Gaze movement detection≫
Next, detection of gaze movement will be described. Returning to FIG. 8, the gaze movement detection unit 344 may detect the gaze movement by using a known method. For example, the gaze movement detection unit 344 divides the acquired electrogram signal or difference signal into a right electrogram and a left electrogram, and indicates a negative potential in the right electrogram and the left electrogram. If it is, it is detected that the line of sight has turned upward. In addition, the gaze movement detection unit 344 sets the gaze downward when the right electrogram and the left electrogram show a positive potential, shows the negative potential in the right electrogram, and shows the positive potential in the left electrogram. When the potential is indicated, the line of sight is detected to be right, and when the positive potential is indicated in the right electrogram and the negative potential is indicated in the left electrogram, it is detected that the line of sight has turned to the left.

さらに、視線移動検出部344は、右眼電図が示す電位V1と左眼電図が示す電位V2とを加減算することによって、視線の検出精度を高めることができる。例えば、V1+V2が負であり、V1−V2が略ゼロの場合は、視線が上に向けられたと検出できる。V1+V2が正であり、V1−V2が略ゼロの場合は、視線が下に向けられたと判断できる。V1+V2が略ゼロであり、V1−V2が負の場合は、視線が右に向けられたと判断できる。V1+V2が略ゼロであり、V1−V2が正の場合は、視線が左に向けられたと判断できる。V1とV2とを加減算することにより、算出される正の値及び負の値が大きくなる。したがって、その分閾値を大きく設定することができるので、ノイズを誤って視線移動として検出してしまう誤検出を低減できる。   Further, the line-of-sight movement detection unit 344 can increase the line-of-sight detection accuracy by adding and subtracting the potential V1 indicated by the right electrogram and the potential V2 indicated by the left electrogram. For example, when V1 + V2 is negative and V1-V2 is substantially zero, it can be detected that the line of sight has been directed upward. When V1 + V2 is positive and V1-V2 is substantially zero, it can be determined that the line of sight has been directed downward. When V1 + V2 is substantially zero and V1-V2 is negative, it can be determined that the line of sight has been turned to the right. When V1 + V2 is substantially zero and V1-V2 is positive, it can be determined that the line of sight has been turned to the left. By adding and subtracting V1 and V2, the calculated positive and negative values increase. Therefore, the threshold value can be set to be larger by that amount, and it is possible to reduce erroneous detection in which noise is erroneously detected as gaze movement.

<具体例>
次に、眼電図信号や差分信号の具体例を用いて判定処理や検出処理について説明する。図11は、眼電図信号の一例を示す図である。図11に示すグラフにおいて、縦軸の眼電強度は、眼電位の強度を示す単位であり、例えば眼電図信号の計測値×1.5(V)÷2048などで表される。横軸は時間である。
<Specific examples>
Next, the determination process and the detection process will be described using specific examples of an electro-oculogram signal and a difference signal. FIG. 11 is a diagram illustrating an example of an electrogram signal. In the graph shown in FIG. 11, the electrooculogram strength on the vertical axis is a unit indicating the electrooculogram strength, and is represented by, for example, a measured value of electrocardiogram signal × 1.5 (V) ÷ 2048. The horizontal axis is time.

図11に示す眼電図信号S1は、ベースとなる眼電図信号の強度が大きく変動している。そのため、上述した閾値算出部502により算出される第5閾値及び/又は第6閾値が、ベースとなる眼電図信号S1の強度に影響を受けて大きく変動してしまい、適切な閾値を設定することが困難な場合がある。   In the electrogram signal S1 shown in FIG. 11, the intensity of the base electrogram signal greatly fluctuates. For this reason, the fifth threshold value and / or the sixth threshold value calculated by the above-described threshold value calculation unit 502 greatly varies due to the influence of the intensity of the base electrogram signal S1, and an appropriate threshold value is set. It can be difficult.

そこで、ベースとなる眼電図信号S1の強度の変動に影響を受けないようにするため、眼電図信号S1の差分信号が用いられるとよい。   Therefore, in order not to be affected by the fluctuation of the intensity of the base electrogram signal S1, a difference signal of the electrogram signal S1 may be used.

図12は、差分信号の一例を示す図である。図12に示す差分信号S2は、ベースとなる差分信号の強度がほぼ一定である。よって、閾値算出部502は、この差分信号S2を用いて閾値を算出すれば、ノイズの影響等を小さくし、適切な閾値を算出することが可能になる。   FIG. 12 is a diagram illustrating an example of the difference signal. In the difference signal S2 shown in FIG. 12, the intensity of the base difference signal is substantially constant. Therefore, if the threshold value calculation unit 502 calculates the threshold value using the difference signal S2, it becomes possible to reduce the influence of noise and the like and calculate an appropriate threshold value.

図13は、ピーク比を用いた判定処理を説明するための図である。図13に示す例では、差分信号S3を用いて第5閾値TH1、第6閾値TH2が算出されている。   FIG. 13 is a diagram for explaining the determination process using the peak ratio. In the example shown in FIG. 13, the fifth threshold value TH1 and the sixth threshold value TH2 are calculated using the difference signal S3.

このとき、極大値が第5閾値以上、次の極小値が第6閾値以下の場合に、基本的に瞬目と検出されてもよいが、ガムを噛むなどの場合にも瞬目として検出されてしまう場合がある。   At this time, when the maximum value is equal to or greater than the fifth threshold value and the next minimum value is equal to or less than the sixth threshold value, it may be basically detected as a blink. In some cases.

そこで、実施例では、極大値と、その極大値の次の極小値とのピーク比に着目し、このピーク比が所定範囲に入っていれば瞬目の検出処理が行われるようにする。図13に示す例では、符号Pにおける極大値のところは、ピーク比が所定範囲に含まれ、さらに、極大値が閾値を超えているため、瞬目として検出される。他方、符号Eにおける極大値のところは、極大値が閾値を超えているが、ピーク比が所定範囲に含まれないために、瞬目として検出されない。なお、瞬目の検出処理における判定は、判定部338によるピーク比判定と、瞬目検出部342による閾値判定とがあるが、これらは順不同であり、閾値判定を先に行って、次にピーク比判定をしてもよく、また両判定が並行して判定されてもよい。   Thus, in the embodiment, attention is paid to the peak ratio between the local maximum value and the local minimum value next to the local maximum value, and if the peak ratio falls within a predetermined range, the blink detection processing is performed. In the example shown in FIG. 13, the peak value at the symbol P is detected as a blink because the peak ratio is included in the predetermined range and the maximum value exceeds the threshold. On the other hand, at the local maximum value in the code E, the local maximum value exceeds the threshold, but is not detected as a blink because the peak ratio is not included in the predetermined range. Note that the determination in the blink detection process includes a peak ratio determination by the determination unit 338 and a threshold determination by the blink detection unit 342. These are in no particular order, and the threshold determination is performed first, and then the peak determination is performed. A ratio determination may be made, or both determinations may be made in parallel.

図14は、時間差を用いた判定処理を説明するための図である。図14(A)は眼電図信号の一例であり、図14(B)は、図14(A)に示す眼電図信号における差分信号の一例とするが、差分の正確性は問わない。図14に示す例では、視線移動の場合の眼電図信号又は差分信号であるが、視線移動の場合、瞬目と異なり、眼電図信号は極大値から緩やかに下がってくる。実施例では、この緩やかさに着目し、差分信号の極大値に対応する眼電図信号の第1値Q1から、Q1に相当する値の第2値Q2になるまでの時間tが所定条件に用いられる。第1値Q1は、例えば、差分信号が時刻t1の眼電図信号から時刻t2の眼電図信号の差分信号の場合、時刻t1の眼電図信号とするが、時刻t2の眼電図信号でもよい。第2値Q2は、第1値Q1と同じ値でもよいし、第1値にオフセットを加算した値でもよい。   FIG. 14 is a diagram illustrating a determination process using a time difference. FIG. 14A shows an example of an electrogram signal, and FIG. 14B shows an example of a difference signal in the electrogram signal shown in FIG. 14A, but the accuracy of the difference does not matter. In the example shown in FIG. 14, the signal is an electrocardiogram signal or a difference signal in the case of movement of the line of sight. However, in the case of movement of the line of sight, the electrocardiogram signal gradually decreases from the maximum value, unlike blinking. In the embodiment, focusing on this gradualness, the time t from the first value Q1 of the electrogram signal corresponding to the maximum value of the difference signal to the second value Q2 of the value corresponding to Q1 is set to a predetermined condition. Used. For example, when the difference signal is a difference signal between the electrogram signal at time t1 and the electrogram signal at time t2, the first value Q1 is the electrogram signal at time t1, but the electrogram signal at time t2. May be. The second value Q2 may be the same value as the first value Q1, or may be a value obtained by adding an offset to the first value.

例えば、第2判定部404は、第1値Q1から第2値Q2になるまでの時間tを算出し、この時間tが所定時間以内であるか否かを判定し、時間tが所定時間以内であれば瞬目の検出処理を行うと判定し、時間tが所定時間以内でなければ視線移動の検出処理を行うと判定する。所定時間は、例えば500msecなどであり、事前の実験などにより適切な値が設定されればよい。なお、時間tは、眼電図信号の勾配が緩やかであるか、又は急であるかを判定できればよいので、眼電図信号の極大値から極小値までの時間などでもよい。   For example, the second determination unit 404 calculates a time t from the first value Q1 to the second value Q2, determines whether the time t is within a predetermined time, and determines whether the time t is within a predetermined time. If so, it is determined that blink detection processing is to be performed, and if the time t is not within the predetermined time, it is determined that gaze movement detection processing is to be performed. The predetermined time is, for example, 500 msec, and an appropriate value may be set by a preliminary experiment or the like. Note that the time t may be a time from a local maximum value to a local minimum value of the electrocardiogram signal, as long as it can be determined whether the gradient of the electrocardiogram signal is gentle or steep.

次に、瞬目検出のアルゴリズムを具体的な眼電図信号を用いて説明する。図15は、眼の垂直方向の動きを示す眼電図信号の一例を示す図である。図15に示す眼電図信号S4は、片側の眼の垂直方向の動きを示す眼電図信号である。以下に説明する瞬目検出アルゴリズムは、所定期間の極大値及び極小値を用いて閾値を算出する場合のアルゴリズムである。   Next, the blink detection algorithm will be described using a specific electrogram signal. FIG. 15 is a diagram illustrating an example of an electrogram signal indicating a vertical movement of the eye. The electro-oculogram signal S4 shown in FIG. 15 is an electro-oculogram signal indicating the vertical movement of one eye. The blink detection algorithm described below is an algorithm in a case where a threshold value is calculated using the maximum value and the minimum value in a predetermined period.

(1)所定期間ごとの最大値、最小値を求める
制御部330は、眼電図信号S4の所定期間T1(例えば500msec)ごとの最大値、最小値を求める。
(1) Finding the maximum value and the minimum value every predetermined period The control unit 330 finds the maximum value and the minimum value every predetermined period T1 (for example, 500 msec) of the electrogram signal S4.

(2)最大値が極大値である場合、第1FIFOバッファに保存する
制御部330は、(1)で求めた最大値が極大値である場合、第1FIFOバッファ(記憶部320)に保存する。
(2) When the maximum value is the maximum value, save it in the first FIFO buffer. When the maximum value obtained in (1) is the maximum value, the control unit 330 saves it in the first FIFO buffer (storage unit 320).

(3)最小値が極小値である場合、第2FIFOバッファに保存する
制御部330は、(1)で求めた最小値が極小値である場合、第1FIFOバッファとは別領域の第2FIFOバッファに保存(記憶部320)する。なお、(2)及び(3)について、順序は問わない。以降、第1FIFOバッファ及び第2FIFOバッファをまとめる場合は、単にバッファと称する。図15において、眼電図信号S4上にある黒点は、各期間において極大値又は極小値として検出された値を表す。なお、極大値及び極小値は、微分を用いて、例えば眼電図信号S4の差分信号を用いて求めることができる。
(3) When the minimum value is the minimum value, save it in the second FIFO buffer. When the minimum value obtained in (1) is the minimum value, the control unit 330 stores the minimum value in the second FIFO buffer in an area different from the first FIFO buffer. Save (storage unit 320). The order of (2) and (3) does not matter. Hereinafter, when the first FIFO buffer and the second FIFO buffer are put together, they are simply referred to as buffers. In FIG. 15, the black points on the electro-oculogram signal S4 represent values detected as the maximum value or the minimum value in each period. Note that the maximum value and the minimum value can be obtained by using differentiation, for example, using a difference signal of the electro-oculogram signal S4.

(4)バッファの容量分データが保存されたら、平均値及び標準偏差を算出する
第1算出部512は、第1FIFOバッファに保存されている極大値の平均値(a1)及び標準偏差(b1)を算出する。また、第1算出部512は、第2FIFOバッファに保存されている極小値の平均値(a2)及び標準偏差(b2)を算出する。
(4) When the data corresponding to the capacity of the buffer is stored, calculate the average value and the standard deviation. The first calculation unit 512 calculates the average value (a1) and the standard deviation (b1) of the local maximum values stored in the first FIFO buffer. Is calculated. In addition, the first calculator 512 calculates the average value (a2) and the standard deviation (b2) of the minimum values stored in the second FIFO buffer.

(5)閾値を算出する
第2算出部514は、(4)で算出された平均値及び標準偏差を用いて第5閾値及び第6閾値を算出する。第5閾値(Th1)及び第6閾値(Th2)は、以下の式で算出される。
Th1=a1+E×b1・・・式(1)
Th2=a2−E×b2・・・式(2)
ここで、係数Eは、例えば2とする。
なお、第5閾値(Th1)、第6閾値(Th2)の絶対値に下限値を設定しておいてもよい。これにより、眼のわずかな上下運動を瞬きであると誤検出することを防止することができる。また、係数Eは、信号強度に応じて可変に設定できるようにされてもよい。
(5) Calculating the Threshold The second calculator 514 calculates the fifth threshold and the sixth threshold using the average value and the standard deviation calculated in (4). The fifth threshold (Th1) and the sixth threshold (Th2) are calculated by the following equations.
Th1 = a1 + E × b1 Equation (1)
Th2 = a2−E × b2 Equation (2)
Here, the coefficient E is, for example, 2.
Note that lower limits may be set to the absolute values of the fifth threshold (Th1) and the sixth threshold (Th2). This can prevent erroneous detection of slight vertical movement of the eye as blinking. Further, the coefficient E may be set variably according to the signal strength.

図15において、第5閾値の例として、符号TH1で表し、第6閾値の例として符号TH2で表す。図15に示すとおり、眼電図信号の時間経過に伴って、それぞれの閾値が変動し、さらに、眼電図信号の強さ(振幅の大きさ)に追従して閾値が適切に変更される。図15に示す第5閾値TH1と第6閾値TH2は、閾値の変動を概念的に示したものに過ぎない。   In FIG. 15, an example of the fifth threshold is represented by a symbol TH1 and an example of the sixth threshold is represented by a symbol TH2. As shown in FIG. 15, each threshold value changes with the passage of time of the electrogram signal, and further, the threshold value is appropriately changed in accordance with the strength (magnitude of the amplitude) of the electrogram signal. . The fifth threshold value TH1 and the sixth threshold value TH2 shown in FIG. 15 are merely conceptual representations of threshold value fluctuations.

(6)第5閾値以上の極大値、及び第6閾値以下の極小値を特定する
検出部340は、(5)で算出された第5閾値以上の極大値を特定する。ここで、閾値判定の対象となる極大値は、第1FIFOバッファに記憶されており、閾値判定がまだされていない極大値である。
(6) Specifying the maximum value equal to or greater than the fifth threshold value and the minimum value equal to or less than the sixth threshold value The detection unit 340 identifies the maximum value equal to or greater than the fifth threshold value calculated in (5). Here, the local maximum value to be subjected to the threshold value determination is a local maximum value stored in the first FIFO buffer and not yet subjected to the threshold value determination.

また、検出部340は、(5)で算出された第6閾値以下の最小値を特定する。ここで、閾値判定の対象となる極小値は、第2FIFOバッファに記憶されており、閾値判定がまだされていない極小値である。図15において、特定された極大値及び極小値は、四角で囲われた黒点により表される。   Further, the detection unit 340 specifies the minimum value equal to or less than the sixth threshold value calculated in (5). Here, the minimum value to be subjected to the threshold value determination is a minimum value stored in the second FIFO buffer and for which the threshold value determination has not been performed. In FIG. 15, the specified maximum value and minimum value are represented by black points surrounded by squares.

(7)瞬目を検出する
検出部340は、特定された極大値毎に、この極大値の第1時刻と、特定された極小値の第2時刻であり、この第1時刻以降の直近の第2時刻との差が、所定時間以内であれば、その眼の上下の動きを瞬目とみなして検出する。
(7) Detecting a blink The detection unit 340, for each of the specified maximum values, includes the first time of the maximum value and the second time of the specified minimum value, and the latest time after the first time. If the difference from the second time is within a predetermined time, the vertical movement of the eye is detected as a blink.

図15において、例えば、特定された極大値の時刻t11と、t11以降で直近に特定された極小値の時刻t21との差が所定時間以内であれば、その眼の動きを瞬目として検出する。所定時間は、例えば500msecとする。   In FIG. 15, for example, if the difference between the specified maximum value time t11 and the latest specified minimum time t21 after t11 is within a predetermined time, the movement of the eye is detected as a blink. . The predetermined time is, for example, 500 msec.

以上、瞬目検出アルゴリズムを説明したが、このアルゴリズムは、あくまでも一例であり、この例に限らない。なお、瞬目、視線移動の検出処理においては、眼電図信号の時間方向の差分信号を用いて上述した処理と同様の処理を行ってもよい。差分信号とは、例えば時間tの眼電図信号から時間tの所定時間前の眼電図信号を減算した信号である。これにより、ノイズ耐性が強い差分信号を用いることで、検出精度を向上させることができる。   The blink detection algorithm has been described above, but this algorithm is merely an example, and the present invention is not limited to this example. In addition, in the process of detecting the blinking and the movement of the line of sight, the same process as the above-described process may be performed using the difference signal of the electro-oculogram signal in the time direction. The difference signal is, for example, a signal obtained by subtracting the electrogram signal at a predetermined time before the time t from the electrogram signal at the time t. Thus, the detection accuracy can be improved by using a differential signal having strong noise resistance.

<動作>
次に、実施例における外部装置300の動作について説明する。図16は、実施例における瞬目、視線移動の検出処理に関する処理の一例を示すフローチャートである。図16に示すフローチャートは、使用者がメガネ100を装着して、第1電極152、第2電極154、第3電極156及び接地電極が使用者の皮膚に接触した状態であって、外部装置300が瞬目又は視線移動の検出を実行するモードである動作モード(通常モード)に設定された場合に開始する。
<Operation>
Next, the operation of the external device 300 in the embodiment will be described. FIG. 16 is a flowchart illustrating an example of a process related to a process of detecting a blink and a line of sight in the embodiment. The flowchart illustrated in FIG. 16 illustrates a state in which the user wears the glasses 100 and the first electrode 152, the second electrode 154, the third electrode 156, and the ground electrode are in contact with the skin of the user. Is started in the operation mode (normal mode), which is a mode for detecting a blink or a line-of-sight movement.

図16に示すステップS102で、取得部332は、メガネ100から、眼電図信号を取得する。   In step S102 illustrated in FIG. 16, the acquisition unit 332 acquires an electrocardiogram signal from the glasses 100.

ステップS104で、差分算出部334は、取得された眼電図信号と、この眼電図信号の所定時間前の眼電図信号との差分信号を算出する。   In step S104, the difference calculator 334 calculates a difference signal between the acquired electrogram signal and the electrogram signal a predetermined time before this electrogram signal.

ステップS106で、極値算出部336は、差分信号の極大値及び極小値を算出する。また、極値算出部336は、眼電図信号の極大値及び極小値を算出してもよい。   In step S106, the extremum calculation unit 336 calculates the maximum value and the minimum value of the difference signal. Further, the extreme value calculating unit 336 may calculate the maximum value and the minimum value of the electrogram signal.

ステップS108で、判定部338は、算出された極大値及び/又は極小値に関する所定条件が満たされるか否かに基づいて、瞬目の検出処理及び視線移動の検出処理のいずれの検出処理を行うかを判定する。所定条件の違いについては図17及び図18を用いて後述する。   In step S108, the determination unit 338 performs any one of a blink detection process and a line-of-sight movement detection process based on whether a predetermined condition regarding the calculated maximum value and / or minimum value is satisfied. Is determined. The difference between the predetermined conditions will be described later with reference to FIGS.

ステップS110で、瞬目検出部342は、瞬目の検出処理を行う。   In step S110, the blink detection unit 342 performs a blink detection process.

ステップS112で、視線移動検出部344は、視線移動の検出処理を行う。   In step S112, the gaze movement detection unit 344 performs a gaze movement detection process.

ステップS110及びステップS112の後は、制御部330が、動作モードの終了指示を受けるまで、図16に示す処理が繰り返される。   After steps S110 and S112, the process shown in FIG. 16 is repeated until control unit 330 receives an instruction to end the operation mode.

次に、図17は、実施例におけるピーク比を用いた判定処理の一例を示すフローチャートである。図17に示すステップS202で、第1判定部402は、極大値と極小値とのピーク比を算出する。   Next, FIG. 17 is a flowchart illustrating an example of the determination process using the peak ratio in the embodiment. In step S202 shown in FIG. 17, the first determination unit 402 calculates a peak ratio between a local maximum value and a local minimum value.

ステップS204で、第1判定部402は、ピーク比が、第1閾値以上第2閾値以下の所定範囲に含まれるか否かを判定する。ピーク比が所定範囲に含まれる場合(ステップS204−YES)、処理はステップS110へ進み、ピーク比が所定範囲に含まれない場合(ステップS204−NO)、処理はステップS206へ進む。   In step S204, the first determination unit 402 determines whether the peak ratio falls within a predetermined range between the first threshold and the second threshold. If the peak ratio is within the predetermined range (step S204-YES), the process proceeds to step S110, and if the peak ratio is not within the predetermined range (step S204-NO), the process proceeds to step S206.

ステップS206で、第1判定部402は、ピーク比が第3閾値以下か否かを判定する。ピーク比が第3閾値以下である場合(ステップS206−YES)、処理はステップS112に進み、ピーク比が第3閾値以下ではない場合(ステップS206−NO)、処理はステップS102に進む。なお、ステップS206において、ピーク比が第4閾値以上である場合を判定条件に追加してもよい。また、ステップS206が削除され、ステップS204のNOの後にステップS112に進んでもよい。   In step S206, the first determination unit 402 determines whether the peak ratio is equal to or less than a third threshold. If the peak ratio is equal to or smaller than the third threshold (step S206-YES), the process proceeds to step S112. If the peak ratio is not equal to or smaller than the third threshold (step S206-NO), the process proceeds to step S102. In step S206, the case where the peak ratio is equal to or larger than the fourth threshold may be added to the determination condition. Further, step S206 may be deleted, and the process may proceed to step S112 after NO in step S204.

次に、図18は、実施例における時間差を用いた判定処理の一例を示すフローチャートである。図18に示すステップS302で、第2判定部404は、極大値に対応する眼電図信号の第1値Q1を取得する。   Next, FIG. 18 is a flowchart illustrating an example of a determination process using a time difference in the embodiment. In step S302 illustrated in FIG. 18, the second determination unit 404 acquires a first value Q1 of the electrogram signal corresponding to the local maximum value.

ステップS304で、第2判定部404は、次に取得される眼電図信号が第2値Q2であるか否かを判定する。次に取得される眼電図信号が第2値Q2である場合(ステップS304−YES)、処理はステップS306に進み、次に取得される眼電図信号が第2値Q2でない場合(ステップS304−NO)、処理はステップS304に戻る。   In step S304, the second determination unit 404 determines whether the electrocardiogram signal acquired next is the second value Q2. If the electrogram signal to be obtained next is the second value Q2 (step S304-YES), the process proceeds to step S306, and if the electrogram signal to be obtained next is not the second value Q2 (step S304). -NO), the process returns to step S304.

ステップS306で、第2判定部404は、第2値Q2の時刻t_Q2から、第1値Q1の時刻t_Q1を減算して時間tを算出する。   In step S306, the second determination unit 404 calculates the time t by subtracting the time t_Q1 of the first value Q1 from the time t_Q2 of the second value Q2.

ステップS308で、第2判定部404は、時間tが所定時間(時間閾値)以内であるか否かを判定する。時間tが所定時間以内である場合(ステップS308−YES)、処理はステップS110に進み、時間tが所定時間以内でない場合(ステップS308−NO)、処理はステップS112に進む。   In step S308, the second determination unit 404 determines whether the time t is within a predetermined time (time threshold). If the time t is within the predetermined time (step S308-YES), the process proceeds to step S110, and if the time t is not within the predetermined time (step S308-NO), the process proceeds to step S112.

以上、実施例によれば、瞬目及び視線移動の検出処理を適切に切り替えることができる。また、瞬目検出や視線検出の精度を上げるため、以下の場合には、判定部338による判定処理をキャンセルする。例えば、極大値又は極小値が、瞬目や視線移動の際に現れる値をはるかに超える場合に、判定部338は、その値はノイズであるとして判定処理をキャンセルする。この場合、判定部338は、第5閾値又は第6閾値よりも絶対値の値が大きな値の閾値を設定し、差分信号がこの閾値を超える場合に、判定処理をキャンセルすればよい。また、例えば、閾値算出部502により算出される第5閾値及び第6閾値の絶対値が小さくなりすぎた場合、判定部338は、適切な判定処理ができないとして、判定処理をキャンセルする。この場合、判定部338は、第5閾値及び第6閾値よりも絶対値の値が小さい値の閾値を設定し、差分信号がこの閾値を超えない場合に、判定処理をキャンセルすればよい。   As described above, according to the embodiment, it is possible to appropriately switch the processing of detecting the blink and the line of sight. In addition, in order to increase the accuracy of blink detection and line-of-sight detection, the determination process by the determination unit 338 is canceled in the following cases. For example, when the maximum value or the minimum value far exceeds the value that appears at the time of blinking or moving the line of sight, the determination unit 338 determines that the value is noise and cancels the determination processing. In this case, the determination unit 338 may set a threshold whose absolute value is larger than the fifth threshold or the sixth threshold, and cancel the determination processing when the difference signal exceeds this threshold. Further, for example, when the absolute values of the fifth threshold value and the sixth threshold value calculated by the threshold value calculation unit 502 become too small, the determination unit 338 determines that appropriate determination processing cannot be performed and cancels the determination processing. In this case, the determination unit 338 may set a threshold whose absolute value is smaller than the fifth threshold and the sixth threshold, and cancel the determination processing when the difference signal does not exceed the threshold.

なお、本実施例において、アイウエアがメガネである場合について説明した。しかし、アイウエアはこれに限定されない。アイウエアは、眼に関連する装具であればよく、メガネ、サングラス、ゴーグル及びヘッドマウントディスプレイならびにこれらのフレームなどの顔面装着具又は頭部装着具であってよい。   In this embodiment, the case where the eyewear is glasses is described. However, eyewear is not limited to this. The eyewear may be any eye-related equipment, such as eyeglasses, sunglasses, goggles, and head-mounted displays, as well as face or headwear such as these frames.

本実施例において、メガネ100が第3電極156を備える例を挙げて説明した。しかし、メガネ100はこれに限定されない。メガネ100が、第3電極156を備えなくてもよい。この場合、基準電極を基準とした第1電極152の電位が示す眼電図及び基準電極を基準とした第2電極154の電位が示す眼電図が、外部装置300に送信されればよい。ここで、接地電極を第3電極156の位置に設けて、基準電極としてもよい。また、左モダンに設けられた接地電極を基準電極として用いてもよいし、第1電極152及び第2電極154から離間した位置に、別途設けられた電極を基準電極として用いてもよい。   In the present embodiment, an example in which the glasses 100 include the third electrode 156 has been described. However, the glasses 100 are not limited to this. The glasses 100 need not include the third electrode 156. In this case, the electro-oculogram indicated by the potential of the first electrode 152 with respect to the reference electrode and the electro-oculogram indicated by the potential of the second electrode 154 with reference to the reference electrode may be transmitted to the external device 300. Here, a ground electrode may be provided at the position of the third electrode 156 to serve as a reference electrode. Further, a ground electrode provided in the left modern may be used as a reference electrode, or an electrode separately provided at a position separated from the first electrode 152 and the second electrode 154 may be used as a reference electrode.

本実施例において、メガネ100が、リム122と一体になっているノーズパッド140を備える例を挙げて説明した。しかし、メガネ100はこれに限定されない。メガネ100が、リム122に備え付けられたクリングスと、クリングスに取り付けられたノーズパッド140とを備えてもよい。この場合、ノーズパッド140の表面に設けられた電極は、クリングスを介して、フレームに埋設された電線と電気的に接続される。   In the present embodiment, an example in which the eyeglasses 100 include the nose pad 140 integrated with the rim 122 has been described. However, the glasses 100 are not limited to this. The glasses 100 may include a cling attached to the rim 122 and a nose pad 140 attached to the cling. In this case, the electrode provided on the surface of the nose pad 140 is electrically connected to the electric wire embedded in the frame via the krings.

本実施例において、第1電極152及び第2電極154をノーズパッド140の中心よりも下側に設ける例を挙げて説明した。しかし、これに限定されない。ノーズパッド140が下側に延伸する延伸部を備え、第1電極152及び第2電極154を延伸部に設けてもよい。これにより、眼及び鼻の位置の個人差によってノーズパッドが眼の真横に位置してしまう使用者であっても、第1電極152及び第2電極154を眼の位置よりも下に接触させることができる。   In the present embodiment, an example in which the first electrode 152 and the second electrode 154 are provided below the center of the nose pad 140 has been described. However, it is not limited to this. The nose pad 140 may include an extension that extends downward, and the first electrode 152 and the second electrode 154 may be provided in the extension. Accordingly, even if the user has the nose pad positioned right beside the eye due to individual differences in the positions of the eyes and the nose, the first electrode 152 and the second electrode 154 are brought into contact below the position of the eyes. Can be.

本実施例において、第3電極156を眉間部124の表面に設ける例を挙げて説明した。しかし、これに限定されない。眉間部124が、上側に延伸する延伸部を備え、延伸部に第3電極156を設けてもよい。またさらに、延伸部と眉間部124との間に延伸部を上下に可動させる可動部を備え、第3電極156の位置を上下に調整可能としてもよい。これにより、眼の位置の個人差によって、第3電極156の接触位置が眼の近傍になってしまう使用者であっても、調整により第3電極156の接触位置を眼から離間させることができる。また、本実施例において、各電極の位置は前述した位置に限られず、眼の垂直方向及び水平方向の動きを示す眼電図信号が取得できる位置に配置されていればよい。   In the present embodiment, an example has been described in which the third electrode 156 is provided on the surface of the glabella 124. However, it is not limited to this. The glabella portion 124 may include an extending portion extending upward, and the third electrode 156 may be provided in the extending portion. Further, a movable portion for vertically moving the extended portion may be provided between the extended portion and the interbrow portion 124 so that the position of the third electrode 156 can be adjusted vertically. Thereby, even if the user has a contact position of the third electrode 156 near the eye due to individual differences in the position of the eye, the contact position of the third electrode 156 can be separated from the eye by adjustment. . Further, in the present embodiment, the positions of the electrodes are not limited to the above-described positions, and may be any positions as long as an electrocardiogram signal indicating the vertical and horizontal movement of the eye can be obtained.

本実施例では、外部装置300の例として、処理装置200と別体の、携帯電話及びスマートフォン等の携帯通信端末やパーソナルコンピュータを挙げて説明した。しかし、これに限定されない。外部装置300は、メガネ100又は処理装置200の「外部」にある装置として設けられるのではなく、処理装置200と一体のユニットとして設けられてもよい。例えば、外部装置300は、アイウエアに一体として設けられる。また、外部装置300の任意の各機能が、処理装置200A(不図示)に設けられてもよい。   In the present embodiment, as an example of the external device 300, a mobile communication terminal such as a mobile phone and a smartphone or a personal computer, which is separate from the processing device 200, has been described. However, it is not limited to this. The external device 300 may be provided not as a device “outside” the glasses 100 or the processing device 200 but as a unit integrated with the processing device 200. For example, the external device 300 is provided integrally with the eyewear. Further, arbitrary functions of the external device 300 may be provided in the processing device 200A (not shown).

例えば、処理装置200Aは、外部装置300の差分算出部334、極値算出部336、及び判定部338、検出部340の各機能を備えてもよい。この場合、処理装置200Aは、上述した処理装置200の場合と同様の効果を奏することができ、さらに、外部装置300との通信エラー等に影響を受けない信号を用いて検出処理を行うことができる。   For example, the processing device 200A may include the functions of the difference calculation unit 334, the extreme value calculation unit 336, the determination unit 338, and the detection unit 340 of the external device 300. In this case, the processing device 200 </ b> A can provide the same effects as those of the above-described processing device 200, and can perform the detection process using a signal that is not affected by a communication error with the external device 300. it can.

なお、検出結果の送信については、リアルタイム処理とバッチ処理とがある。リアルタイム処理では、検出結果が取得される度に、検出結果が外部装置300に送信される。また、検出結果とともに眼電図信号等がリアルタイムに外部装置300に送信されてもよい。このリアルタイム処理を行うことで、早期に詳細な分析を外部装置300等で行うことができるようになる。   The transmission of the detection result includes real-time processing and batch processing. In the real-time processing, the detection result is transmitted to the external device 300 every time the detection result is obtained. Further, an electrogram signal or the like may be transmitted to the external device 300 in real time along with the detection result. By performing this real-time processing, detailed analysis can be performed at an early stage by the external device 300 or the like.

また、バッチ処理では、所定時間(例えば1分間)ごとに、検出結果が集計され、集計結果が外部装置300に送信される。集計結果は、その間の眼電図信号を含んでもよい。このバッチ処理を行うことで、所定時間ごとに集計結果を送信することになるので、送信回数を減らし、処理装置200Aの消費電力を低減することができる。   In the batch processing, the detection results are totaled for each predetermined time (for example, one minute), and the totaling results are transmitted to the external device 300. The aggregation result may include the electrogram signal during that time. By performing this batch processing, the aggregation result is transmitted at predetermined time intervals, so that the number of transmissions can be reduced and the power consumption of the processing device 200A can be reduced.

また、本実施例では、電線としてシールドケーブルを用いることで、ノイズの混入を防ぐようにしてもよい。   Further, in this embodiment, the use of shielded cables as electric wires may prevent noise from being mixed.

また、本実施例では、図1において3つの電極を用いる構成を例示したが、4つ以上の電極を用いる構成であってもよい。この場合、メガネは、上部電極と、下部電極と、左部電極と、右部電極とを有する。例えば、上部電極及び下部電極は、図1に示すリム122に設けられ、左部電極は、左テンプル130に設けられ、右部電極は、右テンプル130に設けられるが、必ずしもこの位置にある必要はない。なお、これらの電極は、顔の一部に接触しているとする。   Further, in this embodiment, the configuration using three electrodes is illustrated in FIG. 1, but a configuration using four or more electrodes may be used. In this case, the glasses have an upper electrode, a lower electrode, a left electrode, and a right electrode. For example, the upper electrode and the lower electrode are provided on the rim 122 shown in FIG. 1, the left electrode is provided on the left temple 130, and the right electrode is provided on the right temple 130. There is no. Note that these electrodes are assumed to be in contact with a part of the face.

4つの電極の例では、上部電極及び下部電極の電圧差により、眼の上下方向を検知することができ、左部電極及び右部電極の電圧差により、眼の左右方向を検知することができる。   In the example of four electrodes, the vertical direction of the eye can be detected by the voltage difference between the upper electrode and the lower electrode, and the horizontal direction of the eye can be detected by the voltage difference between the left electrode and the right electrode. .

以上、本発明について実施例を用いて説明したが、本発明の技術的範囲は上記実施例に記載の範囲には限定されない。上記実施例に、多様な変更又は改良を加えることが可能であることが当業者に明らかである。その様な変更又は改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。   As described above, the present invention has been described using the embodiments. However, the technical scope of the present invention is not limited to the scope described in the above embodiments. It is apparent to those skilled in the art that various changes or improvements can be made to the above-described embodiment. It is apparent from the description of the appended claims that embodiments with such changes or improvements can be included in the technical scope of the present invention.

100 メガネ
120 フレーム
124 眉間部
140 ノーズパッド
152 第1電極
154 第2電極
156 第3電極
200 処理装置
300 外部装置
320 記憶部
330 制御部
332 取得部
334 差分算出部
336 極値算出部
338 判定部
340 検出部
100 glasses 120 frame 124 eyebrows 140 nose pad 152 first electrode 154 second electrode 156 third electrode 200 processing device 300 external device 320 storage unit 330 control unit 332 acquisition unit 334 difference calculation unit 336 extreme value calculation unit 338 determination unit 340 Detection unit

Claims (8)

対象者の眼周辺に接触する各電極により検出される眼電位に基づく眼電図信号を取得する取得ステップと、
取得された前記眼電図信号と該眼電図信号の所定時間前の眼電図信号との差分信号を算出する算出ステップと、
前記差分信号の極大値及び極小値を算出する算出ステップと、
前記極大値及び/又は前記極小値を用いて、瞬目の検出処理又は視線移動の検出処理の切り替えに関する所定条件が満たされるか否かに基づいて、前記瞬目の検出処理及び前記視線移動の検出処理のいずれの検出処理を行うかを判定する判定ステップと、
判定された前記瞬目の検出処理又は前記視線移動の検出処理適応的に行う検出ステップと、
をコンピュータに実行させるプログラム。
An acquisition step of acquiring an electro-oculogram signal based on an electro-oculogram detected by each electrode contacting around the eye of the subject,
A calculation step of calculating a difference signal between the obtained electrogram signal and the electrogram signal a predetermined time before the electrogram signal,
Calculating a maximum value and a minimum value of the difference signal;
Using said maximum value and / or the minimum value, based on whether or not a predetermined condition related to the switching of the detection processing detection processing or eye movement blink is satisfied, the blink detection process and the eye movement A determining step of determining which of the detection processes to perform,
A detection step of adaptively performing the determined blink detection process or the gaze movement detection process ,
A program that causes a computer to execute.
前記所定条件は、前記極大値と前記極小値との比に関する条件である、請求項1に記載のプログラム。   The program according to claim 1, wherein the predetermined condition is a condition regarding a ratio between the local maximum value and the local minimum value. 前記所定条件は、前記比が、第1閾値以上第2閾値以下の所定範囲に含まれることであり、
前記判定ステップは、
前記比が、第1閾値以上第2閾値以下の所定範囲に含まれる場合、前記瞬目の検出処理を行うと判定し、前記比が前記所定範囲に含まれない場合、前記視線移動の検出処理を行うと判定する、請求項2に記載のプログラム。
The predetermined condition is that the ratio is included in a predetermined range equal to or more than a first threshold and equal to or less than a second threshold.
The determining step includes:
If the ratio is within a predetermined range equal to or greater than a first threshold and equal to or less than a second threshold, it is determined that the blink detection process is to be performed. If the ratio is not within the predetermined range, the gaze movement detection process is determined. The program according to claim 2, wherein the program is determined to be performed.
前記判定ステップは、
前記比が、前記第1閾値よりも小さい第3閾値以下又は前記第2閾値よりも大きい第4閾値以上の場合に、前記視線移動の検出処理を行うと判定する、請求項3に記載のプログラム。
The determining step includes:
The program according to claim 3, wherein when the ratio is equal to or smaller than a third threshold smaller than the first threshold or equal to or larger than a fourth threshold larger than the second threshold, it is determined that the gaze movement detection process is performed. .
前記所定条件は、前記極大値又は前記極小値に関する前記眼電図信号の値から前記眼電図信号の所定値までに要する時間に関する条件である、請求項1に記載のプログラム。   The program according to claim 1, wherein the predetermined condition is a condition relating to a time required from a value of the electrogram signal regarding the maximum value or the minimum value to a predetermined value of the electrogram signal. 前記所定条件は、前記時間が、所定時間以内であることであり、
前記判定ステップは、
前記時間が前記所定時間以内である場合、前記瞬目の検出処理を行うと判定し、前記時間が前記所定時間以内ではない場合、前記視線移動の検出処理を行うと判定する、請求項5に記載のプログラム。
The predetermined condition is that the time is within a predetermined time,
The determining step includes:
The method according to claim 5, wherein when the time is within the predetermined time, it is determined to perform the blink detection processing, and when the time is not within the predetermined time, it is determined to perform the gaze movement detection processing. The described program.
対象者の眼周辺に接触する各電極により検出される眼電位に基づく眼電図信号を取得する取得部と、
取得された前記眼電図信号と該眼電図信号の所定時間前の眼電図信号との差分信号を算出する差分算出部と、
前記差分信号の極大値及び極小値を算出する極値算出部と、
前記極大値及び/又は前記極小値を用いて、瞬目の検出処理又は視線移動の検出処理の切り替えに関する所定条件が満たされるか否かに基づいて、前記瞬目の検出処理及び前記視線移動の検出処理のいずれの検出処理を行うかを判定する判定部と、
判定された前記瞬目の検出処理又は前記視線移動の検出処理適応的に行う検出部と、
を備える情報処理装置。
An acquisition unit that acquires an electrocardiogram signal based on an electrooculogram detected by each electrode that contacts the periphery of the eye of the subject,
A difference calculation unit that calculates a difference signal between the acquired electrogram signal and the electrogram signal a predetermined time before the electrogram signal,
An extreme value calculating unit that calculates a local maximum value and a local minimum value of the difference signal,
Using said maximum value and / or the minimum value, based on whether or not a predetermined condition related to the switching of the detection processing detection processing or eye movement blink is satisfied, the blink detection process and the eye movement A determining unit that determines which of the detection processes to perform,
A detection unit that adaptively performs the detected blink detection process or the gaze movement detection process ,
An information processing apparatus comprising:
眉間部と、
一対のノーズパッドを有するフレームと、
前記一対のノーズパッドそれぞれの表面に設けられる第1電極及び第2電極と、
前記眉間部の表面に設けられる第3電極と、
各電極により検出される眼電位に基づく眼電図信号を取得する取得部と、
取得された前記眼電図信号と該眼電図信号の所定時間前の眼電図信号との差分信号を算出する差分算出部と、
前記差分信号の極大値及び極小値を算出する極値算出部と、
前記極大値及び/又は前記極小値を用いて、瞬目の検出処理又は視線移動の検出処理の切り替えに関する所定条件が満たされるか否かに基づいて、前記瞬目の検出処理及び前記視線移動の検出処理のいずれの検出処理を行うかを判定する判定部と、
判定された前記瞬目の検出処理又は前記視線移動の検出処理適応的に行う検出部と、
を備えるアイウエア。
Between the eyebrows,
A frame having a pair of nose pads,
A first electrode and a second electrode provided on a surface of each of the pair of nose pads,
A third electrode provided on the surface of the glabella,
An acquisition unit that acquires an electrocardiogram signal based on an electrooculogram detected by each electrode,
A difference calculation unit that calculates a difference signal between the acquired electrogram signal and the electrogram signal a predetermined time before the electrogram signal,
An extreme value calculating unit that calculates a local maximum value and a local minimum value of the difference signal,
Using said maximum value and / or the minimum value, based on whether or not a predetermined condition related to the switching of the detection processing detection processing or eye movement blink is satisfied, the blink detection process and the eye movement A determining unit that determines which of the detection processes to perform,
A detection unit that adaptively performs the detected blink detection process or the gaze movement detection process ,
Eyewear with
JP2016563623A 2014-12-09 2015-11-30 Program, information processing device, and eyewear Active JP6656166B2 (en)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2014249120 2014-12-09
JP2014249120 2014-12-09
PCT/JP2015/083588 WO2016093096A1 (en) 2014-12-09 2015-11-30 Program, information processing device, and eyewear

Publications (2)

Publication Number Publication Date
JPWO2016093096A1 JPWO2016093096A1 (en) 2017-11-30
JP6656166B2 true JP6656166B2 (en) 2020-03-04

Family

ID=56107286

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016563623A Active JP6656166B2 (en) 2014-12-09 2015-11-30 Program, information processing device, and eyewear

Country Status (2)

Country Link
JP (1) JP6656166B2 (en)
WO (1) WO2016093096A1 (en)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108245154B (en) * 2018-01-24 2020-10-09 福州大学 Method for accurately determining blink interval in electroencephalogram or electrooculogram by using abnormal value detection
CN110441912B (en) * 2019-08-27 2024-04-19 高维度(深圳)生物信息智能应用有限公司 Portable glasses intelligent wearing equipment and control method thereof
CN112578682A (en) * 2021-01-05 2021-03-30 陕西科技大学 Intelligent obstacle-assisting home system based on electro-oculogram control

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10207615A (en) * 1997-01-22 1998-08-07 Tec Corp Network system
JP2008531142A (en) * 2005-03-04 2008-08-14 スリープ・ダイアグノスティックス・プロプライアタリー・リミテッド Awakening measurement
JP5661067B2 (en) * 2012-05-29 2015-01-28 株式会社ジェイアイエヌ Eyewear

Also Published As

Publication number Publication date
WO2016093096A1 (en) 2016-06-16
JPWO2016093096A1 (en) 2017-11-30

Similar Documents

Publication Publication Date Title
US9706941B2 (en) Eyewear
JP6426589B2 (en) Electro-oculogram detection device, electro-oculogram detection method, eyewear and frame
US20160070122A1 (en) Computerized replacement temple for standard eyewear
JP2015213734A (en) Program, information processing device, and eyewear
JP6656166B2 (en) Program, information processing device, and eyewear
JP6687639B2 (en) Information processing method, information processing device, program, and eyewear
WO2015159851A1 (en) Detection unit, eyewear, and ocular potential detection system
JP6556860B2 (en) Information processing method, information processing apparatus, program, and eyewear
WO2016076268A1 (en) Program, information processing device, and eyewear
JP6594953B2 (en) Gaze movement detection method, program, information processing apparatus, and eyewear
WO2016072395A1 (en) Program, information processing device, and eyewear
JP2017185148A (en) Wearable biomedical measurement device
WO2017064800A1 (en) Program, information processing device, and eyewear
WO2016152849A1 (en) Signal processing method, program, information processing device, and eyewear
JP5689206B1 (en) Eyewear
KR20210016790A (en) Method and apparatus for eog-based eye tracking protocol using baseline drift removal algorithm for long-term eye movement detection
JP2017192548A (en) Eyewear, information processing method, and program
EP3725221A1 (en) System, device and method for eye activity monitoring
CA2824972A1 (en) Eyewear

Legal Events

Date Code Title Description
AA64 Notification of invalidation of claim of internal priority (with term)

Free format text: JAPANESE INTERMEDIATE CODE: A241764

Effective date: 20170807

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170824

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20181025

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20191203

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200120

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200128

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200204

R150 Certificate of patent or registration of utility model

Ref document number: 6656166

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250