Nothing Special   »   [go: up one dir, main page]

JP7248103B2 - 異常検知方法、異常検知装置、プログラム - Google Patents

異常検知方法、異常検知装置、プログラム Download PDF

Info

Publication number
JP7248103B2
JP7248103B2 JP2021508905A JP2021508905A JP7248103B2 JP 7248103 B2 JP7248103 B2 JP 7248103B2 JP 2021508905 A JP2021508905 A JP 2021508905A JP 2021508905 A JP2021508905 A JP 2021508905A JP 7248103 B2 JP7248103 B2 JP 7248103B2
Authority
JP
Japan
Prior art keywords
feature vector
monitored object
measurement data
state
data measured
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021508905A
Other languages
English (en)
Other versions
JPWO2020195626A1 (ja
Inventor
慎一郎 吉田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Publication of JPWO2020195626A1 publication Critical patent/JPWO2020195626A1/ja
Application granted granted Critical
Publication of JP7248103B2 publication Critical patent/JP7248103B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/30Monitoring
    • G06F11/34Recording or statistical evaluation of computer activity, e.g. of down time, of input/output operation ; Recording or statistical evaluation of user activity, e.g. usability assessment
    • G06F11/3409Recording or statistical evaluation of computer activity, e.g. of down time, of input/output operation ; Recording or statistical evaluation of user activity, e.g. usability assessment for performance assessment
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/07Responding to the occurrence of a fault, e.g. fault tolerance
    • G06F11/0703Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation
    • G06F11/0751Error or fault detection not based on redundancy
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B23/00Testing or monitoring of control systems or parts thereof
    • G05B23/02Electric testing or monitoring
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/30Monitoring
    • G06F11/3003Monitoring arrangements specially adapted to the computing system or computing system component being monitored
    • G06F11/3006Monitoring arrangements specially adapted to the computing system or computing system component being monitored where the computing system is distributed, e.g. networked systems, clusters, multiprocessor systems
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/30Monitoring
    • G06F11/34Recording or statistical evaluation of computer activity, e.g. of down time, of input/output operation ; Recording or statistical evaluation of user activity, e.g. usability assessment
    • G06F11/3447Performance evaluation by modeling
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Quality & Reliability (AREA)
  • Computer Hardware Design (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Computing Systems (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • Mathematical Physics (AREA)
  • Automation & Control Theory (AREA)
  • Health & Medical Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Software Systems (AREA)
  • Testing And Monitoring For Control Systems (AREA)

Description

本発明は、異常検知方法、異常検知装置、プログラムに関する。
情報処理システムや機械設備などの監視対象について、各種センサから計測された計測データを分析し、監視対象に異常状態が発生したことを検出することが行われている(例えば、特許文献1参照)。特に、監視対象から計測された計測データのうち、正常に稼働しているときの正常系のデータのみを学習データとして学習してモデル化を行い、かかるモデルを用いて新たに計測される計測データが異常であることを検知する手法が用いられている。
特開2017-102765号公報
しかしながら、上述した正常系データのみを学習して異常を検知する手法では、計測した時系列データから監視対象が正常であるか異常であるかということしか検知できない。このため、異常を検知しても、異常の詳細な状態まで検出することができない。その結果、監視対象の異常を検知した場合であっても、異常の状態に対する適切な対応をとることができない、という問題が生じる。
このため、本発明の目的は、上述した課題である、監視対象の異常状態に対して適切な対応をとることができない、ことを解決することにある。
本発明の一形態である異常検知方法は、
正常時における監視対象から計測された計測データに基づいて生成されたモデルを用いて、前記監視対象から計測された計測データから当該監視対象の異常状態を検知し、
異常状態を検知した前記監視対象から計測された計測データに基づく特徴ベクトルを異常検知特徴ベクトルとして生成し、
前記異常検知特徴ベクトルと、予め登録された前記監視対象の所定の異常状態を表す異常状態情報と関連付けられた特徴ベクトルである登録特徴ベクトルとを比較し、比較結果に基づく情報を出力する、
という構成をとる。
また、本発明の一形態である異常検知装置は、
正常時における監視対象から計測された計測データに基づいて生成されたモデルを用いて、前記監視対象から計測された計測データから当該監視対象の異常状態を検知する検知部と、
異常状態を検知した前記監視対象から計測された計測データに基づく特徴ベクトルを異常検知特徴ベクトルとして生成する特徴ベクトル生成部と、
前記異常検知特徴ベクトルと、予め登録された前記監視対象の所定の異常状態を表す異常状態情報と関連付けられた特徴ベクトルである登録特徴ベクトルとを比較し、比較結果に基づく情報を出力する比較部と、
を備えた、
という構成をとる。
また、本発明の一形態であるプログラムは、
情報処理装置に、
正常時における監視対象から計測された計測データに基づいて生成されたモデルを用いて、前記監視対象から計測された計測データから当該監視対象の異常状態を検知する検知部と、
異常状態を検知した前記監視対象から計測された計測データに基づく特徴ベクトルを異常検知特徴ベクトルとして生成する特徴ベクトル生成部と、
前記異常検知特徴ベクトルと、予め登録された前記監視対象の所定の異常状態を表す異常状態情報と関連付けられた特徴ベクトルである登録特徴ベクトルとを比較し、比較結果に基づく情報を出力する比較部と、
を実現させる、
という構成をとる。
本発明は、以上のように構成されることにより、監視対象の異常状態に対して適切な対応をとることができる。
本発明の実施形態1における異常検知装置の構成を示すブロック図である。 図1に開示した異常処理部の構成を示すブロック図である。 図1に開示した異常検知装置による処理の様子を示す図である。 図1に開示した異常検知装置による処理の様子を示す図である。 図1に開示した異常検知装置による処理の様子を示す図である。 図1に開示した異常検知装置による処理の様子を示す図である。 図1に開示した異常検知装置の動作を示すフローチャートである。 図1に開示した異常検知装置の動作を示すフローチャートである。 本発明の実施形態2における異常検知装置のハードウェア構成を示すブロック図である。 本発明の実施形態2における異常検知装置の構成を示すブロック図である。 本発明の実施形態2における異常検知装置の動作を示すフローチャートである。
<実施形態1>
本発明の第1の実施形態を、図1乃至図9を参照して説明する。図1乃至図2は、異常検知装置の構成を説明するための図であり、図3乃至図8は、異常検知装置の処理動作を説明するための図である。
[構成]
本発明における異常検知装置10は、データベースサーバやアプリケーションサーバ、ウェブサーバなど、複数の情報処理装置を備えた情報処理システムが設置されているデータセンタといった設備を監視対象Pとし、かかる監視対象Pに接続されている。そして、異常検知装置10は、監視対象Pの各要素から計測した計測データを取得して分析し、分析結果に基づいて監視対象Pを監視して異常状態を検知するために利用される。例えば、本実施形態のように、監視対象Pがデータセンタである場合には、情報処理システムを構成する各情報処理装置のCPU(Central Processing Unit)使用率、メモリ使用率、ディスクアクセス頻度、入出力パケット数、消費電力値などを、各要素の計測データとして取得し、かかる計測データを分析して、各情報処理装置の異常状態を検知する。
なお、本発明の異常検知装置10にて監視する監視対象Pは、上述した情報処理システムであることに限定されない。例えば、監視対象Pは、製造工場や処理施設などのプラントであってもよく、その場合には、各要素の計測データとして、プラント内の温度、圧力、流量、消費電力値、原料の供給量、残量などを計測することとする。また、異常検知装置10で計測する計測データは、上述したような各種センサにて計測される数値によるデータであることに限定されず、撮影装置にて撮影した画像データや、予め設定されている設定データであってもよい。
また、異常検知装置10には、検知した異常状態を通知する出力先となる情報処理端末Uが接続されている。情報処理端末Uは、監視対象Pの監視者が操作する端末であり、後述するように、監視対象Pの異常状態を類推できる情報を出力する。また、情報処理端末Uは、監視者によって入力された監視対象Pの異常状態を表す情報の入力を受け付けて、かかる情報を異常検知装置10に送信する機能を有する。
次に、上述した異常検知装置10の構成について説明する。異常検知装置10は、演算装置と記憶装置とを備えた1台又は複数台の情報処理装置にて構成される。そして、異常検知装置10は、図1に示すように、演算装置がプログラムを実行することで構築された、計測部11、学習部12、分析部13、異常処理部14、を備える。また、異常検知装置10は、記憶装置に形成された、計測データ記憶部16、モデル記憶部17、異常データ記憶部18、を備える。以下、各構成について詳述する。
上記計測部11は、監視対象Pに設置された各種センサにて計測された各要素の計測データを所定の時間間隔で時系列データとして取得して、計測データ記憶部16に記憶する。このとき、例えば、計測する要素は複数種類あり、計測部11は、複数の要素の時系列データの集合である時系列データセットを取得する。なお、計測部11による時系列データセットの取得及び記憶は常時行われており、取得された時系列データセットは、後述するように、監視対象Pの正常状態を表すモデルを生成するとき、監視対象Pの状態を監視するとき、にそれぞれ使用される。
上記学習部12は、監視対象Pから計測された時系列データセットを入力して、モデルを生成する。本実施形態では、学習部12は、監視対象Pが正常状態であると判断されたときに計測された時系列データセットである学習用のデータを、計測データ記憶部16から入力して学習し、モデルを生成する。例えば、モデルは、複数要素のうち、任意の2要素の計測値の相関関係を表す相関関数を含む。相関関数は、例えば、図3に示すように、入力層F1、中間層F2,F3、出力層F4(最終層)といった複数層を有するニューラルネットワークによって構成され、任意の2要素のうちの一方の要素の入力値に対して、他方の要素の出力値を予測する関数である。学習部12は、上述したような複数の要素間の相関関数の集合をモデルとして生成し、モデル記憶部17に記憶する。なお、学習部12は、必ずしも上述したようなモデルを生成することに限定されず、いかなるモデルを生成してもよい。
上記分析部13(検知部)は、上述したモデルを生成した後に計測された計測データである時系列データセットを取得して、当該時系列データセットの分析を行う。具体的に、分析部13は、監視対象Pから計測された時系列データセットを入力して、当該時系列データセットと、モデル記憶部17に記憶されているモデルと、を比較して、時系列データセットに相関破壊が生じているなどを理由に異常状態が発生しているか否かを調べる。例えば、分析部13は、まず、図3の左側に示す計測データである時系列データセットのうち、入力値x1をモデルの入力層F1に入力し、ニューラルネットワークにより算出された出力値である予測値yを出力層F4から得る。そして、分析部13は、予測値yと、計測データである実測値y_realとの差分[y-(y_real)]を算出し、かかる差分から、異常状態であるか否かを判断する。例えば、差分が閾値以上の場合に、監視対象Pが異常状態であることを検知してもよいが、いかなる方法で異常状態を検知してもよい。
上記異常処理部14は、上述した分析部13にて監視対象Pが異常状態であることを検知すると、今回の異常状態を検出した監視対象Pの事象に対応する過去の事例を情報処理端末Uに出力したり、かかる事象を異常状態の事例として新たに登録するなどの処理を行う。具体的に、異常処理部14は、かかる処理を行うために、図2に示すように、特徴算出部21、比較部22、出力部23、登録部24、を備えている。
上記特徴算出部21(特徴ベクトル生成部)は、上述したように今回の異常状態を検出した監視対象Pの事象における計測データである時系列データセットに基づく特徴ベクトルとして、異常検知特徴ベクトルを生成する。特に、特徴算出部21は、上述したようにモデルを用いて異常状態を検知する処理を行う際に算出された情報を用いて、異常検知特徴ベクトルを生成する。例えば、特徴算出部21は、図4に示すように、モデルを構成するニューラルネットワークに異常検知時の計測データである入力値x1を入力した際に、当該ニューラルネットワークの中間層F2,F3のいずれかのニューロンから出力される値x2,x3を異常検知特徴ベクトルとしてもよい。このとき、特徴算出部21は、一例として、ニューロン数が最も少ない中間層から出力される値を異常検知特徴ベクトルとしてもよい。あるいは、特徴算出部21は、図4に示すように、モデルを構成するニューラルネットワークに異常検知時の計測データである入力値x1を入力した際に、当該ニューラルネットワークの出力層F4のニューロンから出力される予測値yと、計測データである実測値y_realとの差分からなる[y-(y_real)]を異常検知特徴ベクトルとしてもよい。
ここで、上述した図4に示すモデルを構成するニューラルネットワークの中間層F2,F3や出力層F4から出力される値yは、例えば以下のように算出された値となる。
x2=f(W1*x1+b1)
x3=f(W2*x2+b2)
y=f(W3*x3+b3)
なお、上記x1,x2,x3,y,y_real,b1,b2,b3は、それぞれベクトルであり、上記W1,W2,W3は重み行列であり、上記fは活性化関数であることとする。
また、特徴算出部21は、上述したニューラルネットワークの複数の中間層の値を組み合わせたり、中間層の値と上述した差分の値とを組み合わせて、異常検知特徴ベクトルを生成してもよい。そして、特徴算出部21は、上述した値から異常検知特徴ベクトルを生成することに限定されず、異常検知時の計測データに基づいていれば、いかなる方法にて異常検知特徴ベクトルを生成してもよい。
上記比較部22は、今回の異常状態を検出した監視対象Pの事象における異常検知特徴ベクトルを、異常データ記憶部18に記憶されている各「ナレッジ」と比較する。ここで、異常データ記憶部18には、各「ナレッジ」として異常状態が検知された過去の事例が登録されており、そのときの計測データから上述同様に算出された異常検知特徴ベクトルが、「登録特徴ベクトル」が登録されている。具体的に、異常データ記憶部18には、1つの「ナレッジ」として、図6に示すように、登録特徴ベクトル自体である「特徴ベクトル」に関連付けて、「ID」、「異常検知日時」、「名称」、「コメント」が登録されている。このうち、「名称」と「コメント」は、過去に異常と検知されたときの監視対象Pの異常状態の内容(異常状態情報)を表している。例えば、「ID」が「1」のナレッジでは、その「名称」や「コメント」により、「DB(データベースサーバ)に事象Aが発生した」という異常状態の内容を表している。なお、「名称」や「コメント」としては、後述するように、異常が検知されたときの監視対象Pの状態を判定した専門家や監視者によって、情報処理端末Uから入力された情報が登録されることとなる。
そして、比較部22は、今回の異常状態を検出した監視対象Pの事象における異常検知特徴ベクトルと、異常データ記憶部18内の各「ナレッジ」の登録特徴ベクトルと、の比較として、これらの類似度を算出する。例えば、比較部22は、異常検知特徴ベクトルと各ナレッジの登録特徴ベクトルとの類似度として、特徴ベクトル同士のcosine距離を用いて算出する。なお、特徴ベクトル同士の類似度は、必ずしもcosine距離を用いて算出することに限定されず、いかなる方法で算出してもよい。
上記出力部23は、上述した比較部22によって比較した結果として、類似度を算出した各ナレッジを、今回の異常状態を検出した監視対象Pの事象に関連するナレッジとして、情報処理端末Uに表示するよう出力する。例えば、出力部23は、図5の左側に示すように、今回の異常状態を検出した日時である「発生時刻」に対応付けて、異常検知特徴ベクトルと比較した各ナレッジの一覧を表示する。具体的には、類似度を算出した各ナレッジに含まれる登録特徴ベクトルに関連付けられている「名称」と、算出した「類似度」を表示して出力する。このとき、出力部23は、比較部22によって算出された類似度の値が高い順に各ナレッジを表示したり、比較した各ナレッジのうち、類似度が高い所定数のナレッジのみを表示してもよい。なお、出力部23は、各ナレッジの「内容」も一覧に表示してもよく、その他のナレッジに関連する情報を表示してもよい。
また、出力部23は、図5の右側に示すように、今回の異常を検知した事象に対する「名称」と「コメント」の入力欄を情報処理端末Uに表示するよう出力する。これら入力欄には、例えば、上述した他のナレッジとの比較の結果、最も類似度が高い「ナレッジ」に関連付けられている「名称」と「コメント」が入力された状態で情報処理端末Uに表示されている。そして、これら入力欄の内容は、情報処理端末Uにて下部に表示されている「編集」ボタンが押されることで編集可能となる。なお、出力部23は、図5の右側に示す「名称」と「コメント」の入力欄を空欄で表示してもよい。
上記登録部24は、上述したように情報処理端末Uに表示されている画面において、当該情報処理端末Uにて「登録」ボタンが押されることで、今回の異常状態を検知した監視対象Pの事象を、図6に示すようにナレッジとして異常データ記憶部18に登録する。具体的に、登録部24は、「登録」ボタンが押されると、図6に示すように、新たに「ID」を付与し、今回の異常状態の事象が検知された時刻を「異常検知日時」に登録し、また、上述したように算出された異常検知特徴ベクトルを登録特徴ベクトルとして「特徴ベクトル」に登録する。さらに、登録部24は、「特徴ベクトル」に関連付けて、情報処理端末Uにて専門家や監視者によって入力された「名称」及び「コメント」も登録する。これにより、新たに登録されたナレッジは、後に異常が検知された事象に対して、上述同様に類似度が算出され、情報処理端末Uに表示出力されるナレッジとして利用される。
[動作]
次に、上述した異常検知装置10の動作を、主に図7乃至図8のフローチャートを参照して説明する。まず、図7のフローチャートを参照して、監視対象Pが正常状態である場合におけるモデルを生成するときの動作を説明する。
異常検知装置10は、監視対象Pが正常状態であると判断されたときに計測された時系列データセットである学習用のデータを、計測データ記憶部16から読み出して入力する(ステップS1)。そして、異常検知装置10は、入力した時系列データから、各要素間の相関関係を学習し(ステップS2)、当該各要素間の相関関係を表すモデルを生成する(ステップS3)。そして、生成したモデルとモデル記憶部17に記憶しておく。
次に、図8のフローチャートを参照して、監視対象Pの異常状態を検出するときの動作を説明する。異常検知装置10は、監視対象Pから計測された時系列データセットを入力して(ステップS11)、当該時系列データセットと、モデル記憶部17に記憶されているモデルと、を比較して(ステップS12)、監視対象Pに異常状態が発生しているか否かを調べる(ステップS13)。例えば、異常検知装置10は、図3に示すように、計測データのうち入力値x1をモデルに入力し、当該モデルの出力値である予測値yと他の計測データである実測値y_realとの差分[y-(y_real)]を算出し、かかる差分から、異常状態であるか否かを判断する。
そして、異常検知装置10は、監視対象Pが異常状態であることを検知すると(ステップS13でYes)、今回の異常状態を検出した監視対象Pの事象における計測データに基づく異常検知特徴ベクトルを生成する(ステップS14)。例えば、異常検知装置10は、図4に示すように、モデルを構成するニューラルネットワークにおける中間層F2,F3から出力される値x2,x3や、モデルの出力値である予測値yと他の計測データである実測値y_realとの差分[y-(y_real)]を、異常検知特徴ベクトルとする。
続いて、異常検知装置10は、算出した異常検知特徴ベクトルと、異常データ記憶部18に記憶されている各ナレッジの登録特徴ベクトルと、の類似度を算出する(ステップS15)。そして、異常検知装置10は、類似度を算出した各ナレッジを、今回の異常状態を検出した監視対象Pの事象に関連するナレッジとして、情報処理端末Uに表示するよう出力する(ステップS16)。例えば、異常検知装置10は、図5の左側に示すように、異常検知特徴ベクトルと比較した各ナレッジの一覧を、算出した類似度と共に表示する。
このように、情報処理端末Uには、今回の異常状態を検出した監視対象Pの事象に関連するナレッジの「名称」や「類似度」が表示される。このため、監視者は、表示されたナレッジの「類似度」や「名称」から、今回の異常状態の事象が対応するナレッジを容易に知ることができ、今回の異常状態の内容を推定することができる。その結果、監視対象Pの異常状態に対して適切な対応をとることができる。
その後、情報処理端末Uにおいて、図5の右側に示すように、今回の異常を検知した事象に対する「名称」と「コメント」の入力欄の情報が編集され、「登録」ボタンが押されたとする(ステップS17でYes)。すると、情報処理端末Uに入力された「名称」と「コメント」の情報が異常検知装置10に送信される。異常検知装置10は、今回の異常状態の事象に対応する異常検知特徴ベクトルを登録特徴ベクトルとして、その異常状態の内容を表す「名称」と「コメント」等と共に、新たにナレッジに登録する。これにより、登録されたナレッジは、後に検知される監視対象Pの異常の事象に対して、上述同様に既存のナレッジとして類似度算出の対象となり、情報処理端末Uに出力される対象となる。
<実施形態2>
次に、本発明の第2の実施形態を、図9乃至図11を参照して説明する。図9乃至図10は、実施形態2における異常検知装置の構成を示すブロック図であり、図11は、異常検知装置の動作を示すフローチャートである。なお、本実施形態では、実施形態1で説明した異常検知装置及び異常検知装置による処理方法の構成の概略を示している。
まず、図9を参照して、本実施形態における異常検知装置100のハードウェア構成を説明する。異常検知装置100は、一般的な情報処理装置にて構成されており、一例として、以下のようなハードウェア構成を装備している。
・CPU(Central Processing Unit)101(演算装置)
・ROM(Read Only Memory)102(記憶装置)
・RAM(Random Access Memory)103(記憶装置)
・RAM103にロードされるプログラム群104
・プログラム群104を格納する記憶装置105
・情報処理装置外部の記憶媒体110の読み書きを行うドライブ装置106
・情報処理装置外部の通信ネットワーク111と接続する通信インタフェース107
・データの入出力を行う入出力インタフェース108
・各構成要素を接続するバス109
そして、異常検知装置100は、プログラム群104をCPU101が取得して当該CPU101が実行することで、図10に示す検知部121と特徴ベクトル生成部122と比較部123とを構築して装備することができる。なお、プログラム群104は、例えば、予め記憶装置105やROM102に格納されており、必要に応じてCPU101がRAM103にロードして実行する。また、プログラム群104は、通信ネットワーク111を介してCPU101に供給されてもよいし、予め記憶媒体110に格納されており、ドライブ装置106が該プログラムを読み出してCPU101に供給してもよい。但し、上述した検知部121と特徴ベクトル生成部122と比較部123とは、電子回路で構築されるものであってもよい。
なお、図11は、異常検知装置100である情報処理装置のハードウェア構成の一例を示しており、情報処理装置のハードウェア構成は上述した場合に例示されない。例えば、情報処理装置は、ドライブ装置106を有さないなど、上述した構成の一部から構成されてもよい。
そして、異常検知装置100は、上述したようにプログラムによって構築された検知部121と特徴ベクトル生成部122と比較部123との機能により、図11のフローチャートに示す異常検知方法を実行する。
図11に示すように、異常検知装置100は、
正常時における監視対象から計測された計測データに基づいて生成されたモデルを用いて、前記監視対象から計測された計測データから当該監視対象の異常状態を検知し(ステップ101)、
異常状態を検知した前記監視対象から計測された計測データに基づく特徴ベクトルを異常検知特徴ベクトルとして生成し(ステップS102)、
前記異常検知特徴ベクトルと、予め登録された前記監視対象の所定の異常状態を表す異常状態情報と関連付けられた特徴ベクトルである登録特徴ベクトルとを比較し、比較結果に基づく情報を出力する(ステップS103)。
本発明は、以上のように構成されることにより、異常状態を検出した監視対象の計測データから特徴ベクトルを生成し、かかる特徴ベクトルと登録されている特徴ベクトルとを比較する。そして、比較結果に応じて、登録されている異常状態情報を出力することで、新たな異常状態に対応する過去の異常状態を参照することができる。その結果、監視対象の異常状態に対して適切な対応をとることができる。
なお、上述したプログラムは、様々なタイプの非一時的なコンピュータ可読媒体(non-transitory computer readable medium)を用いて格納され、コンピュータに供給することができる。非一時的なコンピュータ可読媒体は、様々なタイプの実体のある記録媒体(tangible storage medium)を含む。非一時的なコンピュータ可読媒体の例は、磁気記録媒体(例えばフレキシブルディスク、磁気テープ、ハードディスクドライブ)、光磁気記録媒体(例えば光磁気ディスク)、CD-ROM(Read Only Memory)、CD-R、CD-R/W、半導体メモリ(例えば、マスクROM、PROM(Programmable ROM)、EPROM(Erasable PROM)、フラッシュROM、RAM(Random Access Memory))を含む。また、プログラムは、様々なタイプの一時的なコンピュータ可読媒体(transitory computer readable medium)によってコンピュータに供給されてもよい。一時的なコンピュータ可読媒体の例は、電気信号、光信号、及び電磁波を含む。一時的なコンピュータ可読媒体は、電線及び光ファイバ等の有線通信路、又は無線通信路を介して、プログラムをコンピュータに供給できる。
以上、上記実施形態等を参照して本願発明を説明したが、本願発明は、上述した実施形態に限定されるものではない。本願発明の構成や詳細には、本願発明の範囲内で当業者が理解しうる様々な変更をすることができる。
なお、本発明は、日本国にて2019年3月26日に特許出願された特願2019-058385の特許出願に基づく優先権主張の利益を享受するものであり、当該特許出願に記載された内容は、全て本明細書に含まれるものとする。
<付記>
上記実施形態の一部又は全部は、以下の付記のようにも記載されうる。以下、本発明における異常検知方法、異常検知装置、プログラムの構成の概略を説明する。但し、本発明は、以下の構成に限定されない。
(付記1)
正常時における監視対象から計測された計測データに基づいて生成されたモデルを用いて、前記監視対象から計測された計測データから当該監視対象の異常状態を検知し、
異常状態を検知した前記監視対象から計測された計測データに基づく特徴ベクトルを異常検知特徴ベクトルとして生成し、
前記異常検知特徴ベクトルと、予め登録された前記監視対象の所定の異常状態を表す異常状態情報と関連付けられた特徴ベクトルである登録特徴ベクトルとを比較し、比較結果に基づく情報を出力する、
異常検知方法。
(付記2)
付記1に記載の異常検知方法であって、
異常状態を検知した前記監視対象から計測された計測データから、前記モデルを用いて異常状態を検知する処理を行う際に算出された情報に基づいて、前記異常検知特徴ベクトルを生成する、
異常検知方法。
(付記3)
付記2に記載の異常検知方法であって、
前記モデルは、ニューラルネットワークを用いて、前記監視対象から計測された所定の計測データを入力することによって予測値を出力するものであり、
異常状態を検知した前記監視対象から計測された所定の計測データを前記モデルに入力することによって算出された情報を用いて前記異常検知特徴ベクトルを生成する、
異常検知方法。
(付記4)
付記3に記載の異常検知方法であって、
異常状態を検知した前記監視対象から計測された所定の計測データを前記モデルに入力することによって、前記ニューラルネットワークの中間層で出力された情報を用いて前記異常検知特徴ベクトルを生成する、
異常検知方法。
(付記5)
付記3に記載の異常検知方法であって、
異常状態を検知した前記監視対象から計測された所定の計測データを前記モデルに入力することによって、前記ニューラルネットワークで出力された前記予測値と、異常状態を検知した前記監視対象から計測された他の計測データである実測値と、の差分の情報を用いて前記異常検知特徴ベクトルを生成する、
異常検知方法。
(付記6)
付記1乃至5のいずれかに記載の異常検知方法であって、
前記異常検知特徴ベクトルと前記登録特徴ベクトルとの比較結果に基づいて、前記登録特徴ベクトルに関連付けられた前記異常状態情報を出力する、
異常検知方法。
(付記7)
付記1乃至6のいずれかに記載の異常検知方法であって、
生成した前記異常検知特徴ベクトルを、当該異常検知特徴ベクトルを生成したときに検知された前記監視対象の異常状態を表す前記異常状態情報に関連付けて前記登録特徴ベクトルとして登録する、
異常検知方法。
(付記8)
正常時における監視対象から計測された計測データに基づいて生成されたモデルを用いて、前記監視対象から計測された計測データから当該監視対象の異常状態を検知する検知部と、
異常状態を検知した前記監視対象から計測された計測データに基づく特徴ベクトルを異常検知特徴ベクトルとして生成する特徴ベクトル生成部と、
前記異常検知特徴ベクトルと、予め登録された前記監視対象の所定の異常状態を表す異常状態情報と関連付けられた特徴ベクトルである登録特徴ベクトルとを比較し、比較結果に基づく情報を出力する比較部と、
を備えた異常検知装置。
(付記9)
付記8に記載の異常検知装置であって、
前記特徴ベクトル生成部は、異常状態を検知した前記監視対象から計測された計測データから、前記モデルを用いて異常状態を検知する処理を行う際に算出された情報に基づいて、前記異常検知特徴ベクトルを生成する、
異常検知装置。
(付記9.1)
付記9に記載の異常検知装置であって、
前記モデルは、ニューラルネットワークを用いて、前記監視対象から計測された所定の計測データを入力することによって予測値を出力するものであり、
前記特徴ベクトル生成部は、異常状態を検知した前記監視対象から計測された所定の計測データを前記モデルに入力することによって算出された情報を用いて前記異常検知特徴ベクトルを生成する、
異常検知装置。
(付記9.2)
付記9.1に記載の異常検知装置であって、
前記特徴ベクトル生成部は、異常状態を検知した前記監視対象から計測された所定の計測データを前記モデルに入力することによって、前記ニューラルネットワークの中間層で出力された情報を用いて前記異常検知特徴ベクトルを生成する、
異常検知装置。
(付記9.3)
付記9.1に記載の異常検知装置であって、
前記特徴ベクトル生成部は、異常状態を検知した前記監視対象から計測された所定の計測データを前記モデルに入力することによって、前記ニューラルネットワークで出力された前記予測値と、異常状態を検知した前記監視対象から計測された他の計測データである実測値と、の差分の情報を用いて前記異常検知特徴ベクトルを生成する、
異常検知装置。
(付記9.4)
付記8乃至9.3のいずれかに記載の異常検知装置であって、
前記比較部は、前記異常検知特徴ベクトルと前記登録特徴ベクトルとの比較結果に基づいて、前記登録特徴ベクトルに関連付けられた前記異常状態情報を出力する、
異常検知装置。
(付記9.5)
付記8乃至9.4のいずれかに記載の異常検知装置であって、
生成した前記異常検知特徴ベクトルを、当該異常検知特徴ベクトルを生成したときに検知された前記監視対象の異常状態を表す前記異常状態情報に関連付けて前記登録特徴ベクトルとして登録する登録部を備えた、
異常検知装置。
(付記10)
情報処理装置に、
正常時における監視対象から計測された計測データに基づいて生成されたモデルを用いて、前記監視対象から計測された計測データから当該監視対象の異常状態を検知する検知部と、
異常状態を検知した前記監視対象から計測された計測データに基づく特徴ベクトルを異常検知特徴ベクトルとして生成する特徴ベクトル生成部と、
前記異常検知特徴ベクトルと、予め登録された前記監視対象の所定の異常状態を表す異常状態情報と関連付けられた特徴ベクトルである登録特徴ベクトルとを比較し、比較結果に基づく情報を出力する比較部と、
を実現させるためのプログラム。
(付記10.1)
付記10に記載のプログラムであって、
前記特徴ベクトル生成部は、異常状態を検知した前記監視対象から計測された計測データから、前記モデルを用いて異常状態を検知する処理を行う際に算出された情報に基づいて、前記異常検知特徴ベクトルを生成する、
プログラム。
(付記10.2)
付記10又は10.1に記載のプログラムであって、
前記比較部は、前記異常検知特徴ベクトルと前記登録特徴ベクトルとの比較結果に基づいて、前記登録特徴ベクトルに関連付けられた前記異常状態情報を出力する、
プログラム。
(付記10.3)
付記10乃至10.2のいずれかに記載のプログラムであって、
前記情報処理装置に、生成した前記異常検知特徴ベクトルを、当該異常検知特徴ベクトルを生成したときに検知された前記監視対象の異常状態を表す前記異常状態情報に関連付けて前記登録特徴ベクトルとして登録する登録部をさらに実現させるためのプログラム。
10 異常検知装置
11 計測部
12 学習部
13 分析部
14 異常処理部
16 計測データ記憶部
17 モデル記憶部
18 異常データ記憶部
21 特徴算出部
22 比較部
23 出力部
24 登録部
P 監視対象
U 情報処理端末
100 異常検知装置
101 CPU
102 ROM
103 RAM
104 プログラム群
105 記憶装置
106 ドライブ装置
107 通信インタフェース
108 入出力インタフェース
109 バス
110 記憶媒体
111 通信ネットワーク
121 検知部
122 特徴ベクトル生成部
123 比較部

Claims (8)

  1. 正常時における監視対象から計測された計測データに基づいて生成された、入力層、中間層、出力層を有するニューラルネットワークによって構成され、前記監視対象から計測された所定の計測データを入力することによって予測値を出力するモデルを用いて、前記監視対象から計測された計測データから当該監視対象の異常状態を検知し、
    異常状態を検知した前記監視対象から計測された計測データを前記モデルに入力することによって、前記ニューラルネットワークの中間層で出力された情報を用いて異常検知特徴ベクトル生成し、
    前記異常検知特徴ベクトルと、予め登録された前記監視対象の所定の異常状態を表す異常状態情報と関連付けられた特徴ベクトルである登録特徴ベクトルとを比較し、比較結果に基づく情報を出力する、
    異常検知方法。
  2. 正常時における監視対象から計測された計測データに基づいて生成された、入力層、中間層、出力層を有するニューラルネットワークによって構成され、前記監視対象から計測された所定の計測データを入力することによって予測値を出力するモデルを用いて、前記監視対象から計測された計測データから当該監視対象の異常状態を検知し、
    異常状態を検知した前記監視対象から計測された計測データを前記モデルに入力することによって、前記ニューラルネットワークで出力された前記予測値と、異常状態を検知した前記監視対象から計測された他の計測データである実測値と、の差分の情報を用いて異常検知特徴ベクトル生成し、
    前記異常検知特徴ベクトルと、予め登録された前記監視対象の所定の異常状態を表す異常状態情報と関連付けられた特徴ベクトルである登録特徴ベクトルとを比較し、比較結果に基づく情報を出力する、
    異常検知方法。
  3. 請求項1又は2に記載の異常検知方法であって、
    前記異常検知特徴ベクトルと前記登録特徴ベクトルとの比較結果に基づいて、前記登録特徴ベクトルに関連付けられた前記異常状態情報を出力する、
    異常検知方法。
  4. 請求項1乃至のいずれかに記載の異常検知方法であって、
    生成した前記異常検知特徴ベクトルを、当該異常検知特徴ベクトルを生成したときに検知された前記監視対象の異常状態を表す前記異常状態情報に関連付けて前記登録特徴ベクトルとして登録する、
    異常検知方法。
  5. 正常時における監視対象から計測された計測データに基づいて生成された、入力層、中間層、出力層を有するニューラルネットワークによって構成され、前記監視対象から計測された所定の計測データを入力することによって予測値を出力するモデルを用いて、前記監視対象から計測された計測データから当該監視対象の異常状態を検知する検知部と、
    異常状態を検知した前記監視対象から計測された計測データを前記モデルに入力することによって、前記ニューラルネットワークの中間層で出力された情報を用いて異常検知特徴ベクトル生成する特徴ベクトル生成部と、
    前記異常検知特徴ベクトルと、予め登録された前記監視対象の所定の異常状態を表す異常状態情報と関連付けられた特徴ベクトルである登録特徴ベクトルとを比較し、比較結果に基づく情報を出力する比較部と、
    を備えた異常検知装置。
  6. 正常時における監視対象から計測された計測データに基づいて生成された、入力層、中間層、出力層を有するニューラルネットワークによって構成され、前記監視対象から計測された所定の計測データを入力することによって予測値を出力するモデルを用いて、前記監視対象から計測された計測データから当該監視対象の異常状態を検知する検知部と、
    異常状態を検知した前記監視対象から計測された計測データを前記モデルに入力することによって、前記ニューラルネットワークで出力された前記予測値と、異常状態を検知した前記監視対象から計測された他の計測データである実測値と、の差分の情報を用いて異常検知特徴ベクトル生成する特徴ベクトル生成部と、
    前記異常検知特徴ベクトルと、予め登録された前記監視対象の所定の異常状態を表す異常状態情報と関連付けられた特徴ベクトルである登録特徴ベクトルとを比較し、比較結果に基づく情報を出力する比較部と、
    を備えた異常検知装置。
  7. 情報処理装置に、
    正常時における監視対象から計測された計測データに基づいて生成された、入力層、中間層、出力層を有するニューラルネットワークによって構成され、前記監視対象から計測された所定の計測データを入力することによって予測値を出力するモデルを用いて、前記監視対象から計測された計測データから当該監視対象の異常状態を検知する検知部と、
    異常状態を検知した前記監視対象から計測された計測データを前記モデルに入力することによって、前記ニューラルネットワークの中間層で出力された情報を用いて異常検知特徴ベクトル生成する特徴ベクトル生成部と、
    前記異常検知特徴ベクトルと、予め登録された前記監視対象の所定の異常状態を表す異常状態情報と関連付けられた特徴ベクトルである登録特徴ベクトルとを比較し、比較結果に基づく情報を出力する比較部と、
    を実現させるためのプログラム。
  8. 情報処理装置に、
    正常時における監視対象から計測された計測データに基づいて生成された、入力層、中間層、出力層を有するニューラルネットワークによって構成され、前記監視対象から計測された所定の計測データを入力することによって予測値を出力するモデルを用いて、前記監視対象から計測された計測データから当該監視対象の異常状態を検知する検知部と、
    異常状態を検知した前記監視対象から計測された計測データを前記モデルに入力することによって、前記ニューラルネットワークで出力された前記予測値と、異常状態を検知した前記監視対象から計測された他の計測データである実測値と、の差分の情報を用いて異常検知特徴ベクトル生成する特徴ベクトル生成部と、
    前記異常検知特徴ベクトルと、予め登録された前記監視対象の所定の異常状態を表す異常状態情報と関連付けられた特徴ベクトルである登録特徴ベクトルとを比較し、比較結果に基づく情報を出力する比較部と、
    を実現させるためのプログラム。
JP2021508905A 2019-03-26 2020-03-04 異常検知方法、異常検知装置、プログラム Active JP7248103B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2019058385 2019-03-26
JP2019058385 2019-03-26
PCT/JP2020/009056 WO2020195626A1 (ja) 2019-03-26 2020-03-04 異常検知方法、異常検知装置、プログラム

Publications (2)

Publication Number Publication Date
JPWO2020195626A1 JPWO2020195626A1 (ja) 2020-10-01
JP7248103B2 true JP7248103B2 (ja) 2023-03-29

Family

ID=72610044

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021508905A Active JP7248103B2 (ja) 2019-03-26 2020-03-04 異常検知方法、異常検知装置、プログラム

Country Status (3)

Country Link
US (1) US20220156137A1 (ja)
JP (1) JP7248103B2 (ja)
WO (1) WO2020195626A1 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11900679B2 (en) * 2019-11-26 2024-02-13 Objectvideo Labs, Llc Image-based abnormal event detection
JP7414704B2 (ja) * 2020-12-14 2024-01-16 株式会社東芝 異常検出装置、異常検出方法、およびプログラム
CN115145984B (zh) * 2022-09-02 2022-11-15 山东布莱特威健身器材有限公司 一种健身器材的故障监控系统及方法

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013140135A (ja) 2011-12-09 2013-07-18 Tokyo Electron Ltd 周期的駆動系の異常検知装置、周期的駆動系を有する処理装置、周期的駆動系の異常検知方法、およびコンピュータプログラム
JP2017021702A (ja) 2015-07-14 2017-01-26 中国電力株式会社 故障予兆監視方法
JP2018049355A (ja) 2016-09-20 2018-03-29 株式会社東芝 異常検知装置、学習装置、異常検知方法、学習方法、異常検知プログラム、および学習プログラム
JP2019036865A (ja) 2017-08-17 2019-03-07 沖電気工業株式会社 通信解析装置、通信解析プログラム、及び通信解析方法

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06150178A (ja) * 1992-11-02 1994-05-31 Onoda Cement Co Ltd 異常警報システム
US6917839B2 (en) * 2000-06-09 2005-07-12 Intellectual Assets Llc Surveillance system and method having an operating mode partitioned fault classification model
WO2013030984A1 (ja) * 2011-08-31 2013-03-07 株式会社日立エンジニアリング・アンド・サービス 設備状態監視方法およびその装置
JP6176390B2 (ja) * 2014-03-18 2017-08-09 日本電気株式会社 情報処理装置、解析方法、及び、プログラム記録媒体
JP6187704B2 (ja) * 2014-09-11 2017-08-30 日本電気株式会社 情報処理装置、情報処理方法、及び、プログラム
JP6777069B2 (ja) * 2015-03-16 2020-10-28 日本電気株式会社 情報処理装置、情報処理方法、及び、プログラム
JP5946573B1 (ja) * 2015-08-05 2016-07-06 株式会社日立パワーソリューションズ 異常予兆診断システム及び異常予兆診断方法
JP6535130B2 (ja) * 2016-03-07 2019-06-26 日本電信電話株式会社 分析装置、分析方法および分析プログラム
US11379284B2 (en) * 2018-03-13 2022-07-05 Nec Corporation Topology-inspired neural network autoencoding for electronic system fault detection
US20190391901A1 (en) * 2018-06-20 2019-12-26 Ca, Inc. Adaptive baselining and filtering for anomaly analysis
US11494618B2 (en) * 2018-09-04 2022-11-08 Nec Corporation Anomaly detection using deep learning on time series data
US11146579B2 (en) * 2018-09-21 2021-10-12 General Electric Company Hybrid feature-driven learning system for abnormality detection and localization
US11436473B2 (en) * 2019-09-11 2022-09-06 Intuit Inc. System and method for detecting anomalies utilizing a plurality of neural network models

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013140135A (ja) 2011-12-09 2013-07-18 Tokyo Electron Ltd 周期的駆動系の異常検知装置、周期的駆動系を有する処理装置、周期的駆動系の異常検知方法、およびコンピュータプログラム
JP2017021702A (ja) 2015-07-14 2017-01-26 中国電力株式会社 故障予兆監視方法
JP2018049355A (ja) 2016-09-20 2018-03-29 株式会社東芝 異常検知装置、学習装置、異常検知方法、学習方法、異常検知プログラム、および学習プログラム
JP2019036865A (ja) 2017-08-17 2019-03-07 沖電気工業株式会社 通信解析装置、通信解析プログラム、及び通信解析方法

Also Published As

Publication number Publication date
JPWO2020195626A1 (ja) 2020-10-01
US20220156137A1 (en) 2022-05-19
WO2020195626A1 (ja) 2020-10-01

Similar Documents

Publication Publication Date Title
JP7248103B2 (ja) 異常検知方法、異常検知装置、プログラム
JP6609050B2 (ja) 時間的因果グラフにおける異常フュージョン
US9658916B2 (en) System analysis device, system analysis method and system analysis program
US20180275642A1 (en) Anomaly detection system and anomaly detection method
US10747188B2 (en) Information processing apparatus, information processing method, and, recording medium
EP2963553B1 (en) System analysis device and system analysis method
US11152126B2 (en) Abnormality diagnosis system and abnormality diagnosis method
KR102319083B1 (ko) 인공지능 기반의 화재예방 제공 장치 및 방법
JP4046309B2 (ja) プラント監視装置
JP5794034B2 (ja) 障害予測システム及びプログラム
EP2963552B1 (en) System analysis device and system analysis method
JP6655926B2 (ja) 異常診断システム
Qu et al. A CUSUM scheme for event monitoring
JPWO2018104985A1 (ja) 異常分析方法、プログラムおよびシステム
WO2016147657A1 (ja) 情報処理装置、情報処理方法、及び、記録媒体
JP2021179740A (ja) 監視装置、監視方法、プログラムおよびモデル訓練装置
JP2019159786A (ja) 情報処理装置、情報処理方法、プログラム
EP3416012B1 (en) Monitoring device, and method for controlling monitoring device
JP7264231B2 (ja) 監視方法、監視装置、プログラム
JP2017207852A (ja) 相互相関に基づいて時系列変化点を検出可能なプログラム、装置及び方法
JP6587950B2 (ja) スカラ特徴量によって時系列変化点を検出可能なプログラム、装置及び方法
WO2020090715A1 (ja) 工程管理装置および工程管理方法および工程管理プログラム記憶媒体
JP2010152539A (ja) 障害発見システム検証装置、障害発見システム検証方法及び障害発見システム検証制御プログラム
JP7218764B2 (ja) 時系列データ処理方法
JP2022094095A (ja) 異常検出装置、異常検出方法、およびプログラム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210903

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210903

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220510

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220705

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220906

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221031

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230214

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230227

R151 Written notification of patent or utility model registration

Ref document number: 7248103

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151