JP5937245B1 - Operation procedure evaluation apparatus and operation procedure evaluation program - Google Patents
Operation procedure evaluation apparatus and operation procedure evaluation program Download PDFInfo
- Publication number
- JP5937245B1 JP5937245B1 JP2015034962A JP2015034962A JP5937245B1 JP 5937245 B1 JP5937245 B1 JP 5937245B1 JP 2015034962 A JP2015034962 A JP 2015034962A JP 2015034962 A JP2015034962 A JP 2015034962A JP 5937245 B1 JP5937245 B1 JP 5937245B1
- Authority
- JP
- Japan
- Prior art keywords
- procedure
- unit
- information
- extraction
- processing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000000034 method Methods 0.000 title claims abstract description 301
- 238000011156 evaluation Methods 0.000 title claims abstract description 81
- 238000012545 processing Methods 0.000 claims abstract description 150
- 238000000605 extraction Methods 0.000 claims abstract description 112
- 238000012360 testing method Methods 0.000 claims abstract description 30
- 238000012795 verification Methods 0.000 claims abstract description 23
- 230000006870 function Effects 0.000 claims description 6
- 239000000284 extract Substances 0.000 claims description 4
- 230000000295 complement effect Effects 0.000 claims description 2
- 238000004088 simulation Methods 0.000 description 19
- 238000010586 diagram Methods 0.000 description 16
- 230000002159 abnormal effect Effects 0.000 description 4
- 238000004891 communication Methods 0.000 description 4
- 238000006243 chemical reaction Methods 0.000 description 3
- 239000000463 material Substances 0.000 description 3
- 125000002066 L-histidyl group Chemical group [H]N1C([H])=NC(C([H])([H])[C@](C(=O)[*])([H])N([H])[H])=C1[H] 0.000 description 1
- 238000012790 confirmation Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 230000002035 prolonged effect Effects 0.000 description 1
- 238000010187 selection method Methods 0.000 description 1
- 239000013589 supplement Substances 0.000 description 1
Images
Landscapes
- Debugging And Monitoring (AREA)
- Stored Programmes (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
【課題】コンピュータに対する運用手順を自動化し、シミュレーションすることで自動化した運用手順の評価を行うことを課題とする。【解決手段】手順抽出部3は、コンピュータに対する作業指示を処理順序と処理タイプにて指定した作業指示フロー10と処理タイプの処理単位毎の運用指示を指定した想定操作テンプレート12とを参照することにより、作業指示に対応する運用指示である抽出手順情報13を生成し、手順検証部6は、抽出手順情報に基づく運用指示を順次、試験実行し、処理単位毎の実行結果が正常終了か否かを記憶し、手順妥当性判定部5は処理タイプの処理単位毎の実行結果の中で最後に実行された処理単位の実行結果が正常終了している場合は、該当の抽出手順情報13は妥当であると評価を判定する運用手順評価装置。【選択図】図1An object of the present invention is to evaluate an automated operation procedure by automating and simulating an operation procedure for a computer. A procedure extracting unit refers to a work instruction flow in which work instructions for a computer are designated by a processing order and a processing type, and an assumed operation template that designates an operation instruction for each processing unit of the processing type. Thus, the extraction procedure information 13 that is an operation instruction corresponding to the work instruction is generated, and the procedure verification unit 6 sequentially tests and executes the operation instruction based on the extraction procedure information. If the execution result of the process unit executed last in the execution result for each process unit of the process type has ended normally, the corresponding extraction procedure information 13 is Operation procedure evaluation device that determines evaluation as appropriate. [Selection] Figure 1
Description
この発明は、コンピュータに対する運用手順を自動化し、シミュレーションすることで自動化した運用手順の評価を行う運用手順評価装置に関するものである。 The present invention relates to an operation procedure evaluation apparatus that evaluates an automated operation procedure by automating and simulating an operation procedure for a computer.
コンピュータシステムの設定作業や一度構築したコンピュータシステムの設定変更作業は、一般的に作業者が人手で行うことが多い。作業者は作業指示手順書という紙の資料を作成し、その紙の資料に基づき、コンピュータシステムへの直接入力またはある程度の自動化にて作業を行う。作業者が複数いても共通の作業指示手順書を用いることにより、ある程度の作業の共通化はできるが、作業者は一台ずつ作業を行うために、作業の長期化や人的ミスの発生という問題が生じる可能性がある。
また作業者は、作業指示手順書には書かれていない作業があった場合、自らの知識で作業を補い作業を続けるが、作業指示手順書を完全に自動化できるように運用指示(コンピュータシステムに対する指示命令文(コマンド文)の集まり)を構成する場合、作業者による補完作業は実施できないため、運用指示に漏れがないように構成しなくてはならない。
また完全に漏れがない運用指示が構成できたとしても、運用指示に漏れがないことを証明する方法がないため、運用指示の自動化を推進することができなかった。
特許文献1(特開2013−210756号公報)では、新規ワークフロー作成時にワークフローの画面に配置する画面部品を決定し、その決定した画面部品によりワークフローの画面を作成することで、ワークフロー生成の効率化を目的としている。しかしながら、運用手順の検証評価機能についての開示はない。
In general, an operator often performs setting work for a computer system or setting change work for a computer system once constructed by an operator. The worker creates a paper material called a work instruction procedure, and performs the work by direct input to the computer system or a certain degree of automation based on the paper material. By using a common work instruction procedure even if there are multiple workers, the work can be shared to some extent, but because the workers work one by one, the work is prolonged and human errors occur Problems can arise.
In addition, if there is work that is not written in the work instruction procedure manual, the worker supplements the work with his / her own knowledge and continues the work, but the operation instruction (to the computer system) so that the work instruction procedure manual can be fully automated. In the case of composing an instruction command sentence (a collection of command sentences), since the supplementary work by the worker cannot be performed, the operation instruction must be constructed so that there is no omission.
Even if an operation instruction that is completely omissible can be configured, automation of the operation instruction cannot be promoted because there is no way to prove that there is no omission in the operation instruction.
In Patent Document 1 (Japanese Patent Laid-Open No. 2013-210756), a screen part to be arranged on a workflow screen is determined when a new workflow is created, and a workflow screen is created using the determined screen part, thereby improving the efficiency of workflow generation. It is an object. However, there is no disclosure about the operation procedure verification evaluation function.
この発明は、コンピュータに対する運用手順を自動化し、シミュレーションすることで自動化した運用手順の評価を行うことを課題とする。 An object of the present invention is to evaluate an automated operation procedure by automating and simulating an operation procedure for a computer.
この発明に係る運用手順評価装置は、コンピュータに対する作業指示を処理順序と処理タイプにて指定した作業指示フローと上記処理タイプの処理単位毎の運用指示を指定した想定操作テンプレートとを参照することにより、上記作業指示に対応する運用指示である抽出手順情報を生成する手順抽出部と、上記抽出手順情報に基づく運用指示を順次、試験実行し、上記処理単位毎の実行結果が正常終了か否かを記憶する手順検証部と、上記処理単位毎の実行結果の中で最後に実行された処理単位の実行結果が正常終了している場合は、該当の上記抽出手順情報は妥当であると評価を判定する手順妥当性判定部と、を備えたことを特徴とする。 The operation procedure evaluation apparatus according to the present invention refers to a work instruction flow in which work instructions for a computer are specified by a processing order and a processing type, and an assumed operation template in which an operation instruction for each processing unit of the processing type is specified. , A procedure extraction unit that generates extraction procedure information that is an operation instruction corresponding to the work instruction, and an operation instruction based on the extraction procedure information are sequentially tested, and whether or not the execution result for each processing unit is a normal end If the execution result of the process unit executed last in the execution result for each processing unit is normally completed, the corresponding extraction procedure information is evaluated as valid. And a procedure validity determination unit for determination.
上記手順妥当性判定部は、さらに、上記処理単位毎の実行結果の全体数に対する正常終了している数の割合に基づき、推奨度を算出することを特徴とする。 The procedure validity determination unit further calculates a recommendation degree based on a ratio of the number of successful completions to the total number of execution results for each processing unit.
上記手順抽出部は、上記処理タイプ毎に、上記作業指示フローに指定された処理タイプと一致する処理タイプの上記想定操作テンプレートを抽出し、抽出した上記想定操作テンプレートに指定された運用指示を順番に記憶することにより抽出手順情報を生成することを特徴とする。 The procedure extraction unit extracts, for each processing type, the assumed operation template having a processing type that matches the processing type specified in the work instruction flow, and sequentially operates the operation instructions specified in the extracted assumed operation template. It is characterized in that extraction procedure information is generated by storing it in
さらに、上記運用指示をコマンド単位の命令文で指定したテンプレート元情報から、上記処理単位で任意の命令文を選定することで上記想定操作テンプレートを生成するテンプレート構成部を備えたことを特徴とする。 Furthermore, a template configuration unit is provided that generates the assumed operation template by selecting an arbitrary command statement in the processing unit from the template source information in which the operation instruction is specified by a command unit command statement. .
さらに、上記抽出手順情報に含まれる命令文を実行した後、いずれかの上記想定操作テンプレートに含まれる命令文を実行し、その実行結果が正常終了であると判定した場合は、新たな抽出手順情報として記憶し、さらにいずれかの上記想定操作テンプレートに含まれる命令文を実行して実行結果が正常終了であると判定した命令文があれば、順次記憶することにより、新たな抽出手順情報を生成する手順補完部を備え、上記手順検証部は、上記抽出手順情報についても試験実行し、上記手順妥当性判定部はその実行結果についても評価を判定することを特徴とする。 Further, after executing the command statement included in the extraction procedure information, if the command statement included in any of the assumed operation templates is executed and it is determined that the execution result is normal termination, a new extraction procedure is executed. If there is a command sentence that is stored as information, and further executed by executing a command sentence included in one of the above assumed operation templates and the execution result is determined to be normal termination, new extraction procedure information is stored by sequentially storing the command sentence. A procedure complementing unit is provided, wherein the procedure verification unit performs a test on the extracted procedure information, and the procedure validity determination unit determines an evaluation on the execution result.
上記手順補完部は、上記評価または推奨度が予め定めた値に満たない場合、起動することを特徴とする。
上記手順妥当性判定部は、上記評価または推奨度が予め定めた値以上の抽出手順情報が存在する場合、この抽出手順情報を運用指示として推奨することを特徴とする。
The procedure complementing unit is activated when the evaluation or recommendation level is less than a predetermined value.
The procedure validity determination unit recommends the extraction procedure information as an operation instruction when there is extraction procedure information whose evaluation or recommendation level exceeds a predetermined value.
上記手順検証部は、上記運用指示をネットワーク接続されたフロー自動化装置および試験装置を用いて順次、試験実行し、上記処理タイプ毎の実行結果が正常終了か否かを記憶することを特徴とする。 The procedure verification unit sequentially executes a test using the flow automation device and the test device connected to the network, and stores whether the execution result for each processing type is a normal end or not. .
この発明に係る運用手順評価プログラムは、コンピュータを、コンピュータに対する作業指示を処理順序と処理タイプにて指定した作業指示フローと上記処理タイプの処理単位毎の運用指示を指定した想定操作テンプレートとを参照することにより、上記作業指示に対応する運用指示である抽出手順情報を生成する手順抽出部と、上記抽出手順情報に基づく運用指示を順次、試験実行し、上記処理単位毎の実行結果が正常終了か否かを記憶する手順検証部と、上記処理単位毎の実行結果の中で最後に実行された処理単位の実行結果が正常終了している場合は、該当の上記抽出手順情報は妥当であると評価を判定する手順妥当性判定部として機能させることを特徴とする。 The operation procedure evaluation program according to the present invention refers to a computer, a work instruction flow in which work instructions for the computer are specified by a processing order and a processing type, and an assumed operation template in which an operation instruction for each processing unit of the processing type is specified. By doing this, the procedure extraction unit that generates the extraction procedure information that is the operation instruction corresponding to the work instruction and the operation instruction based on the extraction procedure information are sequentially tested, and the execution result for each processing unit ends normally. If the execution result of the process unit executed last in the execution result for each processing unit and the procedure verification unit for storing whether or not the processing result is normally completed, the corresponding extraction procedure information is valid. And functioning as a procedure validity determination unit for determining evaluation.
この発明の運用手順評価装置によると、自動化した運用手順の評価を行うことができる。 According to the operation procedure evaluation apparatus of the present invention, an automated operation procedure can be evaluated.
実施の形態1.
コンピュータシステムの設定作業または、一度構築したコンピュータシステムの設定変更作業について、説明する。
図1は、本実施の形態におけるシステム構成図である。図1に示すように、運用手順評価装置100は、フロー自動化装置200および試験装置300とネットワーク400を介して接続している。フロー自動化装置200および試験装置300は、必要に応じて物理的または論理的に複数台設定できる。
A computer system setting operation or a computer system setting changing operation once constructed will be described.
FIG. 1 is a system configuration diagram according to the present embodiment. As shown in FIG. 1, the operation
フロー自動化装置200は、運用手順評価装置100が生成した運用指示(抽出手順情報13)を試験装置300に対して、試験実行するコンピュータであり、フロー自動化装置200は、試験実行した実行結果を収集し、運用手順評価装置100に実行結果を返送する。
The
運用手順評価装置100は、表示部1、入出力部2、手順抽出部3、テンプレート構成部4、手順妥当性判定部5および手順検証部6を備える。さらに後述する補助記憶装置902に作業指示フロー10、テンプレート元情報11、想定操作テンプレート12、抽出手順情報13およびシミュレーション評価結果14の各情報を記憶する。
The operation
表示部1は、後述するディスプレイ908を用いて作業者が操作する操作画面を表示する。入出力部2は、ディスプレイ908および後述する入力装置907を用いて、作業者からの入力情報を受け付け、作業者向けの出力情報を出力する。
The
手順抽出部3は、作業指示フロー10と想定操作テンプレート12とを参照することにより、抽出手順情報13を生成する。手順抽出部3は、処理タイプ毎に、作業指示フロー10に指定された処理タイプと一致する処理タイプの想定操作テンプレート12を抽出し、抽出した想定操作テンプレートに指定された運用指示を順番に記憶することにより抽出手順情報13を生成する。手順抽出部3は、1つの処理タイプに想定操作テンプレート12が複数あるときは、想定操作テンプレート12の組み合わせに基づき抽出手順情報13を複数生成する。手順抽出部3が抽出手順情報13を生成する手順については、図8を用いて後述する。
The
手順検証部6は、抽出手順情報13に基づく運用指示を、フロー自動化装置200を用いて、試験装置300に対して順次、試験実行し、処理タイプの処理単位毎の実行結果が正常終了か否かを、入出力部2を用いてシミュレーション評価結果14に記憶する。
手順妥当性判定部5は、処理タイプの処理単位毎の実行結果の中で、最後に実行された処理単位の実行結果が正常終了している場合(○)は、該当の抽出手順情報13は妥当である(○)と評価を判定し、処理タイプの処理単位毎の実行結果の中で最後に実行された処理タイプの実行結果が正常終了していない(×)場合は、該当の抽出手順情報13は妥当ではない(×)と判定する。さらに、手順妥当性判定部5は、処理単位毎の実行結果の全体数に対する正常終了している数の割合に基づき、推奨度を算出する。
手順検証部6、手順妥当性判定部5の処理については、図9,10を用いて後述する。
The procedure verification unit 6 sequentially performs an operation instruction based on the
The procedure
The processing of the procedure verification unit 6 and the procedure
手順妥当性判定部5は、出力した評価または推奨度が予め定めた値以上の抽出手順情報13が存在する場合、この抽出手順情報13を作業指示手順書に置き換えられる運用指示(抽出手順情報13)として、推奨する情報を提示してもよい。
また手順妥当性判定部5は、1つの処理単位の実行結果に関してフロー自動化装置200から複数の試験装置300での実行結果を受け取り、フロー自動化装置200の代わりに1つの処理単位全体として正常終了と判定するか、異常終了と判定するかの処理を実行してもよい。判定の基準については、図9に関する説明で後述する。
When there is
In addition, the procedure
テンプレート構成部4は、運用指示をコマンド単位の命令文で指定したテンプレート元情報11から、任意の命令文を選定することで想定操作テンプレート12を生成する。テンプレート構成部4が想定操作テンプレート12を生成する方法については、図4,7を用いて後述する。
The
作業指示フロー10は、紙の資料である作業指示手順書に基づき、コンピュータに対する作業指示を処理順序と処理タイプにて指定した情報であり、作業指示手順書は作業者が見て理解可能な形式であり、作業指示フロー10はコンピュータが解読できる情報を構成する元の情報となる。
The
テンプレート元情報11は、運用指示をコマンド単位の命令文で指定した命令文の情報であり、想定操作テンプレート12を構成する命令文の候補が記憶されている。テンプレート元情報11の命令文の単位が処理単位となる。
想定操作テンプレート12は、処理タイプの処理単位毎に命令文を順次実行できるように指定した命令文のテンプレート情報であり、1つの処理タイプに複数タイプのテンプレートが記憶される場合もある。
The
The assumed
抽出手順情報13は、想定操作テンプレート12に含まれる命令文を組み合わせることにより、生成された運用指示であり、紙の資料である作業指示手順書をコンピュータが解読できる情報(命令文)として、生成した情報である。
なお「処理タイプの処理単位毎」とは、任意の単位であり、処理タイプ1つが1つの処理単位でもよい、また最小単位の命令文が1つの処理単位でもよく、ある程度細分化できる範囲を1つの処理単位としてもよい。
The
Note that “each processing type processing unit” is an arbitrary unit, and one processing type may be one processing unit, or a minimum unit instruction sentence may be one processing unit, and a range that can be subdivided to some extent is 1 One processing unit may be used.
シミュレーション評価結果14は、試験実行した結果、処理タイプの処理単位毎に正常終了したか否かを検証結果として記憶し、さらに算出した「推奨度」と判定した「評価」とを記憶する。「推奨度」は実行結果の全体数に対する正常終了している数の割合であり、処理タイプの処理単位毎に算出する。「推奨度」は、値が大きいほど正常終了している割合が高いことになる。「評価」は、個々の抽出手順情報13が妥当である(○)か、妥当ではない(×)かを判定した結果である。処理タイプの処理単位の中で最後に実行された実行結果が正常終了している(○)か、正常終了していない(×、異常終了)かに着目し、途中の処理が正常終了していない場合(×)であっても、最後に実行された処理タイプの実行結果が正常終了している(○)場合は、妥当である(○)とし、途中の処理が正常終了している場合(○)であっても、最後に実行された処理タイプの実行結果が正常終了していない(×)場合は、妥当ではない(×)と判定された結果が格納されている。
The simulation evaluation result 14 stores, as a result of the test execution, whether or not the processing unit of the processing type is normally completed as a verification result, and further stores “evaluation” determined as the calculated “recommendation degree”. “Recommendation” is the ratio of the number of successful executions to the total number of execution results, and is calculated for each processing type processing unit. As the “recommendation degree” is larger, the rate of normal termination is higher. “Evaluation” is the result of determining whether the individual
次に図2,3を用いて、作業指示フロー10の構成について説明する。作業指示フロー10には、処理順序と処理タイプとが指定される。
前述したとおり、作業指示フロー10は、紙の資料である作業指示手順書に基づき、作成されるものである。作業指示手順書は、作業者が漏れなく必要な作業ができるように、コンピュータに対する作業指示を作業順序がわかるように作成されているものであり、作業者間で共有される。作業指示手順書から作業指示フロー10への変換は、例えばOCR文字認識技術を用いて実行される。図示しないが、運用手順評価装置100の処理部は後述するプロセッサ901を用いて、作業指示手順書のOCR認識された文字認識情報と、処理タイプの対応付ける情報とを補助記憶装置902に記憶しておき、運用手順評価装置100の処理部(図示せず)はその対応付け情報に基づき、処理タイプを決定する。例えば対応付け情報に、文字認識情報「アプリA起動」と処理タイプ「App_A」、文字認識情報「SSHログイン」と処理タイプ「Ssh_login」、文字認識情報「コマンド実行」と処理タイプ「Ssh_command」、文字認識情報「ログアウト」と処理タイプ「Ssh_logout」を対応付けて記憶しているとする。そのとき、図2に示す作業指示手順書をOCR認識された結果が、作業指示フロー10の処理タイプに変換され、作業指示フロー10の処理順序は、決定した処理タイプ順に定められ、作業指示フロー10が生成される。
Next, the configuration of the
As described above, the
図3に示す作業指示フロー10についても同様に生成される。図2および図3に示す作業指示手順書は、通し番号の付け方や作業指示の指定方法が異なるが、運用手順評価装置100の処理部(図示せず)は文字認識情報と処理タイプとの対応付け情報に基づき、作業指示フロー10を生成するので、任意の構成の作業指示手順書に対応できる。
なお作業指示フロー10は、作業指示手順書によらず、表示部1および入出力部2を用いて、作業者からの入力に基づき、直接作成するように構成することもできる。
また文字認識のため画像認識技術等を用いることができる。作業指示フロー10の作成に、作業指示手順書を定型フォーマットで作成し定型フォーマットを自動変換するプログラムを用いることもできる。
The
The
An image recognition technique or the like can be used for character recognition. For creating the
次に、図4〜7を用いて、テンプレート元情報11より想定操作テンプレート12を生成する方法について、説明する。
図4にテンプレート元情報11の構成を示す。図4に示すように、テンプレート元情報11には、タイプ、選択肢およびXMLの記載が記憶される。XMLは対応する言語の一例であり、言語は任意に選択できる。タイプには、XMLでの処理タイプの指定を示し、XMLの記載は、作業者が予め指定した、処理タイプ毎の命令文となる。選択肢毎の命令文(コマンド文)は、最小単位あるいはある程度細分した単位で任意に設定でき、選択肢の1つが処理単位の1つとなる。また処理単位は、XMLの記載の中に指定される。例えば、処理単位bのときは、<task id=“b”,・・・>というように、「task id」にて処理単位を指定している。指定の仕方は任意であるが、命令文の中に処理単位を含み、命令文毎に処理単位がわかるように指定する。
Next, a method for generating the assumed
FIG. 4 shows the configuration of the
図5〜6は、想定操作テンプレート12の構成を示す。図5は、処理タイプが「Ssh_login」(SSHログイン)である、想定操作テンプレート12a、12a‘、12a’’の構成を示し、想定操作テンプレート12aは命令文を処理単位b、c、dを順次実行することを定めたテンプレートであり、12a‘、12a’’とも図示したとおりに順次実行することを定めている。
5 to 6 show the configuration of the assumed
図6は処理タイプが「Ssh_logout」(SSHログアウト)である、想定操作テンプレート12bと、処理タイプが「Ssh_command」(SSHコマンド)である、想定操作テンプレート12cの構成を示す。
FIG. 6 shows a configuration of an assumed
図7は、想定操作テンプレート作成画面101の一例を示す。テンプレート構成部4は、表示部1を用いて想定操作テンプレート作成画面101を表示し、入出力部2を用いて、図示していないが、まず処理タイプの選択を受け付ける。
図7は、処理タイプ「Ssh_login」(<type id=“ssh_login”>)の選択を受け付けた例であり、選択された処理タイプと一致する、テンプレート元情報11の選択肢とXMLの記載を表示する。選択入力欄102は、どの選択肢を選択するかの入力を作業者より受け付ける。
FIG. 7 shows an example of the assumed operation
FIG. 7 is an example in which the selection of the processing type “Ssh_login” (<type id = “ssh_login”>) is received, and the options of the
テンプレート構成部4は、選択入力欄102の選択により次のように、想定操作テンプレート12を生成する。
・選択肢b、c、dとも選択されると、想定操作テンプレート12aを生成する
・選択肢b、cを選択されると、想定操作テンプレート12a‘を生成する
・選択肢b、dを選択されると、想定操作テンプレート12a’’を生成する
なお想定操作テンプレート12は、テンプレート元情報11によらず、表示部1および入出力部2を用いて、作業者からの入力に基づき、直接作成するように構成することもできる。
The
When the options b, c, and d are selected, the assumed
次に、図8を用いて、手順抽出部3が抽出手順情報13を生成する処理を説明する。手順抽出部3は、作業指示フロー10の処理タイプ毎に想定操作テンプレート12を抽出し、想定操作テンプレート12の命令文を処理単位に順番に記憶することで、抽出手順情報13を生成する。
図8は、手順抽出部3が作業指示フロー10の処理タイプ「App_A」に関する処理を完了し、処理タイプ「Ssh_login」に関する処理を実行しているところを示している。処理タイプ「Ssh_login」で想定操作テンプレート12を検索し、12a、12a‘、12a’’を抽出したので、処理タイプ「Ssh_login」には3種類の処理パターンができることになる。抽出手順情報13は、理論的に実行可能な処理パターンを全て抽出することを目的として生成されるため、各処理タイプの想定操作テンプレート12を組み合わせた数だけ生成される。例えば想定操作テンプレート12の、処理タイプ「App_A」が2タイプ、処理タイプ「Ssh_login」が3タイプ、処理タイプ「Ssh_command」が4タイプ、処理タイプ「Ssh_logout」が1タイプであれば、それぞれの数を乗じた2×3×4×1=24タイプの抽出手順情報13が生成されることになる。
Next, a process in which the
FIG. 8 shows that the
次に、図9,10を用いて、手順検証部6が入出力部2を用いてシミュレーション評価結果14に検証結果を記憶し、手順妥当性判定部5が入出力部2を用いてシミュレーション評価結果14に推奨度および評価を記憶する処理を説明する。図9では抽出手順情報13を処理単位がわかるように簡略的に示しているが、抽出手順情報13には処理単位毎のXMLの記載とが記憶される。
Next, referring to FIGS. 9 and 10, the procedure verification unit 6 stores the verification result in the
手順検証部6は、図9に示す5パターンを含む抽出手順情報13をフロー自動化装置200に対して、試験装置300へ試験実行するように、指示を出す。手順検証部6は、抽出手順情報13の1つの処理タイプの処理単位毎に試験実行される毎に、フロー自動化装置200から試験装置300での実行結果を受信し、処理タイプの処理単位毎の実行結果が正常終了か否かをシミュレーション評価結果14に記憶する。抽出手順情報13の番号1の例では、上から順次に実行し、a,b,c,d,e,fが処理単位であり、○、○、○、×、○、×と実行結果が記憶され、番号4の例では、上から順次に実行し、a,b,c,Z,d,e,fが処理単位であり、×、○、×、×、×、○、○と実行結果が記憶される。
The procedure verification unit 6 instructs the
次に手順妥当性判定部5は、評価を判定する。番号1の例では、最後の処理タイプの実行結果が×のため、評価は×となる。番号4の例では、最後の処理タイプの実行結果が○のため、評価は○となる。さらに手順妥当性判定部5は、推奨度(正常終了している数/処理単位毎の実行結果の全体数の%)を算出する。番号1の推奨度は、4/6×100=67%と算出し、番号4の評価は、3/7×100=43%と算出する。手順妥当性判定部5が判定した評価および算出した推奨度は、シミュレーション評価結果14に記憶する。
Next, the procedure
このように番号1は、全体としての成功率は番号4より高いため、推奨度は番号4より高いが、最後の処理タイプの実行が不成功であるため、評価は×となっている。逆に番号4は、推奨度は番号1より低いが、最後の処理タイプの実行が成功であるため、評価は○となっている。このように実行結果、推奨度および評価を作業者に提示することにより、組み合わせ可能な複数の抽出手順情報13からどの抽出手順情報13を選択するかの情報を、作業者に提示することができる。
As described above, since the overall success rate of No. 1 is higher than that of No. 4, the recommendation level is higher than that of No. 4. However, since the last process type is unsuccessful, the evaluation is x. On the other hand, although the recommendation level of the
なおフロー自動化装置200から複数の試験装置300に試験実行し、収集した実行結果に正常終了と異常終了とが混在するとき、フロー自動化装置200で、全体としての実行結果を正常終了と判定するか、異常終了と判定するかは任意に設定できる。例えば、1つでも異常終了があるときは、全体としても異常終了と判定する、または過半数以上が正常終了のときは、全体としては正常終了と判定する等の判定基準が考えられる。この判定基準は、処理単位毎に設定可能である。
またはフロー自動化装置200で判定せずに、フロー自動化装置200は試験装置300での実行結果を全て運用手順評価装置100に送信し、手順妥当性判定部5で、処理単位毎の実行結果を判定するように構成してもよい。
Whether the
Alternatively, the
図10に示す作業指示フロー10は、処理の繰り返しを含む処理フローであり、抽出手順情報13はその繰り返しを考慮した処理の流れとなっている。実行結果、推奨度および評価の決定方法は、図9で説明したとおりである。図9,10とも処理タイプaから始まっているが、実行結果の例示では○と×が混在している。このように同じ処理を試験実行しても、試験装置300側の状態により、正常終了または異常終了する場合がある。例えば、処理タイプaが特定サービスの停止確認を行う処理であるとき、タイミングにより停止処理が間に合わず、サービス停止確認結果が×となる場合等が考えられる。
なお推奨度を小数点何位まで算出するかは、任意に設定可能な事項である。
A
It should be noted that how many decimal points are calculated for the recommendation degree is an item that can be arbitrarily set.
次に図11を用いて、本実施の形態における全体の処理の流れを説明する。入出力部2は記憶されている作業指示フロー10を読み込み、作業指示フロー10の情報を手順抽出部3に受け渡す(ステップS1)。手順抽出部3は作業指示フロー10の情報と補助記憶装置902に記憶されている想定操作テンプレート12を参照し、抽出手順情報13を生成する(ステップS2)。ステップS2の抽出手順情報13の生成処理については、図8で説明したとおりである。
Next, the overall processing flow in the present embodiment will be described with reference to FIG. The input /
次に手順検証部6は、抽出手順情報13の該当の処理をフロー自動化装置200および試験装置300を用いて順次実施し、入出力部2を用いてシミュレーション評価結果14に処理毎の実行結果を記憶する(ステップS3)。また手順妥当性判定部5は、入出力部2を介してシミュレーション評価結果14の実施結果を参照して、推奨度を算出し、評価を決定し、入出力部2を用いてシミュレーション評価結果14に記憶する(ステップS4)。ステップS3およびS4の処理は、図9,10を用いて説明したとおりである。
その後手順妥当性判定部5は、表示部1により、シミュレーション評価結果14を表示する(ステップS5)。作業者は、シミュレーション評価結果14を確認することにより、適切な抽出手順情報13を選択することができる。
Next, the procedure verification unit 6 sequentially performs the corresponding processing of the
Thereafter, the procedure
なお処理の流れには記載していないが、オプション機能として、手順妥当性判定部5は、推奨度と評価結果に基づき、一定以上の評価がある抽出手順情報13については、作業指示手順書(作業指示)に置き換えられる抽出手順情報13として、情報を提示してもよい。例えば推奨度が98%以上であり、評価が○の抽出手順情報13が存在したら、置き換え可能な抽出手順情報13として提示する。また段階的に、推奨度が98%以上であり、評価が○の抽出手順情報13を推奨する抽出手順情報13、推奨度が90%以上であり、評価が○の抽出手順情報13をやや推奨する抽出手順情報13というように、情報を提示してもよい。
Although not described in the processing flow, as an optional function, the procedure
さらに、作業者から抽出手順情報13の選択を受け付け、選択された抽出手順情報13に基づき、設定作業または設定変更作業を行うように動作してもよい。
またステップS1の処理で、作業指示フロー10を読み込むだけでなく、図2,3で説明したように、作業指示手順書のOCR認識により、作業指示フロー10を生成する処理を加えてもよい。
Further, the
In addition to reading the
図12は、テンプレート構成部4の処理の流れを説明している。テンプレート構成部4は、テンプレート元情報11を参照し、表示部1により想定操作テンプレート作成画面101を表示する(ステップS11)。利用者からの入力に基づき、想定操作テンプレート12を生成する(ステップS12)。テンプレート構成部4の処理については、図4〜7で説明したとおりであり、テンプレート構成部4の処理は任意のタイミングで実行される。
FIG. 12 illustrates the processing flow of the
この発明の運用手順評価装置100によると、自動化した運用手順である抽出手順情報13の評価を行い、利用者に実行結果、推奨度、および評価結果を提示することができる。それにより、理論的には実行可能な抽出手順情報13の中から、自動化に適切な抽出手順情報13を確認することができる。また適切な抽出手順情報13を用いることにより、自動化した運用手順の適正化と漏れがないことを確認することができるので、コンピュータシステムの変更作業の自動化の推進に利用することができる。
なお本実施の形態において、また試験実行とは試験的な実行だけではなく、本番実行(コンピュータの設定作業または、一度構築したコンピュータシステムの設定変更作業)を含んでもよい。
作業者は、同一人物でなくてもよく、任意の人が作業を分担する場合を含む。
According to the operation
In the present embodiment, the test execution may include not only test execution but also actual execution (computer setting work or once-configured computer system setting changing work).
The worker may not be the same person, and includes a case where an arbitrary person shares the work.
実施の形態2.
図13は、本実施の形態におけるシステム構成図である。実施の形態1で用いた図1と比較して、手順補完部7が追加されている。
手順補完部7は、抽出手順情報13に含まれる1つの処理タイプ毎の命令文を実行した後、いずれかの想定操作テンプレート12に含まれる命令文を処理単位で実行し、その実行結果が正常終了であると判定した場合は、新たな抽出手順情報13として記憶し、さらにいずれかの想定操作テンプレート12に含まれる命令文を実行して実行結果が正常終了であると判定した命令文を記憶することにより、新たな抽出手順情報13を生成する。
そして手順検証部6は、手順補完部7が新たに生成した抽出手順情報13についても試験実行し、手順妥当性判定部5はその試験実行結果についても、推奨度と評価とを判定する。
FIG. 13 is a system configuration diagram according to the present embodiment. Compared to FIG. 1 used in the first embodiment, a procedure complementing unit 7 is added.
The procedure complementing unit 7 executes the command statement included in any one of the assumed
Then, the procedure verification unit 6 executes a test on the
図14は、本実施の形態における全体の処理の流れを示す。入出力部2は記憶されている作業指示フロー10を読み込み、作業指示フロー10の情報を手順抽出部3に受け渡す(ステップS21)。手順抽出部3は作業指示フロー10の情報と補助記憶装置902に記憶されている想定操作テンプレート12を参照し、作業指示フロー10に記憶されている最初の処理タイプについて抽出手順情報13を生成する(ステップS22)。次に、手順補完部7はいずれかの想定操作テンプレート12を参照し、生成している抽出手順情報13の命令文の次に抽出できる命令文があるかどうかを判定し、ある場合は順次処理単位で抽出し(ステップS23)、手順検証部6は抽出手順情報13の命令文と抽出した命令文とが試験実行可能か検証し(ステップS24)、試験実行可能(処理タイプ毎の実行結果が全て○)であれば、抽出した命令文を抽出手順情報13に追加し、入出力部2を用いてシミュレーション評価結果14に処理毎の実行結果を記憶する(ステップS25)。ステップS24で抽出した命令文が異常終了すると判定した場合は、ステップS23に戻り、次に抽出できる命令文があるかどうかを判定し、抽出できる命令文があれば抽出し、ステップS24に処理を進め、抽出できる命令文がなければ、処理を完了する。
FIG. 14 shows the overall processing flow in the present embodiment. The input /
次に手順妥当性判定部5は、入出力部2を介してシミュレーション評価結果14の実施結果を参照して、推奨度を算出し、評価を決定し、入出力部2を用いてシミュレーション評価結果14に記憶する(ステップS26)。手順妥当性判定部5は、表示部1により、シミュレーション評価結果14を表示する(ステップS27)。
Next, the procedure
ステップS22で、手順抽出部3は作業指示フロー10に記憶されている最初の処理タイプについて抽出手順情報13を生成するのではなく、最初の処理タイプの最初処理単位について、抽出手順情報13を生成するように構成してもよい。
なおステップS24で、手順検証部6は抽出手順情報13の命令文と抽出した命令文とを合わせて、試験実行可能かどうか検証しているが、先に抽出手順情報13に記憶されている命令文のみを検証する処理を行い、その後ステップS24で抽出した命令文の検証を行うように構成してもよい。
In step S22, the
In step S24, the procedure verification unit 6 verifies whether the test can be executed by combining the extracted command statement with the extracted
図15を用いて、本実施の形態における手順補完部7の処理を説明する。ステップS22の処理で、処理順序1の処理タイプApp_Aに該当する命令文は、処理aが抽出されたとする。続いてステップS23〜S24の処理で、抽出手順情報13の命令文を処理単位で抽出し、最初の処理単位では、処理b、Bが実行可能と判定され、ステップS25の処理で抽出手順情報13に命令文が追加されるとともに、シミュレーション評価結果14に処理単位毎の実行結果が記憶される。ステップS23〜S25の処理を繰り返し、実行可能な抽出手順情報13が生成される。
The process of the procedure complementing unit 7 in the present embodiment will be described using FIG. In the process of step S22, it is assumed that the process a is extracted from the command statement corresponding to the process type App_A in the
このように、手順補完部7は1つの命令文を実行した後、別の命令文を順次実行し、実行結果が正常終了する命令文のみを順次記憶して、抽出手順情報13を生成する。このように動作することにより、想定操作テンプレート12の指定内容によらず、実行可能な命令文を抽出することができる。
また手順補完部7は、実施の形態1で説明した処理の中で、手順妥当性判定部5が出力した評価または推奨度が予め定めた値に満たない場合、起動するように構成することもできる。それにより、想定操作テンプレート12の組み合わせでは、期待した抽出手順情報13が生成できないときに、想定操作テンプレート12の処理単位で命令文を組み合わせることにより、期待した抽出手順情報13を生成できる可能性が出てくる。
このように本実施の形態によると、抽出手順情報13を生成するときに想定操作テンプレート12を用いるが、想定操作テンプレート12に指定されている命令文を処理単位で抽出し、実行可能かどうか検証した上で、抽出手順情報13を生成していく。そのため、想定操作テンプレート12の指定順序によらず任意の順番で実行可能な命令文を追加するように手順を補完できる。またより推奨度および評価が高い、抽出手順情報13を生成できる可能性が高まる。
As described above, the procedure complementing unit 7 executes one command statement, then sequentially executes another command statement, sequentially stores only command statements whose execution results are normally completed, and generates
In addition, the procedure complementing unit 7 may be configured to be activated when the evaluation or recommendation level output by the procedure
As described above, according to the present embodiment, the assumed
図16に基づき、実施の形態1,2に係る運用手順評価装置100のハードウェア構成例を説明する。
運用手順評価装置100はコンピュータである。
運用手順評価装置100は、プロセッサ901、補助記憶装置902、メモリ903、通信装置904、入力インタフェース905、ディスプレイインタフェース906といったハードウェアを備える。
プロセッサ901は、信号線910を介して他のハードウェアと接続され、これら他のハードウェアを制御する。
入力インタフェース905は、ケーブル911により入力装置907に接続されている。
ディスプレイインタフェース906は、ケーブル912によりディスプレイ908に接続されている。
A hardware configuration example of the operation
The operation
The operation
The
The
The
プロセッサ901は、プロセッシングを行うIC(Integrated Circuit)である。プロセッサ901は、例えば、CPU(Central Processing Unit)、DSP(Digital Signal Processor)、GPU(Graphics Processing Unit)である。
補助記憶装置902は、例えば、ROM(Read Only Memory)、フラッシュメモリ、HDD(Hard Disk Drive)である。
メモリ903は、例えば、RAM(Random Access Memory)である。
通信装置904は、データを受信するレシーバー9041及びデータを送信するトランスミッター9042を含む。通信装置904は、例えば、通信チップ又はNIC(Network Interface Card)である。
入力インタフェース905は、入力装置907のケーブル911が接続されるポートである。入力インタフェース905は、例えば、USB(Universal Serial Bus)端子である。
ディスプレイインタフェース906は、ディスプレイ908のケーブル912が接続されるポートである。ディスプレイインタフェース906は、例えば、USB端子又はHDMI(登録商標)(High Definition Multimedia Interface)端子である。
入力装置907は、例えば、マウス、キーボード又はタッチパネルである。
ディスプレイ908は、例えば、LCD(Liquid Crystal Display)である。
The
The
The
The
The
The
The
The
補助記憶装置902には、上述した表示部1、入出力部2、手順抽出部3、テンプレート構成部4、手順妥当性判定部5、手順検証部6、手順補完部7(以下、表示部1、入出力部2、手順抽出部3、テンプレート構成部4、手順妥当性判定部5、手順検証部6、手順補完部7をまとめて「部」と表記する)の機能を実現するプログラムが記憶されている。
このプログラムは、メモリ903にロードされ、プロセッサ901に読み込まれ、プロセッサ901によって実行される。
更に、補助記憶装置902には、OS(Operating System)も記憶されている。
そして、OSの少なくとも一部がメモリ903にロードされ、プロセッサ901はOSを実行しながら、「部」の機能を実現するプログラムを実行する。
図16では、1つのプロセッサ901が図示されているが、運用手順評価装置100が複数のプロセッサ901を備えていてもよい。そして、複数のプロセッサ901が「部」の機能を実現するプログラムを連携して実行してもよい。
また、「部」の処理の結果を示す情報やデータや信号値や変数値と、規則記憶部160、推定情報記憶部170が記憶する情報やデータや信号値や変数値とが、メモリ903、補助記憶装置902、又は、プロセッサ901内のレジスタ又はキャッシュメモリにファイルとして記憶される。
The
This program is loaded into the
Further, the
Then, at least a part of the OS is loaded into the
Although one
In addition, information, data, signal values, and variable values indicating the processing results of “part”, and information, data, signal values, and variable values stored in the rule storage unit 160 and the estimation information storage unit 170 are stored in the
「部」を「サーキットリー」で提供してもよい。また、「部」を「回路」又は「工程」又は「手順」又は「処理」に読み替えてもよい。「回路」及び「サーキットリー」は、プロセッサ901だけでなく、ロジックIC又はGA(Gate Array)又はASIC(Application Specific Integrated Circuit)又はFPGA(Field−Programmable Gate Array)といった他の種類の処理回路をも包含する概念である。
The “part” may be provided as “circuitry”. Further, “part” may be read as “circuit”, “process”, “procedure”, or “processing”. “Circuit” and “Circuitry” include not only the
1 表示部、2 入出力部、3 手順抽出部、4 テンプレート構成部、5 手順妥当性判定部、6 手順検証部、7 手順補完部、10 作業指示フロー、11 テンプレート元情報、12 想定操作テンプレート、13 抽出手順情報、100 運用手順評価装置、200 フロー自動化装置、300 試験装置、400 ネットワーク。
DESCRIPTION OF
Claims (9)
上記抽出手順情報に基づく運用指示を順次、試験実行し、上記処理単位毎の実行結果が正常終了か否かを記憶する手順検証部と、
上記処理単位毎の実行結果の中で最後に実行された処理単位の実行結果が正常終了している場合は、該当の上記抽出手順情報は妥当であると評価を判定する手順妥当性判定部と、
を備えた運用手順評価装置。 By referring to the work instruction flow in which the work instructions for the computer are specified in the processing order and the processing type and the assumed operation template in which the operation instructions for each processing unit of the processing type are specified, the operation instruction corresponding to the work instruction is A procedure extraction unit that generates certain extraction procedure information;
A procedure verification unit that sequentially performs an operation instruction based on the extraction procedure information and stores whether the execution result for each processing unit is a normal end;
A procedure validity determination unit that determines an evaluation that the extraction procedure information is valid if the execution result of the processing unit executed last in the execution results for each processing unit has been normally terminated; ,
An operation procedure evaluation apparatus comprising:
上記運用指示をコマンド単位の命令文で指定したテンプレート元情報から、上記処理単位で任意の命令文を選定することで上記想定操作テンプレートを生成するテンプレート構成部を備えたことを特徴とする請求項1〜3のいずれか1項に記載の運用手順評価装置。 further,
A template configuration unit that generates the assumed operation template by selecting an arbitrary command statement in the processing unit from template source information in which the operation instruction is specified by a command unit command statement. The operation | movement procedure evaluation apparatus of any one of 1-3.
上記抽出手順情報に含まれる命令文を実行した後、いずれかの上記想定操作テンプレートに含まれる命令文を実行し、その実行結果が正常終了であると判定した場合は、新たな抽出手順情報として記憶し、さらにいずれかの上記想定操作テンプレートに含まれる命令文を実行して実行結果が正常終了であると判定した命令文があれば、順次記憶することにより、新たな抽出手順情報を生成する手順補完部を備え、
上記手順検証部は、上記抽出手順情報についても試験実行し、上記手順妥当性判定部はその実行結果についても評価を判定することを特徴とする請求項1〜4のいずれか1項に記載の運用手順評価装置。 further,
After executing the command statement included in the extraction procedure information, if the command statement included in any of the assumed operation templates is executed and it is determined that the execution result is normal termination, as new extraction procedure information If there is a command sentence that is stored and further executed by executing a command sentence included in any one of the assumed operation templates and the execution result is determined to be normal termination, new extraction procedure information is generated by sequentially storing the command sentence. It has a procedure complement,
The said procedure verification part test-executes also about the said extraction procedure information, The said procedure validity determination part determines evaluation also about the execution result, The any one of Claims 1-4 characterized by the above-mentioned. Operation procedure evaluation device.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015034962A JP5937245B1 (en) | 2015-02-25 | 2015-02-25 | Operation procedure evaluation apparatus and operation procedure evaluation program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015034962A JP5937245B1 (en) | 2015-02-25 | 2015-02-25 | Operation procedure evaluation apparatus and operation procedure evaluation program |
Publications (2)
Publication Number | Publication Date |
---|---|
JP5937245B1 true JP5937245B1 (en) | 2016-06-22 |
JP2016157289A JP2016157289A (en) | 2016-09-01 |
Family
ID=56184756
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015034962A Expired - Fee Related JP5937245B1 (en) | 2015-02-25 | 2015-02-25 | Operation procedure evaluation apparatus and operation procedure evaluation program |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5937245B1 (en) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113408261A (en) * | 2021-08-10 | 2021-09-17 | 广东新瑞智安科技有限公司 | Method and system for generating job requisition |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6902140B2 (en) * | 2017-06-05 | 2021-07-14 | 株式会社日立製作所 | Operations support system and method |
WO2018225115A1 (en) * | 2017-06-05 | 2018-12-13 | 株式会社日立製作所 | Operation assistance system and method |
JP2019125063A (en) * | 2018-01-12 | 2019-07-25 | 横河電機株式会社 | Operation flow generation device, system, program, and operation flow generation method |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007164353A (en) * | 2005-12-12 | 2007-06-28 | Hitachi Information Systems Ltd | Command sequence creation system and method and program |
JP2012027839A (en) * | 2010-07-27 | 2012-02-09 | Hitachi Information Systems Ltd | System and method for detecting abnormality of command execution result |
-
2015
- 2015-02-25 JP JP2015034962A patent/JP5937245B1/en not_active Expired - Fee Related
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007164353A (en) * | 2005-12-12 | 2007-06-28 | Hitachi Information Systems Ltd | Command sequence creation system and method and program |
JP2012027839A (en) * | 2010-07-27 | 2012-02-09 | Hitachi Information Systems Ltd | System and method for detecting abnormality of command execution result |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113408261A (en) * | 2021-08-10 | 2021-09-17 | 广东新瑞智安科技有限公司 | Method and system for generating job requisition |
CN113408261B (en) * | 2021-08-10 | 2021-12-14 | 广东新瑞智安科技有限公司 | Method and system for generating job requisition |
Also Published As
Publication number | Publication date |
---|---|
JP2016157289A (en) | 2016-09-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11262979B2 (en) | Machine learning webpage accessibility testing tool | |
CN108628741B (en) | Webpage testing method and device, electronic equipment and medium | |
WO2021109928A1 (en) | Creation method, usage method and apparatus for machine learning scheme template | |
JP5937245B1 (en) | Operation procedure evaluation apparatus and operation procedure evaluation program | |
US9690682B2 (en) | Program information generating system, method, and computer program product | |
JP2019525373A (en) | How to generate test cases | |
JP2016048471A (en) | Application development support device, data processing method and program therefor | |
JP5125938B2 (en) | Bug detection support program, similar syntax identification information list output program, bug detection support device, and bug detection support method | |
JP2018018373A (en) | Extraction apparatus and extraction method | |
JPWO2017141893A1 (en) | Software analysis apparatus and software analysis method | |
US12001325B2 (en) | Test data generation apparatus, test data generation method and program | |
JP2011145996A (en) | Reviewer evaluation apparatus, reviewer evaluation method and program | |
CN113361220A (en) | Verification environment construction method and device for automatically cutting integrated circuit design | |
JP6198529B2 (en) | Test execution system, test execution device, test execution method, and test execution program | |
US20170010901A1 (en) | Dynamic creation of job control language cards | |
JP2016212736A (en) | Operation support device, operation support program, and operation support method | |
CN105094511A (en) | Test case generating method and test case generating device | |
US10331818B2 (en) | Simulation system and simulation method | |
US20230025835A1 (en) | Workflow generation support apparatus, workflow generation support method and workflow generation support program | |
JP6790921B2 (en) | Program analyzer, program analysis method and program analysis program | |
JP7029557B1 (en) | Judgment device, judgment method and judgment program | |
JP6665576B2 (en) | Support device, support method, and program | |
JP2013149134A (en) | Static analysis device of source code, system, method, and program therefor | |
JPWO2012049816A1 (en) | Model checking apparatus, method and program | |
JP2018026056A (en) | Software quality determination method |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20160419 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20160511 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5937245 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |