JP5160594B2 - 音声認識装置および音声認識方法 - Google Patents
音声認識装置および音声認識方法 Download PDFInfo
- Publication number
- JP5160594B2 JP5160594B2 JP2010138741A JP2010138741A JP5160594B2 JP 5160594 B2 JP5160594 B2 JP 5160594B2 JP 2010138741 A JP2010138741 A JP 2010138741A JP 2010138741 A JP2010138741 A JP 2010138741A JP 5160594 B2 JP5160594 B2 JP 5160594B2
- Authority
- JP
- Japan
- Prior art keywords
- character string
- conversion
- conversion candidate
- string
- strings
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Description
まず、第1実施形態を説明する。図1は、第1実施形態にかかる音声認識装置100の構成を示す。音声認識装置100は、入力された音声を認識して、認識した音声に応じた文字を出力する装置である。この第1実施形態では、音声認識機能を有するパーソナル・コンピュータを、音声認識装置100として用いている。
音声データ取得部312が、音声認識処理の対象とする音声データを取得する。具体的には、音声データ取得部312は、マイク120から入力された音声信号を、音声認識処理の対象とする音声データとして取得する。既に音声データがメモリ等の記憶媒体に格納されている場合、音声データ取得部312は、この記憶媒体に格納されている音声データを、音声認識処理の対象とする音声データとして取得してもよい。
音声認識部314が、音響モデル格納部302に格納された音響モデルおよび第1言語モデル格納部304に格納された第1言語モデルに基づく音声認識処理をおこなうことで、ステップS502で取得された音声データが示す音声を認識して、尤もらしい文字列を、当該認識結果を示す認識文字列として生成する。ここで、音声認識部314による音声認識処理の一例について説明する。図6は、音声認識部314による音声認識処理の一例を示す。この例では、音声認識部314によって、「今から京都駅に行きます」という音声の音声データから、「今から京都的に行きます」という認識文字列が生成されている。この例では、音声認識部314は、「駅」を「的」と誤って認識してしまっている。この理由としては、たとえば、「駅」という単語が第1言語モデルに示されていない、音声データに含まれている雑音などにより音声に歪みが生じて「駅」が認識結果およびその候補とされなかった等、様々な理由が挙げられる。なお、音響モデルの構成、第1言語モデルの構成、および音声認識部314による音声認識処理の具体的な方法は様々である。本実施形態では、音声データから認識文字列を生成することができればよいため、これを実現することができるものであれば、これらについてどのようなものを用いてもよい。
音声認識部314が、ステップS504で生成された認識文字列を構成する文字列のそれぞれについて、音声認識の信頼度を算出する。ここで、音声認識部314によって算出された信頼度の一例について説明する。図7は、音声認識部314によって算出された信頼度の一例を示す。図7は、音声認識部314によって生成された「今から京都的に行きます」という認識文字列を構成する形態素のそれぞれについての、音声認識部314が算出した音声認識の信頼度を示す。ここでいう信頼度とは、音声データから文字列が正しく認識された可能性の度合いを示す。信頼度が高いほど、その文字列が正しく認識された可能性が高いことを示す。たとえば、図7に示す例では、「今から京都的に行きます」という認識文字列を構成する、「今」、「から」、「京都」、「的」、「に」、「行き」、「ます」の各形態素のそれぞれについて、信頼度が示されている。この例では、「今」の信頼度は「95」、「から」の信頼度は「92」、「京都」の信頼度は「80」、「的」の信頼度は「50」、「に」の信頼度は「70」、「行き」の信頼度は「93」、「ます」の信頼度は「93」である。
変換対象文字列決定部316が、ステップS504で生成された認識文字列のうちの、変換対象とする変換対象文字列を決定する。たとえば、変換対象文字列決定部316は、音声認識部314が生成した認識文字列のうちの、認識結果としての信頼度が所定の閾値よりも低い文字列、あるいはその組み合わせからなる文字列を、変換対象文字列として決定する。この方法を適用した場合、間違っている可能性の高い文字列を、変換対象文字列として決定することができる。また、変換対象文字列をユーザに選択させるようなことがないので、ユーザの操作負担を軽減することができる。たとえば、所定の閾値として「60」が設定されており、図7に示したとおり、「今から京都的に行きます」という認識文字列を構成する、「今」、「から」、「京都」、「的」、「に」、「行き」、「ます」の各形態素のそれぞれについての信頼度が算出されている場合、変換対象文字列決定部316は、これら形態素のうち、信頼度として「60」よりも低い「50」が算出されている「的」を、変換対象文字列として決定する。
参照文字列決定部318が、ステップS504で生成された認識文字列のうちの、ステップS508で決定された変換対象文字列の前または後ろに接続された一部の文字列を参照文字列として決定する。具体的には、参照文字列決定部318は、音声認識部314が生成した認識文字列の前または後ろに接続された文字列のうちの、予め定められた条件に合致する文字列を、参照文字列として決定する。この条件には、変換対象文字列を基準とした参照文字列の方向、参照文字列を構成する文字列の単位、および参照文字列を構成する文字列の数が含まれる。たとえば、認識文字列を基準とした参照文字列の方向には、「前方」、「後方」、または「前方と後方の双方」のいずれかが設定される。また、参照文字列を構成する文字列の単位には、「文字」、「単語」、「形態素」、「文節」等が設定される。また、参照文字列を構成する文字列の数としては、「1」等の任意の整数が設定される。これらが組み合わされて、たとえば「変換対象文字列の前方の1形態素を参照文字列とする」といった条件が予めメモリ等の記憶媒体に格納されているのである。この「変換対象文字列の前方の1形態素を参照文字列とする」という条件によれば、たとえば、上記したとおり、「今から京都的に行きます」という認識文字列のうちの、「的」が変換対象文字列として決定された場合、この「的」の前方にある1つの形態素である「京都」が、参照文字列として決定される。また、「変換対象文字列の前方および後方の1文字を参照文字列とする」という条件によれば、この「的」の前方の1文字である「都」と、後方の1文字である「に」とが、参照文字列として決定される。
変換候補文字列決定部320が、第2言語モデルを参照して、当該第2言語モデルにおいてステップS510で決定された参照文字列との接続関係が示されている文字列を、ステップS508で決定された変換対象文字列を変換する候補の変換候補文字列として決定する。たとえば、上記したとおり、変換対象文字列として「的」が決定され、参照文字列として「京都」が決定されたとする。そして、図4に示すとおり、第2言語モデルにおいて、文字列「京都」と、「府」、「市」、「駅」、「の」のそれぞれとの対応関係が示されているとする。この場合、変換候補文字列決定部320は、これら「府」、「市」、「駅」、「の」のそれぞれを変換候補文字列として決定する。変換候補文字列には、変換対象文字列と同じ文字列が含まれていてもよい。たとえば、上記例では、変換対象文字列「的」に対し、変換候補文字列「的」が含まれていてもよい。
出力部322が、ステップS512で決定された変換候補文字列を出力する。たとえば、出力部322は、変換候補文字列を、認識文字列とともに、ユーザが視認できるよう、ディスプレイ130に表示させる。ここで、変換候補文字列が一つの場合、出力部322は、認識文字列における変換対象文字列を変換候補文字列に変換するか否かをユーザが選択可能な形態で出力する。また、変換候補文字列が複数の場合、出力部322は、これら複数の変換候補文字列を、いずれの変換候補文字列で変換対象文字列を変換するかをユーザが選択可能な形態で出力する。
変換対象文字列が変更され、もしくは変更されずに、認識文字列が確定すると、音声認識装置100は、この認識文字列をユーザが利用できるように、メモリ等の記憶媒体に格納したり、他のアプリケーションの入力文字列としたりして、一連の音声認識処理を終了する。
次に、第2実施形態を説明する。第1実施形態では、第2言語モデルにおいて文字列間の接続関係が形態素単位で示されていた。これに対し、第2実施形態では、第2言語モデルにおいて文字列間の接続関係がユーザ入力単位で示されている。ユーザがある文字列を入力する場合に、この文字列を複数の部分的な文字列に区切って段階的に入力する場合がある。たとえば、「京都府の県庁所在地は京都市です」という文字列を入力する場合に、この文字列を「京都」、「府の」、「県庁所在地」、「は」、「京都」、「市です」、という複数の部分的な文字列に区切って段階的に入力するといった具合である。
次に、第3実施形態を説明する。第1実施形態では、第2言語モデルにおいて、参照文字列と複数の文字列との接続関係が示されている場合、これら複数の文字列の一部または全てを変換候補文字列として出力することとした。ここで、参照文字列との接続関係が示されている文字列が膨大な数の場合、これら複数の文字列の全てを変換候補文字列として出力してしまうと、ユーザが混乱してしまう。また、これら複数の文字列の一部を変換候補文字列として出力すると、膨大な数の文字列の中から変換候補文字列を決定するための処理に時間がかかってしまうばかりか、適切な変換候補文字列を決定することができない。
次に、第4実施形態を説明する。実施形態で説明した各機能部について、これらの一部を外部の情報処理装置に設けて、音声認識装置100は、外部の情報処理装置から一部のデータを参照したり、外部の情報処理装置に一部の処理をおこなわせたりする構成としてもよい。すなわち、音声認識装置100は、第1実施形態のように単独で音声認識処理をおこなうものに限らず、他の情報処理装置との通信をおこなって、音声認識処理をおこなうようなものであってもよい。この第4実施形態では、音声認識装置100を、他の情報処理装置との通信をおこなって、音声認識処理をおこなうように構成する場合の一例を説明する。
なお、本発明は、上記した形態での実施に限らず、以下のように変形させて実施してもよい。また、以下の変形例を組み合わせてもよい。
各実施形態では、音声認識装置の一例として音声認識機能を有するパーソナル・コンピュータを用いたが、これに限らず、音声認識装置は、実施形態で説明した音声認識装置100と同様の音声認識機能を実現することができるものであれば、携帯電話機、PDA(Personal Digital Assistant)、ナビゲーション装置、携帯音楽プレーヤー、ノートPC(Personal Computer)、家電製品など、どのような機器であってもよい。
第3実施形態では、文字列の範囲が異なる複数の参照文字列を決定し、決定された複数の参照文字列のうちの、適切な変換候補文字列が得られる参照文字列を用いて、変換対象文字列を変換する候補の変換候補文字列を決定する構成の一具体例として、参照文字列に対応付けられている文字列の数が所定数よりも少なくなるまで参照文字列の範囲を後方に拡張していくことによって、変換候補文字列の数を絞り込む例を説明したが、これに限定するものでなはない。たとえば、参照文字列の範囲を前方に拡張したり、前後の双方に拡張したりすることによって、変換候補文字列の数を絞り込むようにしてもよい。また、参照文字列に対応付けられている文字列の数が下限値よりも少ない場合は、下限値よりも多くなるまで参照文字列の範囲を縮小していくことによって変換候補文字列の数を増やすようにしてもよい。また、参照文字列に対応付けられている文字列のうちの、所定の相関度以上の相関度を有する文字列の数が上限値よりも少なくなるか、もしくは下限値よりも多くなるまで、参照文字列の範囲を拡張していくことによって変換候補文字列の数を絞り込むか、もしくは、参照文字列の範囲を縮小していくことによって変換候補文字列の数を増やすようにしてもよい。また、全ての文字列の相関度がある閾値よりも低ければ、この閾値よりも相関度が高い文字列が出現するまで、参照文字列の範囲を縮小していくことによって変換候補文字列の数を増やすようにしてもよい。また、全ての文字列の相関度がある閾値よりも高ければ、この閾値よりも相関度が低い文字列が出現するまで、参照文字列の範囲を拡張していくことによって変換候補文字列の数を絞り込むようにしてもよい。
第4実施形態において、複数のクライアント装置11で音声認識部314による音声認識処理を共有することで、複数のクライアント装置11の各々に対して、均質な処理結果を提供することができる構成であれば、音声認識システム10は、どのような装置構成であってもよく、また、各装置に対してどのような機能が設けられていてもよい。たとえば、第4実施形態において、音声認識部314を、音声認識装置100に設け、音声認識部314は、通信部330によるサーバ装置12との通信によって、サーバ装置12に設けられた音響モデル格納部302および第1言語モデル格納部304から、音響モデルおよび第1言語モデルを参照するように構成してもよい。また、音声認識部314だけでなく、変換対象文字列決定部316や、参照文字列決定部318を、サーバ装置12に設ける構成としてもよい。また、サーバ装置12およびクライアント装置11とは別に、音声認識装置100を設け、音声認識装置100が、クライアント装置11から音声データを取得して、そのクライアント装置11に設けられた第2言語モデルを参照して、これまでに説明した音声認識処理をおこない、その処理結果として、認識文字列および変換候補文字列をそのクライアント装置11に出力する構成としてもよい。
各実施形態において、音声認識部314は、複数の認識文字列を生成するものであってもよい。たとえば、変換対象文字列決定部316が、「今から京都駅に行きます」という音声データから、第1候補の「今から京都的に行きます」という認識文字列と、第2候補の「今から京都劇に行きます」という認識文字列とを生成するといった具合である。
Claims (7)
- 音声データを取得する音声データ取得部と、
音声の特徴量と文字との対応関係を示す音響モデルおよび文字列間の接続関係を示す第1言語モデルを参照して、前記音声データに対する音声認識処理をおこない、その認識結果を示す認識文字列を生成する音声認識部と、
前記認識文字列のうち、ユーザによって指定された文字列、認識結果としての信頼度が所定の閾値よりも低い文字列、または、認識結果としての信頼度が所定の閾値よりも低い文字列の組み合わせからなる文字列を、変換対象文字列として決定する変換対象文字列決定部と、
前記認識文字列において、認識結果としての信頼度が所定の閾値以上の文字列であって、決定された前記変換対象文字列の直前または直後に接続された文字列を、参照文字列として決定する参照文字列決定部であって、前記変換対象文字列の直前に接続された文字列の数が異なる複数の前記参照文字列または前記変換対象文字列の直後に接続された文字列の数が異なる複数の前記参照文字列を決定する参照文字列決定部と、
ユーザが過去に入力した文字列から抽出された文字列同士の接続関係を示す第2言語モデルを参照して、決定された前記参照文字列との接続関係が示されている文字列を、前記変換対象文字列を変換する候補の変換候補文字列として決定する変換候補文字列決定部であって、決定された複数の参照文字列のうち、所定の範囲内の数の変換候補文字列が得られる参照文字列を用いて、前記変換対象文字列を変換する候補の変換候補文字列を決定する変換候補文字列決定部と、
決定された前記変換候補文字列を出力する出力部と
を備えることを特徴とする音声認識装置。 - 前記第2言語モデルにおいて、前記参照文字列に対して前記所定の範囲外の数の前記変換候補文字列が得られた場合、
前記参照文字列決定部は、
前記認識文字列において、前記変換対象文字列の直前または直後に接続された文字列の数を増減して、その増減後の数の文字列を新たな参照文字列として決定し、
前記変換候補文字列決定部は、
前記第2言語モデルにおいて前記新たな参照文字列との接続関係が示されている文字列を、前記変換候補文字列として決定する
ことを特徴とする請求項1に記載の音声認識装置。 - 前記出力部は、
前記認識文字列における前記変換対象文字列を、前記変換候補文字列に変換して、変換後の前記認識文字列を出力する
ことを特徴とする請求項1または2に記載の音声認識装置。 - 前記変換候補文字列決定部は、
前記第2言語モデルにおいて前記参照文字列との接続関係が示されている文字列のそれぞれについて、前記変換対象文字列との相関度を算出し、少なくとも、当該相関度が最も高い文字列または当該相関度が閾値よりも高い文字列を、前記変換対象文字列を変換する候補の変換候補文字列として決定する
ことを特徴とする請求項1から3のいずれかに記載の音声認識装置。 - 前記出力部は、
前記変換候補文字列の音素のうち、前記変換対象文字列の音素と一致しない音素が削除された変換候補文字列、または、前記変換候補文字列と前記参照文字列との接続関係について文法チェックをおこなうことにより特定された前記変換候補文字列に含まれる出力不要な文字が削除された変換候補文字列を出力する
ことを特徴とする請求項1から4のいずれかに記載の音声認識装置。 - 前記音響モデルおよび前記第1言語モデルを記憶したサーバ装置との通信をおこなう通信部を備え、
前記音声認識部は、
前記通信部による前記サーバ装置との通信によって、前記サーバ装置が記憶している前記音響モデルおよび前記第1言語モデルを参照し、前記音声認識処理をおこなう
ことを特徴とする請求項1から5のいずれかに記載の音声認識装置。 - 音声認識装置による音声認識方法であって、
音声データを取得する音声データ取得工程と、
音声の特徴量と文字との対応関係を示す音響モデルおよび文字列間の接続関係を示す第1言語モデルを参照して、前記音声データに対する音声認識処理をおこない、その認識結果を示す認識文字列を生成する音声認識工程と、
前記認識文字列のうち、ユーザによって指定された文字列、認識結果としての信頼度が所定の閾値よりも低い文字列、または、認識結果としての信頼度が所定の閾値よりも低い文字列の組み合わせからなる文字列を、変換対象文字列として決定する変換対象文字列決定工程と、
前記認識文字列において、認識結果としての信頼度が所定の閾値以上の文字列であって、決定された前記変換対象文字列の直前または直後に接続された文字列を、参照文字列として決定する参照文字列決定工程であって、前記変換対象文字列の直前に接続された文字列の数が異なる複数の前記参照文字列または前記変換対象文字列の直後に接続された文字列の数が異なる複数の前記参照文字列を決定する参照文字列決定工程と、
ユーザが過去に入力した文字列から抽出された文字列同士の接続関係を示す第2言語モデルを参照して、決定された前記参照文字列との接続関係が示されている文字列を、前記変換対象文字列を変換する候補の変換候補文字列として決定する変換候補文字列決定工程であって、決定された複数の参照文字列のうち、所定の範囲内の数の変換候補文字列が得られる参照文字列を用いて、前記変換対象文字列を変換する候補の変換候補文字列を決定する変換候補文字列決定工程と、
決定された前記変換候補文字列を出力する出力工程と
を備えることを特徴とする音声認識方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010138741A JP5160594B2 (ja) | 2010-06-17 | 2010-06-17 | 音声認識装置および音声認識方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010138741A JP5160594B2 (ja) | 2010-06-17 | 2010-06-17 | 音声認識装置および音声認識方法 |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2012270688A Division JP5396530B2 (ja) | 2012-12-11 | 2012-12-11 | 音声認識装置および音声認識方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2012003090A JP2012003090A (ja) | 2012-01-05 |
JP5160594B2 true JP5160594B2 (ja) | 2013-03-13 |
Family
ID=45535115
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2010138741A Expired - Fee Related JP5160594B2 (ja) | 2010-06-17 | 2010-06-17 | 音声認識装置および音声認識方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5160594B2 (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP2806415A1 (en) | 2013-05-23 | 2014-11-26 | Fujitsu Limited | Voice processing device and voice processing method |
EP2816558A1 (en) | 2013-06-17 | 2014-12-24 | Fujitsu Limited | Speech processing device and method |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR102380833B1 (ko) * | 2014-12-02 | 2022-03-31 | 삼성전자주식회사 | 음성 인식 방법 및 음성 인식 장치 |
WO2018043137A1 (ja) * | 2016-08-31 | 2018-03-08 | ソニー株式会社 | 情報処理装置及び情報処理方法 |
JP6804909B2 (ja) | 2016-09-15 | 2020-12-23 | 東芝テック株式会社 | 音声認識装置、音声認識方法及び音声認識プログラム |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2000056795A (ja) * | 1998-08-03 | 2000-02-25 | Fuji Xerox Co Ltd | 音声認識装置 |
JP4089861B2 (ja) * | 2001-01-31 | 2008-05-28 | 三菱電機株式会社 | 音声認識文章入力装置 |
JP4296290B2 (ja) * | 2003-10-22 | 2009-07-15 | 株式会社豊田中央研究所 | 音声認識装置、音声認識方法及びプログラム |
JP4604178B2 (ja) * | 2004-11-22 | 2010-12-22 | 独立行政法人産業技術総合研究所 | 音声認識装置及び方法ならびにプログラム |
JP4709887B2 (ja) * | 2008-04-22 | 2011-06-29 | 株式会社エヌ・ティ・ティ・ドコモ | 音声認識結果訂正装置および音声認識結果訂正方法、ならびに音声認識結果訂正システム |
-
2010
- 2010-06-17 JP JP2010138741A patent/JP5160594B2/ja not_active Expired - Fee Related
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP2806415A1 (en) | 2013-05-23 | 2014-11-26 | Fujitsu Limited | Voice processing device and voice processing method |
EP2816558A1 (en) | 2013-06-17 | 2014-12-24 | Fujitsu Limited | Speech processing device and method |
US9672809B2 (en) | 2013-06-17 | 2017-06-06 | Fujitsu Limited | Speech processing device and method |
Also Published As
Publication number | Publication date |
---|---|
JP2012003090A (ja) | 2012-01-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6251958B2 (ja) | 発話解析装置、音声対話制御装置、方法、及びプログラム | |
US11238842B2 (en) | Intent recognition and emotional text-to-speech learning | |
JP6493866B2 (ja) | 情報処理装置、情報処理方法、およびプログラム | |
KR102191425B1 (ko) | 인터랙티브 캐릭터 기반 외국어 학습 장치 및 방법 | |
JP5703256B2 (ja) | 単語レベルの変換候補生成に基づく音声認識システム及び方法 | |
JP6150268B2 (ja) | 単語登録装置及びそのためのコンピュータプログラム | |
US7742924B2 (en) | System and method for updating information for various dialog modalities in a dialog scenario according to a semantic context | |
JP2008209717A (ja) | 入力された音声を処理する装置、方法およびプログラム | |
JPWO2007097390A1 (ja) | 音声認識システム、音声認識結果出力方法、及び音声認識結果出力プログラム | |
JP5106608B2 (ja) | 読み上げ支援装置、方法、およびプログラム | |
JP5753769B2 (ja) | 音声データ検索システムおよびそのためのプログラム | |
JPWO2011064829A1 (ja) | 情報処理装置 | |
JP5396530B2 (ja) | 音声認識装置および音声認識方法 | |
WO2011033834A1 (ja) | 音声翻訳システム、音声翻訳方法および記録媒体 | |
JP5160594B2 (ja) | 音声認識装置および音声認識方法 | |
JP2014202848A (ja) | テキスト生成装置、方法、及びプログラム | |
JP2016521383A (ja) | 少なくとも一つの意味論的単位の集合を改善するための方法、装置およびコンピュータ読み取り可能な記録媒体 | |
JP2008243080A (ja) | 音声を翻訳する装置、方法およびプログラム | |
JP5054711B2 (ja) | 音声認識装置および音声認識プログラム | |
CN112002304B (zh) | 语音合成方法及装置 | |
JP5238395B2 (ja) | 言語モデル作成装置および言語モデル作成方法 | |
JP5696638B2 (ja) | 対話制御装置、対話制御方法及び対話制御用コンピュータプログラム | |
KR102217621B1 (ko) | 사용자 발화의 오류를 교정하는 방법 및 장치 | |
JP2017187797A (ja) | テキスト生成装置、方法、及びプログラム | |
JP2010204442A (ja) | 音声認識装置、音声認識方法、音声認識プログラムおよびプログラム記録媒体 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20120424 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20120515 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20120713 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20121113 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20121212 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5160594 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20151221 Year of fee payment: 3 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |