JP3107905B2 - Voice recognition device - Google Patents
Voice recognition deviceInfo
- Publication number
- JP3107905B2 JP3107905B2 JP04126278A JP12627892A JP3107905B2 JP 3107905 B2 JP3107905 B2 JP 3107905B2 JP 04126278 A JP04126278 A JP 04126278A JP 12627892 A JP12627892 A JP 12627892A JP 3107905 B2 JP3107905 B2 JP 3107905B2
- Authority
- JP
- Japan
- Prior art keywords
- band spectrum
- band
- input
- noise
- template
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Description
【0001】[0001]
【産業上の利用分野】本発明は音声認識装置に関し、特
に、背景雑音が大きな環境における音声の認識率を向上
させた音声認識装置に関するものである。BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to a speech recognition apparatus, and more particularly to a speech recognition apparatus having an improved speech recognition rate in an environment having a large background noise.
【0002】[0002]
【従来の技術】音声認識装置として、従来から、入力音
声の各周波数帯域におけるパワー・スペクトルを算出
し、算出された各周波数帯域におけるパワー・スペクト
ルと、音声登録時に入力したテンプレートの各周波数帯
域におけるパワー・スペクトルとの距離もしくは類似度
を計算して音声を認識する手法が知られている。2. Description of the Related Art Conventionally, as a speech recognition apparatus, a power spectrum in each frequency band of an input speech has been calculated, and a power spectrum in each calculated frequency band and a frequency spectrum of a template input at the time of speech registration have been calculated. There is known a method of calculating a distance or a similarity to a power spectrum to recognize speech.
【0003】図5は上記手法を用いて音声を認識する音
声認識装置の従来例であり、同図において、1は音入力
手段、2は帯域スペクトル算出手段、3はテンプレート
記憶部、4はフレーム単位距離計算手段、5は発生内容
照合手段、6は認識結果出力手段である。同図におい
て、音入力手段1より音響信号に入力し、帯域スペクト
ル算出手段2により入力音声の各周波数帯域におけるパ
ワー・スペクトル(以下、帯域スペクトルと記す)を算
出する。FIG. 5 shows a conventional speech recognition apparatus for recognizing speech using the above-mentioned method. In FIG. 5, reference numeral 1 denotes a sound input unit, 2 denotes a band spectrum calculation unit, 3 denotes a template storage unit, and 4 denotes a frame. Unit distance calculation means, 5 is generated content collation means, and 6 is recognition result output means. In FIG. 1, an audio signal is input from a sound input unit 1, and a power spectrum (hereinafter, referred to as a band spectrum) in each frequency band of the input voice is calculated by a band spectrum calculating unit 2.
【0004】テンプレート記憶部3には音声登録時に入
力された各音声についての帯域スペクトル(以下、これ
をテンプレートという)が格納されており、フレーム単
位距離計算手段4は帯域スペクトル算出手段2の出力で
ある入力音声の各帯域におけるスペクトルと、テンプレ
ート記憶部3に格納されているテンプレートとの距離を
入力音声の各フレーム単位で求める。[0004] A template storage unit 3 stores a band spectrum (hereinafter, referred to as a template) for each voice input at the time of voice registration. The distance between the spectrum of each input voice in each band and the template stored in the template storage unit 3 is determined for each frame of the input voice.
【0005】発生内容照合手段5はフレーム単位距離計
算手段4により求めたフレーム単位の入力音声と各テン
プレートとの距離から発生内容の推定を行い、推定結果
を認識結果出力手段6より出力する。[0005] The occurrence content matching means 5 estimates the occurrence content from the distance between the input speech in frame units obtained by the frame unit distance calculation means 4 and each template, and outputs the estimation result from the recognition result output means 6.
【0006】[0006]
【発明が解決しようとする課題】ところで、上記した従
来の音声認識装置においては、背景雑音の大きな環境で
は、入力音声の認識率が大きく低下してしまうという欠
点があった。本発明は上記した従来技術の欠点を改善す
るためになされたものであって、背景雑音が大きな環境
においても入力音声の認識率が低下することがない音声
認識装置を提供することを目的とする。However, the above-described conventional speech recognition apparatus has a drawback that the recognition rate of input speech is greatly reduced in an environment where background noise is large. SUMMARY OF THE INVENTION The present invention has been made in order to improve the above-described drawbacks of the related art, and has as its object to provide a speech recognition device in which the recognition rate of input speech does not decrease even in an environment with a large background noise. .
【0007】[0007]
【課題を解決するための手段】図1は本発明の原理図で
ある。本発明は上記課題を解決するため図1のように構
成したものであり、請求項1の発明は、雑音が混入した
音声信号を入力する音入力手段11と、音入力手段11
から入力された音声信号より帯域スペクトルを算出する
帯域スペクトル算出手段12と、テンプレート13と入
力音声信号の帯域スペクトルとの距離を算出する距離計
算手段14と、距離計算手段14により計算された距離
に基づき発声内容を照合する発声内容照合手段15と、
発声内容照合手段により照合された結果を認識結果とし
て出力する認識結果出力手段16とを備えた音声認識装
置において、音声入力時に混入される雑音の帯域スペク
トルを推定する雑音帯域スペクトル推定手段17と、入
力音声の帯域スペクトルと雑音の帯域スペクトルの推定
値よりパラメータを決定するパラメータ決定手段18と
を設けたものである。FIG. 1 is a diagram illustrating the principle of the present invention. The present invention is configured as shown in FIG. 1 in order to solve the above-mentioned problem. The invention according to claim 1 comprises a sound input unit 11 for inputting an audio signal mixed with noise, and a sound input unit 11.
A band spectrum calculating means 12 for calculating a band spectrum from the audio signal input from the LM, a distance calculating means 14 for calculating a distance between the template 13 and the band spectrum of the input audio signal, and a distance calculating means 14 Utterance content matching means 15 for comparing the utterance content based on the calculated distance ;
In a speech recognition device including a recognition result output unit 16 that outputs a result matched by the utterance content matching unit as a recognition result, a noise band spectrum estimating unit 17 that estimates a band spectrum of noise mixed at the time of speech input; And a parameter determining means for determining a parameter from an estimated value of the band spectrum of the input voice and the band spectrum of the noise.
【0008】そして、パラメータ決定手段18により決
定されたパラメータを用いて、距離計算手段14は、各
々の帯域において、テンプレート13の帯域スペクトル
強度が、パラメータとして決定される入力音声の帯域ス
ペクトルと雑音の帯域スペクトルの推定値に基づき定ま
る区間内にあるか区間外にあるかにより、テンプレート
13と入力音声信号の帯域スペクトルとの距離計算方法
を変更し、上記距離を算出し、雑音の混入した音声信号
を認識するように構成したものである。[0008] Then, using the parameters determined by the parameter determining means 18, the distance calculating means 14, each
In each band, the band spectrum of the template 13
The band width of the input speech whose strength is determined as a parameter
Based on the spectrum and noise band spectrum estimates.
Template depending on whether it is inside or outside the section
For calculating distance between input signal 13 and band spectrum of input audio signal
Change the, calculated on the Symbol distance, which is constituted to recognize the noisy speech signal.
【0009】請求項2の発明は、雑音が混入した音声信
号を入力する音入力手段11と、音入力手段11から入
力された音声信号より帯域スペクトルを算出する帯域ス
ペクトル算出手段12と、テンプレート13と入力音声
信号の帯域スペクトルとの類似度を算出する類似度計算
手段14と、類似度計算手段14により計算された類似
度に基づき発声内容を照合する発声内容照合手段15
と、発声内容照合手段により照合された結果を認識結果
として出力する認識結果出力手段16とを備えた音声認
識装置において、 音声入力時に混入される雑音の帯域ス
ペクトルを推定する雑音帯域スペクトル推定手段17
と、入力音声の帯域スペクトルと雑音の帯域スペクトル
の推定値よりパラメータを決定するパラメータ決定手段
18とを設けたものである。 そして、パラメータ決定手
段18により決定されたパラメータを用いて、類似度計
算手段14は、各々の帯域において、テンプレート13
の帯域スペクトル強度が、パラメータとして決定される
入力音声の帯域スペクトルと雑音の帯域スペクトルの推
定値に基づき定まる区間内にあるか区間外にあるかによ
り、テンプレート13と入力音声信号の帯域スペクトル
との類似度計算方法を変更して類似度を算出し、雑音の
混入した音声信号を認識するように構成したものであ
る。 According to a second aspect of the present invention, there is provided a voice signal containing noise.
Input means 11 for inputting a signal and input from the sound input means 11.
Band spectrum to calculate band spectrum from input audio signal
Vector calculation means 12, template 13 and input voice
Similarity calculation to calculate the similarity between the signal and the band spectrum
Means 14 and the similarity calculated by the similarity calculating means 14
Speech content collation means 15 for collating speech content based on degree
And the recognition result by the utterance content matching means
And a recognition result output means 16 for outputting
In identification devices, the band scan of noise to be mixed at the speech input
Noise band spectrum estimating means 17 for estimating the spectrum
And the input speech band spectrum and the noise band spectrum
Deciding means for deciding parameters from estimated values
18 are provided. And the parameter determinant
Using the parameters determined by step 18, a similarity measure
The calculation means 14 calculates the template 13 in each band.
Between the template 13 and the band spectrum of the input voice signal depending on whether the band spectrum intensity of the Change the similarity calculation method to calculate the similarity,
It is designed to recognize mixed audio signals.
You.
【0010】請求項3の発明は、請求項1の発明におい
て、各々の帯域において、テンプレート13の帯域スペ
クトル強度が、パラメータとして決定される入力音声の
帯域スペクトルと雑音の帯域スペクトルの推定値に基づ
き定まる区間内にある場合に、テンプレート13と入力
音声信号の帯域スペクトルとの距離を一定値とする距離
計算手段14を設けたものである。According to a third aspect of the present invention, in the first aspect of the present invention, in each band, the band spectrum intensity of the template 13 is determined based on an estimated value of the band spectrum of the input voice and the band spectrum of the noise determined as parameters. A distance calculator 14 is provided for setting the distance between the template 13 and the band spectrum of the input audio signal to a constant value when the distance is within the determined section.
【0011】請求項4の発明は、請求項2の発明におい
て、各々の帯域において、テンプレート13の帯域スペ
クトル強度が、パラメータとして決定される入力音声の
帯域スペクトルと雑音の帯域スペクトルの推定値に基づ
き定まる区間内にある場合に、テンプレート13と入力
音声信号の帯域スペクトルとの類似度を一定値とする類
似度計算手段14を設けたものである。According to a fourth aspect of the present invention, in the second aspect of the present invention, in each of the bands, the band spectrum intensity of the template 13 is based on an estimated value of the band spectrum of the input voice and the band spectrum of the noise determined as parameters. A similarity calculating means 14 is provided for setting the similarity between the template 13 and the band spectrum of the input audio signal to a constant value when the similarity is within the determined section.
【0012】請求項5の発明は、請求項1の発明におい
て、各々の帯域において、テンプレート13の帯域スペ
クトル強度が、パラメータとして決定される入力音声の
帯域スペクトルと雑音の帯域スペクトルの推定値に基づ
き定まる区間内にある場合に、テンプレート13と入力
音声信号の帯域スペクトルとの距離を0とする距離計算
手段14を設けたものである。According to a fifth aspect of the present invention, in the first aspect of the present invention, in each of the bands, the band spectrum intensity of the template 13 is based on the estimated values of the band spectrum of the input voice and the band spectrum of the noise determined as parameters. A distance calculating means 14 is provided for setting the distance between the template 13 and the band spectrum of the input audio signal to 0 when the distance is within the determined section.
【0013】請求項6の発明は、請求項1,2,3,4
または請求項5の発明において、各々の帯域において、
入力音声の帯域スペクトルと雑音の帯域スペクトルの推
定値との和および差に基づきパラメータとしての区間を
決定するパラメータ決定手段18を設けたものである。The invention of claim 6 is the invention of claims 1, 2, 3, 4
Or, in the invention of claim 5 , in each band,
A parameter determining means 18 is provided for determining a section as a parameter based on the sum and difference between the band spectrum of the input speech and the estimated value of the band spectrum of the noise.
【0014】[0014]
【作用】請求項1,2の発明において、音入力手段11
より雑音が混入した音声を入力し、帯域スペクトル算出
手段12において、各帯域ごとに帯域スペクトル強度を
算出する。また、雑音の帯域スペクトル強度を雑音帯域
スペクトル推定手段17により推定する。According to the first and second aspects of the present invention, the sound input means 11 is provided.
The voice mixed with more noise is input, and the band spectrum calculating means 12 calculates the band spectrum intensity for each band. Further, the noise band spectrum intensity is estimated by the noise band spectrum estimating means 17.
【0015】パラメータ決定手段18は音声の帯域スペ
クトル強度と雑音の帯域スペクトル強度に基づきパラメ
ータを決定し、パラメータ決定手段18により決定され
たパラメータに基づき、距離もしくは類似度計算手段1
4は音声の帯域スペクトルとテンプレート13の距離も
しくは類似度を計算する。発声内容照合手段15は入力
された音声の帯域スペクトルとテンプレートの距離もし
くは類似度に基づき入力された音声を照合し、最も距離
が近いテンプレートのラベルを認識結果出力手段16よ
り出力する。The parameter determining means 18 determines parameters based on the band spectrum intensity of speech and the band spectrum intensity of noise, and calculates the distance or similarity calculating means 1 based on the parameters determined by the parameter determining means 18.
4 is the distance between the voice band spectrum and the template 13.
Alternatively, the similarity is calculated. The utterance content matching unit 15 collates the input speech with the band spectrum of the input speech based on the distance or similarity of the template, and outputs the label of the template having the shortest distance from the recognition result output unit 16.
【0016】パラメータ決定手段18により決定するパ
ラメータとしては、請求項1または2のように音声の帯
域スペクトル強度と雑音の帯域スペクトル強度に基づき
区間を定め、テンプレートが区間内にあるか否かによ
り、距離もしくは類似度を計算する計算式を変えたり、
請求項3,4または5のように、上記区間内にテンプレ
ートがある場合の距離もしくは類似度を一定あるいは0
とするように定めることができる。また、請求項6のよ
うに、音声の帯域スペクトル強度と雑音の帯域スペクト
ル強度の和と差により上記区間を定めることができる。As the parameters determined by the parameter determining means 18, a section is determined based on the band spectrum intensity of speech and the band spectrum intensity of noise as described in claim 1 or 2 , depending on whether or not the template is within the section. Change the formula to calculate distance or similarity,
The distance or the similarity when the template is present in the section is constant or zero as in claims 3, 4 or 5.
It can be determined as follows. Further, as in claim 6, the section can be determined by the sum and difference between the band spectrum intensity of the voice and the band spectrum intensity of the noise.
【0017】音声の帯域スペクトル強度と雑音の帯域ス
ペクトル強度に基づきパラメータを決定し、そのパラメ
ータに基づき距離もしくは類似度計算手段14において
距離もしくは類似度を計算するので、帯域ごとの雑音の
影響を考慮して距離もしくは類似度を計算することがで
き、背景雑音が大きな環境下においても、充分な認識率
を保持した音声認識が可能となる。[0017] Determine the basis of the band spectral intensity and band spectrum intensity of the noise of the speech parameters, therefore calculates the distance or similarity in distance or similarity calculation unit 14 based on the parameter, taking into account the influence of the noise of each band And the degree of similarity can be calculated, and even under an environment with large background noise, speech recognition with a sufficient recognition rate can be performed.
【0018】[0018]
【実施例】同図において、111はマイク、112はア
ナログ/デジタル変換器、121は高速フーリエ変換演
算部(以下、FFT演算部という)、122は帯域スペ
クトル強度計算部、131はテンプレート記憶部、14
1はDP用局所距離計算部、142は計算式決定部、1
51はDP累積距離計算部、152は最小距離検索部、
161はラベル出力部、171は環境雑音強度記憶部、
181は区間決定部である。In the figure, 111 is a microphone, 112 is an analog / digital converter, 121 is a fast Fourier transform operation unit (hereinafter referred to as FFT operation unit), 122 is a band spectrum intensity calculation unit, 131 is a template storage unit, 14
1 is a DP local distance calculation unit, 142 is a calculation formula determination unit, 1
51 is a DP cumulative distance calculation unit, 152 is a minimum distance search unit,
161 is a label output unit, 171 is an environmental noise intensity storage unit,
181 is a section determination unit.
【0019】同図において、マイク111は音響信号を
入力する手段であり、マイク111の出力はアナログ/
デジタル変換器112に与えられ、デジタル信号に変換
される。FFT演算部121はアナログ/デジタル変換
器112が出力する音響信号を各フレームごとにフーリ
エ変換する演算手段であり、その出力は帯域スペクトル
強度計算部122に与えられる。In FIG. 1, a microphone 111 is a means for inputting an acoustic signal, and the output of the microphone 111 is an analog / digital signal.
The digital signal is supplied to a digital converter 112 and converted into a digital signal. The FFT operation unit 121 is an operation unit that performs a Fourier transform on the audio signal output from the analog / digital converter 112 for each frame, and the output is provided to the band spectrum intensity calculation unit 122.
【0020】帯域スペクトル強度計算部122は入力さ
れた音響信号の各周波数帯域ごとのパワー・スペクトル
強度を計算する手段であり、帯域スペクトル強度計算部
122の出力は区間決定部181、DP用局所距離計算
部141および環境雑音強度記憶部171に与えられ
る。DP用局所距離計算部141はダイナミック・プロ
グラミングにより累積距離計算をするためのフレーム毎
の局所距離を算出する手段であり、ここで用いられる計
算式は計算式決定部142より与えられる。また、環境
雑音強度記憶部171は、音声が入力される以前の帯域
スペクトル強度を環境雑音強度として記憶する手段であ
る。The band spectrum intensity calculation unit 122 is means for calculating the power spectrum intensity of each of the frequency bands of the input acoustic signal. The output of the band spectrum intensity calculation unit 122 includes a section determination unit 181 and a local distance for DP. The calculation unit 141 and the environmental noise intensity storage unit 171 are provided. The DP local distance calculation unit 141 is means for calculating a local distance for each frame for calculating the cumulative distance by dynamic programming. The calculation formula used here is given by the calculation formula determination unit 142. The environmental noise intensity storage unit 171 is a unit that stores the band spectral intensity before the voice is input as the environmental noise intensity.
【0021】区間決定部181は入力音響信号の帯域ス
ペクトルと環境雑音強度を加減算することにより、環境
雑音強度を加味した入力音響信号の帯域スペクトル区間
を決定する手段であり、その出力は計算式決定部142
に与えられる。計算式決定部142は区間決定部181
の出力に基づきDP用局所距離計算部141において用
いられる計算式を決定する手段である。The section determining section 181 is a means for determining the band spectrum section of the input audio signal in consideration of the environmental noise intensity by adding and subtracting the band spectrum of the input audio signal and the environmental noise intensity. Part 142
Given to. The calculation formula determining unit 142 includes a section determining unit 181
Is a means for determining the calculation formula used in the DP local distance calculation unit 141 based on the output of.
【0022】DP累積距離計算部151は、DP用局所
距離計算部141において計算された局所距離に基づ
き、ダイナミック・プログラミングを用いて最適パスを
求めることにより、入力音響信号と各テンプレートの距
離を求める手段であり、ここで求めた距離は最小距離検
索部152に与えられる。最小距離検索部152はDP
用局所距離計算部141において求めた入力音響信号と
各テンプレートの距離のうち、最小距離のテンプレート
を検索する手段であり、ラベル出力部161は最小距離
検索部152おいて検索されたテンプレートのラベルを
出力する。Based on the local distance calculated by the DP local distance calculator 141, the DP cumulative distance calculator 151 obtains an optimal path using dynamic programming, thereby obtaining the distance between the input audio signal and each template. The distance obtained here is given to the minimum distance search unit 152. The minimum distance search unit 152 is DP
Of the input audio signal obtained by the local distance calculation unit 141 and the distance between the templates, for searching for the template of the minimum distance. The label output unit 161 outputs the label of the template searched for by the minimum distance search unit 152. Output.
【0023】図3は図2の区間決定部181に構成を示
す図であり、同図において、182は加算部、183は
減算部である。区間決定部181は、図3に示すよう
に、帯域スペクトル強度計算部122の出力である入力
音響信号の帯域スペクトル強度Pi (iは帯域の番号を
示す)と環境雑音強度記憶部171に記憶されている環
境雑音強度Ni を加算部182で加算するとともに、減
算部183において減算し、区間〔Pi −Ni ,Pi +
Ni 〕を求める。FIG. 3 is a diagram showing the configuration of the section determination unit 181 of FIG. 2. In FIG. 3, reference numeral 182 denotes an addition unit, and 183 denotes a subtraction unit. As shown in FIG. 3, the section determination unit 181 stores the band spectrum intensity Pi (i indicates the number of the band) of the input audio signal output from the band spectrum intensity calculation unit 122 and the environmental noise intensity storage unit 171. The added environmental noise intensity Ni is added by the adding unit 182, and is subtracted by the subtracting unit 183 to obtain the section [Pi−Ni, Pi +
Ni].
【0024】図4は本実施例の動作を説明する図であ
り、同図において、同図(a)はあるフレームにおける
各帯域における帯域スペクトル強度の一例を示した図で
あり、同図(b)は横軸を時間t、縦軸を帯域スペクト
ル強度Pとした場合の、入力音響信号の帯域スペクトル
強度Pi と、帯域スペクトル強度Pi から環境雑音強度
Ni を減算した値Ai =Pi −Ni および帯域スペクト
ル強度Pi と環境雑音強度Ni を加算した値Bi =Pi
+Ni の関係の一例を示した図である。FIG. 4 is a diagram for explaining the operation of this embodiment. In FIG. 4, FIG. 4A shows an example of the band spectrum intensity in each band in a certain frame, and FIG. ) Is the band spectrum intensity Pi of the input audio signal when the horizontal axis represents time t and the vertical axis represents the band spectrum intensity P, and the value Ai = Pi−Ni obtained by subtracting the environmental noise intensity Ni from the band spectrum intensity Pi. The value Bi = Pi obtained by adding the spectrum intensity Pi and the environmental noise intensity Ni.
FIG. 9 is a diagram showing an example of the relationship of + Ni.
【0025】また、同図(c)は同図(b)を各帯域i
(同図において、各帯域はi=1ないしi=nとして示
されている)について示した図である。次に図2,図
3,図4を用いて、本実施例の動作を説明する。マイク
111により入力された音響信号はアナログ/デジタル
変換器112によりデジタル信号に変換され、FFT演
算部121に与えられる。FIG. 3C is a diagram corresponding to FIG.
(In the figure, each band is indicated as i = 1 to i = n). Next, the operation of this embodiment will be described with reference to FIGS. The acoustic signal input by the microphone 111 is converted into a digital signal by the analog / digital converter 112 and provided to the FFT operation unit 121.
【0026】FFT演算部121は入力された音響信号
をフレーム毎にフーリエ変換し、帯域スペクトル強度計
算部122において、予め決められている周波数帯域ご
とに、図4(a)に示すように帯域スペクトル強度を計
算する。この際、まず、音声が入力される以前の音響信
号より求めた帯域スペクトル強度を各帯域の雑音強度N
i として環境雑音強度記憶部171に記憶する。The FFT operation unit 121 performs a Fourier transform on the input acoustic signal for each frame, and a band spectrum intensity calculation unit 122 performs a band spectrum analysis for each predetermined frequency band as shown in FIG. Calculate the strength. At this time, first, the band spectrum intensity obtained from the acoustic signal before the sound is input is calculated as the noise intensity N of each band.
i is stored in the environmental noise intensity storage unit 171.
【0027】次いで、音声が入力されると、上記と同様
に、音声について各フレーム毎に帯域スペクトル強度P
i を計算する。帯域スペクトル強度計算部122におい
て計算された音声についての帯域スペクトル強度Piは
区間決定部181に与えられ、図3に示すように、環境
雑音強度記憶部171に格納されている環境雑音強度N
i との差および和より区間〔Pi −Ni ,Pi +Ni 〕
を求める。Next, when speech is input, the band spectrum intensity P
Calculate i. The band spectrum intensity Pi for the voice calculated by the band spectrum intensity calculation unit 122 is given to the section determination unit 181 and, as shown in FIG. 3, the environmental noise intensity N stored in the environmental noise intensity storage unit 171.
The interval [Pi-Ni, Pi + Ni] from the difference from i and the sum
Ask for.
【0028】図4(b)はPi −Ni (以下、Ai と記
す)とPi +Ni (以下、Bi と記す)とPi の時系列
を示した図であり、この区間〔Ai ,Bi 〕は、同図
(c)に示すように、各帯域1ないしnについて求めら
れる。区間決定部181において求めた区間は計算式決
定部142に与えられ、ここで、DP用局所距離計算部
141において用いられる計算式を、次の例1ないし例
4のいずれかの方法により決定する。FIG. 4 (b) is a diagram showing a time series of Pi-Ni (hereinafter, referred to as Ai), Pi + Ni (hereinafter, referred to as Bi), and Pi. In this section [Ai, Bi], As shown in FIG. 3C, the values are obtained for each of the bands 1 to n. The section determined by the section determination unit 181 is provided to the calculation formula determination unit 142, where the calculation formula used in the DP local distance calculation unit 141 is determined by any of the following Examples 1 to 4. .
【0029】ここで下式において、Ti はテンプレート
記憶部131に格納されているテンプレートの各帯域に
おける帯域スペクトル強度、Ai ,Bi は上記した区
間、Di は各帯域における局所距離である。 <例1> Ti <Ai OR Bi <Ti の場合 Di =(Ti −Pi )2 Ai ≦Ti ≦Bi の場合 Di =Ci 但しCi は定数 <例2> Ti <Ai OR Bi <Ti の場合 Di =(Ti −Pi )2 Ai ≦Ti ≦Bi の場合 Di =(Ti −Pi )2 ×Ci 但しCi は1より小さい定数 <例3> Ti <Ai OR Bi <Ti の場合 Di =(Ti −Pi )2 Ai ≦Ti ≦Bi の場合 Di =0 <例4> Ti <Ai の場合 Di =(Ai −Ti )2 Ai ≦Ti ≦Bi の場合 Di =0 Bi <Ti の場合 Di =(Ti −Bi )2 DP用局所距離計算部141は、テンプレート記憶部1
31に記憶されている各音声に対するテンプレートTi
を読み出し、上記例1ないし例4の式を用いて、各帯域
iにおける音声入力の帯域スペクトル強度と各音声に対
するテンプレートとの局所距離Di を求め、各帯域iに
ついての和ΣDi を計算することにより、局所距離ΣD
i を求める。In the following equation, Ti is the band spectrum intensity in each band of the template stored in the template storage unit 131, Ai and Bi are the above-mentioned sections, and Di is the local distance in each band. <Example 1> Ti <Ai OR Bi <Ti Di = (Ti-Pi) 2 Ai ≤ Ti ≤ Bi Di = Ci where Ci is a constant <Example 2> Ti <Ai OR Bi <Ti Di = (Ti−Pi) 2 Ai ≦ Ti ≦ Bi Di = (Ti−Pi) 2 × Ci where Ci is a constant smaller than 1. <Example 3> Di <(Ti−Pi) if Ti <AiORBi <Ti 2 Ai ≦ Ti ≦ Bi Di = 0 <Example 4> Ti <Ai Di = (Ai−Ti) 2 Ai ≦ Ti ≦ Bi Di = 0 Bi <Ti Di = (Ti−Bi) 2 The local distance calculation unit 141 for the DP
Template Ti for each voice stored in
Is read, the local spectrum Di between the template for each voice and the band spectral intensity of the voice input in each band i is calculated using the equations of Examples 1 to 4, and the sum ΣDi for each band i is calculated. , Local distance ΣD
Find i.
【0030】ここで、DP用局所距離計算部141にお
いて用いられる計算式が上記例1である場合、図4
(b)に示すように、テンプレートTi1がBi <Ti1の
場合には、距離Di は音声の帯域スペクトル強度Pi と
テンプレートTi1の差により算出され、また、例えば、
テンプレートTi2 が Ai ≦Ti2≦Bi の場合には距
離Di は一定距離Ci とされる。Here, when the calculation formula used in the DP local distance calculation unit 141 is the above example 1, FIG.
As shown in (b), when the template Ti1 is Bi <Ti1, the distance Di is calculated by the difference between the band spectrum intensity Pi of the voice and the template Ti1.
When the template Ti2 satisfies Ai≤Ti2≤Bi, the distance Di is a constant distance Ci.
【0031】そして、上記した距離Di は図4(c)に
示すように各周波数帯域iごとに求められるので、例え
ば、同図の帯域i=1に示すように雑音の帯域強度が強
い周波数帯域iにおいては局所距離Di が一定距離Ci
であるとする範囲が広くなり、また、例えば、同図の帯
域i=kに示すように雑音の帯域強度が弱い周波数帯域
iにおいては、局所距離Di が一定距離Ci であるとす
る範囲が狭くなることとなる。Since the above-mentioned distance Di is obtained for each frequency band i as shown in FIG. 4C, for example, as shown in the band i = 1 in FIG. For i, the local distance Di is a constant distance Ci
The range in which the local distance Di is a constant distance Ci is narrow in, for example, a frequency band i in which the band intensity of the noise is weak as indicated by the band i = k in FIG. It will be.
【0032】すなわち、テンプレートTi と入力音声の
帯域スペクトル強度Pi の距離が近い場合に、雑音の帯
域強度が強い帯域においては、距離Di を一定距離Ci
として厳密な距離計算を行わず、また、例えば、同図の
帯域i=kに示すように雑音の帯域強度が弱い周波数帯
域iにおいては、距離Di の計算を下式 Di =(Ti −Pi )2 により行うので、その総和ΣDi は、主として、雑音の
帯域強度の小さい帯域の距離により定まり、比較的雑音
の影響を受けない値となる。That is, when the distance between the template Ti and the band spectral intensity Pi of the input voice is short, in a band where the noise band intensity is strong, the distance Di is set to a certain distance Ci.
Strict distance calculation is not performed, and, for example, in a frequency band i where the band intensity of noise is weak as indicated by a band i = k in the figure, the calculation of the distance Di is performed by the following formula: Di = (Ti−Pi) 2 , the sum ΣDi is determined mainly by the distance of the band having a small noise band intensity, and is a value relatively unaffected by noise.
【0033】同様に、例2ないし例3の式を用いて局所
距離ΣDi を計算した場合も同様に理由により、比較的
雑音に影響されない局所距離を求めることが可能であ
る。以上のようにして求めた局所距離ΣDi はDP累積
距離計算部151に与えられ、ダイナミック・プログラ
ミングにより各テンプレートと入力音声の帯域スペクト
ルとの距離が求められる。Similarly, when the local distance ΣDi is calculated using the equations of Examples 2 and 3, it is possible to obtain a local distance relatively unaffected by noise for the same reason. The local distance ΣDi obtained as described above is provided to the DP cumulative distance calculation unit 151, and the distance between each template and the band spectrum of the input voice is obtained by dynamic programming.
【0034】すなわち、横軸を入力音声の時系列とし、
縦軸をテンプレートの時系列としたとき、縦軸と横軸に
より形成される各格子点にDP用局所距離計算部141
において求めた局所距離を当てはめ、局所距離の累積値
が最も小さくなる最適パスを求め、求めた最適パスの累
積距離を各テンプレートと入力音声の距離とする。最小
距離検索部152は、以上のようにして求めた累積距離
のうち、入力音声の帯域スペクトル強度とテンプレート
との距離が、最小距離となるテンプレートを検索し、検
索されたテンプレートのラベルをラベル出力部161よ
り出力する。That is, the horizontal axis is the time series of the input voice,
When the vertical axis is the time series of the template, the local distance calculation unit 141 for DP is added to each grid point formed by the vertical axis and the horizontal axis.
Is applied, the optimal path with the smallest cumulative value of the local distance is determined, and the cumulative distance of the determined optimal path is defined as the distance between each template and the input voice. The minimum distance search unit 152 searches the cumulative distance obtained as described above for a template in which the distance between the band spectral intensity of the input voice and the template is the minimum distance, and outputs the label of the searched template as a label. Output from the unit 161.
【0035】以上のように、本実施例においては、雑音
の帯域スペクトル強度と入力音声の帯域スペクトル強度
の和と差より区間を求め、この区間内にテンプレートが
入っている場合には局所距離が一定もしくは0として累
積距離を求めているので、比較的雑音に影響されること
なく、テンプレートと入力音声の距離を求めることがで
きる。As described above, in this embodiment, a section is obtained from the sum and difference between the band spectrum intensity of the noise and the band spectrum intensity of the input voice, and when the template is included in this section, the local distance is calculated. Since the cumulative distance is determined as being constant or 0, the distance between the template and the input voice can be determined relatively unaffected by noise.
【0036】なお、上記実施例においては、区間決定部
181における区間を〔Pi −Ni,Pi +Ni 〕とし
ているが、区間決定部において決定する区間は上記実施
例に限定されるものではなく、その他、例えば、〔Pi
−αNi ,Pi +αNi 〕、あるいは、関数F(x)を
用いて、〔F(Pi )−F(Ni ),F(Pi )+F
(Ni )〕等を用いることもできる。In the above embodiment, the section in the section determining unit 181 is [Pi−Ni, Pi + Ni]. However, the section determined in the section determining unit is not limited to the above embodiment. For example, [Pi
−αNi, Pi + αNi] or using the function F (x), [F (Pi) −F (Ni), F (Pi) + F
(Ni)] can also be used.
【0037】また、上記実施例では、入力音声の帯域ス
ペクトル強度とテンプレートの距離を求めることによ
り、音声を認識する例を示したが、本発明は上記実施例
に限定されるものではなく、入力音声の帯域スペクトル
強度とテンプレートの類似度(例えば、上記距離の逆
数)を用いて音声を認識することができる。さらに、上
記実施例においては、入力音声の帯域スペクトル強度と
テンプレートの距離を求める手段として、ダイナミック
・プログラミングを用いる例を示したが、本発明は上記
実施例に限定されるものではなく、その他、周知の手法
により距離もしくは類似度の計算を行うことができる。Further, in the above-described embodiment, an example has been described in which the voice is recognized by obtaining the band spectrum intensity of the input voice and the distance between the template. However, the present invention is not limited to the above-described embodiment. The speech can be recognized using the band spectrum intensity of the speech and the similarity of the template (for example, the reciprocal of the distance). Furthermore, in the above-described embodiment, an example is shown in which dynamic programming is used as means for determining the distance between the band spectrum intensity of the input voice and the template. However, the present invention is not limited to the above-described embodiment. The distance or the similarity can be calculated by a known method.
【0038】[0038]
【発明の効果】以上説明したことから明らかなように、
本発明においては、入力音声の帯域スペクトルと雑音の
帯域スペクトルの推定値よりパラメータを決定し、決定
されたパラメータを用いて、距離もしくは類似度計算手
段が、各々の帯域において、テンプレートの帯域スペク
トル強度が、パラメータとして決定される入力音声の帯
域スペクトルと雑音の帯域スペクトルの推定値に基づき
定まる区間内にあるか区間外にあるかにより、テンプレ
ートと入力音声信号の帯域スペクトルとの距離もしくは
類似度計算方法を変更して距離もしくは類似度を算出す
るように構成したので、帯域ごとの雑音の影響を考慮し
て距離もしくは類似度を計算することができ、背景雑音
が大きな環境下においても、充分な認識率を保持した音
声認識が可能となる。As is apparent from the above description,
In the present invention, parameters are determined from the estimated values of the band spectrum of the input voice and the band spectrum of the noise, and a distance or similarity calculation method is performed using the determined parameters.
The stage determines whether the band spectrum intensity of the template is within or outside the interval determined based on the estimated values of the band spectrum of the input voice and the band spectrum of the noise determined as parameters in each band. Since the distance or similarity is calculated by changing the distance or similarity calculation method with respect to the band spectrum of the input audio signal, the influence of noise for each band is taken into account. The distance or similarity can be calculated, and speech recognition with a sufficient recognition rate can be performed even in an environment with a large background noise.
【図1】本発明の原理図である。FIG. 1 is a principle diagram of the present invention.
【図2】本発明の実施例を示す図である。FIG. 2 is a diagram showing an embodiment of the present invention.
【図3】区間決定部の構成の一例を示す図である。FIG. 3 is a diagram illustrating an example of a configuration of a section determination unit.
【図4】本発明の実施例の動作を説明する図である。FIG. 4 is a diagram for explaining the operation of the embodiment of the present invention.
【図5】従来例を示す図である。FIG. 5 is a diagram showing a conventional example.
11 音入力手段 12 帯域スペクトル算出手段 13 テンプレート 14 距離/類似度計算手段 15 発声内容照合手段 16 認識結果出力手段 17 雑音帯域スペクトル推定手段 18 パラメータ決定手段 111 マイク 112 アナログ/デジタル変換器 121 FFT演算部 122 帯域スペクトル強度計算部 131 テンプレート記憶部 141 DP用局所距離計算部 142 計算式決定部 151 DP累積距離計算部 152 最小距離検索部 161 ラベル出力部 171 環境雑音強度記憶部 181 区間決定部 182 加算部 183 減算部 Reference Signs List 11 sound input means 12 band spectrum calculation means 13 template 14 distance / similarity calculation means 15 utterance content collation means 16 recognition result output means 17 noise band spectrum estimation means 18 parameter determination means 111 microphone 112 analog / digital converter 121 FFT calculation unit 122 Band spectrum intensity calculation unit 131 Template storage unit 141 Local distance calculation unit for DP 142 Calculation formula determination unit 151 DP cumulative distance calculation unit 152 Minimum distance search unit 161 Label output unit 171 Environmental noise intensity storage unit 181 Section determination unit 182 Addition unit 183 Subtraction unit
───────────────────────────────────────────────────── フロントページの続き (56)参考文献 特開 平5−73090(JP,A) 特開 昭61−100878(JP,A) 特開 昭61−65299(JP,A) 特開 昭59−99497(JP,A) 特公 平2−4920(JP,B2) 特表 昭63−502304(JP,A) 米国特許4630305(US,A) (58)調査した分野(Int.Cl.7,DB名) G10L 15/00 - 17/00 WPI(DIALOG)──────────────────────────────────────────────────続 き Continuation of the front page (56) References JP-A-5-73090 (JP, A) JP-A-61-100878 (JP, A) JP-A-61-65299 (JP, A) JP-A-59-1985 99497 (JP, A) JP 2-4920 (JP, B2) JP-T-63-502304 (JP, A) US Patent 4630305 (US, A) (58) Fields investigated (Int. Cl. 7 , DB) Name) G10L 15/00-17/00 WPI (DIALOG)
Claims (6)
力手段と、 音入力手段から入力された音声信号より帯域スペクトル
を算出する帯域スペクトル算出手段と、 テンプレートと入力音声信号の帯域スペクトルとの距離
を算出する距離計算手段と、距離 計算手段により計算された距離に基づき発声内容を
照合する発声内容照合手段と、 発声内容照合手段により照合された結果を認識結果とし
て出力する認識結果出力手段とを備えた音声認識装置に
おいて、 音声入力時に混入される雑音の帯域スペクトルを推定す
る雑音帯域スペクトル推定手段と、 入力音声の帯域スペクトルと雑音の帯域スペクトルの推
定値よりパラメータを決定するパラメータ決定手段とを
設け、 上記パラメータ決定手段により決定されたパラメータを
用いて、上記距離計算手段は、各々の帯域において、テ
ンプレートの帯域スペクトル強度が、パラメータとして
決定される入力音声の帯域スペクトルと雑音の帯域スペ
クトルの推定値に基づき定まる区間内にあるか区間外に
あるかにより、テンプレートと入力音声信号の帯域スペ
クトルとの距離計算方法を変更して距離を算出し、雑音
の混入した音声信号を認識することを特徴とする音声認
識装置。1. A sound input means for inputting an audio signal mixed with noise, a band spectrum calculating means for calculating a band spectrum from an audio signal input from the sound input means, and a band spectrum of a template and an input audio signal. distance
A distance calculation means for calculating a voicing content collating means for collating the utterance contents based on the calculated distances by the distance calculating means and the recognition result output means for outputting the result of the collation by the utterance contents matching means as a recognition result A speech recognition apparatus comprising: a noise band spectrum estimating means for estimating a band spectrum of noise mixed at the time of speech input; and a parameter determining means for determining parameters from an estimated value of the band spectrum of the input speech and the band spectrum of the noise. provided, using the parameters determined by the parameter determining means, said distance calculation means, in each band, Te
The band spectral intensity of the template
Determined input speech band spectrum and noise band spectrum
Within or outside the section determined based on the estimated value of
Depending on whether or not there is
A speech recognition apparatus characterized in that a distance is calculated by changing a distance calculation method with respect to a vector, and a speech signal containing noise is recognized.
力手段と、 音入力手段から入力された音声信号より帯域スペクトル
を算出する帯域スペクトル算出手段と、 テンプレートと入力音声信号の帯域スペクトルとの類似
度を算出する類似度計算手段と、 類似度計算手段により計算された類似度に基づき発声内
容を照合する発声内容照合手段と、 発声内容照合手段により照合された結果を認識結果とし
て出力する認識結果出 力手段とを備えた音声認識装置に
おいて 、音声入力時に混入される雑音の帯域スペクトルを推定す
る雑音帯域スペクトル推定手段と、 入力音声の帯域スペクトルと雑音の帯域スペクトルの推
定値よりパラメータを決定するパラメータ決定手段とを
設け 、 パラメータ決定手段により決定されたパラメータを用い
て、上記類似度計算手段は、各々の帯域において、テン
プレートの帯域スペクトル強度が、パラメータとして決
定される入力音声の帯域スペクトルと雑音の帯域スペク
トルの推定値に基づき定まる区間内にあるか区間外にあ
るかにより、テンプレートと入力音声信号の帯域スペク
トルとの類似度計算方法を変更し、類似度を算出し、雑
音の混入した音声信号を認識することを特徴とする音声
認識装置。2. A sound input for inputting an audio signal mixed with noise.
Band spectrum from the sound signal input from the input means and the sound input means.
Band spectrum calculating means for calculating the band spectrum of the template and the input voice signal
Similarity calculating means for calculating the degree of similarity, and the similarity calculated by the similarity calculating means .
The utterance content collating means for collating the contents and the result collated by the utterance content collation means are regarded as the recognition result.
The speech recognition apparatus and a recognition result output means for outputting Te
To estimate fraud and mitigating risk band spectrum of the noise to be mixed at the speech input
Noise band spectrum estimating means for estimating the band spectrum of the input speech and the band spectrum of the noise.
Parameter determining means for determining a parameter from a fixed value
Provided, using the parameters determined by the parameter determining means, the similarity calculation means, in each band, the band spectrum intensity template, the estimation of the band spectrum of band spectrum and noise of the input speech is determined as a parameter Change the method of calculating the similarity between the template and the band spectrum of the input audio signal depending on whether it is within the interval determined based on the value or outside the interval, calculate the similarity, and recognize the audio signal mixed with noise A speech recognition device characterized by the following.
域スペクトル強度が、パラメータとして決定される入力
音声の帯域スペクトルと雑音の帯域スペクトルの推定値
に基づき定まる区間内にある場合に、テンプレートと入
力音声信号の帯域スペクトルとの距離を一定値とする距
離計算手段を有することを特徴とする請求項1の音声認
識装置。3. In each band, when the band spectrum intensity of the template is within an interval determined based on the estimated values of the band spectrum of the input voice and the band spectrum of the noise determined as parameters, the template and the input voice signal 2. A speech recognition apparatus according to claim 1 , further comprising a distance calculating means for setting a distance from the band spectrum to a constant value.
域スペクトル強度が、パラメータとして決定される入力
音声の帯域スペクトルと雑音の帯域スペクトルの推定値
に基づき定まる区間内にある場合に、テンプレートと入
力音声信号の帯域スペクトルとの類似度を一定値とする
類似度計算手段を有することを特徴とする請求項2の音
声認識装置。4. In each band, when the band spectrum intensity of the template is within an interval determined based on the estimated values of the band spectrum of the input voice and the band spectrum of the noise determined as parameters, the template and the input voice signal 3. A speech recognition apparatus according to claim 2 , further comprising a similarity calculating means for setting a similarity with the band spectrum of the predetermined value to a constant value.
域スペクトル強度が、パラメータとして決定される入力
音声の帯域スペクトルと雑音の帯域スペクトルの推定値
に基づき定まる区間内にある場合に、テンプレートと入
力音声信号の帯域スペクトルとの距離を0とする距離計
算手段を有することを特徴とする請求項1の音声認識装
置。5. In each band, when the band spectrum intensity of the template is within a section determined based on the estimated values of the band spectrum of the input voice and the band spectrum of the noise determined as parameters, the template and the input voice signal 2. The speech recognition apparatus according to claim 1 , further comprising a distance calculation unit that sets a distance from the band spectrum to 0.
ペクトルと雑音の帯域スペクトルの推定値との和および
差に基づきパラメータとしての区間を決定するパラメー
タ決定手段を有することを特徴とする請求項1,2,
3,4または請求項5の音声認識装置。6. Each of the band, according to claim characterized by having a parameter determining means for determining an interval as a parameter on the basis of the sum and the difference between the estimated value of the band spectrum of band spectrum and the noise of the input speech 1 , 2,
The speech recognition device according to claim 3, 4, or 5 .
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP04126278A JP3107905B2 (en) | 1992-05-19 | 1992-05-19 | Voice recognition device |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP04126278A JP3107905B2 (en) | 1992-05-19 | 1992-05-19 | Voice recognition device |
Publications (2)
Publication Number | Publication Date |
---|---|
JPH05323994A JPH05323994A (en) | 1993-12-07 |
JP3107905B2 true JP3107905B2 (en) | 2000-11-13 |
Family
ID=14931255
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP04126278A Expired - Fee Related JP3107905B2 (en) | 1992-05-19 | 1992-05-19 | Voice recognition device |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3107905B2 (en) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101662569B1 (en) | 2014-07-16 | 2016-10-06 | 주식회사 비앤씨 | Learning device for children |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115173971B (en) * | 2022-07-08 | 2023-10-03 | 电信科学技术第五研究所有限公司 | Broadband signal real-time detection method based on frequency spectrum data |
-
1992
- 1992-05-19 JP JP04126278A patent/JP3107905B2/en not_active Expired - Fee Related
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101662569B1 (en) | 2014-07-16 | 2016-10-06 | 주식회사 비앤씨 | Learning device for children |
Also Published As
Publication number | Publication date |
---|---|
JPH05323994A (en) | 1993-12-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Gonzalez et al. | PEFAC-A pitch estimation algorithm robust to high levels of noise | |
US8428945B2 (en) | Acoustic signal classification system | |
JP2692581B2 (en) | Acoustic category average value calculation device and adaptation device | |
US8135586B2 (en) | Method and apparatus for estimating noise by using harmonics of voice signal | |
US5749068A (en) | Speech recognition apparatus and method in noisy circumstances | |
US20080069364A1 (en) | Sound signal processing method, sound signal processing apparatus and computer program | |
US8036884B2 (en) | Identification of the presence of speech in digital audio data | |
US20060253285A1 (en) | Method and apparatus using spectral addition for speaker recognition | |
KR20010040669A (en) | System and method for noise-compensated speech recognition | |
JPH01296299A (en) | Speech recognizing device | |
JP2969862B2 (en) | Voice recognition device | |
US7236930B2 (en) | Method to extend operating range of joint additive and convolutive compensating algorithms | |
JP3107905B2 (en) | Voice recognition device | |
Quast et al. | Robust pitch tracking in the car environment | |
US7043430B1 (en) | System and method for speech recognition using tonal modeling | |
JPWO2003107326A1 (en) | Speech recognition method and apparatus | |
JPS60114900A (en) | Voice/voiceless discrimination | |
JP2817429B2 (en) | Voice recognition device | |
JP4325044B2 (en) | Speech recognition system | |
JPH09258783A (en) | Voice recognizing device | |
JPH11327593A (en) | Voice recognition system | |
JPH04264596A (en) | Voice recognizing method in noisy enviroment | |
JP2966460B2 (en) | Voice extraction method and voice recognition device | |
EP3956890B1 (en) | A dialog detector | |
JPH11154000A (en) | Noise suppressing device and speech recognition system using the same |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20000829 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20080908 Year of fee payment: 8 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20080908 Year of fee payment: 8 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090908 Year of fee payment: 9 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090908 Year of fee payment: 9 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100908 Year of fee payment: 10 |
|
LAPS | Cancellation because of no payment of annual fees |