JPH08320454A - Image display device - Google Patents
Image display deviceInfo
- Publication number
- JPH08320454A JPH08320454A JP7315641A JP31564195A JPH08320454A JP H08320454 A JPH08320454 A JP H08320454A JP 7315641 A JP7315641 A JP 7315641A JP 31564195 A JP31564195 A JP 31564195A JP H08320454 A JPH08320454 A JP H08320454A
- Authority
- JP
- Japan
- Prior art keywords
- image
- sound
- environmental
- display
- display device
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Landscapes
- Liquid Crystal Display Device Control (AREA)
- Controls And Circuits For Display Device (AREA)
Abstract
Description
【0001】[0001]
【発明の属する技術分野】本発明は、画像表示装置に関
し、より詳細には液晶ディスプレイをレンズで拡大して
使用する頭部搭載型ディスプレイ(Head Moun
ted Display:以下、HMDと略す)に関す
る。BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to an image display device, and more particularly, to a head mounted display (Head Mount) in which a liquid crystal display is magnified and used with a lens.
ted Display: hereinafter abbreviated as HMD).
【0002】例えば、テレビやビデオの視聴、立体画像
の観賞、バーチャルリアリティーのディスプレイ、テレ
ビゲームのモニター、コンピュータ入力のモニター等に
利用されるものである。For example, it is used for watching television and video, watching stereoscopic images, displaying virtual reality, monitor for video game, monitor for computer input, and the like.
【0003】[0003]
【従来の技術】近年、液晶ディスプレイの小型化に伴
い、HMDの研究が盛んになってきている。例えば、図
20は従来のHMDの構成概略図であり、図中、131
は拡大レンズ、132は視野絞り、133は液晶ディス
プレイ、134はバックライトである。これらは、ケー
スに納められ、観賞者はレンズにより拡大された液晶デ
ィスプレイを観賞することができる。2. Description of the Related Art In recent years, with the miniaturization of liquid crystal displays, research on HMDs has become active. For example, FIG. 20 is a schematic configuration diagram of a conventional HMD.
Is a magnifying lens, 132 is a field stop, 133 is a liquid crystal display, and 134 is a backlight. These are housed in a case, and the viewer can watch the liquid crystal display magnified by the lens.
【0004】また、前記HMDは液晶ディスプレイの有
効表示部分だけが見えるように、その周辺部は黒色の視
野絞りによって覆われていた。従って、観賞者からは、
図21に示すように、暗黒のなかにスクリーンが浮かん
でいるように見える装置となっていた。Further, the HMD has its peripheral portion covered with a black field stop so that only the effective display portion of the liquid crystal display can be seen. Therefore, from the viewer,
As shown in FIG. 21, the device was such that the screen seemed to float in the dark.
【0005】しかし、前記のようなHMDによる鑑賞で
は以下のような問題が生じる。However, the following problems occur in viewing with the HMD as described above.
【0006】第1に、ディスプレイの視野の周辺と中心
との輝度差が大きいため、目の疲労が生じる。第2に、
HMD着装中は観賞者自身の周囲の状況は全く見えない
ため、部屋でスクリーンを見る場合のような周囲の雰囲
気が失われる。First, since the difference in brightness between the periphery and the center of the visual field of the display is large, eye fatigue occurs. Second,
Since the viewer's surroundings are completely invisible while wearing the HMD, the atmosphere of the surroundings as when looking at the screen in the room is lost.
【0007】そこで、前記問題の解決のため、例えば図
22に示すように、液晶ディスプレイの周辺部に環境映
像を設けて、あたかも部屋の中でスクリーンに映る映画
を見ているかのごとく認識させる装置がある。この環境
映像を有するHMDにより、ディスプレイとディスプレ
イ周辺との輝度差がなくなり、目が疲れにくくなる、デ
ィスプレイの大きさを評価する手がかりが与えられる、
映像を見る場所の雰囲気が楽しめ、臨場感が増加すると
いったメリットがある。Therefore, in order to solve the above-mentioned problem, for example, as shown in FIG. 22, a device for providing an environmental image on the periphery of a liquid crystal display so that the user can recognize the movie as if it is watching a movie on the screen in the room. There is. The HMD having this environmental image eliminates the difference in brightness between the display and the periphery of the display, reduces eye fatigue, and provides a clue for evaluating the size of the display.
There are merits that you can enjoy the atmosphere of the place where you watch the video and increase the sense of presence.
【0008】[0008]
【発明が解決しようとする課題】しかしながら、上述の
ような環境映像を備えたHMDにおいても、環境映像は
変化しないため、上述の環境映像のメリットが失われる
場合が生じる。However, even in the HMD having the above-described environment image, the environment image does not change, and thus the advantage of the environment image may be lost.
【0009】例えば、ディスプレイの輝度は常に一定で
はなく様々に変化するため、環境映像の輝度もそれに応
じて変化しないと、ディスプレイと環境映像との間に大
きな輝度差が生まれる場合も生じる。そのため、目の疲
労を軽減するといったメリットが失われる。For example, since the brightness of the display is not always constant and changes in various ways, if the brightness of the environmental image does not change accordingly, a large brightness difference may occur between the display and the environmental image. Therefore, the merit of reducing eye fatigue is lost.
【0010】また、観賞者がHMDを装着、脱着する時
の部屋の明るさと、HMDの視野との間に輝度差がある
場合、過度な知覚変化が生じ観賞者の目が疲労するとい
った問題点も有している。Further, if there is a brightness difference between the brightness of the room when the viewer wears and removes the HMD and the visual field of the HMD, an excessive change in perception occurs and the eyes of the viewer are tired. I also have.
【0011】さらに、ディスプレイは変化していくにも
関わらず、環境映像が何も変化しなければ、全体的印象
が退屈なものになり、観賞者の臨場感を高めるには不十
分である。よって、臨場感を高めるメリットも失われ
る。Further, even if the display changes, if the environmental image does not change, the overall impression becomes dull, which is not enough to enhance the presence of the viewer. Therefore, the merit of enhancing the sense of presence is also lost.
【0012】そしてまた、人間の臨場感や迫力といった
ものは、視聴覚の相互作用によって生じるものである
が、ディスプレイに映像、音声が提示されていない時
は、環境映像による視覚のみの提示となってしまい、こ
のような場合には、臨場感が失われてしまうという問題
がある。[0012] Furthermore, human presence and force are caused by the interaction of audiovisual senses, but when no image or sound is presented on the display, only the visual image is presented by the environmental image. In such a case, there is a problem that the sense of presence is lost.
【0013】さらに、HMDの問題点の一つとして、H
MD装着時の周辺状況の把握が困難であることがあげら
れる。一般的なHMDにおいては、ディスプレイの映
像、音声に没入して楽しめるように、外界が見えないよ
うにしてディスプレイ映像だけが見えるように、及びヘ
ッドフォンからディスプレイの音声を提示して外界から
の雑音は聞こえないようにしていたので、ディスプレイ
鑑賞者は外界が知覚できず、周囲で何が起こっているの
かが分からないため、例えば、他人から声を掛けられた
り、電話等の呼出音が鳴っても、気が付かないという問
題点を有している。Furthermore, as one of the problems of HMD, H
One of the reasons is that it is difficult to grasp the surrounding conditions when mounting the MD. In a typical HMD, you can immerse yourself in the video and audio on the display, keep the outside world invisible and only see the display image, and present the audio on the display from your headphones to avoid external noise. Since I was not able to hear it, the viewer of the display could not perceive the outside world and did not know what was happening in the surroundings.For example, even if someone called me or a ringing tone such as a telephone ringed However, it has a problem that it is not noticed.
【0014】本発明は前記課題を解決するためになされ
たものであり、本来、環境映像のもつ特徴である目の疲
労の軽減、臨場感の増加といったメリットをさらに向上
させ、且つ装着時の周囲状況の把握も可能とした画像表
示装置を提供することを目的とする。The present invention has been made in order to solve the above-mentioned problems, and further improves the merit such as reduction of eye fatigue and increase of the sense of presence, which are features of the environmental image, and the surroundings at the time of wearing. An object of the present invention is to provide an image display device capable of grasping the situation.
【0015】[0015]
【課題を解決するための手段】本願第1の発明に係る画
像表示装置は、前記問題点を解決するためになされたも
のであり、映像を表示するディスプレイ及び前記ディス
プレイの周辺部に配置された映像(以下、環境映像)を
拡大して鑑賞する画像表示装置において、ディスプレイ
観賞者の該画像表示装置の使用状況、例えば、HMDの
液晶ディスプレイの輝度、HMD使用者の周囲の部屋の
明るさ、スピーカーからの音量や音周波数、等の状況を
検出する状況検出手段を備えたことを特徴とする。The image display device according to the first invention of the present application is made in order to solve the above-mentioned problems, and is arranged in a display for displaying an image and a peripheral portion of the display. In an image display device for enlarging and viewing an image (hereinafter, environmental image), a usage situation of the image display device of a display viewer, for example, brightness of a liquid crystal display of an HMD, brightness of a room around the HMD user, It is characterized in that it is provided with a situation detecting means for detecting the situation such as the volume and sound frequency from the speaker.
【0016】また、本願第2の発明に係る画像表示装置
は、映像を表示するディスプレイ及び前記ディスプレイ
の周辺部に配置された環境映像を拡大して鑑賞する画像
表示装置において、前記状況検出手段によって検出され
た状況に応じて、前記環境映像を変化させる画像変化手
段を備えたことを特徴とする。The image display device according to the second invention of the present application is the image display device for enlarging and viewing an image displayed on the display and an environmental image arranged in the peripheral portion of the display. It is characterized by further comprising image changing means for changing the environmental image according to the detected situation.
【0017】さらに、前記状況検出手段は、前記ディス
プレイもしくはディスプレイ観賞者の周囲の光量もしく
は輝度を検出し、前記画像変化手段は前記光量もしくは
輝度に応じて、環境映像の光量を変化させることを特徴
とする。また、前記状況検出手段は、前記ディスプレイ
もしくはディスプレイ観賞者の周囲の音量もしくは音を
検出し、前記画像変化手段は、前記音量もしくは音に応
じて、環境映像の光量を変化させることを特徴とする。
また、前記状況検出手段は、前記ディスプレイもしくは
ディスプレイ観賞者の周囲の光量もしくは輝度を検出
し、前記画像変化手段は、前記光量もしくは輝度に応じ
て、環境映像の色調を変化させることを特徴とする。ま
た、前記状況検出手段は、前記ディスプレイもしくはデ
ィスプレイ観賞者の周囲の音量もしくは音を検出し、前
記画像変化手段は、前記音量もしくは音に応じて、環境
映像の色調を変化させることを特徴とする。Further, the situation detecting means detects the light amount or the brightness around the display or the viewer of the display, and the image changing means changes the light amount of the environmental image according to the light amount or the brightness. And Further, the situation detecting means detects the volume or sound around the display or a viewer of the display, and the image changing means changes the light amount of the environmental image according to the volume or sound. .
Further, the situation detecting means detects the amount of light or brightness around the display or a viewer of the display, and the image changing means changes the color tone of the environmental image according to the amount of light or brightness. . Further, the situation detecting means detects a volume or a sound around the display or a viewer of the display, and the image changing means changes a color tone of the environmental image according to the volume or the sound. .
【0018】すなわち、本発明の画像表示装置において
は、液晶ディスプレイに映し出される映像の輝度あるい
は光量、色調、または映像に伴う音、音の周波数、さら
には液晶ディスプレイ鑑賞者の外周囲の状況などの変化
を検出して、その検出結果を液晶ディスプレイの周囲に
配置された環境映像の輝度、光量、色調などに反映させ
ることができるようになる。That is, in the image display device of the present invention, the brightness or light amount of the image displayed on the liquid crystal display, the color tone, the sound accompanying the image, the frequency of the sound, and the surroundings of the viewer of the liquid crystal display. The change can be detected and the detection result can be reflected on the brightness, the light amount, the color tone, and the like of the environmental image arranged around the liquid crystal display.
【0019】そのため、画像表示装置の鑑賞者、特にH
MD着装者は、従来に比べて、液晶ディスプレイと環境
映像、或は、観賞者の周囲の明るさとHMDの視野の輝
度との間に極端な輝度差、光量差がなくなり、観賞者の
ディスプレイ観賞時やHMDの装脱着時の目の疲労を減
少させることができるようになる。Therefore, the viewer of the image display device, especially H
Compared with the conventional method, the MD wearer can eliminate the extreme brightness difference and light amount difference between the liquid crystal display and the environmental image or the brightness of the surroundings of the viewer and the brightness of the visual field of the HMD, so that the viewer can watch the display. It becomes possible to reduce eye fatigue when wearing or removing the HMD.
【0020】更に、液晶ディスプレイの映像、音によっ
て環境映像の輝度を変化させ、環境映像と液晶ディスプ
レイの映像とをシンクロさせることが可能であるため、
観賞者は、従来の画像提示装置、特に従来のHMDより
高い臨場感を得ることが可能となる。Furthermore, since it is possible to change the brightness of the environment image by the image and sound of the liquid crystal display and synchronize the environment image and the image of the liquid crystal display,
The viewer can obtain a higher sense of presence than the conventional image presentation device, especially the conventional HMD.
【0021】また、本願第3の発明に係る画像表示装置
は、映像を表示するディスプレイ及び前記ディスプレイ
の周辺部に配置された環境映像を拡大して鑑賞する画像
表示装置において、前記環境映像に応じた環境音を提示
する環境音提示手段を備えたことを特徴とする。The image display device according to the third invention of the present application is a display for displaying an image and an image display device for enlarging and viewing an environmental image arranged in the peripheral portion of the display according to the environmental image. It is characterized by comprising an environmental sound presenting means for presenting the environmental sound.
【0022】さらに、前記環境音提示手段は、前記ディ
スプレイの音声と前記環境音とを合成して出力すること
を特徴とする。また、前記環境音提示手段は、前記ディ
スプレイの音声と前記環境音とをそれぞれ個別に出力す
ることを特徴とする。また、前記環境音提示手段は、前
記ディスプレイの音声の有無を検出し、それに応じて前
記ディスプレイの音声と前記環境音とを切替選択して出
力するすることを特徴とする。Further, the environmental sound presenting means synthesizes the sound of the display and the environmental sound and outputs the synthesized sound. Further, the environmental sound presenting means outputs the sound of the display and the environmental sound separately. Further, the environmental sound presenting means detects presence or absence of sound of the display, and switches and outputs the sound of the display and the environmental sound according to the presence or absence of the sound.
【0023】このため、本発明の画像表示装置の場合、
鑑賞者は環境映像と環境音との視聴覚相互作用から、従
来の画像表示装置、特に従来のHMDより高い臨場感を
得ることが可能となる。また、鑑賞者はディスプレイの
音声がある場合は該ディスプレイの音声を、ディスプレ
イの音声がない場合は環境音を楽しむことができる。さ
らに、これをディスプレイの音声の有無によって切り替
えることにより、環境音に妨害されることなくディスプ
レイの音声を楽しむことができる。Therefore, in the case of the image display device of the present invention,
The viewer can obtain a higher sense of presence than the conventional image display device, especially the conventional HMD, from the audiovisual interaction between the environmental video and the environmental sound. Further, the viewer can enjoy the sound of the display when there is sound from the display, and the environmental sound when there is no sound from the display. Further, by switching this depending on the presence or absence of the sound on the display, the sound on the display can be enjoyed without being disturbed by the environmental sound.
【0024】そしてまた、本願第4の発明に係る画像表
示装置は、映像を表示するディスプレイ及び前記ディス
プレイの周辺部に配置された環境映像を拡大して鑑賞す
る画像表示装置において、前記ディスプレイもしくはデ
ィスプレイ鑑賞者の周囲の音を検出し、その中から特定
の音を選択して、環境音とともに出力する環境音提示手
段を備えたことを特徴とする。The image display apparatus according to the fourth aspect of the present invention is the display for displaying an image and the image display apparatus for enlarging and viewing an environmental image arranged in the periphery of the display, wherein the display or the display is used. The present invention is characterized by including an environmental sound presenting means for detecting a sound around the viewer, selecting a specific sound from the sounds, and outputting the selected sound together with the environmental sound.
【0025】これによって、ディスプレイ鑑賞者は、周
囲の特定の音を環境音として聴覚できるので、常に周り
の状況を把握することが可能となる。As a result, the viewer of the display can perceive a specific sound in the surroundings as an environmental sound, and thus can always grasp the surroundings.
【0026】[0026]
【発明の実施の形態】以下、図面に基づいて本発明の実
施態様を説明する。図1は本発明による画像表示装置を
バーチャルリアリティー等に用いるHMDに応用した一
つの実施態様の構成概略図である。図1中、11は拡大
レンズ、12は環境映像用スライド、13は環境映像用
バックライト、14は液晶ディスプレイ、15は液晶デ
ィスプレイ用バックライト、16は液晶ディスプレイの
光量センサー、17は光量変更装置、18はヘッドフォ
ンスピーカーである。BEST MODE FOR CARRYING OUT THE INVENTION Embodiments of the present invention will be described below with reference to the drawings. FIG. 1 is a schematic configuration diagram of one embodiment in which the image display device according to the present invention is applied to an HMD used for virtual reality or the like. In FIG. 1, 11 is a magnifying lens, 12 is an environment image slide, 13 is an environment image backlight, 14 is a liquid crystal display, 15 is a liquid crystal display backlight, 16 is a light amount sensor of the liquid crystal display, and 17 is a light amount changing device. , 18 are headphone speakers.
【0027】図22は図1に示したHMDの液晶ディス
プレイ観賞者から見た視野を示した図である。図22に
おいて、中央部分には液晶ディスプレイの映像が、その
周辺には環境映像用スライドが見える。ここで、図1に
示す液晶ディスプレイ用の光量センサー16は拡大レン
ズ11の視野外にあるため、ディスプレイの視野を遮る
ことはない。このように、環境映像を用いると、従来の
装置と同様に、あたかも部屋で映画を見ているごとくに
知覚される。FIG. 22 is a view showing a field of view seen by a viewer of the liquid crystal display of the HMD shown in FIG. In FIG. 22, an image on the liquid crystal display can be seen in the central portion, and an environmental image slide can be seen around the image. Here, since the light amount sensor 16 for liquid crystal display shown in FIG. 1 is outside the field of view of the magnifying lens 11, it does not block the field of view of the display. In this way, the environment image is perceived as if a movie is being watched in a room, as in the case of a conventional device.
【0028】図2は本発明の特徴部分である状況検出手
段の構成例を示す部分拡大図であり、図3は画像変化手
段である光量変更装置を示す機能ブロック図である。図
中、21は拡大レンズ、22は光量センサー、23は環
境映像用スライド及び液晶ディスプレイを含む表示装置
である。図3における光量変更装置35は、状況検出手
段であるセンサー31からの液晶ディスプレイの輝度デ
ータと、現在のバックライトの光量34を比較し、光量
をアップするか、ダウンするかを決定する判定部32及
び、判定部からの要請により、環境映像用バックライト
光量をコントロールする調光部33より構成される。FIG. 2 is a partially enlarged view showing a configuration example of the situation detecting means which is a characteristic part of the present invention, and FIG. 3 is a functional block diagram showing a light quantity changing device which is an image changing means. In the figure, 21 is a magnifying lens, 22 is a light amount sensor, and 23 is a display device including an environment image slide and a liquid crystal display. The light quantity changing device 35 in FIG. 3 compares the brightness data of the liquid crystal display from the sensor 31 which is the situation detecting means with the current light quantity 34 of the backlight, and decides whether to increase or decrease the light quantity. 32, and a dimming unit 33 that controls the light amount of the backlight for the environmental image according to a request from the determination unit.
【0029】図4は図3に示す判定部32の制御動作の
フローチャートを示す図である。図4に示すように、ス
テップ(以下、Sと略す)42でセンサー部から液晶デ
ィスプレイの輝度、光量データが入力され、S43でそ
のデータが現在の環境映像のバックライトの光量データ
と同じであるか否かの判定を行う。同じである場合には
何の調整もせずS41に戻り、異なる場合にはS44で
液晶ディスプレイの光量が、環境映像のバックライトよ
りも高いか否かの判定がなされる。液晶ディスプレイが
環境映像より明るい場合には、S45で環境映像の光量
アップの、暗い場合はS46で環境映像の光量ダウンの
命令が調光部に要請されることにより光量の調整を行
う。FIG. 4 is a diagram showing a flow chart of the control operation of the judging section 32 shown in FIG. As shown in FIG. 4, in step (hereinafter abbreviated as S) 42, the brightness and light amount data of the liquid crystal display is input from the sensor unit, and in S43, the data is the same as the light amount data of the backlight of the current environmental image. It is determined whether or not. If they are the same, no adjustment is made and the process returns to S41. If they are different, it is determined in S44 whether the light amount of the liquid crystal display is higher than the backlight of the environmental image. When the liquid crystal display is brighter than the environmental image, the light amount is adjusted by requesting the light control section to increase the light amount of the environmental image in S45 and to decrease the light amount of the environmental image in S46 when the liquid crystal display is dark.
【0030】以上のように、光量変更装置の判定部は送
られてきた光量データをもとに環境映像用バックライト
の光量を決定し、調光部に伝え、環境映像用バックライ
トの光量に反映する。この構成によって、環境映像と液
晶ディスプレイとの輝度差を無くすことができ、観賞者
は目の疲れが無い映像を楽しむことができる。As described above, the determination unit of the light intensity changing device determines the light intensity of the environmental image backlight based on the transmitted light intensity data and informs the light control unit of the light intensity of the environmental image backlight. reflect. With this configuration, the difference in brightness between the environmental image and the liquid crystal display can be eliminated, and the viewer can enjoy the image without eye strain.
【0031】また、この状況検出手段を備える位置を変
えることにより、前記実施例と異なる状況検出が可能と
なる装置を得ることもできる。例えば、図5に示すよう
に、HMDの外周囲の光量を測定するように光量センサ
ー56を設置し、その光量データを図3、4と同じよう
に処理することによって、液晶ディスプレイ観賞者の周
りの明るさと同じ明るさに、環境映像の輝度を変化させ
ることが可能である。Further, by changing the position at which the situation detecting means is provided, it is possible to obtain an apparatus capable of detecting a situation different from that of the above embodiment. For example, as shown in FIG. 5, a light amount sensor 56 is installed so as to measure the light amount around the outside of the HMD, and the light amount data is processed in the same manner as in FIGS. It is possible to change the brightness of the environmental image to the same brightness as the brightness of.
【0032】図5において、光量センサーの位置および
何を検出しているかが、図1と異なるのみで、その他の
構成は図1に示すものとほぼ同様である。つまり、観賞
者の周りの明るさを検出する装置を備え、観賞者の周り
の明るさに応じて環境映像の明るさを変化させる構成に
より、液晶ディスプレイ観賞者がHMDを使用しようと
した時、その部屋と同じ明るさの雰囲気、例えば、暗い
部屋で見た時は暗い雰囲気の環境映像でディスプレイ映
像を楽しむことができる。In FIG. 5, the position of the light amount sensor and what is detected are different from those in FIG. 1, and other configurations are almost the same as those shown in FIG. That is, when a device for detecting the brightness around the viewer is used and the brightness of the environmental image is changed according to the brightness around the viewer, when the viewer of the liquid crystal display tries to use the HMD, The display image can be enjoyed in an environment image of the same brightness as that of the room, for example, in a dark room when viewed in a dark environment.
【0033】さらに、観賞者がHMDをはずす時にも部
屋の明るさと同じ輝度の環境映像を得ることができるた
め、目に過度な知覚変化をもたらすことなく、目の疲労
を軽減させることができる。さらには、観賞者はHMD
使用中の周囲の明るさの状況を環境映像の輝度から知る
ことができるために、ある程度の周囲の状況認知が可能
となる。例えば、HMDを装着中時には、視野全体が装
置に覆われてしまうため、その部屋に誰かが入って来
て、暗い部屋の照明を明るくした等の自分の周囲の状況
を全く分からなかったが、本発明によれば、自分の周囲
の状況をHMD装着時にもある程度知ることが可能とな
る。Further, even when the viewer removes the HMD, an environmental image having the same brightness as the room brightness can be obtained, so that eye fatigue can be reduced without causing an excessive perceptual change in the eyes. Furthermore, the viewer is HMD
Since it is possible to know the surrounding brightness condition during use from the brightness of the environmental image, it is possible to recognize the surrounding condition to some extent. For example, while wearing the HMD, the entire field of view is covered by the device, so someone came into the room and could not understand the surroundings at all, such as lighting up a dark room. According to the present invention, it is possible to know the surroundings of the user to some extent even when the HMD is attached.
【0034】次に、状況検出手段について、その他の実
施態様を説明する。状況検出手段を液晶ディスプレイ映
像に伴って、スピーカーから出力される音量(即ち、テ
レビやゲームなどで映像と一緒になり発せられる音の大
きさ)を検出する装置にすることにより、スピーカーか
らの音量に応じて環境映像の明るさを変化させることも
可能である。Next, another embodiment of the situation detecting means will be described. The situation detection means is a device that detects the volume of sound output from the speaker (that is, the volume of sound that is emitted together with the image on a TV, game, etc.) according to the image on the liquid crystal display. It is also possible to change the brightness of the environmental image in accordance with.
【0035】例えば、図6に示すように、スピーカーか
らの音量を測定する音量測定装置66(音量センサー)
を設置し、そのデータを図3と同じように光量変更装置
を通して処理する。この音量測定装置は音信号の強度を
測定し、例えばDA変換で数値データに変換する装置で
ある。図6において、音量測定装置66の位置および何
を検出しているかが、図1と異なるのみで、その他の構
成は図1に示すものとほぼ同様である。For example, as shown in FIG. 6, a volume measuring device 66 (volume sensor) for measuring the volume from a speaker.
Is installed, and the data is processed through the light quantity changing device as in FIG. This volume measuring device is a device that measures the intensity of a sound signal and converts it into numerical data by DA conversion, for example. In FIG. 6, the position of the volume measuring device 66 and what is detected are different from those in FIG. 1, and other configurations are almost the same as those shown in FIG.
【0036】図7は状況検出手段として音量測定装置を
備えた場合、判定部の制御動作のフローチャートを示す
図である。図7に示すように、S72で音量測定装置6
6からの音量データが入力され、その音量データが設定
された基準(ある閾値)音量よりも、大きな音であるか
否かの判定がS73でなされる。音量が小さな場合には
S71に戻り、大きな場合にはS74で例えば環境映像
の光量アップの命令が調光部に要請される。FIG. 7 is a diagram showing a flow chart of the control operation of the judging section when the volume measuring device is provided as the situation detecting means. As shown in FIG. 7, in S72, the volume measuring device 6
The volume data from No. 6 is input, and it is determined in S73 whether or not the volume data is louder than the set reference (certain threshold value) volume. If the volume is low, the process returns to S71, and if the volume is high, a command for increasing the light amount of the environmental image is requested to the light control unit in S74.
【0037】更に、S75で音量測定装置66からの音
量データが入力され、S76でその音量データが設定さ
れた基準(ある閾値)音量データよりも小さな音である
か否かの判定がなされる。音量が大きな場合にはS75
に戻り、小さな場合にはS77で光量ダウンの命令が調
光部に要請され、S71に戻る。Further, in S75, the volume data from the volume measuring device 66 is inputted, and in S76, it is judged whether or not the volume data is lower than the set reference (certain threshold value) volume data. If the volume is loud, S75
If it is small, a light amount down command is requested to the light control section in S77, and the process returns to S71.
【0038】以上のように、音量測定装置はディスプレ
イから発せられる音がどれほどの音量であるかを検出し
て、その結果を光量変更装置に送る。光量変更装置の判
定部は送られてきた音量データをもとに環境映像用バッ
クライトの光量を決定し、調光部に伝え、環境映像用バ
ックライトの光量に反映する。スピーカーからの音量は
液晶ディスプレイ映像とシンクロしているため、当然、
環境映像はディスプレイ映像とシンクロする。従って、
スピーカー音量が変化すると、ディスプレイ映像が変化
し、かつ環境映像も変化するといった臨場感が高いHM
Dが実現可能となる。As described above, the volume measuring device detects how loud the sound emitted from the display is, and sends the result to the light quantity changing device. The determination unit of the light intensity changing device determines the light intensity of the environmental image backlight based on the sent volume data, informs the dimming unit, and reflects it in the light intensity of the environmental image backlight. Since the volume from the speaker is synchronized with the liquid crystal display image, naturally,
The environmental image is synchronized with the display image. Therefore,
When the speaker volume changes, the display image changes, and the environmental image also changes.
D becomes feasible.
【0039】また、その他の種類の音量測定装置による
状況検出手段について、実施態様を説明する。前記音量
測定装置は音の大きさを測定するものであるが、音信号
を周波数分解して、特定の周波数成分の音を検出するよ
うに設定することもできる。例えば、低いある特定の周
波数成分の音のみを検出して、その音データを判定部に
送る。この構成により、例えば爆発シーンなどの低音が
強調される液晶ディスプレイ映像の時には、環境映像を
変化させることにより、さらに臨場感のある映像を楽し
むことが可能である。或は、人間の声の周波数成分の音
データを測定して、そのデータを判定部に送ることによ
り、人間のセリフのときのみ環境映像が変化するといっ
た面白みがある映像を得ることも可能である。Further, an embodiment will be described with respect to the situation detecting means by another type of volume measuring device. Although the volume measuring device measures the loudness of the sound, it may be set to detect the sound of a specific frequency component by frequency decomposition of the sound signal. For example, only the sound of a specific low frequency component is detected, and the sound data is sent to the determination unit. With this configuration, for example, in the case of a liquid crystal display image in which a low tone such as an explosion scene is emphasized, it is possible to enjoy a more realistic image by changing the environmental image. Alternatively, by measuring the sound data of the frequency component of the human voice and sending the data to the determination unit, it is possible to obtain an interesting image in which the environmental image changes only during the human dialogue. .
【0040】また、この音量測定装置を例えば、音量セ
ンサーで液晶ディスプレイ観賞者の周囲の音量を検出す
るように設定し、観賞者の外周囲の音の変化によって、
環境映像が変化するようにすることも当然可能である。
このように、観賞者の外周囲の音によって環境映像が変
化するように設定することにより、例えば、HMD使用
中に他人に話しかけられたり、電話がかかってきたりす
る場合等、周囲の状況を把握することも可能である。Further, the volume measuring device is set, for example, to detect the volume around the liquid crystal display viewer by a volume sensor, and the sound around the outside of the viewer is changed,
Of course, it is possible to change the environmental image.
In this way, by setting so that the environmental image changes according to the sound of the outside of the viewer, the surrounding situation can be grasped, for example, when someone talks to the HMD while using the HMD or receives a call. It is also possible to do so.
【0041】さらには、状況検出手段を複数個備えて、
液晶ディスプレイ映像や周囲の状況により、より細かく
環境映像を変化させることも可能である。例えば、状況
検出手段として、ディスプレイの音量測定装置と観賞者
の外周囲の明るさを検出する光量センサーの2つを備
え、2つのデータから環境映像を変化させる場合の実施
例の構成を示す機能ブロック図を図8に示す。Furthermore, a plurality of status detecting means are provided,
It is also possible to change the environmental image more finely depending on the liquid crystal display image and surrounding conditions. For example, as the situation detecting means, a volume measuring device for a display and a light amount sensor for detecting the brightness of the outer periphery of a viewer are provided, and a function showing the configuration of an embodiment in which an environmental image is changed from two data A block diagram is shown in FIG.
【0042】図8中、光データ判定部83はディスプレ
イ観賞者の周囲の明るさを検出する光量センサー81か
らの光量データによって、音データ判定部84はディス
プレイのスピーカー音量を検出する音量測定装置82か
らの音量データによって、環境映像用のバックライト光
量を決定し、調光部85に光量のアップダウンを要請す
る手段である。In FIG. 8, an optical data determination unit 83 uses a light amount data from a light amount sensor 81 that detects the brightness of the surroundings of a display viewer, and a sound data determination unit 84 detects a speaker volume of the display. It is a means for determining the backlight light amount for the environment image based on the volume data from and requesting the dimming unit 85 to increase or decrease the light amount.
【0043】前記光量データ及び音量データは、例え
ば、図9(a)に示すように、その時間時間的変化を光
量の曲線91及び音量の曲線92として表すことができ
る。そして、図9(a)のデータを基に光量変換装置8
7の調光部85において、環境映像用のバックライト光
量を図9(b)に示すように変化させ、環境映像の輝度
を光量データ及び音量データに対応させたものとする。
この構成によれば、環境映像が観賞者の周囲の明るさと
ディスプレイ音量に応じて変化することとなり、目の疲
労を軽減し、臨場感が高いHMDが実現可能となる。The light amount data and the sound volume data can be expressed as a light amount curve 91 and a sound volume curve 92, as shown in FIG. Then, based on the data of FIG. 9A, the light quantity conversion device 8
In the light control section 85 of No. 7, the backlight light amount for the environmental image is changed as shown in FIG. 9B, and the brightness of the environmental image is made to correspond to the light amount data and the volume data.
According to this configuration, the environmental image changes in accordance with the brightness of the surroundings of the viewer and the display volume, and it is possible to reduce eye fatigue and realize a highly realistic HMD.
【0044】次に、上記光量変更装置以外の画像変化手
段について以下に説明する。画像変化手段として、図1
0に示すような赤、青、緑のLEDをデルタ状に配列し
たLEDアレイで、環境映像の光色を変化させる光色変
化装置を備えた実施例について説明する。図10中、1
01はデルタ状に配置された赤色LED、102は青色
LED、103は緑色LED、104は前記LEDアレ
イ全体、105は環境映像用スライドを示す。前記3色
のLEDの発光量を別々に制御できるように設定するこ
とにより、全体的な光色調を変化させることが可能とな
る。Image changing means other than the light quantity changing device will be described below. As an image changing means, FIG.
An embodiment will be described in which an LED array in which red, blue, and green LEDs as shown in 0 are arranged in a delta shape is provided with a light color changing device that changes the light color of an environmental image. In FIG. 10, 1
Reference numeral 01 is a red LED arranged in a delta shape, 102 is a blue LED, 103 is a green LED, 104 is the entire LED array, and 105 is an environment image slide. By setting the light emission amounts of the LEDs of the three colors so that they can be controlled separately, it is possible to change the overall light color tone.
【0045】図11は、この光色変更装置119の機能
ブロック図である。色調センサー111からのデータを
判別して、バックライトの光色調を判定部112にて決
定し、それぞれの色の調光部、ここでは緑色LED調光
部113、青色LED調光部114、赤色LED調光部
115の指令により、緑色LED116、青色LED1
17、赤色LED118の各色LEDの光量をコントロ
ールする。前記構成は、LEDを用いる代わりに3色の
ELパネルを用いることによっても、同様に実現可能で
ある。FIG. 11 is a functional block diagram of the light color changing device 119. By determining the data from the color tone sensor 111, the light color tone of the backlight is determined by the determination unit 112, and the light control units of the respective colors, here, the green LED light control unit 113, the blue LED light control unit 114, and the red color. In response to a command from the LED dimming unit 115, the green LED 116 and the blue LED 1
17, the light amount of each color LED of the red LED 118 is controlled. The above configuration can be similarly realized by using an EL panel of three colors instead of using LEDs.
【0046】図12は図11に示す判定部112の制御
動作の一例を示す図である。判定部には予め、音基準
(閾値)データ1と音基準(閾値)データ2が設定され
ており、基準データとセンサーからの入力データを比較
して、その状況に応じた光色状態に変化させる。例え
ば、音量測定装置から送られてきた音データが音基準デ
ータ1よりも大きい時には赤っぽい環境映像、音基準デ
ータ2よりも小さい時には緑っぽい環境映像といった、
鑑賞者の自由な設定による面白みがある環境映像を楽し
むことが可能となる。当然、基準データを多くし、入力
データに対し様々に色光を変化させることも可能であ
る。FIG. 12 is a diagram showing an example of the control operation of the determination unit 112 shown in FIG. The sound reference (threshold) data 1 and the sound reference (threshold) data 2 are set in advance in the determination unit, and the reference data and the input data from the sensor are compared to change the light color state according to the situation. Let For example, when the sound data sent from the volume measuring device is larger than the sound reference data 1, a reddish environment image, and when it is smaller than the sound reference data 2, a greenish environment image.
It is possible to enjoy interesting environmental images that are set freely by the viewer. Of course, it is also possible to increase the reference data and change the color light variously with respect to the input data.
【0047】上記構成により、環境映像を観賞者の状況
によって変化させ、目の疲れを軽減し、臨場感の高いH
MDの実現が可能となる。With the above structure, the environmental image is changed according to the situation of the viewer, eyestrain is reduced, and the presence of the image is high.
MD can be realized.
【0048】さらに、本発明によるHMDの他の実施態
様について、図13乃至図15とともに説明する。図1
3中、161は拡大光学系、162は環境映像、163
は液晶パネル、164は液晶パネル用バックライト、1
65は環境音提示手段、167は映像入力端子、168
は音声入力端子であり、これらはメガネケース166に
納められている。外部からの映像信号169及び音声信
号170は、映像入力端子167、音声入力端子168
を介して、HMDに入力される。Further, another embodiment of the HMD according to the present invention will be described with reference to FIGS. 13 to 15. FIG.
In FIG. 3, 161 is a magnifying optical system, 162 is an environmental image, and 163.
Is a liquid crystal panel, 164 is a liquid crystal panel backlight, 1
Reference numeral 65 is an environmental sound presenting means, 167 is a video input terminal, 168
Is an audio input terminal, and these are housed in a glasses case 166. The video signal 169 and the audio signal 170 from the outside are input to the video input terminal 167 and the audio input terminal 168.
Is input to the HMD via.
【0049】図14はHMDの鑑賞者から見た視野を示
した図であり、液晶ディスプレイ171の周辺の環境映
像によって、図14(A)は映画館で映画を見ている、
図17(B)は宇宙船でゲームをしている、図14
(C)は森の中でTVを鑑賞しているような臨場感が得
られる様子を各々示している。FIG. 14 is a view showing a field of view seen from a viewer of the HMD. FIG. 14A shows a movie at a movie theater according to an environmental image around the liquid crystal display 171.
FIG. 17 (B) is playing a game on a spaceship, FIG.
Each of (C) shows a state of being able to obtain a realistic sensation of watching TV in the forest.
【0050】図15は本発明の特徴部分である環境音提
示手段165の構成例を示すブロック図である。図中、
181は環境音が記憶された環境音メモリー部、182
は音声入力端子168からの液晶ディスプレイ171の
音声、183は環境音と液晶ディスプレイの音声とをミ
キシングする合成部、184はヘッドフォンスピーカー
である。FIG. 15 is a block diagram showing a configuration example of the environmental sound presenting means 165 which is a characteristic part of the present invention. In the figure,
Reference numeral 181 denotes an environmental sound memory unit in which environmental sounds are stored, 182
Is a voice of the liquid crystal display 171 from the voice input terminal 168, 183 is a synthesizing unit for mixing ambient sound and voice of the liquid crystal display, and 184 is a headphone speaker.
【0051】環境音メモリー部181には、ICメモリ
ーカードやマイクロテープなどのメモリーによって、環
境映像162に対応した環境音が記憶されおり、例え
ば、図14(A)に示す映画館の環境映像では人混みの
雑踏、図14(B)に示す宇宙船内部の環境映像ではエ
ンジン音やサイレン音、図14(C)に示す森林の環境
映像では小鳥のさえずりなどの環境音が記憶されてい
る。この環境音メモリー部181は、HMDの電源ON
と同時に音声信号を合成部183に送り、その後、記憶
された環境音をリピートすることによって、電源OFF
時まで音声信号を送出し続ける。The environmental sound corresponding to the environmental image 162 is stored in the environmental sound memory section 181 by a memory such as an IC memory card or a micro tape. For example, in the environmental image of the movie theater shown in FIG. The crowded crowd, the engine sound and the siren sound in the environment image inside the spacecraft shown in FIG. 14B, and the environment sound such as chirping birds in the forest environment image shown in FIG. 14C are stored. This environmental sound memory unit 181 turns on the power of the HMD.
At the same time, an audio signal is sent to the synthesis unit 183, and then the stored environmental sound is repeated to turn off the power.
Continues to send audio signals until time.
【0052】合成部183は、環境音メモリー部181
からの音声信号と液晶ディスプレイ171の音声とを合
成して、合成した音声信号をヘッドフォンスピーカー1
84に送るが、このときの合成は、例えば、 環境音の強度 20dB 液晶ディスプレイの音声の強度 70dB の設定で行われる。また、環境音は例えば700Hz以
上の高い周波数帯域からなるものとしている。The synthesis unit 183 is the environmental sound memory unit 181.
The audio signal from the headphone speaker 1 is combined with the audio signal from the liquid crystal display 171.
The synthesis at this time is performed, for example, with the setting of the intensity of the environmental sound of 20 dB and the intensity of the sound of the liquid crystal display of 70 dB. Further, the environmental sound is assumed to have a high frequency band of 700 Hz or higher, for example.
【0053】人間の聴覚には、同時に存在する他の音に
よって、ある音が聞こえなくくなるというマスキング効
果があることが知られており、このマスキング効果は、
周波数が高く強度が弱い音は周波数が低く強度が強い音
によって、聞こえにくくなる(マスクされる)という特
徴を有する。従って、上述したように合成部183で合
成された音は、液晶ディスプレイ171の音声が提示し
ているときは環境音がマスクされ、液晶ディスプレイ1
71の音声が提示されていないときは環境音が鑑賞者に
聞こえることとなる。尚、上記のそれぞれの音声強度設
定は一例を示したものであり、マスキング効果が得られ
る設定であれば、他の設定であってもよいことは言うま
でもない。It is known that human hearing has a masking effect that a certain sound becomes inaudible due to other sounds that are present at the same time.
A sound having a high frequency and a low intensity has a characteristic that it becomes hard to hear (masked) by a sound having a low frequency and a high intensity. Therefore, as described above, the sound synthesized by the synthesizer 183 is masked of the environmental sound when the sound of the liquid crystal display 171 is presented, and the liquid crystal display 1
When the sound 71 is not presented, the environmental sound is heard by the viewer. It is needless to say that each of the above sound intensity settings is an example, and other settings may be used as long as a masking effect can be obtained.
【0054】上述したように、本実施形態のHMDにお
いては、鑑賞者がHMDを装着して、液晶ディスプレイ
171に係る映像信号169及び音声信号170が入力
されていない状態では、環境映像と環境音とが鑑賞者に
提示され、視聴覚の相互作用により高い臨場感を得るこ
とができる。そして、液晶ディスプレイ171に係る映
像信号169及び音声信号170が入力されると、マス
キング効果により上記環境音は聞こえなくなり、液晶デ
ィスプレイ171に表示の映像とその音声を楽しむこと
ができる。また、液晶ディスプレイ171の映像鑑賞中
であっても、例えばTVチャンネル切換え時等の音声が
なくなるときは、環境音が聞こえるので、臨場感を失う
ことはない。As described above, in the HMD of the present embodiment, in the state where the viewer wears the HMD and the video signal 169 and the audio signal 170 related to the liquid crystal display 171 are not input, the environmental image and the environmental sound are generated. And are presented to the viewer, and a high sense of realism can be obtained by the interaction of the audiovisual sense. When the video signal 169 and the audio signal 170 related to the liquid crystal display 171 are input, the environmental sound is not heard due to the masking effect, and the video and the audio displayed on the liquid crystal display 171 can be enjoyed. Further, even when the image on the liquid crystal display 171 is being viewed, when the sound disappears, for example, when the TV channel is switched, the environmental sound is heard, and the sense of presence is not lost.
【0055】尚、上記実施態様においては、環境音を提
示するヘッドフォンスピーカーを左右耳用の一対のみと
したものについて説明したが、図16のブロック図に示
すように、環境音用ヘッドフォンスピーカー195と、
ディスプレイの音声用ヘッドフォンスピーカー196
と、両音声の強度設定を調整する調整部193,194
とを備え、図15における合成部183を省いた構成と
しても良く、この場合、合成部による音の劣化を防止す
ることが可能である。In the above embodiment, the headphone speaker for presenting the environmental sound is described as only one pair for the left and right ears, but as shown in the block diagram of FIG. ,
Display audio headphone speaker 196
And adjusting units 193 and 194 that adjust the intensity settings of both voices.
15 may be provided, and the composition unit 183 in FIG. 15 may be omitted. In this case, it is possible to prevent the deterioration of sound by the composition unit.
【0056】さらに、本発明の特徴部分である環境音提
示手段の他の実施形態を、図17とともに説明する。図
17において、201は環境音メモリー部、202はデ
ィスプレイの音声、203は環境音とディスプレイの音
声202との切替えを行う切替え部、204はヘッドフ
ォンスピーカー、205は上記ディスプレイの音声20
2の有無を検出し、切替え部203の切替えを制御する
検出部である。具体的には、検出部205にてディスプ
レイの音声202が有ると検出された場合には該ディス
プレイの音声202を出力するよう切替え部203を制
御し、ディスプレイの音声202が無いと検出された場
合には環境音メモリー部201からの環境音を出力する
よう切替え部203を制御する。これによって、環境音
メモリー部201に記憶される環境音の周波数帯域を制
限する必要がなくなる。Further, another embodiment of the environmental sound presenting means which is a characteristic part of the present invention will be described with reference to FIG. In FIG. 17, 201 is an environmental sound memory unit, 202 is a display sound, 203 is a switching unit for switching between the environmental sound and the display sound 202, 204 is a headphone speaker, and 205 is the display sound 20.
2 is a detection unit that detects the presence or absence of 2 and controls the switching of the switching unit 203. Specifically, when the detection unit 205 detects that the display sound 202 is present, the switching unit 203 is controlled to output the display sound 202, and when the display sound 202 is not detected. The control unit 203 controls the switching unit 203 to output the environmental sound from the environmental sound memory unit 201. This eliminates the need to limit the frequency band of the environmental sound stored in the environmental sound memory unit 201.
【0057】次に、本発明によるHMDのもう一つの他
の実施態様について、図18及び図19とともに説明す
る。図18中、211は拡大光学系、212は環境映
像、213は液晶パネル、214は液晶パネル用バック
ライト、215は環境音提示手段、216はディスプレ
イ鑑賞者の周辺の音を検出する音センサー、217は映
像入力端子、218は音声入力端子であり、鑑賞者はH
MDを頭に装着して、入力映像と環境映像とを楽しむこ
とができる。Next, another embodiment of the HMD according to the present invention will be described with reference to FIGS. In FIG. 18, 211 is an enlarging optical system, 212 is an environmental image, 213 is a liquid crystal panel, 214 is a liquid crystal panel backlight, 215 is an environmental sound presenting means, 216 is a sound sensor for detecting sounds around the viewer of the display, 217 is a video input terminal, 218 is an audio input terminal, and the viewer is at H
You can wear the MD on your head and enjoy the input video and the environmental video.
【0058】図19は本実施形態における環境音提示手
段215を示すブロック図である。図中、221は環境
音が記憶された環境音メモリー部、222は外部から入
力されるディスプレイの音声、223は環境音とディス
プレイの音声とHMD周辺の音とをミキシングする合成
部、224はヘッドフォンスピーカー、225は音セン
サー216からのHMD周辺の音を判定する周辺音声判
定部である。FIG. 19 is a block diagram showing the environmental sound presenting means 215 in this embodiment. In the figure, 221 is an environmental sound memory unit in which environmental sounds are stored, 222 is a display sound that is input from the outside, 223 is a synthesizing unit that mixes the environmental sound, the display sound, and the sound around the HMD, and 224 is a headphone. The speaker 225 is a peripheral sound determination unit that determines the sound around the HMD from the sound sensor 216.
【0059】周辺音声判定部225は、音センサー21
6から送られてきたHMD周囲の音が一定のレベル、例
えば80dB以上の強度であるか否かを判定し、80d
B以下である場合は何も出力せず、80dB以上である
場合は合成部223に音信号を出力する。合成部223
ではHMD周囲の音とディスプレイの音声と環境音とを
合成して、ヘッドフォンスピーカー224より提示す
る。ここで、合成部223での音声の合成は、例えば以
下のように設定される。The peripheral voice determination section 225 is provided with the sound sensor 21.
It is judged whether or not the sound around the HMD sent from No. 6 has a certain level, for example, an intensity of 80 dB or more, and 80 d
If it is B or less, nothing is output, and if it is 80 dB or more, a sound signal is output to the synthesis unit 223. Synthesis unit 223
Then, the sound around the HMD, the display sound, and the environmental sound are combined and presented from the headphone speaker 224. Here, the synthesis of voice in the synthesis unit 223 is set as follows, for example.
【0060】 環境音の強度 20dB ディスプレイの音声の強度 70dB HMD周辺の音の強度 80dB このような各音声強度の設定により、ディスプレイ鑑賞
者の周辺の音は、ディスプレイの音声と環境音との両方
の音声が提示されている場合、及び環境音のみ提示され
ている場合のいずれの場合でもディスプレイ鑑賞者に知
覚される。尚、合成される各音声強度は上記設定例に限
らず、いずれの状況においてもHMD周辺の音が知覚で
きるものであれば、他の設定であってもよい。Ambient sound intensity 20 dB Display sound intensity 70 dB HMD surrounding sound intensity 80 dB By setting each sound intensity as described above, the surrounding sound of the viewer of the display includes both the display sound and the environmental sound. It is perceived by the viewer of the display both when the sound is presented and when only the environmental sound is presented. The voice intensities to be synthesized are not limited to the above setting examples, and may be other settings as long as the sound around the HMD can be perceived in any situation.
【0061】上述したとおり、本実施形態のHMDにお
いては、HMDによって視聴覚が覆われたディスプレイ
鑑賞者であっても、周辺で例えば声を掛けられた場合や
電話などの呼出音が鳴った場合、その音がヘッドフォン
スピーカー224より提示され、知覚することができる
ので、周辺の状況把握が可能となる。また、例えば80
dB以下の小さい雑音等は提示されないので、HMDの
ディスプレイ映像及び音声、または環境映像及び環境音
を高い臨場感と迫力で楽しむことができる。As described above, in the HMD according to the present embodiment, even a display viewer whose visual sense is covered by the HMD, when a call is made in the surroundings or a ringing tone such as a telephone sounds, The sound is presented from the headphone speaker 224 and can be perceived, so that the surrounding situation can be grasped. Also, for example, 80
Since a small noise of dB or less is not presented, it is possible to enjoy the display image and sound of the HMD, or the environmental image and the environmental sound with high realism and power.
【0062】[0062]
【発明の効果】本発明によれば、以下のような効果があ
る。第1に、液晶ディスプレイの輝度によって、環境映
像はその光量および輝度を変化させることが可能である
ため、ディスプレイ輝度と環境映像との光量及び輝度差
が極めて少なくでき、観賞者の目の疲れが減少する。The present invention has the following effects. First, since the light quantity and brightness of the environmental image can be changed according to the brightness of the liquid crystal display, the light quantity and the brightness difference between the display brightness and the environmental image can be extremely reduced, and the eyestrain of the viewer can be reduced. Decrease.
【0063】第2に、環境映像は観賞者の周辺の明るさ
によって、その光量及び輝度を変化させることが可能で
あるため、画像提示装置、特にHMD装着、脱着時の過
度な知覚変化が無くなり、観賞者の目の疲れが減少す
る。Secondly, since it is possible to change the amount of light and the brightness of the environmental image depending on the brightness of the surroundings of the viewer, there is no excessive perceptual change when the image presenting device, especially when the HMD is attached or detached. , The eyestrain of the viewer is reduced.
【0064】第3に、環境映像をディスプレイ映像の光
量、輝度、色調や音とシンクロさせることが可能である
ため、従来の画像提示装置、特にHMDの映像より、よ
り高い臨場感を得ることができる。Thirdly, since it is possible to synchronize the environmental image with the light quantity, luminance, color tone and sound of the display image, it is possible to obtain a higher sense of realism as compared with the conventional image presenting apparatus, especially the image of the HMD. it can.
【0065】第4に、環境映像に応じた環境音を提示す
ることが可能であるため、映像と音声との視聴覚相互作
用によって、従来の画像提示装置、特にHMDの映像よ
り、より高い臨場感を得ることができる。Fourth, since it is possible to present the environmental sound corresponding to the environmental video, the audio-visual interaction between the video and the audio makes the presence higher than that of the conventional image presenting apparatus, especially the video of the HMD. Can be obtained.
【0066】第5に、鑑賞者の周囲の音を提示すること
が可能であるため、常に周辺の状況把握ができるように
なる。Fifth, since it is possible to present sounds around the viewer, it is possible to always grasp the surrounding situation.
【図1】本発明によるHMDの一実施形態を示す構成概
略図である。FIG. 1 is a schematic configuration diagram showing an embodiment of an HMD according to the present invention.
【図2】本発明によるHMDの一実施形態における状況
検出手段の構成例を示す部分拡大図である。FIG. 2 is a partially enlarged view showing a configuration example of a situation detecting means in one embodiment of the HMD according to the present invention.
【図3】本発明によるHMDの一実施形態における画像
変化手段である光量変更装置を示す機能ブロック図であ
る。FIG. 3 is a functional block diagram showing a light amount changing device which is an image changing means in one embodiment of the HMD according to the present invention.
【図4】本発明によるHMDの一実施形態における光量
変換装置の判定部の制御動作を示すフローチャートであ
る。FIG. 4 is a flowchart showing a control operation of a determination unit of the light quantity conversion device in the HMD according to the embodiment of the present invention.
【図5】本発明による外周囲の光量を測定する光量セン
サーを備えたHMDの構成概略図である。FIG. 5 is a schematic configuration diagram of an HMD equipped with a light amount sensor for measuring the light amount of the outer periphery according to the present invention.
【図6】本発明による音量を測定するための音量測定装
置を備えたHMDの構成概略図である。FIG. 6 is a schematic configuration diagram of an HMD including a volume measuring device for measuring a volume according to the present invention.
【図7】本発明によるHMDの一実施形態における音量
測定装置の判定部の制御動作を示すフローチャートであ
る。FIG. 7 is a flowchart showing the control operation of the determination unit of the volume measuring device in one embodiment of the HMD according to the present invention.
【図8】本発明によるHMDの複数個の状況検出手段を
備えた実施形態を示す機能ブロック図である。FIG. 8 is a functional block diagram showing an embodiment including a plurality of situation detecting means of the HMD according to the present invention.
【図9】(a)は光量データ及び音量データの時間的変
化を示す曲線を表す図であり、(b)は環境映像の輝度
の時間的変化を示す曲線を表す図である。9A is a diagram showing a curve showing a temporal change of light amount data and volume data, and FIG. 9B is a diagram showing a curve showing a temporal change of luminance of an environmental image.
【図10】本発明のHMDにおける画像変化手段の構成
例を示す部分拡大図である。FIG. 10 is a partially enlarged view showing a configuration example of an image changing unit in the HMD of the present invention.
【図11】本発明のHMDにおける画像変化手段である
光色変更装置を示す機能ブロック図である。FIG. 11 is a functional block diagram showing a light color changing device which is an image changing means in the HMD of the present invention.
【図12】本発明のHMDにおける光色変更装置の判定
部の制御動作の一例を示す説明図である。FIG. 12 is an explanatory diagram showing an example of the control operation of the determination unit of the light color changing device in the HMD of the present invention.
【図13】本発明によるHMDの他の実施形態を示す構
成概略図である。FIG. 13 is a schematic configuration diagram showing another embodiment of the HMD according to the present invention.
【図14】本発明によるHMDを鑑賞者からみた視野を
示す説明図である。FIG. 14 is an explanatory diagram showing a field of view of an HMD according to the present invention viewed from a viewer.
【図15】本発明によるHMDの他の実施形態における
環境音提示手段の構成例を示すブロック図である。FIG. 15 is a block diagram showing a configuration example of environmental sound presenting means in another embodiment of the HMD according to the present invention.
【図16】本発明によるHMDにおける環境音提示手段
の他の構成例を示すブロック図である。FIG. 16 is a block diagram showing another configuration example of the environmental sound presenting means in the HMD according to the present invention.
【図17】本発明によるHMDにおける環境音提示手段
のもう一つの他の構成例を示すブロック図である。FIG. 17 is a block diagram showing another configuration example of the environmental sound presenting means in the HMD according to the present invention.
【図18】本発明によるHMDのもう一つの他の実施形
態を示す構成概略図である。FIG. 18 is a schematic diagram showing another embodiment of the HMD according to the present invention.
【図19】本発明によるHMDのもう一つの他の実施形
態における環境音提示手段の構成例を示すブロック図で
ある。FIG. 19 is a block diagram showing a configuration example of environmental sound presenting means in another embodiment of the HMD according to the present invention.
【図20】従来のHMDを示す構成概略図である。FIG. 20 is a schematic configuration diagram showing a conventional HMD.
【図21】従来のHMDで液晶ディスプレイ鑑賞者から
見た視野を示す図である。FIG. 21 is a diagram showing a field of view seen by a viewer of a liquid crystal display using a conventional HMD.
【図22】環境映像を有するHMDのディスプレイ観賞
者から見た視野を示す図である。[Fig. 22] Fig. 22 is a diagram showing a field of view viewed from a display viewer of an HMD having an environmental image.
11 拡大レンズ 12 環境映像用スライド 13 環境映像用バックライト 14 液晶ディスプレイ 15 液晶ディスプレイ用バックライト 16 液晶ディスプレイ用の光量センサー 17 光量変更装置 18 ヘッドフォンスピーカー 21 拡大レンズ 22 光量センサー 23 環境映像用スライド及び液晶ディスプレイを含む
表示装置 31 状況検出手段であるセンサー 32 判定部 33 調光部 34 環境映像用のバックライトの光量 35 光量変更装置 51 拡大レンズ 52 環境映像用スライド 53 環境映像用バックライト 54 液晶ディスプレイ 55 バックライト 56 光量センサー(観賞者の周辺用) 57 光量変更装置 58 ヘッドフォンスピーカー 61 拡大レンズ 62 環境映像用スライド 63 環境映像用バックライト 64 液晶ディスプレイ 65 液晶ディスプレイ用バックライト 66 音量測定装置 67 光量変更装置 68 ヘッドフォンスピーカー 81 光量センサー 82 音量測定装置 83 光データ判定部 84 音データ判定部 85 調光部 86 環境映像用バックライト 87 光量変更装置 91 光量の曲線 92 音量の曲線 93 環境映像の輝度曲線 101 デルタ状に配置された赤色LED 102 デルタ状に配置された青色LED 103 デルタ状に配置された緑色LED 104 LEDアレイ全体 105 環境映像用スライド 111 色調センサー 112 判定部 113 緑色LED調光部 114 青色LED調光部 115 赤色LED調光部 116 緑色LED 117 青色LED 118 赤色LED 119 光色変更装置 161 拡大光学系 162 環境映像 163 液晶パネル 164 バックライト 165 環境音提示手段 166 メガネケース 167 映像入力端子 168 音声入力端子 169 映像信号 170 音声信号 181 環境音メモリー部 182 ディスプレイの音声 183 合成部 184 ヘッドフォンスピーカー 191 環境音メモリー部 192 ディスプレイの音声 193 環境音用調整部 194 ディスプレイの音声用調整部 195 環境音用ヘッドフォンスピーカー 196 ディスプレイの音声用ヘッドフォンスピーカー 201 環境音メモリー部 202 ディスプレイの音声 203 切替え部 204 ヘッドフォンスピーカー 205 検出部 211 拡大光学系 212 環境映像 213 液晶パネル 214 バックライト 215 環境音提示手段 216 音センサー 217 映像入力端子 218 音声入力端子 221 環境音メモリー部 222 ディスプレイの音声 223 合成部 224 ヘッドフォンスピーカー 225 周辺音声判定部11 magnifying lens 12 slide for environmental image 13 backlight for environmental image 14 liquid crystal display 15 backlight for liquid crystal display 16 light intensity sensor for liquid crystal display 17 light intensity changing device 18 headphone speaker 21 magnifying lens 22 light intensity sensor 23 slide for environmental image and liquid crystal Display device including display 31 Sensor as condition detecting means 32 Judgment unit 33 Light control unit 34 Light intensity of backlight for environmental image 35 Light intensity changing device 51 Magnifying lens 52 Slide for environmental image 53 Backlight for environmental image 54 Liquid crystal display 55 Backlight 56 Light intensity sensor (for the viewer's surroundings) 57 Light intensity changing device 58 Headphone speaker 61 Magnifying lens 62 Environmental image slide 63 Environmental image backlight 64 Liquid crystal display Play 65 Backlight for liquid crystal display 66 Volume measuring device 67 Light intensity changing device 68 Headphone speaker 81 Light intensity sensor 82 Volume measuring device 83 Optical data judging part 84 Sound data judging part 85 Light control part 86 Environmental image backlight 87 Light intensity changing device 91 Curve of light intensity 92 Curve of volume 93 Luminance curve of environmental image 101 Red LED arranged in delta shape 102 Blue LED arranged in delta shape 103 Green LED arranged in delta shape 104 LED array whole 105 Environmental image slide 111 Color tone sensor 112 Judgment unit 113 Green LED dimming unit 114 Blue LED dimming unit 115 Red LED dimming unit 116 Green LED 117 Blue LED 118 Red LED 119 Light color changing device 161 Enlargement optical system 162 Environmental image 163 Liquid crystal Channel 164 Backlight 165 Environmental sound presenting means 166 Glasses case 167 Video input terminal 168 Audio input terminal 169 Video signal 170 Audio signal 181 Environmental sound memory section 182 Display sound 183 Synthetic section 184 Headphone speaker 191 Environmental sound memory section 192 Display sound 193 Environmental sound adjusting unit 194 Display audio adjusting unit 195 Environmental sound headphone speaker 196 Display audio headphone speaker 201 Environmental sound memory unit 202 Display sound 203 Switching unit 204 Headphone speaker 205 Detection unit 211 Enlarging optical system 212 Environment Image 213 Liquid crystal panel 214 Backlight 215 Environmental sound presenting means 216 Sound sensor 217 Video input terminal 218 Audio input end Child 221 Environmental sound memory unit 222 Display sound 223 Synthesizing unit 224 Headphone speaker 225 Surrounding sound judging unit
Claims (11)
ィスプレイの周辺部に配置された環境映像を拡大して鑑
賞する画像表示装置において、 ディスプレイ観賞者の画像表示装置使用状況を検出する
状況検出手段を備えたことを特徴とする画像表示装置。1. A display for displaying an image and an image display device for enlarging and viewing an environmental image arranged in a peripheral portion of the display, comprising situation detection means for detecting a use state of the image display device by a viewer of the display. An image display device characterized by the above.
ィスプレイの周辺部に配置された環境映像を拡大して鑑
賞する画像表示装置において、 請求項1記載の状況検出手段により検出された状況に応
じて、前記環境映像を変化させる画像変化手段を備えた
ことを特徴とする画像表示装置。2. A display for displaying an image and an image display device for enlarging and viewing an environmental image arranged in the peripheral portion of the display, according to the situation detected by the situation detecting means according to claim 1. An image display device comprising image changing means for changing the environmental image.
示装置において、 状況検出手段は、前記ディスプレイもしくはディスプレ
イ観賞者の周囲の光量もしくは輝度を検出し、画像変化
手段は前記光量もしくは輝度に応じて、環境映像の光量
を変化させることを特徴とする画像表示装置。3. The image display device according to claim 1 or 2, wherein the situation detecting means detects a light amount or brightness around the display or a viewer of the display, and the image changing means responds to the light amount or brightness. And an image display device characterized by changing the light amount of an environmental image.
示装置において、 状況検出手段は、前記ディスプレイもしくはディスプレ
イ観賞者の周囲の音量もしくは音を検出し、 画像変化手段は、前記音量もしくは音に応じて、環境映
像の光量を変化させることを特徴とする画像表示装置。4. The image display device according to claim 1 or 2, wherein the situation detecting means detects a volume or sound around the display or a viewer of the display, and the image changing means detects the volume or sound. An image display device, characterized in that the light amount of an environmental image is changed in accordance therewith.
示装置において、 状況検出手段は、前記ディスプレイもしくはディスプレ
イ観賞者の周囲の光量もしくは輝度を検出し、 画像変化手段は、前記光量もしくは輝度に応じて、環境
映像の色調を変化させることを特徴とする画像表示装
置。5. The image display device according to claim 1 or 2, wherein the situation detecting means detects a light amount or brightness around the display or a viewer of the display, and the image changing means detects the light amount or brightness. An image display device characterized by changing the color tone of an environmental image according to the above.
示装置において、 状況検出手段は、前記ディスプレイもしくはディスプレ
イ観賞者の周囲の音量もしくは音を検出し、 画像変化手段は、前記音量もしくは音に応じて、環境映
像の色調を変化させることを特徴とする画像表示装置。6. The image display device according to claim 1 or 2, wherein the situation detecting means detects a volume or sound around the display or a viewer of the display, and the image changing means detects the volume or sound. An image display device characterized by changing the color tone of an environmental image according to the above.
ィスプレイの周辺部に配置された環境映像を拡大して鑑
賞する画像表示装置において、 前記環境映像に応じた環境音を提示する環境音提示手段
を備えたことを特徴とする画像表示装置。7. A display for displaying an image and an image display device for enlarging and viewing an environmental image arranged in the periphery of the display, comprising environmental sound presenting means for presenting an environmental sound according to the environmental image. An image display device characterized by the above.
音とを合成して出力することを特徴とする画像表示装
置。8. The image display device according to claim 7, wherein the environmental sound presenting means synthesizes the sound of the display and the environmental sound and outputs the synthesized sound.
音とをそれぞれ個別に出力することを特徴とする画像表
示装置。9. The image display device according to claim 7, wherein the environmental sound presenting means outputs the sound of the display and the environmental sound separately.
て、 環境音提示手段は、前記ディスプレイの音声の有無を検
出し、それに応じて前記ディスプレイの音声と前記環境
音とを切替選択して出力することを特徴とする画像表示
装置。10. The image display device according to claim 7, wherein the environmental sound presenting means detects the presence or absence of the sound of the display, and switches and outputs the sound of the display and the environmental sound accordingly. An image display device characterized by the above.
て、 環境音提示手段は、前記ディスプレイもしくはディスプ
レイ鑑賞者の周囲の音を検出し、その中から特定の音を
選択して、環境音とともに出力することを特徴とする画
像表示装置。11. The image display device according to claim 7, wherein the environmental sound presenting means detects a sound around the display or a viewer of the display, selects a specific sound from the sounds, and outputs the selected sound together with the environmental sound. An image display device characterized by:
Priority Applications (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP31564195A JP3277109B2 (en) | 1995-03-22 | 1995-12-04 | Image display device |
US08/757,550 US6329964B1 (en) | 1995-12-04 | 1996-11-27 | Image display device |
GB9625255A GB2308036B (en) | 1995-12-04 | 1996-12-03 | Image display device |
GB9725859A GB2317528B (en) | 1995-12-04 | 1996-12-03 | Image display device |
US08/880,402 US6091827A (en) | 1995-12-04 | 1997-06-23 | Image display device |
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP6255195 | 1995-03-22 | ||
JP7-62551 | 1995-03-22 | ||
JP31564195A JP3277109B2 (en) | 1995-03-22 | 1995-12-04 | Image display device |
Publications (2)
Publication Number | Publication Date |
---|---|
JPH08320454A true JPH08320454A (en) | 1996-12-03 |
JP3277109B2 JP3277109B2 (en) | 2002-04-22 |
Family
ID=26403596
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP31564195A Expired - Fee Related JP3277109B2 (en) | 1995-03-22 | 1995-12-04 | Image display device |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3277109B2 (en) |
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2001305988A (en) * | 2000-04-26 | 2001-11-02 | Semiconductor Energy Lab Co Ltd | Goggle type display device |
JP2005164578A (en) * | 2003-10-28 | 2005-06-23 | Kodak Polychrome Graphics Llc | Color channel reconstruction method for display device |
JP2009251428A (en) * | 2008-04-09 | 2009-10-29 | Konica Minolta Holdings Inc | Information display system |
JP2011048375A (en) * | 2010-08-30 | 2011-03-10 | Semiconductor Energy Lab Co Ltd | Head mount display |
US8319714B2 (en) | 2004-12-22 | 2012-11-27 | Semiconductor Energy Laboratory Co., Ltd. | Display device, and method of operation thereof |
JP2013257492A (en) * | 2012-06-14 | 2013-12-26 | Sony Corp | Control device, display device, control method, illumination control method, and program |
JP2017010036A (en) * | 2000-01-17 | 2017-01-12 | 株式会社半導体エネルギー研究所 | Electronic device |
WO2019146425A1 (en) * | 2018-01-25 | 2019-08-01 | ソニー株式会社 | Image processing device, image processing method, program, and projection system |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0426289A (en) * | 1990-05-22 | 1992-01-29 | Sony Corp | Spectacle type video display device |
JPH0738825A (en) * | 1993-07-21 | 1995-02-07 | Seiko Epson Corp | Spectacle type display device |
JPH07114000A (en) * | 1993-08-26 | 1995-05-02 | Sharp Corp | Image display device |
-
1995
- 1995-12-04 JP JP31564195A patent/JP3277109B2/en not_active Expired - Fee Related
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0426289A (en) * | 1990-05-22 | 1992-01-29 | Sony Corp | Spectacle type video display device |
JPH0738825A (en) * | 1993-07-21 | 1995-02-07 | Seiko Epson Corp | Spectacle type display device |
JPH07114000A (en) * | 1993-08-26 | 1995-05-02 | Sharp Corp | Image display device |
Cited By (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2017010036A (en) * | 2000-01-17 | 2017-01-12 | 株式会社半導体エネルギー研究所 | Electronic device |
JP2018060204A (en) * | 2000-01-17 | 2018-04-12 | 株式会社半導体エネルギー研究所 | Electronic device |
US10467961B2 (en) | 2000-01-17 | 2019-11-05 | Semiconductor Energy Laboratory Co., Ltd. | Display system and electrical appliance |
US10522076B2 (en) | 2000-01-17 | 2019-12-31 | Semiconductor Energy Laboratory Co., Ltd. | Display system and electrical appliance |
JP2001305988A (en) * | 2000-04-26 | 2001-11-02 | Semiconductor Energy Lab Co Ltd | Goggle type display device |
JP2005164578A (en) * | 2003-10-28 | 2005-06-23 | Kodak Polychrome Graphics Llc | Color channel reconstruction method for display device |
US8319714B2 (en) | 2004-12-22 | 2012-11-27 | Semiconductor Energy Laboratory Co., Ltd. | Display device, and method of operation thereof |
US8749464B2 (en) | 2004-12-22 | 2014-06-10 | Semiconductor Energy Laboratory Co., Ltd. | Display device, and method of operation thereof |
JP2009251428A (en) * | 2008-04-09 | 2009-10-29 | Konica Minolta Holdings Inc | Information display system |
JP2011048375A (en) * | 2010-08-30 | 2011-03-10 | Semiconductor Energy Lab Co Ltd | Head mount display |
JP2013257492A (en) * | 2012-06-14 | 2013-12-26 | Sony Corp | Control device, display device, control method, illumination control method, and program |
WO2019146425A1 (en) * | 2018-01-25 | 2019-08-01 | ソニー株式会社 | Image processing device, image processing method, program, and projection system |
Also Published As
Publication number | Publication date |
---|---|
JP3277109B2 (en) | 2002-04-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US6091827A (en) | Image display device | |
US6900778B1 (en) | Display apparatus and method with detecting elements allocated on side facing face of user and on lower side of display windows | |
RU2602363C2 (en) | Display system, display device and relay device | |
JP7323633B2 (en) | Image display method and device for head-mounted display | |
US6611297B1 (en) | Illumination control method and illumination device | |
US6564108B1 (en) | Method and system of auxiliary illumination for enhancing a scene during a multimedia presentation | |
KR102326311B1 (en) | HDR display device, method and system for attenuating image brightness in HDR display device | |
US20130281162A1 (en) | Portable Personal Entertainment Video Viewing System | |
US20180098055A1 (en) | Image processing device, method, and program | |
JPH06194600A (en) | Display device | |
CN103064187A (en) | Head-mounted display and method of controlling same | |
US20150269779A1 (en) | Head-Mounted Augumented Reality Display System | |
JP3277109B2 (en) | Image display device | |
US9483982B1 (en) | Apparatus and method for television backlignting | |
JP5145669B2 (en) | Portable signal processing apparatus and wearable display | |
JP2006005418A (en) | Apparatus, method, and program for receiving/reproducing information, and program recording medium | |
JP2003078843A (en) | Video showing system and video multiplexer for the same | |
JP2959000B2 (en) | Face-mounted visual device | |
JP4751723B2 (en) | Liquid crystal display device, liquid crystal display system | |
GB2317528A (en) | Head mounted stereoscopic display with environmental image displayed at periphery of main image and including environmental sound presenting means. | |
JP7501632B2 (en) | Multiple output control based on user input | |
JPH01133479A (en) | Visual device | |
TW201426529A (en) | Communication device and playing method thereof | |
CN117794025A (en) | Sound box atmosphere lamp control method, computer readable storage medium and sound box | |
CN108399060A (en) | A kind of mobile intelligent terminal video switching method |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20080208 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090208 Year of fee payment: 7 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100208 Year of fee payment: 8 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100208 Year of fee payment: 8 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110208 Year of fee payment: 9 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120208 Year of fee payment: 10 |
|
LAPS | Cancellation because of no payment of annual fees |