Nothing Special   »   [go: up one dir, main page]

JP2019087262A - Program, information processing device and method - Google Patents

Program, information processing device and method Download PDF

Info

Publication number
JP2019087262A
JP2019087262A JP2018234831A JP2018234831A JP2019087262A JP 2019087262 A JP2019087262 A JP 2019087262A JP 2018234831 A JP2018234831 A JP 2018234831A JP 2018234831 A JP2018234831 A JP 2018234831A JP 2019087262 A JP2019087262 A JP 2019087262A
Authority
JP
Japan
Prior art keywords
user
virtual space
virtual
operation object
avatar
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2018234831A
Other languages
Japanese (ja)
Inventor
友輝 高野
Yuki Takano
友輝 高野
崇生 柏原
Takao Kashiwabara
崇生 柏原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Colopl Inc
Original Assignee
Colopl Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Colopl Inc filed Critical Colopl Inc
Priority to JP2018234831A priority Critical patent/JP2019087262A/en
Publication of JP2019087262A publication Critical patent/JP2019087262A/en
Pending legal-status Critical Current

Links

Images

Landscapes

  • Processing Or Creating Images (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

To enhance virtual experience of a user.SOLUTION: When a relation between left hands (42A) and (42B) in a virtual space (2) meets a first condition, a processor controls at least either the left hand (42A), the other left hand (42B) or a field of view from a virtual camera (1) in the virtual space (2) according to the first condition.SELECTED DRAWING: Figure 15

Description

本発明は、プログラム、情報処理装置、および方法に関する。   The present invention relates to a program, an information processing apparatus, and a method.

非特許文献1および2に、複数のユーザが同じ仮想空間を共有する技術の一例が開示されている。   Non-Patent Documents 1 and 2 disclose an example of a technique in which a plurality of users share the same virtual space.

塚本直樹、"フェイスブックの想像する「ソーシャルVR」はどこかコミカル"、[online]、平成28年4月18日、ギズモード・ジャパン、[平成29年9月22日検索]、インターネット〈https://www.gizmodo.jp/2016/04/vr_363.html〉Tsukamoto Naoki, "Imagining" Social VR "Imaginary from Facebook", [online], April 18, 2016, Gizm Mode Japan, [September 22, 2017 search], Internet <https: //www.gizmodo.jp/2016/04/vr_363.html> 匿名、"VRごっちゃにLT会 in バーチャル#1"、[online]、平成28年2月17日、YouTube(登録商標)、[平成29年9月22日検索]、インターネット〈https://www.youtube.com/watch?v=1L9Z6TWh_60〉Anonymity, "VR Crush on LT meeting in virtual # 1", [online], February 17, 2016, YouTube (registered trademark), [September 22, 2017 search], Internet <https: // www .youtube.com / watch? v = 1L9Z6TWh_60>

従来の技術には、ユーザの仮想体験をより向上させることができる余地がある。   The prior art has room to be able to further improve the virtual experience of the user.

本開示の一態様は、ユーザの仮想体験をより向上させることを目的とする。   One aspect of the present disclosure is to further improve a virtual experience of a user.

本発明の一態様によれば、第1ユーザの頭部に関連付けられた画像表示装置を介して仮想体験を前記第1ユーザに提供するために、プロセッサを備えたコンピュータによって実行されるプログラムが提供される。このプログラムは、プロセッサに、仮想体験を第1ユーザに提供するための仮想空間を定義するステップと、第1ユーザの身体の一部の動きに応じて、仮想空間内において第1操作オブジェクトを動かすステップと、第1ユーザの頭部の姿勢と仮想空間における仮想視点の位置とに応じて、仮想空間における仮想視点からの視界を制御するステップと、第2ユーザの身体の一部の動きに応じて、仮想空間内において第2操作オブジェクトを動かすステップと、仮想空間内における第1操作オブジェクトと第2操作オブジェクトとの関係が第1条件を満たす場合、第1条件に応じて第1操作オブジェクト、第2操作オブジェクトおよび仮想視点からの視界のうち少なくともいずれかを仮想空間内において制御するステップと、仮想視点からの視界に対応する視界画像を定義するステップと、視界画像を像表示装置に出力するステップとを実行させる。   According to an aspect of the present invention, there is provided a program executed by a computer provided with a processor to provide a first user with a virtual experience via an image display device associated with the first user's head. Be done. The program causes the processor to define a virtual space for providing the first user with a virtual experience, and to move the first operation object in the virtual space according to the movement of a part of the first user's body. Controlling the view from the virtual viewpoint in the virtual space according to the step, the posture of the head of the first user and the position of the virtual viewpoint in the virtual space, and according to the movement of a part of the second user's body Moving the second operation object in the virtual space, and when the relation between the first operation object and the second operation object in the virtual space satisfies the first condition, the first operation object according to the first condition, Controlling at least one of the second operation object and the view from the virtual viewpoint in the virtual space; A step of defining field image corresponding to, and a step of outputting a visual image on an image display device.

本開示の一態様によれば、ユーザの仮想体験をより向上させることができる。   According to one aspect of the present disclosure, the virtual experience of the user can be further improved.

ある実施の形態に従うHMDシステム100の構成の概略を表す図である。FIG. 1 is a diagram schematically illustrating the configuration of an HMD system 100 according to an embodiment. 一局面に従うコンピュータ200のハードウェア構成の一例を表すブロック図である。It is a block diagram showing an example of the hardware constitutions of computer 200 according to one mode. ある実施の形態に従うHMD装置110に設定されるuvw視野座標系を概念的に表す図である。FIG. 6 conceptually illustrates an uvw view coordinate system set in the HMD device 110 according to an embodiment. ある実施の形態に従う仮想空間2を表現する一態様を概念的に表す図である。FIG. 1 conceptually illustrates an aspect of representing a virtual space 2 according to an embodiment. ある実施の形態に従うHMD装置110を装着するユーザ190の頭部を上から表した図である。FIG. 7 is a top view of a head of a user 190 wearing the HMD device 110 according to an embodiment. 仮想空間2において視界領域23をX方向から見たYZ断面を表す図である。FIG. 6 is a diagram illustrating a YZ cross section in which a view area 23 is viewed from the X direction in a virtual space 2; 仮想空間2において視界領域23をY方向から見たXZ断面を表す図である。FIG. 6 is a diagram illustrating an XZ cross section in which a visibility region 23 in the virtual space 2 is viewed from the Y direction. ある実施の形態に従うコントローラ160の概略構成を表す図である。FIG. 6 is a diagram illustrating a schematic configuration of a controller 160 according to an embodiment. ある実施の形態に従うコンピュータ200をモジュール構成として表すブロック図である。FIG. 2 is a block diagram representing a computer 200 according to an embodiment as a modular configuration. HMDシステム100Aが実行する処理を表すフローチャートである。It is a flowchart showing the process which HMD system 100A performs. 複数ユーザに共有される仮想空間2を模式的に表す図である。It is a figure showing typically the virtual space 2 shared by a plurality of users. ユーザ190Aに提供される視界画像Mの一例を表す図である。It is a figure showing an example of view image M provided to user 190A. HMDシステム100A、HMDシステム100B、HMDシステム100C、およびサーバ150が実行する処理を示すシーケンス図である。It is a sequence diagram which shows the process which the HMD system 100A, the HMD system 100B, the HMD system 100C, and the server 150 perform. アバター40Aおよびアバター40Bの連動制御処理に関するフローチャートである。It is a flow chart about interlocking control processing of avatar 40A and avatar 40B. 第1条件が成立する場合の仮想空間2の様子の一例を示す図である。It is a figure which shows an example of a mode of the virtual space 2 in case a 1st condition is satisfied. 第1条件が成立する場合に表示される視界画像Mの一例を示す図である。It is a figure which shows an example of the view image M displayed when 1st conditions are satisfied. 第1条件の各例を示す図である。It is a figure which shows each example of 1st conditions. 第1条件の他例を示す図である。It is a figure which shows the other example of 1st conditions. 第1条件の他例を示す図である。It is a figure which shows the other example of 1st conditions. 第1条件が成立する場合の仮想空間2の様子の他の例を示す図である。It is a figure which shows the other example of the mode of the virtual space 2 in case a 1st condition is satisfied. 第1条件が成立する場合に表示される視界画像Mの他の例を示す図である。It is a figure which shows the other example of the view image M displayed when 1st conditions are satisfied.

以下、図面を参照しつつ、本開示の実施の形態について説明する。以下の説明では、同一の部品には同一の符号を付してある。それらの名称および機能も同じである。したがって、それらについての詳細な説明は繰り返さない。   Hereinafter, embodiments of the present disclosure will be described with reference to the drawings. In the following description, the same components are denoted by the same reference numerals. Their names and functions are also the same. Therefore, detailed description about them will not be repeated.

[HMDシステムの構成]
図1を参照して、HMD(Head Mount Device)システム100の構成について説明する。図1は、ある実施の形態に従うHMDシステム100の構成の概略を表す図である。ある局面において、HMDシステム100は、家庭用のシステムとしてあるいは業務用のシステムとして提供される。
[Configuration of HMD system]
The configuration of an HMD (Head Mount Device) system 100 will be described with reference to FIG. FIG. 1 is a diagram schematically illustrating the configuration of an HMD system 100 according to an embodiment. In one aspect, the HMD system 100 is provided as a home system or a business system.

HMDシステム100は、HMD装置110(ユーザ端末)と、HMDセンサ120と、コントローラ160と、コンピュータ200とを備える。HMD装置110は、ディスプレイ112(表示部)と、カメラ116と、マイク118と、注視センサ140とを含む。コントローラ160は、モーションセンサ130を含み得る。   The HMD system 100 includes an HMD device 110 (user terminal), an HMD sensor 120, a controller 160, and a computer 200. The HMD device 110 includes a display 112 (display unit), a camera 116, a microphone 118, and a gaze sensor 140. The controller 160 may include the motion sensor 130.

ある局面において、コンピュータ200は、インターネットその他のネットワーク19に接続可能であり、ネットワーク19に接続されているサーバ150その他のコンピュータと通信可能である。別の局面において、HMD装置110は、HMDセンサ120の代わりに、センサ114を含み得る。   In one aspect, the computer 200 can connect to the Internet or other network 19 and can communicate with a server 150 or other computer connected to the network 19. In another aspect, the HMD device 110 may include a sensor 114 instead of the HMD sensor 120.

HMD装置110は、ユーザの頭部に装着され、動作中に仮想空間をユーザに提供し得る。より具体的には、HMD装置110は、右目用の画像および左目用の画像をディスプレイ112にそれぞれ表示する。ユーザの各目がそれぞれの画像を視認すると、ユーザは、両目の視差に基づき当該画像を3次元の画像として認識し得る。   The HMD device 110 may be worn on the user's head and provide the user with virtual space during operation. More specifically, the HMD device 110 displays the image for the right eye and the image for the left eye on the display 112, respectively. When each eye of the user views each image, the user can recognize the image as a three-dimensional image based on the parallax of both eyes.

ディスプレイ112は、例えば、非透過型の表示装置として実現される。ある局面において、ディスプレイ112は、ユーザの両目の前方に位置するようにHMD装置110の本体に配置されている。したがって、ユーザは、ディスプレイ112に表示される3次元画像を視認すると、仮想空間に没入することができる。ある実施の形態において、仮想空間は、例えば、背景、ユーザが操作可能なオブジェクト、およびユーザが選択可能なメニューの画像等を含む。ある実施の形態において、ディスプレイ112は、所謂スマートフォンその他の情報表示端末が備える液晶ディスプレイまたは有機EL(Electro Luminescence)ディスプレイとして実現され得る。ディスプレイ112は、HMD装置110の本体と一体に構成されてもよいし、別体として構成されてもよい。   The display 112 is realized, for example, as a non-transmissive display device. In one aspect, the display 112 is disposed on the main body of the HMD device 110 so as to be located in front of the user's eyes. Therefore, when the user visually recognizes the three-dimensional image displayed on the display 112, the user can immerse in the virtual space. In one embodiment, the virtual space includes, for example, a background, an object operable by the user, and an image of a menu selectable by the user. In one embodiment, the display 112 can be realized as a liquid crystal display or an organic EL (Electro Luminescence) display included in a so-called smart phone or other information display terminal. The display 112 may be configured integrally with the main body of the HMD device 110 or may be configured separately.

ある局面において、ディスプレイ112は、右目用の画像を表示するためのサブディスプレイと、左目用の画像を表示するためのサブディスプレイとを含み得る。別の局面において、ディスプレイ112は、右目用の画像と左目用の画像とを一体として表示する構成であってもよい。この場合、ディスプレイ112は、高速シャッタを含む。高速シャッタは、画像がいずれか一方の目にのみ認識されるように、右目用の画像と左目用の画像とを交互に表示可能に作動する。   In one aspect, the display 112 can include a sub-display for displaying an image for the right eye and a sub-display for displaying an image for the left eye. In another aspect, the display 112 may be configured to integrally display an image for the right eye and an image for the left eye. In this case, the display 112 includes a high speed shutter. The high speed shutter operates so as to alternately display the image for the right eye and the image for the left eye so that the image is recognized only for one of the eyes.

カメラ116は、HMD装置110を装着するユーザの顔画像を取得する。カメラ116によって取得された顔画像は、画像解析処理によってユーザの表情を検知するために使用され得る。カメラ116は、例えば、瞳の動き、まぶたの開閉、および眉毛の動き等を検知するために、HMD装置110本体に内蔵された赤外線カメラであってもよい。あるいは、カメラ116は、ユーザの口、頬、および顎等の動きを検知するために、図1に示されるようにHMD装置110の外側に配置された外付けカメラであってもよい。また、カメラ116は、上述した赤外線カメラおよび外付けカメラの両方によって構成されてもよい。   The camera 116 acquires a face image of the user wearing the HMD device 110. The face image acquired by the camera 116 may be used to detect the user's expression by image analysis processing. The camera 116 may be, for example, an infrared camera built in the HMD device 110 in order to detect movement of the pupil, opening and closing of the eyelid, movement of the eyebrows, and the like. Alternatively, the camera 116 may be an external camera located outside the HMD device 110 as shown in FIG. 1 to detect movement of the user's mouth, cheeks, jaws, etc. Also, the camera 116 may be configured by both the infrared camera and the external camera described above.

マイク118は、ユーザが発した音声を取得する。マイク118によって取得された音声は、音声解析処理によってユーザの感情を検知するために使用され得る。当該音声は、仮想空間2に対して、音声による指示を与えるためにも使用され得る。また、当該音声は、ネットワーク19およびサーバ150等を介して、他のユーザが使用するHMDシステムに送られ、当該HMDシステムに接続されたスピーカ等から出力されてもよい。これにより、仮想空間を共有するユーザ間での会話(チャット)が実現される。   The microphone 118 acquires the voice emitted by the user. The speech acquired by the microphone 118 may be used to detect the user's emotions by speech analysis processing. The voice can also be used to give a voice instruction to the virtual space 2. Further, the voice may be sent to the HMD system used by another user via the network 19 and the server 150 or the like, and may be output from a speaker or the like connected to the HMD system. Thereby, conversation (chat) between users sharing the virtual space is realized.

HMDセンサ120は、複数の光源(図示しない)を含む。各光源は例えば、赤外線を発するLED(Light Emitting Diode)により実現される。HMDセンサ120は、HMD装置110の動きを検出するためのポジショントラッキング機能を有する。HMDセンサ120は、この機能を用いて、現実空間内におけるHMD装置110の位置および傾きを検出する。   The HMD sensor 120 includes a plurality of light sources (not shown). Each light source is realized by, for example, an LED (Light Emitting Diode) that emits infrared light. The HMD sensor 120 has a position tracking function for detecting the movement of the HMD device 110. The HMD sensor 120 uses this function to detect the position and tilt of the HMD device 110 in the physical space.

なお、別の局面において、HMDセンサ120は、カメラにより実現されてもよい。この場合、HMDセンサ120は、カメラから出力されるHMD装置110の画像情報を用いて、画像解析処理を実行することにより、HMD装置110の位置および傾きを検出することができる。   In another aspect, the HMD sensor 120 may be realized by a camera. In this case, the HMD sensor 120 can detect the position and the inclination of the HMD device 110 by executing the image analysis process using the image information of the HMD device 110 output from the camera.

別の局面において、HMD装置110は、位置検出器として、HMDセンサ120の代わりに、センサ114を備えてもよい。HMD装置110は、センサ114を用いて、HMD装置110自身の位置および傾きを検出し得る。例えば、センサ114が角速度センサ、地磁気センサ、加速度センサ、あるいはジャイロセンサ等である場合、HMD装置110は、HMDセンサ120の代わりに、これらの各センサのいずれかを用いて、自身の位置および傾きを検出し得る。一例として、センサ114が角速度センサである場合、角速度センサは、現実空間におけるHMD装置110の3軸周りの角速度を経時的に検出する。HMD装置110は、各角速度に基づいて、HMD装置110の3軸周りの角度の時間的変化を算出し、さらに、角度の時間的変化に基づいて、HMD装置110の傾きを算出する。また、HMD装置110は、透過型表示装置を備えていてもよい。この場合、当該透過型表示装置は、その透過率を調整することにより、一時的に非透過型の表示装置として構成可能であってもよい。また、視界画像は仮想空間を構成する画像の一部に、現実空間を提示する構成を含んでいてもよい。例えば、HMD装置110に搭載されたカメラで撮影した画像を視界画像の一部に重畳して表示させてもよいし、当該透過型表示装置の一部の透過率を高く設定することにより、視界画像の一部から現実空間を視認可能にしてもよい。   In another aspect, the HMD device 110 may include a sensor 114 instead of the HMD sensor 120 as a position detector. HMD device 110 may use sensor 114 to detect the position and tilt of HMD device 110 itself. For example, when the sensor 114 is an angular velocity sensor, a geomagnetic sensor, an acceleration sensor, a gyro sensor or the like, the HMD device 110 uses one of these sensors instead of the HMD sensor 120 to position and tilt itself. Can be detected. As an example, when the sensor 114 is an angular velocity sensor, the angular velocity sensor detects the angular velocity around three axes of the HMD device 110 in real space over time. The HMD device 110 calculates temporal changes in angles around the three axes of the HMD device 110 based on each angular velocity, and further calculates inclination of the HMD device 110 based on temporal changes in angles. The HMD device 110 may also include a transmissive display device. In this case, the transmissive display device may be temporarily configured as a non-transmissive display device by adjusting the transmittance thereof. Further, the view image may include a configuration for presenting the real space in a part of the image constituting the virtual space. For example, an image captured by a camera mounted on the HMD device 110 may be displayed so as to be superimposed on a part of the field of view image, or the field of view can be set by setting the transmittance of part of the transmissive display device high. The real space may be visible from part of the image.

注視センサ140は、ユーザ190の右目および左目の視線が向けられる方向(視線方向)を検出する。当該方向の検出は、例えば、公知のアイトラッキング機能によって実現される。注視センサ140は、当該アイトラッキング機能を有するセンサにより実現される。ある局面において、注視センサ140は、右目用のセンサおよび左目用のセンサを含むことが好ましい。注視センサ140は、例えば、ユーザ190の右目および左目に赤外光を照射するとともに、照射光に対する角膜および虹彩からの反射光を受けることにより各眼球の回転角を検出するセンサであってもよい。注視センサ140は、検出した各回転角に基づいて、ユーザ190の視線方向を検知することができる。   The gaze sensor 140 detects the direction (gaze direction) in which the gaze of the right eye and the left eye of the user 190 is directed. The detection of the direction is realized by, for example, a known eye tracking function. The gaze sensor 140 is realized by a sensor having the eye tracking function. In one aspect, the gaze sensor 140 preferably includes a sensor for the right eye and a sensor for the left eye. The gaze sensor 140 may be, for example, a sensor that emits infrared light to the right and left eyes of the user 190, and detects the rotation angle of each eye by receiving reflected light from the cornea and iris to the irradiated light. . The gaze sensor 140 can detect the gaze direction of the user 190 based on each detected rotation angle.

サーバ150は、コンピュータ200にプログラムを送信し得る。別の局面において、サーバ150は、他のユーザによって使用されるHMD装置に仮想現実を提供するための他のコンピュータ200と通信し得る。例えば、アミューズメント施設において、複数のユーザが参加型のゲームを行う場合、各コンピュータ200は、各ユーザの動作に基づく信号を他のコンピュータ200と通信して、同じ仮想空間において複数のユーザが共通のゲームを楽しむことを可能にする。サーバ150は、一または複数のコンピュータ装置により構成され得る。サーバ150は、後述するコンピュータ200のハードウェア構成と同様のハードウェア構成(プロセッサ、メモリ、ストレージ等)を備え得る。   The server 150 may send the program to the computer 200. In another aspect, server 150 may communicate with other computers 200 to provide virtual reality to HMD devices used by other users. For example, when a plurality of users play a participatory game in an amusement facility, each computer 200 communicates a signal based on each user's operation with another computer 200 to share a plurality of users in the same virtual space. Allows you to enjoy the game. The server 150 may be configured by one or more computer devices. The server 150 may have the same hardware configuration (processor, memory, storage, etc.) as the hardware configuration of the computer 200 described later.

コントローラ160は、ユーザ190からコンピュータ200への命令の入力を受け付ける。ある局面において、コントローラ160は、ユーザ190によって把持可能に構成される。別の局面において、コントローラ160は、ユーザ190の身体あるいは衣類の一部に装着可能に構成される。別の局面において、コントローラ160は、コンピュータ200から送られる信号に基づいて、振動、音、光のうちの少なくともいずれかを出力するように構成されてもよい。別の局面において、コントローラ160は、仮想空間に配置されるオブジェクトの位置および動き等を制御するためにユーザ190によって与えられる操作を受け付ける。   The controller 160 receives an input of an instruction from the user 190 to the computer 200. In one aspect, controller 160 is configured to be graspable by user 190. In another aspect, the controller 160 is configured to be attachable to the body of the user 190 or a part of the clothing. In another aspect, the controller 160 may be configured to output vibration, sound, light, and / or light based on a signal sent from the computer 200. In another aspect, the controller 160 receives an operation provided by the user 190 to control the position, movement, etc. of an object placed in the virtual space.

モーションセンサ130は、ある局面において、ユーザの手に取り付けられて、ユーザの手の動きを検出する。例えば、モーションセンサ130は、手の回転速度、回転数等を検出する。検出された信号は、コンピュータ200に送られる。モーションセンサ130は、例えば、手袋型のコントローラ160に設けられている。ある実施の形態において、現実空間における安全のため、コントローラ160は、手袋型のようにユーザ190の手に装着されることにより容易に飛んで行かないものに装着されるのが望ましい。別の局面において、ユーザ190に装着されないセンサがユーザ190の手の動きを検出してもよい。例えば、ユーザ190を撮影するカメラの信号が、ユーザ190の動作を表す信号として、コンピュータ200に入力されてもよい。モーションセンサ130とコンピュータ200とは、有線により、または無線により互いに接続される。無線の場合、通信形態は特に限られず、例えば、Bluetooth(登録商標)その他の公知の通信手法が用いられる。   The motion sensor 130 is attached to the user's hand and detects movement of the user's hand in one aspect. For example, the motion sensor 130 detects the rotation speed, the number of rotations, and the like of the hand. The detected signal is sent to the computer 200. The motion sensor 130 is provided, for example, in a glove-type controller 160. In one embodiment, for security in real space, the controller 160 is preferably worn like a glove type that does not easily fly by being worn on the hand of the user 190. In another aspect, a sensor not attached to the user 190 may detect hand movement of the user 190. For example, a signal of a camera that captures the user 190 may be input to the computer 200 as a signal representing an operation of the user 190. The motion sensor 130 and the computer 200 are connected to each other by wire or wirelessly. In the case of wireless communication, the communication form is not particularly limited, and, for example, Bluetooth (registered trademark) or other known communication methods are used.

[ハードウェア構成]
図2を参照して、本実施の形態に係るコンピュータ200について説明する。図2は、一局面に従うコンピュータ200のハードウェア構成の一例を表すブロック図である。コンピュータ200は、主たる構成要素として、プロセッサ10と、メモリ11と、ストレージ12と、入出力インターフェース13と、通信インターフェース14とを備える。各構成要素は、それぞれ、バス15に接続されている。
[Hardware configuration]
A computer 200 according to the present embodiment will be described with reference to FIG. FIG. 2 is a block diagram illustrating an example of a hardware configuration of a computer 200 according to an aspect. The computer 200 includes a processor 10, a memory 11, a storage 12, an input / output interface 13, and a communication interface 14 as main components. Each component is connected to the bus 15 respectively.

プロセッサ10は、コンピュータ200に与えられる信号に基づいて、あるいは、予め定められた条件が成立したことに基づいて、メモリ11またはストレージ12に格納されているプログラムに含まれる一連の命令を実行する。ある局面において、プロセッサ10は、CPU(Central Processing Unit)、MPU(Micro Processor Unit)、FPGA(Field-Programmable Gate Array)その他のデバイスとして実現される。   The processor 10 executes a series of instructions included in a program stored in the memory 11 or the storage 12 based on a signal supplied to the computer 200 or based on the establishment of a predetermined condition. In one aspect, the processor 10 is realized as a central processing unit (CPU), a micro processor unit (MPU), a field-programmable gate array (FPGA) or other devices.

メモリ11は、プログラムおよびデータを一時的に保存する。プログラムは、例えば、ストレージ12からロードされる。メモリ11に保存されるデータは、コンピュータ200に入力されたデータと、プロセッサ10によって生成されたデータとを含む。ある局面において、メモリ11は、RAM(Random Access Memory)その他の揮発性メモリとして実現される。   The memory 11 temporarily stores programs and data. The program is loaded from, for example, the storage 12. The data stored in the memory 11 includes data input to the computer 200 and data generated by the processor 10. In one aspect, the memory 11 is implemented as a random access memory (RAM) or another volatile memory.

ストレージ12は、プログラムおよびデータを永続的に保持する。ストレージ12は、例えば、ROM(Read-Only Memory)、ハードディスク装置、フラッシュメモリ、その他の不揮発性記憶装置として実現される。ストレージ12に格納されるプログラムは、HMDシステム100において仮想空間を提供するためのプログラム、シミュレーションプログラム、ゲームプログラム、ユーザ認証プログラム、および他のコンピュータ200との通信を実現するためのプログラム等を含む。ストレージ12に格納されるデータは、仮想空間を規定するためのデータおよびオブジェクト等を含む。   The storage 12 holds programs and data permanently. The storage 12 is implemented, for example, as a read-only memory (ROM), a hard disk drive, a flash memory, or another non-volatile storage device. The programs stored in the storage 12 include a program for providing a virtual space in the HMD system 100, a simulation program, a game program, a user authentication program, a program for realizing communication with another computer 200, and the like. The data stored in the storage 12 includes data, objects, etc. for defining a virtual space.

なお、別の局面において、ストレージ12は、メモリカードのように着脱可能な記憶装置として実現されてもよい。さらに別の局面において、コンピュータ200に内蔵されたストレージ12の代わりに、外部の記憶装置に保存されているプログラムおよびデータを使用する構成が使用されてもよい。このような構成によれば、例えば、アミューズメント施設のように複数のHMDシステム100が使用される場面において、プログラムおよびデータ等の更新を一括して行うことが可能になる。   In another aspect, the storage 12 may be realized as a removable storage device like a memory card. In still another aspect, a configuration using programs and data stored in an external storage device may be used instead of the storage 12 built in the computer 200. According to such a configuration, for example, in a scene where a plurality of HMD systems 100 are used, such as an amusement facility, it is possible to perform updating of programs, data, etc. collectively.

ある実施の形態において、入出力インターフェース13は、HMD装置110、HMDセンサ120またはモーションセンサ130との間で信号を通信する。ある局面において、入出力インターフェース13は、USB(Universal Serial Bus)インターフェース、DVI(Digital Visual Interface)、HDMI(登録商標)(High-Definition Multimedia Interface)その他の端子を用いて実現される。なお、入出力インターフェース13は上述のものに限られない。例えば、入出力インターフェース13は、Bluetooth(登録商標)等の無線通信インターフェースを含み得る。   In one embodiment, input / output interface 13 communicates signals with HMD device 110, HMD sensor 120 or motion sensor 130. In one aspect, the input / output interface 13 is realized using a Universal Serial Bus (USB) interface, a Digital Visual Interface (DVI), a High-Definition Multimedia Interface (HDMI (registered trademark)), and other terminals. The input / output interface 13 is not limited to the one described above. For example, the input / output interface 13 may include a wireless communication interface such as Bluetooth (registered trademark).

ある実施の形態において、入出力インターフェース13は、さらに、コントローラ160と通信し得る。例えば、入出力インターフェース13は、モーションセンサ130から出力された信号の入力を受ける。別の局面において、入出力インターフェース13は、プロセッサ10から出力された命令を、コントローラ160に送る。当該命令は、振動、音声出力、発光等をコントローラ160に指示する。コントローラ160は、当該命令を受信すると、その命令に応じて、振動、音声出力または発光のいずれかを実行する。   In one embodiment, input / output interface 13 may further communicate with controller 160. For example, the input / output interface 13 receives an input of a signal output from the motion sensor 130. In another aspect, the input / output interface 13 sends an instruction output from the processor 10 to the controller 160. The command instructs the controller 160 to vibrate, output sound, emit light, and the like. When the controller 160 receives the command, the controller 160 executes vibration, voice output or light emission according to the command.

通信インターフェース14は、ネットワーク19に接続されて、ネットワーク19に接続されている他のコンピュータ(例えば、サーバ150)と通信する。ある局面において、通信インターフェース14は、例えば、LAN(Local Area Network)その他の有線通信インターフェース、あるいは、WiFi(Wireless Fidelity、登録商標)、Bluetooth(登録商標)、NFC(Near Field Communication)その他の無線通信インターフェースとして実現される。なお、通信インターフェース14は上述のものに限られない。   The communication interface 14 is connected to the network 19 to communicate with other computers (for example, the server 150) connected to the network 19. In one aspect, the communication interface 14 is, for example, a LAN (Local Area Network) or other wired communication interface, or WiFi (Wireless Fidelity (registered trademark), Bluetooth (registered trademark), NFC (Near Field Communication) or other wireless communication. It is realized as an interface. The communication interface 14 is not limited to the one described above.

ある局面において、プロセッサ10は、ストレージ12にアクセスし、ストレージ12に格納されている1つ以上のプログラムをメモリ11にロードし、当該プログラムに含まれる一連の命令を実行する。当該1つ以上のプログラムは、コンピュータ200のオペレーティングシステム、仮想空間を提供するためのアプリケーションプログラム、コントローラ160を用いて仮想空間で実行可能なゲームソフトウェア等を含み得る。プロセッサ10は、入出力インターフェース13を介して、仮想空間を提供するための信号をHMD装置110に送る。HMD装置110は、その信号に基づいてディスプレイ112に映像を表示する。   In one aspect, the processor 10 accesses the storage 12, loads one or more programs stored in the storage 12 into the memory 11, and executes a series of instructions included in the program. The one or more programs may include an operating system of the computer 200, an application program for providing a virtual space, game software executable in the virtual space using the controller 160, and the like. The processor 10 sends a signal for providing a virtual space to the HMD device 110 via the input / output interface 13. The HMD device 110 displays an image on the display 112 based on the signal.

サーバ150は、ネットワーク19を介して複数のHMDシステム100の各々の制御装置と接続される。図2に示される例では、サーバ150は、HMD装置110Aを有するHMDシステム100Aと、HMD装置110Bを有するHMDシステム100Bと、HMD装置110Cを有するHMDシステム100Cとを含む複数のHMDシステム100を互いに通信可能に接続する。これにより、共通の仮想空間を用いた仮想体験が各HMDシステムを使用するユーザに提供される。なお、HMDシステム100A、HMDシステム100B、HMDシステム100C、およびその他のHMDシステム100は、いずれも同様の構成を備える。ただし、各HMDシステム100は、互いに異なる機種であってもよいし、互いに異なる性能(処理性能、およびユーザ動作の検知に関する検知性能等)を有してもよい。   The server 150 is connected to the control devices of each of the plurality of HMD systems 100 via the network 19. In the example shown in FIG. 2, the server 150 is configured to mutually connect a plurality of HMD systems 100 including the HMD system 100A having the HMD device 110A, the HMD system 100B having the HMD device 110B, and the HMD system 100C having the HMD device 110C. Connect communicably. As a result, virtual experiences using a common virtual space are provided to users using each HMD system. The HMD system 100A, the HMD system 100B, the HMD system 100C, and the other HMD systems 100 all have the same configuration. However, the HMD systems 100 may be of different model types, or may have different performances (processing performance, detection performance regarding detection of user operation, etc.).

なお、図2に示される例では、コンピュータ200がHMD装置110の外部に設けられる構成が示されているが、別の局面において、コンピュータ200は、HMD装置110に内蔵されてもよい。一例として、ディスプレイ112を含む携帯型の情報通信端末(例えば、スマートフォン)がコンピュータ200として機能してもよい。   Although the configuration in which the computer 200 is provided outside the HMD device 110 is shown in the example illustrated in FIG. 2, the computer 200 may be incorporated in the HMD device 110 in another aspect. As one example, a portable information communication terminal (for example, a smartphone) including the display 112 may function as the computer 200.

また、コンピュータ200は、複数のHMD装置110に共通して用いられる構成であってもよい。このような構成によれば、例えば、複数のユーザに同一の仮想空間を提供することもできるので、各ユーザは同一の仮想空間で他のユーザと同一のアプリケーションを楽しむことができる。なお、このような場合、本実施形態における複数のHMDシステム100は、入出力インターフェース13により、コンピュータ200に直接接続されてもよい。また、本実施形態におけるサーバ150の各機能(例えば後述する同期処理等)は、コンピュータ200に実装されてもよい。   In addition, the computer 200 may be configured to be commonly used by a plurality of HMD devices 110. According to such a configuration, for example, since the same virtual space can be provided to a plurality of users, each user can enjoy the same application as other users in the same virtual space. In such a case, the plurality of HMD systems 100 in the present embodiment may be directly connected to the computer 200 by the input / output interface 13. In addition, each function (for example, synchronization processing to be described later) of the server 150 in the present embodiment may be implemented in the computer 200.

ある実施の形態において、HMDシステム100では、グローバル座標系が予め設定されている。グローバル座標系は、現実空間における鉛直方向、鉛直方向に直交する水平方向、ならびに、鉛直方向および水平方向の双方に直交する前後方向にそれぞれ平行な、3つの基準方向(軸)を有する。本実施の形態では、グローバル座標系は視点座標系の一つである。そこで、グローバル座標系における水平方向、鉛直方向(上下方向)、および前後方向は、それぞれ、x軸、y軸、z軸と規定される。より具体的には、グローバル座標系において、x軸は現実空間の水平方向に平行である。y軸は、現実空間の鉛直方向に平行である。z軸は現実空間の前後方向に平行である。   In one embodiment, in the HMD system 100, a global coordinate system is preset. The global coordinate system has three reference directions (axes) parallel to the vertical direction in real space, the horizontal direction perpendicular to the vertical direction, and the front-back direction orthogonal to both the vertical direction and the horizontal direction. In the present embodiment, the global coordinate system is one of viewpoint coordinate systems. Therefore, the horizontal direction, the vertical direction (vertical direction), and the front-rear direction in the global coordinate system are defined as an x-axis, a y-axis, and a z-axis, respectively. More specifically, in the global coordinate system, the x-axis is parallel to the horizontal direction of the real space. The y-axis is parallel to the vertical direction of the real space. The z axis is parallel to the front and back direction of the real space.

ある局面において、HMDセンサ120は、赤外線センサを含む。赤外線センサが、HMD装置110の各光源から発せられた赤外線をそれぞれ検出すると、HMD装置110の存在を検出する。HMDセンサ120は、さらに、各点の値(グローバル座標系における各座標値)に基づいて、HMD装置110を装着したユーザ190の動きに応じた、現実空間内におけるHMD装置110の位置および傾きを検出する。より詳しくは、HMDセンサ120は、経時的に検出された各値を用いて、HMD装置110の位置および傾きの時間的変化を検出できる。   In one aspect, the HMD sensor 120 includes an infrared sensor. When an infrared sensor detects infrared light emitted from each light source of the HMD device 110, the presence of the HMD device 110 is detected. The HMD sensor 120 further determines the position and inclination of the HMD device 110 in the physical space according to the movement of the user 190 wearing the HMD device 110 based on the value of each point (each coordinate value in the global coordinate system). To detect. More specifically, the HMD sensor 120 can detect temporal changes in the position and inclination of the HMD device 110 using each value detected over time.

グローバル座標系は現実空間の座標系と平行である。したがって、HMDセンサ120によって検出されたHMD装置110の各傾きは、グローバル座標系におけるHMD装置110の3軸周りの各傾きに相当する。HMDセンサ120は、グローバル座標系におけるHMD装置110の傾きに基づき、uvw視野座標系をHMD装置110に設定する。HMD装置110に設定されるuvw視野座標系は、HMD装置110を装着したユーザ190が仮想空間において物体を見る際の視点座標系に対応する。   The global coordinate system is parallel to the real space coordinate system. Therefore, each inclination of the HMD device 110 detected by the HMD sensor 120 corresponds to each inclination around the three axes of the HMD device 110 in the global coordinate system. The HMD sensor 120 sets the uvw visual field coordinate system to the HMD device 110 based on the inclination of the HMD device 110 in the global coordinate system. The uvw visual field coordinate system set in the HMD device 110 corresponds to the visual point coordinate system when the user 190 wearing the HMD device 110 views an object in the virtual space.

[uvw視野座標系]
図3を参照して、uvw視野座標系について説明する。図3は、ある実施の形態に従うHMD装置110に設定されるuvw視野座標系を概念的に表す図である。HMDセンサ120は、HMD装置110の起動時に、グローバル座標系におけるHMD装置110の位置および傾きを検出する。プロセッサ10は、検出された値に基づいて、uvw視野座標系をHMD装置110に設定する。
[Uvw view coordinate system]
The uvw view coordinate system will be described with reference to FIG. FIG. 3 is a diagram conceptually illustrating the uvw visual field coordinate system set in the HMD device 110 according to an embodiment. The HMD sensor 120 detects the position and tilt of the HMD device 110 in the global coordinate system when the HMD device 110 is activated. The processor 10 sets the uvw visual field coordinate system in the HMD device 110 based on the detected value.

図3に示されるように、HMD装置110は、HMD装置110を装着したユーザの頭部を中心(原点)とした3次元のuvw視野座標系を設定する。より具体的には、HMD装置110は、グローバル座標系を規定する水平方向、鉛直方向、および前後方向(x軸、y軸、z軸)を、グローバル座標系内においてHMD装置110の各軸周りの傾きだけ各軸周りにそれぞれ傾けることによって新たに得られる3つの方向を、HMD装置110におけるuvw視野座標系のピッチ方向(u軸)、ヨー方向(v軸)、およびロール方向(w軸)として設定する。   As shown in FIG. 3, the HMD device 110 sets a three-dimensional uvw visual field coordinate system centered on the head of the user wearing the HMD device 110 (origin). More specifically, the HMD device 110 defines the global coordinate system in the horizontal direction, the vertical direction, and the front-back direction (x-axis, y-axis, z-axis) around each axis of the HMD device 110 in the global coordinate system. The pitch direction (u axis), the yaw direction (v axis), and the roll direction (w axis) of the uvw visual field coordinate system in the HMD device 110 are newly obtained by inclining each direction about each axis by the inclination of Set as.

ある局面において、HMD装置110を装着したユーザ190が直立し、かつ、正面を視認している場合、プロセッサ10は、グローバル座標系に平行なuvw視野座標系をHMD装置110に設定する。この場合、グローバル座標系における水平方向(x軸)、鉛直方向(y軸)、および前後方向(z軸)は、HMD装置110におけるuvw視野座標系のピッチ方向(u軸)、ヨー方向(v軸)、およびロール方向(w軸)に一致する。   In one aspect, when the user 190 wearing the HMD device 110 stands upright and views the front, the processor 10 sets the uvw visual field coordinate system parallel to the global coordinate system to the HMD device 110. In this case, the horizontal direction (x-axis), vertical direction (y-axis) and front-back direction (z-axis) in the global coordinate system are the pitch direction (u-axis) of the uvw view coordinate system in the HMD device 110 and the yaw direction (v Match the axis) and the roll direction (w axis).

uvw視野座標系がHMD装置110に設定された後、HMDセンサ120は、HMD装置110の動きに基づいて、設定されたuvw視野座標系におけるHMD装置110の傾き(傾きの変化量)を検出できる。この場合、HMDセンサ120は、HMD装置110の傾きとして、uvw視野座標系におけるHMD装置110のピッチ角(θu)、ヨー角(θv)、およびロール角(θw)をそれぞれ検出する。ピッチ角(θu)は、uvw視野座標系におけるピッチ方向周りのHMD装置110の傾き角度を表す。ヨー角(θv)は、uvw視野座標系におけるヨー方向周りのHMD装置110の傾き角度を表す。ロール角(θw)は、uvw視野座標系におけるロール方向周りのHMD装置110の傾き角度を表す。   After the uvw visual field coordinate system is set in the HMD device 110, the HMD sensor 120 can detect the inclination (the amount of change in the inclination) of the HMD device 110 in the set uvw visual field coordinate system based on the movement of the HMD device 110. . In this case, the HMD sensor 120 detects the pitch angle (θu), the yaw angle (θv), and the roll angle (θw) of the HMD device 110 in the uvw view coordinate system as the inclination of the HMD device 110. The pitch angle (θu) represents the tilt angle of the HMD device 110 around the pitch direction in the uvw view coordinate system. The yaw angle (θv) represents the tilt angle of the HMD device 110 around the yaw direction in the uvw view coordinate system. The roll angle (θw) represents the tilt angle of the HMD device 110 around the roll direction in the uvw view coordinate system.

HMDセンサ120は、検出されたHMD装置110の傾き角度に基づいて、HMD装置110が動いた後のHMD装置110におけるuvw視野座標系を、HMD装置110に設定する。HMD装置110と、HMD装置110のuvw視野座標系との関係は、HMD装置110の位置および傾きに関わらず、常に一定である。HMD装置110の位置
8および傾きが変わると、当該位置および傾きの変化に連動して、グローバル座標系におけるHMD装置110のuvw視野座標系の位置および傾きが変化する。
The HMD sensor 120 sets the uvw visual field coordinate system in the HMD device 110 after the HMD device 110 has moved to the HMD device 110 based on the detected inclination angle of the HMD device 110. The relationship between the HMD device 110 and the uvw view coordinate system of the HMD device 110 is always constant regardless of the position and tilt of the HMD device 110. Location of HMD device 110
When 8 and the tilt change, the position and the tilt of the uvw view coordinate system of the HMD device 110 in the global coordinate system change in conjunction with the change of the position and the tilt.

ある局面において、HMDセンサ120は、赤外線センサからの出力に基づいて取得される赤外線の光強度および複数の点間の相対的な位置関係(例えば、各点間の距離など)に基づいて、HMD装置110の現実空間内における位置を、HMDセンサ120に対する相対位置として特定してもよい。また、プロセッサ10は、特定された相対位置に基づいて、現実空間内(グローバル座標系)におけるHMD装置110のuvw視野座標系の原点を決定してもよい。   In one aspect, the HMD sensor 120 detects the HMD based on the light intensity of the infrared light acquired based on the output from the infrared sensor and the relative positional relationship between the plurality of points (for example, the distance between each point). The position of the device 110 in the physical space may be identified as a relative position to the HMD sensor 120. Also, the processor 10 may determine the origin of the uvw visual field coordinate system of the HMD device 110 in the real space (global coordinate system) based on the identified relative position.

[仮想空間]
図4を参照して、仮想空間についてさらに説明する。図4は、ある実施の形態に従う仮想空間2を表現する一態様を概念的に表す図である。仮想空間2は、中心21の360度方向の全体を覆う全天球状の構造を有する。図4では、説明を複雑にしないために、仮想空間2のうちの上半分の天球が例示されている。仮想空間2では各メッシュが規定される。各メッシュの位置は、仮想空間2に規定されるXYZ座標系における座標値として予め規定されている。コンピュータ200は、仮想空間2に展開可能なコンテンツ(静止画、動画等)を構成する各部分画像を、仮想空間2において対応する各メッシュにそれぞれ対応付けて、ユーザによって視認可能な仮想空間画像22が展開される仮想空間2をユーザに提供する。
[Virtual space]
The virtual space will be further described with reference to FIG. FIG. 4 is a diagram conceptually illustrating an aspect of representing virtual space 2 according to an embodiment. The virtual space 2 has an all-sky spherical structure that covers the entire 360-degree direction of the center 21. In FIG. 4, the celestial sphere in the upper half of the virtual space 2 is illustrated so as not to complicate the description. In the virtual space 2, each mesh is defined. The position of each mesh is previously defined as coordinate values in the XYZ coordinate system defined in the virtual space 2. The computer 200 associates each partial image constituting content (a still image, a moving image, etc.) that can be expanded in the virtual space 2 with each corresponding mesh in the virtual space 2 to make the virtual space image 22 visible by the user. Provides the user with a virtual space 2 in which is deployed.

ある局面において、仮想空間2では、中心21を原点とするXYZ座標系が規定される。XYZ座標系は、例えば、グローバル座標系に平行である。XYZ座標系は視点座標系の一種であるため、XYZ座標系における水平方向、鉛直方向(上下方向)、および前後方向は、それぞれX軸、Y軸、Z軸として規定される。したがって、XYZ座標系のX軸(水平方向)がグローバル座標系のx軸と平行であり、XYZ座標系のY軸(鉛直方向)がグローバル座標系のy軸と平行であり、XYZ座標系のZ軸(前後方向)がグローバル座標系のz軸と平行である。仮想空間2内の各位置は、XYZ座標系における座標値によって一意に特定される。   In one aspect, in the virtual space 2, an XYZ coordinate system having a center 21 as an origin is defined. The XYZ coordinate system is, for example, parallel to the global coordinate system. Since the XYZ coordinate system is a kind of viewpoint coordinate system, the horizontal direction, the vertical direction (vertical direction), and the front-rear direction in the XYZ coordinate system are defined as an X axis, a Y axis, and a Z axis, respectively. Therefore, the X axis (horizontal direction) of the XYZ coordinate system is parallel to the x axis of the global coordinate system, the Y axis (vertical direction) of the XYZ coordinate system is parallel to the y axis of the global coordinate system, and The Z-axis (front-back direction) is parallel to the z-axis of the global coordinate system. Each position in the virtual space 2 is uniquely identified by coordinate values in the XYZ coordinate system.

HMD装置110の起動時、すなわちHMD装置110の初期状態において、仮想カメラ1(仮想視点)は、例えば仮想空間2の中心21に配置される。仮想カメラ1は、現実空間におけるHMD装置110の動きに連動して、仮想空間2を同様に移動する。これにより、現実空間におけるHMD装置110の位置および傾きの変化が、仮想空間2において同様に再現される。   When the HMD device 110 is activated, that is, in the initial state of the HMD device 110, the virtual camera 1 (virtual viewpoint) is disposed, for example, at the center 21 of the virtual space 2. The virtual camera 1 similarly moves in the virtual space 2 in conjunction with the movement of the HMD device 110 in the real space. Thereby, changes in the position and inclination of the HMD device 110 in the real space are similarly reproduced in the virtual space 2.

仮想カメラ1は、仮想視点の一例である。仮想視点とは、仮想空間2内における注視元を意味する。   The virtual camera 1 is an example of a virtual viewpoint. The virtual viewpoint means a gaze source in the virtual space 2.

仮想カメラ1には、HMD装置110の場合と同様に、uvw視野座標系が規定される。仮想空間2における仮想カメラ1のuvw視野座標系は、現実空間(グローバル座標系)におけるHMD装置110のuvw視野座標系に連動するように規定されている。したがって、HMD装置110の傾きが変化すると、それに応じて、仮想カメラ1の傾きも変化する。また、仮想カメラ1は、HMD装置110を装着したユーザの現実空間における移動に連動して、仮想空間2において移動することもできる。   As in the case of the HMD device 110, the uvw visual field coordinate system is defined in the virtual camera 1. The uvw view coordinate system of the virtual camera 1 in the virtual space 2 is defined to interlock with the uvw view coordinate system of the HMD device 110 in the real space (global coordinate system). Therefore, when the inclination of the HMD device 110 changes, the inclination of the virtual camera 1 also changes accordingly. The virtual camera 1 can also move in the virtual space 2 in conjunction with the movement of the user wearing the HMD device 110 in the real space.

仮想カメラ1の向きは、仮想カメラ1の位置および傾きに応じて決まるので、ユーザが仮想空間画像22を視認する際に基準となる視線(基準視線5)は、仮想カメラ1の向きに応じて決まる。コンピュータ200のプロセッサ10は、基準視線5に基づいて、仮想空間2における仮想カメラ1からの視界である視界領域23を規定する。視界領域23は、仮想空間2のうち、HMD装置110を装着したユーザの視界に対応する。   Since the direction of the virtual camera 1 is determined according to the position and the inclination of the virtual camera 1, the line of sight (reference line of sight 5) serving as a reference when the user views the virtual space image 22 depends on the direction of the virtual camera 1 It is decided. The processor 10 of the computer 200 defines a view area 23 which is a view from the virtual camera 1 in the virtual space 2 based on the reference line of sight 5. The view area 23 corresponds to the view of the user wearing the HMD device 110 in the virtual space 2.

注視センサ140によって検出されるユーザ190の視線方向は、ユーザ190が物体を視認する際の視点座標系における方向である。HMD装置110のuvw視野座標系は、ユーザ190がディスプレイ112を視認する際の視点座標系に等しい。また、仮想カメラ1のuvw視野座標系は、HMD装置110のuvw視野座標系に連動している。したがって、ある局面に従うHMDシステム100は、注視センサ140によって検出されたユーザ190の視線方向を、仮想カメラ1のuvw視野座標系におけるユーザの視線方向とみなすことができる。   The gaze direction of the user 190 detected by the gaze sensor 140 is a direction in the viewpoint coordinate system when the user 190 visually recognizes an object. The uvw view coordinate system of HMD device 110 is equivalent to the view coordinate system when user 190 views display 112. Further, the uvw visual field coordinate system of the virtual camera 1 is interlocked with the uvw visual field coordinate system of the HMD device 110. Therefore, the HMD system 100 according to an aspect can regard the gaze direction of the user 190 detected by the gaze sensor 140 as the gaze direction of the user in the uvw view coordinate system of the virtual camera 1.

[ユーザの視線]
図5を参照して、ユーザの視線方向の決定について説明する。図5は、ある実施の形態に従うHMD装置110を装着するユーザ190の頭部を上から表した図である。
[User's gaze]
The determination of the user's gaze direction will be described with reference to FIG. FIG. 5 is a top view of the head of a user 190 wearing the HMD device 110 according to one embodiment.

ある局面において、注視センサ140は、ユーザ190の右目および左目の各視線を検出する。ある局面において、ユーザ190が近くを見ている場合、注視センサ140は、視線R1およびL1を検出する。別の局面において、ユーザ190が遠くを見ている場合、注視センサ140は、視線R2およびL2を検出する。この場合、ロール方向wに対して視線R2およびL2がなす角度は、ロール方向wに対して視線R1およびL1がなす角度よりも小さい。注視センサ140は、検出結果をコンピュータ200に送信する。   In one aspect, the gaze sensor 140 detects the gaze of each of the right eye and the left eye of the user 190. In one aspect, when the user 190 is looking close, the gaze sensor 140 detects the sight lines R1 and L1. In another aspect, if the user 190 is looking far, the gaze sensor 140 detects the gazes R2 and L2. In this case, the angle between the lines of sight R2 and L2 with respect to the roll direction w is smaller than the angle between the lines of sight R1 and L1 with respect to the direction of roll w. The gaze sensor 140 transmits the detection result to the computer 200.

コンピュータ200が、視線の検出結果として、視線R1およびL1の検出値を注視センサ140から受信した場合には、その検出値に基づいて、視線R1およびL1の交点である注視点N1を特定する。一方、コンピュータ200は、視線R2およびL2の検出値を注視センサ140から受信した場合には、視線R2およびL2の交点を注視点として特定する。コンピュータ200は、特定した注視点N1の位置に基づき、ユーザ190の視線方向N0を特定する。コンピュータ200は、例えば、ユーザ190の右目Rと左目Lとを結ぶ直線の中点と、注視点N1とを通る直線の延びる方向を、視線方向N0として検出する。視線方向N0は、ユーザ190が両目により実際に視線を向けている方向である。また、視線方向N0は、視界領域23に対してユーザ190が実際に視線を向けている方向に相当する。   When the computer 200 receives the detection values of the lines of sight R1 and L1 from the gaze sensor 140 as the detection result of the line of sight, the gaze point N1 which is the intersection of the lines of sight R1 and L1 is specified based on the detection values. On the other hand, when the computer 200 receives the detection values of the sight lines R2 and L2 from the gaze sensor 140, the computer 200 specifies the intersection of the sight lines R2 and L2 as the gaze point. The computer 200 identifies the gaze direction N0 of the user 190 based on the identified position of the fixation point N1. The computer 200 detects, for example, the direction in which the straight line passing through the midpoint of the straight line connecting the right eye R and the left eye L of the user 190 and the gaze point N1 is the line of sight direction N0. The gaze direction N0 is the direction in which the user 190 is actually pointing the gaze with both eyes. Further, the line-of-sight direction N0 corresponds to the direction in which the user 190 actually points the line of sight with respect to the view area 23.

また、別の局面において、HMDシステム100は、テレビジョン放送受信チューナを備えてもよい。このような構成によれば、HMDシステム100は、仮想空間2においてテレビ番組を表示することができる。   Also, in another aspect, the HMD system 100 may include a television broadcast receiver tuner. According to such a configuration, the HMD system 100 can display a television program in the virtual space 2.

さらに別の局面において、HMDシステム100は、インターネットに接続するための通信回路、あるいは、電話回線に接続するための通話機能を備えていてもよい。   In still another aspect, the HMD system 100 may be provided with a communication circuit for connecting to the Internet, or a call function for connecting to a telephone line.

[視界領域]
図6および図7を参照して、視界領域23について説明する。図6は、仮想空間2において視界領域23をX方向から見たYZ断面を表す図である。図7は、仮想空間2において視界領域23をY方向から見たXZ断面を表す図である。
[View area]
The view area 23 will be described with reference to FIGS. 6 and 7. FIG. 6 is a diagram showing a YZ cross section of the virtual space 2 when the field of view 23 is viewed from the X direction. FIG. 7 is a diagram showing an XZ cross section in which the visibility region 23 is viewed from the Y direction in the virtual space 2.

図6に示されるように、YZ断面における視界領域23は、領域24を含む。領域24は、仮想カメラ1の基準視線5と仮想空間2のYZ断面とによって定義される。プロセッサ10は、仮想空間2における基準視線5を中心として極角αを含む範囲を、領域24として規定する。   As shown in FIG. 6, the view area 23 in the YZ cross section includes the area 24. The area 24 is defined by the reference line of sight 5 of the virtual camera 1 and the YZ cross section of the virtual space 2. The processor 10 defines a range including the polar angle α centering on the reference gaze 5 in the virtual space 2 as a region 24.

図7に示されるように、XZ断面における視界領域23は、領域25を含む。領域25は、基準視線5と仮想空間2のXZ断面とによって定義される。プロセッサ10は、仮想空間2における基準視線5を中心とした方位角βを含む範囲を、領域25として規定する。   As shown in FIG. 7, the view area 23 in the XZ cross section includes the area 25. The area 25 is defined by the reference line of sight 5 and the XZ cross section of the virtual space 2. The processor 10 defines a range including the azimuth angle β centered on the reference gaze 5 in the virtual space 2 as a region 25.

ある局面において、HMDシステム100は、コンピュータ200からの信号に基づいて、視界画像をディスプレイ112に表示させることにより、ユーザ190に仮想空間を提供する。視界画像は、仮想空間画像22のうち視界領域23に重畳する部分に相当する。視界領域23内において仮想カメラ1と仮想空間画像22との間に後述する仮想オブジェクトが配置されている場合、視界画像には当該仮想オブジェクトが含まれる。すなわち、視界画像において、仮想空間画像22よりも手前側にある仮想オブジェクトが仮想空間画像22に重畳して表示される。ユーザ190が、頭に装着したHMD装置110を動かすと、その動きに連動して仮想カメラ1も動く。その結果、仮想空間2における視界領域23の位置が変化する。これにより、ディスプレイ112に表示される視界画像は、仮想空間画像22のうち、仮想空間2においてユーザが向いた方向の視界領域23に重畳する画像に更新される。ユーザは、仮想空間2における所望の方向を視認することができる。   In one aspect, the HMD system 100 provides the virtual space to the user 190 by causing the display 112 to display a view image based on a signal from the computer 200. The view image corresponds to a portion of the virtual space image 22 superimposed on the view area 23. When a virtual object described later is disposed between the virtual camera 1 and the virtual space image 22 in the field of view area 23, the field of view image includes the virtual object. That is, in the view image, a virtual object on the near side of the virtual space image 22 is displayed superimposed on the virtual space image 22. When the user 190 moves the HMD device 110 worn on the head, the virtual camera 1 also moves in conjunction with the movement. As a result, the position of the view area 23 in the virtual space 2 changes. As a result, the view image displayed on the display 112 is updated to an image of the virtual space image 22 superimposed on the view area 23 in the direction to which the user turned in the virtual space 2. The user can view a desired direction in the virtual space 2.

ユーザ190は、HMD装置110を装着している間、現実世界を視認することなく、仮想空間2に展開される仮想空間画像22のみを視認できる。そのため、HMDシステム100は、仮想空間2への高い没入感覚をユーザに与えることができる。   While wearing the HMD device 110, the user 190 can view only the virtual space image 22 developed in the virtual space 2 without viewing the real world. Therefore, the HMD system 100 can provide the user with a high sense of immersion in the virtual space 2.

ある局面において、プロセッサ10は、HMD装置110を装着したユーザ190の現実空間における移動に連動して、仮想空間2において仮想カメラ1を移動し得る。この場合、プロセッサ10は、仮想空間2における仮想カメラ1の位置および傾きに基づいて、HMD装置110のディスプレイ112に投影される画像領域(すなわち、仮想空間2における視界領域23)を特定する。すなわち、仮想カメラ1によって、仮想空間2におけるユーザ190の視野(視界)が定義される。   In one aspect, the processor 10 may move the virtual camera 1 in the virtual space 2 in conjunction with the movement of the user 190 equipped with the HMD device 110 in the real space. In this case, the processor 10 specifies an image area to be projected on the display 112 of the HMD device 110 (that is, the view area 23 in the virtual space 2) based on the position and the tilt of the virtual camera 1 in the virtual space 2. That is, the virtual camera 1 defines the visual field (visual field) of the user 190 in the virtual space 2.

ある実施の形態に従うと、仮想カメラ1は、二つの仮想カメラ、すなわち、右目用の画像を提供するための仮想カメラと、左目用の画像を提供するための仮想カメラとを含むことが望ましい。また、ユーザ190が3次元の仮想空間2を認識できるように、適切な視差が、二つの仮想カメラに設定されていることが好ましい。本実施の形態においては、仮想カメラ1が二つの仮想カメラを含み、二つの仮想カメラのロール方向が合成されることによって生成されるロール方向(w)がHMD装置110のロール方向(w)に適合されるように構成されているものとして、本開示に係る技術思想を例示する。   According to an embodiment, the virtual camera 1 desirably includes two virtual cameras, ie, a virtual camera for providing an image for the right eye, and a virtual camera for providing an image for the left eye. Further, it is preferable that appropriate parallaxes be set to two virtual cameras so that the user 190 can recognize the three-dimensional virtual space 2. In the present embodiment, the virtual camera 1 includes two virtual cameras, and the roll direction (w) generated by combining the roll directions of the two virtual cameras is the roll direction (w) of the HMD device 110. The technical idea according to the present disclosure is illustrated as being configured to be adapted.

[コントローラ]
図8を参照して、コントローラ160の一例について説明する。図8は、ある実施の形態に従うコントローラ160の概略構成を表す図である。
[controller]
An example of the controller 160 will be described with reference to FIG. FIG. 8 is a diagram representing a schematic configuration of the controller 160 according to an embodiment.

図8の状態(A)に示されるように、ある局面において、コントローラ160は、右コントローラ160Rと左コントローラ(図示しない)とを含み得る。右コントローラ160Rは、ユーザ190の右手で操作される。左コントローラは、ユーザ190の左手で操作される。ある局面において、右コントローラ160Rと左コントローラとは、別個の装置として対称に構成される。したがって、ユーザ190は、右コントローラ160Rを把持した右手と、左コントローラを把持した左手とをそれぞれ自由に動かすことができる。別の局面において、コントローラ160は両手の操作を受け付ける一体型のコントローラであってもよい。以下、右コントローラ160Rについて説明する。   As shown in state (A) of FIG. 8, in one aspect, the controller 160 may include the right controller 160R and the left controller (not shown). The right controller 160R is operated by the right hand of the user 190. The left controller is operated by the left hand of the user 190. In one aspect, the right controller 160R and the left controller are configured symmetrically as separate devices. Therefore, the user 190 can freely move the right hand holding the right controller 160R and the left hand holding the left controller. In another aspect, the controller 160 may be an integrated controller that receives the operation of both hands. Hereinafter, the right controller 160R will be described.

右コントローラ160Rは、グリップ30と、フレーム31と、天面32とを備える。グリップ30は、ユーザ190の右手によって把持されるように構成されている。例えば、グリップ30は、ユーザ190の右手の掌と3本の指(中指、薬指、小指)とによって保持され得る。   The right controller 160R comprises a grip 30, a frame 31, and a top surface 32. The grip 30 is configured to be gripped by the right hand of the user 190. For example, the grip 30 may be held by the palm of the right hand of the user 190 and three fingers (middle, ring and little fingers).

グリップ30は、ボタン33,34と、モーションセンサ130とを含む。ボタン33は、グリップ30の側面に配置され、右手の中指による操作を受け付ける。ボタン34は、グリップ30の前面に配置され、右手の人差し指による操作を受け付ける。ある局面において、ボタン33,34は、トリガー式のボタンとして構成される。モーションセンサ130は、グリップ30の筐体に内蔵されている。なお、ユーザ190の動作がカメラその他の装置によってユーザ190の周りから検出可能である場合には、グリップ30は、モーションセンサ130を備えなくてもよい。   The grip 30 includes buttons 33 and 34 and a motion sensor 130. The button 33 is disposed on the side surface of the grip 30 and receives an operation by the middle finger of the right hand. The button 34 is disposed on the front of the grip 30 and accepts an operation by the index finger of the right hand. In one aspect, the buttons 33, 34 are configured as trigger buttons. The motion sensor 130 is incorporated in the housing of the grip 30. It should be noted that the grip 30 may not include the motion sensor 130 if the motion of the user 190 can be detected from around the user 190 by a camera or other device.

フレーム31は、その円周方向に沿って配置された複数の赤外線LED35を含む。赤外線LED35は、コントローラ160を使用するプログラムの実行中に、当該プログラムの進行に合わせて赤外線を発光する。赤外線LED35から発せられた赤外線は、右コントローラ160Rと左コントローラとの各位置および姿勢(傾き、向き)等を検出するために使用され得る。図8に示される例では、二列に配置された赤外線LED35が示されているが、配列の数は図8に示されるものに限られない。一列あるいは3列以上の配列が使用されてもよい。   The frame 31 includes a plurality of infrared LEDs 35 disposed along the circumferential direction. The infrared LED 35 emits infrared light in accordance with the progress of the program while the program using the controller 160 is being executed. The infrared rays emitted from the infrared LED 35 can be used to detect the position and attitude (tilt, orientation) of the right controller 160R and the left controller. In the example shown in FIG. 8, the infrared LEDs 35 arranged in two rows are shown, but the number of arrays is not limited to that shown in FIG. One or three or more arrays may be used.

天面32は、ボタン36,37と、アナログスティック38とを備える。ボタン36,37は、プッシュ式ボタンとして構成される。ボタン36,37は、ユーザ190の右手の親指による操作を受け付ける。アナログスティック38は、ある局面において、初期位置(ニュートラルの位置)から360度任意の方向への操作を受け付ける。当該操作は、例えば、仮想空間2に配置されるオブジェクトを移動させるための操作を含む。   The top surface 32 includes buttons 36 and 37 and an analog stick 38. The buttons 36, 37 are configured as push-type buttons. Buttons 36 and 37 receive an operation by the thumb of the right hand of user 190. The analog stick 38 receives an operation in any direction 360 degrees from the initial position (the position of neutral) in a certain phase. The operation includes, for example, an operation for moving an object arranged in the virtual space 2.

ある局面において、右コントローラ160Rおよび左コントローラは、赤外線LED35その他の部材を駆動するための電池を含む。電池は、充電式、ボタン型、乾電池型等を含むが、これらに限定されない。別の局面において、右コントローラ160Rおよび左コントローラは、例えば、コンピュータ200のUSBインターフェースに接続され得る。この場合、右コントローラ160Rおよび左コントローラは、電池を必要としない。   In one aspect, the right controller 160R and the left controller include batteries for driving the infrared LED 35 and other members. The battery includes, but is not limited to, a rechargeable battery, a button battery, and a dry battery battery. In another aspect, the right controller 160R and the left controller may be connected to, for example, a USB interface of the computer 200. In this case, the right controller 160R and the left controller do not require a battery.

図8の状態(A)および状態(B)に示されるように、例えば、ユーザ190の右手810に対して、ヨー、ロール、ピッチの各方向が規定される。ユーザ190が親指と人差し指とを伸ばした場合に、親指の伸びる方向がヨー方向、人差し指の伸びる方向がロール方向、ヨー方向の軸およびロール方向の軸によって規定される平面に垂直な方向がピッチ方向として規定される。   As shown in state (A) and state (B) of FIG. 8, for example, with respect to the right hand 810 of the user 190, yaw, roll, and pitch directions are defined. When the user 190 stretches the thumb and forefinger, the extension direction of the thumb is the yaw direction, the extension direction of the forefinger is the roll direction, and the direction perpendicular to the plane defined by the yaw and roll axes is the pitch direction Defined as

[HMD装置の制御装置]
図9を参照して、HMD装置110の制御装置について説明する。ある実施の形態において、制御装置は周知の構成を有するコンピュータ200によって実現される。図9は、ある実施の形態に従うコンピュータ200をモジュール構成として表すブロック図である。
[Control device of HMD device]
The control device of the HMD device 110 will be described with reference to FIG. In one embodiment, the controller is implemented by a computer 200 having a known configuration. FIG. 9 is a block diagram representing a computer 200 as a modular configuration according to one embodiment.

図9に示されるように、コンピュータ200は、表示制御モジュール220と、仮想空間制御モジュール230と、メモリモジュール240と、通信制御モジュール250とを備える。表示制御モジュール220は、サブモジュールとして、仮想カメラ制御モジュール221と、視界領域決定モジュール222と、視界画像生成モジュール223と、基準視線特定モジュール224とを含む。仮想空間制御モジュール230は、サブモジュールとして、仮想空間定義モジュール231と、仮想オブジェクト制御モジュール232と、同期制御モジュール233と、判定モジュール234とを含む。   As shown in FIG. 9, the computer 200 includes a display control module 220, a virtual space control module 230, a memory module 240, and a communication control module 250. The display control module 220 includes, as sub-modules, a virtual camera control module 221, a view area determination module 222, a view image generation module 223, and a reference gaze specification module 224. The virtual space control module 230 includes, as submodules, a virtual space definition module 231, a virtual object control module 232, a synchronization control module 233, and a determination module 234.

ある実施の形態において、表示制御モジュール220と仮想空間制御モジュール230とは、プロセッサ10によって実現される。別の実施の形態において、複数のプロセッサ10が表示制御モジュール220と仮想空間制御モジュール230として作動してもよい。メモリモジュール240は、メモリ11またはストレージ12によって実現される。通信制御モジュール250は、通信インターフェース14によって実現される。   In one embodiment, display control module 220 and virtual space control module 230 are implemented by processor 10. In another embodiment, a plurality of processors 10 may operate as a display control module 220 and a virtual space control module 230. The memory module 240 is realized by the memory 11 or the storage 12. The communication control module 250 is realized by the communication interface 14.

ある局面において、表示制御モジュール220は、HMD装置110のディスプレイ112における画像表示を制御する。仮想カメラ制御モジュール221は、仮想空間2に仮想カメラ1を配置し、仮想カメラ1の挙動、向き等を制御する。視界領域決定モジュール222は、HMD装置110を装着したユーザの頭の向きに応じて、視界領域23を規定する。視界画像生成モジュール223は、決定された視界領域23に基づいて、ディスプレイ112に表示される視界画像を生成する。基準視線特定モジュール224は、注視センサ140からの信号に基づいて、ユーザ190の視線を特定する。   In one aspect, display control module 220 controls image display on display 112 of HMD device 110. The virtual camera control module 221 places the virtual camera 1 in the virtual space 2 and controls the behavior, direction, and the like of the virtual camera 1. The view area determination module 222 defines the view area 23 according to the orientation of the head of the user wearing the HMD device 110. The view image generation module 223 generates a view image to be displayed on the display 112 based on the determined view area 23. The reference gaze identification module 224 identifies the gaze of the user 190 based on the signal from the gaze sensor 140.

仮想空間制御モジュール230は、ユーザ190に提供される仮想空間2を制御する。仮想空間定義モジュール231は、仮想空間2を表す仮想空間データを生成することにより、HMDシステム100における仮想空間2を規定する。   The virtual space control module 230 controls the virtual space 2 provided to the user 190. The virtual space definition module 231 defines virtual space 2 in the HMD system 100 by generating virtual space data representing the virtual space 2.

仮想オブジェクト制御モジュール232は、後述するコンテンツ情報241およびオブジェクト情報242に基づいて、仮想空間2に配置される仮想オブジェクトを生成する。また、仮想オブジェクト制御モジュール232は、仮想空間2における仮想オブジェクトの動作(移動および状態変化等)も制御する。   The virtual object control module 232 generates a virtual object to be arranged in the virtual space 2 based on content information 241 and object information 242 described later. The virtual object control module 232 also controls the operation (movement, state change, etc.) of the virtual object in the virtual space 2.

仮想オブジェクトは、仮想空間2に配置されるオブジェクト全般である。仮想オブジェクトは、例えば、ゲームのストーリーの進行に従って配置される森、山その他を含む風景、動物等を含み得る。また、仮想オブジェクトは、仮想空間におけるユーザの分身であるアバターおよびユーザにより操作されるゲームのキャラクタ(プレイヤキャラクタ)等のキャラクタオブジェクトを含み得る。さらに、仮想オブジェクトは、ユーザ190の身体の一部(例えば手)の動きに応じて動くオブジェクトである操作オブジェクトを含み得る。操作オブジェクトは、例えば、HMD装置110を装着したユーザ190の手に相当する手オブジェクト、ユーザ190の指に相当する指オブジェクト等を含み得る。また、手オブジェクトに関連付けられて操作されるオブジェクトも、ユーザ190の手の動きに応じて動く操作オブジェクトとして機能し得る。例えば、手オブジェクトにより把持されるタッチペン等のスティック状のオブジェクト等が、操作オブジェクトとして機能し得る。なお、以下の説明において、誤解が生じない場合には、仮想オブジェクトのことを単に「オブジェクト」と表記する。   The virtual objects are all objects disposed in the virtual space 2. The virtual objects may include, for example, landscapes including animals, mountains, etc., arranged according to the progression of the game story. In addition, the virtual object may include a character object such as an avatar, which is a part of the user in the virtual space, and a game character (player character) operated by the user. Furthermore, the virtual object may include an operation object that is an object that moves in response to the movement of a part (for example, a hand) of the user 190. The operation object may include, for example, a hand object corresponding to the hand of the user 190 wearing the HMD device 110, a finger object corresponding to the finger of the user 190, and the like. In addition, an object operated in association with the hand object may also function as an operation object that moves in response to the movement of the user 190. For example, a stick-like object such as a touch pen gripped by a hand object can function as an operation object. In the following description, when no misunderstanding occurs, the virtual object is simply referred to as "object".

同期制御モジュール233は、ユーザ間で共有すべきデータについて、サーバ150を介して他のユーザのHMDシステム100との間で送受信する。共有すべきデータとしては、アバターの身体の一部の動作を制御するための動き検知データ等がある。動き検知データは、例えば、向きデータ、アイトラッキングデータ、フェイストラッキングデータ、およびハンドトラッキングデータ等である。向きデータは、HMDセンサ120等により検出されたHMD装置110の位置および傾きを示す情報である。アイトラッキングデータは、注視センサ140等により検出された視線方向を示す情報である。フェイストラッキングデータは、例えばHMD装置110Aのカメラ116により取得された画像情報に対する画像解析処理によって生成されるデータである。フェイストラッキングデータは、ユーザ190Aの顔の各パーツの位置および大きさの経時変化を示す情報である。ハンドトラッキングデータは、例えばモーションセンサ130等により検出されたユーザ190Aの手の動きを示す情報である。   The synchronization control module 233 transmits and receives data to be shared among users with the HMD system 100 of another user via the server 150. Data to be shared include motion detection data for controlling the motion of a part of the avatar's body. The motion detection data is, for example, direction data, eye tracking data, face tracking data, hand tracking data, and the like. The orientation data is information indicating the position and inclination of the HMD device 110 detected by the HMD sensor 120 or the like. Eye tracking data is information indicating a gaze direction detected by the gaze sensor 140 or the like. The face tracking data is, for example, data generated by an image analysis process on image information acquired by the camera 116 of the HMD device 110A. The face tracking data is information indicating temporal change in the position and size of each part of the face of the user 190A. The hand tracking data is information indicating the movement of the hand of the user 190A detected by, for example, the motion sensor 130 or the like.

本実施形態では、同期制御モジュール233は、動き検知データを含む情報(以下「プレイヤ情報」という。)を、ユーザ間で共有すべき情報として、サーバ150を介して他のユーザのHMDシステム100との間で送受信する。プレイヤ情報の送受信は、通信制御モジュール250の機能を利用することにより実現される。   In the present embodiment, the synchronization control module 233 uses information (hereinafter referred to as “player information”) including motion detection data as information to be shared between users with the HMD system 100 of another user via the server 150. Send and receive between Transmission and reception of player information is realized by using the function of the communication control module 250.

判定モジュール234は、仮想空間2内のオブジェクト同士の関係を判定する。   The determination module 234 determines the relationship between objects in the virtual space 2.

仮想空間制御モジュール230は、仮想空間2に配置されるオブジェクトのそれぞれが、他のオブジェクトと衝突した場合に、当該衝突を検出する。仮想空間制御モジュール230は、例えば、あるオブジェクトと、別のオブジェクトとが触れたタイミングを検出することができ、当該検出がされたときに、予め定められた処理を行う。仮想空間制御モジュール230は、オブジェクトとオブジェクトとが触れている状態から離れたタイミングを検出することができ、当該検出がされたときに、予め定められた処理を行う。仮想空間制御モジュール230は、例えばオブジェクト毎に設定されたコリジョンエリアに基づく公知の当たり判定を実行することにより、オブジェクトとオブジェクトとが触れている状態であることを検出することができる。   The virtual space control module 230 detects the collision when each of the objects arranged in the virtual space 2 collides with another object. The virtual space control module 230 can detect, for example, the timing at which an object touches another object, and performs predetermined processing when the detection is performed. The virtual space control module 230 can detect the timing at which the object and the object are away from the touch, and performs predetermined processing when the detection is performed. The virtual space control module 230 can detect that the object is in contact with the object by executing a known collision determination based on, for example, a collision area set for each object.

メモリモジュール240は、コンピュータ200が仮想空間2をユーザ190に提供するために使用されるデータを保持している。ある局面において、メモリモジュール240は、コンテンツ情報241と、オブジェクト情報242と、ユーザ情報243とを保持している。   Memory module 240 holds data used by computer 200 to provide virtual space 2 to user 190. In one aspect, the memory module 240 holds content information 241, object information 242, and user information 243.

コンテンツ情報241には、例えば、仮想空間2において再生されるコンテンツ、当該コンテンツで使用されるオブジェクトを配置するための情報等が含まれている。当該コンテンツは、例えば、ゲーム、現実社会と同様の風景を表したコンテンツ等を含み得る。具体的には、コンテンツ情報241は、仮想空間2の背景を規定する仮想空間画像データ(仮想空間画像22)と、仮想空間2に配置されるオブジェクトの定義情報とを含み得る。オブジェクトの定義情報は、オブジェクトを描画するための描画情報(例えば、オブジェクトの形状および色等のデザインを表す情報)、およびオブジェクトの初期配置を示す情報等を含み得る。また、予め設定された動作パターンに基づいて自律的に動作するオブジェクトの定義情報は、当該動作パターンを示す情報(プログラム等)を含み得る。予め定められた動作パターンに基づく動作の例としては、草を模したオブジェクトが一定のパターンで揺れる動作のような単純な繰り返し動作が挙げられる。   The content information 241 includes, for example, content to be reproduced in the virtual space 2, information for arranging an object used in the content, and the like. The content may include, for example, a game, content representing a scene similar to a real society, and the like. Specifically, the content information 241 may include virtual space image data (virtual space image 22) defining the background of the virtual space 2 and definition information of an object arranged in the virtual space 2. The definition information of the object may include drawing information for drawing the object (for example, information representing a design such as the shape and color of the object), information indicating an initial arrangement of the object, and the like. In addition, definition information of an object that operates autonomously based on a preset operation pattern may include information (a program or the like) indicating the operation pattern. An example of the motion based on the predetermined motion pattern is a simple repetitive motion such as a motion in which an object resembling a grass shakes in a constant pattern.

オブジェクト情報242には、仮想空間2に配置される各オブジェクトの状態(ゲームの進行およびユーザ190の操作等に応じて変化し得る状態)を示す情報が含まれている。具体的には、オブジェクト情報242は、各オブジェクトの位置(例えばオブジェクトに設定された重心の位置)を示す位置情報を含み得る。また、オブジェクト情報242は、変形可能なオブジェクトの動作を示す動き情報(すなわち、オブジェクトの形状を特定するための情報)をさらに含み得る。変形可能なオブジェクトの例としては、上述したアバターのように、頭部、胴体、および手等のパーツを有し、ユーザ190の動きに応じて各パーツを独立して動かすことが可能なオブジェクト等が挙げられる。   The object information 242 includes information indicating the state of each object arranged in the virtual space 2 (a state that can change according to the progress of the game, the operation of the user 190, and the like). Specifically, the object information 242 may include position information indicating the position of each object (e.g., the position of the center of gravity set for the object). Also, the object information 242 may further include motion information (i.e., information for specifying the shape of the object) indicating the movement of the deformable object. Examples of deformable objects include objects such as the above-described avatar, which have parts such as the head, body, and hands, and which can move each part independently according to the movement of the user 190, etc. Can be mentioned.

ユーザ情報243には、例えば、HMDシステム100の制御装置としてコンピュータ200を機能させるためのプログラム、コンテンツ情報241に保持される各コンテンツを使用するアプリケーションプログラム等が含まれている。   The user information 243 includes, for example, a program for causing the computer 200 to function as a control device of the HMD system 100, an application program using each content held in the content information 241, and the like.

メモリモジュール240に格納されているデータおよびプログラムは、HMD装置110のユーザによって入力される。あるいは、プロセッサ10が、当該コンテンツを提供する事業者が運営するコンピュータ(例えば、サーバ150)からプログラムあるいはデータをダウンロードして、ダウンロードされたプログラムあるいはデータをメモリモジュール240に格納する。   Data and programs stored in the memory module 240 are input by the user of the HMD device 110. Alternatively, the processor 10 downloads a program or data from a computer (for example, the server 150) operated by a provider providing the content, and stores the downloaded program or data in the memory module 240.

通信制御モジュール250は、ネットワーク19を介して、サーバ150その他の情報通信装置と通信し得る。   Communication control module 250 may communicate with server 150 and other information communication devices via network 19.

ある局面において、表示制御モジュール220および仮想空間制御モジュール230は、例えば、ユニティテクノロジーズ社によって提供されるUnity(登録商標)を用いて実現され得る。別の局面において、表示制御モジュール220および仮想空間制御モジュール230は、各処理を実現する回路素子の組み合わせとしても実現され得る。   In one aspect, the display control module 220 and the virtual space control module 230 may be implemented using, for example, Unity (registered trademark) provided by Unity Technologies. In another aspect, the display control module 220 and the virtual space control module 230 can also be realized as a combination of circuit elements that implement each process.

コンピュータ200における処理は、ハードウェアと、プロセッサ10により実行されるソフトウェアとによって実現される。このようなソフトウェアは、ハードディスクその他のメモリモジュール240に予め格納されている場合がある。また、ソフトウェアは、CD−ROMその他のコンピュータ読み取り可能な不揮発性のデータ記録媒体に格納されて、プログラム製品として流通している場合もある。あるいは、当該ソフトウェアは、インターネットその他のネットワークに接続されている情報提供事業者によってダウンロード可能なプログラム製品として提供される場合もある。このようなソフトウェアは、光ディスク駆動装置その他のデータ読取装置によってデータ記録媒体から読み取られて、あるいは、通信制御モジュール250を介してサーバ150その他のコンピュータからダウンロードされた後、メモリモジュール240に一旦格納される。そのソフトウェアは、プロセッサ10によってメモリモジュール240から読み出され、実行可能なプログラムの形式でRAMに格納される。プロセッサ10は、そのプログラムを実行する。   Processing in the computer 200 is realized by hardware and software executed by the processor 10. Such software may be stored in advance in a hard disk or other memory module 240. The software may be stored in a CD-ROM or other computer readable non-volatile data storage medium and distributed as a program product. Alternatively, the software may be provided as a downloadable program product by an information provider connected to the Internet or other network. Such software is temporarily stored in the memory module 240 after being read from the data recording medium by an optical disk drive or other data reader, or downloaded from the server 150 or other computer via the communication control module 250. Ru. The software is read by the processor 10 from the memory module 240 and stored in RAM in the form of an executable program. The processor 10 executes the program.

図9に示されるコンピュータ200を構成するハードウェアは、一般的なものである。したがって、本実施の形態に係る最も本質的な部分は、コンピュータ200に格納されたプログラムであるともいえる。なお、コンピュータ200のハードウェアの動作は周知であるので、詳細な説明は繰り返さない。   The hardware constituting the computer 200 shown in FIG. 9 is general. Therefore, it can be said that the most essential part according to the present embodiment is a program stored in computer 200. The operation of the hardware of computer 200 is well known, and therefore detailed description will not be repeated.

なお、データ記録媒体としては、CD−ROM、FD(Flexible
Disk)、ハードディスクに限られず、磁気テープ、カセットテープ、光ディスク(MO(Magnetic Optical Disc)/MD(Mini Disc)/DVD(Digital Versatile Disc))、IC(Integrated Circuit)カード(メモリカードを含む)、光カード、マスクROM、EPROM(Erasable Programmable Read-Only Memory)、EEPROM(Electrically Erasable Programmable Read-Only Memory、登録商標)、フラッシュROMなどの半導体メモリ等の固定的にプログラムを担持する不揮発性のデータ記録媒体でもよい。
In addition, as a data recording medium, CD-ROM, FD (Flexible)
Disk, not limited to hard disk, magnetic tape, cassette tape, optical disk (Magnetic Optical Disc (MO) / Mini Disc (MD) / Digital Versatile Disc (DVD)), IC (Integrated Circuit) card (including memory card), Optical data card, mask ROM, erasable programmable read-only memory (EPROM), electrically erasable programmable read-only memory (EEPROM), semiconductor memory such as flash ROM, etc. Non-volatile data recording fixedly carrying program It may be a medium.

ここでいうプログラムとは、プロセッサ10により直接実行可能なプログラムだけでなく、ソースプログラム形式のプログラム、圧縮処理されたプログラム、暗号化されたプログラム等を含み得る。   The program referred to here may include not only a program directly executable by the processor 10 but also a program in source program format, a compressed program, an encrypted program, and the like.

[制御構造]
図10を参照して、本実施の形態に係るコンピュータ200の制御構造について説明する。図10は、ユーザ190Aによって使用されるHMDシステム100Aがユーザ190Aに仮想空間2を提供するために実行する処理を表すフローチャートである。他のHMDシステム100B,100Cにおいても、同様の処理が実行される。
Control structure
The control structure of the computer 200 according to the present embodiment will be described with reference to FIG. FIG. 10 is a flowchart showing processing executed by the HMD system 100A used by the user 190A to provide the virtual space 2 to the user 190A. Similar processes are performed in the other HMD systems 100B and 100C.

ステップS1において、コンピュータ200のプロセッサ10は、仮想空間定義モジュール231として、仮想空間2の背景を構成する仮想空間画像データ(仮想空間画像22)を特定し、仮想空間2を定義する。   In step S1, the processor 10 of the computer 200 specifies virtual space image data (virtual space image 22) constituting the background of the virtual space 2 as the virtual space definition module 231, and defines the virtual space 2.

ステップS2において、プロセッサ10は、仮想カメラ制御モジュール221として、仮想カメラ1を初期化する。例えば、プロセッサ10は、メモリのワーク領域において、仮想カメラ1を仮想空間2において予め規定された中心点に配置し、仮想カメラ1の視線をユーザ190が向いている方向に向ける。   In step S2, the processor 10 initializes the virtual camera 1 as the virtual camera control module 221. For example, in the work area of the memory, the processor 10 arranges the virtual camera 1 at a predetermined center point in the virtual space 2 and directs the line of sight of the virtual camera 1 in the direction in which the user 190 is facing.

ステップS3において、プロセッサ10は、視界画像生成モジュール223として、初期の視界画像を表示するための視界画像データを生成する。生成された視界画像データは、視界画像生成モジュール223を介して通信制御モジュール250によってHMD装置110に送られる。   In step S <b> 3, the processor 10 generates visibility image data for displaying an initial visibility image as the visibility image generation module 223. The generated view image data is sent to the HMD device 110 by the communication control module 250 via the view image generation module 223.

ステップS4において、HMD装置110のディスプレイ112は、コンピュータ200から受信した信号に基づいて、視界画像を表示する。HMD装置110Aを装着したユーザ190Aは、視界画像を視認すると仮想空間2を認識し得る。   In step S4, the display 112 of the HMD device 110 displays a view image based on the signal received from the computer 200. The user 190A wearing the HMD device 110A can recognize the virtual space 2 when viewing the view image.

ステップS5において、HMDセンサ120は、HMD装置110から発信される複数の赤外線光に基づいて、HMD装置110の位置および傾きを検知する。検知結果は、動き検知データとして、コンピュータ200に送られる。   In step S5, the HMD sensor 120 detects the position and the inclination of the HMD device 110 based on the plurality of infrared rays emitted from the HMD device 110. The detection result is sent to the computer 200 as motion detection data.

ステップS6において、プロセッサ10は、視界領域決定モジュール222として、HMD装置110Aの位置と傾きとに基づいて、HMD装置110Aを装着したユーザ190Aの視界方向(すなわち、仮想カメラ1の位置および傾き)を特定する。プロセッサ10は、アプリケーションプログラムを実行し、アプリケーションプログラムに含まれる命令に基づいて、仮想空間2にオブジェクトを配置する。   In step S6, the processor 10, as the view field determination module 222, determines the view direction (that is, the position and the tilt of the virtual camera 1) of the user 190A wearing the HMD device 110A based on the position and the tilt of the HMD device 110A. Identify. The processor 10 executes an application program, and places an object in the virtual space 2 based on an instruction included in the application program.

ステップS7において、コントローラ160は、現実空間におけるユーザ190Aの操作を検出する。例えば、ある局面において、コントローラ160は、ユーザ190Aによってボタンが押下されたことを検出する。別の局面において、コントローラ160は、ユーザ190Aの両手の動作(たとえば、両手を振る等)を検出する。検出内容を示す信号は、コンピュータ200に送られる。   In step S7, the controller 160 detects an operation of the user 190A in the real space. For example, in one aspect, controller 160 detects that a button has been pressed by user 190A. In another aspect, controller 160 detects movement (eg, shaking both hands, etc.) of user 190A's hands. A signal indicating the content of detection is sent to the computer 200.

ステップS8において、プロセッサ10は、同期制御モジュール233として、他のHMDシステム100(ここではHMDシステム100B,100C)との間で、サーバ150を介してプレイヤ情報を送受信する。   In step S8, the processor 10 transmits / receives player information via the server 150 to / from another HMD system 100 (here, the HMD systems 100B and 100C) as the synchronization control module 233.

ステップS9において、プロセッサ10は、仮想オブジェクト制御モジュール232として、各ユーザ190のプレイヤ情報に基づいて、各ユーザに関連付けられたアバターの動作を制御する。   In step S9, the processor 10, as the virtual object control module 232, controls the operation of the avatar associated with each user based on the player information of each user 190.

ステップS10において、プロセッサ10は、視界画像生成モジュール223として、ステップS9の処理結果に基づく視界画像を表示するための視界画像データを生成し、生成した視界画像データをHMD装置110に出力する。   In step S10, the processor 10 causes the view image generation module 223 to generate view image data for displaying a view image based on the processing result in step S9, and outputs the generated view image data to the HMD device 110.

ステップS11において、HMD装置110のディスプレイ112は、受信した視界画像データに基づいて視界画像を更新し、更新後の視界画像を表示する。   In step S11, the display 112 of the HMD device 110 updates the view image based on the received view image data, and displays the updated view image.

ステップS5〜S11の処理は、定期的に繰り返し実行される。   The processes of steps S5 to S11 are periodically and repeatedly executed.

図11は、複数ユーザに共有される仮想空間2を模式的に表す図である。図11に示される例では、HMD装置110Aを装着するユーザ190A(第1ユーザ)に関連付けられたアバター40Aと、HMD装置110Bを装着するユーザ190B(第2ユーザ)に関連付けられたアバター40Bと、HMD装置110Cを装着するユーザ190Cに関連付けられたアバター40Cとが、同一の仮想空間2に配置されている。このような複数ユーザに共通の仮想空間2によれば、各ユーザに対して、アバター40A〜40Cを介した他のユーザとのチャット等のコミュニケーション体験を提供することができる。   FIG. 11 schematically illustrates the virtual space 2 shared by a plurality of users. In the example shown in FIG. 11, an avatar 40A associated with the user 190A (first user) wearing the HMD device 110A, and an avatar 40B associated with the user 190B (second user) wearing the HMD device 110B; The avatar 40 </ b> C associated with the user 190 </ b> C wearing the HMD device 110 </ b> C is disposed in the same virtual space 2. According to such a virtual space 2 common to a plurality of users, it is possible to provide each user with a communication experience such as chat with other users via the avatars 40A to 40C.

この例では、各アバター40A〜40Cは、人間を模したキャラクタオブジェクトとして定義されている。アバター40A〜40Cは、ユーザの動きに連動して動作可能な部分として、頭部(顔の向き)、目(視線および瞬き等)、顔(表情)、右手41A〜41C、および左手42A〜42Cを含んでいる。なお、以下では、アバターの手を「仮想手」と称する場合もある。   In this example, each of the avatars 40A to 40C is defined as a character object imitating a human. The avatars 40A to 40C can operate in conjunction with the movement of the user, such as the head (face direction), eyes (such as sight and blink), face (expression), right hands 41A to 41C, and left hands 42A to 42C. Contains. In addition, below, the hand of an avatar may be called a "virtual hand."

頭部は、HMDセンサ120等によって検出されたHMD装置110の動きに連動して動く部分である。目は、カメラ116および注視センサ140等によって検出されたユーザの目の動きおよび視線の変化に連動して動く部分である。顔は、後述するフェイストラッキングデータに基づいて決定される表情が反映される部分である。手は、モーションセンサ130等により検出されたユーザの手の動きに連動して動く部分である。また、アバター40A〜40Cは、頭部、右手41A〜41C、および左手42A〜42Cに付随して表示される胴体部および腕部とを含んでいる。なお、腰から下の脚部については動作制御が複雑となるため、アバター40A〜40Cは脚部を含んでいない。なお、上述したアバター40の動作可能な部分を全て動かす必要はない。例えば、ユーザ190の頭部および手の動きをアバター40の頭および手の動きに反映するが、ユーザ190の他の部位の動きはアバター40に反映させないようにしてもよい。   The head is a part that moves in conjunction with the movement of the HMD device 110 detected by the HMD sensor 120 or the like. The eye is a part that moves in conjunction with the movement of the user's eyes and changes in the line of sight detected by the camera 116 and the gaze sensor 140 or the like. The face is a part to which an expression determined based on face tracking data described later is reflected. The hand is a part that moves in conjunction with the movement of the user's hand detected by the motion sensor 130 or the like. The avatars 40A to 40C also include a head, a right hand 41A to 41C, and a torso and an arm that are displayed along with the left hand 42A to 42C. The avatars 40A to 40C do not include the legs because motion control is complicated for the legs below the waist. In addition, it is not necessary to move all the operable parts of the avatar 40 mentioned above. For example, movements of the head and hands of the user 190 may be reflected in movements of the head and hands of the avatar 40, but movements of other parts of the user 190 may not be reflected in the avatar 40.

アバター40Aの視野は、HMDシステム100Aにおける仮想カメラ1の視野と一致している。これにより、ユーザ190Aに対して、アバター40Aの1人称視点における視界画像Mが提供される。すなわち、ユーザ190Aに対して、あたかも自分がアバター40Aとして仮想空間2に存在しているかのような仮想体験が提供される。   The field of view of the avatar 40A matches the field of view of the virtual camera 1 in the HMD system 100A. Thereby, the view image M in the first person viewpoint of the avatar 40A is provided to the user 190A. That is, a virtual experience is provided to the user 190A as if he / she existed in the virtual space 2 as the avatar 40A.

図12は、HMD装置110Aを介してユーザ190Aに提供される視界画像Mの一例を表す図である。ユーザ190B,190Cに対しても同様に、アバター40B,40Cの1人称視点における視界画像が提供される。   FIG. 12 is a diagram illustrating an example of a view image M provided to the user 190A via the HMD device 110A. Similarly, for the users 190B and 190C, a view image in the first person viewpoint of the avatars 40B and 40C is provided.

図13は、仮想空間2におけるユーザ間交流を実現するためにHMDシステム100A、HMDシステム100B、HMDシステム100C、およびサーバ150が実行する処理を表すシーケンス図である。   FIG. 13 is a sequence diagram showing processing executed by the HMD system 100A, the HMD system 100B, the HMD system 100C, and the server 150 in order to realize exchange between users in the virtual space 2.

ステップS21Aにおいて、HMDシステム100Aにおけるプロセッサ10は、同期制御モジュール233として、アバター40Aの動作を決定するためのプレイヤ情報を取得する。プレイヤ情報には、アバター40A(あるいはアバター40Aに関連付けられるユーザ190A)を特定する情報(ユーザID等)、およびアバター40Aが存在する仮想空間2を特定する情報(ルームID等)等が含まれてもよい。プロセッサ10は、同期制御モジュール233として、上述のように取得されたプレイヤ情報を、ネットワーク19を介してサーバ150に送信する。   In step S21A, the processor 10 in the HMD system 100A, as the synchronization control module 233, acquires player information for determining the operation of the avatar 40A. The player information includes information (user ID etc.) specifying avatar 40A (or user 190A associated with avatar 40A), information (room ID etc.) specifying virtual space 2 in which avatar 40A exists, etc. It is also good. The processor 10 transmits the player information acquired as described above to the server 150 via the network 19 as the synchronization control module 233.

ステップS21Bにおいて、HMDシステム100Bにおけるプロセッサ10は、ステップS21Aにおける処理と同様に、アバター40Bの動作を決定するためのプレイヤ情報を取得し、サーバ150に送信する。同様に、ステップS21Cにおいて、HMDシステム100Cにおけるプロセッサ10は、アバター40Cの動作を決定するためのプレイヤ情報を取得し、サーバ150に送信する。   In step S21B, the processor 10 in the HMD system 100B acquires player information for determining the action of the avatar 40B and transmits it to the server 150, as in the process in step S21A. Similarly, in step S21C, the processor 10 in the HMD system 100C acquires player information for determining the action of the avatar 40C, and transmits it to the server 150.

ステップS22において、サーバ150は、HMDシステム100A、HMDシステム100B、およびHMDシステム100Cのそれぞれから受信したプレイヤ情報を一旦記憶する。サーバ150は、各プレイヤ情報に含まれるユーザIDおよびルームID等に基づいて、共通の仮想空間2に関連付けられた全ユーザ(この例では、ユーザ190A〜190C)のプレイヤ情報を統合する。そして、サーバ150は、予め定められたタイミングで、統合したプレイヤ情報を当該仮想空間2に関連付けられた全ユーザに送信する。これにより、同期処理が実行される。このような同期処理により、HMDシステム100A、HMDシステム100B、およびHMDシステム100Cは、互いのプレイヤ情報をほぼ同じタイミングで共有することができる。   In step S22, the server 150 temporarily stores the player information received from each of the HMD system 100A, the HMD system 100B, and the HMD system 100C. The server 150 integrates player information of all users (users 190A to 190C in this example) associated with the common virtual space 2 based on the user ID and the room ID included in each player information. Then, the server 150 transmits the integrated player information to all the users associated with the virtual space 2 at a predetermined timing. Thus, the synchronization process is performed. By such synchronization processing, the HMD system 100A, the HMD system 100B, and the HMD system 100C can share player information of each other at substantially the same timing.

続いて、サーバ150から各HMDシステム100A〜100Cに送信されたプレイヤ情報に基づいて、各HMDシステム100A〜100Cは、ステップS23A〜S23Cの処理を実行する。なお、ステップS23Aの処理は、図10におけるステップS9の処理に相当する。   Then, based on the player information transmitted from the server 150 to the HMD systems 100A to 100C, the HMD systems 100A to 100C execute the processes of steps S23A to S23C. The process of step S23A corresponds to the process of step S9 in FIG.

ステップS23Aにおいて、HMDシステム100Aにおけるプロセッサ10は、仮想オブジェクト制御モジュール232として、仮想空間2におけるユーザ190A〜190Cのアバター40A〜40Cの動作を制御する。具体的には、プロセッサ10は、HMDシステム100Bから送信されたプレイヤ情報に含まれるユーザ190A〜190Cの動き検知データに基づいて、アバター40A〜40Cの動作を制御する。ステップS23BおよびS23Cの処理は、ステップS23Aの処理と同様である。   In step S23A, the processor 10 in the HMD system 100A controls the operations of the avatars 40A to 40C of the users 190A to 190C in the virtual space 2 as the virtual object control module 232. Specifically, the processor 10 controls the operation of the avatars 40A to 40C based on the motion detection data of the users 190A to 190C included in the player information transmitted from the HMD system 100B. The processes of steps S23B and S23C are the same as the process of step S23A.

なお、上述した同期処理は、サーバ150を介さずに各HMDシステム100間で行うようにしてもよい。つまり、いわゆるメッシュ型で同期処理を行うようにしてもよい。   The above-described synchronization processing may be performed between the HMD systems 100 without passing through the server 150. That is, synchronization processing may be performed in a so-called mesh type.

[アバターの連動制御処理]
図14は、アバター40Aおよびアバター40Bの連動制御処理に関するフローチャートである。本実施形態では、アバター40Aおよびアバター40Bの連動制御に関する処理がHMDシステム100Aにより実行されるものとして説明する。ただし、当該処理は、他のHMDシステム100B,100Cにより実行されてもよいし、当該処理の一部または全部がサーバ150によって実行されてもよい。
[Interactive control process of avatar]
FIG. 14 is a flowchart regarding interlocking control processing of the avatar 40A and the avatar 40B. In the present embodiment, it is assumed that the process relating to interlocking control of avatar 40A and avatar 40B is executed by HMD system 100A. However, the process may be performed by another HMD system 100B or 100C, or part or all of the process may be performed by the server 150.

ステップS31において、HMDシステム100Aのプロセッサ10(以下単に「プロセッサ10」)は、仮想空間定義モジュール231として、仮想空間2を定義する。当該処理は、図10のステップS1の処理に相当する。具体的には、プロセッサ10は、仮想空間2を定義する仮想空間データを生成することにより、仮想空間2を規定する。仮想空間データは、上述したコンテンツ情報241とオブジェクト情報242とを含む。   In step S31, the processor 10 (hereinafter simply referred to as “processor 10”) of the HMD system 100A defines the virtual space 2 as the virtual space definition module 231. The said process is corresponded to the process of FIG.10 S1. Specifically, the processor 10 defines the virtual space 2 by generating virtual space data that defines the virtual space 2. The virtual space data includes the content information 241 and the object information 242 described above.

ステップS32において、プロセッサ10は、HMD装置110Aの動きに応じて仮想空間2における仮想カメラ1の位置および傾きを決定する。より詳細には、ユーザ190Aの頭部の姿勢と、仮想空間2における仮想カメラ1の位置とに応じて、仮想空間2における仮想カメラ1からの視界である視界領域23を制御する。当該処理は、図10のステップS6の処理の一部に相当する。   In step S32, the processor 10 determines the position and tilt of the virtual camera 1 in the virtual space 2 according to the movement of the HMD device 110A. More specifically, in accordance with the posture of the head of the user 190A and the position of the virtual camera 1 in the virtual space 2, the field of view 23 which is a field of view from the virtual camera 1 in the virtual space 2 is controlled. The said process corresponds to a part of process of FIG.10 S6.

ステップS33において、プロセッサ10は、視界画像M(図12参照)をユーザ190Aに提供する。具体的には、プロセッサ10は、HMD装置110Aの動き(すなわち仮想カメラ1の位置および傾き)と、仮想空間2を定義する仮想空間データと、に基づいて、視界領域23に対応する視界画像Mを定義する。プロセッサ10は、さらに、HMD装置110Aのディスプレイ112に視界画像Mを出力することによって、視界画像Mをディスプレイ112に表示させる。当該処理は、図10のステップS10の処理に相当する。   In step S33, the processor 10 provides the view image M (see FIG. 12) to the user 190A. Specifically, the processor 10 selects the view image M corresponding to the view area 23 based on the movement of the HMD device 110A (ie, the position and tilt of the virtual camera 1) and the virtual space data defining the virtual space 2. Define The processor 10 further causes the display 112 to display the view image M by outputting the view image M to the display 112 of the HMD device 110A. The said process is corresponded to the process of FIG.10 S10.

上述したステップS32およびS33の処理(すなわち、HMD装置110Aの動きに応じた視界画像Mの更新)は、後述するステップS34〜S40が実行される間にも、継続して繰り返し実行される。   The processes of steps S32 and S33 described above (that is, updating of the view image M according to the movement of the HMD device 110A) are continuously and repeatedly performed while steps S34 to S40 described later are performed.

ステップS34において、プロセッサ10は、ユーザ190Aの左手の動きに基づいて、仮想空間2においてアバター40Aの左手42Aを動かす。プロセッサ10は、さらに、ユーザ190Aの右手の動きに基づいて、仮想空間2においてアバター40Aの右手41Aを動かすこともできる。   In step S34, the processor 10 moves the left hand 42A of the avatar 40A in the virtual space 2 based on the movement of the left hand of the user 190A. The processor 10 can also move the right hand 41A of the avatar 40A in the virtual space 2 based on the movement of the user 190A's right hand.

一方、HMDシステム100Bにおけるプロセッサ10は、ユーザ190Bの左手の動きに基づいて、ユーザ190Bのプレイヤ情報を取得する。この情報は、ユーザ190Bの左手の動きに関する情報を少なくとも含む。HMDシステム100Bにおけるプロセッサ10は、取得したプレイヤ情報をサーバ150に送信する。   On the other hand, the processor 10 in the HMD system 100B acquires player information of the user 190B based on the movement of the left hand of the user 190B. This information includes at least information on the left hand movement of the user 190B. The processor 10 in the HMD system 100B transmits the acquired player information to the server 150.

ステップS35において、プロセッサ10は、ユーザ190Bのプレイヤ情報をサーバ150から取得する。ステップ36において、プロセッサ10は、ユーザ190Bの左手の動きに基づいて、仮想空間2においてアバター40Bの左手42Bを動かす。詳細には、プロセッサ10は、ユーザ190Bのプレイヤ情報から左手42Bの動きに関する情報を取得し、その情報に基づいてアバター40Bの左手42Bを動かす。プロセッサ10は、ユーザ190Bのプレイヤ情報に右手41Bの動きに関する情報が含まれる場合、その情報に基づいてアバター40Bの右手41Bを動かすこともできる。   In step S35, the processor 10 acquires player information of the user 190B from the server 150. At step 36, the processor 10 moves the left hand 42B of the avatar 40B in the virtual space 2 based on the movement of the left hand of the user 190B. Specifically, the processor 10 obtains information on the movement of the left hand 42B from the player information of the user 190B, and moves the left hand 42B of the avatar 40B based on the information. If the player information of the user 190B includes information on the movement of the right hand 41B, the processor 10 can also move the right hand 41B of the avatar 40B based on the information.

ステップS37において、プロセッサ10は、判定モジュール234として、仮想空間2におけるアバター40Aの左手42Aとアバター40Bの左手42Bとが、第1条件を満たすか否かを判定する。ステップS37においてNOの場合、図14の処理は終了する。したがってプロセッサ10は、仮想空間2においてアバター40Aおよびアバター40Bを連動制御しない。   In step S37, the processor 10 determines, as the determination module 234, whether or not the left hand 42A of the avatar 40A and the left hand 42B of the avatar 40B in the virtual space 2 satisfy the first condition. If NO in step S37, the process of FIG. 14 ends. Therefore, the processor 10 does not interlock control the avatar 40A and the avatar 40B in the virtual space 2.

ステップS37においてYESの場合、プロセッサ10は、第1条件に応じて左手42A、左手42B、および仮想カメラ1のうち少なくともいずれかを仮想空間2において制御する。言い換えれば、プロセッサ10は、アバター40Aおよびアバター40Bを連動制御する。   If YES in step S37, the processor 10 controls at least one of the left hand 42A, the left hand 42B, and the virtual camera 1 in the virtual space 2 according to the first condition. In other words, the processor 10 interlocks and controls the avatar 40A and the avatar 40B.

(アバター40Aおよびアバター40Bの連動)
図15は、第1条件が成立する場合の仮想空間2の様子の一例を示す図である。図16は、第1条件が成立する場合に表示される視界画像Mの一例を示す図である。図15の状態(A)では、仮想空間2内においてアバター40Aがアバター40Bの背後に位置している。ユーザ190Aおよびユーザ190Bはいずれも現実空間において静止しており、したがってアバター40Aおよびアバター40Bはいずれも仮想空間2において静止している。アバター40Bの左手42Bによって、アバター40Aの左手42Aが握られている。
(Interlocking of avatar 40A and avatar 40B)
FIG. 15 is a diagram showing an example of the virtual space 2 when the first condition is satisfied. FIG. 16 is a view showing an example of the view image M displayed when the first condition is satisfied. In the state (A) of FIG. 15, in the virtual space 2, the avatar 40 </ b> A is located behind the avatar 40 </ b> B. The user 190A and the user 190B are both stationary in the real space, and therefore the avatar 40A and the avatar 40B are both stationary in the virtual space 2. The left hand 42A of the avatar 40A is held by the left hand 42B of the avatar 40B.

なお、本実施形態では、アバター40の右手41(または左手42)に設定されるコリジョンエリアが、任意のオブジェクトに設定されるコリジョンエリアと接触している状態で、ユーザ190がコントローラ160に対して所定の入力を行うことによって、当該アバター40の右手41(または左手42)で当該任意のオブジェクトを選択する(握る)ことができる。所定の入力としては、例えば、トリガー式のボタン33や34の押下などが挙げられるが、これらに限定されるものではない。従って、アバター40Bの左手42Bに設定されるコリジョンエリアとアバター40Aの左手42Aに設定されるコリジョンエリアとが接触している状態で、ユーザ190Bが左コントローラに対して所定の入力を行うと、アバター40Bの左手42Bによって、アバター40Aの左手42Aを握ることができる。   In the present embodiment, the user 190 sends the controller 160 to the controller 160 in a state where the collision area set in the right hand 41 (or the left hand 42) of the avatar 40 is in contact with the collision area set in any object. By performing a predetermined input, the right hand 41 (or the left hand 42) of the avatar 40 can select (grip) any object. As the predetermined input, for example, pressing of the trigger type button 33 or 34 or the like can be mentioned, but it is not limited to these. Therefore, when the user 190B makes a predetermined input to the left controller while the collision area set in the left hand 42B of the avatar 40B is in contact with the collision area set in the left hand 42A of the avatar 40A, the avatar The left hand 42B of the 40B can hold the left hand 42A of the avatar 40A.

プロセッサ10は、図16の状態(A)に示す視界画像Mを、ディスプレイ112に表示させる。この視界画像Mは、図15の状態(A)に示す仮想空間2に対応する。ユーザは、図16の状態(A)に示す視界画像Mを視認することによって、アバター40Bが背中を向けてアバター40Aの前に静止しており、かつアバター40Bの左手42Bによってアバター40Aの左手42Aが握られていることを、認識する。   The processor 10 causes the display 112 to display the view image M shown in the state (A) of FIG. The view image M corresponds to the virtual space 2 shown in the state (A) of FIG. By visually recognizing the view image M shown in the state (A) of FIG. 16, the user turns still with the avatar 40B facing the back and in front of the avatar 40A, and the left hand 42A of the avatar 40A by the left hand 42B of the avatar 40B. Recognize that is being held.

プロセッサ10は、左手42Aおよび左手42Bが図15の状態(A)に示す関係にある場合、仮想空間2において左手42Aと左手42Bとの関係が第1条件を満たすと判定する。プロセッサ10は、この判定結果に基づいて、図15の状態(B)に示すように、アバター40Aおよびアバター40Bを仮想空間2内において制御する。例えば、アバター40Bおよび左手42Bを仮想空間2における方向51に移動させる。これと同時に、プロセッサ10は、左手42Aと仮想カメラ1との位置関係を維持したまま、アバター40Bおよび左手42Bの移動に追随して、アバター40A、左手42A、および仮想カメラ1を仮想空間2内において方向51に移動させる。このときHMD装置110AおよびHMD装置110Bは動いていないため、ユーザ190Aおよびユーザ190Bは、現実空間において静止したままである。   The processor 10 determines that the relationship between the left hand 42A and the left hand 42B in the virtual space 2 satisfies the first condition when the left hand 42A and the left hand 42B are in the relationship shown in FIG. The processor 10 controls the avatar 40A and the avatar 40B in the virtual space 2 based on the determination result, as shown in the state (B) of FIG. For example, the avatar 40B and the left hand 42B are moved in the direction 51 in the virtual space 2. At the same time, the processor 10 follows the movement of the avatar 40B and the left hand 42B while maintaining the positional relationship between the left hand 42A and the virtual camera 1 to set the avatar 40A, the left hand 42A, and the virtual camera 1 in the virtual space 2. Move in the direction 51. At this time, since the HMD device 110A and the HMD device 110B are not moving, the user 190A and the user 190B remain stationary in the real space.

プロセッサ10は、さらに、図16の状態(B)に示す視界画像Mを、ディスプレイ112に表示させる。この視界画像Mは、図15の状態(B)に示す仮想空間2に対応する。ユーザ190Aは、図16の状態(B)に示す視界画像Mを視認することによって、アバター40Bおよび左手42Bの前方(方向51)への移動に追随して、アバター40Aが左手42Aと共に自動的に移動していることを、認識する。   The processor 10 further causes the display 112 to display a view image M shown in the state (B) of FIG. The view image M corresponds to the virtual space 2 shown in the state (B) of FIG. The user 190A automatically follows the movement of the avatar 40B and the left hand 42B in the forward direction (direction 51) by visually recognizing the view image M shown in the state (B) of FIG. Recognize that you are moving.

ユーザ190Aは、アバター40Bの左手42にあたかも自身の左手を握られた状態で、アバター40Bに先導されて一緒に移動するという行動を、仮想空間2内において体験することができる。このように、本開示の一態様によれば、現実空間においてユーザ190Aが他人と一緒に行動するかのような自然な仮想体験を、仮想空間2を通じてユーザ190Aに提供することができる。このことから、ユーザ190Aは、現実空間における過去の経験に基づいて、仮想空間2内において行うべき操作(行動)を正確に認識することができる。したがってユーザ190Aは、仮想空間2内において違和感なく過ごすことができる。   The user 190A can experience in the virtual space 2 an action of leading the avatar 40B to move together with the left hand 42 of the avatar 40B as if the user held the left hand. Thus, according to an aspect of the present disclosure, it is possible to provide the user 190A through the virtual space 2 with a natural virtual experience as if the user 190A acted with another person in the real space. From this, the user 190A can accurately recognize the operation (action) to be performed in the virtual space 2 based on the past experience in the real space. Therefore, the user 190A can spend in the virtual space 2 without discomfort.

(第1条件の例示)
図17は、第1条件の各例を示す図である。図17の状態(A)では、第1条件は、アバター40Bの左手42Bによるアバター40Aの左手42Aの選択が行われていることである。より詳細には、図17の状態(A)では、アバター40Bの左手42Bによってアバター40Aの左手42Aが握られている。図17の状態(B)では、第1条件は、アバター40Aの左手42Aによるアバター40Bの左手42Bの選択が行われていることである。より詳細には、図17の状態(B)では、アバター40Aの左手42Aによってアバター40Bの左手42Bが握られている。
(Example of the first condition)
FIG. 17 is a diagram showing each example of the first condition. In the state (A) of FIG. 17, the first condition is that the left hand 42A of the avatar 40B is selected by the left hand 42B of the avatar 40B. More specifically, in the state (A) of FIG. 17, the left hand 42A of the avatar 40A is held by the left hand 42B of the avatar 40B. In the state (B) of FIG. 17, the first condition is that the left hand 42B of the avatar 40A is selected by the left hand 42A of the avatar 40A. More specifically, in the state (B) of FIG. 17, the left hand 42B of the avatar 40A holds the left hand 42B of the avatar 40B.

図17の状態(C)では、第1条件は、アバター40Bの左手42Bによるアバター40Aの左手42Aの選択が行われ、かつ、アバター40Aの左手42Aによるアバター40Bの左手42Bの選択が行われていることである。より詳細には、図17の状態(C)では、アバター40Bの左手42Bがアバター40Aの左手42Aを握っており、さらにアバター40Aの左手42Aがアバター40Bの左手42Bを握り返している。この場合、ユーザ190Aは、アバター40Bの左手42Bを握り返すために自身の左手を動かしているので、図15の状態(B)に示すようにユーザ190Bの移動に伴ってアバター40Aが仮想空間2内を自動的に移動することを、十分に予測できる。したがって、ユーザ190A自身の移動(HMD装置110の移動)を伴わずに仮想カメラ1が移動することによってユーザ190Aの視点が移動した場合であっても、ユーザ190AにVR酔いが発生することを低減するできる。   In the state (C) of FIG. 17, the first condition is that the left hand 42A of the avatar 40A is selected by the left hand 42B of the avatar 40B, and the left hand 42B of the avatar 40B is selected by the left hand 42A of the avatar 40A. It is that you are. More specifically, in the state (C) of FIG. 17, the left hand 42B of the avatar 40B holds the left hand 42A of the avatar 40A, and the left hand 42A of the avatar 40A holds back the left hand 42B of the avatar 40B. In this case, since the user 190A moves his / her left hand in order to grip the left hand 42B of the avatar 40B, as shown in the state (B) of FIG. 15, the avatar 40A moves to the virtual space 2 as the user 190B moves. It is fully predictable to move automatically within. Therefore, even when the viewpoint of the user 190A moves by moving the virtual camera 1 without moving the user 190A itself (movement of the HMD device 110), occurrence of VR sickness in the user 190A is reduced. I can do it.

図17の状態(D)では、第1条件は、アバター40Bの左手42Bによるアバター40Aの左手42Aの選択が行われ、さらに、左手42Aおよび左手42Bが仮想空間2における同一の方向52に移動していることである。この場合、左手42Bに握られた左手42Aが左手42Bと共に同一の方向52に移動していることをトリガとして、アバター40Bの移動に連動して左手42Aが自動的に連動する。例えば、左手42Bが左手42Aを握った状態で、アバター40Bが方向52に移動することで、左手42Bだけでなく、左手42Bに握られた左手42Aも方向52に移動する。また例えば、左手42Bが左手42Aを握った状態で、左手42Bが方向52に移動することで、左手42Bだけでなく、左手42Bに握られた左手42Aも方向52に移動する。なお、アバター40Bの移動は、ユーザ190Bの頭部の移動に連動して移動することを想定しているが、これに限定されず、ユーザ190Bの他の動作や操作により移動してもよいし、ユーザ190Bの動作や操作によらず、自動で移動してもよい。同様に、左手42Bの移動は、ユーザ190Bの左手42Bの移動に連動して移動することを想定しているが、これに限定されず、ユーザ190Bの他の動作や操作により移動してもよいし、ユーザ190Bの動作や操作によらず、自動で移動してもよい。これによりユーザ190Aは、アバター40Bの左手42に自身の左手を握られて、さらに自身の左手を引っ張られたことによってアバター40Bに先導されて一緒に移動するという一連の行動を、仮想空間2において体験することができる。したがって、現実空間において他人との一緒に行動する自然な体験を、仮想空間2に反映することができる。   In the state (D) of FIG. 17, the first condition is that the left hand 42A of the avatar 40A is selected by the left hand 42B of the avatar 40B, and the left hand 42A and the left hand 42B move in the same direction 52 in the virtual space 2. It is In this case, the left hand 42A interlocks automatically with the movement of the avatar 40B, triggered by the movement of the left hand 42A gripped by the left hand 42B in the same direction 52 with the left hand 42B. For example, when the avatar 40B moves in the direction 52 while the left hand 42B holds the left hand 42A, not only the left hand 42B but also the left hand 42A gripped by the left hand 42B moves in the direction 52. Further, for example, with the left hand 42B gripping the left hand 42A, moving the left hand 42B in the direction 52 moves not only the left hand 42B but also the left hand 42A gripped by the left hand 42B in the direction 52. In addition, although movement of avatar 40B assumes moving in response to movement of the head of user 190B, it is not limited to this, and may move by other operation or operation of user 190B. The movement may be performed automatically regardless of the operation or operation of the user 190B. Similarly, the movement of the left hand 42B is assumed to move in conjunction with the movement of the left hand 42B of the user 190B, but is not limited to this, and may be moved by another operation or operation of the user 190B The movement may be performed automatically regardless of the operation or operation of the user 190B. As a result, in virtual space 2, user 190 </ b> A takes a series of actions of being held by his left hand 42 of avatar 40 </ b> B and further leading by avatar 40 </ b> B by pulling his left hand. You can experience it. Therefore, it is possible to reflect in the virtual space 2 a natural experience of acting together with others in the real space.

図18は、第1条件の他例を示す図である。図18の状態(A)では、第1条件は、アバター40Bの左手42Bによるアバター40Aの左手42Aの選択が行われ、かつ、左手42Aおよび左手42Bが視界領域23に含まれることである。この場合、ユーザ190Aが、左手42Bによって左手42Aが選択されたことを視認できる状況で、アバター40Bの移動に追随してアバター40Aが仮想空間2内において自動的に移動する。ユーザは、左手42Bによって左手42Aが選択されたことを視認しているので、アバター40Bの移動に追随してアバター40Aが仮想空間2内を自動的に移動することを、十分に予測できる。したがって、ユーザ190A自身の移動(HMD装置110の移動)を伴わずに仮想カメラ1が移動することによってユーザ190Aの視点が移動した場合であっても、ユーザ190AにVR酔いが発生することを低減できる。   FIG. 18 is a view showing another example of the first condition. In the state (A) of FIG. 18, the first condition is that the left hand 42A of the avatar 40A is selected by the left hand 42B of the avatar 40B, and the left hand 42A and the left hand 42B are included in the view area 23. In this case, the avatar 40A automatically moves in the virtual space 2 following the movement of the avatar 40B in a situation where the user 190A can visually recognize that the left hand 42A is selected by the left hand 42B. Since the user visually recognizes that the left hand 42A is selected by the left hand 42B, it can be sufficiently predicted that the avatar 40A will automatically move in the virtual space 2 following the movement of the avatar 40B. Therefore, even when the viewpoint of the user 190A moves by moving the virtual camera 1 without moving the user 190A itself (movement of the HMD device 110), occurrence of VR sickness in the user 190A is reduced. it can.

図18の状態(B)では、図18の状態(A)と異なり、アバター40Bの左手42Bによるアバター40Aの左手42Aの選択が行われているが、左手42Aおよび左手42Bは仮視界領域23に含まれない。仮想空間2内における視界領域23の範囲は、ユーザ190Aによる頭の動きによって容易に変更することができるので、このような状況は比較的容易に起こりやすい。プロセッサ10は、図18の状態(B)に示す条件が成立する場合、アバター40Bの移動に追随してアバター40Aを仮想空間2内において自動的に移動させることがない。これにより、アバター40Aの自動的な移動をユーザ190Aが予測できない状況でユーザ190Aの視点が自動的に移動することがないので、ユーザ190AにVR酔いが発生することを防ぐことができる。   In the state (B) of FIG. 18, unlike the state (A) of FIG. 18, the left hand 42B of the avatar 40B selects the left hand 42A of the avatar 40A, but the left hand 42A and the left hand 42B Not included Such a situation is relatively easy to occur because the range of the view area 23 in the virtual space 2 can be easily changed by the head movement by the user 190A. The processor 10 does not automatically move the avatar 40A in the virtual space 2 following the movement of the avatar 40B when the condition shown in the state (B) of FIG. 18 is satisfied. As a result, since the viewpoint of the user 190A does not automatically move in a situation where the user 190A can not predict the automatic movement of the avatar 40A, the occurrence of VR sickness in the user 190A can be prevented.

図19は、第1条件の他例を示す図である。図19の状態(A)では、第1条件は、アバター40Aの左手42Aとアバター40Bの左手42Bとが互いに接近して左手42Aと左手42Bとが第1位置関係になったことである。詳細には、図19の状態(A)では、左手42Aは仮想空間2における方向53Aに移動し、左手42Bは仮想空間2において方向53Aに対向する方向53Bに移動している。これらの移動の結果、左手42Aと左手42Bとが第1位置関係になった場合、第1条件が成立する。第1位置関係は、例えば、左手42Aに設定されるコリジョンエリアと左手42Bに設定されるコリジョンエリアとが接触する位置関係であること、および、左手42Aと左手42Bとの距離が第1距離であることなどが挙げられるが、これに限定されるものではない。プロセッサ10は、図19の状態(A)に示す第1条件が成立する場合、ユーザ190Aおよびユーザ190Bが互いに仮想空間2内において互いに関わろうとする行動の結果として、仮想空間2内において左手42A、左手42B、および仮想カメラ1の少なくともいずれかを自動的に制御する。これにより、仮想空間2におけるユーザ190Aの仮想体験をより向上させることができる。   FIG. 19 is a diagram showing another example of the first condition. In the state (A) of FIG. 19, the first condition is that the left hand 42A of the avatar 40A and the left hand 42B of the avatar 40B approach each other, and the left hand 42A and the left hand 42B are in the first positional relationship. Specifically, in the state (A) of FIG. 19, the left hand 42A moves in the direction 53A in the virtual space 2, and the left hand 42B moves in the direction 53B opposite to the direction 53A in the virtual space 2. When the left hand 42A and the left hand 42B are in the first positional relationship as a result of these movements, the first condition is satisfied. The first positional relationship is, for example, that the collision area set in the left hand 42A and the collision area set in the left hand 42B are in contact with each other, and the distance between the left hand 42A and the left hand 42B is the first distance. Although there is a thing etc., it is not limited to this. The processor 10 generates the left hand 42A in the virtual space 2 as a result of the user 190A and the user 190B trying to mutually relate in the virtual space 2 when the first condition shown in the state (A) of FIG. It automatically controls at least one of the left hand 42 B and the virtual camera 1. Thereby, the virtual experience of the user 190A in the virtual space 2 can be further improved.

図19の状態(B)では、第1条件は、アバター40Aの左手42Aとアバター40Bの左手42Bとが第1位置関係にあり、かつ左手42Aに規定される方向54A(第1方向)と、左手42Bに規定される方向54B(第2方向)とが対向することである。第1位置関係は、図19の状態(A)を参照して説明した内容と同様である。方向54Aおよび方向54Bは、図19の状態(B)に示すように、例えばいずれもロール方向である。方向54Aおよび方向54Bは、いずれもヨー方向でもよく、またはいずれもピッチ方向でもよい。プロセッサ10は、図19の状態(A)に示す第1条件が成立する場合、ユーザ190Aおよびユーザ190Bが互いに仮想空間2内において互いに関わろうとする行動の結果として、左手42A、左手42B、および仮想カメラ1の少なくともいずれかを制御する。これにより、仮想空間2におけるユーザ190Aの仮想体験をより向上させることができる。   In the state (B) of FIG. 19, the first condition is that the left hand 42A of the avatar 40A and the left hand 42B of the avatar 40B are in a first positional relationship, and a direction 54A (first direction) defined by the left hand 42A. The direction 54B (second direction) defined in the left hand 42B is opposite to the direction 54B. The first positional relationship is the same as the content described with reference to the state (A) of FIG. The directions 54A and 54B are, for example, both roll directions as shown in the state (B) of FIG. Direction 54A and direction 54B may both be in the yaw direction, or both may be in the pitch direction. The processor 10 causes the left hand 42A, the left hand 42B, and the virtual as a result of an action in which the user 190A and the user 190B try to mutually relate in the virtual space 2 when the first condition shown in the state (A) of FIG. Control at least one of the cameras 1. Thereby, the virtual experience of the user 190A in the virtual space 2 can be further improved.

図19の状態(C)では、第1条件は、アバター40Aの左手42Aに設定されるコリジョンエリア55A(第1領域)とアバター40Bの左手42Bに規定されるコリジョンエリア55B(第2領域)とが、衝突することである。この場合、プロセッサ10は、左手42Aと左手42Bとが第1条件を満たすか否かを、容易に判定することができる。なお、第1条件は、アバター40Aの左手42Aとアバター40Bの左手42Bとが直接接触することでもよい。   In the state (C) of FIG. 19, the first condition is that the collision area 55A (first area) set in the left hand 42A of the avatar 40A and the collision area 55B (second area) defined in the left hand 42B of the avatar 40B. Is to clash. In this case, the processor 10 can easily determine whether the left hand 42A and the left hand 42B satisfy the first condition. The first condition may be that the left hand 42A of the avatar 40A and the left hand 42B of the avatar 40B are in direct contact with each other.

(仮想空間2内における立場の入れ替え)
図20は、第1条件が成立する場合の仮想空間2の様子の他の例を示す図である。図21は、第1条件が成立する場合に表示される視界画像Mの他の例を示す図である。図20の例では、ユーザ190Aおよびユーザ190Bが、共通の仮想空間2において戦闘ゲームをプレイしている。図20の状態(A)では、アバター40Bは、右手41Bに武器61Bを持っており、アバター40Aは、右手41Aに武器61Aを持っていない。仮想空間2内において、アバター40Bは敵キャラクタ62の前に位置しており、アバター40Aはアバター40Bの背後に位置している。アバター40Bは、仮想空間2内において敵キャラクタ62と戦闘する権利を有しており、アバター40Aは、仮想空間2内において敵キャラクタ62と戦闘する権利を有していない。戦闘する権利とは、例えば、敵キャラクタ62に対して攻撃を加えることが可能な範囲にアバター40が位置すること、および、敵キャラクタ62から攻撃を加えられる(狙われる)範囲にアバター40が位置することなどが挙げられるが、これに限定されるものではない。アバター40Bは、ユーザ190Bによる操作に基づいて、敵キャラクタ62と戦闘することができる。アバター40Aは、アバター40Bと敵キャラクタ62との戦闘に参加することができない。
(Replacement of positions in virtual space 2)
FIG. 20 is a diagram showing another example of the appearance of the virtual space 2 when the first condition is satisfied. FIG. 21 is a view showing another example of the view image M displayed when the first condition is satisfied. In the example of FIG. 20, the user 190A and the user 190B are playing the battle game in the common virtual space 2. In the state (A) of FIG. 20, the avatar 40B holds the weapon 61B in the right hand 41B, and the avatar 40A does not hold the weapon 61A in the right hand 41A. In the virtual space 2, the avatar 40B is located in front of the enemy character 62, and the avatar 40A is located behind the avatar 40B. The avatar 40 B has the right to fight against the enemy character 62 in the virtual space 2, and the avatar 40 A does not have the right to fight against the enemy character 62 in the virtual space 2. The right to fight means, for example, that the avatar 40 is located in the range where it is possible to attack the enemy character 62, and the avatar 40 is located in the range where the enemy character 62 is attacked (targeted) But there is no limitation to this. The avatar 40B can battle the enemy character 62 based on the operation by the user 190B. The avatar 40A can not participate in the battle between the avatar 40B and the enemy character 62.

プロセッサ10は、図21の状態(A)に示す視界画像Mを、ディスプレイ112に表示させる。この視界画像Mは、図20の状態(A)に示す仮想空間2に対応する。ユーザは、図21の状態(A)に示す視界画像Mを視認することによって、アバター40Bが背中を向けてアバター40Aの前に位置しており、敵キャラクタ62と戦闘していることを認識する。ユーザ190Aは、さらに、アバター40Aは敵キャラクタ61と戦闘することができないことも認識する。ユーザ190Aは、図21の状態(A)に示す視界画像Mを視認することによって、アバター40Bと敵キャラクタ62との戦闘を見学する。   The processor 10 causes the display 112 to display the view image M shown in the state (A) of FIG. This view image M corresponds to the virtual space 2 shown in the state (A) of FIG. The user recognizes that the avatar 40B faces the back and is in front of the avatar 40A and battles against the enemy character 62 by visually recognizing the view image M shown in the state (A) of FIG. . The user 190A further recognizes that the avatar 40A can not fight the enemy character 61. The user 190A observes the battle between the avatar 40B and the enemy character 62 by visually recognizing the view image M shown in the state (A) of FIG.

図21の視界画像Mが表示されているとき、ユーザ190Aは左手を動かすことによって、アバター40Aの左手42Aをアバター40Bの左手42Bに向いた方向63に移動させ、さらに左手42Aを左手42Bに接触させる。これにより第1条件が成立するので、プロセッサ10は、図20の状態(B)に示すように、左手42Aに関連づけられるアバター40Aと、左手42Bに関連づけられるアバター40Bとの仮想空間2内における立場を入れ替える。この例では、プロセッサ10は、仮想空間2内において敵キャラクタ62と戦闘できる権利を、アバター40Aとアバター40Bとの間で入れ替える。その結果、アバター40Bは敵キャラクタ62と戦闘する権利を失い、アバター40Aは敵キャラクタ62と戦闘する権利を新たに得る。プロセッサ10は、さらに、敵キャラクタ62によって攻撃される対象を、アバター40Bからアバター40Aに変更する。   When the view image M of FIG. 21 is displayed, the user 190A moves the left hand 42A of the avatar 40A in the direction 63 facing the left hand 42B of the avatar 40B by moving the left hand and further contacts the left hand 42A with the left hand 42B. Let Since the first condition is thereby satisfied, as shown in the state (B) of FIG. 20, the processor 10 places, in the virtual space 2, the avatar 40A associated with the left hand 42A and the avatar 40B associated with the left hand 42B. Swap the. In this example, the processor 10 swaps the right to fight the enemy character 62 in the virtual space 2 between the avatar 40A and the avatar 40B. As a result, the avatar 40B loses the right to fight with the enemy character 62, and the avatar 40A newly gains the right to fight with the enemy character 62. The processor 10 further changes the target to be attacked by the enemy character 62 from the avatar 40B to the avatar 40A.

プロセッサ10は、さらに、アバター40Aが敵キャラクタ62と戦闘できるように、仮想空間2内におけるアバター40Aの位置とアバター40Bの位置とを入れ替える。これにより、アバター40Aは、アバター40Bの前に位置し、かつ敵キャラクタ62と向き合うようになる。アバター40Aの移動に追随して、仮想カメラ1もアバター40Bの前方に移動する。一方、アバター40Bは、アバター40Aの背後に位置するようになる。プロセッサ10は、さらに、アバター40Aの右手41Aに武器61Aを持たせ、かつアバター40Bの右手41Bから武器61Bを外す。   The processor 10 further switches the position of the avatar 40A in the virtual space 2 with the position of the avatar 40B so that the avatar 40A can fight against the enemy character 62. Thus, the avatar 40A is positioned in front of the avatar 40B and faces the enemy character 62. Following the movement of the avatar 40A, the virtual camera 1 also moves forward of the avatar 40B. On the other hand, the avatar 40B is located behind the avatar 40A. The processor 10 further holds the weapon 61A on the right hand 41A of the avatar 40A and removes the weapon 61B from the right hand 41B of the avatar 40B.

これらの制御の後、プロセッサ10は、図21の状態(B)に示す視界画像Mを、ディスプレイ112に表示させる。この視界画像Mは、図20の状態(B)に示す仮想空間2に対応する。ユーザは、図21の(B)に示す視界画像Mを視認することによって、アバター40Aがアバター40Bに代わって敵キャラクタ62と戦闘できるようになったことを認識する。したがってユーザ190Aは、アバター40Aの右手41Aを操作することによって、武器61Aで敵キャラクタ62を攻撃することができる。   After these controls, the processor 10 causes the display 112 to display the view image M shown in the state (B) of FIG. This view image M corresponds to the virtual space 2 shown in the state (B) of FIG. The user recognizes that the avatar 40A can battle with the enemy character 62 instead of the avatar 40B by visually recognizing the view image M shown in (B) of FIG. Therefore, the user 190A can attack the enemy character 62 with the weapon 61A by operating the right hand 41A of the avatar 40A.

以上のように、ユーザ190Aは、アバター40Aの左手42Aとアバター40Bの左手42Bとの関係が第1条件を満たすように左手42Aを操作さえすれば、アバター40Bに代わってアバター40Aを敵キャラクタ62と戦闘させるための操作(または行動)をすることなく、アバター40Aを敵キャラクタ62と戦闘させることができる。このように、本開示の一態様によれば、左手42Aと左手42Bとを接触させるだけで、敵キャラクタ62と戦闘可能なアバターを適宜入れ替えることができるので、ユーザ190Aおよびユーザ190Bは直感的な動作で戦闘可能なアバター40の入れ替えを行うことができ、より没入感の高い仮想体験をユーザ190Aおよびユーザ190Bに提供することができる。   As described above, if the user 190A operates the left hand 42A such that the relationship between the left hand 42A of the avatar 40A and the left hand 42B of the avatar 40B satisfies the first condition, the avatar 40A is replaced by the enemy character 62 instead of the avatar 40B. The avatar 40A can be made to battle the enemy character 62 without performing an operation (or an action) to make it fight. As described above, according to one aspect of the present disclosure, it is possible to appropriately replace the enemy character 62 and the avatar capable of fighting simply by bringing the left hand 42A and the left hand 42B into contact with each other, so the user 190A and the user 190B are intuitive The action can replace the battleable avatars 40 and provide a more immersive virtual experience to the users 190A and 190B.

以上、本開示の実施形態について説明したが、本発明の技術的範囲は、本実施形態の説明によって限定的に解釈されるべきではない。本実施形態は一例であって、特許請求の範囲に記載された発明の範囲内において、様々な実施形態の変更が可能であることが当業者によって理解されるところである。本発明の技術的範囲は、特許請求の範囲に記載された発明の範囲およびその均等の範囲に基づいて定められるべきである。   Although the embodiments of the present disclosure have been described above, the technical scope of the present invention should not be interpreted in a limited manner by the description of the present embodiments. It is understood by those skilled in the art that the present embodiment is an example, and that modifications of various embodiments are possible within the scope of the invention described in the claims. The technical scope of the present invention should be determined based on the scope of the invention described in the claims and the scope of equivalents thereof.

左手42Aによる左手42Bの選択、および左手42Bによる左手42Aの選択は、中間オブジェクトを介した間接的な選択でもあり得る。詳細には、プロセッサ10は、左手42Aが中間オブジェクトを保持(選択)している場合、中間オブジェクトを左手42Aの一部として扱うことができる。同様に、プロセッサ10は、左手42Bが中間オブジェクトを保持(選択)している場合、中間オブジェクトを左手42Bの一部として扱うことができる。つまり、操作オブジェクトで保持している中間オブジェクトも操作オブジェクトの一部として扱うことができる。これらのことから、左手42Bが中間オブジェクトを保持しており、かつ左手42Aがその中間オブジェクトを選択している(握る、接触する等)ことも、左手42Aによる左手42Bの選択が行われていることと同義である。同様に、左手42Aが中間オブジェクトを保持しており、かつ左手42Bがその中間オブジェクトを選択している(握る、接触する等)ことも、左手42Bによる左手42Aの選択が行われていることと同義である。   The selection of the left hand 42B by the left hand 42A and the selection of the left hand 42A by the left hand 42B may also be indirect selection via an intermediate object. In particular, the processor 10 may treat the intermediate object as part of the left hand 42A when the left hand 42A holds (selects) the intermediate object. Similarly, the processor 10 can treat the intermediate object as part of the left hand 42B when the left hand 42B holds (selects) the intermediate object. That is, intermediate objects held in the operation object can also be treated as part of the operation object. From these things, the left hand 42B holds an intermediate object, and the left hand 42A selects (holds, touches, etc.) the intermediate object, and the selection of the left hand 42B by the left hand 42A is performed. It is synonymous with. Similarly, the left hand 42A holding an intermediate object, and the left hand 42B selecting (gripping, touching, etc.) the intermediate object, and the selection of the left hand 42A by the left hand 42B is performed. It is synonymous.

仮想空間2内において、例えばリレー競技が行われているとする。リレー競技中に、第1走者であるアバター40Aは、左手42Aに持ったバトン(中間オブジェクト)を、第2走者であるアバター40Bの左手42Bに渡す。これにより左手42Bによってバトンが握られるので、左手42Aと左手42Bとの関係が第1条件を満たす。したがってプロセッサ10は、このようなバトンの受け渡しが行われた場合、仮想空間2内におけるアバター40Aおよびアバター40Bの動作をバトンの受け渡しに応じた態様で制御することができる。   For example, it is assumed that a relay competition is being performed in the virtual space 2. During the relay competition, the first runner avatar 40A delivers the baton (intermediate object) held by the left hand 42A to the left hand 42B of the second runner avatar 40B. Since the baton is held by the left hand 42B, the relationship between the left hand 42A and the left hand 42B satisfies the first condition. Therefore, when such baton delivery is performed, the processor 10 can control the operations of the avatar 40A and the avatar 40B in the virtual space 2 in a manner according to the delivery of the baton.

ステップS37において、プロセッサ10は、アバター40Aの左手42Aとアバター40Bの右手41Bとの関係が第1条件を満たすか否かを判定することもできる。ステップ37において、プロセッサ10は、アバター40Aの右手41Aとアバター40Bの左手42Bとの関係が第1条件を満たすか否かを判定することもできる。これらに限らず、プロセッサ10は、アバター40Aに含まれる任意の第1操作オブジェクトと、アバター40Bに含まれる任意の第2操作オブジェクトとの関係が第1条件を満たすか否かを、判定することができる。   In step S37, the processor 10 can also determine whether the relationship between the left hand 42A of the avatar 40A and the right hand 41B of the avatar 40B satisfies the first condition. In step 37, the processor 10 can also determine whether the relationship between the right hand 41A of the avatar 40A and the left hand 42B of the avatar 40B satisfies the first condition. Not limited to these, the processor 10 determines whether the relationship between any first operation object included in the avatar 40A and any second operation object included in the avatar 40B satisfies the first condition. Can.

ステップS38において、プロセッサ10は、仮想カメラ1の位置を固定したまま、仮想空間2内において左手42Aおよび左手42Bの少なくともいずれかを制御することもできる。プロセッサ10は、例えば、ステップS38において、左手42Aおよび左手42Bをアバター40Aまたはアバター40Bに近づけるように移動させる。この場合、第1条件の成立をトリガとして、アバター40Bがアバター40Aの左手42Aを自動的に引っ張ったり、またはアバター40Aがアバター40Bの左手42Bを自動的に引っ張ったりする。   In step S38, the processor 10 can control at least one of the left hand 42A and the left hand 42B in the virtual space 2 while the position of the virtual camera 1 is fixed. For example, in step S38, the processor 10 moves the left hand 42A and the left hand 42B closer to the avatar 40A or the avatar 40B. In this case, the avatar 40B automatically pulls the left hand 42A of the avatar 40A or the avatar 40A automatically pulls the left hand 42B of the avatar 40B, triggered by the establishment of the first condition.

図15の例において、プロセッサ10は、アバター40Aおよびアバター40Bを、視界領域23に含まれる方向にのみ移動させることもできる。これにより、ユーザ190Aが視認できない方向にアバター40Aが自動的に移動することを防ぐことができるので、ユーザを混乱させることを防止することができる。   In the example of FIG. 15, the processor 10 may move the avatar 40A and the avatar 40B only in the direction included in the view area 23. As a result, the avatar 40A can be prevented from automatically moving in a direction in which the user 190A can not visually recognize, so confusion of the user can be prevented.

図15の例において、プロセッサ10は、左手42Aによって左手42Bを握り返すことを、ユーザ190Aに促すことができる。プロセッサ10は、例えば、左手42Bによって左手42Aが握られた時点で、左手42Aの色を変更する。これによりユーザ190Aは、左手42Aの色が変更されたことを視認することによって、左手42Aで左手42Bを握り返すように求められたことを認識することができる。プロセッサ10は、例えば、ユーザ190Aが左手42Aを操作するためにコントローラ160を使用している場合、左手42Bによって左手42Aが握られた時点で、コントローラ160を振動させる。これによりユーザ190Aは、左手で振動を感じることによって、左手42Aで左手42Bを握り返すように求められていることを認識することができる。   In the example of FIG. 15, the processor 10 may prompt the user 190A to grip the left hand 42B with the left hand 42A. The processor 10 changes the color of the left hand 42A, for example, when the left hand 42A is grasped by the left hand 42B. Thus, the user 190A can recognize that he / she is asked to grasp the left hand 42B with the left hand 42A by visually recognizing that the color of the left hand 42A has been changed. The processor 10 vibrates the controller 160 when the left hand 42A is grasped by the left hand 42B, for example, when the user 190A uses the controller 160 to operate the left hand 42A. Thus, the user 190A can recognize that the user is asked to grip the left hand 42B with the left hand 42A by feeling vibration with the left hand.

図16に示すようにアバター40Bがアバター40Aに背中を向けている場合、プロセッサ10は、より厳しい内容の第1条件に基づいて、左手42Aと左手42Bとの関係を判定することが好ましい。例えば、プロセッサ10は、左手42Aの手先と左手42Bの手先とが接触している場合に、左手42Aと左手42Bとの関係が第1条件を満たすと判定する。これにより、第1条件成立の誤判定をより効果的に防ぐことができる。   In the case where avatar 40B faces back to avatar 40A as shown in FIG. 16, processor 10 preferably determines the relationship between left hand 42A and left hand 42B based on the more severe first condition. For example, when the hand of the left hand 42A is in contact with the hand of the left hand 42B, the processor 10 determines that the relation between the left hand 42A and the left hand 42B satisfies the first condition. This makes it possible to more effectively prevent the erroneous determination of the first condition establishment.

図20の例において、プロセッサ10は、第1条件が成立した場合、敵キャラクタ62からの攻撃を受けた場合にヒットポイントなどのゲームパラメータが変化する対象を、アバター40Bからアバター40Aに変更することもできる。このような対象変更も、立場の変更の一種に含まれる。他にも、仮想空間2内において複数のユーザが協力してプレイするスポーツゲームにおける選手交代も、仮想空間2におけるアバター40Aとアバター40Bとの立場の入れ替えの一種に含まれる。   In the example of FIG. 20, when the first condition is satisfied, the processor 10 changes the target for which game parameters such as hit points change when an attack from the enemy character 62 is received from the avatar 40B to the avatar 40A. You can also. Such a change of object is also included in a kind of change of position. Besides, player substitution in a sports game played by a plurality of users cooperatively in the virtual space 2 is also included in a kind of substitution of positions of the avatar 40A and the avatar 40B in the virtual space 2.

また、本実施形態においては、HMD装置110によってユーザ190が没入する仮想空間(VR空間)を例示して説明したが、HMD装置110として、透過型のHMD装置を採用してもよい。この場合、透過型のHMD装置を介してユーザ190が視認する現実空間に、仮想空間を構成する画像の一部が視界画像として重畳されるように視界画像を出力することにより、拡張現実(AR:Augumented Reality)空間または複合現実(MR:Mixed Reality)空間における仮想体験をユーザ190に提供してもよい。この場合、手オブジェクトHに代えて、ユーザ190の手の動きに基づいて、仮想空間2内における対象オブジェクト(例えば表示オブジェクトD)への作用を生じさせてもよい。具体的には、プロセッサ10は、現実空間におけるユーザ190の手の位置の座標情報を特定するとともに、仮想空間2内における対象オブジェクトの位置を現実空間における座標情報との関係で定義してもよい。これにより、プロセッサ10は、現実空間におけるユーザ190の手と仮想空間2における対象オブジェクトとの位置関係を把握し、ユーザ190の手と対象オブジェクトとの間で上述したコリジョン制御等に対応する処理を実行可能となる。その結果、ユーザ190の手の動きに基づいて対象オブジェクトに作用を与えることが可能となる。   Further, in the present embodiment, the virtual space (VR space) in which the user 190 is immersed by the HMD device 110 is described as an example, but a transmissive HMD device may be adopted as the HMD device 110. In this case, the augmented reality (AR) is output by outputting a view image so that a part of the image forming the virtual space is superimposed as a view image on the real space viewed by the user 190 via the transmissive HMD device. The virtual experience in the Augmented Reality (MR) space or Mixed Reality (MR) space may be provided to the user 190. In this case, instead of the hand object H, an action on the target object (for example, the display object D) in the virtual space 2 may be generated based on the movement of the hand of the user 190. Specifically, the processor 10 may specify coordinate information of the position of the hand of the user 190 in the real space, and define the position of the target object in the virtual space 2 in relation to the coordinate information in the real space . Thereby, the processor 10 grasps the positional relationship between the hand of the user 190 in the real space and the target object in the virtual space 2, and performs the processing corresponding to the collision control etc. described above between the hand of the user 190 and the target object. It becomes executable. As a result, it is possible to affect the target object based on the hand movement of the user 190.

〔付記事項〕
本発明の一側面に係る内容を列記すると以下のとおりである。
[Items to be added]
It will be as follows when the contents concerning one side of the present invention are listed.

(項目1) プログラムを説明した。本開示のある局面によれば、プログラムは、第1ユーザ(190A)の頭部に関連付けられた画像表示装置(ディスプレイ112)を介して仮想体験を第1ユーザに提供するために、プロセッサ(10)を備えたコンピュータ(コンピュータ200またはサーバ150が備えるコンピュータ)によって実行される。プログラムは、プロセッサ10に、仮想体験を第1ユーザに提供するための仮想空間2を定義するステップ(S14)と、第1ユーザの身体の一部の動きに応じて、仮想空間2内において第1操作オブジェクト(左手42A)を動かすステップ(S34)と、第1ユーザの頭部の姿勢と仮想空間2における仮想視点(仮想カメラ1)の位置とに応じて、仮想空間2における仮想視点からの視界(視界領域23)を制御するステップ(ステップS33)と、第2ユーザ(ユーザ190B)の身体の一部の動きに応じて、仮想空間2内において第2操作オブジェクト(左手42B)を動かすステップと、仮想空間2内における第1操作オブジェクトと第2操作オブジェクトとの関係が第1条件を満たす場合、第1条件に応じて第1操作オブジェクト、第2操作オブジェクトおよび仮想視点からの視界のうち少なくともいずれかを仮想空間2内において制御するステップと、仮想視点からの視界に対応する視界画像Mを定義するステップ(S33)と、視界画像Mを画像表示装置に出力するステップ(S33)とを実行させる。   (Item 1) The program was explained. According to one aspect of the present disclosure, a program may be used to provide a processor (10) to provide a virtual experience to a first user via an image display (display 112) associated with the head of the first user (190A). And the computer 150 or the computer included in the server 150). The program defines, in the processor 10, a step (S14) of defining a virtual space 2 for providing a virtual experience to the first user (S14), and in response to the movement of a part of the body of the first user, According to the step of moving 1 operation object (left hand 42A) (S34), the posture of the head of the first user and the position of the virtual viewpoint (virtual camera 1) in the virtual space 2, The step of controlling the field of view (field of view area 23) (step S33), and the step of moving the second operation object (left hand 42B) in the virtual space 2 according to the movement of a part of the body of the second user (user 190B). When the relationship between the first operation object and the second operation object in the virtual space 2 satisfies the first condition, the first operation object is determined according to the first condition. Controlling at least one of the second operation object and the view from the virtual viewpoint in the virtual space 2, defining the view image M corresponding to the view from the virtual view (S33), and the view image M To the image display apparatus (S33).

(項目2) (項目1)において、第1条件は、第1操作オブジェクトによる第2操作オブジェクトの選択、および第2操作オブジェクトによる第1操作オブジェクトの選択の少なくともいずれかが行われていることである。   (Item 2) In (Item 1), the first condition is that at least one of the selection of the second operation object by the first operation object and the selection of the first operation object by the second operation object is performed. is there.

(項目3) (項目1)において、第1条件は、さらに、第1操作オブジェクトおよび第2操作オブジェクトが同一の方向53に移動していることである。   (Item 3) In (Item 1), the first condition is that the first operation object and the second operation object further move in the same direction 53.

(項目4) (項目1)において、第1条件は、第1操作オブジェクトと第2操作オブジェクトとが第1位置関係にあり、かつ第1操作オブジェクトに規定される第1方向(ロール方向)と、第2操作オブジェクトに規定される第2方向(ロール方向)とが対向することである。   (Item 4) In (Item 1), the first condition is that the first operation object and the second operation object are in the first positional relationship, and the first direction (roll direction) defined in the first operation object And a second direction (roll direction) defined in the second operation object.

(項目5) (項目1)〜(項目4)において、第1条件は、第1操作オブジェクトと第2操作オブジェクトとが互いに接近して第1操作オブジェクトと第2操作オブジェクトとが第1位置関係になったことである。   (Item 5) In (Item 1) to (Item 4), the first condition is that the first operation object and the second operation object approach each other, and the first operation object and the second operation object have a first positional relationship. It is to become.

(項目6) (項目2)〜(項目5)において、第1条件は、さらに、第1操作オブジェクトと第2操作オブジェクトとが、仮想視点からの視界に含まれることである。   (Item 6) In (Item 2) to (Item 5), the first condition is that the first operation object and the second operation object are further included in the view from the virtual viewpoint.

(項目7) (項目1)〜(項目6)において、制御するステップにおいて、第1操作オブジェクトと仮想視点との位置関係を維持したまま、第2操作オブジェクトの移動に追随して第1操作オブジェクトおよび仮想視点を仮想空間2内において移動させる。   (Item 7) In (Item 1) to (Item 6), the controlling step follows the movement of the second operation object while maintaining the positional relationship between the first operation object and the virtual viewpoint. And move the virtual viewpoint in the virtual space 2.

(項目8) (項目1)〜(項目6)のいずれかにおいて、制御するステップにおいて、第1操作オブジェクトに関連付けられる第1アバター(アバター40A)と、第2操作オブジェクトに関連付けられる第2アバター(アバター40B)との仮想空間2内における立場を入れ替える。   (Item 8) In any one of (Item 1) to (Item 6), in the controlling step, a first avatar (avatar 40A) associated with the first operation object and a second avatar (associated with the second operation object) Swap the position in the virtual space 2 with the avatar 40B).

(項目9) 情報処理装置を説明した。本開示のある局面によると、情報処理装置(コンピュータ200)は、第1ユーザ(ユーザ190A)の頭部に関連付けられた画像表示装置(ディスプレイ112)と、画像表示装置を介して仮想体験を第1ユーザに提供するために、情報処理装置によって実行されるプログラムを記憶する記憶部(メモリ11)と、情報処理装置の動作を制御する制御部(プロセッサ10)と、を備えている。制御部は、仮想体験を第1ユーザに提供するための仮想空間2を定義し、第1ユーザの身体の一部の動きに応じて、仮想空間内において第1操作オブジェクト(左手42A)を動かし、第1ユーザの頭部の姿勢と仮想空間2における仮想視点(仮想カメラ1)の位置とに応じて、仮想空間2における仮想視点からの視界を制御し、第2ユーザ(ユーザ190B)の身体の一部の動きに応じて、仮想空間2内において第2操作オブジェクト(左手42B)を動かし、仮想空間2内における第1操作オブジェクトと第2操作オブジェクトとの関係が第1条件を満たす場合、第1条件に応じて第1操作オブジェクト、第2操作オブジェクトおよび仮想視点からの視界(視界領域23)のうち少なくともいずれかを仮想空間2内において制御し、仮想視点からの視界に対応する視界画像Mを定義し、視界画像Mを画像表示装置に出力する。   (Item 9) The information processing apparatus has been described. According to an aspect of the present disclosure, an information processing apparatus (computer 200) is configured to display a virtual experience via an image display apparatus (display 112) associated with the head of a first user (user 190A) and the image display apparatus. A storage unit (memory 11) for storing a program to be executed by the information processing apparatus to provide one user, and a control unit (processor 10) for controlling the operation of the information processing apparatus. The control unit defines a virtual space 2 for providing a virtual experience to the first user, and moves the first operation object (left hand 42A) in the virtual space according to the movement of a part of the first user's body. Controlling the view from the virtual viewpoint in the virtual space 2 according to the posture of the head of the first user and the position of the virtual viewpoint (virtual camera 1) in the virtual space 2, and the body of the second user (user 190B) When the second operation object (left hand 42B) is moved in the virtual space 2 according to the movement of part of the above, and the relationship between the first operation object and the second operation object in the virtual space 2 satisfies the first condition, According to the first condition, at least one of the first operation object, the second operation object, and the field of view (field of view area 23) from the virtual viewpoint is controlled in the virtual space 2, and the virtual Define the view field image M corresponding to the view from the point, and outputs the view field image M on the image display device.

(項目10) プログラムを実行する方法を説明した。本開示のある局面によると、プログラムは、第1ユーザ(ユーザ190A)の頭部に関連付けられた画像表示装置(ディスプレイ112)を介して仮想体験を第1ユーザに提供するために、プロセッサ10を備えたコンピュータ(コンピュータ200またはサーバ150が備えるコンピュータ)によって実行される。方法は、プロセッサ10に、仮想体験を第1ユーザに提供するための仮想空間2を定義するステップ(S13)と、第1ユーザの身体の一部の動きに応じて、仮想空間2内において第1操作オブジェクト(左手42A)を動かすステップ(S34)と、第1ユーザの頭部の姿勢と仮想空間2における仮想視点(仮想カメラ1)の位置とに応じて、仮想空間における仮想視点からの視界(視界領域23)を制御するステップ(S32)と、第2ユーザ(ユーザ190B)の身体の一部の動きに応じて、仮想空間2内において第2操作オブジェクト(左手42B)を動かすステップ(S36)と、仮想空間2内における第1操作オブジェクトと第2操作オブジェクトとの関係が第1条件を満たす場合、第1条件に応じて第1操作オブジェクト、第2操作オブジェクトおよび仮想視点からの視界のうち少なくともいずれかを仮想空間2内において制御するステップ(S38)と、仮想視点からの視界に対応する視界画像Mを定義するステップ(S33)と、視界画像Mを画像表示装置に出力するステップ(S33)とを含む。   (Item 10) A method of executing a program has been described. According to one aspect of the present disclosure, a program provides processor 10 to provide a virtual experience to a first user via an image display (display 112) associated with the head of the first user (user 190A). It is executed by the provided computer (the computer provided to the computer 200 or the server 150). The method comprises, in the processor 10, defining a virtual space 2 for providing a virtual experience to the first user (S13), and in response to the movement of a part of the body of the first user, 1. View from the virtual viewpoint in the virtual space according to the step of moving the operation object (left hand 42A) (S34), the posture of the head of the first user and the position of the virtual viewpoint (virtual camera 1) in the virtual space 2 Step (S32) of controlling (field of view area 23) and moving (S36) the second operation object (left hand 42B) in the virtual space 2 according to the movement of a part of the body of the second user (user 190B) , And the first operation object according to the first condition, when the relationship between the first operation object and the second operation object in the virtual space 2 satisfies the first condition; Controlling at least one of the operation object and the view from the virtual viewpoint in the virtual space 2 (S38), defining the view image M corresponding to the view from the virtual view (S33), and the view image M And the step (S33) of outputting to the image display device.

1 仮想カメラ、2 仮想空間、5 基準視線、10 プロセッサ、11 メモリ、12 ストレージ、13 入出力インターフェース、14 通信インターフェース、15 バス、19 ネットワーク、21 中心、22 仮想空間画像、23 視界領域、24,25 領域、31 フレーム、32 天面、33,34,36,37 ボタン、35 赤外線LED、38 アナログスティック、100,100A,100B,100C HMDシステム、110,110A,110B,110C HMD装置、112 ディスプレイ、114 センサ、116 カメラ、118 マイク、120 HMDセンサ、130 モーションセンサ、140 注視センサ、150 サーバ、160 コントローラ、160R 右コントローラ、190,190A,190B,190C ユーザ、200 コンピュータ、220 表示制御モジュール、221 仮想カメラ制御モジュール、222 視界領域決定モジュール、223 視界画像生成モジュール、224 基準視線特定モジュール、230 仮想空間制御モジュール、231 仮想空間定義モジュール、232 仮想オブジェクト制御モジュール、233 同期制御モジュール、234 判定モジュール、240 メモリモジュール、241 コンテンツ情報、242 オブジェクト情報、243 ユーザ情報、250 通信制御モジュール、810 右手、40A,40B,40C アバター、41A,41B,41C 右手、42A,42B,42C 左手、
51,52,53A,53B,54A,54B 方向 55A,55B コリジョンエリア、61A,61B 武器、62 敵キャラクタ、M 視界画像
Reference Signs List 1 virtual camera 2 virtual space 5 reference line of sight 10 processor 11 memory 12 storage 13 input / output interface 14 communication interface 15 bus 19 network 21 center 22 virtual space image 23 view area 24 25 area, 31 frame, 32 ceiling, 33, 34, 36, 37 buttons, 35 infrared LED, 38 analog stick, 100, 100A, 100B, 100C HMD system, 110, 110A, 110B, 110C HMD device, 112 display, 114 sensors, 116 cameras, 118 microphones, 120 HMD sensors, 130 motion sensors, 140 gaze sensors, 150 servers, 160 controllers, 160R right controllers, 190, 190A, 190B, 190C users, 00 computer 220 display control module 221 virtual camera control module 222 view field determination module 223 view image generation module 224 reference gaze identification module 230 virtual space control module 231 virtual space definition module 232 virtual object control module 233 synchronization control module, 234 determination module, 240 memory module, 241 content information, 242 object information, 243 user information, 250 communication control module, 810 right hand, 40A, 40B, 40C avatar, 41A, 41B, 41C right hand, 42A, 42B , 42C left hand,
51, 52, 53A, 53B, 54A, 54B Direction 55A, 55B Collision area, 61A, 61B Weapons, 62 enemy characters, M View image

Claims (10)

第1ユーザの頭部に関連付けられた画像表示装置を介して仮想体験を前記第1ユーザに提供するために、プロセッサを備えたコンピュータによって実行されるプログラムであって、
前記プログラムは、前記プロセッサに、
前記仮想体験を前記第1ユーザに提供するための仮想空間を定義するステップと、
前記第1ユーザの身体の一部の動きに応じて、前記仮想空間内において第1操作オブジェクトを動かすステップと、
前記第1ユーザの頭部の姿勢と前記仮想空間における仮想視点の位置とに応じて、前記仮想空間における前記仮想視点からの視界を制御するステップと、
第2ユーザの身体の一部の動きに応じて、前記仮想空間内において第2操作オブジェクトを動かすステップと、
前記仮想空間内における前記第1操作オブジェクトと前記第2操作オブジェクトとの関係が第1条件を満たす場合、前記第1条件に応じて第1操作オブジェクト、第2操作オブジェクトおよび前記仮想視点からの視界のうち少なくともいずれかを前記仮想空間内において制御するステップと、
前記仮想視点からの前記視界に対応する視界画像を定義するステップと、
前記視界画像を前記画像表示装置に出力するステップとを実行させる、プログラム。
A program executed by a computer comprising a processor to provide a virtual experience to the first user via an image display associated with the head of the first user,
The program is executed by the processor
Defining a virtual space for providing the virtual experience to the first user;
Moving a first manipulation object in the virtual space in response to movement of a portion of the body of the first user;
Controlling the view from the virtual viewpoint in the virtual space according to the posture of the head of the first user and the position of the virtual viewpoint in the virtual space;
Moving the second operation object in the virtual space in response to the movement of a part of the second user's body;
When the relation between the first operation object and the second operation object in the virtual space satisfies a first condition, the view from the first operation object, the second operation object, and the virtual viewpoint according to the first condition Controlling at least one of the above in the virtual space;
Defining a view image corresponding to the view from the virtual view point;
Outputting the view image to the image display device.
前記第1条件は、前記第1操作オブジェクトによる前記第2操作オブジェクトの選択、および前記第2操作オブジェクトによる前記第1操作オブジェクトの選択の少なくともいずれかが行われていることである、請求項1に記載のプログラム。   The first condition is that at least one of selection of the second operation object by the first operation object and selection of the first operation object by the second operation object is performed. The program described in. 前記第1条件は、さらに、前記第1操作オブジェクトおよび前記第2操作オブジェクトが同一の方向に移動していることである、請求項2に記載のプログラム。   The program according to claim 2, wherein the first condition is that the first operation object and the second operation object further move in the same direction. 前記第1条件は、前記第1操作オブジェクトと前記第2操作オブジェクトとが第1位置関係にあり、かつ前記第1操作オブジェクトに規定される第1方向と、前記第2操作オブジェクトに規定される第2方向とが対向することである、請求項1に記載のプログラム。   The first condition is defined in a first direction in which the first operation object and the second operation object are in a first positional relationship and which is defined in the first operation object, and in the second operation object. The program according to claim 1, wherein the second direction is opposite. 前記第1条件は、前記第1操作オブジェクトと前記第2操作オブジェクトとが互いに接近して前記第1操作オブジェクトと前記第2操作オブジェクトとが第1位置関係になったことである、請求項1または4に記載のプログラム。   The first condition is that the first operation object and the second operation object approach each other, and the first operation object and the second operation object become in a first positional relationship. Or the program described in 4. 前記第1条件は、さらに、前記第1操作オブジェクトと前記第2操作オブジェクトとが前記仮想視点からの視界に含まれることである、請求項2〜5のいずれか1項に記載のプログラム。   The program according to any one of claims 2 to 5, wherein the first condition is that the first operation object and the second operation object are further included in a view from the virtual viewpoint. 前記制御するステップにおいて、前記第1操作オブジェクトと前記仮想視点との位置関係を維持したまま、前記第2操作オブジェクトの移動に追随して前記第1操作オブジェクトおよび前記仮想視点を前記仮想空間内において移動させる、請求項1〜6のいずれか1項に記載のプログラム。   In the controlling step, while maintaining the positional relationship between the first operation object and the virtual viewpoint, following the movement of the second operation object, the first operation object and the virtual viewpoint in the virtual space The program according to any one of claims 1 to 6, which is moved. 前記制御するステップにおいて、前記第1操作オブジェクトに関連付けられる第1アバターと、前記第2操作オブジェクトに関連付けられる第2アバターとの前記仮想空間内における立場を入れ替える、請求項1〜6のいずれか1項に記載のプログラム。   The position in the virtual space of the 1st avatar associated with the 1st operation object and the 2nd avatar associated with the 2nd operation object is replaced in the controlling step. The program described in Section. 情報処理装置であって、
前記情報処理装置は、
第1ユーザの頭部に関連付けられた画像表示装置と、
前記画像表示装置を介して仮想体験を前記第1ユーザに提供するために、前記情報処理装置によって実行されるプログラムを記憶する記憶部と、
前記情報処理装置の動作を制御する制御部と、を備え、
前記制御部は、
前記仮想体験を前記第1ユーザに提供するための仮想空間を定義し、
前記第1ユーザの身体の一部の動きに応じて、前記仮想空間内において第1操作オブジェクトを動かし、
前記第1ユーザの頭部の姿勢と前記仮想空間における仮想視点の位置とに応じて、前記仮想空間における前記仮想視点からの視界を制御し、
第2ユーザの身体の一部の動きに応じて、前記仮想空間内において第2操作オブジェクトを動し、
前記仮想空間内における前記第1操作オブジェクトと前記第2操作オブジェクトとの関係が第1条件を満たす場合、前記第1条件に応じて第1操作オブジェクト、第2操作オブジェクトおよび前記仮想視点からの視界のうち少なくともいずれかを前記仮想空間内において制御し、
前記仮想視点からの前記視界に対応する視界画像を定義し、
前記視界画像を前記画像表示装置に出力する、情報処理装置。
An information processing apparatus,
The information processing apparatus is
An image display associated with the head of the first user;
A storage unit that stores a program to be executed by the information processing device to provide a virtual experience to the first user via the image display device;
A control unit that controls the operation of the information processing apparatus;
The control unit
Defining a virtual space for providing the virtual experience to the first user,
Moving the first operation object in the virtual space in accordance with the movement of a part of the body of the first user;
Controlling the view from the virtual viewpoint in the virtual space according to the posture of the head of the first user and the position of the virtual viewpoint in the virtual space;
Moving the second operation object in the virtual space according to the movement of the second user's body,
When the relation between the first operation object and the second operation object in the virtual space satisfies a first condition, the view from the first operation object, the second operation object, and the virtual viewpoint according to the first condition Control at least one of the above in the virtual space,
Defining a view image corresponding to the view from the virtual view point;
An information processing apparatus, which outputs the view image to the image display apparatus.
第1ユーザの頭部に関連付けられた画像表示装置を介して仮想体験を前記第1ユーザに提供するために、プロセッサを備えたコンピュータがプログラムを実行する方法であって、
前記方法は、前記プロセッサに、
前記仮想体験を前記第1ユーザに提供するための仮想空間を定義するステップと、
前記第1ユーザの身体の一部の動きに応じて、前記仮想空間内において第1操作オブジェクトを動かすステップと、
前記第1ユーザの頭部の姿勢と前記仮想空間における仮想視点の位置とに応じて、前記仮想空間における前記仮想視点からの視界を制御するステップと、
第2ユーザの身体の一部の動きに応じて、前記仮想空間内において第2操作オブジェクトを動かすステップと、
前記仮想空間内における前記第1操作オブジェクトと前記第2操作オブジェクトとの関係が第1条件を満たす場合、前記第1条件に応じて第1操作オブジェクト、第2操作オブジェクトおよび前記仮想視点からの視界のうち少なくともいずれかを前記仮想空間内において制御するステップと、
前記仮想視点からの前記視界に対応する視界画像を定義するステップと、
前記視界画像を前記画像表示装置に出力するステップとを含む、方法。
A method comprising: a computer comprising a processor executing a program to provide the first user with a virtual experience via an image display device associated with the first user's head,
The method comprises:
Defining a virtual space for providing the virtual experience to the first user;
Moving a first manipulation object in the virtual space in response to movement of a portion of the body of the first user;
Controlling the view from the virtual viewpoint in the virtual space according to the posture of the head of the first user and the position of the virtual viewpoint in the virtual space;
Moving the second operation object in the virtual space in response to the movement of a part of the second user's body;
When the relation between the first operation object and the second operation object in the virtual space satisfies a first condition, the view from the first operation object, the second operation object, and the virtual viewpoint according to the first condition Controlling at least one of the above in the virtual space;
Defining a view image corresponding to the view from the virtual view point;
Outputting the view image to the image display device.
JP2018234831A 2018-12-14 2018-12-14 Program, information processing device and method Pending JP2019087262A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2018234831A JP2019087262A (en) 2018-12-14 2018-12-14 Program, information processing device and method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018234831A JP2019087262A (en) 2018-12-14 2018-12-14 Program, information processing device and method

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2017212133A Division JP6479933B1 (en) 2017-11-01 2017-11-01 Program, information processing apparatus, and method

Publications (1)

Publication Number Publication Date
JP2019087262A true JP2019087262A (en) 2019-06-06

Family

ID=66763168

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018234831A Pending JP2019087262A (en) 2018-12-14 2018-12-14 Program, information processing device and method

Country Status (1)

Country Link
JP (1) JP2019087262A (en)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021111374A (en) * 2020-01-14 2021-08-02 デジタルデザインスタジオ株式会社 Vehicle design support system
WO2023162499A1 (en) * 2022-02-24 2023-08-31 株式会社Nttドコモ Display control device

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10228501A (en) * 1997-02-13 1998-08-25 Nippon Telegr & Teleph Corp <Ntt> Method and system for moving participant in virtual space
JP2015505249A (en) * 2011-05-27 2015-02-19 マイクロソフト コーポレーション Avatar of a friend who plays a non-player character
JP2016143386A (en) * 2015-02-05 2016-08-08 任天堂株式会社 Program, communication terminal, and display method
JP6201028B1 (en) * 2016-12-06 2017-09-20 株式会社コロプラ Information processing method, apparatus, and program for causing computer to execute information processing method
JP6479933B1 (en) * 2017-11-01 2019-03-06 株式会社コロプラ Program, information processing apparatus, and method

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10228501A (en) * 1997-02-13 1998-08-25 Nippon Telegr & Teleph Corp <Ntt> Method and system for moving participant in virtual space
JP2015505249A (en) * 2011-05-27 2015-02-19 マイクロソフト コーポレーション Avatar of a friend who plays a non-player character
JP2016143386A (en) * 2015-02-05 2016-08-08 任天堂株式会社 Program, communication terminal, and display method
JP6201028B1 (en) * 2016-12-06 2017-09-20 株式会社コロプラ Information processing method, apparatus, and program for causing computer to execute information processing method
JP6479933B1 (en) * 2017-11-01 2019-03-06 株式会社コロプラ Program, information processing apparatus, and method

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
PRONEWS: "AOI Pro.、手を引かれて歩く旅行体験VRコンテンツ「WONDERFUL WORLD-VR Private Tour」の試作版を発表", [ONLINE], JPN7021002871, 22 March 2017 (2017-03-22), ISSN: 0004561895 *

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021111374A (en) * 2020-01-14 2021-08-02 デジタルデザインスタジオ株式会社 Vehicle design support system
JP7150354B2 (en) 2020-01-14 2022-10-11 デジタルデザインスタジオ株式会社 Vehicle design support system
WO2023162499A1 (en) * 2022-02-24 2023-08-31 株式会社Nttドコモ Display control device

Similar Documents

Publication Publication Date Title
US10936149B2 (en) Information processing method and apparatus for executing the information processing method
JP6263252B1 (en) Information processing method, apparatus, and program for causing computer to execute information processing method
JP6248219B1 (en) Information processing method, computer, and program for causing computer to execute information processing method
JP2018147465A (en) Information processing method, device, and program for causing computer to execute the method
JP6479933B1 (en) Program, information processing apparatus, and method
JP7005406B2 (en) Programs, information processing devices, and information processing methods
JP6513241B1 (en) PROGRAM, INFORMATION PROCESSING DEVICE, AND INFORMATION PROCESSING METHOD
JP2018097517A (en) Information processing method, device, and program for causing computer to execute the information processing method
JP6368404B1 (en) Information processing method, program, and computer
JP2019087262A (en) Program, information processing device and method
JP7192151B2 (en) Program, information processing device, and information processing method
JP6419268B1 (en) Information processing method, apparatus, and program for causing computer to execute information processing method
JP6263292B1 (en) Information processing method, computer, and program for causing computer to execute information processing method
JP2019048045A (en) Information processing method device, and program for causing computer to execute the information processing method
JP2018175849A (en) Information processing method, apparatus, and program for implementing that information processing method in computer
JP2018092635A (en) Information processing method, device, and program for implementing that information processing method on computer
JP2019020832A (en) Information processing method, device, and program for causing computer to execute the method
JP6965304B2 (en) Programs, information processing devices, and information processing methods
JP6330072B1 (en) Information processing method, apparatus, and program for causing computer to execute information processing method
JP6392953B1 (en) Information processing method, apparatus, and program for causing computer to execute information processing method
JP2019128915A (en) Program, information processing device, and method
JP2019016358A (en) Information processing method, program and computer
JP2018181017A (en) Information processing method, apparatus, and program for implementing that information processing method in computer
JP6946084B2 (en) An information processing method, a device, and a program for causing a computer to execute the information processing method.
JP6392832B2 (en) Information processing method, apparatus, and program for causing computer to execute information processing method

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20201001

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210727

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210803

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20211004

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20220208