JP6278546B1 - 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム - Google Patents

Abstract

【課題】仮想空間内におけるウィジェットなどの移動対象の移動を改善する。【解決手段】仮想空間における仮想オブジェクトＫ１およびＫ２とキャラクタオブジェクトＡとの間にウィジェットＷが配置されている。そのとき、キャラクタオブジェクトＡが右に向こうとする場合、仮想視点の移動先を予測し、そして、ウィジェットＷの移動先を特定する。この特定した移動先にウィジェットＷを移動させる。ここで、ウィジェットＷの優先度は、仮想オブジェクトＫ３より高いと設定されている。したがって、ウィジェットＷは、キャラクタオブジェクトＡと仮想オブジェクトＫ３との間に配置されるように修正される。【選択図】図１３

Description

本開示は、仮想空間に仮想オブジェクトを表示する技術に関する。

特許文献１には、仮想空間におけるウィジェットが視野の外に位置した時点で初期状態の位置に戻ることの記載がある。

特開２０１７−４３５７号公報

上記特許文献１に記載の技術に対して、ユーザが仮想空間内のウィジェットを見失わないために改善の余地がある。

そこで、本開示においては、仮想空間内におけるウィジェットなどの移動対象の移動を改善する情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラムを提供することを目的とする。

上述の課題を解決するために、本発明の情報処理方法は、表示部を備えるヘッドマウントデバイスを介してユーザに仮想空間を提供するためにコンピュータにより実行される情報処理方法であって、前記ユーザに関連付けられたキャラクタオブジェクト、移動対象を含む仮想空間データを特定するステップと、前記キャラクタオブジェクトに関連付けられた仮想視点を前記仮想空間内に特定し、前記仮想視点に基づいた視界画像を定義するステップと、前記視界画像を前記表示部に表示させるステップと、前記ヘッドマウントデバイスの動きに基づいて前記仮想視点を動かし始めるとともに、前記仮想視点の移動先である第１位置を予測するステップと、前記第１位置に基づいて前記移動対象の移動先である第２位置を特定するステップと、前記第２位置に、前記移動対象を移動させるステップと、を備える。

本会時によれば、移動対象を視界画像内に容易に捉えることができ、ユーザは移動対象または当該移動対象に基づいた処理を視界画像内で認識することができる。よって、ヘッドマウントデバイスを用いた仮想体験を改善することができる。

ある実施の形態に従うＨＭＤシステム１００の構成の概略を表す図である。 一局面に従うコンピュータ２００のハードウェア構成の一例を表すブロック図である。 ある実施の形態に従うＨＭＤ装置１１０に設定されるｕｖｗ視野座標系を概念的に表す図である。 ある実施の形態に従う仮想空間２を表現する一態様を概念的に表す図である。 ある実施の形態に従うＨＭＤ装置１１０を装着するユーザ１９０の頭部を上から表した図である。 仮想空間２において視界領域２３をＸ方向から見たＹＺ断面を表す図である。 仮想空間２において視界領域２３をＹ方向から見たＸＺ断面を表す図である。 ある実施の形態に従うコントローラ１６０の概略構成を表す図である。 ある実施の形態に従うコンピュータ２００をモジュール構成として表すブロック図である。 ＨＭＤシステム１００が実行する処理を表すフローチャートである。 ＨＭＤシステム１００が実行する仮想視点の予測処理および移動対象の移動先特定処理を表すフローチャートである。 キャラクタオブジェクトと移動対象との位置関係およびその視界画像を示す図である。 キャラクタオブジェクトが右に向いたときの、移動対象との位置関係およびその視界画像を示す図である。 移動対象の移動先を修正したときのキャラクタオブジェクトとの位置関係およびその視界画像を示す図である。 移動対象の移動先を修正したときのキャラクタオブジェクト、他のキャラクタオブジェクトとの位置関係およびその視界画像を示す図である。 移動対象を移動先に移動させないときのキャラクタオブジェクトとの位置関係およびその視界画像を示す図である。 センサ１１４により検出されたセンサ値のグラフを示す図である。

以下、図面を参照しつつ、本開示の実施の形態について説明する。以下の説明では、同一の部品には同一の符号を付してある。それらの名称および機能も同じである。したがって、それらについての詳細な説明は繰り返さない。

［ＨＭＤシステムの構成］
図１を参照して、ＨＭＤ（Head Mount Device）システム１００の構成について説明する。図１は、ある実施の形態に従うＨＭＤシステム１００の構成の概略を表す図である。ある局面において、ＨＭＤシステム１００は、家庭用のシステムとしてあるいは業務用のシステムとして提供される。

ＨＭＤシステム１００は、ＨＭＤ装置１１０と、ＨＭＤセンサ１２０と、コントローラ１６０と、コンピュータ２００とを備える。ＨＭＤ装置１１０は、ディスプレイ１１２と、カメラ１１６と、マイク１１８と、注視センサ１４０とを含む。コントローラ１６０は、モーションセンサ１３０を含み得る。

ある局面において、コンピュータ２００は、インターネットその他のネットワーク１９に接続可能であり、ネットワーク１９に接続されているサーバ１５０その他のコンピュータと通信可能である。別の局面において、ＨＭＤ装置１１０は、ＨＭＤセンサ１２０の代わりに、センサ１１４を含み得る。

ＨＭＤ装置１１０は、ユーザの頭部に装着され、動作中に仮想空間をユーザに提供し得る。より具体的には、ＨＭＤ装置１１０は、右目用の画像および左目用の画像をディスプレイ１１２にそれぞれ表示する。ユーザの各目がそれぞれの画像を視認する場合、ユーザは、両目の視差に基づき当該画像を３次元の画像として認識し得る。ディスプレイ１１２はＨＭＤ装置１１０と一体に構成されていてもよいし、別体であってもよい。

ディスプレイ１１２は、例えば、非透過型の表示装置として実現される。ある局面において、ディスプレイ１１２は、ユーザの両目の前方に位置するようにＨＭＤ装置１１０の本体に配置されている。したがって、ユーザは、ディスプレイ１１２に表示される３次元画像を視認する場合、仮想空間に没入することができる。ある実施の形態において、仮想空間は、例えば、背景、ユーザが操作可能なオブジェクト、およびユーザが選択可能なメニューの画像等を含む。ある実施の形態において、ディスプレイ１１２は、所謂スマートフォンその他の情報表示端末が備える液晶ディスプレイまたは有機ＥＬ（Electro Luminescence）ディスプレイとして実現され得る。

ある局面において、ディスプレイ１１２は、右目用の画像を表示するためのサブディスプレイと、左目用の画像を表示するためのサブディスプレイとを含み得る。別の局面において、ディスプレイ１１２は、右目用の画像と左目用の画像とを一体として表示する構成であってもよい。この場合、ディスプレイ１１２は、高速シャッタを含む。高速シャッタは、画像がいずれか一方の目にのみ認識されるように、右目用の画像と左目用の画像とを交互に表示可能に作動する。

カメラ１１６は、ＨＭＤ装置１１０を装着するユーザの顔画像を取得する。カメラ１１６によって取得された顔画像は、画像解析処理によってユーザの表情を検知するために使用され得る。カメラ１１６は、例えば、瞳の動き、まぶたの開閉、および眉毛の動き等を検知するために、ＨＭＤ装置１１０本体に内蔵された赤外線カメラであってもよい。あるいは、カメラ１１６は、ユーザの口、頬、および顎等の動きを検知するために、図１に示されるようにＨＭＤ装置１１０の外側に配置された外付けカメラであってもよい。また、カメラ１１６は、上述した赤外線カメラおよび外付けカメラの両方によって構成されてもよい。

マイク１１８は、ユーザが発した音声を取得する。マイク１１８によって取得された音声は、音声解析処理によってユーザの感情を検知するために使用され得る。当該音声は、仮想空間２に対して、音声による指示を与えるためにも使用され得る。また、当該音声は、ネットワーク１９およびサーバ１５０等を介して、他のユーザが使用するＨＭＤシステムに送られ、当該ＨＭＤシステムに接続されたスピーカ等から出力されてもよい。これにより、仮想空間を共有するユーザ間での会話（チャット）が実現される。

ＨＭＤセンサ１２０は、複数の光源（図示しない）を含む。各光源は例えば、赤外線を発するＬＥＤ（Light Emitting Diode）により実現される。ＨＭＤセンサ１２０は、ＨＭＤ装置１１０の動きを検出するためのポジショントラッキング機能を有する。ＨＭＤセンサ１２０は、この機能を用いて、現実空間内におけるＨＭＤ装置１１０の位置および傾きを検出する。

なお、別の局面において、ＨＭＤセンサ１２０は、カメラにより実現されてもよい。この場合、ＨＭＤセンサ１２０は、カメラから出力されるＨＭＤ装置１１０の画像情報を用いて、画像解析処理を実行することにより、ＨＭＤ装置１１０の位置および傾きを検出することができる。

別の局面において、ＨＭＤ装置１１０は、位置検出器として、ＨＭＤセンサ１２０の代わりに、またはさらに加えてセンサ１１４を備えてもよい。ＨＭＤ装置１１０は、センサ１１４を用いて、ＨＭＤ装置１１０自身の位置および傾きを検出し得る。例えば、センサ１１４が角速度センサ、地磁気センサ、加速度センサ、あるいはジャイロセンサ等である場合、ＨＭＤ装置１１０は、ＨＭＤセンサ１２０の代わりに、これらの各センサのいずれかを用いて、自身の位置および傾きを検出し得る。一例として、センサ１１４が角速度センサである場合、角速度センサは、現実空間におけるＨＭＤ装置１１０の３軸周りの角速度を経時的に検出する。ＨＭＤ装置１１０は、各角速度に基づいて、ＨＭＤ装置１１０の３軸周りの角度の時間的変化を算出し、さらに、角度の時間的変化に基づいて、ＨＭＤ装置１１０の傾きを算出する。また、ＨＭＤ装置１１０は、透過型表示装置を備えていてもよい。この場合、当該透過型表示装置は、その透過率を調整することにより、一時的に非透過型の表示装置として構成可能であってもよい。また、視界画像は仮想空間を構成する画像の一部に、現実空間を提示する構成を含んでいてもよい。例えば、ＨＭＤ装置１１０に搭載されたカメラで撮影した画像を視界画像の一部に重畳して表示させてもよいし、当該透過型表示装置の一部の透過率を高く設定することにより、視界画像の一部から現実空間を視認可能にしてもよい。

注視センサ１４０は、ユーザ１９０の右目および左目の視線が向けられる方向（視線方向）を検出する。当該方向の検出は、例えば、公知のアイトラッキング機能によって実現される。注視センサ１４０は、当該アイトラッキング機能を有するセンサにより実現される。ある局面において、注視センサ１４０は、右目用のセンサおよび左目用のセンサを含むことが好ましい。注視センサ１４０は、例えば、ユーザ１９０の右目および左目に赤外光を照射するとともに、照射光に対する角膜および虹彩からの反射光を受けることにより各眼球の回転角を検出するセンサであってもよい。注視センサ１４０は、検出した各回転角に基づいて、ユーザ１９０の視線方向を検知することができる。

サーバ１５０は、コンピュータ２００にプログラムを送信して、ユーザに仮想空間２を提供し得る。

また、別の局面において、サーバ１５０は、他のユーザによって使用されるＨＭＤ装置に仮想現実を提供するための他のコンピュータ２００と通信し得る。例えば、アミューズメント施設において、複数のユーザが参加型のゲームを行う場合、各コンピュータ２００は、各ユーザの動作に基づく信号を他のコンピュータ２００と通信して、同じ仮想空間において複数のユーザが共通のゲームを楽しむことを可能にする。

コントローラ１６０は、ユーザ１９０からコンピュータ２００への命令の入力を受け付ける。ある局面において、コントローラ１６０は、ユーザ１９０によって把持可能に構成される。別の局面において、コントローラ１６０は、ユーザ１９０の身体あるいは衣類の一部に装着可能に構成される。別の局面において、コントローラ１６０は、コンピュータ２００から送られる信号に基づいて、振動、音、光のうちの少なくともいずれかを出力するように構成されてもよい。別の局面において、コントローラ１６０は、仮想現実を提供する空間に配置されるオブジェクトの位置および動き等を制御するためにユーザ１９０によって与えられる操作を受け付ける。

モーションセンサ１３０は、ある局面において、ユーザの手に取り付けられて、ユーザの手の動きを検出する。例えば、モーションセンサ１３０は、手の回転速度、回転数等を検出する。検出された信号は、コンピュータ２００に送られる。モーションセンサ１３０は、例えば、手袋型のコントローラ１６０に設けられている。ある実施の形態において、現実空間における安全のため、コントローラ１６０は、手袋型のようにユーザ１９０の手に装着されることにより容易に飛んで行かないものに装着されるのが望ましい。別の局面において、ユーザ１９０に装着されないセンサがユーザ１９０の手の動きを検出してもよい。例えば、ユーザ１９０を撮影するカメラの信号が、ユーザ１９０の動作を表す信号として、コンピュータ２００に入力されてもよい。モーションセンサ１３０とコンピュータ２００とは、有線により、または無線により互いに接続される。無線の場合、通信形態は特に限られず、例えば、Ｂｌｕｅｔｏｏｔｈ（登録商標）その他の公知の通信手法が用いられる。

［ハードウェア構成］
図２を参照して、本実施の形態に係るコンピュータ２００について説明する。図２は、一局面に従うコンピュータ２００のハードウェア構成の一例を表すブロック図である。コンピュータ２００は、主たる構成要素として、プロセッサ１０と、メモリ１１と、ストレージ１２と、入出力インターフェース１３と、通信インターフェース１４とを備える。各構成要素は、それぞれ、バス１５に接続されている。

プロセッサ１０は、コンピュータ２００に与えられる信号に基づいて、あるいは、予め定められた条件が成立したことに基づいて、メモリ１１またはストレージ１２に格納されているプログラムに含まれる一連の命令を実行する。ある局面において、プロセッサ１０は、ＣＰＵ（Central Processing Unit）、ＭＰＵ（Micro Processor Unit）、ＦＰＧＡ（Field-Programmable Gate Array）その他のデバイスとして実現される。

メモリ１１は、プログラムおよびデータを一時的に保存する。プログラムは、例えば、ストレージ１２からロードされる。メモリ１１に保存されるデータは、コンピュータ２００に入力されたデータと、プロセッサ１０によって生成されたデータとを含む。ある局面において、メモリ１１は、ＲＡＭ（Random Access Memory）その他の揮発性メモリとして実現される。

ストレージ１２は、プログラムおよびデータを永続的に保持する。ストレージ１２は、例えば、ＲＯＭ（Read-Only Memory）、ハードディスク装置、フラッシュメモリ、その他の不揮発性記憶装置として実現される。ストレージ１２に格納されるプログラムは、ＨＭＤシステム１００において仮想空間を提供するためのプログラム、シミュレーションプログラム、ゲームプログラム、ユーザ認証プログラム、および他のコンピュータ２００との通信を実現するためのプログラム等を含む。ストレージ１２に格納されるデータは、仮想空間を規定するためのデータおよびオブジェクト等を含む。

なお、別の局面において、ストレージ１２は、メモリカードのように着脱可能な記憶装置として実現されてもよい。さらに別の局面において、コンピュータ２００に内蔵されたストレージ１２の代わりに、外部の記憶装置に保存されているプログラムおよびデータを使用する構成が使用されてもよい。このような構成によれば、例えば、アミューズメント施設のように複数のＨＭＤシステム１００が使用される場面において、プログラムおよびデータ等の更新を一括して行うことが可能になる。

ある実施の形態において、入出力インターフェース１３は、ＨＭＤ装置１１０、ＨＭＤセンサ１２０またはモーションセンサ１３０との間で信号を通信する。ある局面において、入出力インターフェース１３は、ＵＳＢ（Universal Serial Bus）インターフェース、ＤＶＩ（Digital Visual Interface）、ＨＤＭＩ（登録商標）（High-Definition Multimedia Interface）その他の端子を用いて実現される。なお、入出力インターフェース１３は上述のものに限られない。

ある実施の形態において、入出力インターフェース１３は、さらに、コントローラ１６０と通信し得る。例えば、入出力インターフェース１３は、モーションセンサ１３０から出力された信号の入力を受ける。別の局面において、入出力インターフェース１３は、プロセッサ１０から出力された命令を、コントローラ１６０に送る。当該命令は、振動、音声出力、発光等をコントローラ１６０に指示する。コントローラ１６０は、当該命令を受信する場合、その命令に応じて、振動、音声出力または発光のいずれかを実行する。

通信インターフェース１４は、ネットワーク１９に接続されて、ネットワーク１９に接続されている他のコンピュータ（例えば、サーバ１５０）と通信する。ある局面において、通信インターフェース１４は、例えば、ＬＡＮ（Local Area Network）その他の有線通信インターフェース、あるいは、ＷｉＦｉ（Wireless Fidelity）、Ｂｌｕｅｔｏｏｔｈ（登録商標）、ＮＦＣ（Near Field Communication）その他の無線通信インターフェースとして実現される。なお、通信インターフェース１４は上述のものに限られない。

ある局面において、プロセッサ１０は、ストレージ１２にアクセスし、ストレージ１２に格納されている１つ以上のプログラムをメモリ１１にロードし、当該プログラムに含まれる一連の命令を実行する。当該１つ以上のプログラムは、コンピュータ２００のオペレーティングシステム、仮想空間を提供するためのアプリケーションプログラム、コントローラ１６０を用いて仮想空間で実行可能なゲームソフトウェア等を含み得る。プロセッサ１０は、入出力インターフェース１３を介して、仮想空間を提供するための信号をＨＭＤ装置１１０に送る。ＨＭＤ装置１１０は、その信号に基づいてディスプレイ１１２に映像を表示する。

サーバ１５０は、ネットワーク１９を介して複数のＨＭＤシステム１００の各々の制御装置と接続される。

なお、図２に示される例では、コンピュータ２００がＨＭＤ装置１１０の外部に設けられる構成が示されているが、別の局面において、コンピュータ２００は、ＨＭＤ装置１１０に内蔵されてもよい。一例として、ディスプレイ１１２を含む携帯型の情報通信端末（例えば、スマートフォン）がコンピュータ２００として機能してもよい。

また、コンピュータ２００は、複数のＨＭＤ装置１１０に共通して用いられる構成であってもよい。このような構成によれば、例えば、複数のユーザに同一の仮想空間を提供することもできるので、各ユーザは同一の仮想空間で他のユーザと同一のアプリケーションを楽しむことができる。なお、このような場合、本実施形態における複数のＨＭＤシステム１００は、入出力インターフェース１３により、コンピュータ２００に直接接続されてもよい。また、本実施形態におけるサーバ１５０の各機能は、コンピュータ２００に実装されてもよい。

ある実施の形態において、ＨＭＤシステム１００では、グローバル座標系が予め設定されている。グローバル座標系は、現実空間における鉛直方向、鉛直方向に直交する水平方向、ならびに、鉛直方向および水平方向の双方に直交する前後方向にそれぞれ平行な、３つの基準方向（軸）を有する。本実施の形態では、グローバル座標系は視点座標系の一つである。そこで、グローバル座標系における水平方向、鉛直方向（上下方向）、および前後方向は、それぞれ、ｘ軸、ｙ軸、ｚ軸と規定される。より具体的には、グローバル座標系において、ｘ軸は現実空間の水平方向に平行である。ｙ軸は、現実空間の鉛直方向に平行である。ｚ軸は現実空間の前後方向に平行である。

ある局面において、ＨＭＤセンサ１２０は、赤外線センサを含む。赤外線センサが、ＨＭＤ装置１１０の各光源から発せられた赤外線をそれぞれ検出する場合、ＨＭＤ装置１１０の存在を検出する。ＨＭＤセンサ１２０は、さらに、各点の値（グローバル座標系における各座標値）に基づいて、ＨＭＤ装置１１０を装着したユーザ１９０の動きに応じた、現実空間内におけるＨＭＤ装置１１０の位置および傾きを検出する。より詳しくは、ＨＭＤセンサ１２０は、経時的に検出された各値を用いて、ＨＭＤ装置１１０の位置および傾きの時間的変化を検出できる。

グローバル座標系は現実空間の座標系と平行である。したがって、ＨＭＤセンサ１２０によって検出されたＨＭＤ装置１１０の各傾きは、グローバル座標系におけるＨＭＤ装置１１０の３軸周りの各傾きに相当する。ＨＭＤセンサ１２０は、グローバル座標系におけるＨＭＤ装置１１０の傾きに基づき、ｕｖｗ視野座標系をＨＭＤ装置１１０に設定する。ＨＭＤ装置１１０に設定されるｕｖｗ視野座標系は、ＨＭＤ装置１１０を装着したユーザ１９０が仮想空間において物体を見る際の視点座標系に対応する。

［ｕｖｗ視野座標系］
図３を参照して、ｕｖｗ視野座標系について説明する。図３は、ある実施の形態に従うＨＭＤ装置１１０に設定されるｕｖｗ視野座標系を概念的に表す図である。ＨＭＤセンサ１２０は、ＨＭＤ装置１１０の起動時に、グローバル座標系におけるＨＭＤ装置１１０の位置および傾きを検出する。プロセッサ１０は、検出された値に基づいて、ｕｖｗ視野座標系をＨＭＤ装置１１０に設定する。

図３に示されるように、ＨＭＤ装置１１０は、ＨＭＤ装置１１０を装着したユーザの頭部を中心（原点）とした３次元のｕｖｗ視野座標系を設定する。より具体的には、ＨＭＤ装置１１０は、グローバル座標系を規定する水平方向、鉛直方向、および前後方向（ｘ軸、ｙ軸、ｚ軸）を、グローバル座標系内においてＨＭＤ装置１１０の各軸周りの傾きだけ各軸周りにそれぞれ傾けることによって新たに得られる３つの方向を、ＨＭＤ装置１１０におけるｕｖｗ視野座標系のピッチ方向（ｕ軸）、ヨー方向（ｖ軸）、およびロール方向（ｗ軸）として設定する。

ある局面において、ＨＭＤ装置１１０を装着したユーザ１９０が直立し、かつ、正面を視認している場合、プロセッサ１０は、グローバル座標系に平行なｕｖｗ視野座標系をＨＭＤ装置１１０に設定する。この場合、グローバル座標系における水平方向（ｘ軸）、鉛直方向（ｙ軸）、および前後方向（ｚ軸）は、ＨＭＤ装置１１０におけるｕｖｗ視野座標系のピッチ方向（ｕ軸）、ヨー方向（ｖ軸）、およびロール方向（ｗ軸）に一致する。

ｕｖｗ視野座標系がＨＭＤ装置１１０に設定された後、ＨＭＤセンサ１２０は、ＨＭＤ装置１１０の動きに基づいて、設定されたｕｖｗ視野座標系におけるＨＭＤ装置１１０の傾き（傾きの変化量）を検出できる。この場合、ＨＭＤセンサ１２０は、ＨＭＤ装置１１０の傾きとして、ｕｖｗ視野座標系におけるＨＭＤ装置１１０のピッチ角（θｕ）、ヨー角（θｖ）、およびロール角（θｗ）をそれぞれ検出する。ピッチ角（θｕ）は、ｕｖｗ視野座標系におけるピッチ方向周りのＨＭＤ装置１１０の傾き角度を表す。ヨー角（θｖ）は、ｕｖｗ視野座標系におけるヨー方向周りのＨＭＤ装置１１０の傾き角度を表す。ロール角（θｗ）は、ｕｖｗ視野座標系におけるロール方向周りのＨＭＤ装置１１０の傾き角度を表す。

ＨＭＤセンサ１２０は、検出されたＨＭＤ装置１１０の傾き角度に基づいて、ＨＭＤ装置１１０が動いた後のＨＭＤ装置１１０におけるｕｖｗ視野座標系を、ＨＭＤ装置１１０に設定する。ＨＭＤ装置１１０と、ＨＭＤ装置１１０のｕｖｗ視野座標系との関係は、ＨＭＤ装置１１０の位置および傾きに関わらず、常に一定である。ＨＭＤ装置１１０の位置および傾きが変わる場合、当該位置および傾きの変化に連動して、グローバル座標系におけるＨＭＤ装置１１０のｕｖｗ視野座標系の位置および傾きが変化する。

ある局面において、ＨＭＤセンサ１２０は、赤外線センサからの出力に基づいて取得される赤外線の光強度および複数の点間の相対的な位置関係（例えば、各点間の距離など）に基づいて、ＨＭＤ装置１１０の現実空間内における位置を、ＨＭＤセンサ１２０に対する相対位置として特定してもよい。また、プロセッサ１０は、特定された相対位置に基づいて、現実空間内（グローバル座標系）におけるＨＭＤ装置１１０のｕｖｗ視野座標系の原点を決定してもよい。

［仮想空間］
図４を参照して、仮想空間についてさらに説明する。図４は、ある実施の形態に従う仮想空間２を表現する一態様を概念的に表す図である。仮想空間２は、中心２１の３６０度方向の全体を覆う全天球状の構造を有する。図４では、説明を複雑にしないために、仮想空間２のうちの上半分の天球が例示されている。仮想空間２では各メッシュが規定される。各メッシュの位置は、仮想空間２に規定されるＸＹＺ座標系における座標値として予め規定されている。コンピュータ２００は、仮想空間２に展開可能なコンテンツ（静止画、動画等）を構成する各部分画像を、仮想空間２において対応する各メッシュにそれぞれ対応付けて、ユーザによって視認可能な仮想空間画像２２が展開される仮想空間２をユーザに提供する。

ある局面において、仮想空間２では、中心２１を原点とするＸＹＺ座標系が規定される。ＸＹＺ座標系は、例えば、グローバル座標系に平行である。ＸＹＺ座標系は視点座標系の一種であるため、ＸＹＺ座標系における水平方向、鉛直方向（上下方向）、および前後方向は、それぞれＸ軸、Ｙ軸、Ｚ軸として規定される。したがって、ＸＹＺ座標系のＸ軸（水平方向）がグローバル座標系のｘ軸と平行であり、ＸＹＺ座標系のＹ軸（鉛直方向）がグローバル座標系のｙ軸と平行であり、ＸＹＺ座標系のＺ軸（前後方向）がグローバル座標系のｚ軸と平行である。

ＨＭＤ装置１１０の起動時、すなわちＨＭＤ装置１１０の初期状態において、仮想カメラ１が、仮想空間２の中心２１に配置される。仮想カメラ１は、現実空間におけるＨＭＤ装置１１０の動きに連動して、仮想空間２を同様に移動する。これにより、現実空間におけるＨＭＤ装置１１０の位置および向きの変化が、仮想空間２において同様に再現される。

仮想カメラ１には、ＨＭＤ装置１１０の場合と同様に、ｕｖｗ視野座標系が規定される。仮想空間２における仮想カメラ１のｕｖｗ視野座標系は、現実空間（グローバル座標系）におけるＨＭＤ装置１１０のｕｖｗ視野座標系に連動するように規定されている。したがって、ＨＭＤ装置１１０の傾きが変化する場合、それに応じて、仮想カメラ１の傾きも変化する。また、仮想カメラ１は、ＨＭＤ装置１１０を装着したユーザの現実空間における移動に連動して、仮想空間２において移動することもできる。

仮想カメラ１の向きは、仮想カメラ１の位置および傾きに応じて決まるので、ユーザが仮想空間画像２２を視認する際に基準となる視線（基準視線５）は、仮想カメラ１の向きに応じて決まる。コンピュータ２００のプロセッサ１０は、基準視線５に基づいて、仮想空間２における視界領域２３を規定する。視界領域２３は、仮想空間２のうち、ＨＭＤ装置１１０を装着したユーザの視界に対応する。

注視センサ１４０によって検出されるユーザ１９０の視線方向は、ユーザ１９０が物体を視認する際の視点座標系における方向である。ＨＭＤ装置１１０のｕｖｗ視野座標系は、ユーザ１９０がディスプレイ１１２を視認する際の視点座標系に等しい。また、仮想カメラ１のｕｖｗ視野座標系は、ＨＭＤ装置１１０のｕｖｗ視野座標系に連動している。したがって、ある局面に従うＨＭＤシステム１００は、注視センサ１４０によって検出されたユーザ１９０の視線方向を、仮想カメラ１のｕｖｗ視野座標系におけるユーザの視線方向とみなすことができる。

［ユーザの視線］
図５を参照して、ユーザの視線方向の決定について説明する。図５は、ある実施の形態に従うＨＭＤ装置１１０を装着するユーザ１９０の頭部を上から表した図である。

ある局面において、注視センサ１４０は、ユーザ１９０の右目および左目の各視線を検出する。ある局面において、ユーザ１９０が近くを見ている場合、注視センサ１４０は、視線Ｒ１およびＬ１を検出する。別の局面において、ユーザ１９０が遠くを見ている場合、注視センサ１４０は、視線Ｒ２およびＬ２を検出する。この場合、ロール方向ｗに対して視線Ｒ２およびＬ２がなす角度は、ロール方向ｗに対して視線Ｒ１およびＬ１がなす角度よりも小さい。注視センサ１４０は、検出結果をコンピュータ２００に送信する。

コンピュータ２００が、視線の検出結果として、視線Ｒ１およびＬ１の検出値を注視センサ１４０から受信した場合には、その検出値に基づいて、視線Ｒ１およびＬ１の交点である注視点Ｎ１を特定する。一方、コンピュータ２００は、視線Ｒ２およびＬ２の検出値を注視センサ１４０から受信した場合には、視線Ｒ２およびＬ２の交点を注視点として特定する。コンピュータ２００は、特定した注視点Ｎ１の位置に基づき、ユーザ１９０の視線方向Ｎ０を特定する。コンピュータ２００は、例えば、ユーザ１９０の右目Ｒと左目Ｌとを結ぶ直線の中点と、注視点Ｎ１とを通る直線の延びる方向を、視線方向Ｎ０として検出する。視線方向Ｎ０は、ユーザ１９０が両目により実際に視線を向けている方向である。また、視線方向Ｎ０は、視界領域２３に対してユーザ１９０が実際に視線を向けている方向に相当する。

また、別の局面において、ＨＭＤシステム１００は、テレビジョン放送受信チューナを備えてもよい。このような構成によれば、ＨＭＤシステム１００は、仮想空間２においてテレビ番組を表示することができる。

さらに別の局面において、ＨＭＤシステム１００は、インターネットに接続するための通信回路、あるいは、電話回線に接続するための通話機能を備えていてもよい。

［視界領域］
図６および図７を参照して、視界領域２３について説明する。図６は、仮想空間２において視界領域２３をＸ方向から見たＹＺ断面を表す図である。図７は、仮想空間２において視界領域２３をＹ方向から見たＸＺ断面を表す図である。

図６に示されるように、ＹＺ断面における視界領域２３は、領域２４を含む。領域２４は、仮想カメラ１の基準視線５と仮想空間２のＹＺ断面とによって定義される。プロセッサ１０は、仮想空間２における基準視線５を中心として極角αを含む範囲を、領域２４として規定する。

図７に示されるように、ＸＺ断面における視界領域２３は、領域２５を含む。領域２５は、基準視線５と仮想空間２のＸＺ断面とによって定義される。プロセッサ１０は、仮想空間２における基準視線５を中心とした方位角βを含む範囲を、領域２５として規定する。

ある局面において、ＨＭＤシステム１００は、コンピュータ２００からの信号に基づいて、視界画像をディスプレイ１１２に表示させることにより、ユーザ１９０に仮想空間を提供する。視界画像は、仮想空間画像２２のうち視界領域２３に重畳する部分に相当する。ユーザ１９０が、頭に装着したＨＭＤ装置１１０を動かす場合、その動きに連動して仮想カメラ１も動く。その結果、仮想空間２における視界領域２３の位置が変化する。これにより、ディスプレイ１１２に表示される視界画像は、仮想空間画像２２のうち、仮想空間２においてユーザが向いた方向の視界領域２３に重畳する画像に更新される。ユーザは、仮想空間２における所望の方向を視認することができる。

ユーザ１９０は、ＨＭＤ装置１１０を装着している間、現実世界を視認することなく、仮想空間２に展開される仮想空間画像２２のみを視認できる。そのため、ＨＭＤシステム１００は、仮想空間２への高い没入感覚をユーザに与えることができる。

ある局面において、プロセッサ１０は、ＨＭＤ装置１１０を装着したユーザ１９０の現実空間における移動に連動して、仮想空間２において仮想カメラ１を移動し得る。この場合、プロセッサ１０は、仮想空間２における仮想カメラ１の位置および向きに基づいて、ＨＭＤ装置１１０のディスプレイ１１２に投影される画像領域（すなわち、仮想空間２における視界領域２３）を特定する。すなわち、仮想カメラ１によって、仮想空間２におけるユーザ１９０の視野が定義される。

ある実施の形態に従う場合、仮想カメラ１は、二つの仮想カメラ、すなわち、右目用の画像を提供するための仮想カメラと、左目用の画像を提供するための仮想カメラとを含むことが望ましい。また、ユーザ１９０が３次元の仮想空間２を認識できるように、適切な視差が、二つの仮想カメラに設定されていることが好ましい。本実施の形態においては、仮想カメラ１が二つの仮想カメラを含み、二つの仮想カメラのロール方向が合成されることによって生成されるロール方向（ｗ）がＨＭＤ装置１１０のロール方向（ｗ）に適合されるように構成されているものとして、本開示に係る技術思想を例示する。

［コントローラ］
図８を参照して、コントローラ１６０の一例について説明する。図８は、ある実施の形態に従うコントローラ１６０の概略構成を表す図である。

図８の状態（Ａ）に示されるように、ある局面において、コントローラ１６０は、右コントローラ１６０Ｒと左コントローラとを含み得る。右コントローラ１６０Ｒは、ユーザ１９０の右手で操作される。左コントローラは、ユーザ１９０の左手で操作される。ある局面において、右コントローラ１６０Ｒと左コントローラとは、別個の装置として対称に構成される。したがって、ユーザ１９０は、右コントローラ１６０Ｒを把持した右手と、左コントローラを把持した左手とをそれぞれ自由に動かすことができる。別の局面において、コントローラ１６０は両手の操作を受け付ける一体型のコントローラであってもよい。以下、右コントローラ１６０Ｒについて説明する。

右コントローラ１６０Ｒは、グリップ３０と、フレーム３１と、天面３２とを備える。グリップ３０は、ユーザ１９０の右手によって把持されるように構成されている。例えば、グリップ３０は、ユーザ１９０の右手の掌と３本の指（中指、薬指、小指）とによって保持され得る。

グリップ３０は、ボタン３３，３４と、モーションセンサ１３０とを含む。ボタン３３は、グリップ３０の側面に配置され、右手の中指による操作を受け付ける。ボタン３４は、グリップ３０の前面に配置され、右手の人差し指による操作を受け付ける。ある局面において、ボタン３３，３４は、トリガー式のボタンとして構成される。モーションセンサ１３０は、グリップ３０の筐体に内蔵されている。なお、ユーザ１９０の動作がカメラその他の装置によってユーザ１９０の周りから検出可能である場合には、グリップ３０は、モーションセンサ１３０を備えなくてもよい。

フレーム３１は、その円周方向に沿って配置された複数の赤外線ＬＥＤ３５を含む。赤外線ＬＥＤ３５は、コントローラ１６０を使用するプログラムの実行中に、当該プログラムの進行に合わせて赤外線を発光する。赤外線ＬＥＤ３５から発せられた赤外線は、右コントローラ１６０Ｒと左コントローラとの各位置および姿勢（傾き、向き）等を検出するために使用され得る。図８に示される例では、二列に配置された赤外線ＬＥＤ３５が示されているが、配列の数は図８に示されるものに限られない。一列あるいは３列以上の配列が使用されてもよい。

天面３２は、ボタン３６，３７と、アナログスティック３８とを備える。ボタン３６，３７は、プッシュ式ボタンとして構成される。ボタン３６，３７は、ユーザ１９０の右手の親指による操作を受け付ける。アナログスティック３８は、ある局面において、初期位置（ニュートラルの位置）から３６０度任意の方向への操作を受け付ける。当該操作は、例えば、仮想空間２に配置されるオブジェクトを移動させるための操作を含む。

ある局面において、右コントローラ１６０Ｒおよび左コントローラは、赤外線ＬＥＤ３５その他の部材を駆動するための電池を含む。電池は、充電式、ボタン型、乾電池型等を含むが、これらに限定されない。別の局面において、右コントローラ１６０Ｒおよび左コントローラは、例えば、コンピュータ２００のＵＳＢインターフェースに接続され得る。この場合、右コントローラ１６０Ｒおよび左コントローラは、電池を必要としない。

図８の状態（Ａ）および状態（Ｂ）に示されるように、例えば、ユーザ１９０の右手８１０に対して、ヨー、ロール、ピッチの各方向が規定される。ユーザ１９０が親指と人差し指とを伸ばした場合に、親指の伸びる方向がヨー方向、人差し指の伸びる方向がロール方向、ヨー方向の軸およびロール方向の軸によって規定される平面に垂直な方向がピッチ方向として規定される。

［ＨＭＤ装置の制御装置］
図９を参照して、ＨＭＤ装置１１０の制御装置について説明する。ある実施の形態において、制御装置は周知の構成を有するコンピュータ２００によって実現される。図９は、ある実施の形態に従うコンピュータ２００をモジュール構成として表すブロック図である。

図９に示されるように、コンピュータ２００は、表示制御モジュール２２０と、仮想空間制御モジュール２３０と、メモリモジュール２４０と、通信制御モジュール２５０とを備える。表示制御モジュール２２０は、サブモジュールとして、仮想カメラ制御モジュール２２１と、視界領域決定モジュール２２２と、視界画像生成モジュール２２３と、基準視線特定モジュール２２４とを含む。仮想空間制御モジュール２３０は、サブモジュールとして、仮想空間定義モジュール２３１と、仮想オブジェクト制御モジュール２３２と、操作オブジェクト制御モジュール２３３と、予測制御モジュール２３４とを含む。

ある実施の形態において、表示制御モジュール２２０と仮想空間制御モジュール２３０とは、プロセッサ１０によって実現される。別の実施の形態において、複数のプロセッサ１０が表示制御モジュール２２０と仮想空間制御モジュール２３０として作動してもよい。メモリモジュール２４０は、メモリ１１またはストレージ１２によって実現される。通信制御モジュール２５０は、通信インターフェース１４によって実現される。

ある局面において、表示制御モジュール２２０は、ＨＭＤ装置１１０のディスプレイ１１２における画像表示を制御する。仮想カメラ制御モジュール２２１は、仮想空間２に仮想カメラ１を配置し、仮想カメラ１の挙動、向き等を制御する。視界領域決定モジュール２２２は、ＨＭＤ装置１１０を装着したユーザの頭の向きに応じて、視界領域２３を規定する。視界画像生成モジュール２２３は、決定された視界領域２３に基づいて、ディスプレイ１１２に表示される視界画像を生成する。また、視界画像生成モジュール２２３は、視界画像に含まれるキャラクタオブジェクトの表示態様を決定する。基準視線特定モジュール２２４は、注視センサ１４０からの信号に基づいて、ユーザ１９０の視線を特定する。

仮想空間制御モジュール２３０は、ユーザ１９０に提供される仮想空間２を制御する。仮想空間定義モジュール２３１は、仮想空間２を表す仮想空間データを生成することにより、ＨＭＤシステム１００における仮想空間２を規定する。

仮想オブジェクト制御モジュール２３２は、仮想空間２に配置される仮想オブジェクトを生成する。また、仮想オブジェクト制御モジュール２３２は、仮想空間２における仮想オブジェクトおよびキャラクタオブジェクトの動作（移動および状態変化等）を制御する。仮想オブジェクトは、例えば、ゲームのストーリーの進行に従って配置される森、山その他を含む風景、動物、ＵＩ（User Interface）画面などのウィジェット等の移動対象を含み得る。キャラクタオブジェクトは、仮想空間２においてＨＭＤ装置１１０を装着したユーザに関連付けられたオブジェクトであり、アバターと称する場合もある。本開示においては、アバターを含んだオブジェクトをキャラクタオブジェクトと称することにする。

また、移動対象とは、ユーザ（ＨＭＤ装置１１０）の動きに応じて仮想空間内を移動して、視界画像内に視認可能に設定された仮想オブジェクトである。例えば、ユーザにより操作可能なＵＩ（User Interface）画面などのウィジェットは、ユーザが動いても視界画像に視認可能にしておくことが好ましい。移動対象のその他のものとして、ＵＩ画面などのウィジェットのほか、敵キャラクタオブジェクト、他のユーザに関連付けられたキャラクタオブジェクト、制御オブジェクトなどのステージオブジェクトを含む。ステージオブジェクトは、例えば、上記オブジェクトの外観を規定するためのオブジェクト（質感を規定するためのLight等）や、敵キャラクタオブジェクトの移動経路を定義するためのオブジェクトである。なお、ウィジェット、敵キャラクタオブジェクトおよび他のユーザのキャラクタオブジェクトは、典型的には視認可能に表示される情報である。一方で、ステージオブジェクトは、典型的には視認不可能な制御情報である。ステージオブジェクトなど不可視の制御情報を移動させることで、その情報に基づいた制御を視界画像においてユーザは認識し得る。

操作オブジェクト制御モジュール２３３は、仮想空間２に配置されるオブジェクトを操作するための操作オブジェクトを仮想空間２に配置する。ある局面において、操作オブジェクトは、例えば、ＨＭＤ装置１１０を装着したユーザの手に相当する手オブジェクト（仮想手）、ユーザの指に相当する指オブジェクト、ユーザが使用するスティックに相当するスティックオブジェクト等を含み得る。操作オブジェクトが指オブジェクトの場合、特に、操作オブジェクトは、当該指が指し示す方向（軸方向）の軸の部分に対応している。

仮想空間制御モジュール２３０は、仮想空間２に配置されるオブジェクトのそれぞれが、他のオブジェクトと衝突した場合に、当該衝突を検出する。仮想空間制御モジュール２３０は、例えば、あるオブジェクトと、別のオブジェクトとが触れたタイミングを検出することができ、当該検出がされたときに、予め定められた処理を行う。仮想空間制御モジュール２３０は、オブジェクトとオブジェクトとが触れている状態から離れたタイミングを検出することができ、当該検出がされたときに、予め定められた処理を行う。仮想空間制御モジュール２３０は、オブジェクトとオブジェクトとが触れている状態であることを検出することができる。具体的には、操作オブジェクト制御モジュール２３３は、操作オブジェクトと、他のオブジェクト（例えば、仮想オブジェクト制御モジュール２３２によって配置される仮想オブジェクト）とが触れた時に、これら操作オブジェクトと他のオブジェクトとが触れたことを検出して、予め定められた処理を行う。

メモリモジュール２４０は、コンピュータ２００が仮想空間２をユーザ１９０に提供するために使用されるデータを保持している。ある局面において、メモリモジュール２４０は、空間情報２４１と、オブジェクト情報２４２と、ユーザ情報２４３とを保持している。空間情報２４１には、例えば、仮想空間２を提供するために規定された１つ以上のテンプレートが含まれている。オブジェクト情報２４２には、例えば、仮想空間２において再生されるコンテンツ、当該コンテンツで使用されるオブジェクトを配置するための情報、そのほかキャラクタオブジェクトの描画データやそのサイズ情報などの属性情報等が含まれている。当該コンテンツは、例えば、ゲーム、現実社会と同様の風景を表したコンテンツ等を含み得る。さらに、オブジェクト情報２４２には、仮想オブジェクト、他のユーザに関連付けられたキャラクタオブジェクト、およびメニュー画面などのウィジェットなどの移動対象の配置位置に関する相対的な優先度を示した情報を含む。ユーザ情報２４３には、例えば、ＨＭＤシステム１００の制御装置としてコンピュータ２００を機能させるためのプログラム、オブジェクト情報２４２に保持される各コンテンツを使用するアプリケーションプログラム等が含まれている。

メモリモジュール２４０に格納されているデータおよびプログラムは、ＨＭＤ装置１１０のユーザによって入力される。あるいは、プロセッサ１０が、当該コンテンツを提供する事業者が運営するコンピュータ（例えば、サーバ１５０）からプログラムあるいはデータをダウンロードして、ダウンロードされたプログラムあるいはデータをメモリモジュール２４０に格納する。

通信制御モジュール２５０は、ネットワーク１９を介して、サーバ１５０その他の情報通信装置と通信し得る。

ある局面において、表示制御モジュール２２０および仮想空間制御モジュール２３０は、例えば、ユニティテクノロジーズ社によって提供されるＵｎｉｔｙ（登録商標）を用いて実現され得る。別の局面において、表示制御モジュール２２０および仮想空間制御モジュール２３０は、各処理を実現する回路素子の組み合わせとしても実現され得る。

コンピュータ２００における処理は、ハードウェアと、プロセッサ１０により実行されるソフトウェアとによって実現される。このようなソフトウェアは、ハードディスクその他のメモリモジュール２４０に予め格納されている場合がある。また、ソフトウェアは、ＣＤ−ＲＯＭその他のコンピュータ読み取り可能な不揮発性のデータ記録媒体に格納されて、プログラム製品として流通している場合もある。あるいは、当該ソフトウェアは、インターネットその他のネットワークに接続されている情報提供事業者によってダウンロード可能なプログラム製品として提供される場合もある。このようなソフトウェアは、光ディスク駆動装置その他のデータ読取装置によってデータ記録媒体から読み取られて、あるいは、通信制御モジュール２５０を介してサーバ１５０その他のコンピュータからダウンロードされた後、メモリモジュール２４０に一旦格納される。そのソフトウェアは、プロセッサ１０によってメモリモジュール２４０から読み出され、実行可能なプログラムの形式でＲＡＭに格納される。プロセッサ１０は、そのプログラムを実行する。

図９に示されるコンピュータ２００を構成するハードウェアは、一般的なものである。したがって、本実施の形態に係る最も本質的な部分は、コンピュータ２００に格納されたプログラムであるともいえる。なお、コンピュータ２００のハードウェアの動作は周知であるので、詳細な説明は繰り返さない。

なお、データ記録媒体としては、ＣＤ−ＲＯＭ、ＦＤ（Flexible Disk）、ハードディスクに限られず、磁気テープ、カセットテープ、光ディスク（ＭＯ（Magnetic Optical Disc）／ＭＤ（Mini Disc）／ＤＶＤ（Digital Versatile Disc））、ＩＣ（Integrated Circuit）カード（メモリカードを含む）、光カード、マスクＲＯＭ、ＥＰＲＯＭ（Erasable Programmable Read-Only Memory）、ＥＥＰＲＯＭ（Electrically Erasable Programmable Read-Only Memory）、フラッシュＲＯＭなどの半導体メモリ等の固定的にプログラムを担持する不揮発性のデータ記録媒体でもよい。

ここでいうプログラムとは、プロセッサ１０により直接実行可能なプログラムだけでなく、ソースプログラム形式のプログラム、圧縮処理されたプログラム、暗号化されたプログラム等を含み得る。

［制御構造］
図１０を参照して、本実施の形態に係るコンピュータ２００の制御構造について説明する。図１０は、ユーザ１９０によって使用されるＨＭＤシステム１００がユーザ１９０に仮想空間２を提供するために実行する処理を表すフローチャートである。

ステップＳ１において、コンピュータ２００のプロセッサ１０は、仮想空間定義モジュール２３１として、ユーザに関連付けられたキャラクタオブジェクトを含む仮想空間画像データを特定し、仮想空間２を定義する。また、プロセッサ１０は、仮想オブジェクト制御モジュール２３２、操作オブジェクト制御モジュール２３３として、この仮想空間２に仮想オブジェクト（ウィジェット等の移動対象を含む）および操作オブジェクトを配置する。仮想空間定義モジュール２３１は、その動作を仮想空間２内に制御可能に定義する。

ステップＳ２において、プロセッサ１０は、仮想カメラ制御モジュール２２１として、仮想カメラ１を初期化する。例えば、プロセッサ１０は、メモリのワーク領域において、仮想カメラ１を仮想空間２において予め規定された中心点に配置し、仮想カメラ１の視線をユーザ１９０が向いている方向に向ける。

ステップＳ３において、プロセッサ１０は、視界画像生成モジュール２２３として、初期の視界画像を表示するための視界画像データを生成する。生成された視界画像データは、視界画像生成モジュール２２３を介して通信制御モジュール２５０によってＨＭＤ装置１１０に送られる。

ステップＳ４において、ＨＭＤ装置１１０のディスプレイ１１２は、コンピュータ２００から受信した信号に基づいて、視界画像を表示する。ＨＭＤ装置１１０を装着したユーザ１９０は、視界画像を視認する場合に仮想空間２を認識し得る。

ステップＳ５において、ＨＭＤセンサ１２０は、ＨＭＤ装置１１０から発信される複数の赤外線光に基づいて、ＨＭＤ装置１１０の位置と傾きを検出する。さらにセンサ１１４は、ＨＭＤ装置１１０の動きの加速度を検出する。検出結果は、動き検出データとして、コンピュータ２００に送られる。

ステップＳ６において、プロセッサ１０は、視界領域決定モジュール２２２として、ＨＭＤ装置１１０の位置と傾きとに基づいて、ＨＭＤ装置１１０を装着したユーザ１９０の視界方向を特定する。ここでは、プロセッサ１０は仮想視点を視界方向として特定する。仮想視点は、仮想カメラ１からの視線の方向の内、仮想カメラ１から予め設定された距離となる位置に仮想的に設定される。プロセッサ１０は、アプリケーションプログラムを実行し、アプリケーションプログラムに含まれる命令に基づいて、仮想空間２にオブジェクトを配置する。

ステップＳ７において、プロセッサ１０は、視界画像生成モジュール２２３として、ＨＭＤ装置１１０の動きに応じた視界画像を表示するための視界画像データを生成し、生成した視界画像データをＨＭＤ装置１１０に出力する。

ステップＳ８において、ＨＭＤ装置１１０のディスプレイ１１２は、受信した視界画像データに基づいて視界画像を更新し、更新後の視界画像を表示する。

上述のステップＳ５〜Ｓ１０の処理は繰り返し実行される。したがって、仮想視点は、ＨＭＤ装置１１０の動きに伴って移動し、ＨＭＤ装置１１０の動きが完了する場合、仮想視点の移動が完了する。さらに、本実施形態においては、ＨＭＤ装置１１０の動き始めたときに、その動きが完了したときの仮想視点の移動先（第１位置）を予測する。そして、ＨＭＤ装置１１０動きが完了するまでの間に、プロセッサ１０は、仮想視点の移動先に基づいて移動対象の移動先（第２位置）を特定し、移動対象を移動させる。

つぎに、図１０におけるステップＳ５〜Ｓ８の間に行われる、本実施形態における仮想視点の予測処理（第１位置の予測）および移動対象の特定処理（第２位置の特定）について説明する。図１１は、仮想視点の移動先となる第１位置を予測し、その予測に基づいて移動対象の移動先となる第２位置を特定する予測制御モジュールとして動作するプロセッサ１０の処理を示すフローチャートである。

ステップＳ１０１において、センサ１１４はＨＭＤ装置１１０の動きに従ってその加速度などを検出し、プロセッサ１０は、ＨＭＤ装置１１０が動いたことを検出する。ステップＳ１０１は、図１０におけるステップＳ５に相当する。

ステップＳ１０２において、プロセッサ１０は、センサ１１４により検出されたＨＭＤ装置１１０の加速度が閾値以上であるか否かを判断する。なお、ここではセンサ１１４は、ＨＭＤ装置１１０のヨー角の角加速度を検出する。

ステップＳ１０３において、プロセッサ１０は、センサ１１４により検出されたＨＭＤ装置１１０の加速度に基づいて仮想視点の移動先を予測する。

ステップＳ１０４において、プロセッサ１０は、仮想視点に基づいて移動対象の移動先を特定する。

ステップＳ１０５において、プロセッサ１０は、移動対象の移動前の位置が、予測した仮想視点の移動先に基づいた視界画像内に含まれているか否かを判断する。ステップＳ１０５において、移動対象の移動前の位置が視界画像内に含まれていると判断する場合（ステップＳ１０５：ＹＥＳ）、ステップＳ１０６において、プロセッサ１０は、当該移動対象は、視界画像において固定の配置位置に配置されるものであるか否かを判断する。なお、固定の配置位置とは、仮想視点との間で設定された位置関係にあることを示す。したがって、例えば、視界画像において左上にＵＩ画面が表示されることが設定されている場合には、常にその位置に表示されるよう、仮想視点の位置に基づいた仮想空間内の位置にＵＩ画面のオブジェクトが配置される。このような配置位置に関する情報（固定配置の対象となるオブジェクト等および仮想視点との位置関係を示す情報）は、事前にオブジェクト情報２４２に記憶されている。

プロセッサ１０は、移動対象が視界画像内において固定の配置位置に配置されるものであると判断する場合（ステップＳ１０６：ＹＥＳ）、ステップＳ１０７において、当該移動対象を当該固定の配置位置に対応した仮想空間内の位置に移動させる。なお、固定の配置位置は、ステップＳ１０４において特定された移動先と同じとなる。必要に応じて、Ｓ１０９〜Ｓ１１３と同じ処理を行ってもよい。プロセッサ１０は、移動対象は固定の配置位置に配置されるものではないと判断する場合（ステップＳ１０６：ＮＯ）、ステップＳ１０８において、移動処理は行われない。

一方、ステップＳ１０５において、プロセッサ１０は、移動対象の移動前の位置が視界画像内に含まれていないと判断する場合（ステップＳ１０５：ＮＯ）、ステップＳ１０９において、プロセッサ１０は、移動対象の移動先との間に他の仮想オブジェクトやその他のオブジェクトの存在の有無を判断する。より具体的には、プロセッサ１０は、ユーザに関連付けられたキャラクタオブジェクトと、移動対象の移動先とを結んだ線上に、他の仮想オブジェクト等が存在するか否かを判断する。

ステップＳ１１０において、プロセッサ１０は、他の仮想オブジェクトがあると判断する場合（ステップＳ１１０：ＹＥＳ）、ステップＳ１１１において、プロセッサ１０は、移動対象と当該他の仮想オブジェクトとの相対的な優先度をオブジェクト情報２４２に基づいて判断する。オブジェクト情報２４２は、あらかじめ移動対象および他の仮想オブジェクトなどの相対的な優先度を記憶している。そして、ステップＳ１１２において、プロセッサ１０は、相対的な優先度が高いオブジェクトを視界画像に表示した際に手前に表示するように、仮想空間内において移動対象の移動先を修正する。

ステップＳ１１０において、プロセッサ１０は、他の仮想オブジェクトがあると判断しない場合（ステップＳ１１０：ＮＯ）、ステップＳ１１３に進む。ステップＳ１１３において、プロセッサ１０は、移動対象を移動先に移動する。

図１０で示されるステップＳ７および８において、プロセッサ１０は、仮想視点の移動先の予測に基づいて、移動対象を移動先に移動する場合、その移動先に移動対象を移動させた視界画像を生成し、ディスプレイ１１２に表示させることができる。

図１１において、ステップＳ１０５〜ステップＳ１０８の処理は任意の処理であり、当該処理はなくてもよい。

つぎに、ユーザに関連付けられたキャラクタオブジェクト、移動対象となるウィジェットＷとの位置関係、およびその視界画像について、図１２〜図１５を用いて説明する。図１２において、状態（Ａ）は、仮想空間における仮想オブジェクトＫ１およびＫ２、仮想視点Ｓ、ウィジェットＷ、およびキャラクタオブジェクトＡの位置関係を示す図である。状態（Ａ）に示されるとおり、仮想空間における仮想オブジェクトＫ１およびＫ２とキャラクタオブジェクトＡとの間にウィジェットＷが配置されている。ここでのウィジェットＷは、移動対象であり、ユーザがキャラクタオブジェクトを使って仮想空間における操作を行うためのインターフェースである。また、仮想視点Ｓは、キャラクタオブジェクトＡの視線方向に基づいた仮想空間内における位置に設定されている。視界画像は仮想視点に基づいて定められた範囲で生成される。また、ウィジェットＷの配置位置は、仮想視点Ｓの位置に基づいて定められている。状態（Ａ）では、ウィジェットＷはキャラクタオブジェクトＡの視線上に配置されている。

状態（Ｂ）は、ユーザに関連付けられたキャラクタオブジェクトからの視界画像を示す。状態（Ｂ）に示されるとおり、視界画像には、ウィジェットＷ、仮想オブジェクトＫ１およびＫ２、仮想視点Ｓが示されている。なお、仮想視点Ｓは便宜上表現しているが、実際の視界画像には表示されなくてもよい。状態（Ｂ）においては、状態（Ａ）に示した位置関係に従って、仮想オブジェクトＫ１およびＫ２の手前に、移動対象となるウィジェットＷが表示される。

図１３は、ＨＭＤ装置１１０の動きに従って、キャラクタオブジェクトＡが右に向き始めた（動き始めた）ときの状態を示す図である。状態（Ａ）は、そのときの仮想空間におけるキャラクタオブジェクト、仮想オブジェクトＫ１およびＫ２、ウィジェットＷ、および仮想視点Ｓの位置関係を示す図である。

状態（Ａ）で示される通り、キャラクタオブジェクトＡが右に向き始めたときには、その仮想視点の移動先の予測は行われている。そして、仮想視点の移動先に基づいてウィジェットＷの移動先が特定される。状態（Ａ）では、移動先Ｐ１で示される位置に、ウィジェットＷの移動先が特定される。

仮想空間において、この移動先Ｐ１とキャラクタオブジェクトＡとの間には、仮想オブジェクトＫ３が存在しているとする。この場合、仮想オブジェクトＫ３とウィジェットＷとの相対的な優先度が判断される。ウィジェットＷの優先度が高い場合には、キャラクタオブジェクトＡと仮想オブジェクトＫ３との間にウィジェットＷが配置されるようにウィジェットＷの移動先Ｐ１が移動先Ｐ２に修正される。

状態（Ｂ）は、そのときの視界画像を示す。状態（Ｂ）に示されるとおり、ユーザが動き始めたときには、すでに仮想視点の移動先が予測され、したがって、それに基づいて特定されたウィジェットＷが表示される。状態（Ｂ）では、仮想視点の右側にウィジェットＷが表示されている。

図１４は、キャラクタオブジェクトＡの動きが完了したときの状態および視界画像を示す。状態（Ａ）で示される通り、キャラクタオブジェクトＡの動きは完了しており、ウィジェットＷは、キャラクタオブジェクトＡと仮想オブジェクトＫ３との間に配置されている。

状態（Ｂ）では、状態（Ａ）に基づいて生成された視界画像を示す。状態（Ｂ）に示されるとおり、ウィジェットＷは、仮想オブジェクトＫ３の前に表示されている。

図１５は、他のキャラクタオブジェクトＢ、仮想オブジェクトＫ４が、キャラクタオブジェクトＡと移動先のウィジェットＷとの間にある状態を示す。ここでは、他のキャラクタオブジェクトＢの優先度は、ウィジェットＷおよび仮想オブジェクトＫ３より高いものとして設定されている。また、ウィジェットＷは仮想オブジェクトＫ３より、その優先度は高いものとして設定されている。

このような場合、状態（Ａ）では、キャラクタオブジェクトＡからみて、他のキャラクタオブジェクトＢ、ウィジェットＷ、仮想オブジェクトＫ３の順で配置されるように、ウィジェットＷの移動先（移動先Ｐ１）は、移動先Ｐ２に修正される。

状態（Ｂ）は、そのときの視界画像を示す。状態（Ａ）に示されるとおり、他のキャラクタオブジェクトＢが手前に表示され、その後ろにウィジェットＷが表示された視界画像が生成される。

図１６は、ウィジェットＷを移動させないときの状態を示す。図１６の状態（Ａ）では、キャラクタオブジェクトＡは右に向き始め、その動きが完了した状態を示す。キャラクタオブジェクトＡが右に向き始めたとき、仮想視点Ｓの移動先の予測が行われる。このとき、移動前のウィジェットＷが、仮想視点Ｓの予測した移動先に基づいた視界画像内に含まれる場合には、ウィジェットＷの移動は行われない。したがって、状態（Ｂ）に示される通り、ウィジェットＷの仮想空間内における位置は変わらない。

つぎに、予測制御モジュール２３４の制御アルゴリズムについて説明する。プロセッサ１０は、予測制御モジュール２３４として、センサ１１４により検出された加速度に基づいて動作する。図１７は、センサ１１４により検出された加速度のグラフの一例を示す図である。なお、センサ１１４は、ＨＭＤ装置１１０におけるｕｖｗ視野座標系のピッチ方向（ｕ軸）、ヨー方向（ｖ軸）、およびロール方向（ｗ軸）において加速度を検出することができる。図１６は、そのうちのヨー方向における加速度を示しているが、各方向を組み合わせたものとしてもよい。

図１７に示される通り、ＨＭＤ装置１１０を装着するユーザは、任意の方向に向こうとする場合、センサ１１４の加速度は徐々に速くなり、加速度のピークに達する場合、その加速度は減少方向に転じ、最後は加速度は０になるという傾向にある。

プロセッサ１０は、センサ１１４により検出された加速度が基準値以上となった場合に、予測処理を行うことに決定する。加速度が基準値未満の場合は、ＨＭＤ装置１１０の動きのブレであるため、プロセッサ１０は予測処理を行わない。

一方で、センサ１１４により検出された加速度が負の値となる場合には、ＨＭＤ装置１１０の動きが完了間際の状態であることを示す。したがって、プロセッサ１０は、検出された加速度の状態変化に基づいて加速度が０になる時間を予測することができる。よって、プロセッサ１０は、ＨＭＤ装置１１０がどの方向に向いたか、その角度を算出（予測）する。プロセッサ１０は、算出した角度に基づいて、仮想視点の位置を算出（予測）する。

図１７においては、プロセッサ１０は、加速度が０以下になる設定された予測判定値となった場合に、予測処理を行うことができる。この予測判定値は、事前に設計者により設定された値となる。

本実施形態においては、ＨＭＤ装置１１０によってユーザ１９０が没入する仮想空間（ＶＲ空間）を例示して説明したが、ＨＭＤ装置１１０として、透過型のＨＭＤ装置を採用してもよい。この場合、透過型のＨＭＤ装置を介してユーザ１９０が視認する現実空間に仮想空間を構成する画像の一部を合成した視界画像を出力することにより、拡張現実（ＡＲ：Augmented Reality）空間または複合現実（ＭＲ：Mixed Reality）空間における仮想体験をユーザ１９０に提供してもよい。

本明細書に開示された主題は、例えば以下のような項目として示される。

（項目１）
表示部（ディスプレイ１１２）を備えるヘッドマウントデバイス（ＨＭＤ装置１１０）を介してユーザに仮想空間を提供するためにコンピュータにより実行される情報処理方法であって、
前記ユーザ１９０に関連付けられたキャラクタオブジェクトＡ、移動対象（ウィジェットＷ）を含む仮想空間データを特定するステップ（図１０のステップＳ１）と、
前記キャラクタオブジェクトに関連付けられた仮想視点Ｓを前記仮想空間内に特定し、前記仮想視点に基づいた視界画像を定義するステップ（図１０のステップＳ７）と、
前記視界画像を前記表示部に表示させるステップ（図１０のステップＳ８）と、
前記ヘッドマウントデバイスの動きに基づいて前記仮想視点を動かし始めるとともに、前記仮想視点の移動先である第１位置を予測するステップ（図１０のステップＳ６および図１１のステップＳ１０３）と、
前記仮想視点の移動先に基づいて移動対象の移動先である第２位置を特定するステップ（図１１のステップＳ１０４）と、
前記第２位置に、前記移動対象を移動させるステップ（図１１のステップＳ１１３）と、
を備える情報処理方法。

この開示によると、移動対象を視界画像内に容易に捉えることができ、ユーザは移動対象または当該移動対象に基づいた処理を視界画像内で認識することができる。よって、ヘッドマウントデバイスを用いた仮想体験を改善することができる。

（項目２）
前記ヘッドマウントデバイスの動きが完了することに応じて前記仮想視点の移動を完了し（図１０のステップＳ５およびＳ６）、
前記仮想視点の移動が完了するまでの間に、前記移動対象を、前記第２位置に移動させる（図１１のステップＳ１１３）、
項目１に記載の情報処理方法。

この開示によると、移動対象を動かす処理が重たく、フレーム落ちをするような場合があったとしても、視線移動中に移動を終了しておくことで、移動対象が後から追随することに起因したＶＲ酔いを防止することができる。

（項目３）
前記仮想空間データは仮想オブジェクト（図１５の他のキャラクタオブジェクトＢ）をさらに含み、
前記移動対象および前記仮想オブジェクトの相対的な優先度はあらかじめ記憶部（ユーザ情報２４３）に記憶され、
前記キャラクタオブジェクトと前記第２位置との間に、前記仮想オブジェクトが存在する場合に、前記優先度に基づいて、前記第２位置を修正する（図１１のステップＳ１１２）、
項目１または２に記載の情報処理方法。

この開示によると、移動対象と他の仮想オブジェクトとが重なることで、いずれかが見えなくなったり、移動対象を使った処理に不都合が生じたりするということを防止することができる。

（項目４）
前記ヘッドマウントデバイスの動きを前記ヘッドマウントデバイスに搭載された加速度センサによって検出するステップ（図１１のステップＳ１０２）をさらに備え、
前記加速度センサの加速度が基準値以上となった場合に、前記移動対象を移動させることを決定する、項目１〜３のいずれか一項に記載の情報処理方法。

この開示によると、予測の要否を適切に判断することができる。

（項目５）
前記第１位置に前記仮想視点が移動された後の前記視界画像の範囲内に移動前の前記移動対象が位置する場合には、前記移動対象を移動させない（図１１のステップＳ１０８）、項目１〜４のいずれか一項に記載の情報処理方法。

この開示によると、移動処理のための処理を軽減したり、またはＶＲ酔いを防止することができる。

（項目６）
前記移動対象の前記視界画像内における配置位置が定められている場合には、当該移動対象を前記配置位置に移動させるように、前記第２位置を特定する（図１１のステップＳ１０７）、
項目５に記載の情報処理方法。

この開示によると、ユーザにとって見やすく、仮想空間における没入感を向上させることができる。例えば、メニュー画面やゲーム内における体力ゲージのような配置位置が定められている移動対象は、ヘッドマウントデバイスを動かしたとしても同じ視界画像内の位置に配置されることが、ユーザにとって仮想空間における操作性や状態を把握しやすくなる。

（項目７）
項目１〜６のいずれか一項に記載の情報処理方法をコンピュータに実行させる、プログラム。

（項目８）
少なくともメモリと、前記メモリに結合されたプロセッサとを備え、前記プロセッサの制御により項目１〜７のいずれか一項の情報処理方法を実行する、装置。

１…仮想カメラ、２…仮想空間、５…基準視線、１０…プロセッサ、１１…メモリ、１２…ストレージ、１３…入出力インターフェース、１４…通信インターフェース、１５…バス、１９…ネットワーク、２１…中心、２２…仮想空間画像、２３…視界領域、２４，２５…領域、３１…フレーム、３２…天面、３３，３４，３６，３７…ボタン、３５…赤外線ＬＥＤ、３８…アナログスティック、１００…ＨＭＤシステム、１１０…ＨＭＤ装置、１１２…ディスプレイ、１１４…センサ，１２０…ＨＭＤセンサ、１３０…モーションセンサ、１４０…注視センサ、１５０…サーバ、１６０…コントローラ、１６０Ｌ…左コントローラ、１６０Ｒ…右コントローラ、１９０…ユーザ、２００…コンピュータ、２２０…表示制御モジュール、２２１…仮想カメラ制御モジュール、２２２…視界領域決定モジュール、２２３…視界画像生成モジュール、２２４…基準視線特定モジュール、２３０…仮想空間制御モジュール、２３１…仮想空間定義モジュール、２３２…仮想オブジェクト制御モジュール、２３３…操作オブジェクト制御モジュール、２３４…予測制御モジュール、２４０…メモリモジュール、２４１…空間情報、２４２…オブジェクト情報、２４３…ユーザ情報、２５０…通信制御モジュール。

Claims (8)

1. 表示部を備えるヘッドマウントデバイスを介してユーザに仮想空間を提供するためにコンピュータにより実行される情報処理方法であって、
   前記ユーザに関連付けられたキャラクタオブジェクト、移動対象を含む仮想空間データを特定するステップと、
   前記キャラクタオブジェクトに関連付けられた仮想視点を前記仮想空間内に特定し、前記仮想視点に基づいた視界画像を定義するステップと、
   前記視界画像を前記表示部に表示させるステップと、
   前記ヘッドマウントデバイスの動きに基づいて前記仮想視点を動かし始めるとともに、前記仮想視点の移動先である第１位置を予測するステップと、
   前記第１位置に基づいて前記移動対象の移動先である第２位置を特定するステップと、
   前記第２位置に、前記移動対象を移動させるステップと、
   を備える情報処理方法。
2. 前記ヘッドマウントデバイスの動きが完了することに応じて前記仮想視点の移動を完了し、
   前記仮想視点の移動が完了するまでの間に、前記移動対象を、前記第２位置に移動させる、
   請求項１に記載の情報処理方法。
3. 前記仮想空間データは仮想オブジェクトをさらに含み、
   前記移動対象および前記仮想オブジェクトの相対的な優先度はあらかじめ記憶部に記憶され、
   前記キャラクタオブジェクトと前記第２位置との間に、前記仮想オブジェクトが存在する場合に、前記優先度に基づいて、前記第２位置を修正する、
   請求項１または２に記載の情報処理方法。
4. 前記ヘッドマウントデバイスの動きを前記ヘッドマウントデバイスに搭載された加速度センサによって検出するステップをさらに備え、
   前記加速度センサの加速度が基準値以上となった場合に、前記移動対象を移動させることを決定する、請求項１〜３のいずれか一項に記載の情報処理方法。
5. 前記第１位置に前記仮想視点が移動された後の前記視界画像の範囲内に移動前の前記移動対象が位置する場合には、前記移動対象を移動させない、請求項１〜４のいずれか一項に記載の情報処理方法。
6. 前記移動対象の前記視界画像内における配置位置が定められている場合には、当該移動対象を前記配置位置に移動させるように、前記第２位置を特定する、
   請求項５に記載の情報処理方法。
7. 請求項１〜６のいずれか一項に記載の情報処理方法をコンピュータに実行させる、プログラム。
8. 少なくともメモリと、前記メモリに結合されたプロセッサとを備え、前記プロセッサの制御により請求項１〜６のいずれか一項の情報処理方法を実行する、装置。