JP2018101019A - 表示装置及び表示装置の制御方法 - Google Patents
表示装置及び表示装置の制御方法 Download PDFInfo
- Publication number
- JP2018101019A JP2018101019A JP2016245704A JP2016245704A JP2018101019A JP 2018101019 A JP2018101019 A JP 2018101019A JP 2016245704 A JP2016245704 A JP 2016245704A JP 2016245704 A JP2016245704 A JP 2016245704A JP 2018101019 A JP2018101019 A JP 2018101019A
- Authority
- JP
- Japan
- Prior art keywords
- display
- unit
- content
- user
- control unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/017—Head mounted
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/30—Image reproducers
- H04N13/332—Displays for viewing with the aid of special glasses or head-mounted displays [HMD]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F1/00—Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
- G06F1/16—Constructional details or arrangements
- G06F1/1613—Constructional details or arrangements for portable computers
- G06F1/163—Wearable computers, e.g. on a belt
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
- G06F3/012—Head tracking input arrangements
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
- G06F3/04815—Interaction with a metaphor-based environment or interaction object displayed as three-dimensional, e.g. changing the user viewpoint with respect to the environment or object
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/275—Image signal generators from 3D object models, e.g. computer-generated stereoscopic image signals
- H04N13/279—Image signal generators from 3D object models, e.g. computer-generated stereoscopic image signals the virtual viewpoint locations being selected by the viewers or determined by tracking
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/30—Image reproducers
- H04N13/332—Displays for viewing with the aid of special glasses or head-mounted displays [HMD]
- H04N13/344—Displays for viewing with the aid of special glasses or head-mounted displays [HMD] with head-mounted left-right displays
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/30—Image reproducers
- H04N13/366—Image reproducers using viewer tracking
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/30—Image reproducers
- H04N13/398—Synchronisation thereof; Control thereof
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- General Physics & Mathematics (AREA)
- Human Computer Interaction (AREA)
- Computer Hardware Design (AREA)
- Optics & Photonics (AREA)
- Controls And Circuits For Display Device (AREA)
- User Interface Of Digital Computer (AREA)
Abstract
【課題】表示させるコンテンツの選択が容易であって、簡単な操作によりコンテンツの表示を変化させる。【解決手段】頭部の位置及び動きの少なくともいずれかを検出する6軸センサー235や磁気センサー237、頭部動き検出部151と、頭部動き検出部151により検出される頭部の位置及び動きの少なくともいずれかに基づき、基準状態を設定する基準設定部153と、画像表示部20により表示されるコンテンツの表示を、基準状態に対する頭部の位置及び動きの変化に基づき変化させる表示制御部155とを備え、表示制御部155は、コンテンツの相対的な表示位置が維持されるように、画像表示部20により表示されるコンテンツの表示を変化させる表HMD100。【選択図】図5
Description
本発明は、表示装置及び表示装置の制御方法に関する。
従来、使用者の頭部に表示部を装着し、使用者に画像を視認させることが可能な表示装置が知られている(例えば、特許文献1参照)。
特許文献1は、3次元仮想空間内に複数の仮想ディスプレイを配置し、検出器で検出される頭部の動きに応じて仮想ディスプレイの1つを選択し、選択された仮想ディスプレイに対応付けられたコンテンツを再生する装置を開示する。
特許文献1は、3次元仮想空間内に複数の仮想ディスプレイを配置し、検出器で検出される頭部の動きに応じて仮想ディスプレイの1つを選択し、選択された仮想ディスプレイに対応付けられたコンテンツを再生する装置を開示する。
また、特許文献1の装置は、3次元仮想空間内に複数の仮想ディスプレイが配置される。配置される仮想ディスプレイの数が増えると、使用者が視聴したいコンテンツを表示する仮想ディスプレイを選択するのが難しい場合があった。また、使用者の眼前に複数の仮想ディスプレイを配置する場合、使用者の眼前に表示されるコンテンツが、使用者の視界を遮り操作の妨げとなる恐れがあるという問題があった。また、使用者の頭部に装着される表示装置は、表示される画像によって外景の視認性が低下する場合があるため、表示装置の操作部を操作し難い場合があった。
本発明は、表示させるコンテンツの選択が容易であって、簡単な操作によりコンテンツの表示を変化させることを目的とする。
本発明は、表示させるコンテンツの選択が容易であって、簡単な操作によりコンテンツの表示を変化させることを目的とする。
上記課題を解決するため、本発明は、使用者の頭部に装着される表示部と、前記頭部を含む検出対象部の位置及び動きの少なくともいずれかを検出する検出部と、前記検出部により検出される前記検出対象部の位置及び動きの少なくともいずれかに基づき、基準状態を設定する基準設定部と、前記表示部により表示されるコンテンツの表示を、前記基準状態に対する前記検出対象部の位置及び動きの変化に基づき変化させる表示制御部と、を備え、前記表示制御部は、複数の前記コンテンツの相対的な表示位置が維持されるように、前記表示部が表示する前記コンテンツの表示を変化させる。
この構成によれば、検出対象部の位置及び動きの少なくともいずれかに基づいて基準状態を設定し、設定した基準状態に対する検出対象部の位置及び動きの変化に基づき複数のコンテンツの表示を変化させることができる。また、コンテンツの表示を変化させるときに、複数のコンテンツの相対的な表示位置が維持されるように変化させることができる。従って、表示させるコンテンツの選択が容易であって、簡単な操作によりコンテンツの表示を変化させることができる。
この構成によれば、検出対象部の位置及び動きの少なくともいずれかに基づいて基準状態を設定し、設定した基準状態に対する検出対象部の位置及び動きの変化に基づき複数のコンテンツの表示を変化させることができる。また、コンテンツの表示を変化させるときに、複数のコンテンツの相対的な表示位置が維持されるように変化させることができる。従って、表示させるコンテンツの選択が容易であって、簡単な操作によりコンテンツの表示を変化させることができる。
また、本発明は、複数の前記コンテンツの相対的な表示位置を示す表示位置情報を記憶する記憶部を備え、前記表示制御部は、前記表示位置情報が示す複数の前記コンテンツの相対的な表示位置が維持されるように前記コンテンツの表示を変化させる。
本発明によれば、表示部により表示されるコンテンツの表示を、複数のコンテンツの相対的な表示位置が維持されるように変化させることができる。
本発明によれば、表示部により表示されるコンテンツの表示を、複数のコンテンツの相対的な表示位置が維持されるように変化させることができる。
また、本発明は、前記表示制御部は、前記基準状態に対する前記検出対象部の位置及び動きの変化量に基づき前記コンテンツを選択し、選択した前記コンテンツを前記表示部に表示させる。
本発明によれば、検出対象部の位置及び動きの変化量に基づいてコンテンツを選択し、選択したコンテンツを表示させることができる。従って、頭部の位置又は動きによりコンテンツを選択することができ、コンテンツを容易に選択することができる。
本発明によれば、検出対象部の位置及び動きの変化量に基づいてコンテンツを選択し、選択したコンテンツを表示させることができる。従って、頭部の位置又は動きによりコンテンツを選択することができ、コンテンツを容易に選択することができる。
また、本発明は、前記基準設定部は、前記検出対象部の回転軸と、前記回転軸を中心として回転する前記検出対象部の位置とを前記基準状態として設定し、前記表示制御部は、前記コンテンツの表示位置を、前記回転軸を中心とする回転方向、及び前記回転方向に対し垂直な方向に設定可能である。
本発明によれば、複数のコンテンツの相対的な表示位置が維持されるように複数のコンテンツを設定することができる。
本発明によれば、複数のコンテンツの相対的な表示位置が維持されるように複数のコンテンツを設定することができる。
また、本発明は、前記表示制御部は、前記コンテンツの表示位置を、前記基準状態における前記検出対象部の背面側に設定可能である。
本発発明によれば、コンテンツの表示位置にバリエーションを持たせることができる。
本発発明によれば、コンテンツの表示位置にバリエーションを持たせることができる。
また、本発明は、前記表示制御部は、複数の前記コンテンツを前記回転軸上の点を中心とする球面、或いは、前記回転軸から所定距離に位置する平面に配置したように視認できる位置に、前記コンテンツの表示位置を設定可能である。
本発明によれば、複数のコンテンツが回転軸上の点を中心とする球面、或いは、回転軸から所定距離に位置する平面に配置したように視認できる位置に設定される。従って、複数のコンテンツの相対的な表示位置が維持されるようにコンテンツの表示を変化させることができる。
本発明によれば、複数のコンテンツが回転軸上の点を中心とする球面、或いは、回転軸から所定距離に位置する平面に配置したように視認できる位置に設定される。従って、複数のコンテンツの相対的な表示位置が維持されるようにコンテンツの表示を変化させることができる。
また、本発明は、前記表示制御部は、前記コンテンツを前記使用者の足下の面に配置したように視認できる位置に、前記コンテンツの表示位置を設定可能である。
本発明によれば、コンテンツを使用者の足下の面に配置したように視認させることができる。
本発明によれば、コンテンツを使用者の足下の面に配置したように視認させることができる。
また、本発明は、前記表示部は、前記使用者の右眼に画像を視認させる右表示部及び前記使用者の左眼に画像を視認させる左表示部を備え、前記表示制御部は、前記コンテンツを、前記右表示部と前記左表示部とが視差を有する状態で表示させる。
本発明によれば、右表示部と左表示部とが視差を有する状態でコンテンツを表示させることができる。従って、コンテンツを3次元的に表示させることができる。
本発明によれば、右表示部と左表示部とが視差を有する状態でコンテンツを表示させることができる。従って、コンテンツを3次元的に表示させることができる。
また、本発明は、前記基準設定部は、指示体の位置又は動きに従って前記基準状態を設定する。
本発明によれば、指示体の位置又は動きにより基準状態を設定することができる。従って、基準状態を簡易に設定することができる。
本発明によれば、指示体の位置又は動きにより基準状態を設定することができる。従って、基準状態を簡易に設定することができる。
また、本発明は、前記表示制御部は、前記指示体の位置又は動きに従って前記表示部における前記コンテンツの表示倍率を設定する。
本発明によれば、指示体に位置又は動きによりコンテンツの表示倍率を設定することができる。従って、簡単な操作でコンテンツの表示倍率を設定することができる。
本発明によれば、指示体に位置又は動きによりコンテンツの表示倍率を設定することができる。従って、簡単な操作でコンテンツの表示倍率を設定することができる。
また、本発明は、前記表示制御部は、いずれかの前記コンテンツに対する入力操作に用いる入力用コンテンツを前記表示部に表示させる。
本発明によれば、入力用コンテンツが表示部に表示される。従って、コンテンツに対する入力操作を入力用コンテンツにより行うことができる。
本発明によれば、入力用コンテンツが表示部に表示される。従って、コンテンツに対する入力操作を入力用コンテンツにより行うことができる。
また、本発明は、前記基準設定部は、前記検出対象部が設定された所定時間以上停止したと判定した場合に、停止した前記検出対象部の位置を前記基準状態として設定する。
本発明によれば、検出対象部が設定された所定時間以上停止したと判定した場合に、停止した検出対象部の位置が基準状態として設定される。従って、使用者の意図しない位置で基準状態が設定されないようにすることができる。
本発明によれば、検出対象部が設定された所定時間以上停止したと判定した場合に、停止した検出対象部の位置が基準状態として設定される。従って、使用者の意図しない位置で基準状態が設定されないようにすることができる。
また、本発明は、前記使用者の視線の向きを検出する視線検出部を備え、前記基準設定部は、前記検出対象部の位置又は動きと、前記視線検出部が検出する視線の向きとを含む前記基準状態を設定する。
本発明によれば、検出対象部の位置又は動きと、視線検出部が検出する視線の向きとによって基準状態を設定することができる。従って、使用者の状態に対応して、より詳細に基準状態を設定することができる。
本発明によれば、検出対象部の位置又は動きと、視線検出部が検出する視線の向きとによって基準状態を設定することができる。従って、使用者の状態に対応して、より詳細に基準状態を設定することができる。
また、本発明は、前記検出部は前記表示部の筐体に配置され、GPS信号に基づき位置検出を行うGPS検出部、加速度を検出する加速度センサー、角加速度を検出する角加速度センサー、単眼カメラ、ステレオカメラ、磁気センサーの少なくともいずれかを含む。
本発明によれば、検出部により、検出対象部の位置又は動きを精度よく検出することができる。
本発明によれば、検出部により、検出対象部の位置又は動きを精度よく検出することができる。
また、本発明は、前記磁気センサーは、前記表示部の筐体の外面側に配置される。
本発明によれば、筐体による磁気センサーによる磁気の検出への影響を低減することができる。
本発明によれば、筐体による磁気センサーによる磁気の検出への影響を低減することができる。
また、本発明は、複数の機能を実行する処理部を備え、各々の前記コンテンツは前記処理部が実行する機能に対応する。
本発明によれば、処理部が実行する機能に対応したコンテンツを表示部により表示させることができる。
本発明によれば、処理部が実行する機能に対応したコンテンツを表示部により表示させることができる。
また、本発明は、前記表示部が表示する前記コンテンツの内容を変更する編集処理部を備える。
本発明によれば、編集処理部によりコンテンツの内容を変更することができる。
本発明によれば、編集処理部によりコンテンツの内容を変更することができる。
また、本発明は、前記表示制御部は、前記基準状態に対する前記検出対象部の位置及び動きの変化量に基づき、前記表示部により表示される複数の前記コンテンツをサムネイル表示させる。
本発明によれば、表示部により表示される複数のコンテンツをサムネイル表示することができる。従って、表示部により表示されるコンテンツを使用者に容易に把握させることができる。
本発明によれば、表示部により表示される複数のコンテンツをサムネイル表示することができる。従って、表示部により表示されるコンテンツを使用者に容易に把握させることができる。
また、本発明は、前記表示制御部は、前記基準状態に対する前記検出対象部の位置及び動きの変化を予測し、予測結果に従って前記コンテンツの表示を変化させる。
本発明によれば、検出対象部の位置及び動きの変化の予測結果に従ってコンテンツの表示を変化させることができる。従って、画像表示部20が表示するコンテンツを複数の位置に表示させることができる。コンテンツの表示を変化させるタイミングを早めることができる。
本発明によれば、検出対象部の位置及び動きの変化の予測結果に従ってコンテンツの表示を変化させることができる。従って、画像表示部20が表示するコンテンツを複数の位置に表示させることができる。コンテンツの表示を変化させるタイミングを早めることができる。
また、本発明は、前記表示制御部は、複数の前記コンテンツを、前記検出対象部に対して遠近方向に異なる位置に配置されるように前記表示部により表示させる。
本発明によれば、複数のコンテンツが検出対象部に対して遠近方向に異なる位置に配置される。従って、表示部が表示するコンテンツを複数の位置に表示させることができる。
本発明によれば、複数のコンテンツが検出対象部に対して遠近方向に異なる位置に配置される。従って、表示部が表示するコンテンツを複数の位置に表示させることができる。
上記課題を解決するため、本発明は、使用者の頭部に装着される表示部を備える表示装置の制御方法であって、前記頭部を含む検出対象部の位置及び動きの少なくともいずれかを検出するステップと、前記検出するステップにより検出される前記検出対象部の位置及び動きの少なくともいずれかに基づき、基準状態を設定するステップと、前記表示部により表示されるコンテンツの表示を、前記基準状態に対する前記検出対象部の位置及び動きの変化に基づき変化させるステップと、を有し、複数の前記コンテンツの相対的な表示位置が維持されるように、前記表示部が表示する前記コンテンツの表示を変化させる。
この構成によれば、検出対象部の位置及び動きの少なくともいずれかに基づいて基準状態を設定し、設定した基準状態に対する検出対象部の位置及び動きの変化に基づきコンテンツの表示を変化させることができる。また、コンテンツの表示を変化させるときに、コンテンツの相対的な表示位置が維持されるように変化させることができる。従って、表示させるコンテンツの選択が容易であって、簡単な操作によりコンテンツの表示を変化させることができる。
この構成によれば、検出対象部の位置及び動きの少なくともいずれかに基づいて基準状態を設定し、設定した基準状態に対する検出対象部の位置及び動きの変化に基づきコンテンツの表示を変化させることができる。また、コンテンツの表示を変化させるときに、コンテンツの相対的な表示位置が維持されるように変化させることができる。従って、表示させるコンテンツの選択が容易であって、簡単な操作によりコンテンツの表示を変化させることができる。
図1は、本発明の表示装置及び表示装置の制御方法を適用したHMD(Head Mounted Display:頭部装着型表示装置)100の外観構成を示す外観図である。
HMD100は、使用者の頭部に装着され、使用者に虚像を視認させる画像表示部20(表示部)と、画像表示部20を制御する制御装置10と、を備える表示装置である。画像表示部20を頭部に装着した者を使用者という。
HMD100は、使用者の頭部に装着され、使用者に虚像を視認させる画像表示部20(表示部)と、画像表示部20を制御する制御装置10と、を備える表示装置である。画像表示部20を頭部に装着した者を使用者という。
制御装置10は、図1に示すように平たい箱形のケース10A(筐体又は本体ともいえる)を備える。ケース10Aは、ボタン11、LEDインジケーター12、トラックパッド14、上下キー15、切替スイッチ16及び電源スイッチ18の各部を備える。ボタン11、トラックパッド14、上下キー15、切替スイッチ16及び電源スイッチ18は、使用者により操作される被操作部である。また、LEDインジケーター12は、例えばHMD100の動作状態を示す副表示部として機能する。使用者は、被操作部を操作することにより、HMD100を操作できる。制御装置10は、HMD100のコントローラーとして機能する。
画像表示部20は、使用者の頭部に装着される装着体であり、本実施形態では眼鏡形状を有する。画像表示部20は、右保持部21と、左保持部23と、前部フレーム27とを有する本体に、右表示ユニット22、左表示ユニット24、右導光板26及び左導光板28を備える。
右保持部21及び左保持部23は、それぞれ、前部フレーム27の両端部から後方に延び、眼鏡のテンプル(つる)のように、使用者の頭部に画像表示部20を保持する。ここで、前部フレーム27の両端部のうち、画像表示部20の装着状態において使用者の右側に位置する端部を端部ERとし、使用者の左側に位置する端部を端部ELとする。右保持部21は、前部フレーム27の端部ERから、画像表示部20の装着状態において使用者の右側頭部に対応する位置まで延伸して設けられる。左保持部23は、端部ELから、画像表示部20の装着状態において使用者の左側頭部に対応する位置まで延伸して設けられる。
右保持部21及び左保持部23は、それぞれ、前部フレーム27の両端部から後方に延び、眼鏡のテンプル(つる)のように、使用者の頭部に画像表示部20を保持する。ここで、前部フレーム27の両端部のうち、画像表示部20の装着状態において使用者の右側に位置する端部を端部ERとし、使用者の左側に位置する端部を端部ELとする。右保持部21は、前部フレーム27の端部ERから、画像表示部20の装着状態において使用者の右側頭部に対応する位置まで延伸して設けられる。左保持部23は、端部ELから、画像表示部20の装着状態において使用者の左側頭部に対応する位置まで延伸して設けられる。
右導光板26及び左導光板28は、前部フレーム27に設けられる。右導光板26は、画像表示部20の装着状態において使用者の右眼の眼前に位置し、右眼に画像を視認させる。左導光板28は、画像表示部20の装着状態において使用者の左眼の眼前に位置し、左眼に画像を視認させる。
前部フレーム27は、右導光板26の一端と左導光板28の一端とを互いに連結した形状を有し、この連結位置は、使用者が画像表示部20を装着する装着状態で、使用者の眉間に対応する。前部フレーム27は、右導光板26と左導光板28との連結位置において、画像表示部20の装着状態で使用者の鼻に当接する鼻当て部を設けてもよい。この場合、鼻当て部と、右保持部21及び左保持部23とにより画像表示部20を使用者の頭部に保持できる。また、右保持部21及び左保持部23に、画像表示部20の装着状態において使用者の後頭部に接するベルト(図示略)を連結してもよく、この場合、ベルトによって画像表示部20を使用者の頭部に保持できる。
右表示ユニット22は、右導光板26による画像の表示を実現する。右表示ユニット22は、右保持部21に設けられ、装着状態において使用者の右側頭部の近傍に位置する。左表示ユニット24は、左導光板28による画像の表示を実現する。左表示ユニット24は、左保持部23に設けられ、装着状態において使用者の左側頭部の近傍に位置する。
本実施形態の右導光板26及び左導光板28は、光透過性の樹脂等によって形成される光学部であり、例えばプリズムであり、右表示ユニット22及び左表示ユニット24が出力する画像光を、使用者の眼に導く。
右導光板26及び左導光板28の表面に、調光板(図示略)を設けてもよい。調光板は、光の波長域により透過率が異なる薄板上の光学素子であり、いわゆる波長フィルターとして機能する。調光板は、例えば、使用者の眼の側と反対の側である前部フレーム27の表側を覆うように配置される。この調光板の光学特性を適宜選択することにより、可視光、赤外光及び紫外光等の任意の波長域の光の透過率を調整することができ、外部から右導光板26及び左導光板28に入射し、右導光板26及び左導光板28を透過する外光の光量を調整できる。
右導光板26及び左導光板28の表面に、調光板(図示略)を設けてもよい。調光板は、光の波長域により透過率が異なる薄板上の光学素子であり、いわゆる波長フィルターとして機能する。調光板は、例えば、使用者の眼の側と反対の側である前部フレーム27の表側を覆うように配置される。この調光板の光学特性を適宜選択することにより、可視光、赤外光及び紫外光等の任意の波長域の光の透過率を調整することができ、外部から右導光板26及び左導光板28に入射し、右導光板26及び左導光板28を透過する外光の光量を調整できる。
画像表示部20は、右表示ユニット22及び左表示ユニット24がそれぞれ生成する画像光を、右導光板26及び左導光板28に導く。右導光板26及び左導光板28に導かれた画像光は使用者の右眼と左眼に入射して、使用者に虚像を視認させる。これにより、画像表示部20は画像を表示する。
使用者の前方から、右導光板26及び左導光板28を透過して外光が使用者の眼に入射する場合、使用者の眼には、虚像を構成する画像光及び外光が入射することとなり、虚像の視認性が外光の強さに影響される。このため、例えば前部フレーム27に調光板を装着し、調光板の光学特性を適宜選択又は調整することによって、虚像の視認のしやすさを調整できる。典型的な例では、HMD100を装着した使用者が少なくとも外の景色を視認できる程度の光透過性を有する調光板を用いることができる。また、調光板を用いると、右導光板26及び左導光板28を保護し、右導光板26及び左導光板28の損傷や汚れの付着等を抑制する効果が期待できる。調光板は、前部フレーム27、又は、右導光板26及び左導光板28のそれぞれに対し着脱可能としてもよく、複数種類の調光板を交換して装着可能としてもよく、調光板を省略してもよい。
カメラ61は、画像表示部20の前部フレーム27に配設される。カメラ61の構成及び配置は、使用者が画像表示部20を装着した状態で視認する外景方向を撮像するように決められる。例えば、カメラ61は、前部フレーム27の前面において、右導光板26及び左導光板28を透過する外光を遮らない位置に設けられる。図1の例では、カメラ61は、前部フレーム27の端部ER側に配置されるが、カメラ61を端部EL側に配置してもよく、また、右導光板26と左導光板28との連結部に配置してもよい。
カメラ61は、CCDやCMOS等の撮像素子及び撮像レンズ等を備えるデジタルカメラである。本実施形態のカメラ61は単眼カメラであるが、ステレオカメラで構成してもよい。カメラ61は、HMD100の表側方向、換言すれば、HMD100を装着した状態における使用者の視界方向の少なくとも一部の外景(実空間)を撮像する。別の表現では、カメラ61は、使用者の視界と重なる範囲又は方向を撮像し、使用者が注視する方向を撮像する。カメラ61の画角の方向及び広さは適宜設定可能である。本実施形態では、後述するように、カメラ61の画角が、使用者が右導光板26及び左導光板28を通して視認する外界を含む。より好ましくは、カメラ61の画角は、右導光板26及び左導光板28を透過して視認可能な使用者の視界の全体を撮像できるように設定される。
カメラ61は、制御部150(図5)が備える撮像制御部145の制御に従って撮像を実行する。カメラ61は、撮像画像データを、後述するインターフェイス211を介して制御部150に出力する。
カメラ61は、制御部150(図5)が備える撮像制御部145の制御に従って撮像を実行する。カメラ61は、撮像画像データを、後述するインターフェイス211を介して制御部150に出力する。
画像表示部20の使用者側には視線センサー(視線検出部)68が配置される。視線センサー68は、使用者の右眼RE、及び、左眼LEのそれぞれに対応するように、右導光板26と左導光板28との中央位置に一対、設けられる。視線センサー68は、例えば、使用者の右眼REと左眼LEとをそれぞれ撮像する一対のカメラで構成される。視線センサー68は、制御部150(図5)の制御に従って撮像を行い、制御部150が、撮像画像データから右眼RE及び左眼LEの眼球表面における反射光や瞳孔の画像を検出し、視線方向を特定する。
図2は、画像表示部20が備える光学系の構成を示す要部平面図である。図2には説明のため使用者の左眼LE及び右眼REを図示する。
図2に示すように、右表示ユニット22及び左表示ユニット24は、左右対称に構成される。右表示ユニット22は、使用者の右眼REに画像を視認させる構成として、画像光を発するOLED(Organic Light Emitting Diode)ユニット221と、OLEDユニット221が発する画像光Lを導くレンズ群等を備えた右光学系251とを備える。画像光Lは、右光学系251により右導光板26に導かれる。
図2に示すように、右表示ユニット22及び左表示ユニット24は、左右対称に構成される。右表示ユニット22は、使用者の右眼REに画像を視認させる構成として、画像光を発するOLED(Organic Light Emitting Diode)ユニット221と、OLEDユニット221が発する画像光Lを導くレンズ群等を備えた右光学系251とを備える。画像光Lは、右光学系251により右導光板26に導かれる。
OLEDユニット221は、OLEDパネル223と、OLEDパネル223を駆動するOLED駆動回路225とを有する。OLEDパネル223は、有機エレクトロルミネッセンスにより発光してR(赤)、G(緑)、B(青)の色光をそれぞれ発する発光素子を、マトリクス状に配置して構成される自発光型の表示パネルである。OLEDパネル223は、R、G、Bの素子を1個ずつ含む単位を1画素として、複数の画素を備え、マトリクス状に配置される画素により画像を形成する。OLED駆動回路225は、制御部150(図5)の制御に従って、OLEDパネル223が備える発光素子の選択及び発光素子への通電を実行して、OLEDパネル223の発光素子を発光させる。OLED駆動回路225は、OLEDパネル223の裏面すなわち発光面の裏側に、ボンディング等により固定される。OLED駆動回路225は、例えばOLEDパネル223を駆動する半導体デバイスで構成され、OLEDパネル223の裏面に固定される基板(図示略)に実装されてもよい。この基板には温度センサー217が実装される。
なお、OLEDパネル223は、白色に発光する発光素子をマトリクス状に配置し、R、G、Bの各色に対応するカラーフィルターを重ねて配置する構成であってもよい。また、R、G、Bの色光をそれぞれ放射する発光素子に加え、W(白)の光を発する発光素子を備えるWRGB構成のOLEDパネル223を用いてもよい。
なお、OLEDパネル223は、白色に発光する発光素子をマトリクス状に配置し、R、G、Bの各色に対応するカラーフィルターを重ねて配置する構成であってもよい。また、R、G、Bの色光をそれぞれ放射する発光素子に加え、W(白)の光を発する発光素子を備えるWRGB構成のOLEDパネル223を用いてもよい。
右光学系251は、OLEDパネル223から射出された画像光Lを並行状態の光束にするコリメートレンズを有する。コリメートレンズにより並行状態の光束にされた画像光Lは、右導光板26に入射する。右導光板26の内部において光を導く光路には、画像光Lを反射する複数の反射面が形成される。画像光Lは、右導光板26の内部で複数回の反射を経て右眼RE側に導かれる。右導光板26には、右眼REの眼前に位置するハーフミラー261(反射面)が形成される。画像光Lは、ハーフミラー261で反射して右眼REに向けて右導光板26から射出され、この画像光Lが右眼REの網膜に像を結び、使用者に画像を視認させる。
また、左表示ユニット24は、使用者の左眼LEに画像を視認させる構成として、画像光を発するOLEDユニット241と、OLEDユニット241が発する画像光Lを導くレンズ群等を備えた左光学系252とを備える。画像光Lは、左光学系252により左導光板28に導かれる。
OLEDユニット241は、OLEDパネル243と、OLEDパネル243を駆動するOLED駆動回路245とを有する。OLEDパネル243は、OLEDパネル223と同様に構成される自発光型の表示パネルである。OLED駆動回路245は、制御部150(図5)の制御に従って、OLEDパネル243が備える発光素子の選択及び発光素子への通電を実行して、OLEDパネル243の発光素子を発光させる。OLED駆動回路245は、OLEDパネル243の裏面すなわち発光面の裏側に、ボンディング等により固定される。OLED駆動回路245は、例えばOLEDパネル243を駆動する半導体デバイスで構成され、OLEDパネル243の裏面に固定される基板(図示略)に実装されてもよい。この基板には、温度センサー239が実装される。
左光学系252は、OLEDパネル243から射出された画像光Lを並行状態の光束にするコリメートレンズを有する。コリメートレンズにより並行状態の光束にされた画像光Lは、左導光板28に入射する。左導光板28は、画像光Lを反射する複数の反射面が形成された光学素子であり、例えばプリズムである。画像光Lは、左導光板28の内部で複数回の反射を経て左眼LE側に導かれる。左導光板28には、左眼LEの眼前に位置するハーフミラー281(反射面)が形成される。画像光Lは、ハーフミラー281で反射して左眼LEに向けて左導光板28から射出され、この画像光Lが左眼LEの網膜に像を結び、使用者に画像を視認させる。
この構成によれば、HMD100は、シースルー型の表示装置として機能する。すなわち、使用者の右眼REには、ハーフミラー261で反射した画像光Lと、右導光板26を透過した外光OLとが入射する。また、左眼LEには、ハーフミラー281で反射した画像光Lと、ハーフミラー281を透過した外光OLとが入射する。このように、HMD100は、内部で処理した画像の画像光Lと外光OLとを重ねて使用者の眼に入射させ、使用者にとっては、右導光板26及び左導光板28を透かして外景が見え、この外景に重ねて、画像光Lによる画像が視認される。
ハーフミラー261、281は、右表示ユニット22及び左表示ユニット24がそれぞれ出力する画像光を反射して画像を取り出す画像取り出し部であり、表示部ということができる。
ハーフミラー261、281は、右表示ユニット22及び左表示ユニット24がそれぞれ出力する画像光を反射して画像を取り出す画像取り出し部であり、表示部ということができる。
なお、左光学系252と左導光板28とを総称して「左導光部」とも呼び、右光学系251と右導光板26とを総称して「右導光部」と呼ぶ。右導光部及び左導光部の構成は上記の例に限定されず、画像光を用いて使用者の眼前に虚像を形成する限りにおいて任意の方式を用いることができ、例えば、回折格子を用いても良いし、半透過反射膜を用いても良い。
図1に戻り、制御装置10及び画像表示部20は、接続ケーブル40により接続される。接続ケーブル40は、ケース10Aの下部に設けられるコネクター(図示略)に着脱可能に接続され、左保持部23の先端から、画像表示部20の内部に設けられる各種回路に接続する。接続ケーブル40は、デジタルデータを伝送するメタルケーブル又は光ファイバーケーブルを有し、アナログ信号を伝送するメタルケーブルを有していてもよい。接続ケーブル40の途中には、コネクター46が設けられる。コネクター46は、ステレオミニプラグを接続するジャックであり、コネクター46及び制御装置10は、例えばアナログ音声信号を伝送するラインで接続される。図1に示す構成例では、ステレオヘッドホンを構成する右イヤホン32と左イヤホン34、及びマイク63を有するヘッドセット30が、コネクター46に接続される。
制御装置10と画像表示部20とを無線接続してもよい。例えば、Bluetooth(登録商標)、無線LAN(Wi−Fi(登録商標)を含む)等の規格に準拠した無線通信により、制御装置10と画像表示部20とが制御信号やデータを相互に送受信する構成としてもよい。
制御装置10と画像表示部20とを無線接続してもよい。例えば、Bluetooth(登録商標)、無線LAN(Wi−Fi(登録商標)を含む)等の規格に準拠した無線通信により、制御装置10と画像表示部20とが制御信号やデータを相互に送受信する構成としてもよい。
マイク63は、例えば図1に示すように、マイク63の集音部が使用者の視線方向を向くように配置され、音声を集音して、音声信号を音声インターフェイス182(図4)に出力する。マイク63は、例えばモノラルマイクであってもステレオマイクであってもよく、指向性を有するマイクであってもよいし、無指向性のマイクであってもよい。
制御装置10は、使用者により操作される被操作部として、ボタン11、LEDインジケーター12、トラックパッド14、上下キー15、切替スイッチ16、及び電源スイッチ18を備える。これらの被操作部はケース10Aの表面に配置される。
ボタン11は、制御装置10を操作するためのキーやスイッチを備え、これらのキーやスイッチは押圧操作により変位する。例えば、ボタン11は、制御装置10が実行するオペレーティングシステム141(図5参照)等に関する操作を行うためのメニューキー、ホームキー、「戻る」キーを含む。
LEDインジケーター12は、HMD100の動作状態に対応して点灯し、又は点滅する。上下キー15は、右イヤホン32及び左イヤホン34から出力する音量の増減の指示入力や、画像表示部20の表示の明るさの増減の指示入力に利用される。切替スイッチ16は、上下キー15の操作に対応する入力を切り替えるスイッチである。電源スイッチ18は、HMD100の電源のオン/オフを切り替えるスイッチであり、例えばスライドスイッチである。
LEDインジケーター12は、HMD100の動作状態に対応して点灯し、又は点滅する。上下キー15は、右イヤホン32及び左イヤホン34から出力する音量の増減の指示入力や、画像表示部20の表示の明るさの増減の指示入力に利用される。切替スイッチ16は、上下キー15の操作に対応する入力を切り替えるスイッチである。電源スイッチ18は、HMD100の電源のオン/オフを切り替えるスイッチであり、例えばスライドスイッチである。
トラックパッド14は、接触操作を検出する操作面を有し、操作面に対する操作に応じて操作信号を出力する。操作面における検出方式は限定されず、静電式、圧力検出式、光学式或いは他の方式を採用できる。トラックパッド14への接触(タッチ操作)は、タッチセンサー(図示略)により検出される。トラックパッド14にはLED表示部17が設置される。LED表示部17は複数のLEDを備え、それぞれのLEDの光はトラックパッド14を透過して、操作用のアイコン等を表示する。このアイコン等はソフトウェアボタンとして機能する。
図3は、画像表示部20の構成を示す斜視図であり、画像表示部20を使用者の頭部側から見た要部構成を示す。この図3は、画像表示部20の使用者の頭部に接する側、言い換えれば使用者の右眼RE及び左眼LEに見える側である。別の言い方をすれば、右導光板26及び左導光板28の裏側が見えている。
図3では、使用者の右眼REに画像光を照射するハーフミラー261、及び左眼LEに画像光を照射するハーフミラー281が、略四角形の領域として見える。また、ハーフミラー261、281を含む右導光板26及び左導光板28の全体が、上述したように外光を透過する。このため、使用者には、右導光板26及び左導光板28の全体を透過して外景が視認され、ハーフミラー261、281の位置に矩形の表示画像が視認される。
図3では、使用者の右眼REに画像光を照射するハーフミラー261、及び左眼LEに画像光を照射するハーフミラー281が、略四角形の領域として見える。また、ハーフミラー261、281を含む右導光板26及び左導光板28の全体が、上述したように外光を透過する。このため、使用者には、右導光板26及び左導光板28の全体を透過して外景が視認され、ハーフミラー261、281の位置に矩形の表示画像が視認される。
カメラ61は、画像表示部20において右側の端部に配置され、使用者の両眼が向く方向、すなわち使用者にとって前方を撮像する。カメラ61の光軸は、右眼RE及び左眼LEの視線方向を含む方向とされる。使用者がHMD100を装着した状態で視認できる外景は、無限遠とは限らない。例えば、使用者が両眼で、使用者の前方に位置する対象物を注視する場合、使用者から対象物までの距離は、30cm〜10m程度であることが多く、1m〜4m程度であることが、より多い。そこで、HMD100について、通常使用時における使用者から対象物までの距離の上限、及び下限の目安を定めてもよい。この目安は調査や実験により求めてもよいし使用者が設定してもよい。カメラ61の光軸、及び画角は、通常使用時における対象物までの距離が、設定された上限の目安に相当する場合、及び下限の目安に相当する場合に、この対象物が画角に含まれるように設定されることが好ましい。
一般に、人間の視野角は水平方向におよそ200度、垂直方向におよそ125度とされ、そのうち情報受容能力に優れる有効視野は水平方向に30度、垂直方向に20度程度である。さらに、人間が注視する注視点が迅速に安定して見える安定注視野は、水平方向に60〜90度、垂直方向に45度〜70度程度とされている。注視点が使用者の前方に位置する対象物であるとき、使用者の視野において、右眼RE及び左眼LEのそれぞれの視線を中心として水平方向に30度、垂直方向に20度程度が有効視野である。また、水平方向に60〜90度、垂直方向に45度〜70度程度が安定注視野であり、水平方向に約200度、垂直方向に約125度が視野角となる。さらに、使用者が右導光板26及び左導光板28を透過して視認する実際の視野を、実視野(FOV:Field Of View)と呼ぶことができる。図1及び図2に示す本実施形態の構成で、実視野は、右導光板26及び左導光板28を透過して使用者が視認する実際の視野に相当する。実視野は、視野角及び安定注視野より狭いが、有効視野より広い。
カメラ61の画角は、使用者の視野よりも広い範囲を撮像可能であることが好ましく、具体的には、画角が、少なくとも使用者の有効視野よりも広いことが好ましい。また、画角が、使用者の実視野よりも広いことがより好ましい。さらに好ましくは、画角が、使用者の安定注視野よりも広く、最も好ましくは、画角が使用者の両眼の視野角よりも広いことがより好ましい。
カメラ61が、撮像レンズとして、いわゆる広角レンズを備え、広い画角を撮像できる構成としてもよい。広角レンズには、超広角レンズ、準広角レンズと呼ばれるレンズを含んでもよいし、単焦点レンズであってもズームレンズであってもよく、複数のレンズからなるレンズ群をカメラ61が備える構成であってもよい。
図4は、HMD100を構成する各部の構成を示すブロック図である。
制御装置10は、プログラムを実行してHMD100を制御するメインプロセッサー140を備える。メインプロセッサー140には、メモリー118及び不揮発性記憶部121が接続される。また、メインプロセッサー140には、入力装置としてトラックパッド14及び操作部110が接続される。また、メインプロセッサー140には、センサー類として、6軸センサー111、磁気センサー113が接続される。また、メインプロセッサー140には、GPS(Global Positioning System)受信部115、通信部117、音声コーデック180、外部コネクター184、外部メモリーインターフェイス186、USBコネクター188、センサーハブ192及びFPGA194が接続される。これらは外部とのインターフェイスとして機能する。
制御装置10は、プログラムを実行してHMD100を制御するメインプロセッサー140を備える。メインプロセッサー140には、メモリー118及び不揮発性記憶部121が接続される。また、メインプロセッサー140には、入力装置としてトラックパッド14及び操作部110が接続される。また、メインプロセッサー140には、センサー類として、6軸センサー111、磁気センサー113が接続される。また、メインプロセッサー140には、GPS(Global Positioning System)受信部115、通信部117、音声コーデック180、外部コネクター184、外部メモリーインターフェイス186、USBコネクター188、センサーハブ192及びFPGA194が接続される。これらは外部とのインターフェイスとして機能する。
メインプロセッサー140は、制御装置10が内蔵するコントローラー基板120に実装される。コントローラー基板120には、メインプロセッサー140に加えて、メモリー118、不揮発性記憶部121等が実装されてもよい。本実施形態では、6軸センサー111、磁気センサー113、GPS受信部115、通信部117、メモリー118、不揮発性記憶部121、音声コーデック180等がコントローラー基板120に実装される。また、外部コネクター184、外部メモリーインターフェイス186、USBコネクター188、センサーハブ192、FPGA194、及びインターフェイス196をコントローラー基板120に実装した構成であってもよい。
メモリー118は、メインプロセッサー140がプログラムを実行する場合に、実行されるプログラム、及び処理されるデータを一時的に記憶するワークエリアを構成する。不揮発性記憶部121は、フラッシュメモリーやeMMC(embedded Multi Media Card)で構成される。不揮発性記憶部121は、メインプロセッサー140が実行するプログラムや、メインプロセッサー140がプログラムを実行して処理する各種データを記憶する。
メインプロセッサー140は、トラックパッド14から入力される操作信号に基づいて、トラックパッド14の操作面に対する接触操作を検出し、操作位置を取得する。
操作部110は、ボタン11及びLED表示部17を含む。操作部110は、ボタン11が有するボタンやスイッチ等の操作子が操作された場合に、操作された操作子に対応する操作信号をメインプロセッサー140に出力する。
操作部110は、ボタン11及びLED表示部17を含む。操作部110は、ボタン11が有するボタンやスイッチ等の操作子が操作された場合に、操作された操作子に対応する操作信号をメインプロセッサー140に出力する。
LED表示部17は、メインプロセッサー140の制御に従って、LEDインジケーター12の点灯及び消灯を制御する。また、LED表示部17は、トラックパッド14の直下に配置されるLED(図示略)、及びこのLEDを点灯させる駆動回路を含む構成であってもよい。この場合、LED表示部17は、メインプロセッサー140の制御に従って、LEDを点灯、点滅、消灯させる。
6軸センサー111は、3軸加速度センサー及び3軸ジャイロ(角速度)センサーを備えるモーションセンサー(慣性センサー)である。6軸センサー111は、上記のセンサーがモジュール化されたIMU(Inertial Measurement Unit)を採用してもよい。
磁気センサー113は、例えば、3軸の地磁気センサーである。
6軸センサー111及び磁気センサー113は、検出値を、予め指定されたサンプリング周期に従ってメインプロセッサー140に出力する。また、6軸センサー111及び磁気センサー113は、メインプロセッサー140の要求に応じて、メインプロセッサー140により指定されたタイミングで、検出値をメインプロセッサー140に出力する。
磁気センサー113は、例えば、3軸の地磁気センサーである。
6軸センサー111及び磁気センサー113は、検出値を、予め指定されたサンプリング周期に従ってメインプロセッサー140に出力する。また、6軸センサー111及び磁気センサー113は、メインプロセッサー140の要求に応じて、メインプロセッサー140により指定されたタイミングで、検出値をメインプロセッサー140に出力する。
GPS受信部115は、図示しないGPSアンテナを備え、GPS衛星から送信されるGPS信号を受信する。GPS受信部115は、受信したGPS信号をメインプロセッサー140に出力する。また、GPS受信部115は、受信したGPS信号の信号強度を計測し、メインプロセッサー140に出力する。信号強度には、例えば、受信信号強度(RSSI:Received Signal Strength Indication)、電界強度、磁界強度、信号雑音比(SNR: Signal to Noise ratio)等の情報を用いることができる。
通信部117は、外部の機器との間で無線通信を実行する。通信部117は、アンテナ、RF回路、ベースバンド回路、通信制御回路等を備えて構成され、又はこれらが統合されたデバイスで構成される。通信部117は、例えば、Bluetooth、無線LAN(Wi−Fiを含む)等の規格に準拠した無線通信を行う。
音声インターフェイス182は、音声信号を入出力するインターフェイスである。本実施形態では、音声インターフェイス182は、接続ケーブル40に設けられたコネクター46(図1)を含む。コネクター46はヘッドセット30に接続される。音声インターフェイス182が出力する音声信号は右イヤホン32、及び左イヤホン34に入力され、これにより右イヤホン32及び左イヤホン34が音声を出力する。また、ヘッドセット30が備えるマイク63は、音声を集音して、音声信号を音声インターフェイス182に出力する。マイク63から音声インターフェイス182に入力される音声信号は、外部コネクター184に入力される。
音声コーデック180は、音声インターフェイス182に接続され、音声インターフェイス182を介して入出力される音声信号のエンコード及びデコードを行う。音声コーデック180はアナログ音声信号からデジタル音声データへの変換を行うA/Dコンバーター、及びその逆の変換を行うD/Aコンバーターを備えてもよい。例えば、本実施形態のHMD100は、音声を右イヤホン32及び左イヤホン34により出力し、マイク63で集音する。音声コーデック180は、メインプロセッサー140が出力するデジタル音声データをアナログ音声信号に変換して、音声インターフェイス182を介して出力する。また、音声コーデック180は、音声インターフェイス182に入力されるアナログ音声信号をデジタル音声データに変換してメインプロセッサー140に出力する。
外部コネクター184は、メインプロセッサー140と通信する外部の装置を接続するコネクターである。外部コネクター184は、例えば、外部の装置をメインプロセッサー140に接続して、メインプロセッサー140が実行するプログラムのデバッグや、HMD100の動作のログの収集を行う場合に、この外部の装置を接続するインターフェイスである。
外部メモリーインターフェイス186は、可搬型のメモリーデバイスを接続可能なインターフェイスであり、例えば、カード型記録媒体を装着してデータの読取が可能なメモリーカードスロットとインターフェイス回路とを含む。この場合のカード型記録媒体のサイズ、形状、規格は制限されず、適宜に変更可能である。
USB(Universal Serial Bus)コネクター188は、USB規格に準拠したコネクターとインターフェイス回路とを備える。USBコネクター188は、USBメモリーデバイス、スマートフォン、コンピューター等を接続できる。USBコネクター188のサイズや形状、適合するUSB規格のバージョンは適宜に選択、変更可能である。
USB(Universal Serial Bus)コネクター188は、USB規格に準拠したコネクターとインターフェイス回路とを備える。USBコネクター188は、USBメモリーデバイス、スマートフォン、コンピューター等を接続できる。USBコネクター188のサイズや形状、適合するUSB規格のバージョンは適宜に選択、変更可能である。
センサーハブ192及びFPGA194は、インターフェイス(I/F)196を介して、画像表示部20を接続される。センサーハブ192は、画像表示部20が備える各種センサーの検出値を取得してメインプロセッサー140に出力する。また、FPGA194は、メインプロセッサー140と画像表示部20の各部との間で送受信するデータの処理、及びインターフェイス196を介した伝送を実行する。
HMD100は、バイブレーター19を備える。バイブレーター19は、モーター、偏心した回転子(いずれも図示略)を備え、その他の必要な構成を備えてもよい。バイブレーター19は、メインプロセッサー140の制御に従って上記モーターを回転させることにより、振動を発生する。HMD100は、例えば、操作部110に対する操作を検出した場合、HMD100の電源がオン/オフされる場合、或いはその他の場合に、所定の振動パターンでバイブレーター19により振動を発生する。
画像表示部20の右表示ユニット22及び左表示ユニット24は、それぞれ、制御装置10に接続される。図1に示すように、HMD100では左保持部23に接続ケーブル40が接続され、この接続ケーブル40に繋がる配線が画像表示部20内部に敷設され、右表示ユニット22と左表示ユニット24のそれぞれが制御装置10に接続される。
右表示ユニット22は、表示ユニット基板210を有する。表示ユニット基板210には、インターフェイス196に接続されるインターフェイス(I/F)211、インターフェイス211を介して制御装置10から入力されるデータを受信する受信部(Rx)213、及びEEPROM215が実装される。
インターフェイス211は、受信部213、EEPROM215、温度センサー217、カメラ61、照度センサー65、及びLEDインジケーター67を、制御装置10に接続する。
インターフェイス211は、受信部213、EEPROM215、温度センサー217、カメラ61、照度センサー65、及びLEDインジケーター67を、制御装置10に接続する。
EEPROM(Electrically Erasable Programmable Read-Only Memory)215は、各種のデータをメインプロセッサー140が読み取り可能に記憶する。EEPROM215は、例えば、画像表示部20が備えるOLEDユニット221、241の発光特性や表示特性に関するデータ、右表示ユニット22又は左表示ユニット24が備えるセンサーの特性に関するデータなどを記憶する。具体的には、OLEDユニット221、241のガンマ補正に係るパラメーター、温度センサー217、239の検出値を補償するデータ等を記憶する。これらのデータは、HMD100の工場出荷時の検査によって生成され、EEPROM215に書き込まれ、出荷後はメインプロセッサー140がEEPROM215のデータを利用して処理を行える。
カメラ61は、インターフェイス211を介して入力される信号に従って撮像を実行し、撮像画像データ、又は撮像結果を示す信号を制御装置10に出力する。
照度センサー65は、図1に示すように、前部フレーム27の端部ERに設けられ、画像表示部20を装着する使用者の前方からの外光を受光するよう配置される。照度センサー65は、受光量(受光強度)に対応する検出値を出力する。
LEDインジケーター67は、図1に示すように、前部フレーム27の端部ERにおいてカメラ61の近傍に配置される。LEDインジケーター67は、カメラ61による撮像を実行中に点灯して、撮像中であることを報知する。カメラ61は、単眼カメラであってもよいし、ステレオカメラであってもよい。
照度センサー65は、図1に示すように、前部フレーム27の端部ERに設けられ、画像表示部20を装着する使用者の前方からの外光を受光するよう配置される。照度センサー65は、受光量(受光強度)に対応する検出値を出力する。
LEDインジケーター67は、図1に示すように、前部フレーム27の端部ERにおいてカメラ61の近傍に配置される。LEDインジケーター67は、カメラ61による撮像を実行中に点灯して、撮像中であることを報知する。カメラ61は、単眼カメラであってもよいし、ステレオカメラであってもよい。
温度センサー217は、温度を検出し、検出温度に対応する電圧値又は抵抗値を、検出値として出力する。温度センサー217は、OLEDパネル223(図2)の裏面側に実装される。温度センサー217は、例えばOLED駆動回路225と同一の基板に実装されてもよい。この構成により、温度センサー217は、主としてOLEDパネル223の温度を検出する。
受信部213は、インターフェイス211を介してメインプロセッサー140が送信するデータを受信する。受信部213は、OLEDユニット221で表示する画像の画像データを受信した場合に、受信した画像データを、OLED駆動回路225(図2)に出力する。
左表示ユニット24は、表示ユニット基板210を有する。表示ユニット基板210には、インターフェイス196に接続されるインターフェイス(I/F)231、インターフェイス231を介して制御装置10から入力されるデータを受信する受信部(Rx)233が実装される。また、表示ユニット基板210には、6軸センサー235及び磁気センサー237が実装される。また、磁気センサー237は、画像表示部20の筐体の外面側に配置してもよい。画像表示部20の筐体を構成する材料として金属を用いた場合、磁気センサー237の検出値にノイズが重畳され、磁気センサー237の検出精度が低下する場合がある。このため、磁気センサー237は、画像表示部20の筐体の外面側に配置して、磁気センサー237の検出精度の低下を防止することができる。
インターフェイス231は、受信部233、6軸センサー235、磁気センサー237、及び温度センサー239を、制御装置10に接続する。
インターフェイス231は、受信部233、6軸センサー235、磁気センサー237、及び温度センサー239を、制御装置10に接続する。
6軸センサー235は、3軸加速度センサー及び3軸ジャイロ(角速度)センサーを備えるモーションセンサー(慣性センサー)である。6軸センサー235は、上記のセンサーがモジュール化されたIMUを採用してもよい。
磁気センサー237は、例えば、3軸の地磁気センサーである。
磁気センサー237は、例えば、3軸の地磁気センサーである。
温度センサー239は、温度を検出し、検出温度に対応する電圧値又は抵抗値を、検出値として出力する。温度センサー239は、OLEDパネル243(図2)の裏面側に実装される。温度センサー239は、例えばOLED駆動回路245と同一の基板に実装されてもよい。この構成により、温度センサー239は、主としてOLEDパネル243の温度を検出する。
また、温度センサー239が、OLEDパネル243又はOLED駆動回路245に内蔵されてもよい。また、上記基板は半導体基板であってもよい。具体的には、OLEDパネル243が、Si−OLEDとして、OLED駆動回路245等とともに統合半導体チップ上の集積回路として実装される場合、この半導体チップに温度センサー239を実装してもよい。
また、温度センサー239が、OLEDパネル243又はOLED駆動回路245に内蔵されてもよい。また、上記基板は半導体基板であってもよい。具体的には、OLEDパネル243が、Si−OLEDとして、OLED駆動回路245等とともに統合半導体チップ上の集積回路として実装される場合、この半導体チップに温度センサー239を実装してもよい。
右表示ユニット22が備えるカメラ61、照度センサー65、温度センサー217、及び左表示ユニット24が備える6軸センサー235、磁気センサー237、温度センサー239は、センサーハブ192に接続される。センサーハブ192は、メインプロセッサー140の制御に従って各センサーのサンプリング周期の設定及び初期化を行う。センサーハブ192は、各センサーのサンプリング周期に合わせて、各センサーへの通電、制御データの送信、検出値の取得等を実行する。また、センサーハブ192は、予め設定されたタイミングで、右表示ユニット22及び左表示ユニット24が備える各センサーの検出値を、メインプロセッサー140に出力する。センサーハブ192は、各センサーの検出値を、メインプロセッサー140に対する出力のタイミングに合わせて一時的に保持する機能を備えてもよい。また、センサーハブ192は、各センサーの出力値の信号形式、又はデータ形式の相違に対応し、統一されたデータ形式のデータに変換して、メインプロセッサー140に出力する機能を備えてもよい。
また、センサーハブ192は、メインプロセッサー140の制御に従ってLEDインジケーター67への通電を開始及び停止させ、カメラ61が撮像を開始及び終了するタイミングに合わせて、LEDインジケーター67を点灯又は点滅させる。
また、センサーハブ192は、メインプロセッサー140の制御に従ってLEDインジケーター67への通電を開始及び停止させ、カメラ61が撮像を開始及び終了するタイミングに合わせて、LEDインジケーター67を点灯又は点滅させる。
制御装置10は、電源部130を備え、電源部130から供給される電力により動作する。電源部130は、充電可能なバッテリー132、及びバッテリー132の残容量の検出およびバッテリー132への充電の制御を行う電源制御回路134を備える。電源制御回路134はメインプロセッサー140に接続され、バッテリー132の残容量の検出値、又は電圧の検出値をメインプロセッサー140に出力する。また、電源部130が供給する電力に基づき、制御装置10から画像表示部20に電力を供給してもよい。また、電源部130から制御装置10の各部及び画像表示部20への電力の供給状態を、メインプロセッサー140が制御可能な構成としてもよい。
図5は、制御装置10の制御系を構成する記憶部122及び制御部150の機能ブロック図である。図5に示す記憶部122は、不揮発性記憶部121(図4)により構成される論理的な記憶部であり、EEPROM215を含んでもよい。また、制御部150、及び制御部150が有する各種の機能部は、メインプロセッサー140がプログラムを実行することによって、プログラムとハードウェアとの協働により形成される。制御部150、及び制御部150を構成する各機能部は、例えば、メインプロセッサー140、メモリー118及び不揮発性記憶部121により構成される。制御部150は、本発明の「処理部」に相当する。
制御部150は、記憶部122が記憶するデータを利用して各種処理を実行し、HMD100を制御する。記憶部122は、制御部150が処理する各種のデータを記憶する。具体的には、記憶部122は、設定データ123、コンテンツデータ124及び表示位置情報125を記憶する。
設定データ123は、HMD100の動作を設定する各種の設定値を含む。また、制御部150がHMD100を制御する際にパラメーター、行列式、演算式、LUT(LookUp Table)等を用いる場合、これらを設定データ123に含めてもよい。
コンテンツデータ124は、制御部150の制御によって画像表示部20が表示するデータであり、例えば、ワードやエクセル等のドキュメントファイルや、静止画像データ、動画像データを含む。また、コンテンツデータ124は、音声データを含んでもよい。また、コンテンツデータ124は、視差を有し、右表示ユニット22と左表示ユニット24とが視差を有する状態で画像を表示させる3D画像データであってもよい。また、コンテンツデータ124には、AR(Augmented Reality)で表示される操作ボタンや、GUI(Graphical User Interface)、ソフトキーボード等の画像を表示するための画像データであってもよい。
また、コンテンツデータ124は、コンテンツを画像表示部20により表示する際に、制御装置10によって使用者の操作を受け付けて、受け付けた操作に応じた処理を制御部150が実行する、双方向型のコンテンツであってもよい。この場合、コンテンツデータ124は、操作を受け付ける場合に表示するメニュー画面の画像データ、メニュー画面に含まれる項目に対応する処理等を定めるデータ等を含んでもよい。
また、コンテンツデータ124は、コンテンツを画像表示部20により表示する際に、制御装置10によって使用者の操作を受け付けて、受け付けた操作に応じた処理を制御部150が実行する、双方向型のコンテンツであってもよい。この場合、コンテンツデータ124は、操作を受け付ける場合に表示するメニュー画面の画像データ、メニュー画面に含まれる項目に対応する処理等を定めるデータ等を含んでもよい。
表示位置情報125は、複数のコンテンツの相対的な表示位置を示す情報である。詳細については後述するが、表示位置情報125は、コンテンツを表示するアプリケーションプログラム(以下、アプリという)の識別情報と、このアプリが表示するコンテンツの表示サイズと、コンテンツが対応付けられた球面座標上の座標とを示す情報である。球面座標の詳細については後述する。また、表示位置情報125には、後述する基準状態として設定する基準方位や、頭部の傾きを示す仰角又は俯角を示す情報が含まれる。
制御部150は、機能ブロックとして、オペレーティングシステム(OS)141、画像処理部143、撮像制御部145、操作制御部147、指示体検出部149、頭部動き検出部151、基準設定部153、表示制御部155及び座標設定部157を備える。これらの機能ブロックは、CPUがRAMにプログラムを展開し、展開したプログラムを実行することで実現される機能をブロックとして便宜的に表現したものである。制御部150は、これらの機能ブロックの他に、複数の機能を実行する処理部として機能させることもできる。例えば、制御部150を、画像表示部20に表示させるコンテンツの内容を変更する編集処理部として動作させてもよい。
オペレーティングシステム141の機能は、記憶部122が記憶する制御プログラムの機能であり、その他の各部は、オペレーティングシステム141上で実行されるアプリケーションプログラムの機能である。
画像処理部143は、画像表示部20により表示する画像又は映像の画像データに基づいて、右表示ユニット22及び左表示ユニット24に送信する信号を生成する。画像処理部143が生成する信号は、垂直同期信号、水平同期信号、クロック信号、アナログ画像信号等であってもよい。
また、画像処理部143は、必要に応じて、画像データの解像度を右表示ユニット22及び左表示ユニット24に適した解像度に変換する解像度変換処理を行ってもよい。また、画像処理部143は、画像データの輝度や彩度を調整する画像調整処理、3D画像データから2D画像データを作成し、又は2D画像データから3D画像データを生成する2D/3D変換処理等を実行してもよい。画像処理部143は、これらの画像処理を実行した場合、処理後の画像データに基づき画像を表示するための信号を生成して、接続ケーブル40を介して画像表示部20に送信する。
画像処理部143は、メインプロセッサー140がプログラムを実行して実現される構成のほか、メインプロセッサー140と別のハードウェア(例えば、DSP(Digital Signal Processor))で構成してもよい。
また、画像処理部143は、必要に応じて、画像データの解像度を右表示ユニット22及び左表示ユニット24に適した解像度に変換する解像度変換処理を行ってもよい。また、画像処理部143は、画像データの輝度や彩度を調整する画像調整処理、3D画像データから2D画像データを作成し、又は2D画像データから3D画像データを生成する2D/3D変換処理等を実行してもよい。画像処理部143は、これらの画像処理を実行した場合、処理後の画像データに基づき画像を表示するための信号を生成して、接続ケーブル40を介して画像表示部20に送信する。
画像処理部143は、メインプロセッサー140がプログラムを実行して実現される構成のほか、メインプロセッサー140と別のハードウェア(例えば、DSP(Digital Signal Processor))で構成してもよい。
撮像制御部145は、カメラ61を制御して撮像を実行させ、撮像画像データを生成する。撮像制御部145は、生成した撮像画像データを記憶部122に一時的に記憶させる。また、カメラ61が撮像画像データを生成する回路を含むカメラユニットとして構成される場合、撮像制御部145は撮像画像データをカメラ61から取得して、記憶部122に一時的に記憶させる。
操作制御部147は、トラックパッド14及び操作部110における操作を検出し、検出した操作に対応するデータを出力する。操作制御部147は、例えば、操作部110のボタン等が操作された場合、操作内容を示す操作データを生成して表示制御部155に出力する。表示制御部155は、操作制御部147から入力される操作データに従って画像表示部20の表示状態を変更する。
また、操作制御部147は、トラックパッド14における操作を検出した場合に、トラックパッド14における操作位置の座標を取得する。操作制御部147は、操作位置の軌跡を生成する。操作位置の軌跡は、トラックパッド14のタッチ操作が解除されない間、すなわち操作体がトラックパッド14に接触した状態が継続する間の操作位置の軌跡である。
また、操作制御部147は、トラックパッド14における操作を検出した場合に、トラックパッド14における操作位置の座標を取得する。操作制御部147は、操作位置の軌跡を生成する。操作位置の軌跡は、トラックパッド14のタッチ操作が解除されない間、すなわち操作体がトラックパッド14に接触した状態が継続する間の操作位置の軌跡である。
指示体検出部149は、記憶部122から撮像画像データを取得して、取得した撮像画像データに撮像された使用者の手や指(以下、手指という)の領域(以下、手指領域という)を検出する。また、指示体検出部149は、検出した手指領域に写った手指の形状や位置を特定する。例えば、指示体検出部149は、肌色抽出処理により、撮像画像データの領域から肌色領域を抽出し、しきい値処理により、抽出した肌色領域の画素値をしきい値と比較して手指領域を検出する。本実施形態では、指示体検出部149が、使用者の身体の一部を含む指示体として、使用者の手指を検出する場合について説明するが、指示体検出部149が検出する指示体は、使用者の腕全体であってもよい。また、使用者が指示棒等を手に持っている場合、指示体検出部149は、この指示棒を指示体として検出してもよいし、指示棒を含む使用者の手指を検出してもよい。
頭部動き検出部151は、6軸センサー235や磁気センサー237の検出値に基づいて使用者の頭部の位置や動きを検出する。使用者の頭部は、本発明の「検出対象部」に相当する。また、使用者の頭部を含む上半身を検出対象部としてもよい。6軸センサー235及び磁気センサー237は、所定の周期(例えば、50msec)毎にサンプリングを実行し、検出結果を示すアナログ電圧値を出力する。出力された電圧値は、A/D変換器(図示略)によってデジタル信号に変換され、制御部150に出力される。6軸センサー235及び磁気センサー237は、本発明の「検出部」に相当する。
6軸センサー235が備える角速度センサーは、内蔵する検出機構の測定基準点において、図1に示すX軸まわりの回転(ピッチ角)、Y軸回りの回転(ヨー角)、及びZ軸まわりの回転(ロール角)を検出する。X軸、Y軸及びZ軸は、図1に示すように相互に直交する3軸方向であり、Z軸方向が鉛直方向に対応し、X軸方向が使用者の頭部の左右方向に対応し、Y軸方向が使用者の頭部の前後方向に対応する。
頭部動き検出部151は、6軸センサー235の検出値によりX軸まわりの回転(ピッチ角)を検出して、使用者が顔を上げる又は下げる動きを検出する。また、頭部動き検出部151は、6軸センサー235の検出値によりY軸まわりの回転(ヨー角)を検出して、使用者が首を左肩又は右肩の方向に傾ける動きを検出する。また、頭部動き検出部151は、6軸センサー235の検出値によりZ軸まわりの回転(ロール角)を検出して、使用者が顔を左又は右に回す動きを検出する。以下では、顔を上げるや下げる動き、首を左肩又は右肩の方向に傾ける動き、顔を左又は右に回す動きを総称して、頭部の動きという。また、X軸、Y軸及びZ軸は、本発明の「検出対象部の回転軸」に相当する。
6軸センサー235が備える角速度センサーは、内蔵する検出機構の測定基準点において、図1に示すX軸まわりの回転(ピッチ角)、Y軸回りの回転(ヨー角)、及びZ軸まわりの回転(ロール角)を検出する。X軸、Y軸及びZ軸は、図1に示すように相互に直交する3軸方向であり、Z軸方向が鉛直方向に対応し、X軸方向が使用者の頭部の左右方向に対応し、Y軸方向が使用者の頭部の前後方向に対応する。
頭部動き検出部151は、6軸センサー235の検出値によりX軸まわりの回転(ピッチ角)を検出して、使用者が顔を上げる又は下げる動きを検出する。また、頭部動き検出部151は、6軸センサー235の検出値によりY軸まわりの回転(ヨー角)を検出して、使用者が首を左肩又は右肩の方向に傾ける動きを検出する。また、頭部動き検出部151は、6軸センサー235の検出値によりZ軸まわりの回転(ロール角)を検出して、使用者が顔を左又は右に回す動きを検出する。以下では、顔を上げるや下げる動き、首を左肩又は右肩の方向に傾ける動き、顔を左又は右に回す動きを総称して、頭部の動きという。また、X軸、Y軸及びZ軸は、本発明の「検出対象部の回転軸」に相当する。
また、磁気センサー237は、前述のX軸方向、Y軸方向及びZ軸方向における磁界を検出する3軸の磁気センサーである。頭部動き検出部151は、磁気センサー237の検出値に基づいて、使用者が向いた方向、すなわち使用者の正面に相当する方位を検出する。
基準設定部153は、6軸センサー235や磁気センサー237により検出される使用者の頭部の位置及び動きの少なくともいずれか一方に基づいて、基準状態を設定する。基準設定部153は、頭部の位置又は動きの基準となる方位(以下、基準方位という)を基準状態として設定する。制御部150は、使用者の頭部の回転等が検出されると、設定した基準方位を基準として画像表示部20が表示するコンテンツの表示を変化させる。
使用者は、HMD100に基準方位を設定するため、第1の操作と、第2の操作とを行う。第1の操作は、HMD100に、基準状態の設定を実行させるための操作である。例えば、使用者は、トラックパッド14の操作面に対して所定の操作を行うことで、第1の操作を行う。この第1の操作は、トラックパッド14の操作面に対する操作に限定されるものではなく、例えば、ボタン11や、上下キー15の操作であってもよいし、トラックパッド14の操作面を叩く操作であってもよい。また、使用者が「基準方位の設定」と発声するものであってもよい。
使用者は、HMD100に基準方位を設定するため、第1の操作と、第2の操作とを行う。第1の操作は、HMD100に、基準状態の設定を実行させるための操作である。例えば、使用者は、トラックパッド14の操作面に対して所定の操作を行うことで、第1の操作を行う。この第1の操作は、トラックパッド14の操作面に対する操作に限定されるものではなく、例えば、ボタン11や、上下キー15の操作であってもよいし、トラックパッド14の操作面を叩く操作であってもよい。また、使用者が「基準方位の設定」と発声するものであってもよい。
使用者は、第1の操作を行うと、基準方位として設定したい方向に頭部及び体を向ける。このとき、使用者の頭部は、斜め上方又は下方に向いていてもよい。使用者は、基準方位として設定したい方向を向くと、第2の操作を行う。第2の操作は、基準方位の設定にズレが生じないように、使用者の頭部の動きができるだけ少ない操作であることが好ましい。第2の操作は、例えば、トラックパッド14や操作部110に対する予め設定された操作であってもよい。
また、基準設定部153は、6軸センサー235の検出値に基づいて、使用者の頭部が所定時間以上停止したと判定した場合に、停止した頭部が向く方位を基準方位として設定してもよい。すなわち、第2の操作を行うことなく、基準方位を設定してもよい。
また、使用者が装着する操作デバイス3に対する操作を第2の操作としてもよい。
ここで、操作デバイス3について説明する。図6は、操作デバイス3の構成を示すブロック図である。
ここで、操作デバイス3について説明する。
操作デバイス3は、操作デバイス3の各部を制御する制御部310を備える。制御部310は、図示しないCPU、ROM、RAM等を備え、ROMに記憶したプログラムを実行することにより、操作デバイス3の機能を実現する。
ここで、操作デバイス3について説明する。図6は、操作デバイス3の構成を示すブロック図である。
ここで、操作デバイス3について説明する。
操作デバイス3は、操作デバイス3の各部を制御する制御部310を備える。制御部310は、図示しないCPU、ROM、RAM等を備え、ROMに記憶したプログラムを実行することにより、操作デバイス3の機能を実現する。
操作デバイス3は、通信用の機能部として、無線通信部321と、NFC(Near Field Communication)部322とを備える。
無線通信部321は、無線LAN(WiFi(登録商標))、Miracast(登録商標)、Bluetooth等の規格に準じた無線データ通信を実行する。NFC部322は、NFC規格に準拠した近距離無線通信を実行する。
無線通信部321は、無線LAN(WiFi(登録商標))、Miracast(登録商標)、Bluetooth等の規格に準じた無線データ通信を実行する。NFC部322は、NFC規格に準拠した近距離無線通信を実行する。
また、制御部310には、LCD(liquid crystal display)323、タッチパネル324、カメラ325、LED(light emitting diode)326が接続される。
制御部310は、LCD323を制御して画像や文字を表示させる。また、タッチパネル324は、LCD323の表面に重畳して配置され、LCD323の表面における接触操作を検出する。タッチパネル324は、例えば、静電容量式または感圧式のセンサーを用いることができる。制御部310は、タッチパネル324により接触操作を検出し、操作位置を特定する。
また、制御部310は、カメラ325を制御して撮像を実行させ、撮像画像データを生成する。また、制御部310は、LED326に流れる電流をON/OFFして、LED326を任意のタイミングで点灯、或いは点滅させる。
制御部310は、LCD323を制御して画像や文字を表示させる。また、タッチパネル324は、LCD323の表面に重畳して配置され、LCD323の表面における接触操作を検出する。タッチパネル324は、例えば、静電容量式または感圧式のセンサーを用いることができる。制御部310は、タッチパネル324により接触操作を検出し、操作位置を特定する。
また、制御部310は、カメラ325を制御して撮像を実行させ、撮像画像データを生成する。また、制御部310は、LED326に流れる電流をON/OFFして、LED326を任意のタイミングで点灯、或いは点滅させる。
制御部310には、マイク327、ボタン操作部328及びスピーカー329が接続される。マイク327は、例えばモノラルマイクであってもステレオマイクであってもよく、指向性を有するマイクであってもよいし、無指向性のマイクであってもよい。制御部310は、マイク327が集音した音声のアナログ音声信号を取得してデジタル音声データを生成する。
ボタン操作部328は、操作デバイス3に設けられたボタンの操作を検出し、操作されたボタンに対応する操作信号を制御部310に出力する。
スピーカー329は、制御部310が出力する音声信号に基づき音声を出力する。
ボタン操作部328は、操作デバイス3に設けられたボタンの操作を検出し、操作されたボタンに対応する操作信号を制御部310に出力する。
スピーカー329は、制御部310が出力する音声信号に基づき音声を出力する。
上述の第1の操作及び第2の操作について引き続き説明する。使用者は、基準方位として設定したい方向に向くと、操作デバイス3を操作する。操作デバイス3の操作は、例えば、操作デバイス3に設けられたスイッチやボタンの操作であってもよいし、操作デバイス3の表面をノックする操作であってもよい。操作デバイス3は、ノック音をマイク327により検出すると、HMD100に第2の操作を受け付けたことを示す信号を送信する。
基準設定部153は、第2の操作を受け付けると、6軸センサー235や磁気センサー237の検出値を取得する。基準設定部153は、取得した検出値に基づいて、頭部の回転軸と、回転軸を中心として回転する頭部の位置とを検出して基準方位を設定する。例えば、基準設定部153は、磁気センサー237の検出値に基づき、使用者の頭部が向く方位(方位角)を検出する。この場合、頭部の回転軸はZ軸(鉛直方向)となり、回転軸を中心として回転する頭部の位置は、磁気センサー237の検出値により検出される方位角となる。
また、基準設定部153は、基準状態として頭部の傾きである仰角又は俯角を検出してもよい。基準設定部153は、6軸センサー235に含まれる角速度センサーの検出値に基づき、頭部のX軸周りの回転角(ピッチ角)を検出する。検出されるX軸周りの回転角は、頭部の左右方向に設定したX軸、及び頭部の前後方向に設定したY軸を含む面(以下、水平面という)に対する傾き(仰角又は俯角)となる。この場合、頭部の回転軸はX軸となり、頭部の位置は、検出される仰角又は俯角となる。
基準設定部153は、検出した方位角を基準方位として設定し、頭部の回転軸や、基準方位を示す情報、仰俯角を示す情報を表示位置情報125として記憶部122に記憶させる。
また、基準設定部153は、基準状態として頭部の傾きである仰角又は俯角を検出してもよい。基準設定部153は、6軸センサー235に含まれる角速度センサーの検出値に基づき、頭部のX軸周りの回転角(ピッチ角)を検出する。検出されるX軸周りの回転角は、頭部の左右方向に設定したX軸、及び頭部の前後方向に設定したY軸を含む面(以下、水平面という)に対する傾き(仰角又は俯角)となる。この場合、頭部の回転軸はX軸となり、頭部の位置は、検出される仰角又は俯角となる。
基準設定部153は、検出した方位角を基準方位として設定し、頭部の回転軸や、基準方位を示す情報、仰俯角を示す情報を表示位置情報125として記憶部122に記憶させる。
また、基準設定部153は、6軸センサー235や磁気センサー237の検出値の他に、視線センサー68の検出する使用者の視線方向に基づいて基準状態を設定してもよい。使用者の視線方向に基づいて基準状態を設定することで、使用者の視線方向を基準状態として設定することができ、使用者の視線方向にコンテンツを表示させることができる。
また、頭部の位置又は動きを検出する検出部として、6軸センサー235や磁気センサー237の他に、GPS受信部115や、カメラ61を用いてもよい。検出部としてこれらの機能部を用いることで、頭部の位置や動きの検出精度を高めることができる。
また、頭部の位置又は動きを検出する検出部として、6軸センサー235や磁気センサー237の他に、GPS受信部115や、カメラ61を用いてもよい。検出部としてこれらの機能部を用いることで、頭部の位置や動きの検出精度を高めることができる。
また、基準設定部153は、送信機(図示略)から送信されるBluetoothやBLE(Bluetooth Low Energy)等の近距離無線通信の電波の受信強度が最も大きい方向を基準の方向として設定してもよい。また、使用者の頭部に変えて、操作デバイス3の操作により基準状態を設定してもよい。例えば、使用者は、操作デバイス3の表面を基準方位として設定する方向に向ける。操作デバイス3には、6軸センサーや磁気センサーが搭載され、これらのセンサーの検出値をHMD100に送信する。基準設定部153は、操作デバイス3から送信されるセンサーの検出値を通信部117で受信し、受信した検出値に基づいて基準状態を設定する。
表示制御部155は、右表示ユニット22及び左表示ユニット24を制御する制御信号を生成し、この制御信号により、右表示ユニット22及び左表示ユニット24のそれぞれによる画像光の生成及び射出を制御する。具体的には、表示制御部147は、OLED駆動回路225、245を制御して、OLEDパネル223、243による画像の表示を実行させる。表示制御部147は、画像処理部143が出力する信号に基づきOLED駆動回路225、245がOLEDパネル223、243に描画するタイミングの制御、OLEDパネル223、243の輝度の制御等を行う。
また、表示制御部155は、キャリブレーションを実行して、表示領域Vの座標と、カメラ61の撮像画像とを対応付けるパラメーターを生成する。図7は、使用者が画像表示部20越しに視認する視界VRを示す図である。
使用者は、現実世界(以下、外景という)に存在する人や、建物、道路、その他の物体(以下、これらを総称して対象物体という)と、画像表示部20が表示するコンテンツとを画像表示部20越しに視認する。画像表示部20が制御部150の制御に従って、コンテンツデータ124を再生することで、表示領域Vにコンテンツが再生される。表示領域Vは、画像表示部20がコンテンツを表示可能な領域を示す。
使用者は、現実世界(以下、外景という)に存在する人や、建物、道路、その他の物体(以下、これらを総称して対象物体という)と、画像表示部20が表示するコンテンツとを画像表示部20越しに視認する。画像表示部20が制御部150の制御に従って、コンテンツデータ124を再生することで、表示領域Vにコンテンツが再生される。表示領域Vは、画像表示部20がコンテンツを表示可能な領域を示す。
表示制御部155は、画像表示部20にキャリブレーション用画像を表示させながら、キャリブレーション用画像に対応した参照実物体を、カメラ61の撮像画像データから認識し、追跡する。この状態で、使用者が、トラックパッド14等のユーザーインターフェイスを介してキャリブレーション用画像の位置を画像表示部20上で移動させる。そして、使用者が、キャリブレーション用画像と参照実物体とが重なる(位置、大きさ、向きの少なくとも1つがほぼ一致する)ように知覚したタイミングにて、ユーザーインターフェイスを介して表示制御部155に通知する。表示制御部155は、取得した通知に応じて、当該タイミングでの参照実物体の検出結果(撮像画像データ上の位置)と、表示領域Vでのキャリブレーション用画像の表示位置とを対応付けるパラメーターを生成する。表示制御部155は、生成されたパラメーターを記憶部122に記憶させる。
このパラメーターは、例えば、使用者が手指により指し示した領域のコンテンツや対象物体を特定する際に使用される。
このパラメーターは、例えば、使用者が手指により指し示した領域のコンテンツや対象物体を特定する際に使用される。
また、表示制御部155は、画像表示部20により表示領域Vに表示されるコンテンツの表示状態を、6軸センサー235や磁気センサー237により検出される頭部の動き(位置の変化)に基づき変化させる。表示領域Vに表示されるコンテンツは、例えば、ワードやエクセル等のドキュメントファイルであってもよいし、動画や静止画のファイルであってもよい。また、動画や静止画のファイルは、記憶部122に予め記憶されたファイルであってもよいし、通信部117を制御してネットワークからダウンロードしたファイルであってもよい。
座標設定部157は、基準設定部153が設定した基準方位に基づいて、仮想的な3次元の空間座標を設定する。本実施形態の座標設定部157は、使用者の頭部が中心に位置する球面状の座標である球面座標を設定する。この球面座標は、使用者の頭部を原点とし、原点からの距離と、2つの偏角とによって規定される3次元の極座標によって表現される。2つの偏角は、基準設定部153により基準方位として設定された方位からの角度と、鉛直方向であるZ軸方向からの角度とによって規定される。
座標設定部157が設定した球面座標には、表示制御部155によって使用者が使用するコンテンツが対応付けられる。表示制御部155は、使用者によってアプリが起動された場合、このアプリによって表示されるコンテンツを球面座標上のいずれかの座標に対応付ける。また、表示制御部155は、複数のコンテンツを球面座標の座標に対応付ける場合に、複数のコンテンツの相対的な表示位置が位置されるように、コンテンツを球面座標上の座標に対応付ける。そして、座標設定部157は、コンテンツを表示するアプリの識別情報と、このアプリが表示するコンテンツの表示領域のサイズと、コンテンツが対応付けられた球面座標上の座標とを示す情報を表示位置情報125として生成し、記憶部122に記憶させる。
使用者は、複数のアプリを起動させ、表示領域Vに複数のコンテンツを表示させることができる。しかしながら、HMD100の場合、表示領域Vに表示されるコンテンツの数が増えると、コンテンツによって外界の視認性が阻害される場合がある。また、複数のコンテンツを表示させた場合であっても、複数のコンテンツを同時に操作するわけではなく、一時的に使用しないコンテンツが生じる場合もある。このような一時的に使用していないコンテンツのアプリを一旦終了させ、使いたいときに再度起動させた場合、アプリを起動させるまでに時間がかかるという問題がある。このため、一時的に使用しないコンテンツを表示領域Vに表示させないようにしたいというニーズがある。
図8は、球面座標上の座標に対応付けられたコンテンツを示す図である。
座標設定部157は、アプリが起動されると、このアプリによって表示されるコンテンツを球面座標上の座標に対応付ける。図8には、基準方位からの偏角φと、鉛直方向からの偏角θと、原点からの距離Rに対応する球面座標上の座標にコンテンツが対応付けられた様子を示す。また、コンテンツに対応付ける座標は、コンテンツを矩形で表示する場合に、矩形の四隅のそれぞれに偏角θ、φ、及び距離Rを対応付けるものであってもよい。
座標設定部157は、アプリが起動されると、このアプリによって表示されるコンテンツを球面座標上の座標に対応付ける。図8には、基準方位からの偏角φと、鉛直方向からの偏角θと、原点からの距離Rに対応する球面座標上の座標にコンテンツが対応付けられた様子を示す。また、コンテンツに対応付ける座標は、コンテンツを矩形で表示する場合に、矩形の四隅のそれぞれに偏角θ、φ、及び距離Rを対応付けるものであってもよい。
表示制御部155は、頭部動き検出部御部151により頭部の動きが検出されると、検出された頭部の動きに対応して、画像表示部20の表示範囲を示す表示領域Vを球面座標上で移動させる。表示制御部155は、移動後の表示領域V内にコンテンツに設定した座標が含まれる場合、このコンテンツを画像表示部20により表示させる。
図9及び図10は、使用者と、球面座標上に設定したコンテンツを上から見た状態を示す図である。
図9及び図10は、基準方位の方向である0度の方向にコンテンツAが設定され、基準方位から右回りに45度の方向にコンテンツBが設定された状態を示す。同様に、基準方位から右回りに90度の方向にコンテンツCが設定され、135度の方向にコンテンツDが設定され、180度の方向にコンテンツEが設定される。また、基準方位から右回りに225度の方向にコンテンツFが設定され、270度の方向にコンテンツFが設定され、315度の方向にコンテンツHが設定された状態を示す。135度、180度、225度といった角度は、使用者の背面側に相当し、基準方位の方向を向いた使用者の背面側にコンテンツを設定することもできる。
図9及び図10は、基準方位の方向である0度の方向にコンテンツAが設定され、基準方位から右回りに45度の方向にコンテンツBが設定された状態を示す。同様に、基準方位から右回りに90度の方向にコンテンツCが設定され、135度の方向にコンテンツDが設定され、180度の方向にコンテンツEが設定される。また、基準方位から右回りに225度の方向にコンテンツFが設定され、270度の方向にコンテンツFが設定され、315度の方向にコンテンツHが設定された状態を示す。135度、180度、225度といった角度は、使用者の背面側に相当し、基準方位の方向を向いた使用者の背面側にコンテンツを設定することもできる。
使用者は、球面座標上に設定した他のコンテンツを視認したい場合、視認したいコンテンツが設定された方向に頭部を回転させる。頭部動き検出部151は、6軸センサー235の検出値に基づいて頭部の回転方向及び回転した角度を検出する。表示制御部155は、頭部動き検出部151が検出した頭部の回転方向及び回転角度に従って、表示領域Vを球面座標上で移動させる。表示制御部153は、移動後の表示領域V内に設定されたコンテンツの座標が存在する場合、このコンテンツを表示領域Vに表示させる。図9は、使用者が基準方位の方向である0度の方向を向いた場合を示す。この場合、表示領域V内にコンテンツAの座標が存在するため、表示制御部155は、コンテンツAを表示領域Vに表示させる。また、図10は、使用者が基準方位の方向から右回りに45度回転した場合を示す。この場合、表示領域V内にコンテンツCの座標が存在するため、表示制御部155は、コンテンツCを表示領域Vに表示させる。
図11は、使用者と、球面座標上に設定されたコンテンツを示す図である。特に、図11は、使用者を横方向から見た状態を示す図である。
また、コンテンツは、球面座標の同一の方位角の方向に複数対応付けることもできる。すなわち、コンテンツを回転方向に対して垂直な方向に対応付けることもできる。具体的には、鉛直方向からの偏角θの値を変更して、球面座標にコンテンツを対応付ける。
図11には、偏角θが「α」の座標に対応付けられたコンテンツJと、偏角θが「β」の座標に対応付けられたコンテンツIと、偏角θが「γ」の座標に対応付けられたコンテンツKとを示す。α、β及びγは、α<β<γの関係にある。
使用者は、水平方向(偏角θが90度の方向)に頭を向けることでコンテンツIを表示領域V内に視認することができ、頭部を斜め上方向に向けることでコンテンツJを表示領域V内に視認することができる。また、使用者は、頭部を斜め下方向に向けることで表示領域V内にコンテンツKを視認することができる。
また、コンテンツは、球面座標の同一の方位角の方向に複数対応付けることもできる。すなわち、コンテンツを回転方向に対して垂直な方向に対応付けることもできる。具体的には、鉛直方向からの偏角θの値を変更して、球面座標にコンテンツを対応付ける。
図11には、偏角θが「α」の座標に対応付けられたコンテンツJと、偏角θが「β」の座標に対応付けられたコンテンツIと、偏角θが「γ」の座標に対応付けられたコンテンツKとを示す。α、β及びγは、α<β<γの関係にある。
使用者は、水平方向(偏角θが90度の方向)に頭を向けることでコンテンツIを表示領域V内に視認することができ、頭部を斜め上方向に向けることでコンテンツJを表示領域V内に視認することができる。また、使用者は、頭部を斜め下方向に向けることで表示領域V内にコンテンツKを視認することができる。
図12は、使用者と、球面座標上の座標に設定されたコンテンツとを示す図である。
また、球面座標に対応付けるコンテンツは、使用者からの距離Rを変更して設定してもよい。すなわち、使用者の頭部に対して遠近方向に異なる位置にコンテンツを配置してもよい。
図12には、原点からの距離がR1、鉛直方向からの偏角θが「β」の座標に対応付けられたコンテンツSと、距離がR2、鉛直方向からの偏角θが「β」の座標に対応付けられたコンテンツTとを示す。
使用者がこれらのコンテンツS及びTが設定された球面座標の座標方向に向くと、表示領域VにコンテンツS及びTがともに表示される。使用者は、例えば、トラックパッド14や操作部110、操作デバイス3を操作して、操作対象又は表示対象のコンテンツを選択する。そして、使用者によりいずれか一方のコンテンツが選択されると、表示制御部155は、選択されたコンテンツと、選択されていないコンテンツとでコンテンツの見やすさを変更する。例えば、表示制御部155は、選択されていないコンテンツの透過率を、選択されたコンテンツの透過率よりも上げたり、選択されたコンテンツの輝度を選択されていないコンテンツの輝度よりも高くしたりする。
また、コンテンツS及びTの端部にタグをそれぞれ表示し、選択されたコンテンツのタグ部分を点滅させたり、表示色を変更したりすることで、選択されたコンテンツを明示してもよい。
また、球面座標に対応付けるコンテンツは、使用者からの距離Rを変更して設定してもよい。すなわち、使用者の頭部に対して遠近方向に異なる位置にコンテンツを配置してもよい。
図12には、原点からの距離がR1、鉛直方向からの偏角θが「β」の座標に対応付けられたコンテンツSと、距離がR2、鉛直方向からの偏角θが「β」の座標に対応付けられたコンテンツTとを示す。
使用者がこれらのコンテンツS及びTが設定された球面座標の座標方向に向くと、表示領域VにコンテンツS及びTがともに表示される。使用者は、例えば、トラックパッド14や操作部110、操作デバイス3を操作して、操作対象又は表示対象のコンテンツを選択する。そして、使用者によりいずれか一方のコンテンツが選択されると、表示制御部155は、選択されたコンテンツと、選択されていないコンテンツとでコンテンツの見やすさを変更する。例えば、表示制御部155は、選択されていないコンテンツの透過率を、選択されたコンテンツの透過率よりも上げたり、選択されたコンテンツの輝度を選択されていないコンテンツの輝度よりも高くしたりする。
また、コンテンツS及びTの端部にタグをそれぞれ表示し、選択されたコンテンツのタグ部分を点滅させたり、表示色を変更したりすることで、選択されたコンテンツを明示してもよい。
また、使用者が、コンテンツが対応付けられていない座標の方向を向いた場合に、この座標に最も近いコンテンツを複数表示させてもよい。
例えば、基準方位からの偏角φが0度の座標と、90度の座標とにコンテンツが対応付けられた状態であると仮定する。この状態で、使用者が、偏角φが45度の方向に向いた場合、0度の座標に対応付けたコンテンツと、90度の座標に対応付けたコンテンツとを両方とも表示させてもよい。すなわち、使用者の向きが、コンテンツを対応付けた座標と座標との間の中間の座標の向きである場合、両方のコンテンツを表示させる。
使用者は、表示領域Vに複数のコンテンツを同時に表示させて作業を行いたい場合もある。このような場合に、コンテンツが対応付けられ座標の間の中間の座標において両方のコンテンツを表示させることで、使用者の作業効率を向上させることができる。
例えば、基準方位からの偏角φが0度の座標と、90度の座標とにコンテンツが対応付けられた状態であると仮定する。この状態で、使用者が、偏角φが45度の方向に向いた場合、0度の座標に対応付けたコンテンツと、90度の座標に対応付けたコンテンツとを両方とも表示させてもよい。すなわち、使用者の向きが、コンテンツを対応付けた座標と座標との間の中間の座標の向きである場合、両方のコンテンツを表示させる。
使用者は、表示領域Vに複数のコンテンツを同時に表示させて作業を行いたい場合もある。このような場合に、コンテンツが対応付けられ座標の間の中間の座標において両方のコンテンツを表示させることで、使用者の作業効率を向上させることができる。
また、使用者は、コンテンツと、このコンテンツに対応付けた球面座標上の座標とを変更することができる。例えば、表示制御部155は、45度、90度、135度、180度等の偏角φと、この偏角φに対応付けたコンテンツのサムネイル画像とを表示領域Vの端部に表示させてもよい。使用者は、表示領域Vの表示を参照しながら、トラックパッド14や操作部110、操作デバイス3を操作し、各コンテンツに対応付ける球面座標の座標(偏角φ、θ、距離R)を変更してもよい。
図13は、入力操作を視線センサー68が検出する視線に基づいて行う様子を示す図である。
使用者は、アプリを起動させて、表示領域Vにコンテンツを表示させると、表示されたコンテンツに対する操作を行う。
例えば、表示制御部155は、起動されたアプリがブラウザソフトウェアである場合、このブラウザソフトウェアが表示するブラウザ画面の検索欄にキーワードを入力するため、入力用コンテンツとしてソフトウェアキーボード170を表示させてもよい。ソフトウェアキーボード170の操作は、使用者の視線方向を視線センサー68により検出して、視線方向に対応するソフトウェアキーボード170のキーを判定してもよい。
使用者は、アプリを起動させて、表示領域Vにコンテンツを表示させると、表示されたコンテンツに対する操作を行う。
例えば、表示制御部155は、起動されたアプリがブラウザソフトウェアである場合、このブラウザソフトウェアが表示するブラウザ画面の検索欄にキーワードを入力するため、入力用コンテンツとしてソフトウェアキーボード170を表示させてもよい。ソフトウェアキーボード170の操作は、使用者の視線方向を視線センサー68により検出して、視線方向に対応するソフトウェアキーボード170のキーを判定してもよい。
また、カメラ61の撮像画像に基づいて、ソフトウェアキーボード170のキーを選択してもよい。
制御部150は、画像表示部20のカメラ61により使用者の手指を撮像し、撮像画像から手指が写った手指領域を検出する。検出した手指領域から手指の形状を特定して、手指の先端と重なるソフトウェアキーボード170上のキーを特定する。手指の先端に重なるソフトウェアキーボード170上のキーの特定には、キャリブレーションにより生成したパラメーターが用いられる。制御部150は、パラメーターを使用して、撮像画像上の手指領域の座標を、表示領域Vの座標に変換して、手指の先端に重なるソフトウェアキーボード170上のキーを特定する。
制御部150は、画像表示部20のカメラ61により使用者の手指を撮像し、撮像画像から手指が写った手指領域を検出する。検出した手指領域から手指の形状を特定して、手指の先端と重なるソフトウェアキーボード170上のキーを特定する。手指の先端に重なるソフトウェアキーボード170上のキーの特定には、キャリブレーションにより生成したパラメーターが用いられる。制御部150は、パラメーターを使用して、撮像画像上の手指領域の座標を、表示領域Vの座標に変換して、手指の先端に重なるソフトウェアキーボード170上のキーを特定する。
また、表示領域Vに表示させたカーソルを操作して、ソフトウェアキーボード170上のキーを選択してもよい。
使用者によるトラックパッド14や操作部110、操作デバイス3の操作に従い、カーソルをソフトウェアキーボード170上で移動させる。そして、制御部150は、トラックパッド14や操作部110、操作デバイス3による確定操作を受け付けると、この確定操作を受け付けたときのカーソルの位置に対応するソフトウェアキーボード170のキーを特定し、選択されたキーを判定する。
使用者によるトラックパッド14や操作部110、操作デバイス3の操作に従い、カーソルをソフトウェアキーボード170上で移動させる。そして、制御部150は、トラックパッド14や操作部110、操作デバイス3による確定操作を受け付けると、この確定操作を受け付けたときのカーソルの位置に対応するソフトウェアキーボード170のキーを特定し、選択されたキーを判定する。
また、使用者の手指又は頭部の動きによりカーソルをソフトウェアキーボード上で移動させてもよい。
使用者の手指によりカーソルを移動させる場合、制御部150は、カメラ61の撮像画像から使用者の手指が写った手指領域を検出する。制御部150は、例えば、認識辞書を使用して、検出した手指領域から手指の形状を特定し、手指が指し示す方向にカーソルを移動させる。認識辞書は、手指の形状や位置を特定するための情報であり、記憶部122に記憶される。
使用者の手指によりカーソルを移動させる場合、制御部150は、カメラ61の撮像画像から使用者の手指が写った手指領域を検出する。制御部150は、例えば、認識辞書を使用して、検出した手指領域から手指の形状を特定し、手指が指し示す方向にカーソルを移動させる。認識辞書は、手指の形状や位置を特定するための情報であり、記憶部122に記憶される。
また、使用者の頭部の動きを検出してカーソルを移動させる場合、制御部150は、6軸センサー235の検出値に基づいてカーソルを移動させる。例えば、制御部150は、使用者が頭部を右方向へ回転させた場合、すなわち、頭部のZ軸回りの回転を検出した場合、カーソルを所定距離だけ右方向に移動させる。使用者が頭部を左方向に回転させた場合も同様である。また、制御部150は、使用者が頭部を上方向に向けた場合、頭部のX軸回りの回転角度を検出し、検出した回転角度に応じて、カーソルを上方に移動させる。使用者が頭部を下方向に向けた場合も同様である。
また、カーソルがソフトウェアキーボード170の選択したいキーの上に重畳されると、使用者は、このキーを選択する確定操作を行う。この確定操作は、例えば、トラックパッド14や操作部110、操作デバイス3による操作であってもよい。また、使用者の手指の向きによりカーソルを移動させた場合、使用者の頭部の動きにより確定操作を行い、使用者の頭部の動きによりカーソルを移動させた場合、使用者の手指により確定操作を行うようにしてもよい。
図14は、使用者の足下に表示される入力用コンテンツの一例を示す図である。
例えば、使用者の周囲を取り囲むように球面座標(すなわち、使用者が球面座標の中心に位置するように)を設定し、使用者の足下に入力用コンテンツ等のコンテンツを表示させてもよい。制御部150は、図14に示すように、使用者の足下に、左右のそれぞれの方向に対応したカーソルの移動方向を示す画像と、確定操作を示す画像とが表示された入力用コンテンツを表示させる。制御部150は、入力用コンテンツの中心に使用者が位置するように入力用コンテンツを表示させる。
例えば、使用者の周囲を取り囲むように球面座標(すなわち、使用者が球面座標の中心に位置するように)を設定し、使用者の足下に入力用コンテンツ等のコンテンツを表示させてもよい。制御部150は、図14に示すように、使用者の足下に、左右のそれぞれの方向に対応したカーソルの移動方向を示す画像と、確定操作を示す画像とが表示された入力用コンテンツを表示させる。制御部150は、入力用コンテンツの中心に使用者が位置するように入力用コンテンツを表示させる。
使用者は、移動方向を示す画像を足で踏むことでHMD100にカーソルの移動方向を指示する。また、使用者は、カーソルの移動が完了すると、確定操作を示す画像を足で踏む。この操作により、HMD100は、カーソルと重なる位置のキーが選択されたと判定する。
使用者は、画像を足で踏む際、頭部を下に向けてカメラ61の撮像範囲に足下が入るようにする。制御部150は、カメラ61の撮像画像に基づき選択された画像を判定する。例えば、制御部150は、足が右方向に踏み出されている場合、カーソルを右方向に移動させる画像が選択されたと判定する。また、制御部150は、足が左方向に踏み出されている場合、カーソルを左方向に移動させる画像が選択されたと判定する。また、制御部150は、足が体の正面の前方向に踏み出されている場合、確定操作が入力されたと判定する。
また、制御部150は、トラックパッド14や操作部110、操作デバイス3の操作を受け付けた場合に、使用者の足下に表示させる画像を変更してもよい。例えば、上下のそれぞれの方向に対応したカーソルの移動方向を示す画像と、確定操作を示す画像とが表示された入力用コンテンツを表示させてもよい。また、操作デバイス3に搭載されたカメラ325の撮像する撮像画像を使用して、選択された画像を判定してもよい。
使用者は、画像を足で踏む際、頭部を下に向けてカメラ61の撮像範囲に足下が入るようにする。制御部150は、カメラ61の撮像画像に基づき選択された画像を判定する。例えば、制御部150は、足が右方向に踏み出されている場合、カーソルを右方向に移動させる画像が選択されたと判定する。また、制御部150は、足が左方向に踏み出されている場合、カーソルを左方向に移動させる画像が選択されたと判定する。また、制御部150は、足が体の正面の前方向に踏み出されている場合、確定操作が入力されたと判定する。
また、制御部150は、トラックパッド14や操作部110、操作デバイス3の操作を受け付けた場合に、使用者の足下に表示させる画像を変更してもよい。例えば、上下のそれぞれの方向に対応したカーソルの移動方向を示す画像と、確定操作を示す画像とが表示された入力用コンテンツを表示させてもよい。また、操作デバイス3に搭載されたカメラ325の撮像する撮像画像を使用して、選択された画像を判定してもよい。
図15は、アプリ又はアプリ画面を選択する画像を示す図である。アプリ画面とは、アプリによって表示される画面である。
制御部150は、HMD100にインストールされたアプリの中から起動させるアプリを選択する場合に、アプリを示すアイコンを円形状に配置した画像を画像表示部20により表示させてもよい。また、複数のアプリが起動した状態で、表示領域Vに表示させるアプリ画面を選択する場合に、アプリ画面を円形状に配置した画像を画像表示部20により表示させてもよい。制御部150は、球面座標上に対応付けた座標に応じた並びでアプリ画面を示す画像を生成し、表示領域Vに表示させる。
使用者は、アプリを示すアイコンやアプリ画面が並べられた画像からアプリやアプリ画面を選択する場合、トラックパッド14や操作部110、操作デバイス3を操作して選択してもよいが、使用者の足の操作によってアプリやアプリ画面を選択してもよい。
使用者は、アプリやアプリ画面を選択する場合、頭部を下に向けて、右足又は左足を一歩前に出す。すなわち、画像表示部20に搭載されたカメラ61により使用者の右足又は左足が撮像されるようにする。
制御部150は、カメラ61の撮像画像から踏み出された足を判定する。例えば、制御部150は、撮像画像に右足が写っている場合、アプリやアプリ画面が表示された画像を右回りに回転させる。また、制御部150は、撮像画像に左足が写っている場合、アプリやアプリ画面が表示された画像を左回りに回転させる。制御部150は、図15に示す選択位置に予め設定された時間以上停止しているアプリやアプリ画面がある場合に、このアプリやアプリ画面が選択されたと判定し、選択されたアプリを起動させ、又は選択されたアプリ画面を表示領域Vに表示させる。
制御部150は、HMD100にインストールされたアプリの中から起動させるアプリを選択する場合に、アプリを示すアイコンを円形状に配置した画像を画像表示部20により表示させてもよい。また、複数のアプリが起動した状態で、表示領域Vに表示させるアプリ画面を選択する場合に、アプリ画面を円形状に配置した画像を画像表示部20により表示させてもよい。制御部150は、球面座標上に対応付けた座標に応じた並びでアプリ画面を示す画像を生成し、表示領域Vに表示させる。
使用者は、アプリを示すアイコンやアプリ画面が並べられた画像からアプリやアプリ画面を選択する場合、トラックパッド14や操作部110、操作デバイス3を操作して選択してもよいが、使用者の足の操作によってアプリやアプリ画面を選択してもよい。
使用者は、アプリやアプリ画面を選択する場合、頭部を下に向けて、右足又は左足を一歩前に出す。すなわち、画像表示部20に搭載されたカメラ61により使用者の右足又は左足が撮像されるようにする。
制御部150は、カメラ61の撮像画像から踏み出された足を判定する。例えば、制御部150は、撮像画像に右足が写っている場合、アプリやアプリ画面が表示された画像を右回りに回転させる。また、制御部150は、撮像画像に左足が写っている場合、アプリやアプリ画面が表示された画像を左回りに回転させる。制御部150は、図15に示す選択位置に予め設定された時間以上停止しているアプリやアプリ画面がある場合に、このアプリやアプリ画面が選択されたと判定し、選択されたアプリを起動させ、又は選択されたアプリ画面を表示領域Vに表示させる。
図16及び図17は、HMD100の動作を示すフローチャートである。
制御部150は、基準状態の設定を行う。制御部150は、まず、第1の操作を受け付けたか否かを判定する(ステップS1)。否定判定の場合(ステップS1/NO)、制御部150は、第1の操作を受け付けるまで待機する。また、肯定判定の場合(ステップS1/YES)、制御部150は、第2の操作を受け付けたか否かを判定する(ステップS2)。制御部150は、否定判定の場合(ステップS2/NO)、第2の操作を受け付けるまで待機する。また、肯定判定の場合(ステップS2/YES)、制御部150は、6軸センサーや磁気センサー237の検出値を取得する(ステップS3)。
制御部150は、基準状態の設定を行う。制御部150は、まず、第1の操作を受け付けたか否かを判定する(ステップS1)。否定判定の場合(ステップS1/NO)、制御部150は、第1の操作を受け付けるまで待機する。また、肯定判定の場合(ステップS1/YES)、制御部150は、第2の操作を受け付けたか否かを判定する(ステップS2)。制御部150は、否定判定の場合(ステップS2/NO)、第2の操作を受け付けるまで待機する。また、肯定判定の場合(ステップS2/YES)、制御部150は、6軸センサーや磁気センサー237の検出値を取得する(ステップS3)。
次に制御部150は、取得した6軸センサーや磁気センサー237の検出値に基づき頭部の回転軸と、回転軸を中心として回転する頭部の位置とに基づき基準方位を設定する(ステップS4)。
次に、制御部150は、アプリを起動させる操作を受け付けたか否かを判定する(ステップS5)。否定判定の場合(ステップS5/NO)、制御部150は、ステップS10の判定に移行する。ステップS10の判定については後述する。また、肯定判定の場合(ステップS5/YES)、制御部150は、すでに起動中の他のアプリがあるか否かを判定する(ステップS6)。
次に、制御部150は、アプリを起動させる操作を受け付けたか否かを判定する(ステップS5)。否定判定の場合(ステップS5/NO)、制御部150は、ステップS10の判定に移行する。ステップS10の判定については後述する。また、肯定判定の場合(ステップS5/YES)、制御部150は、すでに起動中の他のアプリがあるか否かを判定する(ステップS6)。
ステップS6の判定が否定判定の場合(ステップS6/NO)、制御部150は、ステップS4で設定した基準方位の方向に対応する球面座標上の座標に起動させたアプリの画面(以下、アプリ画面という)を対応付ける(ステップS8)。また、ステップS6の判定が肯定判定の場合(ステップS6/YES)、制御部150は、起動済みのアプリ画面を球面座標上の他の座標に対応付ける(ステップS7)。そして、制御部150は、起動させたアプリ画面を、ステップS4で設定した基準方位の方向に対応する球面座標上の座標に対応付ける(ステップS8)。その後、制御部150は、起動させたアプリ画面を画像表示部20により表示領域Vに表示させる(ステップS9)。
ステップS5〜S9の処理についてより詳細に説明する。
使用者の頭部は、基準状態の設定動作において設定した基準方位の方向に向いていると仮定して説明する。
例えば、使用者がアプリを起動させると、表示制御部155は、このアプリが表示する画面(以下、アプリ画面Aという)を画像表示部20により表示させる。また、表示制御部155は、このアプリ画面Aを球面座標上の座標に対応付ける。表示制御部155は、アプリ画面Aを、球面座標上の偏角φが0度の座標に対応付ける。なお、以下では、アプリ画面が対応付けられる距離R及び鉛直方向からの偏角θは、同一の値に設定されるものとし、その説明を省略する。
使用者の頭部は、基準状態の設定動作において設定した基準方位の方向に向いていると仮定して説明する。
例えば、使用者がアプリを起動させると、表示制御部155は、このアプリが表示する画面(以下、アプリ画面Aという)を画像表示部20により表示させる。また、表示制御部155は、このアプリ画面Aを球面座標上の座標に対応付ける。表示制御部155は、アプリ画面Aを、球面座標上の偏角φが0度の座標に対応付ける。なお、以下では、アプリ画面が対応付けられる距離R及び鉛直方向からの偏角θは、同一の値に設定されるものとし、その説明を省略する。
表示領域Vにアプリ画面Aが表示された状態で、使用者が次のアプリ(以下、アプリBという)を起動させると、表示制御部155は、アプリ画面Aの球面座標上の座標を変更する。
表示制御部155は、起動させたアプリBの画面(以下、アプリ画面Bという)が使用対象又は表示対象として選択される確率が、アプリ画面Aよりも高いと判定する。このため、表示制御部155は、例えば、アプリ画面Aを偏角φが90度の座標に対応付け、偏角φが0度の位置にアプリ画面Bを対応付ける。使用者の頭部は、偏角φが0度の方向を向いているので、表示領域Vにはアプリ画面Bが表示される。
表示制御部155は、起動させたアプリBの画面(以下、アプリ画面Bという)が使用対象又は表示対象として選択される確率が、アプリ画面Aよりも高いと判定する。このため、表示制御部155は、例えば、アプリ画面Aを偏角φが90度の座標に対応付け、偏角φが0度の位置にアプリ画面Bを対応付ける。使用者の頭部は、偏角φが0度の方向を向いているので、表示領域Vにはアプリ画面Bが表示される。
次に、表示領域Vにアプリ画面Bが表示された状態で、使用者が次のアプリ(以下、アプリCという)を起動させると、表示制御部155は、アプリ画面A及びアプリ画面Bの球面座標上の座標を変更する。
この場合も、表示制御部155は、起動させたアプリCの画面(以下、アプリ画面Cという)が使用対象又は表示対象として選択される確率が、アプリ画面A及びアプリ画面Bよりも高いと判定する。このため、表示制御部155は、例えば、アプリ画面Aを偏角φが180度の座標に対応付け、アプリ画面Aを偏角φが90度の座標に対応付ける。そして、表示制御部155は、偏角φが0度の位置にアプリ画面Cを対応付ける。使用者の頭部は、偏角φが0度の方向を向いているので、表示領域Vにはアプリ画面Cが表示される。
この場合も、表示制御部155は、起動させたアプリCの画面(以下、アプリ画面Cという)が使用対象又は表示対象として選択される確率が、アプリ画面A及びアプリ画面Bよりも高いと判定する。このため、表示制御部155は、例えば、アプリ画面Aを偏角φが180度の座標に対応付け、アプリ画面Aを偏角φが90度の座標に対応付ける。そして、表示制御部155は、偏角φが0度の位置にアプリ画面Cを対応付ける。使用者の頭部は、偏角φが0度の方向を向いているので、表示領域Vにはアプリ画面Cが表示される。
使用者は、アプリ画面Cの操作中に、アプリAのアプリ画面Aを表示させたい場合、頭部を180度回転させる。頭部動き検出部151は、6軸センサー235の検出値に基づいて頭部の回転方向及び回転した角度を検出し、表示制御部155は、頭部動き検出部151が検出した頭部の回転方向及び回転角度に従って、表示領域Vの位置を球面座標上で移動させる。表示制御部153は、移動後の表示領域V内に設定されたコンテンツの座標が存在する場合、このコンテンツを表示領域Vに表示させる。これにより、偏角φが180度の方向に向いた使用者は、アプリ画面Aを表示領域Vに表示させることができる。
図17に示すフローチャートを参照してHMD100の動作について引き続き説明する。
制御部150は、ステップS9でアプリ画面を表示領域Vに表示させた場合、また、ステップS5の判定が否定判定の場合、6軸センサー235や磁気センサー237の検出値に基づき頭部の動きを検出したか否かを判定する(ステップS10)。否定判定の場合(ステップS10/NO)、制御部150は、ステップS5の判定に戻り、アプリが起動されたか否かを判定する(ステップS5)。
制御部150は、ステップS9でアプリ画面を表示領域Vに表示させた場合、また、ステップS5の判定が否定判定の場合、6軸センサー235や磁気センサー237の検出値に基づき頭部の動きを検出したか否かを判定する(ステップS10)。否定判定の場合(ステップS10/NO)、制御部150は、ステップS5の判定に戻り、アプリが起動されたか否かを判定する(ステップS5)。
また、ステップS10の判定が肯定判定の場合(ステップS10/YES)、制御部150は、起動済みの他のアプリがあるか否かを判定する(ステップS11)。否定判定の場合(ステップS11/NO)、制御部150は、ステップS13の判定に移行する。ステップS13では、制御部150は、6軸センサー235や磁気センサー237の検出値に基づき基準方位の再設定が必要か否かを判定する。すなわち、使用者が無意識に頭部を動かしてしまい、設定した基準方位の方向がズレてしまう場合がある。制御部150は、使用者の頭部が、基準方位の方向として設定した方向から所定値以上動いたと判定した場合、基準方位の再設定を行うと判定する。また、制御部150は、使用者の頭部が、基準方位の方向として設定した方向から所定値以上動いていない場合、基準方位の再設定は必要ないと判定する。
ステップS13の判定が否定判定の場合(ステップS13/NO)、制御部150は、ステップS5の判定に戻り、新たにアプリが起動されたか否かを判定する。また、ステップS13の判定が肯定判定の場合(ステップS13/YES)、制御部150は、画像表示部20により「基準方位の再設定を行います。」といったメッセージを表示させ、ステップS2の判定に移行する。
また、ステップS11の判定が肯定判定の場合(ステップS11/YES)、すなわち、起動済みのアプリがある場合、制御部150は、6軸センサー235や磁気センサー237の検出値に基づき、頭部の回転した回転方向及び回転角度を検出する。そして、制御部150は、検出した頭部の回転方向及び回転角度に応じて球面座標上で表示領域Vの位置を移動させる。その後、制御部150は、移動後の表示領域V内に設定されたアプリ画面の座標が存在する場合、このアプリ画面を表示領域Vに表示させる(ステップS12)。
次に、制御部150は、アプリの終了操作を受け付けたか否かを判定する(ステップS14)。否定判定の場合(ステップS14/NO)、制御部150は、ステップS5の判定に戻り、新たにアプリが起動されたか否かを判定する。また、ステップS14の判定が肯定判定の場合(ステップS14/YES)、制御部150は、終了操作を受け付けたアプリを終了させ、このアプリが表示するアプリ画面と球面座標上の座標との対応付けを解除する。その後、制御部150は、起動させたすべてのアプリを終了させたか否かを判定する(ステップS15)。否定判定の場合(ステップS15/NO)、制御部150は、ステップS5の判定に戻り、新たにアプリが起動されたか否かを判定する。また、ステップS15の判定が肯定判定の場合(ステップS15/YES)、制御部150は、この処理フローを終了させる。
上述した実施形態では、頭部の位置や動きに基づいて基準状態を設定したが、指示体としての使用者の手指や腕位置や動きに基づいて基準状態を設定してもよい。例えば、使用者に、6軸センサーや磁気センサーが搭載された操作デバイス3を装着させ、操作デバイス3のセンサーの検出値により基準状態を設定してもよい。使用者は、基準方位として設定したい方向に操作デバイス3を装着した腕を伸ばす。操作デバイス3は、6軸センサーや磁気センサーの検出値をHMD100に送信する。HMD100は、操作デバイス3から送信される検出値に基づいて、基準方位を設定する。
また、上述した説明では、表示領域Vを球面座標上で移動させて、表示させるコンテンツを判定したが、表示領域Vの位置は固定とし、頭部の動きに応じて球面座標を回転させて、球面座標を回転させた後に表示領域V内に位置するコンテンツを特定してもよい。
また、球面座標を回転させる場合に、球面座標を頭部に設定した回転軸に従って回転させてもよい。この回転軸は、地面に垂直に設定してもよいし、使用者の装着する操作デバイス3の表示面と、頭部の回転軸とから設定してもよい。また、使用シーンに応じて回転軸を変更してもよい。
また、球面座標を回転させる場合に、球面座標を頭部に設定した回転軸に従って回転させてもよい。この回転軸は、地面に垂直に設定してもよいし、使用者の装着する操作デバイス3の表示面と、頭部の回転軸とから設定してもよい。また、使用シーンに応じて回転軸を変更してもよい。
また、表示領域Vに表示されたコンテンツの表示倍率を、使用者の手指の位置や動きによって変更してもよい。
例えば、記憶部122に、使用者の手指の動きや位置によるジェスチャーを特定するためのジェスチャー辞書を予め記憶させておく。HMD100は、カメラ61の撮像画像から使用者の手指が写った手指領域を検出して、手指の動きや、形状及び位置を検出する。また、HMD100は、検出した手指の動きや、形状及び位置をジェスチャー辞書に登録されたジェスチャーを特定するための情報と比較して、ジェスチャーを特定する。HMD100は、特定したジェスチャーに対応した処理を実行する。例えば、特定したジェスチャーが表示倍率を上げる操作に対応付けられたジェスチャーであった場合、HMD100は、表示領域Vに表示されたコンテンツの表示倍率を変更し、コンテンツを拡大表示させる。
例えば、記憶部122に、使用者の手指の動きや位置によるジェスチャーを特定するためのジェスチャー辞書を予め記憶させておく。HMD100は、カメラ61の撮像画像から使用者の手指が写った手指領域を検出して、手指の動きや、形状及び位置を検出する。また、HMD100は、検出した手指の動きや、形状及び位置をジェスチャー辞書に登録されたジェスチャーを特定するための情報と比較して、ジェスチャーを特定する。HMD100は、特定したジェスチャーに対応した処理を実行する。例えば、特定したジェスチャーが表示倍率を上げる操作に対応付けられたジェスチャーであった場合、HMD100は、表示領域Vに表示されたコンテンツの表示倍率を変更し、コンテンツを拡大表示させる。
また、上述した実施形態では、座標設定部157が設定する座標として球面座標を例に挙げて説明したが、座標設定部157は、原点又は回転軸から所定距離に位置する円柱形状の座標系であってもよい。また、座標設定部157が設定する座標は、原点又は回転軸から所定距離に位置する平面上に設定された座標であってもよい。また、上述した実施形態では、使用者が位置する原点を回転軸として回転する球面座標を例に説明したが、原点の位置と回転軸の位置とが一致していなくてもよい。
また、上述した実施形態では、6軸センサー235や磁気センサー237の検出値に基づき頭部の位置及び動きを検出して、検出された頭部の動きに対応して、画像表示部20の表示範囲を示す表示領域Vを球面座標上で移動させた。これ以外の方法として、使用者が過去に頭部を向けた方向の履歴情報を記憶部122に記憶させておき、この履歴情報に基づいて頭部の動きを予測してもよい。表示制御部155は、予測結果に従ってコンテンツを選択し、選択したコンテンツを表示領域Vに表示させてもよい。
以上、詳細に説明したように本実施形態のHMD100は、画像表示部20と、検出部としての6軸センサー235、磁気センサー237及び頭部動き検出部151と、基準設定部153と、表示制御部155とを備える。
検出部としての6軸センサー235、磁気センサー237及び頭部動き検出部151は、頭部を含む頭部の位置及び動きの少なくともいずれかを検出する。
基準設定部153は、検出部により検出される頭部の位置及び動きの少なくともいずれかに基づき、基準状態を設定する。表示制御部155は、画像表示部20により表示されるコンテンツの表示を、基準状態に対する頭部の位置及び動きの変化に基づき変化させる。
また、表示制御部155は、複数のコンテンツの相対的な表示位置が維持されるように、表示部が表示するコンテンツの表示を変化させる。
従って、表示させるコンテンツの選択が容易であって、簡単な操作によりコンテンツの表示を変化させることができる。
検出部としての6軸センサー235、磁気センサー237及び頭部動き検出部151は、頭部を含む頭部の位置及び動きの少なくともいずれかを検出する。
基準設定部153は、検出部により検出される頭部の位置及び動きの少なくともいずれかに基づき、基準状態を設定する。表示制御部155は、画像表示部20により表示されるコンテンツの表示を、基準状態に対する頭部の位置及び動きの変化に基づき変化させる。
また、表示制御部155は、複数のコンテンツの相対的な表示位置が維持されるように、表示部が表示するコンテンツの表示を変化させる。
従って、表示させるコンテンツの選択が容易であって、簡単な操作によりコンテンツの表示を変化させることができる。
また、HMD100は、複数のコンテンツの相対的な表示位置を示す表示位置情報を記憶する記憶部122を備える。
表示制御部155は、表示位置情報が示す複数のコンテンツの相対的な表示位置が維持されるようにコンテンツの表示を変化させる。従って、画像表示部20により表示されるコンテンツの表示を、複数のコンテンツの相対的な表示位置が維持されるように変化させることができる。
表示制御部155は、表示位置情報が示す複数のコンテンツの相対的な表示位置が維持されるようにコンテンツの表示を変化させる。従って、画像表示部20により表示されるコンテンツの表示を、複数のコンテンツの相対的な表示位置が維持されるように変化させることができる。
また、表示制御部155は、基準状態に対する頭部の位置及び動きの変化に基づきコンテンツを選択し、選択したコンテンツを画像表示部20により表示させる。
従って、頭部の位置又は動きによりコンテンツを選択し、選択したコンテンツを画像表示部20により表示させることができる。
従って、頭部の位置又は動きによりコンテンツを選択し、選択したコンテンツを画像表示部20により表示させることができる。
また、基準設定部153は、頭部の回転軸と、回転軸を中心として回転する頭部の位置とを基準状態として設定する。
また、HMD100は、座標設定部157を備える。この座標設定部157は、コンテンツの表示位置を、回転軸を中心とする回転方向、及び回転方向に対し垂直な方向に設定可能である。
従って、複数のコンテンツの相対的な表示位置が維持されるように複数のコンテンツを設定することができる。
また、HMD100は、座標設定部157を備える。この座標設定部157は、コンテンツの表示位置を、回転軸を中心とする回転方向、及び回転方向に対し垂直な方向に設定可能である。
従って、複数のコンテンツの相対的な表示位置が維持されるように複数のコンテンツを設定することができる。
また、座標設定部157は、コンテンツの表示位置を、基準状態における頭部の背面側に設定可能である。従って、コンテンツの表示位置にバリエーションを持たせることができる。
また、本発明は、前記表示制御部は、前記コンテンツの表示位置を、前記基準状態における前記検出対象部の背面側に設定可能である。
本発発明によれば、コンテンツの表示位置にバリエーションを持たせることができる。
本発発明によれば、コンテンツの表示位置にバリエーションを持たせることができる。
また、座標設定部157は、複数のコンテンツを回転軸上の点を中心とする球面、或いは、回転軸から所定距離に位置する平面に配置したように視認できる位置に、コンテンツの表示位置を設定可能である。
従って、複数のコンテンツの相対的な表示位置が維持されるようにコンテンツの表示を変化させることができる。
従って、複数のコンテンツの相対的な表示位置が維持されるようにコンテンツの表示を変化させることができる。
また、表示制御部155は、コンテンツを使用者の足下の面に配置したように視認できる位置に、コンテンツの表示位置を設定可能である。
従って、コンテンツを使用者の足下の面に配置したように視認させることができる。
従って、コンテンツを使用者の足下の面に配置したように視認させることができる。
また、画像表示部20は、使用者の右眼に画像を視認させる右表示ユニット22及び使用者の左眼に画像を視認させる左表示ユニット24を備える。
表示制御部155は、コンテンツを、右表示ユニット22と左表示ユニット24とが視差を有する状態で表示させる。
従って、コンテンツを3次元的に表示させることができる。
表示制御部155は、コンテンツを、右表示ユニット22と左表示ユニット24とが視差を有する状態で表示させる。
従って、コンテンツを3次元的に表示させることができる。
また、基準設定部153は、指示体の位置又は動きに従って基準状態を設定する。従って、基準状態を簡易に設定することができる。
また、表示制御部155は、指示体の位置又は動きに従って画像表示部20におけるコンテンツの表示倍率を設定する。
従って、簡単な操作でコンテンツの表示倍率を設定することができる。
従って、簡単な操作でコンテンツの表示倍率を設定することができる。
また、表示制御部155は、いずれかのコンテンツに対する入力操作に用いる入力用コンテンツを画像表示部20により表示させる。
従って、コンテンツに対する入力操作を入力用コンテンツにより行うことができる。
従って、コンテンツに対する入力操作を入力用コンテンツにより行うことができる。
また、基準設定部153は、頭部が設定された所定時間以上停止したと判定した場合に、停止した頭部の位置を基準状態として設定する。
従って、使用者の意図しない位置で基準状態が設定されないようにすることができる。
従って、使用者の意図しない位置で基準状態が設定されないようにすることができる。
また、HMD100は、使用者の視線の向きを検出する視線センサー68を備える。基準設定部153は、頭部の位置又は動きと、視線センサー68が検出する視線の向きとを含む基準状態を設定する。
従って、使用者の状態に対応して、より詳細に基準状態を設定することができる。
従って、使用者の状態に対応して、より詳細に基準状態を設定することができる。
また、検出部は画像表示部20の筐体に配置され、GPS信号に基づき位置検出を行うGPS検出部、加速度を検出する加速度センサー、角加速度を検出する角加速度センサー、単眼カメラ、ステレオカメラ、磁気センサーの少なくともいずれかを含む。
従って、検出部により、頭部の位置又は動きを精度よく検出することができる。
従って、検出部により、頭部の位置又は動きを精度よく検出することができる。
また、磁気センサー237が、画像表示部20の筐体の外面側に配置される。
従って、筐体による磁気センサー237による磁気の検出への影響を低減することができる。
従って、筐体による磁気センサー237による磁気の検出への影響を低減することができる。
また、HMD100は、複数の機能を実行する制御部150を備え、各々のコンテンツは制御部150が実行する機能に対応する。
従って、制御部150が実行する機能に対応したコンテンツを画像表示部20により表示させることができる。
従って、制御部150が実行する機能に対応したコンテンツを画像表示部20により表示させることができる。
また、制御部150は、画像表示部20が表示するコンテンツの内容を変更する編集処理部として機能する。従って、制御部150によりコンテンツの内容を変更することができる。
また、表示制御部155は、基準状態に対する頭部の位置及び動きの変化に基づき、画像表示部20により表示される複数のコンテンツをサムネイル表示させる。
従って、画像表示部20により表示されるコンテンツを使用者に容易に把握させることができる。
従って、画像表示部20により表示されるコンテンツを使用者に容易に把握させることができる。
また、表示制御部155は、基準状態に対する頭部の位置及び動きの変化を予測し、予測結果に従ってコンテンツの表示を変化させる。
従って、コンテンツの表示を変化させるタイミングを早めることができる。
従って、コンテンツの表示を変化させるタイミングを早めることができる。
また、表示制御部155は、複数のコンテンツを、頭部に対して遠近方向に異なる位置に配置されるように画像表示部20により表示させる。
従って、画像表示部20が表示するコンテンツを複数の位置に表示させることができる。
従って、画像表示部20が表示するコンテンツを複数の位置に表示させることができる。
なお、この発明は上記各実施形態の構成に限られるものではなく、その要旨を逸脱しない範囲において種々の態様において実施することが可能である。
例えば、上述した実施形態では、制御装置10が画像表示部20と有線接続される構成を例示したが、本発明はこれに限定されず、制御装置10に対して画像表示部20が無線接続される構成であってもよい。この場合の無線通信方式は通信部117が対応する通信方式として例示した方式を採用してもよいし、その他の通信方式であってもよい。
例えば、上述した実施形態では、制御装置10が画像表示部20と有線接続される構成を例示したが、本発明はこれに限定されず、制御装置10に対して画像表示部20が無線接続される構成であってもよい。この場合の無線通信方式は通信部117が対応する通信方式として例示した方式を採用してもよいし、その他の通信方式であってもよい。
また、上述した実施形態では、6軸センサー235や磁気センサー237を用いて頭部の位置や動きを検出したが、これらのセンサーに加え、以下の情報に基づいて頭部の位置や動きを検出してもよい。
GPS受信部115が受信するGPS信号の電波強度や、ビーコン信号の送信装置(図示略)から送信されるビーコン信の電波強度、カメラ61の撮像画像、振動検出センサーの検出値等に基づいて頭部の位置や動きを検出してもよい。また、6軸センサー235や磁気センサー237、振動検出センサーの検出値、GPS信号やビーコン信号の電波強度、撮像画像等を組み合わせて頭部の位置や動きを検出してもよい。
GPS受信部115が受信するGPS信号の電波強度や、ビーコン信号の送信装置(図示略)から送信されるビーコン信の電波強度、カメラ61の撮像画像、振動検出センサーの検出値等に基づいて頭部の位置や動きを検出してもよい。また、6軸センサー235や磁気センサー237、振動検出センサーの検出値、GPS信号やビーコン信号の電波強度、撮像画像等を組み合わせて頭部の位置や動きを検出してもよい。
また、HMD100は、コンテンツの供給元となる種々の外部機器を接続するインターフェイス(図示略)を備えてもよい。例えば、USBインターフェイス、マイクロUSBインターフェイス、メモリーカード用インターフェイス等の有線接続に対応したインターフェイスであってもよく、無線通信インターフェイスで構成してもよい。この場合の外部機器は、HMD100に画像を供給する画像供給装置であり、パーソナルコンピューター(PC)、携帯電話端末、携帯型ゲーム機等が用いられる。この場合、HMD100は、これらの外部機器から入力されるコンテンツデータに基づく画像や音声を出力できる。
また、制御装置10が備える一部の機能を画像表示部20に設けてもよく、制御装置10を複数の装置により実現してもよい。すなわち、制御装置10は、箱形のケース10Aを備える構成に限定されない。例えば、制御装置10に代えて、使用者の身体、着衣又は、使用者が身につける装身具に取り付け可能なウェアラブルデバイスを用いてもよい。この場合のウェアラブルデバイスは、例えば、時計型の装置、指輪型の装置、レーザーポインター、マウス、エアーマウス、ゲームコントローラー、ペン型のデバイス等であってもよい。
さらに、上記各実施形態では、画像表示部20と制御装置10とが分離され、接続ケーブル40を介して接続された構成を例に挙げて説明した。本発明はこれに限定されず、制御装置10と画像表示部20とが一体に構成され、使用者の頭部に装着される構成とすることも可能である。
また、制御装置10として、ノート型コンピューター、タブレット型コンピューター又はデスクトップ型コンピューターを用いてもよい。また、制御装置10として、ゲーム機や携帯型電話機やスマートフォンや携帯型メディアプレーヤーを含む携帯型電子機器、その他の専用機器等を用いてもよい。
また、上記各実施形態において、使用者が表示部を透過して外景を視認する構成は、右導光板26及び左導光板28が外光を透過する構成に限定されない。例えば外景を視認できない状態で画像を表示する表示装置にも適用可能である。具体的には、カメラ61の撮像画像、この撮像画像に基づき生成される画像やCG、予め記憶された映像データや外部から入力される映像データに基づく映像等を表示する表示装置に、本発明を適用できる。この種の表示装置としては、外景を視認できない、いわゆるクローズ型の表示装置を含むことができる。また、上記実施形態で説明したように実空間に重ねて画像を表示するAR表示や、撮像した実空間の画像と仮想画像とを組み合わせるMR(Mixed Reality)表示といった処理を行わない表示装置に本発明を適用できる。また、仮想画像を表示するVR(Virtual Reality)表示といった処理を行わない表示装置にも本発明を適用できる。例えば、外部から入力される映像データ又はアナログ映像信号を表示する表示装置も、本発明の適用対象として勿論含まれる。
また、例えば、画像表示部20に代えて、例えば帽子のように装着する画像表示部等の他の方式の画像表示部を採用してもよく、使用者の左眼LEに対応して画像を表示する表示部と、使用者の右眼REに対応して画像を表示する表示部とを備えていればよい。また、本発明の表示装置は、例えば、自動車や飛行機等の車両に搭載されるヘッドマウントディスプレイとして構成されてもよい。また、例えば、ヘルメット等の身体防護具に内蔵されたヘッドマウントディスプレイとして構成されてもよい。この場合、使用者の身体に対する位置を位置決めする部分、及び当該部分に対し位置決めされる部分を装着部とすることができる。
また、画像光を使用者の眼に導く光学系として、右導光板26及び左導光板28の一部に、ハーフミラー261、281により虚像が形成される構成を例示した。本発明はこれに限定されず、右導光板26及び左導光板28の全面又は大部分を占める面積を有する表示領域に、画像を表示する構成としてもよい。この場合、画像の表示位置を変化させる動作において、画像を縮小する処理を含めてもよい。
さらに、本発明の光学素子は、ハーフミラー261、281を有する右導光板26、左導光板28に限定されず、画像光を使用者の眼に入射させる光学部品であればよく、具体的には、回折格子、プリズム、ホログラフィー表示部を用いてもよい。
さらに、本発明の光学素子は、ハーフミラー261、281を有する右導光板26、左導光板28に限定されず、画像光を使用者の眼に入射させる光学部品であればよく、具体的には、回折格子、プリズム、ホログラフィー表示部を用いてもよい。
また、図4、図5等に示した各機能ブロックのうち少なくとも一部は、ハードウェアで実現してもよいし、ハードウェアとソフトウェアの協働により実現される構成としてもよく、図に示した通りに独立したハードウェア資源を配置する構成に限定されない。また、制御部150が実行するプログラムは、不揮発性記憶部121又は制御装置10内の他の記憶装置(図示略)に記憶されてもよい。また、外部の装置に記憶されたプログラムを通信部117や外部コネクター184を介して取得して実行する構成としてもよい。また、制御装置10に形成された構成のうち、操作部110が使用者インターフェイス(UI)として形成されてもよい。
また、図16及び図17に示すフローチャートの処理単位は、HMD100の制御部150の処理を理解容易にするために、主な処理内容に応じて分割したものであり、処理単位の分割の仕方や名称によって本発明が制限されることはない。また、制御部150の処理は、処理内容に応じて、さらに多くの処理単位に分割することもできるし、1つの処理単位がさらに多くの処理を含むように分割することもできる。また、上記のフローチャートの処理順序も、図示した例に限られるものではない。
1…システム、10…制御装置、10A…ケース、11…ボタン、12、67…LEDインジケーター、14…トラックパッド、15…上下キー、16…切替スイッチ、17…LED表示部、18…電源スイッチ、19…バイブレーター、20…画像表示部(表示部)、21…右保持部、22…右表示ユニット(右表示部)、23…左保持部、24…左表示ユニット(左表示部)、26…右導光板、27…前部フレーム、28…左導光板、30…ヘッドセット、32…右イヤホン、34…左イヤホン、40…接続ケーブル、46…コネクター、61…カメラ、63…マイク、65…照度センサー、68…視線センサー(視線検出部)、100…HMD(表示装置)、110…操作部、111…6軸センサー、113…磁気センサー、115…GPS受信部、117…通信部、120…コントローラー基板、121…不揮発性記憶部、123…メモリー、125…記憶部、127…設定データ、128…コンテンツデータ、130…電源部、132…バッテリー、134…電源制御回路、140…メインプロセッサー、141…オペレーティングシステム、143…画像処理部、145…撮像制御部、147…操作制御部、149…指示体検出部、150…制御部(処理部、編集処理部)、151…頭部動き検出部、153…基準設定部、155…表示制御部、157…座標設定部、180…音声コーデック、182…音声インターフェイス、184…外部コネクター、186…外部メモリーインターフェイス、188…USBコネクター、192…センサーハブ、194…FPGA、196…インターフェイス、211…インターフェイス、213…受信部、215…EEPROM、217…温度センサー、221…OLEDユニット、223…OLEDパネル、225…OLED駆動回路、231…インターフェイス、233…受信部、235…6軸センサー(検出部)、237…磁気センサー(検出部)、239…温度センサー、241…OLEDユニット、243…OLEDパネル、245…OLED駆動回路、251…右光学系、252…左光学系、261、281…ハーフミラー、VR…視界、V…表示領域。
Claims (21)
- 使用者の頭部に装着される表示部と、
前記頭部を含む検出対象部の位置及び動きの少なくともいずれかを検出する検出部と、
前記検出部により検出される前記検出対象部の位置及び動きの少なくともいずれかに基づき、基準状態を設定する基準設定部と、
前記表示部により表示されるコンテンツの表示を、前記基準状態に対する前記検出対象部の位置及び動きの変化に基づき変化させる表示制御部と、を備え、
前記表示制御部は、複数の前記コンテンツの相対的な表示位置が維持されるように、前記表示部が表示する前記コンテンツの表示を変化させる表示装置。 - 複数の前記コンテンツの相対的な表示位置を示す表示位置情報を記憶する記憶部を備え、
前記表示制御部は、前記表示位置情報が示す複数の前記コンテンツの相対的な表示位置が維持されるように前記コンテンツの表示を変化させる請求項1記載の表示装置。 - 前記表示制御部は、前記基準状態に対する前記検出対象部の位置及び動きの変化に基づき前記コンテンツを選択し、選択した前記コンテンツを前記表示部に表示させる請求項1又は2記載の表示装置。
- 前記基準設定部は、前記検出対象部の回転軸と、前記回転軸を中心として回転する前記検出対象部の位置とに基づいて前記基準状態を設定し、
前記表示制御部は、前記コンテンツの表示位置を、前記回転軸を中心とする回転方向、及び前記回転方向に対し垂直な方向に設定可能である請求項1から3のいずれか1項に記載の表示装置。 - 前記表示制御部は、前記コンテンツの表示位置を、前記基準状態における前記検出対象部の背面側に設定可能である請求項4記載の表示装置。
- 前記表示制御部は、複数の前記コンテンツを前記回転軸上の点を中心とする球面、或いは、前記回転軸から所定距離に位置する平面に配置したように視認できる位置に、前記コンテンツの表示位置を設定可能である請求項4又は5記載の表示装置。
- 前記表示制御部は、前記コンテンツを前記使用者の足下の面に配置したように視認できる位置に、前記コンテンツの表示位置を設定可能である請求項4から6のいずれか1項に記載の表示装置。
- 前記表示部は、前記使用者の右眼に画像を視認させる右表示部及び前記使用者の左眼に画像を視認させる左表示部を備え、
前記表示制御部は、前記コンテンツを、前記右表示部と前記左表示部とが視差を有する状態で表示させる請求項1から7のいずれか1項に記載の表示装置。 - 前記基準設定部は、指示体の位置又は動きに従って前記基準状態を設定する請求項1から8のいずれか1項に記載の表示装置。
- 前記表示制御部は、前記指示体の位置又は動きに従って前記表示部における前記コンテンツの表示倍率を設定する請求項9記載の表示装置。
- 前記表示制御部は、いずれかの前記コンテンツに対する入力操作に用いる入力用コンテンツを前記表示部に表示させる請求項1から10のいずれか1項に記載の表示装置。
- 前記基準設定部は、前記検出対象部が設定された所定時間以上停止したと判定した場合に、停止した前記検出対象部の位置を前記基準状態として設定する請求項1から11のいずれか1項に記載の表示装置。
- 前記使用者の視線の向きを検出する視線検出部を備え、
前記基準設定部は、前記検出対象部の位置又は動きと、前記視線検出部が検出する視線の向きとを含む前記基準状態を設定する請求項1から12のいずれか1項に記載の表示装置。 - 前記検出部は前記表示部の筐体に配置され、GPS信号に基づき位置検出を行うGPS検出部、加速度を検出する加速度センサー、角加速度を検出する角加速度センサー、単眼カメラ、ステレオカメラ、磁気センサーの少なくともいずれかを含む請求項1から13のいずれか1項に記載の表示装置。
- 前記磁気センサーは、前記表示部の筐体の外面側に配置される請求項14記載の表示装置。
- 複数の機能を実行する処理部を備え、各々の前記コンテンツは前記処理部が実行する機能に対応する請求項1から15のいずれか1項に記載の表示装置。
- 前記表示部が表示する前記コンテンツの内容を変更する編集処理部を備える請求項1から16のいずれか1項に記載の表示装置。
- 前記表示制御部は、前記基準状態に対する前記検出対象部の位置及び動きの変化に基づき、前記表示部により表示される複数の前記コンテンツをサムネイル表示させる請求項1から17のいずれか1項に記載の表示装置。
- 前記表示制御部は、前記基準状態に対する前記検出対象部の位置及び動きの変化を予測し、予測結果に従って前記コンテンツの表示を変化させる請求項1から18のいずれか1項に記載の表示装置。
- 前記表示制御部は、複数の前記コンテンツを、前記検出対象部に対して遠近方向に異なる位置に配置されるように前記表示部により表示させる請求項1から19のいずれか1項に記載の表示装置。
- 使用者の頭部に装着される表示部を備える表示装置の制御方法であって、
前記頭部を含む検出対象部の位置及び動きの少なくともいずれかを検出するステップと、
前記検出するステップにより検出される前記検出対象部の位置及び動きの少なくともいずれかに基づき、基準状態を設定するステップと、
前記表示部により表示されるコンテンツの表示を、前記基準状態に対する前記検出対象部の位置及び動きの変化に基づき変化させるステップと、を有し、
複数の前記コンテンツの相対的な表示位置が維持されるように、前記表示部が表示する前記コンテンツの表示を変化させる表示装置の制御方法。
Priority Applications (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016245704A JP2018101019A (ja) | 2016-12-19 | 2016-12-19 | 表示装置及び表示装置の制御方法 |
US15/830,507 US10785472B2 (en) | 2016-12-19 | 2017-12-04 | Display apparatus and method for controlling display apparatus |
CN201711344983.0A CN108205197B (zh) | 2016-12-19 | 2017-12-15 | 显示装置和显示装置的控制方法 |
US16/991,160 US11310483B2 (en) | 2016-12-19 | 2020-08-12 | Display apparatus and method for controlling display apparatus |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016245704A JP2018101019A (ja) | 2016-12-19 | 2016-12-19 | 表示装置及び表示装置の制御方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2018101019A true JP2018101019A (ja) | 2018-06-28 |
Family
ID=62562812
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016245704A Pending JP2018101019A (ja) | 2016-12-19 | 2016-12-19 | 表示装置及び表示装置の制御方法 |
Country Status (3)
Country | Link |
---|---|
US (2) | US10785472B2 (ja) |
JP (1) | JP2018101019A (ja) |
CN (1) | CN108205197B (ja) |
Cited By (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2020145636A (ja) * | 2019-03-08 | 2020-09-10 | アビームコンサルティング株式会社 | 画像表示方法、画像表示システム、プログラム |
WO2020195709A1 (ja) * | 2019-03-28 | 2020-10-01 | ソニー株式会社 | 情報処理装置、情報処理方法及びプログラム |
JP2022039127A (ja) * | 2020-08-28 | 2022-03-10 | 株式会社日立エルジーデータストレージ | ヘッドマウントディスプレイ |
US11391953B2 (en) | 2020-01-30 | 2022-07-19 | Seiko Epson Corporation | Display device, control method for display device, and program |
JP2022113692A (ja) * | 2018-07-04 | 2022-08-04 | マクセル株式会社 | 仮想オブジェクト操作方法およびヘッドマウントディスプレイ |
WO2022176406A1 (ja) * | 2021-02-18 | 2022-08-25 | 株式会社日立エルジーデータストレージ | ヘッドマウントディスプレイ |
WO2024079841A1 (ja) * | 2022-10-13 | 2024-04-18 | 日本電気株式会社 | 状態認識装置、状態認識方法、コンピュータ可読媒体、タスク実行システム、及びタスク実行方法 |
WO2024090844A1 (ko) * | 2022-10-28 | 2024-05-02 | 삼성전자주식회사 | 화면의 상태를 변경하기 위한 웨어러블 장치 및 그 방법 |
JP7564371B2 (ja) | 2021-07-26 | 2024-10-08 | 株式会社Nttドコモ | 仮想空間提供装置 |
Families Citing this family (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP3466067B1 (en) * | 2016-05-26 | 2023-03-15 | Mantis Health, Inc. | System for stereoscopic visualization enabling depth perception of a surgical field |
IL248721A0 (en) * | 2016-11-03 | 2017-02-28 | Khoury Elias | An accessory for providing hands-free computer input |
KR20180074180A (ko) * | 2016-12-23 | 2018-07-03 | 삼성전자주식회사 | 가상현실 영상에 대한 정보를 제공하는 장치 및 방법 |
US10523912B2 (en) * | 2018-02-01 | 2019-12-31 | Microsoft Technology Licensing, Llc | Displaying modified stereo visual content |
CN108227210A (zh) * | 2018-02-26 | 2018-06-29 | 上海小蚁科技有限公司 | 虚拟现实显示方法以及虚拟现实眼镜 |
US11285368B2 (en) * | 2018-03-13 | 2022-03-29 | Vc Inc. | Address direction guiding apparatus and method |
CN109634409A (zh) * | 2018-11-26 | 2019-04-16 | 深圳增强现实技术有限公司 | Ar控制方法及分离式ar设备 |
CN109696962B (zh) * | 2019-01-15 | 2021-01-26 | 京东方科技集团股份有限公司 | 头戴式虚拟现实设备 |
JP7410657B2 (ja) * | 2019-06-25 | 2024-01-10 | シスメックス株式会社 | 表示装置、検体測定システム、表示方法及びプログラム |
JP7499466B2 (ja) * | 2019-08-06 | 2024-06-14 | パナソニックIpマネジメント株式会社 | 表示装置 |
EP3790249A1 (en) * | 2019-09-09 | 2021-03-10 | Nokia Technologies Oy | A user interface, method, computer program for enabling user-selection of audio content |
JP2021047227A (ja) * | 2019-09-17 | 2021-03-25 | セイコーエプソン株式会社 | 表示装置、表示装置の制御プログラム、表示装置の制御方法、及び表示システム |
WO2021061349A1 (en) * | 2019-09-27 | 2021-04-01 | Apple Inc. | Controlling representations of virtual objects in a computer-generated reality environment |
JP2021119431A (ja) * | 2020-01-30 | 2021-08-12 | セイコーエプソン株式会社 | 表示システム、コントローラー、表示システムの制御方法およびプログラム |
JP2021121049A (ja) * | 2020-01-30 | 2021-08-19 | セイコーエプソン株式会社 | 頭部装着型表示装置および頭部装着型表示装置用の省電力制御プログラム |
CN111882608A (zh) * | 2020-07-14 | 2020-11-03 | 中国人民解放军军事科学院国防科技创新研究院 | 一种增强现实眼镜跟踪相机和人眼之间的位姿估计方法 |
CN112162631B (zh) * | 2020-09-18 | 2023-05-16 | 聚好看科技股份有限公司 | 一种交互设备、数据处理方法及介质 |
Family Cites Families (38)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4272711B2 (ja) * | 1995-05-15 | 2009-06-03 | キヤノン株式会社 | 画像生成方法及び装置 |
US6681151B1 (en) * | 2000-12-15 | 2004-01-20 | Cognex Technology And Investment Corporation | System and method for servoing robots based upon workpieces with fiducial marks using machine vision |
US7646394B1 (en) * | 2004-03-05 | 2010-01-12 | Hrl Laboratories, Llc | System and method for operating in a virtual environment |
US20070182812A1 (en) * | 2004-05-19 | 2007-08-09 | Ritchey Kurtis J | Panoramic image-based virtual reality/telepresence audio-visual system and method |
US9101279B2 (en) * | 2006-02-15 | 2015-08-11 | Virtual Video Reality By Ritchey, Llc | Mobile user borne brain activity data and surrounding environment data correlation system |
EP2012170B1 (en) * | 2007-07-06 | 2017-02-15 | Harman Becker Automotive Systems GmbH | Head-tracking system and operating method thereof |
US20130278631A1 (en) * | 2010-02-28 | 2013-10-24 | Osterhout Group, Inc. | 3d positioning of augmented reality information |
JP5148660B2 (ja) * | 2010-06-11 | 2013-02-20 | 株式会社バンダイナムコゲームス | プログラム、情報記憶媒体及び画像生成システム |
US20120066640A1 (en) * | 2010-09-13 | 2012-03-15 | Ati Technologies Ulc | Apparatus for providing multi-mode warping of graphical user interface objects |
US8721427B2 (en) * | 2010-12-14 | 2014-05-13 | Bally Gaming, Inc. | Gaming system, method and device for generating images having a parallax effect using face tracking |
US20120188148A1 (en) * | 2011-01-24 | 2012-07-26 | Microvision, Inc. | Head Mounted Meta-Display System |
JP6375591B2 (ja) * | 2013-01-15 | 2018-08-22 | セイコーエプソン株式会社 | 頭部装着型表示装置、頭部装着型表示装置の制御方法、および、画像表示システム |
EP4099136A1 (en) * | 2013-02-22 | 2022-12-07 | Sony Group Corporation | Head- mounted display and image display device |
JP5983499B2 (ja) * | 2013-03-29 | 2016-08-31 | ソニー株式会社 | 表示制御装置、表示制御方法、およびプログラム |
WO2014185146A1 (ja) * | 2013-05-15 | 2014-11-20 | ソニー株式会社 | 表示制御装置、表示制御方法および記録媒体 |
JP6229314B2 (ja) * | 2013-05-30 | 2017-11-15 | ソニー株式会社 | 情報処理装置、表示制御方法及びプログラム |
KR101716421B1 (ko) * | 2013-06-21 | 2017-03-14 | 삼성전자주식회사 | 정보 제공 방법 및 정보 제공을 위한 의료 진단 장치 |
US9857876B2 (en) * | 2013-07-22 | 2018-01-02 | Leap Motion, Inc. | Non-linear motion capture using Frenet-Serret frames |
JP6353214B2 (ja) * | 2013-11-11 | 2018-07-04 | 株式会社ソニー・インタラクティブエンタテインメント | 画像生成装置および画像生成方法 |
US10254920B2 (en) * | 2013-12-01 | 2019-04-09 | Upskill, Inc. | Systems and methods for accessing a nested menu |
US10453371B2 (en) * | 2014-02-07 | 2019-10-22 | Samsung Electronics Co., Ltd. | Multi-layer display with color and contrast enhancement |
JP2016004340A (ja) * | 2014-06-16 | 2016-01-12 | セイコーエプソン株式会社 | 情報配信システム、頭部装着型表示装置、頭部装着型表示装置の制御方法、および、コンピュータープログラム |
KR102217561B1 (ko) * | 2014-06-23 | 2021-02-19 | 엘지전자 주식회사 | 헤드 마운티드 디스플레이 및 그것의 제어방법 |
WO2016017997A1 (en) * | 2014-07-31 | 2016-02-04 | Samsung Electronics Co., Ltd. | Wearable glasses and method of providing content using the same |
US10719950B2 (en) * | 2014-08-05 | 2020-07-21 | Sony Corporation | Head mount display (HMD) operated with mobile device for transforming reference coordinate systems for providing screen information |
JP6390277B2 (ja) * | 2014-09-02 | 2018-09-19 | ソニー株式会社 | 情報処理装置、制御方法、およびプログラム |
IL235073A (en) * | 2014-10-07 | 2016-02-29 | Elbit Systems Ltd | Head-mounted view of enlarged images that are locked on an object of interest |
KR102183212B1 (ko) * | 2014-11-18 | 2020-11-25 | 삼성전자주식회사 | 화면 제어 방법 및 그 방법을 처리하는 전자 장치 |
US20160170482A1 (en) * | 2014-12-15 | 2016-06-16 | Seiko Epson Corporation | Display apparatus, and control method for display apparatus |
US9904053B2 (en) | 2014-12-25 | 2018-02-27 | Seiko Epson Corporation | Display device, and method of controlling display device |
WO2016129549A1 (ja) | 2015-02-12 | 2016-08-18 | 株式会社コロプラ | ヘッドマウント・ディスプレイを用いたコンテンツ視聴のための装置およびシステム |
JP5961291B1 (ja) | 2015-02-12 | 2016-08-02 | 株式会社コロプラ | コンテンツ視聴のための装置および方法、並びにコンテンツ視聴動作をコンピュータに制御させるコンピュータ・プログラム |
US20170103562A1 (en) * | 2015-10-08 | 2017-04-13 | Disney Enterprises, Inc. | Systems and methods for arranging scenes of animated content to stimulate three-dimensionality |
US9832451B2 (en) * | 2015-11-17 | 2017-11-28 | Survios, Inc. | Methods for reduced-bandwidth wireless 3D video transmission |
KR20170062876A (ko) * | 2015-11-30 | 2017-06-08 | 삼성전자주식회사 | 헤드 마운트 장치 및 이에 탈부착 가능한 장치 |
WO2017116952A1 (en) * | 2015-12-29 | 2017-07-06 | Dolby Laboratories Licensing Corporation | Viewport independent image coding and rendering |
US10126553B2 (en) * | 2016-06-16 | 2018-11-13 | Microsoft Technology Licensing, Llc | Control device with holographic element |
WO2019069575A1 (ja) * | 2017-10-05 | 2019-04-11 | ソニー株式会社 | 情報処理装置、情報処理方法及びプログラム |
-
2016
- 2016-12-19 JP JP2016245704A patent/JP2018101019A/ja active Pending
-
2017
- 2017-12-04 US US15/830,507 patent/US10785472B2/en active Active
- 2017-12-15 CN CN201711344983.0A patent/CN108205197B/zh active Active
-
2020
- 2020-08-12 US US16/991,160 patent/US11310483B2/en active Active
Cited By (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7252398B2 (ja) | 2018-07-04 | 2023-04-04 | マクセル株式会社 | 仮想オブジェクト操作方法およびヘッドマウントディスプレイ |
JP7498330B2 (ja) | 2018-07-04 | 2024-06-11 | マクセル株式会社 | 仮想オブジェクト操作方法およびヘッドマウントディスプレイ |
JP2022113692A (ja) * | 2018-07-04 | 2022-08-04 | マクセル株式会社 | 仮想オブジェクト操作方法およびヘッドマウントディスプレイ |
JP2023075353A (ja) * | 2018-07-04 | 2023-05-30 | マクセル株式会社 | 仮想オブジェクト操作方法およびヘッドマウントディスプレイ |
JP2020145636A (ja) * | 2019-03-08 | 2020-09-10 | アビームコンサルティング株式会社 | 画像表示方法、画像表示システム、プログラム |
WO2020195709A1 (ja) * | 2019-03-28 | 2020-10-01 | ソニー株式会社 | 情報処理装置、情報処理方法及びプログラム |
US11391953B2 (en) | 2020-01-30 | 2022-07-19 | Seiko Epson Corporation | Display device, control method for display device, and program |
JP2022039127A (ja) * | 2020-08-28 | 2022-03-10 | 株式会社日立エルジーデータストレージ | ヘッドマウントディスプレイ |
WO2022176406A1 (ja) * | 2021-02-18 | 2022-08-25 | 株式会社日立エルジーデータストレージ | ヘッドマウントディスプレイ |
JP7465830B2 (ja) | 2021-02-18 | 2024-04-11 | 株式会社日立エルジーデータストレージ | ヘッドマウントディスプレイ |
JP7564371B2 (ja) | 2021-07-26 | 2024-10-08 | 株式会社Nttドコモ | 仮想空間提供装置 |
WO2024079841A1 (ja) * | 2022-10-13 | 2024-04-18 | 日本電気株式会社 | 状態認識装置、状態認識方法、コンピュータ可読媒体、タスク実行システム、及びタスク実行方法 |
WO2024090844A1 (ko) * | 2022-10-28 | 2024-05-02 | 삼성전자주식회사 | 화면의 상태를 변경하기 위한 웨어러블 장치 및 그 방법 |
Also Published As
Publication number | Publication date |
---|---|
CN108205197B (zh) | 2022-03-22 |
US11310483B2 (en) | 2022-04-19 |
US20200374508A1 (en) | 2020-11-26 |
CN108205197A (zh) | 2018-06-26 |
US10785472B2 (en) | 2020-09-22 |
US20180176547A1 (en) | 2018-06-21 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11310483B2 (en) | Display apparatus and method for controlling display apparatus | |
US10635182B2 (en) | Head mounted display device and control method for head mounted display device | |
US10838205B2 (en) | Head mounted display, control method thereof, and computer program | |
US20170289533A1 (en) | Head mounted display, control method thereof, and computer program | |
US10976836B2 (en) | Head-mounted display apparatus and method of controlling head-mounted display apparatus | |
US10474226B2 (en) | Head-mounted display device, computer program, and control method for head-mounted display device | |
US10782531B2 (en) | Head-mounted type display device and method of controlling head-mounted type display device | |
JP2018142857A (ja) | 頭部装着型表示装置、プログラム、及び頭部装着型表示装置の制御方法 | |
JP2018142168A (ja) | 頭部装着型表示装置、プログラム、及び頭部装着型表示装置の制御方法 | |
JP2018124721A (ja) | 頭部装着型表示装置、及び頭部装着型表示装置の制御方法 | |
JP2018124651A (ja) | 表示システム | |
US10884498B2 (en) | Display device and method for controlling display device | |
JP2018137505A (ja) | 表示装置およびその制御方法 | |
JP2018084886A (ja) | 頭部装着型表示装置、頭部装着型表示装置の制御方法、コンピュータープログラム | |
JP6776578B2 (ja) | 入力装置、入力方法、コンピュータープログラム | |
JP6996115B2 (ja) | 頭部装着型表示装置、プログラム、及び頭部装着型表示装置の制御方法 | |
JP2018206080A (ja) | 頭部装着型表示装置、プログラム、及び頭部装着型表示装置の制御方法 | |
JP2017146726A (ja) | 移動支援装置、及び、移動支援方法 | |
JP2017182413A (ja) | 頭部装着型表示装置およびその制御方法、並びにコンピュータープログラム | |
JP6932917B2 (ja) | 頭部装着型表示装置、プログラム、及び頭部装着型表示装置の制御方法 | |
JP2019053644A (ja) | 頭部装着型表示装置、及び頭部装着型表示装置の制御方法 | |
JP2017134630A (ja) | 表示装置、表示装置の制御方法、及び、プログラム | |
JP2017182460A (ja) | 頭部装着型表示装置、頭部装着型表示装置の制御方法、コンピュータープログラム | |
JP6790769B2 (ja) | 頭部装着型表示装置、プログラム、及び頭部装着型表示装置の制御方法 | |
JP2018067160A (ja) | 頭部装着型表示装置およびその制御方法、並びにコンピュータープログラム |