Nothing Special   »   [go: up one dir, main page]

JP2005301668A - 情報処理装置および情報処理プログラム - Google Patents

情報処理装置および情報処理プログラム Download PDF

Info

Publication number
JP2005301668A
JP2005301668A JP2004116784A JP2004116784A JP2005301668A JP 2005301668 A JP2005301668 A JP 2005301668A JP 2004116784 A JP2004116784 A JP 2004116784A JP 2004116784 A JP2004116784 A JP 2004116784A JP 2005301668 A JP2005301668 A JP 2005301668A
Authority
JP
Japan
Prior art keywords
information processing
displayed
processing apparatus
image
gui
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
JP2004116784A
Other languages
English (en)
Inventor
Atsuya Nakamura
淳哉 中村
Haruhisa Kurane
治久 倉根
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Seiko Epson Corp
Original Assignee
Seiko Epson Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Seiko Epson Corp filed Critical Seiko Epson Corp
Priority to JP2004116784A priority Critical patent/JP2005301668A/ja
Publication of JP2005301668A publication Critical patent/JP2005301668A/ja
Withdrawn legal-status Critical Current

Links

Landscapes

  • User Interface Of Digital Computer (AREA)
  • Position Input By Displaying (AREA)

Abstract

【課題】 グラフィカルユーザインターフェースの操作性を向上させること。
【解決手段】 情報処理装置1は、撮像装置10によって撮影されたポインタまでの距離(奥行き)と、各アプリケーションのGUIとが対応付けられており、ユーザが撮像装置10の前でポインタを前後に移動させることにより、各アプリケーションのGUIを切り換えて表示させることができる。したがって、情報処理装置1のディスプレイ60に多数のボタンを表示することのないGUIを構築することができる。即ち、表示画面内にボタンを表示する領域が十分確保できない場合にも、グラフィカルユーザインターフェースの操作性を向上させることが可能となる。
【選択図】 図3

Description

本発明は、グラフィカルユーザインターフェースを備える情報処理装置およびそれを実現するための情報処理プログラムに関する。
現在、PC(Personal Computer)や携帯情報端末あるいは携帯電話といった情報処理装置におけるユーザインターフェースとして、グラフィカルユーザインターフェース(GUI:Graphical User Interface)が用いられている。
GUIは、グラフィックを多用して装置とユーザとの間における情報の入出力を行うユーザインターフェースであり、ユーザはマウス等によって画面上で入力操作ができることから利便性が高いものである。
ところで、情報処理装置のうち、携帯電話等の携帯型の機器においては、キーボード、マウスあるいはトラックボールといった入力機器を用いることが実質上困難である。また、携帯型の機器は機器自体が小型であり、ハードウェアのボタン等を本体に多数備えることも困難である。
そのため、携帯型の機器においては、表示画面に対する操作によって入力が可能なタッチパネルを用いることが考えられる。
ところが、近年、携帯型の機器は小型化が進んでおり、このような機器にGUIを備える場合、限られたサイズの表示画面内に多数のボタンを表示しなければならず、操作性が低下してしまう。その上、表示画面に直接接触したり押圧を加えたりするため、表示画面の汚れや機器の故障の原因となる場合がある。
そこで、携帯型の機器に適用可能なGUIとして、ユーザの身体、例えば手等を撮像装置によって撮影し、その動きによって入力操作を行う技術が提案されている。
例えば、インタラクション2001講演論文集,「空中での手書き文字入力システム−ウェアラブルコンピュータ環境での入力インターフェース−」,園田 智也,村岡 洋一(非特許文献1参照)には、利用者の装着しているヘッドマウントディスプレイにタッチパネルを表示し、利用者の手の動作を画像解析することによって、そのボタンを指先で仮想的に押すことができるインターフェースに関する技術が開示されている。
非特許文献1に記載された技術によれば、表示画面上に表示されたボタンを仮想的に押下することによって入力操作を行うことができるため、マウス等の入力機器を備える必要がなく、また、タッチパネルに実際に接触することもないため、上述の問題が生ずることのないGUIを実現することができる。
園田 智也,村岡 洋一,「空中での手書き文字入力システム−ウェアラブルコンピュータ環境での入力インターフェース−」,インタラクション2001講演論文集,情報処理学会,2001年,pp.3−10
しかしながら、非特許文献1に記載された技術は、ヘッドマウントディスプレイを想定していることから、携帯型の機器における限られたサイズの表示画面の場合に直ちに適用することは困難であった。即ち、携帯型の機器における表示画面の場合、ボタンを表示する領域が十分に確保できず、操作性が低下するという問題があった。
本発明の課題は、グラフィカルユーザインターフェースの操作性を向上させることである。
以上の課題を解決するため、本発明は、
被写体の画像を撮影する撮像手段(例えば、図1および図2の撮像装置10)を備えた情報処理装置であって、予め設定された対象物の画像が前記撮像手段によって撮影されている際に、該対象物に関する所定パラメータ(例えば、対象物までの距離といった対象物との位置関係に基づくパラメータ、対象物の大きさあるいは対象物の色とった対象物自体の形態を示すパラメータ、あるいは、撮影された画像における対象物の画像の大きさ等、上記対象物との位置関係あるいは対象物自体の形態を間接的に示すパラメータ等)を取得するパラメータ取得手段(例えば、図1および図2の撮像装置10、あるいは、対象物との距離や対象物の大きさ等を直接測定する測定装置等)と、前記所定パラメータに応じて、自装置に入力操作を行うための複数の操作画面(例えば、複数のアプリケーションに対応するグラフィカルユーザインターフェース、あるいは、1つのアプリケーションのグラフィカルユーザインターフェースにおける複数のボタン等)を切り換えて表示するインターフェース表示手段(例えば、図2の制御部30、表示制御部50およびディスプレイ60)とを備えることを特徴としている。
これにより、予め設定された対象物が撮影されている場合に、その対象物について取得された所定パラメータに応じて、操作画面が切り換えて表示される。
したがって、対象物における所定パラメータを変化させることにより、ユーザは操作画面を切り換えることが可能となり、表示画面内にボタンを表示する領域が十分確保できない場合であっても、グラフィカルユーザインターフェースの操作性を向上させることが可能となる。
また、前記パラメータ取得手段は、前記撮像手段によって撮影された画像における前記対象物の画像の大きさ(例えば、対象物の画像における累積画素数等)を、前記所定パラメータとして取得することを特徴としている。
これにより、撮像手段によって撮影された画像から所定パラメータを取得することができるため、簡易な機器構成とすることが可能となる。
また、前記インターフェース表示手段は、前記所定パラメータに応じて、自装置が実行可能な複数のアプリケーションに対応するグラフィカルユーザインターフェースを切り換えて表示することを特徴としている。
これにより、複数のアプリケーションを備える場合に、これらの選択を容易に行うことが可能となる。
また、前記インターフェース表示手段は、前記所定パラメータと表示される操作画面との対応関係を示唆する表示(例えば、図8のインジケータ)を行うことを特徴としている。
これにより、ユーザが所定パラメータを変化させる際の操作を支援することが可能となる。
また、前記インターフェース表示手段は、前記複数の操作画面を切り換えて表示する際、表示されている操作画面に対し、前記所定パラメータが変化することにより、新たに表示されることとなる他の操作画面を示唆する画面(例えば、図7(b)の撮像装置10の制御ソフトウェア)を重畳して表示することを特徴としている。
これにより、操作画面を徐々に切り換えることができるため、操作画面が突然切り換わることにより、操作性が低下する事態を防止することが可能となる。
また、前記インターフェース表示手段は、前記所定パラメータが変化した場合に表示が予定される操作画面に関する情報を、現在表示されている操作画面内に表示することを特徴としている。
これにより、ユーザが所定パラメータを変化させる場合の操作を支援することが可能となる。
また、前記対象物の画像を入力操作のためのポインタとして認識し、表示された操作画面内において移動された前記対象物の画像によって、前記操作画面に対する入力操作が可能であることを特徴としている。
これにより、操作画面の切り換えに用いた対象物を、そのまま入力操作に用いることができるため、操作性を向上させることが可能となる。
また、前記インターフェース表示手段は、前記操作画面に入力ボタンを表示し、該入力ボタンに前記対象物の画像が重ねられた時間に応じて、該入力ボタンに対する操作内容を変化させることを特徴としている。
これにより、対象物を用いた簡単な操作で操作画面に対する入力を行うことが可能となる。
また、前記撮像手段によって撮影された対象物の画像における形態の変化を検出する検出手段(例えば、図1および図2の撮像装置10および制御部30)をさらに備え、前記対象物の画像における形態の変化(例えば、対象物の色の変化、大きさの変化あるいは形の変化等)によって、前記操作画面における入力操作が可能であることを特徴としている。
これにより、対象物を用いた簡単な操作で、比較的多様な入力操作を行うことが可能となる。
また、前記所定パラメータと前記複数の操作画面それぞれとの対応関係(例えば、所定パラメータに対して操作画面が配置されている順序や、各操作画面に割り当てる所定パラメータの範囲の大きさ等)を変更可能であることを特徴としている。
これにより、ユーザの要求に応じて、柔軟な設定を行うことが可能となり、操作性のさらなる向上を図ることが可能となる。
また、前記複数の操作画面それぞれの使用頻度を計測する使用頻度計測手段(例えば、図1の制御部30)をさらに備え、該使用頻度計測手段によって計測された使用頻度に応じて、前記所定パラメータと前記複数の操作画面それぞれとの対応関係を設定することを特徴としている。
これにより、使用頻度の高い操作画面を、操作し易い順序に自動的に配置することができ、操作性をさらに向上させることが可能となる。
また、前記所定パラメータの変化に関わらず、前記インターフェース表示手段が表示している操作画面を表示させる操作画面固定手段(例えば、発明を実施するための最良の形態における、ハードウェアとして備えられたGUI固定用のボタンやGUI上に表示されたGUI固定用のボタン)をさらに備えることを特徴としている。
これにより、ユーザが入力操作を行いたい操作画面に固定することができるため、対象物の状態が変化することによって不意に操作画面が切り換わってしまうことを防止できる。
また、本発明は、
被写体の画像を撮影する撮像手段を備えた情報処理装置を制御するための情報処理プログラムであって、予め設定された対象物の画像が前記撮像手段によって撮影されている際に、該対象物に関する所定パラメータを取得するパラメータ取得機能と、前記所定パラメータに応じて、自装置に入力操作を行うための複数の操作画面を切り換えて表示するインターフェース表示機能とを実現させることを特徴としている。
本発明によれば、対象物に関する所定パラメータと、複数の操作画面とが対応付けられており、ユーザが所定パラメータを変化させることにより、各操作画面を切り換えて表示させることができる。
したがって、表示画面内にボタン等を表示する領域が十分確保できない場合であっても、グラフィカルユーザインターフェースの操作性を向上させることが可能となる。
以下、図を参照して本発明に係る情報処理装置の実施の形態を説明する。
まず、構成を説明する。
図1は、本発明を適用した情報処理装置1の外観構成を示す概略図であり、図1(a)は正面図、図1(b)は背面図である。また、図2は、情報処理装置1の機能構成を示すブロック図である。なお、図1においては、情報処理装置1に対する指示入力時に用いられる指示具2を併せて示している。
図1および図2において、情報処理装置1は、撮像装置10と、撮像画像処理ユニット20と、制御部30と、記憶部40と、表示制御部50と、ディスプレイ60とを含んで構成される。
撮像装置10は、レンズの結像をCCD(Charge Coupled Device)あるいはCMOS(Complementary Metal-Oxide Semiconductor)センサ等の光電変換可能なデバイスによって電気信号に変換する。そして、撮像装置10は、その電気信号によって示される画像のデータ(以下、「撮像画像データ」と言う。)を撮像画像処理ユニット20に出力する。
なお、本実施の形態においては、撮像装置10を特許請求の範囲におけるパラメータ取得手段として用い、撮影された画像から、対象物である指示具2等との距離を所定パラメータとして取得するものとして説明するが、この他にも、対象物である指示具2等との距離あるいは指示具2の大きさもしくは形等を直接測定する測定装置を備え、測定された距離、大きさあるいは形を所定パラメータとして取得することとしても良い。
撮像画像処理ユニット20は、画像処理部21と、画像処理用メモリ22とをさらに含んで構成される。
画像処理部21は、撮像装置10によって入力された撮像画像データに対し、例えば色補間やサイズの変更といった、所定形式の画像データに変換する処理を施し、処理結果を画像処理用メモリ22に記憶させる。
画像処理用メモリ22は、SRAM(Static Random Access Memory)等の半導体メモリによって構成され、撮像装置10によって入力された撮像画像データや、画像処理部21の処理結果である所定形式の画像データを記憶する。
制御部30は、プロセッサ31と、メモリ32とをさらに含んで構成される。
プロセッサ31は、情報処理装置1全体を制御するものであり、電源ボタン(不図示)や後述するグラフィカルユーザインターフェース(GUI)によって入力された各種の指示信号に従って、記憶部40に記憶された各種処理に関するプログラムを読み出して実行する。例えば、プロセッサ31は、電源ボタンが押下され、情報処理装置1の電源が投入されると、記憶部40に記憶されたGUI構築処理プログラムを読み出して、本発明に係るGUIを実現するためのGUI構築処理を実行する。そして、プロセッサ31は、各種処理結果をメモリ32や記憶部40の所定の領域に格納したり、表示制御部50に出力したりする。
メモリ32は、DRAM(Dynamic Random Access Memory)等の半導体メモリによって構成され、プロセッサ31により実行される各種処理において生成された各種データを一時的に格納するワークエリアを有する。
記憶部40は、フラッシュROM等の不揮発性の記憶装置によって構成され、情報処理装置1のオペレーティングシステムプログラム、アプリケーションプログラム、システムデータファイルあるいはGUI構築処理プログラムといった不揮発的に保持されるデータを記憶している。また、記憶部40は、ユーザによって設定された各種パラメータや、情報処理装置1が動作中に取得した種々のデータ、例えば、アプリケーションの使用頻度等を記憶している。
なお、アプリケーションの使用頻度については、ユーザの要求に応じて表示することが可能であり、ユーザは、表示された使用頻度に応じて、GUIの配置順序を設定することが可能である。
表示制御部50は、ディスプレイコントローラやディスプレイドライバを含んで構成され、プロセッサ31によって入力された画像データをディスプレイ60に表示させるための制御信号を生成する。
ディスプレイ60は、LCD(Liquid Crystal Display)等の表示装置であり、表示制御部50によって生成された制御信号に応じて、種々の画像を表示する。
続いて、本実施の形態において使用される指示具2について説明する。
図1に示す指示具2は、ユーザが手に持つ部分である棒状の保持部2aと、その先端に取り付けられた球体の被認識部2bとによって構成されている。
この被認識部2bは、赤色に着色されており、情報処理装置1は、撮影された画像における形状および色から被認識部2bを識別する。そして、被認識部2bの画像が、GUIにおけるポインタ(カーソル)とされ、ユーザが保持部2aを持って指示具2を各方向へ移動させることにより、種々の指示入力を行うことが可能である。
なお、指示具2の具体的な形態(形状および色等)は設計に応じて定めることが可能であるが、例えば、保持部2aを直径5ミリメートル、長さ10センチメートルの円柱状とし、被認識部2bを直径2センチメートルの球体とすること等が可能である。
次に、動作を説明する。
情報処理装置1は、電源投入と共にGUI構築処理を起動し、以後の入力操作は、GUI構築処理によって構築されたGUIを介して行われる。
GUI構築処理は、GUIのポインタとして予め設定された指示具2を情報処理装置1によって撮影し、撮影された指示具2までの距離によって複数のアプリケーションのGUIを切り換える処理である。
GUI構築処理が実行される際には、その初期化処理において、情報処理装置1にインストールされている各アプリケーションが、撮影された指示具2までの距離範囲と対応付けられる。即ち、各アプリケーションのGUIが、撮影された画像における奥行き方向に所定の配置順序で仮想的に配置された状態とされる。なお、各アプリケーションが対応付けられた距離範囲相互の間に、いずれのアプリケーションのGUIにも対応付けられていない緩衝部分(以下、適宜「遊び幅」という。)が備えられている。
図3は、各アプリケーションが指示具2までの距離(奥行き)と対応付けられている状態を示す概念図である。
図3において、撮影された画像空間の奥行き方向には、一定範囲に1つずつ各アプリケーションのGUIが配置されている。
各アプリケーションの配置順序は、ユーザの要求あるいは設計仕様等に応じて種々の形態とすることが可能であるが、例えば、上述のようにユーザの設定により、あるいは、自動的に使用頻度が高い順番で各アプリケーションのGUIを配置するといったことが考えられる。
このような初期設定の下、GUI構築処理が実行される。
図4は、情報処理装置1のプロセッサ31が実行するGUI構築処理を示すフローチャートである。
GUI構築処理が起動されると、プロセッサ31は、撮像装置10および撮像画像処理ユニット20によって所定形式の画像データを取得し(ステップS1)、取得した画像データにおいて、GUIのポインタとして設定された指示具2までの距離を導出するための処理(以下、「距離導出処理」という。)を実行する(ステップS2)。
次に、プロセッサ31は、ステップS2において導出された、指示具2までの距離に応じたアプリケーションのGUIを表示する処理(以下、「GUI表示処理」という。)を実行し(ステップS3)、以後、ステップS1〜S3を繰り返す。
続いて、GUI構築処理のステップS2において実行される距離導出処理について説明する。
図5は、GUI構築処理において実行される距離導出処理を示すフローチャートである。
距離導出処理が開始されると、プロセッサ31は、GUI構築処理のステップS1において取得された画像データから、赤色の領域(以下、「対象領域」という。)を抽出する(ステップS101)。
ここで、赤色の領域を抽出するのは、指示具2の被認識部2bが赤色に着色されているためである
次いで、プロセッサ31は、抽出された赤色の領域(対象領域)を黒色、赤色以外の領域を白色に変換し、画像データを2値化する(ステップS102)。
次に、プロセッサ31は、画像データに含まれる画素を間引くことにより画像の縮小処理を行う(ステップS103)。
縮小処理を行うことにより、1画素からなる対象領域のようにノイズとみなすことができる領域を消去することができる。
そして、プロセッサ31は、ステップS103において縮小された画像を再度元のサイズに戻し(ステップS104)、この時点で対象領域として残存している領域それぞれに識別番号を付与(ラベリング)する(ステップS105)。
さらに、プロセッサ31は、ステップS105において識別番号を付与された各対象領域について、円形度の導出を行う(ステップS106)。
なお、各対象領域の円形度は、その輪郭と円とのマッチングを行うことによって導出される。
そして、プロセッサ31は、最も円形度が高いと導出された識別番号の対象領域について画像上の面積X(ここでは累積画素数)を導出し(ステップS107)、GUI構築処理に戻る。
次に、GUI構築処理のステップS3において実行されるGUI表示処理について説明する。
図6は、GUI構築処理において実行されるGUI表示処理を示すフローチャートである。
情報処理装置1においては、面積Xの閾値として小さい順にX1,X2,X3,X4が予め設定されており、GUI表示処理が開始されると、プロセッサ31は、面積XがX1以上かつX2未満であるか否かの判定を行う(ステップS201)。
ステップS201において、面積XがX1以上かつX2未満であると判定した場合、プロセッサ31は、第1のアプリケーションのGUI(例えば、撮像装置10の制御ソフトウェアのGUI)を表示する(ステップS202)。
一方、ステップS201において、面積XがX1以上かつX2未満でないと判定した場合、プロセッサ31は、面積XがX2以上かつX3未満であるか否かの判定を行う(ステップS203)。
ステップS203において、面積XがX2以上かつX3未満であると判定した場合、プロセッサ31は、第2のアプリケーションのGUI(例えば、ミュージックプレイソフトウェアのGUI)を表示する(ステップS204)。
一方、ステップS203において、面積XがX2以上かつX3未満でないと判定した場合、プロセッサ31は、面積XがX3以上かつX4未満であるか否かの判定を行う(ステップS205)。
ステップS205において、面積XがX3以上かつX4未満であると判定した場合、プロセッサ31は、第3のアプリケーションのGUIを表示する(ステップS206)。
一方、ステップS205において、面積XがX3以上かつX4未満でないと判定した場合、プロセッサ31は、GUI構築処理のステップS1に移行する。
そして、プロセッサ31は、GUI表示処理で表示されたGUIにおいて、表示されたボタンが押下されることにより入力操作が行われたと判定した場合には、入力操作に対応する各種処理に移行する。
なお、GUI構築処理で表示されたGUIにおいて、入力操作が行われていないと判定した場合には、プロセッサ31は、入力操作が行われるまでGUI構築処理を繰り返す。
このようなGUI構築処理が実行される結果、ユーザが指示具2を撮像装置10の前で近づけたり遠ざけたりすることにより、ディスプレイ60に第1〜第3のアプリケーションのGUIが順次切り換えて表示される。そのため、ユーザは、指示具2を撮像装置10の前で近づけたり遠ざけたりしながら、所望のアプリケーションのGUIが表示された時点で指示具2の位置を固定し、その奥行きに位置する面内(ディスプレイ60に表示されているGUIの面内)で指示具2を移動させて、必要なボタンを押下することができる。
ボタンを押下する操作の具体的な形態としては、表示されたボタンの位置に指示具2の被認識部2bの画像を重ならせ、その時間経過に応じて、接触している状態、押下した状態と変化させることが可能である。
このとき、ボタンの状態に応じて、ボタンの表示形態を順次変化させることとしても良い。
例えば、経過時間に応じてボタンの色を変化させたり、アルファ値(透過度)を変化させたりすることが可能である。
このようにボタンの表示形態が変化することによって、ユーザにボタンの状態(接触されている状態あるいは押下された状態)を知らせることが可能となる。
なお、ボタンの表示形態を変化させる際の経過時間の長さは、ユーザの要求に応じて設定可能である。
また、ボタンを押下する際の他の形態としては、ポインタとして設定された対象物の色あるいは形状を変化可能なものとしておき(例えば、上述の指示具2の被認識部2bにおいて表を赤、裏を青にする、あるいは、ペンライト等、光の色あるいは輝度を変化可能なものとする等)、ボタンを押下する際には、ポインタをボタンに重ねた状態で、対象物の色あるいは形状を変化させる(被認識部2bを反転させ表裏を入れ替える、あるいは、ペンライト等のスイッチを操作することにより光の色あるいは輝度を切り替える等)ことによってボタンが押下されたものと判定することとしても良い。
また、ユーザが指示具2を撮像装置10の前で近づけたり遠ざけたりする際、一定の奥行きに位置する面内を維持して指示具2を移動させることは、ユーザにとってやや困難な場合もあるため、所望のアプリケーションのGUIが表示された時点で、表示されているGUIを固定し、操作性を向上させることも可能である。この場合、情報処理装置1にハードウェアとして備えられたGUI固定用のボタンや、GUI上に表示されたGUI固定用のボタンが押下されることに対応して、プロセッサ31が、表示されているGUIを固定するように制御することが可能である。
なお、上述の指示具2をGUIのポインタとして設定する場合の他にも、人差し指等、任意のものをポインタとして設定することが可能である。この場合、ポインタとして設定する対象物を撮像装置10によって撮影し、その形状および色等を認識しておくことによって、以後、ポインタとして用いることが可能である。
また、ユーザがポインタとして設定された対象物を撮像装置10の前で近づけたり遠ざけたりした場合、GUI構築処理によって、GUIが表示されるアプリケーションが順次切り換わることとなるが、このとき、異なるアプリケーションのGUIを択一的に切り換えて表示するのではなく、現在選択されているGUI(ポインタとして設定された対象物の位置に対応するGUI)が表示されている状態から、GUIが切り換わりつつあることを示唆する表示を行うこととしても良い。
例えば、現在選択されているGUIを透かした状態とし、切り換わりつつある新たなGUIを重畳して表示すること等が可能である。
図7は、GUI構築処理において、ミュージックプレイソフトウェアのGUIのみが表示された状態(図7(a)参照)と、撮像装置10の制御ソフトウェアのGUIが重畳された状態(図7(b)参照)とを示す図である。
なお、図7においては、指示具2に代えて、人差し指をポインタとして設定した場合を示している。
図7において、ミュージックプレイソフトウェアのGUIのみが表示されている状態(図7(a)の状態)から、ポインタとして設定された人差し指を徐々に情報処理装置1に近づけていくと、所定位置から、次に表示されることとなる撮像装置10の制御ソフトウェアのGUIが重畳された状態で表示されるようになる(図7(b)の状態)。
このような表示を行うことにより、ユーザがポインタ(人差し指)を移動させている際に、突然、異なるアプリケーションのGUIに切り換わってしまい、操作における違和感が生じることを防止できるため、操作性を向上させることが可能となる。
なお、このような表示を上述の遊び幅の部分において行うことが可能である。
以上のように、本実施の形態に係る情報処理装置1は、撮像装置10によって撮影された指示具2までの距離(奥行き)と、各アプリケーションのGUIとが対応付けられており、ユーザが撮像装置10の前で指示具2を前後に移動させることにより、各アプリケーションのGUIを切り換えて表示させることができる。
したがって、情報処理装置1のディスプレイ60に多数のボタンを表示することのないGUIを構築することができる。即ち、表示画面内にボタンを表示する領域が十分確保できない場合であっても、操作性の高いグラフィカルユーザインターフェースを実現することが可能となる。
なお、ポインタとして設定された対象物までの距離と表示されるGUIとの対応関係を明瞭なものとするため、ディスプレイ60に対象物までの距離範囲とアプリケーションとの対応関係を示すインジケータを表示することとしても良い。
図8は、ポインタとして設定された対象物までの距離範囲とアプリケーションとの対応関係を示すインジケータをディスプレイ60に表示する場合の表示画面を示す図である。
図8においては、画像における奥行きを示すメータ上に、アプリケーションが割り当てられている距離範囲と、ポインタ(人差し指)の位置とが対応付けられたインジケータが示されている。
ユーザは、このインジケータを参照しながらポインタを前後に移動させることにより、GUIが切り換わる状態を適確に把握しつつ操作を行うことが可能である。
また、図8においては、現在のポインタの位置の奥および手前に位置しているGUIのアプリケーションをユーザに示唆するため、画像の上部および下部にそれぞれアプリケーション名を表示している。
このような表示を行うことにより、ユーザはいずれの方向にポインタを移動させれば良いかを容易に把握することが可能となる。
ここで、アプリケーションが割り当てられている距離範囲(奥行きの範囲)間の遊び幅は、過度に狭ければ、頻繁にGUIが切り換わることとなり、反対に、過度に広ければ、GUIの切り換えのために対象物を奥行き方向に移動させる距離が長くなるため、ユーザが要求に応じて適切な割り当てを設定することができる。また、アプリケーションが割り当てられている距離範囲自体の長さも、ユーザが要求に応じて設定可能である。
なお、このような割り当ては、GUI構築処理の初期化処理において、情報処理装置1にインストールされている各アプリケーションが、撮影された対象物までの距離範囲と対応付けられる際に、設定を反映させることによって実現可能である。
また、本実施の形態において、撮像装置10によって撮影された画像上にGUIが表示されることについて説明したが、このとき、ポインタの画像を最前面、撮影された画像を最背面に表示し、GUIの上にはポインタの画像のみが表示されている状態とすることが可能である。
図9は、GUI上にポインタの画像のみが表示されている状態を示す図である。
図9においては、撮影された画像、GUI、ポインタの画像の順に手前に表示されているため、ユーザがGUIの操作を行い易く、操作性をさらに向上させることが可能である。なお、図9に示す状態からポインタとして設定された対象物(人差し指)を一定距離だけ奥に移動させることにより、ポインタの画像をGUIの背面に表示するといったことも可能である。
また、本実施の形態においては、ポインタとして設定された対象物までの距離(奥行き)に応じて、複数のアプリケーションのGUIを切り換えて表示する場合を例に挙げて説明したが、本発明の適用対象はこれに限られず、種々の入力操作を行う場合に適用することが可能である。例えば、1つのアプリケーションのGUIにおいて、多数のボタンから1つを選択する場合等に、ポインタの距離に応じて、異なるボタンを順次切り換えて表示すること等が可能である。
また、本実施の形態においては、図3に示すように、各アプリケーションのGUIが画像空間の奥行き方向に配置されているものとして説明したが、アプリケーションが多数備えられている場合には、アプリケーションの選択過程を階層的なものとすることが可能である。即ち、多数のアプリケーションをグループに区分しておき、図3に示す各GUIをグループそれぞれの選択画面とすることによって、まず、いずれかのグループの選択画面であるGUIを選択し、その後に、その選択画面において特定のアプリケーションを選択することが可能である。
本発明を適用した情報処理装置1の外観構成を示す概略図である。 情報処理装置1の機能構成を示すブロック図である。 各アプリケーションが指示具2までの距離と対応付けられている状態を示す概念図である。 情報処理装置1のプロセッサ31が実行するGUI構築処理を示すフローチャートである。 GUI構築処理において実行される距離導出処理を示すフローチャートである。 GUI構築処理において実行されるGUI表示処理を示すフローチャートである。 GUI構築処理において、ミュージックプレイソフトウェアのGUIのみが表示された状態と、撮像装置10の制御ソフトウェアのGUIが重畳された状態とを示す図である。 ポインタの距離範囲とアプリケーションとの対応関係を示すインジケータをディスプレイ60に表示する場合の表示画面を示す図である。 GUI上にポインタの画像のみが表示されている状態を示す図である。
符号の説明
1 情報処理装置、2 指示具、2a 保持部、2b 被認識部、10 撮像装置、20 撮像画像処理ユニット、21 画像処理部、22 画像処理用メモリ、30 制御部、31 プロセッサ、32 メモリ、40 記憶部、50 表示制御部、60 ディスプレイ

Claims (13)

  1. 被写体の画像を撮影する撮像手段を備えた情報処理装置であって、
    予め設定された対象物の画像が前記撮像手段によって撮影されている際に、該対象物に関する所定パラメータを取得するパラメータ取得手段と、
    前記所定パラメータに応じて、自装置に入力操作を行うための複数の操作画面を切り換えて表示するインターフェース表示手段と、
    を備えることを特徴とする情報処理装置。
  2. 前記パラメータ取得手段は、前記撮像手段によって撮影された画像における前記対象物の画像の大きさを、前記所定パラメータとして取得することを特徴とする請求項1記載の情報処理装置。
  3. 前記インターフェース表示手段は、前記所定パラメータに応じて、自装置が実行可能な複数のアプリケーションに対応するグラフィカルユーザインターフェースを切り換えて表示することを特徴とする請求項1または2記載の情報処理装置。
  4. 前記インターフェース表示手段は、前記所定パラメータと表示される操作画面との対応関係を示唆する表示を行うことを特徴とする請求項1から3のいずれか1項に記載の情報処理装置。
  5. 前記インターフェース表示手段は、前記複数の操作画面を切り換えて表示する際、表示されている操作画面に対し、前記所定パラメータが変化することにより、新たに表示されることとなる他の操作画面を示唆する画面を重畳して表示することを特徴とする請求項1から4のいずれか1項に記載の情報処理装置。
  6. 前記インターフェース表示手段は、前記所定パラメータが変化した場合に表示が予定される操作画面に関する情報を、現在表示されている操作画面内に表示することを特徴とする請求項1から5のいずれか1項に記載の情報処理装置。
  7. 前記対象物の画像を入力操作のためのポインタとして認識し、表示された操作画面内において移動された前記対象物の画像によって、前記操作画面に対する入力操作が可能であることを特徴とする請求項1から6のいずれか1項に記載の情報処理装置。
  8. 前記インターフェース表示手段は、前記操作画面に入力ボタンを表示し、
    該入力ボタンに前記対象物の画像が重ねられた時間に応じて、該入力ボタンに対する操作内容を変化させることを特徴とする請求項1から7のいずれか1項に記載の情報処理装置。
  9. 前記撮像手段によって撮影された対象物の画像における形態の変化を検出する検出手段をさらに備え、
    前記対象物の画像における形態の変化によって、前記操作画面における入力操作が可能であることを特徴とする請求項1から8のいずれか1項に記載の情報処理装置。
  10. 前記所定パラメータと前記複数の操作画面それぞれとの対応関係を変更可能であることを特徴とする請求項1から9のいずれか1項に記載の情報処理装置。
  11. 前記複数の操作画面それぞれの使用頻度を計測する使用頻度計測手段をさらに備え、該使用頻度計測手段によって計測された使用頻度に応じて、前記所定パラメータと前記複数の操作画面それぞれとの対応関係を設定することを特徴とする請求項1から10のいずれか1項に記載の情報処理装置。
  12. 前記所定パラメータの変化に関わらず、前記インターフェース表示手段が表示している操作画面を表示させる操作画面固定手段をさらに備えることを特徴とする請求項1から11のいずれか1項に記載の情報処理装置。
  13. 被写体の画像を撮影する撮像手段を備えた情報処理装置を制御するための情報処理プログラムであって、
    予め設定された対象物の画像が前記撮像手段によって撮影されている際に、該対象物に関する所定パラメータを取得するパラメータ取得機能と、
    前記所定パラメータに応じて、自装置に入力操作を行うための複数の操作画面を切り換えて表示するインターフェース表示機能と、
    を実現させることを特徴とする情報処理プログラム。
JP2004116784A 2004-04-12 2004-04-12 情報処理装置および情報処理プログラム Withdrawn JP2005301668A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2004116784A JP2005301668A (ja) 2004-04-12 2004-04-12 情報処理装置および情報処理プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004116784A JP2005301668A (ja) 2004-04-12 2004-04-12 情報処理装置および情報処理プログラム

Publications (1)

Publication Number Publication Date
JP2005301668A true JP2005301668A (ja) 2005-10-27

Family

ID=35333120

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004116784A Withdrawn JP2005301668A (ja) 2004-04-12 2004-04-12 情報処理装置および情報処理プログラム

Country Status (1)

Country Link
JP (1) JP2005301668A (ja)

Cited By (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010092308A (ja) * 2008-10-09 2010-04-22 Alpine Electronics Inc 入力表示装置および入力表示装置における入力方法ならびに入力プログラム
WO2010073928A1 (ja) * 2008-12-22 2010-07-01 ブラザー工業株式会社 ヘッドマウントディスプレイ
JP2011034502A (ja) * 2009-08-05 2011-02-17 Sony Corp 表示装置、表示方法及びプログラム
WO2012032851A1 (ja) * 2010-09-06 2012-03-15 シャープ株式会社 表示システム、および検出方法
JP2013045217A (ja) * 2011-08-23 2013-03-04 Hitachi Consumer Electronics Co Ltd 入力装置
JP2013109421A (ja) * 2011-11-17 2013-06-06 Toshiba Corp 電子機器、電子機器の制御方法、電子機器の制御プログラム
JP2013210723A (ja) * 2012-03-30 2013-10-10 Sharp Corp 表示システム
TWI501130B (zh) * 2010-10-18 2015-09-21 Ind Tech Res Inst 虛擬觸控輸入系統
JP2015172939A (ja) * 2015-04-17 2015-10-01 ソニー株式会社 情報処理装置、情報処理方法およびプログラム
CN105074625A (zh) * 2013-04-02 2015-11-18 索尼公司 信息处理设备、信息处理方法及程序
WO2016006759A1 (en) * 2014-07-09 2016-01-14 Lg Electronics Inc. Display device having scope of accreditation in cooperation with depth of virtual object and controlling method thereof
JP2016091192A (ja) * 2014-10-31 2016-05-23 パイオニア株式会社 虚像表示装置、制御方法、プログラム、及び記憶媒体
US9516206B2 (en) 2010-03-04 2016-12-06 Sony Corporation Information processing apparatus, information processing method, and program
JP6057396B2 (ja) * 2013-03-11 2017-01-11 Necソリューションイノベータ株式会社 3次元ユーザインタフェース装置及び3次元操作処理方法
US9721540B2 (en) 2014-07-09 2017-08-01 Lg Electronics Inc. Display device having scope of accreditation in cooperation with depth of virtual object and controlling method thereof
JP2017199379A (ja) * 2013-02-19 2017-11-02 ミラマ サービス インク 追従表示システム、追従表示プログラム、および追従表示方法、ならびにそれらを用いたウェアラブル機器、ウェアラブル機器用の追従表示プログラム、およびウェアラブル機器の操作方法
JP2019123503A (ja) * 2019-02-25 2019-07-25 パイオニア株式会社 虚像表示装置、制御方法、プログラム、及び記憶媒体
JP2021014262A (ja) * 2020-10-26 2021-02-12 パイオニア株式会社 虚像表示装置、制御方法、プログラム、及び記憶媒体
WO2022247123A1 (zh) * 2021-05-26 2022-12-01 京东方科技集团股份有限公司 显示装置、货柜系统和显示装置的控制方法

Cited By (29)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010092308A (ja) * 2008-10-09 2010-04-22 Alpine Electronics Inc 入力表示装置および入力表示装置における入力方法ならびに入力プログラム
WO2010073928A1 (ja) * 2008-12-22 2010-07-01 ブラザー工業株式会社 ヘッドマウントディスプレイ
JP2010146481A (ja) * 2008-12-22 2010-07-01 Brother Ind Ltd ヘッドマウントディスプレイ
JP2011034502A (ja) * 2009-08-05 2011-02-17 Sony Corp 表示装置、表示方法及びプログラム
US11190678B2 (en) 2010-03-04 2021-11-30 Sony Corporation Information processing apparatus, information processing method, and program
US9516206B2 (en) 2010-03-04 2016-12-06 Sony Corporation Information processing apparatus, information processing method, and program
US10659681B2 (en) 2010-03-04 2020-05-19 Sony Corporation Information processing apparatus, information processing method, and program
US10306136B2 (en) 2010-03-04 2019-05-28 Sony Corporation Information processing apparatus, information processing method, and program
US10015392B2 (en) 2010-03-04 2018-07-03 Sony Corporation Information processing apparatus, information processing method, and program
WO2012032851A1 (ja) * 2010-09-06 2012-03-15 シャープ株式会社 表示システム、および検出方法
TWI501130B (zh) * 2010-10-18 2015-09-21 Ind Tech Res Inst 虛擬觸控輸入系統
JP2013045217A (ja) * 2011-08-23 2013-03-04 Hitachi Consumer Electronics Co Ltd 入力装置
JP2013109421A (ja) * 2011-11-17 2013-06-06 Toshiba Corp 電子機器、電子機器の制御方法、電子機器の制御プログラム
JP2013210723A (ja) * 2012-03-30 2013-10-10 Sharp Corp 表示システム
JP2017199379A (ja) * 2013-02-19 2017-11-02 ミラマ サービス インク 追従表示システム、追従表示プログラム、および追従表示方法、ならびにそれらを用いたウェアラブル機器、ウェアラブル機器用の追従表示プログラム、およびウェアラブル機器の操作方法
US10007351B2 (en) 2013-03-11 2018-06-26 Nec Solution Innovators, Ltd. Three-dimensional user interface device and three-dimensional operation processing method
JPWO2014141504A1 (ja) * 2013-03-11 2017-02-16 Necソリューションイノベータ株式会社 3次元ユーザインタフェース装置及び3次元操作処理方法
JP6057396B2 (ja) * 2013-03-11 2017-01-11 Necソリューションイノベータ株式会社 3次元ユーザインタフェース装置及び3次元操作処理方法
CN105074625B (zh) * 2013-04-02 2018-09-21 索尼公司 信息处理设备、信息处理方法及计算机可读记录介质
US10514767B2 (en) 2013-04-02 2019-12-24 Sony Corporation Information processing apparatus and information processing method
CN105074625A (zh) * 2013-04-02 2015-11-18 索尼公司 信息处理设备、信息处理方法及程序
US9721540B2 (en) 2014-07-09 2017-08-01 Lg Electronics Inc. Display device having scope of accreditation in cooperation with depth of virtual object and controlling method thereof
WO2016006759A1 (en) * 2014-07-09 2016-01-14 Lg Electronics Inc. Display device having scope of accreditation in cooperation with depth of virtual object and controlling method thereof
JP2016091192A (ja) * 2014-10-31 2016-05-23 パイオニア株式会社 虚像表示装置、制御方法、プログラム、及び記憶媒体
JP2015172939A (ja) * 2015-04-17 2015-10-01 ソニー株式会社 情報処理装置、情報処理方法およびプログラム
JP2019123503A (ja) * 2019-02-25 2019-07-25 パイオニア株式会社 虚像表示装置、制御方法、プログラム、及び記憶媒体
JP2021014262A (ja) * 2020-10-26 2021-02-12 パイオニア株式会社 虚像表示装置、制御方法、プログラム、及び記憶媒体
JP7100100B2 (ja) 2020-10-26 2022-07-12 パイオニア株式会社 虚像表示装置、制御方法、プログラム、及び記憶媒体
WO2022247123A1 (zh) * 2021-05-26 2022-12-01 京东方科技集团股份有限公司 显示装置、货柜系统和显示装置的控制方法

Similar Documents

Publication Publication Date Title
JP2005301668A (ja) 情報処理装置および情報処理プログラム
US10152222B2 (en) Digital image processing device and associated methodology of performing touch-based image scaling
JP4609557B2 (ja) 情報処理装置及び情報処理方法
JP5977627B2 (ja) 情報処理装置、情報処理方法およびプログラム
US7956845B2 (en) Apparatus and method for providing virtual graffiti and recording medium for the same
JP5808712B2 (ja) 映像表示装置
JP5287403B2 (ja) 情報処理装置、情報処理方法、およびプログラム
CN107092380B (zh) 一种触摸屏控制方法及其电子装置
US9519365B2 (en) Display control apparatus and control method for the same
JP2009140368A (ja) 入力装置、表示装置、入力方法、表示方法及びプログラム
WO2006104132A1 (ja) ユーザインタフェイスシステム
JP2010224663A5 (ja)
JP2012133490A (ja) 表示制御装置及びその制御方法、プログラム、及び記録媒体
JP2011164676A (ja) 表示装置及びプログラム
US20150002433A1 (en) Method and apparatus for performing a zooming action
US20150268828A1 (en) Information processing device and computer program
JP2013191011A (ja) 画像処理装置、画像処理方法及びプログラム
JP6183820B2 (ja) 端末、及び端末制御方法
JP2005301669A (ja) 情報処理装置および情報処理プログラム
JP2009037464A (ja) 画像表示装置及びコンピュータプログラム
KR101920864B1 (ko) 터치스크린을 이용하여 이미지를 표시하기 위한 방법 및 단말
JP2009271851A (ja) 情報処理装置、そのポインタ表示方法、およびコンピュータが実行可能なプログラム
JP6408241B2 (ja) 携帯端末装置
JP2017215857A (ja) 表示装置、表示方法およびプログラム
JP6120541B2 (ja) 表示制御装置及びその制御方法

Legal Events

Date Code Title Description
A300 Application deemed to be withdrawn because no request for examination was validly filed

Free format text: JAPANESE INTERMEDIATE CODE: A300

Effective date: 20070703