Nothing Special   »   [go: up one dir, main page]

JP2014132427A - 情報処理装置及び情報処理方法、並びにコンピューター・プログラム - Google Patents

情報処理装置及び情報処理方法、並びにコンピューター・プログラム Download PDF

Info

Publication number
JP2014132427A
JP2014132427A JP2013000738A JP2013000738A JP2014132427A JP 2014132427 A JP2014132427 A JP 2014132427A JP 2013000738 A JP2013000738 A JP 2013000738A JP 2013000738 A JP2013000738 A JP 2013000738A JP 2014132427 A JP2014132427 A JP 2014132427A
Authority
JP
Japan
Prior art keywords
screen
user
information processing
pane
processing apparatus
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2013000738A
Other languages
English (en)
Other versions
JP6215534B2 (ja
Inventor
Yusuke Sakai
祐介 阪井
Masayuki Yamada
真之 山田
Shinsuke Noguchi
進祐 野口
Tadayoshi Murakami
忠義 村上
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2013000738A priority Critical patent/JP6215534B2/ja
Priority to US14/143,064 priority patent/US20140195953A1/en
Priority to EP13199812.2A priority patent/EP2752755B1/en
Priority to CN201310750624.0A priority patent/CN103914221A/zh
Publication of JP2014132427A publication Critical patent/JP2014132427A/ja
Application granted granted Critical
Publication of JP6215534B2 publication Critical patent/JP6215534B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/017Gesture based interaction, e.g. based on a set of recognized hand gestures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/0346Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of the device orientation or free movement in a 3D space, e.g. 3D mice, 6-DOF [six degrees of freedom] pointers using gyroscopes, accelerometers or tilt-sensors
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G06F3/0485Scrolling or panning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • G06F3/04883Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures for inputting data by handwriting, e.g. gesture or text
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • G06F3/04886Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures by partitioning the display area of the touch-screen or the surface of the digitising tablet into independently controllable areas, e.g. virtual keyboards or menus
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/038Indexing scheme relating to G06F3/038
    • G06F2203/0381Multimodal input, i.e. interface arrangements enabling the user to issue commands by simultaneous use of input devices of different nature, e.g. voice plus gesture on digitizer
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/048Indexing scheme relating to G06F3/048
    • G06F2203/04803Split screen, i.e. subdividing the display area or the window area into separate subareas
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/048Indexing scheme relating to G06F3/048
    • G06F2203/04808Several contacts: gestures triggering a specific function, e.g. scrolling, zooming, right-click, when the user establishes several contacts with the surface simultaneously; e.g. using several fingers or a combination of fingers and pen

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • User Interface Of Digital Computer (AREA)
  • Digital Computer Display Output (AREA)

Abstract

【課題】画面に対するユーザーのタッチ操作に応じて、画面分割を始めとする複数種類の画面操作を、誤動作なく正確に実行する。
【解決手段】画面の境界線付近にサイズ変更指示領域と画面分割指示領域を定義する。ユーザーがサイズ変更指示領域からタッチを開始したときには、サイズ変更の指示と判定し、その後の指先の移動方向に従って画面のサイズ変更処理を行なう。一方、画面分割指示領域からタッチを開始したときには、画面分割の指示と判定し、その後の指先の移動方向に従って画面の分割処理を行なう。また、その他の領域からタッチを開始したときには通常の挙動と判定する。
【選択図】 図35

Description

本明細書で開示する技術は、タッチパネル式の画面を有する情報処理装置及び情報処理方法、並びにコンピューター・プログラムに係り、特に、画面に対するユーザーのタッチ操作に応じて画面分割などの処理を実行する情報処理装置及び情報処理方法、並びにコンピューター・プログラムに関する。
最近、タッチパネル式などの入力部を兼用した表示画面を有するタブレット端末が急速に普及してきている。タブレット端末は、ウィジェットやデスクトップをインターフェースとし、操作方法が視覚的に分かり易いことから、ユーザーは、キーボードやマウスから入力操作を行なうパーソナル・コンピューターよりも手軽に利用することができる。
例えば、マルチポイント・タッチ・スクリーンなどのマルチポイント感知デバイスからマルチポイント感知デバイスに関連するタッチ入力に属するデータを読み取り、マルチポイント感知デバイスからのデータに基づいてマルチポイント・ジェスチャーを識別するタッチ・センシティブ・デバイスについて提案がなされている(例えば、特許文献1を参照のこと)。
タッチパネル式の画面の操作方法として、ユーザーが指先で画面をなぞる若しくははじく「フリック」あるいは「ドラッグ」と呼ばれる操作が知られている。画面をフリックすると、フリックした方法に画面の表示が移動する「スクロール」処理が実行される。
他方、画面の大型化も進んできている。大画面の利用方法として、複数の画面に分割して、画面毎にアプリケーションを起動して複数の作業を並行して行ない、ユーザーの作業能力を強化したり、分割した各画面を複数のユーザーに割り当てて、マルチユーザーで場を共有したりすることが考えられる。
従来のコンピューターのウィンドウ・システムにおいても、複数のウィンドウを開いて、各ウィンドウの表示場所やサイズを適宜調整することで、複数の機能を同時実行することは可能である。しかしながら、各ウィンドウをオープンした上で、それらの表示場所並びにサイズの調整には、マウスによるメニュー操作、クリック、ドラッグ、ドロップといった複数の操作を行なう必要があり、操作方法が面倒であるとともに直感的でない。
例えば、「Split Browser」機能によれば、firefoxなどのブラウザーのウィンドウを自由に分割し、同じコンテキストのブラウザーを表示する、元のブラウザー内の所望のリンクを分割後のブラウザーに読み込んで表示する、ブラウザー内のリンクやブックマークなどを分割後のブラウザーにドロップする、といった操作や、操作内容を記録することが可能である。しかしながら、「Split Browser」機能は、旧来のマウス操作を基調とするため、操作方法が直感的であるとは言い難い。
また、オペレーターが表示画面に触れた指を表示画面上でなぞって所定量移動させるという操作により表示画面を2分割する表示装置について提案がなされている(例えば、特許文献2を参照のこと)。この表示装置は、オペレーターの指先の軌跡が直線に対して所定の位置ずれ量以内であれば画面分割操作と判断するが、オペレーターの指先の軌跡が曲線を描くときに画面分割以外の操作として処理するようになっている。しかしながら、タッチパネル式のユーザー・インターフェースにおいて、オペレーターの指先の軌跡が直線を描く場合であっても、2分割した画面のサイズ変更や画面スクロールなど画面分割以外の操作を指示したい場合もあるが、この表示装置では、タッチ入力により画面分割以外の画面操作を行なうことはできない。
また、各ユーザーの情報や状況に応じて自動的に画面の分割を行ない、また、ユーザーの状況の変更に応じて、リアルタイムで自動的に分割方法の変更を行ない、さらに、各ユーザーに対応する分割領域にユーザー毎に異なるコンテンツの表示を行なうコンテンツ表示装置について提案がなされている(例えば、特許文献3を参照のこと)。しかしながら、このコンテンツ表示装置は、ユーザーがタッチパネルを介して画面を分割する場所を直接指示することはできない。また、このコンテンツ表示装置は、一旦分割した画面をスクロールしたり、分割した画面のサイズを変更したりする手段を持たない。
特開2010−170573号公報 特開2007−257220号公報 特開2010−20616号公報
本明細書で開示する技術の目的は、タッチパネル式の画面を有し、画面に対するユーザーのタッチ操作に応じて、画面分割を始めとする複数種類の画面操作を、誤動作なく正確に実行することができる、優れた情報処理装置及び情報処理方法、並びにコンピューター・プログラムを提供することにある。
本願は、上記課題を参酌してなされたものであり、請求項1に記載の技術は、
情報を表示する画面と、
前記画面に対して座標を入力する座標入力部と、
前記座標入力部を介してユーザーが入力した軌跡に基づいて、前記ユーザーの指示を判定し、判定結果に応じた前記画面の動作を制御する制御部と、
を具備する情報処理装置である。
本願の請求項2に記載の技術によれば、請求項1に記載の情報処理装置の前記制御部は、前記座標入力部を介してユーザーが入力した軌跡に基づいて、前記ユーザーが前記画面の分割、分割した画面のサイズ変更、又はその他の画面動作のうちいずれを指示したかを判定するように構成されている。
本願の請求項3に記載の技術によれば、請求項2に記載の情報処理装置は、前記画面の境界線を中心とする所定の幅wline内で画面サイズ変更指示領域を定義し、前記画面サイズ変更指示領域の両側から所定の距離wsplit内で画面分割指示領域を定義するようになっている。そして、前記制御部は、前記軌跡の始点が前記画面サイズ変更指示領域内にあるときには前記軌跡に従って前記画面のサイズ変更処理を行ない、前記軌跡の始点が前記画面分割指示領域内にあるときには前記軌跡に従って前記画面の分割処理を行ない、前記軌跡の始点が前記画面分割指示領域よりも前記画面の内側にあるときには前記画面のスクロール又はその他の挙動を実施するように構成されている。
本願の請求項4に記載の技術によれば、請求項2に記載の情報処理装置の前記制御部は、前記軌跡が前記画面の境界線付近で開始し且つその始点位置で所定時間以上停止した後に移動したときには前記軌跡に従って前記画面の分割処理を行ない、前記軌跡が前記画面の境界線付近で開始し且つ停止せずに移動したときには前記軌跡に従って前記画面のサイズ変更処理を行ない、前記画面の内側で前記軌跡が開始したときには前記画面のスクロール又はその他の挙動を実施するように構成されている。
本願の請求項5に記載の技術によれば、請求項2に記載の情報処理装置は、前記画面の境界線の両端に前記境界線を移動操作するハンドルを配設するようになっている。そして、前記制御部は、前記軌跡が前記ハンドルで開始したときには前記軌跡に従って前記画面のサイズ変更処理を行ない、前記軌跡が前記画面の境界線の前記ハンドル以外の部分で開始したときには前記軌跡に従って前記画面の分割処理を行ない、前記画面の内側で前記軌跡が開始したときには前記画面のスクロール又はその他の挙動を実施するように構成されている。
本願の請求項6に記載の技術によれば、請求項2に記載の情報処理装置は、前記画面のサイズ変更処理を禁止するロック機能をさらに備えている。そして、前記制御部は、ロック状態で前記軌跡が前記画面の境界線付近で開始したときには前記軌跡に従って前記画面の分割処理を行ない、ロック解除状態で前記軌跡が前記画面の境界線付近で開始したときには前記軌跡に従って前記画面のサイズ変更処理を行ない、前記画面の内側で前記軌跡が開始したときには前記画面のスクロール又はその他の挙動を実施するように構成されている。
本願の請求項7に記載の技術によれば、請求項6に記載の情報処理装置は、ロック状態か否かを表示するインジケーターをさらに備えている。
本願の請求項8に記載の技術によれば、請求項2に記載の情報処理装置の前記制御部は、前記画面を分割する複数の境界線の交点で前記軌跡が開始したときには、前記軌跡に従って前記交点の位置を移動させて分割された各画面のサイズ変更処理を行なうように構成されている。
本願の請求項9に記載の技術によれば、請求項2に記載の情報処理装置の前記制御部は、分割した後の複数の画面のサイズ変更処理中に、いずれかの画面のサイズが所定サイズに近づいたときに、当該サイズに吸着させるように構成されている。
本願の請求項10に記載の技術によれば、請求項2に記載の情報処理装置の前記制御部は、前記画面を第1の境界線で2分割した第1の画面及び第2の画面をそれぞれ第2の境界線及び第3の境界線でさらに分割したときに、前記第2の境界線と前記第3の境界線が一直線上に重なったときに、前記第1の境界線を前記一直線で2分した線分毎に画面のサイズ変更処理を許可するように構成されている。
本願の請求項11に記載の技術によれば、請求項2に記載の情報処理装置は、前記画面の分割ラインに対して前記軌跡が描く方向に応じて、前記新たな画面の状態を指定する前記指定部を、前記分割ライン上に表示するようになっている。そして、前記制御部は、前記軌跡が前記分割ラインから逸れるときには逸れた方向の新しい画面に元の画面に対するホーム画面を表示するとともに他方の新しい画面に元の画面のクローンを生成し、前記軌跡が前記分割ライン上に沿うときには前記分割ラインの両側の新しい画面にともに元の画面のクローンを生成するように構成されている。
本願の請求項12に記載の技術によれば、請求項2に記載の情報処理装置の前記制御部は、所定の最小幅wcloseを超えてサイズ変更処理が指示された画面を消滅させるように構成されている。
本願の請求項13に記載の技術によれば、請求項2に記載の情報処理装置の前記制御部は、分割処理中の前記画面の分割ライン、サイズ変更処理中の前記画面の境界線、又は、スクロール処理中の前記画面のうち少なくとも1つを強調表示するように構成されている。
本願の請求項14に記載の技術によれば、請求項2に記載の情報処理装置の前記制御部は、分割した画面上でユーザーが第1の本数の指で出現方向にスワイプしたことに応答して、前記分割した画面に関するメニューを前記出現方向に出現させるように構成されている。
本願の請求項15に記載の技術によれば、請求項14に記載の情報処理装置の前記制御部は、前記メニューに対して所定時間以上操作がないとき、又は、前記画面上でユーザーが前記出現方向の反対方向にスワイプしたことに応答して、前記メニューを前記反対方向に隠すように構成されている。
本願の請求項16に記載の技術によれば、請求項2に記載の情報処理装置の前記制御部は、ユーザーが複数に分割した画面に対してグラブ操作したことに応答して、前記画面の状態を保存し、保存している画面の状態を前記画面に一覧表示し、ユーザーが選択した画面の状態を前記画面に復元するように構成されている。
本願の請求項17に記載の技術によれば、請求項2に記載の情報処理装置の前記制御部は、ユーザーが分割した画面に対して第2の本数の指でスワイプしたことに応答して、前記分割した画面を前記スワイプした方向に向きに変えるように構成されている。
本願の請求項18に記載の技術によれば、請求項1に記載の情報処理装置の前記制御部は、前記画面上でユーザーが第3の本数の指でスワイプしたことに応答して、前記画面の前記スワイプした方向と反対側から前記スワイプした方向に向かってホーム画面を出現させるように構成されている。
また、本願の請求項19に記載の技術は、
画面に対してユーザーが指示する座標を入力する座標入力ステップと、
前記座標入力ステップでユーザーが入力した軌跡に基づいて、ユーザーの指示を判定し、判定結果に応じた前記画面の動作を制御する制御ステップと、
を有する情報処理方法である。
また、本願の請求項20に記載の技術は、
画面に対してユーザーが指示する座標を入力する座標入力部、
前記座標入力部を介してユーザーが入力した軌跡に基づいて、ユーザーの指示を判定し、判定結果に応じた前記画面の動作を制御する制御部、
としてコンピューターを機能させるようにコンピューター可読形式で記述されたコンピューター・プログラムである。
本願の請求項20に係るコンピューター・プログラムは、コンピューター上で所定の処理を実現するようにコンピューター可読形式で記述されたコンピューター・プログラムを定義したものである。換言すれば、本願の請求項20に係るコンピューター・プログラムをコンピューターにインストールすることによって、コンピューター上では協働的作用が発揮され、本願の請求項1に係る情報処理装置と同様の作用効果を得ることができる。
本明細書で開示する技術によれば、タッチパネル式の画面を有し、画面に対するユーザーのタッチ操作に応じて、画面分割を始めとする複数種類の画面操作を、誤動作なく正確に実行することができる、優れた情報処理装置及び情報処理方法、並びにコンピューター・プログラムを提供することができる。
本明細書で開示する技術のさらに他の目的、特徴や利点は、後述する実施形態や添付する図面に基づくより詳細な説明によって明らかになるであろう。
図1は、大画面を有する情報処理装置100の使用形態の一例(Wall:横画レイアウト)を示した図である。 図2は、大画面を有する情報処理装置100の使用形態の一例(Wall:縦画レイアウト)を示した図である。 図3は、大画面を有する情報処理装置100の使用形態の他の例(Tabletop)を示した図である。 図4Aは、テーブルトップ状態の表示画面の利用形態(単一のユーザーによる利用形態)を示した図である。 図4Bは、テーブルトップ状態の表示画面の利用形態(マルチユーザーによる利用形態)を示した図である。 図5は、情報処理装置100の機能的構成を模式的に示した図である。 図6は、入力インターフェース部110の内部構成を示した図である。 図7Aは、ユーザーの情報処理装置100への入力操作方法(単一の指先を用いたタッチ)を説明するための図である。 図7Bは、ユーザーの情報処理装置100への入力操作方法(マルチタッチ)を説明するための図である。 図7Cは、ユーザーの情報処理装置100への入力操作方法(ソフトウェア・キーボード)を説明するための図である。 図7Dは、ユーザーの情報処理装置100への入力操作方法(他端末)を説明するための図である。 図8は、出力インターフェース部130の内部構成を示した図である。 図9は、複数に分割した後の画面の構成例を示した図である。 図10は、複数に分割した後の画面の構成例を示した図である。 図11は、複数に分割した後の画面の構成例を示した図である。 図12は、複数に分割した後の画面の構成例を示した図である。 図13は、保存したウィンドウの状態や各ペインの状態を画面に一覧表示した様子を示した図である。 図14は、メニューの引き出し方法を説明するための図である。 図15は、メニューを拡大して示した図である。 図16は、ウィンドウの状態や各ペインの状態を保存するとともに、保存した元の画面を復元するための操作方法を説明するための図である。 図17は、画面の分割を行なうUI操作の一例を説明するための図である。 図18は、画面の分割を行なうUI操作の一例を説明するための図である。 図19は、画面の分割ラインの表示方法を説明するための図である。 図20は、画面の分割ラインの表示方法を説明するための図である。 図21は、画面の分割を行なうUI操作の他の例を説明するための図である。 図22は、画面の分割を行なうUI操作の他の例を説明するための図である。 図23は、画面の分割を繰り返して行なうUI操作を説明するための図である。 図24は、画面の分割を繰り返して行なうUI操作を説明するための図である。 図25は、分割した画面を回転するUI操作を説明するための図である。 図26は、2本指のスワイプにより新しいペインを出現させるためのUI操作を説明するための図である。 図27は、2本指のスワイプにより新しいペインを出現させるためのUI操作を説明するための図である。 図28は、ホーム画面に対するUI操作を説明するための図である。 図29は、ペインの内容をブックマークするUI操作を説明するための図である。 図30は、ペイン間でデータ転送を行なうUI操作を説明するための図である。 図31は、分割した画面を拡大並びに縮小するUI操作を説明するための図である。 図32は、ペインの履歴を辿るUI操作を説明するための図である。 図33は、分割した後の画面のサイズを変更するUI操作を説明するための図である。 図34は、分割した後の画面をスクロールするUI操作を説明するための図である。 図35は、画面の境界線近傍にサイズ変更指示領域並びに画面分割指示領域を配設した様子を示した図である。 図36は、画面分割指示領域内でタッチが開始して、画面の再分割を行なうUI操作を説明するための図である。 図37は、サイズ変更指示領域内でタッチが開始して、画面のサイズ変更を行なうUI操作を説明するための図である。 図38は、画面分割指示領域よりも内側でタッチが開始して、画面のスクロールを行なうUI操作を説明するための図である。 図39は、ユーザーのUI操作に応じた画面動作を実現するための処理手順(第1の方法)を示したフローチャートである。 図40は、ユーザーのUI操作に応じた画面動作を実現するための処理手順(第1の方法)を示したフローチャートである。 図41は、所定の最小幅を超えて画面サイズ変更が指示されたペインが閉じる様子を示した図である。 図42は、ユーザーのUI操作に応じた画面動作を実現するための処理手順(第1の方法)を示したフローチャートである。 図43は、長押し操作を利用して画面の再分割を行なうUI操作を説明するための図である。 図44は、ユーザーのUI操作に応じた画面動作を実現するための処理手順(第2の方法)を示したフローチャートである。 図45は、境界線の端部に設けられたハンドルを利用して画面のサイズ変更を行なうUI操作を説明するための図である。 図46は、ユーザーのUI操作に応じた画面動作を実現するための処理手順(第3の方法)を示したフローチャートである。 図47は、画面サイズ変更のロック機能を利用して画面のサイズ変更を行なうUI操作を説明するための図である。 図48は、ユーザーのUI操作に応じた画面動作を実現するための処理手順(第4の方法)を示したフローチャートである。 図49は、複数の境界線を同時に操作して、3以上のペインを同時にサイズ変更するUI操作を説明するための図である。 図50は、一部のペインが固定幅のコンテンツを表示している場合の画面サイズを変更するUI操作を説明するための図である。 図51は、複数の境界線の親子関係を変更するUI操作を説明するための図である。 図52は、画面分割するUI操作の途中で新しいペインの状態を指定する方法を説明するための図である。 図53は、画面分割するUI操作の途中で新しいペインの状態を指定する方法を説明するための図である。 図54は、画面分割するUI操作の途中で新しいペインの状態を指定する方法を説明するための図である。 図55は、画面分割するUI操作の途中で新しいペインの状態を指定する方法を説明するための図である。 図56は、画面分割指示操作時に、分割ライン5601を強調表示している様子を示した図である。 図57は、画面サイズ変更指示操作時に、サイズ変更操作の対象となっている境界線5701を強調表示している様子を示した図である。 図58は、スクロール指示操作時に、スクロールしているペイン5801を強調表示している様子を示した図である。
以下、図面を参照しながら本明細書で開示する技術の実施形態について詳細に説明する。
A.システム構成
本実施形態に係る情報処理装置100は、大画面を有するが、主な使用形態として、図1及び図2に示すように壁に掛ける「Wall」、並びに、図3に示すように卓上に設置する「Tabletop」が想定される。
図1に示す「Wall」状態では、情報処理装置100は、例えば回転・取り付け機構部200によって壁面上で回転可能且つ着脱可能な状態で取り付けられている。図示の例では、大画面が横画レイアウトとなる姿勢に回転位置が設定されている。
回転・取り付け機構部200は情報処理装置100と外部との電気的接点を兼ねており、この回転・取り付け機構部200を介して情報処理装置100に電源ケーブルやネットワーク・ケーブル(いずれも図示しない)が接続されているものとし、情報処理装置100は、商用AC電源から駆動電力を受電できるとともに、インターネット上の各種サーバーにもアクセスすることができる。
情報処理装置100は、カメラや距離センサー、近接センサー、並びにタッチ・センサーを備えており、画面に正対しているユーザーの位置(距離、方位)を把握することができる。また、情報処理装置100は、ユーザーの位置に応じた最適なインタラクションを自動選択するようになっている。例えば、情報処理装置100は、ユーザーの位置に応じて、大画面に表示する情報の密度など、GUI(Graphical User Interface)表示を自動で選択し又は調整する。また、情報処理装置100は、画面へのタッチ、近接、手などを用いたジェスチャー、リモコンなどによる直接操作や、ユーザー状態による間接操作など、複数の入力手段の中から、ユーザーの位置若しくはユーザーまでの距離に応じて最適な入力手段を自動で選択することができる。
また、情報処理装置100は、1台以上のカメラも備えている。図示の例では、横画レイアウトにした状態で、上端縁のほぼ中央にカメラが設置されている。この状態では、カメラは、光軸が左右方向を向いており、大画面に正対しているユーザーの姿を撮影することができる。カメラの撮像画像を処理することで、ユーザーの位置を測定できる他、人物、物体、機器などさまざまな物体の認識を行なうことができる。また、カメラの撮影画像からユーザーの顔や手などを認識した結果に基づいて、ジェスチャー入力を行なうこともできる。また、情報処理装置100は、超近距離通信部も備えており、超近距離まで接近したユーザーが所持するタブレット端末やモバイル端末などの機器との間でデータ送受信を行なうこともできる。
大画面のアスペクト比は、例えば、テレビ製品の市場で標準となっている16:9を想定している。したがって、図1に示すように大画面が横画レイアウトとなるように、壁に掛けた情報処理装置100の回転位置を設定した状態では、全画面を用いて、ほぼムービーで描写する世界観そのままに16:9の横長映像を表示することができる。
情報処理装置100を回転・取り付け機構部200に取り付け、壁に掛けた状態のままで回転させると、図2に示すように大画面が縦画レイアウトとなる姿勢にすることができる。情報処理装置100本体と一体となって、カメラの位置が、画面の右端縁のほぼ中央に移動する。
一方、図3に示す「Tabletop」状態では、情報処理装置100は卓上に平置きにされている。図1並びに図2に示した使用形態では回転・取り付け機構部200が電気的接点を兼ねているのに対し(前述)、図3に示すように卓上に設置された状態では、情報処理装置100への電気的接点が見当たらない。そこで、図示のTabletop状態では、情報処理装置100は、内蔵バッテリー(図示しない)により無電源で動作できるように構成してもよい。また、情報処理装置100が例えば無線LAN(Local Area Network)の移動局機能に相当する無線通信部を備えるとともに、回転・取り付け機構部200が無線LANのアクセスポイント機能に相当する無線通信部を備えるようにすれば、情報処理装置100は、Tabletop状態においても、アクセスポイントとしての回転・取り付け機構部200との無線通信を通じてインターネット上の各種サーバーにアクセスすることができる。
情報処理装置100は、図1又は図2に示すWall状態から、図3に示すTabletop状態に切り替わった場合、その前の状態(すなわち、図1に示す横画レイアウト、又は、図2に示す縦画レイアウト)を維持する。
情報処理装置100は、大画面の4つの側縁部の各々に、ユーザーの存在又は状態を検出する近接センサーを備えている。上述と同様に、大画面に接近したユーザーをカメラで撮影して人物認識してもよい。また、超近距離通信部(後述)は、存在を検出したユーザーがモバイル端末などの機器を所持しているか否かを検出したり、ユーザーが所持するモバイル端末からのデータ送受信要求を検出したりする。
情報処理装置100は、近接センサーなどでユーザーの存在を検出すると、その検出結果をUI制御に利用することができる。また、ユーザーの存在の有無だけでなく、ユーザーの胴体や両手足、頭の位置などを検出するようにすれば、より詳細なUI制御に利用することもできる。また、情報処理装置100は、超近距離通信部も備えており、超近距離まで接近したユーザーが所持する機器との間でデータ送受信を行なうこともできる。
情報処理装置100の画面を大型化すれば、画面を分割して複数のペイン(pane)を表示して(図4Aを参照のこと)、ユーザーは、複数の作業を並行して行ない、ユーザーの作業能力を強化することができる。
また、Tabletop状態では、複数のユーザーが同時にタッチ入力するだけのスペースの余裕が生じるので、マルチユーザーで場を共有したりすることが考えられる(図4Bを参照のこと)。また、複数のユーザーが大画面越しに向き合い、画面の表示を見ながら会話やディスカッションを行なうことができる。さらには、画面を分割し、分割した各画面を各ユーザーに割り当てることもできる。
図5には、情報処理装置100の機能的構成を模式的に示している。情報処理装置100は、外部からの情報信号を入力する入力インターフェース部110と、入力された情報信号に基づいて表示画面の制御などのための演算処理を行なう演算部120と、演算結果に基づいて外部への情報出力を行なう出力インターフェース部130と、ハード・ディスク・ドライブ(HDD)などからなる大容量の記憶部140と、外部ネットワークと接続する通信部150と、駆動電力を扱う電源部160と、テレビ・チューナー部170と、映像入力インターフェース部(IF)180を備え、バス190を介して相互接続されている。記憶部140には、演算部120で実行する各種処理アルゴリズムや、演算部120で演算処理に使用する各種データベースが格納されている。
演算部120の主な機能は、入力インターフェース部110によるユーザー検出結果、画面のタッチ検出結果、及びユーザーが所持するモバイル端末などの機器からの受信データに基づくUI画面の生成処理などの演算処理と、演算結果の出力インターフェース部130への出力である。演算部120は、例えば記憶部140にインストールされているアプリケーション・プログラムをロードし、実行することで、アプリケーション毎の演算処理を実現することができる。
通信部150は、情報処理装置100を、LANやインターネットなどの外部ネットワークに接続する。外部ネットワークとの接続形態は、有線、無線を問わない。例えば外部ネットワーク上の配信サーバー(図示しない)から配信される映像ストリームを、通信部150を介して受信し、演算部120でデコードして、出力インターフェース部130を通じて再生出力することができる。
また、情報処理装置100は、通信部150を通じて、ユーザーが所持するスマートフォンなどのモバイル端末や、タブレット端末などの他の機器と通信することができる。情報処理装置100の大画面とともに、モバイル端末の画面、タブレット端末の画面という3種類のデバイスの画面を組み合わせて、いわゆる「3スクリーン」を構成することができる。情報処理装置100は、他の2スクリーンよりも大画面上で、3スクリーンを連携させるUIを提供することができる。
例えば、ユーザーが画面上でタッチ操作する、あるいはユーザーの所持端末を情報処理装置100に接近させるなどのアクションを行なっているバックグランドで、情報処理装置100と対応する所持端末との間で、動画、静止画、テキスト・コンテンツなどのデータ送受信が行なわれる。さらに外部ネットワーク上にはクラウド・サーバーなどが設置されており、3スクリーンは、クラウド・サーバーの演算能力を利用するなど、情報処理装置100を通じてクラウド・コンピューティングの恩恵を受けることができる。
テレビ・チューナー部170は、各放送局から地上波又は衛星波として送信されるディジタル放送信号を選局受信する。演算部120は、受信した放送波をデコードして、出力インターフェース部130を通じて再生出力する。
映像入力インターフェース部180は、外部のブルーレイ・ディスク(BD)再生装置などを、例えばHDMI(High Definition Multimedia Interface)で接続して、ブルーレイ・ディスクから再生された映像信号を入力する。演算部120は、入力した映像信号をデコードして、出力インターフェース部130を通じて再生出力する。
入力インターフェース部110の主な機能は、ユーザーの存在の検出、検出したユーザーによる画面すなわちタッチパネルへのタッチ操作の検出、ユーザーが所持するモバイル端末などの機器の検出並びに機器からの送信データの受信処理である。図6には、入力インターフェース部110の内部構成を示している。
リモコン受信部501は、リモコンやモバイル端末からのリモコン信号を受信する。信号解析部502は、受信したリモコン信号を復調、復号処理して、リモコン・コマンドを得る。
カメラ部503はCMOS(Complememtary Metal Oxide Semiconductor)やCCD(Charge Coupled Device)などの撮像素子を備え、単眼式、又は、2眼式若しくはアクティブ型のうち一方又は両方を採用する。また、カメラ部503は、パンやチルト、ズームなどのカメラ制御部(図示しない)を備えている。カメラ部503は、パンやチルト、ズームなどのカメラ情報を演算部120に通知するとともに、演算部120からのカメラ制御情報に従ってカメラ部503のパン、チルト、ズームを制御できるものとする。
画像認識部504は、カメラ部503による撮影画像を認識処理する。具体的には、背景差分によりユーザーの顔や手の動きを検出してジェスチャー認識したり、撮影画像に含まれるユーザーの顔や手などの物体を認識したり、ユーザーまでの距離を認識したりする。
画像認識部504は、画像認識処理に際して、カメラ部503によるカメラによる撮影画像上でテンプレート画像をスキャンさせて、パターン・マッチングを行なうことにより、顔などの認識対象となる物体を検出する。
マイク部505は、音やユーザーが発する会話を音声入力する。音声認識部506は、マイク部505から入力された音声信号を音声認識する。
距離センサー507は、例えばPSD(Position Sensitive Detector)などからなり、ユーザーやその他の物体から返ってくる信号を検出する。信号解析部508は、その検出信号を解析して、ユーザーや物体までの距離を測定する。PDSセンサー以外に、焦電センサーや簡易カメラなどを距離センサー507に用いることができる。距離センサー507は、情報処理装置100から例えば5〜10メートルの半径内にユーザーが存在するかどうかを常時監視している。このため、距離センサー507には、消費電力の小さなセンサー素子を用いることが好ましい。
タッチ検出部509は、画面に重畳されたタッチ・センサーなどからなり、画面にユーザーの指先が触れた場所から検出信号を出力する。信号解析部510は、タッチ検出部509の検出信号を解析して、位置情報を得る。
近接センサー511は、大画面の4つの側縁部の各々に設置され、例えば静電容量式によりユーザーの身体が画面に近接したことを検出する。信号解析部512は、近接センサー511の検出信号を解析する。
超近距離通信部513は、例えばNFC(Near Field Communication)通信により、ユーザーが所持するモバイル端末などの機器からの非接触通信信号を受信する。信号解析部514は、超近距離通信部513の受信信号を復調、復号処理して、受信データを得る。
3軸センサー部515は、加速度センサーやジャイロ・センサーなどで構成され、情報処理装置100のxyz各軸回りの姿勢を検出する。GPS(Global Positioning System)受信部516は、GPS衛星からの信号を受信する。信号解析部517は、3軸センサー部515並びにGPS受信部516からの信号を解析して、情報処理装置100の位置情報や姿勢情報を得る。
入力インターフェース統合部520は、上記の情報信号の入力を統合して演算部120に渡す。また、入力インターフェース統合部520は、各信号解析部508、510、512、514の解析結果を統合して、情報処理装置100の周囲にいるユーザーの位置情報を取得して演算部120に渡す。
ユーザーは、主に、画面へのタッチ、画面に表示するソフトウェア・ボード、及び、他端末から情報処理装置100への入力操作を行なうものとする。画面へのタッチは、図7Aに示すように、単一の指先を用いたタッチ、図7Bに示すように、2本以上の指先を用いたマルチタッチが挙げられる。また、ソフトウェア・キーボードには、図7Cに示すように、一般的なコンピューターのキーボードと同様に、QWERTY配列を用いることができる。また、他端末として、図7Dに示すように、モバイル端末やタブレット端末など3スクリーン(前述)の一構成要素であるユーザーの所持端末を挙げることができる。タッチ若しくはマルチタッチは、情報処理装置100に対する捜査全般にわたって用いることができる。また、ソフトウェア・キーボードは、ブラウザーのアドレス・バーなどへのテキスト入力に用いることができる。また、他端末は、情報処理装置100との間で同期やデータ連携に用いることができる。
出力インターフェース部130の主な機能は、演算部120の演算結果に基づく画面上へのコンテンツやUIの表示と、ユーザーが所持する機器へのデータ送信である。図8には、出力インターフェース部130の内部構成を示している。
出力インターフェース統合部610は、演算部120による演算結果に基づく情報出力を統合して扱う。
出力インターフェース統合部610は、コンテンツ表示部601に対して、通信部150で受信した配信コンテンツや、テレビ・チューナー部170で受信したTV放送コンテンツ、ブルーレイ・ディスクなどの記録メディアから再生したコンテンツの、動画又は静止画コンテンツの表示部603、スピーカー部604への画像及び音声出力を指示する。
また、出力インターフェース統合部610は、GUI表示部602に対してGUIの表示部603への表示を指示する。
表示部603は、例えば液晶表示ディスプレイなどからなる画面を持つ。画面サイズが例えば50インチ程度の大画面であり、テレビ製品の市場で標準となっている16:9のアスペクト比を想定している。
また、出力インターフェース統合部610は、超近距離通信部513に対して、ユーザーが所持するモバイル端末などの機器への、非接触通信によるデータ送信を指示する。
B.画面操作
本実施形態に係る情報処理装置100では、ユーザーが指先で画面をなぞるタッチ操作(若しくは、マウスやペン、ジェスチャーを介した座標入力操作)を通じて、画面の分割や、分割した後の画面のスクロール、画面サイズの変更などを行なうことができる。ユーザーは、大画面を複数に分割し、分割した後の小さな画面毎にアプリケーションを起動して複数の作業を並行して行ない、作業能力を強化することができる。また、分割した各画面を複数のユーザーに割り当てて、マルチユーザーで場を共有したりすることができる。
図9〜図12には、複数に分割した後の画面の構成例を示している。図9には、画面分割して、大画面上に複数のペインA〜Bが配置されている様子を示している。また、図10には、ブラウザーを表示するペインとともにホーム画面が配置されている様子を示している。ホーム画面には、検索ワードを入力するアドレス・バーや、ブックマーク、履歴(最近訪れたサイト)が表示される。
図11には、元のペインAのクローンであるペインA1、A2が画面の左右に表示されるとともに、一方のペインA1内にメニューが出現している様子を示している。メニューを出現させるための操作方法については後述に譲る。図12には、ペインA1、A2のサイズを変更した結果を示している。図示の例では、ペインA2のサイズを水平方向に拡張し、その拡張した分を相殺するようにペインA1のサイズを水平方向に縮小している。ペインA1内のメニューは、ペインA1の横幅に応じて、レイアウト(メニュー内に表示するボタンのサイズや個数)が適応的に変化している。メニューの横幅が縮小すると、例えば重要でないボタンや使用頻度の少ないボタンが隠れる。
情報処理装置100は、ウィンドウの状態や各ペインの状態を保存しておくことができる。ペインの状態を保存するための操作方法については後述に譲る。図13には、図9〜図11に示したウィンドウの状態や各ペインの状態を保存した内容を画面に一覧表示している様子を示している。ユーザーは、一覧の中から所望のものをタッチして、元の画面を復元することができる。また、画面の右上の「×」をタッチして、一覧の中から削除するようにしてもよい。
図14には、メニューの引き出し方法を図解している。同図上に示すように、ユーザーは、所望のペインAの左下に表示されているバー引き出し1401をタッチするか、又は、参照番号1402で示すように、ペインA内で4本指を上方向(若しくは、出現方向)にスワイプする。すると、同図下に示すように、ペインAの下端縁からメニュー1403が出現する。図示を省略するが、表示中のメニューに対するユーザーの無操作状態が所定時間以上続くと、メニュー1403は下方に引っ込む。また、ユーザーは、ペインA内で4本指を下方(若しくは、出現方向の反対方向)にスワイプすると、メニュー1403を下方に引っ込ませることができる。
図15には、メニュー1500を拡大して示している。但し、同図は、ペインAがブラウザーの場合にメニュー構成例とする。以下、同図を参照しながら、メニュー1500の操作方法について説明する。
ユーザーがアドレス・バー1501をタッチすると、ソフトウェア・キーボード(前述)が出現し、ユーザーは、URL(Uniform Resource Locator)や検索キーワードなどのテキストを入力することができる。検索キーワードなどのテキストの入力には、ソフトウェア・キーボード(図7Cを参照のこと)を利用することができる。入力したテキストを決定すると、ブラウザーが検索を開始し、ペインAが検索結果の画面(図示しない)に遷移する。
ユーザーが「戻る」ボタン1502をタッチすると、ペインAが1ページ戻る。また、「進む」ボタン1503をタッチすると、ペインAが1ページ進む。「ホーム」ボタン1504をタッチすると、ペインAはホームを表示し、当該メニューを閉じる。「リロード」ボタン1505をタッチすると、ペインAで現在表示中のページを更新する。「モバイル連携」ボタン1506をタッチすると、情報処理装置100の近傍で検出されたユーザーの所持端末との同期やデータ連携処理が起動する。「閉じる」ボタン1507をタッチすると、ペインA自体を閉じる。図示を省略するが、ペインAが閉じて画面から消滅すると、残ったペインBが元のペインAの表示領域まで拡張して全画面表示される。
なお、図示を省略したが、ペインAの全画面表示を指示する「全画面拡大」ボタンや、ペインAを90度時計回り(又は、反時計回り)回転を指示する「回転」ボタン、操作説明の表示を指示する「help」ボタンをメニュー1500内に配設するようにしてもよい。
情報処理装置100がウィンドウの状態や各ペインの状態を保存できることは既に述べた。図16には、ウィンドウの状態や各ペインの状態を保存するとともに、保存した元の画面を復元するための操作方法を図解している。図16(A)に示すように、ユーザーが画面上でグラブ・アクション1601を行なうことにより、情報処理装置100はそのときのウィンドウの状態や各ペインの状態を保存する。情報処理装置100は、保存中のウィンドウの状態や各ペインの状態を、図16(B)に示すように、グローバル・メニュー1602として一覧表示することができる。グラブ・メニュー上では、ユーザーは、復元する状態の選択、削除、新しい状態の追加などの操作を行なうことができる。例えば、図16(B)中、参照番号1603で示すように、ユーザーが所望の状態をタッチすると、図16(C)に示すように、選択した状態が画面に復元される。
本実施形態に係る情報処理装置100では、ユーザーが指先で画面をなぞるタッチ操作を通じて、画面の分割(Split)や、分割した後の画面のスクロール(Scroll)、画面サイズの変更(Resize)などを行なうことができる。このうち、画面の分割は、ユーザーが指先で画面を横切る、すなわち、画面を切るという直感的なジェスチャーによって行なうことができる。
図17並びに図18には、画面の分割を行なうUI操作の一例を図解している。画面にはペインAが表示されているとする。各図上に示すように、ユーザーは、グレーで表示されている画面外を指先でタッチして、分割したい方向に向かって(若しくは、所望の分割線をなぞるように)、指を移動させる。ここで言う「画面外」とは、タッチパネルの有効検出領域であるが、ペインが表示されていない、ペインの周縁の領域である。図17及び図18では、理解を容易にするために、画面外のグレー領域を大きめに描いている。
図17では、ユーザーは、画面上端から下方に向かって指先を移動させ、垂直方向の分割ラインを指示している。そして、ユーザーが垂直方向に所定の長さだけなぞると(図示の例では、画面の3分の1以上)、画面の分割が確定して、分割ラインが画面の下端まで自動で伸びる。そして、画面は垂直方向の分割ラインで左右に2分割され、元のペインAのクローンであるペインA1、A2が分割後の画面の左右にそれぞれ出現する。
また、図18では、ユーザーは、画面左端から右方に向かって指先を移動させ、水平方向の分割ラインを指示している。そして、ユーザーが水平方向に所定の長さだけなぞると(図示の例では、画面の3分の1以上)、画面の分割が確定して、分割ラインが画面の右端まで自動で伸びる。そして、画面は水平方向の分割ラインで上下に2分割され、元のペインAのクローンであるペインA1、A2が分割後の画面の上下にそれぞれ出現する。
図17並びに図18に示したUI操作は、指先で画面を切る(split)というイメージをユーザーに想起させる。画面の分割により、例えば元のペインのクローンなどの新しいペインが出現する。
なお、画面の分割ラインは、図19に示すように、背景を透けさせるようにする。このようなUI表現は、図20に示すように、背景画面の上方にペインが重畳され、背景画面上でペインを2つに切るというイメージを、ユーザーに想起させるという効果がある。
また、図21並びに図22には、画面の分割を行なうUI操作の他の例を図解している。画面にはペインAが表示されているとする。各図上に示すように、ユーザーは、分割ラインの開始位置を指先で「長押し」、すなわち所定時間(例えば1秒)だけタッチし続けた後に、分割したい方向に向かって(若しくは、所望の分割線をなぞるように)、指を移動させる。
図21では、ユーザーは、画面上端の所望の位置を指先で長押しした後、下方に向かって指先を移動させて、垂直方向の分割ラインを指示している。そして、ユーザーが垂直方向に所定の長さだけなぞると(図示の例では、画面の3分の1以上)、画面の分割が確定して、分割ラインが画面の下端まで自動で伸びる。そして、画面は垂直方向の分割ラインで左右に2分割され、元のペインAのクローンであるペインA1、A2が分割後の画面の左右にそれぞれ出現する。
また、図22では、ユーザーは、画面左端の所望の位置を指先で長押しした後、右方に向かって指先を移動させて、水平方向の分割ラインを指示している。そして、ユーザーが水平方向に所定の長さだけなぞると(図示の例では、画面の3分の1以上)、画面の分割が確定して、分割ラインが画面の右端まで自動で伸びる。そして、画面は水平方向の分割ラインで上下に2分割され、元のペインAのクローンであるペインA1、A2が分割後の画面の上下にそれぞれ出現する。
図17並びに図18、又は、図21並びに図22のいずれの方法で画面分割を行なう場合も、画面分割を繰り返し行なうことができる。但し、最小の分割幅以下の位置では分割できないものとする。最小の分割幅は、例えば100画素である。
図23には、図17に示したように左右に画面を2分割した後に画面右に表示されているペインA2を、同様のUI操作により、さらに上下方向に2分割する様子を示している。図23上に示すように、ユーザーは、ペインA2の左端の分割開始位置2300を指先でタッチし、水平方向に所定の長さだけなぞると、画面の分割が確定して、点線で示す補助線2301が画面の右端まで自動で伸びる。そして、図23下に示すように、画面は水平方向の新しい分割ライン2302で上下に2分割され、元のペインA2のクローンであるペインA21、A22が分割後の画面の上下にそれぞれ出現する。
また、図24には、図18に示したように上下に画面を2分割した後に画面右に表示されているペインA2を、同様のUI操作により、さらに左右方向に2分割する様子を示している。図24上に示すように、ユーザーは、ペインA2の上端の分割開始位置2400を指先でタッチし、垂直方向に所定の長さだけなぞると、画面の分割が確定して、点線で示す補助線2401が画面の下端まで自動で伸びる。そして、図24下に示すように、画面は垂直方向の新しい分割ライン2402で左右に2分割され、元のペインA2のクローンであるペインA21、A22が分割後の画面の左右にそれぞれ出現する。
図25には、図17又は図21に示したように、画面を左右に2分割した後に、一方の画面を回転させるUI操作を図解している。例えば、情報処理装置100が卓上に設置されたTableTop状態で、第1のユーザーによるUI操作で画面を2分割してペインAとペインBが表示されているときに、第1のユーザーと対面する第2のユーザーが出現したとする。第2のユーザーは、ペインBを使用したくても、図25上に示すように、画面が逆を向いているので見づらい。そこで、第2のユーザーは、図25下に示すように、使用したいペインBを3本指でスワイプする。すると、ペインBは、スワイプした方向に向きを変える。なお、3本指のスワイプではなく、5本指タッチの回転によってペインの回転を指示するようにしてもよい。
図26並びに図27には、2本指のスワイプにより新しいペインを出現させるためのUI操作を図解している。図26上では、ブラウザーを全画面表示しているが、ユーザーは画面の上端縁を2本の指でタッチし、下方にスワイプすることで、図26下に示すように、新しいペイン(ホーム)が画面上端から下方(すなわち、スワイプした方向)に向かって出現する。また、図27上では、ブラウザーを全画面表示しているが、ユーザーは画面の左端縁を2本の指でタッチし、右方にスワイプすることで、図27下に示すように、新しいペイン(ホーム)が画面左端から右方向(すなわち、スワイプした方向)に向かって出現する。
図26並びに図27に示したUI操作は、画面を切る(split)というUI操作以外の方法により、新しいペインを出現させる方法と言うこともできる。
図28には、ホーム画面に対するUI操作を図解している。図28上に示すように、ユーザーは、画面左に表示されているホーム2801内で、リンクが貼られた所望の箇所2802を、画面右側のブラウザー上にドラッグ・アンド・ドロップ操作する。すると、図28下に示すように、画面右がブラウザーからリンク先のページ2803に遷移する。
また、図29には、画面右に表示されているページ2901のリンクや、メニューのアドレス・バー2902内のURLを、参照番号2904、2905で示すようにドラッグ・アンド・ドロップすることにより、画面左のホーム2903のブックマーク欄にブックマーク2906として追加する様子を示している。
図30には、ペイン間でデータ転送を行なうUI操作を図解している。同図では、画面の左右に2つのペインA、Bが表示されている。ペインA、Bは、例えば同一のユーザーが同時に作業している画面、あるいは2人のユーザーがそれぞれ使用している画面であるとする。同図上に示すように、ユーザーは、参照番号3002で示すように、ペインA内のオブジェクト3001を他方のペインB内にドラッグ・アンド・ドロップすると、同図下に示すように、オブジェクト3001がペインB内に転送される。同図に示す例では、オブジェクト3001の転送は「コピー」を意味し、元のペインA内にもオブジェクト3001は残る。転送が「移動」の場合には、転送後に元のペインAにはオブジェクト3001は残らない。ここで、オブジェクト3001は、例えば、URLや画像、音楽、テキストなどである。転送先のペインBで、受け取ったオブジェクト3001に対しさまざまな処理を実行することができる。例えば画像を貼る、音楽を再生する、ソーシャル・ネットワークに投稿するなどの処理を行なうことができる。
図31には、画面を左右に2分割した後に、一方の画面を拡大並びに縮小させるUI操作を図解している。ユーザーが画面を2分割してペインAとペインBが表示されているときに、参照番号3101で示すように、一方のペインAに対しピンチアウト操作を行なうと、参照番号3102に示すようにペインAが拡大表示される。また、図示を省略するが、ペインAに対しピンチイン操作を行なうと、ペインAの表示が縮小する。また、参照番号3103で示すように、ペインAに対しダブルタップした場合は、その箇所を含むブロックにフィットするように、ペインAの表示が拡大する。
各ペインに対し、左右のフリック操作により、履歴を辿ることができる。例えば図32に示すように、画面を左右に2分割してペインAとペインBが表示されている状態で、ペインAが、A0→A1→A2→A3→A4→…の順で遷移していったとする。ユーザーは、参照番号3201で示すように左フリック操作することにより、履歴を進めることができる。また、ユーザーは、参照番号3202で示すように右フリック操作することにより、履歴を戻すことができる。
図23並びに図24を参照しながら説明したように、分割した各画面に対して、画面の分割操作を繰り返し行なうことができる。分割した後の画面に対しては、分割操作の繰り返しの他に、スクロール、画面サイズの変更などを行なうことができる。
図33には、左右に画面を2分割したペインA、Bのサイズを変更するUI操作を図解している。ユーザーは、同図上に示すように、ペインAとペインBの境界線3301付近を指先でタッチして、変更したい方向に、変更したい長さだけなぞる。図示の例では、参照番号3302で示すように、右方向に変更したい長さだけ指先でなぞっている。この操作の結果、同図下に示すように、新しい境界線を参照番号3303で示す位置まで右方向に移動し、ペインAのサイズが水平方向に拡大する一方、ペインBのサイズは水平方向に収縮する。
また、図34には、左右に画面を2分割したペインA、Bのうち、一方のペインBで画面をスクロールするUI操作を図解している。ユーザーは、同図上に示すように、ペインBの領域内3401を指先でタッチして、スクロールしたい方向に、スクロールしたい量だけなぞる。図示の例では、参照番号3402で示すように、左方向にスクロールしたい長さだけ指先でなぞっている。この操作の結果、同図下に示すように、ペインBに表示される画面が左方向にスクロールした量3403だけ移動する。ユーザーは、ペインAとペインBの境界線を把持して移動するという直感的なUI操作により、隣接するペインA、Bのサイズ変更を行なうことができる。
B−1.誤動作防止方法1
図23と、図33並びに図34を比較すると、画面の再分割と、画面のサイズ変更、画面スクロールともに、ユーザーが画面の境界線にほぼ直交する方向に向かって指先をなぞるという点で、類似するUI操作になってしまう。また、図23と図33を比較すると、画面の再分割と画面のサイズ変更はともに、画面の境界線付近をタッチの開始点として、境界線にほぼ直交する方向に向かって指先をなぞるという点で、酷似するUI操作である。このため、特許文献2で開示される技術のように、タッチパネル上でのユーザーの指先の軌跡のみに基づいてUI操作を行なう方法では、とりわけ画面の再分割と画面のサイズ変更の2操作を正確に区別することができず、誤動作を招来するおそれがある。
そこで、誤動作を防止する第1の方法として、画面の境界線付近に、サイズ変更指示領域と、画面分割指示領域をそれぞれ定義するようにしている。ユーザーによる指先のタッチ操作がサイズ変更指示領域から開始したときには、サイズ変更の指示と判定して、その後の指先の移動方向に従って、画面のサイズ変更処理を行なう。一方、ユーザーにより指先のタッチ操作が画面分割指示領域から開始したときには、画面分割の指示と判定し、その後の指先の移動方向に従って、タッチした画面の分割処理を行なう。また、ユーザーによる指先のタッチ操作が、サイズ変更指示領域及び画面分割指示領域のいずれからも外れているときには、画面スクロール(若しくは、リンクの移動など通常の挙動)と判定して、その後の指先の移動に従って、画面のスクロールやリンクの移動などの処理を行なう。したがって、境界線にほぼ直交する方向に向かって指先をなぞるという同様のUI操作が、画面のサイズ変更又は画面分割のうちいずれであるかを、正確に判定することができる。
図35には、画面の境界線3500近傍にサイズ変更指示領域並びに画面分割指示領域を配設した様子を示している。図示の例では、ペインAとペインBの境界線を中心とする所定の幅wlineがサイズ変更指示領域3501に定義されている。また、サイズ変更領域3501の左右側縁からそれぞれ所定距離wsplitまでの領域が画面分割指示領域3502、3503に定義されている。但し、同図では、理解を容易にするために、画面全体のサイズに対し、各領域3501〜3503を相対的に大きく描いている。
ユーザーにサイズ変更指示領域3501、並びに画面分割指示領域3502、3503の存在を明示するために、図示の通り、異なる色で表示するようにしてもよい。あるいは、画面の表示の邪魔にならないように、これらの領域3501、3502を透明にしてもよい。
サイズ変更指示領域3501内でタッチが開始したUI操作3504は、サイズ変更の指示と判定して、その後の指先の移動方向に従って、画面のサイズ変更処理を行なう。また、画面分割指示領域3502内でタッチが開始したUI操作3505は、画面分割の指示と判定し、その後の指先の移動方向に従って、タッチした画面の分割処理を行なう。他方、画面分割指示領域3502よりも内側でタッチが開始したUI操作3506は、画面スクロール(若しくは、リンクの移動など通常の挙動)と判定して、その後の指先の移動に従って、画面のスクロールやリンクの移動などの処理を行なう。
図36には、画面分割指示領域内でタッチが開始して、画面の再分割を行なうUI操作を図解している。
図36上に示すように、ユーザーが、ペインBの左端のペインAとの境界線3601付近の位置(x0,y0)からタッチを開始し、その後、所定時間dtが経過するまでの間に、ペインB内を右側に向かって位置(x0+dx,y0+dy)までほぼ直線状に指先でなぞったとする。境界線3601を(xsplit,y)とすると、この境界線3601からタッチ開始位置(x0,y0)までの最短距離(x0−xsplit)を計算すると、wline/2より大きくwsplit以下であり、画面分割指示領域3602内でタッチが開始したことが分かる。そこで、現在行なわれているUI操作3603は画面分割の指示と判定し、分割ライン3604が形成される。そして、図36下に示すように、ペインBを水平方向に分断する新しい分割ライン3605で上下に2分割され、元のペインBのクローンであるペインB1、B2が分割後の画面の上下にそれぞれ出現する。ユーザーは、ペインBを指先で切るという直感的なUI操作により、ペインBの分割を行なうことができる。
なお、参照番号3603で示されるUI操作の水平方向からのずれ量dxが所定値よりも大きいとき、あるいは、水平方向からの傾きθが所定値よりも大きいときには、ペインの(水平方向の)画面分割の指示ではないと判定する(又は、画面分割処理を取り消す)ようにしてもよい。
図37には、サイズ変更指示領域内でタッチが開始して、画面のサイズ変更を行なうUI操作を図解している。
図37上に示すように、ユーザーが、ペインBの左端のペインAとの境界線3701付近の位置(x0,y0)からタッチを開始し、その後、所定時間dtが経過するまでの間に、ペインB内を右側に向かって位置(x0+dx,y0+dy)までほぼ直線状に指先でなぞったとする。境界線3701を(xsplit,y)とすると、この境界線3701からタッチ開始位置(x0,y0)までの最短距離(x0−xsplit)を計算すると、wline/2以下であり、サイズ変更指示領域3702内でタッチが開始したことが分かる。そこで、現在行なわれているUI操作3703は画面分割の指示と判定する。そして、図37下に示すように、新しい境界線を参照番号3704で示す位置(すなわち、指先の軌跡の終点位置)まで右方向に移動し、ペインAのサイズが水平方向に拡大する一方、ペインBのサイズは水平方向に収縮する。ユーザーは、ペインAとペインBの境界線を把持して移動するという直感的なUI操作により、隣接するペインA、Bのサイズ変更を行なうことができる。
なお、参照番号3703で示されるUI操作の水平方向からのずれ量dxが所定値よりも大きいとき、あるいは、水平方向からの傾きθが所定値よりも大きいときには、ペインの(水平方向の)画面サイズ変更の指示ではないと判定する(又は、画面サイズ変更処理を取り消す)ようにしてもよい。
図38には、画面分割指示領域よりも内側でタッチが開始して、画面のスクロールを行なうUI操作を図解している。
図38上に示すように、ユーザーが、ペインB内の位置(x0,y0)からタッチを開始し、その後、所定時間dtが経過するまでの間に、ペインB内を左側に向かって位置(x0+dx,y0+dy)までほぼ直線状に指先でなぞったとする。タッチ開始位置(x0,y0)は、ペインBのいずれの境界線3801〜3804からもwline/2+wsplitより内側、すなわち参照番号3805で示す領域よりも内側にあるので、現在行なわれているUI操作3806は画面スクロールの指示と判定する。そして、ペインB内の表示位置を、ユーザーの指先の移動方向に向かって、指先を起動させた距離だけ移動させる。したがって、図38下に示すように、スクロールする前のペインBの右端縁が参照番号3807で示す位置まで右方向に移動する。
なお、参照番号3806で示されるUI操作の水平方向からのずれ量dxが所定値よりも大きいとき、あるいは、水平方向からの傾きθが所定値よりも大きいときには、ペインの(水平方向の)画面スクロールの指示ではないと判定する(又は、画面スクロール処理を取り消す)ようにしてもよい。
図39には、情報処理装置100が、ユーザーのUI操作に応じて、図36〜図38に示したような画面動作を実行するための処理手順をフローチャートの形式で示している。この処理手順は、例えば演算部120が所定のプログラム・コードを実行するという形態で実現する。
この処理手順は、例えばユーザーが画面上をタッチしたことに応答して起動し、まず、タッチ開始位置(x0,y0)が、幅wlineの画面サイズ変更指示領域内にあるかどうかをチェックする(ステップS3901)。例えば、図36並びに図37に示したように、ユーザーが画面の水平方向に指先をなぞる動作を行なう場合には、タッチ開始位置から境界線までの最短距離の絶対値|x0−xsplit|が、wline/2以下であるかどうかをチェックする。
ここで、タッチ開始位置(x0,y0)が画面サイズ変更指示領域内にある場合には(ステップS3901のYes)、現在行なわれているUI操作は画面分割の指示と判定する。そして、タッチしている指先位置が移動する度に(ステップS3911)、タッチ開始位置に直近の境界線の両側にあるペインのサイズを、移動量に応じて拡大又は縮小させる(ペイン間の境界線を指先の位置まで移動させる)、という画面サイズ変更処理を(ステップS3912)、ユーザーの画面タッチが終了するまで(ステップS3913)、繰り返し実行する。例えば、タッチしている指先がタッチ開始位置(x0,y0)から水平方向に位置(x0+dx,y0+dy)に移動すると、境界線の両隣のペインの水平方向のサイズをそれぞれ+dx、−dxだけ変更する。画面サイズ変更指示操作の途中で、サイズ変更操作の対象となっている境界線を強調表示するようにしてもよい(後述)。そして、ユーザーの画面タッチが終了すると、本処理ルーチン全体を終了する。
一方、タッチ開始位置(x0,y0)が画面サイズ変更指示領域内にない場合には(ステップS3901のNo)、続いて、タッチ開始位置(x0,y0)が画面分割指示領域内にあるかどうかをチェックする(ステップS3902)。例えば、図36並びに図37に示したように、ユーザーが画面の水平方向に指先をなぞる動作を行なう場合には、タッチ開始位置から境界線までの最短距離の絶対値|x0−xsplit|が、wline/2より大きくwsplit以下であるかどうかをチェックする。
タッチ開始位置(x0,y0)が画面分割指示領域内にある場合には(ステップS3902のYes)、現在行なわれているUI操作は画面分割の指示と判定する。そして、タッチしている指先位置が移動する度に(ステップS3921)、移動した指先位置まで分割ラインを表示する処理を(ステップS3922)、ユーザーの画面タッチが終了するまで(ステップS3923)、繰り返し実行する。例えば、タッチしている指先がタッチ開始位置(x0,y0)から水平方向に位置(x0+dx,y0+dy)に移動すると、タッチ開始位置からdxまで水平方向に分割ラインを表示する。画面分割指示操作の途中で、分割ラインを強調表示するようにしてもよい(後述)。また、分割ラインと併せて、分割ラインをペインの他方の端縁まで延長させた補助線も表示する。
そして、タッチが終了した時点での指先位置が所定の長さに達している場合(例えば、指先の移動量dx(若しくはdy)がペインのウィンドウ幅Wwindowの3分の1に到達している場合)には(ステップS3924のYes)、ペインの分割を確定させ、補助線まで分割ラインを生成し、分割処理を実行して(ステップS3925)、本処理ルーチン全体を終了する。分割により新たに生成したペインには、例えば元のペインのクローンを生成する。
また、タッチが終了した時点での指先位置が所定の長さに達していない場合には(ステップS3924のNo)、進行中であった画面分割処理を取り消して(ステップS3926)、本処理ルーチン全体を終了する。指先の軌跡が補助線から所定距離以上離れたときにも、画面分割処理を取り消すようにしてもよい。
また、タッチ開始位置(x0,y0)が画面分割指示領域内にない場合には(ステップS3902のNo)、ユーザーの指先位置の移動に従って、画面スクロール(図38を参照のこと)、又は、リンクの選択など、その他の通常の画面挙動を実行する(ステップS3903)。スクロール指示操作の途中で、スクロールしているペインを強調表示するようにしてもよい(後述)。
図40には、情報処理装置100が、ユーザーのUI操作に応じて、図36〜図38に示したような画面動作を実行するための処理手順の他の例をフローチャートの形式で示している。この処理手順は、所定の最小幅を超えて画面サイズ変更が指示されたペインを閉じる処理を含む点で、図39に示した処理手順とは相違する。
この処理手順は、例えばユーザーが画面上をタッチしたことに応答して起動し、まず、タッチ開始位置(x0,y0)が、幅wlineの画面サイズ変更指示領域内にあるかどうかをチェックする(ステップS4001)。
ここで、タッチ開始位置(x0,y0)が画面サイズ変更指示領域内にある場合には(ステップS4001のYes)、現在行なわれているUI操作は画面分割の指示と判定する。そして、タッチしている指先位置が移動する度に(ステップS4011)、タッチ開始位置に直近の境界線の両側にあるペインのサイズを、移動量に応じて拡大又は縮小させるという画面サイズ変更処理を(ステップS4012)、ユーザーの画面タッチが終了するまで(ステップS4013)、繰り返し実行する。画面サイズ変更指示操作の途中で、サイズ変更操作の対象となっている境界線を強調表示するようにしてもよい(後述)。
そして、ユーザーの画面タッチが終了すると、所定の最小幅wcloseを超えて画面サイズ変更が指示されたかどうかをチェックする(ステップS4014)。画面のサイズ変更が所定の最小幅wclose以下であれば(ステップS4014のNo)、画面のサイズ変更を行なったまま、本処理ルーチン全体を終了する。また、画面のサイズ変更が所定の最小幅wcloseを超えている場合には(ステップS4014)。画面のサイズ変更が所定の最小幅wclose以下であれば(ステップS4014のYes)、所定の最小幅wclose以下になった方のペインを閉じて(ステップS4015)、本処理ルーチン全体を終了する。
一方、タッチ開始位置(x0,y0)が画面サイズ変更指示領域内にない場合には(ステップS4001のNo)、続いて、タッチ開始位置(x0,y0)が画面分割指示領域内にあるかどうかをチェックする(ステップS4002)。
タッチ開始位置(x0,y0)が画面分割指示領域内にある場合には(ステップS4002のYes)、現在行なわれているUI操作は画面分割の指示と判定する。そして、タッチしている指先位置が移動する度に(ステップS4021)、移動した指先位置まで分割ラインを表示する処理を(ステップS4022)、ユーザーの画面タッチが終了するまで(ステップS4023)、繰り返し実行する。画面分割指示操作の途中で、分割ラインを強調表示するようにしてもよい(後述)。また、分割ラインと併せて、分割ラインをペインの他方の端縁まで延長させた補助線も表示する。
そして、タッチが終了した時点での指先位置が所定の長さに達している場合(例えば、指先の移動量dx(若しくはdy)がペインのウィンドウ幅Wwindowの3分の1に到達している場合)には(ステップS4024のYes)、ペインの分割を確定させ、補助線まで分割ラインを生成し、分割処理を実行して(ステップS4025)、本処理ルーチン全体を終了する。分割により新たに生成したペインには、例えば元のペインのクローンを生成する。
また、タッチが終了した時点での指先位置が所定の長さに達していない場合には(ステップS4024のNo)、進行中であった画面分割処理を取り消して(ステップS4026)、本処理ルーチン全体を終了する。指先の軌跡が補助線から所定距離以上離れたときにも、画面分割処理を取り消すようにしてもよい。
また、タッチ開始位置(x0,y0)が画面分割指示領域内にない場合には(ステップS4002のNo)、ユーザーの指先位置の移動に従って、画面スクロール(図38を参照のこと)、又は、リンクの選択など、その他の通常の画面挙動を実行する(ステップS4003)。すくロール指示操作の途中で、スクロールしているペインを強調表示するようにしてもよい(後述)。
図41には、所定の最小幅を超えて画面サイズ変更が指示されたペインが閉じる様子を示している。所定の最小幅wcloseは、例えば100画素である。
ユーザーは、ペインAとペインBの境界線を把持して移動するという直感的なUI操作により、隣接するペインA、Bのサイズ変更を行なうことができる。例えば、図41(a)に示すように、ユーザーが画面サイズ変更指示領域4101内で指先のタッチを開始し、図41(b)に示すように、ユーザーは、指先を左方になぞって、境界線を点線4102で示す位置まで移動させる。点線4102で示す位置は、左側のペインAの最小幅wcloseを超えていないので、図41(c)に示すように、この画面サイズ変更指示は確定し、新しい境界線4103に移動する。その後、図41(d)に示すように、ユーザーは、指先を今度は右方になぞって、境界線を点線4104で示す位置まで移動させる。点線4104で示す位置は、右側のペインBの最小幅wcloseを超えているので、ペインBが閉じる。
図42には、情報処理装置100が、ユーザーのUI操作に応じて、図36〜図38に示したような画面動作を実行するための処理手順のさらに他の例をフローチャートの形式で示している。この処理手順は、画面サイズ変更のロック機能を含む点で、図40に示した処理手順とは相違する。
この処理手順は、例えばユーザーが画面上をタッチしたことに応答して起動し、まず、タッチ開始位置(x0,y0)が、幅wlineの画面サイズ変更指示領域内にあるかどうかをチェックする(ステップS4201)。
ここで、タッチ開始位置(x0,y0)が画面サイズ変更指示領域内にある場合には(ステップS4201のYes)、現在行なわれているUI操作は画面サイズ変更の指示と判定し、続いて画面サイズ変更がロック状態かどうかをチェックする(ステップS4211)。そして、画面サイズ変更がロック状態のときには(ステップS4211のYes)、後続の処理をすべてスキップして、本処理ルーチン全体を終了する。
画面サイズ変更がロックされていないときには(ステップS4211のNo)、タッチしている指先位置が移動する度に(ステップS4212)、タッチ開始位置に直近の境界線の両側にあるペインのサイズを、移動量に応じて拡大又は縮小させるという画面サイズ変更処理を(ステップS4213)、ユーザーの画面タッチが終了するまで(ステップS4214)、繰り返し実行する。画面サイズ変更指示操作の途中で、サイズ変更操作の対象となっている境界線を強調表示するようにしてもよい(後述)。
そして、ユーザーの画面タッチが終了すると、所定の最小幅wcloseを超えて画面サイズ変更が指示されたかどうかをチェックする(ステップS4215)。画面のサイズ変更が所定の最小幅wclose以下であれば(ステップS4215のNo)、画面のサイズ変更を行なったまま、本処理ルーチン全体を終了する。また、画面のサイズ変更が所定の最小幅wcloseを超えている場合には(ステップS4215のYes)、所定の最小幅wclose以下になった方のペインを閉じて(ステップS4216)、本処理ルーチン全体を終了する。
一方、タッチ開始位置(x0,y0)が画面サイズ変更指示領域内にない場合には(ステップS4201のNo)、続いて、タッチ開始位置(x0,y0)が画面分割指示領域内にあるかどうかをチェックする(ステップS4202)。
タッチ開始位置(x0,y0)が画面分割指示領域内にある場合には(ステップS4202のYes)、現在行なわれているUI操作は画面分割の指示と判定する。そして、タッチしている指先位置が移動する度に(ステップS4221)、移動した指先位置まで分割ラインを表示する処理を(ステップS4222)、ユーザーの画面タッチが終了するまで(ステップS4223)、繰り返し実行する。画面分割指示操作の途中で、分割ラインを強調表示するようにしてもよい(後述)。また、分割ラインと併せて、分割ラインをペインの他方の端縁まで延長させた補助線も表示する。
そして、タッチが終了した時点での指先位置が所定の長さに達している場合(例えば、指先の移動量dx(若しくはdy)がペインのウィンドウ幅Wwindowの3分の1に到達している場合)には(ステップS4224のYes)、ペインの分割を確定させ、補助線まで分割ラインを生成し、分割処理を実行して(ステップS4225)、本処理ルーチン全体を終了する。分割により新たに生成したペインには、例えば元のペインのクローンを生成する。
また、タッチが終了した時点での指先位置が所定の長さに達していない場合には(ステップS4224のNo)、進行中であった画面分割処理を取り消して(ステップS4226)、本処理ルーチン全体を終了する。指先の軌跡が補助線から所定距離以上離れたときにも、画面分割処理を取り消すようにしてもよい。
また、タッチ開始位置(x0,y0)が画面分割指示領域内にない場合には(ステップS4002のNo)、ユーザーの指先位置の移動に従って、画面スクロール(図38を参照のこと)、又は、リンクの選択など、その他の通常の画面挙動を実行する(ステップS4203)。スクロール指示操作の途中で、スクロールしているペインを強調表示するようにしてもよい(後述)。
B−2.誤動作防止方法2
画面サイズ変更指示と画面分割指示の誤動作を防止する第2の方法として、タッチ開始位置における長押し操作を利用する方法が挙げられる。すなわち、ユーザーがペインの境界線付近を指先でタッチし、所定時間だけ長押ししてから指先の移動を行なったときには、画面分割の指示と判定し、その後の指先の移動方向に従って、タッチした画面の分割処理を行なう。一方、ユーザーがペインの境界線付近を指先でタッチしてから直ちに、指先の移動を行なったときには、サイズ変更の指示と判定して、その後の指先の移動方向に従って、画面のサイズ変更処理を行なう。ユーザーは、画面サイズ変更指示領域又は画面分割指示領域のいずれか気にせず、大雑把に境界線付近で指先のタッチ操作を開始すればよい。また、ユーザーによる指先のタッチ操作が境界線付近ではなく、ペインの内側から開始したときには、(長押ししたか否かに拘わらず)画面スクロール(若しくは、リンクの移動など通常の挙動)と判定して、その後の指先の移動に従って、画面のスクロールやリンクの移動などの処理を行なう。
図43には、長押し操作を利用して画面の再分割を行なうUI操作を図解している。図43(a)に示すように、ユーザーは、ペインAとペインBの境界線4301付近を「長押し」、すなわち所定時間(例えば1秒)だけタッチし続けた後に、右方向に向かって指を移動させる。境界線付近を長押ししたことにより、画面分割の指示と判定され、点線で示す補助線4302が画面の右端まで自動で伸びる。そして、図43(b)に示すように、ユーザーが指先を移動させた位置まで、分割ライン4303が表示される。その後、ユーザーが水平方向に所定の長さだけなぞると(図示の例では、画面の3分の1以上)、図43(c)に示すように、画面の分割が確定して、分割ライン4304が画面の右端まで自動で伸びて、ペインBの分割が完了する。元のペインBのクローンであるペインB1、B2が分割後の画面の上下にそれぞれ出現する。
図44には、情報処理装置100が、ユーザーのUI操作に応じて、画面動作を実行するための処理手順をフローチャートの形式で示している。この処理手順は、ユーザーの指先タッチの「長押し」の有無に応じてUI操作を判定する点で、図39に示した処理手順と相違する。
この処理手順は、例えばユーザーが画面上をタッチしたことに応答して起動し、まず、タッチ開始位置(x0,y0)がペインの境界線付近かどうかをチェックする(ステップS4401)。
ここで、タッチ開始位置(x0,y0)がペインの境界線付近ではなく、ペインの内側である場合には(ステップS4401のNo)、ユーザーの指先位置の移動に従って、画面スクロール(図38を参照のこと)、又は、リンクの選択など、その他の通常の画面挙動を実行する(ステップS4403)。スクロール指示操作の途中で、スクロールしているペインを強調表示するようにしてもよい(後述)。
一方、タッチ開始位置(x0,y0)がペインの境界線付近である場合には(ステップS4401のYes)、その後、ユーザーの指先がタッチ開始位置(x0,y0)に所定時間(例えば、1秒)以上停止したかどうか、すなわち、長押しされたかどうかをチェックする(ステップS4402)。
長押しされず、タッチしている指先位置が速やかに移動し始めたときには(ステップS4402のNo)、現在行なわれているUI操作は画面サイズ変更の指示と判定する。この場合、タッチしている指先位置が移動する度に(ステップS4411)、タッチ開始位置に直近の境界線の両側にあるペインのサイズを、移動量に応じて拡大又は縮小させるという画面サイズ変更処理を(ステップS4412)、ユーザーの画面タッチが終了するまで(ステップS4413)、繰り返し実行する。画面サイズ変更指示操作の途中で、サイズ変更操作の対象となっている境界線を強調表示するようにしてもよい(後述)。
そして、ユーザーの画面タッチが終了すると、所定の最小幅wcloseを超えて画面サイズ変更が指示されたかどうかをチェックする(ステップS4414)。画面のサイズ変更が所定の最小幅wclose以下であれば(ステップS4414のNo)、画面のサイズ変更を行なったまま、本処理ルーチン全体を終了する。また、画面のサイズ変更が所定の最小幅wcloseを超えている場合には(ステップS4414のYes)、所定の最小幅wclose以下になった方のペインを閉じて(ステップS4415)、本処理ルーチン全体を終了する。
また、ユーザーの指先がタッチ開始位置(x0,y0)に所定時間(例えば、1秒)以上停止したとき、すなわち、長押しが行なわれた後にタッチしている指先位置の移動が開始したときには(ステップS4402のYes)、現在行なわれているUI操作は画面分割の指示と判定する。この場合、タッチしている指先位置が移動する度に(ステップS4421)、移動した指先位置まで分割ラインを表示する処理を(ステップS4422)、ユーザーの画面タッチが終了するまで(ステップS4423)、繰り返し実行する。画面分割指示操作の途中で、分割ラインを強調表示するようにしてもよい(後述)。また、分割ラインと併せて、分割ラインをペインの他方の端縁まで延長させた補助線も表示する。
そして、タッチが終了した時点での指先位置が所定の長さに達している場合(例えば、指先の移動量dx(若しくはdy)がペインのウィンドウ幅Wwindowの3分の1に到達している場合)には(ステップS4424のYes)、ペインの分割を確定させ、補助線まで分割ラインを生成し、分割処理を実行して(ステップS4425)、本処理ルーチン全体を終了する。分割により新たに生成したペインには、例えば元のペインのクローンを生成する。
また、タッチが終了した時点での指先位置が所定の長さに達していない場合には(ステップS4424のNo)、進行中であった画面分割処理を取り消して(ステップS4426)、本処理ルーチン全体を終了する。指先の軌跡が補助線から所定距離以上離れたときにも、画面分割処理を取り消すようにしてもよい。
B−3.誤動作防止方法3
画面サイズ変更指示と画面分割指示の誤動作を防止する第3の方法として、ペインの境界線の両端(若しくはその他の任意の部位)に境界線の移動を指示するためのハンドルを設ける方法が挙げられる。すなわち、ユーザーがペインの境界線端部のハンドルを指先でタッチして(すなわち、ハンドルをつかむ操作を行なって)、指先の移動を開始したときには、サイズ変更の指示と判定して、その後の指先の移動方向に従って、画面のサイズ変更処理を行なう。一方、ユーザーがペインの境界線上のハンドル以外の部分を指先でタッチし、指先の移動を行なったときには、画面分割の指示と判定し、その後の指先の移動方向に従って、タッチした画面の分割処理を行なう。ユーザーは、画面サイズ変更指示領域又は画面分割指示領域のいずれかという微妙な指先の位置合わせを気にせず、境界線上を指先でタッチすると、長押しなしに即座にサイズ変更又は分割の操作を開始することができる。また、ユーザーによる指先のタッチ操作が境界線付近ではなく、ペインの内側から開始したときには、(長押ししたか否かに拘わらず)画面スクロール(若しくは、リンクの移動など通常の挙動)と判定して、その後の指先の移動に従って、画面のスクロールやリンクの移動などの処理を行なう。
図45には、境界線の端部に設けられたハンドルを利用して画面のサイズ変更を行なうUI操作を図解している。図45(a)に示すように、ペインAとペインBの境界線4501の上下各端部には、それぞれハンドル4502、4503が表示されている。ユーザーは、境界線4501の下端のハンドル4503(上端のハンドル4502でもよい)をタッチし、指先を画面から外すことなくそのまま右方向への移動を開始すると、画面のサイズ変更の指示と判断する。この結果、図45(b)に示すように、指先を移動させた位置4504まで境界線は移動し、ペインAのサイズが水平方向に拡大する一方、ペインBのサイズは水平方向に収縮する。
また、図45(c)に示すように、ユーザーが境界線4701の端部以外の場所4505をタッチし、指先を画面から外すことなくそのまま右方向への移動を開始すると、画面の分割指示と判断する。この結果、図45(d)に示すように、指先を移動させた位置まで新しい分割線4506が生成されるとともに、点線で示す補助線4507がペインBの右端まで自動で伸びる。
図46には、情報処理装置100が、ユーザーのUI操作に応じて、画面動作を実行するための処理手順をフローチャートの形式で示している。この処理手順は、ユーザーの指先タッチが境界線のどの部分で開始したかに応じてUI操作を判定する点で、図44に示した処理手順と相違する。
この処理手順は、例えばユーザーが画面上をタッチしたことに応答して起動し、まず、タッチ開始位置(x0,y0)がペインの境界線付近かどうかをチェックする(ステップS4601)。
ここで、タッチ開始位置(x0,y0)がペインの境界線付近ではなく、ペインの内側である場合には(ステップS4601のNo)、ユーザーの指先位置の移動に従って、画面スクロール(図38を参照のこと)、又は、リンクの選択など、その他の通常の画面挙動を実行する(ステップS4603)。スクロール指示操作の途中で、スクロールしているペインを強調表示するようにしてもよい(後述)。
一方、タッチ開始位置(x0,y0)がペインの境界線付近である場合には(ステップS4601のYes)、タッチ開始位置(x0,y0)が境界線端部のハンドルと一致するかどうかをさらにチェックする(ステップS4602)。
タッチ開始位置(x0,y0)が境界線端部のハンドルと一致する場合には(ステップS4602のYes)、現在行なわれているUI操作は画面サイズ変更の指示と判定する。この場合、タッチしている指先位置が移動する度に(ステップS4611)、タッチ開始位置に直近の境界線の両側にあるペインのサイズを、移動量に応じて拡大又は縮小させるという画面サイズ変更処理を(ステップS4612)、ユーザーの画面タッチが終了するまで(ステップS4613)、繰り返し実行する。画面サイズ変更指示操作の途中で、サイズ変更操作の対象となっている境界線を強調表示するようにしてもよい(後述)。
そして、ユーザーの画面タッチが終了すると、所定の最小幅wcloseを超えて画面サイズ変更が指示されたかどうかをチェックする(ステップS4614)。画面のサイズ変更が所定の最小幅wclose以下であれば(ステップS4614のNo)、画面のサイズ変更を行なったまま、本処理ルーチン全体を終了する。また、画面のサイズ変更が所定の最小幅wcloseを超えている場合には(ステップS4614のYes)、所定の最小幅wclose以下になった方のペインを閉じて(ステップS4615)、本処理ルーチン全体を終了する。
また、タッチ開始位置(x0,y0)が境界線端部のハンドルと一致しない場合には(ステップS4602のNo)、現在行なわれているUI操作は画面分割の指示と判定する。この場合、タッチしている指先位置が移動する度に(ステップS4621)、移動した指先位置まで分割ラインを表示する処理を(ステップS4622)、ユーザーの画面タッチが終了するまで(ステップS4623)、繰り返し実行する。画面分割指示操作の途中で、分割ラインを強調表示するようにしてもよい(後述)。また、分割ラインと併せて、分割ラインをペインの他方の端縁まで延長させた補助線も表示する。
そして、タッチが終了した時点での指先位置が所定の長さに達している場合(例えば、指先の移動量dx(若しくはdy)がペインのウィンドウ幅Wwindowの3分の1に到達している場合)には(ステップS4624のYes)、ペインの分割を確定させ、補助線まで分割ラインを生成し、分割処理を実行して(ステップS4625)、本処理ルーチン全体を終了する。分割により新たに生成したペインには、例えば元のペインのクローンを生成する。
また、タッチが終了した時点での指先位置が所定の長さに達していない場合には(ステップS4624のNo)、進行中であった画面分割処理を取り消して(ステップS4626)、本処理ルーチン全体を終了する。指先の軌跡が補助線から所定距離以上離れたときにも、画面分割処理を取り消すようにしてもよい。
B−4.誤動作防止方法4
画面サイズ変更指示と画面分割指示の誤動作を防止する第4の方法として、画面サイズ変更処理の実施を禁止するロック機能を利用する方法が挙げられる。すなわち、ロック状態では、ユーザーがペインの境界線を指先でタッチし、指先の移動を行なうと、画面分割の指示と判定し、その後の指先の移動方向に従って、タッチした画面の分割処理を行なう。一方、ロック解除状態では、ユーザーが境界線を指先でタッチし、指先の移動を行なうと、サイズ変更の指示と判定して、その後の指先の移動方向に従って、画面のサイズ変更処理を行なう。ユーザーは、画面サイズ変更指示領域又は画面分割指示領域のいずれかという微妙な指先の位置合わせを気にせず、境界線上を指先でタッチしてサイズ変更又は分割の操作を開始することができる。また、ユーザーによる指先のタッチ操作が境界線付近ではなく、ペインの内側から開始したときには、(長押ししたか否かに拘わらず)画面スクロール(若しくは、リンクの移動など通常の挙動)と判定して、その後の指先の移動に従って、画面のスクロールやリンクの移動などの処理を行なう。
図47には、画面サイズ変更のロック機能を利用して画面のサイズ変更を行なうUI操作を図解している。図47(a)に示すように、ペインAとペインBの境界線4701の上下各端部には、画面サイズ変更のロック状態を表示するインジケーター4702、4703が表示されている。インジケーターの設置場所は、境界線4701の端部には限定されない。画面サイズ変更のロックが解除されている状態では、図47(a)に示すように、インジケーター4702、4703を白抜きの丸「○」で表示し、ロック状態では、図47(c)に示すように、インジケーター4702、4703を黒丸「●」で表示する。例えば、インジケーター4702又は4703をタップして、ロック状態とロック解除状態を切り替えることができる(勿論、その他の操作でロック状態の切り替えを行なうようにしてもよい)。
図47(a)に示すように、ユーザーは、境界線4701をタッチし、指先を画面から外すことなくそのまま右方向への移動を開始すると、画面のサイズ変更の指示と判断する。この結果、図47(b)に示すように、指先を移動させた位置4704まで境界線は移動し、ペインAのサイズが水平方向に拡大する一方、ペインBのサイズは水平方向に収縮する。
また、図47(c)に示すように、ユーザーが境界線4701をタッチし、指先を画面から外すことなくそのまま右方向への移動を開始すると、画面の分割指示と判断する。この結果、図45(d)に示すように、指先を移動させた位置まで新しい分割線4506が生成されるとともに、点線で示す補助線4507がペインBの右端まで自動で伸びる。
図48には、情報処理装置100が、ユーザーのUI操作に応じて、画面動作を実行するための処理手順をフローチャートの形式で示している。この処理手順は、画面サイズ変更操作のロック状態に応じてUI操作を判定する点で、図46に示した処理手順と相違する。
この処理手順は、例えばユーザーが画面上をタッチしたことに応答して起動し、まず、タッチ開始位置(x0,y0)がペインの境界線付近かどうかをチェックする(ステップS4801)。
ここで、タッチ開始位置(x0,y0)がペインの境界線付近ではなく、ペインの内側である場合には(ステップS4801のNo)、ユーザーの指先位置の移動に従って、画面スクロール(図38を参照のこと)、又は、リンクの選択など、その他の通常の画面挙動を実行する(ステップS4803)。スクロール指示操作の途中で、スクロールしているペインを強調表示するようにしてもよい(後述)。
一方、タッチ開始位置(x0,y0)がペインの境界線付近である場合には(ステップS4801のYes)、画面サイズ変更操作がロック状態かどうかをさらにチェックする(ステップS4802)。
画面サイズ変更操作がロック解除状態のときには(ステップS4802のNo)、現在行なわれているUI操作は画面サイズ変更の指示と判定する。この場合、タッチしている指先位置が移動する度に(ステップS4811)、タッチ開始位置に直近の境界線の両側にあるペインのサイズを、移動量に応じて拡大又は縮小させるという画面サイズ変更処理を(ステップS4812)、ユーザーの画面タッチが終了するまで(ステップS4813)、繰り返し実行する。画面サイズ変更指示操作の途中で、サイズ変更操作の対象となっている境界線を強調表示するようにしてもよい(後述)。
そして、ユーザーの画面タッチが終了すると、所定の最小幅wcloseを超えて画面サイズ変更が指示されたかどうかをチェックする(ステップS4814)。画面のサイズ変更が所定の最小幅wclose以下であれば(ステップS4814のNo)、画面のサイズ変更を行なったまま、本処理ルーチン全体を終了する。また、画面のサイズ変更が所定の最小幅wcloseを超えている場合には(ステップS4814のYes)、所定の最小幅wclose以下になった方のペインを閉じて(ステップS4815)、本処理ルーチン全体を終了する。
また、画面サイズ変更操作がロック状態のときには(ステップS4802のNo)、現在行なわれているUI操作は画面分割の指示と判定する。この場合、タッチしている指先位置が移動する度に(ステップS4821)、移動した指先位置まで分割ラインを表示する処理を(ステップS4822)、ユーザーの画面タッチが終了するまで(ステップS4823)、繰り返し実行する。画面分割指示操作の途中で、分割ラインを強調表示するようにしてもよい(後述)。また、分割ラインと併せて、分割ラインをペインの他方の端縁まで延長させた補助線も表示する。
そして、タッチが終了した時点での指先位置が所定の長さに達している場合(例えば、指先の移動量dx(若しくはdy)がペインのウィンドウ幅Wwindowの3分の1に到達している場合)には(ステップS4824のYes)、ペインの分割を確定させ、補助線まで分割ラインを生成し、分割処理を実行して(ステップS4825)、本処理ルーチン全体を終了する。分割により新たに生成したペインには、例えば元のペインのクローンを生成する。
また、タッチが終了した時点での指先位置が所定の長さに達していない場合には(ステップS4824のNo)、進行中であった画面分割処理を取り消して(ステップS4826)、本処理ルーチン全体を終了する。指先の軌跡が補助線から所定距離以上離れたときにも、画面分割処理を取り消すようにしてもよい。
B−5.その他の画面操作例
図49には、複数の境界線を同時に操作して、3以上のペインを同時にサイズ変更するUI操作を図解している。
図49(a)に示すように、画面は、境界線4901によって、画面左側のペインAと、画面右側のペインB、Cに分割されている。また、画面右側では、境界線4902によって、ペインBとペインCに上下方向に2分割されている。
境界線4901と境界線4902は、交点4903で交差している。したがって、ユーザーは、交点4903を指先でタッチして移動する、すなわち、交点4903をつかんで動かすという動作により、2つの境界線4901、4902を同時に動かして、3つのペインA〜Cのサイズを同時に変更することができる。
例えば、図49(a)に示すように、ユーザーは、交点4903を指先でタッチし、矢印4904で示すように画面左下方向に指先を移動する。この結果、図49(d)に示すように、境界線4901と境界線4902の交点は、ユーザーの指先の最終位置4905まで移動し、ペインAのサイズが右方向に拡張するとともに、ペインBのサイズは下方向に拡張し、その分ペインCのサイズは収縮する。
図50には、一部のペインが固定幅のコンテンツを表示している場合の画面サイズを変更するUI操作を図解している。
図50(a)に示すように、画面は、境界線5001によって、画面左側のペインAと、画面右側のペインB、Cに分割されている。また、画面右側では、境界線5002によって、ペインBとペインCに上下方向に2分割されている。
また、ペインB内では、固定幅(例えば、アスペクト比が16:9)の動画コンテンツの再生映像5003が表示されている。ここで、ペインBの現在のサイズが動画コンテンツと一致せず、横長の場合には、動画コンテンツを最大表示すると、ペインBには水平方向に余剰の領域、すなわち、映像が表示されない無効領域が生じる。図示の例では、動画コンテンツの左右両側の無効領域をグレーで塗り潰している。
ユーザーが境界線5001を掴んで、右方向に移動させて、画面サイズの変更操作を行なうと、ペインB及びペインCは、水平方向に収縮する。そして、図50(b)に示すように、ペインBのアスペクトが表示中の動画コンテンツのアスペクトに近づくと、境界線5001が動画コンテンツの左端に吸着する挙動を行なう。そして、境界線5001を少しだけ移動させようとしても、吸着したまま動こうとしない。ユーザーが指先を一定距離以上動かすと、図50(c)に示すように境界線5001はさらに右方向に移動し始める。今度は、ペインBが動画コンテンツのアスペクトよりも縦長になってしまうので、ペインBには垂直方向に余剰の領域、すなわち、映像が表示されない無効領域が生じる。図示の例では、動画コンテンツの上下両側の無効領域をグレーで塗り潰している。
図51には、複数の境界線の親子関係を変更するUI操作を図解している。
先に画面を分割した境界線が親となり、その後の分割操作により、親となる境界線と交差するように生成された境界線が異なる。図51(a)には、まず境界線5101により画面をペインAとペインBに分割した後に、さらに境界線5102によりペインAをペインA1とペインA2に分割するとともに、右側のペインBも境界線5103によりペインB1とペインB2に分割する。この場合、最初に生成した境界線5101が親、境界線5101から派生した境界線5102、5103が子として、親子関係が形成される。
図示を省略するが、境界線5101を右方向に移動させると、左側のペインA1とペインA2は水平方向に拡張し、右側のペインB1とペインB2は水平方向に収縮する。逆に、境界線5101を左方向に移動させると、左側のペインA1とペインA2は水平方向に収縮し、右側のペインB1とペインB2は水平方向に拡張する。すなわち、親である境界線5101に対するUI操作の影響が、子である各境界線5102、5103にも伝搬する。
他方、境界線5102を上下方向に移動させると、ペインA1は垂直方向に拡大又は縮小し、その分だけ、ペインA2は垂直方向に縮小又は拡大する。しかしながら、境界線5101の右側のペインB1、B2のサイズは変化しない。すなわち、子である境界線5102に対するUI操作の影響は、その親である境界線5101を超えて伝搬することはない。
また、境界線5103を上下方向に移動させると、ペインB1は垂直方向に拡大又は縮小し、その分だけ、ペインB2は垂直方向に縮小又は拡大する。しかしながら、境界線5101の左側のペインA1、A2のサイズは変化しない。すなわち、子である境界線5103に対するUI操作の影響は、その親である境界線5101を超えて伝搬することはない。
図51(a)に示すように、子である各境界線5102、5103は異なる垂直位置に生成されているとする。ユーザーが一方の境界線5102を上下方向に移動させ、他方の境界線5103と垂直位置に近づくと、両境界線5102、5103が一直線上に重なるように吸着する挙動を行なう。そして、境界線5102又は境界線5103を少しだけ移動させようとしても、吸着したまま動こうとしない。図示を省略するが、境界線5102又は境界線5103を一定距離以上動かす操作をしない限り、以前のように境界線5102又は境界線5103が動き、ペインA1とペインA2、又は、ペインB1とペインB2を、それぞれ別々に垂直方向にサイズ変更することはできない。
また、図51(b)に示したように、子である境界線5102と境界線5103が吸着した状態では、親子関係の入れ替えが可能な状態になる。ここで、境界線5101の下半分5104をユーザーがタッチして水平方向に移動すると、図51(c)に示すように、境界線5102と境界線5103より下方のペインA2は水平方向に拡大又は縮小し、その分だけペインB2は水平方向に縮小又は拡大する。他方、境界線5101の上半分5105の位置は変化せず、境界線5102と境界線5103より上方のペインA1及びB1のサイズは全く変化しない。
上記では、画面を切る(split)というUI操作を通じて元のペインのクローンを新しいペインに生成し(例えば、図17並びに図18を参照のこと)、スワイプ操作により新しいペインにホーム画面を出現させる(例えば、図27並びに図28を参照のこと)、というUI操作を説明してきた。これに対し、画面分割するUI操作の途中で新しいペインの状態を指定する方法も考えられる。
図52〜図55には、画面分割するUI操作の途中で新しいペインの状態を指定する方法を図解している。水平方向に画面を分割しようとする分割ライン5201の途中で、ユーザーが指先を所定時間(例えば1秒)だけ停止すると、図示のような、ガイド5202が表示される。このガイド5202は、3方向の分岐5203〜5205を持つ。指先を水平よりも上方のマーク「H」5203の方向に進めると、分割ライン5201より上のペインをホーム画面5301とし、分割ライン5201より下のペインに元のペインのクローン5302を生成できることを表示している(図53を参照のこと)。また、指先を水平方向のマーク「C」5204の方向に進めると、新しく生成される上下の各ペインともに元のペインのクローン5401、5402を生成できることを表示している(図54を参照のこと)。また、指先を、水平よりも下方のマーク「H」5205の方向に進めると、分割ライン5201より下のペインをホーム画面5502とし、分割ライン5201より上のペインに元のペインのクローン5501を生成できることを表示している(図55を参照のこと)。
また、ユーザーが画面分割、画面サイズ変更、スクロールの各UI操作を行なう場合に、それぞれに対応する画面エフェクトを行なうようにしてもよい。画面エフェクトは、美しく見せるなどの単なる視覚効果が向上するだけでなく、意図通りの動作が開始していることをユーザーにフィードバックすることにもなる。
図56には、画面分割指示操作の途中で、分割ライン5601を強調表示している様子を示している。また、図57には、画面サイズ変更指示操作の途中で、サイズ変更操作の対象となっている境界線5701を強調表示している様子を示している。また、図58には、スクロール指示操作の途中で、スクロールしているペイン5801を強調表示している様子を示している。
これまで説明してきたように、本実施形態によれば、情報処理装置100は、画面に対するユーザーのタッチ操作に応じて、画面分割を始めとする複数種類の画面操作を、誤動作なく正確に実行することができる、ということを十分理解されたい。
以上、特定の実施形態を参照しながら、本明細書で開示する技術について詳細に説明してきた。しかしながら、本明細書で開示する技術の要旨を逸脱しない範囲で当業者が該実施形態の修正や代用を成し得ることは自明である。
本明細書では、本明細書で開示する技術を、大画面を有する情報処理装置100に適用した実施形態を中心に説明してきたが、本明細書で開示する技術の要旨はこれに限定されるものではない。パーソナル・コンピューター、タブレットやスマートフォンなどの多機能端末を始め、TV受像機以外のさまざまなタイプの情報処理装置に対しても、同様に本明細書で開示する技術を適用することができる。
また、本明細書では、画面に対してタッチパネルにより座標入力を行なう実施形態を中心に説明してきたが、本明細書で開示する技術はこれに限定されるものではない。タッチパネル以外にも、マウスやペン、ジェスチャーなどの手段により座標入力を行なうようにしてもよい。
要するに、例示という形態により本明細書で開示する技術について説明してきたのであり、本明細書の記載内容を限定的に解釈するべきではない。本明細書で開示する技術の要旨を判断するためには、特許請求の範囲を参酌すべきである。
なお、本明細書の開示の技術は、以下のような構成をとることも可能である。
(1)情報を表示する画面と、
前記画面に対してユーザーが指示する座標を入力する座標入力部と、
前記座標入力部を介してユーザーが入力した軌跡に基づいて、ユーザーの指示を判定し、判定結果に応じた前記画面の動作を制御する制御部と、
を具備する情報処理装置。
(2)前記制御部は、前記座標入力部を介してユーザーが入力した軌跡に基づいて、前記ユーザーが前記画面の分割、分割した画面のサイズ変更、又はその他の画面動作のうちいずれを指示したかを判定する、
上記(1)に記載の情報処理装置。
(3)前記制御部は、前記軌跡の始点位置に基づいてユーザーの指示を判定して、判定結果に応じた前記画面の動作を制御する、
上記(2)に記載の情報処理装置。
(4)前記画面の境界線を中心とする所定の幅wline内で画面サイズ変更指示領域を定義し、前記画面サイズ変更指示領域の両側から所定の距離wsplit内で画面分割指示領域を定義し、
前記制御部は、前記軌跡の始点が前記画面サイズ変更指示領域内にあるときには前記軌跡に従って前記画面のサイズ変更処理を行ない、前記軌跡の始点が前記画面分割指示領域内にあるときには前記軌跡に従って前記画面の分割処理を行ない、前記軌跡の始点が前記画面分割指示領域よりも前記画面の内側にあるときには前記画面のスクロール又はその他の挙動を実施する、
上記(2)に記載の情報処理装置。
(5)前記制御部は、前記軌跡の始点位置における挙動に基づいてユーザーの指示を判定して、判定結果に応じた前記画面の動作を制御する、
上記(2)に記載の情報処理装置。
(6)前記制御部は、前記軌跡が前記画面の境界線付近で開始し且つその始点位置で所定時間以上停止した後に移動したときには前記軌跡に従って前記画面の分割処理を行ない、前記軌跡が前記画面の境界線付近で開始し且つ停止せずに移動したときには前記軌跡に従って前記画面のサイズ変更処理を行ない、前記画面の内側で前記軌跡が開始したときには前記画面のスクロール又はその他の挙動を実施する、
上記(2)に記載の情報処理装置。
(7)前記画面の境界線の両端に前記境界線を移動操作するハンドルを配設し、
前記制御部は、前記軌跡が前記ハンドルで開始したときには前記軌跡に従って前記画面のサイズ変更処理を行ない、前記軌跡が前記画面の境界線の前記ハンドル以外の部分で開始したときには前記軌跡に従って前記画面の分割処理を行ない、前記画面の内側で前記軌跡が開始したときには前記画面のスクロール又はその他の挙動を実施する、
上記(2)に記載の情報処理装置。
(8)前記画面のサイズ変更処理を禁止するロック機能をさらに備え、
前記制御部は、ロック状態で前記軌跡が前記画面の境界線付近で開始したときには前記軌跡に従って前記画面の分割処理を行ない、ロック解除状態で前記軌跡が前記画面の境界線付近で開始したときには前記軌跡に従って前記画面のサイズ変更処理を行ない、前記画面の内側で前記軌跡が開始したときには前記画面のスクロール又はその他の挙動を実施する、
上記(2)に記載の情報処理装置。
(9)ロック状態か否かを表示するインジケーターをさらに備える、
上記(8)に記載の情報処理装置。
(10)前記制御部は、前記画面を分割する複数の境界線の交点で前記軌跡が開始したときには、前記軌跡に従って前記交点の位置を移動させて分割された各画面のサイズ変更処理を行なう、
上記(2)に記載の情報処理装置。
(11)前記制御部は、分割した後の複数の画面のサイズ変更処理中に、いずれかの画面のサイズが所定サイズに近づいたときに、当該サイズに吸着させる、
上記(2)に記載の情報処理装置。
(12)前記制御部は、前記画面を第1の境界線で2分割した第1の画面及び第2の画面をそれぞれ第2の境界線及び第3の境界線でさらに分割したときに、前記第2の境界線と前記第3の境界線が一直線上に重なったときに、前記第1の境界線を前記一直線で2分した線分毎に画面のサイズ変更処理を許可する、
上記(2)に記載の情報処理装置。
(13)前記制御部は、前記画面の分割処理中に、分割して得られる新たな画面の状態を指定する指定部を前記画面に表示する、
上記(2)に記載の情報処理装置。
(14)前記制御部は、前記画面の分割ラインに対して前記軌跡が描く方向に応じて、前記新たな画面の状態を指定する前記指定部を、前記分割ライン上に表示する、
上記(2)に記載の情報処理装置。
(15)前記指定部は、前記軌跡が前記分割ラインから逸れるときには逸れた方向の新しい画面に元の画面に対するホーム画面を表示するとともに他方の新しい画面に元の画面のクローンを生成することを指定し、前記軌跡が前記分割ライン上に沿うときには前記分割ラインの両側の新しい画面にともに元の画面のクローンを生成することを指定する、
上記(14)に記載の情報処理装置。
(16)前記制御部は、分割処理中の前記画面の分割ラインを延長する補助線を表示する、
上記(2)に記載の情報処理装置。
(17)前記制御部は、所定の最小幅wcloseを超えてサイズ変更処理が指示された画面を消滅させる、
上記(2)に記載の情報処理装置。
(18)前記制御部は、前記画面のサイズ変更処理がロックされているときには、ユーザーから画面のサイズ変更が指示されても、前記画面のサイズ変更処理を実行しない、
上記(1)に記載の情報処理装置。
(19)前記制御部は、分割処理中の前記画面の分割ラインを強調表示する、
上記(2)に記載の情報処理装置。
(20)前記制御部は、サイズ変更処理中の前記画面の境界線を強調表示する、
上記(2)に記載の情報処理装置。
(21)前記制御部は、スクロール処理中の前記画面を強調表示する、
上記(2)に記載の情報処理装置。
(22)前記制御部は、分割した画面上でユーザーが第1の本数の指で出現方向にスワイプしたことに応答して、前記分割した画面に関するメニューを前記出現方向に出現させる、
上記(2)に記載の情報処理装置。
(23)前記制御部は、前記メニューに対して所定時間以上操作がないとき、又は、前記画面上でユーザーが前記出現方向の反対方向にスワイプしたことに応答して、前記メニューを前記反対方向に隠す、
上記(22)に記載の情報処理装置。
(24)前記制御部は、ユーザーが複数に分割した画面に対してグラブ操作したことに応答して、前記画面の状態を保存する、
上記(2)に記載の情報処理装置。
(25)前記制御部は、保存している画面の状態を前記画面に一覧表示し、ユーザーが選択した画面の状態を前記画面に復元する、
上記(24)に記載の情報処理装置。
(26)前記制御部は、ユーザーが分割した画面に対して第2の本数の指でスワイプしたことに応答して、前記分割した画面を前記スワイプした方向に向きに変える、
上記(2)に記載の情報処理装置。
(27)前記制御部は、前記画面上でユーザーが第3の本数の指でスワイプしたことに応答して、前記画面の前記スワイプした方向と反対側から前記スワイプした方向に向かって他の画面を出現させる、
請求項1に記載の情報処理装置。
(28)前記他の画面はホーム画面である、
上記(27)に記載の情報処理装置。
(29)画面に対してユーザーが指示する座標を入力する座標入力ステップと、
前記座標入力ステップでユーザーが入力した軌跡に基づいて、ユーザーの指示を判定し、判定結果に応じた前記画面の動作を制御する制御ステップと、
を有する情報処理方法。
(30)画面に対してユーザーが指示する座標を入力する座標入力部、
前記座標入力部を介してユーザーが入力した軌跡に基づいて、ユーザーの指示を判定し、判定結果に応じた前記画面の動作を制御する制御部、
としてコンピューターを機能させるようにコンピューター可読形式で記述されたコンピューター・プログラム。
100…情報処理装置
110…入力インターフェース部
120…演算部
130…出力インターフェース部
140…記憶部
150…通信部
160…電源部
170…テレビ・チューナー部
180…映像インターフェース部、190…バス
200…回転・取り付け機構部
501…リモコン受信部、502…信号解析部
503…カメラ部、504…画像認識部
505…マイク部、506…音声認識部
507…距離センサー、508…信号解析部
509…タッチ検出部、510…信号解析部
511…近接センサー、512…信号解析部
513…超近距離通信部、514…信号解析部
515…3軸センサー部、516…GPS受信部、517…信号解析部
520…入力インターフェース統合部
601…コンテンツ表示部、602…GUI表示部
603…表示部、604…スピーカー部

Claims (20)

  1. 情報を表示する画面と、
    前記画面に対してユーザーが指示する座標を入力する座標入力部と、
    前記座標入力部を介してユーザーが入力した軌跡に基づいて、ユーザーの指示を判定し、判定結果に応じた前記画面の動作を制御する制御部と、
    を具備する情報処理装置。
  2. 前記制御部は、前記座標入力部を介してユーザーが入力した軌跡に基づいて、前記ユーザーが前記画面の分割、分割した画面のサイズ変更、又はその他の画面動作のうちいずれを指示したかを判定する、
    請求項1に記載の情報処理装置。
  3. 前記画面の境界線を中心とする所定の幅wline内で画面サイズ変更指示領域を定義し、前記画面サイズ変更指示領域の両側から所定の距離wsplit内で画面分割指示領域を定義し、
    前記制御部は、前記軌跡の始点が前記画面サイズ変更指示領域内にあるときには前記軌跡に従って前記画面のサイズ変更処理を行ない、前記軌跡の始点が前記画面分割指示領域内にあるときには前記軌跡に従って前記画面の分割処理を行ない、前記軌跡の始点が前記画面分割指示領域よりも前記画面の内側にあるときには前記画面のスクロール又はその他の挙動を実施する、
    請求項2に記載の情報処理装置。
  4. 前記制御部は、前記軌跡が前記画面の境界線付近で開始し且つその始点位置で所定時間以上停止した後に移動したときには前記軌跡に従って前記画面の分割処理を行ない、前記軌跡が前記画面の境界線付近で開始し且つ停止せずに移動したときには前記軌跡に従って前記画面のサイズ変更処理を行ない、前記画面の内側で前記軌跡が開始したときには前記画面のスクロール又はその他の挙動を実施する、
    請求項2に記載の情報処理装置。
  5. 前記画面の境界線の両端に前記境界線を移動操作するハンドルを配設し、
    前記制御部は、前記軌跡が前記ハンドルで開始したときには前記軌跡に従って前記画面のサイズ変更処理を行ない、前記軌跡が前記画面の境界線の前記ハンドル以外の部分で開始したときには前記軌跡に従って前記画面の分割処理を行ない、前記画面の内側で前記軌跡が開始したときには前記画面のスクロール又はその他の挙動を実施する、
    請求項2に記載の情報処理装置。
  6. 前記画面のサイズ変更処理を禁止するロック機能をさらに備え、
    前記制御部は、ロック状態で前記軌跡が前記画面の境界線付近で開始したときには前記軌跡に従って前記画面の分割処理を行ない、ロック解除状態で前記軌跡が前記画面の境界線付近で開始したときには前記軌跡に従って前記画面のサイズ変更処理を行ない、前記画面の内側で前記軌跡が開始したときには前記画面のスクロール又はその他の挙動を実施する、
    請求項2に記載の情報処理装置。
  7. ロック状態か否かを表示するインジケーターをさらに備える、
    請求項6に記載の情報処理装置。
  8. 前記制御部は、前記画面を分割する複数の境界線の交点で前記軌跡が開始したときには、前記軌跡に従って前記交点の位置を移動させて分割された各画面のサイズ変更処理を行なう、
    請求項2に記載の情報処理装置。
  9. 前記制御部は、分割した後の複数の画面のサイズ変更処理中に、いずれかの画面のサイズが所定サイズに近づいたときに、当該サイズに吸着させる、
    請求項2に記載の情報処理装置。
  10. 前記制御部は、前記画面を第1の境界線で2分割した第1の画面及び第2の画面をそれぞれ第2の境界線及び第3の境界線でさらに分割したときに、前記第2の境界線と前記第3の境界線が一直線上に重なったときに、前記第1の境界線を前記一直線で2分した線分毎に画面のサイズ変更処理を許可する、
    請求項2に記載の情報処理装置。
  11. 前記画面の分割ラインに対して前記軌跡が描く方向に応じて、前記新たな画面の状態を指定する前記指定部を、前記分割ライン上に表示し、
    前記制御部は、前記軌跡が前記分割ラインから逸れるときには逸れた方向の新しい画面に元の画面に対するホーム画面を表示するとともに他方の新しい画面に元の画面のクローンを生成し、前記軌跡が前記分割ライン上に沿うときには前記分割ラインの両側の新しい画面にともに元の画面のクローンを生成する、
    請求項2に記載の情報処理装置。
  12. 前記制御部は、所定の最小幅wcloseを超えてサイズ変更処理が指示された画面を消滅させる、
    請求項2に記載の情報処理装置。
  13. 前記制御部は、分割処理中の前記画面の分割ライン、サイズ変更処理中の前記画面の境界線、又は、スクロール処理中の前記画面のうち少なくとも1つを強調表示する、
    請求項2に記載の情報処理装置。
  14. 前記制御部は、分割した画面上でユーザーが第1の本数の指で出現方向にスワイプしたことに応答して、前記分割した画面に関するメニューを前記出現方向に出現させる、
    請求項2に記載の情報処理装置。
  15. 前記制御部は、前記メニューに対して所定時間以上操作がないとき、又は、前記画面上でユーザーが前記出現方向の反対方向にスワイプしたことに応答して、前記メニューを前記反対方向に隠す、
    請求項14に記載の情報処理装置。
  16. 前記制御部は、ユーザーが複数に分割した画面に対してグラブ操作したことに応答して、前記画面の状態を保存し、保存している画面の状態を前記画面に一覧表示し、ユーザーが選択した画面の状態を前記画面に復元する、
    請求項2に記載の情報処理装置。
  17. 前記制御部は、ユーザーが分割した画面に対して第2の本数の指でスワイプしたことに応答して、前記分割した画面を前記スワイプした方向に向きに変える、
    請求項2に記載の情報処理装置。
  18. 前記制御部は、前記画面上でユーザーが第3の本数の指でスワイプしたことに応答して、前記画面の前記スワイプした方向と反対側から前記スワイプした方向に向かってホーム画面を出現させる、
    請求項1に記載の情報処理装置。
  19. 画面に対してユーザーが指示する座標を入力する座標入力ステップと、
    前記座標入力ステップでユーザーが入力した軌跡に基づいて、ユーザーの指示を判定し、判定結果に応じた前記画面の動作を制御する制御ステップと、
    を有する情報処理方法。
  20. 画面に対してユーザーが指示する座標を入力する座標入力部、
    前記座標入力部を介してユーザーが入力した軌跡に基づいて、ユーザーの指示を判定し、判定結果に応じた前記画面の動作を制御する制御部、
    としてコンピューターを機能させるようにコンピューター可読形式で記述されたコンピューター・プログラム。
JP2013000738A 2013-01-07 2013-01-07 情報処理装置及び情報処理方法、並びにコンピューター・プログラム Expired - Fee Related JP6215534B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2013000738A JP6215534B2 (ja) 2013-01-07 2013-01-07 情報処理装置及び情報処理方法、並びにコンピューター・プログラム
US14/143,064 US20140195953A1 (en) 2013-01-07 2013-12-30 Information processing apparatus, information processing method, and computer program
EP13199812.2A EP2752755B1 (en) 2013-01-07 2013-12-30 Information processing apparatus, information processing method, and computer program
CN201310750624.0A CN103914221A (zh) 2013-01-07 2013-12-31 信息处理装置、信息处理方法和计算机程序

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013000738A JP6215534B2 (ja) 2013-01-07 2013-01-07 情報処理装置及び情報処理方法、並びにコンピューター・プログラム

Publications (2)

Publication Number Publication Date
JP2014132427A true JP2014132427A (ja) 2014-07-17
JP6215534B2 JP6215534B2 (ja) 2017-10-18

Family

ID=49916934

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013000738A Expired - Fee Related JP6215534B2 (ja) 2013-01-07 2013-01-07 情報処理装置及び情報処理方法、並びにコンピューター・プログラム

Country Status (4)

Country Link
US (1) US20140195953A1 (ja)
EP (1) EP2752755B1 (ja)
JP (1) JP6215534B2 (ja)
CN (1) CN103914221A (ja)

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20160054382A (ko) * 2014-11-06 2016-05-16 삼성전자주식회사 전자 장치 및 전자 장치의 디스플레이 장치 화면 제어방법
JP2016161869A (ja) * 2015-03-04 2016-09-05 セイコーエプソン株式会社 表示装置及び表示制御方法
JP2016161866A (ja) * 2015-03-04 2016-09-05 セイコーエプソン株式会社 表示装置および表示制御方法
JP2016186656A (ja) * 2016-07-13 2016-10-27 日立マクセル株式会社 投射型映像表示装置
JP2018181098A (ja) * 2017-04-18 2018-11-15 京セラドキュメントソリューションズ株式会社 画像形成装置、表示制御方法
JP2019500688A (ja) * 2015-11-25 2019-01-10 華為技術有限公司Huawei Technologies Co.,Ltd. 迅速な画面分割方法、装置、および電子デバイス、表示ui、および記憶媒体
US10283029B2 (en) 2016-08-12 2019-05-07 Seiko Epson Corporation Display device, and method of controlling display device
JP2022091740A (ja) * 2018-05-07 2022-06-21 アップル インコーポレイテッド ユーザインタフェース間でのナビゲーション、ドックの表示、及びシステムユーザインタフェース要素の表示のためのデバイス、方法、及びグラフィカルユーザインタフェース
US11797150B2 (en) 2018-05-07 2023-10-24 Apple Inc. Devices, methods, and graphical user interfaces for navigating between user interfaces, displaying a dock, and displaying system user interface elements
US12112015B2 (en) 2018-05-07 2024-10-08 Apple Inc. Devices, methods, and graphical user interfaces for navigating between user interfaces, displaying a dock, and displaying system user interface elements

Families Citing this family (50)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
USD660868S1 (en) 2010-04-07 2012-05-29 Apple Inc. Icon for a display screen or portion thereof
USD755222S1 (en) * 2012-08-20 2016-05-03 Yokogawa Electric Corporation Display screen with graphical user interface
US20150304593A1 (en) * 2012-11-27 2015-10-22 Sony Corporation Display apparatus, display method, and computer program
USD765664S1 (en) * 2013-03-05 2016-09-06 Ricoh Company, Ltd. Display panel with a computer icon
USD732066S1 (en) * 2013-08-09 2015-06-16 Microsoft Corporation Display screen with graphical user interface
USD738902S1 (en) * 2013-08-09 2015-09-15 Microsoft Corporation Display screen with graphical user interface
USD739870S1 (en) * 2013-08-09 2015-09-29 Microsoft Corporation Display screen with graphical user interface
USD778310S1 (en) 2013-08-09 2017-02-07 Microsoft Corporation Display screen with graphical user interface
USD732568S1 (en) * 2013-08-09 2015-06-23 Microsoft Corporation Display screen with graphical user interface
USD732065S1 (en) * 2013-08-09 2015-06-16 Microsoft Corporation Display screen with graphical user interface
USD732064S1 (en) * 2013-08-09 2015-06-16 Microsoft Corporation Display screen with graphical user interface
USD771111S1 (en) 2013-08-30 2016-11-08 Microsoft Corporation Display screen with graphical user interface
USD788795S1 (en) * 2013-09-03 2017-06-06 Samsung Electronics Co., Ltd. Display screen or portion thereof with animated graphical user interface
KR102220085B1 (ko) * 2013-10-18 2021-02-26 삼성전자주식회사 멀티윈도우 운용 방법 및 이를 지원하는 전자 장치
USD746849S1 (en) * 2013-11-22 2016-01-05 Apple Inc. Display screen or portion thereof with graphical user interface
KR20150066883A (ko) * 2013-12-09 2015-06-17 삼성전자주식회사 이미지 처리 방법 및 장치
US9720567B2 (en) * 2014-02-17 2017-08-01 Microsoft Technology Licensing, Llc Multitasking and full screen menu contexts
US9648062B2 (en) * 2014-06-12 2017-05-09 Apple Inc. Systems and methods for multitasking on an electronic device with a touch-sensitive display
FR3022645A1 (fr) * 2014-06-19 2015-12-25 Orange Procede d'adaptation et adaptateur d'interface utilisateur
JP6337661B2 (ja) * 2014-07-08 2018-06-06 富士通株式会社 入力支援装置、入力支援システム、入力支援方法、および入力支援プログラム
DE102014012550A1 (de) * 2014-08-20 2016-02-25 e.solutions GmbH Kraftfahrzeug-Bedienungsvorrichtung
JP1518789S (ja) * 2014-09-01 2015-03-09
USD871426S1 (en) * 2014-09-02 2019-12-31 Samsung Electronics Co., Ltd. Display screen or portion thereof with graphical user interface
KR20160028272A (ko) * 2014-09-03 2016-03-11 삼성전자주식회사 디스플레이 장치 및 그 제어 방법
FR3026204B1 (fr) * 2014-09-24 2017-12-15 Virtual Sensitive Procede de gestion spatiale de zones interactives d'une table tactile, table tactile
USD762240S1 (en) * 2014-09-30 2016-07-26 Microsoft Corporation Display screen with graphical user interface
US10672031B2 (en) * 2014-10-21 2020-06-02 Eat Displays Pty Limited Display device and content display system
US10048767B2 (en) * 2014-11-06 2018-08-14 Samsung Electronics Co., Ltd. Electronic apparatus and method of controlling multi-vision screen including a plurality of display apparatuses
WO2016147653A1 (ja) * 2015-03-19 2016-09-22 日本電気株式会社 オブジェクト検出装置、オブジェクト検出方法および記録媒体
USD769298S1 (en) * 2015-05-01 2016-10-18 Microsoft Corporation Display screen with transitional graphical user interface
US11113022B2 (en) 2015-05-12 2021-09-07 D&M Holdings, Inc. Method, system and interface for controlling a subwoofer in a networked audio system
US11209972B2 (en) * 2015-09-02 2021-12-28 D&M Holdings, Inc. Combined tablet screen drag-and-drop interface
US9846535B2 (en) * 2015-06-05 2017-12-19 Apple Inc. Devices and methods for processing touch inputs over multiple regions of a touch-sensitive surface
CA172516S (en) 2015-10-22 2019-07-17 Gamblit Gaming Llc Display screen with a graphical user interface
USD778941S1 (en) 2016-01-08 2017-02-14 Apple Inc. Display screen or portion thereof with graphical user interface
US10318130B2 (en) 2016-12-12 2019-06-11 Google Llc Controlling window using touch-sensitive edge
USD857739S1 (en) 2017-06-05 2019-08-27 Apple Inc. Display screen or portion thereof with animated graphical user interface
CN109753215B (zh) * 2018-04-02 2020-03-27 北京字节跳动网络技术有限公司 一种窗口分屏显示方法、装置及设备
CN109753209B (zh) 2018-06-21 2020-05-05 北京字节跳动网络技术有限公司 一种应用程序启动方法、装置及设备
SG11202011206UA (en) 2018-05-11 2020-12-30 Beijing Bytedance Network Technology Co Ltd Interaction method, device and equipment for operable object
US11966578B2 (en) 2018-06-03 2024-04-23 Apple Inc. Devices and methods for integrating video with user interface navigation
WO2019242450A1 (zh) * 2018-06-19 2019-12-26 北京字节跳动网络技术有限公司 一种数据传输方法、装置及移动终端
USD926814S1 (en) * 2019-07-08 2021-08-03 UAB “Kurybinis {hacek over (z)}ingsnis” Computer screen with graphical user interface simulating a layout
CN110413169B (zh) * 2019-07-24 2021-11-23 北京小米移动软件有限公司 一种信息展示方法、装置及介质
USD924892S1 (en) * 2019-10-15 2021-07-13 Canva Pty Ltd Display screen or portion thereof with graphical user interface
USD945459S1 (en) 2019-11-29 2022-03-08 Playtech Software Limited Display screen or portion thereof with graphical user interface
US20230176706A1 (en) * 2020-05-11 2023-06-08 Basf Coatings Gmbh Adaptable GUI for Dashboard Software
JP7423466B2 (ja) * 2020-07-21 2024-01-29 シャープ株式会社 情報処理装置
CN117519540A (zh) * 2022-07-28 2024-02-06 北京小米移动软件有限公司 调节分屏窗口的方法、装置、电子设备及存储介质
CN117519856A (zh) * 2022-07-29 2024-02-06 北京小米移动软件有限公司 分屏显示方法及装置、电子设备、存储介质

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0546341A (ja) * 1991-08-09 1993-02-26 Toshiba Corp 情報表示装置
JPH1040061A (ja) * 1996-04-26 1998-02-13 Internatl Business Mach Corp <Ibm> 表示画面上の区画のサイズおよび数を制御する方法
JP2007257220A (ja) * 2006-03-22 2007-10-04 Matsushita Electric Ind Co Ltd 表示装置
JP2008217822A (ja) * 2004-04-30 2008-09-18 Access Co Ltd フレームページの表示方法、フレームページの表示装置およびプログラム
JP2009146136A (ja) * 2007-12-13 2009-07-02 Kyocera Corp 情報処理装置
WO2009096334A1 (ja) * 2008-01-29 2009-08-06 Kyocera Corporation 表示機能付き端末装置
US20100313110A1 (en) * 2007-12-14 2010-12-09 Doubleiq Pty Ltd Method and apparatus for the display and/or processing of information, such as data
US20110209099A1 (en) * 2010-02-19 2011-08-25 Microsoft Corporation Page Manipulations Using On and Off-Screen Gestures
JP2012189426A (ja) * 2011-03-10 2012-10-04 Aisin Aw Co Ltd 画像表示システム、画像表示装置、画像表示方法及びコンピュータプログラム
US20120293433A1 (en) * 2011-05-20 2012-11-22 Kyocera Corporation Portable terminal, control method and program

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1008927A4 (en) * 1996-03-15 2007-04-18 Hitachi Ltd DISPLAY DEVICE AND WORKING METHOD FOR THE USE THEREOF
US8479122B2 (en) * 2004-07-30 2013-07-02 Apple Inc. Gestures for touch sensitive input devices
US6195094B1 (en) * 1998-09-29 2001-02-27 Netscape Communications Corporation Window splitter bar system
US7773075B2 (en) * 2006-03-22 2010-08-10 Panasonic Corporation Display apparatus
JP5230684B2 (ja) * 2010-05-13 2013-07-10 パナソニック株式会社 電子機器、表示方法、及びプログラム
DE202011110334U1 (de) * 2010-11-18 2013-07-09 Google, Inc. System zum Orthogonales Ziehen auf Scrollbalken
US8572508B2 (en) * 2010-11-22 2013-10-29 Acer Incorporated Application displaying method for touch-controlled device and touch-controlled device thereof
US10042546B2 (en) * 2011-01-07 2018-08-07 Qualcomm Incorporated Systems and methods to present multiple frames on a touch screen
US10282088B2 (en) * 2012-12-06 2019-05-07 Samsung Electronics Co., Ltd. Configuration of application execution spaces and sub-spaces for sharing data on a mobile tough screen device

Patent Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0546341A (ja) * 1991-08-09 1993-02-26 Toshiba Corp 情報表示装置
JPH1040061A (ja) * 1996-04-26 1998-02-13 Internatl Business Mach Corp <Ibm> 表示画面上の区画のサイズおよび数を制御する方法
JP2008217822A (ja) * 2004-04-30 2008-09-18 Access Co Ltd フレームページの表示方法、フレームページの表示装置およびプログラム
JP2007257220A (ja) * 2006-03-22 2007-10-04 Matsushita Electric Ind Co Ltd 表示装置
JP2009146136A (ja) * 2007-12-13 2009-07-02 Kyocera Corp 情報処理装置
US20100313110A1 (en) * 2007-12-14 2010-12-09 Doubleiq Pty Ltd Method and apparatus for the display and/or processing of information, such as data
WO2009096334A1 (ja) * 2008-01-29 2009-08-06 Kyocera Corporation 表示機能付き端末装置
US20110209099A1 (en) * 2010-02-19 2011-08-25 Microsoft Corporation Page Manipulations Using On and Off-Screen Gestures
JP2012189426A (ja) * 2011-03-10 2012-10-04 Aisin Aw Co Ltd 画像表示システム、画像表示装置、画像表示方法及びコンピュータプログラム
US20120293433A1 (en) * 2011-05-20 2012-11-22 Kyocera Corporation Portable terminal, control method and program
JP2012243116A (ja) * 2011-05-20 2012-12-10 Kyocera Corp 携帯端末、制御方法及びプログラム

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
""タッチ操作の最新機種がお買い得! ウィンドウズ8パソコン大解剖! 「8」とタッチについて知るコラム", アスキー.PC, vol. 第16巻 第1号 (2012-11-24), JPN6016038723, 24 November 2012 (2012-11-24), JP, pages 105 - 106, ISSN: 0003415521 *

Cited By (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102327146B1 (ko) * 2014-11-06 2021-11-16 삼성전자주식회사 전자 장치 및 전자 장치의 디스플레이 장치 화면 제어방법
KR20160054382A (ko) * 2014-11-06 2016-05-16 삼성전자주식회사 전자 장치 및 전자 장치의 디스플레이 장치 화면 제어방법
JP2016161869A (ja) * 2015-03-04 2016-09-05 セイコーエプソン株式会社 表示装置及び表示制御方法
JP2016161866A (ja) * 2015-03-04 2016-09-05 セイコーエプソン株式会社 表示装置および表示制御方法
WO2016139902A1 (ja) * 2015-03-04 2016-09-09 セイコーエプソン株式会社 表示装置及び表示制御方法
CN107430838A (zh) * 2015-03-04 2017-12-01 精工爱普生株式会社 显示装置和显示控制方法
US10642483B2 (en) 2015-11-25 2020-05-05 Huawei Technologies Co., Ltd. Quick screen splitting method, apparatus, and electronic device, display UI, and storage medium
JP2019500688A (ja) * 2015-11-25 2019-01-10 華為技術有限公司Huawei Technologies Co.,Ltd. 迅速な画面分割方法、装置、および電子デバイス、表示ui、および記憶媒体
JP2016186656A (ja) * 2016-07-13 2016-10-27 日立マクセル株式会社 投射型映像表示装置
US10283029B2 (en) 2016-08-12 2019-05-07 Seiko Epson Corporation Display device, and method of controlling display device
US10769974B2 (en) 2016-08-12 2020-09-08 Seiko Epson Corporation Display device, and method of controlling display device
US11282422B2 (en) 2016-08-12 2022-03-22 Seiko Epson Corporation Display device, and method of controlling display device
JP2018181098A (ja) * 2017-04-18 2018-11-15 京セラドキュメントソリューションズ株式会社 画像形成装置、表示制御方法
JP2022091740A (ja) * 2018-05-07 2022-06-21 アップル インコーポレイテッド ユーザインタフェース間でのナビゲーション、ドックの表示、及びシステムユーザインタフェース要素の表示のためのデバイス、方法、及びグラフィカルユーザインタフェース
JP7337975B2 (ja) 2018-05-07 2023-09-04 アップル インコーポレイテッド ユーザインタフェース間でのナビゲーション、ドックの表示、及びシステムユーザインタフェース要素の表示のためのデバイス、方法、及びグラフィカルユーザインタフェース
US11797150B2 (en) 2018-05-07 2023-10-24 Apple Inc. Devices, methods, and graphical user interfaces for navigating between user interfaces, displaying a dock, and displaying system user interface elements
US12112015B2 (en) 2018-05-07 2024-10-08 Apple Inc. Devices, methods, and graphical user interfaces for navigating between user interfaces, displaying a dock, and displaying system user interface elements

Also Published As

Publication number Publication date
CN103914221A (zh) 2014-07-09
EP2752755A1 (en) 2014-07-09
US20140195953A1 (en) 2014-07-10
EP2752755B1 (en) 2018-03-21
JP6215534B2 (ja) 2017-10-18

Similar Documents

Publication Publication Date Title
JP6215534B2 (ja) 情報処理装置及び情報処理方法、並びにコンピューター・プログラム
US8869062B1 (en) Gesture-based screen-magnified touchscreen navigation
JP6054892B2 (ja) 複数のディスプレイに対するアプリケーション画像の表示方法、電子機器およびコンピュータ・プログラム
JP5750875B2 (ja) 情報処理装置、情報処理方法及びプログラム
JP5659586B2 (ja) 表示制御装置および表示制御方法、表示制御プログラム、記録媒体
US10275132B2 (en) Display apparatus, method of controlling display apparatus, and recordable medium storing program for performing method of controlling display apparatus
KR102059648B1 (ko) 디스플레이 장치 및 그 제어 방법
KR102304178B1 (ko) 사용자 단말 장치 및 이의 디스플레이 방법
JP2010086230A (ja) 情報処理装置、情報処理方法およびプログラム
KR20140126327A (ko) 애플리케이션의 썸네일-이미지 선택 기법
KR102027357B1 (ko) 외부 기기의 스크린 상에 디스플레이된 정보를 탐색하는 터치 스크린을 가지는 휴대용 기기 및 그의 정보 탐색 방법
US9513795B2 (en) System and method for graphic object management in a large-display area computing device
TW201342187A (zh) 資訊處理裝置,資訊處理方法及程式
JP5993072B1 (ja) 電子機器のユーザ・インターフェース、入力の処理方法および電子機器
US20170010791A1 (en) Information processing apparatus, non-transitory computer readable storage medium, and information display method
JP2014203202A (ja) 情報処理装置、情報処理装置の制御方法、およびプログラム
JP6327834B2 (ja) 操作表示装置、操作表示方法及びプログラム
WO2018123701A1 (ja) 電子機器、その制御方法およびプログラム
JP2015102946A (ja) 情報処理装置、情報処理装置の制御方法、およびプログラム
JP6484859B2 (ja) 情報処理装置、情報処理方法、及びプログラム
JP7030529B2 (ja) 電子機器、情報処理方法、プログラム及び記憶媒体
JP6146510B2 (ja) 表示制御装置および表示制御方法、表示制御プログラム、記録媒体
JP5987869B2 (ja) 表示制御装置および表示制御方法、表示制御プログラム、記録媒体
CN117055796A (zh) 控件显示方法和装置
JP2014115825A (ja) 情報処理装置及びその制御方法、並びにプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20151204

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20160808

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160816

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20160914

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20161011

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20170111

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20170310

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170330

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170829

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170921

R150 Certificate of patent or registration of utility model

Ref document number: 6215534

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees