Nothing Special   »   [go: up one dir, main page]

JP6507905B2 - コンテンツ表示制御方法、コンテンツ表示制御装置およびコンテンツ表示制御プログラム - Google Patents

コンテンツ表示制御方法、コンテンツ表示制御装置およびコンテンツ表示制御プログラム Download PDF

Info

Publication number
JP6507905B2
JP6507905B2 JP2015145871A JP2015145871A JP6507905B2 JP 6507905 B2 JP6507905 B2 JP 6507905B2 JP 2015145871 A JP2015145871 A JP 2015145871A JP 2015145871 A JP2015145871 A JP 2015145871A JP 6507905 B2 JP6507905 B2 JP 6507905B2
Authority
JP
Japan
Prior art keywords
mode
screen
display control
reflected light
content display
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2015145871A
Other languages
English (en)
Other versions
JP2016194894A (ja
Inventor
桂樹 岡林
桂樹 岡林
彬 陳
彬 陳
安川 裕介
裕介 安川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to US15/045,726 priority Critical patent/US9857918B2/en
Priority to EP16157029.6A priority patent/EP3076272B1/en
Publication of JP2016194894A publication Critical patent/JP2016194894A/ja
Application granted granted Critical
Publication of JP6507905B2 publication Critical patent/JP6507905B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Position Input By Displaying (AREA)
  • Controls And Circuits For Display Device (AREA)
  • User Interface Of Digital Computer (AREA)

Description

本発明は、コンテンツ表示制御方法、コンテンツ表示制御装置およびコンテンツ表示制御プログラムに関する。
近年、電子ペン、各種センサ、プロジェクタ等から構成されるヒューマンコンピュータインタラクションシステム、いわゆるインタラクティブホワイトボードが大きな関心を集めている。
電子ペンを使ったインタラクティブホワイトボードでは、電子ペンのボード平面内での移動軌跡がセンサにより検出され、描画された図形や文字がボード平面上に表示される。また、電子ペンのボード平面内での動線からコンピュータへのコマンドが認識され、コンピュータの動作が制御される(例えば、特許文献1、2等を参照。)。
特開2011−204059号公報 特表2007−527573号公報
上述したように、従来のインタラクティブホワイトボードにおける電子ペン等による操作は、2次元的なものに限られ、インタラクティブホワイトボードのスクリーンに表示されたコンテンツに対して多様な操作が行えないという問題があった。
そこで、開示の形態は、一側面として、スクリーンに表示されたコンテンツに対する操作性の向上を目的とする。
開示の形態は、コンテンツ表示制御装置が、プロジェクタによりスクリーンにコンテンツの画像を表示し、手持ちデバイスから前記スクリーンに照射される光ビームの、前記スクリーンによる反射光を検出し、検出した前記反射光に基づき、前記スクリーンと前記手持ちデバイスの距離に応じて変化する前記反射光の状態に対応付けて設定されたモードを選択し、前記モードの選択から光ビームが消失するまで、前記反射光の状態からユーザの操作を検出し、検出した前記操作に基づいて、前記スクリーン上の前記コンテンツの画像の表示を制御する処理を実行し、前記モードを選択する処理は、前記反射光の前記スクリーン上の光点サイズと中心輝度の値の組み合わせに対応付けられたモードを選択する
開示の形態は、スクリーンに表示されたコンテンツに対する操作性の向上を図ることができる。
一実施形態にかかるシステムの構成例を示す図である。 システムの外観の例を示す図である。 ペンデバイスの構成例を示す図である。 想定される操作の例を示す図である。 スクリーン上の光点の特徴を示す図である。 ペンデバイスとスクリーンの距離に対する光点の中心輝度の例を示す図である。 ペンデバイスとスクリーンの距離に対する光点サイズの例を示す図である。 ペンデバイスとスクリーンの距離に対する光点サイズおよび中心輝度の例を示す図である。 距離に対応付けたモードと光点サイズおよび中心輝度の関係の例を示す図である。 ユーザの操作の手順の例を示す図である。 モードと対応付けテーブルの例を示す図である。 モード選択処理の例を示すフローチャートである。 仮決め/本決め時の表示図形およびタイマ図形の例を示す図である。 モード毎のパラメータの例を示す図である。 パンチルトモードにおけるパラメータ調整処理の例を示すフローチャートである。 俯瞰モードにおけるパラメータ調整処理の例を示すフローチャートである。 手書きモードの例を示す図である。 俯瞰モードの例を示す図(平面表示→俯瞰表示)である。 パンチルトモードの例を示す図である。 俯瞰モードの例を示す図(俯瞰表示→平面表示)である。 ペンデバイスの構成例を示す図である。 ペンデバイスの具体的な構成例を示す図である。 ペンデバイスの回路構成例を示す図である。 コントローラの内部構成例を示す図である。 コントローラの処理例を示すフローチャートである。 ペンデバイスの光量調整の説明図である。
以下、本発明の好適な実施形態につき説明する。
<構成>
図1は一実施形態にかかるシステムの構成例を示す図である。図1において、システムには、ユーザが手に持って操作し、赤外線光等の光ビームを投光するペンデバイス1と、ペンデバイス(手持ちデバイス)1から投光が行われるスクリーン(反射装置)2と、スクリーン2からの反射光(散乱反射光)を検出する受光センサ3とが備けられている。受光センサ3は、例えば赤外線カメラであり、その場合、検出信号は撮像画像となる。また、受光センサ3の検出信号に基づいてユーザの操作を認識し、自装置内または外部の端末装置6からのコンテンツの映像信号を生成する制御装置4と、制御装置4から出力される映像信号をスクリーン2に投影するプロジェクタ5とが設けられている。
ペンデバイス1には、投光素子11と、スイッチ12、13と、バッテリ14とが設けられている。スイッチ12またはスイッチ13のいずれかをオンにすることで、バッテリ14から投光素子11に電源が供給され、投光素子11が点灯するようになっている。詳細については後述する。
制御装置4は、受光センサ3の検出信号に基づいて操作のモードを選択するモード選択部41と、選択されたモード下でモード特有のパラメータを調整するパラメータ調整部42と、調整されたパラメータに基づいて画像表示を制御する画像表示制御部43とを備えている。
図2はシステムの外観の例を示す図である。図2において、スクリーン2の例えば下方にプロジェクタ5が設けられ、スクリーン2に対してプロジェクションレンズ51が向けられ、ペンデバイス1からの投光の反射光を受光するよう、スクリーン2を視野として受光センサ3が設けられている。また、プロジェクタ5に制御装置4が合体されている。
制御装置4は、一般的なコンピュータ装置のハードウェア構成を有している。すなわち、制御装置4は、CPU(Central Processing Unit)、ROM(Read Only Memory)、RAM(Random Access Memory)、NVRAM(Non-Volatile Random Access Memory)、補助記憶装置、無線インタフェース等を備えている。
図3はペンデバイス1の構成例を示す図である。図3(a)は、スイッチ12、13の両方がオフの状態を示しており、先端の投光素子11は点灯していない。図3(b)は、ペンデバイス1の先端がスクリーン2に押し当てられることでスイッチ12がオンし、投光素子11が点灯している状態を示している。図3(c)は、ユーザによりスイッチ13がオンにされることで、投光素子11が点灯している状態を示している。
<モードと光点サイズ・中心輝度>
図4は想定される操作の例を示す図である。図4(a)は、スクリーン2にペンデバイス1を押し当てて描画を行う操作である。図4(b)は、スクリーン2からペンデバイス1を離した状態で、ペンデバイス1を前後に移動(近接・離反)する操作である。図4(c)は、スクリーン2からペンデバイス1を離した状態で、ペンデバイス1の先端を左右に移動(空中パン)または上下に移動(空中チルト)する操作である。なお、ペンデバイス1による空中での操作は図示のものに限られない。
図5はスクリーン2上の光点の特徴を示す図である。図5(a)に示すように、スクリーン2からペンデバイス1の先端をある距離だけ離した場合における、光点の中心から周辺にわたるスクリーン2上の輝度を示したのが図5(b)である。光点の中心は最も輝度が高く、周辺に行くに従って輝度が低下する。また、輝度が所定の閾値に達するスクリーン2上の距離を光点サイズとする。光点の中心の輝度は、中心輝度と呼ぶ。
図6はペンデバイス1とスクリーン2の距離に対する光点の中心輝度の例を示す図である。距離がゼロから所定の値の付近までは、中心輝度がほぼ一定となるが、それを超えると光線が届きにくくなって中心輝度が低下していく。
図7はペンデバイス1とスクリーン2の距離に対する光点サイズの例を示す図である。図7の下段左に示すように、スクリーン2に近い距離#1においては、スクリーン2上の光点サイズが小さいが、下段中に示すように、距離#2まで遠ざかると、光点サイズが大きくなる。更に、下段右に示すように、距離#3まで遠ざかると、光点サイズを求める閾値に輝度が届きにくくなり、光点サイズは減少に転じる。図7の上段には、距離に応じた光点サイズの変化の例を示している。
図8はペンデバイス1とスクリーン2の距離に対する光点サイズおよび中心輝度の例を示す図であり、光点サイズを実線で示し、中心輝度を破線で示している。光点サイズだけでは、同じ光点サイズに2つの距離が対応するため、距離を特定することはできない。また、中心輝度だけでも、変化が緩やかで距離を特定できない範囲があるが、交点サイズと中心輝度の両者を組み合わせることにより距離を特定することができる。
図9は距離に対応付けたモードと光点サイズおよび中心輝度の関係の例を示す図である。図9(a)は、距離がゼロから最大までをモード#1〜#5の5つのモードに対応付けた例を示している。なお、モードの数は任意である。図9(b)は、その際の光点サイズと中心輝度の値の範囲とモードとの関係を示す対応テーブルの例である。従って、光点サイズと中心輝度を観測することにより、距離の算出を経ることなく、対応テーブルからモードを特定することができる。
<ユーザ操作>
図10はユーザの操作の手順の例を示す図である。図10において、ユーザがペンデバイス1を操作することで投光素子11が点灯すると(ステップS1)、スクリーン2上の光点の観測によりモード仮決めが行われる(ステップS2)。なお、前述したように、投光素子11の点灯は、ペンデバイス1の先端がスクリーン2に押し当てられた場合と、ユーザが意図的に点灯させた場合とがある。
モード仮決めが行われるとタイマによる計時が開始され(ステップS3)、その間にユーザがペンデバイス1を動かすと(ステップS4)、再びモード仮決めが行われる(ステップS2)。タイマがタイムアップすると、モード本決めが行われる(ステップS5)。ここまでが、モード選択操作となる。
次いで、ユーザがペンデバイス1を動かすと(ステップS6)、モードに対応するパラメータの調整が行われ(ステップS7)、点灯が継続する場合はモードを維持したまま、ペンデバイス1の動きに応じたパラメータ調整が行われる(ステップS8、S6、S7)。消灯された場合は、処理を終了する。モード選択の後からここまでがパラメータ調整操作となる。
<モード選択処理>
以下、モードを「手書きモード」「パンチルトモード」「俯瞰モード」の3つとした例に基づいて処理の詳細を説明する。
図11はモードと対応付けテーブルの例を示す図である。図11(a)は、距離dに対する光点サイズsと中心輝度iに対し、距離dが小さい方から順に「手書きモード」「パンチルトモード」「俯瞰モード」に割り当てた状態を示している。「手書きモード」は、ペンデバイス1をスクリーン2に押し当てて描画を行うモードである。「パンチルトモード」は、画像を立体的に表示した場合に、仮想カメラの視点を左右または上下に移動するモードである。「俯瞰モード」は、画像を立体的に表示し、仮想カメラの視点を前後に移動するモードである。
図11(b)は、光点サイズと中心輝度のそれぞれの値の範囲とモードとの対応を規定する対応付けテーブルの例を示している。なお、対応付けテーブルでは、各モードの仮決め時と本決め時に画面に表示する図形と、仮決めから本決めに移行する際のタイマの長さについても併せて規定している。
図12は、ユーザのモード選択操作に対応する制御装置4のモード選択処理の例を示すフローチャートである。図12において、モード選択処理を開始すると、制御装置4は、受光センサ3の撮像画像から画像取得(画像キャプチャ)を行う(ステップS101)。
次いで、制御装置4は、前処理として、取得した画像の平滑化処理を行い(ステップS102)、画像の2値化を行い(ステップS103)、画像の収縮膨張処理を行う(ステップS104)。収縮膨張処理は、画像を収縮した後に膨張する処理であり、ノイズ画素を有効に取り除くことができる。
次いで、制御装置4は、前処理の終わった画像から光点の抽出を行う(ステップS105)。光点の抽出は、画像の中で輝度の高い画素群を抽出することにより行う。なお、ペンデバイス1から投光される赤外線光等のみを受光センサ3により撮像するため、プロジェクタ5による投影光による影響は受けない。
次いで、制御装置4は、光点があるか否か判断し(ステップS106)、ない場合(ステップS106のno)は画像キャプチャ(ステップS101)に戻る。
光点がある場合(ステップS106のyes)、制御装置4は、画像から光点サイズと中心輝度を抽出する(ステップS107)。
次いで、制御装置4は、抽出した光点サイズと中心輝度を、図11(b)に示した対応付けテーブルの光点サイズと中心輝度の範囲と比較し、対応するモードを特定して仮決めを行う(ステップS108)。
次いで、制御装置4は、前回仮決めのものがあるか否か判断し(ステップS109)、ない場合(ステップS109のno)はタイマを生成する(ステップS110)。タイマの長さは対応付けテーブルでモードに対応して設定された値を用いる。
なお、上記の仮決めおよびタイマの生成に際し、制御装置4は、スクリーン2上の光点の中心の位置に、図13の左列に示すような図形を表示する。図13の上段はパンチルトモード、下段は俯瞰モードの場合を示しており、対応付けテーブルで規定された仮決め表示図形の中央に、ドーナツグラフ状のタイマ図形を表示している。このタイマ図形は、タイマのカウントダウンにつれてゲージが頂点から右回り伸びていき、タイムアウトによりゲージがフルに達する。なお、手書きモードについては、対応付けテーブルで仮決め表示図形が規定されておらず、タイマの長さもゼロであるため、仮決め表示図形やタイマ図形の表示は行わず、即座に本決めとなり、本決め表示図形が表示される。
図12に戻り、前回仮決めのものがある場合(ステップS109のyes)、制御装置4は、続いて、前回と同じ仮決めであるか否か判断し(ステップS111)、同じでない場合(ステップS111のno)はタイマをリセットする(ステップS112)。
タイマの生成(ステップS110)の後、タイマのリセット(ステップS112)の後、または、前回と同じ仮決めである場合(ステップS111のyes)、制御装置4は、タイマをカウントダウンする(ステップS113)。
次いで、制御装置4は、タイマがタイムアウトしたか否か判断し(ステップS114)、タイムアウトしていない場合(ステップS114のno)は画像キャプチャ(ステップS101)に戻る。
タイムアウトしている場合(ステップS114のyes)、制御装置4は、モードの本決めを行う(ステップS115)。この際、制御装置4は、図13の右列に示すように、タイマ図形を消去し、モード毎の図形を仮決め表示図形から本決め表示図形に変更する。図示の例では、仮決め時は薄い色の図形とし、本決め時は濃い色の図形としている。
図12に戻り、モードの本決めの後、手書きモードである場合(ステップS116のyes)、対応する調整するパラメータが存在しないため、画像キャプチャ(ステップS101)に戻る。パンチルトモードの場合(ステップS117のyes)や俯瞰モードである場合(ステップS118のyes)には、対応するパラメータ調整処理に移行する。
図14はモード毎のパラメータの例を示す図であり、手書きモードについては、上述したように、調整するパラメータはないものとしている。パンチルトモードについては、仮想カメラのパン角度とチルト角度が調整の対象となる。俯瞰モードについては、仮想カメラの前後方向の位置が調整の対象となる。
<パラメータ調整処理>
図15はパンチルトモードにおけるパラメータ調整処理の例を示すフローチャートである。図15において、モード選択処理の後、パンチルトモードにおけるパラメータ調整処理を開始すると、制御装置4は、受光センサ3の撮像画像から画像取得(画像キャプチャ)を行う(ステップS201)。
次いで、制御装置4は、前処理として、取得した画像の平滑化処理を行い(ステップS202)、画像の2値化を行い(ステップS203)、画像の収縮膨張処理を行う(ステップS204)。
次いで、制御装置4は、前処理の終わった画像から光点の抽出を行う(ステップS205)。
次いで、制御装置4は、光点があるか否か判断し(ステップS206)、ある場合(ステップS206のyes)、制御装置4は、画像から光点中心位置を検出する(ステップS207)。
次いで、制御装置4は、光点中心位置の移動方向と移動幅を計算し(ステップS208)、仮想カメラのパンチルト角度を調整(連動)する(ステップS209)。これにより、画面表示が更新される。そして、画像キャプチャ(ステップS201)に戻る。
また、光点がない場合(ステップS206のno)、モード選択処理開始(図12)に戻る(ステップS210)。
図16は俯瞰モードにおけるパラメータ調整処理の例を示すフローチャートである。図16において、モード選択処理の後、俯瞰モードにおけるパラメータ調整処理を開始すると、制御装置4は、受光センサ3の撮像画像から画像取得(画像キャプチャ)を行う(ステップS211)。
次いで、制御装置4は、前処理として、取得した画像の平滑化処理を行い(ステップS212)、画像の2値化を行い(ステップS213)、画像の収縮膨張処理を行う(ステップS214)。
次いで、制御装置4は、前処理の終わった画像から光点の抽出を行う(ステップS215)。
次いで、制御装置4は、光点があるか否か判断し(ステップS216)、ある場合(ステップS216のyes)、制御装置4は、画像から光点サイズと中心輝度を抽出する(ステップS217)。
次いで、制御装置4は、抽出した光点サイズと中心輝度から、ペンデバイス1の近接/離反の推定を行う(ステップS218)。これは、HMM(Hidden Markov Model、隠れマルコフモデル)を用いて行うことができる。
次いで、離反と推定される場合(ステップS219のyes)、制御装置4は、仮想カメラ位置をスクリーン2に近づくように変更する(ステップS220)。これにより、画面表示が更新される。
また、近接と推定される場合(ステップS221のyes)、制御装置4は、仮想カメラ位置をスクリーン2から遠ざかるように変更する(ステップS222)。これにより、画面表示が更新される。
仮想カメラ位置の調整(ステップS220、S222)の後、または、離反とも近接と推定されない場合(ステップS221のno)、画像キャプチャ(ステップS211)に戻る。
<操作例>
図17は手書きモードの例を示す図である。図17(a)は、ユーザがペンデバイス1をスクリーン2に押し当てて点灯させ、描画を開始した状態を示している。この状態では、光点サイズおよび中心輝度から「手書きモード」が選択される。
図17(b)は、ユーザがペンデバイス1により描画を続けて四角形状の枠を描画した状態を示している。
図17(c)は、上位アプリの制御により、ユーザが描画した枠をウィンドウ枠として、アプリケーションの画面を表示した状態を示している。
図18は俯瞰モードの例を示す図(平面表示→俯瞰表示)である。図18(a)は、ユーザがスクリーン2から少し離れたところでペンデバイス1を点灯させて「俯瞰モード」を選択し、ペンデバイス1をスクリーン2に近づけるように移動した状態を示している。これにより、画像は奥に押し出され、図18(b)に示すような立体的な表示に移行する。なお、俯瞰モードでは、ユーザの目の前のスクリーンだけではなく、左右など立体的に置かれているスクリーンの画面についても、ユーザの目の前のスクリーン上に立体的に表示することができる。
図18(b)において、ユーザがペンデバイス1の点灯を続けたままペンデバイス1を前方に移動させることにより、仮想カメラの前後位置を遠ざかる方向に調整し、画像は遠方に押し出され、図18(c)に示すような状態になる。。
図18(c)において、ユーザがペンデバイス1の点灯を続けたまま更にペンデバイス1を前方に移動させることにより、画像を更に遠方に押し出した図18(d)の状態となる。図18(d)では、ユーザはペンデバイス1を消灯し、立体的な表示の奥行きの調整を終了している。
図19はパンチルトモードの例を示す図である。図19(a)は、ユーザがスクリーン2に触れない程度の距離でペンデバイス1を点灯させて、「パンチルトモード」を選択した状態を示している。
図19(b)は、ユーザがペンデバイス1の点灯を続けたままペンデバイス1を右方向に移動させることにより、仮想カメラの視点を右方向に調整し、画像を右方向から見た状態に移行させた状態を示している。
図19(c)は、ユーザがペンデバイス1の点灯を続けたままペンデバイス1を上方向に移動させることにより、仮想カメラの視点を上方向に調整し、画像を上方向から見た状態に移行させた状態を示している。
図20は俯瞰モードの例を示す図(俯瞰表示→平面表示)である。図20(a)は、ユーザがスクリーン2から少し離れたところでペンデバイス1を点灯させて「俯瞰モード」を選択した状態を示している。
図20(b)は、ユーザがペンデバイス1の点灯を続けたままペンデバイス1をスクリーン2から遠ざけることにより、画像が手前に引き戻されてくる状態を示している。最終的には、立体的な表示が終了し、図20(c)のような通常の表示に戻る。
<ペンデバイスの他の構成例>
既に図7等において説明したように、ペンデバイス1とスクリーン2の距離が小さい側から所定値(距離#2)に達するまでは、距離に応じて光点サイズが直線的に大きくなる性質を利用し、光点サイズから距離を判断できるようにしている。また、図3に示したペンデバイス1の構成例では、バッテリ14からスイッチ12、13を介して投光素子11に直接に電源供給を行っており、赤外線光等の光ビームの発光強度はほぼ一定である。
そのため、スクリーン2との距離が大きい時は反射光は弱く、逆に距離が小さいと反射光は強くなる。特に、距離が小さく反射光が強い時には、スクリーン2を撮像する受光センサ3がハレーションを起こしてしまい、光点が検出できなかったり、実際より大きな光点として認識されてしまう場合がある。受光センサ3側にオート露出機能を装備すれば、受光センサ3に入る光の量をコントロールすることができるが、受光センサ3側の負担が大きくなり、回路が複雑になって高価になったり、ソフトウェア処理が重くなってフレームレートの低下が発生したりしてしまう。
そこで、ここでは、光量を安定化し、受光センサ3側にオート露出機能を装備しなくても、ハレーションを起こすことがなく、光点を正確に検出することのできるペンデバイス1の構成例について説明する。
図21はペンデバイス1の構成例を示す図である。図21において、ペンデバイス1は、赤外光発生部101と赤外光量検出部102と赤外光量調整部103とを備えている。赤外光量調整部103は、赤外光発生部101から投光される光ビームの反射光を赤外光量検出部102により受光し、赤外光発生部101の光ビームの光量を適切な値に調整する。
図22はペンデバイス1の具体的な構成例を示す図である。図22において、ペンデバイス1は、前方に、赤外線LED等の投光素子11と、フォトトランジスタ等の受光素子15と、スイッチ12とが設けられている。ペンデバイス1の側面にはスイッチ13が設けられている。ペンデバイス1の内部には、バッテリ14と制御回路基板16とが設けられている。
図23はペンデバイス1の回路構成例を示す図である。図23において、スイッチ12、13に相当するスイッチSW1、SW2は並列に接続され、一端はバッテリ14のプラス極に相当する電源VDDに接続されている。電源VDDの他端とグランド(バッテリ14のマイナス極に相当)の間には、フォトトランジスタPTrのコレクタ・エミッタ、抵抗R1の直列回路と、コントローラ(マイコン)PICの電源端子・接地端子の回路と、抵抗R4、赤外LED(図中の符号:LED)とトランジスタTrのコレクタ・エミッタの直列回路とが接続されている。
コントローラPICの電源端子・接地端子には、ノイズ除去用のコンデンサCが並列接続されている。また、フォトトランジスタPTrのエミッタは抵抗R2を介してコントローラPICのアナログ入力端子AD0に接続されている。コントローラPICの出力端子GP2は抵抗R3を介してトランジスタTrのベースに接続されている。コントローラPICの出力端子GP2からは、所定のデューティのPWM(Pulse Width Modulation)の制御信号が出力される。
フォトトランジスタPTrのコレクタ・エミッタ、抵抗R1の直列回路は、赤外光量検出部102に相当し、フォトトランジスタPTrで受光した光量を検出し電圧に変換する。コントローラPICの電源端子・接地端子の回路は、赤外光量調整部103に相当し、フォトトランジスタPTrで変換された電圧をコントローラPICのアナログ入力端子AD0で受けて、その値に応じてPWMパルスの幅をプログラムで調整し、トランジスタTrに供給する。抵抗R4、赤外LED(符号:LED)とトランジスタTrのコレクタ・エミッタの直列回路は、赤外光発生部101に相当し、コントローラPICのPWM出力に応じて赤外LED(符号:LED)に流す電流をON/OFFする。
なお、上述した回路例では、フォトトランジスタPTrとコントローラPICにスイッチSW1、SW2を介して電源VDDを与えるようにしているが、別に電源スイッチを設け、スイッチSW1、SW2を経由せずに、フォトトランジスタPTrとコントローラPICに電源VDDを与えるようすることもできる。
図24はコントローラPICの内部構成例を示す図である。図24において、コントローラPICは、CPU(Central Processing Unit)171とクロック発信器172とRAM(Random Access Memory)173とフラッシュメモリ174と各種タイマ175とA/Dコンバータ176とI/Oポート177とを備えている。CPU171は、フラッシュメモリ174に予め格納されたプログラムおよびデータに基づき、RAM173を作業領域としてプログラムを実行する。クロック発信器172は、CPU171にクロック信号を供給する。各種タイマ175は、処理においてタイマが用いられる場合にタイマ機能を提供する。A/Dコンバータ176は、I/Oポート177のうちのアナログ入力端子から入力されるアナログ信号をデジタルデータに変換する。
図25はコントローラPICの処理例を示すフローチャートである。図25において、コントローラPICは、電源が投入されて動作を開始すると、光量目標値LtとゲインGをセットする(ステップS11)。
次いで、現在の光量Lcを読み出し(ステップS12)、制御量の計算を行う(ステップS13)。すなわち、コントローラPICは、
Pt: PWM目標duty
Pc: 現在のPWM目標duty
Lt: 光量のAD値の目標
Lc: 現在の光量のAD値
G: フィードバックゲイン
とした場合に、次の制御式、
Pt = Pc + G*(Lt - Lc)
により、PWM目標duty Ptを算出する。
そして、制御目標値にPtをセットし(ステップS14)、現在の光量Lcを読み出し(ステップS12)に戻る。コントローラPICの出力端子GP2には、制御目標値Ptに対応したPWMの制御信号が出力される。
図26はペンデバイス1の光量調整の説明図である。図26(a)は、ペンデバイス1がスクリーン2からやや離れた位置にある場合を示しており、ユーザがスイッチ13を押すことにより点灯する。スクリーン2との距離が大きい場合、スクリーン2からの反射光は弱くなるため、光ビームは強くなるように調整される。
図26(b)は、ペンデバイス1がスクリーン2の近くに接触せずに位置する場合を示しており、ユーザがスイッチ13を押すことにより点灯する。スクリーン2との距離が小さい場合、スクリーン2からの反射光は強くなるため、光ビームは弱くなるように調整される。
図26(c)は、ペンデバイス1がスクリーン2に接触している場合を示しており、スイッチ13を押すことなく、スイッチ12の圧迫により点灯する。スクリーン2との距離が小さい場合、スクリーン2からの反射光は強くなるため、光ビームは弱くなるように調整される。
<総括>
以上説明したように、本実施形態によれば、スクリーンに表示されたコンテンツに対する操作性の向上を図ることができる。
以上、好適な実施の形態により説明した。ここでは特定の具体例を示して説明したが、特許請求の範囲に定義された広範な趣旨および範囲から逸脱することなく、これら具体例に様々な修正および変更を加えることができることは明らかである。すなわち、具体例の詳細および添付の図面により限定されるものと解釈してはならない。
制御装置4はコンテンツ表示制御装置の一例である。プロジェクタ5はコンテンツの画像を表示する手段の一例である。受光センサ3は反射光を検出する手段の一例である。モード選択部41はモードを選択する手段の一例である。パラメータ調整部42はユーザの操作を検出する手段の一例である。画像表示制御部43は画像の表示を制御する手段の一例である。
以上の説明に関し、更に以下の項を開示する。
(付記1) コンテンツ表示制御装置が、
プロジェクタによりスクリーンにコンテンツの画像を表示し、
手持ちデバイスから前記スクリーンに照射される光ビームの、前記スクリーンによる反射光を検出し、
検出した前記反射光に基づき、前記スクリーンと前記手持ちデバイスの距離に応じて変化する前記反射光の状態に対応付けて設定されたモードを選択し、
前記モードの選択から光ビームが消失するまで、前記反射光の状態からユーザの操作を検出し、
検出した前記操作に基づいて、前記スクリーン上の前記コンテンツの画像の表示を制御する
処理を実行することを特徴とするコンテンツ表示制御方法。
(付記2) 付記1に記載のコンテンツ表示制御方法において、
前記モードを選択する処理は、前記反射光の前記スクリーン上の光点サイズと中心輝度の値の組み合わせに対応付けられたモードを選択する
ことを特徴とするコンテンツ表示制御方法。
(付記3) 付記1または2のいずれか一項に記載のコンテンツ表示制御方法において、
前記モードを選択する処理は、前記反射光に基づいてモードを選択した場合に仮決め状態とし、モード毎に設定された所定の時間にわたりモードに変化がない場合に本決め状態に移行する
ことを特徴とするコンテンツ表示制御方法。
(付記4) 付記3に記載のコンテンツ表示制御方法において、
前記コンテンツ表示制御装置が、
前記光ビームの中心位置を中心として、前記仮決め状態においてモードに応じた仮決め用図形を表示し、前記本決め状態においてモードに応じた本決め用図形を表示する
処理を実行することを特徴とするコンテンツ表示制御方法。
(付記5) 付記1乃至4のいずれか一項に記載のコンテンツ表示制御方法において、
前記モードは、前記距離が短い順に設定される、手書きモード、パンチルトモード、および、俯瞰モードを含む
ことを特徴とするコンテンツ表示制御方法。
(付記6) 付記1乃至5のいずれか一項に記載のコンテンツ表示制御方法において、
前記手持ちデバイスが、
前記スクリーンに光ビームを照射し、
前記スクリーンに照射される光ビームの、前記スクリーンによる反射光を検出し、
前記光ビームを、前記コンテンツ表示制御装置が反射光の状態を検出可能な発光量に制御する
ことを特徴とするコンテンツ表示制御方法。
(付記7) プロジェクタによりスクリーンにコンテンツの画像を表示する手段と、
手持ちデバイスから前記スクリーンに照射される光ビームの、前記スクリーンによる反射光を検出する手段と、
検出した前記反射光に基づき、前記スクリーンと前記手持ちデバイスの距離に応じて変化する前記反射光の状態に対応付けて設定されたモードを選択する手段と、
前記モードの選択から光ビームが消失するまで、前記反射光の状態からユーザの操作を検出する手段と、
検出した前記操作に基づいて、前記スクリーン上の前記コンテンツの画像の表示を制御する手段と
を備えたことを特徴とするコンテンツ表示制御装置。
(付記8) 付記7に記載のコンテンツ表示制御装置において、
前記モードを選択する手段は、前記反射光の前記スクリーン上の光点サイズと中心輝度の値の組み合わせに対応付けられたモードを選択する
ことを特徴とするコンテンツ表示制御装置。
(付記9) 付記7または8のいずれか一項に記載のコンテンツ表示制御装置において、
前記モードを選択する手段は、前記反射光に基づいてモードを選択した場合に仮決め状態とし、モード毎に設定された所定の時間にわたりモードに変化がない場合に本決め状態に移行する
ことを特徴とするコンテンツ表示制御装置。
(付記10) 付記9に記載のコンテンツ表示制御装置において、
前記光ビームの中心位置を中心として、前記仮決め状態においてモードに応じた仮決め用図形を表示し、前記本決め状態においてモードに応じた本決め用図形を表示する手段
を備えたことを特徴とするコンテンツ表示制御装置。
(付記11) 付記7乃至10のいずれか一項に記載のコンテンツ表示制御装置において、
前記モードは、前記距離が短い順に設定される、手書きモード、パンチルトモード、および、俯瞰モードを含む
ことを特徴とするコンテンツ表示制御装置。
(付記12) 付記7乃至11のいずれか一項に記載のコンテンツ表示制御装置において、
前記手持ちデバイスは、
前記スクリーンに光ビームを照射し、
前記スクリーンに照射される光ビームの、前記スクリーンによる反射光を検出し、
前記光ビームを、前記コンテンツ表示制御装置が反射光の状態を検出可能な発光量に制御する
ことを特徴とするコンテンツ表示制御装置。
(付記13) コンピュータに、
プロジェクタによりスクリーンにコンテンツの画像を表示し、
手持ちデバイスから前記スクリーンに照射される光ビームの、前記スクリーンによる反射光を検出し、
検出した前記反射光に基づき、前記スクリーンと前記手持ちデバイスの距離に応じて変化する前記反射光の状態に対応付けて設定されたモードを選択し、
前記モードの選択から光ビームが消失するまで、前記反射光の状態からユーザの操作を検出し、
検出した前記操作に基づいて、前記スクリーン上の前記コンテンツの画像の表示を制御する
処理を実行させるコンテンツ表示制御プログラム。
(付記14) 付記13に記載のコンテンツ表示制御プログラムにおいて、
前記モードを選択する処理は、前記反射光の前記スクリーン上の光点サイズと中心輝度の値の組み合わせに対応付けられたモードを選択する
コンテンツ表示制御プログラム。
(付記15) 付記13または14のいずれか一項に記載のコンテンツ表示制御プログラムにおいて、
前記モードを選択する処理は、前記反射光に基づいてモードを選択した場合に仮決め状態とし、モード毎に設定された所定の時間にわたりモードに変化がない場合に本決め状態に移行する
コンテンツ表示制御プログラム。
(付記16) 付記15に記載のコンテンツ表示制御プログラムにおいて、
前記コンピュータに、
前記光ビームの中心位置を中心として、前記仮決め状態においてモードに応じた仮決め用図形を表示し、前記本決め状態においてモードに応じた本決め用図形を表示する
処理を実行させるコンテンツ表示制御プログラム。
(付記17) 付記13乃至16のいずれか一項に記載のコンテンツ表示制御プログラムにおいて、
前記モードは、前記距離が短い順に設定される、手書きモード、パンチルトモード、および、俯瞰モードを含む
コンテンツ表示制御プログラム。
(付記18) 付記13乃至17のいずれか一項に記載のコンテンツ表示制御プログラムにおいて、
前記手持ちデバイスは、
前記スクリーンに光ビームを照射し、
前記スクリーンに照射される光ビームの、前記スクリーンによる反射光を検出し、
前記光ビームを、前記コンテンツ表示制御装置が反射光の状態を検出可能な発光量に制御する
コンテンツ表示制御プログラム。
1 ペンデバイス
11 投光素子
12、13 スイッチ
14 バッテリ
15 受光素子
16 制御回路基板
101 赤外光発生部
102 赤外光量検出部
103 赤外光量調整部
2 スクリーン
3 受光センサ
4 制御装置
41 モード選択部
42 パラメータ調整部
43 画像表示制御部
5 プロジェクタ
51 プロジェクションレンズ
6 端末装置

Claims (14)

  1. コンテンツ表示制御装置が、
    プロジェクタによりスクリーンにコンテンツの画像を表示し、
    手持ちデバイスから前記スクリーンに照射される光ビームの、前記スクリーンによる反射光を検出し、
    検出した前記反射光に基づき、前記スクリーンと前記手持ちデバイスの距離に応じて変化する前記反射光の状態に対応付けて設定されたモードを選択し、
    前記モードの選択から光ビームが消失するまで、前記反射光の状態からユーザの操作を検出し、
    検出した前記操作に基づいて、前記スクリーン上の前記コンテンツの画像の表示を制御する処理を実行し、
    前記モードを選択する処理は、前記反射光の前記スクリーン上の光点サイズと中心輝度の値の組み合わせに対応付けられたモードを選択する
    ことを特徴とするコンテンツ表示制御方法。
  2. 請求項1に記載のコンテンツ表示制御方法において、
    前記モードを選択する処理は、前記反射光に基づいてモードを選択した場合に仮決め状態とし、モード毎に設定された所定の時間にわたりモードに変化がない場合に本決め状態に移行する
    ことを特徴とするコンテンツ表示制御方法。
  3. 請求項2に記載のコンテンツ表示制御方法において、
    前記コンテンツ表示制御装置が、
    前記光ビームの中心位置を中心として、前記仮決め状態においてモードに応じた仮決め用図形を表示し、前記本決め状態においてモードに応じた本決め用図形を表示する
    処理を実行することを特徴とするコンテンツ表示制御方法。
  4. 請求項1乃至3のいずれか一項に記載のコンテンツ表示制御方法において、
    前記モードは、前記距離が短い順に設定される、手書きモード、パンチルトモード、および、俯瞰モードを含む
    ことを特徴とするコンテンツ表示制御方法。
  5. 請求項1乃至4のいずれか一項に記載のコンテンツ表示制御方法において、
    前記手持ちデバイスが、
    前記スクリーンに光ビームを照射し、
    前記スクリーンに照射される光ビームの、前記スクリーンによる反射光を検出し、
    前記光ビームを、前記コンテンツ表示制御装置が反射光の状態を検出可能な発光量に制御する
    ことを特徴とするコンテンツ表示制御方法。
  6. コンテンツ表示制御装置が、
    プロジェクタによりスクリーンにコンテンツの画像を表示し、
    手持ちデバイスから前記スクリーンに照射される光ビームの、前記スクリーンによる反射光を検出し、
    検出した前記反射光に基づき、前記スクリーンと前記手持ちデバイスの距離に応じて変化する前記反射光の状態に対応付けて設定されたモードを選択し、
    前記モードの選択から光ビームが消失するまで、前記反射光の状態からユーザの操作を検出し、
    検出した前記操作に基づいて、前記スクリーン上の前記コンテンツの画像の表示を制御する処理を実行し、
    前記モードを選択する処理は、前記反射光に基づいてモードを選択した場合に仮決め状態とし、モード毎に設定された所定の時間にわたりモードに変化がない場合に本決め状態に移行する
    ことを特徴とするコンテンツ表示制御方法。
  7. 請求項6に記載のコンテンツ表示制御方法において、
    前記コンテンツ表示制御装置が、
    前記光ビームの中心位置を中心として、前記仮決め状態においてモードに応じた仮決め用図形を表示し、前記本決め状態においてモードに応じた本決め用図形を表示する
    処理を実行することを特徴とするコンテンツ表示制御方法。
  8. 請求項6または7に記載のコンテンツ表示制御方法において、
    前記モードは、前記距離が短い順に設定される、手書きモード、パンチルトモード、および、俯瞰モードを含む
    ことを特徴とするコンテンツ表示制御方法。
  9. 請求項6乃至8のいずれか一項に記載のコンテンツ表示制御方法において、
    前記手持ちデバイスが、
    前記スクリーンに光ビームを照射し、
    前記スクリーンに照射される光ビームの、前記スクリーンによる反射光を検出し、
    前記光ビームを、前記コンテンツ表示制御装置が反射光の状態を検出可能な発光量に制御する
    ことを特徴とするコンテンツ表示制御方法。
  10. コンテンツ表示制御装置が、
    プロジェクタによりスクリーンにコンテンツの画像を表示し、
    手持ちデバイスから前記スクリーンに照射される光ビームの、前記スクリーンによる反射光を検出し、
    検出した前記反射光に基づき、前記スクリーンと前記手持ちデバイスの距離に応じて変化する前記反射光の状態に対応付けて設定されたモードを選択し、
    前記モードの選択から光ビームが消失するまで、前記反射光の状態からユーザの操作を検出し、
    検出した前記操作に基づいて、前記スクリーン上の前記コンテンツの画像の表示を制御する処理を実行し、
    前記モードは、前記距離が短い順に設定される、手書きモード、パンチルトモード、および、俯瞰モードを含む
    ことを特徴とするコンテンツ表示制御方法。
  11. 請求項10に記載のコンテンツ表示制御方法において、
    前記手持ちデバイスが、
    前記スクリーンに光ビームを照射し、
    前記スクリーンに照射される光ビームの、前記スクリーンによる反射光を検出し、
    前記光ビームを、前記コンテンツ表示制御装置が反射光の状態を検出可能な発光量に制御する
    ことを特徴とするコンテンツ表示制御方法。
  12. コンテンツ表示制御装置が、
    プロジェクタによりスクリーンにコンテンツの画像を表示し、
    手持ちデバイスから前記スクリーンに照射される光ビームの、前記スクリーンによる反射光を検出し、
    検出した前記反射光に基づき、前記スクリーンと前記手持ちデバイスの距離に応じて変化する前記反射光の状態に対応付けて設定されたモードを選択し、
    前記モードの選択から光ビームが消失するまで、前記反射光の状態からユーザの操作を検出し、
    検出した前記操作に基づいて、前記スクリーン上の前記コンテンツの画像の表示を制御する処理を実行し、
    前記手持ちデバイスが、
    前記スクリーンに光ビームを照射し、
    前記スクリーンに照射される光ビームの、前記スクリーンによる反射光を検出し、
    前記光ビームを、前記コンテンツ表示制御装置が反射光の状態を検出可能な発光量に制御する
    ことを特徴とするコンテンツ表示制御方法。
  13. プロジェクタによりスクリーンにコンテンツの画像を表示する手段と、
    手持ちデバイスから前記スクリーンに照射される光ビームの、前記スクリーンによる反射光を検出する手段と、
    検出した前記反射光に基づき、前記スクリーンと前記手持ちデバイスの距離に応じて変化する前記反射光の状態に対応付けて設定されたモードを選択する手段と、
    前記モードの選択から光ビームが消失するまで、前記反射光の状態からユーザの操作を検出する手段と、
    検出した前記操作に基づいて、前記スクリーン上の前記コンテンツの画像の表示を制御する手段と
    を備え
    前記モードを選択する処理は、前記反射光の前記スクリーン上の光点サイズと中心輝度の値の組み合わせに対応付けられたモードを選択する
    ことを特徴とするコンテンツ表示制御装置。
  14. コンピュータに、
    プロジェクタによりスクリーンにコンテンツの画像を表示し、
    手持ちデバイスから前記スクリーンに照射される光ビームの、前記スクリーンによる反射光を検出し、
    検出した前記反射光に基づき、前記スクリーンと前記手持ちデバイスの距離に応じて変化する前記反射光の状態に対応付けて設定されたモードを選択し、
    前記モードの選択から光ビームが消失するまで、前記反射光の状態からユーザの操作を検出し、
    検出した前記操作に基づいて、前記スクリーン上の前記コンテンツの画像の表示を制御する処理を実行させ
    前記モードを選択する処理は、前記反射光の前記スクリーン上の光点サイズと中心輝度の値の組み合わせに対応付けられたモードを選択する
    コンテンツ表示制御プログラム。
JP2015145871A 2015-03-31 2015-07-23 コンテンツ表示制御方法、コンテンツ表示制御装置およびコンテンツ表示制御プログラム Active JP6507905B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
US15/045,726 US9857918B2 (en) 2015-03-31 2016-02-17 Content display control method and system
EP16157029.6A EP3076272B1 (en) 2015-03-31 2016-02-23 Content display control method and system based on detecting the reflection of a beam of light

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2015072083 2015-03-31
JP2015072083 2015-03-31

Publications (2)

Publication Number Publication Date
JP2016194894A JP2016194894A (ja) 2016-11-17
JP6507905B2 true JP6507905B2 (ja) 2019-05-08

Family

ID=57322909

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015145871A Active JP6507905B2 (ja) 2015-03-31 2015-07-23 コンテンツ表示制御方法、コンテンツ表示制御装置およびコンテンツ表示制御プログラム

Country Status (1)

Country Link
JP (1) JP6507905B2 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11026422B2 (en) 2017-09-26 2021-06-08 Ecolab Usa Inc. Acid/anionic antimicrobial and virucidal compositions and uses thereof
US11191264B2 (en) 2017-03-01 2021-12-07 Ecolab Usa Inc. Mechanism of urea/solid acid interaction under storage conditions and storage stable solid compositions comprising urea and acid

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7019967B2 (ja) 2017-05-29 2022-02-16 富士通株式会社 表示制御プログラム、表示制御方法及び表示制御装置
JP2021165865A (ja) * 2018-07-03 2021-10-14 ソニーグループ株式会社 情報処理装置、情報処理方法、及び、記録媒体

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3968477B2 (ja) * 1997-07-07 2007-08-29 ソニー株式会社 情報入力装置及び情報入力方法
US6952198B2 (en) * 1999-07-06 2005-10-04 Hansen Karl C System and method for communication with enhanced optical pointer
JP2004280205A (ja) * 2003-03-13 2004-10-07 Minolta Co Ltd 入力装置
GB2424269A (en) * 2004-04-01 2006-09-20 Robert Michael Lipman Control apparatus
KR20140079215A (ko) * 2012-12-18 2014-06-26 삼성전자주식회사 광학 입력장치

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11191264B2 (en) 2017-03-01 2021-12-07 Ecolab Usa Inc. Mechanism of urea/solid acid interaction under storage conditions and storage stable solid compositions comprising urea and acid
US12096769B2 (en) 2017-03-01 2024-09-24 Ecolab Usa Inc. Mechanism of urea/solid acid interaction under storage conditions and storage stable solid compositions comprising urea and acid
US11026422B2 (en) 2017-09-26 2021-06-08 Ecolab Usa Inc. Acid/anionic antimicrobial and virucidal compositions and uses thereof
US11937602B2 (en) 2017-09-26 2024-03-26 Ecolab Usa Inc. Solid acid/anionic antimicrobial and virucidal compositions and uses thereof
US11950595B2 (en) 2017-09-26 2024-04-09 Ecolab Usa Inc. Acid/anionic antimicrobial and virucidal compositions and uses thereof

Also Published As

Publication number Publication date
JP2016194894A (ja) 2016-11-17

Similar Documents

Publication Publication Date Title
JP6507905B2 (ja) コンテンツ表示制御方法、コンテンツ表示制御装置およびコンテンツ表示制御プログラム
CN109490903B (zh) 距离测量装置
JP2019512847A (ja) ミラーコンポーネント用の適応照明システム、及び適応照明システムを制御する方法
US9973743B2 (en) Electronic device having dynamically controlled flashlight for image capturing and related control method
US11727585B2 (en) Information processing device, information processing method, and program
WO2012124730A1 (ja) 検出装置、入力装置、プロジェクタ、及び電子機器
US20120098865A1 (en) Projector
JP5648298B2 (ja) 情報処理装置、情報処理方法、およびプログラム
US8786576B2 (en) Three-dimensional space touch apparatus using multiple infrared cameras
CN110308458B (zh) 调节方法、调节装置、终端及计算机可读存储介质
EP3076272A2 (en) Content display control method and system based on detecting the reflection of a beam of light
WO2018120713A1 (zh) 风扇的控制方法及装置、风扇
US20170208237A1 (en) Control device, control method, and program
JP2014155033A (ja) 露出設定装置、発光強度設定装置、制御方法、プログラム、及び記憶媒体
TWI471767B (zh) 位移偵測裝置
JP3821194B2 (ja) ポインティング位置検出装置及び方法、プレゼンテーションシステム、情報記憶媒体
JP2008525051A5 (ja)
CN107451533B (zh) 控制方法、控制装置、电子装置和计算机可读存储介质
CN107222685B (zh) 图像获取装置及其操作方法
JP4018326B2 (ja) 座標入力装置及びその制御方法、コンピュータ可読メモリ
JP2000276297A (ja) ポインティング位置検出装置、ポインティング位置検出方法、プレーゼンテーションシステムおよび情報記憶媒体
CN113711229A (zh) 电子设备的控制方法、电子设备和计算机可读存储介质
JP6390163B2 (ja) 情報処理装置、情報処理方法およびプログラム
CN111182287A (zh) 发射模组、成像装置和电子装置
CN111856866A (zh) 投影装置及其操作方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180413

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20181227

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190108

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190218

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190305

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190318

R150 Certificate of patent or registration of utility model

Ref document number: 6507905

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150