JP2007025073A - データ伝送方法、データ送信装置及びデータ受信装置、並びにプログラム - Google Patents
データ伝送方法、データ送信装置及びデータ受信装置、並びにプログラム Download PDFInfo
- Publication number
- JP2007025073A JP2007025073A JP2005204823A JP2005204823A JP2007025073A JP 2007025073 A JP2007025073 A JP 2007025073A JP 2005204823 A JP2005204823 A JP 2005204823A JP 2005204823 A JP2005204823 A JP 2005204823A JP 2007025073 A JP2007025073 A JP 2007025073A
- Authority
- JP
- Japan
- Prior art keywords
- data
- compression
- difference
- image data
- compression method
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Compression Or Coding Systems Of Tv Signals (AREA)
- Compression Of Band Width Or Redundancy In Fax (AREA)
- Controls And Circuits For Display Device (AREA)
- Compression, Expansion, Code Conversion, And Decoders (AREA)
- Digital Computer Display Output (AREA)
Abstract
【課題】画面更新要求から画像が表示するまでの応答時間を短縮し画像損失の少ない高精細画像を送信する。
【解決手段】PC2とプロジェクタ3を通信路4で接続したシステムでPC2はデータ送信装置10を有し、データ送信装置10は画面表示の画像データを取得する画面データ取得回路21と1フレーム分画素データを記憶するメモリ22及びメモリ23と、画像データを比較し差分領域を検出する差分検出回路24と、検出した差分情報を記憶する差分情報メモリ25と、複数の圧縮方式でデータ圧縮するデータ圧縮回路26と、圧縮後のデータ容量を見積る見積り判定回路27と、データ圧縮回路26へ画像データを切換るスイッチ28と、圧縮データを送信する送信回路29を備え、圧縮方式による圧縮後データの容量見積り、非可逆圧縮で圧縮した画像データを送信して画面更新の応答時間を短縮し、続いて可逆圧縮で圧縮した画像データを再度送信し補間する。
【選択図】図5
【解決手段】PC2とプロジェクタ3を通信路4で接続したシステムでPC2はデータ送信装置10を有し、データ送信装置10は画面表示の画像データを取得する画面データ取得回路21と1フレーム分画素データを記憶するメモリ22及びメモリ23と、画像データを比較し差分領域を検出する差分検出回路24と、検出した差分情報を記憶する差分情報メモリ25と、複数の圧縮方式でデータ圧縮するデータ圧縮回路26と、圧縮後のデータ容量を見積る見積り判定回路27と、データ圧縮回路26へ画像データを切換るスイッチ28と、圧縮データを送信する送信回路29を備え、圧縮方式による圧縮後データの容量見積り、非可逆圧縮で圧縮した画像データを送信して画面更新の応答時間を短縮し、続いて可逆圧縮で圧縮した画像データを再度送信し補間する。
【選択図】図5
Description
本発明は、例えば、静止画像データをプロジェクタ又はPDP等の大型映像表示装置に伝送するデータ伝送方法、また画像データを伝送するデータ送信装置、画像データを受信するデータ受信装置に関する。
現在、コンピュータで扱う画像データは、精細度が上がる一方で、表示素子の解像度も着実に上がってきている。これらの技術の傾向から、近年、コンピュータの画像信号を液晶プロジェクタに入力し、これを投射しプレゼンテーションを行うことが盛んになってきている。しかしながら、コンピュータの画像信号をプロジェクタに入力するためのケーブルは、一般的にはRGBの3本の画像信号用線、水平同期及び垂直同期の2本の同期信号用線の計5本の線が束になったものが用いられ、またその信号の帯域幅からケーブルが太くて短いものが用いられている。このため、コンピュータ及びプロジェクタの配置位置が制限され、プレゼンテーションの自由度を下げている。また、複数のプレゼンテータが交代でプレゼンテーションを行う場合には、次のプレゼンテータに交代するときに、発表に使用するコンピュータにケーブルを繋ぎ換えるか、プレゼンテーション用のデータを予めプロジェクタに接続されたコンピュータに保存しておくかしなければならなかった。これを解決するため、画像信号を無線で伝送する画像伝送システムが提案されている(例えば、特許文献1参照)。
この画像伝送システムでは、送信側のフレームメモリに入力画像データを記憶させ、このデータをシリアルで読み出し、赤外線若しくは無線により伝送し、受信側でシリアル信号からパラレル信号に戻し、このパラレル信号を受信側のフレームメモリに記憶し、このメモリを読み出すことによりRGBの画像データ信号を復元している。
ところで、プレゼンテーション等で汎用な画像信号としてXGAと呼ばれる映像信号形式がある。XGAは、画像サイズが水平方向1024画素×垂直方向768画素、フレーム周波数が60Hzのものはクロック周波数が65MHzであり、これらがRGB各8ビット必要であることから、シリアル信号で伝送するときの伝送レートは、約1.6GHzとなる。一例として、帯域幅が約100MHzの赤外線通信で空間伝送する場合、上述の画像伝送システムでは、複数のフレーム期間を用いて伝送することが可能であるが、伝送レートから勘案すると16フレームに1枚の画像しか伝送できず、発表者(プレゼンタ)がマウスを動かしても画面上のカーソルの動きがぎこちなく不自然になる等の問題があった。
一般的な画像伝送システムには、MPEG(Moving Picture Experts Group)、JPEG(Joint Photographic Expert Group) 等の画像圧縮符号化方式が使われるが、このとき問題となるのが画品位である。MPEG及びJPEGは、主として自然画像(ビデオデータ)を符号化するのに適した画像圧縮符号化方式であり、コンピュータ出力(特に高精細なテキスト画面など)には不向きである。更に、MPEGエンコードには画像データから動きベクトルを求める動き検出、離散コサイン変換(DCT:Discrete Cosine Transform)演算が必要になり、回路規模が大きくなる。その結果、規模が大きく高コストのシステムになってしまう。
また、コンピュータからの出力の場合、表示画像のファイルそのものをLAN(Local Area Network)経由で伝送することも可能である。最近、2.4GHz帯の無線LANの商品も出てきているが、この場合、画品位はオリジナルのままであるが、次のような問題が発生する。例えば、送信側をコンピュータ、受信側をディスプレイ(モニタ、プロジェクタ)とした場合、送信側にとって問題はないが、受信側であるディスプレイがLAN機能をもたせることが必要になる。ディスプレイにLAN機能がない場合、受信側にコンピュータを用意することが必要になり、結果としてコストアップになる。また、LAN接続は、コンピュータとディスプレイとをVGAケーブルで接続するだけでは使用できず、設定方法が煩雑である。
そこで、煩雑な設定作業を必要とせず、配置位置又は伝送レートに関わらず、確実に画像データを再生する手法として、入力されている画像データが前のフレームの画像データに比べて変化があったか否かを判別し、判別結果に応じて伝送する画像データの領域を設定し、変化に相当する画像データの差分を示すデータを付加し伝送する信号伝送システムが提案されている(例えば、特許文献2参照)。特許文献2の技術では、通信手段の伝送帯域に対して差分画像の信号量が大きい、つまり画面内で変化した領域が大きい場合は全画面を1/16の小画面に分割し、フレーム毎に異なる小画面に相当する画像データを伝送し、16フレーム期間かけて全ての画像データを更新している。
ところが、特許文献2のような技術では、このため画面の変化量が大きい場合はその更新に遅延が生じるという問題がある。入力される元の画像データの大部分が変化する場合、又はページチェンジのように表示画像データの変化量が大きくなる場合には、伝送データ量が増え、画像データを伝送し始めてから画像が表示されるまでに、やはりタイムラグが生じることになる。また、16フレーム期間かけて更新している間に新たな画面変化が起きたときには、この新たな差分画像が送信されるのは、先の16分割された小画面の送信が終わった後である。近年では、プレゼンテーションで、アニメーション効果を用いた動きのある画像がしばしば用いられるため、このような伝送遅延が発生するとプレゼンテータの意図した映像が表示できないという問題が発生する。
このように、従来の画像データ伝送方法では、画像データによって画像表示までの応答時間に差が生じ、プレゼンテーション画像が表示待ち状態になると、説明のタイミングに合った適切な表示がされないことがあり、円滑なプレゼンテーションの妨げになっていた。
そこで本発明は、上述した従来の実情に鑑みてなされたものであり、画面の更新要求があってから画像が表示されるまでの応答時間を短縮し、画像損失の少ない高精細の画像を送信する間に発生した新たな画面更新に対する応答性を向上することができる信号伝送方法、この信号伝送方法を適用したデータ送信装置及びデータ受信装置を提供することを目的とする。また、コンピュータにより画像データの送信及び/又は受信が制御されている装置に対して、画面の更新要求があってから画像が表示されるまでの応答時間を短縮するとともに、画像損失の少ない高精細の画像を送信する間に発生した新たな画面更新に対する応答性を向上する信号伝送方法を実現するプログラムを提供することを目的とする。
上述した課題を解決するために、本発明に係るデータ伝送方法は、データ送信装置から通信路を介してデータ受信装置に対して画像データを送信するときに、データ送信装置に表示された画像データと現在の画面データである現画像データとを比較して差分情報を検出し、検出された差分情報から両画像データの差分を含む差分領域を検出し、差分領域に対応する画像データを第1の圧縮方式又は圧縮後のデータを復号したとき該第1の圧縮方式よりも原画像により近いデータが得られる第2の圧縮方式により圧縮し、差分領域に対応する画像データを第1の圧縮方式又は第2の圧縮方式で圧縮したときの圧縮後のデータ量を見積もるデータ見積り、見積もられたデータ量が相対的に小となる圧縮方式で圧縮された画像データと、使用した圧縮方式と、差分領域を特定する情報とをデータ受信装置に送信し、送信した第1の圧縮方式の圧縮後のデータ量が相対的に小となる場合に、データ送信工程の後に第1の圧縮方式で圧縮した差分領域の画像データを第2の圧縮方式で圧縮して再度送信する。
また、本発明に係るデータ伝送方法は、圧縮後のデータ量が相対的に大となる圧縮方式で圧縮された差分領域の画像データの送信中に新たな差分情報が検出されたとき、新たな差分領域に対応する画像データを圧縮後のデータ量が相対的に小となる圧縮方式により圧縮して送信する。そして、差分検出の際には、1画面を所定サイズの処理ブロックに分割し、ブロック毎に画像データと現在の画面データである現画像データとを比較して差分情報を検出する。
本発明によれば、画面の更新要求があってから画像が表示されるまでの応答時間を短縮することができ、高精細の画像を表示することが可能になる。更に、画像損失の少ない高精細の画像を送信する間に発生した新たな画面更新に対する応答性が向上する。
以下、本発明を適用したデータ送信装置及びデータ受信装置について、図面を参照して詳細に説明する。
本発明の実施の形態として示す本発明の信号伝送方法を適用したデータ伝送システムは、PC(パーソナルコンピュータ)等の情報処理端末に着脱可能に装着されて或いは組み込まれて使用されるデータ送信装置と、通信路を介して接続されるデータ受信装置としての画像投影装置(以下、プロジェクタという)とを備え、データ送信装置からプロジェクタに対して、PCのモニタに表示される画像データを送信してスクリーン等に投影できるようにしたものである。したがって、本具体例で扱う画像データとは、主として、PCのソフトウェアで作成及び加工が可能な図表によって構成された画面、更にはこれらにテキストデータが組み込まれた画面等のようなコンピュータ画面の静止画像であり、写真又は映像の一部を切り出した画像データも含まれるが、主として写真又は映像の一部を切り出したこれらの画像データよりも抽象的な静止画像を表している。
このようにPCとプロジェクタとをネットワーク接続したシステムでは、1フレーム分の画像データのサイズ、ネットワーク帯域、伝送レート等を考慮すると、画像更新が要求されたとき、更新された画像データのデータサイズによっては、画像データが伝送され表示されるまでにタイムラグが生じることがある。そこで、本発明の実施の形態として示すデータ送信装置では、複数の圧縮方式による圧縮後のデータ容量を見積り、圧縮後のデータ容量がより小さい圧縮方式によって圧縮した画像データをまず送信することによって画像が表示されるまでの応答時間を短縮するとともに、続いて、圧縮後のデータ画質が原画像のデータ容量により近い圧縮方式を用いて圧縮した画像データを送信することによってプロジェクタ3によって投影される画像品質も保持することを可能とした。
図1では、データ伝送システム1は、PC2と、データ受信装置としてのプロジェクタ3とが通信路4aにより直接接続された例を示している。通信路4aとしては、イーサネット(Ethernet:登録商標)のクロスケーブルによる接続や、IEEE802.11gのアドホック(ad-hoc)接続を利用することができる。本発明の実施の形態として示すデータ送受信装置10は、上述した通信路4aに対する接続インターフェイスとして提供されており、例えば、USB(Universal Serial Bus)でPC2と接続されている。また、いわゆるPCカードタイプになっていてもよい。
図2は、図1の具体的な使用状況を模式的に示したものである。この例では、PC2にデータ送信装置10が接続されており、PC2のモニタ5に表示される画像6が通信路4aを介してプロジェクタ3に送られ、スクリーン7にも投影することができることを示している。図2では、PC2のモニタ5上の画像6がプロジェクタ3によってスクリーン7上に画像8として表示されている。
また、PC2とプロジェクタ3の接続の別の例として、図3のように、PC2とプロジェクタ3とを、いわゆるインターネット、イントラネット等のTCP/IPを実装できるコンピュータネットワークである通信路4bを介して相互に通信可能に接続したデータ伝送システム1aとすることもできる。この場合、図示しないが、データ送信装置10は、通信路4bに対する接続インターフェイスとして提供される。通信路4bとしては、例えば、イーサネット(登録商標)準拠の有線ネットワーク、IEEE802.11b、IEEE802.11g等に準拠した無線ネットワークを使用できる。図3の場合、プロジェクタ3は、通信路4bに接続されたPC2と、他のネットワーク端末100とで共有されており、通信路4bに接続されたPC2と同等に機能する他のネットワーク端末100からもプロジェクタ3を利用することができる。
次に、図4及び図5を用いて、PC2とデータ送信装置10の基本的なハードウェア構成について説明する。
PC2は、CPU15で実行するためのソフトウェア及び各種処理に用いられるデータ等が格納されるメインメモリ11と、画像データを処理するユーザインタフェイス用のディスプレイ12が接続されたビデオカード13とを備え、これらがシステムバス14で接続されて、CPU15によって統括して制御されている。また、システムバス14には、通信路4aに接続するためのネットワークアダプタ16が接続されている。
ビデオカード13は、図4に図示しないビデオメモリを更に有しており、このビデオメモリには、ディスプレイ12(図2のモニタ5に対応する)に画像として表示する画像データが格納される。PC2は、CPU15に制御されてビデオメモリ又はメインメモリ11上に用意されたビデオデータ専用の領域に格納された画像データをディスプレイ12に表示することができる。なお、ビデオメモリは、メインメモリ11上に用意されてもよい。ディスプレイ12は、一例として解像度が水平方向1024画素×垂直方向768画素のXGAと呼ばれる規格を使用する。
ネットワークアダプタ16は、イーサネット(登録商標)に準拠したものであり、コンピュータネットワークに接続可能である。本実施の形態では、このネットワークアダプタ16がデータ送信装置10に相当する。
図5にデータ送信装置10の基本構成を示す。データ送信装置10は、画面に表示される画像データを取得し、各メモリに割り振る画面データ取得回路21と、取得した1フレーム分の画面の画像データを一時的に記憶するメモリ22及びメモリ23と、メモリ22及びメモリ23の画像データを比較し差分のある領域を検出する差分検出回路24と、差分検出回路24で検出された差分に関する情報を記憶する差分情報メモリ25と、複数の圧縮方式によりデータを圧縮するデータ圧縮回路26と、同一のデータを複数の圧縮方式により圧縮したときの圧縮後のデータ容量を見積もるとともに比較する見積り判定回路27と、データ圧縮回路26に供給する画像データの供給元を切り換えるスイッチ28と、圧縮されたデータを送信する送信回路29とを備える。上述した各構成要素は、制御部30及びPC2からの同期信号に基づいた制御信号等によって統括制御されている。
次に、データ送信装置10の各構成と動作を、PC2の画面データの伝送方法と合わせて具体的に説明する。
画面データ取得回路21は、メインメモリ11又はビデオカード13上に用意されたビデオメモリからシステムバス14を介して供給された画像データを入力するとともに、供給された画像データを制御部30の制御により、入力した画像データをメモリ22又はメモリ23に適宜配分する。画面データ取得回路21は、1フレーム分の画面データの記憶先をメモリ22かメモリ23の何れかに切り換える。また、差分情報に応じて、スイッチ28を制御して後段のデータ圧縮回路26に送る画像データを切り換える。そのため、画面データ取得回路21は、メモリ22及びメモリ23の何れに最新の画面データが記録されているか管理し、ビデオメモリへの内容をコピーする際には、最新の画面データが記録されていない方のメモリにコピーする。管理する方法としては、1バイトのメモリ状態変数を用意し、例えば、メモリ22に最新の画面データがコピーされた場合にはメモリ状態変数を1とし、メモリ23に最新の画面データがコピーされた場合にはメモリ状態変数0とする。画面データ取得回路21は、画像データの取得を定期的に実行することもできるが、ビデオメモリの内容に変化があったときに起動する。
メモリ22及びメモリ23は、少なくともXGAの1画面分の表示に必要なデータ容量を満たす記憶領域を有し、画面データ取得回路21から供給される画像データを一時的に記憶する。メモリ22及びメモリ23は、1つのメモリを2つの領域に区分した物理的に1つのメモリであってもよい。
差分検出回路24は、画面データ取得回路21がメモリ22又はメモリ23に画面データを取得すると、制御部30からの指示に基づいて、2つのメモリに記憶されたフレームのデータを比較し、差分のある領域を検出する。本具体例では、上述したようにディスプレイの解像度は、データ量が多い高精細画像データであるXGAを想定しているので、差分検出回路24は、差分検出の効率をあげるために画面データを所定サイズの処理ブロック単位に分割し、処理ブロック単位毎に差分の検出を行う。後の画像データの圧縮における効率を考慮しても、処理ブロック単位毎に圧縮処理を行うことが効率的である。この場合のブロックのサイズは、後段で説明する画像データの圧縮方式や、CPUの処理速度、性能に応じて決定すればよい。例えば、画像データの圧縮方式の1つとしてJPEGを用いる場合には、JPEGでは8×8ピクセルのブロックを基本単位として処理を行っているため、処理ブロック単位を8×8ピクセルの整数倍にすると都合がよい。
差分検出の例を、図6を用いて説明する。図6(a)は、メモリ22に記憶された画面データを示し、図6(b)は、メモリ23に記憶された画面データを示す。この場合、図6(a)は、前の画面データであり、図6(b)は、現在の画面データであることを示している。図6(a)、(b)は、1つ前のフレームのA1に表示されたオブジェクト61とB1に表示されたオブジェクト62が、現在のフレームにおいてA2、B2に移動したことを示す例である。なお、図6(a)、(b)では説明を簡潔にするため、両図のフレームが連続したフレームであるとしている。しかし実際には、後段にて説明するが、画面データ取得回路21は、連続して送られるフレームを常に同じタイミングでメモリ22とメモリ23とに振り分けているのではなく、制御部30によって取得が指示されたときのフレームをメモリ22,23のうち時間的により古いフレームのデータを記録しているメモリに取り込む。また、画面サイズは、XGA規格である。
本具体例では、1画面を垂直方向に6、水平方向に8に分割し、分割してできたブロックを処理ブロック単位として扱う。各処理ブロック単位のブロックサイズは、XGAでは、8×8ピクセルの整数倍である128×128ピクセルとなり、1フレーム分の画面データの総ブロック数は48個となる。各処理ブロック単位に差分が含まれるか否かの判別は、ブロック内のピクセル値を単純に比較する。画素値が異なるピクセルが1つでも存在すれば、このブロックは差分を有するとみなす。そして、差分検出回路24は、差分を有する処理ブロック単位(以下、差分ブロックという)が隣接する場合には、隣接する差分ブロックを矩形状の1領域にまとめ、この差分ブロックが連続してなる1集合を差分領域として扱う。
隣接する差分ブロックをまとめる方法は、例えば、画面データにおいて左上の処理ブロック単位から差分ブロックを検索し、一番初めに検出された差分ブロックから右隣のブロックが差分ブロックかどうかを判別し、差分のないブロックが検出されるか一番右端のブロックに達するまで探索し、隣接していたブロックを一時的にまとめる。そして、この一時的にまとめられた領域のブロックに関して垂直方向に差分ブロックであるか判別し、検出された差分ブロックをまとめて1つの差分領域とする。
続いて、差分検出回路24が時間的に前後する2つの画像データから差分を検出する処理について図7〜図8を用いて説明する。
差分検出回路24は、左上のブロックから差分検出を開始する。ステップS1において、メモリ22に記憶された1つ前の画面データとメモリ23に記憶された現在の画面データについて、処理ブロック単位内の1ピクセル(画素)毎に画素値を比較する。画素値が異なるピクセルが存在する場合、ステップS2において、差分ブロックであることを示すブロック差分フラグを1にする。差分がなければ、ステップS3において、ブロック差分フラグを0にする。差分検出回路24は、上述のように処理ブロック単位に分割された1画面に対して、左上のブロックを先頭とする行について水平方向にステップS1〜S3を行って、右端のブロックまで到達すると、次に一段下の行について同様に差分検出処理を行う。1画面の全処理ブロック単位に対して、一連の処理が終わると、各処理ブロック単位に対して、図8に示すような差分フラグが作成される。差分検出回路24は、差分ブロックを検出後、後のデータ処理の効率を考慮して、検出した差分ブロックが隣接して存在する場合には、ステップS4において図8に示す差分フラグに基づいて隣接した差分ブロックを結合して矩形状にまとめる。
次に、ステップS4における差分フラグの結合処理を図9に示す。ステップS11において、差分検出回路24は、図8に示す差分フラグについて差分ブロックが0個かどうか判別する。ステップS11において、図8の差分フラグに差分ブロックが0個であった場合、ステップS12において、差分領域はないものとして終了する。差分フラグに差分ブロックがある場合、ステップS13において、全ての処理ブロック単位に差分があるか否か判別する。ステップS13において、全ての処理ブロック単位に差分がある場合には、ステップS14において、差分領域が全画面であるとする。画面データ全体を使って、後述する圧縮方式の見積りをする。
一方、ステップS13において、処理ブロック単位の全てに差分があるわけではない場合には、各行について上から順番に、そして行内は左上のブロックから順番に1画面の処理ブロック単位の各々に対して差分フラグを検出する。差分検出回路24は、左上の処理ブロック単位について、ステップS15において、差分フラグが1であるか否か判別する。ステップS15において、差分フラグが1であれば、差分検出回路24は、ステップS16において、隣接する差分ブロックを結合して矩形状の1領域とし、この差分ブロックが連続してできる1領域を差分領域として扱う。
ステップS16における差分ブロックから差分領域を決定する処理について図10を用いて詳細に説明する。図11は、検出される差分領域を説明している。
ステップS16−1において、隣接する処理ブロック単位の差分フラグが0か否か判別する。差分フラグが0でなければ、すなわち隣接する処理ブロック単位が差分ブロックであれば、更にその右隣の処理ブロック単位について差分フラグが0か判別する。この差分フラグの検出は、ステップS15において差分フラグか検出された処理ブロックから同じ行の右端のブロックまでブロック毎に行う。差分検出回路24は、隣接する処理ブロック単位が差分フラグ0の場合、ステップS16−2において、図8に示すように、差分フラグ1を有する隣接する処理ブロック単位の右端に位置する差分ブロックの水平位置をXrightとし、左端に位置する差分ブロックの水平位置をXleftとして差分情報メモリ25に記憶する。図11では、Xright=127、Xleft=639である。
次に、差分検出回路24は、ステップS16−3において、水平方向Xleft〜Xrightまで連続した差分ブロック集合に対して、更に垂直方向に差分ブロックの連続性を検出する。すなわち、水平方向Xleft〜Xrightまで連続した差分ブロック集合の垂直方向隣のブロックが差分ブロックであるか否か判別する。この処理は、最初に差分ブロックとして検出されたブロックのx座標Xleft(図11における(127,0))を左端とするブロックから垂直方向に向かって隣接ブロック毎に繰り返し行う。水平方向Xleft〜Xrightまで連続した差分ブロック集合の垂直方向隣の処理ブロック単位の差分フラグが1である場合には、更に垂直方向隣の処理ブロックの差分フラグが1であるか判別する。差分フラグ0のブロックに達した場合、差分検出回路24は、ステップS16−4において、最初に検出された差分ブロックの左上座標Xleft、すなわち図11における座標(127,0)を差分領域の左上の座標として差分情報メモリ25に記憶する。
また、差分検出回路24は、ステップS16−5において、差分領域の幅に相当する右端の座標Xrightと、ステップS16−3で垂直方向の差分フラグ0と検出されたブロックのY座標、すなわち図11における座標(639,255)を差分領域の右下の座標として差分情報メモリ25に記憶する。そして、差分検出回路24は、ステップS16−6において、差分ブロックを結合してできた、座標(127,0)と(639,255)で指定される領域を1つの差分領域とし、この差分領域内の差分フラグを0に戻す。このように、差分領域として検出されたブロックは、差分フラグを0にすることで、次回の探索対象から除外されるため処理負荷が軽減でき、より単純な処理で差分領域を計算することができる。
以上説明した処理により、1画面分の処理ブロック単位の各々に対して水平方向にステップS15及びステップS16を行い、次に一段下の行について同様に差分検出処理を行うことにより、差分検出回路24は、メモリ23に記憶された現在の画面データと、メモリ22に記憶された1つ前のフレームの画面データとを比較した結果を矩形状の差分領域として検出することができる。図11は、差分領域として検出される矩形状の領域を説明する図である。図6(a)に示したメモリ22に記憶された1つ前の画面データにおいてA1に位置していたオブジェクト61がメモリ23に記憶された現在の画面データにおいてA2に位置していたとき、(127,0)と(639,255)とで表現できる差分領域S1が検出される。また同様に、(383,639)と(767,767)とで表現できるオブジェクト62に由来する差分領域S2が検出できる。
差分検出回路24は、差分領域S1を表す(127,0)と(639,255)と、差分領域S2を表す(383,639)と(767,767)とを差分情報として、差分情報メモリ25に供給する。差分情報メモリ25は、これらを差分情報として記録する。差分領域に対して、これらの差分領域の数を減少させるように矩形形状を決定すると、座標データの情報量が減るため、圧縮効率をあげることができ、またプロジェクタ3での復号処理の効率をあげることができるという利点がある。
なお、差分検出回路24において検出された差分ブロックを隣接した差分ブロック同士でまとめて1差分領域とするアルゴリズムは、種々考えられる。より複雑なアルゴリズムを用いれば、後の圧縮処理における圧縮率の向上させることが可能である。例えば、上述した例では、最初の差分ブロックから水平方向に差分ブロックを検索してブロックを結合するアルゴリズムを用いたが、最初の差分ブロックから垂直方向に差分ブロックを検索してブロックを結合していくことも可能である。また、差分ブロックを結合してなる差分領域の数を最適にするために、両アルゴリズムを用いて差分領域を作成し、より最適な数になるアルゴリズムを選択するという方法をとれば、後の圧縮処理における圧縮の回数を削減することにもなり、処理全体の効率が向上する。
次に、データ圧縮回路26について説明する。データ圧縮回路26は、圧縮後のデータ量がより小さくなる第1の圧縮方式と、復号後のデータが圧縮前のデータと完全に一致するような第2の圧縮方式により画像データを圧縮する。第1の圧縮方式としては、圧縮効率が高い、すなわち圧縮後のデータ容量をできるだけ小さくできる非可逆圧縮を用いる。例えば、JPEG(Joint Photographic Experts Group)を適用することができる。一方、第2の圧縮方式としては、一般的にデータの圧縮効率は非可逆圧縮に劣るが復号後のデータ容量が圧縮前のデータと完全に一致する可逆圧縮を用いる。可逆圧縮の例としては、ランレングス符号化、ハフマン符号化、LZW(Lampel Ziv Welch)アルゴリズム、LZ(Lampel Ziv)78、LZ77が適用できる。
データ圧縮回路26は、制御部30からの指示に基づいて、上述した差分検出回路24において検出された差分領域に関する差分情報を差分情報メモリ25から取得するとともに、メモリ22又はメモリ23のうち最新の画面データ(現在の画面データ)が記録されている方のメモリから差分領域に対応する画像データを取得する。ここで、大抵の画像データについては非可逆圧縮の方が可逆圧縮よりも圧縮効率が高いが、画像データの性質によっては可逆圧縮を用いて非可逆圧縮よりも圧縮データをより小さくできることがある。そこでデータ圧縮回路26は、取得した矩形状の差分領域のデータに対して、どちらの圧縮方式がよりデータ容量が小さくなるかを算出する。そして、圧縮後のデータ容量が最小になる圧縮方式を用いて各差分領域データを圧縮する。データ圧縮処理回路26における圧縮処理は、画面データ取得回路31及び送信回路29の動作とは非同期に制御されている。
また、データ圧縮回路26は、画面内において、非可逆圧縮で圧縮し送信した領域であるか、可逆圧縮で圧縮し送信した領域であるかといった画面状態を差分領域毎にフラグ等を付けて内蔵のメモリ等で管理している。データ圧縮回路26は、非可逆圧縮で圧縮し送信した領域のデータは、所定のタイミングで可逆圧縮して再度送信している。
データ圧縮回路26において、まず非可逆圧縮で圧縮するのは、プロジェクタ3に送信するデータ量を削減するためであり、プロジェクタ3による表示画像の応答時間を短縮することを目的としている。しかし、最終的には損失のない高精細の画像データを送信することが要求される。そこで、データ圧縮回路26は、非可逆圧縮を用いて圧縮した差分領域の画像データを2つの画面メモリ22又は23から差分が検出されないときに送信することにより、最終的にPC2のディスプレイ6に表示される画像と同一の画像がプロジェクタ3から投影されるように制御している。したがって、データ圧縮回路26は、プロジェクタ3に送信された画像において、非可逆圧縮で圧縮した領域と可逆圧縮で圧縮した領域とを記録している。
見積り判定回路27は、制御部30に制御されて、データ圧縮回路26において差分領域を圧縮したとき、何れの圧縮方式を用いた場合に最もデータ容量が小さくできるかを見積もる。そして、圧縮後のデータ容量が最小になると見積もられた圧縮方式を選択するようにデータ圧縮回路26を制御している。見積り判定回路27における圧縮後のデータの見積り方法の一例としては、例えば、平均的な画像データに対して非可逆圧縮であるJPEGを実行したときに、または可逆圧縮であるランレングス符号化、ハフマン符号化、LZW(Lampel Ziv Welch)アルゴリズム、LZ(Lampel Ziv)78、LZ77等を実行したときに圧縮前のデータ量の何割程度になるかという概算の圧縮率を、予め統計的或いは経験的に算出しておく。見積り判定回路27は、これを評価値として、差分領域のデータ容量に応じて、この式により算出される概算値を比較して圧縮後のデータ容量を見積もることができる。見積り判定回路27は、通信路帯域、伝送速度、CPUにおける処理能力により差分領域の圧縮を試行する時間的余裕がとれる場合には、差分領域に対して両方の圧縮方式を実際に試行し、結果に応じて選択してもよい。
次に、図12〜図14を用いて、データ圧縮回路26及び見積り判定回路27の動作について説明する。
図12にデータ圧縮回路26の動作を示す。データ圧縮回路26は、制御部30によってタイマ等により定期的に起動されるか、差分検出回路24からの差分検出通知を受けて起動する。データ圧縮回路26は、ステップS21において、差分検出回路24によって新たな差分が検出されたかを確認する。新たな差分が検出されたとき、差分検出回路24は、ステップS22において、新たに検出された差分領域の画像データを圧縮する。新たな差分が検出されなければ、データ圧縮回路26は、ステップS23において、先に非可逆圧縮して送信した領域で、まだ可逆圧縮データが送信されていない領域の画像データを可逆圧縮して送信回路29に供給する。非可逆圧縮データで送信された差分領域の画像データを補間するための、この差分領域に対する可逆圧縮データが再度送信される。データ圧縮回路26は、ステップS24において、ステップS22又はステップS23で圧縮した領域の座標情報と、圧縮方式を画面状態メモリに記録する。
ここで、ステップS22の差分領域データの圧縮処理について図13を用いて詳細に説明する。画像データ取得回路21は、スイッチ28を切り換えて、データ圧縮回路26に供給される差分領域のデータを制御する。データ圧縮回路26は、ステップS22−1において、最新の画面データが記録されている方のメモリから画像データを取得する。続いてステップS22−2において、見積り判定回路27は、データ圧縮回路26から通知された領域の画像データに対して非可逆圧縮方式による圧縮後のデータ量を見積もる。続いてステップS22−3において、可逆圧縮方式による圧縮後のデータ量を見積もる。上述したように、圧縮後のデータ量の見積りでは、例えばJPEGを用いる場合、圧縮する差分領域の面積と圧縮後の画像データの品質等を考慮してデータ量を概算する。可逆圧縮方式の場合、予め調査した統計的又は経験的な圧縮率と差分領域の面積から概算する。また、単純なランレングス法を実行して実際に大まかなデータ圧縮を実行することでデータ量を算出してもよい。見積もったデータ量は見積り判定回路27へ入力される。
次に、ステップS22−4において、見積り判定回路27は、各圧縮方式での見積りデータ量を比較して最もデータ量が小さい圧縮方式をデータ圧縮回路26に通知する。具体的に、見積り判定回路27は、非可逆圧縮方式による圧縮後のデータ量が可逆圧縮方式による圧縮後のデータ量の方が相対的に小となることを見積もると、差分領域の画像データを非可逆圧縮方式により圧縮した後、可逆圧縮方式により圧縮するようデータ圧縮回路26に通知する。一方、見積り判定回路27は、非可逆圧縮方式による圧縮後のデータ量よりも可逆圧縮方式による圧縮後のデータ量の方が相対的に小となることを見積もった場合、非可逆圧縮方式の圧縮を行わず、可逆圧縮方式の圧縮を行うよう通知する。
データ圧縮回路26は、通知された圧縮方式により差分領域のデータを圧縮処理する。圧縮後のデータは、送信回路29に内蔵されたメモリ又はメインメモリ11上に用意された送信データ用メモリへ差分領域の矩形を示す座標データとともに記録する。
図11に示すように、1つの画面データにおいて同時に複数の差分領域が検出されている場合、圧縮後のデータの見積り比較を各差分領域に対して実行する。したがって、各差分領域における画像データの特性によっては、ある差分領域の画像データは可逆圧縮され、別の差分領域の画像データは非可逆圧縮されることもありうる。
またここで、ステップS23において、既に非可逆圧縮で圧縮され送信された差分領域を可逆圧縮データで補間する処理について図14を用いて詳細に説明する。データ圧縮回路26は、ステップS21において、新たな差分領域が検出されなかったとき、ステップS23−1において、非可逆圧縮されたデータのみが送信され、未だに可逆圧縮データで補間されていない領域があるか否か判別する。可逆圧縮データで補間されていない領域がある場合、ステップS23−2において、その領域の情報を画面状態メモリから取得し、ステップS23−3において、取得した領域の画像データを可逆圧縮する。
可逆圧縮で圧縮された画像データは、データ量が大きいため、非可逆圧縮データしか送られていない領域が多数存在しているとき、単に、これら領域のデータを全て可逆圧縮して送信するのでは送信中に新たな画面更新があった場合に、画面更新によってできる差分領域に相当するデータを即座に送信できないという問題が発生する。そこで、本発明の実施の形態では、非可逆圧縮データしか送られていない領域を一括して可逆圧縮して送信するのではなく、差分領域内の処理ブロック単位毎に可逆圧縮を行うことができるようにしている。
しかし、ブロックのデータ特性によっては、可逆圧縮でも非常に小さなデータにできるケースがある。例えば、ブロック内の画像が単一色の場合などでは、単純なランレングス符号化でも数バイト程度にまで圧縮できる。このような場合、1ブロックずつ圧縮して送信していると、可逆圧縮データによる補間が完了するまでに多くの時間を要することにもなる。このような問題を避けるために、本発明の実施の形態では、補間のための可逆圧縮データを送信する際、1度に送信できるデータ量の最大値を予め設定しておき、その最大値を超えない範囲で処理ブロック単位を可逆圧縮している。補間のための可逆圧縮データのデータ量の最大値は、利用する通信路4の通信帯域と、実現したい応答時間から計算すればよい。
データ圧縮回路26は、ステップS23−4において、圧縮後のデータ量が1度に送信可能なデータ量の最大値(閾値)を越えたか否か判別し、最大値を越えていない場合には、ステップS23−1から繰り返し、送信可能なデータ量の最大値に達するまで処理ブロック単位の可逆圧縮を行う。圧縮後のデータは、送信データメモリへ記録し、通信路4のデータ伝送許容量に合わせて送信する。こうすることにより、補間のための可逆圧縮データの送信を効率化しつつ、その間に画面更新が発生した場合には、更新箇所の差分領域のデータを圧縮して優先的に送信することができる。
以上説明したように、データ圧縮回路26及び見積り判定回路27によれば、新たな差分が検出されている場合、可逆圧縮したデータを送信してデータを補間するよりも画面更新による差分領域のデータ送信を優先することで、プロジェクタ3への画面更新の応答を早くすることができる。画面更新の際、更新部分の伝送にかかる遅延時間は、最大で非可逆圧縮を用いて全画面を圧縮して送信したときの時間となる。そのため、データ伝送システム1では、通信路4の通信帯域に合わせて非可逆圧縮の圧縮率を変更すれば、最大遅延時間をより短縮することもできる。例えば、IEEE802.11bの11メガビット/秒の帯域で15フレーム/秒を実現する場合、1フレーム当たりに利用できる帯域は、約0.73メガビット(91.6キロバイト)になるため、全画面を非可逆圧縮したときのデータサイズが最大でも91.6キロバイト以下になるように圧縮率を調整すればよい。
次に、上述したデータ圧縮回路26における画面状態の管理について図15を用いて説明する。データ圧縮回路26は、画面状態を管理するための指標として予め処理ブロック単位毎に1つのフラグ変数をもっている。したがって、本実施の形態では、画面を分割した処理ブロック単位に対応する48個の変数を用意する。フラグ変数は、オフ(又は0)のときに、この処理ブロックが非可逆圧縮されたデータのみが送信された、すなわち損失のある画像のみが送信されたブロックであることを意味する。また、オン(又は1)のときに、可逆圧縮されたデータが送信されたブロックであることを意味する。これらフラグ変数は、画面状態メモリに記録されている。
図15は、処理ブロック単位と差分検出回路24によって検出された差分領域に対して与えられる画面状態を示すフラグを示している。領域S’1、差分領域S’2、差分領域S’3、差分領域S’4は、差分検出回路24で検出された差分領域であって、非可逆圧縮データが送信されてないことを示している。なお、図15が図11に示した差分領域と異なるのは、図11で検出された全差分領域に対して可逆圧縮したデータが再度送信される前に、画面が更新され、新たな差分領域が検出され、この差分領域に対する非可逆圧縮データが送信されたことを示す。
データ圧縮回路26は、圧縮した領域の座標データと圧縮方式に応じて処理ブロック単位のフラグ変数を変更する。非可逆圧縮であればオフにし、可逆圧縮であればオンにする。データ圧縮回路26は、圧縮処理を行う毎に画面状態を更新することによって、現在送信されている画面に関して、損失のない画像部分(可逆圧縮データ)と、損失のある画像部分(非可逆圧縮データ)であるかを管理することができる。
次に、図5に示す送信回路29について説明する。送信回路29は、IEEE802.11gに準拠した無線通信パケットを生成し、データ圧縮回路26から供給される画像データをプロジェクタ3に送信する。送信回路29は、データ圧縮回路26がデータ圧縮処理を終えると起動され、送信データ用メモリに記録された圧縮後のデータを通信路4に順次送信する。1度に送信するデータは、1回の差分検出で検出された差分領域のデータ全てである。図11の例では、2つの差分領域が検出されたので、この場合は2つの差分領域の圧縮データと画面内においてそれぞれの差分領域を特定するための座標情報を1つのパケットデータにまとめて送信する。また、送信回路29は、ネットワークの通信プロトコルとして、TCP/IPを用い、データ送信の順序が保たれ、データ損失がないことを保障している。
図16に送信回路29が生成するパケットデータの一例を示す。図16に示すパケットデータは、パケットP1、P2から構成され、パケットP1は、パケットヘッダH1とデータD1からなる。また、パケットP2は、パケットヘッダH2とデータD2からなる。先頭パケットP1のパケットヘッダH1には、この一連のパケットデータに含まれる差分領域である矩形データの数が記述されている。差分領域の数に続いて、画面内で差分領域を特定するための座標データが記述されている。座標データには、差分領域の左上座標と右下座標である。続いて、差分領域の圧縮データのデータサイズが記述されている。データサイズに続いて圧縮方式が、更に圧縮後の実データが格納されている。
差分領域の数は、図6に示したように画面を48個の処理ブロックに分割した場合には、差分ブロックが隣接していると結合されることを考慮すると最大で24個になる。そのため、差分領域の数は、2バイト用意すれば表現可能である。また、座標データは、伝送する画像データの最大データサイズによるが、通常、2バイト×4=8バイトあれば表現することができる。圧縮後のデータサイズは、RGBの場合、XGAであれば最大で、1024×768×3バイト(RGBの場合)+各圧縮方式のヘッダサイズが表現できるバイト数を割り当てればよいことになる。通常、4バイト〜8バイトあれば表現することができる。上述したように生成されたパケットデータを順次送信することによって、プロジェクタ3は、画像データが復号して投影することができる。
制御部30は、データ送信装置10におけるデータ圧縮とデータの取得及び送信の制御を行うとともに、送信データ用メモリ及び送信回路29を監視して、画面データ取得回路21によって装置内に画像データを取り込むタイミングを指示している。したがって、データ伝送システム1では、画面データ取得回路21が連続して送られるフレームを常に同じタイミングでメモリ22とメモリ23とに振り分けているのではなく、制御部30によって取得が指示されたときのフレームがメモリ22,23のうち時間的により古いフレームのデータを記録しているメモリに取り込まれる。
本実施例では無線通信を用いているため、無線通信状態が悪くなると、その間だけデータ送信に通常よりも時間がかかる場合がある。このようなとき、データ伝送システム1では、例えば、送信回路29がデータ送信を完了しないうちに、データ圧縮回路26がメモリ22又は23から新しい画面データを取得すると、送信データ用メモリに未送信データが溜まる一方であり、通信路4に送出されたデータがネットワーク帯域を上回れば伝送システムが破綻する虞がある。そのため、本実施の形態では、データ伝送システム1の各構成は、上述した制御部30を用いて画面データ取得回路31及び送信回路29を排他的に動作させることで伝送システムの破綻を防ぐことを可能とした。
また、このように画面データ取得回路31及び送信回路29を排他的に動作させることで伝送システムの破綻を防ぐとともに、無線通信状態が悪くなっても常に最新の画像データが表示されることになり、伝送上の特別な制御を行わなくても、プレゼンテーション等で必要とされるリアルタイムな情報(データ)表示が可能となる。
図17(a)、(b)は、データ送信装置10においてデータ圧縮とデータの取得及び送信を独立して制御する処理を示す。データ送信装置10の制御部30は、ステップS31において、送信データ用メモリに圧縮されたデータが存在するか否か判別する。送信データ用メモリに圧縮データが存在しなければ、制御部30は、ステップS32において、画面データ取得回路21に指示してメモリ22又は23に画面データを取得させる。そして制御部30は、ステップS33において、差分検出回路24に指示してメモリ22の画面データとメモリ23の画面データとの差分を差分領域として検出する処理を行わせる。送信データ用メモリに圧縮データが存在する場合、制御部30は、ステップS34において、送信回路29に指示して送信データ用メモリのデータをプロジェクタ3に送信させる。
上述した画面データ取得、画面差分検出、データ送信の各処理に対して、データ圧縮回路26におけるデータ圧縮処理は、独立して実行される。図17(b)に示すように、制御部30は、ステップS35において、データ圧縮回路26に対して、差分検出回路24で検出された差分領域に対する圧縮後のデータ量の見積りとデータ圧縮とを指示する。
以上説明したように、制御部30は、画面データ取得回路21、差分検出回路24及び送信回路29とデータ圧縮回路26とを独立して制御することにより、データ送信中は画面データを取得しないという制御が自動的に行え、なんらかの理由でネットワーク通信に一時的な障害が起き、送信回路がデータ送信できない状態のときには無駄な画面データ取得、データ圧縮を行わない。よって送信データ用メモリに未送信データが溜まり続けることはなく伝送システムの破綻を防ぐことが可能となる。
続いて、データ受信装置であるプロジェクタ3について図面を用いて詳細に説明する。プロジェクタ3は、図16に示したパケットデータを順次受信し、パケットヘッダの情報に基づいて復号するだけで、画面データの更新に対する応答を早くするとともに高精細の画像データを表示するという特有のデータ伝送に対応できる。以下では、データ受信装置であるプロジェクタ3の基本構成を図18に、また動作を図19に示す。
プロジェクタ3は、データ送信装置10から通信路4a又は4bを介して伝送された画像データを受信するデータ受信回路31と、受信したデータを一時的に記憶する受信データメモリ32と、受信データメモリ32から画像データを読み出して復号するデータ復号回路33と、復号後のデータを記憶する画面データメモリ34と、画面データをスクリーンに投影するための映像出力回路35とを備える。
データ受信回路31は、IEEE802.11bに準拠した無線通信パケットを受信することができる。データ受信回路31は、通信路4を介して受信したパケットデータから画像データを得て、受信データメモリ32に供給する。ここで受信するパケットデータの一例は、図16に示したものである。データ受信回路31は、ネットワークの通信プロトコルとしてTCP/IPを用い、データ送信の順序が保たれ、データ損失がないことを保障している。
データ復号回路33は、データ圧縮回路26で用いた第1の圧縮方式と、第2の圧縮方式に対応した復号回路であり、第1の圧縮方式に対応する復号処理としてJPEGに対応している。一方、第2の圧縮方式に対応する復号処理として、ランレングス符号化、ハフマン符号化、LZW(Lampel Ziv Welch)アルゴリズム、LZ(Lampel Ziv)78、LZ77に対応している。データ復号回路33は、受信データメモリ32に記憶した画像データを、上述したパケットデータに記述された差分領域の数、座標データ、圧縮データサイズ、圧縮方式等の情報に基づいて復号し、画面データメモリ34に供給する。
次に、データ復号回路33における画像データの復号処理について、図19を用いて説明する。データ復号回路33は、ステップS41において、図16に示したパケットデータ構造のパケットヘッダに記述された差分領域の圧縮方式を読み取り、パケット化されて伝送された画像データが可逆圧縮データか非可逆圧縮データかを判別する。非可逆圧縮データの場合、ステップS42において、対応する復号処理を施す。また、可逆圧縮データである場合、ステップS43において、対応する復号処理を施す。続いて、データ復号回路33は、ステップS44において、パケットヘッダに記述された座標データに基づいて、ステップS42又はステップS43で復号された画像データを画面データメモリ34の対応領域に書き込む。そして、データ復号回路33は、ステップS45において、差分領域のデータが他にもあれば、差分領域データの数だけステップS41から繰り返す。
画面データメモリ34に書き込まれていた復号後のデータは、映像出力回路35に供給され、内蔵するビデオメモリ等に複製され、図示しない映写投影部からスクリーン7に投影される。
このようにデータ復号回路33は、受信したパケットデータに記述された圧縮方式、圧縮データサイズ、圧縮された画像データの画面に対応する位置を示した座標データに基づいて圧縮データを順次復号して表示するという非常に簡単な処理を実行するだけで、前の画面データと現在の画面データとを比較したときの差分領域の圧縮データを先に受信し、後に差分領域の可逆圧縮データを再度受信することにより画面更新に対する応答を早くするとともに、高精細の画像データを表示するという特有のデータ伝送が実現できる。また、非可逆データが送られた領域の補間のための可逆圧縮データの受信中に新たな画面更新が発生した場合には、可逆圧縮データに優先して更新箇所の圧縮データが送信されるので、これを受信して復号し表示することで、PC2の画面更新に対する応答がよくなる。
以上説明したように、本発明の実施の形態によれば、画面更新が発生してからデータ受信装置での画面の表示にかかるまでの応答時間を短縮することができる。また、可逆圧縮データのデータサイズを通信帯域に応じて変更することにより、損失のない画像を表示するまでにかかる応答時間を短縮することができる。また、本発明の実施の形態によれば、損失のない画像を表示するための可逆圧縮データを送信している間に発生した新たな画面更新に優先的に応答することができ、その応答時間を短縮することができる。
また、本発明の実施の形態によれば、可逆圧縮データであってもデータ量を十分に削減できる場合には、はじめから可逆圧縮データで送信することにより、非可逆圧縮した後で可逆圧縮データを再度送信することによるデータ送信量の無駄を削減することができ、削減が達成された分だけより多くの画面更新を伝達することが可能になる。このように、本発明の実施の形態によれば、無駄なデータ圧縮処理、データ復号処理、データ送信量の無駄等が削減されるため、処理装置と伝送の効率をあげることができ、簡略化や省電力化を図ることができる。
なお、図5を用いて説明したデータ送信装置10における画面データ取得回路21と、差分検出回路24と、データ圧縮回路26と、見積り判定回路27は、PC2のCPUによって実行されるソフトウェアモジュールとして提供することもできる。図7、図9、図10、図12〜14を用いて説明した一連の画像データ送信処理を実行するプログラムによって、デバイス制御、マルチタスク動作環境、タイマ等の機能をもった一般的なマルチタスクOS上で各モジュールを動作させることもできる。この場合、メモリ22及びメモリ23、差分情報メモリ25、送信データ用メモリ等は、PC2における作業用メモリ、或いはHDD等の記録領域を使用する。
また、非可逆圧縮、可逆圧縮ともに圧縮方式は、それぞれ1種類である必要はなく、複数種類の圧縮方式を用意し、このなかから最適な圧縮方式が適宜選択されてもよい。この場合、当然のことながら、プロジェクタ3(データ受信装置)は、対応する復号回路を備えるものとする。復号にかかる処理時間と、データ送信装置10における圧縮後のデータ量の見積りにかかる処理時間、及び圧縮処理そのものの時間等が、データの送信にかかる時間に対して相対的に小さくなる系であれば、より最適な圧縮方法を用いて送信データ量を少なくすることによりデータ伝送システム全体としての効率が上がる。
また、本発明の実施の形態では、第1の圧縮方式として非可逆圧縮と用い、第2の圧縮方式として可逆圧縮を用いて、圧縮後のデータ量を見積もってデータ伝送の効率化を図った例について説明したが、本発明はこれに限定されない。すなわち、見積りの結果、第1の圧縮方式よりも原画像により近いデータが得られる第2の圧縮方式との間で、原画像により近いデータが得られる圧縮方式の方が圧縮後のデータ量が大となる場合、逆に、原画像により近いデータが得られる第2の圧縮方式の方が圧縮後のデータ量が小となる場合が生じうるような圧縮方式であれば、非可逆可逆に限定されず、第1の圧縮方式と第2の圧縮方法がともに非可逆圧縮であってもよいし、ともに可逆圧縮であってもよい。
また、上述した実施の形態の変形例として、データ送信装置10とプロジェクタ3の双方が互いにデータ送受信可能であって、双方がGUIを備えたコンピュータとすることができる。このとき、主に画像データを受信するプロジェクタ3から、PC2のユーザインタフェイスとして使用されているキーボードやマウス等の操作情報を送信し、データ送信装置10において、プロジェクタ3から送信されたユーザインタフェイスのための情報を利用して、PC2の各種操作を実現することも可能である。PC2とプロジェクタ3との間において、制限された通信路帯域のなかで伝送できるデータ量が制限されている場合、このような相互操作のアプリケーションに応用しても、より応答性の良い遠隔操作システムを構築できる。
1,1a データ伝送システム、 2 PC、 3 データ受信装置(プロジェクタ)、 4a,4b 通信路、 5 スクリーン、 6,7 画像、 10 データ送信装置、 11 メインメモリ、 12 ディスプレイ、 13 ビデオカード、 14 システムバス、 15 CPU、 16 ネットワークアダプタ、 21 画像データ取得回路、 22,23 メモリ、 24 差分検出回路、 25 差分情報メモリ、 26 データ圧縮回路、 27 見積り判定回路、 28 スイッチ、 29 送信回路、 31 データ受信回路、 32 受信データメモリ、 33 データ復号回路、 34 画面データメモリ、 35 映像出力回路
Claims (13)
- データ送信装置から通信路を介してデータ受信装置に対して画像データを送信するデータ伝送方法において、
上記データ送信装置に表示された画像データと現在の画面データである現画像データとを比較して差分情報を検出する差分検出工程と、
上記差分検出工程において検出された差分情報から両画像データの差分を含む差分領域を検出する工程と、
上記差分領域に対応する画像データを第1の圧縮方式又は圧縮後のデータを復号したとき該第1の圧縮方式よりも原画像により近いデータが得られる第2の圧縮方式により圧縮するデータ圧縮工程と、
上記データ圧縮工程で差分領域に対応する画像データを上記第1の圧縮方式又は第2の圧縮方式で圧縮したときの圧縮後のデータ量を見積もるデータ見積り工程と、
上記データ圧縮工程において上記データ見積り工程で見積もられたデータ量が相対的に小となる圧縮方式により圧縮された画像データと、使用した圧縮方式と、上記差分領域を特定する情報とを上記データ受信装置に送信するデータ送信工程と、
上記送信した第1の圧縮方式の圧縮後のデータ量が相対的に小となる場合に、上記データ送信工程の後、上記第1の圧縮方式により圧縮した差分領域の画像データを上記第2の圧縮方式により圧縮して再度送信する再送信工程と
を有することを特徴とするデータ伝送方法。 - 上記再送信工程で圧縮後のデータ量が相対的に大となる圧縮方式で圧縮された差分領域の画像データの送信中に、上記差分検出工程で新たな差分情報が検出されたとき、上記新たな差分領域に対応する画像データを圧縮後のデータ量が相対的に小の圧縮方式により圧縮して送信することを特徴とする請求項1記載のデータ伝送方法。
- 上記差分検出工程では、1画面を所定サイズの処理ブロックに分割し、ブロック毎に上記画像データと現在の画面データである現画像データとを比較して差分情報を検出することを特徴とする請求項1記載のデータ伝送方法。
- 上記第1の圧縮方式は非可逆圧縮であり、上記第2の圧縮方式は可逆圧縮であり、上記再送信工程では、上記データ送信工程の後、上記非可逆圧縮で圧縮された差分領域の画像データを上記可逆圧縮で圧縮して再度送信することを特徴とする請求項1記載のデータ伝送方法。
- 上記通信路は、IEEE802.11gに準拠する無線通信ネットワークであることを特徴とする請求項1記載のデータ伝送方法。
- 表示手段を有し該表示手段に表示された画像データを通信路を介してデータ受信装置に送信するデータ送信装置において、
上記表示手段に表示された画像データと現在の画面データである現画像データとを比較して差分情報を検出し、検出した差分情報から両画像データの差分を含む差分領域を検出する差分検出手段と、
上記差分領域に対応する画像データを第1の圧縮方式又は圧縮後のデータを復号したとき該第1の圧縮方式よりも原画像により近いデータが得られる第2の圧縮方式で圧縮するデータ圧縮手段と、
上記データ圧縮手段で上記差分領域に対応する画像データを第1の圧縮方式又は第2の圧縮方式でそれぞれ圧縮したときの圧縮後のデータ量を見積もるデータ見積り手段と、
上記データ圧縮手段において上記データ見積り手段に見積もられたデータ量が相対的に小となる圧縮方式により圧縮された画像データと、使用した圧縮方式と、上記差分領域を特定する情報とを上記データ受信装置に送信するデータ送信手段と、
上記送信した第1の圧縮方式の圧縮後のデータ量が相対的に小となる場合に、上記データ送信手段によりデータを送信した後、上記第1の圧縮方式により圧縮した差分領域の画像データを上記第2の圧縮方式により圧縮して再度送信することを特徴とするデータ送信装置。 - 上記差分検出手段で検出した差分情報から両画像データの差分を含む差分領域を特定して記憶する記憶手段と、上記何れの圧縮方式を用いたかを上記差分領域を特定する情報とともに記憶する記憶手段とを有することを特徴とする請求項6記載のデータ送信装置。
- 上記差分領域の画像データを圧縮後のデータ量が相対的に大となる圧縮方式で圧縮して再度送信している最中に上記差分検出手段で新たな差分情報が検出されたとき、上記新たな差分領域に対応する画像データを圧縮後のデータ量が相対的に小となる圧縮方式により圧縮して送信することを特徴とする請求項6記載のデータ送信装置。
- 上記差分検出主手段は、1画面を所定サイズの処理ブロックに分割し、ブロック毎に上記画像データと現在の画面データである現画像データとを比較して差分情報を検出することを特徴とする請求項6記載のデータ送信装置。
- 上記第1の圧縮方式は非可逆圧縮であり、上記第2の圧縮方式は可逆圧縮であり、上記データ送信手段は、上記非可逆圧縮で圧縮された差分領域の画像データを上記可逆圧縮で圧縮して再度送信することを特徴とする請求項6記載のデータ送信装置。
- 上記通信路は、IEEE802.11gに準拠する無線通信ネットワークであることを特徴とする請求項6記載のデータ送信装置。
- 通信路を介してデータ送信装置から送信された画像データを受信し表示するデータ受信装置において、
上記通信路の伝送形式に対応して生成された伝送データを受信する受信手段と、
少なくとも第1の圧縮方式と圧縮後のデータを復号したとき該第1の圧縮方式よりも原画像により近いデータが得られる第2の圧縮方式に対応する復号を行う復号手段と、
上記復号手段によって復号した画像データを提示する提示手段と、
上記画像データから上記提示手段によって提示する画面を作成する画面作成手段と
を備え、
上記伝送データには、上記データ送信手段の表示手段に表示された画像データと現在の画面データである現画像データとを比較して得られた差分領域を示す情報と、該差分領域の画像データを圧縮するのに使用した圧縮方式と、圧縮された画像データとが記述され、
上記受信手段は、上記第1の圧縮方式及び第2の圧縮方式のうち圧縮後のデータ量が相対的に小となる圧縮方式で圧縮された差分領域の画像データが記述された伝送データを受信し、受信した上記第1の圧縮方式の圧縮後のデータ量が相対的に小となる場合に、続けて上記第1の圧縮方式により圧縮された差分領域の画像データであって上記第2の圧縮方式により圧縮された伝送データを受信し、上記復号手段は、上記差分領域を示す情報と、該差分領域の画像データを圧縮するのに使用した圧縮方式に基づいて圧縮された画像データを復号し、上記画面作成手段は、上記復号手段で復号された画像データを上記差分領域を示す情報に基づいて上記提示される画面における対応位置に当て嵌めることを特徴とするデータ受信装置。 - コンピュータにより制御されるデータ送信装置に、データ送信先であるデータ受信装置に対して画像データを送信するデータ伝送処理を実行させるコンピュータプログラムにおいて、
上記データ送信装置に表示された画像データと現在の画面データである現画像データとを比較して差分情報を検出する差分検出工程と、
上記差分検出工程において検出された差分情報から両画像データの差分を含む差分領域を特定してメモリに記憶する工程と、
上記差分領域に対応する画像データを第1の圧縮方式及び圧縮後のデータを復号したとき該第1の圧縮方式よりも原画像により近いデータが得られる第2の圧縮方式とでそれぞれ圧縮したときの圧縮後のデータ量を見積もるデータ見積り工程と、
上記データ見積り工程で見積もられたデータ量が相対的に小となる圧縮方式により上記差分領域の画像データを圧縮するとともに何れの圧縮方式を用いたかを上記差分領域を特定する情報とともにメモリに記憶する工程と、
上記圧縮後のデータ量が相対的に小となる圧縮方式により圧縮された画像データを、上記差分領域を特定する情報とともに上記データ受信装置に送信するデータ送信工程と、
上記送信した第1の圧縮方式の圧縮後のデータ量が相対的に小となる場合に、上記データ送信工程の後、上記第1の圧縮方式により圧縮した差分領域の画像データを第2の圧縮方式により圧縮して再度送信する再送信工程と
を有するデータ伝送処理を上記データ送信装置に対して実行させるコンピュータプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2005204823A JP2007025073A (ja) | 2005-07-13 | 2005-07-13 | データ伝送方法、データ送信装置及びデータ受信装置、並びにプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2005204823A JP2007025073A (ja) | 2005-07-13 | 2005-07-13 | データ伝送方法、データ送信装置及びデータ受信装置、並びにプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2007025073A true JP2007025073A (ja) | 2007-02-01 |
Family
ID=37785954
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2005204823A Pending JP2007025073A (ja) | 2005-07-13 | 2005-07-13 | データ伝送方法、データ送信装置及びデータ受信装置、並びにプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2007025073A (ja) |
Cited By (25)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2009004996A1 (ja) * | 2007-06-29 | 2009-01-08 | Nec Corporation | 画面伝送システム、画面送信サーバ、画面伝送方法およびプログラム記録媒体 |
JP2009037581A (ja) * | 2007-07-09 | 2009-02-19 | Toshiba Corp | 画像を処理する装置、画像の更新を検出する方法およびプログラム |
JP2009054037A (ja) * | 2007-08-28 | 2009-03-12 | Awind Inc | プラグ・アンド・ショー機能を持っている活線挿抜装置 |
JP2009117998A (ja) * | 2007-11-02 | 2009-05-28 | Fujifilm Corp | データ圧縮装置およびデータ圧縮プログラム |
JP2009117997A (ja) * | 2007-11-02 | 2009-05-28 | Fujifilm Corp | 撮影装置 |
JP2009530892A (ja) * | 2006-03-14 | 2009-08-27 | キヤノン株式会社 | ビデオ画像シーケンスの時間的頻度を適合させる方法および装置 |
JP2009205278A (ja) * | 2008-02-26 | 2009-09-10 | Pioneer Electronic Corp | 画面共有処理装置、画面共有方法及びコンピュータプログラム |
JP2009224847A (ja) * | 2008-03-13 | 2009-10-01 | Nec Personal Products Co Ltd | 画面データ送信装置及びその方法 |
JP2010257454A (ja) * | 2009-04-23 | 2010-11-11 | Vmware Inc | 遠隔の表示部へ伝送するためにフレームバッファをコピーする方法及びシステム |
US8045828B2 (en) | 2007-07-09 | 2011-10-25 | Kabushiki Kaisha Toshiba | Apparatus for processing images, and method and computer program product for detecting image updates |
JP2011238014A (ja) * | 2010-05-10 | 2011-11-24 | Fujitsu Ltd | 情報処理装置、画像送信プログラム、画像表示プログラム及び画像表示方法 |
JP2013008384A (ja) * | 2012-08-23 | 2013-01-10 | Pioneer Electronic Corp | 画面共有処理装置、画面共有方法及びコンピュータプログラム |
US8416253B2 (en) | 2007-12-11 | 2013-04-09 | Kabushiki Kaisha Toshiba | Apparatus, method, and recording medium for detecting update of image information |
US8601105B2 (en) | 2008-01-31 | 2013-12-03 | Kabushiki Kaisha Toshiba | Apparatus, method and computer program product for faciliating communication with virtual machine |
WO2014080440A1 (ja) * | 2012-11-21 | 2014-05-30 | 富士通株式会社 | 情報処理装置、制御方法、制御プログラム |
WO2014174802A1 (ja) * | 2013-04-26 | 2014-10-30 | 日本電気株式会社 | 画面伝送システム、画像情報送信装置および画像情報受信装置 |
JP2015005821A (ja) * | 2013-06-19 | 2015-01-08 | 富士通セミコンダクター株式会社 | 画像送信装置、画像伝送システム、画像送信方法および画像送信プログラム |
US8970572B2 (en) | 2011-09-29 | 2015-03-03 | Samsung Display Co., Ltd. | Display device and driving method thereof |
JP2015053575A (ja) * | 2013-09-06 | 2015-03-19 | セイコーエプソン株式会社 | 画像処理装置、画像送信システム、画像処理方法、及び、画像送信方法 |
JP2015191456A (ja) * | 2014-03-28 | 2015-11-02 | セイコーエプソン株式会社 | 制御装置、印刷システム、及び、制御装置の制御方法 |
US9257100B2 (en) | 2011-09-26 | 2016-02-09 | Samsung Display Co., Ltd. | Display device and driving method thereof |
JP2017187805A (ja) * | 2008-09-29 | 2017-10-12 | インテル・コーポレーション | DisplayPortに準拠したインターフェースにおけるプロトコル拡張 |
US9811292B2 (en) | 2013-09-06 | 2017-11-07 | Seiko Epson Corporation | Using image difference data to reduce data processing |
US9831893B2 (en) | 2016-03-10 | 2017-11-28 | Fujitsu Limited | Information processing device, data compression method and data compression program |
JP2022058547A (ja) * | 2015-08-19 | 2022-04-12 | テキサス インスツルメンツ インコーポレイテッド | レーダー信号の圧縮のための方法及びシステム |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH06217150A (ja) * | 1992-06-18 | 1994-08-05 | Samsung Electron Co Ltd | 画像データの符号化/復号化方法及び装置 |
JPH1075370A (ja) * | 1996-07-02 | 1998-03-17 | Ricoh Co Ltd | 画像処理装置 |
JP2005033762A (ja) * | 2003-06-19 | 2005-02-03 | Matsushita Electric Ind Co Ltd | 送信装置、画像処理システム、画像処理方法、プログラム、及び記録媒体 |
-
2005
- 2005-07-13 JP JP2005204823A patent/JP2007025073A/ja active Pending
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH06217150A (ja) * | 1992-06-18 | 1994-08-05 | Samsung Electron Co Ltd | 画像データの符号化/復号化方法及び装置 |
JPH1075370A (ja) * | 1996-07-02 | 1998-03-17 | Ricoh Co Ltd | 画像処理装置 |
JP2005033762A (ja) * | 2003-06-19 | 2005-02-03 | Matsushita Electric Ind Co Ltd | 送信装置、画像処理システム、画像処理方法、プログラム、及び記録媒体 |
Cited By (28)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2009530892A (ja) * | 2006-03-14 | 2009-08-27 | キヤノン株式会社 | ビデオ画像シーケンスの時間的頻度を適合させる方法および装置 |
WO2009004996A1 (ja) * | 2007-06-29 | 2009-01-08 | Nec Corporation | 画面伝送システム、画面送信サーバ、画面伝送方法およびプログラム記録媒体 |
JP5201142B2 (ja) * | 2007-06-29 | 2013-06-05 | 日本電気株式会社 | 画面伝送システム、画面送信サーバ、画面伝送方法およびプログラム記録媒体 |
US8224099B2 (en) | 2007-06-29 | 2012-07-17 | Nec Corporation | Screen data transmitting system, screen data transmitting server, screen data transmitting method and program recording medium |
JP2009037581A (ja) * | 2007-07-09 | 2009-02-19 | Toshiba Corp | 画像を処理する装置、画像の更新を検出する方法およびプログラム |
US8045828B2 (en) | 2007-07-09 | 2011-10-25 | Kabushiki Kaisha Toshiba | Apparatus for processing images, and method and computer program product for detecting image updates |
JP2009054037A (ja) * | 2007-08-28 | 2009-03-12 | Awind Inc | プラグ・アンド・ショー機能を持っている活線挿抜装置 |
JP2009117998A (ja) * | 2007-11-02 | 2009-05-28 | Fujifilm Corp | データ圧縮装置およびデータ圧縮プログラム |
JP2009117997A (ja) * | 2007-11-02 | 2009-05-28 | Fujifilm Corp | 撮影装置 |
US8416253B2 (en) | 2007-12-11 | 2013-04-09 | Kabushiki Kaisha Toshiba | Apparatus, method, and recording medium for detecting update of image information |
US8601105B2 (en) | 2008-01-31 | 2013-12-03 | Kabushiki Kaisha Toshiba | Apparatus, method and computer program product for faciliating communication with virtual machine |
JP2009205278A (ja) * | 2008-02-26 | 2009-09-10 | Pioneer Electronic Corp | 画面共有処理装置、画面共有方法及びコンピュータプログラム |
JP2009224847A (ja) * | 2008-03-13 | 2009-10-01 | Nec Personal Products Co Ltd | 画面データ送信装置及びその方法 |
JP2017187805A (ja) * | 2008-09-29 | 2017-10-12 | インテル・コーポレーション | DisplayPortに準拠したインターフェースにおけるプロトコル拡張 |
JP2010257454A (ja) * | 2009-04-23 | 2010-11-11 | Vmware Inc | 遠隔の表示部へ伝送するためにフレームバッファをコピーする方法及びシステム |
JP2011238014A (ja) * | 2010-05-10 | 2011-11-24 | Fujitsu Ltd | 情報処理装置、画像送信プログラム、画像表示プログラム及び画像表示方法 |
US9257100B2 (en) | 2011-09-26 | 2016-02-09 | Samsung Display Co., Ltd. | Display device and driving method thereof |
US8970572B2 (en) | 2011-09-29 | 2015-03-03 | Samsung Display Co., Ltd. | Display device and driving method thereof |
JP2013008384A (ja) * | 2012-08-23 | 2013-01-10 | Pioneer Electronic Corp | 画面共有処理装置、画面共有方法及びコンピュータプログラム |
WO2014080440A1 (ja) * | 2012-11-21 | 2014-05-30 | 富士通株式会社 | 情報処理装置、制御方法、制御プログラム |
WO2014174802A1 (ja) * | 2013-04-26 | 2014-10-30 | 日本電気株式会社 | 画面伝送システム、画像情報送信装置および画像情報受信装置 |
JP2015005821A (ja) * | 2013-06-19 | 2015-01-08 | 富士通セミコンダクター株式会社 | 画像送信装置、画像伝送システム、画像送信方法および画像送信プログラム |
JP2015053575A (ja) * | 2013-09-06 | 2015-03-19 | セイコーエプソン株式会社 | 画像処理装置、画像送信システム、画像処理方法、及び、画像送信方法 |
US9811292B2 (en) | 2013-09-06 | 2017-11-07 | Seiko Epson Corporation | Using image difference data to reduce data processing |
JP2015191456A (ja) * | 2014-03-28 | 2015-11-02 | セイコーエプソン株式会社 | 制御装置、印刷システム、及び、制御装置の制御方法 |
JP2022058547A (ja) * | 2015-08-19 | 2022-04-12 | テキサス インスツルメンツ インコーポレイテッド | レーダー信号の圧縮のための方法及びシステム |
JP7379546B2 (ja) | 2015-08-19 | 2023-11-14 | テキサス インスツルメンツ インコーポレイテッド | レーダー信号の圧縮のための方法及びシステム |
US9831893B2 (en) | 2016-03-10 | 2017-11-28 | Fujitsu Limited | Information processing device, data compression method and data compression program |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2007025073A (ja) | データ伝送方法、データ送信装置及びデータ受信装置、並びにプログラム | |
US7881369B2 (en) | Image transmission apparatus, image transmission method and image transmission program | |
JP5326234B2 (ja) | 画像送信装置、画像送信方法および画像送信システム | |
US9756328B2 (en) | System, terminal, and method for dynamically adjusting video | |
US8831108B2 (en) | Low latency rate control system and method | |
JP5706637B2 (ja) | 情報処理装置及びその制御方法、表示装置及びその制御方法、及び、画像転送システム | |
US7714896B2 (en) | Image capturing apparatus and image capturing method | |
US7876360B2 (en) | Image data transfer processor and surveillance camera system | |
EP3726838B1 (en) | Management of memory for storing display data | |
JP4205634B2 (ja) | 画像送信装置で使用される方法、およびプログラム | |
US20110299605A1 (en) | Method and apparatus for video resolution adaptation | |
JP4176663B2 (ja) | 送信装置、画像処理システム、画像処理方法、プログラム、及び記録媒体 | |
JP4100359B2 (ja) | 信号伝送システム、データ送信装置、及びデータ受信装置 | |
US8731069B2 (en) | Remote display system and method | |
JP2006211006A (ja) | 画像処理装置 | |
JP3954581B2 (ja) | 情報転送装置、情報転送方法及びプログラム | |
CN107318021B (zh) | 一种远程显示的数据处理方法及系统 | |
JP5171655B2 (ja) | 画像送信装置、方法及び記憶媒体 | |
JP2007243838A (ja) | 情報転送装置、情報受信装置およびコンピュータプログラム | |
JP5036666B2 (ja) | 画像送信装置で使用される方法 | |
JP5695537B2 (ja) | サーバ、サーバ制御方法、サーバ制御プログラム | |
JP2005064785A (ja) | 画像伝送装置、画像再生装置および画像伝送システム | |
CN107318020B (zh) | 远程显示的数据处理方法及系统 | |
JPH11187383A (ja) | 映像監視システム及び映像監視方法 | |
JP2007013697A (ja) | 画像受信装置及び画像受信方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20080702 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20110628 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20111025 |