Nothing Special   »   [go: up one dir, main page]

JP4013989B2 - 映像信号処理装置、仮想現実感生成システム - Google Patents

映像信号処理装置、仮想現実感生成システム Download PDF

Info

Publication number
JP4013989B2
JP4013989B2 JP2006257932A JP2006257932A JP4013989B2 JP 4013989 B2 JP4013989 B2 JP 4013989B2 JP 2006257932 A JP2006257932 A JP 2006257932A JP 2006257932 A JP2006257932 A JP 2006257932A JP 4013989 B2 JP4013989 B2 JP 4013989B2
Authority
JP
Japan
Prior art keywords
distortion correction
video signal
output
input
pixels
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2006257932A
Other languages
English (en)
Other versions
JP2007251914A (ja
Inventor
厚行 山本
正徳 柏木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Electric Works Co Ltd
Original Assignee
Matsushita Electric Works Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Matsushita Electric Works Ltd filed Critical Matsushita Electric Works Ltd
Priority to JP2006257932A priority Critical patent/JP4013989B2/ja
Priority to TW096106370A priority patent/TWI324280B/zh
Priority to CN2007800060532A priority patent/CN101385047B/zh
Priority to CA2641484A priority patent/CA2641484C/en
Priority to KR1020087020295A priority patent/KR101029634B1/ko
Priority to EP07713484A priority patent/EP1989678A2/en
Priority to PCT/JP2007/000102 priority patent/WO2007097118A2/en
Priority to US12/278,304 priority patent/US8147073B2/en
Publication of JP2007251914A publication Critical patent/JP2007251914A/ja
Application granted granted Critical
Publication of JP4013989B2 publication Critical patent/JP4013989B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/14Transformations for image registration, e.g. adjusting or mapping for alignment of images
    • G06T3/153Transformations for image registration, e.g. adjusting or mapping for alignment of images using elastic snapping
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/80Geometric correction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/04Synchronising
    • H04N5/08Separation of synchronising signals from picture signals
    • H04N5/10Separation of line synchronising signal from frame synchronising signal or vice versa

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Graphics (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Transforming Electric Information Into Light Information (AREA)
  • Projection Apparatus (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Processing Or Creating Images (AREA)

Description

本発明は、平面映像信号を任意形状のスクリーンに投射しても、歪みなく映し出すことができるように、入力映像信号に予め歪み補正を施す映像信号処理装置、それを用いて構成される仮想現実感生成システムに関する。
任意形状のスクリーンへ歪み無く映像を投射する技術は、仮想現実感生成装置で既に実用化されている。例えば、その先行技術としては、文献(特許第3387487号)等が挙げられる。これらの仮想現実感生成装置では、入力映像信号が、当該仮想現実感生成装置用に生成したCGの信号であったり、DV信号であった。また、歪み無く映像を投影するための歪み補正の関係式(歪み補正の前後の映像同士の関連の記述、歪み補正テーブル)の生成は、当該システムの内部で行っていた。
しかしながら、上述した技術では、入力可能な映像信号が限定されていたり、歪み補正の関係式の生成を同一システム内で行うため、3次元の計算処理を行うことが必要となり、システムが複雑になったり、高スペックの機器が必要となったりする。
そこで、本発明は、上述した実情に鑑みて提案されたものであり、歪み補正のための処理を外部で行った結果を利用することによって、複雑な3次元処理などを行うことなく簡単な歪み補正処理を行うことができる映像信号処理装置、仮想現実感生成システムを提供することを目的とする。
本発明は、任意形状の投影面に映像光を投影させる映像信号を投影手段に出力する映像信号処理装置であって、平面の投影面に映像光を投影させるための平面映像信号を入力する映像信号入力手段と、平面の投影面と任意形状の投影面のメッシュモデルとの対応マップである歪み補正テーブルであって、映像信号入力手段により入力した平面映像信号に歪み補正処理を施すための歪み補正テーブルを外部から入力する外部入力手段と、外部入力手段により入力した歪み補正テーブルを参照して、映像信号入力手段により入力した平面映像信号の画素ごとに歪み補正処理を施して、投影面に映像光を投影させるための映像信号を作成する歪み補正手段と、歪み補正手段により作成された映像信号を投影手段に出力する出力手段とを備え、前記外部入力手段は、前記映像信号入力手段により入力した平面映像信号に輝度補正処理を施すための輝度補正テーブルを外部から入力し、前記外部入力手段により入力した輝度補正テーブルを参照して、前記映像信号入力手段により入力した平面映像信号の画素ごとに輝度補正処理を施して、前記任意形状の投影面に投影させるための出力映像信号を作成する輝度補正手段を更に備えることによって、上述の課題を解決する。
また、本発明に係る仮想現実感生成システムは、観察者に凹面を向けた任意形状の投影面を有し、当該観察者の有効視野角以上に映像を表示可能な広視野角のスクリーンと、上記の映像信号処理装置と、平面の投影面と前記任意形状の投影面のメッシュモデルとの対応マップである歪み補正テーブルを作成する外部処理装置と、前記映像信号処理装置から出力された出力映像信号に基づいた映像を前記スクリーンに投影する投影手段とを備えたことを特徴とする。
本発明によれば、予め歪み補正テーブルを外部から映像信号処理装置に記憶しておいて、投影手段からスクリーンに映像光を出射させるに際して平面映像信号に歪み補正処理を施す場合に、2次元における座標変換を行うのみで、3次元処理を行うことなく出力映像信号を作成できる。したがって、本発明によれば、観察者に視認させる映像の歪みを抑制する処理を簡単な構成でリアルタイムに実現できる。
以下、本発明の実施の形態について図面を参照して説明する。
本発明を適用した仮想現実感生成システムは、図1に示すように、観察者に凹面を向けた任意形状の投影面を有し、当該観察者の有効視野角以上に映像を表示可能な広視野角のスクリーン1に3次元の映像光を投影するために、投影手段である2台のプロジェクタ2a、2bからなる映像投影機器2によって右眼用映像光と左眼用映像光とからなる出力映像を出射して、観察者に仮想現実感を与えるものである。
この仮想現実感生成システムは、映像信号処理装置である歪み補正ユニット3に、プロジェクタ2a、2bと映像生成機器4とパラメータ調整用パーソナルコンピュータ5とが接続されている。歪み補正ユニット3は、任意形状の投影面のスクリーン1に映像光が投影されたときの映像歪みを補正して出力映像信号を作成する映像信号処理を行う。なお、パラメータ調整用パーソナルコンピュータ5は、歪み補正ユニット3に常時接続されている必要はなく、後述するように歪み補正テーブル、輝度補正テーブル、制御信号等を歪み補正ユニット3に出力するときのみ接続されていれば良いものである。
スクリーン1は、プロジェクタ2a、2bからの右眼用映像光と左眼用映像光とを鏡面反射する。なお、このスクリーン1の投影面形状としては、球体の一部を利用した半球状、円筒状などが挙げられ、複数の平面を接続した形状であっても良い。
プロジェクタ2a、2bは、右眼用映像光と左眼用映像光とを出射するために、歪み補正ユニット3から右眼用映像信号と左眼用映像信号とからなる出力映像信号を受信する。これらプロジェクタ2a、2bは、歪み補正ユニット3の2チャンネルの映像出力端子3e,3fのそれぞれに接続されている。
なお、観察者に立体視をさせる場合、例えばプロジェクタ2aに右眼用偏光フィルター、プロジェクタ2bに左眼用偏光フィルターを装着させ、スクリーン1としては鏡面反射スクリーンを使用し、観察者には偏光フィルターに対応した偏光メガネを装着させることになる。また、プロジェクタとしては、2台である必要はなく、1台のプロジェクタから時分割で右眼用映像光と左眼用映像光とを交互に出射するものであっても良い。
映像生成機器4は、平面映像光を出射するための映像信号を記憶する記憶媒体を備えている。この映像生成機器4としては、パーソナルコンピュータ、ビデオデッキやDVDデッキ等の映像再生装置、ビデオカメラ、立体カメラなどが挙げられる。なお、映像生成機器4は、4チャンネル分の出力端子を有し、歪み補正ユニット3の1チャンネル〜4チャンネルの映像入力端子3a,3b,3c,3dに接続されている。なお、図1乃至図3に示した例では、4チャンネル入力、2チャンネル出力の構成を示しているが、入出力ともに1チャンネルのみであっても良い。
パラメータ調整用パーソナルコンピュータ5は、スクリーン1の曲面形状に合わせて歪み補正ユニット3で平面映像信号に歪み補正を施すための歪み補正テーブル、平面映像信号に輝度補正を施すための輝度補正テーブルを作成して、歪み補正ユニット3に供給する。
この歪み補正テーブルは、平面の投影面と任意形状の投影面のメッシュモデルとの対応マップである。この歪み補正テーブルは、歪み補正後の出力画像の画素に対応する、歪み補正前の入力画像の画素と、その画素からのずれ量を記述することで、入力画像の複数の画素の色情報を適切な割合で混合して出力画像の画素の色情報とすることも可能としたテーブルであっても良い。また、輝度補正テーブルは、歪み補正処理前の平面映像信号又は歪み補正処理後の出力映像信号の各画素を何倍の輝度にするかを記述したテーブルである。
平面の投影面と任意形状の投影面のメッシュモデルとの対応マップのみを記述した歪み補正テーブルは、例えば、入力画像の画素座標(5,7)と出力画像の画素座標(6,8)とを対応させて記述している。また、入力画像の複数の画素の色情報から出力画像の画素の色情報を作成できる歪み補正テーブルは、例えば、x方向に0.55,y方向に0.3のずれ量がある場合に、入力画像の画素座標(5.55,7.3)と出力画像の画素座標(6,8)とを対応させて記述している。
歪み補正ユニット3は、パラメータ調整用パーソナルコンピュータ5と接続された外部入力端子3gを備え、歪み補正テーブル、輝度補正テーブルを入力する。なお、このパラメータ調整用パーソナルコンピュータ5による歪み補正テーブルの作成処理については後述する。
パラメータ調整用パーソナルコンピュータ5は、プロジェクタ2a、2bの動作を制御する制御信号を歪み補正ユニット3に出力する。この制御信号は、プロジェクタ2a、2bの映像光の出力開始及び停止をはじめとして、プロジェクタ2a、2bの映像投影位置や映像サイズ、ズーム倍率、色調整などのあらゆるプロジェクタ2a、2bの制御コマンドを含む。この制御信号は、歪み補正ユニット3によって入力されて、歪み補正ユニット3の外部出力端子3hを介してプロジェクタ2a、2bのそれぞれに供給される。
歪み補正ユニット3は、そのハードウェア構成を図2に示すように、映像入力側の信号方式変換回路11と、映像信号処理回路12と、外部機器制御回路13と、デジタルシグナルプロセッサ(DSP)14と、計算用メモリ15と、テーブル用メモリ16と、映像出力側の信号方式変換回路17と、制御信号用メモリ18とを備える。このようなハードウェア構成を有する歪み補正ユニット3は、その機能的なソフトウェア構成を図3に示すように、入力映像処理部21と、映像切替/分配部22と、映像合成部23と、歪み補正部24と、出力映像処理部25と、同期処理部26と、変換テーブル読み込み/保存部27と、外部機器制御部28と、制御信号読み込み/保存部29とを有する。
信号方式変換回路11は、映像入力端子3a,3b,3c,3dを介して映像生成機器4からの映像を入力する入力映像処理部21として機能する。この信号方式変換回路11は、映像生成機器4からの平面映像信号として、コンポジット信号、セパレート信号、コンポーネント信号、ディジタルビデオ信号等を入力する。なお、このように複数種類の平面映像信号を入力可能な構成である場合、映像入力端子3a,3b,3c,3dは、それぞれの方式に準じた端子形状であるDVI−I端子、RGB端子、S端子、コンポジット端子、D端子などとなっている。このように、あらゆる種類の平面映像信号を入力可能とすることによって、入力する平面映像信号の種類幅を広げている。信号方式変換回路11は、映像入力端子3a,3b,3c,3dを介して平面映像信号を入力したことに応じて、当該平面映像信号の方式を、後段の映像信号処理回路12等で処理可能な方式にデコードして、映像信号処理回路12に出力する。
映像信号処理回路12は、図3における映像切替/分配部22となる映像切替/分配回路、映像合成部23となる映像合成回路、歪み補正部24となる映像補正回路、同期処理部26となる同期処理回路を有している。この映像信号処理回路12は、映像切替/分配部22によって入力映像処理部21からの平面映像信号の切替又は分配を行い、複数の平面映像信号を合成する場合には映像合成部23で映像合成を行って、歪み補正部24に供給する。
歪み補正部24は、変換テーブル読み込み/保存部27に予め記憶された歪み補正テーブルを参照して、画素毎の座標変換処理を行うことによって平面映像信号を出力映像信号に変換する歪み補正処理を行う。また、歪み補正部24は、変換テーブル読み込み/保存部27に記憶された輝度補正テーブルを参照して、画素ごとの輝度値を変換することによって平面映像信号を出力映像信号に変換する輝度補正処理を行う。更に、歪み補正部24は、歪み補正処理の座標変換の際に、歪み補正テーブル内部に記述されたずれ量を参照することで、出力画像の画素に関連した入力画像の複数の画素の色情報をもとに出力画像の画素の色情報を生成することもできる。この歪み補正処理、輝度補正処理を行うに際して、映像信号処理回路12(歪み補正部24)は、計算用メモリ15を作業領域として利用する。
この歪み補正部24による歪み補正処理は、図4(a)に示す平面映像信号100の画素a,b,cを、図4(b)に示す出力映像信号100’の画素a’,b’,c’に変換することによって、歪み補正を行う。この出力映像信号100’は、任意形状の投影面となっているスクリーン1のメッシュモデルに従って、座標変換が施された結果である。
歪み補正部24による輝度補正処理は、変換テーブル読み込み/保存部27に歪み補正処理後の出力映像信号に対応した輝度補正テーブルが記憶されている場合には、図5に示す処理となる。すなわち、先ず図5(a)に示す平面映像信号100に対して輝度補正処理を施し、図5(b)の平面映像信号100’を作成し、その後に、当該平面映像信号100’に歪み補正処理が施される。
また、輝度補正処理は、変換テーブル読み込み/保存部27に歪み補正処理前の平面映像信号に対応した輝度補正テーブルが記憶されている場合には、図6に示す処理となる。すなわち、図6(a)に示す平面映像信号100が歪み補正処理された結果である図6(b)の出力映像信号100’に対して、当該歪み補正後の画素a’,b’,c’の輝度を変換して、図6(c)に示す新たな輝度補正後の画素a’’,b’’,c’’とする。なお、歪み補正部24の歪み補正処理では、歪み補正処理の座標変換の際に、歪み補正テーブル内部に記述されたずれ量を参照することで、出力画像の画素に関連した入力画像の複数の画素の色情報をもとに出力画像の画素の色情報を生成することも可能であるが、この出力画像の画素の色情報を補間して作成する処理を含む歪み補正処理の詳細については、後述する。
この歪み補正部24によって歪み補正処理及び輝度補正処理が施された出力映像信号は、出力映像処理部25(信号方式変換回路17)に渡されて、当該出力映像処理部25からプロジェクタ2a、2bに供給される。このとき、出力映像処理部25(信号方式変換回路17)は、出力映像信号をプロジェクタ2a、2bで映像投影可能な信号方式に変換して出力する。なお、映像出力端子3e,3dは、出力映像信号の方式に準じた端子形状であるDVI−I端子、RGB端子などとなっている。
また、この歪み補正ユニット3において、同期処理部26は、リアルタイムで入力映像処理部21、映像切替/分配部22、映像合成部23、歪み補正部24及び出力映像処理部25を動作させるために同期処理部26によって、各部間の映像信号の処理タイミング、映像信号転送タイミングを制御している。この歪み補正ユニット3は、デジタルシグナルプロセッサ14によって、映像信号処理回路12のソフトウェア的な処理が制御されている。
更に、歪み補正ユニット3は、パラメータ調整用パーソナルコンピュータ5から供給された制御信号を制御信号読み込み/保存部29で受信・保存し、外部機器制御回路13(外部機器制御部28)が、適宜、制御信号を制御信号読み込み/保存部29から選択し、当該制御信号を外部出力端子3hを通じてプロジェクタ2a,2bに転送する。なお、歪み補正ユニット3からプロジェクタ2a,2bに送信する制御信号は、図3に示すように、ユーザに操作される押しボタンやリモコンなどの操作入力部6からの操作入力信号に応じて、外部機器制御部28から出力しても良い。これによって、制御信号読み込み/保存部29に保存されている制御信号をユーザが自由に切り換えながらプロジェクタ2a,2bを制御させることができる。
このように、歪み補正ユニット3によれば、事前に変換テーブル読み込み/保存部27に歪み補正テーブル、輝度補正テーブルを記憶させておき、プロジェクタ2a、2bからスクリーン1に映像光を出射させるに際して平面映像信号に歪み補正処理、輝度補正処理を施す場合に、2次元における座標変換、輝度変換を行うのみで、3次元処理を行うことなく出力映像信号を作成できる。すなわち、歪み補正の関係式の生成を外部のパラメータ調整用パーソナルコンピュータ5で行い、当該パラメータ調整用パーソナルコンピュータ5の処理結果を歪み補正テーブルとして入力できるので、歪み補正ユニット3内部において、3次元の計算処理を必要とせず、2次元の計算処理のみで歪み補正が可能である。したがって、歪み補正ユニット3によれば、観察者に視認させる映像の歪みを抑制する処理を簡単な構成でリアルタイムに実現できる。
また、この歪み補正ユニット3によれば、様々な種類の映像信号に対して上述の処理を施すことができ、入力映像の種類に対する制限を軽減できる。
更に、歪み補正ユニット3は、複数の平面映像信号を同時に入力すると共に、映像信号を複数同時に出力する構成となっている。映像信号処理回路12は、同時に複数の平面映像信号を入力した場合に、当該複数の平面映像信号を選択して、歪み補正をした出力映像信号を信号方式変換回路17に出力することができ、当該複数の平面映像信号を合成して信号方式変換回路17から出力させることができる。この複数の平面映像信号のうち信号方式変換回路17に出力する出力映像信号を選択する条件は、パラメータ調整用パーソナルコンピュータ5によって設定できる。また、複数の平面映像信号を合成する前に、当該複数の平面映像信号の映像サイズを統一するように映像の拡大、縮小処理を施すことが望ましい。
また、複数の平面映像信号を同時に入力した場合、DSP14で構成される同期処理部26によって、複数の平面映像信号の処理タイミングの同期を取ることができる。これによって、2台のプロジェクタ2a,2bを使用して立体視をさせることもできる。
更に、上述した映像信号処理回路12は、複数の平面映像信号を用いて、当該複数の平面映像信号間で視差を与えて合成した視差付き平面映像信号を作成しても良い。例えば、3チャンネル入力の場合、チャンネル3の平面映像信号をチャンネル1の平面映像信号とチャンネル2の平面映像信号に対して視差を付けて合成して、視差付き平面映像信号を作成してもよく、4チャンネル入力の場合、チャンネル3、チャンネル4の平面映像信号をそれぞれチャンネル1、チャンネル2の平面映像信号に視差を付けて合成して、視差付き平面映像信号を作成してもよい。このような視差付き平面映像信号の作成処理の条件は、パラメータ調整用パーソナルコンピュータ5によって設定でき、当該設定によって、スクリーン1に歪みがない立体映像を表示させることができる。
つぎに、上述したように構成された仮想現実感生成システムにおいて、パラメータ調整用パーソナルコンピュータ5による歪み補正テーブルの作成処理について説明する。
パラメータ調整用パーソナルコンピュータ5は、歪み補正テーブルに関するテーブル・作成出力部の機能として、スクリーンモデル創造部、プロジェクタ配置・セットアップ部、ユーザ位置設定部を主として有する。スクリーンモデル創造部は、図7に示すように、スクリーン1のメッシュモデルを創造するものである。このスクリーンモデル創造部は、先ず、基本的な3つのモデルが記憶されている。すなわち、球形のみのモデル31と、円筒のみのモデル32と、混合モデル33とである。混合モデル33は、球形を主とし他の平面又は曲面を混合した球面混合モデル34と、円筒を主として他の平面又は曲面を混合した円筒混合モデル35と、平面を主として他の平面又は曲面を混合した平面混合モデル36とから構成されている。そして、各モデル31、32、34〜36の内容は、何れか1つを設定し、更に、入力パラメータ31a,32a,34a〜36aを入力することで、実際のスクリーン1に適応したメッシュモデル31b、32b、34b〜36bを作成することができる。なお、スクリーンモデル創造部に記憶しておく基本的なモデルとしては、図7に示したモデル31〜33に限らず、当該モデル31〜33と並列して、楕円形のモデル、長方形のモデルなども設定しておき、入力パラメータの入力、メッシュモデルの作成を行うことができる。これによって、楕円形や長方形、当該楕円形や長方形を複数組み合わせたスクリーン1であっても、当該スクリーン1に投影した映像に歪みを発生させない歪み補正テーブルを作成できる。
基本モデルと入力パラメータとしては、以下のとおりである。
図8で示すように球面(真球の一部)の場合、入力パラメータとしては、球の半径Rと、球の中心から切断面までの距離Aとである。
ここで、球は、式1のように表される。
+y+z=R (式1)
ここで、A≦x≦R、−y1≦y≦y1、−z1≦z≦z1である。y1は、式1において、x=A、z=0を代入することによって求められ、z1は、式1において、z=A、y=0を代入することによって求められ、y1=z1となる。従って、上述のようにスクリーン1が球面の場合、パラメータ調整用パーソナルコンピュータ5への入力パラメータとしては、球の半径Rと、球の中心から切断面までの距離Aとを入力すればよい。
また、図9で示すように、原点(x軸線)からy方向にBの位置で球面の一部を切り欠いたスクリーン1である場合、スクリーン1の投影面は、図10(a)のようになり、Bがの位置(図9のように下(−y方向))の場合、A≦x≦R、−B≦y≦y1、−z1≦z≦z1であり、y1は、式1において、x=A、z=0を代入することによって求められ、z1は、式1において、x=A、y=0を代入することによって求められ、x1は、式1において、y=−B、z=0を代入することによって求められる。従って、パラメータ調整用パーソナルコンピュータ5への入力パラメータとしては、球の半径Rと、球の中心から切断面までの距離Aと、原点から切り欠く位置までの距離Bとを入力すればよい。
同様に、上、右、左で切断した場合は、それぞれ図10(b)、図10(c)、図10(d)のようなスクリーン1となり、式1は、以下のようになる。図10(b)で示すように上にBの高さで切断した場合、A≦x≦R、−y1≦y≦B、−z1≦z≦z1である。図10(c)で示すように右にBの距離で切断した場合、A≦x≦R、−y1≦y≦y1、−z1≦z≦Bである。図10(d)で示すように左にBの距離で切断した場合、A≦x≦R、−y1≦y≦y1、−B≦z≦z1である。なお、パラメータ調整用パーソナルコンピュータ5への入力パラメータを増やせば、2箇所以上の切断位置の組み合わせたスクリーン1である場合であっても良い。
一方、図11は、円筒を切断したアーチ面を示し、この場合、パラメータ調整用パーソナルコンピュータ5への入力パラメータとしては、アーチの半径Rと、円の中心から切断面までの距離Aと、アーチの高さHとである。
ここで、円は、式2のように表させる。
+z=R (式2)
ここで、A≦x≦R、0<y≦H、−z1≦z≦z1の制限を加えることで、アーチの表面の式となる。z1は、式2において、x=Aを代入することによって求められる。
さらにまた、図12(a)は、複数平面(長方形の面が複数存在)からなるスクリーン1の投影面の場合を示し、この場合、パラメータ調整用パーソナルコンピュータ5への入力パラメータとしては、図12(b)で示すような上面から見たときの面の配置と、面の高さHとである。図12(b)の場合、
z=−x+1(0≦x<1) (式3−1)
z=0(1≦x<3) (式3−2)
z=x−3(3≦x≦4) (式3−3)
0<y≦H (式3−4)
である。
また、複数同じ大きさの球面を真横に並べたスクリーン1の場合には、パラメータ調整用パーソナルコンピュータ5への入力パラメータとしては、図8または図9、10で示す例と同様に、半径Rと、切断面までの距離Aと、切り欠く位置までの距離Bと、個数とを入力すればよい。すなわち、例えば、上下に2つの球面スクリーンを並べてスクリーン1とした場合、図10(a)と図10(b)とを組み合わせることで実現することができ、同様に左右に2つの球面スクリーンを並べるスクリーン1とした場合、図10(c)と図10(d)とを組み合わせることで実現することができ、パラメータ調整用パーソナルコンピュータ5への入力パラメータとしては、前述のように、半径Rと、切断面までの距離Aと、切り欠く位置までの距離Bと、個数とを入力すればよいことが理解される。
複数の円筒面のスクリーン1の場合には、上面から見た配置図に、面の高さHと、各スクリーン1の半径R及び距離Aと、個数とを入力すればよい。このようにして、スクリーン1の投影面の関数式が決まるので、x、y、zに適当な値を代入することで、或る一定個数以上のスクリーン1上の点をサンプリング点として記録することで、スクリーン1の投影面形状を特定することができる。各スクリーン1の投影面の関数式は、スクリーンモデル創造部において、予め各モデル31,32,34〜36内に格納されて、歪み補正テーブルの設定時に呼び出すことができる。そして、入力パラメータ31a,32a,34a〜36aとして上記のパラメータを入力するだけで、パラメータ調整用パーソナルコンピュータ5により、実際のスクリーン1に適応したメッシュモデル31b、32b、34b〜36bを作成することができる。
なお、上記のようなスクリーン1の投影面上のサンプリング点は、x軸周り、y軸周り、z軸周りに回転可能(傾いたスクリーン1を定義可能)である。
すなわち、x軸周りのα度の回転は、式4で表すことができる。
Figure 0004013989
また、y軸周りのβ度の回転は、式5で表すことができる。
Figure 0004013989
さらにまた、z軸周りのγ度の回転は、式6で表すことができる。
Figure 0004013989
パラメータ調整用パーソナルコンピュータ5は、このようにして得たスクリーン1の投影面上のサンプリング点に、歪み補正ユニット3に入力される平面映像信号の各サンプリング点をマッピングさせる対応マップを歪み補正テーブルとして作成することで、歪み補正ユニット3で歪み補正処理を行わせることができ、平面映像信号の各画素を歪み補正テーブルで対応した画素に割り付けてゆくことで、歪み補正処理が施された出力映像信号を作成させることができる。
この歪み補正テーブルは、使用するスクリーン1の投影面形状が決定し、パラメータ調整用パーソナルコンピュータ5に各パラメータを入力し、一旦作成すれば、パラメータ等の変更がない限り変更する必要なくパラメータ調整用パーソナルコンピュータ5から歪み補正ユニット3に供給されて、歪み補正ユニット3内に記憶される。
以上の図8〜図12を用いた説明は、図13に示すようなスクリーン1の投影面形状に対する歪み補正処理を歪み補正ユニット3によって実行させるものである。すなわち、平面の投影面に対する平面映像信号を、そのまま球形のスクリーン1に投影すると、図13(a)に示すように歪んだ映像となり、このため球形のスクリーン1に投影された映像の歪みが無くなるように、図13(b)に示すように予め歪ませた出力映像信号を作成するものである。しかしながら、プロジェクタ2a、2bのスクリーン1に対する配置位置の違い及び観察者のスクリーン1に対する位置の違いなどから、さらなる歪み補正が必要になる。従って、上述のようにして求めた歪み補正テーブルには、さらにそのような補正を施すことができるようになる。
以下に、投影面が球面のスクリーン1に対するプロジェクタ2a、2b及び観察者の位置の違いに対する歪み補正テーブルの作成処理について説明する。この処理は、プロジェクタ配置・セットアップ部及びユーザ位置設定部からの入力に応答してパラメータ調整用パーソナルコンピュータ5によって行われる。
図14は、上述した球面補正に、プロジェクタ2a、2b及び観察者の位置補正を含めた歪み補正の手法を説明するための図である。先ず補正にあたり、図14に示すように、観察者の視点位置よりビューフラスタム及びプロジェクタ2a、2bの投影位置より映像投影フラスタムを定義する。ビューフラスタムは、視点位置としての頂点をP0、底面をP0,0、Pm,n、P0,n、Pm,0とする四角錐で表現され、投影フラスタムは、プロジェクタバックフォーカス位置としての頂点をQ0、底面をQ0,0、Qm,0、Qm,n、Q0,nとして表現される。ここで、m,nは映像解像度を表すものとし、映像信号が、例えばSXGAの場合は、m=1279,n=1023である。なお、底面は仮想スクリーン面とも呼ばれる。
ここで、簡易表現のため、m=iにおけるy−z二次元断面から見たイメージを図15に示す。先ず、仮想スクリーン面1a内に点Pi,jを想定し、ベクトルP0Pi,jとドーム型のスクリーン1(メッシュモデル31b,32b,34b〜36b)との交点Ri,jを求める。i,jを、0≦i≦m,0≦j≦nで変化してゆくと、Pi,j→Qi,j対応マップを作成することができ、この対応マップが映像の歪みに対する逆補正となる。
すなわち、先ずビューフラスタムに基づいて通常の映像生成を行い、次にこの映像データを取り出し、このイメージにPi,j→Qi,j対応マップを利用したテクスチャマッピング座標を適用して再度映像生成を行わせることで、歪み補正を実現させる。グリッド映像にPi,j→Qi,j対応マップを適用したイメージを図16に示す(すなわち図13(b)とは逆になる)。この歪み補正処理は、スクリーン1の投影面形状を制限しない。従って、上述のようにして求めた球面のメッシュモデル31bだけでなく、他のメッシュモデル32b、34b〜36b等へも適用可能である。
このように、パラメータ調整用パーソナルコンピュータ5によって歪み補正処理を行わせるための歪み補正テーブルを使用させることにより、平面の表示面に対する平面映像信号に対して逐次歪み補正処理をさせて、映像光をプロジェクタ2a、2bから出射させることができ、任意形状のスクリーン1に歪みの無い映像を表示させることができる。
つぎに、上述した、歪み補正テーブル内部に記述されたずれ量を参照することで、歪み補正処理の座標変換の際に、出力画像の画素に関連した入力画像の複数の画素の色情報をもとに出力画像の画素の色情報を生成する処理(色情報補間式歪み補正処理)について説明する。この色情報補間式歪み補正処理は、必ずしも行わなければならない処理ではない。ただし、この色情報補間式歪み補正処理を行うことにより、単に歪み補正処理をした場合と比べて、出力画像のジャギーを軽減することが可能となる。
歪み補正部24は、歪み補正テーブルによって平面映像信号を出力映像信号に変換する歪み補正処理をする際に、歪み補正テーブルによる変換前の平面映像信号の画素の代表点が、変換後の出力映像信号の画素の代表点からずれるずれ量に相当する割合で、変換前の複数の画素の色情報を混合した色情報を、変換後の画素の色情報にして、出力映像信号を作成する。具体的には、歪み補正部24は、変換前のx方向で隣り合う2画素内における変換後の画素の代表点の位置に応じて、平面映像信号の2画素内の色情報を混合して出力映像信号を作成する。又は、歪み補正部24は、変換前のy方向で隣り合う2画素内における変換後の画素の代表点の位置に応じて、平面映像信号の2画素内の色情報を混合して、出力映像信号を作成する。
ここで、スクリーン1の投影面上のサンプリング点に平面映像信号のサンプリング点をマッピングさせる対応マップを歪み補正テーブルとして変換テーブル読み込み/保存部27に記憶しておき、平面映像信号の各画素を歪み補正テーブルで対応した画素に割り付けてゆく際に、平面映像信号の1画素を出力映像信号の1画素に対応させるとすると、画素が映像解像度によって規定される有限の大きさを有していることにより、座標位置の丸めに相当する誤差が生じて、変換後の出力画像で階段状の色むら、いわゆるジャギーが目立つ場合がある。丸めによる誤差は変換前の画素の代表点、例えば画素の中心位置が変換後の画素の代表点から離れた位置に対応することによって生じるので、当該ずれ量に相当する割合で、平面映像信号において隣接する画素の色情報を利用して出力映像信号の色情報を補間する。これによって、出力映像信号に発生するジャギーを低減する。
例えばx方向においてずれがある場合、図17に示すように、x方向において隣接する平面映像信号(以下、入力画像100と呼ぶ。)の画素P1,P2を出力映像信号(以下、出力画像100’と呼ぶ。)の画素P1’に変換し、x方向において隣接する入力画像100の画素P3,P4を出力画像100’の画素P2’に変換するに際して、入力画像100のx方向にて隣接する画素P1,P2の色情報を用いて出力画像100’の画素P1’の色情報を作成し、入力画像100のx方向にて隣接する画素P3,P4の色情報を用いて出力画像100’の画素P2’の色情報を作成する。
x方向のずれ量Δxは、0以上1未満で表現でき、0又は1のときは隣接する何れかの画素の代表点に一致するものとして表現できる。すなわち、入力画像100のx方向で隣接する2画素が出力画像100’において1画素に変換されるに際して、ずれ量Δxが入力画像100と出力画像100’との間で存在する場合、図18(a)に示すように、入力画像100における画素P1(x,y)の色情報と隣接する画素P2(x+1,y)の色情報とを、1−Δx:Δxの割合で平均化した仮想画素P(x+Δx,y)の色情報Cx+Δx,y=Cx,y(1−Δx)+Cx+1,yΔxを出力画像100’の画素の色情報とすることができ、図18(b)に示すように、仮想の入力画素(x+Δx,y)に対応する出力画像100’の変換後画素P’(u,v)の色情報を
x+Δx,y=Cx,y(1−Δx)+Cx+1,yΔx
とすることができる。
このように歪み補正ユニット3は、入力画像100と出力画像100’との間でx方向のずれがあり、x方向の2画素を用いて色情報補間式歪み補正処理を行って出力画像100’を作成するために、ずれ量の記述が含まれる歪み補正テーブルを変換テーブル読み込み/保存部27に記憶しておく。そして、図17に示したように、歪み補正部24は、出力画像100’の画素P1’,P2’を、それぞれ入力画像100のx方向の2画素から生成する。従って、入力画像100の2画素と出力画像100’の1画素は、入力画像100の2画素の色情報がそれぞれどの程度の割合で、出力画像100’の画素の色情報に影響を及ぼしているかに応じて、色情報が算出される。
ここで、出力画像100’の画素(u,v)が対応する入力画像100の画素が、画素(x,y)からΔxだけずれているとすると、出力画像100’の画素(u,v)を、入力画像100の仮想画素(x+Δx,y)と対応しているというずれ量の記述が含まれる歪み補正テーブルを作成しておく。これにより、歪み補正部24は、出力画像100’の画素(u,v)の色情報を、画素(x,y)と画素(x+1,y)との色情報を(1−Δx):Δxの割合で含むように混合して、出力画像100’の画素(u,v)の色情報Cu,vを、
u,v=Cx,y(1−Δx)+Cx+1,yΔx
という式で演算することができる。
また、y方向にずれがある場合、図19に示すように、y方向において隣接する入力画像100の画素P1,P2を出力画像100’の画素P1’に変換し、y方向において隣接する入力画像100の画素P3,P4を出力画像100’の画素P2’に変換するに際して、入力画像100のy方向にて隣接する画素P1,P2の色情報を用いて出力画像100’の画素P1’の色情報を作成し、入力画像100のy方向にて隣接する画素P3,P4の色情報を用いて出力画像100’の画素P2’の色情報を作成する。
y方向のずれ量Δyは、0以上1未満で表現でき、0又は1のときは隣接する何れかの画素の代表点に一致するものとして表現できる。すなわち、入力画像100のy方向で隣接する2画素が出力画像100’において1画素に変換されるに際して、ずれ量Δyが入力画像100と出力画像100’との間で存在する場合、図20(a)に示すように、入力画像100における画素P1(x,y)の色情報と隣接する画素P2(x,y+1)の色情報とを、1−Δy:Δyの割合で平均化した仮想画素P(x,y+Δy)の色情報Cx,y+Δy=Cx,y(1−Δy)+Cx,y+1Δyを出力画像100’の画素の色情報とすることができ、図20(b)に示すように、仮想の入力画素(x,y+Δy)に対応する出力画像100’の変換後画素P’(u,v)の色情報を
x,y+Δy=Cx,y(1−Δy)+Cx,y+1Δy
とすることができる。
このように歪み補正ユニット3は、入力画像100と出力画像100’との間でy方向のずれがあり、y方向の2画素を用いて色情報補間式歪み補正処理を行って出力画像100’を作成するために、ずれ量の記述が含まれる歪み補正テーブルを変換テーブル読み込み/保存部27に記憶する。そして、図19に示したように、歪み補正部24は、出力画像100’の画素P1’,P2’を、それぞれ入力画像100のy方向の2画素から生成する。従って、入力画像100の2画素と出力画像100’の1画素は、入力画像100の2画素の色情報がそれぞれどの程度の割合で、出力画像100’の画素の色情報に影響を及ぼしているかに応じて、出力画像100’の色情報を算出する。
ここで、出力画像100’の画素(u,v)が対応する入力画像100の画素が、画素(x,y)からΔyだけずれているとすると、出力画像100’の画素(u,v)を、入力画像100の仮想画素(x,y+Δy)と対応しているというずれ量の記述が含まれる歪み補正テーブルを作成しておく。これにより、歪み補正部24は、出力画像100’の画素(u,v)の色情報を、画素(x,y)と画素(x,y+1)との色情報を(1−Δy):Δyの割合で含むように混合して、出力画像100’の画素(u,v)の色情報Cu,vを、
u,v=Cx,y(1−Δy)+Cx,y+1Δy
という式で演算することができる。
更に、x方向及びy方向においてずれがある場合、図21に示すように、x方向及びy方向において隣接する入力画像100の画素P1〜P4を出力画像100’の画素P1’に変換し、x方向及びy方向において隣接する入力画像100の画素P5〜P8を出力画像100’の画素P2’に変換するに際して、入力画像100のx方向及びy方向にて隣接する画素P1〜P4の色情報を用いて出力画像100’の画素P1’の色情報を作成し、入力画像100のx方向及びy方向にて隣接する画素P5〜P8の色情報を用いて出力画像100’の画素P2’の色情報を作成する。
x方向にΔx、y方向にΔyのずれがある場合には、入力画像100のx方向及びy方向で隣接する4画素が出力画像100’において1画素に変換されるに際して、図22(a)に示すように、入力画像100における画素P1(x,y)の色情報と画素P2(x+1,y)の色情報と画素P3(x,y+1)の色情報と画素P4(x+1,y+1)の色情報とを用いて、(1−Δx)(1−Δy):Δx(1−Δy):(1−Δx)Δy:ΔxΔyの割合で平均化する。これにより、4画素を混合した色情報Cx+Δx,y+Δy=Cx,y(1−Δx)(1−Δy)+Cx+1,yΔx(1−Δy)+Cx,y+1(1−Δx)Δy+Cx+1,y+1ΔxΔyを得ることができ、図22(b)に示すように、仮想の入力画素(x+Δx,y+Δy)に対応する出力画像100’の変換後画素P’(u,v)の色情報を
x+Δx,y+Δy=Cx,y(1−Δx)(1−Δy)+Cx+1,yΔx(1−Δy)+Cx,y+1(1−Δx)Δy+Cx+1,y+1ΔxΔy
とすることができる。
このように仮想現実感生成システムは、入力画像100と出力画像100’との間でx方向及びy方向のずれがあり、x方向及びy方向の2画素を用いて色情報補間式歪み補正処理を行って出力画像100’を作成するために、ずれ量の記述が含まれる歪み補正テーブルを変換テーブル読み込み/保存部27に記憶する。そして、図21に示したように、歪み補正部24は、出力画像100’の画素P1’,P2’を、それぞれ入力画像100のx方向及びy方向の4画素から生成する。従って、入力画像100の4画素と出力画像100’の1画素は、入力画像100の4画素の色情報がそれぞれどの程度の割合で、出力画像100’の画素の色情報に影響を及ぼしているかに応じて、出力画像100’の色情報を算出する。
ここで、出力画像100’の画素(u,v)が対応する入力画像100の画素が、画素(x,y)からΔx、Δyだけずれているとすると、出力画像100’の画素(u,v)を、入力画像100の仮想画素(x+Δx,y+Δy)と対応しているというずれ量の記述が含まれる歪み補正テーブルを作成しておく。これにより、歪み補正部24は、出力画像100’の画素(u,v)の色情報を、画素(x,y)と画素(x+1,y)と画素(x,y+1)と画素(x+1,y+1)との色情報を(1−Δx)(1−Δy):Δx(1−Δy):(1−Δx)Δy:ΔxΔyの割合で含むように混合して、出力画像100’の画素(u,v)の色情報Cu,vを、
u,v=Cx,y(1−Δx)(1−Δy)+Cx+1,yΔx(1−Δy)+Cx,y+1(1−Δx)Δy+Cx+1,y+1ΔxΔy
という式で演算することができる。
このような色情報補間式歪み補正処理を行うための歪み補正テーブルは、出力画像の画素ごとに、補間対象となる入力画像の画素(2個以上)、ずれ量を記憶しておくことによって構成できる。このずれ量は、歪み補正テーブルによる座標変換によって得られた画素位置のx座標、y座標における小数部分である。通常、出力画像100’のある画素(u,v)が入力画像100(10,5)という整数値の画素に対応していることとなるが、本発明を適用した仮想現実感生成システムにおいては、出力画像100’のある画素(u,v)が入力画像100の2〜4個の画素に跨っていることを考慮して、出力画像100’のある画素が、入力画像100の(10.3,5.55)の画素に対応するといったように、x方向は0.3画素分、y方向は0.55画素分という小数点分のずれがあるとする。なお、x方向のみ又はy方向のみに隣接した2画素を用いて出力画像100’の色情報を作成する場合には、歪み補正テーブルは、x方向又はy方向のずれ量のみを登録しておけばよい。
また、この歪み補正テーブルにおけるずれ量は、上記の(10.3,5.55)といった表記、又は、(0.3,0.55)といった小数分のみを記憶するといった表記の何れであっても良い。更に、歪み補正テーブル中のずれ量は、小数第1位までの表記を10倍して0〜9の整数値で記述しておいても良く、小数第2位までの表記を100倍して0〜100の整数値で記述しておいても良い。この場合、色情報補間式歪み補正処理を行う際に、ずれ量を10又は100で除算して用いる。こうすることで、歪み補正テーブル中に小数値で表される情報をなくし、整数値で表される情報のみを持つことが可能となる。更にまた、色情報補間式歪み補正処理等を行う歪み補正ユニット3の処理がn進数で行われる場合、ずれ量を0〜nのr乗−1の値で記述しておき、色情報補間式歪み補正処理に際して、当該ずれ量をnのr乗で除算して用いても良い。この場合、色情報補間式歪み補正処理を行う際に、0〜nのr乗−1の値で記述されたずれ量(n進数)をr個右にシフトするだけでよい。例えば、歪み補正ユニット3の処理が2進数で行われる場合、ずれ量を0〜15(2−1)の整数値で記述しておき、色情報補間式歪み補正処理を行う際に、ずれ量を16で除算して用いる。16で除算する処理は、ビット列を4つ右にシフトするだけである。なお、ずれ量は8(2の乗),32(2の5乗)等であっても良い。
ずれ量を整数値の0〜9、0〜100、又は歪み補正ユニット3が2進数で処理するために0〜16とした場合には、それぞれ、精度が0.1、0.01又は1/16となる。しかし、整数値でずれ量を表記するために使用するビット数は、小数でずれ量を表記するために使用するビット数よりも格段に少なくすることができ、歪み補正テーブルのデータ量の削減ができる。また、歪み補正ユニット3が処理するn進数に応じたずれ量の表記とすることにより、歪み補正テーブル中に小数値で表される情報をなくして整数値で表される情報のみを持つことが可能となるだけでなく、整数値のずれ量を10又は100で除算するよりも処理量を減らすことが可能となる。
以上のように、本発明を適用した仮想現実感生成システムによれば、歪み補正テーブルによって歪み補正処理を行うと共に、変換後の出力画像100’の各画素の画素情報(色情報)を計算するために、各画素に対応する入力画像100の少なくともx方向、または、y方向の2画素を用いるので、出力画像100’内で隣り合う画素間での色情報の変化を滑らかにすることができ、ジャギーを軽減することができる。
なお、色情報補間式歪み補正処理は、基本的にはx方向及びy方向において隣接する4画素の入力画像100によって行うことが望ましいが、スクリーン1に表示させる映像の絵柄に応じてx方向又はy方向のみにて隣接する2画素で出力画像100’の色情報を求めても、ジャギーの発生を抑制できる。例えば、映像内上下方向に向いた柱が立ち並んでいるような画像をスクリーン1に投影する場合には、y方向に隣接する2画素で出力画像100’の色情報を作成する必要が薄く、逆に、映像内左右方向に向いた棒が多く存在するような画像をスクリーン1に投影する場合には、x方向に隣接する2画素で出力画像100’の色情報を作成する必要が薄く、また、スクリーン1に投影する映像が格子状の絵柄である場合には、x方向又はy方向のみにて隣接する画素の色情報を用いて出力画像100’の色情報を作成しても周期的なジャギーが発生する可能性がある。
また、上述したずれ量の記述が含まれる歪み補正テーブルを用いる色情報補間式歪み補正処理において、入力画像100及び出力画像100’の色情報としてRGB(red-green-blue)やCMY(cyan-magenta-yellow)といった複数の原色信号を用いても良い。この場合、歪み補正部24は、R(赤色成分)信号、G(緑色成分)信号、B(青色成分)信号、あるいはC(シアン)信号、M(マゼンタ)信号、Y(イエロー)信号の各原色ごとに独立に同一の処理方法で、入力画像100における隣接画素の色情報を混合して出力画像100’の色情報を作成する。3原色、特にRGBで色情報を表現した場合は、コンピュータグラフィック画像やプロジェクタ2a、2bへの出力画像100’の色表現方式に適合するという利点があり、ジャギーの少ない出力画像100’を得ることができる。また、各原色ごとに並列化して出力画像100’の色情報を作成することができるために、色情報補間式歪み補正処理の高速化が可能となる。更に、RGBの3原色に加えて、透明度のα値についても、RGBの3原色と同様に並列して色情報補間式歪み補正処理を行って出力画像100’の色情報を作成しても良い。
更に、上述したずれ量の記述が含まれる歪み補正テーブルを用いる色情報補間式歪み補正処理において、入力画像100及び出力画像100’の色情報としてYUV(YCbCr)などの輝度情報(Y)と色差情報(U(輝度信号と青色成分の差),V(輝度信号と赤色成分の差))とからなる信号を用いても良い。この場合、歪み補正部24は、輝度情報と色差情報ごとに独立に同一の処理方法で、入力画像100における隣接画素の色情報を混合して出力画像100’の色情報を作成する。これにより、出力画像100’の色表現方式に適合した色情報によって色情報補間式歪み補正処理を行うことができる。また、輝度情報に敏感で、色差情報には敏感でないという人間の視覚特性を利用して、入力画像100の輝度情報のみを用いて色情報補間式歪み補正処理を行って出力画像100’の輝度情報を求め、色差情報を用いた色情報補間式歪み補正処理は複数の画素ごとに間引いて行うことができ、色情報補間式歪み補正処理の高速化が可能となる。例えば、輝度情報については、x方向及びy方向の4画素から出力画像100’の輝度情報を作成することに対し、色差情報については当該4画素のうちの斜め方向の2画素のみを用いて出力画像100’の色差情報を作成しても良い。
つぎに、上述した色情報補間式歪み補正処理を行うためのずれ量の記述が含まれる歪み補正テーブルを、入力画像100の入力順に記述した場合の仮想現実感生成システムの動作について説明する。
色情報補間式歪み補正処理の処理対象となる入力画像100は、映像入力端子3a,3b,3c,3dに入力されて、入力映像処理部21、映像切替/分配部22及び映像合成部23を経由して歪み補正部24に供給される。一般的に、入力画像100の走査線に沿って、画素ごとに順次データが歪み補正部24に供給される。
入力画像100の入力画素順に従って色情報補間式歪み補正処理を行う場合、歪み補正ユニット3は、入力順に記述された入力画像100の画素座標に対応させて、当該画素の変換後の出力画像100’における画素座標を記述した歪み補正テーブルを変換テーブル読み込み/保存部27に記憶させておく。この歪み補正テーブルは、パラメータ調整用パーソナルコンピュータ5によって作成される。また、この歪み補正テーブルには、色情報補間式歪み補正処理のためのずれ量も記述されている。
歪み補正部24は、図23(a)、(b)の入力画像に示すように、入力画像100の画素がP1,P2,P3・・・といった順序で入力される場合であって、x方向に隣接する入力画像100の2画素の色情報を混合して、出力画像100’の画素の色情報を作成する場合には、先ず、最初の2画素P1,P2を読み込んだ時点で、当該2画素P1,P2を用いて計算可能な出力画像100’の色情報の全てを算出する。この例においては、2画素P1,P2の色情報を混合して、図23(a)に示す出力画像100’の画素P1’,P2’,P3’の色情報を作成する。この場合、歪み補正テーブルには、入力画像100の画素P1と画素P2が、出力画像100’の画素P1’,P2’,P3’に対応し、それぞれの色情報は、それぞれ入力画像100の画素P2,P3をそれぞれのずれ量に合わせた割合で混合した色情報になるように処理する。なお、出力画像100’の画素P1’,P2’,P3’それぞれを作成するに際しての入力画像100の画素P1,P2の混合度合いはそれぞれ異なるものとなっている。
次に、図23(b)に示すように、歪み補正部24に画素P1,P2に続く画素P3が入力されると、歪み補正部24は、当該画素P2,P3の色情報を用いて計算可能な出力画像100’の色情報の全てを算出する。この例においては、歪み補正テーブルを参照して、入力画像100の画素P2、P3が、出力画像100’の画素P4’、P5’に対応し、出力画像100’の画素P4’、P5’の画素の色情報は、それぞれ入力画像100の画素P2、P3をそれぞれのずれ量に合わせた割合で混合した色情報になるように処理する。
このように、入力画像100のx方向の2画素を最初から順に一つずつ最後の2画素になるまでずらしていき、入力画像100のそれぞれの2画素から計算可能な出力画像100’の画素の色情報のすべてを求めていくことで、出力画像100’のすべての画素の色情報を求める。これにより、歪み補正部24は、常に少なくとも入力画像100のx方向における2画素を読み込んでおけばよく、1画素分の読み込みに必要な時間遅れで、色情報補間式歪み補正処理を行うことができ、歪み補正部24におけるデータ待ち時間を最小にでき、歪み補正部24における処理遅れを少なくできる。
また、歪み補正部24は、図24(a)、(b)の入力画像に示すように、入力画像100の画素が第1ライン(走査線)の先頭からP1,P3,・・・と入力され、第2ラインの先頭からP2,P4・・・といった順序で入力される場合であって、y方向に隣接する入力画像100の2画素の色情報を混合して、出力画像100’の画素の色情報を作成する場合には、第1ラインの先頭画素P1及び第2ラインの先頭画素P2を読み込んだ時点で、当該2画素P1,P2を用いて計算可能な出力画像100’の色情報の全てを算出する。なお、歪み補正部24は、画素P2が入力されるまで第1ラインの画素を記憶しておく。この例においては、2画素P1,P2の色情報を混合して、図24(a)に示す出力画像100’の画素P1’,P2’の色情報を作成する。この場合、歪み補正テーブルには、入力画像100の画素P1と画素P2が、出力画像100’の画素P1’、P2’に対応し、それぞれの色情報は入力画像100の画素P1、P2をそれぞれのずれ量に合わせた割合で混合した色情報になることが記述されている。なお、出力画像100’の画素P1’,P2’それぞれを作成するに際しての入力画像100の画素P1,P2の混合度合いはそれぞれ異なるものとなっている。
次に、図24(b)に示すように、歪み補正部24に画素P2に続く画素P4が入力されると、歪み補正部24は、当該画素P3,P4の色情報を用いて計算可能な出力画像100’の色情報の全てを算出する。この例においては、歪み補正テーブルを参照して、入力画像100の画素P3、P4が、出力画像100’の画素P3’に対応し、出力画像100’の画素P3’の画素の色情報は、入力画像100の画素P3、P4をずれ量に合わせた割合で混合した色情報になるように処理する。
このように、入力画像100のy方向に隣接する2画素を歪み補正部24で入力した時点で色情報補間式歪み補正処理を行うことで、出力画像100’のすべての画素の色情報を求める。なお、歪み補正部24は、常に少なくとも計算用メモリ15にx方向の1ライン+1画素を読み込んでおけばよい。これにより、歪み補正部24は、x方向1ライン分の遅れで色情報補間式歪み補正処理を行うことによってデータ待ち時間を少なくでき、歪み補正部24における処理遅れを少なくできる。
更に、歪み補正部24は、図25(a)、(b)の入力画像に示すように、入力画像100の画素が第1ラインの先頭からP1,P2,・・・と入力され、第2ラインの先頭からP3,P4・・・といった順序で入力される場合であって、x方向及びy方向に隣接する入力画像100の4画素の色情報を混合して、出力画像100’の画素の色情報を作成する場合には、第1ラインの先頭2画素P1,P2を読み込み且つ第2ラインの先頭2画素P3,P4を読み込んだ時点で、当該4画素P1〜P4を用いて計算可能な出力画像100’の色情報の全てを算出する。この例においては、4画素P1〜P4の色情報を混合して、図25(a)に示す出力画像100’の画素P1’の色情報を作成する。この場合、歪み補正テーブルには、入力画像100の画素P1〜P4が、出力画像100’の画素P1’に対応し、その色情報は入力画像100の画素P1〜P4をずれ量に合わせた割合で混合した色情報になることが記述されている。
次に、図25(b)に示すように、歪み補正部24に画素P4に続く画素P6が入力されると、歪み補正部24は、第1ラインの入力時に記憶しておいた画素P2,P5及び画素P4,P6の色情報を用いて計算可能な出力画像100’の色情報の全てを算出する。この例においては、歪み補正テーブルを参照して、入力画像100の画素P2、P5、P4、P6が、出力画像100’の画素P2’、P3’、P4’に対応し、出力画像100’の画素P2’、P3’、P4’の画素の色情報は、それぞれ入力画像100の画素P2、P5、P4、P6をそれぞれのずれ量に合わせた割合で混合した色情報になるように処理する。
このように、入力画像100のx方向及びy方向に隣接する4画素を歪み補正部24で入力した時点で色情報補間式歪み補正処理を行うことで、出力画像100’のすべての画素の色情報を求める。なお、歪み補正部24は、常に少なくとも計算用メモリ15にx方向の1ライン+2画素を読み込んでおけばよい。これにより、歪み補正部24は、x方向及びy方向の双方にずれがある場合であっても、x方向1ライン分+1画素分の遅れで色情報補間式歪み補正処理を行うことによってデータ待ち時間を少なくでき、歪み補正部24における処理遅れを少なくできる。
つぎに、上述した色情報補間式歪み補正処理を行うための歪み補正テーブルを、出力画像100’の出力順に記述した場合の仮想現実感生成システムの動作について説明する。
色情報補間式歪み補正処理の処理後の出力画像100’は、歪み補正部24から出力映像処理部25に出力される。一般的に、入力画像100の走査線に沿って、画素ごとに順次データが歪み補正部24から出力映像処理部25に出力される。一般的な出力画像100’が走査線に沿って画素ごとに順次データを読み飛ばし無く出力することを考慮すると、出力側の画素の順に歪み補正テーブルを表現した場合、歪み補正処理における出力側の画素座標が自明であるため、歪み補正テーブルの先頭から入力側の画素座標のみを記述した対応マップとできる。これにより、歪み補正テーブルの大きさが小さくできて、変換テーブル読み込み/保存部27の記憶領域が節約できる。また、この歪み補正テーブルには、色情報補間式歪み補正処理のためのずれ量も記述されている。ずれ量の記述を含む歪み補正テーブルは、パラメータ調整用パーソナルコンピュータ5によって作成される。
このような歪み補正テーブルを変換テーブル読み込み/保存部27に記憶した場合であって、x方向に隣接する入力画像100の2画素の色情報を混合して、出力画像100’の画素の色情報を作成する場合には、歪み補正部24は、図26(a)に示すように、先ず、入力画像100の先頭から歪み補正テーブルの先頭に記述された入力画像100のx方向に隣接した2画素P1,P2を読み込んだ時点で、当該x方向に隣接した2画素P1,P2を用いて出力画像100’の先頭画素P1’の色情報を作成して、当該画素P1’のデータを出力映像処理部25に出力する。次に、図26(b)に示すように、出力画像100’の画素P1’に続く画素P2’を作成するために、歪み補正部24は、歪み補正テーブルを参照して入力画像100のx方向に隣接した2画素P3,P4を読み込むと、当該x方向に隣接した2画素P3,P4の色情報を用いて出力画像100’の画素P2’の色情報を作成して、当該画素P2’のデータを出力映像処理部25に出力する。
また、y方向に隣接する入力画像100の2画素の色情報を混合して、出力画像100’の画素の色情報を作成する場合には、歪み補正部24は、図27(a)に示すように、先ず、入力画像100の先頭から歪み補正テーブルの先頭に記述された入力画像100のy方向に隣接した2画素P1,P2を読み込んだ時点で、当該y方向に隣接した2画素P1,P2を用いて出力画像100’の先頭画素P1’の色情報を作成して、当該画素P1’のデータを出力映像処理部25に出力する。次に、図27(b)に示すように、出力画像100’の画素P1’に続く画素P2’を作成するために、歪み補正部24は、歪み補正テーブルを参照して入力画像100のy方向に隣接した2画素P3,P4を読み込むと、当該y方向に隣接した2画素P3,P4の色情報を用いて出力画像100’の画素P2’の色情報を作成して、当該画素P2’のデータを出力映像処理部25に出力する。
更に、x方向及びy方向に隣接する入力画像100の4画素の色情報を混合して、出力画像100’の画素の色情報を作成する場合には、歪み補正部24は、図28(a)に示すように、先ず、入力画像100の先頭から歪み補正テーブルの先頭に記述された入力画像100のx方向及びy方向に隣接した4画素P1〜P4を読み込んだ時点で、当該x方向及びy方向に隣接した4画素P1〜P4を用いて出力画像100’の先頭画素P1’の色情報を作成して、当該画素P1’のデータを出力映像処理部25に出力する。次に、図28(b)に示すように、出力画像100’の画素P1’に続く画素P2’を作成するために、歪み補正部24は、歪み補正テーブルを参照して入力画像100のx方向及びy方向に隣接した4画素P5〜P8を読み込むと、当該x方向及びy方向に隣接した4画素P5〜P8の色情報を用いて出力画像100’の画素P2’の色情報を作成して、当該画素P2’のデータを出力映像処理部25に出力する。
なお、上述の実施の形態は本発明の一例である。このため、本発明は、上述の実施形態に限定されることはなく、この実施の形態以外であっても、本発明に係る技術的思想を逸脱しない範囲であれば、設計等に応じて種々の変更が可能であることは勿論である。
例えば、上述した実施の形態では、2軸直交座標における方形画素を用いて、x方向又はy方向に隣接する2画素を用いた色補間、又は、x方向及びy方向に隣接する4画素を用いた色補間を行うことについて説明したが、三角形画素からなる3軸座標系の映像信号の場合には、三角形画素の隣接する6個の6角形形状の画素群を用いて色補間をすることもできる。
本発明を適用した仮想現実感生成システムの構成を示すブロック図である。 本発明を適用した歪み補正ユニットのハードウェア的な構成を示すブロック図である。 本発明を適用した歪み補正ユニットのソフトウェア的な構成を示すブロック図である。 歪み補正テーブルを利用した歪み補正処理を説明するための図であり、(a)は歪み補正処理前の平面映像、(b)は歪み補正処理後の出力映像である。 輝度補正テーブルを利用した輝度補正処理を説明するための図であり、(a)は補正処理前の平面映像、(b)は輝度補正処理後の出力映像、(c)は輝度補正及び歪み補正後の出力映像である。 輝度補正テーブルを利用した輝度補正処理を説明するための図であり、(a)は補正処理前の平面映像、(b)は歪み補正処理後の出力映像、(c)は輝度補正及び歪み補正後の出力映像である。 パラメータ調整用パーソナルコンピュータのスクリーンモデル創造部のブロック図である。 球面モデルの入力パラメータを示す図である。 球面の一部を切り欠いたモデルの入力パラメータを示す図である。 球面スクリーンの一部を切り欠いた正面形状を示す図である。 円筒モデルの入力パラメータを示す図である。 複数平面の入力パラメータを示す図である。 スクリーンの球面形状に対する歪み補正処理を説明するための図である。 歪み補正処理の内容を示す図である。 半球状のスクリーンの中央部で切断した図4の二次元断面図である。 グリッド映像の歪み補正のイメージ図である。 出力画像の各画素の色情報を、入力画像の対応するx方向に隣接する2画素から生成する場合のイメージ図である。 入力画像のx方向において隣接する2画素の色情報を混合して、出力画像の色情報を計算する説明図である。 出力画像の各画素の色情報を、入力画像の対応するy方向に隣接する2画素から生成する場合のイメージ図である。 入力画像のy方向において隣接する2画素の色情報を混合して、出力画像の色情報を計算する説明図である。 出力画像の各画素の色情報を、入力画像の対応するx方向及びy方向に隣接する4画素から生成する場合のイメージ図である。 入力画像のx方向及びy方向において隣接する4画素の色情報を混合して、出力画像の色情報を計算する説明図である。 出力画像の各画素の色情報を入力画像の対応するx方向に隣接する2画素から生成する場合において入力画像の入力順に出力画像に変換する処理の説明図であり、(a)は入力画像の先頭の画素P1,P2を入力した時点での処理の説明図であり、(b)は画素P2に続く画素P3を入力した時点での処理の説明図である。 出力画像の各画素の色情報を入力画像の対応するy方向に隣接する2画素から生成する場合において入力画像の入力順に出力画像に変換する処理の説明図であり、(a)は入力画像の画素P1,P2を入力した時点での処理の説明図であり、(b)は画素P2に続く画素P4を入力した時点での処理の説明図である。 出力画像の各画素の色情報を入力画像の対応するx方向及びy方向に隣接する4画素から生成する場合において入力画像の入力順に出力画像に変換する処理の説明図であり、(a)は入力画像の先頭の画素P1〜P4を入力した時点での処理の説明図であり、(b)は画素P4に続く画素P6を入力した時点での処理の説明図である。 出力画像の各画素の色情報を入力画像の対応するx方向に隣接する2画素から生成する場合において出力画像の出力順に変換する処理の説明図であり、(a)は出力画像の先頭画素P1’を生成する説明図であり、(b)は先頭画素P1’に続く画素P2’を生成する説明図である。 出力画像の各画素の色情報を入力画像の対応するy方向に隣接する2画素から生成する場合において出力画像の出力順に変換する処理の説明図であり、(a)は出力画像の先頭画素P1’を生成する説明図であり、(b)は先頭画素P1’に続く画素P2’を生成する説明図である。 出力画像の各画素の色情報を入力画像の対応するx方向及びy方向に隣接する4画素から生成する場合において出力画像の出力順に変換する処理の説明図であり、(a)は出力画像の先頭画素P1’を生成する説明図であり、(b)は先頭画素P1’に続く画素P2’を生成する説明図である。
符号の説明
1 スクリーン
2 映像投影機器
2a,2b プロジェクタ
3 歪み補正ユニット
3a,3b,3c,3d 映像入力端子
3e,3d 映像出力端子
3g 外部入力端子
3h 外部出力端子
4 映像生成機器
5 パラメータ調整用パーソナルコンピュータ
6 操作入力部
11 信号方式変換回路
12 映像信号処理回路
13 外部機器制御回路
14 デジタルシグナルプロセッサ
15 計算用メモリ
16 テーブル用メモリ
17 信号方式変換回路
18 制御信号用メモリ
21 入力映像処理部
22 映像切替/分配部
23 映像合成部
24 歪み補正部
25 出力映像処理部
26 同期処理部
27 変換テーブル読み込み/保存部
28 外部機器制御部
29 制御信号読み込み/保存部
31 モデル
31,32,34〜36 モデル
31a,32a,34a〜36a 入力パラメータ
31b,32b,34b〜36b メッシュモデル
33 混合モデル
34 球面混合モデル
35 円筒混合モデル
36 平面混合モデル

Claims (12)

  1. 任意形状の投影面に映像光を投影させる出力映像信号を投影手段に出力する映像信号処理装置であって、
    平面の投影面に映像光を投影させるための平面映像信号を入力する映像信号入力手段と、
    平面の投影面と前記任意形状の投影面のメッシュモデルとの対応マップである歪み補正テーブルであって、前記映像信号入力手段により入力した平面映像信号に歪み補正処理を施すための歪み補正テーブルを外部から入力する外部入力手段と、
    前記外部入力手段により入力した歪み補正テーブルを参照して、前記映像信号入力手段により入力した平面映像信号の画素ごとに歪み補正処理を施して、前記投影面に映像光を投影させるための出力映像信号を作成する歪み補正手段と、
    前記歪み補正手段により作成された出力映像信号を前記投影手段に出力する出力手段とを備え、
    前記外部入力手段は、前記映像信号入力手段により入力した平面映像信号に輝度補正処理を施すための輝度補正テーブルを外部から入力し、
    前記外部入力手段により入力した輝度補正テーブルを参照して、前記映像信号入力手段により入力した平面映像信号の画素ごとに輝度補正処理を施して、前記任意形状の投影面に投影させるための出力映像信号を作成する輝度補正手段を更に備えることを特徴とする映像信号処理装置。
  2. 前記外部入力手段は、外部から前記投影手段の動作を制御する制御信号を入力し、
    前記出力手段は、前記出力映像信号と共に、前記外部入力手段により入力した制御信号を前記投影手段に出力すること
    を特徴とする請求項1に記載の映像信号処理装置。
  3. 前記映像信号入力手段は、複数の平面映像信号を同時に入力する構成であり、
    前記出力手段は、前記出力映像信号を複数同時に出力する構成であり、
    前記映像信号入力手段によって同時に複数の平面映像信号を入力した場合に、当該複数の平面映像信号を選択して出力映像信号を前記出力手段から出力させる処理、又は、当該複数の平面映像信号を合成した出力映像信号を前記出力手段から出力させる処理を行う信号処理手段を更に備えること
    を特徴とする請求項1又は請求項に記載の映像信号処理装置。
  4. 前記信号処理手段による複数の平面映像信号の処理タイミングの同期を取る同期処理手段を更に備えることを特徴とする請求項に記載の映像信号処理装置。
  5. 前記映像信号入力手段によって入力された複数の平面映像信号を用いて、当該複数の平面映像信号間で視差を与えて合成した視差付き映像信号を作成する立体映像用視差付き平面映像信号作成手段を更に備え、
    前記歪み補正手段は、前記立体映像用視差付き平面映像信号作成手段で作成された視差付き平面映像信号を歪み補正処理して出力映像信号を作成することを特徴とする請求項1乃至請求項の何れか一項に記載の映像信号処理装置。
  6. 前記歪み補正手段は、前記歪み補正テーブルによる変換前の画素の代表点が変換後の画素の代表点からずれるずれ量に相当する割合で、変換前の複数の画素の色情報を混合した色情報を、前記変換後の画素の色情報にして、前記出力映像信号を作成することを特徴とする請求項1に記載の映像信号処理装置。
  7. 前記歪み補正手段は、少なくとも前記変換前のX軸方向で隣り合う2画素内における前記変換後の画素の代表点の位置に応じて、少なくとも当該2画素内の色情報を混合する、又は、少なくとも前記変換前のY軸方向で隣り合う2画素内における前記変換後の画素の代表点の位置に応じて、少なくとも当該2画素内の色情報を混合して、出力映像信号を作成することを特徴とする請求項に記載の映像信号処理装置。
  8. 前記歪み補正手段は、前記色情報として複数の原色信号を用い、隣接する画素の原色信号ごとに混合して出力映像信号を作成することを特徴とする請求項又は請求項に記載の映像信号処理装置。
  9. 前記歪み補正手段は、前記色情報として輝度情報と色差信号とからなる信号を用い、隣接する画素の信号ごとに混合して出力映像信号を作成することを特徴とする請求項又は請求項に記載の映像信号処理装置。
  10. 前記歪み補正テーブルには、前記平面映像信号の入力画素順に平面の投影面と前記任意形状の投影面のメッシュモデルとの対応が記述され、
    前記歪み補正手段は、前記歪み補正テーブルに記述された入力画素を入力した時点で、当該入力した画素を用いた歪み補正処理を行うことを特徴とする請求項1乃至請求項の何れか一項に記載の映像信号処理装置。
  11. 前記歪み補正テーブルには、前記出力映像信号の出力画素順に平面の投影面と前記任意形状の投影面のメッシュモデルとの対応が記述され、
    前記歪み補正手段は、前記歪み補正テーブルに記述された入力画素を入力した時点で、当該入力した画素を用いた歪み補正処理を行い、前記歪み補正テーブルに記述された出力画素の順で出力映像信号を作成することを特徴とする請求項1乃至請求項の何れか一項に記載の映像信号処理装置。
  12. 観察者に凹面を向けた任意形状の投影面を有し、当該観察者の有効視野角以上に映像を表示可能な広視野角のスクリーンと、
    請求項1乃至請求項11の何れか一項に記載の映像信号処理装置と、
    平面の投影面と前記任意形状の投影面のメッシュモデルとの対応マップである歪み補正テーブルを作成する外部処理装置と、
    前記映像信号処理装置から出力された出力映像信号に基づいた映像を前記スクリーンに投影する投影手段と
    を備えたことを特徴とする仮想現実感生成システム。
JP2006257932A 2006-02-20 2006-09-22 映像信号処理装置、仮想現実感生成システム Expired - Fee Related JP4013989B2 (ja)

Priority Applications (8)

Application Number Priority Date Filing Date Title
JP2006257932A JP4013989B2 (ja) 2006-02-20 2006-09-22 映像信号処理装置、仮想現実感生成システム
TW096106370A TWI324280B (en) 2006-02-20 2007-02-16 Image signal processing apparatus and virtual reality creating system
CA2641484A CA2641484C (en) 2006-02-20 2007-02-20 Image signal processing apparatus and virtual reality creating system
KR1020087020295A KR101029634B1 (ko) 2006-02-20 2007-02-20 영상 신호 처리 장치 및 가상 현실감 생성 시스템
CN2007800060532A CN101385047B (zh) 2006-02-20 2007-02-20 图像信号处理装置和虚拟现实创建系统
EP07713484A EP1989678A2 (en) 2006-02-20 2007-02-20 Image signal processing apparatus and virtual reality creating system
PCT/JP2007/000102 WO2007097118A2 (en) 2006-02-20 2007-02-20 Image signal processing apparatus and virtual reality creating system
US12/278,304 US8147073B2 (en) 2006-02-20 2007-02-20 Image signal processing apparatus and virtual reality creating system

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2006043093 2006-02-20
JP2006257932A JP4013989B2 (ja) 2006-02-20 2006-09-22 映像信号処理装置、仮想現実感生成システム

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2007192483A Division JP4631878B2 (ja) 2006-02-20 2007-07-24 映像信号処理装置、仮想現実感生成システム

Publications (2)

Publication Number Publication Date
JP2007251914A JP2007251914A (ja) 2007-09-27
JP4013989B2 true JP4013989B2 (ja) 2007-11-28

Family

ID=38437786

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006257932A Expired - Fee Related JP4013989B2 (ja) 2006-02-20 2006-09-22 映像信号処理装置、仮想現実感生成システム

Country Status (7)

Country Link
US (1) US8147073B2 (ja)
EP (1) EP1989678A2 (ja)
JP (1) JP4013989B2 (ja)
KR (1) KR101029634B1 (ja)
CA (1) CA2641484C (ja)
TW (1) TWI324280B (ja)
WO (1) WO2007097118A2 (ja)

Families Citing this family (53)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8884883B2 (en) * 2008-01-25 2014-11-11 Microsoft Corporation Projection of graphical objects on interactive irregular displays
US20090231551A1 (en) * 2008-03-11 2009-09-17 Robe Show Lighting S.R.O. Digital imaging system
JP5251201B2 (ja) * 2008-03-27 2013-07-31 セイコーエプソン株式会社 画像処理装置、画像表示装置及び画像処理方法
US9837013B2 (en) 2008-07-09 2017-12-05 Sharp Laboratories Of America, Inc. Methods and systems for display correction
US9459784B2 (en) 2008-07-25 2016-10-04 Microsoft Technology Licensing, Llc Touch interaction with a curved display
US8699760B2 (en) * 2008-09-16 2014-04-15 Canon Kabushiki Kaisha Image processing apparatus, image processing method, and program
JP5249733B2 (ja) * 2008-12-03 2013-07-31 パナソニック株式会社 映像信号処理装置
CN103607585A (zh) * 2009-01-21 2014-02-26 株式会社尼康 图像处理装置、图像处理方法
US8446367B2 (en) * 2009-04-17 2013-05-21 Microsoft Corporation Camera-based multi-touch mouse
US8938093B2 (en) 2009-04-21 2015-01-20 International Business Machines Corporation Addition of immersive interaction capabilities to otherwise unmodified 3D graphics applications
WO2010129363A2 (en) * 2009-04-28 2010-11-11 The Regents Of The University Of California Markerless geometric registration of multiple projectors on extruded surfaces using an uncalibrated camera
KR100943292B1 (ko) * 2009-08-07 2010-02-23 (주)옴니레이저 영상 투사 시스템 및 그를 이용한 영상 투사 방법
JP2011114381A (ja) * 2009-11-24 2011-06-09 Panasonic Electric Works Co Ltd 映像信号処理装置、仮想現実感生成システム
JP5440230B2 (ja) * 2010-02-10 2014-03-12 セイコーエプソン株式会社 画像処理装置、画像表示システム、及び画像処理方法
CN101832171B (zh) * 2010-03-31 2012-07-04 北汽福田汽车股份有限公司 反应剂显示报警的测试方法
KR101031062B1 (ko) * 2010-08-31 2011-04-25 (주)린소프트 복합 현실 구현을 위한 영상 투사 방법
JP2012128476A (ja) * 2010-12-13 2012-07-05 Nikon Corp 画像変換装置
KR101181199B1 (ko) * 2011-01-03 2012-09-18 한국과학기술원 배경 지형 장면의 입체 이미지 생성 방법, 시스템 및 이를 위한 기록매체
WO2012162566A1 (en) * 2011-05-25 2012-11-29 Third Dimension Ip Llc Systems and methods for alignment, calibration and rendering for an angular slice true-3d display
WO2013024540A1 (ja) * 2011-08-18 2013-02-21 Necディスプレイソリューションズ株式会社 画像処理装置および画像処理方法
TWI490628B (zh) * 2011-09-23 2015-07-01 Nat Inst Chung Shan Science & Technology Virtual reality video control method
FR2983330B1 (fr) * 2011-11-24 2014-06-20 Thales Sa Procede et dispositif de representation d'environnements synthetiques
JP5779512B2 (ja) * 2012-01-24 2015-09-16 株式会社ソシオネクスト 画像の光学歪み補正装置,画像の光学歪み補正方法,および,画像の光学歪み補正装置を有する画像生成装置
JP6032919B2 (ja) * 2012-03-30 2016-11-30 キヤノン株式会社 画像処理装置
JP5689095B2 (ja) * 2012-07-10 2015-03-25 新日鉄住金ソリューションズ株式会社 画像処理装置、画像処理方法及びプログラム
US8764532B1 (en) 2012-11-07 2014-07-01 Bertec Corporation System and method for fall and/or concussion prediction
US8704855B1 (en) * 2013-01-19 2014-04-22 Bertec Corporation Force measurement system having a displaceable force measurement assembly
US10413230B1 (en) 2013-01-19 2019-09-17 Bertec Corporation Force measurement system
US8847989B1 (en) * 2013-01-19 2014-09-30 Bertec Corporation Force and/or motion measurement system and a method for training a subject using the same
US10646153B1 (en) 2013-01-19 2020-05-12 Bertec Corporation Force measurement system
US11311209B1 (en) 2013-01-19 2022-04-26 Bertec Corporation Force measurement system and a motion base used therein
US10010286B1 (en) 2013-01-19 2018-07-03 Bertec Corporation Force measurement system
US9526443B1 (en) * 2013-01-19 2016-12-27 Bertec Corporation Force and/or motion measurement system and a method of testing a subject
US11052288B1 (en) 2013-01-19 2021-07-06 Bertec Corporation Force measurement system
US10231662B1 (en) 2013-01-19 2019-03-19 Bertec Corporation Force measurement system
US9770203B1 (en) 2013-01-19 2017-09-26 Bertec Corporation Force measurement system and a method of testing a subject
US11540744B1 (en) 2013-01-19 2023-01-03 Bertec Corporation Force measurement system
US10856796B1 (en) 2013-01-19 2020-12-08 Bertec Corporation Force measurement system
US11857331B1 (en) 2013-01-19 2024-01-02 Bertec Corporation Force measurement system
US9081436B1 (en) 2013-01-19 2015-07-14 Bertec Corporation Force and/or motion measurement system and a method of testing a subject using the same
WO2014115400A1 (ja) * 2013-01-22 2014-07-31 ソニー株式会社 投影型画像表示装置、画像処理装置及び画像処理方法、並びにコンピューター・プログラム
KR20150116302A (ko) * 2014-04-07 2015-10-15 엘지전자 주식회사 영상표시장치, 및 그 동작방법
TWI602436B (zh) * 2014-05-06 2017-10-11 虛擬會議系統
US9769509B2 (en) * 2014-09-16 2017-09-19 Ricoh Company, Ltd. Video playback system and image display device
USD755067S1 (en) 2015-10-20 2016-05-03 Bertec Corporation Visual display device for a force and/or motion measurement system
US10311622B2 (en) 2016-03-29 2019-06-04 Htc Corporation Virtual reality device and method for virtual reality
CN118115357A (zh) * 2016-08-22 2024-05-31 奇跃公司 虚拟、增强和混合现实系统和方法
KR101772904B1 (ko) * 2017-01-19 2017-09-12 한국과학기술원 몰입형 극장 시스템의 콘텐츠 시점 왜곡에 대한 실시간 보정방법 및 보정장치
CN107220925B (zh) * 2017-05-05 2018-10-30 珠海全志科技股份有限公司 一种实时虚拟现实加速方法及装置
JP6915483B2 (ja) * 2017-09-27 2021-08-04 富士フイルムビジネスイノベーション株式会社 画像処理装置、画像処理システムおよびプログラム
KR20190126990A (ko) 2018-05-03 2019-11-13 디트레인 주식회사 시청자 모션 반응형 vr 시스템
BR112022001434A2 (pt) * 2019-07-28 2022-06-07 Google Llc Métodos, sistemas e mídia para renderizar conteúdo de vídeo imersivo com malhas otimizadas
CN112308787B (zh) * 2019-08-02 2024-05-07 北京地平线机器人技术研发有限公司 畸变矫正方法及装置、电子设备

Family Cites Families (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
IL79822A (en) * 1985-12-19 1990-03-19 Gen Electric Method of comprehensive distortion correction for a computer image generation system
JPH01198890A (ja) 1988-02-03 1989-08-10 Sharp Corp 映像信号処理装置
JPH11355733A (ja) 1998-06-04 1999-12-24 Sony Corp データ送受信装置及びデータ送受信方法
AU2154000A (en) 1998-12-07 2000-06-26 Universal City Studios, Inc. Image correction method to compensate for point of view image distortion
JP4069550B2 (ja) * 1999-02-23 2008-04-02 松下電工株式会社 仮想環境体験表示装置
NO20000656A (no) * 2000-02-09 2001-07-09 Knut Krogstad Digital korreksjonsmodul for videoprojektor
JP3387487B2 (ja) 2000-11-08 2003-03-17 松下電工株式会社 没入感生成装置
JP2002354400A (ja) 2001-05-28 2002-12-06 Toyota Central Res & Dev Lab Inc データ格納/読み出し方法及びその方法を用いた画像データ記憶装置並びにその記憶装置を用いた画像補正装置
FI117146B (fi) * 2001-06-18 2006-06-30 Karri Tapani Palovuori Suljintoimintoon perustuva laitteisto stereo- tai monikanavakuvan projisoimiseksi
JP2003085586A (ja) 2001-06-27 2003-03-20 Namco Ltd 画像表示装置、画像表示方法、情報記憶媒体および画像表示プログラム
JP4042356B2 (ja) * 2001-06-29 2008-02-06 松下電工株式会社 画像表示システムおよび画像表示システム用画像補正サービス方法
JP3706830B2 (ja) 2002-01-21 2005-10-19 パナソニック コミュニケーションズ株式会社 画像信号処理装置
JP2004147064A (ja) 2002-10-24 2004-05-20 Digital Zuu:Kk 対話型映像歪み補正方法及び同方法を用いる映像投影装置
US6811264B2 (en) 2003-03-21 2004-11-02 Mitsubishi Electric Research Laboratories, Inc. Geometrically aware projector
US6834965B2 (en) * 2003-03-21 2004-12-28 Mitsubishi Electric Research Laboratories, Inc. Self-configurable ad-hoc projector cluster
JP3716258B2 (ja) 2003-05-29 2005-11-16 Necビューテクノロジー株式会社 入力信号の幾何学補正システム
US20050062755A1 (en) * 2003-09-18 2005-03-24 Phil Van Dyke YUV display buffer
JP4033198B2 (ja) 2004-02-27 2008-01-16 カシオ計算機株式会社 画像処理装置、画像投影装置、画像処理方法及びプログラム
JP4013922B2 (ja) 2004-06-14 2007-11-28 松下電工株式会社 仮想現実感生成装置および方法

Also Published As

Publication number Publication date
TW200745734A (en) 2007-12-16
KR101029634B1 (ko) 2011-04-15
TWI324280B (en) 2010-05-01
CA2641484A1 (en) 2007-08-30
CA2641484C (en) 2014-08-26
KR20080087038A (ko) 2008-09-29
US20090059096A1 (en) 2009-03-05
EP1989678A2 (en) 2008-11-12
WO2007097118A2 (en) 2007-08-30
WO2007097118A3 (en) 2008-08-07
JP2007251914A (ja) 2007-09-27
US8147073B2 (en) 2012-04-03

Similar Documents

Publication Publication Date Title
JP4013989B2 (ja) 映像信号処理装置、仮想現実感生成システム
JP4631918B2 (ja) 映像信号処理装置
CN111161660B (zh) 数据处理系统
CN107924556B (zh) 图像生成装置和图像显示控制装置
EP0476993A2 (en) Video effects system
US10893259B2 (en) Apparatus and method for generating a tiled three-dimensional image representation of a scene
US20060152579A1 (en) Stereoscopic imaging system
US8698830B2 (en) Image processing apparatus and method for texture-mapping an image onto a computer graphics image
JP2009075646A (ja) 映像表示システム及び該システムのパラメータ生成方法
JP5624383B2 (ja) 映像信号処理装置、仮想現実感生成システム
JP5249733B2 (ja) 映像信号処理装置
CN114513646B (zh) 一种三维虚拟场景中全景视频的生成方法及设备
US10699372B2 (en) Image generation apparatus and image display control apparatus
JP4631878B2 (ja) 映像信号処理装置、仮想現実感生成システム
JP2005039849A (ja) 映像表示システム
JP2004282712A (ja) 調整装置
JP2011114381A (ja) 映像信号処理装置、仮想現実感生成システム
JP2006350852A (ja) 画像生成システム
JP2006074805A (ja) マルチプロジェクション映像表示装置
WO2019163449A1 (ja) 画像処理装置、画像処理方法およびプログラム
JP2002165232A (ja) 仮想空間生成提示装置

Legal Events

Date Code Title Description
A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20070625

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070710

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070725

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20070821

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20070903

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100921

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4013989

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100921

Year of fee payment: 3

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110921

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110921

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120921

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130921

Year of fee payment: 6

LAPS Cancellation because of no payment of annual fees