JP2004328788A - 記録済みの背景映像に別途撮影された人物映像を合成して表示出力する方法およびその方法を採用したカラオケ装置 - Google Patents
記録済みの背景映像に別途撮影された人物映像を合成して表示出力する方法およびその方法を採用したカラオケ装置 Download PDFInfo
- Publication number
- JP2004328788A JP2004328788A JP2004182582A JP2004182582A JP2004328788A JP 2004328788 A JP2004328788 A JP 2004328788A JP 2004182582 A JP2004182582 A JP 2004182582A JP 2004182582 A JP2004182582 A JP 2004182582A JP 2004328788 A JP2004328788 A JP 2004328788A
- Authority
- JP
- Japan
- Prior art keywords
- video
- person
- image
- data
- background
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Image Processing (AREA)
- Studio Circuits (AREA)
- Reverberation, Karaoke And Other Acoustics (AREA)
Abstract
【課題】背景映像に人物映像を合成するさい、背景映像の内容に応じて自動的に人物映像の位置や大きさを適切にする。
【解決手段】背景映像となる映像データがデータベースに蓄積されるとともに、前記映像データには背景映像の内容に合わせた適切な人物合成レイアウトを指定する人物合成処方データが対応づけられており、前記データベースから指定の映像データを取り出して背景映像を再生するとともに、これとは別に撮影された映像信号から人物映像部分を切り出して前記背景映像に合成表示する映像合成手段を備え、前記映像合成手段は、背景映像として出力する映像データに対応づけられている前記人物合成処方データに基づいて、切り出した前記人物映像部分を前記背景映像の画面のどの位置にどのくらいの大きさで合成するかなどの合成条件を可変設定する人物映像合成方法とした。
【選択図】 図1
【解決手段】背景映像となる映像データがデータベースに蓄積されるとともに、前記映像データには背景映像の内容に合わせた適切な人物合成レイアウトを指定する人物合成処方データが対応づけられており、前記データベースから指定の映像データを取り出して背景映像を再生するとともに、これとは別に撮影された映像信号から人物映像部分を切り出して前記背景映像に合成表示する映像合成手段を備え、前記映像合成手段は、背景映像として出力する映像データに対応づけられている前記人物合成処方データに基づいて、切り出した前記人物映像部分を前記背景映像の画面のどの位置にどのくらいの大きさで合成するかなどの合成条件を可変設定する人物映像合成方法とした。
【選択図】 図1
Description
本発明は記録済みの既存の背景映像に別途撮影された人物映像を合成して表示出力する方法に関し、特に、ビデオカメラで撮影した映像から人物部分のみを抽出して背景映像に合成する方法に関する。また、その方法を採用したカラオケ装置にも関する。
だれでも、テレビ放送の天気予報の番組で天気図を背景に天気予報士が解説をする映像を目にしたことがあるだろう。この背景映像にビデオカメラで撮影中の人物を合成して表示出力する人物映像合成技術はなにもテレビ放送に限るものではない。人物などの前景を撮影するビデオカメラと録画(記録)済みの背景映像を再生するビデオ機器とクロマキー合成機能がある編集装置があれば同様な合成映像をディスプレイに表示することができる。そのため、この映像合成技術は、娯楽や趣味を目的として、様々な用途に広く利用されつつある。例えば、最近のカラオケ装置にこの技術の応用例を見ることができる。
通常、カラオケ装置はカラオケ伴奏音楽の音響出力に同期してカラオケ楽曲用のムード映像をディスプレイに表示出力する。上述の映像合成技術を適用したカラオケ装置は、このムード映像を再生するための装置(ビデオCDプレーヤなど)を使用して適宜な背景映像を再生させ、この背景映像にビデオカメラで撮影している歌唱中の人物映像をクロマキー合成している。それによって、歌唱者が世界各地の観光名所あるいはSFやおとぎ話の世界を舞台にして歌っているかのような映像とすることができる。このようにカラオケ装置に人物映像合成機能を付加することで、カラオケの娯楽性を向上させ、カラオケ装置の利用機会を増加させようとしている。
従来の人物映像合成方法は、背景映像が含む内容(風景や構造物など)が変わっても合成される人物は終止おなじ寸法で表示される。確かに、テレビニュースなどにおける背景映像は報道資料的な映像なので、その映像内容がどのようなものであってもアナウンサーなどの人物映像の表示寸法は変わらない方が都合がよい。
一方、実際に人物が存在しない場所にあたかもその人物がいるかのように合成する場合、背景の内容に合わせて人物の合成状態(画面上における人物の表示位置や表示寸法)を変えた方が現実感がある。静止した遠方の風景を背景にして人物を合成するのであれば、違和感無くその人がその場所に居合わせているかのように見えるかもしれない。しかし、背景の映像がズーム・イン/アウトする場合などでは背景の拡大率に応じて人物の表示寸法も変えなくては動かないはずの背景が人物に近寄ってきたり遠ざかっていったりするような違和感が生じる。
さらに、林立するビルの街角に人物を立たせるといった場合、ビルの大きさなどに合わせて適切な表示寸法で人物を合成しなければ、人物はまるで「大怪獣」のような大きさに見えてしまう。背後に海が見える砂浜といった内容の背景映像に人物を合成する場合、海上に人物が「浮遊」していてはこれも映像表現的に違和感が大きい。これを回避するためには再生中の背景映像と撮影中の人物映像との合成映像を見ながら合成状態を可変制御すればよいが、そのためには高度な編集技術と複雑な編集操作が必要となる。もちろん、手動操作なので適切な合成状態になるまで時間も掛かる。
カラオケ装置など、補助的・付加的に人物映像合成機能を利用する場合においては、本来の操作(楽曲の指定入力や音量調節など)以外の操作は全く不要なものである。複雑な操作をしてまでその機能を利用しようという気にはなれない。そのため、機能の付加による利用機会の増加が見込めず、設備費を増大させるだけとなる。
そこで本発明は、背景映像の内容に応じて適切な位置や寸法などの合成条件を自動的に決定し、その決定に従って人物映像を違和感無く背景に合成するための人物映像合成方法と、その方法を採用したカラオケ装置を提供することを目的としている。
第1の発明はつぎの事項(1)〜(4)によって特定される。
(1)記録済みの背景映像に別途撮影された人物映像を合成して表示出力する方法である。
(2)前記背景映像となる映像データがデータベースに蓄積されている。このデータベースにおいては、背景映像の内容に合わせた適切な人物合成レイアウトを直接的または間接的に指定する人物合成処方データが映像データに対応づけられている。
(3)前記データベースから指定された映像データを取り出して背景映像を再生するとともに、これとは別に撮影された映像信号から人物映像部分を切り出して前記背景映像に合成し、その合成映像をディスプレイに向けて出力する映像合成手段を備えている。
(4)前記映像合成手段は、背景映像として出力する映像データに対応づけられている前記人物合成処方データに基づいて、切り出した前記人物映像部分を前記背景映像の画面のどの位置にどのくらいの大きさで合成するかなどの合成条件を可変設定する。
(1)記録済みの背景映像に別途撮影された人物映像を合成して表示出力する方法である。
(2)前記背景映像となる映像データがデータベースに蓄積されている。このデータベースにおいては、背景映像の内容に合わせた適切な人物合成レイアウトを直接的または間接的に指定する人物合成処方データが映像データに対応づけられている。
(3)前記データベースから指定された映像データを取り出して背景映像を再生するとともに、これとは別に撮影された映像信号から人物映像部分を切り出して前記背景映像に合成し、その合成映像をディスプレイに向けて出力する映像合成手段を備えている。
(4)前記映像合成手段は、背景映像として出力する映像データに対応づけられている前記人物合成処方データに基づいて、切り出した前記人物映像部分を前記背景映像の画面のどの位置にどのくらいの大きさで合成するかなどの合成条件を可変設定する。
そして、前記映像データがデジタル映像データであり、前記人物合成処方データがこのデジタル映像データに多重化されている人物映像合成方法を第2の発明とし、前記人物合成処方データが前記データベース内における映像データの記録位置に対応付けされたデータとして映像データとは個別に記録され、前記映像合成手段が再生中にある映像データの記録位置を逐次取得するとともに、その記録位置に対応する人物合成処方データに基づいて合成レイアウトを適宜に可変制御して合成表示する人物映像合成方法を第3の発明としている。
第4の発明はつぎの事項(41)〜(44)によって特定される。
(41)請求項1〜3に記載の人物映像合成方法を採用したカラオケ装置であって、前記データベースと、前記映像合成手段と、前記映像データベースから指定の映像データを取り出して前記背景映像を再生するための映像再生手段と、ビデオカメラとを備える。
(42)カラオケ伴奏音楽の起源となる音楽生成データがカラオケ楽曲毎に区分されてカラオケデータベースに格納されている。カラオケ演奏処理手段が指定楽曲の音楽生成データを処理して前記伴奏音楽を音響出力する。
(43)カラオケ楽曲毎に背景映像指定シーケンスが規定されている。前記映像再生手段は、指定楽曲の背景映像指定シーケンスに従って前記映像データベースから指定された映像データを順番に再生することで背景映像をカラオケ伴奏音楽の音響出力に同期してディスプレイに表示出力していく。
(44)前記映像合成手段は、前記人物合成処方データに従って、指定楽曲の演奏中に前記人物映像の合成条件を適宜に可変制御して合成表示する。
(41)請求項1〜3に記載の人物映像合成方法を採用したカラオケ装置であって、前記データベースと、前記映像合成手段と、前記映像データベースから指定の映像データを取り出して前記背景映像を再生するための映像再生手段と、ビデオカメラとを備える。
(42)カラオケ伴奏音楽の起源となる音楽生成データがカラオケ楽曲毎に区分されてカラオケデータベースに格納されている。カラオケ演奏処理手段が指定楽曲の音楽生成データを処理して前記伴奏音楽を音響出力する。
(43)カラオケ楽曲毎に背景映像指定シーケンスが規定されている。前記映像再生手段は、指定楽曲の背景映像指定シーケンスに従って前記映像データベースから指定された映像データを順番に再生することで背景映像をカラオケ伴奏音楽の音響出力に同期してディスプレイに表示出力していく。
(44)前記映像合成手段は、前記人物合成処方データに従って、指定楽曲の演奏中に前記人物映像の合成条件を適宜に可変制御して合成表示する。
また、第4の発明において、カラオケ楽曲毎に歌詞画像の起源となる歌詞描出データが前記カラオケデータベースに格納され、歌詞描出手段が指定楽曲の前記歌詞描出データを処理して伴奏音楽に同期して該当の歌詞画像を前記ディスプレイに表示出力するさい、前記映像合成手段が該当の背景映像に前記人物映像と当該歌詞画像とを合成表示するカラ
オケ装置を第5の発明とした。
オケ装置を第5の発明とした。
本発明の人物映像合成方法によれば、背景映像に人物映像を合成するさいのレイアウトに関する情報を表現した人物合成処方データを再生する映像データに対応づけ、この処方データに基づいて合成表示処理を行うこととしている。そのため、複雑な操作や高度な編集技術を必要としないで自動的に人物が背景映像中に適切な位置や寸法などで合成される。しかも、背景映像の映像変化に追従させることもできる。したがって、その人が背景映像の撮影現場に居合わせたような合成映像に現実感を与える。
人物合成処方データをデジタル映像データに多重したり映像データの再生時系列に合わせて別データとしたりするなど、背景映像の記録形態(デジタル、アナログなど)に応じてそのデータ形態を適宜に選択できる。そのため、背景映像のデータ形態に依存することなく高度な人物映像合成機能を実現できる。
この人物映像合成方法をカラオケ装置に適用すれば、カラオケ楽曲の演奏時にディスプレイに表示されるムード映像を背景映像として歌唱者をその映像に違和感無く合成することができる。加えて歌詞画像も挿入すれば、歌唱者や同伴者が歌詞と同時に合成映像を見ることができる。
===カラオケ装置の基本的な構成と動作===
図1は、本発明の実施例におけるカラオケ装置の構成を示している。中央制御部11は、内部にCPU、RAM、ROMを含むマイコンであり、データバス100や制御バス110を介して周辺各構成部とデータ通信を行い、このカラオケ装置1を制御/統括している。
図1は、本発明の実施例におけるカラオケ装置の構成を示している。中央制御部11は、内部にCPU、RAM、ROMを含むマイコンであり、データバス100や制御バス110を介して周辺各構成部とデータ通信を行い、このカラオケ装置1を制御/統括している。
<カラオケ装置で処理されるデータおよびその格納部>
ハードディスク装置12は、カラオケ伴奏音楽の起源となる音楽生成データやその楽曲演奏に同期してディスプレイに表示すべき歌詞画像の起源となる歌詞描出データ、後述の背景映像指定シーケンスなど、楽曲IDをキーとして区分されているデータセットをカラオケデータとして格納している。
ハードディスク装置12は、カラオケ伴奏音楽の起源となる音楽生成データやその楽曲演奏に同期してディスプレイに表示すべき歌詞画像の起源となる歌詞描出データ、後述の背景映像指定シーケンスなど、楽曲IDをキーとして区分されているデータセットをカラオケデータとして格納している。
DVD−ROMチェンジャ23はDVDROM(以下、DVD)を多数格納するとともに、内蔵する駆動装置が任意のDVDを駆動して適宜なデータ記録位置にランダムアクセスし、そこに記録されているデータを読み出す。DVDに記録されているデータは長時間分のMPEG2−VIDEO規格のデジタル映像データを主とした多重化データである。
音楽生成データは、MIDI規格によって記述された音源制御データであり、シンセサイザ13が演奏時系列上のどの時点にどのような伴奏音を生成すべきかを記述している。歌詞描出データは、書式付きの歌詞文字と、歌詞文字列のディスプレイへの表示/消去タイミングと、表示中の歌詞文字列に対する色変えパターンとを記述している。背景映像指定シーケンスは歌詞画像の背景映像としてディスプレイ22に表示される短時間分の映像をどのようにつなぎ合わせるかを指定したデータであり、DVDチェンジャ23に格納されているどのDVDのどのデータ記録位置からどのくらいの時間再生するかを指定したデータを時系列順に記述している。
<カラオケ演奏処理>
中央制御部11は、リモコン送信器17や操作パネル18などの操作入力部にて入力されたリクエスト楽曲のIDを操作制御部19を介して受け取ると、その入力順とIDとを対応づけてRAMに格納し、楽曲の演奏予約登録を行う。そして、予約順番に従って該当する楽曲のカラオケデータを取り出す。MIDIデータをシンセサイザ13に転送し、カラオケ伴奏音楽を生成させる。シンセサイザ13が出力するカラオケ伴奏音楽の音声信号はマイクロホン15からの歌唱音声信号と混合されてスピーカ16に音響出力される。
中央制御部11は、リモコン送信器17や操作パネル18などの操作入力部にて入力されたリクエスト楽曲のIDを操作制御部19を介して受け取ると、その入力順とIDとを対応づけてRAMに格納し、楽曲の演奏予約登録を行う。そして、予約順番に従って該当する楽曲のカラオケデータを取り出す。MIDIデータをシンセサイザ13に転送し、カラオケ伴奏音楽を生成させる。シンセサイザ13が出力するカラオケ伴奏音楽の音声信号はマイクロホン15からの歌唱音声信号と混合されてスピーカ16に音響出力される。
一方、カラオケ伴奏音楽の生成処理に同期して歌詞描出データを処理し、色変わりしていく歌詞画像をビットマップ画像データとして順次生成してビデオRAM20に展開する。また、背景映像指定シーケンスに従ってDVDチェンジャ23を制御し、DVDチェンジャ23から所定の映像データを含む多重化データを出力させる。デコーダ40は読み出された多重化データを多重分離してデジタル映像データを抽出するとともに、その映像データを復号処理して背景映像に相当するNTSC信号に再生する。映像制御部21はその背景映像にビデオRAM20内の歌詞画像をスーパーインポーズする処理を行ってディスプレイ22に映像出力する。
本実施例のカラオケ装置1は上述の基本機能に加え、カラオケ楽曲に合わせて歌う歌唱者をビデオカメラ25で撮影して、その人物部分のみを背景映像に合成する人物映像合成機能を備えている。
===人物映像合成機能の概略===
本発明における人物映像合成方法は、基本的にはクロマキー合成などの映像合成技術をベースにしている。本実施例では、クロマキー合成技術を適用している。すなわち、歌唱者が背景の壁と舞台とが所定の色(本実施例では青色)に塗り染められたステージ上の所定の位置に立って歌唱する。この歌唱者をビデオカメラ25で撮影する。ビデオカメラ25の撮影映像中から青色の部分(ブルーバック部分)を切り取って歌唱者のみの映像(人物映像)を抽出する。そして、映像制御部30がこの人物映像を背景映像に合成する処理を行ってディスプレイ22に表示する。
本発明における人物映像合成方法は、基本的にはクロマキー合成などの映像合成技術をベースにしている。本実施例では、クロマキー合成技術を適用している。すなわち、歌唱者が背景の壁と舞台とが所定の色(本実施例では青色)に塗り染められたステージ上の所定の位置に立って歌唱する。この歌唱者をビデオカメラ25で撮影する。ビデオカメラ25の撮影映像中から青色の部分(ブルーバック部分)を切り取って歌唱者のみの映像(人物映像)を抽出する。そして、映像制御部30がこの人物映像を背景映像に合成する処理を行ってディスプレイ22に表示する。
しかし、本発明が従来の映像合成方法と決定的に異なっている点は、背景映像が含む内容、例えば、風景や構造物、その動的変化(ズームミングやパンニングなど)、背景映像中における各構成要素(オブジェクト:人や物)の動きなどによって人物映像の表示寸法や表示位置などの合成レイアウトを適切に自動制御して合成できるところにある。この高度な人物映像合成機能を達成するために、本実施例では、合成レイアウトに関する情報を表現した制御データ(人物合成処方データ)がDVDにデジタル映像データとともに多重記録されている。
また、映像制御部30は上述した歌詞画像のスーパーインポーズ処理に加え、映像信号のA/DおよびD/A変換、クロマキー合成や映像の拡大/縮小あるいは移動など、入力した映像信号に対して各種映像効果処理を実行するための機能を備え、この映像制御部30が人物合成処方データに基づいて入力した背景映像および撮影映像の映像信号に映像効果処理を施すことで上述の人物映像合成機能を達成している。
===人物合成処方データ===
前記人物合成処方データは、DVDにMPEG2−systems規格による多重データとしてデジタル映像データと同じ時系列上に記録されている。そして、この合成処方データの処理と同時に再生される背景映像の内容に合わせて、合成する人物映像をディスプレイ22画面上でどのくらいの大きさで何処に表示するかを表示寸法と表示座標として指定している。
前記人物合成処方データは、DVDにMPEG2−systems規格による多重データとしてデジタル映像データと同じ時系列上に記録されている。そして、この合成処方データの処理と同時に再生される背景映像の内容に合わせて、合成する人物映像をディスプレイ22画面上でどのくらいの大きさで何処に表示するかを表示寸法と表示座標として指定している。
表示寸法はディスプレイ22の画面の高さを1としたときの相対なサイズであり、この値が1の場合、撮影映像から抽出された人物映像の縮尺を変更することなく合成することとしている。1/2であれば縦横を1/2に縮小した人物映像にする。2であれば、縦横を2倍に拡大する。表示座標はディスプレイ22画面の水平および垂直方向の位置をx,y座標で示したものであり、左下隅の座標を(0,0)とし、右上隅の座標を(640,480)として指定している。
===ユーザインタフェースと予備設定===
利用者がカラオケ楽曲を指定するさい、人物映像合成機能を使用する旨の適宜な入力操作(例えば、同じ楽曲に人物映像合成機能を使用するための楽曲番号を別に用意してその番号で演奏指定するなど)を行うと、中央制御部11はこの楽曲の演奏時に人物映像合成機能を起動することとして演奏予約する。
利用者がカラオケ楽曲を指定するさい、人物映像合成機能を使用する旨の適宜な入力操作(例えば、同じ楽曲に人物映像合成機能を使用するための楽曲番号を別に用意してその番号で演奏指定するなど)を行うと、中央制御部11はこの楽曲の演奏時に人物映像合成機能を起動することとして演奏予約する。
この楽曲の演奏に先立って歌唱者がブルーバックとなる特設ステージに立つ。このステージ上には歌唱者が立つべき位置が印されている。ステージに向けられたビデオカメラ25のズームの拡大率や視角方向は、この印の上に立つ通常の体格を有する人(本実施例では、日本人の成人平均身長の人)が所定の構図で納められるようにあらかじめ固定されている。本実施例では、水平方向の視野の中央にこの人の足下から頭頂部まで上下にいっぱいに映るように固定されている。なお、ビデオカメラ25はビデオカメラ用リモコンIF26からの赤外線信号によって撮影の開始/停止の制御がなされている。もちろん制御信号の伝送経路を有線としてもよい。
中央制御部11は楽曲の演奏を開始するさい、映像制御部30に対して人物映像合成機能の起動を指示する。また、デコーダ40に対して多重分離した人物合成処方データの送出を指示する。さらに、ビデオカメラ用リモコンIF26に対してビデオカメラ25に撮影を開始させるための赤外線信号を送出させる。
===人物映像合成機能の動作===
楽曲の演奏処理が開始されると、それに同期してDVDチェンジャ23から背景映像のデジタル映像データを含む多重化データ出力される。デコーダ40はこの多重化データをデジタル映像データと上述の人物映像処方データとに分離する。映像データはデコーダ40内で復号されてアナログの映像信号として映像制御部30に入力される。人物映像処方データはデータバス100を介して映像制御部30にデジタルデータとして入力される。
楽曲の演奏処理が開始されると、それに同期してDVDチェンジャ23から背景映像のデジタル映像データを含む多重化データ出力される。デコーダ40はこの多重化データをデジタル映像データと上述の人物映像処方データとに分離する。映像データはデコーダ40内で復号されてアナログの映像信号として映像制御部30に入力される。人物映像処方データはデータバス100を介して映像制御部30にデジタルデータとして入力される。
一方、ビデオカメラの撮影映像信号(アナログ信号)も映像制御部30に入力される。映像制御部30は、この撮影映像をデジタルデータに変換し、上述の人物映像合成機能のためのプロセスを実行する。まず、撮影映像からブルーバックの部分を取り除いた人物映像部分を抽出する。そして、この人物映像データを人物合成処方データに基づいて表示寸法と表示位置とを適宜に変換した映像データに加工する。
表示寸法の制御については、人物映像データをディスプレイ22画面上の各画素に対応させて展開したとき、人物映像を構成する画素を適宜に間引いたり補間したりすることで縮小したり拡大したりする。このようにして縮尺変換された人物映像データを生成する。
さらに、縮尺変換された人物映像の表示位置を表示座標に従って移動させる。人物映像は歌唱者が立つステージの印位置が基点となっている。この基点を指定された表示座標(x,y)に移動させる。なお、拡大時では人物の上部が画面からはみ出してしまう可能性があるため、y方向については補間によって生成された新規な画素分だけ下方向にシフトさせている。例えば、表示寸法の指定が1.5であれば480×0.5=240画素分下方に基点をシフトさせる。このようにして人物の顔が必ず画面内に入るようにしている。縮尺や座標が変換された人物映像データはアナログの映像信号に変換され、従来のクロマキー合成によって背景映像中に挿入される。さらに、ビデオRAM20に展開されている歌詞画像も合成してディスプレイ22に映像出力する。
図2に上述の人物映像合成機能の概略をディスプレイ画面における表示状態として示した。ここでは、建物の前に車が駐車しているという内容の背景映像に、歌唱者を合成する場合を例に挙げている。従来のクロマキー合成あるいは表示寸法の指定が1で表示位置の指定が(320,0)のとき、すなわち縮尺変換や移動処理をしないときの人物映像合成では、ブルーバックとなるステージ上の歌唱者を撮影した映像から人物映像(A1)を抽出する。これを背景映像(B)にクロマキー合成して合成映像(C1)が表示される。
一方、本発明による人物映像合成方法によれば、映像(A1)をデジタル処理して縮尺や位置が変更された人物映像(A2)を生成する。この映像(A2)に背景映像(B)をクロマキー合成して映像表現的に違和感のない合成映像(C2)を得る。
===補足、その他の実施例など===
上記実施例では歌唱者の体格によらず、人物映像を人物合成処方データの表示寸法に従って縮尺変換をしている。しかし、歌唱者が長身である場合、ビデオカメラの視野からはみ出してしまうこともあり得る。その場合、歌唱者がちょうど撮影映像の視野に収まるように事前にビデオカメラのズーム倍率を変更しておいてもよい。あるいは、ビデオカメラの撮影映像から抽出された人物映像を監視しながらズーム倍率を可変制御し、画面の上端部にブルーバックの色が出現した時点でズーム倍率を固定することとしてもよい。逆に、歌唱者が子供などでビデオカメラの視野内に小さく撮影される場合、同様にしてズーム倍率を変更することで人物映像をディスプレイの画面の高さに合わせるようにすることもできる。なお、歌唱者が視野に収まる場合は、抽出した人物映像から人物分の高さが取得できるので、ズーム倍率を変化させずに画像処理によって人物の高さを画面の高さに合わせてもよい。
上記実施例では歌唱者の体格によらず、人物映像を人物合成処方データの表示寸法に従って縮尺変換をしている。しかし、歌唱者が長身である場合、ビデオカメラの視野からはみ出してしまうこともあり得る。その場合、歌唱者がちょうど撮影映像の視野に収まるように事前にビデオカメラのズーム倍率を変更しておいてもよい。あるいは、ビデオカメラの撮影映像から抽出された人物映像を監視しながらズーム倍率を可変制御し、画面の上端部にブルーバックの色が出現した時点でズーム倍率を固定することとしてもよい。逆に、歌唱者が子供などでビデオカメラの視野内に小さく撮影される場合、同様にしてズーム倍率を変更することで人物映像をディスプレイの画面の高さに合わせるようにすることもできる。なお、歌唱者が視野に収まる場合は、抽出した人物映像から人物分の高さが取得できるので、ズーム倍率を変化させずに画像処理によって人物の高さを画面の高さに合わせてもよい。
さらに、背景映像に合成する人物の大きさを画面の高さを基準にした相対値で指定するのではなく、人物の顔など所定の部位の大きさ(高さや幅など)を指定することとしてもよい。この場合、切り出した人物映像から所定の部位を画像認識によって特定し、その部位が指定の大きさとなるように人物全体を相似変形させて合成させればよい。
人物映像を合成するさい、上述の寸法や位置のほかに、人物を回転させたり鏡像にしたり、あるいはコピーして複数の人物を背景映像に合成するなど、映像制御部30が実行できる映像効果処理であれば人物合成処方データとして指定し、それに従ったレイアウトで合成することができる。また、人物映像の上半分あるいは下半分など、人物映像の一部を合成表示することもできる。
さらに、背景映像をCG(コンピュータグラフィクス)技術によって生成することは容易であり、その場合、人物映像の表示位置としてCGによる仮想空間での3次元的な位置によって指定することもできる。それによって、例えばコンサートホールの舞台上に歌唱者を配置し、その歌唱者が舞台手前の大観衆の合間から見え隠れするなど、背景映像中に合成される人物と背景映像中のオブジェクトとの奥行き方向の位置関係も表現できる。
上記実施例では、ステージ上の所定の位置を人物映像の基点として処理しているが、歌唱者がステージ上を移動しても指定の位置に追尾できるようにしてもよい。抽出した人物映像から人物の水平方向の幅が取得できる。その幅の中心とステージ面(人物の足下)との交点を基点とすればよい。あるいは、水平方向に自在に回転するとともにその回転角度を制御できるような雲台にビデオカメラを載置し、歌唱者が常に画面の中心に映るように追尾することとしてもよい。
また、人物合成処方データは上述の実施例のように数値として直接規定しなくてもよい。合成時のレイアウトに関する情報であればよく、例えば、背景映像の内容をキーワード(海、街など)によって表現し、各キーワードに対応した寸法や位置がテーブルなどで用
意されていることとしてもよい。
意されていることとしてもよい。
なお、上述の人物映像合成方法はカラオケ装置だけでなく、パーソナルコンピュータやビデオ編集機器などで複数のソースからの映像を合成する場合にも適用できることは明らかである。もちろん、背景映像および人物映像は動画である必要はなく、静止画像であってもよい。背景映像に対応する人物合成処方データが用意され、このデータに基づいて合成処理が行えれば同様の映像合成機能が実現できる。
背景映像がアナログ式光ディスクなどの媒体に収録されている場合などでは人物合成処方データを映像データの多重データとして用意できない。このように人物合成処方データを映像データに並列的に記録できない場合、フレーム番号やトラック番号あるいは媒体における映像の記録開始点からの再生経過時間(リニアタイム)など、再生時に出力される映像記録位置(フレームデータ)と人物合成処方データとを対応づけて別データとして用意しておけばよい。もちろん、ディスクチェンジャなど映像データが複数の媒体に渡って収録されている場合は媒体のIDもフレームデータとともに対応づけておく。この方法をカラオケ装置に適用すれば、背景映像指定シーケンスによって指定されているフレームデータに基づいて所定の合成レイアウトが特定できる。もちろん、人物合成処方データを演奏時系列に対応づけたデータとして楽曲毎に区分して用意しておいてもよい。
1 カラオケ装置
11 中央制御部
12 ハードディスク装置
23 DVDチェンジャ
30 映像制御部
40 デコーダ
11 中央制御部
12 ハードディスク装置
23 DVDチェンジャ
30 映像制御部
40 デコーダ
Claims (5)
- つぎの事項(1)〜(4)によって特定される発明。
(1)記録済みの背景映像に別途撮影された人物映像を合成して表示出力する方法である。
(2)前記背景映像となる映像データがデータベースに蓄積されている。このデータベースにおいては、背景映像の内容に合わせた適切な人物合成レイアウトを直接的または間接的に指定する人物合成処方データが映像データに対応づけられている。
(3)前記データベースから指定された映像データを取り出して背景映像を再生するとともに、これとは別に撮影された映像信号から人物映像部分を切り出して前記背景映像に合成し、その合成映像をディスプレイに向けて出力する映像合成手段を備えている。
(4)前記映像合成手段は、背景映像として出力する映像データに対応づけられている前記人物合成処方データに基づいて、切り出した前記人物映像部分を前記背景映像の画面のどの位置にどのくらいの大きさで合成するかなどの合成条件を可変設定する。 - 請求項1において、前記映像データはデジタル映像データであり、前記人物合成処方データはこのデジタル映像データに多重化されていることを特徴とする人物映像合成方法。
- 請求項1において、前記人物合成処方データは前記データベース内における映像データの記録位置に対応付けされたデータとして映像データとは個別に記録され、前記映像合成手段は、再生中にある映像データの記録位置を逐次取得するとともに、その記録位置に対応する人物合成処方データに基づいて合成レイアウトを適宜に可変制御して合成表示することを特徴とする人物映像合成方法。
- つぎの事項(41)〜(44)によって特定される発明。
(41)請求項1〜3に記載の人物映像合成方法を採用したカラオケ装置であって、前記データベースと、前記映像合成手段と、前記映像データベースから指定の映像データを取り出して前記背景映像を再生するための映像再生手段と、ビデオカメラとを備える。
(42)カラオケ伴奏音楽の起源となる音楽生成データがカラオケ楽曲毎に区分されてカラオケデータベースに格納されている。カラオケ演奏処理手段が指定楽曲の音楽生成データを処理して前記伴奏音楽を音響出力する。
(43)カラオケ楽曲毎に背景映像指定シーケンスが規定されている。前記映像再生手段は、指定楽曲の背景映像指定シーケンスに従って前記映像データベースから指定された映像データを順番に再生することで背景映像をカラオケ伴奏音楽の音響出力に同期してディスプレイに表示出力していく。
(44)前記映像合成手段は、前記人物合成処方データに従って、指定楽曲の演奏中に前記人物映像の合成条件を適宜に可変制御して合成表示する。 - 請求項4記載のカラオケ装置であって、カラオケ楽曲毎に歌詞画像の起源となる歌詞描出データが前記カラオケデータベースに格納され、歌詞描出手段が指定楽曲の前記歌詞描出データを処理して伴奏音楽に同期して該当の歌詞画像を前記ディスプレイに表示出力するさい、前記映像合成手段が該当の背景映像に前記人物映像と当該歌詞画像とを合成表示する。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004182582A JP2004328788A (ja) | 2004-06-21 | 2004-06-21 | 記録済みの背景映像に別途撮影された人物映像を合成して表示出力する方法およびその方法を採用したカラオケ装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004182582A JP2004328788A (ja) | 2004-06-21 | 2004-06-21 | 記録済みの背景映像に別途撮影された人物映像を合成して表示出力する方法およびその方法を採用したカラオケ装置 |
Related Parent Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP11007815A Division JP2000209500A (ja) | 1999-01-14 | 1999-01-14 | 記録済みの背景映像に別途撮影された人物映像を合成して表示出力する方法およびその方法を採用したカラオケ装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2004328788A true JP2004328788A (ja) | 2004-11-18 |
JP2004328788A5 JP2004328788A5 (ja) | 2006-01-12 |
Family
ID=33509334
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2004182582A Pending JP2004328788A (ja) | 2004-06-21 | 2004-06-21 | 記録済みの背景映像に別途撮影された人物映像を合成して表示出力する方法およびその方法を採用したカラオケ装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2004328788A (ja) |
Cited By (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR100593813B1 (ko) * | 2005-11-14 | 2006-06-30 | 손병규 | 합성 동영상 제공 시스템 및 그 방법 |
JP2008145978A (ja) * | 2006-12-13 | 2008-06-26 | Yamaha Corp | コンテンツ再生装置 |
JP2008145972A (ja) * | 2006-12-13 | 2008-06-26 | Yamaha Corp | コンテンツ再生装置およびコンテンツ同期再生システム |
JP2010287983A (ja) * | 2009-06-10 | 2010-12-24 | Casio Computer Co Ltd | 撮像装置、画像処理方法及びプログラム |
JP2011077821A (ja) * | 2009-09-30 | 2011-04-14 | Casio Computer Co Ltd | 画像合成装置、画像合成方法及びプログラム |
JP2012208281A (ja) * | 2011-03-29 | 2012-10-25 | Xing Inc | カラオケ装置 |
WO2013067437A1 (en) * | 2011-11-02 | 2013-05-10 | Hoffman Michael Theodor | Systems and methods for dynamic digital product synthesis, commerce, and distribution |
CN107368491A (zh) * | 2016-05-12 | 2017-11-21 | 富泰华工业(深圳)有限公司 | 影像制作系统及方法 |
US10264194B2 (en) | 2015-03-26 | 2019-04-16 | Sony Corporation | Information processing device, information processing method, and program |
JP2021175174A (ja) * | 2020-04-27 | 2021-11-01 | ペキン シャオミ パインコーン エレクトロニクス カンパニー, リミテッド | ビデオ処理方法、装置および記憶媒体 |
-
2004
- 2004-06-21 JP JP2004182582A patent/JP2004328788A/ja active Pending
Cited By (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR100593813B1 (ko) * | 2005-11-14 | 2006-06-30 | 손병규 | 합성 동영상 제공 시스템 및 그 방법 |
JP2008145978A (ja) * | 2006-12-13 | 2008-06-26 | Yamaha Corp | コンテンツ再生装置 |
JP2008145972A (ja) * | 2006-12-13 | 2008-06-26 | Yamaha Corp | コンテンツ再生装置およびコンテンツ同期再生システム |
JP4561736B2 (ja) * | 2006-12-13 | 2010-10-13 | ヤマハ株式会社 | コンテンツ再生装置 |
JP4561735B2 (ja) * | 2006-12-13 | 2010-10-13 | ヤマハ株式会社 | コンテンツ再生装置およびコンテンツ同期再生システム |
JP2010287983A (ja) * | 2009-06-10 | 2010-12-24 | Casio Computer Co Ltd | 撮像装置、画像処理方法及びプログラム |
JP2011077821A (ja) * | 2009-09-30 | 2011-04-14 | Casio Computer Co Ltd | 画像合成装置、画像合成方法及びプログラム |
JP2012208281A (ja) * | 2011-03-29 | 2012-10-25 | Xing Inc | カラオケ装置 |
WO2013067437A1 (en) * | 2011-11-02 | 2013-05-10 | Hoffman Michael Theodor | Systems and methods for dynamic digital product synthesis, commerce, and distribution |
US10264194B2 (en) | 2015-03-26 | 2019-04-16 | Sony Corporation | Information processing device, information processing method, and program |
CN107368491A (zh) * | 2016-05-12 | 2017-11-21 | 富泰华工业(深圳)有限公司 | 影像制作系统及方法 |
JP2021175174A (ja) * | 2020-04-27 | 2021-11-01 | ペキン シャオミ パインコーン エレクトロニクス カンパニー, リミテッド | ビデオ処理方法、装置および記憶媒体 |
JP6990282B2 (ja) | 2020-04-27 | 2022-01-12 | ペキン シャオミ パインコーン エレクトロニクス カンパニー, リミテッド | ビデオ処理方法、装置および記憶媒体 |
US11368632B2 (en) | 2020-04-27 | 2022-06-21 | Beijing Xiaomi Pinecone Electronics Co., Ltd. | Method and apparatus for processing video, and storage medium |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10434420B2 (en) | Music game software and input device utilizing a video player | |
JP6959943B2 (ja) | 3d音声ポジショニングを用いて仮想現実又は拡張現実のプレゼンテーションを生成するための方法及び装置 | |
JPH11219446A (ja) | 映像音響再生システム | |
KR101304111B1 (ko) | 댄싱 가라오케 시스템 | |
JP2000209500A (ja) | 記録済みの背景映像に別途撮影された人物映像を合成して表示出力する方法およびその方法を採用したカラオケ装置 | |
JP2006261960A (ja) | 記録再生装置及び立体映像視覚効果確認装置 | |
JP5349463B2 (ja) | パノラマ式音像の生成及び再生方法並びにパノラマ式音像の再生装置 | |
JP4981370B2 (ja) | 動画生成システム、及び動画生成方法 | |
JP2004328788A (ja) | 記録済みの背景映像に別途撮影された人物映像を合成して表示出力する方法およびその方法を採用したカラオケ装置 | |
KR101414217B1 (ko) | 실시간 영상합성 장치 및 그 방법 | |
JPH09247532A (ja) | 画像合成方法および装置 | |
KR101295862B1 (ko) | 증강 현실 영상을 제공하는 노래방 장치 및 그 방법 | |
JP5371574B2 (ja) | 背景映像中の顔画像を避けるように歌詞字幕を表示するカラオケ装置 | |
JP4263111B2 (ja) | 背景映像ズームアップ機能付きカラオケ装置 | |
KR100619494B1 (ko) | 삼차원 가상 스투디오를 이용한 가라오케 | |
JP2982697B2 (ja) | テロップ表示装置 | |
JP3397980B2 (ja) | 立体映像表示カラオケ装置 | |
KR101405091B1 (ko) | 개인영상 제작시스템 | |
CN1312912C (zh) | 视频实时合成和记录的娱乐系统 | |
JP2011053345A (ja) | 歌詞文字の立体表示機能を有するカラオケシステム | |
JPH1169228A (ja) | 楽音再生装置 | |
JP2000132150A (ja) | 映像表示装置 | |
KR20000067376A (ko) | 노래 반주기 시스템을 이용한 라이브 영상제작시스템 | |
KR20050075082A (ko) | 노래방용 뮤직비디오 제작시스템 | |
KR200347187Y1 (ko) | 노래방용 뮤직비디오 제작시스템 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20051122 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20051122 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20060725 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20061031 |