JP2011217272A - 映像処理装置及びその制御方法 - Google Patents
映像処理装置及びその制御方法 Download PDFInfo
- Publication number
- JP2011217272A JP2011217272A JP2010085361A JP2010085361A JP2011217272A JP 2011217272 A JP2011217272 A JP 2011217272A JP 2010085361 A JP2010085361 A JP 2010085361A JP 2010085361 A JP2010085361 A JP 2010085361A JP 2011217272 A JP2011217272 A JP 2011217272A
- Authority
- JP
- Japan
- Prior art keywords
- resolution
- layer
- video data
- display
- angle
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
- H04N19/59—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial sub-sampling or interpolation, e.g. alteration of picture size or resolution
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
- H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/30—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
- H04N19/33—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability in the spatial domain
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/70—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
- Television Signal Processing For Recording (AREA)
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
Abstract
【課題】 階層符号化された映像データを外部の再生装置に転送するにあたり、映像データを転送先の再生装置の表示能力に適した解像度で、かつ、全ての画角の映像データを含むように、転送用の映像データを生成する映像処理装置及び映像処理装置の制御方法を提供する。
【解決手段】 基準レイヤよりも解像度の高い高解像度レイヤが存在する場合、基準レイヤ及び高解像度レイヤの画角情報を比較し、基準レイヤよりも画角が広い高解像度レイヤが存在するか否かを判定する(ステップS17)。基準レイヤよりも画角が広い高解像度レイヤが存在する場合、高解像度レイヤに対応する映像データを少なくとも表示解像度以下となるように解像度変換し(ステップS18)、解像度変換された高解像度レイヤに対応する映像データと、高解像度レイヤ以外の複数の解像度レイヤの各々に対応する映像データとを階層符号化する(ステップS19)。
【選択図】 図3
【解決手段】 基準レイヤよりも解像度の高い高解像度レイヤが存在する場合、基準レイヤ及び高解像度レイヤの画角情報を比較し、基準レイヤよりも画角が広い高解像度レイヤが存在するか否かを判定する(ステップS17)。基準レイヤよりも画角が広い高解像度レイヤが存在する場合、高解像度レイヤに対応する映像データを少なくとも表示解像度以下となるように解像度変換し(ステップS18)、解像度変換された高解像度レイヤに対応する映像データと、高解像度レイヤ以外の複数の解像度レイヤの各々に対応する映像データとを階層符号化する(ステップS19)。
【選択図】 図3
Description
本発明は、画角の異なる複数の映像データを階層符号化した階層符号化映像データを外部の再生装置に転送する映像処理装置及びその制御方法に関するものである。
近年、ハードディスクレコーダ等の録画機器に蓄積した映像データを携帯端末等の再生装置に転送する機能が普及してきている。このような映像データ転送機能では、転送先の再生装置の能力に合った映像データを転送する技術が検討されている。
特許文献1では、転送先の再生装置から表示解像度の情報を取得することで、取得した情報に基づいて映像データを転送先の再生装置に適した解像度に変換する技術が記載されている。
特許文献2では、映像データが転送先の再生装置での再生に適している場合は映像データをそのまま転送し、適していない場合は映像データを再符号化して転送する技術が記載されている。
このような映像データ転送機能を用いて、H.264/SVC(Scalable Video Coding)規格などに定められた階層符号化技術を用いて階層符号化された映像データを転送する場合も考えられる。
H.264/SVC規格で符号化された映像データは、複数の解像度レイヤ(複数の解像度の映像データ)によって構成されている。そのため、H.264/SVC規格によって符号化された映像データを外部の再生装置に転送する場合、転送先の再生装置で不要な解像度レイヤを削除することで、転送先の再生装置にマッチした解像度の映像データを転送することが可能である。しかし、H.264/SVC規格では、解像度レイヤ毎に異なる画角、すなわち、表示される映像の範囲を設定できるため、解像度と画角が共に異なる複数のレイヤで映像データが階層符号化されているケースがある。このケースにおいて、不要な解像度のレイヤであるからといって、そのレイヤを削除してしまうと、そのレイヤの画角の映像は再生することができなくなる。
つまり、解像度の情報を用いてレイヤを削除して転送すると、削除されるレイヤによっては、転送先の再生装置で再生できる映像データの画角の種類が制限されてしまうという問題が考えられる。
一方、上記問題の解決策として、レイヤを削除することなく、階層符号化された映像データをそのまま外部の再生装置に転送した場合、レイヤの構成によっては、再生装置の表示能力を超えた解像度の映像データまでもが転送されてしまうことがある。このように、階層符号化された映像データをそのまま転送するのは非効率であり、場合によっては再生装置への転送時間の増大や、再生装置の記憶容量を圧迫するという問題を生じさせる。
上述した各特許文献に記載の技術では、こうした課題の解決方法は提案されていない。
そこで本発明は、階層符号化された映像データを外部の再生装置に転送するにあたり、映像データを転送先の再生装置の表示能力に適した解像度で、かつ、全ての画角の映像データを含むように、転送用の映像データを生成する映像処理装置及び映像処理装置の制御方法を提供することを目的とする。
上記目的を達成するために、本発明の映像処理装置は、階層符号化された符号化映像データを通信可能に接続された再生装置に出力する映像処理装置であって、前記再生装置における表示部の表示解像度情報を取得する取得手段と、前記再生装置に転送する符号化映像データに含まれる複数の解像度レイヤの各々に対応する映像データの解像度情報と前記表示解像度情報とを比較し、前記表示解像度と等しい又は前記表示解像度に最も近い解像度を有する映像データに対応する解像度レイヤを基準レイヤとして設定する設定手段と、前記基準レイヤよりも解像度の高い高解像度レイヤが存在するか否かを判定する第1の判定手段と、高解像度レイヤが存在する場合、当該基準レイヤ及び前記高解像度レイヤの画角情報を比較し、前記基準レイヤよりも画角が広い高解像度レイヤが存在するか否かを判定する第2の判定手段と、前記基準レイヤよりも画角が広い高解像度レイヤが存在することが前記第2の判定手段で判定された場合、当該高解像度レイヤに対応する映像データを少なくとも前記表示解像度以下となるように解像度変換処理する変換手段と、前記変換手段で解像度変換処理された高解像度レイヤに対応する映像データと、当該高解像度レイヤ以外の複数の解像度レイヤの各々に対応する映像データとを、階層符号化する符号化手段と、前記符号化手段で符号化された符号化映像データを前記再生装置に出力する出力手段と、を有する。
以上説明したように、本発明によれば、階層符号化された映像データを外部の再生装置に転送するにあたり、映像データを転送先の再生装置の表示能力に適した解像度で、かつ、全ての画角の映像データを含むように、転送用の映像データを生成する。そのため、転送先の再生装置の表示能力に適した解像度で映像データを転送しても、転送先の再生装置で全ての画角の映像を視聴することができる。
以下、添付図面を参照して、本発明の実施例を説明する。
以下、本発明の実施例1について図面を参照して説明する。実施例1では、図1に示す映像処理装置100から外部再生装置200に対して符号化映像データの転送を行う。映像処理装置100及び外部再生装置200では、H.264/SVC規格で符号化された符号化映像データを復号し、表示部に表示可能である。
実施例1に適用されるH.264/SVC規格で符号化された符号化映像データは、図4(b)に示すように異なる解像度を有する複数の解像度レイヤによって構成される。さらに、各々の解像度レイヤは、図4(a)に示すようにそれぞれ画角が異なる解像度レイヤによって構成することも可能である。
図1を参照して、映像処理装置100について説明する。受信部101は、アンテナ1から放送波を受信・復調し、MPEG−2 TS形式のコンテンツデータを取得する。取得したコンテンツデータには、H.264/SVC規格で符号化された符号化映像データ、AAC(Advanced Audio Coding)で符号化された符号化音声データが多重化されている。
また、受信部101は、後述するリモコン制御部110の指示に基づいて、受信したコンテンツデータを蓄積部102に蓄積する。分離部103は、受信部101が受信したコンテンツデータ、または、蓄積部102に蓄積されたコンテンツデータから符号化映像データと符号化音声データとを分離する。分離された符号化映像データは、映像復号部104によって復号され、復号された映像をモニタ2に表示する。
分離された符号化音声データは、音声復号部105によって復号され、復号された音声がスピーカ3から出力される。
また、分離部103は、リモコン制御部110の指示に基づいて、蓄積部102に蓄積されたコンテンツデータから外部再生装置200に出力するコンテンツデータを選択し、符号化映像データと符号化音声データとに分離する。分離された符号化映像データは画角判定部106に出力され、分離された符号化音声データは多重部109に出力される。
画角判定部106は、外部再生装置200から取得する表示解像度情報に基づいて、符号化映像データをレイヤ削除部107に出力するか、再符号化部108に出力するか、多重部109に出力するかを判定する。画角判定部106の詳細ついては後述する。
レイヤ削除部107は、画角判定部106から出力された符号化映像データから、外部再生装置200の表示解像度よりも高解像度の解像度レイヤを削除する。また、レイヤ削除部107は、解像度レイヤが削除された映像データを多重部109に出力する。
再符号化部108は、画角判定部106から出力された映像データの解像度レイヤの解像度が、外部再生装置200の表示解像度以下になるようにH.264/SVC規格で再符号化する。また、再符号化部108は、再符号化された符号化映像データを多重部109に出力する。再符号化部108での再符号化処理の詳細については後述する。
多重部109は、レイヤ削除部107、または、再符号化部108、または、画角判定部106から出力された符号化映像データと、分離部103で分離された符号化音声データとを多重化し、外部再生装置200に出力する。外部再生装置200と映像処理装置100は不図示の通信手段で通信可能に接続されている。
リモコン制御部110は、リモコン4から受信した制御信号に基づいて、受信部101または分離部103に対して、コンテンツデータの蓄積や蓄積されたコンテンツデータの再生及び転送等の指示を行う。
画角判定部106では、H.264/SVC規格で符号化された符号化映像データに含まれる解像度レイヤの画角の違いを判定する。ここで、H.264/SVC規格における画角の設定について説明する。
なお、以下の説明において、シーケンス、ピクチャ、スライスとは、映像符号化の単位を示している。シーケンスは動画像全体を示し、ピクチャは動画像中の1枚の画像を示し、スライスはピクチャをさらに細分化したものを示している。
H.264/SVC規格では、上位レイヤのピクチャと下位レイヤのピクチャとの端点のずれを設定することによって、解像度レイヤ毎に画角を設定することができる。具体的には、上位レイヤのピクチャと下位レイヤのピクチャとの上下左右のオフセット位置を設定することができる。
図2は、ピクチャA(上位レイヤのピクチャ)とピクチャB(下位レイヤのピクチャ)とのオフセット情報を示した図である。なお、ピクチャAはピクチャBより広い画角が設定されたピクチャである。図2に示すように、ピクチャA(上位レイヤのピクチャ)とピクチャB(下位レイヤのピクチャ)とのフレーム端点のずれを示したオフセット情報には、次の4つの情報が存在する。なお、以下で説明するオフセット情報は、シーケンス全体の符号化に関わる情報が設定されているシーケンス・パラメータ・セット、または、スライスの符号化に関わる情報が設定されているスライス・ヘッダで設定される。
ScaledRefLayerLeftOffsetは、ピクチャAの左上端点からピクチャBの左上端点までの水平方向のオフセット値である。ScaledRefLayerTopOffsetは、ピクチャAの左上端点からピクチャBの左上端点までの垂直方向のオフセット値である。ScaledRefLayerRightOffsetは、ピクチャAの右下端点からピクチャBの右下端点までの水平方向のオフセット値である。ScaledRefLayerBottomOffsetは、ピクチャAの右下端点からピクチャBの右下端点までの垂直方向のオフセット値である。
オフセット情報が全て0である場合は、ピクチャAとピクチャBが同じ画角であることを意味する。オフセット情報の値が全て正の値である場合は、ピクチャBよりピクチャAの画角が広いことを意味する。つまり、図2の状態のように、ピクチャAの画角の中にピクチャBが包含されている状態である。一方、オフセット情報の値が全て負の値である場合は、ピクチャBの画角の中にピクチャAが包含された状態であることを意味する。
画角判定部106における画角判定処理では、各オフセット情報に1つでも正の値が含まれている場合に、下位レイヤより上位レイヤの画角が広いと判定する。なお、H.264/SVC規格では、下位レイヤの幅の値は上位レイヤの幅の値から左のオフセット値と右のオフセット値を引いた値に等しいと定められている。したがって、上位レイヤの幅の値から下位レイヤの幅の値を引いた値は、左のオフセット値と右のオフセット値とを加算した値と等しい。そのことから、オフセット値が正である場合、上位レイヤの方が大きくなり、オフセット値が負である場合、下位レイヤの方が大きくなる。
画角判定部106における画角判定処理について、図3のフローチャートを参照して説明する。
図3のフローチャートでは、図4に示す構成のH.264/SVC規格で符号化された映像データが画角判定部106に入力される場合について説明する。
なお、図4(a)に示す符号化映像データでは、320×180画素(レイヤA)、1024×576画素(レイヤB)、1920×1080画素(レイヤC)の3種類の解像度レイヤを有する。また、図4(b)に示す符号化映像データも、320×180画素(レイヤD)、1024×576画素(レイヤE)、1920×1080画素(レイヤF)の3種類の解像度レイヤを有する。
図4(a)のケースでは、レイヤBはレイヤAとの差分の映像データが符号化されており、レイヤCはレイヤBとの差分の映像データが符号化されている。また、図4(b)のケースでは、レイヤEはレイヤDとの差分の映像データが符号化されており、レイヤFはレイヤEとの差分の映像データが符号化されている。
図4(a)では、上位の解像度レイヤほど広い画角が設定されており、下位レイヤの画角は上位レイヤの画角内に包含される。すなわち、レイヤCとレイヤBとの間のオフセット情報の値は全て正の値であり、レイヤBとレイヤAとの間のオフセット情報の値も全て正の値である。このオフセット情報が各解像度レイヤの画角を示す画角情報に相当する。
また、図4(b)では、全ての解像度レイヤで同じ画角が設定されている。すなわち、レイヤEとレイヤDとの間のオフセット情報の値は全て0であり、レイヤFとレイヤEとの間のオフセット情報の値も全て0である。
ステップS11で画角判定部106は、分離部103から外部再生装置200に転送する階層符号化映像データを取得する。
ステップS12で画角判定部106は、外部再生装置200の表示解像度の情報を取得する。例えば、映像処理装置100と外部再生装置200がHDMIで接続されている場合、外部再生装置200内のメモリに記憶されているEDID(Extended Display Identification Data)を取得することで、表示解像度の情報が取得できる。
ステップS13で画角判定部106は、外部再生装置200の表示解像度より高い解像度の解像度レイヤがあるか否かを、ステップS11で取得した階層符号化映像データの解像度情報と表示解像度を比較して判定する。階層符号化映像データの解像度情報は、シーケンス全体の符号化に関する情報を保持するヘッダであるSPS(Sequence Parameter Set)に、各レイヤの映像データを構成するフレーム画像データ1枚あたりの画素数が含まれているので、この値を解像度情報として用いる。外部再生装置200の表示解像度が3840×2160画素であるとすると、図4(a)に示す映像データの例では、外部再生装置200の表示解像度より高い解像度の高解像度レイヤが存在しないと画角判定部106は判定する。また、外部再生装置200の表示解像度が1024×576画素であるとすると、図4(a)に示す映像データの1920×1080画素のレイヤCが表示解像度より高い解像度の高解像度レイヤであるため、画角判定部106は表示解像度より高い解像度の高解像度レイヤが存在すると判定する。
ステップS13において、外部再生装置200の表示解像度より高い解像度の高解像度レイヤが存在することが明らかになった場合、ステップS14の処理に移行する。一方、ステップS13において、外部再生装置200の表示解像度と同じ解像度の解像度レイヤが存在しないことが明らかになった場合は、画角判定部106はステップS11で取得した符号化映像データをそのまま多重部109に出力する。
ステップS14では、画角判定部106は外部再生装置200の表示解像度と同じ解像度の解像度レイヤが符号化映像データに含まれているか否かを判定する。外部再生装置200の表示解像度が1024×576画素であるとした場合、図4(a)に示す映像データの例では、外部再生装置200の表示解像度と同じ1024×576画素のレイヤBが存在する。また、外部再生装置200の表示解像度が720×480画素である場合、図4(a)に示す映像データの例では、外部再生装置200の表示解像度と同じ解像度の解像度レイヤが存在しない。
ステップS14において、外部再生装置200の表示解像度と同じ解像度の解像度レイヤが存在することが明らかになった場合、ステップS15の処理に移行する。一方、外部再生装置200の表示解像度と同じ解像度の解像度レイヤが存在しないと判定された場合は、ステップS21の処理に移行する。
ステップS15では、画角判定部106は外部再生装置200と同じ解像度の解像度レイヤを基準レイヤとして設定する。外部再生装置200の表示解像度が1024×576画素である場合、図4(a)に示す映像データの例では、画角判定部106は1024×576画素のレイヤBを基準レイヤとして設定する。
なお、後述する再符号化処理を行う上で、外部再生装置200の表示解像度と同等又は表示解像度より1つ高い解像度の高解像度レイヤよりも上位の解像度のレイヤに、表示解像度と同等又は表示解像度より高い解像度の高解像度レイヤであって、表示解像度に最も近い解像度を有する解像度レイヤよりも広い画角を有するレイヤが存在するか否かを判定するための基準とするレイヤを基準レイヤと称している。
ステップS16では、画角判定部106は、ステップS15で設定された基準レイヤより上位に位置する解像度レイヤが符号化映像データに含まれているか否かを判定する。図4(a)に示す映像データの例では、レイヤBが基準レイヤであるとすると、レイヤBより上位にレイヤCが存在するため、基準レイヤより解像度の高い、上位の高解像度レイヤが存在する。
ステップS16において、基準レイヤより上位の解像度レイヤが存在すると判定された場合、ステップS17に処理を移行する。一方、ステップS16において、基準レイヤより上位の解像度レイヤが存在しないと判定された場合は、画角判定部106はステップS11で取得した映像データをそのまま多重部109に出力する。
ステップS17では、画角判定部106は、基準レイヤより上位の解像度レイヤから、基準レイヤより広い画角が設定された解像度レイヤがあるか否かを判定する。図4(a)に示す映像データにおいて基準レイヤがレイヤBである場合、基準レイヤより上位の解像度レイヤはレイヤCである。この場合、レイヤBとレイヤCとのオフセット情報に正の値が存在するため、基準レイヤより広い画角が設定された解像度レイヤが存在すると判定される。また、図4(b)に示す映像データにおいて基準レイヤがレイヤEである場合、基準レイヤより上位の解像度レイヤはレイヤFである。この場合、レイヤEとレイヤFとのオフセット情報が全て0であるため、基準レイヤより広い画角が設定された解像度レイヤは存在しないと判定される。
画角判定部106は、ステップS17において基準レイヤより広い画角が設定された解像度レイヤが存在すると判定した場合、ステップS18に処理を移行する。一方、ステップS17において基準レイヤより広い画角が設定された解像度レイヤが存在しないと判定した場合は、ステップS20に処理を移行する。
ステップS18では、画角判定部106は、ステップS11で取得した符号化映像データを再符号化部108に出力するとともに、解像度変換する解像度レイヤの情報を再符号化部108に通知する。再符号化部108では、符号化映像データに含まれる解像度レイヤの解像度が外部再生装置200の表示解像度以下になるように、通知された解像度レイヤに対して解像度変換処理を施す。
その後、ステップS19において、解像度変換された解像度レイヤを含む全ての解像度レイヤの映像データをH.264/SVC規格で定められた符号化方式で再符号化する。再符号化部108における解像度変換処理及び再符号化処理の詳細については後述する。
ステップS20では、画角判定部106は、ステップS11で取得した符号化映像データをレイヤ削除部107に出力するとともに、削除する解像度レイヤの情報をレイヤ削除部107に通知する。レイヤ削除部107では、画角判定部106から取得した映像データのうち、基準レイヤより上位の解像度レイヤを削除する。図4(b)に示す映像データの例では、基準レイヤがレイヤEである場合、レイヤ削除部107では図6(b)に示すようにレイヤEより上位の解像度レイヤFを映像データから削除した状態とする。
解像度レイヤの削除は、削除対象の解像度レイヤに対応したdependency_idがヘッダに含まれているNAL(Network Abstraction Layer)ユニットを削除する方法が挙げられる。H.264/SVC規格では、解像度レイヤ毎にレイヤの識別情報に相当するdependency_idが付加されている。また、符号化データはスライス単位でNALユニットに格納されており、このNALユニットのヘッダにdependency_idが含まれている。したがって、削除対象の解像度レイヤに対応するdependency_idを含むNALユニットを削除することで、符号化映像データから削除対象の解像度レイヤを削除することが可能となる。
続いて、再符号化部108における、H.264/SVC規格で符号化された映像データの解像度変換処理及び再符号化処理について、図5のフローチャートを参照して説明する。
図5のフローチャートでは、図4(a)に示す映像データを再符号化して図6(a)に示す映像データを生成する場合について説明する。なお、図4(a)に示す映像データでは、上位の解像度レイヤほど広い画角が設定されている。すなわち、レイヤCが全景を映した映像であり、レイヤBがレイヤCの部分映像、レイヤAがレイヤBの部分映像となっている。
ステップS31では、再符号化部108は、ステップS11で入力された符号化映像データを復号する。つまり、復号によって、レイヤAに対応する映像データ、レイヤBに対応する映像データ及び、レイヤCに対応する映像データの3つの映像データが生成される。
ステップS32では、再符号化部108は、ステップS31で復号した映像データのうち、外部再生装置200の表示解像度より解像度が高い映像データを、外部再生装置200と同じ解像度に変換する。外部再生装置200の表示解像度が1024×576画素である場合、図4(a)に示す映像データの例では、レイヤCに対応する映像データの解像度を1920×1080画素から1024×576画素に変換する。このようにレイヤCの解像度を変換することで、図6(a)に示すようにレイヤC’に相当する映像データが生成される。なお、解像度の変換処理にはどのような手法を用いても良い。
ステップS33では、再符号化部108は、レイヤC’に相当する復号映像データ、レイヤBに相当する復号映像データ、レイヤAに相当する復号映像データの全ての復号映像データをH.264/SVC規格で定められた符号化方式で符号化しなおす。その後、再符号化部108は、ステップS33で符号化された映像データを多重部109に出力する。
以上の処理により、表示解像度と同じ解像度の解像度レイヤを有し、かつ、表示レイヤよりも上位の解像度レイヤがあり、かつ、当該上位レイヤが基準レイヤよりも画角が広いレイヤである場合でも、表示解像度に対応する解像度を上限として生成しなおした階層符号化映像データを生成することができる。
一方、表示解像度と同じ解像度の解像度レイヤが無かった場合には、ステップS21で画角判定部106は外部再生装置200の表示解像度より高い解像度の解像度レイヤであって、表示解像度に最も近い解像度を有する解像度レイヤを基準レイヤとして設定する。外部再生装置200の表示解像度が720×480画素である場合、図4(a)に示す映像データの例では、画角判定部106は、1024×576画素のレイヤBを基準レイヤとして設定する。
ステップS22では、画角判定部106はステップS16と同様の判定を行う。ステップS22において、基準レイヤより上位の解像度レイヤが存在すると判定された場合、ステップS23に処理を移行する。一方、ステップS22において、基準レイヤより上位の解像度レイヤが存在しないと判定された場合は、ステップS26に処理を移行する。
ステップS23では、画角判定部106はステップS17と同様の判定を行う。画角判定部106は、ステップS23において基準レイヤより広い画角が設定された解像度レイヤが存在すると判定した場合、ステップS24に処理を移行する。一方、ステップS23において基準レイヤより広い画角が設定された解像度レイヤが存在しないと判定した場合は、ステップS25に処理を移行する。
ステップS24では、画角判定部106は、ステップS11で取得した符号化映像データを再符号化部108に出力するとともに、解像度変換する解像度レイヤの情報を再符号化部108に通知する。再符号化部108では、符号化映像データに含まれる解像度レイヤの解像度が外部再生装置200の表示解像度以下になるように解像度変換する。当該フローでは、ステップS21において表示解像度より高い解像度であって、表示解像度に最も近い解像度を有する解像度レイヤを基準レイヤとしており、かつ、ステップS22において、基準レイヤよりも上位の解像度レイヤがあると判定されている。そのため、ステップS24では基準レイヤと基準レイヤよりも上位の解像度レイヤを全て表示解像度以下となるように解像度変換処理を施す。
その後、ステップS27において、再符号化部108はステップS19の処理と同様に、ステップS24において解像度変換された高解像度レイヤと、当該高解像度レイヤ以外の全ての解像度レイヤの映像データを再符号化する。
一方、ステップS22において、画角判定部106が基準レイヤよりも上記の解像度レイヤは無いと判定した場合は、外部再生装置200の表示解像度を超えるのは基準レイヤだけである。したがって、ステップS26で画角判定部106は、ステップS11で取得した符号化映像データを再符号化部108に出力するとともに、解像度変換する解像度レイヤの情報を再符号化部108に通知する。再符号化部108では、基準レイヤの解像度が外部再生装置200の表示解像度以下になるように、通知された解像度レイヤに対して解像度変換処理を施す。
その後、ステップS27において、再符号化部108は解像度変換された解像度レイヤを含む全ての解像度レイヤの映像データをH.264/SVC規格で定められた符号化方式で再符号化する。再符号化部108は再符号化された符号化映像データを多重部109に出力し、多重部109は音声データなどと多重化処理を行い、符号化映像データを外部再生装置200に出力する。
ステップS23において、画角判定部106が基準レイヤより広い画角が設定された解像度レイヤが存在しないと判定した場合は、ステップS25に処理を移行する。ステップS25では、レイヤ削除部107がステップS20と同様の処理を行い、基準レイヤの上位レイヤを削除する。
その後、処理をステップS26に移行し、以後は上述したステップS26及びステップS27と同様の処理を行う。
以上説明したように、実施例1では、階層符号化された映像データを外部の再生装置に転送するにあたり、映像データを転送先の再生装置の表示能力に適した解像度で、かつ、全ての画角の映像データを含むように、転送用の映像データを生成する。そのため、転送先の再生装置の表示能力に適した解像度で映像データを転送しても、転送先の再生装置で全ての画角の映像を視聴することができる。解像度レイヤ間で異なる画角が設定された映像を外部再生装置に転送する場合でも、外部再生装置の表示能力に合った映像を全ての画角が視聴可能な形態で外部再生装置に転送することができる。
なお、実施例1では、階層符号化方式としてH.264/SVC規格を適用した場合について説明したが、本発明ではこの階層符号化方式に限定されるものではない。
また、実施例1では、放送波から階層符号化映像データを取得する場合について説明したが、インターネットやリムーバブルメディア等から階層符号化映像データを取得することも可能である。
上述した実施例では、画角判定部106は、表示解像度と同等の解像度の解像度レイヤが存在しない場合、外部再生装置200の表示解像度より高い解像度の解像度レイヤであって、表示解像度に最も近い解像度を有する解像度レイヤを基準レイヤとして設定している。しかし、本発明は、表示解像度より低い解像度の解像度レイヤであって、表示解像度に最も近い解像度を有する解像度レイヤを基準レイヤとして設定しても良い。この場合、基準レイヤは表示解像度と同等の解像度になるように解像度変換(アップコンバート)することになり、基準レイヤ及び表示解像度よりも高い解像度を有する解像度レイヤについては、表示解像度と同等の解像度になるように解像度変換(ダウンコンバート)されることになる。
また、画角判定部106は、表示解像度と同等の解像度の解像度レイヤが存在しない場合、解像度レイヤのうち、表示解像度との差分が小さい解像度レイヤを基準レイヤとする方法を採用することも可能である。
Claims (6)
- 階層符号化された符号化映像データを通信可能に接続された再生装置に出力する映像処理装置であって、
前記再生装置における表示部の表示解像度情報を取得する取得手段と、
前記再生装置に転送する符号化映像データに含まれる複数の解像度レイヤの各々に対応する映像データの解像度情報と前記表示解像度情報とを比較し、前記表示解像度と等しい又は前記表示解像度に最も近い解像度を有する映像データに対応する解像度レイヤを基準レイヤとして設定する設定手段と、
前記基準レイヤよりも解像度の高い高解像度レイヤが存在するか否かを判定する第1の判定手段と、
高解像度レイヤが存在する場合、当該基準レイヤ及び前記高解像度レイヤの画角情報を比較し、前記基準レイヤよりも画角が広い高解像度レイヤが存在するか否かを判定する第2の判定手段と、
前記基準レイヤよりも画角が広い高解像度レイヤが存在することが前記第2の判定手段で判定された場合、当該高解像度レイヤに対応する映像データを少なくとも前記表示解像度以下となるように解像度変換処理する変換手段と、
前記変換手段で解像度変換処理された高解像度レイヤに対応する映像データと、当該高解像度レイヤ以外の複数の解像度レイヤの各々に対応する映像データとを、階層符号化する符号化手段と、
前記符号化手段で符号化された符号化映像データを前記再生装置に出力する出力手段と、
を有することを特徴とする映像処理装置。 - 前記第2の判定手段で前記基準レイヤの画角よりも広い画角を有していないと判定された高解像度レイヤを削除する削除手段を有することを特徴とする請求項1に記載の映像処理装置。
- 前記基準レイヤの解像度が前記表示解像度に最も近い解像度であって、前記表示解像度よりも大きい値の解像度である場合には、前記変換手段は前記基準レイヤの解像度を前記表示解像度以下となるように解像度変換処理することを特徴とする請求項1または2に記載の映像処理装置。
- 階層符号化された符号化映像データを通信可能に接続された再生装置に出力する映像処理装置の制御方法であって、
前記再生装置における表示部の表示解像度情報を取得する取得ステップと、
前記再生装置に転送する符号化映像データに含まれる複数の解像度レイヤの各々に対応する映像データの解像度情報と前記表示解像度情報とを比較し、前記表示解像度と等しい又は前記表示解像度に最も近い解像度を有する映像データに対応する解像度レイヤを基準レイヤとして設定する設定ステップと、
前記基準レイヤよりも解像度の高い高解像度レイヤが存在するか否かを判定する第1の判定ステップと、
高解像度レイヤが存在する場合、当該基準レイヤ及び前記高解像度レイヤの画角情報を比較し、前記基準レイヤよりも画角が広い高解像度レイヤが存在するか否かを判定する第2の判定ステップと、
前記基準レイヤよりも画角が広い高解像度レイヤが存在することが前記第2の判定ステップで判定された場合、当該高解像度レイヤに対応する映像データを少なくとも前記表示解像度以下となるように解像度変換処理する変換ステップと、
前記変換ステップで解像度変換処理された高解像度レイヤに対応する映像データと、当該高解像度レイヤ以外の複数の解像度レイヤの各々に対応する映像データとを、階層符号化する符号化ステップと、
前記符号化ステップで符号化された符号化映像データを前記再生装置に出力する出力ステップと、
を有することを特徴とする映像処理装置の制御方法。 - 前記第2の判定ステップで前記基準レイヤの画角よりも広い画角を有していないと判定された高解像度レイヤを削除する削除ステップを有することを特徴とする請求項4に記載の映像処理装置の制御方法。
- 前記基準レイヤの解像度が前記表示解像度に最も近い解像度であって、前記表示解像度よりも大きい値の解像度である場合には、前記変換ステップでは前記基準レイヤの解像度を前記表示解像度以下となるように解像度変換処理することを特徴とする請求項4または5に記載の映像処理装置の制御方法。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010085361A JP2011217272A (ja) | 2010-04-01 | 2010-04-01 | 映像処理装置及びその制御方法 |
US13/075,724 US8634473B2 (en) | 2010-04-01 | 2011-03-30 | Video image processing apparatus capable of processing hierarchically-encoded video data subjected to hierarchical coding and control method therefor |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010085361A JP2011217272A (ja) | 2010-04-01 | 2010-04-01 | 映像処理装置及びその制御方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2011217272A true JP2011217272A (ja) | 2011-10-27 |
Family
ID=44709670
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2010085361A Pending JP2011217272A (ja) | 2010-04-01 | 2010-04-01 | 映像処理装置及びその制御方法 |
Country Status (2)
Country | Link |
---|---|
US (1) | US8634473B2 (ja) |
JP (1) | JP2011217272A (ja) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2014058177A1 (ko) * | 2012-10-08 | 2014-04-17 | 삼성전자 주식회사 | 멀티 레이어 비디오 부호화 방법 및 장치, 멀티 레이어 비디오 복호화 방법 및 장치 |
JP2015080035A (ja) * | 2013-10-15 | 2015-04-23 | キヤノン株式会社 | 画像処理装置、画像処理方法、プログラム |
JP2016046778A (ja) * | 2014-08-26 | 2016-04-04 | 株式会社東芝 | 映像圧縮装置および映像再生装置 |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
BR112015006551B1 (pt) * | 2012-09-27 | 2022-12-06 | Dolby Laboratories Licensing Corporation | Processamento de figuração de referência entre camadas para escalabilidade padrão de codificação |
US9813723B2 (en) * | 2013-05-03 | 2017-11-07 | Qualcomm Incorporated | Conditionally invoking a resampling process in SHVC |
EP4300975A3 (en) | 2019-03-11 | 2024-03-27 | Dolby Laboratories Licensing Corporation | Signalling of information related to shutter angle |
EP3939317B1 (en) * | 2019-03-11 | 2024-10-23 | Dolby Laboratories Licensing Corporation | Video coding using reference picture resampling supporting region of interest |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2001136371A (ja) | 1999-11-05 | 2001-05-18 | Hitachi Kokusai Electric Inc | 静止画像通信方法及び静止画像通信システム |
JP2006067576A (ja) | 2005-08-10 | 2006-03-09 | Sharp Corp | 撮像記録装置 |
CA2727569C (en) * | 2008-06-09 | 2017-09-26 | Vidyo, Inc. | Improved view layout management in scalable video and audio communication systems |
-
2010
- 2010-04-01 JP JP2010085361A patent/JP2011217272A/ja active Pending
-
2011
- 2011-03-30 US US13/075,724 patent/US8634473B2/en not_active Expired - Fee Related
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2014058177A1 (ko) * | 2012-10-08 | 2014-04-17 | 삼성전자 주식회사 | 멀티 레이어 비디오 부호화 방법 및 장치, 멀티 레이어 비디오 복호화 방법 및 장치 |
JP2015080035A (ja) * | 2013-10-15 | 2015-04-23 | キヤノン株式会社 | 画像処理装置、画像処理方法、プログラム |
JP2016046778A (ja) * | 2014-08-26 | 2016-04-04 | 株式会社東芝 | 映像圧縮装置および映像再生装置 |
US10341660B2 (en) | 2014-08-26 | 2019-07-02 | Kabushiki Kaisha Toshiba | Video compression apparatus and video playback apparatus |
Also Published As
Publication number | Publication date |
---|---|
US8634473B2 (en) | 2014-01-21 |
US20110243252A1 (en) | 2011-10-06 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10764574B2 (en) | Encoding method, decoding method, encoding apparatus, decoding apparatus, and encoding and decoding apparatus | |
JP6962325B2 (ja) | 画像処理装置、画像処理方法、及びプログラム | |
TWI624173B (zh) | 圖像處理裝置、圖像處理方法、程式及記錄媒體 | |
US20190215534A1 (en) | Image processing apparatus and image processing method | |
US10779009B2 (en) | Image decoding device and method | |
JP2020174400A (ja) | 画像復号装置および方法 | |
JP6883219B2 (ja) | 符号化装置及び符号化方法、並びに、システム | |
WO2012111757A1 (ja) | 画像処理装置および画像処理方法 | |
JP2011217272A (ja) | 映像処理装置及びその制御方法 | |
WO2013150838A1 (ja) | 画像処理装置及び画像処理方法 | |
JPWO2016194721A1 (ja) | 画像処理装置および画像処理方法 | |
TW201524194A (zh) | 解碼裝置、解碼方法、編碼裝置,以及編碼方法 | |
KR20190105572A (ko) | 화상 처리 장치 및 화상 처리 방법 | |
KR102177605B1 (ko) | 정보 처리 장치, 콘텐츠 요구 방법 및 컴퓨터 판독가능 저장 매체 | |
WO2015053116A1 (ja) | 復号装置および復号方法、並びに、符号化装置および符号化方法 | |
US20200288123A1 (en) | Image processing apparatus and image processing method | |
AU2013327962A1 (en) | Image-processing device and method | |
US10110916B2 (en) | Encoding device and encoding method | |
CN111133757B (zh) | 编码设备、编码方法、解码设备和解码方法 | |
WO2016199574A1 (ja) | 画像処理装置および画像処理方法 | |
WO2015190248A1 (ja) | 符号化装置、符号化方法、カメラ、レコーダおよびカメラ一体型レコーダ |