JP2005210160A - 通信状態表示を有する映像受信端末 - Google Patents
通信状態表示を有する映像受信端末 Download PDFInfo
- Publication number
- JP2005210160A JP2005210160A JP2004011454A JP2004011454A JP2005210160A JP 2005210160 A JP2005210160 A JP 2005210160A JP 2004011454 A JP2004011454 A JP 2004011454A JP 2004011454 A JP2004011454 A JP 2004011454A JP 2005210160 A JP2005210160 A JP 2005210160A
- Authority
- JP
- Japan
- Prior art keywords
- video
- communication
- video signal
- display
- abnormality
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000004891 communication Methods 0.000 title claims abstract description 150
- 230000005856 abnormality Effects 0.000 claims abstract description 55
- 238000001514 detection method Methods 0.000 claims abstract description 15
- 230000005540 biological transmission Effects 0.000 claims description 36
- 238000012545 processing Methods 0.000 abstract description 65
- 230000006866 deterioration Effects 0.000 abstract description 9
- 238000000034 method Methods 0.000 description 38
- 230000006835 compression Effects 0.000 description 11
- 238000007906 compression Methods 0.000 description 11
- 238000010586 diagram Methods 0.000 description 9
- 230000002159 abnormal effect Effects 0.000 description 8
- 230000015556 catabolic process Effects 0.000 description 5
- 238000006731 degradation reaction Methods 0.000 description 5
- 230000003139 buffering effect Effects 0.000 description 4
- 238000011156 evaluation Methods 0.000 description 3
- 238000003780 insertion Methods 0.000 description 3
- 230000037431 insertion Effects 0.000 description 3
- 238000013507 mapping Methods 0.000 description 2
- 230000008929 regeneration Effects 0.000 description 2
- 238000011069 regeneration method Methods 0.000 description 2
- 238000000926 separation method Methods 0.000 description 2
- 238000012546 transfer Methods 0.000 description 2
- 238000012937 correction Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 238000003672 processing method Methods 0.000 description 1
- 238000013139 quantization Methods 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
Images
Landscapes
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
Abstract
【課題】ベストエフォート型の通信網を利用したテレビ映像信号の受信において、画質の劣化や表示中断の原因を観察者に通知するようにした映像受信端末を提供すること。
【解決手段】映像受信端末40の受信側装置31でパケット損失による通信異常をRTP処理部32で検出する。通信異常による誤りの検出を知らされた誤り処理部34は通信状態表示部35に表示指示を送り、通信状態表示部35は、通信状態を表示する状態表示ランプ38を点灯して通信異常を提示する。
【選択図】 図1
【解決手段】映像受信端末40の受信側装置31でパケット損失による通信異常をRTP処理部32で検出する。通信異常による誤りの検出を知らされた誤り処理部34は通信状態表示部35に表示指示を送り、通信状態表示部35は、通信状態を表示する状態表示ランプ38を点灯して通信異常を提示する。
【選択図】 図1
Description
本発明は、通信網を経由して映像情報を受信する情報通信端末、特に映像情報が圧縮されている場合に適用して好適な情報通信端末。
デジタル信号を伝送する通信網の高速化に伴い、通信網を介して映像信号を送受信することが可能となった。例えば、テレビ映像信号を国際標準のMPEG−2(Motion Picture Experts Group 2)の規格に従って圧縮し、デジタル化した映像信号をATM(Asynchronous Transfer Mode)のセルに入れ、それらセルを使ってSDH(Synchronous Digital Hierarchy)信号を構成して伝送する方法などが国際通信連盟であるITU−T(International Telecommunication Union Telecommunication Standardization Sector)の勧告に記述されている(非特許文献参照)。
従来、テレビ映像信号の伝送においてリアルタイム性(実時間性)が求められることから、テレビ映像信号は、ATMセルやSDH信号などの送受信間において充分な接続保証が成される通信網、即ち、データ送受信の伝送帯域や品質が確保されたギャンティ型(帯域保証型)の通信網を利用して伝送されていた。そのような通信網において、時間軸上で映像のコマ欠損がない、或いは大きな遅延のばらつきがない状態でテレビ映像信号の送受信が行なわれていた。
近年のADSL(Asymmetrical Digital Subscriber Line)やFTTH(Fiber to the Home)などのネットワークにおいてはベストエフォート型(通信品質非保証型)の通信網が形成されている。ベストエフォート型では、1Mbit/s程度或いはそれ以上の帯域を持つIP(Internet Protocol)方式を低料金で利用するサービスの普及により、非常に高料金であるギャランティ型の利用に代わってテレビ映像の送受信をIP方式で伝送するサービスが行なわれ始めた。
圧縮されたテレビ映像信号をIP網で送受信する場合には、テレビ映像信号のスループット(帯域利用効率)とリアリティを確保するために、パケットに分割された信号をTCP(Transmission Control Protocol)/IPという誤り検出時に再送してデータの信頼性を確保する方式ではなく、UDP(User Datagram Protocol)/IPという誤り再送をしないで連続的に送信する方式によって映像信号が送受信される。
UDP/IPのような信号品質を保証しないベストエフォート方式では、ギャランティ方式と異なり、データ誤りや伝送遅延に伴うパケット損失を生じることが避けられない。そのため、MPEG−2などの圧縮映像信号をベストエフォート方式で伝送する場合、復号テレビ映像にブロック(モザイク)状のエラーや帯状のエラー、時にはフレームそのものを表示しないようなエラーが生じることは避けられないことであった。
例えば、わが国で採用されているNTSC(National Television System Committee)方式のテレビ映像信号は、13.5MHzのサンプリング周波数で8bit/サンプルの量子化により符号化されて108Mbit/sになるのであるが、MPEG−2などでは、この信号がフレーム内及びフレーム間圧縮によって8Mbit/s程度まで圧縮される。このような圧縮では1個のフレームのデータが複数のフレームに利用される部分がある。従って、伝送時にデータ誤りがあると復号時に複数のフレームにその影響が出る場合があり、影響が0.5秒程度の長さにまで及んではっきりと視覚できる映像歪みを生じることがある。
データ誤りを改善する手法として、動画信号の異常を検出したときに再送要求をすることによって伝送される信号の異常を低減する特許文献1の例や、パケット損失を検出すると再送要求を出す特許文献2の例のような方法が開示されている。しかしながら、これだけでは誤り率の低減にはなっても誤りを無くすことはできない。
一方、データ誤りがある通信網を経由した映像品質を判定する装置が例えば特許文献3に開示されている。この装置は、デコーダ(復号器)でパケット毎に伝送誤りを検出し、或いはパケット遅延を検出し、その検出結果を集計処理して画質評価をする装置である。この装置では、受信した異常なフレーム、スライス、マクロブロック、ブロックが集計演算されて評価値が求められ、同評価値が遠隔の集計コンピュータに通知される。
復号映像の観察者が映像を鑑賞する場合、ギャランティ型であれば映像にモザイクや意図的な劣悪映像画面があった場合にそれが作成者の意図であると理解することができる。しかし、IP網のようにベストエフォート型の伝送網を介して映像信号を送受信する場合には、そのような画面の映像がオリジナルな映像なのか、転送時に生じた誤りやパケットの損失に伴う乱れを含んだ映像なのかを判別することが難しい。また、特許文献3による装置も、評価値をテレビ映像の観察者(視聴者)へ通知する配慮についての記述はない。
また、ベストエフォート型の通信網でパケット廃棄が高く、映像データが断続的にしか得られない場合には、映像信号の復号処理において映像表示を中断する処理を行なうことがある。このとき、画面に映像が出ないが、それが受信装置とテレビモニタ間の接続が確立されていないためか、断線、接続不良などの要因によるものであるのか、それとも通信劣化の映像処理の中断によるものかを判断することが従来はできなかった。
画質の劣化や中断の原因が分かるようになれば、観察者は納得してベストエフォート型による映像サービスを利用するようになり、その市場性を高めることができる。
本発明の目的は、ベストエフォート型の通信網を利用したテレビ映像信号の受信において、画質の劣化や表示中断の原因を観察者に通知するようにした映像受信端末を提供することにある。
本発明の別の目的は、映像が映らない場合において、その要因の判断を促すことが可能な映像受信端末を提供することにある。
受信した映像信号のパケットから異常を検出した場合に、再送要求や、誤り訂正処理が行なわれるが、異常の状態によっては、リアルタム性の維持に必要な0.5秒程度の遅延を超えて処理が行なわれる場合がある。ベストエフォート型通信網を経由して映像サービスを受ける映像受信端末は、このリアルタム性維持のために、例えば0.5秒程度までに誤りが完全に除去できなくても、誤りがあるままMPEG−2の復号処理を行ない、テレビモニタに画質劣化がある受信映像を表示する。本発明は、そのような画質劣化を伴うことがある映像受信端末を対象にする。
上記目的を達成するための本発明の映像受信端末は、通信網を経て送られてくる符号化した映像信号を受信する受信手段と、映像信号を復号する復号手段と、復号した映像信号を表示する映像表示手段と、映像信号の一部が通信網を伝送中に欠損する通信異常を検出する検出手段と、通信異常が検出されたことを表示によって示す通信状態表示手段とを具備することを特徴とする。このような特徴の映像受信端末は、例えば後で詳述するように、デコーダに最終的に入力する圧縮映像信号の中に誤り(例えばパケット損失)が含まれる場合、受信部がその誤りを誤り処理部に知らせ、知らせを受けた誤り処理部が表示素子を駆動する通信状態表示部に表示指示を出し、表示指示を受けた通信状態表示部が表示素子を駆動して誤りを表示する受信端末として実現される。そのような表示により、伝送誤りに伴う映像劣化、例えばブロックエラーが生じた場合に、観察者は、ベストエフォート型通信網において止むを得ず生じたパケット損失に起因した映像劣化であることと認識することができる。
ここで、映像圧縮技術を用いた映像通信に対して通信状態表示のタイミングと継続時間について配慮されることが望ましい。MPEG−2などの映像圧縮では、フレーム間圧縮と呼ばれる前後のフレーム映像から予測される映像と実写したそのフレームとの差分情報のみを符号化するBピクチャを作成することにより大幅な画像圧縮を得ている。本発明の説明のために、MPEG−2の再生フローに伴う遅延時間の理解が必要なのでそれについて図3を用いて説明する。
MPEG−2では最初に受けたIピクチャ(1)の情報をベースにしてPピクチャ(4)の差分情報を受けるとPピクチャ(4)を再生する処理を行なう。また、Bピクチャ(2,3)の再生はIピクチャ(1)とPピクチャ(4)をベースにBピクチャ(2,3)の差分情報と組み合わせて再生する。Pピクチャ(7)はPピクチャ(4)をベースに再生し、Bピクチャ(5,6)はPピクチャ(4)とPピクチャ(7)をベースに再生し、Bピクチャ(8,9)はPピクチャ(7)とIピクチャ(10)をベースに再生する。
このようにBピクチャの映像を完全に復元するためには、そのフレームよりも後にあるPピクチャやIピクチャの情報も必要になり、復元に0.1秒程度の時間遅延が生じる。また、実際のベストエフォート型通信網では、パケットの到達時間も考慮しておく必要がある。伝送経路でジッタと呼ばれる情報が時間で前後する現象が生じることがあるため、その到達時間差分を吸収するために情報を蓄積して前後を入れ替えるためのバッファリングが受信端末において行なわれる。そのため、バッファリング処理時間の遅延が加算される。更に、フレーム画面の圧縮においては画面構成に依存して情報量が変化するためそのばらつきを吸収して一定のレートでテレビモニタに映像信号を出力するためのバッファリングも行なわれ、その再生遅延による一層の遅延が加算される。
映像信号のパケットを受信してそれが復元映像に反映されるまでには上記のような遅延を生じることになる。その値は一般には0.2〜0.3秒程度である。0.2秒程度の時差は人間の視覚として認識することができるため、誤りを検出したときに直ちに通信状態異常を表示すると、その誤りがある映像の表示に上記時間差による時間遅れがあるため、観察者によっては、その時間遅れを不自然に感ずることがある。特に、ベストエフォート型通信において情報毎に遅延時間にばらつきあることや映像圧縮の知識がない一般の観察者には通信状態表示に疑問を感じることになる。
本発明では、更に好ましい実施形態として、映像の乱れが通信異常によるものであることを明確に認識させるために誤り表示に遅延時間の調整機能を持たせることが行なわれる。遅延の調整機能を持たせる方法としては、(1)全ての誤り検出に対して0.1秒の遅延を持たせて表示する方法、又は(2)IかPかBフレームかを識別して処理遅延時間を当て、それにバッファリングなどの凡そ0.1秒を上記の処理遅延時間に加えた遅延時間で表示する方法をとる。
(1)の0.1秒を充てる手法の特徴は、0.1秒程度では人が殆ど認識することが出ないことを利用している。実現手段として、通信状態表示部までの処理において、ソフトウェアによって検出時刻と表示時刻の間の時間制御を行ない遅延時間を処理する方法と、タイマー回路(例えばRC時定数回路)と各信号検出による分離処理を組み合わせて回路的に遅延時間を持たせる手法がある。
次に、MPEG−2などのフレーム間圧縮では、例えば、Iピクチャで生じた画像乱れは次に続くBピクチャや、Pピクチャにそのまま反映されて次のIピクチャまで映像乱れが継続することになる。フレーム毎に画像が新規に変わるならば、1つのパケット損失に伴う映像の乱れは1/30秒となり、観察者には殆ど認識されないのであるが、フレーム間圧縮を伴う場合の上記の映像乱れは、最大0.3秒程度継続する。
本発明では、更に好ましい別の実施形態として、この映像乱れの継続時間の間中に通信状態異常を表示することにより、パケット損失の通信状態表示時間と映像乱れの時間との関連を持たせることが行なわれる。このように通信状態表示の継続時間を設定することにより、一般視聴者に適格に通信状態の影響を伝えることが可能になる。
実際の継続時間の設定手法として、(1)人が認識可能な時間の平均である0.2秒の継続時間を常に持たせる手法、(2)フレームの種類(I,P,B)を判別してIフレームの場合が0.3秒、Pフレームの場合が0.1秒、Bフレームの場合が0.07秒継続させるようにする手法がある。実現手段として、ソフトウェアによって表示回路を特定の時間継続させる手法、(2)の手法では、フレーム種類の情報をMPEG−2の処理回路から得て、継続時間を選択する方法と、タイマー回路(例えばRC時定数回路)と各信号検出による分離処理を組み合わせることによって回路的に継続時間を持たせる手法とがある。
上記目的を達成するための本発明の別の映像受信端末は、通信網が輻輳して受信したパケットの異常の頻度やパケット損失の頻度が映像を鑑賞するに堪えられない場合に、その状態を観察者の他に送信側にも通知することを特徴とする。具体的には、パケット損失が10%以上になると視聴に耐えられないので、伝送されるパケットに付加したタイムスタンプが許容時間範囲内で検出されず、パケット損失とみなされる頻度が1秒間の平均値で10%以上になった場合に、その状態を観察者及び送信者に通知することが行なわれる。通知により、受信映像を情報量を一層制限した、輻輳した通信網に耐えられる情報へ変更する選択、或いは受信を別の輻輳を避けた時間帯へ変更する選択が行なわれる。
次に、テレビモニタに映像が映らないとき、(1)着信状態にない、(2)着信状態であるが通信状態不良のために映像処理が中断している、(3)受信端末からテレビモニタへの信号経路が確立されていないという状況を区別することが求められる。
上記別の目的を達成するための本発明の映像受信端末は、この区別が行なわれるように、通信網を介して映像信号の送受規定に基づいて着信状態に入ったときに着信状態であること通知する表示と通信状態表示の両者を行なうことを特徴とする。この両者の状態表示を比較することにより、観察者は、着信表示がついていなければ、着信状態にない、着信状態にあるが通信状態表示が悪い表示をしていれば通信不良状態、着信状態であり、かつ、通信正常であれば受信端末からテレビモニタへの信号経路が確立されていないという状況を判断することができる。
本発明によれば、パケット損失を生じ易いベストエフォート型通信網など通信品質が充分に保証されていない通信網を経由して映像信号を再生する映像受信端末において、映像観察者が容易に映像状態を通信状態に帰着することができるようになる。従って、映像品質が劣化するときや無表示のときにAV装置や映像通信端末への疑心を抱くことを避けることができる。そのため、低料金の通信網をその伝送品質に納得しながら利用することができるようになり、ベストエフォート型通信網を利用した映像サービスの市場性を高めることができる。
以下、本発明に係る映像受信端末を図面に示した幾つかの実施形態を参照して更に詳細に説明する。なお、図1、図2、図6及び図8における同一の符号は同一物又は類似物を表示するものとする。
<実施形態1>
本発明の第1の実施形態を図1を用いて説明する。図1に、ビデオカメラで撮影した映像信号をエンコードし、続いてベストエフォート型通信網を経由して伝送し、受信した映像信号をデコードしてテレビモニタに表示する全体システムの構成を示す。図1において、40は、本実施形態の映像受信端末である。
<実施形態1>
本発明の第1の実施形態を図1を用いて説明する。図1に、ビデオカメラで撮影した映像信号をエンコードし、続いてベストエフォート型通信網を経由して伝送し、受信した映像信号をデコードしてテレビモニタに表示する全体システムの構成を示す。図1において、40は、本実施形態の映像受信端末である。
ビデオカメラ10で撮影されたアナログの映像情報は、送信側装置11のMPEG−2エンコーダ12に入力され、デジタル情報に変換されてフレーム毎に符号化圧縮された後、更にIピクチャ、Pピクチャ、Bピクチャに分けられ、フレーム間圧縮される。圧縮符号化されたMPRG-2のデータは、TS(Transport Stream)と呼ばれるデータ符号に変換され、伝送に適した形にフォーマット化される。続いて、送信側RTP(Realtime Transport Protocol)マッピング部13でUDP/IPのパケット列として編集されてベストエフォート型通信網20に送信される。
このとき、送出されるパケットに順番が識別できるようにタイムスタンプが添付される。ベストエフォート型通信網20は、線路の回線の込み具合いによりパケットの経路を変更し、或いは許容量以上になった場合にはパケットの廃棄を行なうなど、遅延時間や到達に関しては保証(ギャランティ)しない通信網である。
映像受信端末40の受信側装置31は、UDP/IPのパケットを受信して受信側RTP処理部32でTS信号に復元する。その場合、タイムスタンプの番号の欠如をパケット損失として評価する。タイムスタンプの番号の検出は、前のタイムスタンプを受信して次のタイムスタンプを所定の待ち時間の間に検出することで行なわれる。所定の待ち時間として、例えば通信網の時間遅れ、受信側での信号処理のためのバッファによる遅延時間などを含め、0.1秒までが許容される。次のタイムスタンプのパケットが0.1秒後に検出されなければ、パケット損失と判断する。これらの処理は、受信したIP信号の処理の中でタイムスタンプのビットを検出し、その検出時から次のタイムスタンプの検出タイマーを起動し、許容時間内に検出すれば検出時点で次の次のタイムスタンプの検出タイマー起動に更新し、検出しなければ許容時間の終了時点で次の次のタイムスタンプの検出モードに更新する。仮に、次のタイムスタンプ検出の許容時間内に早めに次の次のタイムスタンプを持ったパケットを検出しても更新せず、許容時間まで待つ。許容時間まで達したときに次のタイムスタンプを持ったパケットを検出しない場合、次の次のパケットを既に受信しているので次の次の更に次のタイムスタンプで更新することになる。このような論理処理は、受信側装置31が有するCPU(Central Processing Unit)をソフトウェアによって動作させることにより行なわれる。当然、これらの論理処理は、論理回路(ハードウェア)によっても実現可能である。
最終的にMPEG−2デコーダ33に復元TS信号を入力するが、合わせて誤り処理部34に復元TS信号に含まれる通信状態異常に伴う誤り情報、即ちパケット損失の発生を伝える。MPEG−2デコーダ33は、圧縮処理された信号Iピクチャ、Pピクチャ、Bピクチャの復号処理を行ない、得られたアナログ映像信号をテレビモニタ30に出力する。
誤り処理部34は、通信状態異常が伝えられた場合に、通信状態表示部35に異常状態の表示を指示する。指示を受けた通信状態表示35は、観察者(視聴者)にそれが分かるように、例えば状態表示ランプ38を点灯し、通信網からの信号に映像の異常をもたらす異常があったことを知らせる。
観察者は、テレビモニタ30に映像の異常を見たときに同時に通信状態表示の状態表示ランプ38が異常を示していることを見れば、映像の乱れはベストエフォート型通信網20を経由した映像信号に異常があったためであると認識することになる。
一般的には本発明の通信状態表示はベストエフォート型の通信網での必要性が高いものであるが、それ以外の通信網においても映像の乱れが通信網を経由した情報の異常に由来するものであることの認識が必要な場合に役立つものである。
なお、本実施形態では、映像信号がパケットによって送られ、パケットの損失を通信異常としたが、本発明は映像信号をパケットによって伝送することに限定されるものではなく、映像信号が他の信号形式で送られても良く、より一般化して映像信号の一部が通信網を伝送中に欠損することを通信異常とすることが可能である。
<実施形態2>
本発明の第2の実施形態を図2及び図3を用いて説明する。図2は、図1の受信側装置31に通信状態の表示を映像表示の時間に合わせる機能を持たせて、観察者に違和感を感じさせないようにした映像受信端末の機能ブロック図である。また、図3は、MPEG−2の映像フレーム構成と映像再生のためのI、P、Bピクチャの関係を示した再生フロー図である。受信側RTP処理部32は通信網からのテレビ映像UDP/IP信号21を受信してRTP処理を行なうと共に、パケット損失の検出を行なう。更に、受信側RTP処理部32は、RTP処理を行なった映像信号に対してMPEG−2/TS処理を行ない、I、P、Bピクチャ信号をMPEG−2デコーダ33に出力する。デコーダ33は、入力したI、P、Bピクチャ信号をI、P、Bピクチャ信号蓄積部331に記憶する。蓄積部331は、ジッタとよばれるパケット到達順の入れ替わり等を吸収してタイムスタンプ順に直し、ジッタのなくなったI、P、Bピクチャ信号をI、P、Bピクチャ復号処理部332に送る。復号処理部332で復号した信号が復号映像信号D/A出力部333に入力され、ここからアナログ映像信号が出力される。このように、MPEG−2デコーダ33は、I、P、Bピクチャ信号蓄積部331、I、P、Bピクチャ復号処理部332及び復号映像信号D/A出力部333を含んで構成される。
<実施形態2>
本発明の第2の実施形態を図2及び図3を用いて説明する。図2は、図1の受信側装置31に通信状態の表示を映像表示の時間に合わせる機能を持たせて、観察者に違和感を感じさせないようにした映像受信端末の機能ブロック図である。また、図3は、MPEG−2の映像フレーム構成と映像再生のためのI、P、Bピクチャの関係を示した再生フロー図である。受信側RTP処理部32は通信網からのテレビ映像UDP/IP信号21を受信してRTP処理を行なうと共に、パケット損失の検出を行なう。更に、受信側RTP処理部32は、RTP処理を行なった映像信号に対してMPEG−2/TS処理を行ない、I、P、Bピクチャ信号をMPEG−2デコーダ33に出力する。デコーダ33は、入力したI、P、Bピクチャ信号をI、P、Bピクチャ信号蓄積部331に記憶する。蓄積部331は、ジッタとよばれるパケット到達順の入れ替わり等を吸収してタイムスタンプ順に直し、ジッタのなくなったI、P、Bピクチャ信号をI、P、Bピクチャ復号処理部332に送る。復号処理部332で復号した信号が復号映像信号D/A出力部333に入力され、ここからアナログ映像信号が出力される。このように、MPEG−2デコーダ33は、I、P、Bピクチャ信号蓄積部331、I、P、Bピクチャ復号処理部332及び復号映像信号D/A出力部333を含んで構成される。
I、P、Bピクチャ復号処理部332は、I、P、Bピクチャ信号を復号して夫々の映像の時系列的なフレーム再生を行なう。その行程についてMPEG−2の再生フローを示す図3を用いて説明する。図3中の普通線の矢印は、PピクチャやBピクチャを構成すときの時系列的な参照関係を表し、太線の矢印は、Bピクチャをフレーム間処理を行なって構成するために、後のPピクチャやIピクチャ情報を参照する流れを表したものである。MPEG−2では最初に受けたIピクチャ(1)の情報をベースにしてPピクチャ(4)の差分情報を受けるとPピクチャ(4)を再生する処理を行なう。また、Bピクチャ(2,3)の再生はIピクチャ(1)とPピクチャ(4)をベースにBピクチャ(2,3)の差分情報と組み合わせて再生する。Pピクチャ(7)はPピクチャ(4)をベースに再生し、Bピクチャ(5,6)はPピクチャ(4)とPピクチャ(7)をベースに再生、Bピクチャ(8,9)はPピクチャ(7)とIピクチャ(10)をベースに再生する。その場合Bピクチャの再生では前後のI、Pピクチャからの映像合成を行ない、また、TS処理後のP、Bピクチャの圧縮差分された映像データからIと同様の映像フレームを再生するための時間調整を実施するため、調整用の時間遅延が含まれる。
さて、このようにして再生された各映像フレームは時間間隔を整えて復号映像信号D/A出力部333に入力され、ここからアナログ映像信号が出力される。アナログ映像信号はモニタテレビ30に出力され、観察者が再生映像として見ることになる。
このような映像復号再生において受信側RTP処理部32でパケット損失が検出されると、その影響がモニタテレビ30の画面に時間遅れを伴って映像の異常として現われる。時間遅れは、MPEG−2デコーダ33のI、P、Bピクチャ信号蓄積部331、MPEG−2のI、P、Bピクチャ復号処理部332及び復号映像信号D/A出力部333での各処理を経ることによって生じる。また、映像の異常は、多くの場合モザイク状のパターンとなるブロックエラーや画面消失エラーである。
パケット損失の信号処理を行なうパケット処理CPU61は、受信側RTP処理32、MPEG−2復号による遅延時間に対応する遅延時間設定部341及びMPEG−2復号による継続時間に対応する表示保持時間設定部342を含んで構成される。遅延時間設定部341及び表示保持時間設定部342は誤り処理部34に備えられる。受信側RTP処理部32でパケット損失を検出したことを示す情報は、遅延時間設定部341に伝えられる。遅延時間設定部341は、MPEG−2復号再生の一連の処理における遅延時間分の時間遅れを通信状態表示に生じさせる機能を持つ。また、表示保持時間設定部342は、画面に異常が表示される間中、通信状態表示を継続して表示させる機能を持つ。
遅延時間設定の具体的な処理方法として簡単なのは、平均的なMPEG−2復号再生処理の時間を掴んでおき、その時間遅延を持たせる方法である。これは、I、P、Bピクチャ信号蓄積部331とMPEG−2のI、P、Bピクチャ復号処理部332における遅延時間の設定として全体で0.2秒とするものである。一般に0.05秒以下の時差になると殆ど差を認識することができないため、認識が可能な平均的な値の0.2秒とするものである。その遅延の実現には、CPUを用いたソフトウェア処理による方法がある。
より厳密を期す手法として、I、P、Bピクチャ復号処理部332が処理の都度変わる遅延時間を検出し、それを遅延時間設定部341に知らせる方法がある。MPEG−2の再生フレームの中でパケット損失を含むフレームがIかPかBピクチャでどの映像フレームになるかが決まる。従って、MPEG-2デコーダ33の再生信号の処理工程においてパケット損失を反映した信号が各映像フレームの復号に対応するように、MPEG−2のI,P,Bフレーム復号処理部332の処理が終了するまでパケット損失を反映した信号を付随させ、どのフレームにパケット損失が影響しているかを検出する。そして、パケット処理CPU61の遅延時間設定部341と表示保持時間設定342に検出結果を通知する。
遅延時間設定部341は、遅延時間を夫々のフレームで調整することにより厳密に遅延時間を設定する。それにより、通信状態表示と映像表示の開始時間を一致させることが可能になる。遅延時間設定部341の処理をソフトウェアによって行なうことにより、更にその他の遅延要素なども加味することができる。遅延時間設定341は、設定した遅延時間だけ遅れを持つ点灯指示信号を通信状態表示部35に送る。点灯指示信号を入力した表示部35は、モニタテレビ30の再生映像にほぼ合わせたタイミングで通信状態の表示ランプ38に異常を表示することができる。
次に、表示保持時間設定342は、遅延時間設定341及びI、P、Bピクチャ復号処理部332からの情報を入力し、パケット損失が影響して乱れている映像がモニタテレビ30で再生されている間中、状態表示ランプ38の点灯を継続させる。
この継続時間の設定として、平均的なMPEG−2のパケット損失の反映時間である0.1秒程度を設定しておく手法が考えられる。また、より厳密を期す手法として、MPEG−2の再生フレームの中でパケット損失を含むフレームがIかPかBピクチャでどの映像フレームに当たるかの情報を表示保持回路342に入力し、点灯保持時間を夫々のフレーム、例えば、Iピクチャのフレームならば0.3秒、Pピクチャのフレームならば0.2秒、Bピクチャのフレームならば0.033秒に設定する手法がある。そのように保持時間を設定することにより、映像と通信状態の表示の時間を合わせることが可能になる。なお、表示保持時間設定342は、表示がより確認しやすいように保持時間を長く設定することもソフトウェアにより可能である。
図4を用いて、本発明に基づく通信状態の再生遅延及び継続時間について説明する。図4の(a)にはテレビ映像の表示、図4の(b)に通信状態の表示の例を示している。受信側でパケット損失の発生を検出しても図4の(a)のテレビ映像は、MPEG−2の復号、再生処理に起因した遅延があるためパケット損失がない前の受信映像が観察される。このとき創作的なモザイクのような送信側での映像劣化風の映像を観察しても観察者はそれが通信異常に伴うものではないことが分かる。パケット損失が発生してから以降のMPEG−2の復号、再生処理が終了して図4の(a)のテレビ映像にパケット損失に起因したブロックエラーが見られたときに、そのタイミングを合わせて図4の(b)通信状態表示で異常を表すランプが点灯する。それにより、観察者は、ブロックエラーが通信異常に起因するものであることを認識することができる。MPEG−2ではフレーム間圧縮が行なわれるために復号においてそのエラー状態が継続することがあり、それに連動して図4の(b)の通信状態表示が異常を表示していると、観察者は図4の(a)のテレビ映像の劣化が通信異常に起因しているものであると認識することになる。
参考として、復号、再生映像の遅延、継続を考慮しない場合の通信状態表示の例を図5に示す。この場合は、パケット損失を検出した時点で図5の(b)の通信状態表示が異常を表すランプが点灯するが、図5の(a)のテレビ映像には本来意図された創作的なモザイクがあるとそれを通信異常による劣化と誤認する。MPEG−2の復号、再生処理後に図5の(a)のテレビ映像にパケット損失に伴うブロックエラー現れた時点では通信状態表示の異常点灯は保持されていないので消灯している。そのためにブロックエラーを意図された創作的モザイクと誤解する。更に、ブロックエラーが継続しても図5の(b)の通信状態表示が消灯しているため、一層ブロックエラーを創作的なものと勘違いすることになる。
本発明を適用することにより、データ圧縮した映像を比較的伝送品質が悪いベストエフォート型通信網を介して受信するとき、復号、再生する受信側の装置が通信状態表示をパケット損失による映像劣化とタイミングを合わせることができるので、観察者は適格に映像劣化の要因を把握、判断することができるようになる。
<実施例3>
本発明の第3の実施形態を図6及び図7を用いて説明する。本実施形態の映像受信端末は、第2の実施形態に対して更に許容パケット損失状態判定部を設け、通信状態異常が強い場合にモニタテレビに通信状態が悪いことを知らせるスーパーインポーズの挿入機能を持たせたもので、図6はその機能ブロック図である。図7は、通信異常を知らせるスーパーインポーズの一例で、画面に”現在大変に通信状態が悪く映像が乱れています”が表示されている。
<実施例3>
本発明の第3の実施形態を図6及び図7を用いて説明する。本実施形態の映像受信端末は、第2の実施形態に対して更に許容パケット損失状態判定部を設け、通信状態異常が強い場合にモニタテレビに通信状態が悪いことを知らせるスーパーインポーズの挿入機能を持たせたもので、図6はその機能ブロック図である。図7は、通信異常を知らせるスーパーインポーズの一例で、画面に”現在大変に通信状態が悪く映像が乱れています”が表示されている。
図6に示した映像受信端末が実行する、通信異常表示をスーパーインポーズする処理の流れについて説明する。受信側RTP処理部32は、パケット損失を検出するとその情報を誤り処理部34に備える許容パケット損失状態判定部344に入力する。許容パケット損失判定部344は、パケット損失を集計してその頻度を割り出す。例えば、MPEG−2では1%のパケット損失頻度であると1秒間3回程度の映像画面にエラーが観測される。この状態は映像が何を表しているが判別できるが、かなり見苦しい状況である。10%になると映像画面のカットが入るような状況で映像飛びが生じ、もはや何を表しているのか判断に苦しむようになる。そこで、一例として1%以上のパケット損失の頻度となった場合に、許容パケット損失状態判定部344は、テレビモニタ30にスーパーインポーズが表示させると共に、状態表示ランプ38に通信状態強異状の表示を行なわせる指示を誤り処理部34に備える強異状表示指示部345に送る。本実施形態ではスーパーインポーズと強異状表示の両者としているが、片方でも、或いは音声などの別の通知手段でも観察者に通知することは可能である。
指示を受けた強異状表示指示部345は、通信状態悪化を示す文字列を挿入する文字列挿入部334にテレビモニタ30へのスーパーインポーズ指示を送り、合わせて、通信状態表示部35に表示ランプ38への強異状表示指示を送る。
スーパーインポーズの表現は、観察者に映像品質が通信状態の悪化で見難い状態にあることを通知するもので、表現を厳密に規定するものではない。一般のテレビ放送において電波の受信障害が地域で発生したとき”現在、地域によっては大変に電波の状態が悪く映像が乱れています”のようなスーパーインポーズが表示されることがあるが、本発明は放送局で人為的に挿入するのではなく、個々の受信端末で判断して自動的に表示するものである。また、通信状態強異状の表示は、通信状態表示ランプの色を変えるとか、表示を連続点灯にするなどによって通常の表示と区別する。
許容パケット損失状態判定部344における判定は瞬時的なものではなく、例えば5秒間の受信での判定などとし、また、スーパーインポーズの表示もゆっくりと観察者が表示を認識できるように例えば最低5秒間は継続するものである。これらの表示により観察者は通信状態が映像再生に適した状態にないことを知り、他の通信手法に切り替えたり、別の時間帯に受信することを試みる判断ができる。
更に、送信側へTCP/IP信号を送信する通知受信映像信号異常通知部321を設け、許容パケット損失状態判定部344で許容以上のパケット損失状態であると判定した場合に、許容パケット損失状態判定部344から受信映像信号異常通知部321に送信の指示を出す。指示を受けた受信映像信号異常通知部321は、受信映像信号状態の異常を通知するTCP/IP信号22を送信側に送出する。これにより送信側では受信側の状態が把握することができるため、受信側観察者との状態共有ができ、例えば時間をシフトさせる、通信手段を変更するなどの対応が容易にできる。
<実施例4>
本発明の第4の実施形態を図8を用いて説明する。本実施形態の映像受信端末は、送信側装置11からベストエフォート型通信網20を介して受信側装置31に映像信号を送信する場合の接続確立と着信表示を行なうようにしたもので、図8はその機能ブロック図である。
<実施例4>
本発明の第4の実施形態を図8を用いて説明する。本実施形態の映像受信端末は、送信側装置11からベストエフォート型通信網20を介して受信側装置31に映像信号を送信する場合の接続確立と着信表示を行なうようにしたもので、図8はその機能ブロック図である。
送信側装置11は、最初に受信側装置31との接続を確立するために接続制御回路(TCP/IP)15で接続確立用の信号を送信制御回路14を介して送信する。受信側装置31では接続用信号を受信制御回路36で受信すると接続制御回路(TCP/IP)/着信表示部37に通知して、送信装置15に接続確立可能の信号を返信する。これらの接続制御確立信号がTCP/IP信号であるのでパケット損失がベストエフォート型通信網20において生じても、信号が確実に送信側に届くまで再送される。
接続制御回路(TCP/IP)/着信表示37は、接続が確立されたと判断すると着信表示ランプ371を点灯するなどして受信端末が映像信号の受信状態に入ったことを表示する。映像信号の受信状態では受信側RTP処理部32が機能し、誤り検出状態のときに受信側RTP処理部32から誤り処理部34に、更に誤り処理部34から通信状態表示部35に通信状態表示の通知が送られ、通信異常を表す通信状態表示ランプ351が点灯する。
パケット損失が頻繁になると、MPEG−2デコーダ33では映像復号再生処理を中断してテレビモニタ30に映像が表示されない場合がある。観察者は受信映像がテレビモニタに映っているときには問題を感じないが、映るべき映像が映らないときには状態把握に苦慮するところであるが、着信表示、通信状態表示があることにより、以下の判断が可能になる。
即ち、(1)着信表示のランプ371が点灯していないときには着信状態になく、送受信間の接続が確立されていない。(2)着信ランプ371が点いているが通信状態異常を告げるランプ表示38が点いていないときには受信側装置31とテレビモニタ30をつなぐ信号経路が正常に確立されていない。(3)着信表示ランプ371が点灯して通信状態異常を告げるランプ表示があるときには通信異常により映像処理を中断している。これらの判断が可能となることによりベストエフォート型通信網20を介した映像信号受信において観察者に納得の得られる映像サービスを提供することができる。
1…観察者(視聴者)、10…ビデオカメラ、11…送信側装置、12…MPEG−2エンコーダ、13…送信側RTPマッピング部、14…送信制御回路、15…接続制御回路(TCP/IP)、20…ベストエフォート型通信網、21…テレビ映像UDP/IP信号、22…受信映像信号状態異常通知TCP/IP信号、30…テレビモニタ、31…受信側装置、32…受信側RTP処理部、33…MPEG−2デコーダ、34…誤り処理部、35…通信状態表示部、36…受信制御回路、37…接続制御回路(TCP/IP)/着信表示部、38…状態表示ランプ、40…映像受信端末、61…パケット処理CPU、321…受信映像信号異常通知部、331…I、P、Bピクチャ信号蓄積部、332…MPEG−2のI,P,Bピクチャ復号処理部、333…復号映像信号D/A出力部、334…文字列挿入部、341…遅延時間設定部、342…表示保持時間設定部、344…許容パケット損失状態判定部、345…強異状表示指示部、371…着信表示ランプ。
Claims (6)
- 通信網を経て送られてくる符号化した映像信号を受信する受信手段と、上記映像信号を復号する復号手段と、復号した映像信号を表示する映像表示手段と、上記映像信号の一部が上記通信網を伝送中に欠損する通信異常を検出する検出手段と、上記通信異常が検出されたことを表示によって示す通信状態表示手段とを具備することを特徴とする映像受信端末。
- 上記映像信号は、圧縮して符号化されてからパケットを用いて送信され、上記検出手段は、上記パケットの損失から上記通信異常を検出することを特徴とする請求項1に記載の映像受信端末。
- 上記通信異常によって現われる映像の乱れを上記映像表示手段が表示する表示の開始時間と、上記通信状態表示手段が上記通信異常が検出されたことを示す表示の開始時間とをほぼ一致させる遅延時間設定手段を更に具備することを特徴とする請求項1に記載の映像受信端末。
- 上記通信異常によって現われる映像の乱れを上記映像表示手段が表示する時間の長さと、上記通信状態表示手段が上記通信異常が検出されたことを示す時間の長さとをほぼ一致させる表示保持時間設定手段を更に具備することを特徴とする請求項3に記載の映像受信端末。
- 通信網を経て送られてくる符号化した映像信号を受信する受信手段と、上記映像信号を復号する復号手段と、復号した映像信号を表示する映像表示手段と、上記映像信号の一部が上記通信網を伝送中に欠損する通信異常を検出する検出手段とを具備し、上記映像信号の欠損の割合が所定値以上となる通信異常が強異常として検出されたときに、上記映像表示手段によって表示される映像に上記強異常を表す文字列をスーパーインポーズするか、上記強異常が検出されたことを表示又は音声によって通知するかの少なくともいずれかが実行されることを特徴とする映像受信端末。
- 通信網を経て送られてくる符号化した映像信号を受信する受信手段と、上記映像信号を復号する復号手段と、復号した映像信号を表示する映像表示手段と、上記映像信号の一部が上記通信網を伝送中に欠損する通信異常を検出する検出手段、上記通信異常が検出されたことを表示によって示す通信状態表示手段と、上記映像信号の送信側装置との間で接続の確立を行なう接続確立手段と、接続が確立したことを表示によって示す着信表示手段とを具備することを特徴とする映像受信端末。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004011454A JP2005210160A (ja) | 2004-01-20 | 2004-01-20 | 通信状態表示を有する映像受信端末 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004011454A JP2005210160A (ja) | 2004-01-20 | 2004-01-20 | 通信状態表示を有する映像受信端末 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2005210160A true JP2005210160A (ja) | 2005-08-04 |
Family
ID=34898135
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2004011454A Pending JP2005210160A (ja) | 2004-01-20 | 2004-01-20 | 通信状態表示を有する映像受信端末 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2005210160A (ja) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008131443A (ja) * | 2006-11-22 | 2008-06-05 | Hitachi Ltd | 監視システム、及び、その障害状況表示方法 |
JP2010081016A (ja) * | 2008-09-24 | 2010-04-08 | Fuji Xerox Co Ltd | 画像送信装置、画像送信プログラム、及び画像通信システム |
WO2013099630A1 (ja) * | 2011-12-28 | 2013-07-04 | ソニー株式会社 | 表示装置、表示制御方法、およびプログラム |
WO2013108566A1 (ja) * | 2012-01-16 | 2013-07-25 | 三菱電機株式会社 | 映像受信端末、ホームゲートウェイ装置、品質管理システム及び品質劣化切り分けシステム |
US8681197B2 (en) | 2005-11-29 | 2014-03-25 | Sony Corporation | Communication system, terminal apparatus and computer program |
-
2004
- 2004-01-20 JP JP2004011454A patent/JP2005210160A/ja active Pending
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8681197B2 (en) | 2005-11-29 | 2014-03-25 | Sony Corporation | Communication system, terminal apparatus and computer program |
JP2008131443A (ja) * | 2006-11-22 | 2008-06-05 | Hitachi Ltd | 監視システム、及び、その障害状況表示方法 |
JP2010081016A (ja) * | 2008-09-24 | 2010-04-08 | Fuji Xerox Co Ltd | 画像送信装置、画像送信プログラム、及び画像通信システム |
WO2013099630A1 (ja) * | 2011-12-28 | 2013-07-04 | ソニー株式会社 | 表示装置、表示制御方法、およびプログラム |
JPWO2013099630A1 (ja) * | 2011-12-28 | 2015-04-30 | ソニー株式会社 | 表示装置、表示制御方法、およびプログラム |
US11197064B2 (en) | 2011-12-28 | 2021-12-07 | Saturn Licensing Llc | Display device, display control method, and program |
WO2013108566A1 (ja) * | 2012-01-16 | 2013-07-25 | 三菱電機株式会社 | 映像受信端末、ホームゲートウェイ装置、品質管理システム及び品質劣化切り分けシステム |
US9503355B2 (en) | 2012-01-16 | 2016-11-22 | Mitsubishi Electric Corporation | Video receiving terminal, home gateway device, quality management system, and quality deterioration isolation system |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US7116714B2 (en) | Video coding | |
Kang et al. | Packet scheduling algorithm for wireless video streaming | |
JP3957460B2 (ja) | 伝送ヘッダ圧縮装置、動画像符号化装置及び動画像伝送システム | |
US8055221B2 (en) | Method of providing video call service in mobile station in a weak signal environment | |
EP1628488B1 (en) | Error concealment in a video decoder | |
JP2003333577A (ja) | メディア・ストリーミング配信システム | |
CN101166270A (zh) | 多媒体视频通信方法及系统 | |
US6646674B1 (en) | TV telephone system | |
WO2001093579A1 (en) | Method for dealing with missing or untimely synchronization signals in digital communications systems | |
KR101280132B1 (ko) | 실시간 콘텐츠 분배의 클라이언트 입력 버퍼의 충전율 추정 장치 및 방법 | |
WO2012116558A1 (zh) | 一种视频质量评估方法及装置 | |
JP3707369B2 (ja) | テレビ電話装置 | |
WO2017000836A1 (zh) | 一种报文传输方法及装置 | |
EP2404451A1 (en) | Processing of multimedia data | |
JP5715262B2 (ja) | 協調メディアシステム内の複数の端末装置を介したコンテンツの配信を管理する方法及び装置 | |
JP2009512265A (ja) | ネットワーク上の動画データ伝送制御システムとその方法 | |
JP2005210160A (ja) | 通信状態表示を有する映像受信端末 | |
JP2005033556A (ja) | データ送信装置、データ送信方法、データ受信装置、データ受信方法 | |
CN115102927B (zh) | 一种保持视频清晰的sip对讲方法、系统、存储装置 | |
JP2001309375A (ja) | メディア分離方法と画像復号方法及び装置 | |
US20230034162A1 (en) | Transmission apparatus and transmission method | |
JP2010193327A (ja) | 画像復号装置およびパケット損失補償方法 | |
Lima et al. | High definition video broadcast over core IP networks | |
JPH04345290A (ja) | 動画像信号伝送装置 | |
Hlavacs et al. | How to Evaluate the Quality of Service of Satellite based Content Delivery Networks. |