JP2004112678A - 映像検索装置 - Google Patents
映像検索装置 Download PDFInfo
- Publication number
- JP2004112678A JP2004112678A JP2002275653A JP2002275653A JP2004112678A JP 2004112678 A JP2004112678 A JP 2004112678A JP 2002275653 A JP2002275653 A JP 2002275653A JP 2002275653 A JP2002275653 A JP 2002275653A JP 2004112678 A JP2004112678 A JP 2004112678A
- Authority
- JP
- Japan
- Prior art keywords
- screens
- correlation
- screen
- continuous
- measuring
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/14—Picture signal circuitry for video frequency region
- H04N5/147—Scene change detection
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Image Analysis (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Television Signal Processing For Recording (AREA)
- Compression, Expansion, Code Conversion, And Decoders (AREA)
Abstract
【解決手段】映像入力部12は、TV番組などの画像データを蓄積装置11から取り出し、連続するn画面分についての画像データを連続画面間相関測定部13およびサンプル画面間相関測定部14に入力させる。連続画面間相関測定部13は、動画像データから連続する画面間の相関を測定し、サンプル画面間相関測定部14は、サブサンプルされた画面間の相関を測定する。短尺ショット判定部15は、連続する画面間の相関および前記サブサンプルされた画面間の相関を用いて短尺カット点を判定する。さらに、連続する画面間、サブサンプルされた画面間の動き量を考慮して短尺カット点を判定することもできる。
【選択図】 図1
Description
【発明の属する技術分野】
本発明は、映像検索装置に関し、特に、動画像における短尺ショットを誤りなく効率的に検出することができる映像検索装置に関する。
【0002】
【従来の技術】
映像中に含まれるサブリミナル映像を判定するサブリミナル映像処理装置が特開平9−284667号公報に開示されている。このサブリミナル映像処理装置は、n画面分の連続画像データを一画面ずつ蓄積し、蓄積されたn画面分の画面データと最新に入力された画像データとを比較・判断し、同一画面とされた画面よりも古く蓄積された画面に異画面と判断された部分があるとき、前後の画面と異なる絵柄を持つnコマ以下の画面をサブリミナル映像の画面と判定するものである。
【0003】
このブロック図を図10に示し、n画面記憶部50からのn画面分の連続画像データと最新画面入力部51からの最新入力の画像データとをn画面比較部52で比較し、その異同を異画面判定部53で判定する。サブリミナル映像判定部54は、異画面判定部53での判定結果に基づいてサブリミナル映像を判定し、サブリミナル映像と判定された画像データはサブリミナル映像除去部55で除去される。
【0004】
このように、連続する画像中に含まれる1フレームから数フレーム程度の短尺ショットを検出する従来の手法は、単に、最新に入力された画面と既入力のn画面との異同に基づいて短尺ショットを検出するというものである。
【0005】
【発明が解決しようとする課題】
しかしながら、前記特開平9−284667号公報に記載された手法は、短尺ショットか否かを、単に、最新に入力された画面と既入力のn画面とを比較した結果に基づいて判断するものであり、静止画像中に挿入された短尺ショットは良好に検出できるが、動画像の場合には誤検出が生じるという問題がある。
【0006】
例えば、同一ショットでも画像の動きが不連続の場合には、同一ショットに含まれる一部の画面だけが入力画面と異なることが起こるため、該画面部分を短尺ショット(サブリミナル映像)と誤って検出する可能性がある。また、画像の動きが連続的であっても、最新の入力された画面と、該画面と比較的離れた古い画面とを異画面であると判断し、該画面部分を短尺ショット(サブリミナル映像)と誤って検出する可能性もある。
【0007】
本発明の目的は、前記した従来技術の問題点を解決し、入力動画像中に挿入された短尺のショットを誤りなく効率的に検出することができる映像検索装置を提供することにある。
【0008】
【課題を解決するための手段】
上記課題を解決するため、本発明は、連続する動画像データを入力する手段と、前記動画像データから連続する画面間の相関を測定する手段と、前記動画像データからサブサンプルされた画面間の相関を測定する手段と、前記連続する画面間の相関および前記サブサンプルされた画面間の相関を用いて短尺カット点を判定する手段とを有する点に第1の特徴がある。
【0009】
また、本発明は、連続する動画像データを入力する手段と、前記動画像データから連続する画面間の相関を測定する手段と、前記動画像データからサブサンプルされた画面間の相関を測定する手段と、前記動画像データから連続する画面間の動き量を測定する手段と、前記連続する画面間の相関、前記サブサンプルされた画面間の相関および前記連続する画面間の動き量を用いて短尺カット点を判定する手段とを有する点に第2の特徴がある。
【0010】
また、本発明は、連続する動画像データを入力する手段と、前記動画像データから連続する画面間の相関を測定する手段と、前記動画像データからサブサンプルされた画面間の相関を測定する手段と、前記動画像データから連続する画面間の動き量を測定する手段と、前記動画像データからサブサンプルされた画面間の動き量を測定する手段と、前記連続する画面間の相関、前記サブサンプルされた画面間の相関、前記連続する画面間の動き量および前記サブサンプルされた画面間の動き量を用いて短尺カット点を判定する手段とを有する点に第3の特徴がある。
【0011】
また、本発明は、連続する動画像データを入力する手段と、前記動画像データから連続する画面間の相関を測定する手段と、前記動画像データからサブサンプルされた画面間の相関を測定する手段と、前記連続する画面間の相関および前記サブサンプルされた画面間の相関を用いて短尺カット点候補を判定する手段と、前記短尺カット点候補について、前記動画像データから連続する画面間の動き量を測定する手段と、前記連続する画面間の動き量を用いて短尺カット点を判定する手段とを有する点に第4の特徴がある。
【0012】
また、本発明は、連続する動画像データを入力する手段と、前記動画像データから連続する画面間の動き量を測定する手段と、前記連続する画面間の動き量を用いて短尺カット点候補を判定する手段と、前記短尺カット点候補について、前記動画像データから連続する画面間の相関を測定する手段と、前記短尺カット点候補について、前記動画像データからサブサンプルされた画面間の相関を測定する手段と、前記連続する画面間の相関および前記サブサンプルされた画面間の相関を用いて短尺カット点を判定する手段とを有する点に第5の特徴がある。
【0013】
また、本発明は、連続する動画像データを入力する手段と、前記動画像データから連続する画面間の相関を測定する手段と、前記動画像データからサブサンプルされた画面間の相関を測定する手段と、前記連続する画面間の相関および前記サブサンプルされた画面間の相関を用いて短尺カット点候補を判定する手段と、前記短尺カット点候補について、前記動画像データから連続する画面間の動き量を測定する手段と、前記短尺カット点候補について、前記動画像データからサブサンプルされた画面間の動き量を測定する手段と、前記連続する画面間の動き量および前記サブサンプルされた画面間の動き量を用いて短尺カット点を判定する手段とを有する点に第6の特徴がある。
【0014】
また、本発明は、連続する動画像データを入力する手段と、前記動画像データから連続する画面間の動き量を測定する手段と、前記連続する画面間の動き量を用いて短尺カット点候補を判定する手段と、前記短尺カット点候補について、前記動画像データから連続する画面間の相関を測定する手段と、前記短尺カット点候補について、前記動画像データからサブサンプルされた画面間の相関を測定する手段と、前記短尺カット点候補について、前記動画像データからサブサンプルされた画面間の動き量を測定する手段と、前記連続する画面間の相関、前記サブサンプルされた画面間の相関および前記サブサンプルされた画面間の動き量を用いて短尺カット点を判定する手段とを有する点に第7の特徴がある。
【0015】
また、本発明は、入力される動画像データが、画像データの低周波成分からなる点に第8の特徴がある。
【0016】
さらに、本発明は、入力される動画像データが、圧縮された画像データを部分復号して得られる低周波画像データと動きベクトルとからなる点に第9の特徴がある。
【0017】
第1の特徴によれば、連続する画面間の相関を用いており、さらにサブサンプルされた画面間の相関を用いて短尺カット点を判定するので、動画像中に挿入された短尺のショットを誤りなく効率的に検出することができる。
【0018】
また、第2および第3の特徴によれば、さらに、連続する画面間の動き量やサブサンプルされた画面間の動き量を用いて短尺カット点を判定するので、同一ショットにおける画像の動きが不連続な場合でもより確実に誤判定を防ぐことができる。
【0019】
また、第4および第6の特徴によれば、連続する画面間の相関およびサブサンプルされた画面間の相関を用いて短尺カット点候補を判定し、この判定により絞り込まれた短尺カット点候補について、連続する画面間の動き量やサブサンプルされた画面間の動き量を測定して短尺カット点を判定するので、比較的処理の重い動き量の測定を必要最小限に抑えることができる。
【0020】
また、第5および第7の特徴によれば、連続する画面間の動き量を用いて短尺カット点候補を判定し、この判定により絞り込まれた短尺カット点候補について、連続する画面間の相関やサブサンプルされた画面間の相関やサブサンプルされた画面間の動き量を測定して短尺カット点を判定するので、動きが大きなショットを最初に除外することができ、装置全体としての検出処理負荷を軽減することができる。
【0021】
また、第8の特徴によれば、画像データの低周波成分を用いて短尺カット点を判定するので、処理を軽減することができる。
【0022】
さらに、第9の特徴によれば、入力される動画像データが、圧縮された動画像データを部分復号して得られる低周波画像データと動きベクトルとからなるので、低周波画像データを用いることにより処理を軽減することができ、また、連続する画面間の動き量やサブサンプルされた画面間の動き量の測定を含むものにおいては、その測定を動きベクトルを用いて容易に行うことができる。
【0023】
【発明の実施の形態】
以下、図面を参照して本発明を詳細に説明する。図1は、本発明に係る映像検索装置の第1の実施形態を示すブロック図である。図1において、制御部10は、本映像検索装置の全体の動作を制御する。
【0024】
映像入力部12は、TV番組などの画像データを蓄積装置11から取り出し、連続するn画面分についての画像データを連続画面間相関測定部13およびサンプル画面間相関測定部14に入力させる。なお、この入力は、短尺ショットの検出処理1回ごとに1画面ずつずらしながら繰り返し行う。
【0025】
連続画面間相関測定部13は、連続する2つの画面P(i−1)、P(i)間の相関(以下、連続画面間相関と称す。)CC(i),i=1,2,・・・,n−1を測定する。また、サンプル画面間相関測定部14は、サンプルされた画面間の相関(以下、サンプル画面間相関と称す。)SCを測定する。サンプル画面は、例えば、画面P(0)と画面P(n−1)であり、これらの画面P(0)、画面P(n−1)間の相関SCを測定する。
【0026】
なお、連続画面間相関やサンプル画面間相関は、画面間輝度絶対差分和、画面平均輝度絶対差分値、画面平均色差絶対差分、画面間輝度ヒストグラム絶対差分和、画面間色差ヒストグラム絶対差分和、画面間色差ヒストグラム相関値などのいずれかを求めることにより、あるいはそれらの組み合わせを用いることにより測定できる。組み合わせによる場合、例えば、画面間輝度ヒストグラム絶対差分和と画面間色差ヒストグラム絶対差分和の和を用いることができる。
【0027】
連続画面間相関測定部13から出力される連続画面相関CC(i)およびサンプル画面間相関測定部14から出力されるサンプル画面相関SCは短尺ショット判定部15に入力される。
【0028】
短尺ショット判定部15は、連続画面間相関CC(i)がi=1,n−1で低くそれ以外でCC(i)が高く、かつサンプル画面間相関SCが高い場合に、画面P(0)と画面P(2)間、画面P(n−2)と画面P(n−1)間にそれぞれ短尺カット点が存在すると判定し、短尺ショット区間P(1)〜P(n−2)を検出する。
【0029】
短尺ショットの判定は、閾値処理で行うことができる。図2は、連続画面間相関CC(1)とCC(n−1)の閾値をTCLとし、その他の連続画面間相関CC(i)の閾値をTCHとし、サンプル画面間相関SCの閾値をTSHとして、画面P(0)〜P(n−1)のn画面において、CC(1)<TCL、CC(n−1)< TCL、CC(2)〜CC(n−2)> TCHであり、かつSC>TSHであり、短尺ショット区間P(1)〜P(n−2)が検出される状態を示している。ここで、閾値TCLとTCHとは、同一の値でも異なる値でも構わない。
【0030】
なお、n=3の場合には、連続画面間相関CC(i)がi=1,2で低く、かつサンプル画面間相関SCが高い場合に、短尺ショットがi=1で存在すると判定すればよい。
【0031】
また、連続するn画面としては、連続するN画面から時系列に任意あるいは周期的にサンプルしたn画面を用いてもよく、本発明における連続する動画像データとは、このような動画像データも含む。
【0032】
また、蓄積装置11は、予め動画像データを蓄積しているものに限らず、リアルタイムで連続入力される動画像データの一次蓄積装置などでもよい。さらに、入力される動画像データの画面は、フレーム単位でもフィールド単位でもよく、フィールド単位の場合には偶数または奇数のいずれかのフィールドのみを用いるればよい。
【0033】
本発明においては、動画像の動きをも考慮して短尺カット点を判定することができ、動画像の動きをも考慮すれば、同一ショットにおける画像の動きが不連続な場合の誤判定をより確実に防ぐことができる。以下、動画像の動きをも考慮したいくつかの実施形態についを説明する。なお、図1と同一あるいは同等部分には同一符号を付している。
【0034】
図3は、本発明に係る映像検索装置の第2の実施形態を示すブロック図である。図3において、制御部10は、本映像検索装置の全体の動作を制御する。映像入力部12は、TV番組などの画像データを蓄積装置11から取り出し、連続するn画面分についての画像データを連続画面間相関測定部13、サンプル画面間相関測定部14および連続画面間動き測定部17に入力させる。
【0035】
連続画面間相関測定部13は、連続する2つの画面P(i−1)、P(i)間の相関CC(i),i=1,2,・・・,n−1を測定する。また、サンプル画面間相関測定部14は、サンプル画面間相関SCを測定する。サンプル画面は、例えば、画面P(0)と画面P(n−1)であり、これらの画面P(0)、画面P(n−1)間の相関SCを測定する。
【0036】
また、連続画面間動き測定部17では連続する2つの画面P(i−1)、P(i)間の動き量(以下、連続画面間動き量と称す。)MA(i)を測定する。連続画面間動き量MA(i)としては、連続画面間においてブロックマッチング法で求めた動きベクトルノルムの画面平均、動きベクトルのX成分、Y成分それぞれの絶対値の画面平均値、動きベクトルノルムや動きベクトルのX成分、Y成分それぞれの絶対値の偏差の統計値などを用いることができる。
【0037】
連続画面間相関測定部13から出力される連続画面相関CC(i)、サンプル画面間相関測定部14から出力されるサンプル画面相関SCおよび連続画面間動き測定部17から出力される連続画面間動き量MA(i)は短尺ショット判定部15に入力される。
【0038】
短尺ショット判定部15は、連続画面間相関CC(i)がi=1,n−1で低くそれ以外でCC(i)が高く、サンプル画面間相関SCが高く、かつ連続画面間動き量MA(i)がi=1,n−1で低い場合に、画面P(0)と画面P(2)間、画面P(n−2)と画面P(n−1)間にそれぞれ短尺カット点が存在すると判定し、短尺ショット区間P(1)〜P(n−2)を検出する。なお、画面間動き量は、異画面間では低いものとして測定される。
【0039】
短尺ショットの判定は、閾値処理で行うことができる。図2は、連続画面間相関CC(1)とCC(n−1)の閾値をTCLとし、その他の連続画面間相関CC(i)の閾値をTCHとし、サンプル画面間相関SCの閾値をTSHとし、連続画面間動き量MA(i)の閾値をTMLとして、画面P(0)〜P(n−1)のn画面において、CC(1)<TCL、CC(n−1)< TCL、CC(2)〜CC(n−2)> TCHであり、SC>TSHであり、かつMA(1)<TML、MA(n−1)< TMLであり、短尺ショット区間P(1)〜P(n−2)が検出される状態を示している。
【0040】
なお、n=3の場合には、連続画面間相関CC(i)がi=1,2で低く、サンプル画面間相関SCが高く、かつ連続画面間動き量MA(i)がi=1,2で低い場合に短尺ショットがi=1で存在すると判定すればよい。
【0041】
図4は、本発明に係る映像検索装置の第3の実施形態を示すブロック図である。図4において、制御部10は、本映像検索装置の全体の動作を制御する。映像入力部12は、TV番組などの画像データを蓄積装置11から取り出し、連続するn画面分についての画像データを連続画面間相関測定部13、サンプル画面間相関測定部14、連続画面間動き測定部17およびサンプル画面間動き測定部18に入力させる。
【0042】
連続画面間相関測定部13は、連続する2つの画面P(i−1)、P(i)間の相関CC(i),i=1,2,・・・,n−1を測定する。また、サンプル画面間相関測定部14は、サンプル画面間相関SCを測定する。サンプル画面は、例えば、画面P(0)と画面P(n−1)であり、これらの画面P(0)、画面P(n−1)間の相関SCを測定する。
【0043】
連続画面間動き測定部17では連続する2つの画面P(i−1)、P(i)間の動き量MA(i)を測定する。また、サンプル画面間動き測定部18ではサンプルされた画面間の動き量(以下、サンプル画面間動き量と称す。)SMを測定する。なお、サンプル画面間動き測定部18でのサンプル画面は、サンプル画面間相関測定部14でのサンプル画面と同一のものであり、例えば、画面P(0)と画面P(n−1)をサンプルとして用いて、これらの画面間の動き量SMを求める。
【0044】
連続画面間相関測定部13から出力される連続画面間相関CC(i)、サンプル画面間相関測定部14から出力されるサンプル画面間相関SC、連続画面間動き測定部17から出力される連続画面間動き量MA(i))、サンプル画面間動き測定部18から出力されるサンプル画面間動き量SMは短尺ショット判定部15に入力される。
【0045】
短尺ショット判定部15は、連続画面間相関CC(i)がi=1,n−1で低くそれ以外でCC(i)が高く、サンプル画面間相関SCが高く、連続画面間動き量MA(i)がi=1,n−1で低く、かつサンプル画面間動き量SMが低い場合に、画面P(0)と画面P(2)間、画面P(n−2)と画面P(n−1)間にそれぞれ短尺カット点が存在すると判定し、短尺ショット区間P(1)〜P(n−2)を検出する。
【0046】
短尺ショットの判定は、閾値処理で行うことができる。図2は、連続画面間相関CC(1)とCC(n−1)の閾値をTCLとし、その他の連続画面間相関CC(i)の閾値をTCHとし、サンプル画面間相関SCの閾値をTSHとし、連続画面間動き量MA(i)およびサンプル画面間動き量SMの閾値をTMLとして、画面P(0)〜P(n−1)のn画面において、CC(1)<TCL、CC(n−1)< TCL、CC(2)〜CC(n−2)> TCHであり、SC>TSHであり、MA(1)<TML、MA(n−1)< TMLであり、かつSM<TMLであり、短尺ショット区間P(1)〜P(n−2)が検出される状態を示している。
【0047】
図5は、本発明に係る映像検索装置の第4の実施形態を示すブロック図である。図5において、制御部10は、本映像検索装置の全体の動作を制御する。映像入力部12は、TV番組などの画像データを蓄積装置11から取り出し、連続するn画面分についての画像データを連続画面間相関測定部13およびサンプル画面間相関測定部14に入力させる。
【0048】
連続画面間相関測定部13は、連続する2つの画面P(i−1)、P(i)間の相関CC(i),i=1,2,・・・,n−1を測定する。また、サンプル画面間相関測定部14は、サンプル画面間相関SCを測定する。サンプル画面は、例えば、画面P(0)と画面P(n−1)であり、これらの画面P(0)、画面P(n−1)間の相関SCを測定する。
【0049】
連続画面間相関測定部13から出力される連続画面間相関値CC(i)、サンプル画面間相関測定部14から出力されるサンプル画面間相関値SCは短尺ショット候補判定部19に入力される。
【0050】
短尺ショット候補判定部19は、連続画面間相関CC(i) がi=1,n−1で低くそれ以外で高く、かつサンプル画面間相関SCが高い場合に、短尺ショット候補がi=1からi=n−2間で存在すると判定する。
【0051】
次に、連続画面間動き測定部17において、短尺ショット候補と判定された画面P(1)〜P(n−2)を含むn画面P(0)〜P(n−1)について、連続画面間動き量MA(i)を測定する。連続画面間動き測定部17から出力される連続画面間動き量MA(i)は、短尺ショット判定部15に入力される。
【0052】
短尺ショット判定部15は、連続画面間動き量MA(i)がi=1,n−1で低い場合に、画面P(0)と画面P(2)間、画面P(n−2)と画面P(n−1)間にそれぞれ短尺カット点が存在すると判定し、短尺ショット区間P(1)〜P(n−2)を検出する。
【0053】
図5の実施形態では、連続画面間相関およびサンプル画面間相関を測定した後に連続画面間動き量を測定するものであり、この構成によれば、短尺カット点候補についてのみ連続画面間動き量を測定すればよく、動き量の測定を必要最小限に抑えることができる。
【0054】
図6は、図5における処理の順序を逆にした変形例である第5の実施形態を示す。図6の実施形態では、入力された動画像データを、まず、連続画面間動き測定部17に入力して連続画面間動き量MA(i)を測定する。次に、測定された連続画面間動き量MA(i)を短尺ショット候補判定部19に入力して短尺ショット候補として画面P(1)〜P(n−2)を検出する。
【0055】
続いて、短尺ショット候補と判定された画面P(1)〜P(n−2)を含むn画面P(0)〜P(n−1)についての画像データを連続画面間相関測定部13、サンプル画面間相関測定部14に入力させ、連続画面間相関測定部13から出力される画面間相関値CC(i)とサンプル画面間相関測定部14から出力されるサンプル画面間相関値SCとを短尺ショット判定部15に入力させて画面P(0)と画面P(2)間、画面P(n−2)と画面P(n−1)間にそれぞれ短尺カット点が存在すると判定し、短尺ショット区間P(1)〜P(n−2)を検出する。
【0056】
図6の実施形態によれば、動きが大きなショットがまず除外され、それらについては画面間相関を測定する必要がなくなるので、装置全体としての検出処理負荷を軽減することができる。
【0057】
図7は、本発明に係る映像検索装置の第6の実施形態を示すブロック図である。図7において、制御部10は、本映像検索装置の全体の動作を制御する。映像入力部12は、TV番組などの画像データを蓄積装置11から取り出し、連続するn画面分についての画像データを連続画面間相関測定部13およびサンプル画面間相関測定部14に入力させる。
【0058】
連続画面間相関測定部13は、連続する2つの画面P(i−1)、P(i)間の相関CC(i),i=1,2,・・・,n−1を測定する。また、サンプル画面間相関測定部14は、サンプル画面間相関SCを測定する。サンプル画面は、例えば、画面P(0)と画面P(n−1)であり、これらの画面P(0)、画面P(n−1)間の相関SCを測定する。
【0059】
連続画面間相関測定部13から出力される連続画面間相関CC(i)、サンプル画面間相関測定部14から出力されるサンプル画面間相関SCは短尺ショット候補判定部19に入力される。
【0060】
短尺ショット候補判定部19は、連続画面間相関CC(i) がi=1,n−1で低くそれ以外で高く、かつサンプル画面間相関SCが高い場合に、短尺ショット候補がi=1からi=n−2間で存在すると判定する。
【0061】
続いて、短尺ショット候補と判定された画面P(1)〜P(n−2)を含むn画面P(0)〜P(n−1)についての画像データを連続画面間動き測定部17およびサンプル画面間動き測定部18に入力させ、連続画面間動き測定部17から出力される連続画面間動き量MA(i)とサンプル画面間動き測定部18から出力されるおよびサンプル画面間動き量SMを短尺ショット判定部15に入力させる。短尺ショット判定部15では連続画面間動き量MA(i)がi=1,n−1で低く、サンプル画面間動き量SMが低い場合に、画面P(0)と画面P(2)間、画面P(n−2)と画面P(n−1)間にそれぞれ短尺カット点が存在すると判定し、短尺ショット区間P(1)〜P(n−2)を検出する。
【0062】
図7の実施形態の変形例である第7の実施形態を図8に示す。第7の実施形態では、入力映像についてまず、連続画面間動き測定部17で連続画面間動き量MA(i)を測定し、連続画面間動き量MA(i)を短尺ショット候補判定部19に入力して短尺ショット候補を判定する。次に、短尺ショット候補と判定された画面P(1)〜P(n−2)を含むn画面P(0)〜P(n−1)についての画像データを連続画面間相関測定部13、サンプル画面間相関測定部14、サンプル画面間動き測定部18に入力させ、連続画面間相関測定部13から出力される画面間相関CC(i)、サンプル画面間相関測定部14から出力される連続画面間相関SC、サンプル画面間動き測定部18から出力されるサンプル画面間動き量SMを短尺ショット判定部15に入力させて短尺ショットを判定する。
【0063】
以上では、連続するn画面P(0)〜P(n−1)から短尺ショット区間P(1)〜P(n−2)を検出する例について説明したが、処理対象の画像数nを適宜設定することにより、種々の長さの短尺ショットを検出することができる。また、種々の画面間隔のサンプル画面について画面間相関や画面間動き量の測定を並列的に行うようにすれば、同時に種々の長さの短尺ショットを検出することもできる。なお、この場合、連続画面についての画面間相関や画面間動き量の測定は、1回行うだけでよい。
【0064】
以上、本発明の実施形態について説明したが、本発明は、種々の変形が可能である。例えば、映像入力部12では圧縮データを入力して部分的に復号した情報を出力することができる。
【0065】
図9は、映像入力部12で採用し得る部分復号処理の例を示す。本例では、圧縮映像データが圧縮映像バッファ20に一次記憶され、部分復号部21で圧縮映像データが部分的に復号される。例えば、MPEG符号化された映像データの場合、DCT係数や動きベクトル情報を抽出する処理がこの部分復号処理に当たる。
【0066】
これらの情報は低周波画像復元部22と動きベクトル復元部23に入力される。低周波画像復元部22では部分復号データを用いて低周波成分画像を生成する。例えば、DCT係数のうちゼロ次あるいは低次の係数のみ逆DCTを行って低周波成分を出力することができる。また動き補償予測符号化された圧縮データの場合、特開平7−59108号公報「動画像のカット画面検出方法」で提案されているように、抽出された動きベクトルを用いて簡易動き補償を施して低周波画像を復元することも可能である。
【0067】
動きベクトル復元部23では部分復号部21から出力された動きベクトル情報を元に動きベクトル情報を復元する。また、低周波画像を用いた場合などに、画像サイズが変更されたときには画像サイズに応じてベクトルサイズを変更することも可能である。これらの部分復元画像および動きベクトルは部分復号画像バッファ24に蓄積され、動きベクトルは、連続画面間動き量やサンプル画面間動き量の測定に供することができる。
【0068】
【発明の効果】
以上のごとく、本発明によれば、連続画面間相関およびサンプル画面間相関を用いることにより、誤りなく効率的に短尺ショット検出することができる。また、連続画面間動き量やサンプル画面間動き量をも用いることにより、同一ショットにおける画像の動きが不連続な場合でもより確実に誤判定を防ぐことができる。
【0069】
さらに、短尺ショット候補を選定し、まず短尺ショット候補に絞り込み、次に、絞り込まれた短尺ショット候補における相関や動き量を測定することにより処理負荷を軽減することができる。
【図面の簡単な説明】
【図1】本発明に係る映像検索装置の第1の実施形態のブロック図である。
【図2】本発明に係る映像検索装置の動作の説明図である。
【図3】本発明に係る映像検索装置の第2の実施形態のブロック図である。
【図4】本発明に係る映像検索装置の第3の実施形態のブロック図である。
【図5】本発明に係る映像検索装置の第4の実施形態のブロック図である。
【図6】第4の実施形態の変形例(第5の実施形態)のブロック図である。
【図7】本発明に係る映像検索装置の第6の実施形態のブロック図である。
【図8】第5の実施形態の変形例(第7の実施形態)のブロック図である。
【図9】映像入力部の変形例のブロック図である。
【図10】従来の映像検索装置のブロック図である。
【符号の説明】
10・・・制御部、11・・・蓄積装置、12・・・映像入力部、13・・・連続画面間相関測定部、14・・・サンプル画面間相関測定部、15・・・短尺ショット判定部、16・・・結果出力部、17・・・連続画面間動き測定部、18・・・サンプル画面間動き測定部、19・・・短尺ショット候補判定部、20・・・圧縮映像バッファ、21・・・部分復号部、22・・・低周波画像復元部、23・・・動きベクトル復元部、24・・・部分画像バッファ、50・・・n画面記憶部、51・・・最新画面入力部、52・・・n画面比較部、53・・・異画面判定部、54・・・サブリミナル映像判定部、55・・・サブリミナル映像除去部
Claims (9)
- 連続する動画像データを入力する手段と、
前記動画像データから連続する画面間の相関を測定する手段と、
前記動画像データからサブサンプルされた画面間の相関を測定する手段と、
前記連続する画面間の相関および前記サブサンプルされた画面間の相関を用いて短尺カット点を判定する手段とを有することを特徴とする映像検索装置。 - 連続する動画像データを入力する手段と、
前記動画像データから連続する画面間の相関を測定する手段と、
前記動画像データからサブサンプルされた画面間の相関を測定する手段と、
前記動画像データから連続する画面間の動き量を測定する手段と、
前記連続する画面間の相関、前記サブサンプルされた画面間の相関および前記連続する画面間の動き量を用いて短尺カット点を判定する手段とを有することを特徴とする映像検索装置。 - 連続する動画像データを入力する手段と、
前記動画像データから連続する画面間の相関を測定する手段と、
前記動画像データからサブサンプルされた画面間の相関を測定する手段と、
前記動画像データから連続する画面間の動き量を測定する手段と、
前記動画像データからサブサンプルされた画面間の動き量を測定する手段と、
前記連続する画面間の相関、前記サブサンプルされた画面間の相関、前記連続する画面間の動き量および前記サブサンプルされた画面間の動き量を用いて短尺カット点を判定する手段とを有することを特徴とする映像検索装置。 - 連続する動画像データを入力する手段と、
前記動画像データから連続する画面間の相関を測定する手段と、
前記動画像データからサブサンプルされた画面間の相関を測定する手段と、
前記連続する画面間の相関および前記サブサンプルされた画面間の相関を用いて短尺カット点候補を判定する手段と、
前記短尺カット点候補について、前記動画像データから連続する画面間の動き量を測定する手段と、
前記連続する画面間の動き量を用いて短尺カット点を判定する手段とを有することを特徴とする映像検索装置。 - 連続する動画像データを入力する手段と、
前記動画像データから連続する画面間の動き量を測定する手段と、
前記連続する画面間の動き量を用いて短尺カット点候補を判定する手段と、
前記短尺カット点候補について、前記動画像データから連続する画面間の相関を測定する手段と、
前記短尺カット点候補について、前記動画像データからサブサンプルされた画面間の相関を測定する手段と、
前記連続する画面間の相関および前記サブサンプルされた画面間の相関を用いて短尺カット点を判定する手段とを有することを特徴とする映像検索装置。 - 連続する動画像データを入力する手段と、
前記動画像データから連続する画面間の相関を測定する手段と、
前記動画像データからサブサンプルされた画面間の相関を測定する手段と、
前記連続する画面間の相関および前記サブサンプルされた画面間の相関を用いて短尺カット点候補を判定する手段と、
前記短尺カット点候補について、前記動画像データから連続する画面間の動き量を測定する手段と、
前記短尺カット点候補について、前記動画像データからサブサンプルされた画面間の動き量を測定する手段と、
前記連続する画面間の動き量および前記サブサンプルされた画面間の動き量を用いて短尺カット点を判定する手段とを有することを特徴とする映像検索装置。 - 連続する動画像データを入力する手段と、
前記動画像データから連続する画面間の動き量を測定する手段と、
前記連続する画面間の動き量を用いて短尺カット点候補を判定する手段と、
前記短尺カット点候補について、前記動画像データから連続する画面間の相関を測定する手段と、
前記短尺カット点候補について、前記動画像データからサブサンプルされた画面間の相関を測定する手段と、
前記短尺カット点候補について、前記動画像データからサブサンプルされた画面間の動き量を測定する手段と、
前記連続する画面間の相関、前記サブサンプルされた画面間の相関および前記サブサンプルされた画面間の動き量を用いて短尺カット点を判定する手段とを有することを特徴とする映像検索装置。 - 入力される動画像データは、画像データの低周波成分からなることを特徴とする請求項1ないし7のいずれかに記載の映像検索装置。
- 入力される動画像データは、圧縮された画像データを部分復号して得られる低周波画像データと動きベクトルとからなることを特徴とする請求項1ないし7のいずれかに記載の映像検索装置。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002275653A JP4082664B2 (ja) | 2002-09-20 | 2002-09-20 | 映像検索装置 |
US10/641,025 US7916793B2 (en) | 2002-09-20 | 2003-08-15 | Picture searching apparatus |
US13/033,757 US8259172B2 (en) | 2002-09-20 | 2011-02-24 | Picture searching apparatus |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002275653A JP4082664B2 (ja) | 2002-09-20 | 2002-09-20 | 映像検索装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2004112678A true JP2004112678A (ja) | 2004-04-08 |
JP4082664B2 JP4082664B2 (ja) | 2008-04-30 |
Family
ID=32211516
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2002275653A Expired - Fee Related JP4082664B2 (ja) | 2002-09-20 | 2002-09-20 | 映像検索装置 |
Country Status (2)
Country | Link |
---|---|
US (2) | US7916793B2 (ja) |
JP (1) | JP4082664B2 (ja) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006135938A (ja) * | 2004-09-23 | 2006-05-25 | Mitsubishi Electric Information Technology Centre Europa Bv | 画像及び画像群を表現する方法、画像又は画像群の表現、画像及び/又は画像群を比較する方法、画像又は画像群を符号化する方法、画像又は画像シーケンスを復号する方法、符号化されたデータの使用、画像又は画像群を表現する装置、画像及び/又は画像群を比較する装置、コンピュータプログラム、システム、及びコンピュータ読み取り可能な記憶媒体 |
US8014566B2 (en) | 2005-10-11 | 2011-09-06 | Sony Corporation | Image processing apparatus |
US8014606B2 (en) | 2005-10-25 | 2011-09-06 | Mitsubishi Electric Corporation | Image discrimination apparatus |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
GB2418556A (en) | 2004-09-23 | 2006-03-29 | Mitsubishi Electric Inf Tech | Representing an image using descriptors based on colour information |
GB2418555A (en) | 2004-09-23 | 2006-03-29 | Mitsubishi Electric Inf Tech | Representing an image using descriptors based on colour information |
US7813552B2 (en) * | 2004-09-23 | 2010-10-12 | Mitsubishi Denki Kabushiki Kaisha | Methods of representing and analysing images |
JP4719889B2 (ja) * | 2006-08-03 | 2011-07-06 | 国立大学法人電気通信大学 | カット点検出システムおよび該カット点検出システムを用いたショット識別システム、カット点検出方法、並びにカット点検出プログラム |
WO2009034486A2 (en) * | 2007-09-10 | 2009-03-19 | Nxp B.V. | Method and apparatus for line-based motion estimation in video image data |
Family Cites Families (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5835163A (en) * | 1995-12-21 | 1998-11-10 | Siemens Corporate Research, Inc. | Apparatus for detecting a cut in a video |
JPH09284667A (ja) | 1996-04-09 | 1997-10-31 | Toshiba Corp | サブリミナル映像処理装置、テレビジョン受像機及び磁気記録再生装置 |
US6122322A (en) | 1996-11-19 | 2000-09-19 | Telefonaktiebolaget Lm Ericsson | Subliminal message protection |
SE510444C2 (sv) | 1996-11-19 | 1999-05-25 | Ericsson Telefon Ab L M | Skydd för subliminala meddelanden |
JPH11177992A (ja) | 1997-12-10 | 1999-07-02 | Hitachi Ltd | 画像復号装置 |
JP3738939B2 (ja) | 1998-03-05 | 2006-01-25 | Kddi株式会社 | 動画像のカット点検出装置 |
US6327390B1 (en) * | 1999-01-14 | 2001-12-04 | Mitsubishi Electric Research Laboratories, Inc. | Methods of scene fade detection for indexing of video sequences |
KR100634671B1 (ko) * | 1999-08-13 | 2006-10-13 | 주식회사 케이티 | 고정밀도의 실시간 점진적 장면경계 검출기 및 그 방법 |
US6549643B1 (en) * | 1999-11-30 | 2003-04-15 | Siemens Corporate Research, Inc. | System and method for selecting key-frames of video data |
US6600784B1 (en) * | 2000-02-02 | 2003-07-29 | Mitsubishi Electric Research Laboratories, Inc. | Descriptor for spatial distribution of motion activity in compressed video |
US6959044B1 (en) * | 2001-08-21 | 2005-10-25 | Cisco Systems Canada Co. | Dynamic GOP system and method for digital video encoding |
-
2002
- 2002-09-20 JP JP2002275653A patent/JP4082664B2/ja not_active Expired - Fee Related
-
2003
- 2003-08-15 US US10/641,025 patent/US7916793B2/en not_active Expired - Fee Related
-
2011
- 2011-02-24 US US13/033,757 patent/US8259172B2/en not_active Expired - Fee Related
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006135938A (ja) * | 2004-09-23 | 2006-05-25 | Mitsubishi Electric Information Technology Centre Europa Bv | 画像及び画像群を表現する方法、画像又は画像群の表現、画像及び/又は画像群を比較する方法、画像又は画像群を符号化する方法、画像又は画像シーケンスを復号する方法、符号化されたデータの使用、画像又は画像群を表現する装置、画像及び/又は画像群を比較する装置、コンピュータプログラム、システム、及びコンピュータ読み取り可能な記憶媒体 |
US8320664B2 (en) | 2004-09-23 | 2012-11-27 | Mitsubishi Denki Kabushiki Kaisha | Methods of representing and analysing images |
US8014566B2 (en) | 2005-10-11 | 2011-09-06 | Sony Corporation | Image processing apparatus |
US8160299B2 (en) | 2005-10-11 | 2012-04-17 | Sony Corporation | Image processing apparatus |
US8014606B2 (en) | 2005-10-25 | 2011-09-06 | Mitsubishi Electric Corporation | Image discrimination apparatus |
Also Published As
Publication number | Publication date |
---|---|
US8259172B2 (en) | 2012-09-04 |
US20040091044A1 (en) | 2004-05-13 |
US7916793B2 (en) | 2011-03-29 |
US20110142292A1 (en) | 2011-06-16 |
JP4082664B2 (ja) | 2008-04-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP1132812B1 (en) | Method of detecting dissolve/fade in mpeg-compressed video environment | |
US8259172B2 (en) | Picture searching apparatus | |
JPH09130812A (ja) | 重複ビデオフィールドの検出方法及び装置、画像エンコーダ | |
JPH1075457A (ja) | 動画像内の移動物体検出装置 | |
KR20050012766A (ko) | 현재 모션 벡터 추정을 위한 유닛 및 모션 벡터 추정 방법 | |
US20050138532A1 (en) | Apparatus and method for concealing errors in a frame | |
US20050002569A1 (en) | Method and apparatus for processing images | |
Gangal et al. | An improved motion-compensated restoration method for damaged color motion picture films | |
US6754278B1 (en) | Method for recovering moving picture by extending a damaged region in which an error occurs | |
JP2869398B2 (ja) | カット点検出方法及び装置 | |
JPH10224741A (ja) | 動画像のカット点検出方法 | |
JP2002281508A (ja) | スキップ領域検出型動画像符号化装置および記録媒体 | |
JPH1023421A (ja) | 動画像処理方法 | |
US20070086525A1 (en) | Motion vector detection method and device of the same | |
JPH10112863A (ja) | 動き被写体情報抽出方法及び装置 | |
JP4225503B2 (ja) | 動画像のカット点検出装置 | |
JP2008508787A (ja) | インター符号化系列向けのエラー隠蔽技術 | |
JP3339544B2 (ja) | ディゾルブ検出方法および装置 | |
JP2007166545A (ja) | 動きベクトル検出装置及び方法 | |
JP2005167852A (ja) | 動きベクトル検出方法、及び動きベクトル検出装置 | |
JP3333956B2 (ja) | カット点検出方法および装置 | |
JP3597271B2 (ja) | 動画像のカット点画像検出装置 | |
CN101204093B (zh) | 用于检测图像序列中的渐变的过程及设备 | |
JP4261603B2 (ja) | 動画像のカット点検出装置 | |
CN1798346A (zh) | 用于再隐藏包括在解码的图像中的错误的方法和设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20040922 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20070410 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20070418 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20070615 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20070718 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20070914 |
|
A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20071002 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20080206 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20080208 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110222 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110222 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140222 Year of fee payment: 6 |
|
LAPS | Cancellation because of no payment of annual fees |