Nothing Special   »   [go: up one dir, main page]

JP4359223B2 - 映像補間装置とこれを用いたフレームレート変換装置,映像表示装置 - Google Patents

映像補間装置とこれを用いたフレームレート変換装置,映像表示装置 Download PDF

Info

Publication number
JP4359223B2
JP4359223B2 JP2004316051A JP2004316051A JP4359223B2 JP 4359223 B2 JP4359223 B2 JP 4359223B2 JP 2004316051 A JP2004316051 A JP 2004316051A JP 2004316051 A JP2004316051 A JP 2004316051A JP 4359223 B2 JP4359223 B2 JP 4359223B2
Authority
JP
Japan
Prior art keywords
pixel
interpolation
frame
pair
vector
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2004316051A
Other languages
English (en)
Other versions
JP2006129181A (ja
Inventor
昌宏 荻野
陽一 五十嵐
田中  義則
Original Assignee
株式会社 日立ディスプレイズ
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 株式会社 日立ディスプレイズ filed Critical 株式会社 日立ディスプレイズ
Priority to JP2004316051A priority Critical patent/JP4359223B2/ja
Priority to US11/260,219 priority patent/US7586540B2/en
Publication of JP2006129181A publication Critical patent/JP2006129181A/ja
Application granted granted Critical
Publication of JP4359223B2 publication Critical patent/JP4359223B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/01Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
    • H04N7/0135Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving interpolation processes
    • H04N7/014Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving interpolation processes involving the use of motion vectors
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4007Scaling of whole images or parts thereof, e.g. expanding or contracting based on interpolation, e.g. bilinear interpolation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/246Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/01Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
    • H04N7/0135Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving interpolation processes
    • H04N7/0142Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving interpolation processes the interpolation being edge adaptive

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Signal Processing (AREA)
  • Television Systems (AREA)

Description

本発明は、動画の映像信号のフレームレートの変換、特に、フレーム補間を行なう映像補間装置とこれを用いたフレームレート変換装置,映像表示装置に関する。
ビデオ映像信号やパ−ソナルコンピュータ(パソコン)などの映像信号の仕様としては、現在多種多様なものが存在する。一般には、VESA(Video Electronics Standard Association)により規定されたものが広く知られているが、VESA規格信号だけでも、数種類ものフレームレートを持つ画像フォーマットが定義されている。これに対し、PDP(Plasma Display Panel)やLCD(Liquid Crystal Display)などの画像表示装置では、一般に、表示する画像フォーマットが固定されている場合が多い。従って、上記のような種々の画像フォーマットの映像信号をこのような画像表示装置に用いるためには、かかる画像フォーマットをかかる画像表示装置に適合したフォーマットに変換することが必要となり、このための装置が望まれる。
動画像のフレームレートを変換する場合、一般に、図10に示すように、入力された現在のフレーム(以下、現フレームという)1103とその1つ前のフレーム1101との間に補間フレーム1102を内挿することが行なわれ、かかる補間フレーム1102はこれら隣接するフレーム1101,1103から形成される。かかる補間フレーム1103の作成方法としては、現フレームを次のフレームまでの間繰り返し内挿していく零次ホールド法や、図11に示すように、入力端子1201から入力されるフレームを、直接補間信号生成部1203に供給するとともに、フレームメモリ1202で1フレーム遅延して1つ前のフレームとして補間信号生成部1203に供給し、補間信号生成部1203では、入力端子1201からの現フレームとフレームメモリ1202からの1つ前のフレームとの隣接する2つのフレームを用いて、これら2つのフレームの相対向する画素同士の輝度値の平均値を補間フレームの画素の輝度値とし、かかる画素からなる補間フレームを作成して出力端子1204から出力させる直線補間法などが知られている。なお、隣接する2つのフレーム間にn個の補間フレームを内挿する場合、フレームレートはn倍に変換される。
また、より高度なフレーム補間方法として、現フレームとその1つ前のフレームとに着目して、フレーム間の動きベクトルを利用した動き補償処理を用いる方法が知られている。この方法では、動きベクトル情報をもとに、フレーム間の動きを特定し、この情報をもとに補間フレームを作成するものである。
このような補間方法において、動きベクトルの精度を高めるために、検索範囲を2段階に分けて動きベクトルを探索する方法や、周囲の動きベクトルとの比較を行なうことにより、不適切な動きベクトルを除去するスムージング処理を行なうなどの手法が提案されている(例えば、特許文献1参照)。
特開平2002−27414
上記の零次ホールド法は、ハードウェア化が最も簡単な方法ではあるが、フレームの繰り返し部分において、モーションジャダー(ぎこちない動き)が発生し、映像の動きに目立った不自然さが現われるという問題がある。また、直線補間法では、画像のエッジ部分で2重残像妨害が発生し、このため、全体的にボケ感を有する映像になるという問題がある。
さらに、動き補償処理を用いる従来の補間方法では、検索範囲全体にわたりパターンマッチングを行なう必要があることにより、多くの演算量が必要となるし、また、周囲画素間の相関の考慮や時間方向の連続性の考慮も必要であり、このため、演算が非常に複雑になって構成が複雑化,大規模化するという問題もある。
本発明はかかる問題に鑑みてなされたものであって、その目的は、より簡単な回路構成でより精度の高いフレームレートの変換を行なうことができるようにした映像補間装置とこれを用いたフレームレート変換装置,映像表示装置を提供することにある。
上記目的を達成するために、本発明は、映像信号の1つ前のフレームと現フレームとの間に内挿する補間フレームを生成する映像補間装置であって、補間フレーム内の補間位置に関して点対称となる1つ前のフレームの画素と現フレームの画素との組を画素ペアとし、かつ該1つ前のフレームでの該補間フレーム内の補間位置に正対した位置を該1つ前のフレームでの補間位置とし、該現フレームでの該補間フレーム内の補間位置に正対した位置を該現フレームでの補間位置として、該1つ前のフレームでの該画素ペアとなる一方の画素と、該現フレームでの該画素ペアとなる他方の画素よりも該現フレームての補間位置に1つ近い位置の画素との組を第1の拡張画素ペアとし、さらに、該1つ前のフレームでの該画素ペアとなる一方の画素よりも該1つ前のフレームでの補間位置に1つ近い位置の画素と、該現フレームでの画素ペアとなる他方の画素との組を第2の拡張画素ペアとし、
画素ペア,該第1の拡張画素ペア及び該第2の拡張画素ペアの夫々の画素の輝度値の差分を計算し、差分の絶対値が最小となる画素ペア,該第1の拡張画素ペアもしくは該第2の拡張画素ペアを差分最小画素ペアとして、該差分最小画素ペアの画素の位置情報を、補間画素ベクトルとして、算出する差分最小画素ペア算出手段と、補間画素ベクトルを用いて該補間位置の補間画素を生成し、該補間画素からなる補間フレームを生成する補間フレーム生成手段とを備えたものである。
また、最小差分画素ペア算出手段が、1つ前のフレームと現フレーム毎に、前記補間フレーム内の前記補間位置に正対する画素を中心画素とし、該中心画素を中心として水平方向,垂直方向に所定の画素数の検索領域を設定し、画素ペアを、前記補間位置に関して点対称の位置にある該1つ前のフレームの該検索領域内の画素と該現フレームの該検索領域での画素とからなるものとするものである。
また、補間フレーム生成手段は、補間画素ベクトルによる差分最小画素ペアとなる画素の値をもとに補間画素の値を決定し、該補間画素からなる補間フレームを生成するものである。
また、補間画素の値は、前記差分最小画素ペアとなる画素の輝度値に応じた輝度値と色値に応じた色値であるものである。
上記目的を達成するために、本発明は、映像信号の1つ前のフレームと現フレームとの間に内挿する補間フレームを生成する映像補間装置であって、補間フレーム内の補間位置に関して点対称となる1つ前の1フレームの画素と現フレームの画素との組を画素ペアとし、かつ該1つ前のフレームでの該補間フレーム内の補間位置に正対した位置を該1つ前のフレームでの補間位置とし、該現フレームでの該補間フレーム内の補間位置に正対した位置を該現フレームでの補間位置として、該1つ前のフレームでの該画素ペアとなる一方の画素と、該現フレームでの該画素ペアとなる他方の画素よりも該現フレームての補間位置に1つ近い位置の画素との組を第1の拡張画素ペアとし、さらに、該1つ前のフレームでの該画素ペアとなる一方の画素よりも該1つ前のフレームでの補間位置に1つ近い位置の画素と、該現フレームでの画素ペアとなる他方の画素との組を第2の拡張画素ペアとし、該画素ペア,該第1の拡張画素ペア及び第2の拡張画素ペアの夫々の画素のR,G,B値の差分を計算し、R,G,B毎に、該差分の絶対値が最小となる画素ペア,該第1の拡張画素ペアもしくは第2の拡張画素ペアを差分最小画素ペアとして、該差分最小画素ペアの画素の位置情報を、補間画素ベクトルとして、算出する差分最小画素ペア算出手段と、補間画素ベクトルを用いて該補間位置の補間画素を生成し、該補間画素からなる補間フレームを生成する補間フレーム生成手段とを備えたものである。
また、最小差分画素ペア算出手段は、1つ前のフレームと現フレーム毎に、前記補間フレーム内の前記補間位置に正対する画素を中心画素とし、該中心画素を中心として水平方向,垂直方向に所定の画素数の検索領域を設定し、画素ペアを、前記補間位置に関して点対称の位置にある該1つ前のフレームの該検索領域内の画素と該現フレームの該検索領域での画素とからなるものである。
また、補間フレーム生成手段は、前記差分の絶対値が最も小さい前記補間画素ペアのR,G,Bの値の平均値を前記補間位置での補間画素の値として、前記補間フレームを生成するものである。
上記目的を達成するために、本発明は、映像信号の1つ前のフレームと現フレームとの間に内挿する補間フレームを生成する映像補間装置であって、補間フレーム内の補間位置に関して点対称となる1つ前のフレームの画素と現フレームの画素との組を画素ペアとし、かつ該1つ前のフレームでの該補間フレーム内の補間位置に正対した位置を該1つ前のフレームでの補間位置とし、該現フレームでの該補間フレーム内の補間位置に正対した位置を該現フレームでの補間位置として、該1つ前のフレームでの該画素ペアとなる一方の画素と、該現フレームでの該画素ペアとなる他方の画素よりも該現フレームての補間位置に1つ近い位置の画素との組を第1の拡張画素ペアとし、さらに、該1つ前のフレームでの該画素ペアとなる一方の画素よりも該1つ前のフレームでの補間位置に1つ近い位置の画素と、該現フレームでの画素ペアとなる他方の画素との組を第2の拡張画素ペアとし、該画素ペア,該第1の拡張画素ペア及び第2の拡張画素ペアの夫々の画素の輝度値の差分を計算し、該差分の絶対値が小さい方から所定の個数の画素ペア,該第1の拡張画素ペアもしくは第2の拡張画素ペアを候補補間画素ペアとして、該候補補間画素ペアの画素の位置情報を、候補補間画素ベクトルとして、算出する候補補間画素ベクトル算出手段と、1つ前のフレームと該現フレームとからエッジ情報を検出するエッジ検出手段と、エッジ情報をもとに、候補補間画素ベクトル算出手段で検出された候補補間画素ペアのうちの所定のエッジ条件を満たす候補補間画素ペアを、補間画素ペアとして、選択する候補補間画素ベクトル判定手段と、補間画素ベクトル判定手段で選択された該補間画素ペアの補間画素ベクトルを用いて該補間位置の補間画素を生成し、該補間画素からなる補間フレームを生成する補間フレーム生成手段とを備えたものである。
また、候補補間画素ベクトル判定手段で選択される補間画素ペアの補間画素ベクトルの出現数を、該補間画素ベクトルが示す方向毎に判別して、カウントし、該出現数によって支配的な補間画素ベクトルの方向を、グローバルベクトルとして、検出する補間方向ヒストグラム検出手段を設け、候補補間画素ベクトル判定手段は、前記候補補間画素ベクトル算出手段で選択された候補補間画素ペアのうち、前記エッジ条件を満足し、かつ候補補間画素ベクトルの方向が該グローバルベクトルの方向と一致する候補補間画素ペアを補間画素ペアとして選択し、選択した該補間画素ペアの補間画素ベクトルを前記補間フレーム生成手段に供給するものである。
また、補間方向ヒストグラム検出手段は、検出した前記グローバルベクトルをその方向に応じてグループ分けする手段を備え、候補補間画素ベクトル判定手段は、前記グローバルベクトルの方向が属するグルーブに方向が含まれる前記候補補間画素ベクトルを、前記グローバルベクトルに一致した補間画素ベクトルと判定するものである。
また、候補補間画素ベクトル判定手段は、前記エッジ条件を満足し、かつ前記グローバルベクトルの方向と一致する候補補間画素ペアが複数存在するとき、前記補間位置からみたグローバルベクトルの方向での1つ前のフレームまたは現フレームでの画素と前記補間位置に正対する1つ前のフレームまたは現フレームでの中心画素との間の第1の距離を求め、該候補補間画素ベクトルのうちの候補補間画素ペアの画素と該中心画素との距離が該第1の距離に最も近い候補補間画素ペアを前記補間画素ペアとして選択するものである。
上記目的を達成するために、本発明は、映像信号の1つ前のフレームと現フレームとの間に内挿する補間フレームを生成する映像補間装置であって、
1つ前のフレームと現フレームとで、該補間フレーム内の補間位置に関して検索領域を指定する検索領域指定手段と、検索領域指定種段で指定された検索領域内で、補間フレーム内の補間位置に関して点対称となる1つ前のフレームの画素と現フレームの画素との組を画素ペアとし、かつ該1つ前のフレームでの該補間フレーム内の補間位置に正対した位置を該1つ前のフレームでの補間位置とし、該現フレームでの該補間フレーム内の補間位置に正対した位置を該現フレームでの補間位置として、該1つ前のフレームでの該画素ペアとなる一方の画素と、該現フレームでの該画素ペアとなる他方の画素よりも該現フレームての補間位置に1つ近い位置の画素との組を第1の拡張画素ペアとし、さらに、該1つ前のフレームでの該画素ペアとなる一方の画素よりも該1つ前のフレームでの補間位置に1つ近い位置の画素と、該現フレームでの画素ペアとなる他方の画素との組を第2の拡張画素ペアとし、該画素ペア,該第1の拡張画素ペア及び第2の拡張画素ペアの夫々の画素の輝度値の差分を計算し、該差分の絶対値が小さい方から所定の個数の画素ペア,該第1の拡張画素ペアもしくは第2の拡張画素ペアを候補補間画素ペアとして、該候補補間画素ペアの画素の位置情報を、候補補間画素ベクトルとして、算出する候補補間画素ベクトル算出手段と、1つ前のフレームと該現フレームとからエッジ情報を検出するエッジ検出手段と、エッジ情報をもとに、候補補間画素ベクトル算出手段で検出された候補補間画素ペアのうちの所定のエッジ条件を満たす候補補間画素ペアを、補間画素ペアとして、選択する候補補間画素ベクトル判定手段と、補間画素ベクトル判定手段で選択された該補間画素ペアの補間画素ベクトルを用いて該補間位置の補間画素を生成し、該補間画素からなる補間フレームを生成する補間フレーム生成手段と、候補補間画素ベクトル判定手段で選択される補間画素ペアの補間画素ベクトルの出現数を、該補間画素ベクトルが示す方向毎に判別して、カウントし、該出現数によって支配的な補間画素ベクトルの方向を、グローバルベクトルとして、検出する補間方向ヒストグラム検出手段とを設け、検索領域指定手段は、該補間フレームの補間位置から該補間方向ヒストグラム検出手段で検出された該グローバルベクトルの方向に該検索領域を設定するものである。
上記目的を達成するために、本発明によるフレームレート変換装置は、上記映像補間装置で生成された補間フレームを前記1つ前のフレームと前記現フレームとの間に内挿し、前記映像信号のフレームレート変換を行なうものである。
上記目的を達成するために、本発明による映像表示装置は、上記フレームレート変換装置でフレームレート変換された映像信号を映像表示するものである。
本発明によれば、映像信号の1つ前のフレームと現フレームとの間で、補間フレームの補間位置に関し、高い相関がある画素ペアを検出し、かかる画素ペアを用いて補間フレームの補間画素を生成するものであるから、簡単な構成でもってこれらフレーム間での映像の動きも検出できて、この動きに応じた精度の高い補間フレームを生成することができる。
また、エッジ情報や1つ前の補間フレームの動き情報を考慮して次の補間フレームを生成できるので、より精度の高い補間フレームを生成できて、かつ誤検出を抑圧することができ、映像信号の高精度なフレームレート変換を実現することができる。
以下、本発明の実施形態を図面により説明する。
図1は本発明による映像補間装置の第1の実施形態を示すブロック図であって、1は入力端子、2はフレームメモリ、3は遅延調整部、4は最小差分画素ペア算出部、5は補間フレーム生成部、6は出力端子である。
同図において、入力端子1から入力される映像信号のフレームは、現フレームF+1として、フレームメモリ2と最小差分画素ペア算出部4とに供給される。フレームメモリ2はこの現フレームF+1を1フレーム期間遅延するものであって、このフレームメモリ2から読み出されるフレームは、入力端子1から入力される現フレームF+1の1つ前のフレームF-1として、最小差分画素ペア算出部4に供給される。
最小差分画素ペア算出部4では、現フレームF+1と1つ前のフレームF-1とから補間フレームの画素を生成するための画素ペアの位置情報(以下、補間画素ベクトルという)が検出される。この補間画素ベクトルが補間フレーム生成部5に供給される。補間フレーム生成部5では、この補間画素ベクトルをもとに、遅延調整部3で遅延された供給される現フレームF+1と1つ前のフレームF-1を処理して補間フレームF0を生成する。この補間フレームF0は出力端子6から出力され、図示しないフレーム補間部に供給されて現フレームF+1と1つ前のフレームF-1との間に内挿される。
なお、以下の実施形態では説明を省略するが、上記フレーム補間部では、入力されるフレームや生成された補間フレームが時間軸圧縮された後、隣り合う2つの入力フレーム間にこの補間フレームが内挿されるものであり、これにより、映像表示する表示装置に適合したフレームレートに変換された映像信号が得られる。従って、映像補間装置とフレーム補間部とにより、フレームレート変換装置が構成されることになる。また、フレームレート変換装置で補間フレームが内挿されてフレームレート変換された映像信号は、PDPやLCDなどの映像表示装置に供給されて映像表示が行なわれる。
ここで、最小差分画素ペア算出部4の処理動作について説明する。
図2は1つ前のフレームF-1と現フレームF+1と補間フレームF0との関係を示す図である。
同図において、補間フレームF0の水平,垂直方向の画素数は入力されるフレーム(即ち、現フレームF+1や1つ前のフレームF-1:以下、これを、補間フレームに対し、入力フレームという)との画素数に等しい(例えば、XGAの場合は水平1280画素、垂直768画素:ここでは、水平方向9画素×垂直方向5画素として図示している)。従って、これらフレームF+1,F-1,F0間では、互いに対向する画素Pがある。
いま、補間フレームF0での補間画素を補間しようとする位置、即ち、補間位置をP0(i,j)とし、1つ前のフレームF-1でこの補間位置P0(i,j)と正対する(なお、フレーム同士を重ねたときに位置が一致する画素同士を、以下、「正対する」という)画素位置をP-1(i,j)、現フレームF+1でこの補間位置P0(i,j)と正対する画素位置をP+1(i,j)とすると(但し、i,j=0,1,2,……)、1つ前のフレームF-1でこの画素位置P-1(i,j)での画素を中心画素とする水平方向の画素数K,垂直方向の画素数Lの検索領域SA-1を設定し(但し、K,Lは3以上の奇数)、現フレームF+1でこの画素位置P+1(i,j)での画素を中心画素とする水平方向の画素数K,垂直方向の画素数Lの検索領域SA+1を設定する。そして、1つ前のフレームF-1での検索領域SA-1内の画素位置P-1(i+m,j+n)の画素と補間フレームF0での補間位置P0(i,j)を介して対向する現フレームF+1での検索領域SA+1内の画素位置P+1(i−m,j−n)の画素とがペアを構成するものとし、これらをまとめて画素ペアということにする。
図3は図2での1つ前のフレームF-1での検索領域SA-1,現フレームF+1での検索領域SA+1とこれらに対向する補間フレームF0での領域SA0とを拡大して示す図である。
同図において、各検索領域SA-1,検索領域SA+1を夫々水平方向3画素×垂直方向3画素の領域とし、検索領域SA-1の画素位置P-1(i,j)での画素を、検索領域SA-1の左上隅の画素から右下隅の画素まで水平方向に繰り返す順序で、夫々a1,a2,a3,……,a9とし、同様に、検索領域SA+1の画素位置P+1(i,j)での画素も、順にb1,b2,b3,……,b9とする。従って、検索領域SA-1は画素a5を中心に設定されたものであり、検索領域SA+1は画素b5を中心に設定されたものである。また、補間フレームF0の領域SA0内の補間位置P0(i,j)は、検索領域SA+1の中心画素b5と検索領域SA-1の中心画素a5とに正対している。この補間位置P0(i,j)での補間画素をc5とする。
このような検索領域SA-1と検索領域SA+1とにおいて、検索領域SA-1での画素a1は補間フレームF0の領域SA0の補間画素c5を介して検索領域SA+1の画素b9と対向しており(即ち、画素a1と画素b9とは、補間画素c5に関して点対称の位置関係にある)、このような関係にある画素同士の組み合わせを画素ペアというのである。従って、この場合には、
画素a1−b9,画素a2−b8,画素a3−b7,
画素a4−b6,画素a5−b5,画素a6−b4,
画素a7−b3,画素a8−b2,画素a9−b1
の9個の画素ペアが存在することになる。
図1における差分最小ペア算出部4は、まず、各画素ペア毎に、画素ペアを構成する画素の輝度値の差分値を算出し、その差分値の絶対値が最小となる画素ペアを求める。即ち、画素a1,a2,……,a9の輝度値を夫々a1,a2,……,a9とし、画素b1,b2,……,b9の輝度値を夫々b1,b2,……,b9とすると、上記の画素ペアの輝度値の差分の絶対値ΔY(k)は(但し、k=1,2,……,9)、
ΔY(1)=|a1−b9|, ΔY(2)=|a2−b8|,
ΔY(3)=|a3−b7|, ΔY(4)=|a4−b6|,
ΔY(5)=|a5−b5|, ΔY(6)=|a6−b4|,
ΔY(7)=|a7−b3|, ΔY(8)=|a8−b2|,
ΔY(9)=|a9−b1|
(但し、|A|は絶対値を表わす。以下同様)
となり、かかる差分の絶対値ΔY(k)が最小となる画素ペアを求めて差分最小画素ペアとする。
このようにして、差分最小画素ペアが得られると、この差分最小画素ペアを構成する夫々の画素の位置情報を、補間画素ベクトルとして、補間フレーム生成部5に出力する。
図1に戻って、補間フレーム生成部5は、差分最小ペア算出部4からの補間画素ベクトルをもとに、遅延調整部3で遅延調整された現フレームF+1と1つ前のフレームF-1とを処理し、補間フレームF0を生成する。なお、遅延調整部3は、差分最小ペア算出部4での処理による遅れに応じて、現フレームF+1と1つ前のフレームF-1とを遅らし、これら現フレームF+1と1つ前のフレームF-1とのタイミングを補間画素ベクトルのタイミングに合わせるものである。
ここで、補間画素ベクトルは、差分最小画素ペアを構成する1つ前のフレームF-1での画素が次の現フレームF+1では、この差分最小画素ペアを構成するこの現フレームF+1での画素の位置に移動したことを示すものであり、1つ前のフレームF-1から現フレームF+1への移動方向を表わしている。この移動方向は、補間フレームF0での補間位置P0(i,j)を通るものである。図3において、例えば、1つ前のフレームF-1での画素a2と現フレームF+1での画素b8とのペアが差分最小画素ペアとして検出されたものとすると、補間フレームF0での補間位置P0(i,j)に対しては、1つ前のフレームF-1での画素a2が、現フレームF+1では、画素b8となったことになり、フレームF-1,F+1間で画素aから画素b8の方向に移動したことになる。この方向は、補間フレームF0での補間位置P0(i,j)を通る。
そこで、補間フレーム生成部5では、遅延調整部3からの1つ前のフレームF-1の画素のうち、補間画素ベクトルをもとに、その差分最小画素ペアを形成する一方の画素を1つ前のフレームF-1から抽出し、また、遅延調整部3からの現フレームF+1の画素のうち、補間画素ベクトルをもとに、その差分最小画素ペアを形成する他方の画素を現フレームF+1抽出し、抽出したこれら画素の輝度値及び色値の平均値を求め、これを補間フレームF0の補間位置P0(i,j)での補間画素の輝度値,色値とする。なお、補間画素の値(輝度値や色値)を上記の平均値とすることに限らず、例えば、1つ前のフレームF-1と現フレームF+1の夫々で抽出した上記画素の値を、夫々所望とする重み付けをして、加算した値を補間画素の値としたり、1つ前のフレームF-1と現フレームF+1とのいずれか一方の画素の値を補間画素の値とするなど、他の方法で補間画素を生成するようにしてもよい。
このようにして、入力端子1から現フレームF+1が入力されると、その画素毎に、差分最小ペア算出部4で補間画素ベクトルが生成され、補間フレーム生成部5で、この補間画素ベクトルをもとに、遅延調整部3からの1つ前のフレームF-1と現フレームF+1との画素から補間画素が形成され、補間フレームF0が生成される。
なお、補間フレーム生成部では、上記のように輝度値から求めた補間画素ベクトルをもとに、補間画素P0(i,j)の色値も求めるものであるが、これに限るものではなく、入力信号がR(赤),G(緑),B(青)の色信号である場合には、輝度信号Yと色差信号Cb,Crとへのマトリクス変換を行ない、夫々毎に補間画素ベクトルを求め、あるいはまた、R,G,B信号毎に補間画素ベクトルを算出し、補間画素の輝度値,色差値を求めるようにしてもよい。
また、輝度値で補間画素ベクトルを算出し、補間フレームはR,G,B信号から生成するようにしてもよい。
さらに、輝度値,色値毎に補間画素ベクトルを算出し、これらが共に同じ方向を示す場合、この補間画素ベクトルは信頼性が高いとして採用し、これらが全く異なる方向を示す場合には、信頼性が低いとして、求めた補間画素ベクトルは用いず、例えば、直線補間法などの他の方法で補間フレームを作成するようにしてもよい。
以上のように、この実施形態では、小さい回路規模で精度の高い補間フレームを作成することができ、より高精度なフレームレート変換を行なうことができる。
図4は本発明による映像補間装置の第2の実施形態を示すブロック図であって、7は候補補間画素ベクトル算出部、8はエッジ検出部、9は補間画素ベクトル判定部であり、図1に対応する部分には同一符号を付けて重複する説明を省略する。
図1に示す第1の実施形態では、差分最小ペア算出部4で画素ペアを算出するとともに、輝度値の差分の絶対値が最小となる特定の1つの画素ペアを差分最小画素ペアを選択して補間画素ベクトルを生成するものであったが、この第2の実施形態は、算出した画素ペアのうちから輝度値の差分の絶対値が小さい順に複数の画素ペアを選択し、さらに、この選択した複数の画素ペアから、エッジ情報に基づいて、特定の画素ペアを選択して補間画素ベクトルを求めるものである。
図4において、候補補間画素ベクトル算出部7では、図1における差分最小ペア算出部4と同様に、図3で説明したような検出範囲SAでの画素ペアを求め、夫々の輝度値の差分の絶対値を求め、この差分の絶対値の小さい順にX個(例えば、10個など)の画素ペアを候補画素ペアとして選択し、夫々の候補画素ペアの補間画素ベクトルを算出して、候補補間画素ベクトルとして補間ペア判定部9に供給する。
エッジ検出部8には、フレームメモリ2から1つ前のフレームF-1が、入力端子1から現フレームF+1が、さらに、候補補間画素ベクトル算出部7から検出範囲SAが夫々供給され、これらをもとに、この検索領域SA中での水平方向のエッジの有無や方向が検出され、エッジ情報として補間画素ベクトル判定回路9に供給される。
補間画素ベクトル判定回路9では、候補補間画素ベクトル算出部7から供給されるX個の候補補間画素ベクトルのうち、エッジ検出部8からのエッジ情報による後述のエッジ条件を満たす候補補間画素ベクトルが選択され、補間画素ベクトルとして補間フレーム生成部5に供給される。エッジ条件を満たす候補補間画素ベクトルが複数存在する場合には、より補間位置に近い画素からなる候補画素ペアの候補補間画素ベクトルを選択する。
補間フレーム生成部5では、図1における補間フレーム生成部5と同様、補間画素ベクトル判定回路9で選択された補間画素ベクトルをもとに、遅延調整部3からの1つ前のフレームF-1と現フレームF+1とを用いて補間フレームF0を生成する。
ここで、補間画素ベクトル判定回路9で用いるエッジ条件について説明する。
図5は候補補間画素ベクトルの差分最小画素ペアを構成する画素に対するエッジの有無を検出する方法の一具体例を示す図である。ここでは、1つ前のフレームF-1の検索領域SA-1、あるいは現フレームF+1の検索領域SA+1を検索領域SAとして示している。
同図において、いま、検索領域SAを水平方向5画素×垂直方向5画素の領域とし、この検索領域SAでのエッジ検出部8の検出処理により、水平方向左から1列目の画素列と2列目の画素列との間に水平エッジEG1が存在し、また、水平方向4列目の画素列と5列目の画素列との間に水平エッジEG2が存在するものとする。また、水平エッジEG1,EG2との間が輝度レベルが高い領域であり、この高輝度領域の両側が低輝度レベルの領域とする。なお、この検索領域SAの中心画素は画素a(2,2)である。
いま、水平方向左から1列目の画素列の最下部の画素a(0,4)が候補画素ペアの一方の画素とし、これが判定対象とすると、この判定対象の画素a(0,4)について、エッジ条件の1つとして、エッジの有無が判定されるのであるが、その判定方法としては、この判定対象画素a(0,4)を通る水平線H1とこの検索領域SAでの中心画素a(2,2)を通る垂直線Vと交わる位置の画素a(2,4)を求め、画素a(0,4)から画素a(2,4)までの間(かかる範囲を、以下、補間位置まで水平方向の範囲という)での水平エッジの有無の判定を行なう。この有無の判定は、判定対象画素a(0,4)から画素a(2,4)までの補間位置までの水平方向の範囲内の画素の位置とエッジ検出部8からのエッジ情報とから行なうことができる。この判定対象画素a(0,4)に対しては、これとその右隣りの画素との間に水平エッジEG1が存在するから、「エッジ有り」という判定になる。同様にして、水平方向左から5列目の画素列の最上部の画素a(4,0)が候補画素ペアの一方の画素とし、これを判定対象画素すると、上記と同様に、この判定対象画素a(4,0)を通る水平線H2とこの検索領域SAでの中心画素a(2,2)を通る垂直線Vと交わる位置の画素a(2,0)を求め、判定対象画素a(4,0)から画素a(2,0)までの補間位置までの水平方向の範囲での水平エッジの有無の判定を行なう。この判定対象画素a(4,0)に対しては、これとその左隣りの画素との間に水平エッジEG2が存在するから、「エッジ有り」という判定になる。
また、水平方向左から2列目の画素列の下から2番目の画素a(1,3)が候補画素ペアの一方の画素とし、これを判定対象画素とすると、上記と同様に処理することにより、その補間範囲までの範囲内に水平エッジはないから、この判定対象画素a(1,3)に対しては、「エッジなし」という判定になる。同様にして、水平方向左から4列目の画素列の上から2番目の画素a(3,1)が候補画素ペアの一方の画素とし、これを判定対象画素とすると、その補間範囲までの範囲内に水平エッジはないから、この判定対象画素a(3,1)に対しては、「エッジなし」という判定になる。
このようにして、1つ前のフレームF-1の検索領域SA-1と現フレームF+1の検索領域SA+1とでの候補画素ペアの夫々の画素について、エッジ条件として、エッジの有無を判定する。
図6は以上のエッジの有無の判定結果を用いた候補画素ペアの選択方法の一具体例を示す図である。
同図において、1つ前のフレームF-1の検索領域SA-1での画素a21,a17は夫々図5における画素a(0,4),a(1,3)に相当し、現フレームF+1の検索領域SA+1での画素b5,b9は夫々図5における画素a(4,0),a(3,1)に相当する。また、検索領域SA-1,SA+1の図5の検索領域SAに対応する位置に水平エッジEG1,EG2が存在するものとする。
この場合、検索領域SA-1の画素a21と検索領域SA+1の画素b5とは、補間フレームF0の補間位置P0に関して点対称の位置関係にあり、選択された候補画素ペアをなしている。この候補画素ペア〔a21‖b5〕に対しては、上記の判定処理により、判定対象画素a21とその右隣りの画素との間の画素間cと次の画素間dとについて、水平エッジの有無が判定され、画素間cに水平エッジEG1があるから、この画素a21に対しては、「エッジ有り」と判定される。判定対象画素b5とその左隣りの画素との間の画素間aと次の画素間dとについて、水平エッジの有無が判定され、画素間aに水平エッジEG2があるから、この画素b5に対しては、「エッジ有り」と判定される。このように、候補画素ペア〔a21‖b5〕のいずれの画素a21,b5も「エッジ有り」と判定されると、その候補補間画素ベクトルは「採用しない」と判定され、選択されない。
また、検索領域SA-1の画素a17と検索領域SA+1の画素b9も、補間フレームF0の補間位置P0に関して点対称の位置関係にあり、選択された候補画素ペアをなしている。この候補画素ペア〔a17‖b9〕に対しては、上記の判定処理により、画素間f,eで水平エッジの有無が判定され、この場合には、画素a17,b9がともに「エッジなし」と判定されることになるので、エッジがない候補画素ペアに対しては、その候補補間画素ベクトルが「採用する」と判定されて選択される。
このように、候補画素ペアのいずれの画素についても「エッジ有り」という判定がある場合には、この候補画素ペアの候補補間画素ベクトルは候補補間画素ベクトル判定部9で選択されない。
これは、次の理由によるものである。
即ち、図1に示す第1の実施形態のように、検出される画素ペアのうち、その輝度値の差分値の絶対値が最小となる画素ペアを差分最小画素ペアとして選択すると、候補画素ペア〔a21‖b5〕の輝度値の差分値の絶対値が、これら画素a21,b5が低レベル領域に有ることから、候補画素ペア〔a17‖b9〕の輝度値の差分値の絶対値よりも小さくなる場合がある。このような場合には、候補画素ペア〔a21‖b5〕が選択されてその候補補間画素ベクトルが補間フレーム生成部5に供給されて、この候補補間画素ベクトルによって補間フレームF0が生成されてしまうことになる。
このような場合、この候補画素ペア〔a21‖b5〕が選択されたのは、これら画素a21,b5がいずれも低レベル領域に有ったことによる場合もあり、かかる候補画素ペア〔a21‖b5〕から高レベル領域の補間画素が生成されるのは誤っている場合が多い。そして、このような誤って選択された画素ペアで補間画素が生成されると、モーションジャダーなどが発生して画質の劣化を招く可能性もある。
第2の実施形態では、上記のように、エッジ条件をもとに、複数の候補補間画素ベクトルを選択するものであるから、上記のようなエッジ条件を満足しない候補補間画素ベクトルは除かれることになり、フレーム補間に伴う画質の劣化を防止することができる。
ところで、以上の具体例は、候補画素ペアのいずれの画素も「エッジ有り」の判定がなされる場合を示すものであったが、「エッジ有り」の判定を受けても、即ち、判定対象画素から補間位置までの水平方向の範囲内の画素間に水平エッジがあったとしても、唯一であるか(即ち、候補画素ペアで一箇所の画素間でのみ水平エッジが検出される)、複数の画素間で水平エッジが検出されても、全て同じ方向であることを確認し、このエッジ条件を満足する候補画素ペアの候補補間画素ベクトルを選択する。ここで、輝度値が高い方から低い方への向きをエッジの方向という。
例えば、図6において、候補画素ペア〔a21‖b5〕についてみると、画素a21については、画素間cに水平エッジEG1があり、画素b5については、画素間aに水平エッジEG2があり、2つの画素間で水平エッジが検出されることになる。そして、画素間cでのエッジ方向は左方向であり、画素間aでのエッジ方向は右方向となるから、この候補画素ペア〔a21‖b5〕の2つのエッジの方向は異なることになる。従って、かかる候補画素ペア〔a21‖b5〕はエッジ条件を満たしていないことになり、この候補画素ペア〔a21‖b5〕の候補補間画素ベクトルは候補補間画素ベクトル判定部9で選択されないことになる。
また、例えば、図7に示すように、1つ前のフレームF-1の検索領域SA-1と現フレームF+1の検索領域SA+1とで右上がり方向のエッジがあるものとした場合、検索領域SA-1での画素a21と検索領域SA+1での画素b5とが候補補間画素ベクトル算出部7で候補画素ペア〔a21‖b5〕として選択されたとすると、その画素b5については、補間位置までの水平方向の範囲内の画素間a,bで水平エッジの有無が検出され、画素a21についても、補間位置までの水平方向の範囲内の画素間c,dで水平エッジの有無が検出される。この場合、画素間aのみに水平エッジが存在するから、唯一の水平エッジであり、この候補画素ペア〔a21‖b5〕の候補補間画素ベクトルは選択されることになる。また、検索領域SA-1での画素a17と検索領域SA+1での画素b9との候補画素ペア〔a17‖b9〕についても、それらに対する画素間f,eでの水平エッジの有無が検出される。この場合には、画素間eにのみ水平エッジが検出されることになるから、唯一の水平エッジであり、この候補画素ペアの候補補間画素ベクトルが選択される。
即ち、図7において、画素a21と画素b5とが候補画素ペアをなし、また、画素a17と画素b9とが候補画素ペアをなしているものとすると、上記のエッジ判定に基づいて、これら候補画素ペア〔a21‖b5〕,〔a17‖b9〕の候補補間画素ベクトルがともにエッジ条件を満たしているものとして選択されることになる。
但し、このように、エッジ条件を満たす候補補間画素ベクトルが複数検出された場合には、その候補画素ペアの画素が補間位置P0、従って、夫々の検索領域SA-1,SA+1での中心画素に近い方の候補画素ペアの候補補間画素ベクトルを選択する。上記の場合、候補画素ペア〔a17‖b9〕の候補補間画素ベクトルが、補間フレーム生成部5(図4)で補間フレームを生成するための補間画素ベクトルとして、選択されることになる。
なお、図6において、例えば、エッジEG1,EG2の一方が存在しない場合には、候補画素ペア〔a21‖b5〕も、水平エッジが1つの画素間にしか存在しないので、唯一となるが、通常、画素ペアの一方の画素が1つのエッジの一方側(即ち、例えば、高レベル領域内)にあり、他方のエッジがこのエッジの他方側(即ち、例えば、低レベル領域内)にある場合には、これら画素の輝度値の差分の絶対値は大きいから、かかる画素ペアが候補補間画素ベクトル算出部7で候補画素ペアとして選択される可能性は少ない。
図8は図4における候補補間画素ベクトル判定部9の以上の補間画素ベクトルの選択動作を示すフローチャートである。
同図において、候補補間画素ベクトル算出部7が選択した上記の差分値の絶対値が小さい順にX個の候補画素ペアの候補補間画素ベクトルを取り込み(ステップ100)、候補補間画素ベクトル毎に、エッジ検出部8で検出されたエッジ情報をもとに、エッジ条件の判定処理を行なう。この判定処理では、補間位置までの水平方向の範囲内に水平エッジがない候補補間画素ベクトルはエッジ条件を満たしているものとし(ステップ101)、また、補間位置までの水平方向の範囲内に水平エッジがあっても、この範囲内での1つの画素間にしか存在しない場合(即ち、唯一である場合)、あるいは複数の画素間に水平エッジが存在しても、これら水平エッジが全て同じ方向である場合も、候補補間画素ベクトルはエッジ条件を満たしているものとする(ステップ102)。
そして、X個の候補補間画素ベクトルについてかかるエッジ条件の判定処理が終了し(ステップ103)、この判定処理によって1つの候補補間画素ベクトルのみがエッジ条件を満たす判定されて選択されたときには(ステップ104)、この選択された候補補間画素ベクトルが、補間画素ベクトルとして、補間フレーム生成部5に供給され、補間フレームF0の生成に用いられる(ステップ106)。また、判定処理によって複数の候補補間画素ベクトルがエッジ条件を満たす判定されて選択されたときには(ステップ104)、これら候補補間画素ベクトルのうちの、補間フレームF0の補間位置に最も近い候補画素ペアの候補補間画素ベクトル、即ち、候補画素ペアの夫々の画素が該当する1つ前のフレームF-1の検索領域SA-1での中心画素や該当する現フレームF+1の検索領域SA+1での中心画素に最も近い候補画素ペアの候補補間画素ベクトルを選択し(ステップ105)、これを、補間フレームを生成するための補間画素ベクトルとして、補間フレーム生成部5に供給する(ステップ106)。
以上のように、この第2の実施形態では、複数の候補補間画素ベクトルから補間フレームF0の生成のための補間画素ベクトルの選択の条件として、エッジ条件を追加することにより、より精度の高い補間フレームを作成することができ、より高精度なフレームレート変換を行なうことが可能となる。
図9は本発明による映像補間装置の第3の実施形態を示すブロック図であって、9aは候補補間画素ベクトル判定部、10は補間方向ヒストグラム検出部であり、図4に対応する部分には同一符号を付けて重複する説明を省略する。
この第3の実施形態は、一定速度のスクロールなどによる映像画面全体の移動方向も考慮して、補間フレーム生成部5で補間フレームの生成に用いる補間画素ベクトルを選択するものである。
同図において、図4に示す第2の実施形態と同様、候補補間画素ベクトル判定部9aでは、候補補間画素ベクトル算出部7で選択されたX個の候補補間画素ベクトルのうち、エッジ判定部8からのエッジ情報によるエッジ条件に加え、補間方向ヒストグラム検出部10で検出される映像画面全体の大まかな移動方向(以下、グローバルベクトルという)GVも利用して、補間フレーム生成部5で補間フレーム生成のための補間画素ベクトルを選択する。このグローバルベクトルGVは、前回の補間フレームの生成時に候補補間画素ベクトル判定部9aでこの補間フレームの補間画素毎に選択された補間画素ベクトルをもとに生成される。
即ち、補間方向ヒストグラム検出部10は、候補補間画素ベクトル判定部9aが補間画素ベクトルが出力される毎に、これを取り込み、この取り込んだ補間画素ベクトルによって表わされる方向を判別して区分し、その方向の区分毎に補間画素ベクトルの出現数をカウントして、補間フレームでの全補間画素について、方向毎の補間画素ベクトルのヒストグラムを作成する。そして、このヒストグラムから支配的な方向を検出し、この検出した方向をグローバルベクトルGVとするものである。
図10は得られたヒストグラムの一例を模式的に示すものであって、方向を補間画素ベクトルで表わすものである。
即ち、候補補間画素ベクトル判定部9aで選択される補間画素ベクトルは、そのとき設定された検索領域SA-1,SA+1での候補画素ペアの位置情報を表わすものであるから、かかる検索領域SA-1,SA+1での映像の移動方向を表わしている。従って、かかる候補画素ペアの検索領域SA-1,SA+1のいずれか一方での画素の位置を指定することにより、検索領域SA-1,SA+1での映像の移動方向を特定することができる。
図10はこのように1つ前のフレームF-1での画素の位置でもって検索領域での映像の移動方向を表わしているものであって、ここでは、水平方向11画素×垂直方向5画素の検索領域とし、画素をP(i,j)としている(但し、i=0,1,2,……,10、j=0,1,2,3,4)。この検索領域での中心画素は画素P(5,2)である。
そして、例えば、画素P(0,0)は、現フレームF+1の検索領域SA+1での画素P(10,4)と画素ペアになるものであり、この画素ペアが候補補間画素ベクトル判定部9aで補間画素ベクトルが選択された画素ペアとすると、このときの検索領域での映像の移動は、このときの1つ前のフレームF-1の検索領域SA-1での画素P(0,0)から現フレームF+1の検索領域SA+1での画素P(10,4)への方向ということになる。
従って、候補補間画素ベクトル判定部9aから出力される補間画素ベクトルをその画素ペア毎にカウントすることにより、例えば、図10に示すように、補間フレームF0が作成されたときの補間画素ベクトルのヒストグラムが得られることになる。
このヒストグラムにおいて、カウント数(出現頻度)が「56872」の画素(5,3)が最も補間画素ベクトルの出現頻度が高い画素ということになり、このことから、このときの補間フレームを生成するために設定された全ての検索領域での映像の移動方向は1つ前のフレームF-1での画素(5,3)からこれと中心画素P(5,2)に点対称の位置にある現フレームF+1での画素P(5,1)への方向となり、この方向が1つ前のフレームF-1から現フレームF+1に移ったときの映像全体の移動方向、即ち、グローバルベクトルGVとするものである。ここで、この場合の中心画素P(5,2)の位置を補間位置P0といい、また、グローバルベクトルGVを規定する画素(5,3)の位置をグローバルGVの位置という。
このようにして、補間方向ヒストグラム検出部10は、補間フレーム生成部5で補間フレームF0が生成されると、グローバルベクトルGVを生成して候補補間画素ベクトル判定部9aに供給する。候補補間画素ベクトル判定部9aでは、次の補間フレームF0を生成する際の候補補間画素ベクトル9での補間画素ベクトルの選択のために、このグローバルベクトルGVを、エッジ判定部8からのエッジ情報とともに用いる。
候補補間画素ベクトル判定回路9では、候補補間画素ベクトル算出部7で次の補間フレームの生成のためにその補間位置毎に算出された差分値の絶対値が小さい順からX個の候補補間画素ベクトルのうち、上記の水平エッジ条件を満たし、かつグローバルベクトルGVと方向が一致しているものを補間画素ベクトルとして選択し、補間フレーム生成部5に供給し、また、さらに次の補間フレームの作成の際のグローバルベクトルGVの作成のために、補間方向ヒストグラム検出部10にも供給する。
なお、グローバルベクトルによる方向をグループ化し、候補補間画素ベクトルがこのグローバルベクトルGVと完全に方向が一致しなくても、この検出されたグローバルベクトルGVが含まれるグループの領域に入る候補補間画素ベクトルは、このグローバルベクトルGVと方向が一致とみなすようにしてもよい。
図11はグローバルベクトルGVのグループ化の一具体例を示す図であって、この具体例は図10で示すヒストグラムの領域、即ち、検索領域を水平,垂直方向に2つずつのエリアに分割し、全体として4つのエリアに分割してグループ化するものである。但し、夫々のグループエリアは一部重複するようにしている。
ここで、図示するように、エリア(1)〜(9)を想定すると、
第1のグループは、エリア(1)+(2)+(4)+(5)
第2のグループは、エリア(2)+(3)+(5)+(6)
第3のグループは、エリア(4)+(5)+(7)+(8)
第4のグループは、エリア(5)+(6)+(8)+(9)
とする。即ち、エリア(2)は第1グループと第2グループとで共有され、エリア(4)は第1グループと第3グループとで共有され、エリア(6)は第2グループと第4グループとで共有され、エリア(8)はは第3グループと第4グループとで共有され、エリア(5)は第1〜第4グループで供給される。なお、このエリア(5)は補間位置P0のみを含むものであり、従って、補間位置P0はいずれのグループにも含まれることになる。
そこで、いま、グローバルベクトルGVが第1グループ内にあるとすると、この第1のグループに属する方向の候補補間画素ベクトルがこのグローバルベクトルGVに一致すると判定される。
ところで、候補補間画素ベクトル判定部9aは、上記の水平エッジ条件を満たし、かつグローバルベクトルGVと方向が一致している候補補間画素ベクトルが複数存在する場合には、上記第2の実施形態と同様、より補間位置P0に近いものを補間画素ベクトルとして選択するようにするか、グローバルベクトルGVの位置から補間位置P0までの距離(これを、以下、グローバルディスタンスGDという)の値に最も近い補間位置P0まで距離の候補補間画素ベクトルを選択するようにしてもよい。この場合、補間方向ヒストグラム検出部10は、グローバルベクトルGVを算出するとともに、グローバルディスタンスGDも算出する。
このグローバルディスタンスGDを用いた補間画素ベクトルのかかる判定方法を図10で説明すると、図10での画素P(i1,j1),P(i2,j2)間の距離Lを、
L=|i1−i2|+|j1−j2
とすると、補間位置P0(5,2)からグローバルベクトルGVの位置(5,3)までの距離(グローバルディスタンス)GDは、
GD=|5−5|+|3−2|=1
となる。これに対し、例えば、水平エッジ条件を満たし、かつ図11に示すグループ化でグローバルベクトルGVと方向が一致している候補補間画素ベクトルとして、位置(2,2),(3,4)の2つの候補補間画素ベクトルが存在した場合、これら候補補間画素ベクトルの補間位置P0からの距離D1,D2は夫々、
D1=|2−5|+|2−2|=3
D2=|3−5|+|4−2|=4
となり、位置(2,2)の候補補間画素ベクトルの方がグローバルディスタンスGDに近い距離となるから、この候補補間画素ベクトルが補間画素ベクトルとして選択されることになる。
以上のように、この第3の実施形態では、一定速度のスクロールなどによる映像画面全体の大まかな動き及び大まかな補間距離を知ることにより、補間画素ベクトルの選択精度が大幅に向上し、補間画素ベクトルの誤検出を効果的に抑圧することができる。
図12は本発明による映像補間装置の第4の実施形態を示すブロック図であって、11は検索領域指定部であり、前出図面に対応する部分には同一符号を付けて重複する説明を省略する。
同図において、入力端子1からの現フレームF+1とフレームメモリ2からの1つ前のフレームF-1とは検索領域指定部11に供給され、補間方向ヒストグラム検出部10で検出されたグローバルベクトルGVをもとに、補間フレームF0での補間画素を生成する補間位置毎にこれら現フレームF+1と1つ前のフレームF-1との検索領域SA+1,SA-1が指定される。この指定された検索領域SA+1,SA-1において、図4に示した第2の実施形態と同様、候補補間画素ベクトル算出部7で上記X個の候補補間画素ベクトルが選ばれ、候補補間画素ベクトル判定部9で、エッジ条件をもとに、これらX個の候補補間画素ベクトルの中から1つの補間画素ベクトルが選択される。
図13は図12における検索領域指定部11の処理動作の一具体例を示す図である。
同図において、候補補間画素ベクトル判定部9により、1つ前のフレームF-1には、各画素に対し、検索領域での中心画素となったときに補間画素ベクトルPVが得られ、これら補間画素ベクトルPVから補間方向ヒストグラム検出部10で、図10及び図11で説明したように、グローバルベクトルGVが検出される。このグローバルベクトルGVが、次の補間フレームF0の生成のために、検索領域指定部11に供給される。
検索領域指定部11では、まず、補間フレームF0の補間画素の補間位置P0を中心とする領域SA0を想定し、この領域SA0に正対する1つ前のフレームF-1、での領域をこのフレームF-1の第1次検索領域SA-1とし、また、補間フレームF0の領域SA0に正対する現フレームF+1での領域をこのフレームF+1の第1次検索領域SA+1とする。そして、これら第1次検索領域SA-1,SA+1を夫々上下左右に2つずつ4つの領域に分割する。そして、補間フレームF0での領域SA0の中心の補間位置P0を通してグローバルベクトルGVを設定したときに、このグローバルベクトルGVが示す方向及びその逆方向にあるから1つ前のフレームF-1の第1次検索領域SA-1での分割領域を第2次検索領域SA--1とし、現フレームF+1の第1次検索領域SA+1での分割領域を第2次検索領域SA++1とする。
1つ前のフレームF-1のかかる第2次検索領域SA--1と現フレームF+1のかかる第2次検索領域SA++1が候補補間画素ベクトル算出部7に供給され、候補補間画素ベクトル算出部7は、かかる第2次検索領域SA--1,SA++1で上記X個の候補補間画素ベクトルを検出する。
なお、ここでは、第1次検索領域SA-1,SA+1の分割数を4としたが、これに限るものではないことは明らかである。
以上のように、この第4の実施形態でも、図9で示した第3の実施形態と同様の効果を得ることができ、また、候補補間画素ベクトル算出部7などでの演算量を低減できる。
なお、図1に示す第1の実施形態においても、図12に示す構成と同様、差分最小ペア算出部4の前段に検索領域指定部11を設け、また、差分最小ペア算出部4から出力される補間画素ベクトルを用いて上記のようなグローバルベクトルGVを検出する補間方向ヒストグラム検出部10を設け、この第4の実施形態のように、検索領域指定部11において、このグローバルベクトルGVにより、差分最小ペア算出部4で用いる1つ前のフレームF-1と現フレームF+1での検索領域を特定するようにすることもできる。
図14は本発明による映像補間装置の第5の実施形態の要部動作を示す図である。この第5の実施形態は先の各実施形態と同様の構成をなしており、この図14は、この第5の実施形態が図1に示す構成をなしているときには、差分最小ペア算出部4での差分最小画素ペアの検出方法を示すものであり、図4,図9及び図12のいずれかに示す構成をなしているときには、候補補間画素ベクトル算出部7での候補補間画素ベクトルの検出方法を示すものである。
ここで、図14は、例えば、図6に示すような、1つ前のフレームF-1の検索領域SA-1と補間フレームF0の領域SA0と現フレームF+1の検索領域SA+1との配列を、時間軸t方向から、これら領域が透かして見えるように図示したものであり、〇印で示す検索領域SA-1の画素aと検索領域SA+1の画素bとは重なって見えることになる。従って、画素a1,a2は1つ前のフレームF-1の検索領域SA-1での画素であり、b1,b2は現フレームF+1の検索領域SA+1での画素である。また、P0は補間フレームF0での補間位置、あるいは検索領域SA-1,SA+1ての中心画素の位置を表わしている。
この第5の実施形態は、映像画面の動き速度にフレーム単位で変化がある場合でも、補間画素ベクトルを精度良く検出でき、誤検出を防止できるようにするものである。
図14において、画素a1と画素b1とは補間位置P0に関して点対称の位置にあるから、先の各実施形態での画素ペアに相当する。この画素ペア〔a1‖b1〕に対する補間画素ベクトルPV1を実線矢印で示す。差分最小画素ペア算出部4(図1)や候補補間画素ベクトル算出部7(図4,図9あるいは図12)では、まず、この画素ペア〔a1‖b1〕に対する上記差分値の絶対値(以下、絶対差分値という)を算出する。
次に、この画素ペア〔a1‖b1〕の一方の画素a1と他方の画素b1よりも補間位置P0に1つ近い画素b2とのペアを第1の拡張画素ペア〈a1‖b2〉とする。一点鎖線の矢印は、この第1の拡張画素ペア〈a1‖b2〉の補間画素ベクトルPV2を示す。差分最小画素ペア算出部4や候補補間画素ベクトル算出部7は、この第1の拡張画素ペア〈a1‖b2〉の上記差分値の絶対値(第1の拡張絶対差分値)も算出する。
さらに、この画素ペア〔a1‖b1〕の他方の画素b1と一方の画素a1よりも補間位置P0に1つ近い画素a2とのペアを第2の拡張画素ペア〈a2‖b1〉とする。破線の矢印は、この第2の拡張画素ペア〈a2‖b1〉の補間画素ベクトルPV3を示す。差分最小画素ペア算出部4や候補補間画素ベクトル算出部7は、この第2の拡張画素ペア〈a2‖b1〉の上記差分値の絶対値(第2の拡張絶対差分値)も算出する。
そして、図1に示す構成の第5の実施形態では、差分最小画素ペア算出部4において、算出した画素ペアと第1,第2の拡張画素ペアとのうちで絶対差分値が最小の画素ペアを選択する。そして、同じ検索領域での補間位置P0に点対称な画素のペアに関して同様の算出処理を行なって、夫々のペア毎に絶対差分値が最小の画素ペアを求め、求めた画素ペアのうちで絶対差分値が最小の画素ペアを差分最小画素ペアとするものである。
あるいはまた、検索領域内での補間位置P0に関して点対称となる画素ペアの全てについて、上記の拡張画素ペアを求め、これら画素ペアと拡張画素ペアのうちで絶対差分値が最小の画素ペアを差分最小画素ペアとして選択するようにしてもよいが、また、まず、補間位置P0に関して点対称となる画素ペアについて差分絶対値が最小となる画素ペアを選択し、次いで、この選択した画素ペアの画素に関して上記の拡張画素ペアを求め、この選択した画素ペアと求めた拡張画素ペアとのうちで差分絶対値が最小となる画素ペアを差分最小画素ペアとして選択するようにしてもよい。
また、図4,図9あるいは図12に示す構成の第5の実施形態では、候補補間画素ベクトル算出部7において、検索領域内での補間位置P0に関して点対称となる画素ペアの全てについて、上記の第1,第2の拡張画素ペアを求め、これら画素ペアと拡張画素ペアとのうちで差分絶対値が小さい方から順に上記X個の画素ペアを選択し、候補補間画素ベクトルとして候補ベクトル判定部9または9aに供給する。
このようにして、この第5の実施形態では、補間位置P0に関して点対称の位置関係にある画素ペアばかりでなく、1つ前のフレームF-1と現フレームF+1との間で映像画面の移動速度が変化した場合には、その変化に応じて、補間位置P0に関して点対称の位置関係にない画素ペアの補間画素ベクトルも得られるものであり、補間フレームの精度がより向上することになる。
本発明による映像補間装置の第1の実施形態を示すブロック図である。 1つ前のフレームと現フレームと補間フレームとの関係を示す図である。 図2での1つ前のフレームでの検索領域,現フレームでの検索領域とこれらに対向する補間フレームでの領域とを拡大して示す図である。 本発明による映像補間装置の第2の実施形態を示すブロック図である。 図4における候補補間画素ベクトル判定部でのエッジ条件を説明する図である。 図4における候補補間画素ベクトル判定部での判定処理方法の一具体例を示す図である。 図4における候補補間画素ベクトル判定部での判定処理方法の他の具体例を示す図である。 図4における補間フレーム生成部の処理動作を示すフローチャートである。 本発明による映像補間装置の第3の実施形態を示すブロック図である。 図9における補間方向ヒストグラム検出部で生成されるヒストグラムを模式的に示す図である。 図9における補間方向ヒストグラム検出部で検出されるグローバルベクトルのグループ化方法の一具体例を模式的に示す図である。 本発明による映像補間装置の第4の実施形態を示すブロック図である。 図12における検索領域指定部の動作を示す図である。 本発明による映像補間装置の第5の実施形態の要部の処理動作を示す図である。
符号の説明
1 入力端子
2 フレームメモリ
3 遅延調整部
4 最小差分画素ペア算出部
5 補間フレーム生成部
6 出力端子
7 候補補間画素ベクトル算出部
8 エッジ検出部
9,9a 候補補間画素ベクトル判定部
10 補間方向ヒストグラム検出部
-1 1つ前のフレーム
0 補間フレーム
+1 現フレーム
SA-1 1つ前のフレームの検索領域
SA+1 現フレームの検索領域
0 補間位置
EG1,EG2 エッジ
GV グローバルベクトル

Claims (14)

  1. 映像信号の1つ前のフレームと現フレームとの間に内挿する補間フレームを生成する映像補間装置であって、
    該1つ前のフレームと該現フレームとで該補間フレーム内の補間位置に正対した位置を中心とする検索領域に関し、
    補間フレーム内の補間位置に関して点対称となる1つ前のフレームの画素と現フレームの画素との組を画素ペアとし、
    かつ該1つ前のフレームでの該補間フレーム内の補間位置に正対した位置を1つ前のフレームでの補間位置とし、該現フレームでの該補間フレーム内の補間位置に正対した位置を該現フレームでの補間位置として、該1つ前のフレームでの該画素ペアとなる一方の画素と、該現フレームでの該画素ペアとなる他方の画素よりも該現フレームての補間位置に1つ近い位置の画素との組を第1の拡張画素ペアとし、さらに、該1つ前のフレームでの該画素ペアとなる一方の画素よりも該1つ前のフレームでの補間位置に1つ近い位置の画素と、該現フレームでの該画素ペアとなる他方の画素との組を第2の拡張画素ペアとし、
    該画素ペア,該第1の拡張画素ペア及び該第2の拡張画素ペアの夫々の画素の輝度値の差分を計算し、該差分の絶対値が最小となる該画素ペア,該第1の拡張画素ペアもしくは該第2の拡張画素ペアを差分最小画素ペアとして、該差分最小画素ペアの画素の位置情報を、補間画素ベクトルとして、算出する差分最小画素ペア算出手段と、
    該補間画素ベクトルを用いて該補間位置の補間画素を生成し、該補間画素からなる補間フレームを生成する補間フレーム生成手段と
    を備えたことを特徴とする映像補間装置。
  2. 請求項1において、
    前記最小差分画素ペア算出手段は、
    1つ前のフレームと現フレーム毎に、前記補間フレーム内の前記補間位置に正対する画素を中心画素とし、該中心画素を中心として水平方向,垂直方向に所定の画素数の検索領域を設定し、
    前記画素ペアを、前記補間位置に関して点対称の位置にある該1つ前のフレームの該検索領域内の画素と該現フレームの該検索領域での画素とから設定するとすることを特徴とする映像補間装置。
  3. 請求項1において、
    前記補間フレーム生成手段は、前記補間画素ベクトルによる前記差分最小画素ペアとなる画素の値をもとに補間画素の値を決定し、該補間画素からなる補間フレームを生成することを特徴とする映像補間装置。
  4. 請求項3において、
    前記補間画素の値は、前記差分最小画素ペアとなる画素の輝度値に応じた輝度値と色値に応じた色値であることを特徴とする映像補間装置。
  5. 映像信号の1つ前のフレームと現フレームとの間に内挿する補間フレームを生成する映像補間装置であって、
    該1つ前のフレームと該現フレームとで該補間フレーム内の補間位置に正対した位置を中心とする検索領域に関し、
    補間フレーム内の補間位置に関して点対称となる1つ前の1フレームの画素と現フレームの画素との組を画素ペアとし、
    かつ該1つ前のフレームでの該補間フレーム内の補間位置に正対した位置を1つ前のフレームでの補間位置とし、該現フレームでの該補間フレーム内の補間位置に正対した位置を該現フレームでの補間位置として、該1つ前のフレームでの該画素ペアとなる一方の画素と、該現フレームでの該画素ペアとなる他方の画素よりも該現フレームての補間位置に1つ近い位置の画素との組を第1の拡張画素ペアとし、さらに、該1つ前のフレームでの該画素ペアとなる一方の画素よりも該1つ前のフレームでの補間位置に1つ近い位置の画素と、該現フレームでの該画素ペアとなる他方の画素との組を第2の拡張画素ペアとし、
    該画素ペア,該第1の拡張画素ペア及び該第2の拡張画素ペアの夫々の画素のR,G,B値の差分を計算し、R,G,B毎に、該差分の絶対値が最小となる画素ペア,該第1の拡張画素ペアもしくは該第2の拡張画素ペアを差分最小画素ペアとして、該差分最小画素ペアの画素の位置情報を、補間画素ベクトルとして、算出する差分最小画素ペア算出手段と、
    該補間画素ベクトルを用いて該補間位置の補間画素を生成し、該補間画素からなる補間フレームを生成する補間フレーム生成手段と
    を備えたことを特徴とする映像補間装置。
  6. 請求項5において、
    前記最小差分画素ペア算出手段は、
    1つ前のフレームと現フレーム毎に、前記補間フレーム内の前記補間位置に正対する画素を中心画素とし、該中心画素を中心として水平方向,垂直方向に所定の画素数の検索領域を設定し、
    前記画素ペアを、前記補間位置に関して点対称の位置にある該1つ前のフレームの該検索領域内の画素と該現フレームの該検索領域での画素とから設定することを特徴とする映像補間装置。
  7. 請求項5または6において、
    前記補間フレーム生成手段は、前記差分の絶対値が最も小さい前記補間画素ペアのR,G,Bの値の平均値を前記補間位置での補間画素の値として、前記補間フレームを生成することを特徴とする映像補間装置。
  8. 映像信号の1つ前のフレームと現フレームとの間に内挿する補間フレームを生成する映像補間装置であって、
    該1つ前のフレームと該現フレームとで該補間フレーム内の補間位置に正対した位置を中心とする検索領域に関し、
    補間フレーム内の補間位置に関して点対称となる1つ前のフレームの画素と現フレームの画素との組を画素ペアとし、
    かつ該1つ前のフレームでの該補間フレーム内の補間位置に正対した位置を1つ前のフレームでの補間位置とし、該現フレームでの該補間フレーム内の補間位置に正対した位置を該現フレームでの補間位置として、該1つ前のフレームでの該画素ペアとなる一方の画素と、該現フレームでの該画素ペアとなる他方の画素よりも該現フレームての補間位置に1つ近い位置の画素との組を第1の拡張画素ペアとし、さらに、該1つ前のフレームでの該画素ペアとなる一方の画素よりも該1つ前のフレームでの補間位置に1つ近い位置の画素と、該現フレームでの該画素ペアとなる他方の画素との組を第2の拡張画素ペアとし、
    該画素ペア,該第1の拡張画素ペア及び該第2の拡張画素ペアの夫々の画素の輝度値の差分を計算し、該差分の絶対値が小さい方から所定の個数の画素ペア,該第1の拡張画素ペアもしくは該第2の拡張画素ペアを候補補間画素ペアとして、該候補補間画素ペアの画素の位置情報を、候補補間画素ベクトルとして、算出する候補補間画素ベクトル算出手段と、
    該1つ前のフレームと該現フレームとからエッジ情報を検出するエッジ検出手段と、
    該エッジ情報をもとに、候補補間画素ベクトル算出手段で検出された候補補間画素ペアのうちの所定のエッジ条件を満たす候補補間画素ペアを、補間画素ペアとして、選択する候補補間画素ベクトル判定手段と、
    該補間画素ベクトル判定手段で選択された該補間画素ペアの補間画素ベクトルを用いて該補間位置の補間画素を生成し、該補間画素からなる補間フレームを生成する補間フレーム生成手段と
    を備えたことを特徴とする映像補間装置。
  9. 請求項8において、
    前記候補補間画素ベクトル判定手段で選択される補間画素ペアの補間画素ベクトルの出現数を、該補間画素ベクトルが示す方向毎に判別して、カウントし、該出現数によって支配的な補間画素ベクトルの方向を、グローバルベクトルとして、検出する補間方向ヒストグラム検出手段を設け、
    前記候補補間画素ベクトル判定手段は、前記候補補間画素ベクトル算出手段で選択された候補補間画素ペアのうち、前記エッジ条件を満足し、かつ候補補間画素ベクトルの方向が該グローバルベクトルの方向と一致する候補補間画素ペアを補間画素ペアとして選択し、選択した該補間画素ペアの補間画素ベクトルを前記補間フレーム生成手段に供給することを特徴とする映像補間装置。
  10. 請求項9において、
    前記補間方向ヒストグラム検出手段は、検出した前記グローバルベクトルをその方向に応じてグループ分けする手段を備え、
    前記候補補間画素ベクトル判定手段は、前記グローバルベクトルの方向が属するグルーブに方向が含まれる前記候補補間画素ベクトルを、前記グローバルベクトルに一致した補間画素ベクトルと判定することを特徴とする映像補間装置。
  11. 請求項9または10において、
    前記候補補間画素ベクトル判定手段は、前記エッジ条件を満足し、かつ前記グローバルベクトルの方向と一致する候補補間画素ペアが複数存在するとき、前記補間位置からみたグローバルベクトルの方向での1つ前のフレームまたは現フレームでの画素と前記補間位置に正対する1つ前のフレームまたは現フレームでの中心画素との間の第1の距離を求め、該候補補間画素ベクトルのうちの候補補間画素ペアの画素と該中心画素との距離が該第1の距離に最も近い候補補間画素ペアを前記補間画素ペアとして選択することを特徴とする映像補間装置。
  12. 映像信号の1つ前のフレームと現フレームとの間に内挿する補間フレームを生成する映像補間装置であって、
    1つ前のフレームと現フレームとで、該補間フレーム内の補間位置に関して検索領域を指定する検索領域指定手段と、
    該1つ前のフレームと該現フレームとで該補間フレーム内の補間位置に正対した位置を中心とする指定された該検索領域に関し、
    該検索領域指定手段で指定された該検索領域内で、該補間フレーム内の該補間位置に関して点対称となる該1つ前のフレームの画素と該現フレームの画素との組を画素ペアとし、
    かつ該1つ前のフレームでの該補間フレーム内の補間位置に正対した位置を1つ前のフレームでの補間位置とし、該現フレームでの該補間フレーム内の補間位置に正対した位置を該現フレームでの補間位置として、該1つ前のフレームでの該画素ペアとなる一方の画素と、該現フレームでの該画素ペアとなる他方の画素よりも該現フレームての補間位置に1つ近い位置の画素との組を第1の拡張画素ペアとし、さらに、該1つ前のフレームでの該画素ペアとなる一方の画素よりも該1つ前のフレームでの補間位置に1つ近い位置の画素と、該現フレームでの該画素ペアとなる他方の画素との組を第2の拡張画素ペアとし、
    該画素ペア,該第1の拡張画素ペア及び第2の拡張画素ペアの夫々の画素の輝度値の差分を計算し、該差分の絶対値が小さい方から所定の個数の画素ペア,該第1の拡張画素ペアもしくは第2の拡張画素ペアを候補補間画素ペアとして、該候補補間画素ペアの画素の位置情報を、候補補間画素ベクトルとして、算出する候補補間画素ベクトル算出手段と、
    該1つ前のフレームと該現フレームとからエッジ情報を検出するエッジ検出手段と、
    該エッジ情報をもとに、候補補間画素ベクトル算出手段で検出された候補補間画素ペアのうちの所定のエッジ条件を満たす候補補間画素ペアを、補間画素ペアとして、選択する候補補間画素ベクトル判定手段と、
    該補間画素ベクトル判定手段で選択された該補間画素ペアの補間画素ベクトルを用いて該補間位置の補間画素を生成し、該補間画素からなる補間フレームを生成する補間フレーム生成手段と、
    該候補補間画素ベクトル判定手段で選択される補間画素ペアの補間画素ベクトルの出現数を、該補間画素ベクトルが示す方向毎に判別して、カウントし、該出現数によって支配的な補間画素ベクトルの方向を、グローバルベクトルとして、検出する補間方向ヒストグラム検出手段と
    を設け、
    該検索領域指定手段は、該補間フレームの補間位置から該補間方向ヒストグラム検出手段で検出された該グローバルベクトルの方向に該検索領域を設定することを特徴とする映像補間装置。
  13. 請求項1〜12のいずれか1つに記載の映像補間装置で生成された補間フレームを前記1つ前のフレームと前記現フレームとの間に内挿し、前記映像信号のフレームレート変換を行なうことを特徴とするフレームレート変換装置。
  14. 請求項13記載のフレームレート変換装置でフレームレート変換された映像信号を映像表示することを特徴とする映像表示装置。
JP2004316051A 2004-10-29 2004-10-29 映像補間装置とこれを用いたフレームレート変換装置,映像表示装置 Expired - Fee Related JP4359223B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2004316051A JP4359223B2 (ja) 2004-10-29 2004-10-29 映像補間装置とこれを用いたフレームレート変換装置,映像表示装置
US11/260,219 US7586540B2 (en) 2004-10-29 2005-10-28 Image interpolation device and a frame rate converter and image display apparatus using the same

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004316051A JP4359223B2 (ja) 2004-10-29 2004-10-29 映像補間装置とこれを用いたフレームレート変換装置,映像表示装置

Publications (2)

Publication Number Publication Date
JP2006129181A JP2006129181A (ja) 2006-05-18
JP4359223B2 true JP4359223B2 (ja) 2009-11-04

Family

ID=36261346

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004316051A Expired - Fee Related JP4359223B2 (ja) 2004-10-29 2004-10-29 映像補間装置とこれを用いたフレームレート変換装置,映像表示装置

Country Status (2)

Country Link
US (1) US7586540B2 (ja)
JP (1) JP4359223B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8817869B2 (en) 2010-10-18 2014-08-26 Mitsubishi Electric Corporation Image processing device and method, and image display device and method

Families Citing this family (36)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4887727B2 (ja) * 2005-10-20 2012-02-29 ソニー株式会社 画像信号処理装置、カメラシステム、および画像信号処理方法
JP5174329B2 (ja) 2006-05-23 2013-04-03 株式会社日立製作所 画像処理装置及び画像表示装置
JP2007324830A (ja) * 2006-05-31 2007-12-13 Toshiba Corp フレームレート変換装置及びフレームレート変換方法
US8035748B2 (en) * 2006-07-12 2011-10-11 Broadcom Corporation Method and system for reducing composite video cross-chroma artifacts in movie material for a deinterlacer
JP4322904B2 (ja) 2006-09-19 2009-09-02 株式会社東芝 補間フレーム作成装置、動きベクトル検出装置、補間フレーム作成方法、動きベクトル検出方法、補間フレーム作成プログラムおよび動きベクトル検出プログラム
US8218632B2 (en) 2006-09-20 2012-07-10 Mitsubishi Electric Corporation Frame interpolation apparatus and frame interpolation method
JP4181598B2 (ja) * 2006-12-22 2008-11-19 シャープ株式会社 画像表示装置及び方法、画像処理装置及び方法
JP2008187222A (ja) * 2007-01-26 2008-08-14 Hitachi Ltd 動きベクトル検出装置、動きベクトル検出方法、映像表示装置
WO2008102826A1 (ja) * 2007-02-20 2008-08-28 Sony Corporation 画像表示装置、映像信号処理装置および映像信号処理方法
JP4991360B2 (ja) * 2007-03-27 2012-08-01 三洋電機株式会社 フレームレート変換装置および映像表示装置
KR100953143B1 (ko) * 2007-05-21 2010-04-16 닛뽕빅터 가부시키가이샤 영상 신호 표시 장치 및 영상 신호 표시 방법
US8325271B2 (en) * 2007-06-12 2012-12-04 Himax Technologies Limited Method of frame interpolation for frame rate up-conversion
JP5091575B2 (ja) * 2007-07-20 2012-12-05 三洋電機株式会社 映像表示装置
US8237859B2 (en) * 2007-09-14 2012-08-07 Himax Technologies Limited Method for video conversion of video stream and apparatus thereof
JP2009111936A (ja) * 2007-11-01 2009-05-21 Hitachi Ltd 映像表示装置
JP5025432B2 (ja) * 2007-11-19 2012-09-12 三菱電機株式会社 フレーム補間装置、及びフレーム補間方法
JP2009192803A (ja) * 2008-02-14 2009-08-27 Sharp Corp 画像表示装置
US8368809B2 (en) * 2008-03-18 2013-02-05 Zoran (France) Frame rate conversion with motion estimation in a plurality of resolution levels
US8805101B2 (en) * 2008-06-30 2014-08-12 Intel Corporation Converting the frame rate of video streams
JP5245783B2 (ja) * 2008-12-09 2013-07-24 富士通株式会社 フレーム補間装置、方法、及びプログラム、フレームレート変換装置、映像再生装置、映像表示装置
US20100149338A1 (en) * 2008-12-16 2010-06-17 Mamigo Inc Method and apparatus for multi-user user-specific scene visualization
JP4564564B2 (ja) * 2008-12-22 2010-10-20 株式会社東芝 動画像再生装置、動画像再生方法および動画像再生プログラム
TWI452909B (zh) * 2009-06-29 2014-09-11 Silicon Integrated Sys Corp 移動向量校正電路、影像產生裝置及相關方法
US8643777B2 (en) * 2009-09-25 2014-02-04 Vixs Systems Inc. Pixel interpolation with edge detection based on cross-correlation
JP4692913B2 (ja) * 2009-10-08 2011-06-01 日本ビクター株式会社 フレームレート変換装置及び方法
JP5372721B2 (ja) * 2009-12-11 2013-12-18 ルネサスエレクトロニクス株式会社 映像信号処理装置、方法及びプログラム
JP2011182181A (ja) * 2010-03-01 2011-09-15 Nanao Corp ブロック別動きベクトル演算装置またはその方法
US8848110B2 (en) * 2010-03-29 2014-09-30 Silicon Laboratories Inc. Mixed-mode receiver circuit including digital gain control
JP5574830B2 (ja) * 2010-06-03 2014-08-20 三菱電機株式会社 画像処理装置及び方法、並びに画像表示装置及び方法
JP2012095048A (ja) 2010-10-26 2012-05-17 Mitsubishi Electric Corp 画像処理装置、画像処理方法、画像表示装置、及び画像表示方法
TWI419570B (zh) * 2011-01-03 2013-12-11 Novatek Microelectronics Corp 多媒體裝置及其移動補償方法
JP2013026727A (ja) 2011-07-19 2013-02-04 Sony Corp 表示装置および表示方法
JP2013098961A (ja) * 2011-11-07 2013-05-20 Mitsubishi Electric Corp 画像処理装置及び方法、並びに画像表示装置及び方法
WO2014146079A1 (en) * 2013-03-15 2014-09-18 Zenkich Raymond System and method for non-uniform video coding
JP6368727B2 (ja) * 2016-02-17 2018-08-01 サターン ライセンシング エルエルシーSaturn Licensing LLC 表示装置および表示方法
KR102694389B1 (ko) * 2019-03-06 2024-08-14 삼성디스플레이 주식회사 표시 장치 및 이의 구동 방법

Family Cites Families (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5353119A (en) * 1990-11-15 1994-10-04 Sony United Kingdom Limited Format conversion of digital video signals, integration of digital video signals into photographic film material and the like, associated signal processing, and motion compensated interpolation of images
GB2265065B (en) * 1992-03-02 1995-08-16 Sony Broadcast & Communication Motion compensated image processing
US5886745A (en) * 1994-12-09 1999-03-23 Matsushita Electric Industrial Co., Ltd. Progressive scanning conversion apparatus
JP3577354B2 (ja) 1995-02-08 2004-10-13 富士写真フイルム株式会社 補間画像データ生成装置および方法
FR2742900B1 (fr) * 1995-12-22 1998-02-13 Thomson Multimedia Sa Procede d'interpolation de trames progressives
US6288745B1 (en) * 1997-04-24 2001-09-11 Mitsubishi Denki Kabushiki Kaisha Scanner line interpolation device
JP4083266B2 (ja) 1997-10-07 2008-04-30 株式会社日立製作所 動きベクトルの生成方法および装置
JP4083265B2 (ja) 1997-10-07 2008-04-30 株式会社日立製作所 画像信号の方式変換方法および装置
JPH11284958A (ja) 1998-03-27 1999-10-15 Victor Co Of Japan Ltd 画像補間方法
JP4119092B2 (ja) * 1998-06-25 2008-07-16 株式会社日立製作所 画像信号のフレーム数変換方法および装置
JP2001054075A (ja) * 1999-08-06 2001-02-23 Hitachi Ltd 画像信号の動き補償走査変換回路
KR100708091B1 (ko) * 2000-06-13 2007-04-16 삼성전자주식회사 양방향 움직임 벡터를 이용한 프레임 레이트 변환 장치 및그 방법
JP3893263B2 (ja) 2001-09-26 2007-03-14 株式会社日立製作所 動きベクトル検出装置
JP2003224854A (ja) 2002-01-29 2003-08-08 Hitachi Ltd 動きベクトル検出装置及び画像処理装置並びにコンピュータ・ソフトウエア
JP2004008385A (ja) 2002-06-05 2004-01-15 Arusu:Kk 食品加工機及び食品の調理加工方法
JP3789442B2 (ja) * 2002-12-25 2006-06-21 三菱電機株式会社 走査線補間装置、画像処理装置、画像表示装置及び走査線補間方法
GB2402288B (en) * 2003-05-01 2005-12-28 Imagination Tech Ltd De-Interlacing of video data
KR100530223B1 (ko) * 2003-05-13 2005-11-22 삼성전자주식회사 프레임 레이트 변환시의 프레임 보간 방법 및 그 장치
US7129987B1 (en) * 2003-07-02 2006-10-31 Raymond John Westwater Method for converting the resolution and frame rate of video data using Discrete Cosine Transforms
US7346109B2 (en) 2003-12-23 2008-03-18 Genesis Microchip Inc. Motion vector computation for video sequences

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8817869B2 (en) 2010-10-18 2014-08-26 Mitsubishi Electric Corporation Image processing device and method, and image display device and method

Also Published As

Publication number Publication date
US7586540B2 (en) 2009-09-08
JP2006129181A (ja) 2006-05-18
US20060092321A1 (en) 2006-05-04

Similar Documents

Publication Publication Date Title
JP4359223B2 (ja) 映像補間装置とこれを用いたフレームレート変換装置,映像表示装置
JP4198608B2 (ja) 補間画像生成方法および装置
US8175121B2 (en) Image processor and image display apparatus comprising the same
US8290308B2 (en) Program, apparatus and method for determining interpolation method
US6912014B2 (en) Image processing device and method, and recording medium
US20050157949A1 (en) Generation of still image
US20080007614A1 (en) Frame rate conversion device, image display apparatus, and method of converting frame rate
CN101473346A (zh) 鲁棒的超分辨率视频缩放的方法及装置
JP2010093672A (ja) 映像変換装置および方法、並びにプログラム
US20080239144A1 (en) Frame rate conversion device and image display apparatus
US7388617B2 (en) Image conversion device and image conversion method
JP5192087B2 (ja) 画像処理装置及び画像処理方法
JP4431089B2 (ja) 映像補間装置、フレームレート変換装置および映像表示装置
US20070103588A1 (en) System and method for adjacent field comparison in video processing
US8411200B2 (en) Video signal processing device, method, and non-transitory computer readable medium storing image processing program capable of producing an appropriate interpolation frame
US6775418B1 (en) Image processing device and processing method
TWI790600B (zh) 區域式視訊影像插補裝置及其方法
TWI692980B (zh) 影像處理方法及影像處理系統
US7750974B2 (en) System and method for static region detection in video processing
US7733420B2 (en) Judder detection apparatus, de-interlacing apparatus using the same, and de-interlacing method
US7940330B2 (en) Edge adaptive de-interlacing apparatus and method thereof
US8405767B2 (en) Image processing device
US20080175499A1 (en) Image processing apparatus
JPH11331773A (ja) 画像補間方法
JP2003274371A (ja) 画像処理装置および方法、記録媒体、並びにプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20070109

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20090306

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090317

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090514

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090728

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090807

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120814

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4359223

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313115

Free format text: JAPANESE INTERMEDIATE CODE: R313121

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120814

Year of fee payment: 3

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120814

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130814

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees