Nothing Special   »   [go: up one dir, main page]

JP5202347B2 - 動画像処理装置および動画像処理方法 - Google Patents

動画像処理装置および動画像処理方法 Download PDF

Info

Publication number
JP5202347B2
JP5202347B2 JP2009003991A JP2009003991A JP5202347B2 JP 5202347 B2 JP5202347 B2 JP 5202347B2 JP 2009003991 A JP2009003991 A JP 2009003991A JP 2009003991 A JP2009003991 A JP 2009003991A JP 5202347 B2 JP5202347 B2 JP 5202347B2
Authority
JP
Japan
Prior art keywords
frequency component
low
low frequency
subframe
frame
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2009003991A
Other languages
English (en)
Other versions
JP2010160440A5 (ja
JP2010160440A (ja
Inventor
究 小林
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2009003991A priority Critical patent/JP5202347B2/ja
Priority to PCT/JP2009/070786 priority patent/WO2010079669A1/en
Priority to US13/132,403 priority patent/US8749708B2/en
Publication of JP2010160440A publication Critical patent/JP2010160440A/ja
Publication of JP2010160440A5 publication Critical patent/JP2010160440A5/ja
Application granted granted Critical
Publication of JP5202347B2 publication Critical patent/JP5202347B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/01Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
    • H04N7/0127Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level by changing the field or frame frequency of the incoming video signal, e.g. frame rate converter
    • H04N7/0132Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level by changing the field or frame frequency of the incoming video signal, e.g. frame rate converter the field or frame frequency of the incoming video signal being multiplied by a positive integer, e.g. for flicker reduction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/20Image enhancement or restoration using local operators
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/70Denoising; Smoothing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/73Deblurring; Sharpening
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G3/00Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes
    • G09G3/20Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters
    • G09G3/2092Details of a display terminals using a flat panel, the details relating to the control arrangement of the display terminal and to the interfaces thereto
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/003Details of a display terminal, the details relating to the control arrangement of the display terminal and to the interfaces thereto
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/20Circuitry for controlling amplitude response
    • H04N5/202Gamma control
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/21Circuitry for suppressing or minimising disturbance, e.g. moiré or halo
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2320/00Control of display operating conditions
    • G09G2320/02Improving the quality of display appearance
    • G09G2320/0247Flicker reduction other than flicker reduction circuits used for single beam cathode-ray tubes
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2320/00Control of display operating conditions
    • G09G2320/02Improving the quality of display appearance
    • G09G2320/0261Improving the quality of display appearance in the context of movement of objects on the screen or movement of the observer relative to the screen
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2320/00Control of display operating conditions
    • G09G2320/02Improving the quality of display appearance
    • G09G2320/0271Adjustment of the gradation levels within the range of the gradation scale, e.g. by redistribution or clipping
    • G09G2320/0276Adjustment of the gradation levels within the range of the gradation scale, e.g. by redistribution or clipping for the purpose of adaptation to the characteristics of a display device, i.e. gamma correction

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Computer Hardware Design (AREA)
  • Control Of Indicators Other Than Cathode Ray Tubes (AREA)
  • Liquid Crystal Display Device Control (AREA)
  • Television Systems (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Picture Signal Circuits (AREA)
  • Transforming Electric Information Into Light Information (AREA)

Description

本発明は動画像処理装置および動画像処理方法に関し、特に、入力される動画像のフレーム周波数をN倍する際に各フレームの画像を作成する動画像処理装置およびその動画像処理方法に関する。
従来、テレビジョン等の動画表示装置といえばCRTが代表的であったが、近年では、所謂液晶ディスプレイ、プラズマディスプレイ、FEDディスプレイ等が実用化され、様々な表示方式によるディスプレイが混在する状況となった。それぞれの表示方式によってもちろんその表示方法は異なる。例えば、液晶デバイスに基づく表示装置(直視型液晶表示装置、液晶リアプロジェクタ、液晶フロントプロジェクタ等)においては、スキャンの方法は複数あるが、何れの場合も、夫々の画素部分ごとに光が出力される期間は1フレーム中の大半を占める。それ故、このような表示装置はホールド型表示装置と言われる。
一方、CRTやFED等においては、夫々の画素部分ごとに光が出力されるのは1フレーム中1回であり、かつ発光時間はフレームの長さに比べて十分短く、通常はおよそ2msec以内である。それ故、このような表示装置は、インパルス型表示装置と言われる。
さらには、所謂プラズマディスプレイ、フィールドシーケンシャルディスプレイ等、上述した分類とは異なるタイプの表示装置もある。
上記ホールド型表示装置とインパルス型表示装置はそれぞれ、以下に示すような特徴を有する。
1)ホールド型表示装置は、フレーム時間内のほとんどの時間において発光するため、光強度の時間的偏りが少なく、フリッカーがほとんど観測されない。しかしながら、追従視(動画像において動く部分を視線で追いかける見方)を行うと、フレーム内での発光期間の長さに応じて、「動きぼけ」が相対的に大きく観測される。なお、ここで言う「動きぼけ」とは、表示デバイスの応答特性に起因するものとは異なるものである。
2)インパルス型表示装置は、フレーム期間内で発光する時間が非常に短いため、光強度の時間的偏りが大きく、フレームに同期したフリッカーが観測される。しかし、追従視における「動きぼけ」はほとんど観測されず、静止している部分と大差の無い解像度が得られる。
一般に、表示装置における発光の期間は表示方式や表示デバイスごとに異なり、上記1),2)の特徴は、発光期間の長短によって両極に位置付けられる。また、発光期間と動きぼけの大きさはおよそ比例すると言われており、それぞれの方式における発光期間が長いほど、追従視における動きぼけは大きく、逆に発光期間が短いほど、動きぼけは少ない。一方、フレームに同期したフリッカーに関しては、発光期間が長いほど小さく、発光期間が短いほど大きく観測される。このように発光期間について、動きぼけとフリッカーとはトレードオフの関係にある。
これら2つの課題を同時に解決する方法は、フレーム周波数をN倍化することであり、実際には多くの場合にN=2、すなわち倍速化される。このようにフレーム周波数を倍速化することにより、それぞれの倍速フレームにおける発光時間は半分になり、従って動きぼけも約半分になる。一方、フリッカーに関しても、例えばもとのフレーム周波数が60Hzの場合、倍速化して120Hzにすることにより、フリッカーの周波数を人間の目の応答特性の範囲外に追いやることができ、結果的にフリッカーは観測されなくなる。
このように、フレーム周波数を倍速化(一般化するとN倍化)する効果は大きいのであるが、以下のような新たな問題が発生する。
例えば、もとの画像信号のフレーム周波数が60Hzの場合、画像の情報は1/60秒単位に更新される。従って、これを倍速化して120Hzの表示を行う場合、必要とする画像の情報が1枚おきに欠落した状態となる。その対策としてまず考えられるのは、例えば倍速であれば同一の画像を2回ずつ表示することである。しかしながら、この方法ではフリッカーは解決できるものの、動きぼけに関してはもとの画像と同じとなり、なんら解決されない。また、インパルス型の場合は追従視にともなって2重の画像が見えてしまう。
上記のような問題が起こらないように、フレーム周波数を倍速化する方法として、もとの画像のオブジェクトの動きを検出して、2つのフレーム間の画像を推定算出する方法があり、一般に「動き補償に基づく中間画像挿入方法」等と称される。この方法を用いれば、フリッカーが増大することなく、ホールド型表示装置においては動きボケがもとの半分になり、またインパルス型においては2重の画像を表示することがない。
しかしながら、この「動き補償による中間画像挿入方法」は、演算量が膨大になることや、特定の条件において推定を誤ってしまう、すなわち動きベクトルの算出を誤ってしまう等の問題がある。
そこで、以下に示すような方法が提案されている。すなわち、まず入力画像に対してフレーム毎にフィルター処理を行い、動きぼけに大きく関与する空間周波数の高周波成分と、フリッカーに大きく関与する低周波成分を分離する。そして、高周波成分を一方のサブフレーム(元のフレームに対応する2つの倍速フレームの一方)に集中させ、低周波成分を両方のサブフレーム(元のフレームに対応する2つの倍速フレームの両方)に何らかの比率で配分して表示する方法である。(例えば、特許文献1,2,3,4参照)。以下、この方法を「空間周波数分離サブフレーム配分方式」と称する。
「空間周波数分離サブフレーム配分方式」は、第一にホールド型表示装置においては、動きボケの要因となるホールド時間が実質的に、高周波成分が表示される時間に一致する。従って、倍速の一方のサブフレームに高周波成分を集中させることで、ホールド時間が半分すなわちホールド時間を原因とする動きボケを半分にすることができる。
また、低周波成分をフレーム全体に配分して(すなわち両方のサブフレームに配分して)表示されるので、例えば配分の比率が均等であればフレーム周波数のフリッカーは発生しない。または、比率を所定の範囲内に限定すればフレーム周波数のフリッカーを問題にならないレベルに抑えることができる。
また「空間周波数分離サブフレーム配分方式」は、第二にインパルス型表示装置においては、高周波成分を表示するサブフレームが倍速の一方のサブフレームであるため、すなわち空間的高周波成分を表示するのが一回だけである。したがって、フレームあたり一回だけインパルス表示するような場合と同じように、動きボケが非常に少ない(あるいは2重ボケがない)という状態を実現する。また、低周波成分のみを二つのサブフレームで表示(すなわち2回表示)するため、その比率が均等であればフレーム周波数のフリッカーは発生しない。または、比率を所定の範囲内に限定すればフレーム周波数のフリッカーを問題にならないレベルに抑えることができる。
さらに、「空間周波数分離サブフレーム配分方式」をさらに改善した方法も提案されている。例えば、フレームレートの変換をN倍速にしたとき、空間的高周波成分を時間的に集中させ、空間的低周波成分を時間的に分散させる。そしてさらに、空間的高周波成分、空間的低周波成分を表示する強度の時間的重心を一致させるように、サブフレームに配分することにより、追従視における画質劣化を抑制している(例えば、特許文献5,6,7参照)。
特開平6−70288号公報 特開2002−351382号公報 US2006/0227249A1 特開2006−184896号公報 特願2007−207181号公報 特願2007−207182号公報 特願2007−207185号公報
しかしながら、上記「空間周波数分離サブフレーム配分方式」には、以下のような課題がある。
この方式においては、例えばN=2のとき、すなわち2倍速化(2つのサブフレームに分割)する場合において、高周波成分は2つのサブフレームの一方に表示され、低周波成分は2つのサブフレームに配分して表示される。以下、高周波成分が表示されるサブフレームを高周波強調サブフレーム、他方のサブフレームを高周波抑圧サブフレームと称する。
高周波強調サブフレームには高周波成分全てと、低周波成分の半分もしくは所定の比率の部分の和が配分される。また高周波抑圧サブフレームには、半分もしくは前記所定の比率の残りの低周波成分が配分される。高周波強調サブフレームの表示は、全ての高周波成分と配分された低周波成分との和が表示されることとなる。
ここで、各成分を以下の様に表現するとする。以下、入力画像をA、高周波成分をH、低周波成分をL、高周波強調サブフレームをSH、高周波抑圧サブフレームをSL、高周波強調サブフレームで表示される低周波成分をL1、高周波抑圧サブフレームで表示される低周波成分をL2、とする。
以上のような定義によれば、上記説明は以下の式で表すことができる。
まず、低周波成分Lを2つのサブフレームに、均等に分ける場合
SH=A−L2=H+L1=H+L/2 ・・・(1-1-1)
SL=L2=L/2 ・・・(1-1-2)
また、低周波成分LをL1,L2のように配分する場合、すなわちL1+L2=Lであり、その配分比を下式のようにk1,k2で表すとする。
L1:L2=k1:k2 (但し、k1+k2=1) ・・・(1-2)
すると、式(1-1-1),(1-1-2)で表される各サブフレームは、k1,k2を用いて以下のように表現される。
SH=A−L2=H+L1=H+k1×L ・・・(1-3-1)
SL=L2=k2×L ・・・(1-3-2)
ここで、高周波成分Hは正の場合もあれば負の場合もあるが、低周波成分Lは必ず正である。また、元の画像Aにおいて、高周波成分の最大振幅の負側は低周波成分Lのレベルと同じであり、正側は低周波成分Lを画像データの最大値(輝度100%)から差し引いたものである。
従って、高周波強調サブフレームSHにおいて、L1<Lであるから、Hが負で絶対値がL1より大きい場合には、SH<0になる画素がでてくる。このような画素については、数式上ではSHとして負の値を表現することはできるが、実際の画像表示装置で負の光を出力することはできないため、何らかの特別な対策を施さない限り、当該画素はSH=0として表示する他ない。
以下、具体例を示す。例えば、k1=k2=0.5の場合に、もとの画像でA=輝度20%、フィルタによって空間周波数に基づいてHとLに分離した結果、H=−15%、L=10%となったとき、L1=L/2=5%であり、SH=H+L1=−10%となる。この場合、実際にはSHとして負の表示はできないのでSH=0として表示する他ない。このとき人間の目に見える画像としては、例えば静止していれば時間積分によってSH+SLの画像が見えるので、その部分のHは以下のようになる。
H=A−L=SH+SL−L=SH−L1=0%−5%=−5%
上式によればHとしては、本来−15%であった高周波成分Hの凹み部分の深さが、−5%の深さの凹みとして見えてしまうことになる。これはすなわち、例えば黒になるべき細かい影の部分が、グレーのような細かい影として表示されてしまうという問題が発生することを意味する。以下、このような問題を「高周波成分の負側クリップ現象」と表現する。この「高周波成分の負側クリップ現象」は、特に低輝度において顕著である。
本発明は上述した問題を解決するためになされたものであり、以下の機能を有する動画像処理装置および動画像処理方法を提供することを目的とする。すなわち、1フレームの高周波成分を第1のサブフレームに集中させ、低周波成分を第1および第2のサブフレームに配分する際に、フリッカを抑制しつつ、高周波成分の負側クリップ現象を抑制して動画視認性を高める。
上記目的を達成するための一実施形態として、本発明の動画像処理装置は以下の構成を備える。
すなわち、1フレームの画像データに基づいて2つのサブフレームの画像データを作成する際に、1フレームの画像データにおける高周波成分を第1のサブフレームに集中させ、低周波成分を前記第1のサブフレームおよび第2のサブフレームに配分する動画像処理装置であって、着目フレームの画像データから、低周波成分Lを抽出する抽出手段と、前記低周波成分Lを、前記第1のサブフレームSHおよび前記第2のサブフレームSLに、第1の低周波成分L1および第2の低周波成分L2としてそれぞれ配分するために、前記低周波成分Lにおける前記第2の低周波成分L2の配分を決定する配分手段と、前記第2の低周波成分L2を前記着目フレームの画像データから減じることによって、前記低周波成分Lにおける前記第1の低周波成分L1と前記着目フレームにおける高周波成分Hとの和として、前記第1のサブフレームSHを作成する第1のサブフレーム作成手段と、前記第2の低周波成分L2に基づいて、前記第2のサブフレームSLを作成する第2のサブフレーム作成手段と、を有し、前記配分手段は、前記低周波成分Lのレベルが予め定められた境界レベルよりも低い低レベル領域にある場合と、該境界レベルよりも高い高レベル領域にある場合とで、前記第2の低周波成分L2の配分比率を、前者では相対的に小さくし、後者では0.5を超えない範囲で相対的に大きくすることを特徴とする。
例えば、前記第2のサブフレーム作成手段は、前記着目フレームとその1つ前のフレームにおける前記第2の低周波成分L2の平均を取ることにより、該着目フレームに対応する前記第2のサブフレームを作成することを特徴とする。
例えば、前記配分手段は、前記第2の低周波成分L2を前記低周波成分Lのレベルに対して非線形に配分し、その変曲点が前記境界レベルとなることを特徴とする。
上記構成からなる本発明によれば、1フレームの高周波成分を第1のサブフレームに集中させ、低周波成分を第1および第2のサブフレームに配分する際に、以下のような効果が得られる。すなわち、高レベル領域ではフリッカを抑制を優先し、また低レベル領域では高周波成分の負側クリップ現象の抑制を優先することによって、動画視認性が高まる。
以下、添付の図面を参照して、本発明をその好適な実施形態に基づいて詳細に説明する。なお、以下の実施形態において示す構成は一例に過ぎず、本発明は図示された構成に限定されるものではない。
<第1実施形態>
本実施形態は、上記従来例に示した、1フレームの画像データにおける高周波成分を第1のサブフレームに集中させ、低周波成分を前記第1のサブフレームおよび第2のサブフレームに配分する「空間周波数分離サブフレーム配分方式」による動画表示を行う。そしてこのとき、「高周波成分の負側クリップ現象」を抑制することを特徴とする。
本実施形態は、同一発明者により提案された特許文献5に記載された構成例に対して改良を加えた構成を示す。しかしながら、上記特許文献3,4に記載された構成例に対して本実施形態を適用した場合にも同様の効果が得られるため、この場合も本発明の範疇である。
なお、本実施形態に係る動画像処理装置においては、例えばフレーム周波数60Hzの画像信号を入力し、表示リフレッシュレート120Hzで表示するための信号を出力するとする。すなわち、フレーム周波数60Hzの信号から、1/120秒の出力フレーム(サブフレーム)を2つ作成することになる。
●システム構成
図1は、本実施形態における動画像処理装置の構成を示すブロック図である。同図によれば、フレーム周波数60Hzでフレーム単位に入力される入力画像Aに基づいて、第1のサブフレームとしての空間的高周波強調画像(SH)と、第2のサブフレームとしての空間的高周波抑圧画像(SL)を作成する。そして、これらをスイッチ12によって1/120秒ごとに切り替えることにより、倍速化した出力を行う。
本実施形態では出力の輝度レベルを、インパルス型であれば、フレーム周波数60Hzでフレームあたり1回表示する場合と同等となるようにする。またホールド型であれば、フレーム周波数60Hzで表示期間が50%(残りの50%が黒挿入)の場合と同等となるようにする。このために、1/2倍回路11を備える。なお、ホールド型で表示期間の比率が100%である場合、あるいは、インパルス型で2回ずつ表示する場合と同等の輝度を得る場合であれば、1/2倍回路11は不要である。
本実施形態において後述する各演算は、表示装置から発する輝度レベルに対して定義される。従って、まず、表示系のガンマを求め、その実効的なガンマと同等の特性を有するガンマ変換回路1を挿入することにより、表示装置の輝度に比例したデータに変換した後に、全ての演算を行う。そして演算終了後、逆ガンマ変換回路8を介することによって、演算結果は元のデータ形式に戻される。
1/2倍回路11から出力された入力画像A/2は、図1の上段および下段にそれぞれ示されるの2つのパスに分かれ、上段のパスは第1のサブフレーム作成手段として機能し、下側のパスは第2のサブフレーム作成手段として機能する。すなわち、上段のパスによって第1のサブフレームである高周波強調画像(SH)が生成され、下側のパスによって第2のサブフレームである高周波抑圧画像(SL)が生成される。
まず下段に示されるパスにおいては、空間的ローパスフィルタ(LPF)2を介して、入力画像の空間的低周波成分L(図中ではL/2で表される)が抽出される。本実施形態において、入力画像を高周波成分Hと低周波成分Lとに分ける空間周波数は、このLPF2の通過帯域の上限を決める定数(距離定数D、本実施形態ではD=8pixel)によって決定される。
空間的LPF2が施された後、さらに非線形フィルタ3を施すことにより、低周波成分に非線形処理を施したL2が生成される。このL2は、高周波抑圧画像SLを決定するための低周波成分である。すなわち本実施形態では、第1のサブフレームSHに第1の低周波成分L1を配分し、第2のサブフレームSLに第2の低周波成分L2を配分する。
ここで、Lに対する非線形フィルタ3の関数として、元の低周波成分Lに対する関数F(L)を定義する。すなわちL2=F(L)である。ここで、非線形フィルタ3が無い場合には、L2=L/2となる。
また上段のパスにおいて、減算器4、加算器5を介して下段のL2が提供されることにより、高周波強調画像SHが算出される。高周波強調画像SHの低周波成分をL1とすると、SH=H+L1で表され、入力画像の低周波成分Lは、L=L1+L2の関係となる。また、このように低周波成分LをL1とL2に配分する際の配分比k1:k2は、L1:L2=k1:k2(但し、k1+k2=1)である。なお遅延器7では、SHの出力をSLの出力タイミングにあわせるために1フレーム分遅延させる。
本実施形態では、上述した特許文献5,6,7にも記載されているように、低周波成分Lと高周波成分Hの表示時間の重心を一致させるために、フレーム間平均化回路6を備える。これにより高周波抑圧画像SLは、着目フレームに対応するi番目のL2と、その1つ前のフレームに対応するi−1番目のL2との平均、すなわちSL[i]=(L2[i]+L2[i-1])/2と定義される。以降、フレーム間の平均等に関する説明のときはフレーム番号[i]を付すが、フレーム間に関与しない説明の場合には、フレーム番号[i]を省略して説明を行う。
以上の説明を下式群にまとめる。
L2=F(L) ・・・(2-1)
L1+L2=L ・・・(2-2)
SH=A−L2=H+L1 ・・・(2-3)
SL[i]=(L2[i]+L2[i−1])/2 ・・・(2-4)
なお、本実施形態を上述した特許文献3,4に適用する場合であれば、低周波成分Lと高周波成分Hの表示時間の重心を一致させる必要がないため、フレーム間平均化回路6は不要となる。この場合、上記式(2-4)に代えて、以下の式(2-5)を用いる。
SL=L2 ・・・(2-5)
本実施形態においてはL1とL2の配分比を適切に設定することを目的とするが、この配分比は非線形フィルタ3の特性F(L)によって定義される。すなわち、非線形フィルタ3の特性F(L)によってL2が決定され、上記式(2-2)に基づいてLからL2を差し引くことにより、L1が決定される。すなわち本実施形態においては、非線形フィルタ3の特性F(L)を定義することによって、Lを構成するL1,L2の比率がLのレベルごとに決定され、それによりSH,SLの非線形特性が決定される。
上述したように本実施形態は、「空間周波数分離方式サブフレーム配分方式」によるフリッカ抑制効果と、該方式による弊害である「高周波成分の負側クリップ現象」の改善と、を両立するように、L1およびL2を配分することを特徴とする。
一般に、フリッカには高周波成分はほとんど関与せず、低周波成分の偏りによってのみ決まる。高周波成分は微小領域ごとに極性が異なり、全体としてゼロになるような特性であるため、たとえ微小領域でフリッカがあっても、広い領域で平均化すると相殺されてゼロとなる。一方、低周波成分は極性がすべて正であるため、低周波成分のフリッカはそのまま、画像の領域ごとのフリッカとして現れてしまう。
また、それぞれの領域あるいはLのレベルごとのL1とL2の差(L1−L2)をFLとする。このFLは、人間によるフリッカの感じ方の大きさをほぼ決定する要因となる。
●本実施形態の課題
以下、本実施形態の理解を助けるために、一般的な「空間周波数分離方式サブフレーム配分方式」において本実施形態が解決すべき課題について、図3,4,5に示す低周波特性を用いて詳細に説明する。
図3,4,5は同一スケールであり、横軸は入力画像の低周波成分L(すなわち図1における非線形フィルタ3の入力L/2の2倍)を表し、縦軸はSHの低周波成分L1およびSLの低周波成分L2を表す。すなわち、それぞれの図に示す直線または曲線は、入力画像の低周波成分の各レベルに対する、L1またはL2のレベルを表している。なお、縦軸、横軸とも表示輝度のレベルに比例した画像データを表し、最小値を0、最大値を100とする。また、説明の簡便のために、高周波強調サブフレームSHにおける高周波成分Hの様子を表現上、サインカーブの一波形やパルス波形として適宜使用する。なお、高周波成分Hは「空間周波数分離方式サブフレーム配分方式」の場合、L1(図中破線で表される)に上乗せされるものである。したがって、高周波成分Hとして負側の取りうる最大値はL1の振幅で決まり、正側のとりうる最大値はL1の輝度100までの余裕度で決まる。
図3は、SH=A,SL=0、すなわち、全ての輝度をSHのサブフレームで表示する場合の、低周波特性を示す。すなわち倍速ではなく、60Hzの表示を行っている場合と同等の低周波特性を示しているため、本実施形態における入力画像を表現しているともいえる。図3のような場合、すなわちL2への配分はないとみなせるため、フリッカを決めるFLは、常に下式のように最大値として示される。
FL(L)=L−0=L ・・・(3-1-0)
またこの場合の高周波成分Hとしては、常に下式のように最大振幅を取ることができる。なお、下式においてHup_maxは高周波成分Hの正側の取りうる振幅の最大値、Hbtm_maxは高周波成分Hの負側の取りうる最大値である。
Hup_max=100−L ・・・(3-1-1)
Hbtm_max=L ・・・(3-1-2)
詳細は後述するが本実施形態においては、フリッカを抑制しつつ、「高周波成分の負側クリップ現象」を抑制するために、btm_maxをいかに大きくとるか、ということを課題とする。
図4は、上記特許文献3,4に記載された構成、または同一発明者による上記特許文献5に記載された構成において得られる低周波特性を示す。これら各構成においては、L1=L2=L/2、すなわちL1とL2の配分比率が0.5:0.5である。このときのフリッカの振幅、および高周波成分の最大振幅は下式のようになる。
FL=L1−L2=0 ・・・(3-2-0)
Hup_max=100−L1=100−0.5L ・・・(3-2-1)
Hbtm_max=L1=0.5L ・・・(3-2-2)
ここで式(3-2-2)について、図3に関する式(3-1-2)と比較するとHbtm_maxの値が半分になっていることに注目されたい。すなわち、高周波成分Hのマイナス側のとりうる最大振幅が0.5Lになってしまっている。
図5は、同一発明者による特許文献5に記載された構成において、L1とL2の配分比率を0.7:0.3にした場合に得られる低周波特性を示す。この場合のフリッカの振幅、および高周波成分の最大振幅は下式のようになる。
FL=L1−L2=0.4L ・・・(3-3-0)
Hup_max=100−L1=100−0.7L ・・・(3-3-1)
Hbtm_max=L1=0.7L ・・・(3-3-2)
図5の場合は、図4の場合に比べてFLの値は大きいものの、Hbtm_maxの値は図3の場合の0.7倍である。
以上のことから、図3,4,5に示す低周波特性はいずれも線形であり、図3→図5→図4の順に、フリッカは少なくなるが高周波成分の負側の振幅の取りうる最大値が小さくなることが分かる。
そこで、フリッカと高周波成分の負側振幅をバランス良く両立させるために、図3でも図4でもなく、例えば図5のように其々がほどほどとなるように、L1とL2の配分を決めるという方法が、まず考えられる。
一般に、Hbtm_maxが制限されて画像に影響する、すなわち実画像でHの負側がL1に対して相対的に大きくなり、計算上、高周波強調画像SHが負になってクリッピングされてしまうケースは、Lのレベルが低い場合である。具体的な例としては、画像中の比較的暗い部分におけるオブジェクトの、特に影になる部分などは、L1の値に対してHの負側の振幅が大きくなりがちである。一方、Lのレベルが高い領域(広い範囲が明るい領域)においては、L1の値に対してHの負側の値が相対的に大きくなる頻度は少ない。従って、特にLが低レベルの時にL1の配分比率を大きくして、Hbtm_maxの値を大きく取れるようにすることによって、「高周波成分の負側クリップ現象」が抑制できると考えられる。
一方、フリッカという観点から見ると、輝度レベルが高い部分はフリッカが見えやすく、輝度レベルの低い部分はフリッカが見えにくいという、人間の視覚特性がある。この観点からすれば、Lのレベルが高い領域についてはなるべくフリッカが目立たないように、L1とL2の配分比率があまり大きく偏らないようにする必要がある。また、Lのレベルが低い領域については、L1とL2の配分比率をある程度偏らせても構わないということになる。
このような「高周波成分の負側クリップ現象」の抑制とフリッカの抑制とは、ちょうど相容れる傾向にあるため、本実施形態ではこれらのを両立させることを目的とする。すなわち、Lのレベルが低い領域においてはHbtm_maxを優先してL1の配分比率を大きくし、Lのレベルが高い領域においてはフリッカが目立たないようにL1とL2の配分比率の偏りを小さくする。
●本実施形態における非線形フィルタ特性
本実施形態では上述したように、Lのレベルが低い領域においてはL1の配分比率を大きくし、Lのレベルが高い領域においてはL1とL2の配分比率の偏りを小さくする。以下、本実施形態における低周波特性を図6に示す。図6に示す低周波特性はすなわち、本実施形態の非線形フィルタ3におけるL1とL2の非線形特性である。なお、図6も上述した図3,4,5と同一スケールであり、特性曲線(図6では直線)の変曲点となるLの値をL_ifxとする。本実施形態では、この変曲点をLの境界レベルとして、Lを低レベル領域と高レベル領域に分割する。
本実施形態では図6に示されるように、Lが低レベルのとき、すなわちL≦L_ifxの領域では、L2の傾きを0.05にしている。すなわち下式に示すように、L1とL2の配分比率を0.95:0.05とし、L1の配分比率を極めて大きくすることによって、Hbtm_maxの値が図3に示した1:0の場合に近づくようにしている。
L1:L2=0.95:0.05 (L≦L_ifxの領域) ・・・(3-4-1)
Hbtm_max=L1=L×0.95 (L≦L_ifxの領域) ・・・(3-4-2)
一方、Lが高レベルのとき、すなわちL>L_ifxの領域においては、L1,L2を下式のようにしている。
L1=L/2+15 (L>L_ifxの領域) ・・・(3-4-3)
L2=L/2−15 (L>L_ifxの領域) ・・・(3-4-4)
これにより、高レベル領域において常に下式が成立する。
FL=L1−L2=30 (L>L_ifxの領域 ) ・・・(3-4-5)
すなわち、L>L_ifxの高レベル領域では、Lが大きくなるにつれてL2の配分比率を徐々に高め、Lが最大となるところではほぼL1:L2=0.65:0.35となるようにしている。ただし、Lが高レベルの領域では、常にL1>L2であるため、L2がL/2すなわち0.5を超えることはない。
本実施形態では、L>L_ifxである高レベルの画像領域において、FLを容認できる範囲で同じ値にすることによって、特定の領域でFL値が突出してその部分のFLが全体のフリッカの評価を支配的に決めてまうことがないようにする。これにより、容認できる範囲でのフリッカということを前提として、L1:L2の配分比率をL1に最大限偏らせることができ、高レベル領域においても「高周波成分の負側クリップ現象」の発生を抑制することができる。
従って本実施形態における低周波特性は、以下のような非線形特性を呈する。すなわち図6に示すように、まず低レベルの領域ではL1の配分比率を著しく大きくする。そしてLが所定レベル以上となる高レベルの領域では、全領域でFL値がほぼ均一になるように、L1およびL2のグラフをL/2と略平行にし、L/2のグラフを中心としてそれぞれFL/2の分だけオフセットしたような形態とする。
●パラメータ有効範囲
本実施形態のような非線形特性による効果は、各パラメータが一般的なユーザの認識レベルに基づいて規定した範囲にあれば有効である。以下、本実施形態における各パラメータの有効範囲について説明する。
まずL≦L_ifxの低レベル領域においては、たとえばL_ifx=30としたとき、L2のLに対する傾きを0.3以下にすれば、80%以上の人が図4の方法に比較してHbtm_maxが改善された感覚を得る。さらに、該傾きを0.15以下にすれば、80%以上の人が図3の方法に比較して、Hbtm_maxについて遜色がないという感覚を得る。
また、L>L_ifxの高レベル領域においては、フレーム周波数60Hzであれば、FL=10のとき80%の人がフリッカを感じ始め、FL=50のとき80%の人がフリッカを不快と感じ始める。本実施形態ではこれを定量的に表現するために、L2の曲線を以下のような数式で表す。
まずL2は、Lの関数F(L)で定義される。
L2=F(L) ・・・(4-1-1)
ここでF(L)としては、L2の低レベル領域および高レベル領域のそれぞれにおける関数f1(L)およびf2(L)の大きいほうの値を選択すれば良いため、以下のように表される。
F(L)=max(f1(L),f2(L)) ・・・(4-1-2)
実際には、L=L_ifxでf1(L)とf2(L)の大きさが逆転するのであるが、この値は曲線を定義する式には含まれてはいない。
ここで下式に示すように、f1(L)のLに対する傾きをaa、f2(L)のLに対する傾きをbbとし、さらにf2(L)とL=L/2との差をFL/2とする。
d(f1)/d(L)=aa ・・・(4-2-1)
d(f2)/d(L)=bb ・・・(4-3-1)
f2(L)=L/2−FL/2 ・・・(4-3-2)
本実施形態においては、上述した非線形特性を決定するパラメータとして、傾きaaおよび差分FLの有効範囲を、人間の視覚を検証する実験に基づいて下式のように規定することによって、十分な効果が得られる。
0≦aa<0.3 ・・・(4-4-1)
0<FL<25 ・・・(4-4-2)
また、本実施形態において図6に示す非線形特性としては、f2がL/2におよそ平行であり、なおかつ、Lが大きくなるに従ってFLが大きくならないことが望ましいため、傾きbbについても以下のように規定する。
0.5≦bb<0.6 ・・・(4-4-3)
以上説明したように本実施形態によれば、パラメータの範囲を限定した上で、低周波特性を非線形に規定することによって、Lの低レベル領域においてはL1の配分比率を大きくし、高レベル領域においてはL1とL2の配分比率の偏りを小さくする。言い換えれば、Lが低レベル領域にある場合と高レベル領域にある場合とで、L2の配分比率を前者では相対的に小さくし、後者では0.5を超えない範囲で相対的に大きくする。
これにより、特に高レベル領域では「空間周波数分離サブフレーム配分方式」によるフリッカ抑制効果を保ちつつ、低レベル領域では「高周波成分の負側クリップ現象」を抑制することができ、良好な動画視認性を得ることができる。
<第2実施形態>
以下、本発明に係る第2実施形態について説明する。第2実施形態における動画像処理装置の構成は、上述した第1実施形態で図1に示した構成と同様であるため、説明を省略する。
●非線形フィルタ特性
図7に、第2実施形態の非線形フィルタ3におけるL1とL2の非線形特性を示す。なお、図7も上述した第1実施形態で示した図6と同一スケールであり、特性曲線(図7では直線)の変曲点となるLの値をL_ifxとする。
図7に示すように第2実施形態における非線形特性としては、Lのレベルが高いL>L_ifxの領域において、Lのレベルが高くなるにつれてL1とL2の差が小さくなることが、上述した第1実施形態と異なる。
ここで、第1実施形態と第2実施形態の違いについて詳細に説明する。まず、人間がフリッカを意識する程度を決める要因は、第1に、画面上で最もFL値が大きい部分のフリッカである。そして第2に、画面全体のFL値の総和に基づくフリッカである。
上述した第1実施形態においては、特にLのレベルが低い領域において、高周波成分Hのマイナス側の取りうる最大値Hbtm_maxとして所定の値を確保することによって、上記第1の要因すなわち、画面上で最大となるFL値を抑えていた。すなわち、画面上のL>L_ifxである領域においてFL値が突出した部分を作らないようにしていた。
一方、第2実施形態においては、第1実施形態と同様に特にLのレベルが低い領域でにおけるHbtm_maxとして所定の値を確保しつつさらに、上記第2の要因すなわち、画面全体でのFL値の総和をできるだけ下げるようにすることを特徴とする。
そこで第2実施形態においては、Hbtm_maxを所定値として確保する上で、Lのレベルごとにプライオリティを考慮する。具体的には、Lのレベルが小さい部分ではHbtm_maxを大きく確保することを最優先とする。そしてLのレベルが大きくなるに従って、Hbtm_maxよりもL1とL2の差を小さくする事を優先する。
図7に示した非線形フィルタ3の特性は、以下のように定量的に表現される。まず第1実施形態(図6)と同様に、L2はLの関数F(L)で定義される。
L2=F(L) ・・・(5-1-1)
ここでF(L)としては、L2の低レベル領域および高レベル領域のそれぞれにおける関数f1(L)およびf2(L)の大きいほうの値を選択すれば良いため、以下のように表される。
F(L)=max(f1(L),f2(L)) ・・・(5-1-2)
したがって実際には、L=L_ifxを境界として、L2は以下のようになる。
L≦L_ifx のとき L2=f1(L) ・・・(5-1-3)
L>L_ifx のとき L2=f2(L) ・・・(5-1-4)
そして第1実施形態と同様に、f1(L)のLに対する傾きをaa、f2(L)のLに対する傾きをbbとする。
d(f1)/d(L)=aa ・・・(5-2-1)
d(f2)/d(L)=bb ・・・(5-3-1)
ここで第2実施形態では、変曲点L_ifxより下のレベルについては、f1(L)の傾きに対する考え方は上述した第1実施形態と同様であるため、傾きaaの有効範囲を第1実施形態と同様に、下式のように規定する。
0≦aa<0.3 ・・・(5-4-1)
また、変曲点L_ifxより上のレベルについては、f2(L)の傾きbbは、L2=L/2の傾き以上、すなわち0.5以上であるため、傾きbbの有効範囲を下式のように規定する。
0.5≦bb ・・・(5-4-2)
またf2(L)については、下式のようにL2=L/2を超えない。
f2(L)≦L/2 ・・・(5-4-3)
以上各式(5-4-1,5-4-2,5-4-3)の規定により、下式が実現される。
d(FL(L))/dL≦0 ・・・(5-4-4)
式(5-4-4)によれば、Lのレベルが大きくなるに従って、L1とL2の差であるFLが小さくなることが分かる。これにより、上記第2の要因すなわち、画面全体でのFL値の総和を下げることができる。
以上説明したように第2実施形態によれば、非線形フィルタ3の非線形特性として、高レベル領域であるほどFLが小さくなるように規定することによって、上述した第1実施形態に対してさらに、フリッカを抑制することができる。
<第3実施形態>
以下、本発明に係る第3実施形態について説明する。第3実施形態においては上述した第2実施形態に対し、さらに入力画像に含まれる高周波成分のレベルに応じて、低周波成分に対する非線形フィルタの特性(高レベル領域における傾き)を補正し、適応的な非線形制御を行うことを特徴とする。
●システム構成
図2Aは、第3実施形態における動画像処理装置の構成を示すブロック図である。同図は、第1実施形態で図1に示したブロック構成に対して、負値検出部13および配分補正部14が追加されていることを特徴とする。
負値検出部13は、補正前のSHの値を画像全体にわたってサーチして、絶対値が最も大きい負値(ピーク負値)を検出し、このピーク負値によって縮小率αを決定して配分補正部14に渡す。第3実施形態においては後述するように、L2=F(L)の大きさが全てのLに対して同率(縮小率α)に縮小されるように制御する。
配分補正部14は、乗算器15、減算器16、加算器17より構成される。乗算器15で縮小率αに従ってL2の値を縮小し、次に該縮小によるL2の減少分である乗算器15の前後の差分を減算器16によって算出し、該減少分を加算器17によってSHの側に足しこむ。
第3実施形態では以上の構成により、L2を縮小率によって制御し、かつL1+L2は一定の値(すなわちL)になるように制御し、その結果、L1が所定の値になるように制御される。これにより、第3実施形態の目的とする非線形制御を実現することができる。
第3実施形態では図2Aに示す構成により、非線形フィルタ3を直接変更することなく、非線形フィルタ3の後段においてその出力に対して補正を加えることによって、実質的に非線形フィルタ3の特性を変えたことと同等の効果が得られる。
なお、負値検出部13においてαの初期値は1であるが、ピーク負値が検出されると、該ピーク負値に基づいてαは1未満の正値となり、ピーク負値が大きいほどαは小さくなってL2が大きく縮小され、それに応じてL1が増大する。これにより、SHにおける負側クリップ現象を回避することができる。また、ピーク負値が小さいほどαは大きくなってL2がより増大するため、L1とL2の配分比率の偏りをより小さくすることができ、効果的にフリッカを抑制することができる。なお、次のフレームの処理時にαは初期化されず、前回のピーク負値の影響を残す。
ここで図12に、第3実施形態におけるαの応答特性例(1/αで表示)を示す。同図によればαはピーク負値に対応して変化し、時定数τの減衰特性によって1にゆっくり戻るという応答特性を呈する。時定数τの大きさとしては、数フレームから十数フレームであることが望ましい。
●SH,SL作成処理
以下、第3実施形態におけるSH,SLの作成処理について、1フレーム分の処理を図10のフローチャートを用いて説明する。
まずステップS101において、入力画像に対して空間的LPF2をかける。次にステップS102では配分補正部14において不図示の読み込み部より、図12に示すような応答特性に基づいた、その時点でのα値(以下、仮αと称する)を読み込む。そしてステップS103において、非線形フィルタ3を用いてL2を算出する。
そしてステップS104で配分補正部14において、仮αおよびL2に基づいてSHを仮補正する。次にステップS105で配分補正部14は不図示の制御部において、ステップS104で仮補正したSHにおいて負になる領域があるか否かを検出する。負になる領域があればステップS106に進むが、なければそのままステップS109へ進む。
ステップS106では負値検出部13において、SHのピーク負値に基づいて新たなα値を算出する。そしてステップS107で配分補正部14において、ステップS106で新たに算出されたαに基づいてSLを補正(縮小)し、さらにステップS108でSLの補正量に基づいてSHを補正する。
そしてステップS109において、配分補正部14で算出されたSH,SLを出力することによって、当該フレームの処理を終了する。
●非線形フィルタ特性
図8に、低周波成分におけるL1とL2の非線形特性に対し、第3実施形態における適応的制御を施した例を示す。なお、図8も上述した第2実施形態で示した図7と同一スケールであり、特性曲線(図8では直線)の変曲点となるLの値をL_ifxとする。第3実施形態における非線形特性は、基本的には上述した第2実施形態で式(5-1-1)〜(5-4-4)によって定義されるものと同様である。
上述したように第3実施形態においては、負値検出部13で検出されるピーク負値に基づいて、L2=F(L)の大きさをすべてのLに対して同率に縮小する。第3実施形態においては、上記制御の結果としての縮小率をαとしたとき、上述した第2実施形態における式(5-1-1),(5-1-3),(5-1-4)をそれぞれ、以下の式(6-1),(6-2),(6-3)に置き換えて表現することができる。
L2=α×F(L) ・・・(6-1)
L≦L_ifx のとき L2=α×f1(L) ・・・(6-2)
L>L_ifx のとき L2=α×f2(L) ・・・(6-3)
これにより第3実施形態では図8に示すように、L1,L2が例えばL1(0)とL2(0)、L1(1)とL2(1)、のように、縮小率αに応じて適応的に制御される。
以上説明したように第3実施形態によれば、上述した第2実施形態に対し、さらに入力画像に含まれる空間的高周波成分のレベルに応じて非線形フィルタ3の特性における高レベル領域での傾きを補正する。これにより、フリッカ抑制を行いつつ、SHにおける負側クリップ現象をより効果的に回避することができる。
<第4実施形態>
以下、本発明に係る第4実施形態について説明する。第4実施形態においては上述した第2実施形態に対し、さらに入力画像に含まれる空間的高周波成分のレベルに応じて、低周波成分に対する非線形フィルタの特性(変曲点)を変え、適応的な非線形制御を行うことを特徴とする。
●システム構成
図2Bは、第4実施形態における動画像処理装置の構成を示すブロック図である。同図は、第1実施形態で図1に示したブロック構成に対して、負値検出部13および非線形補正部18が追加されていることを特徴とする。
負値検出部13は上述した第3実施形態と同様に、補正前のSHの値を画像全体にわたってサーチして最も大きい負値(ピーク負値)を検出し、このピーク負値によってオフセット補正量βを決定して非線形補正部18に渡す。非線形補正部18では、補正量制御部19によってオフセット補正量βに応じた実際の補正量が決定される。そして減算器21によってL2から該補正量が減算されてSLが生成され、一方、加算器20によってL1に該補正量が加算されてSHが生成される。
第3実施形態では図2Bに示す構成により、非線形フィルタ3を直接変更することなく、非線形フィルタ3の後段においてその出力に対して補正を加えることによって、実質的に非線形フィルタ3の特性を変えたことと同等の効果が得られる。
なお、負値検出部13においてβの初期値は0であるが、ピーク負値が検出されると、該ピーク負値に基づいてβに所定の値が設定される。すなわち、ピーク負値が大きいほどβは大きくなってL2から減算され、それに応じてL1が増大する。これにより、SHにおける負側クリップ現象を回避することができる。また、ピーク負値が小さいほどβは小さくなってL2がより増大するため、L1とL2の配分比率の偏りをより小さくすることができ、効果的にフリッカを抑制することができる。なお、次のフレームの処理時にβは初期化されず、前回のピーク負値の影響を残す。
ここで図13に、第4実施形態におけるβの応答特性例を示す。同図によればβはピーク負値に対応して変化し、時定数τの減衰特性によって0にゆっくり戻るという応答特性を呈する。時定数τの大きさとしては、数フレームから十数フレームであることが望ましい。
●SH,SL作成処理
以下、第4実施形態におけるSH,SLの作成処理について、1フレーム分の処理を図11のフローチャートを用いて説明する。
まずステップS201において、入力画像に対して空間的LPF2をかける。次にステップS202では非線形補正部18において不図示の読み込み部より、図13に示すような応答特性に基づいた、その時点でのβ値(以下、仮βと称する)を読み込む。そしてステップS203において、非線形フィルタ3を用いてL2を算出する。
そしてステップS204で非線形補正部18において、仮βおよびL2に基づいてSHを仮補正する。次にステップS205で非線形補正部18は不図示の制御部において、ステップS204で仮補正したSHにおいて負になる領域があるか否かを検出する。負になる領域があればステップS206に進むが、なければそのままステップS209へ進む。
ステップS206では負値検出部13において、SHのピーク負値に基づいて新たなβ値を算出する。そしてステップS207で非線形補正部18において、ステップS206で新たに算出されたβに基づいてSLを補正(減算オフセット)し、さらにステップS208でSLと同じ量だけ、逆方向にSHを補正(加算オフセット)する。
そしてステップS209において、非線形補正部18で算出されたSH,SLを出力することによって、当該フレームの処理を終了する。
●非線形フィルタ特性
図9に、低周波成分におけるL1とL2の非線形特性に対し、第4実施形態における適応的制御を施した例を示す。なお、図9も上述した第2実施形態で示した図7と同一スケールであり、特性曲線(図9では直線)の変曲点となるLの値をL_ifxとする。第4実施形態における非線形特性は、基本的には上述した第2実施形態で式(5-1-1)〜(5-4-4)によって定義されるものと同様である。
図9に示すように第4実施形態においては、負値検出部13で検出されるピーク負値に基づいて、変曲点より高レベル側における非線形特性f2(L)(すなわち変曲点より高レベル側のLに対するL2の値)を下方にオフセットさせる。このため第4実施形態では、上述した第2実施形態における式(5-1-2)が、以下の式(6-4-1)に置き換えて表現される。
F(L)=max(f1(L),f2(L)−β) ・・・(6-4-1)
なお、式(6-4-1)におけるβは、実際の減算オフセット量を示すものである。
図9によれば、L2の値に対する減算オフセットに応じて、L1の値に対して同量の加算オフセットがなされていることが分かる。
第4実施形態では図9に示すように、L2に対してSHのピーク負値に応じた減算オフセットを施すことにより、非線形特性としては結果的に、変曲点L_ifxがオフセットされることが分かる。すなわち、SHのピーク負値が大きいほど、変曲点L_ifxがLの増加方向にオフセットされる。
以上説明したように第4実施形態によれば、上述した第2実施形態に対し、さらに入力画像に含まれる空間的高周波成分のレベルに応じて非線形フィルタ3の特性における変曲点をオフセット制御する。これにより、フリッカ抑制を行いつつ、SHにおける負側クリップ現象をより効果的に回避することができる。
なお、上述した第3および第4実施形態はともに、図2Cに示す構成によって実現することも可能である。図2Cによれば、負値検出部13によって求められた補正パラメータ(第3実施形態ではα、第4実施形態ではβに相当)を、非線形フィルタ3にフィードバックし、該非線形フィルタ3そのものの特性を制御する。このような構成にすることにより、補正用の構成を非線形フィルタ3の後段に設ける必要がないため、補正方法の自由度が大きくなる。ただしこの構成によれば、フィードバック制御を行うために、上述した第3および第4実施形態のように非線形フィルタ3の後段で補正を行う場合と比べて、時間応答性に劣ってしまう可能性がある。
<他の実施形態>
本発明は例えば、システム、装置、方法、プログラム若しくは記憶媒体(記録媒体)等としての実施態様をとることが可能である。具体的には、複数の機器(例えば、ホストコンピュータ、インタフェース機器、スキャナ、webアプリケーション等)から構成されるシステムに適用しても良いし、また、1つの機器からなる装置に適用しても良い。
本発明は、前述した実施形態の機能を実現するソフトウェアのプログラムを、システムあるいは装置に直接あるいは遠隔から供給し、そのシステムあるいは装置のコンピュータが該供給されたプログラムコードを読み出して実行することによっても達成される。なお、この場合のプログラムとは、実施形態において図に示したフローチャートに対応したコンピュータ可読のプログラムである。
従って、本発明の機能処理をコンピュータで実現するために、該コンピュータにインストールされるプログラムコード自体も本発明を実現するものである。つまり、本発明は、本発明の機能処理を実現するためのコンピュータプログラム自体も含まれる。
その場合、プログラムの機能を有していれば、オブジェクトコード、インタプリタにより実行されるプログラム、OSに供給するスクリプトデータ等の形態であっても良い。
プログラムを供給するための記録媒体としては、以下に示す媒体がある。例えば、フロッピー(登録商標)ディスク、ハードディスク、光ディスク、光磁気ディスク、MO、CD-ROM、CD-R、CD-RW、磁気テープ、不揮発性のメモリカード、ROM、DVD(DVD-ROM,DVD-R)などである。
プログラムの供給方法としては、以下に示す方法も可能である。すなわち、クライアントコンピュータのブラウザからインターネットのホームページに接続し、そこから本発明のコンピュータプログラムそのもの(又は圧縮され自動インストール機能を含むファイル)をハードディスク等の記録媒体にダウンロードする。また、本発明のプログラムを構成するプログラムコードを複数のファイルに分割し、それぞれのファイルを異なるホームページからダウンロードすることによっても実現可能である。つまり、本発明の機能処理をコンピュータで実現するためのプログラムファイルを複数のユーザに対してダウンロードさせるWWWサーバも、本発明に含まれるものである。
また、本発明のプログラムを暗号化してCD-ROM等の記憶媒体に格納してユーザに配布し、所定の条件をクリアしたユーザに対し、インターネットを介してホームページから暗号化を解く鍵情報をダウンロードさせることも可能である。すなわち該ユーザは、その鍵情報を使用することによって暗号化されたプログラムを実行し、コンピュータにインストールさせることができる。
また、コンピュータが、読み出したプログラムを実行することによって、前述した実施形態の機能が実現される。さらに、そのプログラムの指示に基づき、コンピュータ上で稼動しているOSなどが、実際の処理の一部または全部を行い、その処理によっても前述した実施形態の機能が実現され得る。
さらに、記録媒体から読み出されたプログラムが、コンピュータに挿入された機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに書き込まれた後、実行されることによっても、前述した実施形態の機能が実現される。すなわち、該プログラムの指示に基づき、その機能拡張ボードや機能拡張ユニットに備わるCPUなどが実際の処理の一部または全部を行うことが可能である。
本発明に係る第1実施形態における動画像処理装置の構成を示すブロック図である。 第3実施形態における動画像処理装置の構成を示すブロック図である。 第4実施形態における動画像処理装置の構成を示すブロック図である。 第3,第4実施形態における動画像処理装置の変形構成を示すブロック図である。 従来の低周波特性例を示す図である。 従来の低周波特性例を示す図である。 従来の低周波特性例を示す図である。 第1実施形態における低周波成分の非線形特性を示す図である。 第2実施形態における低周波成分の非線形特性を示す図である。 第3実施形態における低周波成分の非線形特性を示す図である。 第4実施形態における低周波成分の非線形特性を示す図である。 第3実施形態におけるSH,SLの作成処理を示すフローチャートである。 第4実施形態におけるSH,SLの作成処理を示すフローチャートである。 第3実施形態における縮小率αの応答特性例を示す図である。 第4実施形態におけるオフセット量βの応答特性例を示す図である。

Claims (15)

  1. 1フレームの画像データに基づいて2つのサブフレームの画像データを作成する際に、1フレームの画像データにおける高周波成分を第1のサブフレームに集中させ、低周波成分を前記第1のサブフレームおよび第2のサブフレームに配分する動画像処理装置であって、
    着目フレームの画像データから、低周波成分Lを抽出する抽出手段と、
    前記低周波成分Lを、前記第1のサブフレームSHおよび前記第2のサブフレームSLに、第1の低周波成分L1および第2の低周波成分L2としてそれぞれ配分するために、前記低周波成分Lにおける前記第2の低周波成分L2の配分を決定する配分手段と、
    前記第2の低周波成分L2を前記着目フレームの画像データから減じることによって、前記低周波成分Lにおける前記第1の低周波成分L1と前記着目フレームにおける高周波成分Hとの和として、前記第1のサブフレームSHを作成する第1のサブフレーム作成手段と、
    前記第2の低周波成分L2に基づいて、前記第2のサブフレームSLを作成する第2のサブフレーム作成手段と、を有し、
    前記配分手段は、前記低周波成分Lのレベルが予め定められた境界レベルよりも低い低レベル領域にある場合と、該境界レベルよりも高い高レベル領域にある場合とで、前記第2の低周波成分L2の配分比率を、前者では相対的に小さくし、後者では0.5を超えない範囲で相対的に大きくすることを特徴とする動画像処理装置。
  2. 前記第2のサブフレーム作成手段は、前記着目フレームとその1つ前のフレームにおける前記第2の低周波成分L2の平均を取ることにより、該着目フレームに対応する前記第2のサブフレームを作成することを特徴とする請求項1に記載の動画像処理装置。
  3. 前記配分手段は、前記第2の低周波成分L2を前記低周波成分Lのレベルに対して非線形に配分し、その変曲点が前記境界レベルとなることを特徴とする請求項1または2に記載の動画像処理装置。
  4. 前記配分手段は、
    前記低周波成分Lが前記低レベル領域にある場合には前記第2の低周波成分L2の配分比率が0に近づくように、
    前記低周波成分Lが前記高レベル領域にある場合には前記第1の低周波成分L1と前記第2の低周波成分L2との差分FLが一定となるように、
    前記第2の低周波成分L2の配分を決定することを特徴とする請求項1乃至3のいずれか1項に記載の動画像処理装置。
  5. 前記配分手段は、
    前記低周波成分Lが前記低レベル領域にある場合における前記第2の低周波成分L2の前記低周波成分Lに対する傾きaaが
    0≦aa<0.30
    であり、かつ、前記第2の低周波成分L2と前記第1の低周波成分L1との差分FLが
    0<FL<25
    となるように、前記第2の低周波成分L2の配分を決定することを特徴とする請求項4に記載の動画像処理装置。
  6. 前記配分手段は、
    前記低周波成分Lが前記低レベル領域にある場合には前記第2の低周波成分L2の配分比率が0に近づくように、
    前記低周波成分Lが前記高レベル領域にある場合には前記第1の低周波成分L1と前記第2の低周波成分L2との差分FLが前記低周波成分Lのレベルが高くなるほど小さくなるように、
    前記第2の低周波成分L2の配分を決定することを特徴とする請求項1乃至3のいずれか1項に記載の動画像処理装置。
  7. さらに、前記第1のサブフレーム作成手段で作成された前記第1のサブフレームSHにおいて、絶対値が最も大きい負値をピーク負値として検出する負値検出手段と、
    前記ピーク負値に基づいて、前記配分手段で決定された前記第2の低周波成分L2の配分を補正する配分補正手段と、
    を有することを特徴とする請求項6に記載の動画像処理装置。
  8. 前記配分補正手段は、前記低周波成分Lが前記高レベル領域にある場合に、前記ピーク負値が小さいほど、前記第1の低周波成分L1と前記第2の低周波成分L2との差分FLが小さくなるように、前記第2の低周波成分L2の配分を補正することを特徴とする請求項7に記載の動画像処理装置。
  9. 前記配分補正手段は、前記ピーク負値が小さいほど、前記第2の低周波成分L2を大きく縮小することによって、前記低周波成分Lに対する傾きを補正することを特徴とする請求項7または8に記載の動画像処理装置。
  10. 前記配分補正手段は、前記ピーク負値が小さいほど、前記第2の低周波成分L2から減じるオフセット量を大きくすることによって、前記低周波成分Lにおける前記境界レベルをオフセットすることを特徴とする請求項7または8に記載の動画像処理装置。
  11. 1フレームの画像データに基づいて2つのサブフレームの画像データを作成する際に、1フレームの画像データにおける高周波成分を第1のサブフレームに集中させ、低周波成分を前記第1のサブフレームおよび第2のサブフレームに配分する動画像処理装置の動画像処理方法であって、
    着目フレームの画像データから、低周波成分Lを抽出する抽出ステップと、
    前記低周波成分Lを、前記第1のサブフレームSHおよび前記第2のサブフレームSLに、第1の低周波成分L1および第2の低周波成分L2としてそれぞれ配分するために、前記低周波成分Lにおける前記第2の低周波成分L2の配分を決定する配分ステップと、
    前記第2の低周波成分L2を前記着目フレームの画像データから減じることによって、前記低周波成分Lにおける前記第1の低周波成分L1と前記着目フレームにおける高周波成分Hとの和として、前記第1のサブフレームSHを作成する第1のサブフレーム作成ステップと、
    前記第2の低周波成分L2に基づいて、前記第2のサブフレームSLを作成する第2のサブフレーム作成ステップと、を有し、
    前記配分ステップにおいては、前記低周波成分Lのレベルが予め定められた境界レベルよりも低い低レベル領域にある場合と、該境界レベルよりも高い高レベル領域にある場合とで、前記第2の低周波成分L2の配分比率を、前者では相対的に小さくし、後者では0.5を超えない範囲で相対的に大きくすることを特徴とする動画像処理方法。
  12. 前記第2のサブフレーム作成ステップにおいては、前記着目フレームとその1つ前のフレームにおける前記第2の低周波成分L2の平均を取ることにより、該着目フレームに対応する前記第2のサブフレームSLを作成することを特徴とする請求項11に記載の動画像処理方法
  13. 前記配分ステップにおいては、前記第2の低周波成分L2を前記低周波成分Lのレベルに対して非線形に配分し、その変曲点が前記境界レベルとなることを特徴とする請求項11または12に記載の動画像処理方法。
  14. コンピュータを請求項1乃至10のいずれか1項に記載の動画像処理装置として機能させるためのプログラム。
  15. 請求項14に記載のプログラムを記憶したコンピュータ可読な記憶媒体。
JP2009003991A 2009-01-09 2009-01-09 動画像処理装置および動画像処理方法 Active JP5202347B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2009003991A JP5202347B2 (ja) 2009-01-09 2009-01-09 動画像処理装置および動画像処理方法
PCT/JP2009/070786 WO2010079669A1 (en) 2009-01-09 2009-12-07 Moving image processing apparatus and moving image processing method
US13/132,403 US8749708B2 (en) 2009-01-09 2009-12-07 Moving image processing apparatus and moving image processing method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009003991A JP5202347B2 (ja) 2009-01-09 2009-01-09 動画像処理装置および動画像処理方法

Publications (3)

Publication Number Publication Date
JP2010160440A JP2010160440A (ja) 2010-07-22
JP2010160440A5 JP2010160440A5 (ja) 2012-02-23
JP5202347B2 true JP5202347B2 (ja) 2013-06-05

Family

ID=42316439

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009003991A Active JP5202347B2 (ja) 2009-01-09 2009-01-09 動画像処理装置および動画像処理方法

Country Status (3)

Country Link
US (1) US8749708B2 (ja)
JP (1) JP5202347B2 (ja)
WO (1) WO2010079669A1 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011017936A (ja) * 2009-07-09 2011-01-27 Canon Inc 画像表示装置及びその制御方法
US10360872B2 (en) 2016-11-14 2019-07-23 Samsung Display Co., Ltd. Display device and method of driving the same

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5324391B2 (ja) * 2009-10-22 2013-10-23 キヤノン株式会社 画像処理装置およびその制御方法
JP5537121B2 (ja) * 2009-10-30 2014-07-02 キヤノン株式会社 画像処理装置およびその制御方法
US8848472B2 (en) 2011-12-15 2014-09-30 Samsung Electronics Co., Ltd. Fabrication and testing method for nonvolatile memory devices
JP5900273B2 (ja) * 2012-10-03 2016-04-06 株式会社ソシオネクスト 合焦評価値生成装置、合焦評価値生成方法、及び、合焦評価値生成プログラム
KR102084714B1 (ko) 2013-07-22 2020-03-05 삼성디스플레이 주식회사 표시 장치 및 그 구동 방법
JP6541326B2 (ja) * 2014-10-20 2019-07-10 キヤノン株式会社 画像処理装置及びその制御方法、画像表示装置、コンピュータプログラム

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0670288A (ja) 1992-08-20 1994-03-11 Hitachi Ltd テレビ信号の信号処理方法
JP2947186B2 (ja) * 1996-10-23 1999-09-13 日本電気株式会社 フリッカ軽減回路
JPH10333088A (ja) * 1997-05-28 1998-12-18 Canon Inc 投射画像の表示方法および投射型画像表示装置
JP2002351382A (ja) 2001-03-22 2002-12-06 Victor Co Of Japan Ltd ディスプレイ装置
TW200623897A (en) * 2004-12-02 2006-07-01 Seiko Epson Corp Image display method, image display device, and projector
KR100696107B1 (ko) * 2005-04-11 2007-03-19 삼성전자주식회사 디스플레이장치 및 그 제어방법
US7728909B2 (en) * 2005-06-13 2010-06-01 Seiko Epson Corporation Method and system for estimating motion and compensating for perceived motion blur in digital video
JP4172495B2 (ja) * 2006-05-09 2008-10-29 ソニー株式会社 画像表示装置、信号処理装置、および画像処理方法、並びにコンピュータ・プログラム
JP4232790B2 (ja) * 2006-05-09 2009-03-04 ソニー株式会社 画像表示装置、制御信号生成装置、および画像表示制御方法、並びにコンピュータ・プログラム
JP5060200B2 (ja) * 2007-08-08 2012-10-31 キヤノン株式会社 画像処理装置および画像処理方法
JP4586052B2 (ja) * 2007-08-08 2010-11-24 キヤノン株式会社 画像処理装置及びその制御方法
JP5080899B2 (ja) * 2007-08-08 2012-11-21 キヤノン株式会社 映像処理装置及びその制御方法
JP5335293B2 (ja) * 2008-06-13 2013-11-06 キヤノン株式会社 液晶表示装置及びその駆動方法
JP5306061B2 (ja) * 2009-06-01 2013-10-02 キヤノン株式会社 画像処理装置、画像処理方法、プログラム及び記憶媒体
JP5596943B2 (ja) * 2009-07-09 2014-09-24 キヤノン株式会社 画像表示装置及びその制御方法

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011017936A (ja) * 2009-07-09 2011-01-27 Canon Inc 画像表示装置及びその制御方法
US10360872B2 (en) 2016-11-14 2019-07-23 Samsung Display Co., Ltd. Display device and method of driving the same

Also Published As

Publication number Publication date
WO2010079669A1 (en) 2010-07-15
US20110234899A1 (en) 2011-09-29
US8749708B2 (en) 2014-06-10
JP2010160440A (ja) 2010-07-22

Similar Documents

Publication Publication Date Title
JP5202347B2 (ja) 動画像処理装置および動画像処理方法
JP5060200B2 (ja) 画像処理装置および画像処理方法
KR101094210B1 (ko) 화상처리장치, 화상처리방법, 및 컴퓨터 판독가능한 매체
EP2262255B1 (en) Image processing apparatus and image processing method
JP4586052B2 (ja) 画像処理装置及びその制御方法
JP5212742B2 (ja) 画像表示装置、映像信号処理装置および映像信号処理方法
JP5221550B2 (ja) 画像表示装置および画像表示方法
JP4231071B2 (ja) 画像表示装置、画像表示方法および画像表示プログラム
US7667720B2 (en) Image display device, driving circuit and driving method used in same
JP4525946B2 (ja) 画像処理装置、画像表示装置および画像処理方法
JP5219609B2 (ja) フレームレート変換装置、方法及びプログラム
JP5149725B2 (ja) 画像処理装置及びその制御方法
JP2011124893A (ja) 画像処理装置およびその制御方法、プログラム
US20110110602A1 (en) Image processing apparatus and control method thereof, and computer-readable storage medium
JPWO2008016036A1 (ja) 画像処理装置および画像処理方法
JP5537121B2 (ja) 画像処理装置およびその制御方法
JP2010124257A (ja) 映像処理装置、映像表示装置、及びフレームレート変換方法
JP2009272780A (ja) フレームレート変換装置、方法及びプログラム
JP2010028576A (ja) 画像処理装置及びその制御方法
JP2010008535A (ja) 映像表示装置
JP2009004945A (ja) 計測装置および方法、プログラム、並びに記録媒体
JP2006208854A (ja) 画像処理装置、プログラム、記録媒体および画像表示装置
EP2079069A1 (en) Video picture display method to reduce the effects of blurring and double contours and device implementing this method
JP2009093012A (ja) 画像信号処理装置、画像信号生成方法、画像表示装置、画像信号処理プログラムおよび記録媒体

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120106

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120106

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130115

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130212

R151 Written notification of patent or utility model registration

Ref document number: 5202347

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20160222

Year of fee payment: 3