JP6136190B2 - 画像処理装置、撮像装置 - Google Patents
画像処理装置、撮像装置 Download PDFInfo
- Publication number
- JP6136190B2 JP6136190B2 JP2012233686A JP2012233686A JP6136190B2 JP 6136190 B2 JP6136190 B2 JP 6136190B2 JP 2012233686 A JP2012233686 A JP 2012233686A JP 2012233686 A JP2012233686 A JP 2012233686A JP 6136190 B2 JP6136190 B2 JP 6136190B2
- Authority
- JP
- Japan
- Prior art keywords
- output
- unit
- coordinate
- input
- pixels
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000012545 processing Methods 0.000 title claims description 165
- 238000003384 imaging method Methods 0.000 title claims description 66
- 238000012937 correction Methods 0.000 claims description 325
- 230000015654 memory Effects 0.000 claims description 233
- 239000000872 buffer Substances 0.000 claims description 215
- 238000012546 transfer Methods 0.000 claims description 79
- 238000000034 method Methods 0.000 claims description 54
- 230000008569 process Effects 0.000 claims description 45
- 238000011094 buffer selection Methods 0.000 claims description 25
- 230000003287 optical effect Effects 0.000 claims description 16
- 230000007274 generation of a signal involved in cell-cell signaling Effects 0.000 claims description 8
- IUNMPGNGSSIWFP-UHFFFAOYSA-N dimethylaminopropylamine Chemical compound CN(C)CCCN IUNMPGNGSSIWFP-UHFFFAOYSA-N 0.000 description 23
- 230000004044 response Effects 0.000 description 19
- 238000006243 chemical reaction Methods 0.000 description 15
- 238000010586 diagram Methods 0.000 description 9
- 230000004075 alteration Effects 0.000 description 6
- MHABMANUFPZXEB-UHFFFAOYSA-N O-demethyl-aloesaponarin I Natural products O=C1C2=CC=CC(O)=C2C(=O)C2=C1C=C(O)C(C(O)=O)=C2C MHABMANUFPZXEB-UHFFFAOYSA-N 0.000 description 4
- 241000226585 Antennaria plantaginifolia Species 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 239000000203 mixture Substances 0.000 description 3
- 230000008859 change Effects 0.000 description 2
- 230000000052 comparative effect Effects 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 230000001360 synchronised effect Effects 0.000 description 2
- 238000012790 confirmation Methods 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 230000006866 deterioration Effects 0.000 description 1
- 230000002708 enhancing effect Effects 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000001131 transforming effect Effects 0.000 description 1
- 230000007704 transition Effects 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N9/00—Details of colour television systems
- H04N9/64—Circuits for processing colour signals
- H04N9/646—Circuits for processing colour signals for image enhancement, e.g. vertical detail restoration, cross-colour elimination, contour correction, chrominance trapping filters
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
- H04N23/81—Camera processing pipelines; Components thereof for suppressing or minimising disturbance in the image signal generation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/60—Noise processing, e.g. detecting, correcting, reducing or removing noise
- H04N25/61—Noise processing, e.g. detecting, correcting, reducing or removing noise the noise originating only from the lens unit, e.g. flare, shading, vignetting or "cos4"
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Image Processing (AREA)
- Studio Devices (AREA)
- Facsimile Image Signal Circuits (AREA)
Description
以下、第一実施形態を図1〜図12に従って説明する。
図1に示すように、この撮像装置は例えばデジタルスチルカメラであり、撮像部10、画像処理部(ISP:Image Signal Processor)20、操作部41、メモリ(記憶部)42、表示デバイス43を有している。撮像部10は、被写体に基づく入射光に応じた画像データを出力する。画像処理部20は、既定の設定値または操作部41の操作による設定にしたがって、撮像部10から出力される画像データに対して各種画像処理を施す。そして、画像処理部20は、処理中または処理後の画像データをメモリ42に格納する。また、画像処理部20は、撮像部10から出力される画像データに基づく画像、またはメモリ42に格納された画像データに基づく画像を表示デバイス43に表示する。そして、画像処理部20は、メモリ42に格納された画像データを、例えば操作部41の操作にしたがってメモリカード45に格納する。
撮像光学系11は、被写体からの光を集光するレンズ(フォーカスレンズなど),レンズを通過した光の量を調整する絞り,等を含み、光学的な被写体像を撮像素子部12に導く。撮像素子部12は、例えば、ベイヤ配列のカラーフィルタと、撮像素子とを含む。撮像素子は、CCD(Charge Coupled Device)イメージセンサである。撮像素子は、カラーフィルタを介して入射する光の量に応じた撮像信号(アナログ信号)を出力する。また、撮像素子部12は、アナログの撮像信号をデジタルの撮像データに変換する。そして、撮像素子部12は、同期信号に従って変換後の撮像データを出力する。同期信号は、1つのフィールドの区切りを示す垂直同期信号と、1ラインの区切りを示す水平同期信号を含み、例えば画像処理部20から供給される。
水平歪み補正部21aは、図6(a)に示す画像データP1aを水平歪み補正処理して図6(b)に示す画像データP1bを生成する。これにより、画像データP1aに含まれる樽型の格子G2は、画像データP1bにおいて垂直方向(図における上下方向)に膨らむ形状の格子G2aとなる。垂直歪み補正部22は、図6(b)に示す画像データP1bを垂直歪み補正処理して図6(c)に示す画像データP1cを生成する。これにより、画像データP1bに含まれる格子G2aは、画像データP1cにおいて、直線状の格子G2bとなる。歪み補正部23は、図6(a)に示す画像データP1aを歪み補正処理して図6(c)に示す画像データP1cを生成する。これにより、画像データP1aに含まれる樽型の格子G2は、画像データP1cにおいて、直線状の格子G2bとなる。
メモリカードI/F27は、撮像装置に装着されるメモリカード45と接続される。メモリカードI/F27は、メモリ42をアクセスするアクセス制御部27aを含む。メモリカードI/F27は、メモリ42に格納されたデータ(例えば圧縮された画像データ)をメモリカード45に格納する。
歪み補正部23は、入力画像データに対して、自由変形又は射影変形と呼ばれる処理を行う。自由変形は、任意形状の四角形を他の形状の四角形へと変形する処理である。他の形状の四角形を矩形とすることにより、入力画像データにおける歪みを補正する。
Xi=[N(Bx−Ax)+{(Dx−Cx)−(Bx−Ax)}Yo]Xo/(M*N)+Ax+(Cx−Ax)Yo/N ・・・(1)
Yi=[M(Cy−Ay)+{(Dy−By)−(Cy−Ay)}Xo]Yo/(M*N)+Ay+(By−Ay)Xo/M ・・・(2)
により求められる。なお、「*」は乗算を示し、「/」は除算を示す。
図2に示すように、水平歪み補正部21aは、入力座標設定部51、出力座標生成部52、座標演算部53、ライト部54、FIFOメモリ55、リード部56、線形補間部57を有している。アクセス制御部21bは、バッファ58、転送制御部59を有している。
Ga3=(1−Hα)・Ga1+Hα・Ga2
により算出する。そして、線形補間部57は、生成した画像データ(画素値)Ga3を出力する。
図3に示すステップ61において、パラメータの初期化を行う。初期化するパラメータは、転送先アドレス、バッファに格納したデータ数(バッファRAMデータ数)である。転送先アドレスに初期値を設定し、バッファRAMデータ数と無効画素数をクリア(=0)する。
次いで、ステップ65において、バッファRAMデータ数がバーストサイズと等しいか否かを判定する。バッファRAMデータ数は、バッファ58に格納された画素のうち、無効画素か否かを判定した画素の数である。バッファRAMデータ数がバーストサイズと異なる場合(判定:NO)にステップ62へ移行する。一方、バッファRAMデータ数がバーストサイズと等しい場合(判定:YES)、次のステップ66へ移行する。つまり、バーストサイズ分の画素について無効画素か否かを判定する。
図4に示すように、垂直歪み補正部22は、アクセス制御部22aと垂直歪み補正コア部22bを有している。垂直歪み補正コア部22bは、入力座標設定部71、出力座標生成部72、座標演算部73、内部バッファ74、ラインセレクタ75、線形補間部76を有している。アクセス制御部22aは、入力バッファ77、転送制御部78、出力バッファ79を有している。
出力座標生成部72は、図2に示す出力座標生成部52と同様に、1フレームの画像データに対する処理に応じて初期化される。そして、出力座標生成部72は、垂直歪み補正コア部22bから出力される画素(出力画素)の画像データに応じてカウント値をカウントアップする。このカウント値は、垂直歪み補正コア部22bから出力される出力画素に対応する座標値(出力水平座標値)である。
Ga3=(1−Vα)・Ga1+Vα・Ga2
により算出する。そして、線形補間部76は、算出した画素値Ga3の画像データを出力する。
水平歪み補正部21aは、線形補間部57により2つの入力画素の画像データに基づいて、1つの出力画素の画像データを生成する。線形補間部57は、出力画素の座標値に応じて算出された入力画素の座標値の小数部を補間係数とする線形補間処理により出力画素の画像データを生成する。したがって、最近傍処理により出力画素を生成する場合と比べ、階段状の部分が少ない画像が得られる。
(1−1)転送制御部59は、垂直歪み補正部22において出力画素の画像データを生成するために必要な画素の画像データをメモリ42に格納するため、1フレーム分の画像データをメモリ42に格納する場合と比べ、メモリ42に対するアクセス数を低減することができる。
以下、第二実施形態を図13〜図22に従って説明する。
なお、本実施形態において、上記実施形態と同じ部材については同じ符号を付し、その説明の一部または全てを省略する。
画像処理部100は、データ変換部101、垂直歪み補正部102、歪み補正部23、画像処理部24、静止画コーデック部25、動画コーデック部26、メモリカードI/F27、表示I/F28、DMA調停部29、メモリコントローラ30、CPU31を有している。
Yi=func(GTBL[m][n],Xo,Yo) ・・・(3)
と表される。座標演算部114は、水平方向にあっては格子ブロックの大きさ(画素数)の範囲内であって、垂直方向にあっては1フレーム分の画像データの大きさ(ライン数)の範囲において、垂直歪み補正処理に必要な画素の最小値Yminと最大値Ymaxを算出する。
Ymin1=func(GTBL[Xi/64][0], 0,0)
Ymin2=func(GTBL[Xi/64][0],63,0)
Ymax1=func(GTBL[Xi/64][16], 0,63)
Ymax2=func(GTBL[Xi/64][16],63,63)
により算出する。そして、座標演算部114は、必要な座標値Ymin,Ymaxを、
Ymin=min(Ymin1,Ymin2)
Ymax=max(Ymax1,Ymax2)+YGof
により算出する。なお、「max(a,b)」は値「a」と値「b」のうちの大きい方の値を返す関数であり、「min(a,b)」は値「a」と値「b」のうちの小さい方の値を返す関数である。また、「YGof」は、1フレームの画像データにおける原点の座標値、つまり格子ブロックに対する画像データ全体のオフセット値である。このオフセット値「YGof」は、最初のラインを含む格子ブロックから最後のラインを含む格子ブロックまでの格子ブロックの数、つまり垂直方向における格子ブロックの数(例えば「17」)から「1」を減算した数と、格子ブロックの垂直方向の画素数N(例えば、「64」)の積により求められる値(=16×64)である。座標演算部114は、算出した座標値(Ymin,Ymax)を含む垂直補正範囲値VA2を出力する。
Xo=(Idx*16+Xd)%M
により算出する。なお、「%」は、例えば演算式「c=a%b」において、被除数aを除数bで割ったときの剰余(余りの整数)を算出する演算子である。
YB=SLn%N
により算出する。そして、出力座標生成部116は、算出した座標値Xo,YBを座標演算部117に出力する。
Yi=func(GTBL[m][n],Xo,YB)
により算出する。
Xmin=(Xo/16)*16
Xmax=(Xo/16)*16+15
により算出する。そして、座標演算部117は、最小値Xminと最大値Xmaxの座標において必要な入力画素の垂直座標Y1,Y2を、上記の式(3)にしたがって、
Y1=func(GTBL[m][n],Xmin,YB)
Y2=func(GTBL[m][n],Xmax,YB)
により算出する。
(Y1>Y2)の場合、Ymin3=Y2,Ymax3=Y1
(Y1<=Y2)の場合、Ymin3=Y1,Ymax3=Y2
にしたがって座標値Ymin3,Ymax3を設定する。
つまり、インデックス値Idxは、分割ラインの画素における水平方向の座標値に対応し、出力ライン番号SLnは、分割ラインの垂直方向の座標値に対応する。これらの水平方向の座標値と垂直方向の座標値に基づいて、1つの格子ブロックが選択される。インデックス値Idxは、出力画素を生成するために用いる入力画素が記憶されたディレイラインバッファの番号を示し、各ディレイラインバッファDLB[0]〜DLB[119]は水平方向のラインを所定画素(例えば、16画素)に分割した分割ラインを記憶する。格子ブロックの水平方向のサイズ(画素数)は例えば64画素である。従って、インデックス値Idxを1/4倍(=16/64)した値が、格子ブロックの水平方向の座標値[BX]である。そして、出力ライン番号SLnは、1フレームの画像におけるライン番号と等しい。従って、出力ライン番号SLnを格子ブロックの垂直方向のサイズ(例えば64画素)で割った値が、格子ブロックの垂直方向の座標値[BY]である。つまり、格子ブロックの座標は、(Idx*4、SLn/64)である。このため、入力座標設定部113は、テーブルGTBL[Idx*4][SLn/64]に含まれる頂点座標を含む第2の格子ブロック座標GB2を第2の座標演算部117に出力する。
Ga3=(1−Vα)・Ga1+Vα・Ga2
により算出する。そして、線形補間部118は、生成した画像データ(画素値)Ga3を出力する。
図15に示すように、ディレイラインバッファDLB[0]は、ディレイライン入力バッファDIB[0]とディレイライン出力制御部DOC[0]を有している。同様に、ディレイラインバッファDLB[1]〜DLB[119]は、ディレイライン入力バッファDIB[0]〜DIB[119]とディレイライン出力制御部DOC[1]〜DOC[119]を有している。
メモリアレイ132は、複数段(図において12段)のラインメモリ132aを有している。各ラインメモリ132aの記憶容量は図13に示すメモリ42に対する1回のバースト転送における転送量に応じた値に設定され、例えば16画素分の画像データを記憶するように設定されている。メモリアレイ132の段数、つまりラインメモリ132aの数(ライン数)は、垂直歪み補正処理における垂直移動量に応じた段数により設定されている。
ライト制御部131は、第1のレベル(Hレベル)のイネーブル信号DDEに応答してメモリアレイ132に対する書き込み処理を行い、第2のレベル(Lレベル)のイネーブル信号DDEに応答して書き込み処理を行わない。書き込み処理において、ライト制御部131は、入力水平座標Xiとインデックス値Idxに基づいて、画像データPD2がディレイライン入力バッファDIB[0]に対応するデータか否かを判定する。例えば、ライト制御部131は、入力水平座標Xiをメモリアレイ132の記憶容量に応じた水平画素数(例えば、16画素)で除算演算し、その演算結果の整数値とインデックス値Idxとを比較する。ライト制御部131は、演算結果の整数値がインデックス値Idxと等しい場合、自バッファDIB[0]に対応する画素の画像データと判定し、それらが等しくない場合に自バッファDIB[0]に対応しない画素の画像データと判定する。そして、ライト制御部131は、自バッファに対応する画素の画像データと判定した場合に、その画像データを、ライトポインタWPにより示されるラインメモリに対して、入力水平座標Xiに応じた領域に格納する。例えば、ライト制御部131は、入力水平座標Xiをインデックス値Idxにより剰余演算し、その演算結果の値を各ラインメモリ132aにおけるアドレス(Xアドレス)とし、そのXアドレスに画像データを格納する。そして、ライト制御部131は、各ラインメモリ132aにおいて最後の画像データを格納すると、ライトポインタWPを更新(+1)する。
図17は、図22(a)に示す画素の画像データを読み出す場合を示す。この場合、図13に示すラインメモリ132aの記憶容量を8画素分としている。なお、図17に示す画像データRDa,RDbは、それらの画像データRDa,RDbを読み出したラインメモリの段数を示している。
Hレベルの読出要求RR[0]が供給されると、クロック信号CLKのカウントを開始する。第1のサイクルT0において、リードポインタRPにリードオフセット値ROF[0](=0)を加算して得られた第1の読出アドレスにしたがって、「1」のラインメモリ132aにおいて、Xアドレス(=0)における画像データを読み出し、画像データを第1読出データRDaとして出力する。同様に、リードポインタRPにリードオフセット値ROF[0]と「1」を加算して得られた第2の読出アドレスにしたがって、「2」のラインメモリ132aにおいて、Xアドレス(=0)における画像データを読み出し、画像データを第2読出データRDbとして出力する。
リードオフセット値生成部145には、入力垂直座標VPが供給される。リードオフセット値生成部145は、供給される入力垂直座標VPを初期値として記憶する。そして、リードオフセット値生成部145は、クロック信号CLKに同期して入力される入力垂直座標VPと初期値の差(=VP−初期値)をリードオフセット値ROF[0]として出力する。
図19に示すように、垂直座標値Ymin3を「1」、垂直座標値Ymax3を「4」とする。この場合、演算必要段数CLは「4」(=4−1+1)となる。そして、バッファ段数BL[0]が「3」から「4」に変化すると、Hレベルの演算要求CR[0]を出力する。図15に示すディレイラインバッファ選択部112は、Hレベルの演算要求CR[0]に応答してHレベルの演算要求受付CA[0]を出力する。このHレベルの演算要求受付CA[0]に応答してHレベルのリード要求RR[0]を出力する。
水平歪み補正部101aは、線形補間部57により生成した画像データPD2を出力する。垂直歪み補正部102は、水平歪み補正部101aから出力される画像データPD2をディレイラインバッファDLB[0]〜DLB[119]に記憶する。そして、ディレイラインバッファDLB[0]〜DLB[119]から読み出した画像データを線形補間処理して生成した画像データをメモリ42に格納する。このため、水平方向の歪み補正と垂直方向の歪み補正の間で、メモリ42に対するアクセスは発生しない。
(2−1)水平歪み補正部101aは、線形補間部57により生成した画像データPD2を出力する。垂直歪み補正部102は、水平歪み補正部101aから出力される画像データPD2をディレイラインバッファDLB[0]〜DLB[119]に記憶する。そして、ディレイラインバッファDLB[0]〜DLB[119]から読み出した画像データを線形補間処理して生成した画像データをメモリ42に格納する。このため、水平歪み補正後の画像データをメモリ42に格納する場合と比べ、メモリ42に対するアクセス数を低減することができる。これにより、歪み補正処理にかかる時間を、短縮することができる。
以下、第三実施形態を図23〜図25に従って説明する。
なお、本実施形態において、上記実施形態と同じ部材については同じ符号を付し、その説明の一部または全てを省略する。
画像処理部200は、データ変換部201、第1の垂直歪み補正部202、第2の垂直歪み補正部203、歪み補正部23、画像処理部24、静止画コーデック部25、動画コーデック部26、メモリカードI/F27、表示I/F28、DMA調停部29、メモリコントローラ30、CPU31を有している。データ変換部201は、水平歪み補正部201a、アクセス制御部201bを含む。第1の垂直歪み補正部202はアクセス制御部202aを含み、第2の垂直歪み補正部203はアクセス制御部203aを含む。垂直歪み補正部202は、第2の歪み補正部,第2の補正部の一例である。垂直歪み補正部203は、第2の歪み補正部,第2の補正部の一例である。
図24(a)は、樽型の歪みに対する水平歪み補正処理後の画像データIP21を示し、図24(b)は、垂直補正処理後の画像データOP21を示す。図24(a)に示す画像データIP21において、ハッチングを付していない部分は垂直歪み補正処理に必要な画素が含まれる領域を示す。この画像データIP21の場合、水平方向において中央付近の画素の移動量は、左右両端付近の画素の移動量より小さい。したがって、水平方向において中央部分を含む処理範囲AR11を第1の処理範囲として第1の垂直歪み補正部202に設定し、左右両端の処理範囲AR12,AR13を第2の処理範囲として第2の垂直歪み補正部203に設定する。第1の垂直歪み補正部202に含まれる内部バッファ74の記憶容量(記憶するライン数)は、画素の移動量に応じて設定される。したがって、移動量の少ない処理範囲AR11を第1の垂直歪み補正部202に設定することで、内部バッファ74の記憶容量を少なくすることができる。このこと、画像処理装置における第1の垂直歪み補正部202の面積の増大を抑制し、第1の垂直歪み補正部202の実装を容易にする。処理範囲AR11〜AR13は第1の領域の一例である。
第1の垂直歪み補正部202と第2の垂直歪み補正部203には、それぞれ処理範囲が設定されている。第1の垂直歪み補正部202と第2の垂直歪み補正部203は、それぞれに設定された処理範囲に含まれる画素について、垂直歪み補正処理を行い、処理後の画像データをメモリ42に格納する。
(3−1)第1の垂直歪み補正部202と第2の垂直歪み補正部203には、それぞれ処理範囲が設定されている。第1の垂直歪み補正部202と第2の垂直歪み補正部203は、それぞれに設定された処理範囲に含まれる画素について、垂直歪み補正処理を行い、処理後の画像データをメモリ42に格納する。
・図2に示す水平歪み補正部21aにおいて、FIFOメモリ55のリードポインタをリード部56が制御するようにしてもよい。例えば、リード部56は、入力水平座標HPと読出位置を記憶するレジスタを有している。リード部56は、1つのラインにおける画素の読み出しを開始するとき、レジスタの読出位置をリセット(=0)する。ライト部54は、FIFOメモリ55に2画素以上の画像データが格納されると、読出処理を開始する。
・格子ブロックの大きさ(水平方向の画素数×垂直方向の画素数)を適宜変更してもよい。例えば、各ディレイラインバッファDLB[0]〜DLB[119]において記憶する水平方向の画素数と等しくしてもよい。また、各ディレイラインバッファDLB[0]〜DLB[119]において記憶する水平方向の画素数の整数倍(2倍等)に設定してもよい。
例えば、水平歪み補正部101aに第1の処理範囲を設定する。水平歪み補正部101aは、水平歪み補正処理後の画像データについて、第1の処理範囲に含まれる画像データを第1の垂直歪み補正部202に出力し、第1の処理範囲に含まれない画像データをメモリ42に格納する。また、水平歪み補正部101aに第2の処理範囲を設定してもよい。この場合、水平歪み補正部101aは、水平歪み補正処理後の画像データについて、第2の処理範囲に含まれる画像データをメモリ42に格納し、第2の処理範囲に含まれない画像データを第1の垂直歪み補正部202に出力する。
例えば、図26(a)は、メモリ42に面順次フォーマットにより格納された画像データを示し、図26(b)は、メモリ42に点順次フォーマットにより格納された画像データを示す。図26(a)に示すように、メモリ42の第1領域42aには、1フレーム分の輝度情報Yが格納され、第2領域42bには1フレーム分の色差情報Cbが格納され、第3領域42cには1フレーム分の色差情報Crが格納される。なお、図26(a)には、各領域42a〜42cに格納された1つの画素に対応する輝度情報Yと色差情報Cb、Crを示す。
22 垂直歪み補正部
101a 水平歪み補正部
102 垂直歪み補正部
201a 水平歪み補正部
202 垂直歪み補正部
Claims (9)
- 撮像部に接続される画像処理装置であって、
前記撮像部にて撮像した1フレームの画像データが入力され、前記1フレームの画像データの第1の方向に隣接する2つの入力画素に基づいて1つの第1出力画素を生成する第1の歪み補正部と、
前記第1の方向と異なる第2の方向に隣接する2つの前記第1出力画素に基づいて1つの第2出力画素を生成し、前記第2出力画素をメモリに格納する第2の歪み補正部と
を含み、
前記第2の歪み補正部は、前記1フレームの画像を分割した複数の格子ブロックの各頂点の格子ブロック座標に基づいて、前記第2出力画素の座標値に対応した入力座標及び補間係数を生成し、前記第1の方向に連続し前記メモリに対する1回のアクセスにおける転送量に応じた複数の前記第1出力画素を含み前記第1の方向に連続し前記メモリに対する1回のアクセスにおける転送量に応じた複数の第2出力画素に対応する前記第1出力画素の座標値に基づく複数の分割ラインを記憶部に記憶し、前記複数の第2出力画素に対応した前記入力座標に基づいて、前記記憶部から前記第2の方向に隣接する2つの前記第1出力画素を順次読み出し、該読み出した2つの前記第1出力画素を前記補間係数に基づいて線形補間処理して前記第2出力画素を生成するものであり、
前記第2の歪み補正部は、
複数の分割ラインを記憶する複数のディレイラインバッファと、
入力する前記第1出力画素の座標値を生成する入力座標生成部と、
前記格子ブロック座標を記憶し、前記入力座標生成部により生成された座標値に応じた第1の格子ブロック座標を出力し、前記格子ブロック座標に基づいて前記第1出力画素を出力するディレイラインバッファのインデックス値と出力ライン番号に応じた第2の格子ブロック座標を出力する入力座標設定部と、
前記第1の格子ブロック座標に基づいて、前記第2出力画素の座標値に応じて必要とする前記第1出力画素の範囲を算出する第1の座標演算部と、
前記第1の座標演算部により算出された前記第1出力画素の範囲と、前記入力座標生成部により生成された前記第1出力画素の座標値に基づいてイネーブル信号を生成するイネーブル信号生成部と、
前記インデックス値と前記出力ライン番号に基づいて前記ディレイラインバッファから出力される前記第1出力画素の座標値を生成する出力座標生成部と、
前記第2の格子ブロック座標と前記第1出力画素の座標値に基づいて、前記第1の方向に連続し前記メモリに対する1回のアクセスにおける転送量に応じた複数の第2出力画素に対応する複数の前記第1出力画素の前記第2の方向の座標値のうちの最小の座標値と最大の座標値と、前記補間係数及び前記入力座標を生成する第2の座標演算部と、
前記複数のディレイラインバッファから出力される演算要求に基づいて選択した1つのディレイラインバッファに記憶された前記第1出力画素を読み出して出力するディレイラインバッファ選択部と、
前記ディレイラインバッファ選択部から出力される2つの前記第1出力画素を前記補間係数に基づいて線形補間処理して前記第2出力画素を生成する線形補間部と、
を有し、
前記複数のディレイラインバッファは、
前記入力座標生成部により生成された座標値と前記イネーブル信号に基づいて、対応する座標値の画素データを含む分割ラインを記憶し、
記憶した分割ラインに応じたバッファ段数と前記第2の座標演算部にて生成された前記最小の座標値と前記最大の座標値に基づいて前記演算要求を出力すること、
を特徴とする画像処理装置。 - 複数の前記ディレイラインバッファはそれぞれ、
前記第1出力画素を記憶し、記憶した前記分割ラインの数に応じてバッファ段数を出力し、リード要求とオフセット値に基づいて記憶した分割ラインに含まれる前記第1出力画素を出力するディレイライン入力バッファと、
前記バッファ段数と前記第2の座標演算部にて生成された前記最小の座標値と前記最大の座標値に基づいて前記演算要求を出力し、前記ディレイラインバッファ選択部から供給される演算要求受付に応じてディレイライン入力バッファに対して前記リード要求を出力し、前記第2の座標演算部から出力される前記入力座標に基づいて前記オフセット値を出力するディレイライン出力制御部と
を含むことを特徴とする請求項1に記載の画像処理装置。 - 撮像部に接続される画像処理装置であって、
前記撮像部にて撮像した1フレームの画像データが入力され、前記1フレームの画像データの第1の方向に隣接する2つの入力画素に基づいて1つの第1出力画素を生成する第1の歪み補正部と、
前記第1の方向と異なる第2の方向に隣接する2つの前記第1出力画素に基づいて1つの第2出力画素を生成し、前記第2出力画素をメモリに格納する第2の歪み補正部と
を含み、
前記第2の歪み補正部は、前記1フレームの画像を分割した複数の格子ブロックの各頂点の格子ブロック座標に基づいて、前記第2出力画素の座標値に対応した入力座標及び補間係数を生成し、前記第1の方向に連続し前記メモリに対する1回のアクセスにおける転送量に応じた複数の前記第1出力画素を含み前記第1の方向に連続し前記メモリに対する1回のアクセスにおける転送量に応じた複数の第2出力画素に対応する前記第1出力画素の座標値に基づく複数の分割ラインを記憶部に記憶し、前記複数の第2出力画素に対応した前記入力座標に基づいて、前記記憶部から前記第2の方向に隣接する2つの前記第1出力画素を順次読み出し、該読み出した2つの前記第1出力画素を前記補間係数に基づいて線形補間処理して前記第2出力画素を生成するものであり、
前記第2の歪み補正部は、
前記第1の歪み補正部から出力される前記第1出力画素のうちの設定された第1の領域に含まれる前記第1出力画素について、前記第1の方向と異なる第2の方向に隣接する2つの前記第1出力画素に基づいて1つの前記第2出力画素を生成し、前記第1の領域に含まれない前記第1出力画素と前記第2出力画素をメモリに格納する第1補正部と、
前記メモリに格納された前記第1出力画素を読み出し、前記第2の方向に隣接する2つの前記第1出力画素に基づいて1つの前記第2出力画素を生成し、生成した前記第2出力画素を前記メモリに格納する第2補正部と
を含むことを特徴とする画像処理装置。 - 前記第1の領域は、前記第2出力画素の座標値と、前記第2出力画素を生成するために必要な前記第1出力画素の座標値に基づいて設定されること、を特徴とする請求項3に記載の画像処理装置。
- 前記第1の歪み補正部は、
前記1フレームの画像を分割した複数の格子ブロックの各頂点の格子ブロック座標に基づいて、前記第1出力画素の座標値に対応した第1入力座標及び第1補間係数を生成し、前記第1入力座標に応じた2つの前記入力画素を前記第1補間係数に基づいて線形補間処理して前記1つの第1出力画素を生成すること
を特徴とする請求項1〜4のうちの何れか一項に記載の画像処理装置。 - 撮像部に接続される画像処理装置であって、
前記撮像部にて撮像した1フレームの画像データが入力され、前記1フレームの画像データの第1の方向に隣接する2つの入力画素に基づいて1つの第1出力画素を生成する第1の歪み補正部と、
前記第1の方向と異なる第2の方向に隣接する2つの前記第1出力画素に基づいて1つの第2出力画素を生成し、前記第2出力画素をメモリに格納する第2の歪み補正部と
を含み、
前記第1の歪み補正部は、
前記1フレームの画像を分割した格子ブロックの各頂点に対応する格子ブロック座標を記憶した入力座標設定部と、
前記第1出力画素の座標値を生成する出力座標生成部と、
前記格子ブロック座標に基づいて、前記第1出力画素の座標値に対応した補正前の画像における第1の座標値を算出し、前記第1の座標値の整数部に応じた入力座標を出力し、前記第1の座標値の小数部に応じた第1補間係数を出力する第3の座標演算部と、
前記入力座標に基づいて、前記画像データの入力画素のうち、前記第1出力画素に応じた入力画素を記憶部に格納するライト部と、
前記入力座標に基づいて、前記記憶部に格納された前記2つの入力画素を読み出して出力するリード部と、
前記リード部から出力される前記2つの入力画素を前記第1補間係数に基づいて補間処理して前記1つの第1出力画素を生成する線形補間部と、
を含み、
前記第2の歪み補正部は、前記1フレームの画像を分割した複数の格子ブロックの各頂点の格子ブロック座標に基づいて、前記第2出力画素の座標値に対応した入力座標及び補間係数を生成し、前記第1の方向に連続し前記メモリに対する1回のアクセスにおける転送量に応じた複数の前記第1出力画素を含み前記第1の方向に連続し前記メモリに対する1回のアクセスにおける転送量に応じた複数の第2出力画素に対応する前記第1出力画素の座標値に基づく複数の分割ラインを記憶部に記憶し、前記複数の第2出力画素に対応した前記入力座標に基づいて、前記記憶部から前記第2の方向に隣接する2つの前記第1出力画素を順次読み出し、該読み出した2つの前記第1出力画素を前記補間係数に基づいて線形補間処理して前記第2出力画素を生成すること、
むことを特徴とする画像処理装置。 - 前記第3の座標演算部は、前記第1出力画素の座標値に基づいて、前記第2の方向に連続する前記第2出力画素を生成するために必要な前記第1出力画素の座標値の第1の範囲値を算出し、
前記第1の歪み補正部は、
前記メモリに対する1回のアクセスにおける転送量に応じた複数の前記第1出力画素を記憶するバッファと、
前記第1の範囲値に基づいて、前記バッファに保持された複数の前記第1出力画素について有効か無効かを判定し、前記バッファに有効な前記第1出力画素が保持されている場合に前記バッファに保持された複数の前記第1出力画素を、前記メモリの対応する領域に格納する転送制御部と、
を有することを特徴とする請求項6に記載の画像処理装置。 - 撮像部に接続される画像処理装置であって、
前記撮像部にて撮像した1フレームの画像データが入力され、前記1フレームの画像データの第1の方向に隣接する2つの入力画素に基づいて1つの第1出力画素を生成する第1の歪み補正部と、
前記第1の方向と異なる第2の方向に隣接する2つの前記第1出力画素に基づいて1つの第2出力画素を生成し、前記第2出力画素をメモリに格納する第2の歪み補正部と
を含み、
前記第2の歪み補正部は、前記1フレームの画像を分割した複数の格子ブロックの各頂点の格子ブロック座標に基づいて、前記第2出力画素の座標値に対応した入力座標及び補間係数を生成し、前記第1の方向に連続し前記メモリに対する1回のアクセスにおける転送量に応じた複数の前記第1出力画素を含み前記第1の方向に連続し前記メモリに対する1回のアクセスにおける転送量に応じた複数の第2出力画素に対応する前記第1出力画素の座標値に基づく複数の分割ラインを記憶部に記憶し、前記複数の第2出力画素に対応した前記入力座標に基づいて、前記記憶部から前記第2の方向に隣接する2つの前記第1出力画素を順次読み出し、該読み出した2つの前記第1出力画素を前記補間係数に基づいて線形補間処理して前記第2出力画素を生成するものであり、
前記第2の歪み補正部は、
前記1フレームの画像を分割した格子ブロックの各頂点に対応する格子ブロック座標を記憶した入力座標設定部と、
前記第2出力画素の座標値を生成する出力座標生成部と、
前記格子ブロック座標と前記第2出力画素の座標値に基づいて、前記第2出力画素の座標値に対応した前記第1出力画素の第2の座標値を算出し、前記第2の座標値の整数部に応じた第2の入力座標を出力し、前記第2の座標値の小数部に応じた補間係数を出力し、前記第2の方向に連続する前記第2出力画素を生成するために必要な前記第1出力画素の座標値の第2の範囲値を出力する座標演算部と、
前記第2の範囲値に応じた前記第1出力画素を前記メモリから入力バッファに読み出す転送制御部と、
前記入力バッファに格納された分割ラインを複数記憶する内部バッファと、
前記第2の入力座標に応じて前記内部バッファの2つの前記分割ラインを選択し、選択した2つの前記分割ラインのそれぞれから1つの前記第1出力画素を出力するラインセレクタと、
前記ラインセレクタから出力される2つの前記第1出力画素を前記補間係数に基づいて線形補間処理して前記1つの第2出力画素を生成する線形補間部と、
を有することを特徴とする画像処理装置。 - 撮像光学系と、前記撮像光学系を通過した光に応じた画像データを生成する撮像素子とを含む撮像部と、前記画像データを補正し、補正後の画像データをメモリに格納する画像処理部とを有し、
前記画像処理部は、
前記撮像部にて撮像した1フレームの画像データが入力され、前記1フレームの画像データの第1の方向に隣接する2つの入力画素に基づいて1つの第1出力画素を生成する第1の歪み補正部と、
前記第1の方向と異なる第2の方向に隣接する2つの前記第1出力画素に基づいて1つの第2出力画素を生成し、前記第2出力画素をメモリに格納する第2の歪み補正部と
を含み、
前記第2の歪み補正部は、前記1フレームの画像を分割した複数の格子ブロックの各頂点の格子ブロック座標に基づいて、前記第2出力画素の座標値に対応した入力座標及び補間係数を生成し、前記第1の方向に連続し前記メモリに対する1回のアクセスにおける転送量に応じた複数の前記第1出力画素を含み前記第1の方向に連続し前記メモリに対する1回のアクセスにおける転送量に応じた複数の第2出力画素に対応する前記第1出力画素の座標値に基づく複数の分割ラインを記憶部に記憶し、前記複数の第2出力画素に対応した前記入力座標に基づいて、前記記憶部から前記第2の方向に隣接する2つの前記第1出力画素を順次読み出し、該読み出した2つの前記第1出力画素を前記補間係数に基づいて線形補間処理して前記第2出力画素を生成するものであり、
前記第2の歪み補正部は、
前記第1の歪み補正部から出力される前記第1出力画素のうちの設定された第1の領域に含まれる前記第1出力画素について、前記第1の方向と異なる第2の方向に隣接する2つの前記第1出力画素に基づいて1つの前記第2出力画素を生成し、前記第1の領域に含まれない前記第1出力画素と前記第2出力画素をメモリに格納する第1補正部と、
前記メモリに格納された前記第1出力画素を読み出し、前記第2の方向に隣接する2つの前記第1出力画素に基づいて1つの前記第2出力画素を生成し、生成した前記第2出力画素を前記メモリに格納する第2補正部と
を含むこと、
を特徴とする撮像装置。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012233686A JP6136190B2 (ja) | 2012-10-23 | 2012-10-23 | 画像処理装置、撮像装置 |
US14/057,752 US8928782B2 (en) | 2012-10-23 | 2013-10-18 | Image processing device and image capture device |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012233686A JP6136190B2 (ja) | 2012-10-23 | 2012-10-23 | 画像処理装置、撮像装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2014086845A JP2014086845A (ja) | 2014-05-12 |
JP6136190B2 true JP6136190B2 (ja) | 2017-05-31 |
Family
ID=50485012
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2012233686A Expired - Fee Related JP6136190B2 (ja) | 2012-10-23 | 2012-10-23 | 画像処理装置、撮像装置 |
Country Status (2)
Country | Link |
---|---|
US (1) | US8928782B2 (ja) |
JP (1) | JP6136190B2 (ja) |
Families Citing this family (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6275468B2 (ja) * | 2013-12-10 | 2018-02-07 | ハンファテクウィン株式会社Hanwha Techwin Co.,Ltd. | 画像処理装置、画像処理方法及び撮像装置 |
DE102018107950A1 (de) * | 2017-04-18 | 2018-10-18 | Canon Kabushiki Kaisha | Bildverarbeitungsvorrichtung, bildverarbeitungsverfahren und bildaufnahmevorrichtung |
US10356346B1 (en) * | 2018-02-26 | 2019-07-16 | Fotonation Limited | Method for compensating for off-axis tilting of a lens |
JP6845173B2 (ja) * | 2018-03-15 | 2021-03-17 | 株式会社東芝 | 画像処理装置及び画像処理方法 |
CN109345452B (zh) * | 2018-09-10 | 2023-01-17 | 武汉精立电子技术有限公司 | 一种实现图像快速线性插值的方法 |
JP7208356B2 (ja) * | 2018-09-26 | 2023-01-18 | コーヒレント・ロジックス・インコーポレーテッド | 任意の世界ビューの生成 |
CN111951193B (zh) * | 2020-08-21 | 2024-02-02 | 安谋科技(中国)有限公司 | 图像的水平畸变矫正方法及水平畸变矫正装置 |
Family Cites Families (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4028306B2 (ja) * | 2002-06-26 | 2007-12-26 | 富士フイルム株式会社 | デジタル撮像装置 |
JP4144292B2 (ja) * | 2002-08-20 | 2008-09-03 | ソニー株式会社 | 画像処理装置と画像処理システム及び画像処理方法 |
WO2004068852A1 (ja) * | 2003-01-29 | 2004-08-12 | Olympus Corporation | 撮像装置 |
WO2004109597A1 (ja) | 2003-06-02 | 2004-12-16 | Olympus Corporation | 画像処理装置 |
JP2004362069A (ja) | 2003-06-02 | 2004-12-24 | Olympus Corp | 画像処理装置 |
JP4194889B2 (ja) | 2003-06-23 | 2008-12-10 | 三菱電機株式会社 | 画像処理装置 |
CN1914917A (zh) * | 2004-01-30 | 2007-02-14 | 株式会社茉莉特斯 | 摄像装置、摄像镜头、向摄像镜头的数据写入方法 |
JP4279775B2 (ja) * | 2004-12-10 | 2009-06-17 | 富士フイルム株式会社 | 光学歪み補正装置、光学歪み補正方法、及び撮像装置 |
JP4606218B2 (ja) * | 2005-03-28 | 2011-01-05 | 三洋電機株式会社 | 歪補正装置 |
US7920200B2 (en) * | 2005-06-07 | 2011-04-05 | Olympus Corporation | Image pickup device with two cylindrical lenses |
JP4702233B2 (ja) | 2006-09-11 | 2011-06-15 | ソニー株式会社 | 画像データ処理装置および画像データ処理方法 |
JP4919978B2 (ja) | 2008-01-26 | 2012-04-18 | 三洋電機株式会社 | 歪補正装置 |
JP4548522B2 (ja) | 2008-07-17 | 2010-09-22 | Tdk株式会社 | コイル部品及びこれを備えた電源装置 |
JP2010028758A (ja) * | 2008-07-24 | 2010-02-04 | Sony Corp | 画像処理装置及び方法、プログラム、並びに撮像装置 |
JP2010257357A (ja) * | 2009-04-28 | 2010-11-11 | Renesas Electronics Corp | 画像処理装置、半導体データ処理装置及びデータ処理システム |
-
2012
- 2012-10-23 JP JP2012233686A patent/JP6136190B2/ja not_active Expired - Fee Related
-
2013
- 2013-10-18 US US14/057,752 patent/US8928782B2/en not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2014086845A (ja) | 2014-05-12 |
US8928782B2 (en) | 2015-01-06 |
US20140111672A1 (en) | 2014-04-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6136190B2 (ja) | 画像処理装置、撮像装置 | |
JP4340915B2 (ja) | 撮像画像信号の歪み補正方法、撮像画像信号の歪み補正装置、撮像方法および撮像装置 | |
US7301565B2 (en) | Correction method, correction device and photographing device | |
WO2005010818A1 (ja) | 画像処理装置、画像処理方法及び歪補正方法 | |
WO2004109597A1 (ja) | 画像処理装置 | |
US7499082B2 (en) | Distortion correction circuit for generating distortion-corrected image using data for uncorrected image | |
JP5154361B2 (ja) | 撮像装置及び撮像装置の制御方法 | |
JP6442867B2 (ja) | 画像処理装置、撮像装置、及び画像処理方法 | |
CN102164236B (zh) | 图像处理方法、图像处理装置、以及摄像装置 | |
US10713757B2 (en) | Image processing apparatus, control method thereof, and storage medium | |
JP4827213B2 (ja) | 画像補正装置および画像補正方法 | |
JPH0998340A (ja) | 撮像装置 | |
JP5676233B2 (ja) | 画像処理装置、画像処理方法、及び撮像装置 | |
JP2010033507A (ja) | メモリコントローラおよび画像処理装置 | |
JP4436626B2 (ja) | 画像処理装置 | |
JP6295619B2 (ja) | 画像処理装置及び方法、並びに電子機器 | |
JP6136171B2 (ja) | データ転送装置、データ転送方法、半導体装置 | |
JP5351200B2 (ja) | 画像処理装置、画像処理システムおよび画像処理方法 | |
JP2007079708A (ja) | 画像処理装置及び画像処理方法 | |
JP6440465B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP6762775B2 (ja) | 画像処理装置、撮像装置、制御方法及びプログラム | |
JP4132264B2 (ja) | 画像信号処理回路 | |
JP2013257665A (ja) | 映像処理装置、映像処理装置の制御方法 | |
JP2016103169A (ja) | 画像処理装置、画像処理方法および電子機器 | |
JP3701895B2 (ja) | シェーディング補正回路 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A712 Effective date: 20150612 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20150702 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20160517 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20160621 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20160728 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20170111 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20170220 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20170404 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20170417 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6136190 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
LAPS | Cancellation because of no payment of annual fees |