Nothing Special   »   [go: up one dir, main page]

JP5353393B2 - 画像処理装置及び画像処理方法等 - Google Patents

画像処理装置及び画像処理方法等 Download PDF

Info

Publication number
JP5353393B2
JP5353393B2 JP2009093384A JP2009093384A JP5353393B2 JP 5353393 B2 JP5353393 B2 JP 5353393B2 JP 2009093384 A JP2009093384 A JP 2009093384A JP 2009093384 A JP2009093384 A JP 2009093384A JP 5353393 B2 JP5353393 B2 JP 5353393B2
Authority
JP
Japan
Prior art keywords
rate
ratio
expression
data
address
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2009093384A
Other languages
English (en)
Other versions
JP2010245901A (ja
Inventor
恭司 吉野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Dai Nippon Printing Co Ltd
Original Assignee
Dai Nippon Printing Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Dai Nippon Printing Co Ltd filed Critical Dai Nippon Printing Co Ltd
Priority to JP2009093384A priority Critical patent/JP5353393B2/ja
Priority to TW099109427A priority patent/TWI513297B/zh
Priority to KR1020100028410A priority patent/KR20100111614A/ko
Priority to US12/754,787 priority patent/US8379976B2/en
Priority to CN201010158555.0A priority patent/CN101860673B/zh
Publication of JP2010245901A publication Critical patent/JP2010245901A/ja
Application granted granted Critical
Publication of JP5353393B2 publication Critical patent/JP5353393B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/46Colour picture communication systems
    • H04N1/56Processing of colour picture signals
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/04Context-preserving transformations, e.g. by using an importance map
    • G06T3/047Fisheye or wide-angle transformations
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/698Control of cameras or camera modules for achieving an enlarged field of view, e.g. panoramic image capture
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/843Demosaicing, e.g. interpolating colour pixel values
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/134Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2209/00Details of colour television systems
    • H04N2209/04Picture signal generators
    • H04N2209/041Picture signal generators using solid-state devices
    • H04N2209/042Picture signal generators using solid-state devices having a single pick-up sensor
    • H04N2209/045Picture signal generators using solid-state devices having a single pick-up sensor using mosaic colour filter
    • H04N2209/046Colour interpolation to calculate the missing colour values

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Image Processing (AREA)
  • Color Television Image Signal Generators (AREA)
  • Color Image Communication Systems (AREA)
  • Studio Devices (AREA)
  • Facsimile Image Signal Circuits (AREA)

Description

本発明は、画像処理装置及び画像処理方法の技術分野に関する。
広角レンズ(例えば、魚眼レンズ等)を用いて撮像された画像(例えば、魚眼画像)を、二次元的な平面画像へ変換し表示するために、撮像された画像に対してRGB変換回路によるRGBカラー変換を施し、その後、歪補正回路による歪補正が施され、平面画像へ変換するようになっている。
かかる変換を実現するため、例えば、FPGA(Field Programmable Gate Array)等の半導体チップを用いた回路が適用されている。
特許文献1では、広角レンズを介して取り込まれた歪みを含むデータに対して、歪み補正後、RGB補間回路によってRGBデータを補間し、出力データを生成する発明が開示されている。
特開2008−061172号公報
しかしながら、上記補間は、入力データに対してR(Red)、G(Green)、及びB(Blue)の各色データを補間するため、当該変換後の入力データのデータ量は入力前と比べ、3倍のデータ量を有することとなる。従って、上記機能を実現する装置における記憶領域を圧迫し、コスト増加の要因となっていた。
また、(欠損している)入力データをRGB変換回路で補正した後に、さらに歪補正回路により補正しているので、入力データ(例えば、特有なパターン配列の一例としてのBayer Pattern配列の画像データ)から直接、補正(平面画像へ変換)するよりも画質が劣ってしまう。
さらに、近年では、1千万画素を越えるデジタルカメラが主流となっており、当該カメラによって撮像された画像のRGBデータは、極めて膨大なデータサイズを有する。従って、当該データをメモリに保管するためには、より多くの記憶領域を有するメモリ等を適用する必要があり、更なるコスト増加を招き、また、メモリ増設に伴う回路の複雑化・巨大化により、製品全体の消費電力増加の原因となっていた。
そこで、本発明は上記各問題点に鑑みてなされたもので、その目的の一例は、より簡便な構成で高画質な画像変換を行うことができる画像処理装置及び画像処理方法等を提供することである。
上記課題を解決するために、請求項1に記載の画像処理装置は、色を構成要素の一つとする対象物を魚眼レンズによって撮像し、前記撮像された対象物を示す魚眼画像であって、前記魚眼画像を構成する画素を示す入力データ画素情報と前記画素に対応する色情報を示す入力データ色情報から構成される入力データに基いて、二次元的に視認可能な平面画像を示す出力データであって、前記平面画像を構成する画素を示す出力データ画素情報と前記画素に対応する色情報を示す出力データ色情報から構成される前記出力データを生成し、前記平面画像を表示部へ表示する画像処理装置であって、前記入力データ及び前記出力データを記憶する記憶手段と、前記入力データ画素情報における座標を、アドレスを示すアドレス部と割合を示す割合部とに分離する分離手段と、前記入力データ画素情報に基いて、前記出力データ画素情報を生成する魚眼画像補正アドレス生成手段と、ベイヤー配列のカラーフィルタアレイの配列パターンに基いて、前記アドレス部に対応する前記入力データ色情報を取得する入力データ色情報取得手段と、前記入力データ色情報に基いて、前記出力データ色情報を算出する出力データ色情報算出手段と、を備え、前記出力データ色情報算出手段が、前記アドレス部のパターンに応じて、前記アドレス部の値と前記割合部の値とから、前記ベイヤー配列のカラーフィルタアレイにおける各色の複数点のデータと各色の割合を求め、当該データと当該割合とを用いた線形演算によって前記出力データ色情報を算出することを特徴とする。
この発明によれば、魚眼レンズによって撮像された魚眼画像を構成する画素を示す入力データ画素情報と前記画素に対応する色情報を示す入力データ色情報から構成される入力データに基いて、二次元的に視認可能な平面画像を示す出力データであって、前記平面画像を構成する画素を示す出力データ画素情報と前記画素に対応する色情報を示す出力データ色情報から構成される前記出力データを生成するようになっている。
従って、専用の処理回路(RGB変換回路)を用いることなく入力データからRGBデータ(色情報)を得ることができるため、より簡便な構成で安価に、高画質な画像変換を行うことができる。
請求項2に記載の画像処理装置は、請求項1に記載の画像処理装置であって、前記アドレス部は、前記座標の整数部であり、前記割合部は、前記座標の小数部であることを特徴とする。
請求項3に記載の画像処理方法は、色を構成要素の一つとする対象物を魚眼レンズによって撮像し、前記撮像された対象物を示す魚眼画像であって、前記魚眼画像を構成する画素を示す入力データ画素情報と前記画素に対応する色情報を示す入力データ色情報から構成される入力データに基いて、二次元的に視認可能な平面画像を示す出力データであって、前記平面画像を構成する画素を示す出力データ画素情報と前記画素に対応する色情報を示す出力データ色情報から構成される前記出力データを生成し、当該平面画像を表示部へ表示する画像処理方法であって、前記入力データ及び前記出力データを記憶する記憶工程と、前記入力データ画素情報における座標を、アドレスを示すアドレス部と割合を示す割合部とに分離する分離行程と、前記入力データ画素情報に基いて、前記出力データ画素情報を生成する魚眼画像補正アドレス生成工程と、ベイヤー配列のカラーフィルタアレイの配列パターンに基いて、前記アドレス部に対応する前記入力データ色情報を取得する入力データ色情報取得工程と、前記入力データ色情報に基いて、前記出力データ色情報を算出する出力データ色情報算出工程と、を有し、前記出力データ色情報算出行程において、前記アドレス部のパターンに応じて、前記アドレス部の値と前記割合部の値とから、前記ベイヤー配列のカラーフィルタアレイにおける各色の複数点のデータと各色の割合を求め、当該データと当該割合とを用いた線形演算によって前記出力データ色情報を算出することを特徴とする。
請求項4に記載の画像処理プログラムは、色を構成要素の一つとする対象物を魚眼レンズによって撮像し、前記撮像された対象物を示す魚眼画像であって、前記魚眼画像を構成する画素を示す入力データ画素情報と前記画素に対応する色情報を示す入力データ色情報から構成される入力データに基いて、二次元的に視認可能な平面画像を示す出力データであって、前記平面画像を構成する画素を示す出力データ画素情報と前記画素に対応する色情報を示す出力データ色情報から構成される前記出力データを生成し、当該平面画像を表示部へ表示する画像処理装置が有するコンピュータを、前記入力データ及び前記出力データを記憶する記憶手段、前記入力データ画素情報における座標を、アドレスを示すアドレス部と割合を示す割合部とに分離する分離手段、前記入力データ画素情報に基いて、前記出力データ画素情報を生成する魚眼画像補正アドレス生成手段、ベイヤー配列のカラーフィルタアレイの配列に基いて、前記アドレス部に対応する前記入力データ色情報を取得する入力データ色情報取得手段、前記入力データ色情報に基いて、前記出力データ色情報を算出する出力データ色情報算出手段、として機能させ、前記出力データ色情報算出手段が、前記アドレス部のパターンに応じて、前記アドレス部の値と前記割合部の値とから、前記ベイヤー配列のカラーフィルタアレイにおける各色の複数点のデータと各色の割合を求め、当該データと当該割合とを用いた線形演算によって前記出力データ色情報を算出することを特徴とする。
以上のように、本発明によれば、魚眼レンズによって撮像された魚眼画像を構成する画素を示す入力データ画素情報と前記画素に対応する色情報を示す入力データ色情報から構成される入力データに基いて、二次元的に視認可能な平面画像を示す出力データであって、前記平面画像を構成する画素を示す出力データ画素情報と前記画素に対応する色情報を示す出力データ色情報から構成される前記出力データを生成するようになっているため、専用の処理回路を用いることなく入力データからRGBデータを得ることができるため、より簡便な構成で安価に、高画質な画像変換を行うことができる。
本実施形態に係る画像処理装置の構成を示すブロック図である。 ベイヤー配列のカラーフィルタアレイの基本構造を示す概念図である。 魚眼画像から平面画像への変換の概要を示す概念図である。 魚眼画像から平面画像への変換の基本原理を示す概念図である。 出力データ画素情報の生成順序を示す概念図である。 魚眼画像補正アドレス生成部8及び補間演算部12の動作を示すフローチャートである。 出力データ色情報の算出を示すフローチャートである。 (a)RGGBタイプ25において、アドレス:(x,y)=(偶数,偶数)であった場合のアドレス及び割合の算出を示す概念図である。 (a)RGGBタイプ25において、アドレス:(x,y)=(偶数,偶数)であった場合のアドレス及び割合の算出を示す概念図である。 (a)RGGBタイプ25において、アドレス:(x,y)=(奇数,偶数)であった場合のアドレス及び割合の算出を示す概念図である。 (a)RGGBタイプ25において、アドレス:(x,y)=(奇数,偶数)であった場合のアドレス及び割合の算出を示す概念図である。 (a)RGGBタイプ25において、アドレス:(x,y)=(偶数,奇数)であった場合のアドレス及び割合の算出を示す概念図である。 (a)RGGBタイプ25において、アドレス:(x,y)=(偶数,奇数)であった場合のアドレス及び割合の算出を示す概念図である。 (a)RGGBタイプ25において、アドレス:(x,y)=(奇数,奇数)であった場合のアドレス及び割合の算出を示す概念図である。 (a)RGGBタイプ25において、アドレス:(x,y)=(奇数,奇数)であった場合のアドレス及び割合の算出を示す概念図である。 (b)GRBGタイプ26において、アドレス:(x,y)=(偶数,偶数)であった場合のアドレス及び割合の算出を示す概念図である。 (b)GRBGタイプ26において、アドレス:(x,y)=(偶数,偶数)であった場合のアドレス及び割合の算出を示す概念図である。 (b)GRBGタイプ26において、アドレス:(x,y)=(奇数,偶数)であった場合のアドレス及び割合の算出を示す概念図である。 (b)GRBGタイプ26において、アドレス:(x,y)=(奇数,偶数)であった場合のアドレス及び割合の算出を示す概念図である。 (b)GRBGタイプ26において、アドレス:(x,y)=(偶数,奇数)であった場合のアドレス及び割合の算出を示す概念図である。 (b)GRBGタイプ26において、アドレス:(x,y)=(偶数,奇数)であった場合のアドレス及び割合の算出を示す概念図である。 (b)GRBGタイプ26において、アドレス:(x,y)=(奇数,奇数)であった場合のアドレス及び割合の算出を示す概念図である。 (b)GRBGタイプ26において、アドレス:(x,y)=(奇数,奇数)であった場合のアドレス及び割合の算出を示す概念図である。 (c)GBRGタイプ27において、アドレス:(x,y)=(偶数,偶数)であった場合のアドレス及び割合の算出を示す概念図である。 (c)GBRGタイプ27において、アドレス:(x,y)=(偶数,偶数)であった場合のアドレス及び割合の算出を示す概念図である。 (c)GBRGタイプ27において、アドレス:(x,y)=(奇数,偶数)であった場合のアドレス及び割合の算出を示す概念図である。 (c)GBRGタイプ27において、アドレス:(x,y)=(奇数,偶数)であった場合のアドレス及び割合の算出を示す概念図である。 (c)GBRGタイプ27において、アドレス:(x,y)=(偶数,奇数)であった場合のアドレス及び割合の算出を示す概念図である。 (c)GBRGタイプ27において、アドレス:(x,y)=(偶数,奇数)であった場合のアドレス及び割合の算出を示す概念図である。 (c)GBRGタイプ27において、アドレス:(x,y)=(奇数,奇数)であった場合のアドレス及び割合の算出を示す概念図である。 (c)GBRGタイプ27において、アドレス:(x,y)=(奇数,奇数)であった場合のアドレス及び割合の算出を示す概念図である。 (d)BGGRタイプ28において、アドレス:(x,y)=(偶数,偶数)であった場合のアドレス及び割合の算出を示す概念図である。 (d)BGGRタイプ28において、アドレス:(x,y)=(偶数,偶数)であった場合のアドレス及び割合の算出を示す概念図である。 (d)BGGRタイプ28において、アドレス:(x,y)=(奇数,偶数)であった場合のアドレス及び割合の算出を示す概念図である。 (d)BGGRタイプ28において、アドレス:(x,y)=(奇数,偶数)であった場合のアドレス及び割合の算出を示す概念図である。 (d)BGGRタイプ28において、アドレス:(x,y)=(偶数,奇数)であった場合のアドレス及び割合の算出を示す概念図である。 (d)BGGRタイプ28において、アドレス:(x,y)=(偶数,奇数)であった場合のアドレス及び割合の算出を示す概念図である。 (d)BGGRタイプ28において、アドレス:(x,y)=(奇数,奇数)であった場合のアドレス及び割合の算出を示す概念図である。 (d)BGGRタイプ28において、アドレス:(x,y)=(奇数,奇数)であった場合のアドレス及び割合の算出を示す概念図である。
まず、本願の最良の実施形態を添付図面に基いて説明する。なお、以下に説明する実施の形態は、画像処理システムに対して本願を適用した場合の実施形態である。
まず、本実施形態に係る画像処理装置の構成及び機能概要について、図1を用いて説明する。
図1は、本実施形態に係る画像処理装置の構成を示すブロック図である。
画像処理装置Sは、魚眼レンズを備えた光学系システム1、カメラI/F(インターフェース)2、画像補正信号処理回路部3、魚眼画像の補正を望む補正座標を入力する補正座標入力部4、出力データとしての平面画像を表示する本願の表示部としてのディスプレイモニタ5等、とを備える。
光学系システム1では、魚眼レンズ1aから取り込まれた光が、図示しない絞り機構等によって調節され、イメージセンサ1b上に光学像として結像される。かかる光学像は、イメージセンサ1bによって電気信号に変換され、カメラI/F2へ出力されるようになっている。
魚眼レンズ1aは、光学レンズの一種で、180度近くの画角を有するものを示す。魚眼レンズ1aには、正射影、等距離射影、立体射影、及び、等立体角射影の4種類の方式がある。本実施形態においては、かかる方式について、任意に選択可能であり、これに限定されるものではない。
イメージセンサ1bは、上記結像された光学像を、例えばマトリクス配置されたフォトダイオード等を用いた光電交換機能によって光学像の明るさに比例した電気信号に変換し、カメラI/F2へ出力する。
イメージセンサ1bの一例として、例えば、CCD(Charge Couple Device)イメージセンサやCMOS(Complementary Metal-Oxide Semiconductor)イメージセンサ等が適用される。
本実施形態におけるイメージセンサ1bには、例えば、公知のベイヤー配列(Bayer Pattern)のカラーフィルタアレイが備えられた単板カラー画像素子としてのCCDが適用されており、かかるイメージセンサ1bによって、魚眼レンズ1aによって撮像された色を構成要素の一つとする対象物は、カラー画像として入力されるようになっている。
上記カラー画像として入力されるためには、色の三原色成分であるR(赤)G(緑)B(青)に対応した上記電気信号が得られる必要がある。上記ベイヤー配列のカラーフィルタアレイはかかるRGBに対応した電気信号を得るために用いられるフィルタである。
上記ベイヤー配列のカラーフィルタアレイの詳細について、図2を用いて説明する。
図2は、ベイヤー配列のカラーフィルタアレイの基本構造を示す概念図である。
図2(A)は、ベイヤー配列のカラーフィルタアレイの一例を示す概念図である。
図2(A)に示すように、ベイヤー配列のカラーフィルタアレイ21は、上記電気信号に作用するそれぞれのフィルタである緑(Green)のフィルタ22及び赤(Red)のフィルタ23が交互に配置された列と、緑(Green)のフィルタ22及び青(Blue)のフィルタ24が交互に配置された列が、ストライプ配列を構成している。
図2(B)は、各ベイヤー配列(Bayer Pattern)の組合せを示す概念図である。
ベイヤー配列のカラーフィルタアレイ21は、上述した特徴的な配列を有するため、任意の画素を基準に4つの画素を抽出すると、(a)RGGBタイプ25、(b)GRBGタイプ26、(c)GBRGタイプ27、(d)BGGRタイプ28の4つのタイプ(配列パターン)に分類することができる。
このように構成されたベイヤー配列のカラーフィルタアレイ21が、上記マトリクス配置されたフォトダイオード(各画素)に対応しており、各画素には、R,G,Bの何れかの原色成分に対応した電荷が蓄積されることとなる。
また、ベイヤー配列のカラーフィルタアレイ21による上記カラー画像化では、各画素からは、いずれかの原色成分に対する上記電気信号が出力されることになるため、各画素に対しては、欠損している色の情報を補う必要がある。
例えば、赤のフィルタ23に対応する画素では、Rの情報しか有さないため、GとBを周辺の画素の値を基準に算出する補間処理を行う必要がある。
図1の説明に戻り、光学システム1には、さらに、カメラI/F2へ入力される空間周波数を制限する図示しない光学的ローパスフィルタ、カメラI/F2へ入力される可視光領域以外の長波長成分をカットするための図示しない赤外カットフィルタ等が備えられている。
カメラI/F2は、撮像された魚眼画像を、RGBに対応した電気信号のまま(Bayer Pattern(ベイヤー配列)データのまま)、後述する入力フレームメモリ6へ出力するためのインターフェースである。
具体的には、カメラI/F2は、撮像された魚眼画像を、前記魚眼画像を構成する上記画素を示す入力データ画素情報(上記各画素に対応する電気信号等)と前記画素に対応する色情報(前記R,G,Bの何れかの原色成分に対応した電荷等)を示す入力データ色情報から構成される入力データとして、入力フレームメモリ6へ出力する。
カメラI/F2の一例として、例えば、産業用デジタルカメラと画像入力ボードを接続する規格仕様である公知のカメラリンク(Camera Link)に対応したインターフェースが適用される。
画像補正信号処理回路部3は、前記入力データに基いて、二次元的に視認可能な平面画像を示す出力データであって、前記平面画像を構成する画素を示す出力データ画素情報と前記画素に対応する色情報を示す出力データ色情報から構成される前記出力データを生成(換言すれば、上記魚眼画像から上記平面画像へ変換する)するための処理回路であり、具体的には、本願の記憶手段としての入力フレームメモリ6と、UART or USB通信部7と、本願の魚眼画像補正アドレス生成手段としての魚眼画像補正アドレス生成部8と、Bayer Patternデータ補正演算部9と、本願の記憶手段としての出力フレームメモリ10等とを備えて構成される。
なお、本実施形態において、入力フレームメモリ6及びフレームメモリ10は、画像補正信号処理回路部3の内部に設けられているがこれに限定されるものではなく、例えば、画像補正信号処理回路部3の外部に設けるようにしてもよい。
画像補正信号処理回路部3には、一例として、ASIC(Application Specific Integrated Circuit)に適用可能だが、FPGA(Field Programmable Gate Array)に組み込むことができるCPU(MicroBlaze(登録商標)やNios(登録商標)▲II▼等)の登場でFPGAなどの安易に構成できるデバイスにも適用される。
入力フレームメモリ6は、上記入力データを記憶するための記憶領域であり、例えば、揮発性又は不揮発性メモリ又はハードディスク等が適用される。
UART or USB通信部7は、補正座標入力部4から入力される補正座標を魚眼画像補正アドレス生成部8へ入力するためのインターフェースであり、一例として、UART (Universal Asynchronous Receiver Transmitter)、又はUSB(Universal Serial Bus)等が適用される。
魚眼画像補正アドレス生成手段としての魚眼画像補正アドレス生成部8は、前記入力データ画素情報に基いて、前記出力データ画素情報を生成する。
Bayer Patternデータ補正演算部9は、入力データを取り込むデータ取り込み制御部11、本願の入力データ色情報取得手段及び出力データ色情報取得手段としての補間演算部12と、出力データを書込むための制御を行うデータ書き込み制御部13等とから構成される。
入力データ色情報取得手段としての補間演算部12は、上記入力データ色情報を取得する。
出力データ色情報算出手段としての補間演算部12は、上記入力データ色情報に基いて、上記出力データ色情報を算出する。
次に、本願の魚眼画像から平面画像への変換の概要について、図3〜図5を用いて詳細に説明する。
図3は、魚眼画像から平面画像への変換の概要を示す概念図である。
図3に示すように、本実施形態では、魚眼画像補正アドレス生成部8及び補間演算部12が、撮像された魚眼画像31を平面画像32へ変換するようになっている。
魚眼画像31は、魚眼レンズで撮像された魚眼画像を示す。魚眼画像31は、視点から略180度近い範囲に存在する対象物を撮像し、一の画像として表示することができる。しかし、対象物を球面として捕らえて撮像するため、見た目に違和感を感じ、また、歪んだ画像から撮像された対象物(被写体)の形状や大きさ、人物の表情等を認識するのが困難である等の問題を生じる。そこで、魚眼画像補正アドレス生成部8及び補間演算部12は、魚眼画像31を、人間の視覚を通じて得られる画像に近しい画像である平面画像32に変換するようになっている。
次に、魚眼画像から平面画像への変換の基本原理について、図4を用いて説明する。
図4は、魚眼画像から平面画像への変換の基本原理を示す概念図である。
図4に示すように、魚眼画像から平面画像への変換は公知の技術であるが、一般的に、魚眼画像41上に設けられた仮想球面モデルを用いてモデル化される。具体的には、仮想球面42上の任意の点であるL’(x1,y1,z1)で接する平面を、上記変換される平面画像43に見立てる。図4では、視認容易性の観点から、平面を、仮想球面42と重畳しない位置へと移動させている。
また、図4に示す座標系空間は、魚眼画像をXY平面とし、魚眼レンズの中心軸をZ軸とし、光線が進む方向を正とするXYZ直交座標系を示している。そして、XYZ座標系の原点0を視点の中心とし、視線の中心がL’(x1,y1,z1)とする。また、平面43の中心点をL’(x1,y1,z1)とし、平面43をUV平面とする。そして、原点0からL’(x1,y1,z1)を通る法線ベクトルをWとする。
上記座標系空間では、平面画像43の任意の画素を形成する座標S’(u1,v1)は、原点0と前記座標を結ぶ法線ベクトルと仮想球面42の交点からZ軸と垂直に降ろした仮想線と魚眼画像41との交点が示す座標S(x2,y2)に対応している。
同様の原理から、平面画像43の中心点をL’(x1,y1,z1)は、魚眼画像41上の座標L(x1,y1)に対応している。
魚眼画像補正アドレス生成部8は、上記魚眼画像から平面画像へ変換するために、上記対応に従って、座標S’(u1,v1)に対応する座標S(x2,y2)を求めるようになっている。
本実施形態では、かかる座標S’の座標に関する情報を出力データ画素情報と、かかる座標Sに関する情報を入力データ画素情報とし、魚眼画像補正アドレス生成部8によって生成される。
ここで、出力データ画素情報の生成順序について更に具体的に図5を用いて説明する。
図5は、出力データ画素情報の生成順序を示す概念図である。
図5では、上記出力される平面画像43として、例えば、640×480ドットの画素を有するVGA(Video Graphic Array)が適用される場合を例に説明する。
上述したとおり、かかる平面画像43の出力は、平面画像43の画素を形成する座標S’(u1,v1)に対応する座標S(x2,y2)を求める。そして、VGAが適用された平面画像43では、640×480ドットの全ての画素に対して(換言すれば、平面画像43の座標(0,0)から(639,479)まで)、座標S’(u1,v1)に対応する座標S(x2,y2)を求め、表示することとなる。
具体的には、座標S’(u1,v1)が、(0,0)の場合において、対応する座標S(x2,y2)を求めたのち、座標S’(u1,v1)が、(0,1)の場合において、対応する座標S(x2,y2)を求める。即ち、座標S’(u1,v1)の値を、U軸正の方向及びV軸正方向へ順次走査しつつ、対応する座標S(x2,y2)の値を求めることとなる。
次に、魚眼画像補正アドレス生成部8及び補間演算部12の動作の詳細について、図6〜図15を用いて詳細に説明する。
図6は、魚眼画像補正アドレス生成部8及び補間演算部12の動作を示すフローチャートである。
かかる動作について、図4及び5に記載された座標系を適宜用いて、以下に説明する。
魚眼画像補正アドレス生成部8は、まず、魚眼画像41上の座標L(x1,y1)を中心に平面画像43に補正(変換)すべく(ステップS1)、座標L(x1,y1)から法線ベクトルWを求める(ステップS2)。
そして、上述した基本原理に基いて、法線ベクトルWが接する点L’(x1,y1,z1)を中心にした平面画像43のスタート座標S’(u1,v1)(=(0,0))から順に、対応する座標S(x2,y2)(補正点S)を演算する(ステップS3)。
次に、魚眼画像補正アドレス生成部8は、上記座標Sとして、整数部及び小数部からなる値を算出し、補間演算部12は、上記整数部及び小数部の値に基いて、RGBデータ(入力データ色情報及び出力データ色情報)を算出する(ステップS4)。
即ち、RGBデータを回路を用いずに演算により生成する処理を行う。
以下、かかる処理について詳細に説明する。
まず前提として、本実施形態では、上記整数部をアドレス(address)、上記小数部を割合(rate)とする。
これによれば、上記補正点として、補正点S(x2,y2)=(111.265,200.135)が算出された場合は、x2におけるアドレスは111、割合は0.265を、y2におけるアドレスは200、割合は0.135をそれぞれ示すこととなる。
そして、補間演算部12は、上記アドレスに基いて、入力データ色情報を取得する。
入力データ色情報とは、上記アドレスに対応する色情報をいい、具体的には、当該アドレスに対応するベイヤー配列のカラーフィルタアレイ21が示す原色成分及び、当該アドレスが属する上記配列パターンを示す。
上述したように、ベイヤー配列のカラーフィルタアレイ21は、上記マトリクス配置されたフォトダイオード(各画素)に対応しているため、R,G,Bの何れかの原色成分が、補正点S(x2,y2)に対応しているのかを特定することができる。
次に、補間演算部12は、座標S’(u1,v1)が示す上記原色成分を基準とした場合の上記配列パターンを特定する。
具体的には、座標S’(u1,v1)が示す上記原色成分を基準とした場合に、上述した、(a)RGGBタイプ25、(b)GRBGタイプ26、(c)GBRGタイプ27、(d)BGGRタイプ28の4つのタイプの何れかに属するかを特定する。
次に、補間演算部12は、上記入力データ色情報に基いて、出力データ色情報を算出する。
出力データ色情報とは、入力データ色情報から算出された補正点S(x2,y2)における原色成分についての情報をいう。そして、出力データ色情報は、魚眼画像補正アドレス生成部8からの出力アドレスと割合から各色の補正データ(address)と補正rateを算出することにより求められる。
上述したように、ベイヤー配列のカラーフィルタアレイ21による上記カラー画像化では、各画素からは、いずれかの原色成分に対する上記電気信号が出力されることになるため、各画素に対しては、欠損している色の情報を補う必要がある。
本願では、出力データ色情報を算出することにより、上記補間を行うようになっている。
以下、出力データ色情報の算出について、図7〜図15を用いて詳細に説明する。
図7は、出力データ色情報の算出を示すフローチャートである。
まず、魚眼画像補正アドレス生成部8から補正点S(x2,y2)が入力される(ステップS11)。以後、説明を容易にするため、入力される補正点の座標を、入力座標(X,Y)とする。ここでは、入力座標として
入力座標:(X,Y)=(111.625,200.250)・・・式(1)
が入力されたとする。
そして、補間演算部12は、入力座標をアドレスと、割合に分割する(ステップS12)。これらの関係式について、式(1)の値を代入し、アドレスを式(2)、割合を式(3)として表す。
アドレス:(x,y)=(111,200)・・・式(2)
割合:(rate_x,rate_y)=(0.625,0.250)・・・式(3)
次に、補間演算部12は、アドレス(式(2))の各x及びyの値が、奇数か偶数かにより以下の4つのパターンに分類する(ステップS13)。これらの関係式を、式(4)〜式(7)に表す。
アドレス:(x,y)=(偶数,偶数)・・・式(4)
アドレス:(x,y)=(奇数,偶数)・・・式(5)
アドレス:(x,y)=(偶数,奇数)・・・式(6)
アドレス:(x,y)=(奇数,奇数)・・・式(7)
次に、補間演算部12は、分類された4つのパターンに応じて、各色の4点のデータと各色の割合を求める(ステップS14以降)。
以下、上記パターン別に詳細に説明する。
上述したように、ベイヤー配列のカラーフィルタアレイ21は、その特徴的な配列を有するため、(a)RGGBタイプ25、(b)GRBGタイプ26、(c)GBRGタイプ27、(d)BGGRタイプ28の4つのタイプに分類される。
そして、上記の処理はかかる4つのタイプ別に行われることとなる。
(A)(a)RGGBタイプ25でのアドレス及び割合の算出
イ)a)RGGBタイプ25において、アドレス:(x,y)=(偶数,偶数)であった場合(ステップS14:YES)
まず、最初に、(a)RGGBタイプ25において、アドレス:(x,y)=(偶数,偶数)であった場合のアドレス及び割合の算出について、図8及び9を用いて説明する(ステップS15)。この場合、アドレス(x,y)が示す色は赤である。
図8及び図9に示すように、R_d1,2,3,4(赤の取得データ)、B_d1,2,3,4(青の取得データ)、G_d1,2,3,4(緑の取得データ)を各色の取得データ、R_rate_x(赤の割合)、R_rate_y(赤の割合)、B_rate_x(青の割合)、B_rate_y(青の割合)、G_rate_x(緑の割合)、G_rate_y(緑の割合)を各色の割合とする。
まず、赤の補正データは式(8)〜式(11)で、割合は式(12)及び式(13)で表される。
R_d1=(x,y)・・・式(8)
R_d2=(x+2,y)・・・式(9)
R_d3=(x,y+2)・・・式(10)
R_d4=(x+2,y+2)・・・式(11)
R_rate_x=rate_x/2 ・・・式(12)
R_rate_y=rate_y/2・・・式(13)
図8(A)に示すように、各画素間隔は1であるため、隣り合う赤の画素間隔は2となる。また、隣り合う赤の画素の間隔を1に正規化しているので割合は1/2になっている。
次に、青の補正データは式(14)〜式(17)で、割合は式(18)及び式(19)で表される。
B_d1=(x−1,y−1)・・・式(14)
B_d2=(x+1,y−1)・・・式(15)
B_d3=(x−1,y+1)・・・式(16)
B_d4=(x+1,y+1)・・・式(17)
B_rate_x=rate_x/2+0.5・・・式(18)
B_rate_y=rate_y/2+0.5・・・式(19)
図8(B)に示すように、各画素間隔は1であるため、隣り合う青の画素間隔は2となる。また、隣り合う青の画素の間隔を1に正規化しているので割合は1/2になっている。
次に、緑の補正データは、イ−1)rate_x+rate_y<1.0の場合では式(20)〜式(23)で、割合は式(24)及び式(25)で表される。また、イ−2)rate_x+rate_y≧1.0の場合における補正データは、式(26)〜式(29)で、割合は式(30)及び式(31)で表される。
イ−1)rate_x+rate_y<1.0の場合
G_d1=(x,y−1)・・・式(20)
G_d2=(x+1,y)・・・式(21)
G_d3=(x−1,y)・・・式(22)
G_d4=(x,y+1)・・・式(23)
G_rate_x=(rate_x+rate_y)/2+0.5・・・式(24)
G_rate_y=(rate_y−rate_x)/2+0.5・・・式(25)
イ−2)rate_x+rate_y≧1.0の場合
G_d1=(x+1,y)・・・式(26)
G_d2=(x+2,y+1)・・・式(27)
G_d3=(x,y+1)・・・式(28)
G_d4=(x+1,y+2)・・・式(29)
G_rate_x=(rate_x+rate_y)/2−0.5・・・式(30)
G_rate_y=(rate_y−rate_x)/2+0.5・・・式(31)
図9に示すように、各画素間隔は1であるため、隣り合う緑の画素間隔はroot2となる。また、隣り合う緑の画素の間隔を1に正規化しているので割合は1/root2になっている。また、rate_x+rate_y<1.0の場合には、割合は、図9(C)実線部の範囲内に存在する。また、rate_x+rate_y≧1.0の場合には、割合は、図9(D)実線部の範囲内に存在する。
そして、各色の補正点データを線形演算などの補正演算で求める(ステップS16)。
具体的には、先に求めた各色の補正データのR_d1、2、3、4、B_d1、2、3、4とG_d1、2、3、4と各色の割合を用いて下記の補正方法によって算出する。
ここで ̄は反転(not)である。
赤の補正点データは、式(32)〜式(34)で表される。
R_data1=R_d1*( ̄R_rate_x+1)+R_d2*R_rate_x
・・・式(32)
R_data2=R_d3*( ̄R_rate_x+1)+R_d4*R_rate_x
・・・式(33)
R_data=R_data1*( ̄R_rate_y+1)+R_data2*R_rate_y・・・式(34)
また、青の補正点データは、式(35)〜式(37)で表される。
B_data1=B_d1*( ̄B_rate_x+1)+B_d2*B_rate_x
・・・式(35)
B_data2=B_d3*( ̄B_rate_x+1)+B_d4*B_rate_x
・・・式(36)
B_data =B_data1*( ̄B_rate_y+1)+B_data2*B_rate_y・・・式(37)
また、緑の補正点データは、式(38)〜式(40)で表される。
G_data1=G_d1*( ̄G_rate_x+1+G_d2*G_rate_x
・・・式(38)
G_data2=G_d3*( ̄G_rate_x+1)+G_d4*G_rate_x
・・・式(39)
G_data=G_data1*( ̄G_rate_y+1)+G_data2*G_rate_y・・・式(40)
上記赤、青及び緑の各データを魚眼画像の補正RGBデータとして用いることで、Bayer Patternから直接魚眼画像の補正RGBデータを求めることができる。
ロ)a)RGGBタイプ25において、アドレス:(x,y)=(奇数,偶数)であった場合(ステップS17:YES)
次に、(a)RGGBタイプ25において、アドレス:(x,y)=(奇数,偶数)であった場合のアドレス及び割合の算出について、図10及び11を用いて説明する(ステップS18)。この場合、アドレス(x,y)が示す色は緑である。
図10及び図11に示すように、R_d1,2,3,4(赤の取得データ)、B_d1,2,3,4(青の取得データ)、G_d1,2,3,4(緑の取得データ)を各色の取得データ、R_rate_x(赤の割合)、R_rate_y(赤の割合)、B_rate_x(青の割合)、B_rate_y(青の割合)、G_rate_x(緑の割合)、G_rate_y(緑の割合)を各色の割合とする。
まず、赤の補正データは式(41)〜式(44)で、割合は式(45)及び式(46)で表される。
R_d1=(x−1,y)・・・式(41)
R_d=(x+1,y)・・・式(42)
R_d=(x−1,y+2)・・・式(43)
R_d=(x+1,y+2)・・・式(44)
R_rate_x=rate_x/2+0.5・・・式(45)
R_rate_y=rate_y/2・・・式(46)
図10(A)に示すように、各画素間隔は1であるため、隣り合う赤の画素間隔は2となる。また、隣り合う赤の画素の間隔を1に正規化しているので割合は1/2になっている。
次に、青の補正データは式(47)〜式(50)で、割合は式(51)及び式(52)で表される。
B_d1=(x,y−1)・・・式(47)
B_d2=(x+2,y−1)・・・式(48)
B_d3=(x,y+1)・・・式(49)
B_d4=(x+2,y+1)・・・式(50)
B_rate_x=rate_x/2 ・・・式(51)
B_rate_y=rate_y/2+0.5・・・式(52)
図10(B)に示すように、各画素間隔は1であるため、隣り合う青の画素間隔は2となる。また、隣り合う青の画素の間隔を1に正規化しているので割合は1/2になっている。
次に、緑の補正データは、−1)rate_y>rate_xの場合では式(53)〜式(56)で、割合は式(57)及び式(58)で表される。また、−2)rate_y≦rate_xの場合における補正データは、式(59)〜式(62)で、割合は式(
63)及び式(64)で表される。
−1)rate_y>rate_xの場合
G_d1=(x,y)・・・式(53)
G_d2=(x+1,y+1)・・・式(54)
G_d3=(x−1,y+1)・・・式(55)
G_d4=(x,y+2)・・・式(56)
G_rate_x=(rate_y+rate_x)/2・・・式(57)
G_rate_y=(rate_y−rate_x)/2・・・式(58)
−2)rate_y≦rate_xの場合
G_d1=(x,y)・・・式(59)
G_d2=(x+1,y+1)・・・式(60)
G_d3=(x+1,y−1)・・・式(61)
G_d4=(x+2,y)・・・式(62)
G_rate_x=(rate_y+rate_x)/2・・・式(63)
G_rate_y=(rate_x−rate_y)/2・・・式(64)
図11に示すように、各画素間隔は1であるため、隣り合う緑の画素間隔はroot2となる。また、隣り合う緑の画素の間隔を1に正規化しているので割合は1/root2になっている。また、rate_y>rate_xの場合には、割合は、図11(C)実線部の範囲内に存在する。また、rate_y≦rate_xの場合には、割合は、図11(D)実線部の範囲内に存在する。
そして、各色の補正点データを線形演算などの補正演算で求める(ステップS19)。補正演算の方法は、ステップS16と同様である。
ハ)a)RGGBタイプ25において、アドレス:(x,y)=(偶数,奇数)であった場合(ステップS20:YES)
次に、(a)RGGBタイプ25において、アドレス:(x,y)=(偶数,奇数)であった場合のアドレス及び割合の算出について、図12及び13を用いて説明する(ステップS21)。この場合、アドレス(x,y)が示す色は緑である。
図12及び図13に示すように、R_d1,2,3,4(赤の取得データ)、B_d1,2,3,4(青の取得データ)、G_d1,2,3,4(緑の取得データ)を各色の取得データ、R_rate_x(赤の割合)、R_rate_y(赤の割合)、B_rate_x(青の割合)、B_rate_y(青の割合)、G_rate_x(緑の割合)、G_rate_y(緑の割合)を各色の割合とする。
まず、赤の補正データは式(65)〜式(68)で、割合は式(69)及び式(70)で表される。
R_d1=(x,y−1)・・・式(65)
R_d2=(x+2,y−1)・・・式(66)
R_d3=(x,y+1)・・・式(67)
R_d4=(x+2,y+1)・・・式(68)
R_rate_x=rate_x/2・・・式(69)
R_rate_y=rate_y/2+0.5・・・式(70)
図12(A)に示すように、各画素間隔は1であるため、隣り合う赤の画素間隔は2となる。また、隣り合う赤の画素の間隔を1に正規化しているので割合は1/2になっている。
次に、青の補正データは式(71)〜式(74)で、割合は式(75)及び式(76)で表される。
B_d1=(x−1,y)・・・式(71)
B_d=(x+1,y)・・・式(72)
B_d=(x−1,y+2)・・・式(73)
B_d=(x+1,y+2)・・・式(74)
B_rate_x=rate_x/2+0.5・・・式(75)
B_rate_y=rate_y/2・・・式(76)
図12(B)に示すように、各画素間隔は1であるため、隣り合う青の画素間隔は2となる。また、隣り合う青の画素の間隔を1に正規化しているので割合は1/2になっている。
次に、緑の補正データは、−1)rate_y>rate_xの場合では式(77)〜式(80)で、割合は式(81)及び式(82)で表される。また、−2)rate_
y≦rate_xの場合における補正データは、式(83)〜式(86)で、割合は式(
87)及び式(88)で表される。
−1)rate_y>rate_xの場合
G_d1=(x,y)・・・式(77)
G_d2=(x+1,y+1)・・・式(78)
G_d3=(x−1,y+1)・・・式(79)
G_d4=(x,y+2)・・・式(80)
G_rate_x=(rate_y+rate_x)/2・・・式(81)
G_rate_y=(rate_y−rate_x)/2・・・式(82)
−2)rate_y<=rate_xの場合
G_d1=(x,y)・・・式(83)
G_d2=(x+1,y+1)・・・式(84)
G_d3=(x+1,y−1)・・・式(85)
G_d4=(x+2,y)・・・式(86)
G_rate_x=(rate_y+rate_x)/2・・・式(87)
G_rate_y=(rate_x−rate_y)/2・・・式(88)
図13に示すように、各画素間隔は1であるため、隣り合う緑の画素間隔はroot2となる。また、隣り合う緑の画素の間隔を1に正規化しているので割合は1/root2になっている。また、rate_y>rate_xの場合には、割合は、図13(C)実線部の範囲内に存在する。また、rate_y≦rate_xの場合には、割合は、図13(D)実線部の範囲内に存在する。
そして、各色の補正点データを線形演算などの補正演算で求める(ステップS22)。補正演算の方法は、ステップS16と同様である。
ニ)a)RGGBタイプ25において、アドレス:(x,y)=(奇数,奇数)であった場合(ステップS23:YES)
次に、(a)RGGBタイプ25において、アドレス:(x,y)=(奇数,奇数)であった場合のアドレス及び割合の算出について、図14及び15を用いて説明する(ステップS24)。この場合、アドレス(x,y)が示す色は青である。
図14及び図15に示すように、R_d1,2,3,4(赤の取得データ)、B_d1,2,3,4(青の取得データ)、G_d1,2,3,4(緑の取得データ)を各色の取得データ、R_rate_x(赤の割合)、R_rate_y(赤の割合)、B_rate_x(青の割合)、B_rate_y(青の割合)、G_rate_x(緑の割合)、G_rate_y(緑の割合)を各色の割合とする。
まず、赤の補正データは式(89)〜式(92)で、割合は式(93)及び式(94)で表される。
R_d1=(x−1,y−1)・・・式(89)
R_d2=(x+1,y−1)・・・式(90)
R_d3=(x−1,y+1)・・・式(91)
R_d4=(x+1,y+1)・・・式(92)
R_rate_x=rate_x/2+0.5・・・式(93)
R_rate_y=rate_y/2+0.5・・・式(94)
図14(A)に示すように、各画素間隔は1であるため、隣り合う赤の画素間隔は2となる。また、隣り合う赤の画素の間隔を1に正規化しているので割合は1/2になっている。
次に、青の補正データは式(95)〜式(98)で、割合は式(99)及び式(100)で表される。
B_d1=(x,y)・・・式(95)
B_d2=(x+2,y)・・・式(96)
B_d3=(x,y+2)・・・式(97)
B_d4=(x+2,y+2)・・・式(98)
B_rate_x=rate_x/2・・・式(99)
B_rate_y=rate_y/2・・・式(100)
図14(B)に示すように、各画素間隔は1であるため、隣り合う青の画素間隔は2となる。また、隣り合う青の画素の間隔を1に正規化しているので割合は1/2になっている。
次に、緑の補正データは、−1)rate_x+rate_y<1.0の場合では式(101)〜式(104)で、割合は式(105)及び式(106)で表される。また、−2)rate_x+rate_y≧1.0の場合における補正データは、式(107)〜式(110)で、割合は式(111)及び式(112)で表される。
−1)rate_x+rate_y<1.0
G_d1=(x,y−1)・・・式(101)
G_d2=(x+1,y)・・・式(102)
G_d3=(x−1,y)・・・式(103)
G_d4=(x,y+1)・・・式(104)
G_rate_x=(rate_x+rate_y)/2+0.5・・・式(105)
G_rate_y=(rate_y−rate_x)/2+0.5・・・式(106)
−2)rate_x+rate_y≧1.0
G_d1=(x+1,y)・・・式(107)
G_d2=(x+2,y+1)・・・式(108)
G_d3=(x,y+1)・・・式(109)
G_d4=(x+1,y+2)・・・式(110)
G_rate_x=(rate_x+rate_y)/2−0.5・・・式(111)
G_rate_y=(rate_y−rate_x)/2+0.5・・・式(112)
図15に示すように、各画素間隔は1であるため、隣り合う緑の画素間隔はroot2となる。また、隣り合う緑の画素の間隔を1に正規化しているので割合は1/root2になっている。また、rate_x+rate_y<1.0の場合には、割合は、図15(C)実線部の範囲内に存在する。また、rate_x+rate_y≧1.0の場合には、割合は、図15(D)実線部の範囲内に存在する。
そして、各色の補正点データを線形演算などの補正演算で求める(ステップS25)。補正演算の方法は、ステップS16と同様である。
上記(A)と同様の原理で、(b)GRBGタイプ26、(c)GBRGタイプ27、(d)BGGRタイプ28の各タイプでの魚眼画像補正アドレス生成部からの出力アドレスと割合から各色の補正データと補正割合を算出することができる。
以下、上記3つのタイプにおける出力アドレスと割合から各色の補正データと補正割合の算出について説明する。
(B)(b)GRBGタイプ26でのアドレス及び割合の算出
イ)(b)GRBGタイプ26において、アドレス:(x,y)=(偶数,偶数)で
あった場合
まず、(b)GRBGタイプ26において、アドレス:(x,y)=(偶数,偶数)であった場合のアドレス及び割合の算出について、図16及び17を用いて説明する。この場合、アドレス(x,y)が示す色は緑である。
図16及び図17に示すように、R_d1,2,3,4(赤の取得データ)、B_d1,2,3,4(青の取得データ)、G_d1,2,3,4(緑の取得データ)を各色の取得データ、R_rate_x(赤の割合)、R_rate_y(赤の割合)、B_rate_x(青の割合)、B_rate_y(青の割合)、G_rate_x(緑の割合)、G_rate_y(緑の割合)を各色の割合とする。
まず、赤の補正データは式(113)〜式(116)で、割合は式(117)及び式(118)で表される。
R_d1=(x−1,y)・・・式(113)
R_d=(x+1,y)・・・式(114)
R_d=(x−1,y+2)・・・式(115)
R_d=(x+1,y+2)・・・式(116)
R_rate_x=rate_x/2+0.5・・・式(117)
R_rate_y=rate_y/2・・・式(118)
図16(A)に示すように、各画素間隔は1であるため、隣り合う赤の画素間隔は2となる。また、隣り合う赤の画素の間隔を1に正規化しているので割合は1/2になっている。
次に、青の補正データは式(119)〜式(122)で、割合は式(123)及び式(124)で表される。
B_d1=(x,y−1)・・・式(119)
B_d2=(x+2,y−1)・・・式(120)
B_d3=(x,y+1)・・・式(121)
B_d4=(x+2,y+1)・・・式(122)
B_rate_x=rate_x/2 ・・・式(123)
B_rate_y=rate_y/2+0.5・・・式(124)
図16(B)に示すように、各画素間隔は1であるため、隣り合う青の画素間隔は2となる。また、隣り合う青の画素の間隔を1に正規化しているので割合は1/2になっている。
次に、緑の補正データは、イ−1)rate_y>rate_xの場合では式(125)〜式(128)で、割合は式(129)及び式(130)で表される。また、イ−2)rate_y≦rate_xの場合における補正データは、式(131)〜式(134)で、割合は式(135)及び式(136)で表される。
イ−1)rate_y>rate_xの場合
G_d1=(x,y)・・・式(125)
G_d2=(x+1,y+1)・・・式(126)
G_d3=(x−1,y+1)・・・式(127)
G_d4=(x,y+2)・・・式(128)
G_rate_x=(rate_y+rate_x)/2・・・式(129)
G_rate_y=(rate_y−rate_x)/2・・・式(130)
イ−2)rate_y≦rate_xの場合
G_d1=(x,y)・・・式(131)
G_d2=(x+1,y+1)・・・式(132)
G_d3=(x+1,y−1)・・・式(133)
G_d4=(x+2,y)・・・式(134)
G_rate_x=(rate_y+rate_x)/2・・・式(135)
G_rate_y=(rate_x−rate_y)/2・・・式(136)
図17に示すように、各画素間隔は1であるため、隣り合う緑の画素間隔はroot2となる。また、隣り合う緑の画素の間隔を1に正規化しているので割合は1/root2になっている。また、rate_y>rate_xの場合には、割合は、図17(C)実線部の範囲内に存在する。また、rate_y≦rate_xの場合には、割合は、図17(D)実線部の範囲内に存在する。
そして、各色の補正点データを線形演算などの補正演算で求める。補正演算の方法は、ステップS16と同様である。
ロ)(b)GRBGタイプ26において、アドレス:(x,y)=(奇数,偶数)であった場合
次に、(b)GRBGタイプ26において、アドレス:(x,y)=(奇数,偶数)であった場合のアドレス及び割合の算出について、図18及び19を用いて説明する。この場合、アドレス(x,y)が示す色は赤である。
図18及び図19に示すように、R_d1,2,3,4(赤の取得データ)、B_d1,2,3,4(青の取得データ)、G_d1,2,3,4(緑の取得データ)を各色の取得データ、R_rate_x(赤の割合)、R_rate_y(赤の割合)、B_rate_x(青の割合)、B_rate_y(青の割合)、G_rate_x(緑の割合)、G_rate_y(緑の割合)を各色の割合とする。
まず、赤の補正データは式(137)〜式(140)で、割合は式(141)及び式(142)で表される。
R_d1=(x,y)・・・式(137)
R_d2=(x+2,y)・・・式(138)
R_d3=(x,y+2)・・・式(139)
R_d4=(x+2,y+2)・・・式(140)
R_rate_x=rate_x/2 ・・・式(141)
R_rate_y=rate_y/2・・・式(142)
図18(A)に示すように、各画素間隔は1であるため、隣り合う赤の画素間隔は2となる。また、隣り合う赤の画素の間隔を1に正規化しているので割合は1/2になっている。
次に、青の補正データは式(143)〜式(146)で、割合は式(147)及び式(148)で表される。
B_d1=(x−1,y−1)・・・式(143)
B_d2=(x+1,y−1)・・・式(144)
B_d3=(x−1,y+1)・・・式(145)
B_d4=(x+1,y+1)・・・式(146)
B_rate_x=rate_x/2+0.5・・・式(147)
B_rate_y=rate_y/2+0.5・・・式(148)
図18(B)に示すように、各画素間隔は1であるため、隣り合う青の画素間隔は2となる。また、隣り合う青の画素の間隔を1に正規化しているので割合は1/2になっている。
次に、緑の補正データは、−1)rate_x+rate_y<1.0の場合では式(149)〜式(152)で、割合は式(153)及び式(154)で表される。また、−2)rate_x+rate_y≧1.0の場合における補正データは、式(155)〜式(158)で、割合は式(159)及び式(160)で表される。
−1)rate_x+rate_y<1.0の場合
G_d1=(x,y−1)・・・式(149)
G_d2=(x+1,y)・・・式(150)
G_d3=(x−1,y)・・・式(151)
G_d4=(x,y+1)・・・式(152)
G_rate_x=(rate_x+rate_y)/2+0.5・・・式(153)
G_rate_y=(rate_y−rate_x)/2+0.5・・・式(154)
−2)rate_x+rate_y≧1.0の場合
G_d1=(x+1,y)・・・式(155)
G_d2=(x+2,y+1)・・・式(156)
G_d3=(x,y+1)・・・式(157)
G_d4=(x+1,y+2)・・・式(158)
G_rate_x=(rate_x+rate_y)/2−0.5・・・式(159)
G_rate_y=(rate_y−rate_x)/2+0.5・・・式(160)
図19に示すように、各画素間隔は1であるため、隣り合う緑の画素間隔はroot2となる。また、隣り合う緑の画素の間隔を1に正規化しているので割合は1/root2になっている。また、rate_x+rate_y<1.0の場合には、割合は、図19(C)実線部の範囲内に存在する。また、rate_x+rate_y≧1.0の場合には、割合は、図19(D)実線部の範囲内に存在する。
そして、各色の補正点データを線形演算などの補正演算で求める。補正演算の方法は、ステップS16と同様である。
ハ)(b)GRBGタイプ26において、アドレス:(x,y)=(偶数,奇数)であった場合
次に、(b)GRBGタイプ26において、アドレス:(x,y)=(偶数,奇数)であった場合のアドレス及び割合の算出について、図20及び21を用いて説明する。この場合、アドレス(x,y)が示す色は青である。
図20及び図21に示すように、R_d1,2,3,4(赤の取得データ)、B_d1,2,3,4(青の取得データ)、G_d1,2,3,4(緑の取得データ)を各色の取得データ、R_rate_x(赤の割合)、R_rate_y(赤の割合)、B_rate_x(青の割合)、B_rate_y(青の割合)、G_rate_x(緑の割合)、G_rate_y(緑の割合)を各色の割合とする。
まず、赤の補正データは式(161)〜式(164)で、割合は式(165)及び式(166)で表される。
R_d1=(x−1,y−1)・・・式(161)
R_d2=(x+1,y−1)・・・式(162)
R_d3=(x−1,y+1)・・・式(163)
R_d4=(x+1,y+1)・・・式(164)
R_rate_x=rate_x/2+0.5・・・式(165)
R_rate_y=rate_y/2+0.5・・・式(166)
図20(A)に示すように、各画素間隔は1であるため、隣り合う赤の画素間隔は2となる。また、隣り合う赤の画素の間隔を1に正規化しているので割合は1/2になっている。
次に、青の補正データは式(167)〜式(170)で、割合は式(171)及び式(172)で表される。
B_d1=(x,y)・・・式(167)
B_d2=(x+2,y)・・・式(168)
B_d3=(x,y+2)・・・式(169)
B_d4=(x+2,y+2)・・・式(170)
B_rate_x=rate_x/2・・・式(171)
B_rate_y=rate_y/2・・・式(172)
図20(B)に示すように、各画素間隔は1であるため、隣り合う青の画素間隔は2となる。また、隣り合う青の画素の間隔を1に正規化しているので割合は1/2になっている。
次に、緑の補正データは、−1)rate_x+rate_y<1.0の場合では式(173)〜式(176)で、割合は式(177)及び式(178)で表される。また、−2)rate_x+rate_y≧1.0の場合における補正データは、式(179)〜式(182)で、割合は式(183)及び式(184)で表される。
−1)rate_x+rate_y<1.0
G_d1=(x,y−1)・・・式(173)
G_d2=(x+1,y)・・・式(174)
G_d3=(x−1,y)・・・式(175)
G_d4=(x,y+1)・・・式(176)
G_rate_x=(rate_x+rate_y)/2+0.5・・・式(177)
G_rate_y=(rate_y−rate_x)/2+0.5・・・式(178)
−2)rate_x+rate_y≧1.0
G_d1=(x+1,y)・・・式(179)
G_d2=(x+2,y+1)・・・式(180)
G_d3=(x,y+1)・・・式(181)
G_d4=(x+1,y+2)・・・式(182)
G_rate_x=(rate_x+rate_y)/2−0.5・・・式(183)
G_rate_y=(rate_y−rate_x)/2+0.5・・・式(184)
図21に示すように、各画素間隔は1であるため、隣り合う緑の画素間隔はroot2となる。また、隣り合う緑の画素の間隔を1に正規化しているので割合は1/root2になっている。また、rate_x+rate_y<1.0の場合には、割合は、図21(C)実線部の範囲内に存在する。また、rate_x+rate_y≧1.0の場合には、割合は、図22(D)実線部の範囲内に存在する。
そして、各色の補正点データを線形演算などの補正演算で求める。補正演算の方法は、ステップS16と同様である。
ニ)(b)GRBGタイプ26において、アドレス:(x,y)=(奇数,奇数)であった場合
次に、(b)GRBGタイプ26において、アドレス:(x,y)=(奇数,奇数)であった場合のアドレス及び割合の算出について、図22及び23を用いて説明する。この場合、アドレス(x,y)が示す色は緑である。
図22及び図23に示すように、R_d1,2,3,4(赤の取得データ)、B_d1,2,3,4(青の取得データ)、G_d1,2,3,4(緑の取得データ)を各色の取得データ、R_rate_x(赤の割合)、R_rate_y(赤の割合)、B_rate_x(青の割合)、B_rate_y(青の割合)、G_rate_x(緑の割合)、G_rate_y(緑の割合)を各色の割合とする。
まず、赤の補正データは式(185)〜式(188)で、割合は式(189)及び式(190)で表される。
R_d1=(x,y−1)・・・式(185)
R_d2=(x+2,y−1)・・・式(186)
R_d3=(x,y+1)・・・式(187)
R_d4=(x+2,y+1)・・・式(188)
R_rate_x=rate_x/2・・・式(189)
R_rate_y=rate_y/2+0.5・・・式(190)
図22(A)に示すように、各画素間隔は1であるため、隣り合う赤の画素間隔は2となる。また、隣り合う赤の画素の間隔を1に正規化しているので割合は1/2になっている。
次に、青の補正データは式(191)〜式(194)で、割合は式(195)及び式(196)で表される。
B_d1=(x−1,y)・・・式(191)
B_d=(x+1,y)・・・式(192)
B_d=(x−1,y+2)・・・式(193)
B_d=(x+1,y+2)・・・式(194)
B_rate_x=rate_x/2+0.5・・・式(195)
B_rate_y=rate_y/2・・・式(196)
図22(B)に示すように、各画素間隔は1であるため、隣り合う青の画素間隔は2となる。また、隣り合う青の画素の間隔を1に正規化しているので割合は1/2になっている。
次に、緑の補正データは、−1)rate_y>rate_xの場合では式(197)〜式(200)で、割合は式(201)及び式(202)で表される。また、−2)rate_y≦rate_xの場合における補正データは、式(203)〜式(206)で、割合は式(207)及び式(208)で表される。
−1)rate_y>rate_xの場合
G_d1=(x,y)・・・式(197)
G_d2=(x+1,y+1)・・・式(198)
G_d3=(x−1,y+1)・・・式(199)
G_d4=(x,y+2)・・・式(200)
G_rate_x=(rate_y+rate_x)/2・・・式(201)
G_rate_y=(rate_y−rate_x)/2・・・式(202)
−2)rate_y<=rate_xの場合
G_d1=(x,y)・・・式(203)
G_d2=(x+1,y+1)・・・式(204)
G_d3=(x+1,y−1)・・・式(205)
G_d4=(x+2,y)・・・式(206)
G_rate_x=(rate_y+rate_x)/2・・・式(207)
G_rate_Y=(rate_x−rate_y)/2・・・式(208)
図23に示すように、各画素間隔は1であるため、隣り合う緑の画素間隔はroot2となる。また、隣り合う緑の画素の間隔を1に正規化しているので割合は1/root2になっている。また、rate_y>rate_xの場合には、割合は、図23(C)実線部の範囲内に存在する。また、rate_y≦rate_xの場合には、割合は、図23(D)実線部の範囲内に存在する。
そして、各色の補正点データを線形演算などの補正演算で求める。補正演算の方法は、ステップS16と同様である。
(C)(c)GBRGタイプ27でのアドレス及び割合の算出
イ)(c)GBRGタイプ27において、アドレス:(x,y)=(偶数,偶数)であった場合
まず、(c)GBRGタイプ27において、アドレス:(x,y)=(偶数,偶数)であった場合のアドレス及び割合の算出について、図24及び25を用いて説明する。この場合、アドレス(x,y)が示す色は緑である。
図24及び図25に示すように、R_d1,2,3,4(赤の取得データ)、B_d1,2,3,4(青の取得データ)、G_d1,2,3,4(緑の取得データ)を各色の取得データ、R_rate_x(赤の割合)、R_rate_y(赤の割合)、B_rate_x(青の割合)、B_rate_y(青の割合)、G_rate_x(緑の割合)、G_rate_y(緑の割合)を各色の割合とする。
まず、赤の補正データは式(209)〜式(212)で、割合は式(213)及び式(214)で表される。
R_d1=(x,y−1)・・・式(209)
R_d2=(x+2,y−1)・・・式(210)
R_d3=(x,y+1)・・・式(211)
R_d4=(x+2,y+1)・・・式(212)
R_rate_x=rate_x/2・・・式(213)
R_rate_y=rate_y/2+0.5・・・式(214)
図24(A)に示すように、各画素間隔は1であるため、隣り合う赤の画素間隔は2となる。また、隣り合う赤の画素の間隔を1に正規化しているので割合は1/2になっている。
次に、青の補正データは式(215)〜式(218)で、割合は式(219)及び式(220)で表される。
B_d1=(x−1,y)・・・式(215)
B_d=(x+1,y)・・・式(216)
B_d=(x−1,y+2)・・・式(217)
B_d=(x+1,y+2)・・・式(218)
B_rate_x=rate_x/2+0.5・・・式(219)
B_rate_y=rate_y/2・・・式(220)
図24(B)に示すように、各画素間隔は1であるため、隣り合う青の画素間隔は2となる。また、隣り合う青の画素の間隔を1に正規化しているので割合は1/2になっている。
次に、緑の補正データは、イ−1)rate_y>rate_xの場合では式(221)〜式(224)で、割合は式(225)及び式(226)で表される。また、イ−2)rate_y≦rate_xの場合における補正データは、式(227)〜式(230)で、割合は式(231)及び式(232)で表される。
イ−1)rate_y>rate_xの場合
G_d1=(x,y)・・・式(221)
G_d2=(x+1,y+1)・・・式(222)
G_d3=(x−1,y+1)・・・式(223)
G_d4=(x,y+2)・・・式(224)
G_rate_x=(rate_y+rate_x)/2・・・式(225)
G_rate_y=(rate_y−rate_x)/2・・・式(226)
イ−2)rate_y<=rate_xの場合
G_d1=(x,y)・・・式(227)
G_d2=(x+1,y+1)・・・式(228)
G_d3=(x+1,y−1)・・・式(229)
G_d4=(x+2,y)・・・式(230)
G_rate_x=(rate_y+rate_x)/2・・・式(231)
G_rate_Y=(rate_x−rate_y)/2・・・式(232)
図25に示すように、各画素間隔は1であるため、隣り合う緑の画素間隔はroot2となる。また、隣り合う緑の画素の間隔を1に正規化しているので割合は1/root2になっている。また、rate_y>rate_xの場合には、割合は、図25(C)実線部の範囲内に存在する。また、rate_y≦rate_xの場合には、割合は、図25(D)実線部の範囲内に存在する。
そして、各色の補正点データを線形演算などの補正演算で求める。補正演算の方法は、ステップS16と同様である。
ロ)(c)GBRGタイプ27において、アドレス:(x,y)=(奇数,偶数)であった場合
次に、(c)GBRGタイプ27において、アドレス:(x,y)=(奇数,偶数)であった場合のアドレス及び割合の算出について、図26及び27を用いて説明する。この場合、アドレス(x,y)が示す色は青である。
図26及び27に示すように、R_d1,2,3,4(赤の取得データ)、B_d1,2,3,4(青の取得データ)、G_d1,2,3,4(緑の取得データ)を各色の取得データ、R_rate_x(赤の割合)、R_rate_y(赤の割合)、B_rate_x(青の割合)、B_rate_y(青の割合)、G_rate_x(緑の割合)、G_rate_y(緑の割合)を各色の割合とする。
まず、赤の補正データは式(233)〜式(236)で、割合は式(237)及び式(238)で表される。
R_d1=(x−1,y−1)・・・式(233)
R_d2=(x+1,y−1)・・・式(234)
R_d3=(x−1,y+1)・・・式(235)
R_d4=(x+1,y+1)・・・式(236)
R_rate_x=rate_x/2+0.5・・・式(237)
R_rate_y=rate_y/2+0.5・・・式(238)
図26(A)に示すように、各画素間隔は1であるため、隣り合う赤の画素間隔は2となる。また、隣り合う赤の画素の間隔を1に正規化しているので割合は1/2になっている。
次に、青の補正データは式(239)〜式(242)で、割合は式(243)及び式(244)で表される。
B_d1=(x,y)・・・式(239)
B_d2=(x+2,y)・・・式(240)
B_d3=(x,y+2)・・・式(241)
B_d4=(x+2,y+2)・・・式(242)
B_rate_x=rate_x/2・・・式(243)
B_rate_y=rate_y/2・・・式(244)
図26(B)に示すように、各画素間隔は1であるため、隣り合う青の画素間隔は2となる。また、隣り合う青の画素の間隔を1に正規化しているので割合は1/2になっている。
次に、緑の補正データは、−1)rate_x+rate_y<1.0の場合では式(245)〜式(248)で、割合は式(249)及び式(250)で表される。また、−2)rate_x+rate_y≧1.0の場合における補正データは、式(251)〜式(254)で、割合は式(255)及び式(256)で表される。
−1)rate_x+rate_y<1.0
G_d1=(x,y−1)・・・式(245)
G_d2=(x+1,y)・・・式(246)
G_d3=(x−1,y)・・・式(247)
G_d4=(x,y+1)・・・式(248)
G_rate_x=(rate_x+rate_y)/2+0.5・・・式(249)
G_rate_y=(rate_y−rate_x)/2+0.5・・・式(250
−2)rate_x+rate_y≧1.0
G_d1=(x+1,y)・・・式(251)
G_d2=(x+2,y+1)・・・式(252)
G_d3=(x,y+1)・・・式(253)
G_d4=(x+1,y+2)・・・式(254)
G_rate_x=(rate_x+rate_y)/2−0.5・・・式(255)
G_rate_y=(rate_y−rate_x)/2+0.5・・・式(256)
図27に示すように、各画素間隔は1であるため、隣り合う緑の画素間隔はroot2となる。また、隣り合う緑の画素の間隔を1に正規化しているので割合は1/root2になっている。また、rate_x+rate_y<1.0の場合には、割合は、図27(C)実線部の範囲内に存在する。また、rate_x+rate_y≧1.0の場合には、割合は、図27(D)実線部の範囲内に存在する。
そして、各色の補正点データを線形演算などの補正演算で求める。補正演算の方法は、ステップS16と同様である。
ハ)(c)GBRGタイプ27において、アドレス:(x,y)=(偶数,奇数)であった場合
次に、(c)GBRGタイプ27において、アドレス:(x,y)=(偶数,奇数)であった場合のアドレス及び割合の算出について、図28及び29を用いて説明する。この場合、アドレス(x,y)が示す色は赤である。
図28及び図29に示すように、R_d1,2,3,4(赤の取得データ)、B_d1,2,3,4(青の取得データ)、G_d1,2,3,4(緑の取得データ)を各色の取得データ、R_rate_x(赤の割合)、R_rate_y(赤の割合)、B_rate_x(青の割合)、B_rate_y(青の割合)、G_rate_x(緑の割合)、G_rate_y(緑の割合)を各色の割合とする。
まず、赤の補正データは式(257)〜式(260)で、割合は式(261)及び式(262)で表される。
R_d1=(x,y)・・・式(257)
R_d2=(x+2,y)・・・式(258)
R_d3=(x,y+2)・・・式(259)
R_d4=(x+2,y+2)・・・式(260)
R_rate_x=rate_x/2 ・・・式(261)
R_rate_y=rate_y/2・・・式(262)
図28(A)に示すように、各画素間隔は1であるため、隣り合う赤の画素間隔は2となる。また、隣り合う赤の画素の間隔を1に正規化しているので割合は1/2になっている。
次に、青の補正データは式(263)〜式(266)で、割合は式(267)及び式(268)で表される。
B_d1=(x−1,y−1)・・・式(263)
B_d2=(x+1,y−1)・・・式(264)
B_d3=(x−1,y+1)・・・式(265)
B_d4=(x+1,y+1)・・・式(266)
B_rate_x=rate_x/2+0.5・・・式(267)
B_rate_y=rate_y/2+0.5・・・式(268)
図28(B)に示すように、各画素間隔は1であるため、隣り合う青の画素間隔は2となる。また、隣り合う青の画素の間隔を1に正規化しているので割合は1/2になっている。
次に、緑の補正データは、−1)rate_x+rate_y<1.0の場合では式(269)〜式(272)で、割合は式(273)及び式(274)で表される。また、−2)rate_x+rate_y≧1.0の場合における補正データは、式(275)〜式(278)で、割合は式(279)及び式(280)で表される。
−1)rate_x+rate_y<1.0の場合
G_d1=(x,y−1)・・・式(269)
G_d2=(x+1,y)・・・式(270)
G_d3=(x−1,y)・・・式(271)
G_d4=(x,y+1)・・・式(272)
G_rate_x=(rate_x+rate_y)/2+0.5・・・式(273)
G_rate_y=(rate_y−rate_x)/2+0.5・・・式(274)
−2)rate_x+rate_y≧1.0の場合
G_d1=(x+1,y)・・・式(275)
G_d2=(x+2,y+1)・・・式(276)
G_d3=(x,y+1)・・・式(277)
G_d4=(x+1,y+2)・・・式(278)
G_rate_x=(rate_x+rate_y)/2−0.5・・・式(279)
G_rate_y=(rate_y−rate_x)/2+0.5・・・式(280)
図29に示すように、各画素間隔は1であるため、隣り合う緑の画素間隔はroot2となる。また、隣り合う緑の画素の間隔を1に正規化しているので割合は1/root2になっている。また、rate_x+rate_y<1.0の場合には、割合は、図29(C)実線部の範囲内に存在する。また、rate_x+rate_y≧1.0の場合には、割合は、図29(D)実線部の範囲内に存在する。
そして、各色の補正点データを線形演算などの補正演算で求める。補正演算の方法は、
ステップS16と同様である。
ニ)(c)GBRGタイプ27において、アドレス:(x,y)=(奇数,奇数)であった場合
次に、(c)GBRGタイプ27において、アドレス:(x,y)=(奇数,奇数)であった場合のアドレス及び割合の算出について、図30及び31を用いて説明する。この場合、アドレス(x,y)が示す色は緑である。
図30及び図31に示すように、R_d1,2,3,4(赤の取得データ)、B_d1,2,3,4(青の取得データ)、G_d1,2,3,4(緑の取得データ)を各色の取得データ、R_rate_x(赤の割合)、R_rate_y(赤の割合)、B_rate_x(青の割合)、B_rate_y(青の割合)、G_rate_x(緑の割合)、G_rate_y(緑の割合)を各色の割合とする。
まず、赤の補正データは式(281)〜式(284)で、割合は式(285)及び式(286)で表される。
R_d1=(x−1,y)・・・式(281)
R_d=(x+1,y)・・・式(282)
R_d=(x−1,y+2)・・・式(283)
R_d=(x+1,y+2)・・・式(284)
R_rate_x=rate_x/2+0.5・・・式(285)
R_rate_y=rate_y/2・・・式(286)
図30(A)に示すように、各画素間隔は1であるため、隣り合う赤の画素間隔は2となる。また、隣り合う赤の画素の間隔を1に正規化しているので割合は1/2になっている。
次に、青の補正データは式(287)〜式(290)で、割合は式(291)及び式(292)で表される。
B_d1=(x,y−1)・・・式(287)
B_d2=(x+2,y−1)・・・式(288)
B_d3=(x,y+1)・・・式(289)
B_d4=(x+2,y+1)・・・式(290)
B_rate_x=rate_x/2 ・・・式(291)
B_rate_y=rate_y/2+0.5・・・式(292)
図30(B)に示すように、各画素間隔は1であるため、隣り合う青の画素間隔は2となる。また、隣り合う青の画素の間隔を1に正規化しているので割合は1/2になっている。
次に、緑の補正データは、−1)rate_y>rate_xの場合では式(293)〜式(296)で、割合は式(297)及び式(298)で表される。また、−2)rate_y≦rate_xの場合における補正データは、式(299)〜式(302)で、割合は式(303)及び式(304)で表される。
−1)rate_y>rate_xの場合
G_d1=(x,y)・・・式(293)
G_d2=(x+1,y+1)・・・式(294)
G_d3=(x−1,y+1)・・・式(295)
G_d4=(x,y+2)・・・式(296)
G_rate_x=(rate_y+rate_x)/2・・・式(297)
G_rate_y=(rate_y−rate_x)/2・・・式(298)
−2)rate_y≦rate_xの場合
G_d1=(x,y)・・・式(299)
G_d2=(x+1,y+1)・・・式(300)
G_d3=(x+1,y−1)・・・式(301)
G_d4=(x+2,y)・・・式(302)
G_rate_x=(rate_y+rate_x)/2・・・式(303)
G_rate_Y=(rate_x−rate_y)/2・・・式(304)
図31に示すように、各画素間隔は1であるため、隣り合う緑の画素間隔はroot2となる。また、隣り合う緑の画素の間隔を1に正規化しているので割合は1/root2になっている。また、rate_y>rate_xの場合には、割合は、図31(C)実線部の範囲内に存在する。また、rate_y≦rate_xの場合には、割合は、図31(D)実線部の範囲内に存在する。
そして、各色の補正点データを線形演算などの補正演算で求める。補正演算の方法は、ステップS16と同様である。
(D)(d)BGGRタイプ28でのアドレス及び割合の算出
イ)(d)BGGRタイプ28において、アドレス:(x,y)=(偶数,偶数)であった場合
まず、(d)BGGRタイプ28において、アドレス:(x,y)=(偶数,偶数)であった場合のアドレス及び割合の算出について、図32及び33を用いて説明する。この場合、アドレス(x,y)が示す色は青である。
図32及び33に示すように、R_d1,2,3,4(赤の取得データ)、B_d1,2,3,4(青の取得データ)、G_d1,2,3,4(緑の取得データ)を各色の取得データ、R_rate_x(赤の割合)、R_rate_y(赤の割合)、B_rate_x(青の割合)、B_rate_y(青の割合)、G_rate_x(緑の割合)、G_rate_y(緑の割合)を各色の割合とする。
まず、赤の補正データは式(305)〜式(308)で、割合は式(309)及び式(310)で表される。
R_d1=(x−1,y−1)・・・式(305)
R_d2=(x+1,y−1)・・・式(306)
R_d3=(x−1,y+1)・・・式(307)
R_d4=(x+1,y+1)・・・式(308)
R_rate_x=rate_x/2+0.5・・・式(309)
R_rate_y=rate_y/2+0.5・・・式(310)
図32(A)に示すように、各画素間隔は1であるため、隣り合う赤の画素間隔は2となる。また、隣り合う赤の画素の間隔を1に正規化しているので割合は1/2になっている。
次に、青の補正データは式(311)〜式(314)で、割合は式(315)及び式(316)で表される。
B_d1=(x,y)・・・式(311)
B_d2=(x+2,y)・・・式(312)
B_d3=(x,y+2)・・・式(313)
B_d4=(x+2,y+2)・・・式(314)
B_rate_x=rate_x/2・・・式(315)
B_rate_y=rate_y/2・・・式(316)
図32(B)に示すように、各画素間隔は1であるため、隣り合う青の画素間隔は2となる。また、隣り合う青の画素の間隔を1に正規化しているので割合は1/2になっている。
次に、緑の補正データは、イ−1)rate_x+rate_y<1.0の場合では式(317)〜式(320)で、割合は式(321)及び式(322)で表される。また、イ−2)rate_x+rate_y≧1.0の場合における補正データは、式(323)〜式(326)で、割合は式(327)及び式(328)で表される。
イ−1)rate_x+rate_y<1.0
G_d1=(x,y−1)・・・式(317)
G_d2=(x+1,y)・・・式(318)
G_d3=(x−1,y)・・・式(319)
G_d4=(x,y+1)・・・式(320)
G_rate_x=(rate_x+rate_y)/2+0.5・・・式(321)
G_rate_y=(rate_y−rate_x)/2+0.5・・・式(322)
イ−2)rate_x+rate_y≧1.0
G_d1=(x+1,y)・・・式(323)
G_d2=(x+2,y+1)・・・式(324)
G_d3=(x,y+1)・・・式(325)
G_d4=(x+1,y+2)・・・式(326)
G_rate_x=(rate_x+rate_y)/2−0.5・・・式(327)
G_rate_y=(rate_y−rate_x)/2+0.5・・・式(328)
図33に示すように、各画素間隔は1であるため、隣り合う緑の画素間隔はroot2となる。また、隣り合う緑の画素の間隔を1に正規化しているので割合は1/root2になっている。また、rate_x+rate_y<1.0の場合には、割合は、図33(C)実線部の範囲内に存在する。また、rate_x+rate_y≧1.0の場合には、割合は、図33(D)実線部の範囲内に存在する。
そして、各色の補正点データを線形演算などの補正演算で求める。補正演算の方法は、ステップS16と同様である。
ロ)(d)BGGRタイプ28において、アドレス:(x,y)=(奇数,偶数)であった場合
次に、(d)BGGRタイプ28において、アドレス:(x,y)=(奇数,偶数)であった場合のアドレス及び割合の算出について、図34及び35を用いて説明する。この場合、アドレス(x,y)が示す色は緑である。
図34及び35に示すように、R_d1,2,3,4(赤の取得データ)、B_d1,2,3,4(青の取得データ)、G_d1,2,3,4(緑の取得データ)を各色の取得データ、R_rate_x(赤の割合)、R_rate_y(赤の割合)、B_rate_x(青の割合)、B_rate_y(青の割合)、G_rate_x(緑の割合)、G_rate_y(緑の割合)を各色の割合とする。
まず、赤の補正データは式(329)〜式(332)で、割合は式(333)及び式(334)で表される。
R_d1=(x,y−1)・・・式(329)
R_d2=(x+2,y−1)・・・式(330)
R_d3=(x,y+1)・・・式(331)
R_d4=(x+2,y+1)・・・式(332)
R_rate_x=rate_x/2・・・式(333)
R_rate_y=rate_y/2+0.5・・・式(334)
図34(A)に示すように、各画素間隔は1であるため、隣り合う赤の画素間隔は2となる。また、隣り合う赤の画素の間隔を1に正規化しているので割合は1/2になっている。
次に、青の補正データは式(335)〜式(338)で、割合は式(339)及び式(340)で表される。
B_d1=(x−1,y)・・・式(335)
B_d=(x+1,y)・・・式(336)
B_d=(x−1,y+2)・・・式(337)
B_d=(x+1,y+2)・・・式(338)
B_rate_x=rate_x/2+0.5・・・式(339)
B_rate_y=rate_y/2・・・式(340)
図34(B)に示すように、各画素間隔は1であるため、隣り合う青の画素間隔は2となる。また、隣り合う青の画素の間隔を1に正規化しているので割合は1/2になっている。
次に、緑の補正データは、−1)rate_y>rate_xの場合では式(341)〜式(344)で、割合は式(345)及び式(346)で表される。また、−2)rate_y≦rate_xの場合における補正データは、式(347)〜式(350)で、割合は式(351)及び式(352)で表される。
−1)rate_y>rate_xの場合
G_d1=(x,y)・・・式(341)
G_d2=(x+1,y+1)・・・式(342)
G_d3=(x−1,y+1)・・・式(343)
G_d4=(x,y+2)・・・式(344)
G_rate_x=(rate_y+rate_x)/2・・・式(345)
G_rate_y=(rate_y−rate_x)/2・・・式(346)
−2)rate_y<=rate_xの場合
G_d1=(x,y)・・・式(347)
G_d2=(x+1,y+1)・・・式(348)
G_d3=(x+1,y−1)・・・式(349)
G_d4=(x+2,y)・・・式(350)
G_rate_x=(rate_y+rate_x)/2・・・式(351)
G_rate_Y=(rate_x−rate_y)/2・・・式(352)
図35に示すように、各画素間隔は1であるため、隣り合う緑の画素間隔はroot2となる。また、隣り合う緑の画素の間隔を1に正規化しているので割合は1/root2になっている。また、rate_y>rate_xの場合には、割合は、図35(C)実線部の範囲内に存在する。また、rate_y≦rate_xの場合には、割合は、図35(D)実線部の範囲内に存在する。
そして、各色の補正点データを線形演算などの補正演算で求める。補正演算の方法は、ステップS16と同様である。
ハ)(d)BGGRタイプ28において、アドレス:(x,y)=(偶数,奇数)であった場合
次に、(d)BGGRタイプ28において、アドレス:(x,y)=(偶数,奇数)であった場合のアドレス及び割合の算出について、図36及び37を用いて説明する。この場合、アドレス(x,y)が示す色は緑である。
図36及び37に示すように、R_d1,2,3,4(赤の取得データ)、B_d1,2,3,4(青の取得データ)、G_d1,2,3,4(緑の取得データ)を各色の取得データ、R_rate_x(赤の割合)、R_rate_y(赤の割合)、B_rate_x(青の割合)、B_rate_y(青の割合)、G_rate_x(緑の割合)、G_rate_y(緑の割合)を各色の割合とする。
まず、赤の補正データは式(353)〜式(356)で、割合は式(357)及び式(358)で表される。
R_d1=(x−1,y)・・・式(353)
R_d=(x+1,y)・・・式(354)
R_d=(x−1,y+2)・・・式(355)
R_d=(x+1,y+2)・・・式(356)
R_rate_x=rate_x/2+0.5・・・式(357)
R_rate_y=rate_y/2・・・式(358)
図36(A)に示すように、各画素間隔は1であるため、隣り合う赤の画素間隔は2となる。また、隣り合う赤の画素の間隔を1に正規化しているので割合は1/2になっている。
次に、青の補正データは式(359)〜式(362)で、割合は式(363)及び式(364)で表される。
B_d1=(x,y−1)・・・式(359)
B_d2=(x+2,y−1)・・・式(360)
B_d3=(x,y+1)・・・式(361)
B_d4=(x+2,y+1)・・・式(362)
B_rate_x=rate_x/2 ・・・式(363)
B_rate_y=rate_y/2+0.5・・・式(364)
図36(B)に示すように、各画素間隔は1であるため、隣り合う青の画素間隔は2となる。また、隣り合う青の画素の間隔を1に正規化しているので割合は1/2になっている。
次に、緑の補正データは、−1)rate_y>rate_xの場合では式(365)〜式(368)で、割合は式(369)及び式(370)で表される。また、−2)rate_y≦rate_xの場合における補正データは、式(371)〜式(374)で、割合は式(375)及び式(376)で表される。
−1)rate_y>rate_xの場合
G_d1=(x,y)・・・式(365)
G_d2=(x+1,y+1)・・・式(366)
G_d3=(x−1,y+1)・・・式(367)
G_d4=(x,y+2)・・・式(368)
G_rate_x=(rate_y+rate_x)/2・・・式(369)
G_rate_y=(rate_y−rate_x)/2・・・式(370)
−2)rate_y≦rate_xの場合
G_d1=(x,y)・・・式(371)
G_d2=(x+1,y+1)・・・式(372)
G_d3=(x+1,y−1)・・・式(373)
G_d4=(x+2,y)・・・式(374)
G_rate_x=(rate_y+rate_x)/2・・・式(375)
G_rate_Y=(rate_x−rate_y)/2・・・式(376)
図37に示すように、各画素間隔は1であるため、隣り合う緑の画素間隔はroot2となる。また、隣り合う緑の画素の間隔を1に正規化しているので割合は1/root2になっている。また、rate_y>rate_xの場合には、割合は、図37(C)実線部の範囲内に存在する。また、rate_y≦rate_xの場合には、割合は、図37(D)実線部の範囲内に存在する。
そして、各色の補正点データを線形演算などの補正演算で求める。補正演算の方法は、ステップS16と同様である。
ニ)(d)BGGRタイプ28において、アドレス:(x,y)=(奇数,奇数)であった場合
次に、(d)BGGRタイプ28において、アドレス:(x,y)=(奇数,奇数)であった場合のアドレス及び割合の算出について、図38及び39を用いて説明する。この場合、アドレス(x,y)が示す色は赤である。
図38及び39に示すように、R_d1,2,3,4(赤の取得データ)、B_d1,2,3,4(青の取得データ)、G_d1,2,3,4(緑の取得データ)を各色の取得データ、R_rate_x(赤の割合)、R_rate_y(赤の割合)、B_rate_x(青の割合)、B_rate_y(青の割合)、G_rate_x(緑の割合)、G_rate_y(緑の割合)を各色の割合とする。
まず、赤の補正データは式(377)〜式(380)で、割合は式(381)及び式(382)で表される。
R_d1=(x,y)・・・式(377)
R_d2=(x+2,y)・・・式(378)
R_d3=(x,y+2)・・・式(379)
R_d4=(x+2,y+2)・・・式(380)
R_rate_x=rate_x/2 ・・・式(381)
R_rate_y=rate_y/2・・・式(382)
図38(A)に示すように、各画素間隔は1であるため、隣り合う赤の画素間隔は2となる。また、隣り合う赤の画素の間隔を1に正規化しているので割合は1/2になっている。
次に、青の補正データは式(383)〜式(386)で、割合は式(387)及び式(388)で表される。
B_d1=(x−1,y−1)・・・式(383)
B_d2=(x+1,y−1)・・・式(384)
B_d3=(x−1,y+1)・・・式(385)
B_d4=(x+1,y+1)・・・式(386)
B_rate_x=rate_x/2+0.5・・・式(387)
B_rate_y=rate_y/2+0.5・・・式(388)
図38(B)に示すように、各画素間隔は1であるため、隣り合う青の画素間隔は2となる。また、隣り合う青の画素の間隔を1に正規化しているので割合は1/2になっている。
次に、緑の補正データは、−1)rate_x+rate_y<1.0の場合では式(389)〜式(392)で、割合は式(393)及び式(394)で表される。また、−2)rate_x+rate_y≧1.0の場合における補正データは、式(395)〜式(398)で、割合は式(399)及び式(400)で表される。
−1)rate_x+rate_y<1.0の場合
G_d1=(x,y−1)・・・式(389)
G_d2=(x+1,y)・・・式(390)
G_d3=(x−1,y)・・・式(391)
G_d4=(x,y+1)・・・式(392)
G_rate_x=(rate_x+rate_y)/2+0.5・・・式(393)
G_rate_y=(rate_y−rate_x)/2+0.5・・・式(394)
−2)rate_x+rate_y≧1.0の場合
G_d1=(x+1,y)・・・式(395)
G_d2=(x+2,y+1)・・・式(396)
G_d3=(x,y+1)・・・式(397)
G_d4=(x+1,y+2)・・・式(398)
G_rate_x=(rate_x+rate_y)/2−0.5・・・式(399)
G_rate_y=(rate_y−rate_x)/2+0.5・・・式(400)
図39に示すように、各画素間隔は1であるため、隣り合う緑の画素間隔はroot2となる。また、隣り合う緑の画素の間隔を1に正規化しているので割合は1/root2になっている。また、rate_x+rate_y<1.0の場合には、割合は、図39(C)実線部の範囲内に存在する。また、rate_x+rate_y≧1.0の場合には、割合は、図39(D)実線部の範囲内に存在する。
そして、各色の補正点データを線形演算などの補正演算で求める。補正演算の方法は、ステップS16と同様である。
以上説明したように、本実施形態においては、魚眼画像補正アドレス生成部8が、前記出力データ画素情報を生成し、補間演算部12が、ベイヤー配列のカラーフィルタアレイに基いて算出され前記入力データ画素情報に基いて、前記入力データ色情報を取得し、前記入力データ色情報に基いて、前記出力データ色情報を線形演算によって算出する。
従って、専用の処理回路を用いることなく入力データからRGBデータを得ることができるため、より簡便な構成で安価に、高画質な画像変換を行うことができる。
1 光学系システム
1a 魚眼レンズ
1b イメージセンサ
2 カメラI/F
3 画像補正信号処理回路部
4 補正座標入力部
5 ディスプレイモニタ
6 入力フレームメモリ
7 UART or USB通信部
8 魚眼画像補正アドレス生成部
9 Bayer Patternデータ補正演算部
10 出力フレームメモリ
11 データ取り込み制御部
12 補間演算部
13 データ書き込み制御部
S 画像処理装置

Claims (4)

  1. 色を構成要素の一つとする対象物を魚眼レンズによって撮像し、前記撮像された対象物を示す魚眼画像であって、前記魚眼画像を構成する画素を示す入力データ画素情報と前記画素に対応する色情報を示す入力データ色情報から構成される入力データに基いて、二次元的に視認可能な平面画像を示す出力データであって、前記平面画像を構成する画素を示す出力データ画素情報と前記画素に対応する色情報を示す出力データ色情報から構成される前記出力データを生成し、前記平面画像を表示部へ表示する画像処理装置であって、
    前記入力データ及び前記出力データを記憶する記憶手段と、
    前記入力データ画素情報における座標を、アドレスを示すアドレス部と割合を示す割合部とに分離する分離手段と、
    前記入力データ画素情報に基いて、前記出力データ画素情報を生成する魚眼画像補正アドレス生成手段と、
    ベイヤー配列のカラーフィルタアレイの配列パターンに基いて、前記アドレス部に対応する前記入力データ色情報を取得する入力データ色情報取得手段と、
    前記入力データ色情報に基いて、前記出力データ色情報を算出する出力データ色情報算出手段と、
    を備え、
    前記出力データ色情報算出手段が、前記アドレス部のパターンに応じて、前記アドレス部の値と前記割合部の値とから、前記ベイヤー配列のカラーフィルタアレイにおける各色の複数点のデータと各色の割合を求め、当該データと当該割合とを用いた線形演算によって前記出力データ色情報を算出することを特徴とする画像処理装置。
  2. 請求項1に記載の画像処理装置であって、
    前記アドレス部は、前記座標の整数部であり、前記割合部は、前記座標の小数部であることを特徴とする画像処理装置。
  3. 色を構成要素の一つとする対象物を魚眼レンズによって撮像し、前記撮像された対象物を示す魚眼画像であって、前記魚眼画像を構成する画素を示す入力データ画素情報と前記画素に対応する色情報を示す入力データ色情報から構成される入力データに基いて、二次元的に視認可能な平面画像を示す出力データであって、前記平面画像を構成する画素を示す出力データ画素情報と前記画素に対応する色情報を示す出力データ色情報から構成される前記出力データを生成し、当該平面画像を表示部へ表示する画像処理方法であって、
    前記入力データ及び前記出力データを記憶する記憶工程と、
    前記入力データ画素情報における座標を、アドレスを示すアドレス部と割合を示す割合部とに分離する分離行程と、
    前記入力データ画素情報に基いて、前記出力データ画素情報を生成する魚眼画像補正アドレス生成工程と、
    ベイヤー配列のカラーフィルタアレイの配列パターンに基いて、前記アドレス部に対応する前記入力データ色情報を取得する入力データ色情報取得工程と、
    前記入力データ色情報に基いて、前記出力データ色情報を算出する出力データ色情報算出工程と、
    を有し、
    前記出力データ色情報算出行程において、前記アドレス部のパターンに応じて、前記アドレス部の値と前記割合部の値とから、前記ベイヤー配列のカラーフィルタアレイにおける各色の複数点のデータと各色の割合を求め、当該データと当該割合とを用いた線形演算によって前記出力データ色情報を算出することを特徴とする画像処理方法。
  4. 色を構成要素の一つとする対象物を魚眼レンズによって撮像し、前記撮像された対象物を示す魚眼画像であって、前記魚眼画像を構成する画素を示す入力データ画素情報と前記画素に対応する色情報を示す入力データ色情報から構成される入力データに基いて、二次元的に視認可能な平面画像を示す出力データであって、前記平面画像を構成する画素を示す出力データ画素情報と前記画素に対応する色情報を示す出力データ色情報から構成される前記出力データを生成し、当該平面画像を表示部へ表示する画像処理装置が有するコンピュータを、
    前記入力データ及び前記出力データを記憶する記憶手段、
    前記入力データ画素情報における座標を、アドレスを示すアドレス部と割合を示す割合部とに分離する分離手段、
    前記入力データ画素情報に基いて、前記出力データ画素情報を生成する魚眼画像補正アドレス生成手段、
    ベイヤー配列のカラーフィルタアレイの配列パターンに基いて、前記アドレス部に対応する前記入力データ色情報を取得する入力データ色情報取得手段、
    前記入力データ色情報に基いて、前記出力データ色情報を算出する出力データ色情報算出手段、
    として機能させ
    前記出力データ色情報算出手段が、前記アドレス部のパターンに応じて、前記アドレス部の値と前記割合部の値とから、前記ベイヤー配列のカラーフィルタアレイにおける各色の複数点のデータと各色の割合を求め、当該データと当該割合とを用いた線形演算によって前記出力データ色情報を算出することを特徴とする画像処理プログラム。
JP2009093384A 2009-04-07 2009-04-07 画像処理装置及び画像処理方法等 Expired - Fee Related JP5353393B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2009093384A JP5353393B2 (ja) 2009-04-07 2009-04-07 画像処理装置及び画像処理方法等
TW099109427A TWI513297B (zh) 2009-04-07 2010-03-29 Image processing apparatus and image processing method
KR1020100028410A KR20100111614A (ko) 2009-04-07 2010-03-30 화상처리장치, 화상처리방법 및 기록매체
US12/754,787 US8379976B2 (en) 2009-04-07 2010-04-06 Image processing apparatus and method and a computer-readable recording medium on which an image processing program is stored
CN201010158555.0A CN101860673B (zh) 2009-04-07 2010-04-07 图像处理装置和图像处理方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009093384A JP5353393B2 (ja) 2009-04-07 2009-04-07 画像処理装置及び画像処理方法等

Publications (2)

Publication Number Publication Date
JP2010245901A JP2010245901A (ja) 2010-10-28
JP5353393B2 true JP5353393B2 (ja) 2013-11-27

Family

ID=42826222

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009093384A Expired - Fee Related JP5353393B2 (ja) 2009-04-07 2009-04-07 画像処理装置及び画像処理方法等

Country Status (5)

Country Link
US (1) US8379976B2 (ja)
JP (1) JP5353393B2 (ja)
KR (1) KR20100111614A (ja)
CN (1) CN101860673B (ja)
TW (1) TWI513297B (ja)

Families Citing this family (25)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101356698B1 (ko) * 2007-10-01 2014-01-29 삼성전자주식회사 화소 간 크로스토크의 영향을 저감하는 이미지 센서, 컬러필터 어레이, 및 촬상 장치
CA2800738C (en) 2010-05-28 2016-01-26 Apple Inc. Dual orientation connector with external contacts
EP2583356A4 (en) 2010-06-18 2015-04-22 Apple Inc DOUBLE DIRECTION CONNECTOR WITH SIDE CONTACTS
CN103004035A (zh) 2010-06-21 2013-03-27 苹果公司 外部接触插塞连接器
CN103081253B (zh) 2010-06-21 2015-10-21 苹果公司 插塞连接器和插座连接器
TWI423659B (zh) * 2010-11-09 2014-01-11 Avisonic Technology Corp 影像校正方法與相關影像校正系統
TWI448976B (zh) * 2011-08-05 2014-08-11 Shinsoft Co Ltd 超廣角影像處理方法與其系統
JP5711638B2 (ja) * 2011-09-27 2015-05-07 富士重工業株式会社 画像処理装置
US8708745B2 (en) 2011-11-07 2014-04-29 Apple Inc. Dual orientation electronic connector
CN103108154A (zh) * 2011-11-14 2013-05-15 辉达公司 一种汽车导航设备
US20140254939A1 (en) * 2011-11-24 2014-09-11 Ntt Docomo, Inc. Apparatus and method for outputting information on facial expression
US9112327B2 (en) 2011-11-30 2015-08-18 Apple Inc. Audio/video connector for an electronic device
JP5966341B2 (ja) * 2011-12-19 2016-08-10 大日本印刷株式会社 画像処理装置、画像処理方法、画像処理装置用プログラム、画像表示装置
KR101966976B1 (ko) 2012-09-03 2019-04-08 엘지이노텍 주식회사 3차원 영상처리 시스템
US8777666B2 (en) 2012-09-07 2014-07-15 Apple Inc. Plug connector modules
US9093803B2 (en) 2012-09-07 2015-07-28 Apple Inc. Plug connector
US9059531B2 (en) 2012-09-11 2015-06-16 Apple Inc. Connectors and methods for manufacturing connectors
WO2014040231A1 (en) 2012-09-11 2014-03-20 Apple Inc. Connectors and methods for manufacturing connectors
US9160129B2 (en) * 2012-09-11 2015-10-13 Apple Inc. Connectors and methods for manufacturing connectors
US9325097B2 (en) 2012-11-16 2016-04-26 Apple Inc. Connector contacts with thermally conductive polymer
US20140206209A1 (en) 2013-01-24 2014-07-24 Apple Inc. Reversible usb connector
JP6299133B2 (ja) * 2013-09-30 2018-03-28 大日本印刷株式会社 位置検出装置、撮像装置、位置検出方法及び位置検出プログラム
CN104581096B (zh) * 2014-12-26 2017-11-07 北京航天控制仪器研究所 一种复用视频传输光端机
WO2018207675A1 (ja) * 2017-05-10 2018-11-15 三井化学株式会社 色処理プログラム、色処理方法、色彩感覚検査システム、出力システム、色覚補正画像処理システムおよび色覚シミュレーション画像処理システム
KR102594038B1 (ko) * 2018-01-15 2023-10-26 에스케이하이닉스 주식회사 이미지 센싱 장치

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6754400B2 (en) * 2001-02-06 2004-06-22 Richard Wilson, Jr. System and method for creation, processing and visualization of omni-directional images
CN100447614C (zh) * 2002-09-24 2008-12-31 西健尔 图像显示装置
JP4104571B2 (ja) * 2004-03-29 2008-06-18 三洋電機株式会社 歪曲補正装置及びこの歪曲補正装置を備えた撮像装置
JP2005339313A (ja) * 2004-05-28 2005-12-08 Toshiba Corp 画像提示方法及び装置
JP4596988B2 (ja) * 2005-06-07 2010-12-15 オリンパス株式会社 画像撮像装置
JP4650367B2 (ja) * 2006-07-26 2011-03-16 船井電機株式会社 動き検出用撮像装置
JP2008061172A (ja) * 2006-09-04 2008-03-13 Sony Corp 画像処理装置、画像処理方法、そのブログラム及びそのプログラムを記録した記録媒体

Also Published As

Publication number Publication date
CN101860673B (zh) 2015-04-15
US20100254602A1 (en) 2010-10-07
JP2010245901A (ja) 2010-10-28
TW201044863A (en) 2010-12-16
KR20100111614A (ko) 2010-10-15
US8379976B2 (en) 2013-02-19
CN101860673A (zh) 2010-10-13
TWI513297B (zh) 2015-12-11

Similar Documents

Publication Publication Date Title
JP5353393B2 (ja) 画像処理装置及び画像処理方法等
JP5036421B2 (ja) 画像処理装置、画像処理方法、プログラムおよび撮像装置
TWI549519B (zh) 高解析度陣列相機
US8494260B2 (en) Image processing device, image processing method, program, and imaging device
CN104782114B (zh) 用于捕获与构造全景或立体图像流的方法与装置
WO2012060269A1 (ja) 画像処理方法、画像処理装置及び撮像装置
US11115636B2 (en) Image processing apparatus for around view monitoring
JP5704984B2 (ja) 撮像装置
CN103430531B (zh) 视频处理装置、视频处理系统和视频处理方法
US20180288325A1 (en) System and method for image stitching
US20200228709A1 (en) Method for processing image signal, image signal processor, and image sensor chip
US8934713B2 (en) Image processing device, image processing method, program, and imaging device
AU2007249585B2 (en) Real-time capture and transformation of hemispherical video images to images in rectilinear coordinates
JP2010193037A (ja) 擬似カラー画像生成装置、及びプログラム
KR100948872B1 (ko) 카메라 영상 보정 방법 및 장치
JP2009033699A (ja) 画像処理装置、画像処理方法、プログラムおよび撮像装置
JP2013080998A (ja) 画像処理装置、画像処理方法、及び画像処理プログラム
JP7000066B2 (ja) 画像処理装置、画像処理方法、およびプログラム
WO2012060271A1 (ja) 画像処理方法、画像処理装置及び撮像装置
CN113225479B (zh) 一种数据采集显示系统以及图像显示方法
WO2012081400A1 (ja) 画像処理方法、画像処理装置及び撮像装置
JP2023009613A (ja) 撮像装置およびモデル学習システム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120216

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130327

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130507

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130708

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130730

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130812

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees