JP4104571B2 - 歪曲補正装置及びこの歪曲補正装置を備えた撮像装置 - Google Patents
歪曲補正装置及びこの歪曲補正装置を備えた撮像装置 Download PDFInfo
- Publication number
- JP4104571B2 JP4104571B2 JP2004094595A JP2004094595A JP4104571B2 JP 4104571 B2 JP4104571 B2 JP 4104571B2 JP 2004094595 A JP2004094595 A JP 2004094595A JP 2004094595 A JP2004094595 A JP 2004094595A JP 4104571 B2 JP4104571 B2 JP 4104571B2
- Authority
- JP
- Japan
- Prior art keywords
- distortion
- image height
- data
- coordinate position
- distortion data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000012937 correction Methods 0.000 title claims description 112
- 238000003384 imaging method Methods 0.000 title claims description 90
- 238000012545 processing Methods 0.000 claims description 180
- 238000004364 calculation method Methods 0.000 claims description 77
- 230000014509 gene expression Effects 0.000 claims description 49
- 230000003287 optical effect Effects 0.000 claims description 27
- 230000002093 peripheral effect Effects 0.000 claims description 25
- 238000000034 method Methods 0.000 claims description 13
- 230000008569 process Effects 0.000 claims description 10
- 230000003321 amplification Effects 0.000 description 49
- 238000003199 nucleic acid amplification method Methods 0.000 description 49
- 238000010586 diagram Methods 0.000 description 13
- 230000004075 alteration Effects 0.000 description 6
- 238000006243 chemical reaction Methods 0.000 description 5
- 241000226585 Antennaria plantaginifolia Species 0.000 description 4
- 230000015572 biosynthetic process Effects 0.000 description 4
- 238000000605 extraction Methods 0.000 description 4
- 238000007796 conventional method Methods 0.000 description 3
- 230000003111 delayed effect Effects 0.000 description 3
- 230000007274 generation of a signal involved in cell-cell signaling Effects 0.000 description 3
- 230000004069 differentiation Effects 0.000 description 2
- 239000000284 extract Substances 0.000 description 2
- 238000012805 post-processing Methods 0.000 description 2
- 238000007781 pre-processing Methods 0.000 description 2
- 230000035945 sensitivity Effects 0.000 description 2
- 230000000007 visual effect Effects 0.000 description 2
- 238000013459 approach Methods 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 230000006866 deterioration Effects 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/60—Noise processing, e.g. detecting, correcting, reducing or removing noise
- H04N25/61—Noise processing, e.g. detecting, correcting, reducing or removing noise the noise originating only from the lens unit, e.g. flare, shading, vignetting or "cos4"
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N1/00—Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
- H04N1/387—Composing, repositioning or otherwise geometrically modifying originals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N1/00—Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
- H04N1/46—Colour picture communication systems
- H04N1/56—Processing of colour picture signals
- H04N1/58—Edge or detail enhancement; Noise or error suppression, e.g. colour misregistration correction
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
- H04N23/84—Camera processing pipelines; Components thereof for processing colour signals
- H04N23/843—Demosaicing, e.g. interpolating colour pixel values
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/60—Noise processing, e.g. detecting, correcting, reducing or removing noise
- H04N25/61—Noise processing, e.g. detecting, correcting, reducing or removing noise the noise originating only from the lens unit, e.g. flare, shading, vignetting or "cos4"
- H04N25/611—Correction of chromatic aberration
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Image Processing (AREA)
- Studio Devices (AREA)
Description
する補正を撮像により得られた映像信号に施す歪曲補正装置及び当該歪曲補正装置を備え
た撮像装置に関する。
像素子で撮像が行われたとき、光学レンズには収差が存在するため、固体撮像素子への結
像位置にずれが生じる。そのため、この固体撮像素子から出力された映像信号をそのまま
再生表示すると、歪んだ画像として再生表示される。この再生画像に現れる歪みが、歪曲
収差(ディストーション)と呼ばれる。このディストーションは、光学レンズの形状や光
学レンズと固体撮像素子との相対位置との関係によって異なる特性を示す。このようなデ
ィストーションとして、図17(a)のように理想結像位置に対して広がった結像位置と
なる「糸巻き型歪み」及び図17(b)のような理想結像位置に対して狭まった結像位置
となる「樽型歪み」がある。尚、図17において、点線が理想結像位置を示すとともに、
実線が実際の結像位置を示す。
(固体撮像素子の画素位置に相当)との距離に相当する像高の値に対して非線形に変化す
る。このようなディストーションの値をデータテーブルに各画素位置に対して格納すると
ともに、このデータテーブルを参照して各画素位置におけるディストーションの値を用い
て画像歪みを補正する撮像装置が提案されている。しかしながら、このような撮像装置に
おいては、各画素位置におけるディストーションの値を格納するため、そのメモリ容量が
大きくなってしまう。
離)の2乗に比例するものとして近似し、この歪み率の近似式より光学歪みを補正する演
算回路を設けることで、画素位置毎に補正値を格納するメモリを除いた撮像装置が提案さ
れている(特許文献1参照)。又、別の従来技術として、任意の像高を基準として画像の
歪曲量を補正することで負の方向の補正歪曲量を少なくして、光軸に対応する画面中心位
置を基準とした場合と比べて撮像面上で広い範囲の画像とすることのできる撮像装置が提
案されている(特許文献2参照)。又、別の従来技術として、近似多項式演算部で2次の
近似多項式による演算を行うことで歪み補正後の画素位置に対する歪み補正前の画素位置
を求めるとともに、求められた歪み補正前の画素位置の輝度信号及び色差信号に対して異
なる補間演算を行う撮像装置が提案されている(特許文献3参照)。
補正値を格納したメモリを使用することなくディストーション値に応じた歪曲補正を行う
ことができるが、全てのディストーションが像高の2乗に比例するとは限らず、あらゆる
歪曲に対応できるわけではない。又、特許文献2における撮像装置によると、歪曲収差の
基準位置を光軸に応じた中心位置と異なる円上とすることで撮像素子の撮像面を可能な限
り有効に利用することができる。しかしながら、本文献においてもズーム位置によって近
似式が決定され、その近似式自身又は近似式による各画素位置の補正量がメモリに格納さ
れる。よって、各画素位置の補正量が格納される場合はそのメモリ容量が大きくなる。
、人間の視覚感度の高い輝度信号が計算量の多い補間式により求められるとともに、人間
の視覚感度の低い色差信号が計算量の少ない補間式により求められることによって、ディ
ストーションの大きなレンズを使用しても高速で演算処理ができる。しかしながら、座標
位置の歪曲補正を行う際の近似式については、焦点位置によって決定された近似式の係数
が格納されるものであり、焦点位置が設定された焦点位置と異なる場合、近似式の係数が
算出できない。
に応じた近似式とすることができる歪曲補正装置又はこの歪曲補正装置を備えた撮像装置
を提供することを目的とする。
位置を変換することで映像信号に歪曲補正を施す歪曲補正装置において、出力する映像信
号の座標位置である出力座標位置と当該出力座標位置に対応する前記入力座標位置の相関
値であるディストーションと該出力座標位置に対する前記映像信号による画像の中心位置
からの距離である像高との関係を示す像高−ディストーション曲線上における離散点とな
るディストーションデータを、格納するディストーションデータメモリと、該ディストー
ションデータメモリより前記出力座標位置による前記像高近傍の所定数の前記ディストー
ションデータを読み出して、当該出力座標位置による前記像高近傍における前記像高−デ
ィストーション曲線を近似する近似式を算出して、当該近似式に当該出力座標位置による
前記像高を代入することで、当該出力座標位置による前記ディストーションを求めるディ
ストーション算出部と、前記出力座標位置と、当該出力座標位置に対して前記ディストー
ション算出部で算出された前記ディストーションとに基づいて、前記入力座標位置を求め
る座標算出部と、を備え、前記出力座標位置のデータとして、当該出力座標位置に対して
前記座標算出部で得られた前記入力座標位置のデータを出力することを特徴とする。
る映像信号のデータが入力されないとき、前記入力座標位置近傍のデータの存在する複数
の前記入力座標を周辺入力座標として確認して、該複数の周辺入力座標と前記座標算出部
で得られた前記入力座標位置との位置関係に応じて、該複数の周辺入力座標におけるデー
タを補間することで、前記座標算出部で得られた前記入力座標位置のデータを生成する補
間処理部を、備えるものとしても構わない。
,yd;0以上1未満)で表されるとき、入力座標位置近傍の4点(xi,yi)、(x
i+1,yi)、(xi,yi+1)、(xi+1,yi+1)におけるデータが補間さ
れることで、前記入力座標位置のデータが求められる。このとき、前記入力座標位置とな
る(xi+xd,yi+yd)と(xi,yi)との相対関係により、垂直方向及び水平
方向それぞれの補間係数が求められる。又、上述の歪曲補正装置において、前記ディスト
ーションデータを生成するための像高に対するサンプリング間隔を2の累乗としても構わ
ない。
つの前記ディストーションデータを読み出すことによって、前記近似式を算出するものと
しても構わない。
ィストーション算出部において、前記像高算出部で算出された前記像高に近接した値であ
るとともに当該像高よりも小さい値となる像高を有するディストーションデータを第1デ
ィストーションデータとして前記ディストーションデータメモリより読み出し、前記像高
算出部で算出された前記像高に近接した値であるとともに当該像高よりも大きい値となる
像高を有するディストーションデータを第2ディストーションデータとして前記ディスト
ーションデータメモリより読み出し、前記出力座標位置に対する前記第1ディストーショ
ンデータの像高に近接した値であるとともに当該像高よりも小さい値となる像高を有する
ディストーションデータを第3ディストーションデータとして前記ディストーションデー
タメモリより読み出し、前記出力座標位置に対する前記第2ディストーションデータの像
高に近接した値であるとともに当該像高よりも大きい値となる像高を有するディストーシ
ョンデータを第4ディストーションデータとして前記ディストーションデータメモリより
読み出し、前記第1〜第4ディストーションデータを用いて3次式となる前記近似式を算
出するものとしても構わない。
ーションデータによる直線の傾きが、算出する前記近似式の前記第1ディストーションデ
ータにおける接線の傾きに等しいことを示す第1条件と、前記第1及び第4ディストーシ
ョンデータによる直線の傾きが、算出する前記近似式の前記第2ディストーションデータ
における接線の傾きに等しいことを示す第2条件と、前記第1及び第2ディストーション
データを前記近似式が通過することを示す第3条件と、を確認し、前記第1〜第3条件を
満たす3次式を前記近似式とする。
の位置を移動させるレンズ駆動制御部と、前記レンズの位置に応じて入力された映像信号
に対して歪曲補正処理を施す歪曲補正処理部と、を備える撮像装置において、上述のいず
れかの歪曲補正装置を前記歪曲補正処理部として備えるとともに、前記ディストーション
データメモリが、複数の前記像高−ディストーション曲線に対するディストーションデー
タを格納し、前記レンズ駆動制御部によって設定された前記レンズの位置に応じて、前記
ディストーションデータメモリより読み出す前記ディストーションデータが設定されるこ
とを特徴とする。
のエッジ強調処理を施すエッジ強調処理部を備えるものとしても構わない。このようなエ
ッジ強調処理を行うことで、補間処理による解像感低下を補うことができる。又、このエ
ッジ強調処理部が、前記歪曲補正処理部の前処理又は後処理のいずれの演算処理を行うも
のであっても構わない。
となる前記出力座標位置の像高に応じて設定されるものとしても構わないし、前記エッジ
強調処理に利用するパラメータを、対象画素となる前記出力座標位置のディストーション
に応じて設定されるものとしても構わないし、前記エッジ強調処理に利用するパラメータ
を、対象画素となる前記出力座標位置に対して求められた前記入力座標位置に応じて設定
されるものとしても構わない。
号が出力されるとともに、前記歪曲補正処理部において、前記色信号それぞれに応じた前
記ディストーションデータを用いて、前記色信号それぞれに対して異なる前記像高−ディ
ストーション曲線による前記近似式を求めるものとしても構わない。当該近似式を求める
ことで、色毎に歪曲補正を行うとともに色収差補正も同時に行うことができる。
ともに、前記固体撮像素子からの前記色信号によって、前記固体撮像素子の各画素に対し
て全種類の前記色信号を生成する色補間処理部を備えるものとしても構わない。又、この
色補間処理部が、前記歪曲補正処理部の前処理又は後処理のいずれの演算処理を行うもの
であったも構わない。
出力する映像信号による画像を故意に歪曲させる度合いに応じて設定されるものとして、
出力される映像信号による画像が歪曲された画像となるように設定可能としても構わない
。
タを数点格納するとともに、出力座標位置の像高近傍の複数のディストーションデータに
より、出力座標位置の像高近傍の像高−ディストーション曲線を表す近似式を求めること
ができる。よって、像高−ディストーション曲線を再生するために記憶するデータの記憶
容量を抑制することができるとともに、少ない計算量で精度の高い近似曲線を得ることが
でき、精度の高い歪曲補正を行うことが可能である。
や座標位置によって設定するパラメータを変化させることができる。よって、座標位置に
応じたエッジ強調処理を施すことができ、補間処理による解像感の低下を防ぐことができ
る。又、色信号に対して異なる像高−ディストーション曲線による近似式を求めることが
できるため、座標位置の歪曲補正と同時に、色毎の異なる屈折率が原因となる色収差を補
正することができる。更に、出力する映像信号による画像を歪曲させる度合いに応じてデ
ィストーションデータを設定することができるため、所望する画像の表示状態に応じた映
像信号を容易に生成することができる。
本発明の第1の実施形態について、図面を参照して説明する。図1は、本実施形態の撮
像装置の内部構成を示すブロック図である。又、図4は、本実施形態の撮像装置における
信号処理部の内部構成を示すブロック図である。
学系1を介して入射される光を受光して入射光量に応じた電気信号を出力するCCDやC
MOSセンサなどの固体撮像素子2と、固体撮像素子2から出力される映像信号をデジタ
ル信号に変換するA/D変換部3と、映像信号を一時的に格納する画像メモリ4と、画像
メモリ4に格納された映像信号を読み出して各種信号処理を施す信号処理部5と、信号処
理部5で処理された映像信号をアナログ信号に変換するD/A変換部6と、光学系1内の
レンズのズーム位置及びフォーカス位置を設定するレンズ駆動制御部7と、歪曲補正を行
うための後述するディストーションデータを格納したディストーションデータメモリ8と
、レンズ駆動制御部7で設定されたズーム位置及びフォーカス位置に応じてディストーシ
ョンデータメモリ8に格納されたディストーションデータを選択して読み出すセレクタ9
と、を備える。
トーションデータについて、以下に説明する。まず、歪曲収差であるディストーションは
、光学系1の中心である光軸から結像位置までの距離である像高に応じて変化する値であ
る。即ち、図2(a)に固体撮像素子2の有効面を表すとき、この有効面の中心(光学系
1の光軸と重なる位置)からの相対距離を表す像高rによって、ディストーションDが変
化する。又、像高rは、固体撮像素子2の有効面の中心から頂点までの距離(有効面の対
角線の半分の長さに相当)を100%としたときの有効面の中心位置からの相対距離であ
る。
に対して、歪曲収差のない光学系を通じて結像される理想的な結像位置の像高をRとする
。この実際の結像位置の像高rと理想的な結像位置の像高Rとによって、ディストーショ
ンDが以下のように表される。
このようにディストーションDが定義されるとき、そして、糸巻き型歪みとなる場合、
図2(b)のようにディストーションDが正の値であるとともに実際の結像位置の像高r
に対して非線形的に増加する特性となり、又、樽型歪みとなる場合、図2(c)のように
ディストーションDが負の値であるとともに実際の結像位置の像高rに対して非線形的に
減少する特性となる。この実際の結像位置の像高rに対するディストーションDを、信号
処理における実際に結像した座標位置の計算処理を簡略化するため、理想的な結像位置の
像高Rに対するDに変換する。即ち、図2(d)又は図2(e)などのように表すことの
できる理想的な結像位置の像高Rに対するディストーションDの変化を示す像高−ディス
トーション曲線における離散的な複数の点(R,D)に変換して、ディストーションデー
タとしてディストーションデータメモリ8に格納する。
−ディストーション曲線Dxが図3(a)のようになるとき、この像高−ディストーショ
ン曲線Dx上のn個(図3の例においては10個)の離散的な点それぞれの像高Rとディ
ストーションDがディストーションデータとして格納される。このとき、図3(a)の像
高−ディストーション曲線Dx上における離散的な点(以下、「離散点」とする)におけ
る値(R1,Dx−1)、(R2,Dx−2)、…、(Rn,Dx−n)それぞれが、デ
ィストーションデータdx−1,dx−2,…,dx−nとして格納される。尚、以下に
おいて、その処理の説明を簡単にするため、像高−ディストーション曲線Dxにおける隣
接する離散点は、その像高の差がΔRで一定とされるものとして説明する。即ち、一定の
像高ΔRでサンプリングした離散点の像高及びディストーションが、ディストーションデ
ータとして格納される。尚、実際は、この像高の差を任意として一定とする必要はない。
位置によって、m個(図3(b)の例においては6個)の像高−ディストーション曲線D
1,D2,…,Dmが決定される。このとき、m個の像高−ディストーション曲線D1,
D2,…,Dmそれぞれに対して、n個のディストーションデータd1−1〜d1−n,
d2−1〜d2−n,…,dm−1〜dm−nがn×m個だけ格納される。このディスト
ーションデータd1−1,d1−2,…,d1−n,d2−1,d2−2,…,d2−n
,…,dm−1,dm−2,…,dm−nはそれぞれ、(R1,D1−1)、(R2,D
1−2)、…、(Rn,D1−n)、(R1,D2−1)、(R2,D2−2)、…、(
Rn,D2−n)、…、(R1,Dm−1)、(R2,Dm−2)、…、(Rn,Dm−
n)となる。
データのうち、1つの像高−ディストーション曲線を表すn個のディストーションデータ
を、レンズ駆動制御部7で設定されたズーム位置又はフォーカス位置に従ってセレクタ9
が選択する。即ち、セレクタ9がレンズ駆動制御部7によって設定されたズーム位置又は
フォーカス位置によって設定される像高−ディストーション曲線がDk(1≦k≦m)で
あることを確認すると、この像高−ディストーション曲線Dkを表すディストーションデ
ータdk−1〜dk−nをディストーションデータメモリ8より読み出す。
るとともに、固体撮像素子2にマトリクス状に配された画素の座標位置に応じて、映像信
号を構成する各画素のデータを格納する。この画像メモリ4に格納された固体撮像素子2
の各画素に応じたデータが信号処理部5によって読み出された後、読み出された各画素の
データを用いて信号処理が施される。この信号処理部5が図4ような歪曲補正処理部5a
として構成される。
理想座標」とする)を設定する理想座標設定部51と、理想座標設定部51で設定された
理想座標(X,Y)より像高Rxを求める像高算出部52と、像高算出部52で確認され
た像高Rxに対するディストーションDxを求めるディストーション算出部53と、ディ
ストーション算出部53で得られたディストーションDxと理想座標設定部51で設定さ
れた理想座標(X,Y)とより現実に結像した座標位置(x,y)(以下、「現実座標」
とする)を求める歪座標算出部54と、歪座標算出部54で算出された現実座標(x,y
)のデータを求めるための補間係数を算出する補間係数算出部55と、歪座標算出部54
で得られた現実座標(x,y)付近に存在する画素の座標位置(以下、「補間用周辺画素
の座標」とする)を確認して画像メモリ4に補間用周辺画素の座標のデータの出力を指示
するメモリコントローラ56と、画像メモリ4から出力された補間用周辺画素の座標のデ
ータを補間係数算出部55で得られた補間係数によって補間処理することで理想座標(X
,Y)のデータとして出力する画素補間処理部57と、を備える。
、固体撮像素子2において、図5のように、水平方向に2x0+1画素が配されるととも
に、垂直方向に2y0+1画素が配されるものとする。又、この固体撮像素子2における
画素の座標位置は、左上の頂点に配置される画素を原点(0,0)とするため、各画素の
座標位置が(0,0)〜(2x0,2y0)となる。よって、固体撮像素子2における中
心位置(光学系1を構成するレンズの光軸と一致する点)の座標位置が(x0,y0)と
なる。又、理想座標(X,Y)及び現実座標(x,y)はそれぞれ、図5の原点(0,0
)の相対的な位置による座標位置である。
つとして理想座標(X,Y)が理想座標設定部51で設定されると、像高算出部52及び
歪座標算出部54に与えられる。そして、像高算出部52では、理想座標(X,Y)と中
心座標(x0,y0)との相対位置より像高Rxが求められる。即ち、以下の演算式を用
いることによって、像高算出部52で理想座標(X,Y)における像高Rが求められる。
又、このようにして求められた理想座標(X,Y)に対する像高Rxが求められると、
この像高Rxがディストーション算出部53に与えられる。このディストーション算出部
53は、セレクタ9で選択された像高−ディストーション曲線Dkを表すディストーショ
ンデータdk−1〜dk−nが与えられる。そして、像高−ディストーション曲線Dkに
おいて像高算出部52で求められた像高Rx近傍の4つの離散点Va〜Vdに相当するデ
ィストーションデータdk−a,dk−b,dk−c,dk−dを用いて、ディストーシ
ョンデータdk−b,dk−cに相当する離散点Vb,Vcの間の曲線に対する近似式f
(R)を求める。
Vdはそれぞれ、図6(a)に示すように、像高−ディストーション曲線Dk上の隣接す
る離散点であり、ディストーションデータdk−b,dk−cによって表される2つの離
散点Vb,Vcの間に像高Rxが存在する。又、離散点Va,Vb,Vc,Vdのディス
トーションデータdk−a,dk−b,dk−c,dk−dが(Ra,Da)、(Rb,
Db)、(Rc,Dc)、(Rd,Dd)として表される。このとき、Rb=Ra+ΔR
、Rc=Ra+2×ΔR、Rd=Ra+3×ΔR、である。
ーションの差Dc−Db=ΔDが求められる。又、図6(b)のように、離散点Va,V
cによって結ばれる直線L1の傾きt1と、離散点Vb,Vdによって結ばれる直線L2
の傾きt2とが、以下の式によってそれぞれ求められる。
t2=(Dd−Db)/(Rd−Rb)=(Dd−Db)/(2×ΔR)
次に、離散点Vb,Vcによる曲線が離散点Vbを原点(0,0)とするものとして、
その3次式となる近似式F(R)=A×R3+B×R2+C×Rを求める。このとき、以下
の(1)〜(3)式の条件を満たすようにして、近似式F(R)の係数A〜Cが求められ
る。即ち、近似式F(R)による曲線が(ΔR,ΔD)となる離散点Vcを通過するとと
もに、離散点Vbでの接線の傾きが直線L1の傾きt1と等しく、離散点Vcでの接線の
傾きが直線L2の傾きt2と等しいものとする。
F’(0)=3A×02+2B×0+C=C=t1 …(2)
F’(ΔR)=3A×(ΔR)2+2B×(ΔR)+C=t2 …(3)
よって、上述の(1)〜(3)式による条件式を満たす係数A〜Cが以下のように得ら
れる。そして、このように得られた係数A〜CによるF(R)を離散点Vbの座標(Ra
+ΔR,Db)分だけ平行移動することによって、以下のようなf(R)が求められる。
B=−(2×t1+t2−3×ΔD/ΔR)/ΔR
C=t1
f(R)=A×(R−Rb)3+B×(R−Rb)2+C×(R−Rb)+Db
このようにして求められた近似式f(R)に対して、像高算出部52より与えられた像
高Rxを代入することで、ディストーションDx=f(Rx)を求める。そして、得られ
たディストーションDxが歪座標算出部54に与えられる。歪座標算出部54では、ディ
ストーション算出部53で得られたディストーションDxと理想座標設定部51で設定さ
れた理想座標(X,Y)とより、理想座標(X,Y)に対する現実座標(x,y)を求め
る。即ち、現実座標(x,y)における水平方向の座標(x)及び垂直方向の座標(y)
それぞれの値が、以下のようになる。
y=(Y−x0)×(1+Dx/100)+y0
このようにして現実座標(x,y)が歪座標算出部54で求められると、補間係数算出
部55及びメモリコントローラ56に与えられる。補間係数算出部55及びメモリコント
ローラ56ではそれぞれ、まず、求められた現実座標(x,y)の水平方向の座標(x)
及び垂直方向の座標(y)それぞれの値が整数であるか否かを確認する。即ち、xi、y
iを整数とするとともに、xd、ydを小数とするとともに、x=xi+xd、y=yi
+ydとしたとき、xdが0であるか否か、ydが0であるか否かをそれぞれ確認する。
と一致するため、図7(a)のように、メモリコントローラ56によって座標位置(xi
,yi)の画素のデータがデータメモリ4より出力されるように指示される。又、このと
き、補間係数算出部55では、座標位置(xi,yi)の画素のデータがそのまま用いら
れるように補間係数を1に設定する。よって、画素補間処理部57では、データメモリ4
より出力される座標位置(xi,yi)の画素のデータdiiを、理想座標(X,Y)のデ
ータとして出力する。
i)、(xi,yi+1)となる2つ画素を補間用周辺画素とし、メモリコントローラ5
6によって座標位置(xi,yi)、(xi,yi+1)の画素のデータがデータメモリ
4より出力されるように指示される。又、このとき、補間係数算出部55では、現実座標
(x,y)と座標位置(xi,yi)、(xi,yi+1)との相対位置より、補間係数
をydに設定する。よって、画素補間処理部57では、データメモリ4より出力される座
標位置(xi,yi)、(xi,yi+1)の画素のデータdii,di(i+1)を補間係数y
dで補間したデータ(1−yd)×dii+yd×di(i+1)を、理想座標(X,Y)のデー
タとして出力する。
i)、(xi+1,yi)となる2つ画素を補間用周辺画素とし、メモリコントローラ5
6によって座標位置(xi,yi)、(xi+1,yi)の画素のデータがデータメモリ
4より出力されるように指示される。又、このとき、補間係数算出部55では、現実座標
(x,y)と座標位置(xi,yi)、(xi+1,yi)との相対位置より、補間係数
をxdに設定する。よって、画素補間処理部57では、データメモリ4より出力される座
標位置(xi,yi)、(xi+1,yi)の画素のデータdii,d(i+1)iを補間係数x
dで補間したデータ(1−xd)×dii+xd×d(i+1)iを、理想座標(X,Y)のデー
タとして出力する。
i)、(xi,yi+1)、(xi+1,yi)、(xi+1,yi+1)となる4つ画
素を補間用周辺画素とし、メモリコントローラ56によって座標位置(xi,yi)、(
xi,yi+1)、(xi+1,yi)、(xi+1,yi+1)の画素のデータがデー
タメモリ4より出力されるように指示される。又、このとき、補間係数算出部55では、
現実座標(x,y)と座標位置(xi,yi)、(xi,yi+1)、(xi+1,yi
)、(xi+1,yi+1)との相対位置より、補間係数をxd,ydに設定する。よっ
て、画素補間処理部57では、データメモリ4より出力される座標位置(xi,yi)、
(xi,yi+1)、(xi+1,yi)、(xi+1,yi+1)の画素のデータdii
,di(i+1),d(i+1)i,d(i+1)(i+1)を補間係数xd,ydで補間したデータ(1−yd
)×((1−xd)×dii+xd×d(i+1)i)+yd×((1−xd)×di(i+1)+xd
×d(i+1)(i+1))を、理想座標(X,Y)のデータとして出力する。
画素補間処理部57で補間されることで、歪曲補正が施されたデータがD/Aコンバータ
6に出力される。尚、このとき、現実座標(x,y)と補間用周辺画素の座標位置との相
対関係を確認するとき、座標位置(xi,yi)の補間用周辺画素のみを確認するものと
し、現実座標(x,y)と座標位置(xi,yi)との水平方向及び垂直方向の相対関係
を確認することで、補間係数を確認するものとしても構わない。
リングする像高ΔRが2αで且つ一定である場合、ディストーション算出部53で求めら
れる近似式f(R)の係数A,Bの算出式を以下の式に置き換えることが可能になり、除
算回路の必要がなくなる。尚、以下の式中における記号a≫bは、aをbビット右(下位
側)にシフトすることを意味する。
B=−(2×t1+t2)≫α+(3×ΔD)≫(2×α)
又、ディストーションメモリ8において、レンズ駆動制御部7で設定されたm箇所のズ
ーム位置又はフォーカス位置に対して、図3(b)のようなm個の像高−ディストーショ
ン曲線D1,D2,…,Dmにおける離散点となるディストーションデータが格納される
ものとした。このとき、m箇所のズーム位置又はフォーカス位置以外のズーム位置又はフ
ォーカス位置が設定されたとき、その前後となる位置のディストーションデータメモリ8
に格納された複数の像高−ディストーション曲線のディストーションデータを補間処理す
ることで、設定されたズーム位置又はフォーカス位置に応じたディストーションデータを
生成するものとしても構わない。
データメモリ8より必要なディストーションデータを選択してディストーション算出部5
3に与えるものとしても構わない。このとき、像高算出部52で得られた像高に応じてデ
ィストーション算出部53がセレクタ9を動作させるとともに、セレクタ9がディストー
ションデータメモリ8より必要なディストーションデータを選択して与えるものとしても
構わない。
本発明の第2の実施形態について、図面を参照して説明する。本実施形態の撮像装置は
、第1の実施形態と同様、図1のような構成となる。又、図8は、本実施形態の撮像装置
における信号処理部の内部構成を示すブロック図である。本実施形態の撮像装置は、第1
の実施形態の撮像装置と異なり、信号処理部5において歪曲補正処理だけでなくエッジ強
調処理が施される。よって、この信号処理部5以外の部分及びその動作については第1の
実施形態と同様となるため、第1の実施形態を参照するものとして、その詳細な説明は省
略する。
同様の歪曲補正処理部5aと、二次微分などを行うことでエッジ成分を抽出するとともに
このエッジ成分を元の映像信号に加算してエッジ強調処理を施すエッジ強調処理部5bと
、を備える。そして、図8に示すエッジ強調処理部5bは、画像メモリ4よりデータを読
み出す画素を指示するメモリコントローラ61と、画像メモリ4より読み出された対象画
素を含む複数画素のデータに対して二次微分やコアリング処理を施すことで各画素に対す
るエッジ成分を抽出するエッジ成分抽出部62と、エッジ成分抽出部62で抽出されたエ
ッジ成分を増幅率βで増幅する増幅部63と、増幅部63での増幅率βを対象画素毎に設
定する増幅率設定部64と、画像メモリ4より読み出された対象画素のデータに増幅部6
3で増幅されたエッジ成分を加算する加算部65と、を備える。尚、歪曲補正処理部5a
の構成は、第1の実施形態と同様、図4に示す構成となる。
補正処理部5aの動作については、第1の実施形態を参照するものとして、その詳細な説
明は省略する。即ち、第1の実施形態と同様にして、歪曲補正処理部5aの各部が動作す
ることによって歪曲補正処理が施されることによって、理想座標(0,0)〜(2x0,
2y0)それぞれに対するデータが画像補間処理部57より出力される。このようにして
画像補間処理部57より出力された理想座標(0,0)〜(2x0,2y0)それぞれに
対するデータが、その座標位置に応じた画像メモリ4のアドレス位置に格納される。
0)それぞれに対するデータが格納されると、理想座標(0,0)から順にエッジ強調処
理を施す対象画素としてそのデータが画像メモリ4より読み出されるとともに、対象画素
の水平方向及び垂直方向に隣接した複数のエッジ強調用周辺画素のデータが画像メモリ4
より読み出される。このとき、メモリコントローラ61によって対象画素及びエッジ強調
用周辺画素のデータが読み出されるように画像メモリ4のアドレスが指示される。そして
、読み出された対象画素及びエッジ強調用周辺画素のデータがエッジ成分抽出部62に与
えられて、対象画素に対するエッジ成分edが抽出される。
ーションなどに応じて増幅率βが設定される。尚、増幅率設定部64における増幅率βの
設定方法については、後述する。そして、エッジ成分抽出部62で抽出されたエッジ成分
edと増幅率設定部64における増幅率βとが増幅部63に与えられると、増幅率βでエ
ッジ成分edが増幅されてβ×edが出力される。又、画像メモリ4から読み出された対
象画素のデータdと増幅部63で増幅されたエッジ成分β×edが加算部65に与えられ
ると、加算部65で加算されて、対象画素のデータd+β×edがD/Aコンバータ6に
出力される。このように各部が動作することにより、歪曲補正処理部5aで歪曲補正処理
された映像信号に対して、エッジ強調処理部5bにおいてエッジ強調処理が施される。
動作の各例について、以下に説明する。
1.増幅率βの設定動作の第1例
本例において、増幅率設定部64は、歪曲補正処理部5aにおける像高算出部52で求
められた像高が与えられる。即ち、メモリコントローラ61によって読み出しが指示され
た対象画素の座標位置の像高Rxが像高算出部52により与えられる。このとき、理想座
標設定部51によって設定された理想座標に対する像高算出部52で演算された像高Rx
が遅延されて、エッジ補正処理部5bの増幅率設定部64に与えられるようにすることで
、対象画素の座標位置における像高Rxが増幅率設定部64に与えられるようにしても構
わない。
、図9の関係より求められる。尚、図9は、増幅率βと像高Rxとの関係を示すグラフで
あり、像高Rxが大きくなるほど増幅率βが大きくなるような特性を示す。このようにす
ることで、像高Rxが大きくなるほど増幅部63で増幅されたエッジ成分が大きくなる。
即ち、ディストーションの値が大きくなる像高が大きい部分ほど、強いエッジ強調処理が
施される。
2.増幅率βの設定動作の第2例
本例において、増幅率設定部64は、歪曲補正処理部5aにおけるディストーション算
出部53で求められたディストーションDx=f(Rx)が与えられる。即ち、メモリコ
ントローラ61によって読み出しが指示された対象画素の座標位置のディストーションD
xがディストーション算出部53により与えられる。このとき、理想座標設定部51によ
って設定された理想座標に対するディストーション算出部53で演算されたディストーシ
ョンDxが遅延されて、エッジ補正処理部5bの増幅率設定部64に与えられるようにす
ることで、対象画素の座標位置におけるディストーションDxが増幅率設定部64に与え
られるようにしても構わない。
ンDxに応じた増幅率βが、図10の関係より求められる。尚、図10は、増幅率βとデ
ィストーションDxとの関係を示すグラフであり、ディストーションDxの絶対値が大き
くなるほど増幅率βが大きくなるような特性を示す。このようにすることで、ディストー
ションDxの絶対値が大きくなるほど増幅部63で増幅されたエッジ成分が大きくなる。
即ち、ディストーションの絶対値が大きくなる部分ほど、強いエッジ強調処理が施される
。
3.増幅率βの設定動作の第3例
本例において、増幅率設定部64は、歪曲補正処理部5aにおける歪座標算出部54で
求められた現実座標(x,y)が与えられる。即ち、メモリコントローラ61によって読
み出しが指示された対象画素の座標位置の現実座標(x,y)が歪座標算出部54により
与えられる。このとき、理想座標設定部51によって設定された理想座標に対する歪座標
算出部54で演算された現実座標(x,y)が遅延されて、エッジ補正処理部5bの増幅
率設定部64に与えられるようにすることで、対象画素の座標位置における現実座標(x
,y)が増幅率設定部64に与えられるようにしても構わない。
この現実座標(x,y)が(xi+xd,yi+yd)となるとき、この現実座標(x,
y)の補間用周辺画素の座標位置(xi,yi)、(xi,yi+1)、(xi+1,y
i)、(xi+1,yi+1)が確認される。即ち、xd及びydがともに0のときは、
図7(a)のように座標位置(xi,yi)の画素と一致することが確認され、又、xd
が0でありydが0でないときは、図7(b)のように、座標位置(xi,yi)、(x
i,yi+1)となる2つ画素を補間用周辺画素とし、又、ydが0でありxdが0でな
いときは、図7(c)のように、座標位置(xi,yi)、(xi+1,yi)となる2
つ画素を補間用周辺画素とし、又、xd及びydがともに0でないときは、図7(d)の
ように、座標位置(xi,yi)、(xi,yi+1)、(xi+1,yi)、(xi+
1,yi+1)となる4つ画素を補間用周辺画素とする。
確認された補間用周辺画素と対象画素との水平方向及び垂直方向の相対関係を確認する。
このとき、図11に示すように、対象画素の現実座標(x,y)が、座標位置(xi,y
i)、(xi,yi+1)、(xi+1,yi)、(xi+1,yi+1)の補間用周辺
画素Ga〜Gdの中心位置Goに近ずくほど、増幅率βが大きくなるようにして、増幅率
βが設定される。即ち、歪曲補正処理部5aの補間係数算出部55で得られる水平方向及
び垂直方向それぞれ補間係数xd,ydが0.5に近いほど、その増幅率βが大きくなる
。このとき、βと補間係数xd,ydの関係を以下に示すそれぞれの演算式で表されるも
のとしても構わない。尚、β0は、定数である。
β=β0×((0.5−|xd−0.5|)+(0.5−|yd−0.5|))
β=β0×((0.5−|xd−0.5|)2+(0.5−|yd−0.5|)2)1/2
この第1例〜第3例によるいずれかの動作を増幅率設定部64が行うことで、各画素毎
に最適な増幅率βを設定することができる。尚、このように増幅率βが増幅率設定部64
で設定されるとき、第1例〜第3例を組み合わせて設定動作が行われるものとしても構わ
ない。このとき、例えば、第1例と第3例を組み合わせて、第1例のようにして対象画素
の像高により増幅率βを設定した後に第3例のようにして対象画素の現実座標に基づいて
増幅率βを設定するようにしても構わないし、第2例と第3例を組み合わせて、第2例の
ようにして対象画素のディストーションにより増幅率βを設定した後に第3例のようにし
て対象画素の現実座標に基づいて増幅率βを設定するようにしても構わない。
を行った後にエッジ強調処理部5bによるエッジ強調処理を行うものとしたが、エッジ強
調処理部5bによるエッジ強調処理を行った後に歪曲補正処理部5aにおける歪曲補正処
理を行うものとしても構わない。
本発明の第3の実施形態について、図面を参照して説明する。本実施形態の撮像装置は
、第1の実施形態と同様、図1のような構成となる。又、図12は、本実施形態の撮像装
置における信号処理部の内部構成を示すブロック図である。本実施形態の撮像装置は、第
2の実施形態の撮像装置と異なり、信号処理部5において歪曲補正処理及びエッジ強調処
理だけでなく色収差補正処理が施される。よって、この信号処理部5以外の部分及びその
動作については第1及び第2の実施形態と同様となるため、第1及び第2の実施形態を参
照するものとして、その詳細な説明は省略する。
いに隣接した画素から異なる色信号が出力されるように、固体撮像素子2の各画素の表面
に異なる色フィルタが設置される。即ち、固体撮像素子2の画素表面には、複数種類の色
フィルタより成る単板式フィルタが設置される。尚、本実施形態において、この固体撮像
素子2に設置される単板式フィルタは、R(Red)、G(Green)、B(Blue)の色フィル
タが図13のように配列されたベイヤ型の色フィルタであるものとする。
形態の歪曲補正処理部5aと同様の構成となる歪曲補正処理部5ra,5ga,5baと
、第2の実施形態のエッジ強調処理部5bと同様の構成となるエッジ強調処理部5rb,
5gb,5bbと、各色信号(RGB信号)に対する周辺画素のデータに基づいて補間処
理を行う色補間処理部5cと、各色信号より輝度信号と色差信号を生成する信号生成部5
dと、ディストーションデータを各色信号の屈折率の比によって増幅又は減衰させるディ
ストーションデータ増幅部50r,50bと、を備える。
ドレス位置に対してその現実座標に応じて格納された映像信号を各画素のデータ毎に読み
出す。そして、読み出した座標位置よりRGB信号のいずれの色信号であるか否かを判定
し、R信号の場合、この画素におけるG信号及びB信号を周辺画素より補間処理によって
生成し、G信号の場合、この画素におけるR信号及びB信号を周辺画素より補間処理によ
って生成し、B信号の場合、この画素におけるR信号及びG信号を周辺画素より補間処理
によって生成する。そして、各画素毎にRGB信号それぞれを生成し、画像メモリ4の現
実座標に応じた各アドレス位置に格納する。
a)のように、画像メモリ4において、RGB信号それぞれが各信号を出力する現実座標
(0,0)〜(2x0,2y0)に応じたアドレス位置A00〜A2xo2yoに格納されている
。そして、色補間処理の対象画素となる画素位置PxyのR信号が読み出されたとき、図1
5(a)のようにRGB信号それぞれを出力する画素が配置される場合、水平方向及び垂
直方向に隣接した画素位置P(x-1)y、P(x+1)y、Px(y-1)、Px(y+1)の4画素のG信号に
よって画素位置PxyのG信号が補間されて生成されるとともに、対角線方向に隣接した画
素位置P(x-1)(y-1)、P(x-1)(y+1)、P(x+1)(y-1)、P(x+1)(y+1)の4画素のB信号によ
って画素位置PxyのB信号が補間されて生成される。
b)のようにRGB信号それぞれを出力する画素が配置される場合、水平方向に隣接した
画素位置P(x-1)y、P(x+1)yの2画素のR信号によって画素位置PxyのR信号が補間され
て生成されるとともに、垂直方向に隣接した画素位置Px(y-1)、Px(y+1)の2画素のB信
号によって画素位置PxyのB信号が補間されて生成される。又、図15(c)のようにR
GB信号それぞれを出力する画素が配置される場合、垂直方向に隣接した画素位置Px(y-
1)、Px(y+1)の2画素のR信号によって画素位置PxyのR信号が補間されて生成されると
ともに、水平方向に隣接した画素位置P(x-1)y、P(x+1)yの2画素のB信号によって画素
位置PxyのB信号が補間されて生成される。
d)のようにRGB信号それぞれを出力する画素が配置される場合、水平方向及び垂直方
向に隣接した画素位置P(x-1)y、P(x+1)y、Px(y-1)、Px(y+1)の4画素のG信号によっ
て画素位置PxyのG信号が補間されて生成されるとともに、対角線方向に隣接した画素位
置P(x-1)(y-1)、P(x-1)(y+1)、P(x+1)(y-1)、P(x+1)(y+1)の4画素のR信号によって
画素位置PxyのR信号が補間されて生成される。尚、図14及び図15において、かっこ
内に示すRGBが、RGB信号それぞれに対応しているものとする。
における色信号を用いた色補間処理が行われると、各画素毎にRGB信号が色補間処理部
5cより画像メモリ4に出力される。そして、生成された各画素のRGB信号はそれぞれ
、画像メモリ4内においてRGB信号それぞれに割り当てられたメモリ領域4r,4g,
4bの現実座標に応じたアドレス位置に格納される。
素位置におけるR信号が、現実座標(0,0)〜(2x0,2y0)に応じたメモリ領域
4rのアドレス位置Ar00〜Ar2xo2yoに格納され、又、現実座標(0,0)〜(2x0
,2y0)それぞれの画素位置におけるG信号が、現実座標(0,0)〜(2x0,2y
0)に応じたメモリ領域4gのアドレス位置Ag00〜Ag2xo2yoに格納され、又、現実座
標(0,0)〜(2x0,2y0)それぞれの画素位置におけるB信号が、現実座標(0
,0)〜(2x0,2y0)に応じたメモリ領域4bのアドレス位置Ab00〜Ab2xo2yo
に格納される。
号が画像メモリ4に格納されると、歪曲補正処理部5ra,5ga,5baが、第1の実
施形態の歪曲補正処理部5aと同様の動作を行うことで、RGB信号それぞれに対する歪
曲補正処理が施される。このとき、セレクタ9がディストーションデータメモリ8より選
択したディストーションデータがG信号に対するものであるとすると、このディストーシ
ョンデータが歪曲補正処理部5gaに直接与えられる。又、ディストーションデータ増幅
部50rでは、R信号の屈折率とG信号の屈折率の比に基づいて得られる増幅率によりセ
レクタ9から与えられるディストーションデータを増幅又は減衰した後、歪曲補正処理部
5raに与える。同様に、ディストーションデータ増幅部50bでは、B信号の屈折率と
G信号の屈折率の比に基づいて得られる増幅率によりセレクタ9から与えられるディスト
ーションデータを増幅又は減衰した後、歪曲補正処理部5baに与える。
ストーションデータ増幅部50rからのディストーションデータに基づいた歪曲補正処理
を行うことで、理想座標(0,0)〜(2x0,2y0)それぞれに対するデータを生成
する。そして、理想座標(0,0)〜(2x0,2y0)それぞれに対する歪曲補正処理
後のR信号のデータが、その座標位置に応じた画像メモリ4におけるメモリ領域4rのア
ドレス位置に格納される。同様に、歪曲補正処理部5gaは、メモリ領域4gに格納され
たデータを用いて、セレクタ9から直接与えられるディストーションデータに基づいた歪
曲補正処理を行うことで、理想座標(0,0)〜(2x0,2y0)それぞれに対するデ
ータを生成する。そして、理想座標(0,0)〜(2x0,2y0)それぞれに対する歪
曲補正処理後のG信号のデータが、その座標位置に応じた画像メモリ4におけるメモリ領
域4gのアドレス位置に格納される。
ーションデータ増幅部50bからのディストーションデータに基づいた歪曲補正処理を行
うことで、理想座標(0,0)〜(2x0,2y0)それぞれに対するデータを生成する
。そして、理想座標(0,0)〜(2x0,2y0)それぞれに対する歪曲補正処理後の
B信号のデータが、その座標位置に応じた画像メモリ4におけるメモリ領域4bのアドレ
ス位置に格納される。このように歪曲補正処理部5ra,5ga,5baそれぞれが動作
を行うため、歪曲補正処理を行うとともに、色信号毎に屈折率が異なるために発生する色
収差をも補正することができる。
後の理想座標(0,0)〜(2x0,2y0)それぞれに対するRGB信号のデータが格
納されると、エッジ強調処理部5rb,5gb,5bbが、第2の実施形態のエッジ強調
処理部5bと同様の動作を行うことで、RGB信号それぞれに対するエッジ強調処理が施
される。このとき、エッジ強調処理部5rb,5gb,5bbはそれぞれ、歪曲補正処理
部5ra,5ga,5baそれぞれで求められた像高及びディストーション及び現実座標
が与えられ、理想座標それぞれでの増幅率が設定される。
及びディストーション及び現実座標に基づいて、理想座標(0,0)〜(2x0,2y0
)それぞれに対する増幅率を求める。そして、メモリ領域4rに格納された理想座標(0
,0)〜(2x0,2y0)それぞれに対するデータを用いて、その理想座標に対して設
定された増幅率によってエッジ強調処理を行う。
及びディストーション及び現実座標に基づいて、理想座標(0,0)〜(2x0,2y0
)それぞれに対する増幅率を求める。そして、メモリ領域4gに格納された理想座標(0
,0)〜(2x0,2y0)それぞれに対するデータを用いて、その理想座標に対して設
定された増幅率によってエッジ強調処理を行う。
ディストーション及び現実座標に基づいて、理想座標(0,0)〜(2x0,2y0)そ
れぞれに対する増幅率を求める。そして、メモリ領域4bに格納された理想座標(0,0
)〜(2x0,2y0)それぞれに対するデータを用いて、その理想座標に対して設定さ
れた増幅率によってエッジ強調処理を行う。
が施された理想座標(0,0)〜(2x0,2y0)それぞれにおけるRGB信号は、信
号生成部5dに出力される。そして、この信号生成部5dにおいて、各画素の理想座標位
置毎のRGB信号を用いて、輝度信号及び色差信号が生成されると、D/A変換部6に出
力される。
った後に歪曲補正処理部5ra,5ga,5ba及びエッジ強調処理部5rb,5gb,
5bbによる歪曲補正処理及びエッジ強調処理を行うものとしたが、第2の実施形態のよ
うな歪曲補正処理部5a及びエッジ強調処理部5bによる歪曲補正処理及びエッジ強調処
理を行った後に色補間処理部5cにおける色補間処理を行うものとしても構わない。この
とき、歪曲補正処理部5a及びエッジ強調処理部5bでは、各理想座標位置毎に、その色
信号に応じたディストーションデータに設定して、歪曲補正処理及びエッジ強調処理が行
われる。
ディストーションデータがRB信号それぞれに応じたディストーションデータに変換され
るものとしたが、セレクタ9によってRGB信号それぞれに応じたディストーションデー
タが選択されて、歪曲補正処理部5ra,5ga,5baに与えられるものとしても構わ
ない。更に、各色信号毎に備えられた固体撮像素子2にフィルタが設置される3板式フィ
ルタとしても構わないし、色フィルタが補色型のフィルタであっても構わない。
本発明の第4の実施形態について、図面を参照して説明する。図16は、本実施形態の
撮像装置の内部構成を示すブロック図である。
によって画像の表示状態を設定する表示状態設定部10を備えるとともに、この表示状態
設定部10で設定された画像の状態を示す信号がセレクタ9に与えられる。即ち、表示状
態設定部10が操作されることによって、故意に樽型又は糸巻き型の歪みを備えた画像が
表示されるように、設定することができる。
タ9に与えられると、セレクタ9では、レンズ駆動制御部7によって設定される光学系1
内のレンズのズーム位置及びフォーカス位置と表示状態設定部10によって設定された画
像の表示状態とに基づいて、ディストーションデータメモリ8に格納されたディストーシ
ョンデータを選択する。よって、信号処理部5に備えられた歪曲補正処理部5a(第3の
実施形態の歪曲補正処理部5ra,5ga,5baも含む)において、表示状態設定部1
0によって設定された画像の表示状態に応じた映像信号が生成される。
り決定されるディストーションデータと、表示状態設定部10によって設定された画像の
表示状態により確認されるディストーションデータとを、ディストーションデータメモリ
8より読み出して、歪曲補正処理部5aに与えるディストーションデータを求めるものと
しても構わない。
ィストーション曲線によるディストーションデータと、表示状態設定部10によって設定
された画像の表示状態を現実座標とすることで決定される像高−ディストーション曲線に
よるディストーションデータとを、ディストーションデータメモリ8より読み出す。そし
て、読み出したそれぞれの曲線におけるディストーションデータについて、像高が同一と
なるディストーションデータの相関関係を確認し、その相関関係を利用して、歪曲補正処
理部5aで歪曲補正処理を行うためのディストーションデータを生成するようにしても構
わない。
ことができるため、例えば、固体撮像素子2から与えられる映像信号が図17(b)のよ
うな樽型歪みを備えるときに、信号処理部5において故意に図17(a)のような糸巻き
型歪みを備える映像信号に変換して出力することができる。又、本実施形態において、セ
レクタ9によるディストーションデータの設定動作が異なるのみで、信号処理部5は第1
〜第3の実施形態におけるいずかの信号処理部5と同様の動作を行う。
うな撮像装置に適用可能である。又、このような撮像装置として、モノクロ映像又はカラ
ー映像のいずれを撮像するものであっても適用することができる。更に、撮像されて得ら
れた映像信号をデジタル信号として記録する装置、又は、撮像されて得られた映像信号を
アナログ信号として記録する装置、のいずれに対しても適用することができる。
2 固体撮像素子
3 A/D変換部
4 画像メモリ
5 信号処理部
5a,5ra,5ga,5ba 歪曲補正処理部
5b,5rb,5gb,5bb エッジ強調処理部
5c 色補間処理部
5d 信号生成部
6 D/A変換部
7 レンズ駆動制御部
8 ディストーションデータメモリ
9 セレクタ
10 表示状態設定部
Claims (12)
- 入力された映像信号の座標位置である入力座標位置を変換することで映像信号に歪曲補
正を施す歪曲補正装置において、
出力する映像信号の座標位置である出力座標位置と当該出力座標位置に対応する前記入
力座標位置の相関値であるディストーションと該出力座標位置に対する前記映像信号によ
る画像の中心位置からの距離である像高との関係を示す像高−ディストーション曲線上に
おける離散点となるディストーションデータを、格納するディストーションデータメモリ
と、
該ディストーションデータメモリより前記出力座標位置による前記像高近傍の所定数の
前記ディストーションデータを読み出して、当該出力座標位置による前記像高近傍におけ
る前記像高−ディストーション曲線を近似する近似式を算出して、当該近似式に当該出力
座標位置による前記像高を代入することで、当該出力座標位置による前記ディストーショ
ンを求めるディストーション算出部と、
前記出力座標位置と、当該出力座標位置に対して前記ディストーション算出部で算出さ
れた前記ディストーションとに基づいて、前記入力座標位置を求める座標算出部と、
を備え、
前記出力座標位置のデータとして、当該出力座標位置に対して前記座標算出部で得られ
た前記入力座標位置のデータを出力することを特徴とする歪曲補正装置。 - 前記座標算出部で得られた前記入力座標位置に対する映像信号のデータが入力されない
とき、前記入力座標位置近傍のデータの存在する複数の前記入力座標を周辺入力座標とし
て確認して、該複数の周辺入力座標と前記座標算出部で得られた前記入力座標位置との位
置関係に応じて、該複数の周辺入力座標におけるデータを補間することで、前記座標算出
部で得られた前記入力座標位置のデータを生成する補間処理部を、備えることを特徴とす
る請求項1に記載の歪曲補正装置。 - 前記ディストーション算出部において、前記出力座標位置による前記像高近傍の4つの
前記ディストーションデータを読み出すことによって、前記近似式を算出することを特徴
とする請求項1又は請求項2に記載の歪曲補正装置。 - 前記出力座標位置に対する前記像高を求める像高算出部を備えるとともに、
前記ディストーション算出部において、
前記像高算出部で算出された前記像高に近接した値であるとともに当該像高よりも小さ
い値となる像高を有するディストーションデータを第1ディストーションデータとして前
記ディストーションデータメモリより読み出し、
前記像高算出部で算出された前記像高に近接した値であるとともに当該像高よりも大き
い値となる像高を有するディストーションデータを第2ディストーションデータとして前
記ディストーションデータメモリより読み出し、
前記出力座標位置に対する前記第1ディストーションデータの像高に近接した値である
とともに当該像高よりも小さい値となる像高を有するディストーションデータを第3ディ
ストーションデータとして前記ディストーションデータメモリより読み出し、
前記出力座標位置に対する前記第2ディストーションデータの像高に近接した値である
とともに当該像高よりも大きい値となる像高を有するディストーションデータを第4ディ
ストーションデータとして前記ディストーションデータメモリより読み出し、
前記第1〜第4ディストーションデータを用いて3次式となる前記近似式を算出するこ
とを特徴とする請求項3に記載の歪曲補正装置。 - 前記ディストーション算出部において、
前記第2及び第3ディストーションデータによる直線の傾きが、算出する前記近似式の
前記第1ディストーションデータにおける接線の傾きに等しいことを示す第1条件と、
前記第1及び第4ディストーションデータによる直線の傾きが、算出する前記近似式の
前記第2ディストーションデータにおける接線の傾きに等しいことを示す第2条件と、
前記第1及び第2ディストーションデータを前記近似式が通過することを示す第3条件
と、を確認し、
前記第1〜第3条件を満たす3次式を前記近似式とすることを特徴とする請求項4に記
載の歪曲補正装置。 - レンズによって構成される光学系と、該光学系の前記レンズの位置を移動させるレンズ
駆動制御部と、前記レンズの位置に応じて入力された映像信号に対して歪曲補正処理を施
す歪曲補正処理部と、を備える撮像装置において、
請求項1〜請求項5のいずれかに記載の歪曲補正装置を前記歪曲補正処理部として備え
るとともに、
前記ディストーションデータメモリが、複数の前記像高−ディストーション曲線に対す
るディストーションデータを格納し、
前記レンズ駆動制御部によって設定された前記レンズの位置に応じて、前記ディストー
ションデータメモリより読み出す前記ディストーションデータが設定されることを特徴と
する撮像装置。 - 入力された映像信号に対して各画素位置で異なる度合いのエッジ強調処理を施すエッジ
強調処理部を備えることを特徴とする請求項6に記載の撮像装置。 - 前記エッジ強調処理に利用するパラメータを、対象画素となる前記出力座標位置の像高
に応じて設定されることを特徴とする請求項7に記載の撮像装置。 - 前記エッジ強調処理に利用するパラメータを、対象画素となる前記出力座標位置のディ
ストーションに応じて設定されることを特徴とする請求項7に記載の撮像装置。 - 前記エッジ強調処理に利用するパラメータを、対象画素となる前記出力座標位置に対し
て求められた前記入力座標位置に応じて設定されることを特徴とする請求項7に記載の撮
像装置。 - 前記固体撮像素子より複数種類の色信号となる映像信号が出力されるとともに、前記歪
曲補正処理部において、前記色信号それぞれに応じた前記ディストーションデータを用い
て、前記色信号それぞれに対して異なる前記像高−ディストーション曲線による前記近似
式を求めることを特徴とする請求項6〜請求項10のいずれかに記載の撮像装置。 - 前記ディストーションデータメモリより読み出す前記ディストーションデータが、出力
する映像信号による画像を意図的に歪曲させる度合いに応じて設定されることを特徴とす
る請求項6〜請求項11のいずれかに記載の撮像装置。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004094595A JP4104571B2 (ja) | 2004-03-29 | 2004-03-29 | 歪曲補正装置及びこの歪曲補正装置を備えた撮像装置 |
CNA2005100558998A CN1678035A (zh) | 2004-03-29 | 2005-03-17 | 畸变修正装置和具备该畸变修正装置的摄像装置 |
US11/091,346 US7719597B2 (en) | 2004-03-29 | 2005-03-29 | Distortion correction device and image sensing device provided therewith |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004094595A JP4104571B2 (ja) | 2004-03-29 | 2004-03-29 | 歪曲補正装置及びこの歪曲補正装置を備えた撮像装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2005286482A JP2005286482A (ja) | 2005-10-13 |
JP4104571B2 true JP4104571B2 (ja) | 2008-06-18 |
Family
ID=34989467
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2004094595A Expired - Fee Related JP4104571B2 (ja) | 2004-03-29 | 2004-03-29 | 歪曲補正装置及びこの歪曲補正装置を備えた撮像装置 |
Country Status (3)
Country | Link |
---|---|
US (1) | US7719597B2 (ja) |
JP (1) | JP4104571B2 (ja) |
CN (1) | CN1678035A (ja) |
Families Citing this family (50)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104270571B (zh) * | 2014-10-20 | 2018-06-01 | 联想(北京)有限公司 | 图像处理方法以及电子设备 |
US10176559B2 (en) | 2001-12-22 | 2019-01-08 | Lenovo (Beijing) Co., Ltd. | Image processing method applied to an electronic device with an image acquiring unit and electronic device |
JP4893629B2 (ja) * | 2005-12-05 | 2012-03-07 | 株式会社ニコン | 歪曲補正方法、歪曲補正プログラム、画像処理装置、交換レンズ、カメラ、及びカメラシステム |
JP4104631B2 (ja) * | 2006-03-27 | 2008-06-18 | 三洋電機株式会社 | 運転支援装置 |
US7656425B2 (en) * | 2006-03-31 | 2010-02-02 | Mitutoyo Corporation | Robust field of view distortion calibration |
JP4664259B2 (ja) * | 2006-09-08 | 2011-04-06 | 三菱電機株式会社 | 画像補正装置および画像補正方法 |
JP4652301B2 (ja) * | 2006-09-08 | 2011-03-16 | 株式会社日本マイクロニクス | カラー表示板の画質検査方法および画質検査装置 |
JP4470930B2 (ja) * | 2006-09-21 | 2010-06-02 | ソニー株式会社 | 画像処理装置、画像処理方法、及び、プログラム |
JP2008146155A (ja) * | 2006-12-06 | 2008-06-26 | Sony Corp | 画像処理方法および装置 |
WO2008081575A1 (ja) * | 2006-12-27 | 2008-07-10 | Nikon Corporation | 歪曲補正方法、歪曲補正装置、歪曲補正プログラム、及びディジタルカメラ |
WO2008096533A1 (ja) | 2007-02-07 | 2008-08-14 | Nikon Corporation | 画像処理装置および画像処理方法 |
WO2008096534A1 (ja) * | 2007-02-07 | 2008-08-14 | Nikon Corporation | 画像処理装置および画像処理方法 |
JP2008227582A (ja) * | 2007-03-08 | 2008-09-25 | Hoya Corp | 撮像装置 |
JP4893390B2 (ja) * | 2007-03-14 | 2012-03-07 | 株式会社ニコン | 歪曲補正プログラム、歪曲補正装置、撮像装置 |
JP2008252522A (ja) * | 2007-03-30 | 2008-10-16 | Hoya Corp | カメラ |
JP5001717B2 (ja) * | 2007-05-28 | 2012-08-15 | パナソニック株式会社 | 輪郭強調装置 |
JP2009010730A (ja) * | 2007-06-28 | 2009-01-15 | Kyocera Corp | 画像処理方法と該画像処理方法を用いた撮像装置 |
JP4912238B2 (ja) | 2007-07-09 | 2012-04-11 | キヤノン株式会社 | 撮像装置及び交換レンズ装置 |
WO2009013845A1 (ja) * | 2007-07-20 | 2009-01-29 | Techwell Japan K.K. | 画像処理装置及びカメラシステム |
US8463068B2 (en) * | 2007-08-09 | 2013-06-11 | Micron Technology, Inc. | Methods, systems and apparatuses for pixel value correction using multiple vertical and/or horizontal correction curves |
JP4908350B2 (ja) * | 2007-08-30 | 2012-04-04 | 京セラ株式会社 | 画像処理方法と該画像処理方法を用いた撮像装置 |
JP5008139B2 (ja) * | 2007-11-26 | 2012-08-22 | 株式会社リコー | 画像撮像装置 |
JP2009169601A (ja) * | 2008-01-15 | 2009-07-30 | Ricoh Co Ltd | 画像処理システム及びこの画像処理システムを有するカメラ |
JP4919978B2 (ja) * | 2008-01-26 | 2012-04-18 | 三洋電機株式会社 | 歪補正装置 |
US8199243B2 (en) * | 2008-04-28 | 2012-06-12 | Panasonic Corporation | Imaging device and camera body |
JP5055643B2 (ja) * | 2008-07-28 | 2012-10-24 | 株式会社リコー | 撮像素子および画像撮像装置 |
US9165493B2 (en) * | 2008-10-14 | 2015-10-20 | Apple Inc. | Color correction of electronic displays utilizing gain control |
US8792028B2 (en) | 2008-12-18 | 2014-07-29 | Omnivision Technologies, Inc. | Image sensor apparatus and method for line buffer efficient lens distortion correction |
JP5353393B2 (ja) * | 2009-04-07 | 2013-11-27 | 大日本印刷株式会社 | 画像処理装置及び画像処理方法等 |
JP5385740B2 (ja) * | 2009-09-25 | 2014-01-08 | キヤノン株式会社 | 撮像装置及び画像データの補正方法 |
JP5656579B2 (ja) * | 2009-11-30 | 2015-01-21 | キヤノン株式会社 | 光学部材に起因する画質の低下を補正可能な撮像装置、撮像装置の制御方法およびプログラム |
US8502863B2 (en) * | 2010-03-31 | 2013-08-06 | Fujifilm Corporation | Stereoscopic imaging apparatus |
WO2011121840A1 (ja) * | 2010-03-31 | 2011-10-06 | 富士フイルム株式会社 | 立体撮像装置 |
JP5615043B2 (ja) * | 2010-05-28 | 2014-10-29 | キヤノン株式会社 | 画像処理装置及び画像処理方法 |
US9380285B2 (en) * | 2010-12-20 | 2016-06-28 | Samsung Display Co., Ltd. | Stereo image processing method, stereo image processing device and display device |
KR101172629B1 (ko) * | 2011-01-04 | 2012-08-08 | 포항공과대학교 산학협력단 | 영상 처리 방법 및 이를 위한 장치 |
JP2013009304A (ja) * | 2011-05-20 | 2013-01-10 | Ricoh Co Ltd | 画像入力装置、会議装置、画像処理制御プログラム、記録媒体 |
JP6039205B2 (ja) | 2012-03-21 | 2016-12-07 | キヤノン株式会社 | 撮像装置 |
CN102789643B (zh) * | 2012-06-20 | 2014-08-13 | 东南大学 | 一种直线目标的图像畸变系数的测定方法 |
JP5643788B2 (ja) | 2012-07-20 | 2014-12-17 | キヤノン株式会社 | 撮像装置およびその制御方法、並びにレンズユニット |
JP5755204B2 (ja) | 2012-09-12 | 2015-07-29 | キヤノン株式会社 | 撮像装置およびその制御方法、並びにレンズユニットおよびその制御方法 |
CN102930515A (zh) * | 2012-10-24 | 2013-02-13 | 苏州两江科技有限公司 | 数字图像的几何畸变自动校正方法 |
JP2014183473A (ja) * | 2013-03-19 | 2014-09-29 | Toshiba Corp | 電気機器の光学システム |
DE102013012988A1 (de) * | 2013-08-03 | 2015-02-05 | Carl Zeiss Microscopy Gmbh | Verfahren zur Kalibrierung eines digitalen optischen Abbildungssystems, Verfahren zur Korrektur von Abbildungsfehlern in einem digitalen optischen Abbildungssystem, sowie digitales optisches Abblildungssystem |
KR102179262B1 (ko) * | 2014-06-11 | 2020-11-16 | 삼성전자주식회사 | 렌즈 왜곡 보정 장치 및 이를 포함하는 애플리케이션 프로세서 |
CN106204480B (zh) * | 2016-07-08 | 2018-12-18 | 石家庄域联视控控制技术有限公司 | 基于圆锥曲线的图像畸变矫正方法及实时矫正装置 |
US10499042B2 (en) * | 2017-04-01 | 2019-12-03 | Intel Corporation | Barreling and compositing of images |
CN111443325B (zh) * | 2019-01-17 | 2022-03-29 | 中电装备山东电子有限公司 | 电度表现场参数提取方法 |
CN111539898B (zh) | 2020-05-09 | 2023-08-01 | 京东方科技集团股份有限公司 | 图像处理方法及图像显示装置 |
CN115131224B (zh) * | 2021-03-29 | 2025-02-28 | 北京小米移动软件有限公司 | 图像校正方法及装置、电子设备及存储介质 |
Family Cites Families (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5905530A (en) * | 1992-08-24 | 1999-05-18 | Canon Kabushiki Kaisha | Image pickup apparatus |
JP3035416B2 (ja) | 1992-11-18 | 2000-04-24 | キヤノン株式会社 | 撮像装置及び画像再生装置及び映像システム |
JPH06153065A (ja) | 1992-11-11 | 1994-05-31 | Olympus Optical Co Ltd | 撮像装置 |
JPH08256295A (ja) * | 1994-12-21 | 1996-10-01 | Olympus Optical Co Ltd | 画像処理装置 |
DE69526635T2 (de) * | 1994-12-29 | 2002-12-05 | Koninklijke Philips Electronics N.V., Eindhoven | Bilderzeugungsgerät und Verfahren zur Verbesserung geometrischer optischer Bildverzerrungen |
JPH11250239A (ja) | 1998-02-27 | 1999-09-17 | Kyocera Corp | Yuvデータによりディストーション補正を行うディジタル撮像装置 |
JP2000125174A (ja) * | 1998-10-12 | 2000-04-28 | Fuji Photo Film Co Ltd | 画像情報における歪曲収差補正方法および装置 |
US6747702B1 (en) * | 1998-12-23 | 2004-06-08 | Eastman Kodak Company | Apparatus and method for producing images without distortion and lateral color aberration |
JP2002216136A (ja) * | 2001-01-23 | 2002-08-02 | Sony Corp | 距離算出方法及び撮像装置 |
JP3897247B2 (ja) * | 2002-05-16 | 2007-03-22 | 富士フイルム株式会社 | 光学歪みの補正方法及び補正装置 |
EP1370091A1 (en) | 2002-06-06 | 2003-12-10 | Koninklijke Philips Electronics N.V. | Image processing |
JP2004234379A (ja) * | 2003-01-30 | 2004-08-19 | Sony Corp | 画像処理方法、画像処理装置及び画像処理方法を適用した撮像装置、表示装置 |
-
2004
- 2004-03-29 JP JP2004094595A patent/JP4104571B2/ja not_active Expired - Fee Related
-
2005
- 2005-03-17 CN CNA2005100558998A patent/CN1678035A/zh active Pending
- 2005-03-29 US US11/091,346 patent/US7719597B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
US20050213159A1 (en) | 2005-09-29 |
CN1678035A (zh) | 2005-10-05 |
JP2005286482A (ja) | 2005-10-13 |
US7719597B2 (en) | 2010-05-18 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4104571B2 (ja) | 歪曲補正装置及びこの歪曲補正装置を備えた撮像装置 | |
KR101044307B1 (ko) | 화상처리장치 및 방법 | |
US8659672B2 (en) | Image processing apparatus and image pickup apparatus using same | |
KR101373987B1 (ko) | 화상 처리 장치 및 화상 처리 방법, 화상 처리 프로그램 | |
JP2004241991A (ja) | 撮像装置、画像処理装置及び画像処理プログラム | |
JP4754939B2 (ja) | 画像処理装置 | |
JP5041886B2 (ja) | 画像処理装置、画像処理プログラム、画像処理方法 | |
KR20180118790A (ko) | 화상 처리 장치, 화상 처리 방법, 기록 매체, 프로그램 및 촬상 장치 | |
JP5135953B2 (ja) | 画像処理装置、画像処理方法、及び撮像装置 | |
JP4977880B2 (ja) | 撮像装置 | |
JP5268321B2 (ja) | 画像処理装置及び画像処理方法、画像処理プログラム | |
JP5631769B2 (ja) | 画像処理装置 | |
JP2004242125A (ja) | 画像処理装置 | |
JP6127368B2 (ja) | 撮像装置 | |
JP5463871B2 (ja) | 画像処理装置および電子カメラ | |
WO2012056684A1 (ja) | 画像信号処理装置、画像信号処理方法およびプログラム | |
JP5278421B2 (ja) | 撮像装置 | |
JP6105960B2 (ja) | 画像処理装置、画像処理方法、および撮像装置 | |
US10348984B2 (en) | Image pickup device and image pickup method which performs diagonal pixel offset and corrects a reduced modulation depth in a diagonal direction | |
JP5333163B2 (ja) | 撮像装置 | |
JP5963542B2 (ja) | 画像処理装置、その制御方法及びプログラム | |
JP6010943B2 (ja) | 撮像装置 | |
JP2011077889A (ja) | 画像処理装置 | |
JP2013251680A (ja) | 画像処理装置及び画像処理方法 | |
JP2006211030A (ja) | 撮像装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20050701 |
|
RD01 | Notification of change of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7421 Effective date: 20051227 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20080208 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20080226 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20080325 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 4104571 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110404 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120404 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130404 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140404 Year of fee payment: 6 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313113 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140404 Year of fee payment: 6 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |