Nothing Special   »   [go: up one dir, main page]

JP2009105576A - 画像処理装置及び方法、及び撮像装置 - Google Patents

画像処理装置及び方法、及び撮像装置 Download PDF

Info

Publication number
JP2009105576A
JP2009105576A JP2007274336A JP2007274336A JP2009105576A JP 2009105576 A JP2009105576 A JP 2009105576A JP 2007274336 A JP2007274336 A JP 2007274336A JP 2007274336 A JP2007274336 A JP 2007274336A JP 2009105576 A JP2009105576 A JP 2009105576A
Authority
JP
Japan
Prior art keywords
data
spectral
image data
spectrum
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2007274336A
Other languages
English (en)
Other versions
JP5080934B2 (ja
JP2009105576A5 (ja
Inventor
Mitsuaki Hattori
光明 服部
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2007274336A priority Critical patent/JP5080934B2/ja
Priority to US12/251,047 priority patent/US8233058B2/en
Publication of JP2009105576A publication Critical patent/JP2009105576A/ja
Publication of JP2009105576A5 publication Critical patent/JP2009105576A5/ja
Application granted granted Critical
Publication of JP5080934B2 publication Critical patent/JP5080934B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/88Camera processing pipelines; Components thereof for processing colour signals for colour balance, e.g. white-balance circuits or colour temperature control
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/135Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on four or more different wavelength filter elements

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Color Television Image Signal Generators (AREA)
  • Color Image Communication Systems (AREA)
  • Facsimile Image Signal Circuits (AREA)
  • Image Processing (AREA)

Abstract

【課題】 マルチバンド画像データを異なるバンド数の画像データに変換する際の自由度を高めること。
【解決手段】 複数の異なる波長帯域の画像データから成るマルチバンド画像データから、各画素のスペクトルを推定する分光推定部(504)と、異なる複数の撮影モード毎にそれぞれ適する分光データを記憶するメモリと、前記入力されたマルチバンド画像データの撮影モードを判断し、該判断した撮影モードに適する前記メモリに記憶された前記分光データを用いて、前記スペクトルを異なる分光特性のバンドデータに変換する変換部(505)とを有する。
【選択図】 図5

Description

本発明は、マルチバンド画像データを処理する画像処理装置及び方法、及び撮像装置に関し、さらに詳しくは、マルチバンド画像データを異なる分光特性の画像データに変換する画像処理装置及び方法、及び撮像装置に関する。
透過する波長帯域が異なる複数のフィルタを用いて被写体を撮像することにより、被写体のスペクトル画像を取得することができるマルチバンド画像撮像装置(例えば、マルチバンドカメラ等)が近年実用化され始めている。このマルチバンド画像撮像装置から得られたマルチバンド画像を一般的な出力機器で見るためには、マルチバンド画像データからRGBの3バンドデータ等に変換しなければならない。
この変換方法として、撮影目的に応じて多チャンネル画像データの中からチャンネルを選択して、RGB等の3チャンネル画像データに変換する技術がある(例えば、特許文献1参照)。この技術を用いることにより、撮影目的に適した3チャンネル画像データの画像を出力することができるようになる。
一方、デジタルスチルカメラのような従来の原色RGBフィルタ等が用いられている撮像装置では、sRGBの色空間で最適な画像が得られるような分光透過率特性を有するのRGBのカラーフィルタが使用されている。また、近年AdobeRGB等のsRGBより広い色空間に対応したディスプレーやプリンタ等の出力デバイスも開発されている。そのため、入力機器である撮像装置が出力する画像においてもAdobeRGB等の、sRGBよりも広い色空間に対応した画像を出力することが求められている。
しかしながら、sRGBの色再現に最適化されているカラーフィルタでは、AdobeRGB等の広い色空間に対応した画像データを取得することが困難である。
特開2001−78226号公報
しかしながら、特許文献1に記載されているように、分光透過率特性の異なる複数のフィルタを用いて得られた多チャンネル画像データの中からチャンネルを選択して3チャンネル画像データに変換する場合、選択できるチャンネルデータが限られてしまう。また、特許文献1に記載の技術では、多チャンネル画像データのホワイトバランスがとられていない。そのため、3チャンネル画像の作成に使用した3チャンネルの分光に応じて、3チャンネルデータへ変換後にホワイトバランスをあわせなければならない。
本発明は上記問題点を鑑みてなされたものであり、本発明の画像処理装置は、複数の異なる波長帯域の画像データから成るマルチバンド画像データから、各画素のスペクトルを推定する推定手段と、異なる複数の撮影モード毎にそれぞれ適する分光データを記憶する記憶手段と、前記入力されたマルチバンド画像データの撮影モードを判断し、該判断した撮影モードに適する前記記憶手段に記憶された前記分光データを用いて、前記スペクトルを異なる分光特性のバンドデータに変換する変換手段とを有することを特徴とする。
また、本発明の画像処理方法は、複数の異なる波長帯域の画像データから成るマルチバンド画像データから、各画素のスペクトルを推定する推定工程と、前記入力されたマルチバンド画像データの撮影モードを判断する判断工程と、異なる複数の撮影モード毎にそれぞれ適する分光データを記憶した記憶手段から、前記判断工程で判断した撮影モードに適する分光データを選択し、選択した前記分光データを用いて、前記スペクトルを異なる分光特性のバンドデータに変換する変換工程とを有することを特徴とする。
別の構成によれば、本発明の画像処理装置は、複数の異なる波長帯域の画像データから成るマルチバンド画像データから、各画素のスペクトルを推定する推定手段と、異なる複数の色空間毎にそれぞれ適する分光データを記憶する記憶手段と、前記複数の色空間の内の1つを設定する設定手段と、前記設定手段により設定された色空間に適する前記記憶手段に記憶された前記分光データを用いて、前記スペクトルを異なる分光特性のバンドデータに変換する変換手段とを有することを特徴とする。
また、本発明の画像処理方法は、複数の異なる波長帯域の画像データから成るマルチバンド画像データから、各画素のスペクトルを推定する推定工程と、異なる複数の色空間の内の1つを設定する設定工程と、前記複数の色空間毎にそれぞれ適する分光データを記憶した記憶手段から、前記設定工程で設定された色空間に適する分光データを選択し、選択した前記分光データを用いて、前記スペクトルを異なる分光特性のバンドデータに変換する変換工程とを有することを特徴とする。
好ましくは、上記画像処理装置は、前記推定手段による前記スペクトルの推定に先だって、入力されたマルチバンド画像データにホワイトバランス補正を施すホワイトバランス処理手段をさらに有する。
また、本発明の撮像装置は、互いに異なる分光透過率特性を有する複数の分光フィルタと、前記分光フィルタを透過した光を光電変換して、複数の異なる波長帯域の画像データから成るマルチバンド画像データを出力する撮像手段と、上記画像処理装置とを有することを特徴とする。
本発明によれば、マルチバンド画像データを異なるバンド数の画像データに変換する際の自由度を高めることができる。また、変換方法に応じてホワイトバランスを変更する手間を省くことができる。
以下、添付図面を参照して本発明を実施するための最良の形態を詳細に説明する。
<第1の実施形態>
本第1の実施形態では、撮影用途に応じてマルチバンド画像データを3バンド画像データに変換する方法について説明する。
図1に本第1の実施形態で使用する、マルチバンドの分光透過率特性を示す。本実施形態では図1に示すように波長帯域(a)〜(i)をそれぞれ主とする分光透過率特性を有する9バンドの分光フィルタを用いた撮像装置について説明するが、使用するバンド数や分光透過率特性の種類はこれに限るものではない。なお、以下の説明では、波長帯域(a)〜(i)と、分光フィルタやデータなどとの対応を、(a)〜(i)により表す。
図1に示す分光透過率特性をそれぞれ有する分光フィルタ(a)〜(i)は、例えば図2の(a)〜(i)のようにターレットに均等に配置される。以下、図3を用いてこのターレットの使用方法について説明する。
図3において、301は被写体、302は被写体を照明する光源、303は図2に示すマルチバンドターレット(以下、「ターレット」と呼ぶ。)、304はレンズ、305はCCDセンサやCMOSセンサ等の撮像素子である。レンズ304は、ターレット303の分光フィルタ(a)〜(i)の内の1つのフィルタを透過した被写体の像が、撮像素子305に結像するように配置される。撮像素子305に入射した被写体の像は、光電変換により電気信号に変換されて、出力される。なお、レンズ304の前に配置されたターレット303は撮影する度に回転し、異なる分光フィルタを透過した被写体の像がレンズ304に入射するように制御される。分光フィルタを代えながら9回撮影を繰り返すことで、波長帯域(a)〜(i)の画像データ(a)〜(i)が出力される。
なお、分光フィルタ(a)〜(i)はターレットに配置する他に、例えば、図4のように単板の撮像素子(例えば、CCDセンサやCMOSセンサ)上に配置することで、マルチスペクトル画像データを出力するようにしてもよい。
次に、本第1の実施形態におけるマルチバンド画像処理装置の処理の流れを説明するが、ここではターレット303を使用した場合について説明する。
図5は本第1の実施形態の画像処理装置の構成を示すブロック図である。
図5において、305は図3で説明した撮像素子である。なお、撮像素子305より被写体側の構成は図3と同様で、レンズ304及びターレット303が配置されている。
501は撮像素子305により変換されたアナログの電気信号をデジタル信号に変換するA/D変換器である。
502はA/D変換された波長帯域(a)〜(i)の各バンドの画像データ(a)〜(i)を合成するマルチバンド画像合成部である。ここで行われる合成処理では、各波長帯域(a)〜(i)の画像データを同一画素毎に集め、各画素が各波長帯域(a)〜(i)のデータを有するように、撮影した9枚の画像を合成する。例えば、撮像素子305のある1画素に入射する被写体301の像のスペクトルが図6のようなスペクトルであった場合、マルチバンド画像合成部502による合成後のその画素のデータ(画素データ)は、図7の画素データ(a)〜(i)のようになる。
ここで、図7に示す画素データには、被写体301からの反射光と、光源302から直接入射した光に起因するデータが含まれている。そこで、この画像データから光源302の影響を除外するのがホワイトバランス処理部(WB処理部)503である。WB補正を行うことで、光源302の影響を除外した被写体の反射率のみを表すマルチバンド画像データを求める。なお、このホワイトバランス補正(WB補正)の方法については後述する。
504は、WB補正が施されたマルチバンド画像データから被写体のスペクトルを推定する、分光推定処理部である。この9バンド分の画像データから被写体のスペクトルを推定する方法については後述する。
505は推定された被写体のスペクトルに所定のRGBの分光係数を積分し、RGB3バンドデータへの変換を行う変換部である。本第1の実施形態では、異なる撮影モードにそれぞれ対応した複数のRGBの分光係数が予め設定されており、予めユーザによって設定された撮影モードに対応する分光係数を使用する。なお、この撮影モードとそれに対応する分光データについては後述する。
506は、RGB3バンドデータに対して、一般的に従来のRGBバンドの撮像装置で用いられているガンマ処理、色の色相、彩度、明度等を調整する画像処理部である。これらの処理が全て行われて、マルチバンド画像からRGB3バンドの画像が作成される。
次に、WB処理部503でWB処理に用いるWB補正係数を演算をする方法について、図8のフローチャートを用いて詳細に説明する。
まず、ホワイトバランスのWB補正係数のもとになる光源のデータを取得する為に、被写体に照射している光源302下で、基準画像として、例えば反射率18%のグレーの均一輝度面を撮影する(ステップS11)。なお、光源302の光は、例えば、図9のような分光特性を有するものとする。基準画像を撮影して得た基準画像データに対して、A/D変換器501によりA/D変換を行う(ステップS12)。A/D変換された1バンド分の画像データは、後でマルチバンドの画像データに合成する為に、一時、撮像装置内のメモリ(不図示)に記録しておく(ステップS13)。
ステップS14では、ターレット303に配置された分光フィルタ(a)〜(i)全てについて、ステップS11〜S13の処理を行ったかどうかを判断する。全ての分光フィルタ(a)〜(i)を用いた処理が終了するまで、分光フィルタを変えながら(ステップS15)、ステップS11〜S13の処理を繰り返し行う。
ターレット303に配置された分光フィルタ(a)〜(i)全てを用いた撮影が終了すると(ステップS14でYES)、マルチバンド画像合成部502により撮像装置内のメモリに記録しておいた全バンドの画像を1つの画像に合成する(ステップS16)。この合成した画像は、図10に示すように、各画素毎に波長帯域(a)〜(i)それぞれに対応する画素データ(a)〜(i)を持つ、画像データ(a)〜(i)となる。
そして、9つの画像データ(a)〜(i)の内、画像データ(d)、(e)、(f)の平均値が1となるように、画像データ(a)〜(i)に積分するWB補正係数を決定する(ステップS17)。
具体的には以下の式により演算される。
波長帯域(a)のWB補正係数 = Va /(( Vd+Ve+Vf)/ 3)
波長帯域(b)のWB補正係数 = Vb /(( Vd+Ve+Vf)/ 3)
波長帯域(c)のWB補正係数 = Vc /(( Vd+Ve+Vf)/ 3)
波長帯域(d)のWB補正係数 = Vd /(( Vd+Ve+Vf)/ 3)
波長帯域(e)のWB補正係数 = Ve /(( Vd+Ve+Vf)/ 3)
波長帯域(f)のWB補正係数 = Vf /(( Vd+Ve+Vf)/ 3)
波長帯域(g)のWB補正係数 = Vg /(( Vd+Ve+Vf)/ 3)
波長帯域(h)のWB補正係数 = Vh /(( Vd+Ve+Vf)/ 3)
波長帯域(i)のWB補正係数 = Vi /(( Vd+Ve+Vf)/ 3)
上述した式において、Va〜Viは波長帯域(a)〜(i)にそれぞれ対応する各画素の画素データ(a)〜(i)の平均値または積分値である。
本第1の実施形態では、画像データ(d)、(e)、(f)を基準にWB補正係数を演算しているが、基準にする画像データは画像データ(a)〜(i)のいずれか1つであっても、本第1の実施形態のように複数の組み合わせであってもよい。
演算したWB補正係数を撮像装置のメモリに記憶して(ステップS18)、WB補正係数の演算処理を終了する。
WB処理部503は、前述した図7に示す被写体301からの反射光と、光源302から直接入射した光に起因する、各画素毎の画素データ(a)〜(i)それぞれに対して、予め算出しておいたWB補正係数を積分することによりWB補正を行う。その結果、図11に示したような光源302の影響を除外した、被写体301からの反射光のみに基づく画素データ(a)〜(i)を得ることができる。
次に、分光推定処理部504で行われる処理について、図12のWB補正後の出力結果を示す図を用いて詳細に説明する。
図12において、1201は画素データ(a)〜(i)から推定される被写体301のスペクトルである。この推定分光データ1201は画素データ(a)〜(i)それぞれの中心の波長の点1202〜1210を2次曲線等で結ぶことで推定することができる。なお、このスペクトルの推定についてはこれに限るものではなく、例えば一般に知られているウィナー分光推定方法等を用いてもよい。
次に、推定した被写体のスペクトルをRGB3バンドデータに変換する方法を、予め設定された撮影モードに応じて変更する方法について詳細に説明する。
本実施形態の撮像装置には異なる撮影モードを設定する機能(不図示)があり、本第1の実施形態では、被写体の色を忠実に出力する第1のモードと、天文撮影に適した第2のモードを備えているものとする。なお、撮影モードの数や種類についてはこれに限るものではない。第1のモードは、人間の見た目に忠実に色を再現するモードである。一方、第2のモードは天文撮影に適したモードであるが、天文撮影ではしばしば被写体にHα線が含まれており、このHα線が含まれた部分の赤味を強くすることが天文撮影画像として好まれている。このHα線は図13に示すように656.3nmの波長域に輝線を持っていることが知られている。
2つの撮影モードの内、第1の撮影モードが選択された場合、図14に示すように人間の目の分光に近いとされている等色関数と同等のRGBの分光データを、推定した被写体のスペクトルに積分することでRGB3バンドのデータを得る。
また、第2の撮影モードが選択された場合には、図15に示すようにHα線(656.3nm)付近のR感度がG、Bに対して相対的に強くなるようなRGB分光データを、推定された被写体のスペクトルに積分することでRGB3バンドのデータを得る。
なお、本第1の実施形態においては、RGB3バンドデータへの変換について説明したが、4バンド以上のデータへ変換できるようにしてもよい。その際は、その必要なバンド数と同数の分光データを、推定した被写体のスペクトルに積分することで実現することができる。
次に、上述した処理の一連の流れを、図16のフローチャートを用いて説明する。なお、この処理の前に、図8のフローチャートを用いて説明したWB補正係数が予め求められているものとする。
まず、撮像装置に備えられている撮影モードのいずれかをユーザが選択する(ステップS21)。次に、撮影が行われ(ステップS22)、撮像素子305から出力される画像データに対して、A/D変換器501によりA/D変換を行う(ステップS23)。A/D変換された1バンド分の画像データは、後でマルチバンドの画像データに合成する為に、一時、撮像装置内のメモリ(不図示)に記録しておく(ステップS24)。
ステップS25では、ターレット303に配置された分光フィルタ(a)〜(i)全てについて、ステップS22〜S24の処理を行ったかどうかを判断する。全ての分光フィルタ(a)〜(i)を用いた処理が終了するまで、分光フィルタを変えながら(ステップS26)、ステップS22〜S24の処理を繰り返し行う。
ターレット303に配置された分光フィルタ(a)〜(i)全てを用いた撮影が終了すると(ステップS25でYES)、ステップS27に進む。そして、マルチバンド画像合成部502により撮像装置内のメモリに記録しておいた全バンドの画像を、上述したようにして1つの画像に合成する。この合成処理により、各画素が画素データ(a)〜(i)を持つことになる。
次に、合成して得た画素データ(a)〜(i)それぞれに対して、予め算出しておいた対応する波長帯域のWB補正係数を積分することによりWB補正を行う(ステップS28)。WB補正後の画素データ(a)〜(i)から、前述した手法を用いて各画素について、被写体のスペクトルを推定する(ステップS29)。そして、推定した各画素のスペクトルに、ステップS21で設定された撮影モード(第1又は第2のモード)に対応するRGBの分光データを積分し、RGB3バンドデータを得る(ステップS30)。ここで、第1のモードが設定されている場合には、図14に示す分光データを用い、第2のモードが設定されている場合には、図15に示す分光データを用いる。
最後に、RGB3バンドデータに対して、一般的に従来のRGBバンド撮像装置で用いられているガンマ処理、色の色相、彩度、明度を調整する画像処理が施され、一連の処理は終了となる(ステップS31)。
上記の通り本第1の実施形態によれば、異なる撮影モード毎に、適した分光データを予め準備しておくことで、ユーザの撮影目的に応じたRGBバンドデータに変換することが可能となる。
<第2の実施形態>
次に、本発明の第2の実施形態について説明する。本第2の実施形態では、撮影モードに代えて、色空間に応じてマルチバンド画像データを3バンドデータに変換する方法について説明する。
なお、第2の実施形態におけるマルチバンド画像合成方法、WB補正係数算出方法、分光推定方法等は第1の実施形態と同様であるため、説明を省略する。ここでは、推定した被写体のスペクトルを、色空間に応じてどのようにRGBデータに変換するかについてのみ説明する。
本第2の実施形態では、色空間の設定としてsRGBとAdobeRGBの2種類の設定ができるものとして説明する。なお、色空間の種類や設定できる個数はこれに限るものではない。
図17はsRGBが設定された際に用いる、推定した被写体のスペクトルに積分する分光データを示し、図18はAdobeRGBが設定された際に用いる分光データを示す。図17に示す分光データは、sRGBの色再現に最適化された分光データである。一方、図17に対して図18の分光データは、RGBの分光の分離幅が大きく設定されており、sRGBよりも広い色空間の色再現を行いやすくしたものである。
本第2の実施形態においては、RGB3バンドデータへの変換について述べているが、4バンド以上のデータへ変換できるようにしてもよい。その際は、その必要なバンド数と同数の分光データを、推定した被写体のスペクトルに積分することで実現できる。
次に、本第2の実施形態における処理の一連の流れを、図19のフローチャートを用いて説明する。なお、この処理の前に、第1の実施形態で図8のフローチャートを用いて説明したWB補正係数が予め求められているものとする。また、図16の処理と同様の処理には同じ参照番号を付し、説明を適宜省略する。
まず撮像装置に備えられている色空間のいずれかをユーザが選択する(ステップS41)。次に、各分光フィルタ(a)〜(i)を用いて撮影を行い、各画素毎にスペクトルを推定するまでの処理を行う(ステップS22〜S29)。
そして、推定した各画素のスペクトルに、ステップS41で設定された色空間(sRGBまたはAdobeRGB)に対応するRGBの分光データを積分し、RGB3バンドデータを得る(ステップS42)。ここで、sRGBが選択されている場合には、図17に示す分光データを用い、AdobeRGBが選択されている場合には、図18に示す分光データを用いる。
最後に、RGB3バンドデータに対して、一般的に従来のRGBバンド撮像装置で用いられているガンマ処理、色の色相、彩度、明度を調整する画像処理を施し、一連の処理は終了となる(ステップS31)。
上記の通り本第2の実施形態によれば、異なる色空間毎に、適した分光データを予め準備しておくことで、所望の色空間のRGBバンドデータに変換することが可能となる。
なお、上記第1及び第2の実施形態では、ターレット303を用いて9枚の画像を撮影し、合成することで各画素毎に画素データ(a)〜(i)を取得する場合について説明した。図4に示すように撮像素子305上にフィルタ(a)〜(i)を配置した場合には、1回の撮影で得られる画像を9画素を1単位として処理することが考えられる。他に、撮像素子305上の被写体像の位置をずらしながら撮影行う、いわゆる画素ずらし撮影を9回行って、各画素が波長帯域(a)〜(i)の画素データを有するように制御してもよい。また、補間処理により各画素が波長帯域(a)〜(i)の画素データを有するようにしても良い。
なお、上記第1及び第2の実施形態では、9つのバンドを3つのバンドに減らす場合について説明しているが、本発明はバンド数を減らす場合に限るものではない。例えば、推定したスペクトルに、より多くのバンド数の分光データを積分することにより、バンド数を増やすことも可能である。
<他の実施形態>
本発明は、複数の機器(例えばホストコンピュータ、インターフェイス機器、カメラヘッド、スキャナなど)から構成されるシステムに適用しても、一つの機器からなる装置(例えば、デジタルスチルカメラ、デジタルビデオカメラなど)に適用してもよい。
また、本発明の目的は、以下の様にして達成することも可能である。まず、前述した実施形態の機能を実現するソフトウェアのプログラムコードを記録した記憶媒体(または記録媒体)を、システムあるいは装置に供給する。そして、そのシステムあるいは装置のコンピュータ(またはCPUやMPU)が記憶媒体に格納されたプログラムコードを読み出し実行する。この場合、記憶媒体から読み出されたプログラムコード自体が前述した実施形態の機能を実現することになり、そのプログラムコードを記憶した記憶媒体は本発明を構成することになる。
また、コンピュータが読み出したプログラムコードを実行することにより、前述した実施形態の機能が実現されるだけでなく、以下のようにして達成することも可能である。即ち、読み出したプログラムコードの指示に基づき、コンピュータ上で稼働しているオペレーティングシステム(OS)などが実際の処理の一部または全部を行い、その処理によって前述した実施形態の機能が実現される場合である。ここでプログラムコードを記憶する記憶媒体としては、例えば、フレキシブルディスク、ハードディスク、ROM、RAM、磁気テープ、不揮発性のメモリカード、CD−ROM、CD−R、DVD、光ディスク、光磁気ディスク、MOなどが考えられる。また、LAN(ローカル・エリア・ネットワーク)やWAN(ワイド・エリア・ネットワーク)などのコンピュータネットワークを、プログラムコードを供給するために用いることができる。
本発明の第1及び第2の実施形態におけるマルチバンドの分光透過率特性の一例を示す図である。 本発明の第1及び第2の実施形態におけるマルチバンドターレットを示す図である。 本発明の第1及び第2の実施形態における撮像装置の概略構成を示す図である。 本発明の第1及び第2の実施形態における撮像素子上に配した分光フィルタ配列の一例を示す図である。 本発明の第1及び第2の実施形態における撮像装置の機能構成を示す図である。 本発明の第1及び第2の実施形態における被写体からの反射光と光源の光が合成された像のスペクトルの一例を示した図である。 図6に示すスペクトルを有する光により得られる画素データの一例を示す図である。 本発明の第1及び第2の実施形態における、マルチバンド画像処理におけるWB補正係数の算出方法を示すフローチャートである。 本発明の第1及び第2の実施形態における、基準画像のスペクトルの一例を示す図である。 図9に示すスペクトルを有する光により得られる画素データの一例を示す図である。 本発明の第1及び第2の実施形態におけるWB補正後のマルチバンド画素データを示す図である。 本発明の第1及び第2の実施形態におけるマルチバンド画素データから被写体のスペクトルを推定する方法を説明するための図である。 Hα線のスペクトルを示す図である。 本発明の第1の実施形態における第1のモードで使用する分光データを示す図である。 本発明の第1の実施形態における第2のモードで使用する分光データを示す図である。 本発明の第1の実施形態におけるマルチバンド画像処理の流れを示すフローチャートである。 本発明の第2の実施形態におけるsRGB用の分光データを示した図である。 本発明の第2の実施形態におけるAdobeRGB用の分光データを示した図である。 本発明の第2の実施形態におけるマルチバンド画像処理の流れを示すフローチャートである。
符号の説明
301 被写体
302 光源
303 マルチバンドターレット
304 レンズ
305 撮像素子
501 A/D変換器
502 マルチバンド画像合成部
503 ホワイトバランス処理部
504 分光推定部
505 変換部
506 画像処理部

Claims (9)

  1. 複数の異なる波長帯域の画像データから成るマルチバンド画像データから、各画素のスペクトルを推定する推定手段と、
    異なる複数の撮影モード毎にそれぞれ適する分光データを記憶する記憶手段と、
    入力されたマルチバンド画像データの撮影モードを判断し、該判断した撮影モードに適する前記記憶手段に記憶された前記分光データを用いて、前記スペクトルを異なる分光特性のバンドデータに変換する変換手段と
    を有することを特徴とする画像処理装置。
  2. 複数の異なる波長帯域の画像データから成るマルチバンド画像データから、各画素のスペクトルを推定する推定手段と、
    異なる複数の色空間毎にそれぞれ適する分光データを記憶する記憶手段と、
    前記複数の色空間の内の1つを設定する設定手段と、
    前記設定手段により設定された色空間に適する前記記憶手段に記憶された前記分光データを用いて、前記スペクトルを異なる分光特性のバンドデータに変換する変換手段と
    を有することを特徴とする画像処理装置。
  3. 前記推定手段による前記スペクトルの推定に先だって、入力されたマルチバンド画像データにホワイトバランス補正を施すホワイトバランス処理手段をさらに有することを特徴とする請求項1または2に記載の画像処理装置。
  4. 前記変換手段は、前記スペクトルに前記分光データを積分することにより変換を行うことを特徴とする請求項1乃至3のいずれか1項に記載の画像処理装置。
  5. 互いに異なる分光透過率特性を有する複数の分光フィルタと、
    前記分光フィルタを透過した光を光電変換して、複数の異なる波長帯域の画像データから成るマルチバンド画像データを出力する撮像手段と、
    請求項1乃至4のいずれか1項に記載の画像処理装置と
    を有することを特徴とする撮像装置。
  6. 複数の異なる波長帯域の画像データから成るマルチバンド画像データから、各画素のスペクトルを推定する推定工程と、
    入力されたマルチバンド画像データの撮影モードを判断する判断工程と、
    異なる複数の撮影モード毎にそれぞれ適する分光データを記憶した記憶手段から、前記判断工程で判断した撮影モードに適する分光データを選択し、選択した前記分光データを用いて、前記スペクトルを異なる分光特性のバンドデータに変換する変換工程と
    を有することを特徴とする画像処理方法。
  7. 複数の異なる波長帯域の画像データから成るマルチバンド画像データから、各画素のスペクトルを推定する推定工程と、
    異なる複数の色空間の内の1つを設定する設定工程と、
    前記複数の色空間毎にそれぞれ適する分光データを記憶した記憶手段から、前記設定工程で設定された色空間に適する分光データを選択し、選択した前記分光データを用いて、前記スペクトルを異なる分光特性のバンドデータに変換する変換工程と
    を有することを特徴とする画像処理方法。
  8. コンピュータに、請求項6または7に記載の画像処理方法の各工程を実行させるためのプログラム。
  9. 請求項8に記載のプログラムを格納したコンピュータが読み取り可能な記憶媒体。
JP2007274336A 2007-10-22 2007-10-22 画像処理装置及び方法、及び撮像装置 Expired - Fee Related JP5080934B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2007274336A JP5080934B2 (ja) 2007-10-22 2007-10-22 画像処理装置及び方法、及び撮像装置
US12/251,047 US8233058B2 (en) 2007-10-22 2008-10-14 Image processing apparatus, image processing method, and image sensing apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007274336A JP5080934B2 (ja) 2007-10-22 2007-10-22 画像処理装置及び方法、及び撮像装置

Publications (3)

Publication Number Publication Date
JP2009105576A true JP2009105576A (ja) 2009-05-14
JP2009105576A5 JP2009105576A5 (ja) 2010-12-09
JP5080934B2 JP5080934B2 (ja) 2012-11-21

Family

ID=40563102

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007274336A Expired - Fee Related JP5080934B2 (ja) 2007-10-22 2007-10-22 画像処理装置及び方法、及び撮像装置

Country Status (2)

Country Link
US (1) US8233058B2 (ja)
JP (1) JP5080934B2 (ja)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2010137174A1 (ja) * 2009-05-29 2010-12-02 トヨタ自動車 株式会社 移動体用スペクトル測定装置
JP2011259209A (ja) * 2010-06-09 2011-12-22 Nippon Telegr & Teleph Corp <Ntt> 画像処理装置、画像処理方法及び画像処理プログラム
US8723124B2 (en) 2009-05-29 2014-05-13 Toyota Jidosha Kabushiki Kaisha Spectrum measuring apparatus for mover
US8755048B2 (en) 2009-05-29 2014-06-17 Toyota Jidosha Kabushiki Kaisha Spectrum measuring apparatus for mover
US9036147B2 (en) 2009-05-29 2015-05-19 Toyota Jidosha Kabushiki Kaisha Spectrum measuring apparatus
JP2017004173A (ja) * 2015-06-08 2017-01-05 キヤノン株式会社 色処理装置およびその方法
JP2019215676A (ja) * 2018-06-12 2019-12-19 オムロン株式会社 画像処理装置、画像処理方法、画像センサ

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5546166B2 (ja) * 2009-06-19 2014-07-09 キヤノン株式会社 撮像装置、信号処理方法、及びプログラム
JP4977923B2 (ja) * 2010-03-03 2012-07-18 日本電気株式会社 アクティブ型車両視界補助装置及び車両視界補助方法
FR2985856A1 (fr) * 2012-01-17 2013-07-19 St Microelectronics Grenoble 2 Capteur d'image comprenant des pixels a bande spectrale etroite pour analyse colorimetrique
JP2016071733A (ja) * 2014-09-30 2016-05-09 キヤノン株式会社 画像処理装置および画像処理方法
EP3896967A1 (en) * 2020-04-17 2021-10-20 Leica Microsystems CMS GmbH Digital imaging device and method for generating a digital color image
CN118369931A (zh) * 2021-12-14 2024-07-19 深圳传音控股股份有限公司 图像处理方法、智能终端及存储介质

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0591531A (ja) * 1991-04-12 1993-04-09 Sony Corp 画像処理装置
JPH09172649A (ja) * 1995-12-19 1997-06-30 Olympus Optical Co Ltd カラー画像記録再生システム
JP2002262305A (ja) * 2000-12-12 2002-09-13 Canon Inc 画像処理装置及び画像処理方法と記録媒体
JP2004202217A (ja) * 2002-12-12 2004-07-22 Olympus Corp イメージング装置

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE4119489C2 (de) * 1991-06-13 1994-09-29 Linotype Hell Ag Werk Kiel Multispektrales Farbbildaufnahmesystem
JPH0961244A (ja) * 1995-08-29 1997-03-07 Olympus Optical Co Ltd 色分類装置及び色分類方法
JP3925681B2 (ja) * 1999-05-19 2007-06-06 富士フイルム株式会社 マルチバンド画像出力方法および装置
EP1197088A1 (en) * 1999-05-27 2002-04-17 Cambridge Research &amp; Instrumentation, Inc. Imaging system using color sensors and tunable filters
JP2001078226A (ja) 1999-09-06 2001-03-23 Fuji Photo Film Co Ltd 画像作成方法および画像作成装置
US20030147002A1 (en) * 2002-02-06 2003-08-07 Eastman Kodak Company Method and apparatus for a color sequential scannerless range imaging system
US7463287B2 (en) * 2002-07-29 2008-12-09 Fujifilm Corporation Solid-state image pick-up device and image pick-up apparatus capable of distinguishing a photographing light source type
JP3861808B2 (ja) * 2002-12-25 2006-12-27 ソニー株式会社 撮像装置
US7274496B2 (en) * 2003-03-04 2007-09-25 Kabushiki Kaisha Toshiba 4-line CCD sensor and image input apparatus using the same
GB2430105B (en) * 2004-04-05 2009-09-23 Mitsubishi Electric Corp Imaging device
JP2006121132A (ja) * 2004-10-19 2006-05-11 Nec Electronics Corp Y/c分離回路及びy/c分離方法
JP4265546B2 (ja) * 2005-01-31 2009-05-20 ソニー株式会社 撮像装置、画像処理装置および画像処理方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0591531A (ja) * 1991-04-12 1993-04-09 Sony Corp 画像処理装置
JPH09172649A (ja) * 1995-12-19 1997-06-30 Olympus Optical Co Ltd カラー画像記録再生システム
JP2002262305A (ja) * 2000-12-12 2002-09-13 Canon Inc 画像処理装置及び画像処理方法と記録媒体
JP2004202217A (ja) * 2002-12-12 2004-07-22 Olympus Corp イメージング装置

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2010137174A1 (ja) * 2009-05-29 2010-12-02 トヨタ自動車 株式会社 移動体用スペクトル測定装置
JPWO2010137174A1 (ja) * 2009-05-29 2012-11-12 トヨタ自動車株式会社 移動体用スペクトル測定装置
US8723124B2 (en) 2009-05-29 2014-05-13 Toyota Jidosha Kabushiki Kaisha Spectrum measuring apparatus for mover
US8755048B2 (en) 2009-05-29 2014-06-17 Toyota Jidosha Kabushiki Kaisha Spectrum measuring apparatus for mover
US9036147B2 (en) 2009-05-29 2015-05-19 Toyota Jidosha Kabushiki Kaisha Spectrum measuring apparatus
JP2011259209A (ja) * 2010-06-09 2011-12-22 Nippon Telegr & Teleph Corp <Ntt> 画像処理装置、画像処理方法及び画像処理プログラム
JP2017004173A (ja) * 2015-06-08 2017-01-05 キヤノン株式会社 色処理装置およびその方法
JP2019215676A (ja) * 2018-06-12 2019-12-19 オムロン株式会社 画像処理装置、画像処理方法、画像センサ
WO2019239831A1 (ja) * 2018-06-12 2019-12-19 オムロン株式会社 画像処理装置、画像処理方法、画像センサ
JP7028075B2 (ja) 2018-06-12 2022-03-02 オムロン株式会社 画像処理装置、画像処理方法、画像センサ
US11368603B2 (en) 2018-06-12 2022-06-21 Omron Corporation Image processing for converting multi-spectral image by calculating the inner product of the spectral distribution of each pixel and the respective reference vector

Also Published As

Publication number Publication date
US8233058B2 (en) 2012-07-31
JP5080934B2 (ja) 2012-11-21
US20090102943A1 (en) 2009-04-23

Similar Documents

Publication Publication Date Title
JP5080934B2 (ja) 画像処理装置及び方法、及び撮像装置
JP5527448B2 (ja) 画像入力装置
JP4837365B2 (ja) 画像処理システム、画像処理プログラム
JP4815267B2 (ja) ホワイトバランス制御方法、撮像装置、及びホワイトバランス制御プログラム
CN106162132B (zh) 图像处理设备及其控制方法
US20070153099A1 (en) Image signal processing apparatus, imaging apparatus, image signal processing method and computer program thereof
JP5546166B2 (ja) 撮像装置、信号処理方法、及びプログラム
WO2010116923A1 (ja) 画像入力装置
US20100182414A1 (en) Image processor, scope, and endoscope apparatus including the same
JP4427001B2 (ja) 画像処理装置、画像処理プログラム
JP4950544B2 (ja) マルチバンド撮像装置のカラーフィルタのパラメータを決定する方法
US10395347B2 (en) Image processing device, imaging device, image processing method, and image processing program
US8493463B2 (en) Spectral characteristic correction apparatus, spectral characteristic correction method and recording medium on which spectral characteristic correction program is recorded
JP2010021791A (ja) 撮像装置、その画像処理方法及びプログラム
JP3933651B2 (ja) 撮像装置及びその信号処理方法
JP4859502B2 (ja) 撮像装置
JP2005039408A (ja) 画像処理装置、画像処理方法、プログラム及び記録媒体
JP2014042138A (ja) 画像処理装置、コンピュータプログラム、およびデジタルカメラ
JP4298595B2 (ja) 撮像装置及びその信号処理方法
JP2005278213A (ja) 製造方法
JP4377733B2 (ja) 色調整モジュールおよび撮像装置、ならびに色調整を実現するためのプログラム
KR100999885B1 (ko) 이미지 신호 처리 장치, 이미지 신호 처리 장치의 색 노이즈 저감 방법 및 색 노이즈 저감 방법이 기록된 기록 매체
KR100999218B1 (ko) 이미지 신호 처리 장치, 이미지 신호 처리 장치의 컬러 보정 방법 및 컬러 보정 방법이 기록된 기록 매체
JP2012227869A (ja) 画像処理装置及び画像処理方法並びにデジタルカメラ
JP2007097202A (ja) 画像処理装置

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20101022

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20101022

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120126

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120227

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120425

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120803

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120831

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150907

Year of fee payment: 3

R151 Written notification of patent or utility model registration

Ref document number: 5080934

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150907

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees