Nothing Special   »   [go: up one dir, main page]

JP4715334B2 - 車両用画像生成装置および方法 - Google Patents

車両用画像生成装置および方法 Download PDF

Info

Publication number
JP4715334B2
JP4715334B2 JP2005184491A JP2005184491A JP4715334B2 JP 4715334 B2 JP4715334 B2 JP 4715334B2 JP 2005184491 A JP2005184491 A JP 2005184491A JP 2005184491 A JP2005184491 A JP 2005184491A JP 4715334 B2 JP4715334 B2 JP 4715334B2
Authority
JP
Japan
Prior art keywords
camera
error correction
frame buffer
error
rearrangement
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2005184491A
Other languages
English (en)
Other versions
JP2007006175A (ja
Inventor
謙 大泉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nissan Motor Co Ltd
Original Assignee
Nissan Motor Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nissan Motor Co Ltd filed Critical Nissan Motor Co Ltd
Priority to JP2005184491A priority Critical patent/JP4715334B2/ja
Priority to CN2006100864841A priority patent/CN1884968B/zh
Priority to US11/473,622 priority patent/US7773772B2/en
Priority to EP06253292A priority patent/EP1736927B1/en
Priority to DE602006004646T priority patent/DE602006004646D1/de
Publication of JP2007006175A publication Critical patent/JP2007006175A/ja
Application granted granted Critical
Publication of JP4715334B2 publication Critical patent/JP4715334B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/80Geometric correction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2200/00Indexing scheme for image data processing or generation, in general
    • G06T2200/32Indexing scheme for image data processing or generation, in general involving image mosaicing

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Image Processing (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
  • Studio Devices (AREA)

Description

本発明は、車両の運転者に自車両周辺の状況を分かりやすく表示する車両用画像生成装置および方法に関する。
自車両の周辺の映像を認識する場合の光学系の歪みを補正する技術が、下記特許文献1に記載されている。
ここに記載された車両用環境認識装置においては、画像メモリから読み出された画像データに基づいて左右の画像の対応を取る演算を行う際に、被写体としての正方形格子を光学部および撮像手段により撮像したときに得られる画像の歪みデータに基づき作成した補正座標(Δx,Δy)が格納される補正座標テーブルを設けている。そして、スキャン座標生成部で生成されたスキャン座標(X,Y)を補正座標(Δx,Δy)で補正した補正後の座標(X+Δx,Y+Δy)により、画像メモリからの読み出し画像メモリアドレスを生成する。これにより、光学系の歪みに基づく画像の歪みを原因とする対応の取れない状態を回避しようとするものである。
この従来技術では、光学系の歪みを補正する場合に、補正座標テーブルから読み出されたアドレス補正座標(Δx,Δy)を加算した補正後の座標(X+Δx,Y+Δy)に基づく読み出しアドレスデータで画像メモリから読み出すことにより、画像を正確な位置座標で読み出そうとするものである。そして、空間的に位置がわかっている点に電球を置き、歪みが無い場合の位置とのずれをアドレス補正座標(Δx,Δy)としてテーブルに書き込む。なお、このアドレス補正座標は、計算により求めるのではなく、実測値から求めている。
特開平9−159442号公報
自車両の周囲を撮影したカメラの映像を入力とし、入力した映像を画素の集合として入力用フレームバッファ上に格納し、格納した画素情報を画像変換(すなわち、入力画素データを再配置)して出力し、運転者に提示する車両用画像生成装置において、カメラの向きが、取り付け誤差(向きに関する誤差:ピッチ(pitch)、ヨー(yaw)、ロール(roll))に起因して、想定と違う場合、出力映像に影響が及ぶことがあった。従来は、このようなカメラの取り付け誤差を補正する場合には、困難を伴うという問題があった。
すなわち、例えば生産ライン工程において補正する場合、カメラそのものの向きを物理的に変更して補正する場合は、微調整が難しいため時間がかかる。また、物理的な調整機構を備えるため、コストが上昇する。また、画像変換(すなわち、再配置)のルールを再計算する場合は、計算自体に時間がかかる。したがって、生産ライン工程において遅れが生じる問題点があった。
本発明は、カメラの取り付け誤差を容易に補正することができる車両用画像生成装置および方法を提供することにある。
上記課題を解決するために、本発明は、自車両周辺をカメラで撮影した映像を画像変換して運転者に表示する車両用画像生成装置において、前記カメラの取り付け誤差の大きさに応じた複数の誤差補正用テーブルをあらかじめ用意しておき、前記画像変換時に適切な前記誤差補正用テーブルを参照して表示する、という構成になっている。
本発明によれば、カメラの取り付け誤差を容易に補正することができる車両用画像生成装置および方法を提供することができる。
以下、図面を用いて本発明の実施の形態について詳細に説明する。なお、以下で説明する図面で、同一機能を有するものは同一符号を付け、その繰り返しの説明は省略する。
まず、本発明に用いる基本的な考え方について説明したあと、実施の形態について説明する。
《1.カメラシミュレーションの考え方》
〈1−1.カメラの位置と向き〉
図3〜図9はカメラシミュレーションについて説明する図である。図3は一般的な数学座標系を示す図である。
カメラは空間上の点として定義する。座標系には、図3に示すような一般的な数学座標系を用い、(x,y,z)で示す。これをカメラ位置とする。x軸、y軸、z軸は、それぞれ互いに直交している。単位は統一されていれば自由であるが、基本的にはミリメートルを用いる。
次に、図4に示すように、カメラ位置(xc,yc,zc)にx軸、y軸、z軸それぞれに平行なx’軸、y’軸、z’軸を引く。基準向き(pitch=0,yaw=0)はy’軸の正方向の向きとなる。図4中の大きな矢印が基準向きである。なお、ピッチ、ヨー、ロール(roll)の指定に用いる単位はdegreeである。
図5はピッチ、図6はヨー、図7はロールについて説明する図である。
ピッチは、図4、図5に示すように、x’軸を軸にして回転する角度を示す。0度でxy平面と平行となる。プラス方向の角度で上に向き、マイナス方向の角度で下に向く。y’z’平面をx’軸の正方向から見て、プラスがccw、マイナスがcwの回転となる。+90度で真上(z’軸の正方向)を向き、−90度で真下(z’方向の負方向)を向く。±180度までの値をとる。
ヨーは、図4、図6に示すように、z’軸を軸にして回転する角度を示す。x’y’平面をz’軸の正方向から見て、cwが正、ccwが負の値となる。
ロールは、図7に示すように、ピッチおよびヨーで定義されたカメラ向きを示す軸を中心とした回転を示す。カメラを後ろから見て、cwが正、ccwが負となる。
カメラ向きの処理は、まず、ピッチ方向を処理し、次に、ヨー方向、最後に、ロール方向を処理する。従って、pitch=90もしくはpitch=−90のとき、ヨー方向の指定はロール方向のオペレーションとなる。また、ピッチの設定がpitch>90もしくはpitch<−90のとき、カメラは天地が逆となる。
以上のx,y,z,ピッチ,ヨー,ロールの6つのパラメータで、カメラの設置状況を指定する。
〈1−2.カメラシミュレーション〉
図8に示すように、カメラを示す点Cを原点に取り、基準向きDcとそれに垂直な向きDcvを定義する。Dcはカメラの向き、Dcvはカメラの上方向を決めるための向きである。ここで、Dcを軸にDcvを回転させて定義できる平面をSvと置く。
ここで、カメラ(点C)に入射する光線Aを考える。光線Aと向きDcのなす角度をαとする。また、AをSv上にDcと平行に投影したA’とDcvとがなす角度をβとする。
αは常に、
0.0[deg]≦α≦180.0[deg]
となる。
βは平面SvをDcと順方向に見た場合、時計回りを+方向とおく。図8中の光線Aは、(α,−β)と表現することができる。
次に、光線rが、カメラの出力映像上で、どのように映るかについて定義する。
図9は、カメラの出力映像を表す図である。出力映像がxy平面上にあると置く。xy平面の原点と一致するように、画面の中心点91を取る。また、点91から垂直上方向に伸びる半直線92(y軸のy>0)を取る。点91および半直線92を基準にとり、極座標(L,θ)を考える。θの正方向は半直線92から時計回りが正方向とする。出力映像上の点は、xy座標(x,y)もしくは極座標(L,θ)で表すことができる。
カメラの正面から垂直に入射した光線(α=0.0[deg],β=任意)について考えると、出力画像の中央、すなわち点91として撮影される、と考えることができる。また、光線(α,β)のβを0.0に固定し、αを0.0から大きくしていった場合は、カメラの上方向からの入射に変化していくため、カメラの出力映像上では、半直線92上をyの正方向に向かって動いていくと考えられる。ここで、カメラの上方向を示す向きDcv(図8参照)と線分92を関連付けて考え、さらに、入射角αと出力映像上の原点91からの距離Lとは、関連があるので、
L=fc(α),θ=β
とする。便宜上、
(L,θ)=fc(α,β)
とまとめて表現する。また、fc()の逆関数fci()を、
α=fci(L),β=θ
と定義する。この式も便宜上、
(α,β)=fci(L,θ)
とまとめて表現する。
これらの式で、画像上の点(L,θ)と、カメラに入射する光線(α,β)とを関連付けるものとする。
カメラの撮像範囲を限定するには、図9の平面上に撮像エリア(撮像面)95を設定し、エリア内であれば撮像領域、エリア外であれば撮像領域外とすればよい。カメラの水平画角がh_max[deg]で示される場合、光線(α=(h_max/2)[deg],β=90.0[deg])は、図9の点93としてプロットできる。光線(α=(h_max/2)[deg],β=−90.0[deg])である場合は、同様に点94としてプロットできる。よって、水平画角がh_max[deg]の場合の撮像エリア95の横方向の範囲は、x座標の範囲で、−fc(h_max/2)〜fc(h_max/2)となる。これを、−w〜wと置く。撮像エリア95の縦方向の範囲は、撮像面の縦横比と、前記横方向の範囲から決定することができる。例えば画面の縦横比率が3:4であった場合には、撮像エリア95の縦方向の範囲は、y座標で表すと、−3w/4〜3w/4となる。もちろん、垂直画角から算出しても良い。この範囲を−h〜hとおく。
以上で撮像エリア95の範囲を決定することができる。
図10はフレームバッファおよびテーブルの座標とアドレスについて説明する図である。
図9の撮像エリア95を、図10のように、一般的なCGで用いられるような横Wピクセル、縦Hピクセルに分割することを考える。この場合、左上のピクセルをXY座標で表現すると、(0,0)となり、右下のピクセルが(W−1,H−1)となるのが一般的である。図10のXY座標と、図9の(L,θ)座標の変換式を、
(X,Y)=fs(L,θ)
と定義する。
また、関数fs()の逆関数fsi()を、
(L,θ)=fsi(X,Y)
と定義する。関数fs()およびfsi()は、w,h,W,Hのパラメータから決定することができる。
関数fc()は、レンズの特性を表す。例えば、fθ系の光学特性を持つレンズの場合は、
L=k×θ(kは定数、θは入射角)
となる。
関数fc()を用いて撮像エリアを定義するため、kは0.0より大きい値であれば、どのような値を取った場合も結果は同じである。ピンホールカメラの場合は、
L=tan(θ)
となる。
複数の、入射角θと像高Yのデータの組から、近似式Y=F(θ)を求め、それをそのままL=fc(θ)に適用しても良い。
以上から、入射光線(α,β)と、出力映像のピクセル座標(X,Y)との関係式
(X,Y)=fs(fc(α,β))
(α,β)=fci(fsi(X,Y))
を定義することができる。ただし、XY座標系では、X,Yそれぞれが正整数に丸められるため、完全な逆関数とはならず、近似となる。X,Yそれぞれを実数で持つ場合には、完全な逆演算が可能になる。
〈1−3.空間上の点の撮影〉
〈1−1.〉で定義したカメラの位置およびカメラの向きと、〈1−2.〉で定義したカメラシミュレーションに基づいて、空間上の点(xp,yp,zp)と、カメラの出力映像上のピクセル(Xp,Yp)との関係を求める。カメラの位置を(xc,yc,zc)とし、カメラの向きを(pitch,yaw,roll)とする。
カメラ位置(xc,yc,zc)をオフセットとして用いて、カメラ位置が原点に来るように、空間座標x,y,z方向にそれぞれ−xc,−yc,−zcをシフトする関数
(sx,sy,sz)=fo((x,y,z),(xc,yc,zc))
を定義する。
また、逆関数
(x,y,z)=foi((sx,sy,sz),(xc,yc,zc))
も定義する。
これを空間上の点(xp,yp,zp)に適用する。ここまでの結果は、
fo((xp,yp,zp),(xc,yc,zc))
となる。
次に、z軸を中心とし、z軸の+方向から−方向の向きでxy平面を見た場合に、時計回りを正方向として、空間座標をθ[deg]回転させる関数
(rzx,rzy,rzz)=rollZ((x,y,z),θ)
を定義し、これまでの演算結果を、−yaw[deg]、z軸周りに回転させる。ここまでの結果は、
rollZ(fo((xp,yp,zp),(xc,yc,zc)),−yaw)
となる。
次に、x軸を中心とし、x軸の+方向から−方向の向きでyz平面を見た場合に、時計回りを正方向として、空間座標をθ[deg]回転させる関数
(rxx,rxy,rxz)=rollX((x,y,z),θ)
を定義し、これまでの演算結果を、−pitch[deg]、x軸周りに回転させる。ここまでの結果は、
rollX(rollZ(fo((xp,yp,zp),(xc,yc,zc)),−yaw),−pitch)
となる。
次に、y軸を中心とし、y軸の−方向から+方向の向きでxz平面を見た場合に、時計回りを正方向として、空間座標(x,y,z)をθ[deg]回転させる関数
(ryx,ryy,ryz)=rollY((x,y,z),θ)
を定義し、これまでの演算結果を、y軸周りに−roll[deg]、回転させる。ここまでの結果は、
rollY(rollX(rollZ(fo((xp,yp,zp),(xc,yc,zc)),−yaw),−pitch),−roll)
となる。
この計算の結果、空間上の点(xp,yp,zp)をカメラ向きを基準に見たときの座標(xp’,yp’,zp’)を求めることができる。
以上の演算をまとめて、
(x’,y’,z’)=fd((x,y,z),(xc,yc,zc),(pitch,yaw,roll))
と定義する。
また、逆関数
(x,y,z)=fdi((x’,y’,z’),(xc,yc,zc),(pitch,yaw,roll))
を定義する。
次に、(xp’,yp’,zp’)から、カメラ(原点)への入射向き(α,β)を求める。この演算を
(α,β)=fa(x,y,z)
と定義する。座標から向きへの関数であるため、逆関数(x,y,z)=fai(α,β)は定義できないが、向きを示す座標(xd,yd,zd)を求める関数
(xd,yd,zd)=fb(α,β)
(ただし、xd=t×x,yd=t×x,zd=t×z。tは0.0より大きな正の実数)
を定義することができる。関数fa()を(xp’,yp’,zp’)に適用すると、(αp,βp)=fa(xp’,yp’,zp’)となる。
ここまでの結果と、〈1−2.〉の結果から、空間上の点(xp,yp,zp)と出力映像上のピクセルの座標(Xp,Yp)との関係は、
(Xp,Yp)=fs(fc(fa(fd((xp,yp,zp),(xc,yc,zc),(pitch,yaw,roll)))))
と表すことができ、カメラのシミュレーションが可能となる。関数fai()が定義できないため、純粋な逆関数の定義は不可能であるが、撮影元の点の空間座標を推測するための点の座標(xv,yv,zv)を求めることができる。
(xv,yv,zv)=fdi(fb(fci(fsi(Xp,Yp)))),(xc,yc,zc),(pitch,yaw,roll))
と表すことができる。(xc,yc,zc)を起点に、(xv,yv,zv)を通る半直線の近傍に(xp,yp,zp)が存在する。Xp,Ypは正整数に丸められるため、可逆ではなく、かならずしも半直線上にあるとはいえないが、その近傍に存在する。
《2.視点変換の考え方》
《1.カメラシミュレーションの考え方》で説明したカメラシミュレーションの手法を用いて、視点変換について説明する。図11は視点変換について説明する図である。空間上に実際のカメラRと、仮想カメラVがあるとする。仮想カメラVの映像を実際のカメラRの映像を用いて生成することを考える。
カメラRおよびカメラVの各種パラメータ(位置、向き、レンズ特性など)は、既に定義されているとする。カメラRの位置を(x_r,y_r,z_r)、向きを(pitch_r,yaw_r,roll_r)、各関数をfxx_r()と記述することとする。また、カメラVの各パラメータ、各関数には、同様に_vをつけて表現することとする。すなわち、カメラVの位置を(x_v,y_v,z_v)、向きを(pitch_v,yaw_v,roll_v)、各関数をfxx_v()と記述することとする。
カメラVの映像をカメラRの映像を用いて生成するには、カメラVの映像の各画素が、カメラRの映像のどの画素と対応するかを、計算すればよい。
カメラVの画素(X_v,Y_v)に注目する。この画素が、どの方向から入射した光線を撮影しているかを、《1.カメラシミュレーションの考え方》の結果から求めると、
(tx,ty,tz)=fdi_v(fb_v(fci_v(fsi_v(X_v,Y_v))),(x_v,y_v,z_v),(pitch_v,yaw_v,roll_v))
となる。ここで、(tx,ty,tz)は、絶対位置ではなく、方向を示すための座標であるから、座標を決定するには、なんらかの基準が必要となる。ここで、基準面として、xy平面を考える。(x_v,y_v,z_v)と(tx,ty,tz)で定まる方向と、基準面の交点C(x_c,y_c,0)を求めることができる。z_v<tzの場合は交点を持たないが、この場合の処理は後で説明する。次に、交点CをカメラRが撮影していると考える。カメラRが交点Cを撮影していない場合の処理については、後で述べる。交点Cの、カメラRの映像上の座標を(X_r,Y_r)とおくと、
(X_r,Y_r)=fs_r(fc_r(fa_r(fd_r((x_c,y_c,0),(x_r,y_r,z_r),(pitch_r,yaw_r,roll_r)))))
となる。
以上で、仮想カメラVの映像の画素(X_v,Y_v)と、実際のカメラRの映像の画素(X_r,Y_r)の、対応を得ることができる。仮想カメラVの映像の画素(X_v,Y_v)に、実際のカメラRの映像の画素(X_r,Y_r)の情報をコピーする。実際のカメラRの映像情報をRGBの値で持っている場合には、RGBの値をコピーする。
ここで、交点Cが定まらない場合と、カメラRが交点Cを撮影していない場合について述べる。これらの場合は、仮想カメラVの映像の画素(X_v,Y_v)は、対応する実際のカメラRの映像の画素がないので、仮想カメラVの映像の画素(X_v,Y_v)には、一定の値、例えば黒などの色を即値で代入する。
仮想カメラVの映像の画素全てについて、以上の処理を行うと、仮想カメラVの映像が確定する。また、実際のカメラRが複数ある場合にも同様にして処理を行うことができる。この場合は、仮想カメラVの映像の画素(X_v,Y_v)の対応先が、複数の実際のカメラRの画素にまたがることになる。
カメラVとカメラRの各種パラメータ・各種関数に変更がない場合、以上で求めたカメラVとカメラRの映像の関係は、一定である。動画を処理する場合にも、一度計算した結果をストアしておけばよいので、高速に処理を行うことができる。ストアする内容は、(X_v,Y_v)と、(X_r,Y_r)との関係であるから、カメラVの映像が、横W_v、縦H_vピクセルで構成される場合、前記の関係を示すデータを、((W_v)×(H_v))個、保持すればよい。これを再配置用テーブルと呼ぶこととする。
次に、実際の再配置用テーブルの例を示す。まず、各カメラの映像のピクセルに、図10に示すようなルールで、アドレス番号を振る。アドレス番号は1から始まり、W×Hで終わる(これはカメラの解像度で変化する)。これにカメラ番号を付加し、各カメラの各ピクセルの情報にアクセスする。例えばカメラRのカメラ番号を1とした場合、カメラRのピクセル(xr,yr)にアクセスするためには、ピクセル1:((xr+yr)×(W_r+1))にアクセスすればよい。これを参照先アドレスと呼ぶ。カメラVの画像を確定する再配置用テーブルには、カメラVの映像の画素数と同じ((W_v)×(H_v))個、参照先アドレスが記述されている。再配置用テーブルの情報には、ピクセルにアクセスするのと同様のアドレスでアクセスすることができる。カメラVの映像の画素(xv,yv)の情報を知るためには、再配置用テーブル上の情報のアドレス((xv+yv)×(W_v+1))にアクセスし、参照先アドレスを取得し、参照先アドレスの指し示すピクセルの情報を取得する。
《3.画角変換の考え方》
画角変換は、視点変換の特殊解である。視点変換との違いは、カメラRが必ず1つであること、カメラVとカメラRの位置が同じであることである。これらの条件により、交点Cを求めず、(tx,ty,tz)を直接用いて変換演算を行うことが可能となる。(x_r,y_r,z_r)=(x_v,y_v,z_v)=(xA,yA,zA)として式を示す。
(tx,ty,tz)=fdi_v(fb_v(fci_v(fsi_v(X_v,Y_v))),(xA,yA,zA),(pitch_v,yaw_v,roll_v))
(X_r,Y_r)=fs_r(fc_r(fa_r(fd_r((tx,ty,tz),(xA,yA,zA),(pitch_r,yaw_r,roll_r)))))
以上の式を用いて、(X_v,Y_v)と(X_r,Y_r)の対応を計算することができる。
視点変換の場合は、基準面を用いて変換処理を行うため、z=0以外にある撮影対象点が基準面上に投影され、特有の歪みを生じることがあったが、画角変換の場合は、基準面を用いず、方向だけを用いて変換を行うので、歪み無しで撮像範囲や方向、画角、レンズ特性の変更を行うことが可能となる。
また、画角変換の場合、方向だけを用いて変換を行うので、カメラRとカメラVの向きの差のみが問題になり、絶対的な向きがどちらを向いていても、結果は同じになる。よって、例えばカメラRとカメラVがピッチ方向に5度ずれているカメラで、カメラRとカメラVの解像度が同じであった場合には、カメラR→カメラVの再配置用テーブルを用いた再配置を、N回適用すると、(N×5)度ずれた映像を得ることができる。
《本発明の実施の形態》
〈実施の形態1〉
以上のことを前提に、本発明の実施の形態について以下説明する。
図1は本発明の実施の形態1の車両用画像生成装置の構成を示す図である。
図1において、1はカメラ、2は入力用フレームバッファ、3は再配置装置、4は出力用フレームバッファ、5は表示装置、6は誤差補正用テーブル、7は誤差補正用テーブル保持装置(誤差補正用テーブル保持領域、保持手段)、8は再配置用テーブル、9は再配置用テーブル保持装置(再配置用テーブル保持領域、保持手段)である。
カメラ1の出力映像は、画素情報へ分割され、入力用フレームバッファ2に格納される。この部分の具体的な手法・構成は公知である。
再配置装置3は、誤差補正用テーブル6と、再配置用テーブル8を用いて、入力用フレームバッファ2上の画素情報を、出力用フレームバッファ4上に再配置する。誤差補正機能のない、従来のシステムでは、再配置用テーブル8だけを用いて、入力用フレームバッファ2上の画素情報を、出力用フレームバッファ4上に再配置する。
誤差補正用テーブル6は、カメラ1の向きの誤差を補正するためのテーブルで、入力用フレームバッファ2と同じサイズを持つ仮想フレームバッファへの再配置を行う。なお、仮想フレームバッファは、再配置装置3の内部に存在する。入力用フレームバッファ2と再配置装置3の内部にある仮想フレームバッファとは、サイズと、保持している情報が同じなので、仮想フレームバッファへのアクセスは、入力用フレームバッファ2へのアクセスと同様に行うことができる。よって、誤差補正用テーブル6で再配置した結果に対し、同じ、もしくは別の誤差補正用テーブル6をさらに適用することが可能である。誤差補正用テーブル6は、《1.〜3.》で説明した考え方で生成したテーブルを用いるが、誤差補正用テーブル6は、カメラ1の向きを補正するものであるので、《3.》の画角変換を用いる。
カメラ1の取り付け誤差には、向き(ピッチ、ヨー、ロール)の誤差と、位置の誤差とがある。条件にもよるが、車体に取り付けるカメラの場合は、向きの誤差は、カメラ自体の誤差を含めて±3[deg]、位置の誤差は±3[mm]程度である。特にカメラが広角で、広い範囲を撮像し、その映像を運転者に提示するシステムにおいては、撮影対象が遠く(数m先)、撮像範囲が広いため、向きの誤差は大きく出るが、位置の誤差は無視できるオーダーである場合が多い。このため、誤差補正用テーブルの補正する内容を向きに限定しても問題にならず、システム全体のパフォーマンスを向上することができる。
誤差補正用テーブル6は、あらかじめ計算した結果を、誤差補正用テーブル保持装置7にいくつか保持しておき、使用者が望む補正状態にあったものを選び、使用する形式でよい。
誤差補正用テーブル6を複数回適用して、補正を行ってもよい。例えば、ヨー方向に1度補正する誤差補正用テーブルを保持しておき、そのテーブルを3回適用すると、3度補正するテーブルとなる。3回補正した結果を、新規の誤差補正用テーブルとして生成し、誤差補正用テーブル6に設定してもよいし、再配置用テーブル8の中で、3回適用する形でもよい。また、ピッチを1度補正する誤差補正用テーブルを適用した後に、ヨーを1度補正する誤差補正用テーブルを適用すると言った具合に、異なる誤差補正用テーブルを何度か適用してもよい。
なお、カメラ1のピッチ、ヨー方向の誤差補正用テーブルは、レンズ特性によって決定されるため、複雑な計算を避けようとする場合は、あらかじめ計算した結果を持たなければならない。しかしながら、カメラ1のロール方向の誤差については、レンズ特性に関係なく、単なる画像の回転となる。これは非常に簡単な計算となるので、内部でロール補正用テーブルを生成し、適用することで、あらかじめ誤差補正用テーブル保持装置7に持っておく誤差補正用テーブル6の数を減らすことができる。
誤差補正用テーブル保持装置7上の複数の誤差補正用テーブル6から、誤差補正用テーブルを生成する方法もある。例として、ピッチを1度補正するテーブルと、ピッチを3度補正するテーブルから、ピッチを2度補正するテーブルを生成する方法について示す。ピッチを1度補正するテーブルをテーブル1、ピッチを3度補正するテーブルをテーブル2とする。共通のアクセス用アドレスAを用いて、テーブル1およびテーブル2から、参照先アドレス1と参照先アドレス2を取得する。これはどちらも、同じ入力用フレームバッファ2上のピクセルを示している。参照先アドレス1の入力用フレームバッファ2上の座標を(x1,y1)、参照先アドレス2の入力用フレームバッファ2上の座標を(x2,y2)とする。その2つの中間座標((x1+x2)/2,(y1+y2)/2)を生成テーブルのアドレスAの値として決定する。この計算をすべてのピクセルのアドレスについて行えば、テーブル1とテーブル2の中間のテーブルを生成することができる。これをピッチを2度補正するテーブルの近似として、誤差補正用テーブル6に適用する。もし、ピッチを1.5度補正するテーブルの近似テーブルを求めたければ、さきに説明した中間座標の計算式を((x1×3+x2)/4,(y1×3+y2)/4)にすればよい。さらに、m:nに分割する中間座標は((x1×m×x2×n)/(m+n),(y1×m×y2×n)/(m+n))で示される。テーブル1とテーブル2との間が狭い場合は正確な近似になっていき、広い場合には不正確になるので、このような近似は、狭い範囲で調整値を追い込む場合に有効となる。
再配置装置3は、以上で決定した誤差補正用テーブル6と、再配置用テーブル8とを用いて、入力用フレームバッファ2上の画素情報を、出力用フレームバッファ4上に再配置する。再配置用テーブル保持装置9は、例えば、《2.》の視点変換を用いて生成した、自車両上方からの俯瞰映像のための再配置用テーブルである。
出力用フレームバッファ4の画素(xo,yo)の画素情報を取得する手順について示す。まず、アクセス用アドレスBを、(xo,yo)を用いて計算する。《1.〜3.》で述べたとおり、出力用フレームバッファ4が、横W_o、縦H_oである場合には、(xo+yo)×(W_o+1)で求めることができる。次に、アクセス用アドレスBで、再配置用テーブル8にアクセスし、参照先アドレスCを取得する。次に、参照先アドレスCを用いて、誤差補正用テーブル6にアクセスし、参照先アドレスDを取得する。次に、参照先アドレスDを用いて入力用フレームバッファ2にアクセスし、画素情報を取得する。この手順を出力用フレームバッファ4の全画素に対して行うと、出力用フレームバッファ4上のデータが確定する。
なお、誤差補正用テーブル6は、カメラ1の向きの誤差を修正するテーブルであるので、再配置用テーブル8を他の再配置用テーブルに入れ替えた場合でも、誤差補正を適用し直す必要はない。
表示装置5は、出力用フレームバッファ4のデータを表示し、運転者に提示する。
なお、カメラ1が複数ある場合には、入力用フレームバッファ2および誤差補正用テーブル6がカメラ1と同じ数必要となるが、処理の仕方は同じである。同じスペックのカメラ1が複数ある場合には、誤差補正用テーブル保持装置7にある誤差補正用テーブル6のソースを共有することができる。これは、誤差補正用テーブル6は、画角を含めたレンズ特性で決定され、取り付け位置、向きによらないからである。しかし、各カメラ1の向きの誤差は、同じではないので、誤差補正用テーブル6はそれぞれのカメラ1に対して独立して必要である。
上記のように本発明は、カメラ1の取り付け誤差の大きさに対応した複数の誤差補正用テーブル6をあらかじめ持っておき、適切な補正テーブルを選ぶことにより本来撮影したい向きの画像を再現するものである。また、誤差補正用テーブル6とは、カメラ1の向き、つまり、ピッチ、ヨー、ロール方向のずれに対応して、アドレスを変更するルールを対応付けたテーブルである。ピッチ、ヨー、ロールがそれぞれ例えば0.5°、1°、1.5°ずつずれた場合には、例えば画素(12,12)を画素(13,14)に変更するといった対応づけをしたテーブルである。カメラ1のピッチ、ヨー、ロール方向のずれに対応して、全ての画素に対応付けがなされている。また、画素の座標から番地が分かるようになっている。このような構成により、カメラ1の取り付け時等に作業者がモニタ等を確認しながら、適切な補正テーブルを選ぶだけでよいので、正確な映像を再現するカメラ1の取り付け作業(取り付け誤差修正作業)を簡略化することができる。
誤差補正用テーブルについてさらに詳しく説明する。《3.》の式により、実カメラRと仮想カメラVの向き(pitch_r,yaw_r,roll_r)、(pitch_v,yaw_v,roll_v)と、仮想カメラVの位置(x_v,y_v,z_v)が分かれば、カメラVの画素(X_v,Y_v)にカメラRの画素(X_r,Y_r)が対応付けられることが分かる。画素どうしの対応が付けば、カメラRのある画素のアドレスにカメラVのアドレスを対応付けることができる。
ここで、仮想カメラVを基準となるカメラとして、このカメラVの位置、向きにカメラ1を取り付けるものとすると、その位置、向きは取り付けるカメラ1によっておのずと決まる。また、実際に取り付けられる実カメラRは仮想カメラVに対して向きの誤差を含んでいるので、この実カメラRの誤差を補正した画素を仮想カメラVに対応づければ、仮想カメラVで見た画像として本来の取り付け方向の画像が再現できる。実際に取り付ける実カメラRの誤差は仮想カメラVの向き(pitch_v,yaw_v,roll_v)に対して実カメラの向き(pitch_r,yaw_r,roll_r)が異なっていれば、その差異が誤差となる。
本発明では、全ての画素について誤差を補正した誤差補正用テーブル6を、誤差の大きさに応じて複数用意しておき、実際の誤差に適合するテーブルを選択することで、誤差の大きさによらず本来の取り付け方向の映像を再現するものである。
以上説明したように、本実施の形態1の車両用画像生成装置は、自車両の周辺をカメラ1で撮影した映像を画像変換(すなわち、入力画素データを再配置して出力)して運転者に表示する車両用画像生成装置において、カメラ1の取り付け誤差の大きさに対応した複数の誤差補正用テーブル6をあらかじめ持っておき、画像変換時に適切な誤差補正用テーブル6を参照して表示し、画像の方向の誤差を補正するという構成になっている。また、本実施の形態1の車両用画像生成方法は、自車両の周辺をカメラ1で撮影した映像を画像変換して運転者に表示する車両用画像生成方法において、カメラ1の取り付け誤差の大きさに対応した複数の誤差補正用テーブル6をあらかじめ持っておき、画像変換時に適切な誤差補正用テーブルを参照して表示し、画像の方向の誤差を補正するという構成になっている。このような構成により、カメラ1の取り付け誤差を容易に補正することができ、カメラ1の取り付け誤差による入力映像のずれを解消し、入力映像の画素を再配置して生成する出力映像を正しく保つことができる。
前述のように、上記特許文献1の従来技術の補正座標テーブルは各カメラごとに存在する固有の光学系の歪みを補正するものであり、カメラの取付けの際に生じる向き等の誤差を補正するためのものでない。また、光学系の歪みの補正座標は実測値により求められるので、向き等の誤差を補正する複数のテーブルを用意することは困難である。したがって、取付けの向きの誤差を補正することはできない。さらに、複数の誤差補正用テーブルは向きの誤差に応じた複数のものではないので、カメラ取付け時に発生する任意の誤差に対応して適切なテーブルを選択することはできない。
また、本実施の形態1の車両用画像生成装置は、少なくとも1つのカメラ1と、カメラ1の映像を入力して画素データとして記録する入力用フレームバッファ2と、入力用フレームバッファ2に記録された画素データを再配置する再配置装置3と、再配置装置3により再配置された画素データを記録する出力用フレームバッファ4と、出力用フレームバッファ4に記録された画素データを映像として表示する表示装置5と、入力用フレームバッファ2に記録された画素データを出力用フレームバッファ4上に再配置するためのルールが記載された再配置用テーブル8と、カメラ1の取り付けの誤差を補正するためのルールが記載された誤差補正用テーブル6とを有し、再配置装置3は、再配置用テーブル8および誤差補正用テーブル6を用いて、入力用フレームバッファ2に記録された画素データを出力用フレームバッファ4上に再配置するものである。このように誤差補正用テーブル6と、再配置用テーブル8とを用いて、画素の再配置を行い、出力映像を生成するので、再配置用テーブル8を再計算することなく、カメラ1の取り付け誤差を容易に補正することができる。
また、誤差補正用テーブル6が、単一のカメラ1の取り付け誤差を補正するためのテーブルとすることが可能である。このように誤差補正用テーブル6を、単一のカメラ映像を入力にして再配置を行うためのテーブルとすることにより、より少ない容量のテーブルで表現することができる。
また、誤差補正用テーブル6が、カメラ1の向きのみの取り付け誤差を補正するためのテーブルとすることが可能である。このようにカメラ1の位置の誤差の補正は除き、誤差補正用テーブル6によりカメラ1の向きの補正のみを行うことによって、誤差補正用テーブル6の生成に、視点変換ではなく画角変換を適用することが可能となる。したがって、同一のレンズ特性を持つカメラ1どうしで誤差補正用テーブル6を共有できるようになるので、少ないテーブル量で、多くの補正を行うことが可能になる。
また、誤差補正用テーブル6が、カメラ1の少なくともピッチ方向、ヨー方向の取り付け誤差を補正するためのテーブルとすることが可能である。これによりカメラ1の少なくともピッチ方向、ヨー方向の取り付け誤差を容易に補正することができる。
また、カメラ1の少なくともロール方向の誤差の補正は計算により補正するか、または少なくともロール方向の誤差補正用テーブル6を計算により生成し、該誤差補正用テーブル6を用いて補正するようにすることが可能である。このようにカメラ1の少なくともロール方向の誤差の補正は、内部で演算した結果を用いることにより、より少ないテーブルで補正を実現することができる。
また、誤差補正用テーブル6が、カメラ1のピッチ方向、ヨー方向の取り付け誤差を補正するためのテーブルであり、カメラ1のロール方向の誤差の補正は計算により補正するか、またはロール方向の誤差補正用テーブルを計算により生成し、該誤差補正用テーブルを用いて補正するようにすることが可能である。このようにカメラ1のロール方向の誤差の補正は、内部で演算した結果を用いることにより、より少ないテーブルで補正を実現することができる。
また、入力用フレームバッファ2のサイズと出力用フレームバッファ4のサイズとが同一であり、誤差補正用テーブル6が、カメラ1の向きのみの取り付け誤差を補正するためのテーブルであり、再配置装置3は、誤差補正用テーブル6を複数回適用して補正を行うことが可能である。すなわち、少なくともピッチ、ヨー方向の誤差をそれぞれ補正する基準の誤差補正用テーブル6を備え、この基準の誤差補正用テーブル6を複数回適用することにより誤差を補正する。このように誤差補正用テーブル6が、カメラ1の向きの補正を行うテーブルであり、入力用フレームバッファ2と出力用フレームバッファ4のサイズが同一であるので、誤差補正用テーブル6を適用した結果に、さらに誤差補正用テーブル6を適用することが可能となり、少ないテーブルで、より多くのずれの状況に対応することができる。
また、再配置装置3は、誤差補正用テーブル6を、2個の誤差補正用テーブル6から計算して生成することが可能である。すなわち、少なくともピッチ、ヨー方向の誤差をそれぞれ補正する基準の誤差補正用テーブル6をそれぞれ複数備え、この複数の誤差補正用テーブル6を用いて誤差を補正する。このように2個の誤差補正用テーブル6から、新たな誤差補正用テーブル6を計算して生成できるので、少ないテーブルで、より細かな補正に対応することが可能となる。
〈実施の形態2〉
図2は本発明の実施の形態2の車両用画像生成装置の構成を示す図である。
図において、10は統合テーブルである。
図2に示すように、誤差補正用テーブル6と、再配置用テーブル8が決定した時点で、誤差補正用テーブル6と再配置用テーブル8の統合テーブル10を生成して、保持しておき、再配置装置3はそれを用いて動作するようにしてもよい。先の説明では、アクセス用アドレスBから参照先アドレスCを求め、参照先アドレスCから参照先アドレスDを得て、入力用フレームバッファ2にアクセスしたが、統合テーブル10はアクセス用アドレスBから参照先アドレスDを求める対応を保持している。この場合、参照が一段階減り、メモリへのアクセス回数が減るので、より低速なバスと、処理装置により、再配置を実現することができる。ただし、再配置用テーブル8を他のものに切り替える場合には、統合テーブル10を再び計算しなければならない。
このように本実施の形態では、再配置装置3は、誤差補正用テーブル6と再配置用テーブル8の両者を統合して生成した統合テーブル10を用いて、入力用フレームバッファ2上の画素データを出力用フレームバッファ4上に再配置するようになっている。すなわち、適切な誤差補正用テーブル6を選択したら、この誤差補正用テーブル6を再配置用テーブル8と統合して、統合テーブル10により直接再配置する。このように、誤差補正用テーブル6と再配置用テーブル8から、両者の統合テーブル10を生成する機能を持ち、生成した結果を用いて再配置を行うことができるので、簡単な計算で再配置用テーブル8を再構成することができ、かつ、より単純な処理機構で再配置を行うことが可能となる。
なお、以上説明した実施の形態は、本発明の技術的思想の理解を容易にするために記載されたものであって、本発明を限定するために記載されたものではない。したがって、上記実施の形態に開示された各要素は、本発明の技術的範囲に属する全ての設計変更や均等物をも含む趣旨である。
また、特許請求の範囲における各構成要素と、発明の実施の形態における各構成要素との対応について説明する。すなわち、実施の形態における再配置装置3が、特許請求の範囲の再配置手段に、表示装置5が表示手段にそれぞれ対応する。
本発明の実施の形態1の車両用画像生成装置の構成を示す図である。 本発明の実施の形態2の車両用画像生成装置の構成を示す図である。 カメラシミュレーションについて説明する図で、一般的な数学座標系を示す図である。 カメラシミュレーションについて説明する図である。 カメラシミュレーションのピッチについて説明する図である。 カメラシミュレーションのヨーについて説明する図である。 カメラシミュレーションのロールについて説明する図である。 カメラシミュレーションについて説明する図である。 カメラシミュレーションについて説明する図で、カメラの出力映像を表す図である。 フレームバッファおよびテーブルの座標とアドレスについて説明する図である。 視点変換について説明する図である。
符号の説明
1・・・カメラ 2・・・入力用フレームバッファ
3・・・再配置装置 4・・・出力用フレームバッファ
5・・・表示装置 6・・・誤差補正用テーブル
7・・・誤差補正用テーブル保持装置 8・・・再配置用テーブル
9・・・再配置用テーブル保持装置 10・・・統合テーブル

Claims (10)

  1. 少なくとも1つのカメラと、
    前記カメラの映像を入力して画素データとして記録する入力用フレームバッファと、
    前記入力用フレームバッファに記録された画素データを再配置する再配置手段と、
    前記再配置手段により再配置された画素データを記録する出力用フレームバッファと、
    前記出力用フレームバッファに記録された画素データを映像として表示する表示手段と、
    前記入力用フレームバッファに記録された画素データを前記出力用フレームバッファ上に再配置するためのルールが記載された再配置用テーブルと、
    前記カメラの取り付け誤差の大きさに対応し、前記カメラの取り付け誤差を補正するためのルールが記載された複数の誤差補正用テーブルとを有し、
    前記再配置手段は、前記再配置用テーブルおよび前記誤差補正用テーブルを用いて、前記入力用フレームバッファに記録された画素データを前記出力用フレームバッファ上に再配置することを特徴とする車両用画像生成装置。
  2. 前記再配置手段は、
    前記誤差補正用テーブルと前記再配置用テーブルの両者を統合して生成した統合テーブルを用いて、前記入力用フレームバッファ上の画素データを前記出力用フレームバッファ上に再配置することを特徴とする請求項1に記載の車両用画像生成装置。
  3. 前記誤差補正用テーブルが、単一の前記カメラの取り付け誤差を補正するためのテーブルであることを特徴とする請求項1又は2に記載の車両用画像生成装置。
  4. 前記誤差補正用テーブルが、前記カメラの向きのみの取り付け誤差を補正するためのテーブルであることを特徴とする請求項1乃至3のいずれか一項に記載の車両用画像生成装置。
  5. 前記誤差補正用テーブルが、前記カメラの少なくともピッチ方向、ヨー方向の取り付け誤差を補正するためのテーブルであることを特徴とする請求項1乃至4のいずれか一項に記載の車両用画像生成装置。
  6. 前記カメラの少なくともロール方向の誤差の補正は計算により補正するか、または少なくともロール方向の誤差補正用テーブルを計算により生成し、該誤差補正用テーブルを用いて補正することを特徴とする請求項1乃至5のいずれか一項に記載の車両用画像生成装置。
  7. 前記誤差補正用テーブルが、前記カメラのピッチ方向、ヨー方向の取り付け誤差を補正するためのテーブルであり、
    前記カメラのロール方向の誤差の補正は計算により補正するか、またはロール方向の誤差補正用テーブルを計算により生成し、該誤差補正用テーブルを用いて補正することを特徴とする請求項1乃至6のいずれか一項に記載の車両用画像生成装置。
  8. 前記入力用フレームバッファのサイズと前記出力用フレームバッファのサイズとが同一であり、
    前記誤差補正用テーブルが、前記カメラの向きのみの取り付け誤差を補正するためのテーブルであり、
    前記再配置手段は、前記誤差補正用テーブルを複数回適用して補正を行うことを特徴とする請求項1乃至7のいずれか一項に記載の車両用画像生成装置。
  9. 前記再配置手段は、前記誤差補正用テーブルを、2個の前記誤差補正用テーブルから計算して生成することを特徴とする請求項1乃至8のいずれか一項に記載の車両用画像生成装置。
  10. 自車両の周辺をカメラで撮影した映像を画像変換して運転者に表示する車両用画像生成方法において、
    少なくとも1つのカメラの映像を画素データとして入力用フレームバッファに記録し、
    前記入力用フレームバッファに記録された画素データを前記出力用フレームバッファ上に再配置するためのルールが記載された再配置用テーブルと、前記カメラの取り付け誤差の大きさに対応し、前記カメラの取り付け誤差を補正するためのルールが記載された複数の誤差補正用テーブルとを用いて、前記入力用フレームバッファに記録された画素データを再配置し、
    前記再配置された画素データを出力用フレームバッファに記憶し、
    前記出力用フレームバッファに記録された画素データを映像として表示する車両用画像生成方法。
JP2005184491A 2005-06-24 2005-06-24 車両用画像生成装置および方法 Active JP4715334B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2005184491A JP4715334B2 (ja) 2005-06-24 2005-06-24 車両用画像生成装置および方法
CN2006100864841A CN1884968B (zh) 2005-06-24 2006-06-23 车辆用图像生成设备和方法
US11/473,622 US7773772B2 (en) 2005-06-24 2006-06-23 Image generation device and method for vehicle
EP06253292A EP1736927B1 (en) 2005-06-24 2006-06-24 Image generation device and method for vehicle
DE602006004646T DE602006004646D1 (de) 2005-06-24 2006-06-24 Bilderzeugungsvorrichtung und Verfahren für ein Fahrzeug

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005184491A JP4715334B2 (ja) 2005-06-24 2005-06-24 車両用画像生成装置および方法

Publications (2)

Publication Number Publication Date
JP2007006175A JP2007006175A (ja) 2007-01-11
JP4715334B2 true JP4715334B2 (ja) 2011-07-06

Family

ID=37027785

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005184491A Active JP4715334B2 (ja) 2005-06-24 2005-06-24 車両用画像生成装置および方法

Country Status (5)

Country Link
US (1) US7773772B2 (ja)
EP (1) EP1736927B1 (ja)
JP (1) JP4715334B2 (ja)
CN (1) CN1884968B (ja)
DE (1) DE602006004646D1 (ja)

Families Citing this family (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4257356B2 (ja) * 2006-09-26 2009-04-22 株式会社日立製作所 画像生成装置および画像生成方法
WO2008117386A1 (ja) * 2007-03-23 2008-10-02 Pioneer Corporation 車両用画像処理装置及び車両用画像処理プログラム
JP4794510B2 (ja) * 2007-07-04 2011-10-19 ソニー株式会社 カメラシステムおよびカメラの取り付け誤差の補正方法
WO2009013845A1 (ja) * 2007-07-20 2009-01-29 Techwell Japan K.K. 画像処理装置及びカメラシステム
US7889234B2 (en) * 2008-01-10 2011-02-15 Delphi Technologies, Inc. Automatic calibration for camera lens distortion correction
JP5173551B2 (ja) * 2008-04-23 2013-04-03 アルパイン株式会社 車両周辺監視装置およびこれに適用されるカメラ取り付け位置・姿勢情報の設定修正方法
TWI392896B (zh) * 2008-10-29 2013-04-11 Chung Shan Inst Of Science 廣角鏡頭影像畸變校正方法
JP5491235B2 (ja) * 2010-03-02 2014-05-14 東芝アルパイン・オートモティブテクノロジー株式会社 カメラキャリブレーション装置
JP5444139B2 (ja) * 2010-06-29 2014-03-19 クラリオン株式会社 画像のキャリブレーション方法および装置
KR101713772B1 (ko) * 2012-02-06 2017-03-09 한국전자통신연구원 사전 시각화 영상 생성 장치 및 방법
CN104102542A (zh) * 2013-04-10 2014-10-15 华为技术有限公司 一种网络数据包处理方法和装置
KR101592740B1 (ko) * 2014-07-24 2016-02-15 현대자동차주식회사 차량용 광각카메라의 영상 왜곡 보정 장치 및 방법
KR101666959B1 (ko) * 2015-03-25 2016-10-18 ㈜베이다스 카메라로부터 획득한 영상에 대한 자동보정기능을 구비한 영상처리장치 및 그 방법
US9986150B2 (en) * 2015-09-30 2018-05-29 Ricoh Co., Ltd. Algorithm to estimate yaw errors in camera pose
US10104282B2 (en) 2015-09-30 2018-10-16 Ricoh Co., Ltd. Yaw user interface
CN108844542B (zh) * 2018-04-23 2021-05-14 合肥工业大学 一种基于无人检测车自动定位系统的误差分析与补偿方法

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002135765A (ja) * 1998-07-31 2002-05-10 Matsushita Electric Ind Co Ltd カメラキャリブレーション指示装置及びカメラキャリブレーション装置
JP2003212041A (ja) * 2002-01-25 2003-07-30 Toyota Central Res & Dev Lab Inc 車輌後方表示装置
JP2004064441A (ja) * 2002-07-29 2004-02-26 Sumitomo Electric Ind Ltd 車載画像処理装置及び周囲モニタシステム

Family Cites Families (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3357749B2 (ja) 1994-07-12 2002-12-16 本田技研工業株式会社 車両の走行路画像処理装置
US5649032A (en) 1994-11-14 1997-07-15 David Sarnoff Research Center, Inc. System for automatically aligning images to form a mosaic image
US6111702A (en) 1995-11-30 2000-08-29 Lucent Technologies Inc. Panoramic viewing system with offset virtual optical centers
JP3599255B2 (ja) 1995-12-04 2004-12-08 本田技研工業株式会社 車両用環境認識装置
EP0949818A3 (en) * 1998-04-07 2000-10-25 Matsushita Electric Industrial Co., Ltd. On-vehicle image display apparatus, image transmission system, image transmission apparatus, and image capture apparatus
JP3284190B2 (ja) * 1998-05-14 2002-05-20 富士重工業株式会社 ステレオカメラの画像補正装置
US7098914B1 (en) 1999-07-30 2006-08-29 Canon Kabushiki Kaisha Image synthesis method, image synthesis apparatus, and storage medium
JP3632563B2 (ja) * 1999-10-19 2005-03-23 株式会社豊田自動織機 映像位置関係補正装置、該映像位置関係補正装置を備えた操舵支援装置、及び映像位置関係補正方法
JP3297040B1 (ja) 2001-04-24 2002-07-02 松下電器産業株式会社 車載カメラの画像合成表示方法及びその装置
US20030095080A1 (en) * 2001-11-19 2003-05-22 Koninklijke Philips Electronics N.V. Method and system for improving car safety using image-enhancement
US7110021B2 (en) * 2002-05-31 2006-09-19 Matsushita Electric Industrial Co., Ltd. Vehicle surroundings monitoring device, and image production method/program
JP3871614B2 (ja) * 2002-06-12 2007-01-24 松下電器産業株式会社 運転支援装置
US7400782B2 (en) 2002-08-28 2008-07-15 Arcsoft, Inc. Image warping correction in forming 360 degree panoramic images
US6928194B2 (en) 2002-09-19 2005-08-09 M7 Visual Intelligence, Lp System for mosaicing digital ortho-images
CN1706195A (zh) * 2002-10-18 2005-12-07 沙诺夫股份有限公司 使用多个摄像机以允许全景可视的方法和系统
JP3862688B2 (ja) 2003-02-21 2006-12-27 キヤノン株式会社 画像処理装置及び画像処理方法
JP4055998B2 (ja) 2003-04-15 2008-03-05 本田技研工業株式会社 距離検出装置、距離検出方法、及び距離検出プログラム
JP2004354878A (ja) * 2003-05-30 2004-12-16 Minolta Co Ltd 撮像装置
JP4196841B2 (ja) 2004-01-30 2008-12-17 株式会社豊田自動織機 映像位置関係補正装置、該映像位置関係補正装置を備えた操舵支援装置、及び映像位置関係補正方法
WO2006022855A2 (en) 2004-03-18 2006-03-02 Northrop Grumman Corporation Multi-camera image stitching for a distributed aperture system

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002135765A (ja) * 1998-07-31 2002-05-10 Matsushita Electric Ind Co Ltd カメラキャリブレーション指示装置及びカメラキャリブレーション装置
JP2003212041A (ja) * 2002-01-25 2003-07-30 Toyota Central Res & Dev Lab Inc 車輌後方表示装置
JP2004064441A (ja) * 2002-07-29 2004-02-26 Sumitomo Electric Ind Ltd 車載画像処理装置及び周囲モニタシステム

Also Published As

Publication number Publication date
US7773772B2 (en) 2010-08-10
JP2007006175A (ja) 2007-01-11
DE602006004646D1 (de) 2009-02-26
US20060291698A1 (en) 2006-12-28
EP1736927A1 (en) 2006-12-27
EP1736927B1 (en) 2009-01-07
CN1884968A (zh) 2006-12-27
CN1884968B (zh) 2011-04-20

Similar Documents

Publication Publication Date Title
JP4715334B2 (ja) 車両用画像生成装置および方法
EP2870585B1 (en) A method and system for correcting a distorted image
JP4453119B2 (ja) カメラ・キャリブレーション装置及び方法、画像処理装置及び方法、プログラム提供媒体、並びに、カメラ
US9280810B2 (en) Method and system for correcting a distorted input image
JP5491235B2 (ja) カメラキャリブレーション装置
JP4340923B2 (ja) プロジェクタ、プログラムおよび情報記憶媒体
JP5266954B2 (ja) 投写型表示装置および表示方法
US20130177258A1 (en) Image converter
JPWO2018235163A1 (ja) キャリブレーション装置、キャリブレーション用チャート、チャートパターン生成装置、およびキャリブレーション方法
US8736665B2 (en) Video processing apparatus
JP7082713B2 (ja) ローリングシャッター画像/ビデオのsfm/slamに対するアプリケーションで畳み込みニューラルネットワークを用いる画像/ビデオにおけるローリングシャッター補正
US20070252905A1 (en) Image processing apparatus
JP2008211355A (ja) プロジェクタ、プログラムおよび情報記憶媒体
JP4855278B2 (ja) カメラパラメータ取得装置
JP5187480B2 (ja) プロジェクタ、プログラム、情報記憶媒体および画像生成方法
KR101351911B1 (ko) 카메라의 영상 처리 장치 및 방법
JP2000067227A (ja) 画像表示装置、方法および記憶媒体
US9761160B2 (en) Image processing device, display apparatus, image processing method, and program
US20220292652A1 (en) Image generation method and information processing device
WO2011158344A1 (ja) 画像処理方法、プログラム、画像処理装置及び撮像装置
JP5093517B2 (ja) プロジェクタ、プログラム、情報記憶媒体および画像生成方法
JP2018014583A (ja) 画像処理装置
CN114371819A (zh) 扩增实境屏幕系统及扩增实境屏幕显示方法
CN115546311B (zh) 一种基于场景信息的投影仪标定方法
JP2023546037A (ja) 画像記録装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080325

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100901

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20101013

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20101019

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20101028

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20101125

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110301

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110314

R150 Certificate of patent or registration of utility model

Ref document number: 4715334

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140408

Year of fee payment: 3