JP6962372B2 - 補正装置、補正プログラム及び記録媒体 - Google Patents
補正装置、補正プログラム及び記録媒体 Download PDFInfo
- Publication number
- JP6962372B2 JP6962372B2 JP2019537517A JP2019537517A JP6962372B2 JP 6962372 B2 JP6962372 B2 JP 6962372B2 JP 2019537517 A JP2019537517 A JP 2019537517A JP 2019537517 A JP2019537517 A JP 2019537517A JP 6962372 B2 JP6962372 B2 JP 6962372B2
- Authority
- JP
- Japan
- Prior art keywords
- moving body
- vehicle
- information
- stereoscopic
- projection
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 240000004050 Pentaglottis sempervirens Species 0.000 claims description 67
- 235000004522 Pentaglottis sempervirens Nutrition 0.000 claims description 67
- 238000000034 method Methods 0.000 claims description 51
- 238000003384 imaging method Methods 0.000 claims description 50
- 230000010365 information processing Effects 0.000 description 42
- 238000010586 diagram Methods 0.000 description 34
- 238000009434 installation Methods 0.000 description 11
- 230000006870 function Effects 0.000 description 6
- 238000004891 communication Methods 0.000 description 4
- 238000003672 processing method Methods 0.000 description 3
- 230000015572 biosynthetic process Effects 0.000 description 2
- 238000004519 manufacturing process Methods 0.000 description 2
- 239000007787 solid Substances 0.000 description 2
- 238000003786 synthesis reaction Methods 0.000 description 2
- 230000002194 synthesizing effect Effects 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/18—Image warping, e.g. rearranging pixels individually
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/30—Image reproducers
- H04N13/327—Calibration thereof
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R1/00—Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
- B60R1/20—Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
- B60R1/22—Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
- B60R1/23—Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
- B60R1/27—Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view providing all-round vision, e.g. using omnidirectional cameras
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T1/00—General purpose image data processing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N9/00—Details of colour television systems
- H04N9/12—Picture reproducers
- H04N9/31—Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
- H04N9/3179—Video signal processing therefor
- H04N9/3188—Scale or resolution adjustment
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
- B60R2300/60—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective
- B60R2300/602—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective with an adjustable viewpoint
- B60R2300/605—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective with an adjustable viewpoint the adjustment being automatic
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
- B60R2300/60—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective
- B60R2300/607—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective from a bird's eye viewpoint
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/698—Control of cameras or camera modules for achieving an enlarged field of view, e.g. panoramic image capture
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Mechanical Engineering (AREA)
- Closed-Circuit Television Systems (AREA)
- Image Processing (AREA)
- Controls And Circuits For Display Device (AREA)
Description
本発明は、補正装置、補正プログラム及び記録媒体に関する。
従来より、車両の周囲を複数の撮像装置を用いて撮像し、撮像により得られた複数の画像データを、投影情報を用いて立体投影面に投影することで、車両の全周囲を上方から俯瞰した立体俯瞰画像を生成する立体俯瞰画像生成システムが知られている。
かかる立体俯瞰画像生成システムにより生成される立体俯瞰画像は、一般に、撮像装置の設置位置等に依存し、車種ごとに異なっている。このため、各車両メーカでは、適切な立体俯瞰画像を実現するために、車両製造時に、車種ごとに立体投影面や投影情報等を調整する調整作業を行っている。
一方で、車両購入後に、新たに立体俯瞰画像生成システムを搭載したり、旧車両に搭載していた立体俯瞰画像生成システムを、新たに購入した他の車両に載せ替えたりする、といったニーズがある。
しかしながら、購入した車両が、立体俯瞰画像生成システムの対象車種とは異なる車種であった場合、当該立体俯瞰画像生成システムをそのまま利用することはできず、購入した車両に合わせて調整を行うことが必要となる。
このような場合において、購入者側で個別に調整作業を行うことは容易ではなく、作業負荷が高いといった問題がある。
一つの側面では、所定の車種用に提供された立体俯瞰画像生成システムを、他の車種に搭載する際の調整作業における作業負荷を低減することを目的としている。
一態様によれば、補正装置は、
第1の移動体に複数の撮像装置を搭載した場合の、前記複数の撮像装置により撮像される複数の画像データを立体投影面に投影し、立体俯瞰画像を生成する際に用いられる投影情報を取得する取得部と、
前記第1の移動体とは異なる第2の移動体のサイズ情報を入力する入力部と、
前記第1の移動体と前記第2の移動体とのサイズ比に応じて前記投影情報を補正する補正部と、
補正された前記投影情報を前記第2の移動体に格納する格納制御部とを有することを特徴とする。
第1の移動体に複数の撮像装置を搭載した場合の、前記複数の撮像装置により撮像される複数の画像データを立体投影面に投影し、立体俯瞰画像を生成する際に用いられる投影情報を取得する取得部と、
前記第1の移動体とは異なる第2の移動体のサイズ情報を入力する入力部と、
前記第1の移動体と前記第2の移動体とのサイズ比に応じて前記投影情報を補正する補正部と、
補正された前記投影情報を前記第2の移動体に格納する格納制御部とを有することを特徴とする。
所定の車種用に提供された立体俯瞰画像生成システムを、他の車種に搭載する際の調整作業における作業負荷を低減することができる。
以下、各実施形態について添付の図面を参照しながら説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複した説明を省略する。
[第1の実施形態]
<立体俯瞰画像生成システム及び情報処理装置の説明>
はじめに、車両に搭載される立体俯瞰画像生成システム、及び、該立体俯瞰画像生成システムに通信可能に接続される情報処理装置の概要について説明する。図1は、立体俯瞰画像生成システム及び情報処理装置の概要を説明するための図である。
<立体俯瞰画像生成システム及び情報処理装置の説明>
はじめに、車両に搭載される立体俯瞰画像生成システム、及び、該立体俯瞰画像生成システムに通信可能に接続される情報処理装置の概要について説明する。図1は、立体俯瞰画像生成システム及び情報処理装置の概要を説明するための図である。
図1の例は、車両100に、立体俯瞰画像生成システム140が搭載された様子を示している。図1において、立体俯瞰画像生成システム140は、第1の移動体用として、車両100とは車種の異なる車両(基準車両と称す)用に提供された立体俯瞰画像生成システムである。つまり、図1の例は、第1の移動体である基準車両用に提供された立体俯瞰画像生成システム140を、第2の移動体である車両100に搭載した様子を示している。
図1に示すように、車両100に搭載された立体俯瞰画像生成システム140は、撮像装置111、撮像装置112、撮像装置113、撮像装置114、画像処理装置120、操作装置130、表示装置131を有する。
撮像装置111〜撮像装置114は、それぞれ、車両100の前方、左側方、右側方、後方を撮像することで画像データを生成し、生成した画像データを画像処理装置120に送信する。
画像処理装置120は、例えば、ECU(Electronic Control Unit)により実現される。画像処理装置120には、画像データ取得プログラム、投影プログラム、合成プログラム、出力プログラムがインストールされている。画像処理装置120は、当該プログラムを実行することで、画像データ取得部121、投影部122、合成部123、出力部124として機能する。
画像データ取得部121は、撮像装置111〜撮像装置114より送信された画像データを取得する。
投影部122は、画像データ取得部121により取得された各画像データを、投影情報格納部125に格納された投影情報に基づいて、立体投影面に投影する。
合成部123は、立体投影面に投影された各画像データを合成することで、立体俯瞰画像を生成する。
出力部124は、合成部123により生成された立体俯瞰画像を、所定の視点位置から見た場合の画像として表示するために表示画像データを生成し、表示装置131に出力する。
操作装置130は、車両100の搭乗者が画像処理装置120に対して各種指示を入力するための操作デバイスである。操作装置130に入力された各種指示は、指示情報として、画像処理装置120に送信される。
表示装置131は、画像処理装置120より出力された表示画像データを表示する表示デバイスである。
一方、図1において、情報処理装置150は補正装置の一例であり、例えば、立体俯瞰画像生成システム140を車両100に搭載した際に調整作業を行う、調整者によって所有される。調整者は、立体俯瞰画像生成システム140を車両100に搭載した際に、情報処理装置150を画像処理装置120に接続し、情報処理装置150を操作することで調整作業を行う。
情報処理装置150には、補正プログラムがインストールされており、情報処理装置150は、当該プログラムが実行されることで補正部160として機能する。
補正部160は、情報処理装置150が画像処理装置120に接続されることで起動し、調整者による操作に基づき、立体俯瞰画像生成システム140を車両100に合わせて調整する調整処理を実行する。
以下、立体俯瞰画像生成システム140及び情報処理装置150それぞれの詳細について、順次説明する。なお、以下では、基準車両を"トラック"とし、立体俯瞰画像生成システム140が搭載された車両100を、基準車両よりもサイズの大きいトラックとして説明する。
<立体俯瞰画像生成システムの詳細>
はじめに、立体俯瞰画像生成システム140の詳細について説明する。
はじめに、立体俯瞰画像生成システム140の詳細について説明する。
(1)配置例
図2は、立体俯瞰画像生成システムに含まれる各装置の配置例を示す図である。このうち、図2の200aは、車両100における各撮像装置の配置例を示す上面図である。
図2は、立体俯瞰画像生成システムに含まれる各装置の配置例を示す図である。このうち、図2の200aは、車両100における各撮像装置の配置例を示す上面図である。
図2の200aに示すように、撮像装置111は、車両100の前部中央位置に配置され、車両100の前方(点線201で示す範囲)を撮像する。撮像装置112は、車両100の左側面中央位置に配置され、車両100の左側方(点線202で示す範囲)を撮像する。撮像装置113は、車両100の右側面中央位置に配置され、車両100の右側方(点線203で示す範囲)を撮像する。撮像装置114は、車両100の後部中央位置に配置され、車両100の後方(点線204で示す範囲)を撮像する。
一方、図2の200bは、車両100における、画像処理装置120、操作装置130、表示装置131の配置例を示す側面図である。図2の200bに示すように、画像処理装置120は、車両100内のセンタコンソールの裏側に配置される。また、操作装置130及び表示装置131は、車両100内のセンタコンソール上に配置される。
(2)操作装置及び表示装置の外観構成
次に、車両100内のセンタコンソール上に配置された操作装置130及び表示装置131の外観構成について説明する。図3は、操作装置及び表示装置の外観構成を示す図である。本実施形態において、操作装置130と表示装置131とは一体的に組み合わされ、いわゆるタッチパネル300として構成されているものとする。図3に示すように、タッチパネル300は、センタコンソール301上の中央位置付近に組み込まれて取り付けられる。
次に、車両100内のセンタコンソール上に配置された操作装置130及び表示装置131の外観構成について説明する。図3は、操作装置及び表示装置の外観構成を示す図である。本実施形態において、操作装置130と表示装置131とは一体的に組み合わされ、いわゆるタッチパネル300として構成されているものとする。図3に示すように、タッチパネル300は、センタコンソール301上の中央位置付近に組み込まれて取り付けられる。
(3)投影情報の詳細
次に、投影情報格納部125に格納される投影情報の詳細について説明する。図4は、投影情報の一例を示す図である。図4に示すように、投影情報400は、情報の項目として、"撮像装置"と、"立体投影面座標"とを含む。
次に、投影情報格納部125に格納される投影情報の詳細について説明する。図4は、投影情報の一例を示す図である。図4に示すように、投影情報400は、情報の項目として、"撮像装置"と、"立体投影面座標"とを含む。
"撮像装置"は、更に、"区分"と"撮像画素座標"とを含む。"区分"には、撮像装置111〜撮像装置114をそれぞれ識別するための情報が格納される。投影情報400において、区分=1は撮像装置111を、区分=2は撮像装置112を、区分=3は撮像装置113を、区分=4は撮像装置114をそれぞれ表している。
"撮像画素座標"には、撮像装置111〜撮像装置114により撮像される各画像データの各画素の座標が格納される。本実施形態において、撮像装置111〜撮像装置114により撮像される画像データ411〜414は、いずれもn×m画素の画素数を有しているものとする。
このため、投影情報400において、例えば、撮像装置111(区分1)の"撮像画素座標"には、画像データ411の(s11,t11)〜(s1n,t1m)までのn×m個の座標が格納されることになる。同様に、撮像装置112(区分2)の"撮像画素座標"には、画像データ412の(s21,t21)〜(s2n,t2m)までのn×m個の座標が格納されることになる。また、撮像装置113(区分3)の"撮像画素座標"には、画像データ413の(s31,t31)〜(s3n,t3m)までのn×m個の座標が格納されることになる。更に、撮像装置114(区分4)の"撮像画素座標"には、画像データ414の(s41,t41)〜(s4n,t4m)までのn×m個の座標が格納されることになる。
"立体投影面座標"には、画像データ411〜414それぞれの撮像画素座標を立体投影面420に投影する場合の、投影先の座標が格納される。このため、"立体投影面座標"に格納される各座標は、"撮像画素座標"に格納される各座標と対応付けられている。
例えば、投影情報400の場合、画像データ411の撮像画素座標=(s11,t11)は、立体投影面420の立体投影面座標=(x11,y11,z11)と対応付けられている。同様に、画像データ412の撮像画素座標=(s21,t21)は、立体投影面420の立体投影面座標=(x21,y21,z21)と対応付けられている。同様に、画像データ413の撮像画素座標=(s31,t31)は、立体投影面420の立体投影面座標=(x31,y31,z31)と対応付けられている。同様に、画像データ414の撮像画素座標=(s41,t41)は、立体投影面420の立体投影面座標=(x41,y41,z41)と対応付けられている。
撮像装置111〜撮像装置114により撮像される画像データ411〜414は、画像処理装置120の画像データ取得部121により取得され、投影情報400に基づき、投影部122により立体投影面420に投影される。
立体投影面420に投影された画像データ411〜414は、合成部123により合成され、車両画像が組み込まれることで立体俯瞰画像が生成される。なお、図4において、立体投影面420内に配された車両画像430は、基準車両の車両画像を示している。
(4)表示画像データの具体例
次に、合成部123により生成された立体俯瞰画像を、所定の視点位置から見た場合の画像として表示するために、出力部124により生成される表示画像データの具体例について説明する。ここでは、立体俯瞰画像生成システム140が基準車両に搭載された場合に生成される表示画像データについて説明する。
次に、合成部123により生成された立体俯瞰画像を、所定の視点位置から見た場合の画像として表示するために、出力部124により生成される表示画像データの具体例について説明する。ここでは、立体俯瞰画像生成システム140が基準車両に搭載された場合に生成される表示画像データについて説明する。
図5は、表示画像データの一例を示す図である。このうち、図5の500aは、立体投影面420の上面図であり、立体投影面420における視点位置を示している。視点位置501は、立体俯瞰画像を、基準車両の前方から見た場合の表示画像データを生成する際に用いられる視点位置を示している。また、視点位置502は、立体俯瞰画像を、基準車両の左後方から見た場合の表示画像データを生成する際に用いられる視点位置を示している。更に、視点位置503は、立体俯瞰画像を、基準車両の右後方から見た場合の表示画像データを生成する際に用いられる視点位置を示している。
図5の500bは、出力部124が、視点位置502に基づいて生成した表示画像データの一例を示している。図5の500bに示すように、基準車両の場合、出力部124により生成される表示画像データ510には、基準車両の車両画像430の左側面から後面までの範囲が含まれることになる。
<車両100に立体俯瞰画像生成システムを搭載した場合の調整処理の方法の説明>
次に、車両100に立体俯瞰画像生成システム140を搭載した場合に実行すべき調整処理の方法について説明する。上述したとおり、車両100は、基準車両とは車種が異なるため、車両のサイズも異なる。このため、車両100に立体俯瞰画像生成システム140を搭載した場合、撮像装置111〜撮像装置114の設置位置等も変わってくるため、車両100に合わせて立体俯瞰画像生成システム140を調整することが必要となる。
次に、車両100に立体俯瞰画像生成システム140を搭載した場合に実行すべき調整処理の方法について説明する。上述したとおり、車両100は、基準車両とは車種が異なるため、車両のサイズも異なる。このため、車両100に立体俯瞰画像生成システム140を搭載した場合、撮像装置111〜撮像装置114の設置位置等も変わってくるため、車両100に合わせて立体俯瞰画像生成システム140を調整することが必要となる。
図6は、複数の調整処理の方法について比較した図である。このうち、"調整方法1"は、車両のサイズの変更に伴って、立体投影面420と、車両画像430とを変更し、更に、投影情報400を補正したうえで、視点位置501〜503を立体投影面420の変更に応じて変更する調整処理の方法である。
調整方法1の場合、車両メーカが車両製造時に行う調整処理の内容と同程度の調整処理の内容となるため、適切な立体俯瞰画像が生成でき、基準車両の場合と同様の表示画像データを表示することができる。しかしながら、調整方法1の場合、調整者による調整作業の作業負荷が高い。
一方、"調整方法2"は、車両のサイズが変更されても、立体投影面420、視点位置501〜503は変更せず、車両画像430を変更するとともに、投影情報400を補正する調整処理の方法である。調整方法2の場合、調整者による調整作業の作業負荷を低減させることができる。しかしながら、調整方法2の場合、例えば、基準車両と比較して車両100のサイズが大きくなるようなケースでは、表示画像データにおいて、車両100の車両画像の後面を表示することができなくなるといった問題が生じる。
図7を用いて具体的に説明する。図7は、調整方法2による調整処理を実行した場合の、表示画像データの一例を示す図である。図7の700aに示すように、調整方法2の場合、立体投影面420及び視点位置501〜503を変更しない。一方、調整方法2の場合、基準車両の車両画像430を、車両100の車両画像700に変更するとともに、車両100の撮像装置の位置と立体投影面の位置との関係から、投影情報400を補正する。
このため、調整方法2の場合、図7の700bに示すように、視点位置502に基づいて生成される表示画像データ710において、車両100の車両画像700の後面を表示することができなくなるといった問題が生じる。
図6の説明に戻る。これに対して、"調整方法3"は、立体投影面420、視点位置501〜503は変更せず、車両100の車両画像を、車両100と基準車両との前後長比に応じて補正するとともに、当該前後長比に応じて投影情報400を補正する調整処理の方法である。調整方法3の場合、調整者による調整作業の作業負荷を低減させることができる。
加えて、調整方法3の場合、補正された車両100の車両画像が基準車両の車両画像430と長さが等しくなる。また、調整方法3の場合、前後長比に応じて補正された撮像装置の位置と立体投影面の位置との関係に基づいて、投影情報400を補正する。このため、調整方法3の場合、基準車両と比較して車両100のサイズが大きくなるようなケースであっても、表示画像データにおいて、車両100の車両画像の後面を表示することができる。
そこで、本実施形態における情報処理装置150の補正部160では、車両100に搭載された立体俯瞰画像生成システム140に対して、調整方法3による調整処理を実行する。以下、調整方法3による調整処理を実行する情報処理装置150の詳細について説明する。
<情報処理装置の詳細>
(1)ハードウェア構成
はじめに、情報処理装置150のハードウェア構成について説明する。図8は、情報処理装置のハードウェア構成の一例を示す図である。
(1)ハードウェア構成
はじめに、情報処理装置150のハードウェア構成について説明する。図8は、情報処理装置のハードウェア構成の一例を示す図である。
図8に示すように、情報処理装置150は、CPU(Central Processing Unit)801、ROM(Read Only Memory)802、RAM(Random Access Memory)803を有する。CPU801、ROM802、RAM803は、いわゆるコンピュータを形成する。また、情報処理装置150は、補助記憶装置804、入力装置805、表示装置806、接続装置807、ドライブ装置808を有する。なお、情報処理装置150の各ハードウェアは、バス809を介して相互に接続される。
CPU801は、補助記憶装置804にインストールされた各種プログラム(例えば、補正プログラム等)を実行する。
ROM802は、不揮発性メモリである。ROM802は、補助記憶装置804にインストールされた各種プログラムをCPU801が実行するために必要な各種プログラム、データ等を記憶する、主記憶デバイスとして機能する。具体的には、ROM802はBIOS(Basic Input/Output System)やEFI(Extensible Firmware Interface)等のブートプログラム等を記憶する。
RAM803は、DRAM(Dynamic Random Access Memory)やSRAM(Static Random Access Memory)等の揮発性メモリである。RAM803は、補助記憶装置804にインストールされた各種プログラムがCPU801によって実行される際に展開される作業領域を提供する、主記憶デバイスとして機能する。
補助記憶装置804は、インストールされた各種プログラムや、各種プログラムを実行する際に用いる各種情報を記憶する補助記憶デバイスである。
入力装置805は、情報処理装置150を用いて調整作業を行う調整者等が情報処理装置150に対して各種指示を入力する際に用いる入力デバイスである。
表示装置806は、情報処理装置150の内部情報を表示する表示デバイスである。接続装置807は、情報処理装置150が、画像処理装置120と接続し、通信を行うための通信デバイスである。
ドライブ装置808はコンピュータ読み取り可能な記録媒体810をセットするためのデバイスである。ここでいう記録媒体810には、CD−ROM、フレキシブルディスク、光磁気ディスク等のように情報を光学的、電気的あるいは磁気的に記録する媒体が含まれる。あるいは、記録媒体810には、ROM、フラッシュメモリ等のように情報を電気的に記録する半導体メモリ等が含まれていてもよい。
なお、補助記憶装置804にインストールされる各種プログラムは、例えば、配布された記録媒体810がドライブ装置808にセットされ、該記録媒体810に記録された各種プログラムがドライブ装置808により読み出されることでインストールされる。あるいは、補助記憶装置804にインストールされる各種プログラムは、接続装置807を介してネットワークからダウンロードされることでインストールされてもよい。
(2)機能構成の詳細
次に、情報処理装置150の補正部160の機能構成の詳細について説明する。図9は、情報処理装置の補正部の機能構成の詳細を示す第1の図である。図9に示すように、補正部160は、車両情報入力部901、前後長比算出部902、投影情報取得部903、車両画像生成部904、投影情報補正部905、インストール部906を有する。
次に、情報処理装置150の補正部160の機能構成の詳細について説明する。図9は、情報処理装置の補正部の機能構成の詳細を示す第1の図である。図9に示すように、補正部160は、車両情報入力部901、前後長比算出部902、投影情報取得部903、車両画像生成部904、投影情報補正部905、インストール部906を有する。
車両情報入力部901は入力部の一例であり、立体俯瞰画像生成システム140が搭載された車両100のサイズ情報(車両幅、車両長さ)及び撮像装置情報(位置及び方向)を含む車両情報の入力を受け付ける。車両情報入力部901は、所定の操作画面を表示装置806に表示することで、調整者による車両情報の入力を受け付ける。車両情報入力部901は、入力を受け付けた車両情報を、前後長比算出部902に通知する。
前後長比算出部902は、車両情報入力部901より車両情報を受信すると、基準車両情報格納部911に格納された基準車両情報を読み出し、受信した車両情報と比較することで、車両100と基準車両との前後長比(サイズ比)を算出する。また、前後長比算出部902は、算出した前後長比を、車両情報とともに、車両画像生成部904に通知する。
投影情報取得部903は取得部の一例であり、画像処理装置120の投影情報格納部125より投影情報400を取得し、投影情報補正部905に通知する。
車両画像生成部904は生成部の一例であり、前後長比算出部902より車両情報を受信すると、車両情報に含まれる車両100のサイズ情報(車両幅、車両長さ)に基づいて、車両100の車両画像700を生成する。また、車両画像生成部904は、生成した車両100の車両画像700を、受信した前後長比に基づいて補正することで(基準車両の車両画像430と長さが等しくなるように補正することで)、補正後車両画像(補正画像)を生成する。そして、車両画像生成部904は、生成した補正後車両画像を、インストール部906に通知する。
また、車両画像生成部904は、受信した前後長比に基づいて車両情報を補正することで、補正後車両情報を算出する。具体的には、車両画像生成部904は、車両情報に含まれる撮像装置情報(位置及び方向)のうち、位置について、受信した前後長比に基づいて補正することで、補正後車両情報(位置が補正された補正後の撮像装置情報)を算出する。そして、車両画像生成部904は、算出した補正後車両情報を、投影情報補正部905に通知する。
投影情報補正部905は補正部の一例である。投影情報補正部905は、投影情報取得部903より投影情報400を受信する。また、投影情報補正部905は、車両画像生成部904より補正後車両情報を受信する。更に、投影情報補正部905は、立体投影面情報格納部912より、立体投影面を読み出す。
また、投影情報補正部905は、補正後車両情報に含まれる補正後の撮像装置情報により特定される撮像装置の位置と、読み出した立体投影面420の位置との関係に基づいて、各撮像画素座標に対する立体投影面座標を新たに算出する。更に、投影情報補正部905は、受信した投影情報400の立体投影面座標を、新たに算出した立体投影面座標により補正することで補正後投影情報を生成し、インストール部906に通知する。
インストール部906は格納制御部の一例であり、通知された補正後投影情報と補正後車両画像とを画像処理装置120にインストールする。受信した画像処理装置120は、車両100に合わせて調整された補正後投影情報及び補正後車両画像を用いて、立体俯瞰画像を生成し、表示画像データを表示することが可能となる。
(3)各格納部に格納された情報の具体例
次に、情報処理装置150の各格納部(基準車両情報格納部911、立体投影面情報格納部912)に格納された情報(基準車両情報、立体投影面情報)の具体例について説明する。
次に、情報処理装置150の各格納部(基準車両情報格納部911、立体投影面情報格納部912)に格納された情報(基準車両情報、立体投影面情報)の具体例について説明する。
(3−1)基準車両情報の具体例
図10は、基準車両情報の一例を示す図である。図10に示すように、基準車両情報1000には、情報の項目として、"車両長さ"、"車両幅"が含まれる。"車両長さ"には、基準車両の長さ(LM)が格納される。"車両幅"には、基準車両の幅(WM)が格納される。
図10は、基準車両情報の一例を示す図である。図10に示すように、基準車両情報1000には、情報の項目として、"車両長さ"、"車両幅"が含まれる。"車両長さ"には、基準車両の長さ(LM)が格納される。"車両幅"には、基準車両の幅(WM)が格納される。
(3−2)立体投影面情報の具体例
立体投影面情報の具体例は、例えば、図4の立体投影面420を用いて説明済みであり、かつ、調整方法3による調整処理の場合、立体投影面420を変更しないため、ここでは説明を省略する。
立体投影面情報の具体例は、例えば、図4の立体投影面420を用いて説明済みであり、かつ、調整方法3による調整処理の場合、立体投影面420を変更しないため、ここでは説明を省略する。
(4)車両情報入力部が表示する操作画面の具体例
次に、車両情報入力部901が表示装置806に表示する操作画面の具体例について説明する。図11は、車両情報入力部が表示する操作画面の具体例を示す図である。
次に、車両情報入力部901が表示装置806に表示する操作画面の具体例について説明する。図11は、車両情報入力部が表示する操作画面の具体例を示す図である。
図11に示すように、操作画面1100には、車両100のサイズ情報を入力するサイズ情報入力欄1110が含まれる。サイズ情報入力欄1110には、更に、車両100の車両幅、車両長さを入力する入力欄が含まれる。
また、操作画面1100には、車両100に搭載される立体俯瞰画像生成システム140の撮像装置111〜撮像装置114の撮像装置情報(位置及び方向)を入力する撮像装置情報入力欄1120が含まれる。撮像装置情報入力欄1120には、撮像装置111〜撮像装置114の所定の基準位置からのx方向(車両100の幅方向)の位置、y方向(車両100の長さ方向)の位置、z方向(車両100の高さ方向)の位置を入力する入力欄が含まれる。また、撮像装置情報入力欄1120には、撮像装置111〜撮像装置114のパン方向、チルト方向、ロール方向の角度を入力する入力欄が含まれる。
(5)投影情報補正部の処理の具体例
次に、投影情報補正部905の処理の具体例について説明する。上述したとおり、投影情報において各撮像画素座標に対する立体投影面座標は、撮像装置の位置と立体投影面の位置との関係に基づいて算出される。
次に、投影情報補正部905の処理の具体例について説明する。上述したとおり、投影情報において各撮像画素座標に対する立体投影面座標は、撮像装置の位置と立体投影面の位置との関係に基づいて算出される。
そこで、以下では、まず、基準車両における撮像装置の位置と立体投影面の位置との関係を示し、基準車両における各撮像画素座標に対する立体投影面座標について説明する。続いて、車両100における補正された撮像装置の位置と立体投影面の位置との関係を示し、車両100における各撮像画素座標に対する立体投影面座標について説明する。
(5−1)基準車両における各撮像画素座標に対する立体投影面座標について
図12は、基準車両における各撮像画素座標と立体投影面座標との関係を示した図である。図12の1200aは立体投影面420を上方から見た様子を示しており、図12の1200bは、立体投影面420を側面から見た様子を示している。特に、図12の1200bは、基準車両における撮像装置114の位置と立体投影面420の位置との関係を示している。
図12は、基準車両における各撮像画素座標と立体投影面座標との関係を示した図である。図12の1200aは立体投影面420を上方から見た様子を示しており、図12の1200bは、立体投影面420を側面から見た様子を示している。特に、図12の1200bは、基準車両における撮像装置114の位置と立体投影面420の位置との関係を示している。
図12の1200bに示すように、撮像装置114により撮像される画像データ414上に映し出される実空間の範囲は、撮像装置114の撮像装置情報(位置及び方向)に基づいて決まる。
そして、図12の1200bに示すような撮像装置114と立体投影面420との位置関係のもとでは、投影部122は、例えば、撮像装置114により撮像される画像データ414上の撮像画素1201を、立体投影面420上の位置1211に投影する。また、投影部122は、例えば、撮像装置114により撮像される画像データ414上の撮像画素1202を、立体投影面420上の位置1212に投影する。更に、投影部122は、例えば、撮像装置114により撮像される画像データ414上の撮像画素1203を、立体投影面420上の位置1213に投影する。
基準車両における各撮像画素座標に対する立体投影面座標は、上記のような関係にあり、投影情報格納部125に格納されている投影情報400は、上記の関係を撮像装置ごと、撮像画素座標ごとにまとめることで生成される。
(5−2)車両100における各撮像画素座標に対する立体投影面座標について
図13は、基準車両とは異なる車種の車両における各撮像画素座標と立体投影面座標との関係を示した図である。このうち、図13の1300aは立体投影面420を上方から見た様子を示している。図13の1300aに示すように、車両100の補正後車両画像1310は、車両100のサイズ情報に基づいて生成された車両画像1300を、車両100の車両長さと、基準車両の車両長さとに基づいて算出される前後長比に応じて、補正することで生成される。
図13は、基準車両とは異なる車種の車両における各撮像画素座標と立体投影面座標との関係を示した図である。このうち、図13の1300aは立体投影面420を上方から見た様子を示している。図13の1300aに示すように、車両100の補正後車両画像1310は、車両100のサイズ情報に基づいて生成された車両画像1300を、車両100の車両長さと、基準車両の車両長さとに基づいて算出される前後長比に応じて、補正することで生成される。
具体的には、車両100の車両長さをLT、基準車両の車両長さをLMとすると、前後長比=LM/LTとなる。したがって、車両画像生成部904は、車両100のサイズ情報に基づいて生成された車両画像1300を縦方向にLM/LT倍、横方向にLM/LT倍、高さ方向にLM/LT倍することで補正後車両画像1310を生成する。例えば、LT=8[m]、LM=5[m]とすると、補正後車両画像1310は、車両100のサイズ情報に基づいて生成された車両画像1300を縦方向に5/8倍、横方向に5/8倍、高さ方向に5/8倍することで生成される。
図13の1300bは、立体投影面420を側面から見た様子を示しており、車両100における撮像装置114の位置と立体投影面420の位置との関係を示している。なお、図13の1300bにおいて、点線は、車両100の車両画像1300と立体投影面420との位置関係を示している。また、実線は、車両100の補正後車両画像1310と立体投影面420との位置関係を示している。
実線で示すように、車両100の補正後車両画像1310と立体投影面420との位置関係の場合、投影部122は、例えば、画像データ414上の撮像画素1201を、立体投影面420上の位置1311に投影する。また、投影部122は、例えば、画像データ414上の撮像画素1202を、立体投影面420上の位置1312に投影する。更に、投影部122は、例えば、画像データ414上の撮像画素1203を、立体投影面420上の位置1313に投影する。
つまり、投影情報補正部905は、投影情報400において、例えば、撮像画素1201の投影先となる立体投影面座標を、位置1211(図12)の座標から位置1311(図13)の座標へと補正する。同様に、投影情報補正部905は、投影情報400において、例えば、撮像画素1202の投影先となる立体投影面座標を、位置1212(図12)の座標から位置1312(図13)の座標へと補正する。同様に、投影情報補正部905は、投影情報400において、例えば、撮像画素1203の投影先となる立体投影面座標を、位置1213(図12)の座標から位置1313(図13)の座標へと補正する。
図14は、補正後投影情報の具体例を示す図である。図14に示すように、補正後投影情報1400は、投影情報補正部905が、投影情報400の"撮像画素座標"に対する"立体投影面座標"を上記のように補正することで生成される。
(6)補正部による調整処理の流れ
次に、情報処理装置150の補正部160による調整処理(調整方法3による調整処理)の流れについて説明する。図15は、補正部による調整処理の流れを示すフローチャートである。情報処理装置150が画像処理装置120に接続され、補正部160が起動することで、図15に示す調整処理が開始される。
次に、情報処理装置150の補正部160による調整処理(調整方法3による調整処理)の流れについて説明する。図15は、補正部による調整処理の流れを示すフローチャートである。情報処理装置150が画像処理装置120に接続され、補正部160が起動することで、図15に示す調整処理が開始される。
ステップS1501において、車両情報入力部901は、表示装置806に操作画面1100を表示し、情報処理装置150を用いて調整作業を行う調整者等により入力された、車両100の車両情報を受け付ける。
ステップS1502において、前後長比算出部902は、基準車両情報格納部911に格納された基準車両情報1000を読み出す。
ステップS1503において、前後長比算出部902は、車両情報に含まれる車両100のサイズ情報(車両長さLT)と、基準車両情報1000(車両長さLM)とに基づいて、前後長比を算出する。
ステップS1504において、車両画像生成部904は、車両100のサイズ情報に基づいて生成される車両画像1300を、前後長比に基づいて補正し、補正後車両画像1310を生成する。また、車両画像生成部904は、前後長比に基づいて車両情報に含まれる撮像装置情報を補正し、補正後車両情報を算出する。
ステップS1505において、投影情報取得部903は、画像処理装置120より投影情報400を取得する。
ステップS1506において、投影情報補正部905は、補正後車両情報に含まれる撮像装置情報により特定される補正後の撮像装置の位置と、立体投影面420の位置との関係に基づいて、投影情報400の立体投影面座標を補正する。これにより、投影情報補正部905は、補正後投影情報1400を生成する。
ステップS1507において、インストール部906は、投影情報補正部905により生成された補正後投影情報1400と、車両画像生成部904により生成された補正後車両画像1310とを、画像処理装置120にインストールするか否かを判定する。
ステップS1507において、インストールしないと判定した場合には(ステップS1507においてNoの場合には)、調整処理を終了する。一方、ステップS1507において、インストールすると判定した場合には(ステップS1507においてYesの場合には)、ステップS1508に進む。
ステップS1508において、インストール部906は、補正後投影情報1400及び補正後車両画像1310を、画像処理装置120に送信し、インストールする。
<調整処理を実行した後の表示画像データの具体例>
次に、車両100に搭載された立体俯瞰画像生成システム140に対して、調整方法3による調整処理(図15)を実行した後(補正後投影情報1400及び補正後車両画像1310がインストールされた後)の、表示画像データについて説明する。
次に、車両100に搭載された立体俯瞰画像生成システム140に対して、調整方法3による調整処理(図15)を実行した後(補正後投影情報1400及び補正後車両画像1310がインストールされた後)の、表示画像データについて説明する。
図16は、調整方法3による調整処理を実行した後の、表示画像データの一例を示す図である。図7の700bに示したように、調整方法2の場合、車両画像700の後面を表示することができなかったところ、調整方法3によれば、表示画像データ1600に示すように、補正後車両画像1310の後面を表示することができる。
<まとめ>
以上の説明から明らかなように、第1の実施形態における情報処理装置150では、
・基準車両に搭載される複数の撮像装置111〜114により撮像される複数の画像データを立体投影面に投影し、立体俯瞰画像を生成する際に用いられる投影情報400を、立体俯瞰画像生成システム140より取得する。
・立体俯瞰画像生成システム140が搭載された、基準車両とは異なる車両100のサイズ情報を含む車両情報の入力を受け付ける。
・基準車両情報と車両100のサイズ情報とに基づいて生成した、基準車両と車両100との前後長比に応じて、投影情報400の立体投影面座標を補正し、補正後投影情報1400を生成する。
・補正後投影情報1400を車両100に搭載された立体俯瞰画像生成システム140の画像処理装置120にインストールする。
以上の説明から明らかなように、第1の実施形態における情報処理装置150では、
・基準車両に搭載される複数の撮像装置111〜114により撮像される複数の画像データを立体投影面に投影し、立体俯瞰画像を生成する際に用いられる投影情報400を、立体俯瞰画像生成システム140より取得する。
・立体俯瞰画像生成システム140が搭載された、基準車両とは異なる車両100のサイズ情報を含む車両情報の入力を受け付ける。
・基準車両情報と車両100のサイズ情報とに基づいて生成した、基準車両と車両100との前後長比に応じて、投影情報400の立体投影面座標を補正し、補正後投影情報1400を生成する。
・補正後投影情報1400を車両100に搭載された立体俯瞰画像生成システム140の画像処理装置120にインストールする。
このように、情報処理装置150によれば、車両100に、基準車両用の立体俯瞰画像生成システム140を搭載した場合でも、車両100の車両情報を入力するだけで、適切な立体俯瞰画像を生成し、基準車両と同等の表示画像データを表示することが可能となる。
つまり、第1の実施形態における情報処理装置150によれば、所定の車種用に提供された立体俯瞰画像生成システム140を、他の車種に搭載する際の調整作業における作業負荷を低減することができる。
[第2の実施形態]
上記第1の実施形態では、立体投影面420を変更せずに、投影情報400及び車両画像1300を補正し、補正後投影情報1400及び補正後車両画像1310を生成する場合について説明した。しかしながら、前後長比に基づいて生成される補正後車両画像1310は、基準車両の車両画像430と長さは等しいが、幅は狭い(図13の1300a参照)。
上記第1の実施形態では、立体投影面420を変更せずに、投影情報400及び車両画像1300を補正し、補正後投影情報1400及び補正後車両画像1310を生成する場合について説明した。しかしながら、前後長比に基づいて生成される補正後車両画像1310は、基準車両の車両画像430と長さは等しいが、幅は狭い(図13の1300a参照)。
このため、補正後車両画像1310を組み込んで立体俯瞰画像を生成した場合、補正後車両画像1310の左側面近傍及び右側面近傍の領域には、立体投影面座標が存在しない。
これに対して、第2の実施形態では、立体投影面420を幅方向に変形し、当該領域において立体俯瞰画像が表示できるようにする。以下、第2の実施形態について、上記第1の実施形態との相違点を中心に説明する。
(1)機能構成の詳細
はじめに、情報処理装置150の補正部の機能構成の詳細について説明する。図17は、情報処理装置の補正部の機能構成の詳細を示す第2の図である。図9との相違点は、図17に示す補正部1700の場合、立体投影面情報補正部1701を有している点である。
はじめに、情報処理装置150の補正部の機能構成の詳細について説明する。図17は、情報処理装置の補正部の機能構成の詳細を示す第2の図である。図9との相違点は、図17に示す補正部1700の場合、立体投影面情報補正部1701を有している点である。
立体投影面情報補正部1701は変形部の一例である。立体投影面情報補正部1701は、前後長比算出部902より前後長比を受信すると、立体投影面情報格納部912より立体投影面420を読み出す。また、立体投影面情報補正部1701は、読み出した立体投影面420を、前後長比に基づいて幅方向に変形し、補正後立体投影面を生成する。
また、立体投影面情報補正部1701は、生成した補正後立体投影面を投影情報補正部905に通知する。これにより、投影情報補正部905では、補正後立体投影面と、補正後車両情報に基づいて投影情報を補正し、補正後投影情報1400を生成する。
(2)補正後立体投影面の具体例
次に、立体投影面情報補正部1701により生成される、補正後立体投影面の具体例について説明する。図18は、立体投影面情報補正部の処理の具体例を示す図である。このうち、図18の1800aは、立体投影面情報補正部1701により変形される前の立体投影面420に、補正後車両画像1310を組み込んだ様子を示している。一方、図18の1800bは、立体投影面情報補正部1701により変形された後の補正後立体投影面1800に、補正後車両画像1310を組み込んだ様子を示している。
次に、立体投影面情報補正部1701により生成される、補正後立体投影面の具体例について説明する。図18は、立体投影面情報補正部の処理の具体例を示す図である。このうち、図18の1800aは、立体投影面情報補正部1701により変形される前の立体投影面420に、補正後車両画像1310を組み込んだ様子を示している。一方、図18の1800bは、立体投影面情報補正部1701により変形された後の補正後立体投影面1800に、補正後車両画像1310を組み込んだ様子を示している。
図18の1800aとの対比から明らかなように、図18の1800bの場合、補正後車両画像1310の左側面及び右側面において、補正後立体投影面1800との間に隙間がない。このため、補正後立体投影面1800の場合、補正後車両画像1310の左側面及び右側面近傍にも、立体俯瞰画像を表示することができる。
この結果、第2の実施形態によれば、より違和感のない表示画像データを表示することができる。
[その他の実施形態]
上記第1及び第2の実施形態では、立体俯瞰画像生成システム140とは別体の情報処理装置150に補正プログラムをインストールし、情報処理装置150を補正部160として機能させるものとして説明した。しかしながら、補正プログラムは、例えば、画像処理装置120にインストールし、画像処理装置120を補正部160として機能させるように構成してもよい。
上記第1及び第2の実施形態では、立体俯瞰画像生成システム140とは別体の情報処理装置150に補正プログラムをインストールし、情報処理装置150を補正部160として機能させるものとして説明した。しかしながら、補正プログラムは、例えば、画像処理装置120にインストールし、画像処理装置120を補正部160として機能させるように構成してもよい。
また、上記第1及び第2の実施形態では、情報処理装置150を画像処理装置120に通信可能に接続することで、補正後投影情報1400及び補正後車両画像1310を、画像処理装置120にインストールするものとして説明した。しかしながら、補正後投影情報1400及び補正後車両画像1310のインストール方法はこれに限定されない。
例えば、生成した補正後投影情報1400及び補正後車両画像1310を記録媒体に格納し、画像処理装置120が、当該記録媒体に格納された補正後投影情報1400及び補正後車両画像1310を読み出すことで、インストールするように構成してもよい。
あるいは、情報処理装置150において生成された補正後投影情報1400及び補正後車両画像1310を、他の通信端末に送信し、当該他の通信端末が画像処理装置120にアクセスして、インストールするように構成してもよい。
また、上記第1及び第2の実施形態では、操作画面1100を介して調整者が入力することで撮像装置情報を取得する場合について説明した。しかしながら、撮像装置情報の取得方法はこれに限定されない。例えば、車両100の周囲に基準となる複数のマーカを配置し、撮像装置111〜114がそれぞれの撮像範囲に含まれるマーカを撮像することで画像データを取得し、取得した画像データを解析することで、撮像装置情報を取得するように構成してもよい。
また、上記第2の実施形態では、前後長比に応じて立体投影面420を幅方向に変形することで、補正後車両画像1310の左側面及び右側面近傍にも、立体俯瞰画像が表示できるように構成した。しかしながら、立体投影面420の変形方法はこれに限定されず、例えば、立体投影面420のうち、補正後車両画像1310の左側面及び右側面に対応する領域のみを、前後長比に応じて変形するように構成してもよい。
なお、上記実施形態に挙げた構成等に、その他の要素との組み合わせ等、ここで示した構成に本発明が限定されるものではない。これらの点に関しては、本発明の趣旨を逸脱しない範囲で変更することが可能であり、その応用形態に応じて適切に定めることができる。
100 :車両
111〜114 :撮像装置
120 :画像処理装置
130 :操作装置
131 :表示装置
140 :立体俯瞰画像生成システム
150 :情報処理装置
160 :補正部
400 :投影情報
411〜414 :画像データ
420 :立体投影面
430 :車両画像
501〜503 :視点位置
510 :表示画像データ
700 :車両画像
710 :表示画像データ
901 :車両情報入力部
902 :前後長比算出部
903 :投影情報取得部
904 :車両画像生成部
905 :投影情報補正部
906 :インストール部
1000 :基準車両情報
1100 :操作画面
1300 :車両画像
1310 :補正後車両画像
1400 :補正後投影情報
1600 :表示画像データ
1700 :補正部
1701 :立体投影面情報補正部
1800 :補正後立体投影面
111〜114 :撮像装置
120 :画像処理装置
130 :操作装置
131 :表示装置
140 :立体俯瞰画像生成システム
150 :情報処理装置
160 :補正部
400 :投影情報
411〜414 :画像データ
420 :立体投影面
430 :車両画像
501〜503 :視点位置
510 :表示画像データ
700 :車両画像
710 :表示画像データ
901 :車両情報入力部
902 :前後長比算出部
903 :投影情報取得部
904 :車両画像生成部
905 :投影情報補正部
906 :インストール部
1000 :基準車両情報
1100 :操作画面
1300 :車両画像
1310 :補正後車両画像
1400 :補正後投影情報
1600 :表示画像データ
1700 :補正部
1701 :立体投影面情報補正部
1800 :補正後立体投影面
Claims (12)
- 第1の移動体に複数の撮像装置を搭載した場合の、前記複数の撮像装置により撮像される複数の画像データを立体投影面に投影し、立体俯瞰画像を生成する際に用いられる投影情報を取得する取得部と、
前記第1の移動体とは異なる第2の移動体のサイズ情報を入力する入力部と、
前記第1の移動体と前記第2の移動体とのサイズ比に応じて前記投影情報を補正する補正部と、
補正された前記投影情報を前記第2の移動体に格納する格納制御部と
を有することを特徴とする補正装置。 - 前記補正部は、前記サイズ比に応じて補正した前記第2の移動体に搭載した複数の撮像装置の位置と、前記立体投影面の位置との関係に基づいて、前記投影情報を補正することを特徴とする請求項1に記載の補正装置。
- 前記サイズ比は、前記第1の移動体の長さと前記第2の移動体の長さとの比であり、
前記補正部は、前記サイズ比に応じて前後長が等しくなるように前記第2の移動体の長さを補正することで、前記第2の移動体に搭載した複数の撮像装置の位置を補正することを特徴とする請求項2に記載の補正装置。 - 前記第2の移動体を示す画像を、前記サイズ比に応じて補正することで、前記第2の移動体を示す補正画像を生成する生成部を更に有し、
前記格納制御部は、生成された前記第2の移動体を示す補正画像を、前記第2の移動体に格納することを特徴とする請求項1に記載の補正装置。 - 前記生成部は、前記サイズ比に応じて、前記第2の移動体を示す画像を縦方向、横方向及び高さ方向に補正することで、前記第2の移動体を示す補正画像を生成することを特徴とする請求項4に記載の補正装置。
- 前記投影情報は、前記複数の画像データの各画素の座標と、各画素の座標を前記立体投影面に投影し立体俯瞰画像を生成する場合の該立体投影面の座標と、を対応付けた情報であることを特徴とする請求項2に記載の補正装置。
- 前記補正部は、前記サイズ比に応じて補正した前記第2の移動体に搭載した複数の撮像装置の位置と、前記立体投影面の位置との関係に基づいて、前記複数の画像データの各画素の座標に対する前記立体投影面の座標を新たに算出し、新たに算出した該立体投影面の座標を用いて、前記投影情報を補正することを特徴とする請求項6に記載の補正装置。
- 前記立体投影面を、前記サイズ比に応じて幅方向に変形する変形部を更に有することを特徴とする請求項6に記載の補正装置。
- 前記立体投影面のうち、前記第2の移動体の側面に対応する領域を、前記サイズ比に応じて変形する変形部を更に有することを特徴とする請求項6に記載の補正装置。
- 前記入力部は、前記第2の移動体に搭載した複数の撮像装置の位置を入力し、
前記補正部は、前記入力部により入力された前記第2の移動体に搭載した複数の撮像装置の位置を、前記サイズ比に応じて補正し、補正した前記第2の移動体に搭載した複数の撮像装置の位置と、前記立体投影面の位置との関係に基づいて、前記投影情報を補正することを特徴とする請求項1に記載の補正装置。 - 第1の移動体に複数の撮像装置を搭載した場合の、前記複数の撮像装置により撮像される複数の画像データを立体投影面に投影し、立体俯瞰画像を生成する際に用いられる投影情報を取得する取得工程と、
前記第1の移動体とは異なる第2の移動体のサイズ情報を入力する入力工程と、
前記第1の移動体と前記第2の移動体とのサイズ比に応じて前記投影情報を補正する補正工程と、
補正された前記投影情報を前記第2の移動体に格納する格納制御工程と
をコンピュータに実行させるための補正プログラム。 - 第1の移動体に複数の撮像装置を搭載した場合の、前記複数の撮像装置により撮像される複数の画像データを立体投影面に投影し、立体俯瞰画像を生成する際に用いられる投影情報を取得する取得工程と、
前記第1の移動体とは異なる第2の移動体のサイズ情報を入力する入力工程と、
前記第1の移動体と前記第2の移動体とのサイズ比に応じて前記投影情報を補正する補正工程と、
補正された前記投影情報を前記第2の移動体に格納する格納制御工程と
をコンピュータに実行させるための補正プログラムを記録した、コンピュータ読み取り可能な記録媒体。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/JP2017/030459 WO2019038901A1 (ja) | 2017-08-25 | 2017-08-25 | 補正装置、補正プログラム及び記録媒体 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2019038901A1 JPWO2019038901A1 (ja) | 2020-10-15 |
JP6962372B2 true JP6962372B2 (ja) | 2021-11-05 |
Family
ID=65439811
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019537517A Active JP6962372B2 (ja) | 2017-08-25 | 2017-08-25 | 補正装置、補正プログラム及び記録媒体 |
Country Status (4)
Country | Link |
---|---|
US (1) | US11082684B2 (ja) |
JP (1) | JP6962372B2 (ja) |
CN (1) | CN111033555B (ja) |
WO (1) | WO2019038901A1 (ja) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7115475B2 (ja) * | 2017-06-19 | 2022-08-09 | ソニーグループ株式会社 | 画像処理装置およびその方法 |
JPWO2022249318A1 (ja) * | 2021-05-26 | 2022-12-01 |
Family Cites Families (34)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP2259220A3 (en) * | 1998-07-31 | 2012-09-26 | Panasonic Corporation | Method and apparatus for displaying image |
US6542840B2 (en) * | 2000-01-27 | 2003-04-01 | Matsushita Electric Industrial Co., Ltd. | Calibration system, target apparatus and calibration method |
JP3690402B2 (ja) * | 2003-03-28 | 2005-08-31 | セイコーエプソン株式会社 | 画像処理システム、プロジェクタ、プログラム、情報記憶媒体および画像処理方法 |
JP2004354236A (ja) * | 2003-05-29 | 2004-12-16 | Olympus Corp | ステレオカメラ支持装置およびステレオカメラ支持方法ならびにステレオカメラシステム |
JP2008187566A (ja) | 2007-01-31 | 2008-08-14 | Sanyo Electric Co Ltd | カメラ校正装置及び方法並びに車両 |
JP5369465B2 (ja) * | 2008-03-25 | 2013-12-18 | 富士通株式会社 | 車両用画像処理装置、車両用画像処理方法、車両用画像処理プログラム |
EP2285109B1 (en) * | 2008-05-29 | 2018-11-28 | Fujitsu Limited | Vehicle image processor, and vehicle image processing system |
JP5316805B2 (ja) * | 2009-03-16 | 2013-10-16 | 株式会社リコー | 車載カメラ装置の画像調整装置及び車載カメラ装置 |
JP5439890B2 (ja) * | 2009-03-25 | 2014-03-12 | 富士通株式会社 | 画像処理方法、画像処理装置及びプログラム |
US20120069153A1 (en) * | 2009-05-25 | 2012-03-22 | Panasonic Corporation | Device for monitoring area around vehicle |
JP2011015097A (ja) * | 2009-06-30 | 2011-01-20 | Panasonic Corp | 立体映像記録装置及び立体映像撮影システム |
JP5341789B2 (ja) * | 2010-01-22 | 2013-11-13 | 富士通テン株式会社 | パラメータ取得装置、パラメータ取得システム、パラメータ取得方法、及び、プログラム |
JP5523954B2 (ja) * | 2010-06-30 | 2014-06-18 | 富士通テン株式会社 | 画像表示システム |
CN103202027B (zh) * | 2010-11-05 | 2016-01-20 | 富士胶片株式会社 | 图像处理装置、图像处理程序、图像处理方法及存储介质 |
JP2012147149A (ja) * | 2011-01-11 | 2012-08-02 | Aisin Seiki Co Ltd | 画像生成装置 |
EP2523163B1 (en) * | 2011-05-10 | 2019-10-16 | Harman Becker Automotive Systems GmbH | Method and program for calibrating a multicamera system |
JP5827095B2 (ja) * | 2011-10-13 | 2015-12-02 | 富士通テン株式会社 | キャリブレーションシステム、パラメータ取得装置、標識体、及び、パラメータ取得方法 |
JP5898475B2 (ja) * | 2011-11-28 | 2016-04-06 | クラリオン株式会社 | 車載カメラシステム及びその較正方法、及びその較正プログラム |
CA2861391A1 (en) * | 2012-01-18 | 2013-07-25 | Logos Technologies Llc | Method, device, and system for computing a spherical projection image based on two-dimensional images |
EP2620917B1 (en) * | 2012-01-30 | 2019-08-28 | Harman Becker Automotive Systems GmbH | Viewing system and method for displaying an environment of a vehicle |
DE102012113009A1 (de) * | 2012-12-21 | 2014-06-26 | Jenoptik Robot Gmbh | Verfahren zum automatischen Klassifizieren von sich bewegenden Fahrzeugen |
EP3041228A4 (en) * | 2013-08-30 | 2017-06-28 | Clarion Co., Ltd. | Camera calibration device, camera calibration system, and camera calibration method |
JP6226368B2 (ja) * | 2013-09-25 | 2017-11-08 | 株式会社東芝 | 車両監視装置、および車両監視方法 |
JP6034775B2 (ja) * | 2013-11-29 | 2016-11-30 | クラリオン株式会社 | カメラ校正装置 |
EP3085074B1 (en) * | 2013-12-19 | 2020-02-26 | Intel Corporation | Bowl-shaped imaging system |
US10442355B2 (en) * | 2014-09-17 | 2019-10-15 | Intel Corporation | Object visualization in bowl-shaped imaging systems |
US9437001B2 (en) * | 2014-09-18 | 2016-09-06 | Intel Corporation | Tracking objects in bowl-shaped imaging systems |
JP6422077B2 (ja) | 2014-09-30 | 2018-11-14 | 株式会社日本総合研究所 | 俯瞰画像表示システム、端末装置、及びそのプログラム |
EP3159828B1 (en) * | 2015-10-19 | 2022-03-02 | Continental Automotive GmbH | Adaptive calibration using visible car details |
US10523865B2 (en) * | 2016-01-06 | 2019-12-31 | Texas Instruments Incorporated | Three dimensional rendering for surround view using predetermined viewpoint lookup tables |
JP6068710B1 (ja) | 2016-05-30 | 2017-01-25 | 株式会社ネクスコ・エンジニアリング北海道 | 俯瞰画像調整装置および俯瞰画像調整プログラム |
CN105890542B (zh) * | 2016-06-02 | 2019-05-10 | 合肥市极点科技有限公司 | 一种机动车外廓尺寸测量系统及方法 |
JP7016058B2 (ja) * | 2017-04-28 | 2022-02-04 | パナソニックIpマネジメント株式会社 | カメラパラメタセット算出方法、カメラパラメタセット算出プログラム及びカメラパラメタセット算出装置 |
JP7039879B2 (ja) * | 2017-08-03 | 2022-03-23 | 株式会社アイシン | 表示制御装置 |
-
2017
- 2017-08-25 JP JP2019537517A patent/JP6962372B2/ja active Active
- 2017-08-25 CN CN201780094067.8A patent/CN111033555B/zh active Active
- 2017-08-25 WO PCT/JP2017/030459 patent/WO2019038901A1/ja active Application Filing
-
2020
- 2020-02-12 US US16/789,221 patent/US11082684B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
CN111033555B (zh) | 2024-04-26 |
CN111033555A (zh) | 2020-04-17 |
WO2019038901A1 (ja) | 2019-02-28 |
JPWO2019038901A1 (ja) | 2020-10-15 |
US11082684B2 (en) | 2021-08-03 |
US20200186788A1 (en) | 2020-06-11 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10434945B2 (en) | Method and device for displaying an image of the surroundings of a vehicle combination | |
JP5124147B2 (ja) | カメラ校正装置及び方法並びに車両 | |
US20170203692A1 (en) | Method and device for the distortion-free display of an area surrounding a vehicle | |
KR101215563B1 (ko) | 영상 자동보정 기능을 구비하는 버드 뷰 영상 생성장치 및 방법 | |
JP6011624B2 (ja) | 画像処理装置、画像処理方法、及びプログラム | |
EP3418122B1 (en) | Position change determination device, overhead view image generation device, overhead view image generation system, position change determination method, and program | |
TWI536313B (zh) | 車用環景系統調校方法 | |
JP5959311B2 (ja) | データ導出装置、及び、データ導出方法 | |
WO2016056196A1 (ja) | 画像生成装置および画像生成方法 | |
JP6962372B2 (ja) | 補正装置、補正プログラム及び記録媒体 | |
JP2020502640A (ja) | 乗物用サラウンドビューシステム | |
JP2018509799A (ja) | 車両の車両周辺部の歪無い表示のための方法、並びに、装置 | |
CN112825546A (zh) | 使用中间图像表面生成合成图像 | |
JP2018520411A (ja) | 車両周辺部のバーチャル画像を作成するための方法 | |
JP7081265B2 (ja) | 画像処理装置 | |
KR102326061B1 (ko) | Avm 영상 보정 시스템 및 그 제어방법 | |
US11715218B2 (en) | Information processing apparatus and information processing method | |
JP7314518B2 (ja) | 周辺監視装置 | |
JP7021001B2 (ja) | 画像処理装置および画像処理方法 | |
CN115880142A (zh) | 一种拖挂车的图像生成方法、装置、存储介质及终端 | |
WO2013154085A1 (ja) | キャリブレーション方法および装置 | |
JP2013024656A (ja) | 光軸調整システム | |
JP2018113622A (ja) | 画像処理装置、画像処理システム、及び、画像処理方法 | |
JP2008017303A (ja) | 画像表示装置 | |
JP2022532867A (ja) | 車両周辺部の画像を生成するための方法ならびに車両周辺部の画像を生成するための装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20200730 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20210914 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20210927 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6962372 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |