Nothing Special   »   [go: up one dir, main page]

JP6611152B1 - 撮像システム及び撮像方法 - Google Patents

撮像システム及び撮像方法 Download PDF

Info

Publication number
JP6611152B1
JP6611152B1 JP2019151726A JP2019151726A JP6611152B1 JP 6611152 B1 JP6611152 B1 JP 6611152B1 JP 2019151726 A JP2019151726 A JP 2019151726A JP 2019151726 A JP2019151726 A JP 2019151726A JP 6611152 B1 JP6611152 B1 JP 6611152B1
Authority
JP
Japan
Prior art keywords
imaging
flight
flying device
tower
camera
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019151726A
Other languages
English (en)
Other versions
JP2020070011A (ja
Inventor
西本 晋也
晋也 西本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sensyn Robotics Inc
Original Assignee
Sensyn Robotics Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sensyn Robotics Inc filed Critical Sensyn Robotics Inc
Priority to JP2019151726A priority Critical patent/JP6611152B1/ja
Application granted granted Critical
Publication of JP6611152B1 publication Critical patent/JP6611152B1/ja
Publication of JP2020070011A publication Critical patent/JP2020070011A/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Studio Devices (AREA)
  • Control Of Position, Course, Altitude, Or Attitude Of Moving Bodies (AREA)

Abstract

【課題】簡便かつ効率的に対象物を撮像することができる撮像システム及び撮像方法を提供する。【解決手段】飛行装置に搭載されたカメラで上下方向に長尺な構造物を撮像する撮像システムにおいて、前記飛行装置が自律的に前記構造物の上下方向の一方から他方に移動しながら前記構造物を前記カメラで撮像する撮像ステップを実行する飛行制御部を備え、該撮像ステップは、前記構造物の周辺に存在する周辺構造物の高さ位置を取得するステップと、前記飛行装置の高さ位置が、前記周辺構造物の高さ位置に基づき設定される下降下限位置に達すると下降を制限するステップを備え、前記周辺構造物の高さ位置は、前記周辺構造物の高さ位置に前記飛行装置が位置するように前記飛行装置の飛行高度を調整し、当該飛行高度に基づき取得することにより設定される。【選択図】図11

Description

本発明は、撮像システム及び撮像方法、特に、飛行装置に搭載されたカメラで上下方向に長尺な構造物を撮像する撮像システム及び撮像方法に関する。
対象物を高所から観察したり、上空から地上を空撮したりする場合には、近年、複数のプロペラの回転によって飛行するいわゆるドローンあるいはマルチコプタといった飛行装置が用いられることがある。特許文献1には、飛行装置に搭載したカメラで対象物を撮像した画像から、三次元の画像を生成することが開示されている。
特開2018−10630公報
ところで、上記の特許文献1のように、飛行装置に搭載したカメラで対象物を撮像する場合は、操作者が飛行装置を操作してカメラで撮像を行うところ、飛行装置の飛行及び飛行装置からの対象物の撮像を自動的に制御することができれば、簡便かつ効率的に対象物を撮像した画像を取得することができる。
本発明は、上記事情に鑑みてなされたものであり、簡便かつ効率的に対象物を撮像することができる撮像システム及び撮像方法を提供することを課題とするものである。
上記課題を達成するための、本発明に係る撮像システムは、飛行装置に搭載されたカメラで上下方向に長尺な構造物を撮像する撮像システムにおいて、前記飛行装置が自律的に前記構造物の上下方向の一方から他方に移動しながら前記構造物を前記カメラで撮像する撮像ステップを実行する飛行制御部を備え、該撮像ステップは、前記構造物の周辺に存在する周辺構造物の高さ位置を取得するステップと、前記飛行装置の高さ位置が、前記周辺構造物の高さ位置に基づき設定される下降下限位置に達すると下降を制限するステップを備え、前記周辺構造物の高さ位置は、前記周辺構造物の高さ位置に前記飛行装置が位置するように前記飛行装置の飛行高度を調整し、当該飛行高度に基づき取得することにより設定されることを特徴としている。
上記課題を達成するための、本発明に係る撮像方法は、前記飛行装置が自律的に前記構造物の上下方向の一方から他方に移動しながら前記構造物を前記カメラで撮像する撮像ステップを備え、該撮像ステップは、前記構造物の周辺に存在する周辺構造物の高さ位置を取得するステップと、前記飛行装置の高さ位置が、前記周辺構造物の高さ位置に基づき設定される下降下限位置に達すると下降を制限するステップを備え、前記周辺構造物の高さ位置は、前記周辺構造物の高さ位置に前記飛行装置が位置するように前記飛行装置の飛行高度を調整し、当該飛行高度に基づき取得することにより設定されることを特徴としている。
この発明によれば、構造物の画像を、自律的に飛行する飛行装置を用いて簡便かつ効率的に撮像することができる。
本発明の実施の形態に係る撮像システムの構成の概略を説明する図である。 同じく、本実施の形態に係る飛行装置のハードウェア構成を説明するブロック図である。 同じく、本実施の形態に係る飛行装置のフライトコントローラのソフトウェア構成を説明するブロック図である。 同じく、本実施の形態に係る撮像システムのサーバのハードウェア構成を説明するブロック図である。 同じく、本実施の形態に係る撮像システムのサーバのソフトウェア構成を説明するブロック図である。 同じく、本実施の形態に係る撮像システムのサーバの飛行制御部で実行される処理の概略を説明するブロック図である。 同じく、本実施の形態に係る撮像システムのサーバの飛行制御部で実行される上空撮像ステップの概略を説明する図である。 同じく、本実施の形態に係る撮像システムのサーバの飛行制御部で実行される第1撮像ステップの概略を説明する図である。 同じく、本実施の形態に係る撮像システムのサーバの飛行制御部で実行される第2撮像ステップの概略を説明する図である。 同じく、本実施の形態に係る撮像システムのサーバの飛行制御部で実行される第1撮像ステップ及び第2撮像ステップの概略を説明する図である。 同じく、本実施の形態に係る撮像システムを用いて構造物を撮像する手順の概略を説明する図である。 同じく、本実施の形態に係る撮像システムを用いて構造物を撮像する手順の概略を説明する図である。 同じく、本実施の形態に係る撮像システムを用いて構造物を撮像する手順の概略を説明する図である。 同じく、本実施の形態に係る撮像システムを用いて構造物を撮像する手順の概略を説明する図である。 同じく、本実施の形態に係る撮像システムを用いて構造物を撮像する手順の概略を説明する図である。 同じく、本実施の形態に係る撮像システムを用いて構造物を撮像する手順の概略を説明する図である。
次に、図1〜図16に基づいて、本発明の実施の形態に係る撮像システムについて説明する。
なお、本実施の形態において、撮像システムで撮像される構造物が、上下方向に長尺であって地上に立設された鉄塔、タワー、高層建造物等である場合を例として説明する。
図1は、本実施の形態に係る撮像システムの構成の概略を説明する図である。図示のように、撮像システム10は、飛行装置20及び飛行装置20と通信ネットワーク40を介して相互に通信可能に接続されるサーバ30を備える。
この撮像システム10は、飛行装置20によって撮像された鉄塔1の複数の撮像画像に基づいて鉄塔1の三次元モデルを作成するとともに、撮像画像を解析して異常箇所を検出し、検出した異常箇所を三次元モデル上にマッピングするものである。
図2は、本実施の形態に係る飛行装置20のハードウェア構成を説明するブロック図である。図示のように、飛行装置20は、送受信部21、送受信部21と接続されるフライトコントローラ22、フライトコントローラ22を介して電力を供給するバッテリ23、フライトコントローラ22によって制御される速度制御部(Electronic Speed Controller:ESC)24及びモータ25、モータ25によって駆動される4基のプロペラ26を備える。
さらに、飛行装置10は、機体に固定されて鉄塔1の一部または全部を撮影するカメラ27を備える。
送受信部21は、例えば、送受信機(プロポ)や情報端末、表示装置あるいは他の遠隔の制御器といった複数の外部機器からのデータを送受信するように構成された通信インターフェースであって、本実施の形態では、主にサーバ30と通信を行うものである。
この送受信部21は、例えば、ローカルエリアネットワーク(Local Area Network:LAN)、ワイドエリアネットワーク(Wide Area Network:WAN)、赤外線、無線、WiFi、ポイントツーポイント(P2P)ネットワーク、電気通信ネットワーク、クラウド通信等といった複数の通信網を利用することができる。
さらに、送受信部21は、取得した各種のデータ、フライトコントローラ22が生成した処理結果、各種の制御データ、端末または遠隔の制御器からのユーザコマンド等の複数のデータの送受信を実行する。
フライトコントローラ22は、プロセッサ22A、メモリ22B、及びセンサ類22Cを主要構成として備える。
プロセッサ22Aは、本実施の形態では例えばCPU(Central Processing Unit)で構成され、フライトコントローラ22の動作を制御し、各要素間におけるデータの送受信の制御や、プログラムの実行に必要な処理等を行う。
メモリ22Bは、DRAM(Dynamic Random Access Memory)等の揮発性記憶装置で構成される主記憶装置、及びフラッシュメモリやHDD(Hard Disc Drive)等の不揮発性記憶装置で構成される補助記憶装置を備える。
このメモリ22Bは、プロセッサ22Aの作業領域として使用される一方、フライトコントローラ22が実行可能であるロジック、コード、あるいはプログラム命令といった各種の設定情報等が格納される。
さらに、このメモリ22Bに、カメラ27やセンサ類22C等から取得したデータが直接的に伝達されて記憶されるように構成してもよい。
センサ類22Cは、本実施の形態では、GPS衛星から電波を受信するGPSセンサ22Ca、大気圧を測定する気圧センサ22Cb、温度を測定する温度センサ22Cc及び加速度センサ22Cdによって構成される。
カメラ27は、ジンバルによって、鉄塔1を撮像する撮像方向に応じて撮像角度を変更することが可能であって、本実施の形態では、可視光線を捉えたRGB画像を撮像する。その一方で、赤外線を捉えたサーマル画像を撮像するようにしてもよいし、RGB画像とサーマル画像の両方を同時にあるいは順次、撮像するようにしてもよい。
図3は、本実施の形態に係る飛行装置20のフライトコントローラ22のソフトウェア構成を説明するブロック図である。図示のように、フライトコントローラ22は、指示受信部22Ba、機体制御部22Bb、位置姿勢情報取得部22Bc、撮像処理部22Bd、撮像情報送信部22Be、位置姿勢情報記憶部22Bf及び撮像情報記憶部22Bgを備える。
これら指示受信部22Ba、機体制御部22Bb、位置姿勢情報取得部22Bc、撮像処理部22Bd及び撮像情報送信部22Beは、プロセッサ22Aがメモリ22Bに格納されているプログラムを実行することにより実現される。
一方、位置姿勢情報記憶部22Bf及び撮像情報記憶部22Bgは、メモリ22Bの提供する記憶領域として実現される。
指示受信部22Baは、飛行装置20の動作を指示する各種のコマンド(以下、「飛行操作コマンド」という。)を受け付ける。本実施の形態では、サーバ30から飛行操作コマンドを受信するが、プロポなどの送受信機からの飛行操作コマンドを受信するように構成してもよい。
機体制御部22Bbは、本実施の形態では、指示受信部22Baが受信した飛行操作コマンドに応じて飛行装置20の動作を制御するものであって、例えば、6自由度(並進運動x、yおよびz、並びに回転運動θx、θyおよびθz)を有する飛行装置20の空間的配置、速度、および/または加速度を調整するために、ESC24を経由してモータ25を制御する。
機体制御部22Bbの制御によりモータ25が駆動してプロペラ26が回転することで、飛行装置20が飛行する揚力が発生する。
その一方で、機体制御部22Bbは、飛行操作コマンドによらないで飛行装置20が自律的に飛行するように各種の制御を実行することもできる。
位置姿勢情報取得部22Bcは、飛行装置20の現在位置及び姿勢を示す情報(以下、「位置姿勢情報」という。)を取得する。本実施の形態では、位置姿勢情報には、緯度・経度で表される飛行装置20の地図上の位置、飛行装置20の飛行高度、飛行装置20のx、y、z軸のそれぞれの傾きが含まれる。
この位置姿勢情報取得部22Bcは、GPSセンサ22CaがGPS衛星から受信した電波から、飛行装置20の地図上の位置を算出する。
位置姿勢情報取得部22Bcは、飛行前に気圧センサ22Cbにより測定した大気圧(以下、「基準気圧」という。)と飛行中に気圧センサ22Cbにより測定した大気圧(以下、「現在気圧」という。)との差分と、飛行中に温度センサ22Ccにより測定した気温とに基づいて、飛行装置20の飛行高度を算出する。
さらに、位置姿勢情報取得部22Bcは、加速度センサ22Cdからの出力に基づいて、飛行装置20の姿勢を求めるとともに、飛行装置20の姿勢からカメラ27の光軸(視点軸)を決定する。
これら飛行装置20の地図上の位置、飛行装置20の飛行高度、飛行装置20の姿勢(カメラ27の光軸の傾き)は、位置姿勢情報記憶部22Bfに格納される。
撮像処理部22Bdは、カメラ27を制御して鉄塔1の一部または全部を撮像させ、カメラ27が撮像した撮像画像を取得する。
この撮像処理部22Bdは、本実施の形態では、事前に設定されたタイミングで撮像を行うものであり、例えば、5秒、30秒など任意に指定された時間ごとに撮像を行うことが可能である。一方で、サーバ30からの指示に基づいて撮像するように構成してもよい。
取得した撮像画像は、撮像処理部22Bdによって、撮像日時、撮像時の飛行装置20の地図上の緯度経度(撮像位置)、撮像時の飛行装置20の飛行高度(撮像高度)、飛行装置20の姿勢(カメラ27の光軸の傾き)が関連づけられることによって撮像情報が生成され、この撮像情報が撮像情報記憶部22Bgに格納される。
撮像情報送信部22Beは、カメラ27が撮影した画像をサーバ30に送信する。本実施の形態では、撮像日時、撮像位置、撮像高度及び傾きを撮像画像に関連づけた撮像情報をサーバ30に送信する。
図4は、本実施の形態に係るサーバ30のハードウェア構成を説明するブロック図である。図示のように、サーバ30は、CPU31、メモリ32、記憶装置33、通信装置34、入力装置35及び出力装置36を備える。
CPU31は、サーバ30の動作を制御し、サーバ30を構成する各要素間におけるデータの送受信の制御や、プログラムの実行に必要な処理等を行う。
メモリ32は、DRAM等の揮発性記憶装置で構成される主記憶装置、及びフラッシュメモリやHDD等の不揮発性記憶装置で構成される補助記憶装置を備える。
記憶装置33は、各種のデータやプログラムを記憶する記憶媒体であって、例えばHDDやSSD(Solid State Drive)、あるいはフラッシュメモリ等によって実装される。
通信装置34は、通信ネットワーク40を介して他の装置と通信を行うものであって、本実施の形態では、飛行装置20と通信を行う。この通信装置34は、例えばイーサネット(登録商標)に接続するためのアダプタ、公衆電話回線網に接続するためのモデム、無線通信を行うための無線通信機、シリアル通信のためのUSBコネクタやRS232Cコネクタなどを含んで構成される。
入力装置35は、例えばキーボードやマウス、タッチパネル、ボタン、マイクロフォン等といった、データを入力することが可能なインターフェースであり、出力装置36は、例えばディスプレイやプリンタ、スピーカ等といった、データを出力することが可能なデバイスである。
図5は、本実施の形態に係るサーバ30のソフトウェア構成を説明するブロック図である。図示のように、サーバ30は、飛行制御部33A、撮像情報受信部33B、三次元モデル作成部33C、異常検出部33D、三次元モデル表示部33E、撮像画像表示部33F、撮像情報記憶部33G、三次元モデル記憶部33H及び異常情報記憶部33Iを備える。
これら飛行制御部33A、撮像情報受信部33B、三次元モデル作成部33C、異常検出部33D、三次元モデル表示部33E及び撮像画像表示部33Fは、サーバ30が備えるCPU31が記憶装置33に記憶されているプログラムをメモリ32に読み出して実行することにより実現される。
一方、撮像情報記憶部33G、三次元モデル記憶部33H及び異常情報記憶部33Iは、サーバ30の備える記憶装置33が提供する記憶領域の一部として実現される。
飛行制御部33Aは、飛行装置20の飛行を制御するモジュールであって、本実施の形態では、予め設定された飛行装置20の自律的な飛行に関するプログラム(データ)に基づいて、飛行装置20を自律的に飛行させる。この飛行制御部33Aにおける処理の概略については、後述する。
撮像情報受信部33Bは、飛行装置20から送信される撮像情報を受信して、受信した撮像情報を撮像情報記憶部33Gに格納する。
三次元モデル作成部33Cは、複数の撮像画像から三次元の構造体を表現する三次元モデルを作成するものであって、本実施の形態では、三次元モデルのワールド座標系は、緯度、経度および高度で表現され、撮像情報に含まれる撮像位置、撮像高度および光軸の傾きにより、カメラ27のワールド座標系における位置及び視点方向を示すことができる。
この三次元モデル作成部33Cでは、撮像情報に含まれている画像データから特徴点を抽出し、撮像情報に含まれる撮像位置、撮像高度及び傾きに基づいて複数の画像データから抽出された特徴点の対応づけを行い、ポイントクラウドとも称されるワールド座標系における三次元点群を取得する。
このように作成された三次元モデル(本実施の形態では三次元点群)は、三次元モデル記憶部33Hに記憶される。
異常検出部33Dは、飛行装置20で撮像した撮像画像を解析して、鉄塔1の異常を検出する。
具体的には、ニューラルネットワーク等の機械学習により生成された学習済みモデルを用いて、飛行装置20で撮像した撮像画像に基づいて異常を判定したり、鉄塔1の正常時の画像と撮像画像とを対比して異常を判定したりといった手法を用いて、鉄塔1の異常を検出する。
この異常検出部33Dは、検出した撮像画像上の異常箇所について、ワールド座標系の位置を特定する。
例えば、三次元点群に含まれる点のそれぞれについて、撮像情報に含まれている撮像位置および撮像高度に設置したカメラから、撮像情報に含まれている傾きが示す方向に撮像した場合の画像上の位置を特定し、特定した画像上の位置が、異常箇所として検出した領域に含まれているか否かにより、この位置が異常箇所を構成するか否かを判定し、異常箇所を構成する点の座標を異常箇所の位置として特定する。
このように検出した異常に関する情報(以下、「異常情報」という。)は、異常情報記憶部33Iに記憶される。
三次元モデル表示部33Eは、三次元モデル作成部33Cが作成した三次元モデルを平面に投影した画像(以下、「三次元投影画像」という。)を表示するものであり、この三次元投影画像を点群(点群データ)を用いて表示するようにしてもよいし、撮像画像を三次元モデルにマッピングしてもよい。
撮像画像表示部33Fは、例えば、撮像画像をサーバ30に接続されたディスプレイに表示する。
図6は、本実施の形態に係る飛行制御部33Aで実行される処理の概略を説明するブロック図である。図示のように、飛行制御部33Aは、予め設定された飛行プログラムに基づいて、上空撮像ステップS1、第1撮像ステップS2、第2撮像ステップS3及び飛行条件処理ステップS4を実行する。
図7は、上空撮像ステップS1の概略を説明する図である。図示のように、上空撮像ステップS1では、予め設定された飛行プログラムに基づいて、地表Eからの高さ位置を一定に保持しながら、飛行装置20が鉄塔1の上空を複数周回して飛行し、このときにカメラ27で鉄塔1を撮像する。
本実施の形態では、飛行装置20は、例えば、飛行軌跡f1で示す第1回目の周回飛行乃至飛行軌跡f3で示す第3回目の周回飛行を実行するように設定され、複数周回の周回飛行を行う際にカメラ27の撮像角度をジンバルで変更しながら鉄塔1を撮像するように設定される。
この上空撮像ステップS1では、飛行装置20は、飛行軌跡f1で示す第1回目の周回飛行を行い、第1回目の周回飛行の後、第1回目の周回飛行に対して周回する半径を広げて周回飛行する飛行軌跡f2で示す第2回目の周回飛行に移行し、第2回目の周回飛行の後、第2回目の周回飛行に対して周回飛行する半径を広げて周回飛行する飛行軌跡f3で示す第3回目の周回飛行に移行するように設定される(周回飛行の設定S1a)。
周回飛行の設定と併せて、第1回目の周回飛行の際に飛行装置20のカメラ27で鉄塔1の上側を撮像することが可能となる位置にカメラ27がジンバルで位置決めされ、第2回目の周回飛行の際に飛行装置20のカメラ27を鉄塔1の下方にジンバルで変位させてカメラ27による鉄塔1の撮像角度を変更して、鉄塔1の中腹部分を撮像する位置に位置決めされ、かつ第3回目の周回飛行の際に飛行装置20のカメラ27を鉄塔1の更に下方にジンバルで変位させてカメラ27による鉄塔1の撮像角度を変更して、鉄塔1の下側を撮像する位置に位置決めされるように設定される(撮像角度の設定S1b)。
この撮像角度の設定において、カメラ27による鉄塔1の撮像角度の変更が設定される場合は、撮像領域の少なくとも一部が鉄塔1の上下方向において重なるように連続させて撮像できる撮像角度に設定される。
一方、飛行装置20が鉄塔1の上空を周回して飛行しながらカメラ27で鉄塔1を撮像する際の撮像間隔は、撮像領域の少なくとも一部が周回方向において重なるように連続させて撮像できる間隔に設定される(撮像間隔の設定S1c)。
この上空撮像ステップS1では、鉄塔1の上側から下側に亘って、さらに鉄塔1の周囲に存在する周辺構造物である樹木2や家屋3といった鉄塔1の周辺環境が撮像画像として取得される。
図8は、第1撮像ステップS2の概略を説明する図である。この第1撮像ステップS2は、上空撮像ステップS1に続いて実行され、図示のように、予め設定された飛行プログラムに基づいて、飛行装置20が鉄塔1の上側から下側に向かって下降下限位置Lまで下降しながら鉄塔1の周囲を周回して飛行し、このときにカメラ27で鉄塔1を撮像する。
本実施の形態では、飛行装置20は、例えば、鉄塔1の上側から下側に向かって下降下限位置Lまで下降する間に、飛行軌跡f4で示す周回飛行乃至飛行軌跡f10で示す周回飛行を実行するように設定され、周回飛行を行う際に任意の撮像角度にジンバルで固定されたカメラ27で鉄塔1を撮像する。
第1撮像ステップS2の実行に際しては、下降下限位置Lは、鉄塔2の周囲に存在する周辺構造物である樹木2や家屋3のうち最も高い高さ位置を有する周辺構造物の高さ位置に、任意の距離d1が高さ方向に付加されて設定される(下降下限位置の設定S2a)。
本実施の形態では、説明の便宜上、樹木2と家屋3との高さ位置が同程度の高さ位置である場合を想定する。
第1撮像ステップS2における、飛行装置20による飛行軌跡f4で示す周回飛行と飛行軌跡f5で示す周回飛行との鉄塔1の上下方向の間隔、及び飛行軌跡f5で示す周回飛行乃至飛行軌跡f10で示す周回飛行までの間で次の周回飛行に移行する際の鉄塔1における上下方向の間隔は、飛行装置20が鉄塔1の上側から下側に向かって下降しながら鉄塔1の周囲を周回飛行して撮像領域の少なくとも一部が上下方向において重なるように連続させて撮像できる間隔に設定される(周回飛行の設定S2b)。
第1撮像ステップS2では、カメラ27は、例えば飛行装置20が飛行軌跡f4で示す周回飛行を行っている場合の飛行高度に対応する鉄塔1の高さ位置に対して鉄塔1の下方に向かって位置決めされており、この状態においてジンバルで固定されるように設定される(撮像角度の設定S2c)。
撮像角度は、撮像画像の中心と撮像画像の上端とがなす角度であって、本実施の形態では状況に応じて算出される最適な角度に設定される。これにより、第1撮像ステップS2で撮像される撮像画像のフレームの上側に、例えば鉄塔1の上空に浮遊する雲といった三次元モデルを作成する際に不要な情報が存在する場合において、このような不要な情報が撮像画像のフレーム内に写り込むことを抑制することができる。
一方、飛行装置20が鉄塔1の周囲を周回して飛行しながらカメラ27で鉄塔1を撮像する際の撮像間隔は、撮像領域の少なくとも一部が周回方向において重なるように連続させて撮像できる間隔に設定される(撮像間隔の設定S2d)。
図9は、第2撮像ステップS3の概略を説明する図である。この第2撮像ステップS3は、第1撮像ステップS1において飛行装置20が下降下限位置Lまで下降した際に実行される。
図示のように、第2撮像ステップS3では、予め設定された飛行プログラムに基づいて、飛行装置20が下降下限位置Lで鉄塔1の周囲を複数周回して飛行し、このときにカメラ27で鉄塔1を撮像する。
この第2撮像ステップS3では、飛行装置20は、例えば、下降下限位置Lにおいて、飛行軌跡f11で示す周回飛行乃至飛行軌跡f14で示す周回飛行を実行するように設定される。(周回飛行の設定S3a)。
一方、飛行軌跡f11で示す周回飛行から飛行軌跡f12で示す周回飛行に移行する際、及び飛行軌跡f12で示す周回飛行乃至飛行軌跡f14で示す周回飛行までの間で次の周回飛行に移行する際に、カメラ27の撮像角度をジンバルで変更しながら鉄塔1を撮像するように設定される(撮像角度の設定S3b)。
具体的には、飛行装置20が飛行軌跡f11で示す周回飛行を行う際に、飛行装置20のカメラ27を、第1撮像ステップS2において位置決めされた位置から下方にジンバルで変位させて、カメラ27による鉄塔1の撮像角度を変更して、撮像方向a1となる位置に位置決めされるように設定されている。
続いて、飛行装置20が飛行軌跡f12で示す周回飛行を行う際に、飛行装置20のカメラ27を、撮像方向a1から更に下方にジンバルで変位させて、カメラ27による鉄塔1の撮像角度を変更して、撮像方向a2となる位置に位置決めされるように設定されている。
続いて、飛行装置20が飛行軌跡f13で示す周回飛行を行う際に、飛行装置20のカメラ27を、撮像方向a2から更に下方にジンバルで変位させて、カメラ27による鉄塔1の撮像角度を変更して、撮像方向a3となる位置に位置決めされるように設定されている。
さらに続いて、飛行装置20が飛行軌跡f12で示す周回飛行を行う際に、飛行装置20のカメラ27を、撮像方向a3から更に下方にジンバルで変位させて、カメラ27による鉄塔1の撮像角度を変更して、撮像方向a4となる位置に位置決めされるように設定されている。
この撮像角度の設定において、カメラ27による鉄塔1の撮像角度が撮像方向a1〜a4と変更されるように設定される場合は、撮像領域の少なくとも一部が鉄塔1の上下方向において重なるように連続させて撮像できる撮像角度に設定される。
一方、飛行装置20が鉄塔1の周囲を周回して飛行しながらカメラ27で鉄塔1を撮像する際の撮像間隔は、撮像領域の少なくとも一部が周回方向において重なるように連続させて撮像できる間隔に設定される(撮像間隔の設定S3c)。
図10は、第1撮像ステップS2及び第2撮像ステップS3の概略を説明する図である。図示のように、第1撮像ステップS2で飛行装置20が鉄塔1の周囲を周回して飛行する飛行軌跡f4〜f10で把握される空域の面積s1と、第2撮像ステップS3で飛行装置20が鉄塔1の周囲を周回して飛行する飛行軌跡f11〜f14で把握される空域の面積s2とは、本実施の形態では同一となる。
したがって、第1撮像ステップS2で撮像される撮像画像の画質と第2撮像ステップS3で撮像される撮像画像の画質とを均一化することができることから、撮像画像の品質が向上する。
飛行条件処理ステップS4では、飛行装置20が予め設定された飛行条件に到達した際に、到達した時点において飛行装置20が実行しているいずれかのステップ(上空撮像ステップS1、第1撮像ステップS2、第2撮像ステップS3)が中断され、いずれかのステップが中断された鉄塔1上の位置が飛行装置20のサーバ30のメモリ(図示せず)に記憶される。
この飛行条件処理ステップS4の実行に際しては、本実施の形態では、例えば「飛行装置20のバッテリ23の残量が20%に到達したとき」、あるいは「飛行装置20の飛行時間が20分を超えたとき」等が飛行条件として設定される(飛行条件の設定S4a)。
次に、図11〜図16に基づいて、本実施の形態に係る撮像システム10を用いて鉄塔1を撮像する手順について説明する。
図11で示すように、まず、撮像の対象となる鉄塔1が立設されている地表Eが、その上空を飛行装置20が飛行することが許容されている飛行可能敷地E1であるかを確認し、飛行可能敷地E1である場合には、鉄塔1の周囲に周辺構造物が存在するか否かを確認する。
図示のように、鉄塔1の周囲に周辺構造物である樹木2や家屋3等が存在する場合には、飛行装置20を操作して、周辺構造物の高さ位置に飛行装置20が位置するように飛行装置20の飛行高度を調整し、操作画面等に表示される飛行装置20の飛行高度に基づいて、周辺構造物の高さ位置を取得する。
同様に、鉄塔1の高さ位置に飛行装置20が位置するように飛行装置20の飛行高度を調整し、操作画面等に表示される飛行装置20の飛行高度に基づいて、鉄塔1の高さ位置を取得する。この際、予め鉄塔1の高さが判明している場合には当該高さを利用することができるが、当該高さが不明な場合には本実施の形態のように飛行装置20を利用することとすればよい。
取得された周辺構造物の高さ位置及び鉄塔1の高さ位置は、本実施の形態ではサーバ30に入力される。
続いて、図11で示すように、鉄塔1の中心位置Oから測定される鉄塔1の角部までの距離を取得し、この取得した距離が半径rとしてサーバ30に入力される。
周辺構造物の高さ位置がサーバ30に入力されると、図12で示すように、飛行可能敷地E1の上空に設定される、飛行装置20が飛行可能な飛行可能空域Aにおいて、周辺構造物の高さ位置に任意の距離d1が高さ方向に付加された、第1撮像ステップS2における下降下限位置Lが設定される(下降下限位置の設定S2a)。
一方、鉄塔1の高さ位置及び半径rがサーバ30に入力されると、鉄塔1が、鉄塔1の全側面を包囲する略円柱形状にモデル化されて、鉄塔モデルMが生成される。
これにより、複数の腕金等といった構成部材を有して複雑な形状を呈する鉄塔1を簡易な形状で把握できることから、飛行装置20による周回飛行の設定を容易に行うことができる。
続いて、図13で示すように、飛行装置20を鉄塔1の中心位置Oに配置し、飛行装置20が配置された位置をGPSセンサ22CaがGPS座標として取得し、取得したGPS座標がサーバ30に入力される。
サーバ30に入力されたGPS座標は、鉄塔1の中心位置Oを示す座標として把握され、飛行装置20が鉄塔1の上空や周囲を自律的に飛行する際の飛行が制御される。
なお、飛行装置20を鉄塔1の中心位置Oに配置できないような場合は、平面方向における鉄塔1の対角線上の位置に飛行装置20を配置してその位置のGPS座標を取得し、GPS座標を結ぶ対角線の中心位置を鉄塔1の中心位置Oとして把握することも可能である。
その後、上空撮像ステップS1の設定がなされる。上空撮像ステップS1の設定では、周回飛行の設定S1a、撮像角度の設定S1b、及び撮像間隔の設定S1cがなされる。
本実施の形態では、周回飛行の設定S1aにおいて、第3回目の周回飛行の際の飛行軌跡f3の半径が鉄塔1の高さとなるように設定され、飛行装置20が鉄塔1の上空を飛行する地表Eからの高さ位置(飛行高度)が、鉄塔1の高さの1.5倍の高さと鉄塔の高さに安全な飛行高度を確保できる所望の高さを付加した高さとを比較したときの高いほうの高さが飛行高度となるように設定される。
なお、本実施の形態では、周回飛行の設定S1aにおいて、3回の周回飛行を行うように設定されるが、周回飛行の回数は適宜に設定可能であり、さらに、周回飛行の飛行軌跡の半径を広げることなく、複数周回の周回飛行が全て同一の半径の飛行軌跡となるように設定することも可能である。
次に、第1撮像ステップS2の設定がなされる。第1撮像ステップS2の設定では、周回飛行の設定S2b、撮像角度の設定S2c、及び撮像間隔の設定S2dがなされる。
なお、下降下限位置の設定S2aは、周辺構造物の高さ位置がサーバ30に入力されることによって実行されることから、第1撮像ステップS2の設定において設定する手間が省略される。
本実施の形態では、周回飛行の設定S2bにおいて、図14で示すように、鉄塔モデルMの半径Mrに、周回飛行の際に鉄塔1との間で安全な飛行距離を確保できる所望の距離d2を付加した飛行半径frで、飛行装置20が飛行軌跡f4で示す周回飛行乃至飛行軌跡f10で示す周回飛行を実行するように設定される。
なお、本実施の形態では、周回飛行の設定S2bにおいて、飛行装置20が7回の周回飛行を行うように設定されるが、周回飛行の回数は適宜に設定可能である。
次に、第2撮像ステップS3の設定がなされる。第2撮像ステップS3の設定では、周回飛行の設定S3a、撮像角度の設定S3b、及び撮像間隔の設定S3cがなされる。
本実施の形態では、周回飛行の設定S3aにおいて、第1撮像ステップS2の周回飛行の設定S2bで設定された飛行半径frと同じ飛行半径frで、飛行装置20が飛行軌跡f11で示す周回飛行乃至飛行軌跡f14で示す周回飛行を実行するように設定される。
なお、本実施の形態では、周回飛行の設定S3aにおいて、飛行装置20が4回の周回飛行を行うように設定されるが、周回飛行の回数は適宜に設定可能である。
次に、飛行条件処理ステップS4の設定がなされる。飛行条件処理ステップS4の設定では、飛行条件の設定S4aの設定がなされ、本実施の形態では、「飛行装置20のバッテリ23の残量が20%に到達したとき」が飛行条件として設定される。
これら上記の各設定がなされることで、飛行プログラムの設定が完了し、設定された飛行プログラムに基づいて、飛行制御部33Aによって、上空撮像ステップS1、第1撮像ステップS2、第2撮像ステップS3、場合によっては飛行条件処理ステップS4が実行される。
図15で示すように、上空撮像ステップS1の実行によって、飛行装置20が飛行軌跡f1で示す周回飛行をし、鉄塔1の上側を撮像することが可能となる位置にジンバルで位置決めされたカメラ27で鉄塔1の上側を撮像し、飛行軌跡f2で示す周回飛行及び飛行軌跡f3で示す周回飛行に移行するに従って、カメラ27による鉄塔1の撮像角度を変更して鉄塔1の中腹部分及び下側を撮像する。
これにより、鉄塔1の上側から下側に亘って、さらに鉄塔1の周囲に存在する周辺構造物である樹木2や家屋3といった鉄塔1の周辺環境も含めて撮像画像として取得されることから、鉄塔1の実際の環境に近い三次元モデルを作成することができる。
上空撮像ステップS1の完了後、第1撮像ステップS2に移行する。第1撮像ステップS2の実行によって、下降下限位置Lまで下降する間に、鉄塔1の上側から下側に向かって飛行装置20が飛行軌跡f4で示す周回飛行乃至飛行軌跡f10で示す周回飛行をし、周回飛行を行う際に、撮像角度の設定S2cで設定されたカメラ27の撮像角度で鉄塔1を撮像する。
ここで、本実施の形態では、飛行装置20が飛行軌跡f7で示す周回飛行をしている際に、飛行条件の設定S4aの設定で設定された飛行条件に到達(「飛行装置20のバッテリ23の残量が20%に到達したとき」)したことから、飛行条件処理ステップS4によって、飛行装置20によって実行されている第1撮像ステップS2が飛行軌跡f7で示す周回飛行において中断され、鉄塔1の撮像も中断される。
このとき、飛行軌跡f7で示す周回飛行及び鉄塔1の撮像を中断した鉄塔1上の位置をGPSセンサ22CaがGPS座標として取得し、取得したGPS座標がサーバ30のメモリ(図示せず)に記憶される。
その後、飛行装置20は予め設定された飛行装置20の帰還位置に帰還し、充電が完了しているバッテリ23と交換されると、飛行条件が解除される。
飛行条件が解除されると、飛行装置20は、サーバ30のメモリに記憶されたGPS座標に基づいて、飛行軌跡f7で示す周回飛行及び鉄塔1の撮像を中断した鉄塔1上の位置に復帰し、図16で示すように、復帰した鉄塔1上の位置から飛行軌跡f8で示す周回飛行乃至飛行軌跡f10で示す周回飛行をし、復帰した鉄塔1上の位置から、撮像角度の設定S2cで設定されたカメラ27の撮像角度で鉄塔1の撮像を再開する。
飛行装置20が下降下限位置Lまで下降し、第1撮像ステップS2か完了すると、第2撮像ステップS3に移行する。第2撮像ステップS3では、飛行装置20が下降下限位置Lにおいて、飛行装置20が飛行軌跡f11で示す周回飛行乃至飛行軌跡f14で示す周回飛行をし、飛行軌跡f11で示す周回飛行乃至飛行軌跡f14で示す周回飛行に移行するに従って、カメラ27による鉄塔1の撮像角度を変更して、撮像方向a1〜a4となる位置から鉄塔1を撮像する。
この第2撮像ステップS3によって、飛行装置20がそれ以上は下降することができない下降下限位置Lよりも下側の鉄塔1を撮像して、撮像画像を取得することができる。
この第2撮像ステップS3における飛行装置20の飛行軌跡f11で示す周回飛行乃至飛行軌跡f14で示す周回飛行と、第1撮像ステップS2における飛行装置20の飛行軌跡f10で示す周回飛行とは、本実施の形態では同じ高さ位置である下降下限位置Lにおいて実行される。
このように、撮像システム10のサーバ30の飛行制御部33Aの制御によって、飛行装置20が自律的に第1撮像ステップS2及び第2撮像ステップS3を実行することから、鉄塔1の上側から下側、さらには飛行装置20がそれ以上は下降することができない、鉄塔1の周囲の樹木2や家屋3の高さ位置に基づいて設定された下降下限位置Lの下側の鉄塔1の画像を、簡便かつ効率的に撮像することができる。
特に、飛行制御部33Aによって、上空撮像ステップS1、第1撮像ステップS2及び第2撮像ステップS3が連続して実行されることによって、鉄塔1の周囲に存在する樹木2や家屋3といった周辺構造物を含めて、鉄塔1の全方位を精密に撮像することができる。
なお、本発明は上記実施の形態に限定されることはなく、発明の趣旨を逸脱しない範囲で種々の変更が可能である。上記実施の形態では、構造物が鉄塔1である場合を説明したが、上下方向に長尺な構造物であれば、例えば高層マンション、煙突、アンテナ塔、灯台、風車、樹木、さらには観音像等でも撮像することが可能である。
1 鉄塔(構造物)
2 樹木(周辺構造物)
3 家屋(周辺構造物)
10 撮像システム
20 飛行装置
22 フライトコントローラ
22B メモリ
22Ca GPSセンサ
30 サーバ
33A 飛行制御部
f1〜f14 飛行軌跡
L 下降下限位置
M 鉄塔モデル
O 中心位置
r 半径
S1 上空撮像ステップ
S2 第1撮像ステップ
S3 第2撮像ステップ
S4 飛行条件処理ステップ

Claims (2)

  1. 飛行装置に搭載されたカメラで上下方向に長尺な構造物を撮像する撮像システムにおいて、
    前記飛行装置が自律的に前記構造物の上下方向の一方から他方に移動しながら前記構造物を前記カメラで撮像する撮像ステップを実行する飛行制御部を備え、
    該撮像ステップは、
    前記構造物の周辺に存在する周辺構造物の高さ位置を取得するステップと、
    前記飛行装置の高さ位置が、前記周辺構造物の高さ位置に基づき設定される下降下限位置に達すると下降を制限するステップを備え、
    前記周辺構造物の高さ位置は、前記周辺構造物の高さ位置に前記飛行装置が位置するように前記飛行装置の飛行高度を調整し、当該飛行高度に基づき取得することにより設定される
    ことを特徴とする撮像システム。
  2. 飛行装置に搭載されたカメラで上下方向に長尺な構造物を撮像する撮像方法において、
    前記飛行装置が自律的に前記構造物の上下方向の一方から他方に移動しながら前記構造物を前記カメラで撮像する撮像ステップを備え、
    該撮像ステップは、
    前記構造物の周辺に存在する周辺構造物の高さ位置を取得するステップと、
    前記飛行装置の高さ位置が、前記周辺構造物の高さ位置に基づき設定される下降下限位置に達すると下降を制限するステップを備え、
    前記周辺構造物の高さ位置は、前記周辺構造物の高さ位置に前記飛行装置が位置するように前記飛行装置の飛行高度を調整し、当該飛行高度に基づき取得することにより設定される
    ことを特徴とする撮像方法。
JP2019151726A 2019-08-22 2019-08-22 撮像システム及び撮像方法 Active JP6611152B1 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2019151726A JP6611152B1 (ja) 2019-08-22 2019-08-22 撮像システム及び撮像方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019151726A JP6611152B1 (ja) 2019-08-22 2019-08-22 撮像システム及び撮像方法

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2019051729A Division JP2020072465A (ja) 2019-03-19 2019-03-19 撮像システム及び撮像方法

Publications (2)

Publication Number Publication Date
JP6611152B1 true JP6611152B1 (ja) 2019-11-27
JP2020070011A JP2020070011A (ja) 2020-05-07

Family

ID=68692012

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019151726A Active JP6611152B1 (ja) 2019-08-22 2019-08-22 撮像システム及び撮像方法

Country Status (1)

Country Link
JP (1) JP6611152B1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117572545A (zh) 2019-04-15 2024-02-20 佳能株式会社 图像传感器和摄像设备

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008186145A (ja) * 2007-01-29 2008-08-14 Mitsubishi Electric Corp 空撮画像処理装置および空撮画像処理方法
JP6767861B2 (ja) * 2016-05-11 2020-10-14 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカPanasonic Intellectual Property Corporation of America 飛行制御方法及び無人飛行体
JP6283129B1 (ja) * 2017-01-27 2018-02-21 アジア航測株式会社 飛行空間情報提供装置
CN110366670B (zh) * 2017-03-02 2021-10-26 深圳市大疆创新科技有限公司 三维形状推断方法、飞行体、移动平台、程序及记录介质
JP2018144981A (ja) * 2017-03-07 2018-09-20 株式会社日立ビルシステム エレベーター用点検装置、エレベーター用点検システム、その制御方法及び端末装置

Also Published As

Publication number Publication date
JP2020070011A (ja) 2020-05-07

Similar Documents

Publication Publication Date Title
JP6515367B1 (ja) 撮像システム及び撮像方法
US20190373173A1 (en) Multi-gimbal assembly
EP3452881B1 (en) Imaging using multiple unmanned aerial vehicles
KR101650136B1 (ko) 원위치 자동복귀·컬러트래킹 자동추적을 갖는 스마트 드론 장치
US10313575B1 (en) Drone-based inspection of terrestrial assets and corresponding methods, systems, and apparatuses
CN112789672B (zh) 控制和导航系统、姿态优化、映射和定位技术
US11374648B2 (en) Radio link coverage map generation using link quality and position data of mobile platform
US10540901B2 (en) Autonomous mission action alteration
WO2019155335A1 (en) Unmanned aerial vehicle including an omnidirectional depth sensing and obstacle avoidance aerial system and method of operating same
EP3480118B1 (en) Aerial vehicle landing method
JP6611146B1 (ja) 撮像システム及び撮像方法
WO2021168819A1 (zh) 无人机的返航控制方法和设备
JP2024069229A (ja) 撮像システム及び撮像方法
JP6611152B1 (ja) 撮像システム及び撮像方法
JP6737521B2 (ja) 高さ位置取得システム及び撮像システム、高さ位置取得方法、撮像方法
JP6611147B1 (ja) 撮像システム及び撮像方法
JP6611149B1 (ja) 撮像システム及び撮像方法
JP6611148B1 (ja) 撮像システム及び撮像方法
TW202202809A (zh) 決定裝置、路徑決定方法、路徑決定程式、路徑決定系統及飛行體裝置
US20220221857A1 (en) Information processing apparatus, information processing method, program, and information processing system
WO2020029134A1 (zh) 可移动平台的监管控制方法、设备及系统
JP2024021143A (ja) 3次元データ生成システム、及び3次元データ生成方法
JP7287690B2 (ja) 無人機、故障診断装置、故障診断方法、及びプログラム
KR102729635B1 (ko) 비행 실시 전 진단 비행을 수행하는 무인 비행 장치 및 방법
US20240329664A1 (en) Automated Pre-Flight Unmanned Aerial Vehicle Inspection

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190822

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20190822

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20190829

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20191021

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20191023

R150 Certificate of patent or registration of utility model

Ref document number: 6611152

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250