Nothing Special   »   [go: up one dir, main page]

JP2019027908A - 外面材調査システム - Google Patents

外面材調査システム Download PDF

Info

Publication number
JP2019027908A
JP2019027908A JP2017147260A JP2017147260A JP2019027908A JP 2019027908 A JP2019027908 A JP 2019027908A JP 2017147260 A JP2017147260 A JP 2017147260A JP 2017147260 A JP2017147260 A JP 2017147260A JP 2019027908 A JP2019027908 A JP 2019027908A
Authority
JP
Japan
Prior art keywords
image
visible light
light image
flying object
image processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017147260A
Other languages
English (en)
Other versions
JP6441421B1 (ja
Inventor
博貴 今川
Hirotaka Imagawa
博貴 今川
青木 達也
Tatsuya Aoki
達也 青木
智博 中川
Tomohiro Nakagawa
智博 中川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Tonton
Tonton Inc
Original Assignee
Tonton
Tonton Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tonton, Tonton Inc filed Critical Tonton
Priority to JP2017147260A priority Critical patent/JP6441421B1/ja
Application granted granted Critical
Publication of JP6441421B1 publication Critical patent/JP6441421B1/ja
Publication of JP2019027908A publication Critical patent/JP2019027908A/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Testing Of Devices, Machine Parts, Or Other Structures Thereof (AREA)
  • Investigating Or Analyzing Materials Using Thermal Means (AREA)
  • Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
  • Investigating Or Analysing Materials By Optical Means (AREA)
  • Radiation Pyrometers (AREA)

Abstract

【課題】構造物の外面材の異常を短時間で検査すること。【解決手段】飛行体10によって撮像した画像を処理して端末装置30に表示し、構造物の外面材の状態を調査する外面材調査システムにおいて、飛行体10は、可視光画像を撮像する可視光画像撮像手段と、可視光以外の領域の電磁波または音波による非可視光画像を撮像する非可視光画像撮像手段と、を有し、端末装置30または飛行体10は、可視光画像および/または非可視光画像に対して所定の画像処理を実行する画像処理手段と、画像処理手段による画像処理結果に基づいて飛行体の飛行状態を制御する飛行体制御手段と、画像処理手段による画像処理結果に基づいて外面材の異常を検出する異常検出手段と、を有する。【選択図】図1

Description

本発明は、外面材調査システムに関するものである。
従来、構造物の外面材(例えば、タイル、サイディング、レンガ、および、表面コンクリート等)の剥離等の異常を検査する方法としては、例えば、特許文献1に開示された技術がある。
特許文献1に開示された技術では、建物の外壁に赤外線を照射する赤外線ヒータと、赤外線を照射されて加熱した外壁の正常部分と剥離部分の温度差を映像化する赤外線カメラを配置する。そして、赤外線カメラで得られた映像から壁面表面温度パターンを計算機シミューレーションで作成し、正常部分と剥離部分を色分けすることで、剥離部分を特定することができる。
特開平05−312745号公報
しかしながら、特許文献1に開示された技術では、赤外線ヒータを用いることから、検査対象となるのは赤外線ヒータからの赤外線が届く範囲に限定されるため、広い範囲を検査するためには、検査に時間を要するという問題点がある。
本発明は、構造物の外面材の異常を短時間で検査することが可能な外面材調査システムを提供することを目的としている。
上記課題を解決するために、本発明は、飛行体によって撮像した画像を処理して端末装置に表示し、構造物の外面材の状態を調査する外面材調査システムにおいて、前記飛行体は、可視光画像を撮像する可視光画像撮像手段と、可視光以外の領域の電磁波または音波による非可視光画像を撮像する非可視光画像撮像手段と、を有し、前記端末装置または前記飛行体は、前記可視光画像および/または前記非可視光画像に対して所定の画像処理を実行する画像処理手段と、前記画像処理手段による画像処理結果に基づいて前記飛行体の飛行状態を制御する飛行体制御手段と、前記画像処理手段による画像処理結果に基づいて前記外面材の異常を検出する異常検出手段と、を有する、ことを特徴とする。
このような構成によれば、構造物の外面材の異常を短時間で検査することが可能になる。
また、本発明は、前記画像処理手段は、前記外面材を構成する要素に対応する画像成分を検出する処理を実行し、前記飛行体制御手段は、前記画像処理手段によって検出される前記要素に対応する前記画像成分に基づいて、前記飛行体の前記構造物からの距離および/または飛行速度を調整することを特徴とする。
このような構成によれば、距離や飛行速度を適切に設定することができる。
また、本発明は、前記画像処理手段は、前記外面材を構成する要素に対応する画像成分を検出する処理を実行し、前記飛行体制御手段は、前記画像処理手段によって検出される前記要素に対応する前記画像成分に基づいて、前記可視光画像撮像手段および前記非可視光画像撮像手段の仰角または俯角を調整することを特徴とする。
このような構成によれば、仰角または俯角を適切に設定することができる。
また、本発明は、前記非可視光画像撮像手段は、被写体から放射される赤外線を検出し、前記被写体の各部の温度を示す熱画像を撮像し、前記画像処理手段は、前記可視光画像撮像手段によって撮像された前記可視光画像に基づいて前記外面材を構成する要素に対応する空間周波数成分を特定し、前記可視光画像と前記熱画像の相対的な関係に基づいて前記熱画像における前記要素の空間周波数成分を特定し、特定された空間周波数に対応する帯域成分を抽出する処理を実行する、ことを特徴とする。
このような構成によれば、外面材を構成する要素に対応する画像成分を確実に抽出することができる。
また、本発明は、前記異常検出手段は、前記画像処理手段によって抽出された前記帯域成分を参照し、前記外面材を構成する前記要素に対応する部分の温度が隣接する部分と異なる場合には異常と判定することを特徴とする。
このような構成によれば、異常箇所を確実に検出することができる。
また、本発明は、前記異常検出手段によって異常が検出された場合には、前記飛行体制御手段は、前記飛行体をホバリング状態とし、前記異常検出手段は、ホバリング中に撮像された複数の前記非可視光画像に基づいて異常の有無を判定する、ことを特徴とする。
このような構成によれば、誤検出の発生を低減することができる。
また、本発明は、前記飛行体制御手段は、地図上において調査の対象となる前記構造物の指定を受け、指定された前記構造物に基づいて飛行経路を設定することを特徴とする。
このような構成によれば、飛行経路を簡単に設定することができる。
また、本発明は、前記飛行体制御手段は、垂直方向の飛行と、水平方向の飛行を交互に繰り返すことで、前記構造物の所定の外面を撮像するように制御することを特徴とする。
このような構成によれば、飛行体の制御を簡易化するとともに、異常箇所を漏れなく検出することができる。
また、本発明は、前記飛行体制御手段は、前記構造物の外面を東、南、西、および、北の順に撮影するように制御することを特徴とする。
このような構成によれば、温度上昇/温度降下が生じやすい順に外面を検査することができる。
また、本発明は、前記端末装置は、画像を表示する表示手段を有し、前記表示手段は、前記可視光画像と前記非可視光画像を並置して表示するか、または、前記可視光画像に前記非可視光画像を重畳して表示する、ことを特徴とする。
このような構成によれば、操作者が目視により確認しながら異常箇所を検出することができる。
本発明によれば、構造物の外面材の異常を短時間で検査することが可能な外面材調査システムを提供することが可能となる。
本発明の実施形態に係る外面材調査システムの構成例を示す図である。 図1に示す飛行体の詳細な構成例を示す図である。 図1に示す送信機の詳細な構成例を示す図である。 図1に示す端末装置の詳細な構成例を示す図である。 図1に示すサーバの詳細な構成例を示す図である。 外面材の異状と温度の関係を示す図である。 飛行体の飛行経路の一例を示す図である。 地図上に表示された構造体の一例である。 可視光画像と熱画像を並置して表示する例である。 可視光画像と熱画像を重畳して表示する例である。 可視光画像と熱画像を並置して表示する例である。 可視光画像と熱画像を重畳して表示する例である。 飛行体によって外面材を検査する際に実行される処理の一例を説明するフローチャートである。 図13に示す初期調整処理の一例を説明するフローチャートである。 図14に示す目的成分抽出処理の一例を説明するフローチャートである。 図13に示す撮像処理の一例を説明するフローチャートである。 図16に示す飛行中調整処理の一例を説明するフローチャートである。 図16に示す異常検出処理の一例を説明するフローチャートである。 図16に示す画像表示/格納処理の一例を説明するフローチャートである。
次に、本発明の実施形態について説明する。
(A)本発明の実施形態の構成の説明
図1は、本発明の実施形態に係る外面材調査システムの構成例を示す図である。図1に示すように、外面材調査システム1は、飛行体10、送信機20、端末装置30、基地局40、ネットワーク50、および、サーバ60を有し、構造物Bの外面の異常を調査する。
飛行体10は、無人航空機UAV(Unmanned Air Vehicle)であり、例えば、4つ以上のプロペラによってホバリング(空中停止)することが可能なドローン等によって構成される。なお、小型ヘリコプタや、気球等によって構成されるようにしてもよい。
送信機20は、操縦者によって操作され、飛行体10に対して制御信号を送信するとともに、飛行体10によって撮像された画像を受信し、端末装置30に供給する。
端末装置30は、スマートフォンまたはタブレット端末等によって構成され、接続ケーブル等によって、送信機20と接続され、送信機20との間で情報を授受する。端末装置30は、LCD(Liquid Crystal Display)タッチパネルを有し、操縦者によってLCDタッチパネルが操作された場合には、操作に対応して飛行体10を制御する。また、端末装置30は、飛行体10から送信される画像を表示する。
基地局40は、端末装置30との間で電波によって情報を授受するとともに、ネットワーク50を介してサーバ60との間で情報を授受する。
ネットワーク50は、例えば、インターネットによって構成され、基地局40とサーバ60との間で、所定のプロトコルに基づいて、情報を授受する。
サーバ60は、基地局40およびネットワーク50を介して端末装置30から伝送された画像等の情報を格納する。
図2は、飛行体10の構成例を示している。図2の例では、飛行体10は、赤外光撮像素子11、可視光撮像素子12、ジンバル13、画像処理部14、送受信部15、アンテナ15a、制御部16、GPS(Global Positioning System)17、センサ18、および、モータ19−1〜19−4を有している。
ここで、赤外光撮像素子11は、黒体の放射輝度が黒体の絶対温度の4乗に比例することを利用し、被写体から放射される赤外線から被写体の各部の温度を検出し、熱画像として出力する。なお、熱画像を構成するそれぞれの画素は、被写体各部の温度を示す情報を有している。
可視光撮像素子12は、被写体から放射される可視光を3原色に分解し、それぞれの色の光の強度を対応する電荷に光電変換し、可視光画像として出力する。なお、赤外光撮像素子11と可視光撮像素子12は同じ画角を有しているので、被写体の同じ領域の可視光画像と、それに対応する熱画像を得ることができる。
ジンバル13は、赤外光撮像素子11および可視光撮像素子12の双方が固定された固定部材の傾きを電子制御によって制御することで、飛行体10が揺動した場合でも、赤外光撮像素子11および可視光撮像素子12によって撮像される画像が変化しないように制御する。なお、ジンバル13は、赤外光撮像素子11および可視光撮像素子12の垂直方向の傾き(チルト)を制御できる構成とされている。これにより、赤外光撮像素子11および可視光撮像素子12は、被写体の同じ領域を安定して撮像することができる。
画像処理部14は、赤外光撮像素子11および可視光撮像素子12から出力される画像に対して、例えば、圧縮処理等を施し、送受信部15に供給する。
送受信部15は、画像処理部14から供給される画像を、アンテナ15aを介して送信機20に対して送信するとともに、送信機20から送信される制御信号を、アンテナ15aを介して受信し、制御部16に供給する。アンテナ15aは、送信機20との間で電波によって情報を送受信する。
制御部16は、送受信部15から供給される制御信号、GPS17から供給される位置情報、および、センサ18から供給される飛行体10の飛行状態を示す情報等に基づいて、ジンバル13およびモータ19−1〜19−4を制御する。
GPS17は、複数の人工衛星から送信される時刻情報を有する信号を受信し、これらの時間差から自身の位置に関する情報(緯度情報および経度情報)を検出し、制御部16に供給する。
センサ18は、例えば、ジャイロセンサ、磁気センサ、気圧センサ、超音波センサ、および、ビジョンポジショニングセンサを有し、飛行体10の姿勢、高度、および、障害物との距離、障害物の形状等を検出し、制御部16に通知する。
モータ19−1〜19−4は、例えば、ブラシレスモータ等によって構成され、それぞれのモータ19−1〜19−4には、プロペラが取り付けられている。制御部16は、これらのモータ19−1〜19−4の回転数を個別に制御することで、目的の方向に移動したり、飛行体10の方向を変更したりすることができる。
図3は、図1に示す送信機20の詳細な構成例を示す図である。図3の例では、送信機20は、送受信部21、アンテナ21a、制御部22、ジョイスティック23,24、操作部25、および、I/F(Interface)26を有している。
ここで、送受信部21は、アンテナ21aを介して、飛行体10との間で電波によって情報を送受信する。
制御部22は、ジョイスティック23,24、I/F26、および、操作部25から供給される情報に基づいて、飛行体10を制御するための制御信号を生成し、送受信部21を介して飛行体10に送信する。また、制御部22は、飛行体10によって撮像された画像を、送受信部21を介して受信し、I/F26を介して端末装置30に供給する。
ジョイスティック23,24は、操作者の親指等によって前後方向または左右方向に操作され、操作量に応じた信号を生成して制御部22に供給する。
操作部25は、操作ボタン、ジョグダイアル、および、LCDタッチパネル等によって構成され、操作者の操作に応じた信号を生成して制御部22に供給する。
I/F26は、例えば、USB(Universal Serial Bus)等によって構成され、制御部22と端末装置30との間で制御情報および画像情報等の情報を授受する。
図4は、図1に示す端末装置30の詳細な構成例を示している。図4に示すように、端末装置30は、CPU(Central Processing Unit)31、ROM(Read Only Memory)32、RAM(Random Access Memory)33、GPS34、GPU(Graphics Processing Unit)35、I/F36、バス37、および、LCDタッチパネル38を有している。
ここで、CPU31は、ROM32に格納されたプログラムに応じて各部を制御する中央処理装置である。
ROM32は、不揮発性の半導体記憶装置によって構成され、CPU31が実行する基本的なプログラム等を格納する。
RAM33は、揮発性の半導体記憶装置によって構成され、CPU31が実行対象とするプログラムや、計算途中のデータを一時的に格納する。
GPS34は、複数の人工衛星からの信号を受信し、これらの時間差に基づいて自身の位置を特定し、CPU31に供給する。
GPU35は、CPU31から供給される描画命令に基づいて描画処理を実行し、得られた画像データをLCDタッチパネル38に供給して表示させる。
I/F36は、例えば、USB等によって構成され、接続ケーブルによって、図3に示すI/F26と接続され、I/F26との間で情報を授受する。
バス37は、CPU31、ROM32、RAM33、GPS34、GPU35、および、I/F36を相互に接続し、これらの間で情報の授受を可能とするための信号線群である。
LCDタッチパネル38は、例えば、液晶パネルの表示部にタッチセンサが重畳されて構成される。LCDタッチパネル38は、GPU35によって描画された画像等をLCDに表示するとともに、操作者によってタッチセンサが操作された場合には操作箇所を示す情報をI/F36を介してCPU31に伝える。
図5は、図1に示すサーバ60の構成例を示す図である。なお、図5に示すサーバ60は、CPU61、ROM62、RAM63、HDD64、I/F65、および、バス66を有している。
ここで、CPU61は、ROM62およびHDD64等に格納されたプログラムに応じて各部を制御する中央処理装置である。
ROM62は、不揮発性の半導体記憶装置によって構成され、CPU61が実行する基本的なプログラム等を格納する。
RAM63は、揮発性の半導体記憶装置によって構成され、CPU61が実行対象とするプログラムや、計算途中のデータを一時的に格納する。
HDD64は、例えば、磁気記憶装置等によって構成され、CPU61が実行するプログラムやデータを格納する。
I/F65は、例えば、ネットワーク50を介して基地局40との間で情報を授受する際のプロトコルの変換処理等を実行する。
バス66は、CPU61、ROM62、RAM63、HDD64、および、I/F65を相互に接続し、これらの間で情報の授受を可能とするための信号線群である。
(B)本発明の実施形態の動作の説明
つぎに、本発明の実施形態の動作について説明する。本実施形態に係る外面材調査システムは、構造物(例えば、集合住宅、オフィスビル、戸建て家屋、橋梁、橋脚、トンネル、ダム)の外面材(例えば、タイル、サイディング、レンガ、および、表面コンクリート等)の剥離または破損等の異常を検出する。
より詳細には、例えば、コンクリート等の躯体等の表面に、図6(A)に示すように、複数のタイルが配列されて接着されている場合において、破線で囲んだタイルが、裏面の躯体から剥離していることを考える。この場合、太陽光によってタイルの温度が上昇すると、タイルの熱は裏面の躯体に伝導する。しかしながら、タイルが躯体から剥離している場合には、タイルと躯体との間に空気層が存在し、熱が躯体に伝わりにくいことから、剥離しているタイルの温度は、剥離していないタイルよりも高い状態になる。
図6(B)は、温度上昇時における図6(A)に示す一点鎖線上のタイルの温度を示している。図6(B)に示すように、温度上昇時は剥離しているタイルは、剥離していないタイルよりも温度が高くなっている。図6(C)は、温度下降時における図6(A)に示す一点鎖線上のタイルの温度を示している。図6(C)に示すように、温度下降時(例えば、太陽が沈んだ場合)には、タイルおよび躯体の熱はタイルを介して大気中に放射される。このとき、剥離している箇所は空気層の存在により、躯体からの熱が伝わりにくいことから、図6(C)に示すように、剥離しているタイルの温度は、剥離していないタイルよりも低い状態になる。なお、剥離しているタイルと、その周辺のタイルの温度差は、条件にもよるが、例えば、1〜2℃未満であることが多い。
本実施形態では、赤外光撮像素子11によって撮像された熱画像によって、周辺よりも温度が高いまたは低いタイルを検出することで、剥離が生じた(異常が生じた)タイルを見つけることができる。
つぎに、本実施形態の動作について説明する。
例えば、図7に示すような構造物(図7の例では集合住宅)Bの外面材を調査する場合を例に挙げて説明する。この場合、構造物Bの近くに飛行体10を置き、送信機20、端末装置30、および、飛行体10の電源を投入する。端末装置30の電源が投入され、ROM32およびRAM33等に格納されている、飛行体10を制御するためのアプリケーションソフトウエア(以下単に「アプリ」と称する)が起動されると、CPU31は、アプリの制御に応じてGPS34により現在位置を検出し、現在位置を中心とする地図を、ネットワーク50を介して、図示しない地図サーバから取得し、LCDタッチパネル38に表示させる。その結果、LCDタッチパネル38には、例えば、図8に示すような現在位置(端末装置30が存在する位置)を中心とする地図が表示される。このような地図を参照し、例えば、図7に対応する構造物Bを検査対象として指定する動作(例えば、LCDタッチパネル38の該当する位置をタップする動作)を行うと、図8に示すように、構造物Bが検査対象として選択され、例えば、破線によって囲まれた状態となる。
端末装置30のCPU31は、指定された構造物の輪郭を地図情報から取得し、輪郭の各部の頂点の位置情報(緯度情報および経度情報)を取得する。例えば、図8の例では、x1,y1〜x8,y8の位置情報が取得される。なお、構造物の垂直方向の高さが分かる場合には、高さを示す情報を入力するようにしてもよい。
構造物の形状が特定されると、CPU31は、飛行体10の飛行経路を決定する。具体的には、構造物Bのそれぞれの面に対して、垂直方向の飛行と水平方向の飛行を交互に繰り返す経路を設定する。例えば、図7の例では、図中に実線の矢印で示す経路が設定される。なお、構造物Bは東、西、南、北の4面を有するが、これらの面の優先順位としては、東、南、西、北の順に設定することが望ましい、太陽光による温度変化は、この順番で現れるからである。
飛行経路が決定すると、端末装置30のCPU31は、送信機20に対して、飛行体10を飛行経路の開始位置に移動するとともに、ホバリングを開始するように指示する情報を供給する。この結果、飛行体10は、図7に示す飛行経路の開始位置まで移動するとともに、所定の高さ(例えば、構造物のタイルが画角内に収まる高さ)でホバリングを開始する。
飛行体10がホバリングを開始すると、端末装置30は、初期調整処理を実行する。すなわち、端末装置30のCPU31は、構造物Bの外面材を構成する要素に対応する画像成分が最大になるように調整する。より詳細には、CPU31は、飛行体10の可視光撮像素子12によって得られる可視光画像から、構造物Bの外面材を構成する要素(図7の例ではタイル)の縦横の画素サイズを取得する。例えば、タイルの画像サイズとして、横50画素、縦10画素を取得する。つぎに、可視光撮像素子12と赤外光撮像素子11の有効画素数の比率から、赤外光撮像素子11によって得られる熱画像における要素(図7の例ではタイル)の画素数を求める。例えば、有効画素数の比が2:1(例えば、可視光が1920×1080で、熱画像が960×540)である場合には、横25画素、縦5画素が得られる。
つぎに、CPU31は、熱画像における外面材を構成する要素の水平周波数fhと、垂直周波数fvを求める。より詳細には、外面材は、図6(A)に示すように、水平方向および垂直方向に一定の周期で繰り返し配置されていることから、これらの要素による空間周波数を求める。いまの例では、横25画素、縦5画素の逆数が略空間周波数となる。
空間周波数が求まると、CPU31は、熱画像から水平周波数fhと、垂直周波数fvの周波数成分を抽出する。これにより、外面材の構成要素に関する成分(図6(A)ではタイルに対応する成分。以下「目的成分」と称する)が抽出される。なお、目的成分としては、タイルに対応する基本周波数成分だけでなく、高調波成分(例えば、奇数次/偶数次高調波等)を抽出するとともに、タイルが上下または左右に連続して異常である場合に対応するために、基本周波数成分の1/n(nは自然数)の周波数成分についても抽出するようにしてもよい。
つぎに、CPU31は、飛行体10のジンバル13のチルト角度(仰角または俯角)を調整し、例えば、目的成分のスペクトルが最大になるように設定する。また、CPU31は、飛行体10の構造物Bからの距離を調整し、例えば、目的成分のスペクトルが最大になるように設定する。このような動作により、熱画像において外面材を構成する要素が最も鮮明に検出されるように設定される。
初期調整処理が完了すると、CPU31は、飛行体10に対して撮像処理を実行させる。撮像処理では、図7に示すような経路で飛行体10を飛行させる。また、鮮明かつノイズの少ない熱画像が撮像できるように、ジンバル13によってチルトを調整するとともに、構造物Bからの距離および飛行速度を調整する。なお、チルト、距離、および、飛行速度の調整する方法としては、例えば、目的成分のスペクトルが最大となるように調整することができる。
また、飛行中に、異常な部分を検出した場合、例えば、剥離によって周囲よりも温度差を有するタイルを検出した場合には、異常検出処理を実行する。異常検出処理では、誤検出を防止するために、例えば、異常を検出した場所で飛行体10をホバリングさせ、複数の熱画像を撮像し、例えば、これらの画像の移動平均を求めることで、ノイズ成分を減少させ、得られた熱画像によって温度異常が剥離によるものか、それともノイズによるものかを区別する。その結果、剥離によるものと判定した場合には、剥離しているタイルに熱画像上または可視光画像上でマーキングをする。
CPU31は、以上のような処理の結果得られた画像データを、GPU35に供給し、LCDタッチパネル38に表示させる。図9および図10は、LCDタッチパネル38に表示される画像の一例を示している。ここで、図9は、可視光画像と熱画像を左右に並置して表示した表示例であり、図10は可視光画像と熱画像を重畳して表示した表示例である。図9では、可視光画像が左側に、対応する熱画像が右側に表示され、熱画像には異常箇所に実線の矩形によるマーキングがされている。また、図10は、可視光画像に対して、熱画像が重畳して表示され、異常箇所には実線の矩形によるマーキングがされている。これらの画像は、構造物Bの同じ範囲を同じ位置から撮像しているので、並置した場合には対応関係が容易に理解でき、また、1枚の画像として簡単に重畳処理することができる。
図11および図12は、実際に撮像された画像の一例を示している。図11は可視光画像と熱画像が並置されて表示されている表示例を示し、図12は可視光画像と熱画像が重畳されて表示されている表示例を示している。
なお、以上のようにして撮像された画像は、ネットワーク50を介してサーバ60に転送され、所定のフォルダまたはディレクトリ等に保存される。
構造物Bの一つの外面の検査が完了すると、他の外面の撮像を開始する。より詳細には、東、南、西、北の順番に、外面の検査を実行する。なお、新たな外面を検査する場合には、前述したように、ホバリングによって初期調整処理を実行した後に、撮像処理を実行する。
以上に説明したように、本発明の実施形態によれば、構造物Bの構造を検出し、自動的に飛行経路を設定し、飛行体10によって可視光画像と熱画像を撮像するようにしたので、検査に要する時間を大幅に短縮することができる。
また、初期調整処理により、ジンバル13の俯角または仰角を調整するとともに、構造物Bとの距離が最適になるように調整するので、ノイズが少なく、また、解析に最適な熱画像を得ることができる。
また、飛行体10の飛行中も飛行中調整処理によって、ジンバル13の俯角または仰角を調整するとともに、構造物Bとの距離および飛行速度が最適になるように調整するので、ノイズが少なく、また、解析に最適な熱画像を常に得ることができる。
また、外面材を構成する要素(例えば、タイル)のサイズに対応する空間周波数成分を抽出し、抽出した目的成分に基づいて、位置、および、飛行速度を調整するようにしたので、外面材を構成する要素が最適に撮像されるように飛行状態を制御することができる。また、抽出した目的成分に基づいて、ジンバル13の俯角または仰角を制御するようにしたので、例えば、天空反射等の影響を排除して、外面材を構成する要素が最適に撮像される角度に調整することができる。
また、外面材を構成する要素(例えば、タイル)のサイズに対応する空間周波数成分を抽出し、抽出した成分に基づいて異常を検出するようにしたので、外面材を構成する要素以外の影響を低減し、剥離等の異常を確実に検出することができる。より詳細には、撮像された熱画像には、天空反射、壁面の汚れ、日陰、照り返し、樹木の影響、室内の暖房等による影響がノイズとして含まれる。外面材のサイズに対応する空間周波数成分を抽出することで、外面材とは空間周波数が異なるこれらのノイズ成分を低減し、より確実な判断を行うことができる。
また、異常を検出した場合には、飛行体10をホバリング状態にして、例えば、複数の熱画像を撮像し、これら複数の熱画像に対して、例えば、移動平均を施して得られた熱画像に基づいて、異常の有無を再判定するようにしたので、誤判定を低減することができる。
つぎに、図13〜図19を参照して、以上の動作を実現するためのフローチャートについて説明する。まず、図13は、構造物Bの撮像を開始する際に、端末装置30において実行される処理の一例を示すフローチャートである。図13のフローチャートが開始されると、以下のステップが実行される。
ステップS10では、CPU31は、対象となる構造物を地図上で指定を受ける。より詳細には、CPU31は、GPS34から現在位置に関する情報(緯度情報および経度情報)を取得し、現在位置に対応する地図を、ネットワーク50を介して、図示しない地図サーバから取得し、LCDタッチパネル38に表示させる。このようにして表示された地図上を参照し、操作者は、対象となる構造物を指定することができる。
ステップS11では、CPU31は、飛行経路を決定する。より詳細には、CPU31は、ステップS10で指定された構造物Bの輪郭を、輪郭抽出処理等によって抽出し、輪郭の頂点の緯度および経度を特定する。そして、頂点の位置から構造物Bの外面を特定し、特定した外面を東、南、西、北の順に選択するとともに、図7に示すような垂直方向と水平方向が交互に繰り返される飛行経路を設定する。なお、後述する初期調整処理等によって、飛行体10と構造物Bとの距離が変化する場合があり、その場合には飛行経路も変更されることがあるので、設定された経路は柔軟に変更可能とすることが望ましい。
ステップS12では、CPU31は、飛行体10に対してホバリングするように制御信号を送信する。より詳細には、CPU31は、送信機20を介して、飛行体10に対して制御信号を送信し、飛行体10にホバリングを実行させる。なお、ホバリングの位置としては、飛行経路の開始位置とし、また、ホバリングの高度としては、構造物Bの外面のタイル等の下端が撮像できる位置とする。
ステップS13では、CPU31は、所定の外面の撮像を開始する前に実行する初期調整処理を実行させる。この処理の詳細は、図14を参照して後述する。なお、初期調整処理を実行することで、ジンバルのチルトが最適に調整されるとともに、飛行体10と構造物Bの距離が最適に調整される。
ステップS14では、CPU31は、構造物Bの所定の外面を自動的に飛行しながら撮像する撮像処理を実行する。この処理の詳細は、図16を参照して後述する。なお、この撮像処理を実行することで、構造物Bの所定の外面が撮像される。
ステップS15では、CPU31は、他の外面も撮像するか否かを判定し、他の外面も撮像すると判定した場合(ステップS15:Y)にはステップS16に進み、それ以外の場合(ステップS15:N)には処理を終了する(エンド)。例えば、構造物Bの東側の外面の撮像が完了した場合には、南側の外面を撮像するので、Yと判定してステップS16に進む。
ステップS16では、CPU31は、飛行体10を制御し、他の外面前に移動させる。より詳細には、構造物Bの東側の外面の撮像が完了した場合には、南側の外面の前まで移動させる。
つぎに、図14を参照して、図13に示す初期調整処理の詳細について説明する。図14に示す処理が開始されると、以下のステップが実行される。
ステップS30では、端末装置30のCPU31は、外面材を構成する要素に関する画像成分である目的成分を抽出する処理を実行する。なお、この処理の詳細は、図15を参照して後述する。
ステップS31では、CPU31は、ジンバル13のチルト(仰角または俯角)を調整する。これにより、ジンバル13のチルトが調整される。
ステップS32では、CPU31は、ステップS30で抽出された目的成分のスペクトルが最大となる角度になったか否かを判定し、最大となった場合(ステップS32:Y)にはステップS33に進み、それ以外の場合(ステップS32:N)にはステップS30に戻って、前述の場合と同様の処理を繰り返す。なお、ステップS30〜ステップS32の処理によって、ジンバル13の仰角または俯角が、外面材の構成要素を的確に撮像するように調整される。
ステップS33では、CPU31は、外面材を構成する要素に関する画像成分である目的成分を抽出する処理を実行する。なお、この処理の詳細は、図15を参照して後述する。
ステップS34では、CPU31は、飛行体10と構造物Bの前後方向の位置関係を調整する。例えば、図7の例では、飛行体10と構造物BのY方向の距離を調整する。
ステップS35では、CPU31は、ステップS33で抽出された目的成分のスペクトルが最大となる位置になったか否かを判定し、最大となった場合(ステップS35:Y)には元の処理に復帰(リターン)し、それ以外の場合(ステップS35:N)にはステップS33に戻って、前述の場合と同様の処理を繰り返す。なお、ステップS33〜ステップS35の処理によって、飛行体10と構造物Bの間の距離が、外面材の構成要素を的確に撮像するように調整される。
つぎに、図15を参照して、図14に記載されている目的成分抽出処理の詳細について説明する。図15に示すフローチャートが開始されると、以下のステップが実行される。
ステップS50では、CPU31は、飛行体10から可視光画像と熱画像を取得する。より詳細には、CPU31は、飛行体10の赤外光撮像素子11および可視光撮像素子12によってそれぞれ撮像された可視光画像と熱画像を、送信機20を介して取得する。
ステップS51では、CPU31は、ステップS50で取得した可視光画像からタイルの縦横の画素数を取得する。より詳細には、例えば、ラプラシアンフィルタによって、可視光画像のエッジを検出し、検出したエッジの間隔から水平方向と垂直方向の縦横の画素数を特定する。
ステップS52では、CPU31は、熱画像における外面材を構成する要素(図6の例ではタイル)の水平周波数fhを特定する。より詳細には、可視光画像と熱画像の画素数の比(例えば、2:1)に基づいて、ステップS51で求めた横方向の画素数から水平周波数fhを求める。
ステップS53では、CPU31は、熱画像における外面材を構成する要素(図6の例ではタイル)の垂直周波数fvを特定する。より詳細には、可視光画像と熱画像の画素数の比(例えば、2:1)に基づいて、ステップS51で求めた縦方向の画素数から垂直周波数fvを求める。
ステップS54では、CPU31は、例えば、DOG(Difference of Gaussian)フィルタ等により、熱画像からfh,fvの帯域成分を抽出する処理を実行する。これにより、タイルよりも空間周波数が低いと考えられる、天空反射、壁面の汚れ、日陰、照り返し、樹木の影響、室内の暖房等による成分を減衰することができる。また、熱画像では、含有する水分量の違いから、タイルの周囲の目地部の温度がタイルの温度よりも高く表れるが、このような成分はタイル自体よりも空間周波数が高いので、このような成分も減衰することができる。処理が完了すると、元の処理に復帰(リターン)する。
つぎに、図16を参照して、図13に示す撮像処理の詳細について説明する。図16に示すフローチャートが開始されると、以下のステップが実行される。
ステップS70では、CPU31は、飛行体10を制御して上昇を開始させる。より詳細には、CPU31は、送信機20を介して制御信号を送ることで、飛行体10を垂直方向に上昇させる。なお、飛行体10は、GPS17からの出力と、センサ18からの出力に基づいて、飛行体10が垂直方向にずれなく、また、機体が傾いたりすることなく、上昇するように制御する。なお、センサ18には、障害物を検出するための超音波センサおよび画像センサも含まれているので、障害物を検出した場合には回避し、回避後は元の飛行経路に復帰するようにしてもよい。
ステップS71では、CPU31は、飛行中にジンバル13のチルト、構造物Bと飛行体10の距離、および、飛行速度を調整する飛行中調整処理を実行する。なお、この処理の詳細は、図17を参照して後述する。
ステップS72では、CPU31は、構造物Bの外面材の異常を検出する処理である異常検出処理を実行する。なお、この処理の詳細は、図18を参照して後述する。
ステップS73では、CPU31は、飛行体10によって撮像された可視光画像と熱画像をLCDタッチパネル38に表示するとともに、サーバ60に格納する処理を実行する。なお、この処理の詳細は、図19を参照して後述する。
ステップS74では、CPU31は、飛行体10によって撮像された可視光画像に基づいて、構造物Bの上側エッジ(例えば、構造物Bの屋上部と空との境界部)を検出したか否かを判定し、上側エッジを検出したと判定した場合(ステップS74:Y)にはステップS75に進み、それ以外の場合(ステップS74:N)にはステップS71に戻って前述の場合と同様の処理を繰り返す。なお、ステップS70〜ステップS74の処理により、図7に示す、Z軸方向の下から上に向かう矢印に対応する飛行および撮像が実行される。
ステップS75では、CPU31は、飛行体10を左または右に一定距離移動させる。例えば、図7の例では、構造物Bの屋上付近において、X軸方向の右から左に飛行体10が移動する。なお、移動する距離としては、撮像漏れが生じないようにするために、撮像される画像の一部が重複するように設定することが望ましい。例えば、図7に示すように左側に移動する場合、移動前に撮像された画像の左端の領域と、移動後に撮像される画像の右端の領域とが重複(例えば、画像幅の1〜2割が重複)するように設定することが望ましい。
ステップS76では、CPU31は、飛行体10を制御して下降を開始させる。より詳細には、CPU31は、送信機20を介して制御信号を送ることで、飛行体10を垂直方向に下降させる。
ステップS77では、CPU31は、飛行中にジンバル13のチルト、構造物Bと飛行体10の距離、および、飛行速度を調整する飛行中調整処理を実行する。なお、この処理の詳細は、図17を参照して後述する。
ステップS78では、CPU31は、構造物Bの外面材の異常を検出する処理である異常検出処理を実行する。なお、この処理の詳細は、図18を参照して後述する。
ステップS79では、CPU31は、飛行体10によって撮像された可視光画像と熱画像をLCDタッチパネル38に表示するとともに、サーバ60に格納する処理を実行する。なお、この処理の詳細は、図19を参照して後述する。
ステップS80では、CPU31は、飛行体10のセンサ18が有する高度センサまたはGPS17からの情報により、所定の高度(例えば、構造物Bの外面のタイル等の下端が撮像できる高度)に下降したか否かを判定し、所定の高度まで下降したと判定した場合(ステップS80:Y)にはステップS81に進み、それ以外の場合(ステップS80:N)にはステップS77に戻って同様の処理を繰り返す。なお、ステップS76〜ステップS80の処理により、図7に示す、Z軸方向の上から下に向かう矢印に対応する飛行および撮像が実行される。
ステップS81では、CPU31は、飛行体10を左または右に所定距離移動させる。例えば、図7の例では、構造物Bの1階付近において、X軸方向の右から左に飛行体10が移動する。なお、移動する距離としては、撮像漏れが生じないようにするために、撮像される画像の一部が重複するように設定することが望ましい。例えば、図7に示すように左側に移動する場合、移動前に撮像される画像の左端の領域と、移動後に撮像される画像の右端の領域とが重複(例えば、画像幅の1〜2割が重複)するように設定することが望ましい。
ステップS82では、CPU31は、所定の外面の撮像が完了したか否かを判定し、終了したと判定した場合(ステップS82:Y)には元の処理に復帰(リターン)し、それ以外の場合(ステップS83:N)にはステップS70に戻って前述の場合と同様の処理を繰り返す。
つぎに、図17を参照して、図16に示す飛行中調整処理の詳細について説明する。図17に示すフローチャートが開始されると、以下のステップが実行される。
ステップS90では、端末装置30のCPU31は、外面材を構成する要素に関する画像成分である目的成分を抽出する処理(図15に示す処理)を実行する。
ステップS91では、CPU31は、ジンバル13のチルトを調整する。これにより、ジンバル13の仰角または俯角が調整される。
ステップS92では、CPU31は、ステップS90で抽出された目的成分のスペクトルが最大となる角度になったか否かを判定し、最大となった場合(ステップS92:Y)にはステップS93に進み、それ以外の場合(ステップS92:N)にはステップS90に戻って、前述の場合と同様の処理を繰り返す。なお、ステップS90〜ステップS92の処理によって、飛行体10の飛行中において、ジンバル13の仰角または俯角が、外面材の構成要素を的確に撮像するように調整される。
ステップS93では、CPU31は、外面材を構成する要素に関する画像成分である目的成分を抽出する処理(図15に示す処理)を実行する。
ステップS94では、CPU31は、飛行体10と構造物Bの前後方向の位置関係を調整する。例えば、図7の例では、飛行体10と構造物BのY方向の距離を調整する。
ステップS95では、CPU31は、ステップS93で抽出された目的成分のスペクトルが最大となる位置になったか否かを判定し、最大となった場合(ステップS95:Y)にはステップS96に進み、それ以外の場合(ステップS95:N)にはステップS93に戻って、前述の場合と同様の処理を繰り返す。なお、ステップS93〜ステップS95の処理によって、飛行体10の飛行中において、飛行体10と構造物Bの間の距離が、外面材の構成要素を的確に撮像するように調整される。
ステップS96では、CPU31は、外面材を構成する要素に関する画像成分である目的成分を抽出する処理(図15に示す処理)を実行する。
ステップS97では、CPU31は、飛行体10と飛行速度を調整する。例えば、図7の例では、飛行体10の上昇速度または下降速度を調整する。
ステップS98では、CPU31は、ステップS96で抽出された目的成分のスペクトルが最大となる位置になったか否かを判定し、最大となった場合(ステップS98:Y)には元の処理に復帰(リターン)し、それ以外の場合(ステップS95:N)にはステップS95に戻って、前述の場合と同様の処理を繰り返す。なお、ステップS96〜ステップS98の処理によって、飛行体10の飛行中において、飛行体10の飛行速度が、外面材の構成要素を的確に撮像するように調整される。
つぎに、図18を参照して、図16に示す異常検出処理の詳細について説明する。図18に示すフローチャートが開始されると、以下のステップが実行される。
ステップS110では、CPU31は、外面材を構成する要素に関する画像成分である目的成分を抽出する処理(図15に示す処理)を実行する。
ステップS111では、CPU31は、ステップS110の処理によって抽出された目的成分を参照し、周辺と温度が異なるタイルが存在するか否かを判定し、存在すると判定した場合(ステップS111:Y)にはステップS112に進み、それ以外の場合(ステップS111:N)には元の処理に復帰(リターン)する。より詳細には、目的成分として抽出されるのは、熱画像におけるタイルの温度差を示す情報であることから、この温度差が周辺とは異なる部分が存在する場合にはYと判定してステップS112に進む。
ステップS112では、CPU31は、飛行体10を制御し、上昇飛行または下降飛行を中断し、ホバリングを開始させる。この結果、飛行体10は上昇飛行または下降飛行中に、異常が検出された場所においてホバリング状態となる。
ステップS113では、CPU31は、複数の画像によるノイズ削減処理を実行する。より詳細には、CPU31は、異常が検出された場所の熱画像を複数撮像する。例えば、熱画像を2〜10枚程度撮像する。そして、撮像した複数の熱画像の加算平均等を求めることで、ノイズを削減することができる。なお、加算平均以外の方法によって、ノイズを削減するようにしてもよい。
ステップS114では、CPU31は、ノイズを削減した熱画像に対して、外面材を構成する要素に関する画像成分である目的成分を抽出する処理(図15に示す処理)を施す。
ステップS115では、CPU31は、ステップS114における処理によって得られた目的成分を参照し、周辺と温度が異なるタイルが存在するか否かを判定し、存在すると判定した場合(ステップS115:Y)にはステップS116に進み、それ以外の場合(ステップS115:N)には誤検出であると判定して元の処理に復帰(リターン)する。なお、ステップS112〜ステップS114の処理により、ノイズを削減した熱画像に基づいて異常箇所を検出することで、誤検出を低減することができる。なお、周辺と温度が異なるタイルが存在するか否かだけでなく、例えば、ノイズ削減処理によっても、温度が異なる領域の形状が変化しない場合に、Yと判定するようにしてもよい。
なお、ステップS112〜ステップS114の処理では、飛行経路上において、ホバリングするようにしたが、異常箇所を確実に検出するために、構造物Bに接近するようにしてもよい。
ステップS116では、CPU31は、周辺と温度が異なるタイルを画像上においてマーキングする処理を実行する。これにより、例えば、図9および図10に示すように、異常箇所のタイルが実線の矩形によって囲まれる。
ステップS117では、CPU31は、警告を発する処理を実行する。例えば、CPU31は、図示しないスピーカから異常を検出したことを示す警告音を発するようにすることができる。
なお、ステップS115において異常を検出した場合には、警告するだけでなく、飛行体10を該当するタイルまで接近させるとともに、微量の塗料等を噴射し、マーキングし、マーキングが終了すると、元の飛行経路に復帰するようにしてもよい。
つぎに、図19を参照して、図16に示す画像表示/格納処理の詳細について説明する。図19に示すフローチャートが開始されると、以下のステップが実行される。
ステップS130では、CPU31は、例えば、送信機20を介して飛行体10から熱画像を取得する。
ステップS131では、CPU31は、ステップS130で取得した熱画像に対して、外面材を構成する要素に関する画像成分である目的成分を抽出する処理(図15に示す処理)を施す。
ステップS132では、CPU31は、ステップS131の処理によって得られた目的成分(温度を示す情報)を、色相を示す情報に変換する。この結果、温度差が大きくなるにつれて、黒、青、緑、赤、白と色相が変化する情報に変換される。
ステップS133では、CPU31は、例えば、送信機20を介して飛行体10から可視光画像を取得する。
ステップS134では、CPU31は、例えば、LCDタッチパネル38に対して所定の操作をすることで、画像の並置モードが選択されている場合(ステップS134:Y)にはステップS135に進み、それ以外の場合(ステップS134:N)にはステップS136に進む。例えば、LCDタッチパネル38に表示された画像表示モードを選択するアイコンが操作され、表示モードとして画像の並置モードが選択された場合にはステップS135に進み、表示モードとして画像の重畳モードが選択された場合にはステップS136に進む。
ステップS135では、CPU31は、LCDタッチパネル38に対して、熱画像と可視光画像とを並置して表示させる。この結果、例えば、図9または図11に示すような態様で熱画像と可視光画像とが並置して表示される。
ステップS136では、CPU31は、例えば、LCDタッチパネル38に対して所定の操作をすることで、画像の重畳モードが選択されている場合(ステップS136:Y)にはステップS137に進み、それ以外の場合(ステップS136:N)にはステップS141に進む。例えば、LCDタッチパネル38に表示された画像表示モードを選択するアイコンが操作され、表示モードとして画像の重畳モードが選択された場合にはステップS137に進み、それ以外の場合にはステップS141に進む。
ステップS137では、CPU31は、可視光画像を構成するそれぞれの画素をα(α<1)倍する。
ステップS138では、CPU31は、熱画像を構成するそれぞれの画素を(1−α)倍する。
ステップS139では、CPU31は、ステップS137とステップS138で得られた可視光画像と熱画像を合成する。なお、以上の処理により、可視光画像の上に熱画像がアルファブレンディング処理によって重畳合成される。
ステップS140では、CPU31は、LCDタッチパネル38に対して、ステップS139の合成処理によって得られた画像を表示させる。この結果、例えば、図10または図12に示すような態様で熱画像と可視光画像と重畳して表示される。
ステップS141では、CPU31は、熱画像と可視光画像とを、ネットワーク50を介して送信し、サーバ60に格納させる。なお、熱画像の代わりに、ステップS131の処理で得られた目的成分を格納するようにしてもよい。
以上に説明したように、図13〜図19に示すフローチャートによれば、前述した動作を実現することができる。
(C)変形実施形態の説明
以上の各実施形態は一例であって、本発明が上述した場合のみに限定されるものでないことはいうまでもない。例えば、以上の例では、非可視光画像として、赤外線による熱画像を用いるようにしたが、これ以外の画像を用いるようにしてもよい。具体的には、例えば、紫外線を用いるようにしたり、MHzまたはGHz帯域の電磁波を用いるようにしたり、超音波を用いるようにしてもよい。なお、紫外線を用いる場合には、2次元の紫外線撮像素子を用いればよい。また、MHzまたはGHz帯域の電磁波を用いる場合、水平方向に複数の受信アンテナを配置し、送信アンテナから送信された電磁波が構造物Bによって反射され、これら複数の受信アンテナに到達する際の時間差から水平方向の角度を検出し、受信した信号の強度によって対象物の反射率等を特定することができる。また、超音波の場合も同様に、複数の受信素子を水平方向に配置し、複数の受信素子に到達する際の時間差から水平方向の角度を検出し、受信した信号の強度によって対象物の反射率等を特定することができる。
また、以上の実施形態では、図13〜図19に示す処理は、端末装置30において実行するようにしたが、図13〜図19に示すフローチャートや、フローチャートを構成するステップを、飛行体10、送信機20、端末装置30、および、サーバ60のいずれかまたはこれらに分散して配置するようにしてもよい。例えば、図13〜図17に示す処理は、飛行体10において実行し、図19に示す処理を端末装置30またはサーバ60において実行するようにしてもよい。もちろん、図13〜図17に示す処理を全て端末装置30またはサーバ60において実行するようにしてもよい。
また、以上の実施形態では、構造物としては、集合住宅を例に挙げて説明したが、これ以外にも、オフィスビル、戸建て家屋、橋梁、橋脚、トンネル、ダム等を対象として、外面材の異常を検出するようにしてもよい。また、外面材を構成する要素としては、タイルを例に挙げて説明したが、これ以外にも、サイディング、レンガ、および、表面コンクリートを対象として検査を行うことも可能である。
また、図7に示す実施形態では、垂直方向の飛行時に構造物Bを撮像するようにしたが、水平方向の飛行時に構造物Bを撮像するようにしてもよい。また、図7の例では、屋上については撮像対象から除外しているが、屋上についても合わせて撮像してもよい。なお、その場合、図7の例では、X方向の飛行時に撮像し、Y方向に移動した後に、X方向に飛行しながら撮像する動作を繰り返すことで屋上全体をもれなく撮像できる。もちろん、Y方向の飛行時に撮像し、X方向に移動した後に、Y方向に飛行しながら撮像する動作を繰り返すようにしてもよい。なお、屋上については、屋上部分の防水シート等の剥離を検出するようにしてもよい。
また、以上の実施形態では、熱画像から目的成分を抽出し、目的成分の大小によって撮像状態を判断するようにしたが、これ以外の方法によって撮像状態を判断するようにしてもよい。例えば、目的成分よりも空間周波数が低い成分(主に天空反射等のノイズ成分)および/または高い成分(主に目地の部分によるノイズ成分)が少なる場合を、撮像状態が良好と判断するようにしてもよい。また、可視光画像を周波数領域に変換し、主に含まれる空間周波数からタイルに係る成分を抽出し、当該成分に対応する成分を熱画像から抽出するようにしてもよい。そのような構成によれば、天空反射等の影響を受けにくい可視光画像に基づいて、適切な空間周波数成分を特定および抽出することができる。
また、以上の実施形態では、赤外光撮像素子11および可視光撮像素子12が撮像するのは、動画または静止画のいずれかであるかについては明示していないが、これらのいずれも使用することができる。すなわち、静止画の場合には、直前に撮像した静止画と、上下方向に重複する範囲が存在するように撮像することができる。例えば、飛行体10が上昇している場合、直前に撮像した静止画の上部と、これから撮像しようとする静止画の下部の一部(例えば、静止画の1〜2割)が重複するタイミングで撮像すればよい。もちろん、飛行体10の飛行を制御するための画像が必要であるので、所定の間隔(例えば、1秒間に数枚等)で撮像した静止画を飛行の制御に使用しつつ、前述の重複の条件を満たす静止画を抽出して異常検出を行うことができる。また、動画の場合には、GOP(Group of Pictures)を構成するI(Intra)ピクチャを抽出することで、静止画の場合と同様に処理することができる。
また、以上の実施形態では、異常を検出した場合には、飛行体10をホバリング状態にして撮像するようにしたが、ホバリングするのではなく、異常が検出された箇所を飛行しながら複数回撮像し、周辺と温度が異なる部分の形状が、撮像位置等によらず変化しない場合には、異常と判定するようにしてもよい。また、以上の実施形態では、飛行体10による構造物Bの撮像は1回のみとしたが、複数回撮像して得られた画像の所定回数以上に、同じ形状の異常箇所が撮像されている場合に異常と判定するようにしてもよい。例えば、図7に示す経路を矢印の方向に飛行した後、矢印の逆方向に再度飛行しながら撮像し、同じ箇所に同じ形状の異常が検出された場合に、異常と判定するようにしてもよい。真性の異常箇所は、撮像状態(例えば、飛行経路、ジンバル13のチルト、構造物Bからの距離等)によらず、同じ形状の異常箇所として撮像される可能性が高いからである。
また、以上の実施形態では、異常を検出する処理としては、周辺のタイルとは温度が異なる(高いまたは低い)タイルを画像処理によって検出するようにしたが、例えば、CNN(Convolutional Neural Network)等のニューラルネットワークを用いて、学習処理によって異常箇所を検出するようにしてもよい。具体的には、Convolution層、Pooling層、全結合層等を有するCNNに対して、剥離したタイルを撮像した画像を学習用の画像として供給し、学習処理を施すことで、異常検出用のCNNを構成することができる。
なお、図13〜図19に示すフローチャートは一例であって、本発明が図13〜図19に示すフローチャートに限定されるものではない。
1 :外面材調査システム
10 :飛行体
11 :赤外光撮像素子(非可視光撮像手段)
12 :可視光撮像素子(可視光撮像手段)
13 :ジンバル
14 :画像処理部
15 :送受信部
15a :アンテナ
16 :制御部(飛行体制御手段)
17 :GPS
18 :センサ
19 :モータ
20 :送信機
21 :送受信部
21a :アンテナ
22 :制御部
23 :ジョイスティック
24 :ジョイスティック
25 :操作部
26 :I/F
30 :端末装置
31 :CPU(画像処理手段、飛行体制御手段、異常検出手段)
32 :ROM
33 :RAM
34 :GPS
36 :I/F
37 :バス
38 :LCDタッチパネル(表示手段)
40 :基地局
50 :ネットワーク
60 :サーバ
61 :CPU
62 :ROM
63 :RAM
64 :HDD
65 :I/F
66 :バス
上記課題を解決するために、本発明は、飛行体によって撮像した画像を処理して端末装置に表示し、構造物の外面材の状態を調査する外面材調査システムにおいて、前記飛行体は、可視光画像を撮像する可視光画像撮像手段と、被写体から放射される赤外線を検出し、前記被写体の各部の温度を示す熱画像を非可視光画像として撮像する非可視光画像撮像手段と、を有し、前記端末装置または前記飛行体は、前記可視光画像撮像手段によって撮像された前記可視光画像に基づいて前記外面材を構成する要素に対応する空間周波数成分を特定し、前記可視光画像と前記熱画像の相対的な関係に基づいて前記熱画像における前記要素の空間周波数成分を特定し、特定された空間周波数に対応する帯域成分を抽出する処理を実行する画像処理手段と、前記画像処理手段による画像処理結果に基づいて前記飛行体の飛行状態を制御する飛行体制御手段と、前記画像処理手段による画像処理結果に基づいて前記外面材の異常を検出する異常検出手段と、を有する、ことを特徴とする。
このような構成によれば、構造物の外面材の異常を短時間で検査することが可能になる。
また、本発明は、前記飛行体制御手段は、前記画像処理手段によって検出される空間周波数に対応する帯域成分に基づいて、前記飛行体の前記構造物からの距離および/または飛行速度を調整することを特徴とする。
このような構成によれば、距離や飛行速度を適切に設定することができる。
また、本発明は、前記飛行体制御手段は、前記画像処理手段によって検出される空間周波数に対応する帯域成分に基づいて、前記可視光画像撮像手段および前記非可視光画像撮像手段の仰角または俯角を調整することを特徴とする。
このような構成によれば、仰角または俯角を適切に設定することができる。

Claims (10)

  1. 飛行体によって撮像した画像を処理して端末装置に表示し、構造物の外面材の状態を調査する外面材調査システムにおいて、
    前記飛行体は、
    可視光画像を撮像する可視光画像撮像手段と、
    可視光以外の領域の電磁波または音波による非可視光画像を撮像する非可視光画像撮像手段と、を有し、
    前記端末装置または前記飛行体は、
    前記可視光画像および/または前記非可視光画像に対して所定の画像処理を実行する画像処理手段と、
    前記画像処理手段による画像処理結果に基づいて前記飛行体の飛行状態を制御する飛行体制御手段と、
    前記画像処理手段による画像処理結果に基づいて前記外面材の異常を検出する異常検出手段と、を有する、
    ことを特徴とする外面材調査システム。
  2. 前記画像処理手段は、前記外面材を構成する要素に対応する画像成分を検出する処理を実行し、
    前記飛行体制御手段は、前記画像処理手段によって検出される前記要素に対応する前記画像成分に基づいて、前記飛行体の前記構造物からの距離および/または飛行速度を調整することを特徴とする請求項1に記載の外面材調査システム。
  3. 前記画像処理手段は、前記外面材を構成する要素に対応する画像成分を検出する処理を実行し、
    前記飛行体制御手段は、前記画像処理手段によって検出される前記要素に対応する前記画像成分に基づいて、前記可視光画像撮像手段および前記非可視光画像撮像手段の仰角または俯角を調整することを特徴とする請求項1または2に記載の外面材調査システム。
  4. 前記非可視光画像撮像手段は、被写体から放射される赤外線を検出し、前記被写体の各部の温度を示す熱画像を撮像し、
    前記画像処理手段は、前記可視光画像撮像手段によって撮像された前記可視光画像に基づいて前記外面材を構成する要素に対応する空間周波数成分を特定し、前記可視光画像と前記熱画像の相対的な関係に基づいて前記熱画像における前記要素の空間周波数成分を特定し、特定された空間周波数に対応する帯域成分を抽出する処理を実行する、
    ことを特徴とする請求項1乃至3のいずれか1項に記載の外面材調査システム。
  5. 前記異常検出手段は、前記画像処理手段によって抽出された前記帯域成分を参照し、前記外面材を構成する前記要素に対応する部分の温度が隣接する部分と異なる場合には異常と判定することを特徴とする請求項4に記載の外面材調査システム。
  6. 前記異常検出手段によって異常が検出された場合には、前記飛行体制御手段は、前記飛行体をホバリング状態とし、
    前記異常検出手段は、ホバリング中に撮像された複数の前記非可視光画像に基づいて異常の有無を判定する、
    ことを特徴とする請求項5に記載の外面材調査システム。
  7. 前記飛行体制御手段は、地図上において調査の対象となる前記構造物の指定を受け、指定された前記構造物に基づいて飛行経路を設定することを特徴とする請求項1乃至5のいずれか1項に記載の外面材調査システム。
  8. 前記飛行体制御手段は、垂直方向の飛行と、水平方向の飛行を交互に繰り返すことで、前記構造物の所定の外面を撮像するように制御することを特徴とする請求項1乃至7のいずれか1項に記載の外面材調査システム。
  9. 前記飛行体制御手段は、前記構造物の外面を東、南、西、および、北の順に撮影するように制御することを特徴とする請求項1乃至8のいずれか1項に記載の外面材調査システム。
  10. 前記端末装置は、画像を表示する表示手段を有し、
    前記表示手段は、前記可視光画像と前記非可視光画像を並置して表示するか、または、前記可視光画像に前記非可視光画像を重畳して表示する、
    ことを特徴とする請求項1乃至9のいずれか1項に記載の外面材調査システム。
JP2017147260A 2017-07-28 2017-07-28 外面材調査システム Expired - Fee Related JP6441421B1 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2017147260A JP6441421B1 (ja) 2017-07-28 2017-07-28 外面材調査システム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017147260A JP6441421B1 (ja) 2017-07-28 2017-07-28 外面材調査システム

Publications (2)

Publication Number Publication Date
JP6441421B1 JP6441421B1 (ja) 2018-12-19
JP2019027908A true JP2019027908A (ja) 2019-02-21

Family

ID=64668689

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017147260A Expired - Fee Related JP6441421B1 (ja) 2017-07-28 2017-07-28 外面材調査システム

Country Status (1)

Country Link
JP (1) JP6441421B1 (ja)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102313627B1 (ko) * 2020-05-06 2021-10-19 고려대학교 산학협력단 강판 콘크리트 구조물의 결함 측정 방법 및 강판 콘크리트 구조물의 결함 측정 장치
WO2021241534A1 (ja) * 2020-05-29 2021-12-02 富士フイルム株式会社 飛行撮影システム及び方法
WO2021241535A1 (ja) * 2020-05-29 2021-12-02 富士フイルム株式会社 構造物の検査方法及び検査システム
WO2021241533A1 (ja) * 2020-05-29 2021-12-02 富士フイルム株式会社 撮影システム、撮影方法、撮影プログラム、及び情報取得方法
JP7385332B1 (ja) * 2022-09-06 2023-11-22 株式会社センシンロボティクス 情報処理システム及びプログラム、情報処理方法、サーバ
WO2024009356A1 (ja) * 2022-07-04 2024-01-11 日本電信電話株式会社 風力発電設備のブレードを点検するシステム、方法、及び装置

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110145989B (zh) * 2019-06-11 2020-12-29 广州珠江黄埔大桥建设有限公司 基于无人机的混凝土裂缝检测装置及检测方法
JP7263983B2 (ja) * 2019-08-30 2023-04-25 富士通株式会社 撮影漏れ検出装置、及び、撮影漏れ検出方法
WO2021079516A1 (ja) * 2019-10-25 2021-04-29 株式会社センシンロボティクス 飛行体の飛行経路作成方法及び管理サーバ
CN111103297B (zh) * 2020-01-20 2024-07-12 无锡市建筑工程质量检测中心 一种建筑外墙面层质量的非接触式检测方法及其检测系统
JP2021067670A (ja) * 2020-06-30 2021-04-30 株式会社センシンロボティクス 飛行体の飛行経路作成方法及び管理サーバ
JP6810497B1 (ja) * 2020-09-01 2021-01-06 株式会社センシンロボティクス 飛行体の飛行経路作成方法及び管理サーバ
JP6810498B1 (ja) * 2020-09-01 2021-01-06 株式会社センシンロボティクス 飛行体の飛行経路作成方法及び管理サーバ
CN114839196B (zh) * 2022-07-01 2022-10-14 中国标准化研究院 一种基于计算机视觉的无接触式质量测量研究方法的系统

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005016995A (ja) * 2003-06-24 2005-01-20 Railway Technical Res Inst 赤外線構造物診断方法
WO2016098146A1 (ja) * 2014-12-19 2016-06-23 株式会社 スカイロボット 構造体非破壊検査システム
WO2017065102A1 (ja) * 2015-10-15 2017-04-20 株式会社プロドローン 飛行型検査装置および検査方法
JP2017078575A (ja) * 2015-10-19 2017-04-27 エナジー・ソリューションズ株式会社 検査システム、及び検査方法
GB2546564A (en) * 2016-01-25 2017-07-26 Above Surveying Ltd Utilising UAVs for detecting defects in solar panel arrays

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005016995A (ja) * 2003-06-24 2005-01-20 Railway Technical Res Inst 赤外線構造物診断方法
WO2016098146A1 (ja) * 2014-12-19 2016-06-23 株式会社 スカイロボット 構造体非破壊検査システム
WO2017065102A1 (ja) * 2015-10-15 2017-04-20 株式会社プロドローン 飛行型検査装置および検査方法
JP2017078575A (ja) * 2015-10-19 2017-04-27 エナジー・ソリューションズ株式会社 検査システム、及び検査方法
GB2546564A (en) * 2016-01-25 2017-07-26 Above Surveying Ltd Utilising UAVs for detecting defects in solar panel arrays

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102313627B1 (ko) * 2020-05-06 2021-10-19 고려대학교 산학협력단 강판 콘크리트 구조물의 결함 측정 방법 및 강판 콘크리트 구조물의 결함 측정 장치
KR20210135944A (ko) * 2020-05-06 2021-11-16 고려대학교 산학협력단 강판 콘크리트 구조물의 결함 측정 방법 및 강판 콘크리트 구조물의 결함 측정 장치
KR102400954B1 (ko) * 2020-05-06 2022-05-24 고려대학교 산학협력단 강판 콘크리트 구조물의 결함 측정 방법 및 강판 콘크리트 구조물의 결함 측정 장치
WO2021241534A1 (ja) * 2020-05-29 2021-12-02 富士フイルム株式会社 飛行撮影システム及び方法
WO2021241535A1 (ja) * 2020-05-29 2021-12-02 富士フイルム株式会社 構造物の検査方法及び検査システム
WO2021241533A1 (ja) * 2020-05-29 2021-12-02 富士フイルム株式会社 撮影システム、撮影方法、撮影プログラム、及び情報取得方法
JP7436656B2 (ja) 2020-05-29 2024-02-21 富士フイルム株式会社 撮影システム、撮影方法、撮影プログラム、及び情報取得方法
JP7436657B2 (ja) 2020-05-29 2024-02-21 富士フイルム株式会社 飛行撮影システム及び方法
WO2024009356A1 (ja) * 2022-07-04 2024-01-11 日本電信電話株式会社 風力発電設備のブレードを点検するシステム、方法、及び装置
JP7385332B1 (ja) * 2022-09-06 2023-11-22 株式会社センシンロボティクス 情報処理システム及びプログラム、情報処理方法、サーバ
WO2024052997A1 (ja) * 2022-09-06 2024-03-14 株式会社センシンロボティクス 情報処理システム及びプログラム、情報処理方法、サーバ

Also Published As

Publication number Publication date
JP6441421B1 (ja) 2018-12-19

Similar Documents

Publication Publication Date Title
JP6441421B1 (ja) 外面材調査システム
CA3006155C (en) Positioning system for aerial non-destructive inspection
US9639960B1 (en) Systems and methods for UAV property assessment, data capture and reporting
EP3818337B1 (en) Defect detection system using a camera equipped uav for building facades on complex asset geometry with optimal automatic obstacle deconflicted flightpath
US9613538B1 (en) Unmanned aerial vehicle rooftop inspection system
JP2018160228A (ja) 経路生成装置、経路制御システム、及び経路生成方法
US20180275659A1 (en) Route generation apparatus, route control system and route generation method
JP2017138162A (ja) 構造物の点検システムおよび点検方法
JP7436657B2 (ja) 飛行撮影システム及び方法
EP3474109A1 (en) Measuring device, control device for unmanned aerial vehicle and method for controlling unmanned aerial vehicle
WO2019041276A1 (zh) 一种图像处理方法、无人机及系统
JP6583840B1 (ja) 検査システム
JP2017215239A (ja) 太陽電池検査システム
JP6515367B1 (ja) 撮像システム及び撮像方法
JP2024072827A (ja) 制御装置、撮像システム及び撮像方法
JP6611146B1 (ja) 撮像システム及び撮像方法
JP6681101B2 (ja) 検査システム
JP2019211486A (ja) 検査システム
US11566894B2 (en) Systems and methods for generating a two-dimensional map
JP6611152B1 (ja) 撮像システム及び撮像方法
JP6681102B2 (ja) 検査システム
JP7456908B2 (ja) 屋根点検用の無人航空機の制御装置
JP2020070013A (ja) 高さ位置取得システム及び撮像システム、高さ位置取得方法、撮像方法
JP2020072465A (ja) 撮像システム及び撮像方法
KR20200025996A (ko) 무인 비행체를 이용한 태양광 패널 관리 시스템 및 방법

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20181025

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20181121

R150 Certificate of patent or registration of utility model

Ref document number: 6441421

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees