Nothing Special   »   [go: up one dir, main page]

JP2024127790A - マッピングシステム、マッピングシステムを使用する方法、およびプログラム - Google Patents

マッピングシステム、マッピングシステムを使用する方法、およびプログラム Download PDF

Info

Publication number
JP2024127790A
JP2024127790A JP2024024080A JP2024024080A JP2024127790A JP 2024127790 A JP2024127790 A JP 2024127790A JP 2024024080 A JP2024024080 A JP 2024024080A JP 2024024080 A JP2024024080 A JP 2024024080A JP 2024127790 A JP2024127790 A JP 2024127790A
Authority
JP
Japan
Prior art keywords
change
map
scene
mapping system
points
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2024024080A
Other languages
English (en)
Inventor
ナグマ サムリーン カーン
次朗 安倍
一峰 小倉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Publication of JP2024127790A publication Critical patent/JP2024127790A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/38Electronic maps specially adapted for navigation; Updating thereof
    • G01C21/3804Creation or updating of map data
    • G01C21/3833Creation or updating of map data characterised by the source of data
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/38Electronic maps specially adapted for navigation; Updating thereof
    • G01C21/3804Creation or updating of map data
    • G01C21/3833Creation or updating of map data characterised by the source of data
    • G01C21/3848Data obtained from both position sensors and additional sensors
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/005Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 with correlation of navigation data from several sources, e.g. map or contour matching
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • G01C21/28Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network with correlation of data from several navigational instruments
    • G01C21/30Map- or contour-matching
    • G01C21/32Structuring or formatting of map data
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/38Electronic maps specially adapted for navigation; Updating thereof
    • G01C21/3804Creation or updating of map data
    • G01C21/3807Creation or updating of map data characterised by the type of data
    • G01C21/383Indoor data
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/38Electronic maps specially adapted for navigation; Updating thereof
    • G01C21/3863Structures of map data
    • G01C21/3867Geometry of map features, e.g. shape points, polygons or for simplified maps

Landscapes

  • Engineering & Computer Science (AREA)
  • Remote Sensing (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Physics & Mathematics (AREA)
  • Automation & Control Theory (AREA)
  • General Physics & Mathematics (AREA)
  • Geometry (AREA)
  • Image Analysis (AREA)

Abstract

【課題】不正確さが生じにくい、質の高いマップを生成するマッピングシステムの提供。【解決手段】マッピングシステムは、シーンの画像データを含む入力信号を受信し、シーンの基準マップに対して画像データを取り込むために使用されるセンサの位置を判定し、センサの判定された位置と基準マップとに基づいてシーンの変化点および変化スコアを判定し、変化点および変化スコアに基づいて変化マップを生成し、変化マップと基準マップとの比較に基づいて更新マップを生成し、基準マップの内容を変化させずに維持する。【選択図】図1

Description

本開示は、マッピングシステム、マッピングシステムを使用する方法、およびプログラムに関する。
マッピングシステムは、部屋、工場などのシーンのスキャンまたは画像を取り込み、シーンの3次元(3D)マップを作成するために使用可能である。マッピングシステムは、シーンの後続のスキャンまたは撮像を実行し、シーンの中のオブジェクトの動き、シーンの中の新しいオブジェクト、またはシーンの中のオブジェクトの除去など、シーンの中の変化を判定する。次いで、マッピングシステムは、シーンの中の判定された変化に基づいて、3Dマップを更新する。マッピングシステムによって生成されたマップおよび更新されたマップは、拡張現実(AR)ゲーム、仮想現実(VR)ゲーム、自律車両制御、および他の適切な活動を含む広範囲の技術に使用可能である。
不正確さが生じにくい、質の高いマップを生成するマッピングシステムが望まれている。
本明細書の態様は、命令を記憶するように構成された非一時的コンピュータ可読媒体と、前記非一時的コンピュータ可読媒体に接続されたプロセッサとを含むマッピングシステムに関する。前記プロセッサは、シーンの画像データを含む入力信号を受信し、前記シーンの基準マップに対して前記画像データを取り込むために使用されるセンサの位置を判定し、前記センサの前記判定された位置と前記基準マップとに基づいて前記シーンの変化点および変化スコアを判定し、前記変化点および前記変化スコアに基づいて変化マップを生成し、前記変化マップと前記基準マップとの比較に基づいて更新マップを生成し、前記基準マップの内容を変化させずに維持するための前記命令を実行するように構成される。
本明細書の態様は、シーンの画像データを含む入力信号を受信することと、前記シーンの基準マップに対する前記画像データを取り込むために使用されるセンサの位置を判定することと、前記センサの前記判定された位置および前記基準マップに基づいて前記シーンの変化点および変化スコアを判定することと、前記変化点および前記変化スコアに基づいて変化マップを生成することと、前記変化マップと前記基準マップとの比較に基づいて更新マップを生成することと、前記基準マップの内容を変化させずに維持することとを含む、マッピングシステムを使用する方法に関する。
本明細書の態様は、シーンの画像データを含む入力信号を受信し、前記シーンの基準マップに対する前記画像データを取り込むために使用されるセンサの位置を判定し、前記センサの前記判定された位置および前記基準マップに基づいて前記シーンの変化点および変化スコアを判定し、前記変化点および前記変化スコアに基づいて変化マップを生成し、前記変化マップと前記基準マップとの比較に基づいて更新マップを生成し、前記基準マップの内容を変化させずに維持することをプロセッサに実行させるためのプログラムに関する。
本開示の態様は、添付の図面と併せて読むと、以下の詳細な説明から最もよく理解される。業界の標準的な慣行に従って、様々な特徴は原寸に比例して描かれていないことに留意されたい。実際、様々な特徴の寸法は、説明を明確にするために任意に増減され得る。
いくつかの実施形態による、マッピングシステムの概略図である。 いくつかの実施形態による、基準マップを生成するためのシステムの概略図である。 いくつかの実施形態による、マッピングシステムを使用する方法のフローチャートである。 いくつかの実施形態による、マッピングシステムの概略図である。 いくつかの実施形態による、マッピングシステムを使用する方法のフローチャートである。 いくつかの実施形態による、マッピングシステムの概略図である。 いくつかの実施形態による、マッピングシステムを使用する方法のフローチャートである。 いくつかの実施形態による、マッピングシステムの概略図である。 いくつかの実施形態による、マッピングシステムを使用する方法のフローチャートである。 いくつかの実施形態による、マッピングシステムのブロック図である。
以下の開示では、設けられている主題の異なる特徴を実装するための多くの異なる実施形態または例を提供する。本開示を簡略化するために、構成要素、値、動作、材料、配置などの特定的な例を、以下に説明する。もちろん、これらは単なる例であり、限定することを意図するものではない。他の構成要素、値、動作、材料、配置などが考えられる。例えば、以下の説明において、第2の特徴の上(overまたはon)へ第1の特徴を形成することは、第1の特徴および第2の特徴が直接接触して形成される実施形態を含むことができ、第1の特徴および第2の特徴が直接接触し得ないように、第1の特徴と第2の特徴との間に追加の特徴が形成され得る実施形態も含むことができる。さらに、本開示は、様々な例において参照符号および/または文字を繰り返すことがある。この繰り返しは、簡素化および明瞭化のためのものであり、それ自体は、説明した様々な実施形態および/または構成の間の関係を規定するものではない。
シーンの以前の画像またはスキャンからの変化を判定するためにマップを直接更新するマッピングシステムは、更新されたマップの中の変化を不正確に判定するリスクが高い。不正確さのリスクの増加は、撮像デバイスまたはスキャン用デバイスの質、変化登録時の閾値処理、画像またはスキャンにおけるオブジェクトの検証の失敗、または他のそのような欠点を含むいくつかの要因に起因する。コストを削減するために、マッピングシステムでは低解像度の撮像デバイスまたはスキャン用デバイスが使用されることが多い。これらの低解像度デバイスでは、オブジェクトの識別がより困難になり、オブジェクトが特定の光の条件下で検出され、次いで異なる光の条件下で検出されないリスクが増大する。そのような状況により、マッピングシステムは、オブジェクトが実際にはまだ存在しているが単に検出されなかったというときに、後の画像またはスキャンにおいて検出されなかったオブジェクトをシーンへの変化とみなす。閾値処理は、マッピングシステムの計算の負荷を低減するために使用される技術である。閾値処理は、光の条件、一過性の移動するオブジェクト(例えば、移動する人々)、または他のそのような状況に起因するシーンの中のわずかな違いに対応する試みである。閾値値を過度に厳しく設定すると、シーンの中の変化を識別することができないリスクが増大する。対照的に、閾値が緩く設定されすぎると、シーンの中の変化に対する偽陽性のリスクが増加する。シーンの中のオブジェクトのジオメトリを検証できないと、前のオブジェクトと同様の位置にある異なるオブジェクトが同じオブジェクトとして扱われ、シーンにおける違いが識別されないリスクが高まる。
不正確さのリスクを増加させる項目に加えて、シーンのマップを直接的に更新することは、シーンの画像またはスキャンの連続的な反復を通じて、誤差を伝播させる。例えば、同時定位マッピング(SLAM:simultaneous localizastion and mapping)技術では、画像またはスキャンを分析する間に、閾値処理および仮定が利用される。SLAM技術は、シーンの中のオブジェクトの位置を判定するために、マップのデータポイントを一度に1つずつ測定する。以前の分析に何らかの誤りがあると、その後の分析に不正確さが生じる。誤差の伝播は、そのようなマッピングシステムによって生成されたマップの全体的な信頼性を低下させる。
不正確さが生じにくい、質の高いマップを生成するマッピングシステムは、車両の移動の自動化、現実的なゲーム環境の向上、および他の用途の前進に役立つ。高解像度イメージャまたはスキャナを継続的に使用する費用を回避しながらマップ生成の質を改善するよう促すために、本明細書のいくつかの実施形態によるマッピングシステムは、マッピングシステムの動作中に変化させないままである基準マップを利用する。基準マップの利用は、シーンの撮像またはスキャンの連続的な反復を通じて伝播する誤差のリスクを低減するために、高い質の固定基準点を設ける。さらに、本明細書のいくつかの実施形態によるマッピングシステムはまた、他の手法と比較してマッピングシステムの精度を改善するためにオブジェクトジオメトリ検証を利用する。結果として、本明細書のいくつかの実施形態のマッピングシステムは、様々な用途で使用するための正確なマップを生成しながら、マッピングシステムの実装中に低解像度の撮像デバイスまたはスキャン用デバイスを利用することができる。
簡潔にするために、以下の説明では、シーンの画像に焦点を当てる。当業者は、画像が単なる例示であり、点群などの他のタイプのシーン検出がこの説明の範囲内であることを認識するであろう。以下の説明では、シーンに関するデータを取り込むためのセンサについても言及する。いくつかの実施形態では、センサは、1つまたは複数のカメラ、1つまたは複数のサーマルカメラ、1つまたは複数のビデオカメラ、1つまたは複数の光および距離検出器(LiDAR:light and range detector)、これらの要素の組み合わせ、または別の適切なセンサを含む。
図1は、いくつかの実施形態による、マッピングシステム100の概略図である。マッピングシステム100は、入力信号を受信するように構成される。入力信号は、画像および深度データの両方を含む。いくつかの実施形態では、画像データは、赤、緑、青(RGB)の画像データを含む。いくつかの実施形態では、画像データは、グレースケール、熱、または別の適切な種類の画像データなどの別の種類の画像データを含む。マッピングシステム100は、入力信号から画像データおよび基準三次元(3D)マップ125を受信するように構成された登録モジュール105を含む。登録モジュール105は、基準3Dマップ125に対する入力信号を収集するために使用されるセンサの位置を示すグローバルポーズ(global pose)を生成するように構成される。マッピングシステム100は、入力信号から深度データ、登録モジュール105からのグローバルポーズ、および基準3Dマップ125を受信するように構成された変化検出モジュール110をさらに含む。変化検出モジュール110は、シーンの中の各オブジェクトの変化スコアおよび変化点を生成するように構成される。マッピングシステム100は、変化検出モジュール110から変化スコアおよび変化点を受信するように構成された変化改善モジュール115をさらに含む。変化改善モジュール115は、シーンの中のオブジェクトがシーンのマッピングの前の反復に対して変化したかどうかを判定するために後処理を実行するように構成される。マッピングシステム100は、変化改善モジュール115から最終変化点を受信するように構成された変化3Dマップ120をさらに含む。変化3Dマップ120は、基準3Dマップ125に対する入力信号に基づくシーンの中の変化に関する情報を記憶する。マッピングシステム100は、シーンのマッピングの連続的な反復による誤差の伝播を低減するのを促すために、基準3Dマップの更新を回避する。マッピングシステム100は、シーンの更新されたマップを判定するために、基準3Dマップ125を変化マップ120と組み合わせるように構成されたマップ更新モジュール130をさらに含む。マッピングシステム100は、マップ更新モジュール130から受信した更新されたマップに基づいて決定または命令を生成するように構成された下流タスクモジュール135をさらに含む。
入力信号は、シーンの中のテクスチャ/色の特性を取り込むための画像データと、シーンの中の点の相対位置の検出を容易にするための深度データとの両方を含む。いくつかの実施形態では、画像データはカラー画像データを含む。いくつかの実施形態では、画像データはグレースケールのデータを含む。本明細書はカラーの画像データに焦点を当てている。しかしながら、当業者は、本願がカラーの画像データに限定されないことを認識するであろう。いくつかの実施形態では、入力信号は、画像および深度検出機能の両方を含む単一のセンサから受信される。いくつかの実施形態では、入力信号は、2つ以上のセンサから受信される。いくつかの実施形態では、複数のセンサは、同じタイプのセンサ、例えば画像検出センサを含む。いくつかの実施形態では、複数のセンサは、異なるタイプのセンサ、例えば、LiDARセンサおよび画像検出センサを含む。いくつかの実施形態では、深度データは、三角測量を使用してステレオ画像検知に基づいて生成される。いくつかの実施形態では、深度データは、構造化光センサを使用して生成される。いくつかの実施形態では、深度データは、飛行時間(ToF:time of flight)センサを使用して生成される。
いくつかの実施形態では、入力信号は、マッピングシステム100への処理の負荷について補助するためにフレームに分解される。フレームはシーンのより小さな部分である。入力信号のすべてのフレームは、同時に取り込まれ、取り込みは基準3Dマップ125の作成後である。マッピングシステム100は、以下に説明するように、各フレームを別々に分析して、変化点および変化スコアを判定する。入力信号内の幾何学的に意味のあるオブジェクトの識別は、幾何学的に意味のあるオブジェクトの判定の精度を高めるのを助けるために、複数のフレームを利用して実行される。いくつかの実施形態では、幾何学的に意味のあるオブジェクトの判定中にフレームのすべてが分析される。いくつかの実施形態では、幾何学的に意味のあるオブジェクトが識別されるのに十分なフレームが分析されると、識別された幾何学的に意味のあるオブジェクトに対するフレームの分析が行われる。
登録モジュール105は、入力信号から基準3Dマップ125および画像データを受信するように構成される。登録モジュール105は、画像データを取り込むために使用されるセンサの位置を判定するように構成される。登録モジュール105は、基準3Dマップ125に対するセンサの判定された位置に基づいてグローバルポーズを出力するように構成される。グローバルポーズは、画像データおよびセンサの位置を含む。深度データを考慮せずに画像データを使用することにより、入力信号全体を使用してグローバルポーズを生成するシステムと比較して、登録モジュール105の処理の負荷が低減される。複数のセンサを含むいくつかの実施形態では、登録モジュール105は、入力信号を取り込むために使用されるセンサの各々の位置を判定するように構成される。登録モジュール105は、センサの位置を判定するために基準3Dマップ125内の恒久的なオブジェクトまたは点を利用する。登録モジュール105は、以下のマッピングシステム1000(図10)に関して説明するプロセッサなどの、1つまたは複数のプロセッサを使用して実装される。
変化検出モジュール110は、基準3Dマップ125、登録モジュール105からのグローバルポーズ、および入力信号からの深度データを受信するように構成される。変化検出モジュール110は、基準3Dマップ125の情報をグローバルポーズおよび深度データからのデータと比較して、基準3Dマップ125に対してシーンに変化が生じたかどうかを判定するように構成される。変化検出モジュール110による変化の判定は、マッピングシステム100によるシーンのマッピングの前の反復に対してではなく、基準3Dマップ125に対するものである。変化検出モジュール110は、グローバルポーズに基づいて、現在分析中のフレームに対応する3D基準マップ125の領域を識別するように構成される。変化検出モジュール110は、深度またはポイントツーポイント距離データを使用してシーンの中の点およびシーンの中の検出された点の位置を識別するようにさらに構成される。いくつかの実施形態では、変化検出モジュール110は、深度またはポイントツーポイント距離データに基づいてシーンの中のオブジェクトおよび検出されたオブジェクトの位置を識別するように構成される。変化検出モジュール110は、識別された点および識別された点の位置を基準3Dマップ125と比較して、シーンに追加された、またはシーンの中で移動された、いずれかの識別された点があるかどうかを判定するように構成される。変化検出モジュール110はまた、グローバルポーズおよび深度データに基づいて基準3Dマップ125が生成されてから、基準3Dマップ125からの任意の点がシーンから除去されたかどうかを判定するように構成される。変化検出モジュール110は、識別された変化の位置を示す変化点と、識別された変化の可能性を示す変化スコアとを生成するように構成される。いくつかの実施形態では、変化検出モジュール110は、カラーの画像データが利用可能である場合、検出された変化の位置に加えて、色を示す変化点を生成するようにさらに構成される。当業者は、グレースケールの画像データが利用可能である場合、グレースケールを示す変化点も可能であることを認識するであろう。
変化点は、基準3Dマップ125の中の同じ位置とは異なるシーンの中の位置を示す。変化スコアは、変化点が実際の変化である可能性の高さを示す。すなわち、変化点は、シーンの中の位置で何らかの種類の変化が発生したことを示し、変化スコアは、識別された変化が、異なる光の条件またはオブジェクト検出の精度に影響を及ぼす他の要因によって生成されたアーチファクトではなく、シーンの実際の変化である可能性がどの程度高いかを示す。以下の説明は、変化点および変化スコアを明確にするための例を提示する。当業者は、マッピングシステム100が以下に説明する例に限定されないことを理解するであろう。
少なくとも1つの例では、基準3Dマップ125は、テーブルに物体が配置されていないテーブルを含む。入力信号は、テーブル上に配置されたボックスを含むシーンの画像を含む。深度データを利用して、変化検出モジュール110は、シーンの中の位置が変化したことを判定することができる。例えば、基準3Dマップ125の最も近いオブジェクト、例えばシーンの後方の壁と、入力信号、すなわちボックスとの間の距離は異なる。変化検出モジュール110は、基準3Dマップ125と入力信号との間の深度データの差に基づいて変化点を示す。次に、変化検出モジュール110は、変化が見つかった各点の変化スコアを生成する。変化スコアの生成は、識別された変化点の偽陽性を低減するのに役立つ。シーンの後壁とボックスの上部との間の距離の大きさが大きいため、ボックスの上部の変化スコアは大きくなる。対照的に、テーブルの上面とボックスの底部との間の距離の大きさが小さいため、ボックスの底部の変化スコアは小さくなる。以下に説明するように、変化点と変化スコアとの組み合わせは、変化改善モジュール115が入力信号の中の潜在的な変化の検出された点の境界を判定するのに役立つ。
変化検出モジュール110は、以下のマッピングシステム1000(図10)に関して説明するプロセッサなどの、1つまたは複数のプロセッサを使用して実装される。いくつかの実施形態では、変化検出モジュール110は、登録モジュール105と同じプロセッサを使用して実装される。いくつかの実施形態では、変化検出モジュール110は、登録モジュール105とは異なるプロセッサを使用して実装される。
変化改善モジュール115は、変化検出モジュール110から変化点および変化スコアデータを受信するように構成される。変化改善モジュール115は、画像データを受信するようにさらに構成される。変化改善モジュール115は、変化点および変化スコアデータの幾何学的分析を実行して、変化点および変化スコアデータに関連するオブジェクトの境界の判定を改善するように構成される。いくつかの実施形態では、変化改善モジュール115は、基準3Dマップ125を受信するか、またはオブジェクトの境界の改善を補助するようにさらに構成される。
上方からのテーブル上のボックスという非限定的な例に戻ると、変化改善モジュール115は、ボックスの境界を判定するのを助けるように構成される。上述したように、ボックスの下部の変化スコアは小さい。ある値を下回る変化スコアを変化ではないと判定する閾値処理のみを行うシステムでは、「浮遊物(floating object)」のリスクが高まる。すなわち、ボックスの上部は変化として表示されるが、ボックスの下部は変化として表示されない。その結果、シーンのマップ更新においてボックスの上部がテーブル上に浮いているように見える。しかしながら、変化改善モジュール115は、変化点および変化スコアデータのジオメトリが、シーンのマップに追加するための意味のある形状を生成するかどうかを判定するように構成される。そのような判定を行うために、変化改善モジュール115は、幾何学的に意味のあるオブジェクトが変化点および変化スコアデータによって表されるかどうかを判定するのを補助するために、隣接する変化点の変化スコアを利用するように構成される。幾何学的に意味のあるオブジェクトは、明確な境界を有し、物理的な意味を成す他のオブジェクトとの空間的関係を有するオブジェクトを含む。例えば、「浮遊物」は物理的な意味を成さないが、テーブルに静置されているオブジェクトは物理的な意味を成す。幾何学的に意味のあるオブジェクトは、1つまたは複数の幾何学的に意味のある形状から構築される。いくつかの実施形態では、単一のオブジェクトは、複数の幾何学的に意味のある形状を含む。例えば、自転車は、場合によっては、複数の円ならびに少なくとも1つの長方形を含む。
テーブル上のボックスの非限定的な例を続けると、変化改善モジュール115は、ボックスの上部の変化スコアが、オブジェクトが存在する可能性が高いことを示すと判定するように構成される。変化改善モジュール115は、幾何学的に意味のあるオブジェクトを識別しようと試みるために、近くの変化点、例えばボックスの底部の閾値を調整するように構成される。変化改善モジュール115は、幾何学的に意味のあるオブジェクトの全体に関連する変化を示すか、または幾何学的に意味のあるオブジェクトを判定できないことに応答して潜在的なオブジェクトの全体の可能性を拒むように構成される。当業者は、変化を示すことが、オブジェクトを追加すること、シーンの中でオブジェクトを移動させること、またはシーンからオブジェクトを除去することを含むことを理解するであろう。オブジェクトの全体に対する変化を実施することにより、3Dマップを更新するときの誤差のリスクが低減し、更新された3Dマップは、「浮遊物」がないなど、現実的なシーンに似ている可能性がより高い。変化改善モジュール115は、例えばクラスタリングまたはセグメント化を使用して、変化点を分析してオブジェクトの境界を推定するように構成される。変化改善モジュール115は、次に、幾何学的に意味のあるオブジェクトが検出されたかどうかを判定するために、推定されたオブジェクトの境界の中に潜在的にあると考えられる変化点を利用することができる。いくつかの実施形態では、変化改善モジュール115は、潜在的なオブジェクトの推定された境界の中の全変化スコアの平均を利用して、オブジェクトが変化であると判定するかどうかを判定するように構成される。いくつかの実施形態では、変化改善モジュール115は、オブジェクトが変化であるかどうかを判定するために、潜在的なオブジェクトの推定された境界の中の変化点の閾値の割合が、閾値スコアを上回る変化スコアを有するかどうかを判定するように構成される。いくつかの実施形態では、ユーザは、入力信号を取り込むために使用されるセンサに基づいて、変化改善モジュール115が使用するアルゴリズムを選択することができる。例えば、いくつかの実施形態では、変化スコアの閾値を上回る変化点の割合を使用することは、平均の変化スコアアルゴリズムと比較して、センサがノイズの多い入力信号を生成する場合に正確な結果を生成する可能性がより高い。
変化改善モジュール115は、以下のマッピングシステム1000(図10)に関して説明するプロセッサなどの、1つまたは複数のプロセッサを使用して実装される。いくつかの実施形態では、変化改善モジュール115は、登録モジュール105および変化検出モジュール110と同じプロセッサを使用して実装される。いくつかの実施形態では、変化改善モジュール115は、登録モジュール105または変化検出モジュール110とは異なるプロセッサを使用して実装される。
変化3Dマップ120は、変化改善モジュール115から受信した最終変化点に基づいて生成される。最終変化点は、シーンの中のオブジェクト全体の変化の位置を示す。いくつかの実施形態では、変化は、オブジェクトの追加、オブジェクトの除去、またはシーンの中でのオブジェクトの移動を示す。いくつかの実施形態では、変化3Dマップ120は、基準3Dマップ125に対する3Dマップへの変化を判定するために、最終変化点と共に画像データを含む。変化3Dマップ120は、後述するマッピングシステム1000(図10)のメモリなどの非一時的コンピュータ可読媒体(コンピュータ可読媒体)に記憶される。
基準3Dマップ125は、シーンを取り込むために高解像度センサを使用して生成されたマップを含む。いくつかの実施形態では、基準3Dマップ125は、シーンの中のオブジェクトの寸法を含む。いくつかの実施形態では、基準3Dマップ125の寸法は、シーンの中のオブジェクトの真の寸法のスケーリングされた寸法である。いくつかの実施形態では、基準3Dマップ125は、後述するシステム200(図2)を使用して生成される。基準3Dマップ125は、マッピングシステム100の使用中は一定のままである。基準3Dマップ125は、マッピングシステム100を使用してシーンをマッピングする後続の反復の間に誤差の伝播を防止または低減するよう補助するために、マッピングシステム100を使用する間に比較するための安定した基礎として、使用可能である。基準3Dマップ125は、後述するマッピングシステム1000(図10)のメモリなどの非一時的コンピュータ可読媒体に記憶される。いくつかの実施形態では、基準3Dマップ125は、変化3Dマップ120と同じ非一時的コンピュータ可読媒体に記憶される。いくつかの実施形態では、基準3Dマップ125は、変化3Dマップ120と異なる非一時的コンピュータ可読媒体に記憶される。
マップ更新モジュール130は、更新されたマップを生成するために、変化3Dマップ120からの変化を基準3Dマップ125と組み合わせるように構成される。更新されたマップは、変化改善モジュール115によって識別されたオブジェクト全体に対する変化を含む。いくつかの実施形態では、更新されたマップは、後述するマッピングシステム1000(図10)のメモリなどの非一時的コンピュータ可読媒体に記憶される。いくつかの実施形態では、更新されたマップは、変化3Dマップ120および基準3Dマップ125と同じ非一時的コンピュータ可読媒体に記憶される。いくつかの実施形態では、変化マップは、変化3Dマップ120または基準3Dマップ125とは異なる非一時的コンピュータ可読媒体に記憶される。
下流タスクモジュール135は、受信した変化マップに基づいて命令を実施するように構成される。以下の説明は、自律型車両制御の非限定的な例を利用する。当業者は、本明細書がこの例に限定されないことを理解するであろう。例えば、いくつかの実施形態では、下流タスクモジュール135は、更新されたマップを利用して、車両、例えば工場の車両に、シーンの中の新たに追加されたオブジェクト、例えば材料のパレットの周りをナビゲートするよう命令する。いくつかの実施形態では、下流タスクモジュール135は、命令を車両に直接送信するように構成される。いくつかの実施形態では、下流タスクモジュール135は、車両を制御するために使用可能な外部デバイスに命令を与えるように構成される。いくつかの実施形態では、命令は無線で送信される。いくつかの実施形態では、命令は有線接続を介して送信される。
下流タスクモジュール135は、以下のマッピングシステム1000(図10)に関して説明するプロセッサなどの、1つまたは複数のプロセッサを使用して実装される。いくつかの実施形態では、下流タスクモジュール135は、登録モジュール105、変化検出モジュール110、および変化改善モジュール115と同じプロセッサを使用して実装される。いくつかの実施形態では、下流タスクモジュール135は、登録モジュール105、変化検出モジュール110、または変化改善モジュール115とは異なるプロセッサを使用して実装される。
マッピングシステム100を利用すると、変化の判定がオブジェクト全体に対して行われるため、他の手法と比較してより高い精度を有する更新マップを生成することができる。さらに、シーンのマッピングの間に基準3Dマップ125を元の状態で維持することは、複数のシーンマッピングの反復による誤差の伝播を低減または防止するのに役立つ。結果として、更新されたマップに基づいて外部デバイスに与えられる命令は、他のシステムを使用して生成されたマップを使用する命令よりも正確である。
図2は、いくつかの実施形態による、基準マップを生成するためのシステム200の概略図である。システム200は、基準3Dマップ125を作成するために使用可能である。いくつかの実施形態では、システム200は、マッピングシステム100(図1)によって使用可能な基準3Dマップ125を作成するために使用可能である。いくつかの実施形態では、システム200は、マッピングシステム100(図1)とは異なるマッピングシステムで使用可能な基準3Dマップ125を作成するために使用可能である。システム200は、シーンの高解像度スキャンを受信するように構成されたマップ作成モジュール205を含む。マップ作成モジュール205は、基準3Dマップ125として記憶されるマップを生成するように構成される。
高解像度スキャンは、シーンに関する画像データおよび深度データの両方を取り込むように構成された少なくとも1つの高解像度センサを使用して実行される。いくつかの実施形態では、高解像度スキャンは、マッピングシステム100(図1)の入力信号を取り込むために使用されるものよりも高い解像度を有するセンサを使用して実行される。いくつかの実施形態では、高解像度スキャンは、基準3Dマップ125の正確性および精度を確実にするのを補助するために、シーンに対して複数の位置で実行される。いくつかの実施形態では、高解像度スキャンは、画像および深度検出機能の両方を含む単一のセンサを使用して実行される。いくつかの実施形態では、高解像度スキャンは、2つ以上のセンサを使用して実行される。いくつかの実施形態では、複数のセンサは、同じタイプのセンサ、例えば画像検出センサを含む。いくつかの実施形態では、複数のセンサは、異なるタイプのセンサ、例えば、LiDARセンサおよび画像検出センサを含む。いくつかの実施形態では、深度データは、三角測量を使用してステレオ画像検知に基づいて生成される。いくつかの実施形態では、深度データは、構造化光センサを使用して生成される。いくつかの実施形態では、深度データはToFセンサを使用して生成される。いくつかの実施形態では、高解像度スキャンは、基準3Dマップ125の正確性および精度を確実にするのを補助するように、例えば画像データまたは深度データなどの同じタイプの情報を受信するように構成された複数のセンサを使用して実行される。
マップ作成モジュール205は、高解像度スキャンを受信し、マップを生成するように構成される。マップ作成モジュール205は、シーンの中のオブジェクトを識別するためにオブジェクトの識別を実行するように構成される。マップ作成モジュール205は、深度データを利用して、シーンの識別されたオブジェクトの互いに対する配置を判定するように構成される。いくつかの実施形態では、マップ作成モジュール205は、シーンの中の恒久的なオブジェクトおよび可動のオブジェクトを識別するために、例えば訓練されたニューラルネットワークを使用して、オブジェクトの認識を実行するように構成される。いくつかの実施形態では、訓練されたニューラルネットワークは、シーンの中で発生する可能性が高いオブジェクトのタイプのデータベースを含む。いくつかの実施形態では、マップ作成モジュール205は、識別されたオブジェクトが恒久的なオブジェクトであるか可動オブジェクトであるかを示すメタデータを含むマップを生成するように構成される。マップ作成モジュール205は、マップが基準3Dマップ125として非一時的コンピュータ可読媒体に記憶されるように命令するように構成される。
マップ作成モジュール205は、以下のマッピングシステム1000(図10)に関して説明するプロセッサなどの、1つまたは複数のプロセッサを使用して実装される。いくつかの実施形態では、マップ作成モジュール205は、マッピングシステム100(図1)の各モジュールと同じプロセッサを使用して実装される。いくつかの実施形態では、マップ作成モジュール205は、マッピングシステム100(図1)のモジュールのうちの少なくとも1つとは異なるプロセッサを使用して実装される。
図3は、いくつかの実施形態による、マッピングシステムを使用する方法300のフローチャートである。方法300は、変化マップを生成し、下流で実施するための命令を生成するために、マッピングシステムによって実施される。いくつかの実施形態では、方法300は、マッピングシステム100(図1)を使用して実施される。いくつかの実施形態では、方法300は、マッピングシステム100(図1)以外のマッピングシステムを使用して実施される。
動作305において、入力データがマッピングシステムによって受信される。入力データは、シーンの中のオブジェクト検出を可能にする画像データと、シーンの中の点の相対的な位置の検出を容易にする深度データとの両方を含む。いくつかの実施形態では、画像データはカラー画像データを含む。いくつかの実施形態では、画像データはグレースケールのデータを含む。本明細書はカラーの画像データに焦点を当てている。しかしながら、当業者は、本願がカラーの画像データに限定されないことを認識するであろう。いくつかの実施形態では、入力データは、画像および深度検出機能の両方を含む単一のセンサから受信される。いくつかの実施形態では、入力データは、より多くの1つのセンサから受信される。いくつかの実施形態では、複数のセンサは、同じタイプのセンサ、例えば画像検出センサを含む。いくつかの実施形態では、複数のセンサは、異なるタイプのセンサ、例えば、LiDARセンサおよび画像検出センサを含む。いくつかの実施形態では、深度データは、三角測量を使用してステレオ画像検知に基づいて生成される。いくつかの実施形態では、深度データは、構造化光センサを使用して生成される。いくつかの実施形態では、深度データはToFセンサを使用して生成される。
動作310において、入力データからの画像データの登録が実行される。登録は、画像データと基準3Dマップ125とに基づいて行われる。いくつかの実施形態では、登録は、登録モジュール105(図1)を使用して実行される。いくつかの実施形態では、登録は、登録モジュール105(図1)とは異なるデバイスを使用して実行される。登録は、画像データを取り込むために使用されるセンサの位置を判定する。登録は、3D基準マップ125に対するセンサの判定された位置に基づいて、グローバルポーズを出力する。グローバルポーズは、画像データおよびセンサの位置を含む。深度データを考慮せずに画像データを使用することにより、入力信号全体を用いてグローバルポーズを生成する方法と比較して、登録時の処理の負荷が軽減される。複数のセンサを含むいくつかの実施形態では、登録は、入力信号を取り込むために使用されるセンサの各々の位置を判定する。登録は、センサの位置を判定するために基準3Dマップ125の中の恒久的なオブジェクトを利用する。
動作315において、入力データからのグローバルポーズおよび深度データを使用して変化の検出が実行される。変化の検出は、基準3Dマップ125と深度データとを比較することによって行われる。いくつかの実施形態では、変化の検出は、変化検出モジュール110(図1)を使用して実行される。いくつかの実施形態では、変化の検出は、変化検出モジュール110(図1)とは異なるデバイスを使用して実行される。変化の検出は、基準3Dマップ125の情報をグローバルポーズおよび深度データからのデータと比較して、基準3Dマップ125に対してシーンに変化が生じたかどうかを判定するように構成される。変化の判定は、シーンをマッピングする前の反復に対してではなく、基準3Dマップ125に対して行われる。変化の検出は、グローバルポーズに基づいて現在分析しているフレームに対応する3D基準マップ125の識別された領域を比較する。変化の検出は、深度データまたはポイントツーポイント距離データを使用して、シーンの中の点およびシーンの中の検出された点の位置をさらに識別する。いくつかの実施形態では、変化の検出は、深度データに基づいて、シーンの中の点および検出された点の位置を識別する。変化の検出はまた、グローバルポーズおよび深度データに基づいて基準3Dマップ125が生成されてから、基準3Dマップ125からの任意の点がシーンから除去されたかどうかを判定する。変化の検出は、識別された変化の位置を示す変化点と、識別された変化の可能性を示す変化スコアとを生成する。いくつかの実施形態では、変化の検出は、カラーの画像データが利用可能である場合、検出された変化の位置に加えて、色を示す変化点を生成することを含む。当業者は、グレースケールの画像データが利用可能である場合、グレースケールを示す変化点も可能であることを認識するであろう。
動作315に続いて、入力データのすべてのフレームが分析されてシーンの中で何らかの変化が生じたかどうかを判定するまで、動作305から315が繰り返される。いくつかの実施形態では、登録および変化の検出を実行するための処理の負荷を低減するために、入力データはシーン全体のフレームまたはセクションに分解される。各フレームは同時に取り込まれる。入力データを取り込むために複数のセンサが使用されるいくつかの実施形態では、全フレームの分析は、すべてのセンサからの入力データの分析を含む。
動作320において、動作315における変化の検出からの変化点および変化スコアを使用して、変化の改善が実行される。変化の改善は、シーンの中の潜在的な変化を評価するときにオブジェクト全体が考慮されることを確実にするのに役立つ。いくつかの実施形態では、変化の改善は、変化改善モジュール115(図1)を使用して実行される。いくつかの実施形態では、変化の改善は、変化改善モジュール115(図1)以外のデバイスを使用して実行される。変化の改善は、識別されたオブジェクトの境界を判定するのに役立つ。変化の改善は、変化点および変化スコアデータのジオメトリが、シーンのマップに追加するための意味のある形状を生成するかどうかを判定する。そのような判定を行うために、変化の改善は、幾何学的に意味のあるオブジェクトが変化点および変化スコアデータによって表されるかどうかを判定するのを補助するために、隣接する変化点の変化スコアを利用する。変化の改善は、例えばクラスタリングまたはセグメント化を使用して、変化点を分析してオブジェクトの境界を推定する。いくつかの実施形態では、変化の改善は、潜在的なオブジェクトの推定されているオブジェクトの境界の中に、潜在的にあると考えられるすべての変化スコアの平均を利用して、オブジェクトが変化したものであるかどうかを判定する。いくつかの実施形態では、変化の改善は、オブジェクトが変化したものであるかどうかを判定するために、潜在的なオブジェクトの推定されたオブジェクトの境界の中の変化点の閾値の割合が、閾値スコアを上回る変化スコアを有するかどうかを判定する。いくつかの実施形態では、ユーザは、入力信号を取り込むために使用されるセンサに基づいて、変化の改善を実施するためのアルゴリズムを選択することができる。例えば、いくつかの実施形態では、変化スコアの閾値を上回る変化点の割合を使用することは、平均の変化スコアアルゴリズムと比較して、センサがノイズの多い入力信号を生成する場合に正確な結果を生成する可能性がより高い。
動作320の変化の改善は、変化3Dマップ120に記憶される最終変化点を出力する。変化3Dマップ120および基準3Dマップ125は、上述した変化3Dマップ120および基準3Dマップ125と同様であり、簡潔にするためにここでは詳細を説明しない。
動作325において、変化の改善320によって判定された最終変化点に基づいて命令が出力される。命令は、変化3Dマップ120と基準3Dマップ125との間の比較に基づいて形成された更新されたマップに基づいて生成される。いくつかの実施形態では、更新されたマップは後述するマッピングシステム1000(図10)のメモリなどの非一時的コンピュータ可読媒体に記憶される。いくつかの実施形態では、命令は下流タスクモジュール135(図1)を使用して出力される。いくつかの実施形態では、命令は、下流タスクモジュール135(図1)以外のデバイスを使用して出力される。いくつかの実施形態では、命令は、更新されたマップに基づいて外部デバイスを制御するために、外部デバイス、例えば車両に直接送信される。いくつかの実施形態では、命令は、外部デバイスを制御するために使用可能な外部コントローラに与えられる。いくつかの実施形態では、命令は無線で送信される。いくつかの実施形態では、命令は有線接続を介して送信される。
当業者は、方法300が調整可能であることを認識するであろう。いくつかの実施形態では、少なくとも1つの動作が方法300に追加される。例えば、いくつかの実施形態では、方法300は、更新されたマップの生成動作をさらに含む。いくつかの実施形態では、方法300から少なくとも1つの動作が省かれる。例えば、いくつかの実施形態では、動作325が省かれ、変化3Dマップ120は、別個の方法により使用するために非一時的コンピュータ可読媒体に記憶される。いくつかの実施形態では、方法300の動作の順序が調整される。例えば、いくつかの実施形態では、動作320が、各フレームの反復動作の一部として含まれる。
方法300を利用して、変化3Dマップ120は、変化の判定がオブジェクト全体に対して実行されるため、他の手法と比較してより高い精度を有する。さらに、シーンのマッピングの間に基準3Dマップ125を元の状態で維持することは、複数のシーンマッピングの反復による誤差の伝播を低減または防止するのに役立つ。その結果、変化3Dマップ120に基づいて外部デバイスに与えられる命令は、他のシステムを使用して生成されたマップを使用する命令よりも正確である。
図4は、いくつかの実施形態による、マッピングシステム400の概略図である。マッピングシステム400は、マッピングシステム100(図1)と同様の要素を含む。マッピングシステム400での同じ参照符号を有する要素は、マッピングシステム100(図1)での対応する参照符号を有する要素と同様である。同じ参照符号を有する要素の説明は、簡潔にするために縮められている。
マッピングシステム100(図1)と比較して、マッピングシステム400は、入力信号から画像データおよび深度データの両方を受信するように構成されたセグメント化モジュール405を含む。セグメント化モジュール405は、二次元(2D)セグメントをセグメントベース改善モジュール410に出力するように構成される。さらに、セグメント化モジュール405は、深度データを変化検出モジュール110に出力するように構成される。いくつかの実施形態では、変化検出モジュール110は、入力信号がセグメント化モジュール405を通過することなく、入力信号から深度データを直接受信するように構成される。セグメントベース改善モジュール410は、セグメント化モジュール405からの2Dセグメント、ならびに変化検出モジュール110からの変化点および変化スコアを受信するように構成される。セグメントベース改善モジュール410は、最終変化点を変化3Dマップ120に出力するように構成される。
セグメント化モジュール405は、シーンにおけるオブジェクトを識別するために、深度データのみ、または画像データと深度データの両方を含む入力信号を解析するように構成される。セグメント化モジュール405は、アルゴリズムを利用して入力信号のピクセルを分類し、シーンの中のオブジェクトの境界を識別するのに役立つ。いくつかの実施形態では、セグメント化モジュール405は、k平均クラスタリングアルゴリズム、ファジーc平均クラスタリング(FCM:fuzzy c-means clustering)アルゴリズム、ニューラルネットワーク、または別の適切なアルゴリズムを利用する。セグメント化モジュール405は、シーンの中の変化の判定の正確性を向上させるために、オブジェクトの境界を識別し、セグメントベースの改善によって使用可能な2Dセグメントを出力する。2Dセグメントは、セグメント化モジュール405によって識別されたオブジェクトの境界を含む。いくつかの実施形態では、セグメント化モジュール405は、3Dセグメントを生成するように構成されるが、3Dセグメントの生成は、2Dセグメントを生成するより、多くの処理の負荷を利用する。
セグメント化モジュール405は、画像セグメント化を含まない他の手法と比較して、マッピングシステム400におけるオブジェクトの識別を改善するのに役立つ。しかしながら、セグメント化モジュール405は、画像セグメント化を含まない他の手法と比較して、マッピングシステム400の処理の負荷を増加させる。セグメント化モジュール405は、以下のマッピングシステム1000(図10)に関して説明するプロセッサなどの、1つまたは複数のプロセッサを使用して実装される。いくつかの実施形態では、セグメント化モジュール405は、登録モジュール105、変化検出モジュール110、セグメントベース改善モジュール410、および下流タスクモジュール135と同じプロセッサを使用して実装される。いくつかの実施形態では、セグメント化モジュール405は、登録モジュール105、変化検出モジュール110、セグメントベース改善モジュール410、または下流タスクモジュール135と異なるプロセッサを使用して実装される。
セグメントベース改善モジュール410は、セグメント化モジュール405からの2Dセグメント、ならびに変化検出モジュール110からの変化点、ならびに変化スコアを受信するように構成される。セグメントベース改善モジュール410は、上述の変化改善モジュール115(図1)と同様に機能する。変化改善モジュール115(図1)と同様に、セグメントベース改善モジュール410は、受信したデータを分析して、シーンの中の変化を判定するためにシーンの中の幾何学的に意味のあるオブジェクトを識別する。変化改善モジュール115(図1)と比較して、セグメントベース改善モジュール410は、変化の判定の正確性を向上させるために、変化点および変化スコアを2Dセグメントと比較することができる。上述したテーブルのボックスの非限定的な例に戻ると、2Dセグメントは、変化改善モジュール115(図1)に関して上述したように変化スコアのみに依存するよりも、ボックスの底部をより正確に識別するのに有用である。2Dセグメントは、ボックスがシーンの変化を示すために使用可能な幾何学的に意味のあるオブジェクトであるかどうかの判定を補助するために、ボックスの底部の判定された位置に関連するデータを与える。セグメントベース改善モジュール410は、入力信号に基づいてシーンに1つまたは複数の変化が存在するかどうかの判定に続いて、最終変化点を変化3Dマップ120に出力する。
セグメントベース改善モジュール410は、以下のマッピングシステム1000(図10)に関して説明するプロセッサなどの、1つまたは複数のプロセッサを使用して実装される。いくつかの実施形態では、セグメントベース改善モジュール410は、登録モジュール105、変化検出モジュール110、セグメント化モジュール405、および下流タスクモジュール135と同じプロセッサを使用して実装される。いくつかの実施形態では、セグメントベース改善モジュール410は、登録モジュール105、変化検出モジュール110、セグメント化モジュール405、または下流タスクモジュール135と異なるプロセッサを使用して実装される。
マッピングシステム400を利用して、変化3Dマップ120は、変化の判定がオブジェクト全体に対して実行されるため、他の手法と比較してより高い精度を有する。マッピングシステム400にセグメント化分析を含めることは、オブジェクトの識別の精度をさらに高めるのに役立つ。さらに、シーンのマッピングの間に基準3Dマップ125を元の状態で維持することは、複数のシーンマッピングの反復による誤差の伝播を低減または防止するのに役立つ。その結果、変化3Dマップ120に基づいて外部デバイスに与えられる命令は、他のシステムを使用して生成されたマップを使用する命令よりも正確である。
図5は、いくつかの実施形態による、マッピングシステムを使用する方法500のフローチャートである。方法500は、変化マップを生成し、下流で実施するための命令を生成するために、マッピングシステムによって実施される。いくつかの実施形態では、方法500は、マッピングシステム400(図4)を使用して実施される。いくつかの実施形態では、方法500は、マッピングシステム400(図4)以外のマッピングシステムを使用して実施される。方法500は、方法300(図3)と同様の要素を含む。方法500での同じ参照符号を有する要素は、方法300(図3)での対応する参照符号を有する要素と同様である。同じ参照符号を有する要素の説明は、簡潔にするために縮められている。
方法300(図3)と比較して、方法500は、入力データのセグメント化を実行し、2Dセグメントを生成するための動作505を含む。方法500はまた、オブジェクトの識別の精度を向上させるのを補助するために、変化点および変化スコアならびに2Dセグメントに基づいて変化の改善を実行するための動作510を含む。
動作505において、入力信号に対してセグメント化が実行される。セグメント化は、深度データのみ、または画像データと深度データの両方を利用して実行される。セグメント化は、変化の判定を補助するために、シーンの中の潜在的なオブジェクトの境界を識別するのに寄与する。セグメント化は、アルゴリズムを利用して入力信号のピクセルを分類し、シーンの中のオブジェクトの境界を識別するのに役立つ。いくつかの実施形態では、セグメント化は、k平均クラスタリングアルゴリズム、FCMアルゴリズム、または別の適切なアルゴリズムを利用する。セグメント化は、オブジェクトの境界を識別し、シーンの中の変化の判定の正確性を向上させるために、セグメントベースの改善によって使用可能な2Dセグメントを出力する。2Dセグメントは、セグメント化中に識別されたオブジェクトの境界を含む。
いくつかの実施形態では、動作505は、マッピングシステム400(図4)のセグメント化モジュール405(図4)を使用して実施される。いくつかの実施形態では、動作505は、セグメント化モジュール405(図4)以外のデバイスを使用して実施される。セグメント化は、セグメント化を含まない他の手法と比較して、方法500におけるオブジェクトの識別を改善するのに役立つ。しかしながら、セグメント化は、セグメント化を含まない他の手法と比較して、方法500を実施するための処理の負荷を増加させる。
動作510において、セグメントベースの改善が実行されて、シーンの中の幾何学的に意味のあるオブジェクトを識別し、シーンの中の変化を判定するのを補助する。セグメントベースの改善は、動作315からの変化点および変化スコアに加えて、動作505からの2Dセグメントを使用して実行される。セグメントベースの改善は、上述した動作320(図3)の変化の改善と同様に機能する。動作320(図3)の変化の改善と同様に、動作510のセグメントベースの改善は、受信したデータを分析して、シーンの中の変化を判定するためにシーンの中の幾何学的に意味のあるオブジェクトを識別する。動作320(図3)の変化の改善と比較して、動作510のセグメントベースの改善は、変化の判定の正確性を向上させるために、変化点および変化スコアを2Dセグメントと比較することができる。2Dセグメントは、オブジェクトがシーンの変化を示すために使用可能な幾何学的に意味のあるオブジェクトであるかどうか判定するのを補助するために、潜在的なオブジェクトの境界の判定された位置に関連するデータを与える。セグメントベースの改善は、入力信号に基づいてシーンに1つまたは複数の変化が存在するかどうかの判定に続いて、最終変化点を変化3Dマップ120に出力する。いくつかの実施形態では、動作510は、マッピングシステム400(図4)のセグメントベース改善モジュール410(図4)を使用して実施される。いくつかの実施形態では、動作510は、セグメントベース改善モジュール410(図4)以外のデバイスを使用して実施される。
当業者は、方法500が調整可能であることを認識するであろう。いくつかの実施形態では、少なくとも1つの動作が方法500に追加される。例えば、いくつかの実施形態では、方法500は、更新されたマップの生成動作をさらに含む。いくつかの実施形態では、方法500から少なくとも1つの動作が省かれる。例えば、いくつかの実施形態では、動作325が省かれ、変化3Dマップ120は、別個の方法により使用するために非一時的コンピュータ可読媒体に記憶される。いくつかの実施形態では、方法500の動作の順序が調整される。例えば、いくつかの実施形態では、動作505は動作315の前に実行され、変化の検出は動作505から出力された2Dセグメントに基づいて実行される。
方法500を利用して、変化3Dマップ120は、変化の判定がオブジェクト全体に対して実行されるため、他の手法と比較してより高い精度を有する。マッピングシステム400にセグメント化分析を含めることは、オブジェクトの識別の精度をさらに高めるのに役立つ。さらに、シーンのマッピングの間に基準3Dマップ125を元の状態で維持することは、複数のシーンマッピングの反復による誤差の伝播を低減または防止するのに役立つ。その結果、変化3Dマップ120に基づいて外部デバイスに与えられる命令は、他のシステムを使用して生成されたマップを使用する命令よりも正確である。
図6は、いくつかの実施形態による、マッピングシステム600の概略図である。マッピングシステム600は、マッピングシステム400(図4)と同様の要素を含む。マッピングシステム600での同じ参照符号を有する要素は、マッピングシステム400(図4)での対応する参照符号を有する要素と同様である。同じ参照符号を有する要素の説明は、簡潔にするために縮められている。
マッピングシステム400(図4)と比較して、マッピングシステム600は、深度データを欠く入力信号を受信するように構成される。結果として、マッピングシステム600は、登録モジュール105からグローバルポーズを受信し、変化点および変化スコアを生成するために変化検出モジュール110によって使用可能な3Dのマップデータを生成するように構成された3D再構成モジュール605を含む。
3D再構成モジュール605は、3Dのマップデータを生成するために、画像データおよびグローバルポーズを受信するように構成される。いくつかの実施形態では、複数のセンサを使用して入力信号を生成する場合、3Dのマップデータは精度が向上する。グローバルポーズによるセンサの既知の位置に基づいて、3D再構成モジュール605は、画像データのオブジェクト間の相対的な距離を判定することができる。これらの相対的な距離に基づいて、3D再構成モジュール605は、変化検出モジュール110によって使用可能な3Dのマップデータを生成することができる。
3D再構成モジュール605は、深度データ収集を欠く低コストのセンサを使用してシーンマッピングを実施するのを補助する。これにより、より多様な状況で、マッピングシステム600を利用することが可能になる。3D再構成モジュール605は、以下のマッピングシステム1000(図10)に関して説明するプロセッサなどの、1つまたは複数のプロセッサを使用して実装される。いくつかの実施形態では、3D再構成モジュール605は、登録モジュール105、変化検出モジュール110、セグメント化モジュール405、セグメントベース改善モジュール410、および下流タスクモジュール135と同じプロセッサを使用して実装される。いくつかの実施形態では、3D再構成モジュール605は、登録モジュール105、変化検出モジュール110、セグメント化モジュール405、セグメントベース改善モジュール410、または下流タスクモジュール135と異なるプロセッサを使用して実装される。
いくつかの実施形態では、3Dのマップデータを利用する変化検出モジュール110は、3Dのマップデータの再構成における不正確さを補償するために、ポイントツーポイント距離閾値化技術を利用する。ポイントツーポイント閾値化技術は、入力信号が深度データを含まなかったため、変化点および変化スコアを判定するときに、偽陽性のリスクを低減するのに役立つ。
いくつかの実施形態では、セグメント化モジュール405は、マッピングシステム600から省かれる。セグメント化モジュール405が省かれるいくつかの実施形態では、マッピングシステムは、セグメントベース改善モジュール410の代わりに変化改善モジュール115(図1)を利用する。
マッピングシステム600を利用して、変化3Dマップ120は、変化の判定がオブジェクト全体に対して実行されるため、他の手法と比較してより高い精度を有する。3D再構成を含めることは、深度データを取り込むことができるセンサが利用できない状況においてマッピングシステム600を使用するのに役立つ。さらに、シーンのマッピングの間に基準3Dマップ125を元の状態で維持することは、複数のシーンマッピングの反復による誤差の伝播を低減または防止するのに役立つ。その結果、変化3Dマップ120に基づいて外部デバイスに与えられる命令は、他のシステムを使用して生成されたマップを使用する命令よりも正確である。
図7は、いくつかの実施形態による、マッピングシステムを使用する方法700のフローチャートである。方法700は、変化マップを生成し、下流で実施するための命令を生成するために、マッピングシステムによって実施される。いくつかの実施形態では、方法700は、マッピングシステム600(図6)を使用して実施される。いくつかの実施形態では、方法700は、マッピングシステム600(図6)以外のマッピングシステムを使用して実施される。方法700は、方法500(図5)と同様の要素を含む。方法700での同じ参照符号を有する要素は、方法500(図5)での対応する参照符号を有する要素と同様である。同じ参照符号を有する要素の説明は、簡潔にするために縮められている。
方法500(図5)と比較して、方法700は、画像データの3D再構成を実行するための動作705を含む。動作705において、動作310において判定された画像データおよびグローバルポーズに基づいて、3Dのマップデータが再構成される。いくつかの実施形態では、複数のセンサを使用して入力信号を生成する場合、3Dのマップデータは精度が向上する。センサの既知の位置に基づいて、動作310からのグローバルポーズにより、画像データのオブジェクト間の相対的な距離に関する判定が行われる。これらの相対的な距離に基づいて、シーンの変化を判定するための3Dマップが生成される。
いくつかの実施形態では、セグメント化を実行するための動作505は、方法700から省かれる。動作505が省かれるいくつかの実施形態では、方法700は、動作510の代わりに動作320(図3)を利用する。
当業者は、方法700が調整可能であることを認識するであろう。いくつかの実施形態では、少なくとも1つの動作が方法700に追加される。例えば、いくつかの実施形態では、方法700は、更新されたマップの生成動作をさらに含む。いくつかの実施形態では、方法700から少なくとも1つの動作が省かれる。例えば、いくつかの実施形態では、動作325が省かれ、変化3Dマップ120は、別個の方法により使用するために非一時的コンピュータ可読媒体に記憶される。いくつかの実施形態では、方法700の動作の順序が調整される。例えば、いくつかの実施形態では、動作505は動作315の前に実行され、変化の検出は動作505から出力された2Dセグメントに基づいて実行される。
方法700を利用して、変化3Dマップ120は、変化の判定がオブジェクト全体に対して実行されるため、他の手法と比較してより高い精度を有する。3D再構成を含めることは、深度データを取り込むことができるセンサが利用できない状況において、方法700を使用することを可能にする。さらに、シーンのマッピングの間に基準3Dマップ125を元の状態で維持することは、複数のシーンマッピングの反復による誤差の伝播を低減または防止するのに役立つ。その結果、変化3Dマップ120に基づいて外部デバイスに与えられる命令は、他のシステムを使用して生成されたマップを使用する命令よりも正確である。
図8は、いくつかの実施形態による、マッピングシステム800の概略図である。マッピングシステム800は、マッピングシステム100(図1)と同様の要素を含む。マッピングシステム800での同じ参照符号を有する要素は、マッピングシステム100(図1)での対応する参照符号を有する要素と同様である。同じ参照符号を有する要素の説明は、簡潔にするために縮められている。
マッピングシステム100(図1)と比較して、マッピングシステム800は、マップ更新モジュール130によって生成された更新されたマップを、変化検出モジュール110に与えるように構成される。更新されたマップを変化検出モジュール110に供給することにより、マッピングシステム800は、シーンの中の一時的なオブジェクトを考慮することができる。例えば、基準3Dマップ125の生成中にオブジェクトが存在しない場合、オブジェクトは後で追加され、変化検出モジュール110によって検出され、オブジェクトは変化として識別される。オブジェクトの検出に続いて、シーンの後続のマッピングの間にオブジェクトが除去される場合、基準3Dマップと(オブジェクトを除去した後の)入力信号との間の比較は、変化がないことを示す。その結果、変化点が発生せず、更新されたマップを生成する際にオブジェクトの除去に失敗するリスクが高まる。更新されたマップを変化検出モジュール110にフィードバックすることにより、変化検出モジュール110は、より新しいマップに基づいて変化点および変化スコアを生成することができる。
いくつかの実施形態では、更新されたマップのフィードバックは、シーンの以前のマッピングからの変化3Dマップ120へのクエリに基づいて、判定される。変化3Dマップ120が空である、すなわち、基準3Dマップからの変化がないという判定に応答して、更新されたマップは変化検出モジュール110にフィードバックされない。変化検出モジュール110は、基準3Dマップ125との比較に基づいて変化点および変化スコアを生成する。変化3Dマップ120が少なくとも1つの変化を含むという判定に応答して、更新されたマップが変化検出モジュール110にフィードバックされる。
当業者であれば、マップ更新モジュール130から変化検出モジュール110への更新されたマップのフィードバックは、マッピングシステム400(図4)およびマッピングシステム600(図6)においても使用可能であることを認識するであろう。
マッピングシステム800を利用して、変化3Dマップ120は、変化の判定がオブジェクト全体に対して実行されるため、他の手法と比較してより高い精度を有する。更新されたマップのフィードバックを変化検出モジュール110に含めることは、シーンの中の一時的なオブジェクトを考慮するのに役立つ。さらに、シーンのマッピングの間に基準3Dマップ125を元の状態で維持することは、複数のシーンマッピングの反復による誤差の伝播を低減または防止するのに役立つ。その結果、変化3Dマップ120に基づいて外部デバイスに与えられる命令は、他のシステムを使用して生成されたマップを使用する命令よりも正確である。
図9は、いくつかの実施形態による、マッピングシステムを使用する方法900のフローチャートである。方法900は、変化マップを生成し、下流で実施するための命令を生成するために、マッピングシステムによって実施される。いくつかの実施形態では、方法900は、マッピングシステム800(図8)を使用して実施される。いくつかの実施形態では、方法900は、マッピングシステム800(図8)以外のマッピングシステムを使用して実施される。方法900は、方法300(図3)と同様の要素を含む。方法900での同じ参照符号を有する要素は、方法300(図3)での対応する参照符号を有する要素と同様である。同じ参照符号を有する要素の説明は、簡潔にするために縮められている。
方法300(図3)と比較して、方法900は、基準3Dマップ125と変化3Dマップ120との比較に基づいて生成された更新マップ130を含む。更新マップ130は、シーンの一時的なオブジェクトを考慮するのを補助するために、動作315に使用される。
いくつかの実施形態では、動作315における更新マップ130の使用は、シーンの以前のマッピングからの変化3Dマップ120へのクエリに基づいて判定される。変化3Dマップ120が空である、すなわち、基準3Dマップからの変化がないという判定に応答して、更新されたマップは動作315において使用されない。動作315は、代わりに基準3Dマップ125に依存する。変化3Dマップ120が少なくとも1つの変化を含むという判定に応答して、更新されたマップが動作315で使用される。
当業者であれば、更新されたマップ130の動作315へのフィードバックは、方法500(図5)および方法700(図7)においても使用可能であることを認識するであろう。
当業者は、方法900が調整可能であることを認識するであろう。いくつかの実施形態では、少なくとも1つの操作が方法900に追加される。例えば、いくつかの実施形態では、方法900は、更新されたマップの生成動作をさらに含む。いくつかの実施形態では、方法900から少なくとも1つの動作が省かれる。例えば、いくつかの実施形態では、動作315における更新されたマップ130の使用は、前のシーンマッピングからの変化3Dマップ120が空である場合には省かれる。いくつかの実施形態では、方法900の動作の順序が調整される。例えば、いくつかの実施形態では、動作320が、各フレームの反復動作の一部として含まれる。
方法900を利用して、変化3Dマップ120は、変化の判定がオブジェクト全体に対して実行されるため、他の手法と比較してより高い精度を有する。更新されたマップ130を使用することは、方法900がシーンの中の一時的なオブジェクトを考慮するのに役立つ。さらに、シーンのマッピングの間に基準3Dマップ125を元の状態で維持することは、複数のシーンマッピングの反復による誤差の伝播を低減または防止するのに役立つ。その結果、変化3Dマップ120に基づいて外部デバイスに与えられる命令は、他のシステムを使用して生成されたマップを使用する命令よりも正確である。
図10は、一部の実施形態による、マッピングシステム1000のブロック図である。マッピングシステム1000は、ハードウェアプロセッサ1002と、コンピュータプログラムコード1006、すなわち一組の実行可能命令で符号化された、すなわち記憶している非一時的コンピュータ可読記憶媒体1004とを含む。コンピュータ可読記憶媒体1004はまた、外部デバイスとインターフェースするための命令1007で符号化される。プロセッサ1002は、バス1008を介してコンピュータ可読記憶媒体1004に電気的に結合される。プロセッサ1002はまた、バス1008によって入力/出力(I/O)インターフェース1010に電気的に結合されている。ネットワークインターフェース1012はまた、バス1008を介してプロセッサ1002に電気的に接続されている。ネットワークインターフェース1021は、プロセッサ1002およびコンピュータ可読記憶媒体1004がネットワーク1014を介して外部要素に接続することができるように、ネットワーク1014に接続される。プロセッサ1002は、マッピングシステム1000に、マッピングシステム100(図1)、マッピングシステム200(図2)、方法300(図3)、マッピングシステム400(図4)、方法500(図5)、マッピングシステム600(図6)、方法700(図7)、マッピングシステム800(図8)、または方法900(図9)で説明した動作の一部または全部を実行するために使用可能にさせるために、コンピュータ可読記憶媒体1004に符号化されたコンピュータプログラムコード1006を実行するように構成される。
いくつかの実施形態では、プロセッサ1002は、中央処理装置(CPU)、マルチプロセッサ、分散処理システム、特定用途向け集積回路(ASIC)、および/または適切な処理装置である。
いくつかの実施形態では、コンピュータ可読記憶媒体1004は、電子、磁気、光学、電磁、赤外線、および/または半導体システム(または装置もしくはデバイス)である。例えば、コンピュータ可読記憶媒体1004は、半導体またはソリッドステートメモリ、磁気テープ、リムーバブルコンピュータディスケット、ランダムアクセスメモリ(RAM)、読み出し専用メモリ(ROM)、剛性磁気ディスク、および/または光ディスクを含む。光ディスクを使用するいくつかの実施形態では、コンピュータ可読記憶媒体1004は、コンパクトディスク読み出し専用メモリ(CD-ROM)、コンパクトディスク読み出し/書き込み(CD-R/W)、および/またはデジタルビデオディスク(DVD)を含む。
いくつかの実施形態では、記憶媒体1004は、マッピングシステム1000に、マッピングシステム100(図1)、マッピングシステム200(図2)、方法300(図3)、マッピングシステム400(図4)、方法500(図5)、マッピングシステム600(図6)、方法700(図7)、マッピングシステム800(図8)、または方法900(図9)で説明した動作の一部または全部を実行させるように構成されたコンピュータプログラムコード1006を記憶する。いくつかの実施形態では、記憶媒体1004はまた、マッピングシステム100(図1)、マッピングシステム200(図2)、方法300(図3)、マッピングシステム400(図4)、方法500(図5)、マッピングシステム600(図6)、方法700(図7)、マッピングシステム800(図8)、または方法900(図9)で説明した動作の一部またはすべての実行のために使用される情報、ならびにマッピングシステム100(図1)、マッピングシステム200(図2)、方法300(図3)、マッピングシステム400(図4)、方法500(図5)、マッピングシステム600(図6)、方法700(図7)、マッピングシステム800(図8)、または方法900(図9)で説明したような動作の一部またはすべてを実行する間に生成される情報、例えば、深度パラメータ1016、画像パラメータ1018、基準マップパラメータ1020、変化マップパラメータ1022、更新マップパラメータ1024、および/または一組の実行可能な命令を記憶して、マッピングシステム100(図1)、マッピングシステム200(図2)、方法300(図3)、マッピングシステム400(図4)、方法500(図5)、マッピングシステム600(図6)、方法700(図7)、マッピングシステム800(図8)、または方法900(図9)で説明したような動作の一部またはすべてを実行する。
いくつかの実施形態では、記憶媒体1004は、外部デバイスとインターフェースするための命令1007を記憶する。命令1007は、マッピングシステム100(図1)、マッピングシステム200(図2)、方法300(図3)、マッピングシステム400(図4)、方法500(図5)、マッピングシステム600(図6)、方法700(図7)、マッピングシステム800(図8)、または方法900(図9)で説明した動作の一部またはすべてを効果的に実施するために、外部デバイスによって読み取り可能な命令をプロセッサ1002が生成することを可能にする。
マッピングシステム1000は、I/Oインターフェース1010を含む。I/Oインターフェース1010は、外部回路に結合されている。いくつかの実施形態では、I/Oインターフェース1010は、情報およびコマンドをプロセッサ1002に通信するためのキーボード、キーパッド、マウス、トラックボール、トラックパッド、および/またはカーソル方向キーを含む。
マッピングシステム1000はまた、プロセッサ1002に結合されたネットワークインターフェース1012を含む。ネットワークインターフェース1012は、マッピングシステム1000が、1つまたは複数の他のコンピュータシステムが接続されているネットワーク1014と通信することを可能にする。ネットワークインターフェース1012は、BLUETOOTH(登録商標)、WIFI、WIMAX、GPRS、またはWCDMA(登録商標)などの無線ネットワークインターフェース、またはETHERNET、USB、IEEE-1394などの有線ネットワークインターフェースを含む。いくつかの実施形態では、マッピングシステム100(図1)、マッピングシステム200(図2)、方法300(図3)、マッピングシステム400(図4)、方法500(図5)、マッピングシステム600(図6)、方法700(図7)、マッピングシステム800(図8)、または方法900(図9)で説明した動作の一部または全部は、2つ以上のマッピングシステム1000に実装され、深度パラメータ1016、画像パラメータ1018、基準マップパラメータ1020、変化マップパラメータ1022、または更新マップパラメータ1024などの情報は、ネットワーク1014を介して異なるマッピングシステム1000間で交換される。
上記の実施形態の一部又は全部は、以下の付記のようにも記述され得るが、以下に限定されるものではない。
(付記1)
命令を記憶するように構成された非一時的コンピュータ可読媒体と、
前記非一時的コンピュータ可読媒体に接続されたプロセッサとを含み、前記プロセッサは、
シーンの画像データを含む入力信号を受信し、
前記シーンの基準マップに対して前記画像データを取り込むために使用されるセンサの位置を判定し、
前記センサの前記判定された位置と前記基準マップとに基づいて前記シーンの変化点および変化スコアを判定し、
前記変化点および前記変化スコアに基づいて変化マップを生成し、
前記変化マップと前記基準マップとの比較に基づいて更新マップを生成し、
前記基準マップの内容を変化させずに維持する
ための前記命令を実行するように構成される、マッピングシステム。
(付記2)
前記プロセッサは、
前記変化点および前記変化スコアを利用して、前記変化点および前記変化スコアが前記画像データの中の幾何学的に意味のある形状を示すかどうかを判定することによって、前記変化マップを生成する
ための前記命令を実行するようにさらに構成される、付記1に記載のマッピングシステム。
(付記3)
前記プロセッサは、
前記変化点および前記変化スコアが前記幾何学的に意味のある形状を示さないことに応答して、前記基準マップに対して前記点に関連する変化を示さない前記変化マップを生成する
ための前記命令を実行するようにさらに構成される、付記1または付記2に記載のマッピングシステム。
(付記4)
前記プロセッサは、
前記変化点および前記変化スコアが前記幾何学的に意味のある形状を示すことに応答して、前記基準マップに対して前記点に関する変化を示す前記変化マップを生成する
ための前記命令を実行するようにさらに構成される、付記1から3のいずれか一つに記載のマッピングシステム。
(付記5)
前記プロセッサは、
深度データを含む前記入力信号を受信する
ための前記命令を実行するようにさらに構成される、付記1から4のいずれか一つに記載のマッピングシステム。
(付記6)
前記プロセッサは、
2次元(2D)セグメントを生成するために前記入力信号をセグメント化し、
前記2Dセグメントを利用して前記変化マップを生成する
ための前記命令を実行するようにさらに構成される、付記1から5のいずれか一つに記載のマッピングシステム。
(付記7)
前記プロセッサは、
前記入力信号に基づいて3次元(3D)データを再構成し、
前記再構成された3Dデータに基づいて前記変化点および前記変化スコアを判定する
ための前記命令を実行するようにさらに構成される、付記1から6のいずれか一つに記載のマッピングシステム。
(付記8)
シーンの画像データを含む入力信号を受信することと、
前記シーンの基準マップに対する前記画像データを取り込むために使用されるセンサの位置を判定することと、
前記センサの前記判定された位置および前記基準マップに基づいて前記シーンの変化点および変化スコアを判定することと、
前記変化点および前記変化スコアに基づいて変化マップを生成することと、
前記変化マップと前記基準マップとの比較に基づいて更新マップを生成することと、
前記基準マップの内容を変化させずに維持することと
を含む、マッピングシステムを使用する方法。
(付記9)
前記変化マップを生成することは、前記変化点および前記変化スコアが前記画像データの中の幾何学的に意味のある形状を示すかどうかを判定するために、前記変化点および前記変化スコアを利用することを含む、付記8に記載の方法。
(付記10)
前記変化マップを生成することは、前記変化点および前記変化スコアが前記幾何学的に意味のある形状を示さないことに応答して、前記基準マップに対して前記点に関連する変化を示さないことを含む、付記8または付記9に記載のマッピングシステムを使用する方法。
(付記11)
前記変化マップを生成することは、前記変化点および前記変化スコアが前記幾何学的に意味のある形状を示すことに応答して、前記基準マップに対して前記点に関連する変化を示すことを含む、付記8から付記10のいずれか一つに記載のマッピングシステムを使用する方法。
(付記12)
前記入力信号を受信することは、深度データを受信することを含む、付記8から付記11のいずれか一つに記載のマッピングシステムを使用する方法。
(付記13)
2次元(2D)セグメントを生成するために前記入力信号をセグメント化することと、
前記2Dセグメントを利用して前記変化マップを生成することと
をさらに含む、付記8から付記12のいずれか一つに記載のマッピングシステムを使用する方法。
(付記14)
前記入力信号に基づいて3次元(3D)データを再構成することと、
前記再構成された3Dデータに基づいて前記変化点および前記変化スコアを判定することと
をさらに含む、付記8から付記13のいずれか一つに記載のマッピングシステムを使用する方法。
(付記15)
シーンの画像データを含む入力信号を受信し、
前記シーンの基準マップに対する前記画像データを取り込むために使用されるセンサの位置を判定し、
前記センサの前記判定された位置および前記基準マップに基づいて前記シーンの変化点および変化スコアを判定し、
前記変化点および前記変化スコアに基づいて変化マップを生成し、
前記変化マップと前記基準マップとの比較に基づいて更新マップを生成し、
前記基準マップの内容を変化させずに維持する
ことをプロセッサに実行させるためのプログラム。
(付記16)
前記変化点および前記変化スコアを利用して、前記変化点および前記変化スコアが前記画像データの中の幾何学的に意味のある形状を示すかどうかを判定することによって、前記変化マップを生成することを前記プロセッサに実行させる、付記15に記載のプログラム。
(付記17)
前記変化点および前記変化スコアが前記幾何学的に意味のある形状を示さないことに応答して、前記基準マップに対して前記点に関連する変化を示さない前記変化マップを生成することを前記プロセッサに実行させる、付記15または付記16に記載のプログラム。
(付記18)
前記変化点および前記変化スコアが前記幾何学的に意味のある形状を示すことに応答して、前記基準マップに対して前記点に関連する変化を示す前記変化マップを生成することを前記プロセッサに実行させる、付記15から付記17のいずれか一つに記載のプログラム。
(付記19)
2次元(2D)セグメントを生成するために前記入力信号をセグメント化し、
前記2Dセグメントを利用して前記変化マップを生成する
ことを前記プロセッサに実行させる、付記15から付記18のいずれか一つに記載のプログラム。
(付記20)
前記入力信号に基づいて3次元(3D)データを再構成し、
前記再構成された3Dデータに基づいて前記変化点および前記変化スコアを判定する
ことを前記プロセッサに実行させる、付記15から付記19のいずれか一つに記載のプログラム。
(付記21)
マッピングシステムは、命令を記憶するように構成された非一時的コンピュータ可読媒体を含む。マッピングシステムは、非一時的コンピュータ可読媒体に接続されたプロセッサを含む。プロセッサは、シーンの画像データを含む入力信号を受信するための命令を実行するように構成される。プロセッサは、シーンの基準マップに対する画像データを取り込むために使用されるセンサの位置を判定するための命令を実行するように構成される。プロセッサは、センサの判定された位置、基準マップ、およびシーンの以前のマッピングからの第1の変化マップに基づいて、シーンの変化点および変化スコアを判定するための命令を実行するように構成される。プロセッサは、変化点および変化スコアに基づいて第2の変化マップを生成するための命令を実行するように構成される。プロセッサは、第2の変化マップと基準マップとの比較に基づいて更新マップを生成するための命令を実行するように構成される。プロセッサは、基準マップの内容を変化させずに維持するための命令を実行するように構成される。
(付記22)
マッピングシステムは、命令を記憶するように構成された非一時的コンピュータ可読媒体を含む。マッピングシステムは、非一時的コンピュータ可読媒体に接続されたプロセッサを含む。プロセッサは、シーンの入力信号を受信するための命令を実行するように構成され、入力信号は画像データおよび深度データを含む。プロセッサは、画像データに基づいてシーンの基準マップに対する画像データを取り込むために使用されるセンサの位置を判定するための命令を実行するように構成される。プロセッサは、深度データ、センサの判定された位置、および基準マップに基づいてシーンの変化点および変化スコアを判定するための命令を実行するように構成される。プロセッサは、変化点および変化スコアに基づいて、オブジェクトが幾何学的に意味のあるオブジェクトであるかどうかを判定するための命令を実行するように構成される。プロセッサは、オブジェクトを幾何学的に意味のあるオブジェクトと判定したことに応答して、更新されたマップを生成するための命令を実行するように構成される。プロセッサは、オブジェクトが幾何学的に意味のあるオブジェクトではないという判定に応答して、基準マップに対する変化を示さないための命令を実行するように構成される。
(付記23)
マッピングシステムは、命令を記憶するように構成された非一時的コンピュータ可読媒体を含む。マッピングシステムは、非一時的コンピュータ可読媒体に接続されたプロセッサをさらに含む。プロセッサは、シーンの画像データを含む入力信号を受信するための命令を実行するように構成される。プロセッサは、シーンの基準マップに対する画像データを取り込むために使用されるセンサの位置を判定するための命令を実行するように構成される。プロセッサは、画像データをセグメント化して2次元(2D)セグメントを生成するための命令を実行するように構成される。プロセッサは、センサの判定された位置および基準マップに基づいてシーンの変化点および変化スコアを判定するための命令を実行するように構成される。プロセッサは、変化点および変化スコアならびに2Dセグメントに基づいて変化マップを生成するための命令を実行するように構成される。プロセッサは、変化マップと基準マップとの比較に基づいて更新マップを生成するための命令を実行するように構成される。プロセッサは、基準マップの内容を変化させずに維持するための命令を実行するように構成される。
(付記24)
マッピングシステムは、命令を記憶するように構成された非一時的コンピュータ可読媒体を含む。マッピングシステムは、非一時的コンピュータ可読媒体に接続されたプロセッサを含む。プロセッサは、第1のセンサからのデータに基づいて基準マップを生成するための命令を実行するように構成され、第1のセンサは第1の解像度を有する。プロセッサは、シーンの画像データを含む入力信号を受信するための命令を実行するように構成される。プロセッサは、シーンの基準マップに対する画像データを取り込むために使用される第2のセンサの位置を判定するための命令を実行するように構成され、第2のセンサは、第1の解像度よりも小さい第2の解像度を有する。プロセッサは、センサの判定された位置および基準マップに基づいてシーンの変化点および変化スコアを判定するための命令を実行するように構成される。プロセッサは、変化点および変化スコアに基づいて変化マップを生成するための命令を実行するように構成される。プロセッサは、変化マップと基準マップとの比較に基づいて更新マップを生成するための命令を実行するように構成される。プロセッサは、基準マップの内容を変化させずに維持するための命令を実行するように構成される。
上記は、当業者が本開示の態様をよりよく理解することができるように、いくつかの実施形態の特徴を概説している。当業者は、本明細書に導入された実施形態と同じ目的を実行し、および/または同じ利点を達成するための他のプロセスおよび構造を設計または変更するための基礎として本開示を容易に使用することができることを理解するはずである。当業者はまた、そのような同等の構成が本開示の精神および範囲から逸脱するものではなく、本開示の精神および範囲から逸脱することなく本明細書において様々な変化、置換、および変更を行うことができることを理解すべきである。
この出願は、2023年3月9日に出願された米国特願18/180,861号を基礎とする優先権を主張し、その開示の全てをここに取り込む。
100 マッピングシステム
105 登録モジュール
110 変化検出モジュール
115 変化改善モジュール
120 変化3Dマップ
125 基準3Dマップ
130 マップ更新モジュール
135 下流タスクモジュール
200 マッピングシステム
205 マップ作成モジュール
300 方法
400 マッピングシステム
405 セグメント化モジュール
410 セグメントベース改善モジュール
500 方法
600 マッピングシステム
605 3D再構成モジュール
700 方法
800 マッピングシステム
900 方法
1000 マッピングシステム
1002 プロセッサ
1004 コンピュータ可読記憶媒体
1006 コンピュータプログラムコード
1007 命令
1008 バス
1010 I/Oインターフェース
1012 ネットワークインターフェース
1014 ネットワーク
1016 深度パラメータ
1018 画像パラメータ
1020 基準マップパラメータ
1021 ネットワークインターフェース
1022 変化マップパラメータ
1024 更新マップパラメータ

Claims (10)

  1. 命令を記憶するように構成された非一時的コンピュータ可読媒体と、
    前記非一時的コンピュータ可読媒体に接続されたプロセッサとを含み、前記プロセッサは、
    シーンの画像データを含む入力信号を受信し、
    前記シーンの基準マップに対して前記画像データを取り込むために使用されるセンサの位置を判定し、
    前記センサの前記判定された位置と前記基準マップとに基づいて前記シーンの変化点および変化スコアを判定し、
    前記変化点および前記変化スコアに基づいて変化マップを生成し、
    前記変化マップと前記基準マップとの比較に基づいて更新マップを生成し、
    前記基準マップの内容を変化させずに維持する
    ための前記命令を実行するように構成される、マッピングシステム。
  2. 前記プロセッサは、
    前記変化点および前記変化スコアを利用して、前記変化点および前記変化スコアが前記画像データの中の幾何学的に意味のある形状を示すかどうかを判定することによって、前記変化マップを生成する
    ための前記命令を実行するようにさらに構成される、請求項1に記載のマッピングシステム。
  3. 前記プロセッサは、
    前記変化点および前記変化スコアが前記幾何学的に意味のある形状を示さないことに応答して、前記基準マップに対して前記点に関連する変化を示さない前記変化マップを生成する
    ための前記命令を実行するようにさらに構成される、請求項2に記載のマッピングシステム。
  4. 前記プロセッサは、
    前記変化点および前記変化スコアが前記幾何学的に意味のある形状を示すことに応答して、前記基準マップに対して前記点に関する変化を示す前記変化マップを生成する
    ための前記命令を実行するようにさらに構成される、請求項2に記載のマッピングシステム。
  5. 前記プロセッサは、
    深度データを含む前記入力信号を受信する
    ための前記命令を実行するようにさらに構成される、請求項1または請求項2に記載のマッピングシステム。
  6. 前記プロセッサは、
    2次元(2D)セグメントを生成するために前記入力信号をセグメント化し、
    前記2Dセグメントを利用して前記変化マップを生成する
    ための前記命令を実行するようにさらに構成される、請求項1または請求項2に記載のマッピングシステム。
  7. 前記プロセッサは、
    前記入力信号に基づいて3次元(3D)データを再構成し、
    前記再構成された3Dデータに基づいて前記変化点および前記変化スコアを判定する
    ための前記命令を実行するようにさらに構成される、請求項1または請求項2に記載のマッピングシステム。
  8. シーンの画像データを含む入力信号を受信することと、
    前記シーンの基準マップに対する前記画像データを取り込むために使用されるセンサの位置を判定することと、
    前記センサの前記判定された位置および前記基準マップに基づいて前記シーンの変化点および変化スコアを判定することと、
    前記変化点および前記変化スコアに基づいて変化マップを生成することと、
    前記変化マップと前記基準マップとの比較に基づいて更新マップを生成することと、
    前記基準マップの内容を変化させずに維持することと
    を含む、マッピングシステムを使用する方法。
  9. 前記変化マップを生成することは、前記変化点および前記変化スコアが前記画像データの中の幾何学的に意味のある形状を示すかどうかを判定するために、前記変化点および前記変化スコアを利用することを含む、請求項8に記載の方法。
  10. シーンの画像データを含む入力信号を受信し、
    前記シーンの基準マップに対する前記画像データを取り込むために使用されるセンサの位置を判定し、
    前記センサの前記判定された位置および前記基準マップに基づいて前記シーンの変化点および変化スコアを判定し、
    前記変化点および前記変化スコアに基づいて変化マップを生成し、
    前記変化マップと前記基準マップとの比較に基づいて更新マップを生成し、
    前記基準マップの内容を変化させずに維持する
    ことをプロセッサに実行させるためのプログラム。
JP2024024080A 2023-03-09 2024-02-20 マッピングシステム、マッピングシステムを使用する方法、およびプログラム Pending JP2024127790A (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US18/180,861 2023-03-09
US18/180,861 US20240302182A1 (en) 2023-03-09 2023-03-09 Mapping system and method of using

Publications (1)

Publication Number Publication Date
JP2024127790A true JP2024127790A (ja) 2024-09-20

Family

ID=92636253

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2024024080A Pending JP2024127790A (ja) 2023-03-09 2024-02-20 マッピングシステム、マッピングシステムを使用する方法、およびプログラム

Country Status (2)

Country Link
US (1) US20240302182A1 (ja)
JP (1) JP2024127790A (ja)

Also Published As

Publication number Publication date
US20240302182A1 (en) 2024-09-12

Similar Documents

Publication Publication Date Title
KR101283262B1 (ko) 영상 처리 방법 및 장치
US10373380B2 (en) 3-dimensional scene analysis for augmented reality operations
US9672634B2 (en) System and a method for tracking objects
US9984291B2 (en) Information processing apparatus, information processing method, and storage medium for measuring a position and an orientation of an object by using a model indicating a shape of the object
KR20150121179A (ko) 실시간 스테레오 정합
KR20130066438A (ko) 영상 처리 장치 및 영상 처리 방법
JP6968342B2 (ja) 物体認識処理装置、物体認識処理方法及びプログラム
JP6021689B2 (ja) 車両諸元計測処理装置、車両諸元計測方法及びプログラム
CN114782499A (zh) 一种基于光流和视图几何约束的图像静态区域提取方法及装置
Gu et al. Histograms of the normalized inverse depth and line scanning for urban road detection
JP6116765B1 (ja) 物体検出装置及び物体検出方法
Yogeswaran et al. 3d surface analysis for automated detection of deformations on automotive body panels
JP6052533B2 (ja) 特徴量抽出装置および特徴量抽出方法
JP2009288917A (ja) 情報処理装置、情報処理方法、およびプログラム
JP5217917B2 (ja) 物体検知追跡装置,物体検知追跡方法および物体検知追跡プログラム
JP2024127790A (ja) マッピングシステム、マッピングシステムを使用する方法、およびプログラム
JP5829155B2 (ja) 歩行者検出装置及びプログラム
JP2011108224A (ja) 画像の輪郭点検出方法
WO2022214821A2 (en) Monocular depth estimation
JP5470529B2 (ja) 動き検出装置、動き検出方法及び動き検出プログラム
CN109146969B (zh) 行人定位方法、装置及处理设备及其存储介质
JP2018151940A (ja) 障害物検出装置および障害物検出方法
Corneliu et al. Real-time pedestrian classification exploiting 2D and 3D information
KR20150109868A (ko) 깊이정보를 사용한 바닥영역 처리방법과 이를 위한 처리장치 및 프로그램을 기록한 컴퓨터 판독 가능 기록 매체
Zhang et al. Algorithm modification approach to improve the Kinect’s performance in point cloud processing

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20240220

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20241015