Nothing Special   »   [go: up one dir, main page]

JP7261889B2 - 共有地図に基づいた測位方法及び装置、電子機器並びに記憶媒体 - Google Patents

共有地図に基づいた測位方法及び装置、電子機器並びに記憶媒体 Download PDF

Info

Publication number
JP7261889B2
JP7261889B2 JP2021543389A JP2021543389A JP7261889B2 JP 7261889 B2 JP7261889 B2 JP 7261889B2 JP 2021543389 A JP2021543389 A JP 2021543389A JP 2021543389 A JP2021543389 A JP 2021543389A JP 7261889 B2 JP7261889 B2 JP 7261889B2
Authority
JP
Japan
Prior art keywords
current frame
map data
terminal
positioning
feature
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021543389A
Other languages
English (en)
Other versions
JP2022518810A (ja
Inventor
▲謝▼▲衛▼健
王楠
▲錢▼▲權▼浩
章国▲鋒▼
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Zhejiang Sensetime Technology Development Co Ltd
Original Assignee
Zhejiang Sensetime Technology Development Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Zhejiang Sensetime Technology Development Co Ltd filed Critical Zhejiang Sensetime Technology Development Co Ltd
Publication of JP2022518810A publication Critical patent/JP2022518810A/ja
Application granted granted Critical
Publication of JP7261889B2 publication Critical patent/JP7261889B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/64Three-dimensional objects
    • G06V20/647Three-dimensional objects by matching two-dimensional images to three-dimensional objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/29Geographical information databases
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/74Image or video pattern matching; Proximity measures in feature spaces
    • G06V10/75Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
    • G06V10/757Matching configurations of points or features
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/10Terrestrial scenes

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Databases & Information Systems (AREA)
  • Computing Systems (AREA)
  • Artificial Intelligence (AREA)
  • Health & Medical Sciences (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Software Systems (AREA)
  • Remote Sensing (AREA)
  • Data Mining & Analysis (AREA)
  • General Engineering & Computer Science (AREA)
  • Image Analysis (AREA)
  • Navigation (AREA)

Description

(関連出願の相互参照)
本願は、2019年06月27日に中国特許局に提出された、出願番号が201910569120.6であり、名称が「共有地図に基づいた測位方法及び装置、電子機器並びに記憶媒体」である中国特許出願に基づく優先権を主張し、該中国特許出願の全内容が参照として本願に組み込まれる。
本願は、測位技術分野に関し、特に、共有地図に基づいた測位方法及び装置、電子機器並びに記憶媒体に関する。
複数の端末は、それぞれの座標系において運動及び自己測位を行うことができる。測位技術の成長に伴い、共有地図に基づいた測位技術の適用シーンは、広い。例えば、1つの適用シーンにおいて、自己位置推定とマッピングの同時実行(SLAM:simultaneous localization and mapping)は、ロボットが未知の環境において、未知の位置から移動し、移動過程において、位置推定及び地図に基づいて自己測位を行うことで、ロボットの自律的測位及び地図共有を実現させることである。
複数の端末が同一の地図を共有し、つまり、複数の端末が共有地図において運動及び測位を行う時に、複数の端末同士の正確な測位を如何に実現させるかは、解決しようとする技術的課題である。しかしながら、関連技術において、効果的な解決手段がない。
本願は、共有地図に基づいた測位の技術的解決手段を提供する。
本願の一態様によれば、共有地図に基づいた測位方法を提供する。前記方法は、
第1端末により収集された画像における、少なくとも1つのキーフレームを含むグローバル地図データから、前記キーフレームに関連する局所的地図データを抽出することと、
第2端末により収集された画像における現在のフレームを取得することと、
前記現在のフレームと前記局所的地図データに対して特徴マッチングを行い、マッチング結果に基づいて、現在のフレームの測位結果を得ることと、を含む。
本願によれば、少なくとも1つのキーフレームを含むグローバル地図データから、前記キーフレームに関連する局所的地図データを抽出することができる。前記キーフレームに関連する局所的地図データに、現在のフレームに最も類似した複数のキーフレームからなる候補フレームが含まれる。これにより、現在のフレームと特徴マッチングされたキーフレームのデータ量が多くなる。従って、特徴マッチングの正確度が向上する。該マッチング結果に基づいて現在のフレームの測位結果を得た後、該測位結果に基づいて複数の端末に対して共有地図において運動及び測位を行い、相互の正確な測位を実現させることができる。
可能な実現形態において、前記第2端末により収集された画像における現在のフレームを取得する前に、前記方法は、前記現在のフレームから抽出された特徴点の数が特徴マッチングのための所望閾値未満であるかどうかを判定し、所望閾値未満である場合、前記現在のフレームに対する特徴点補完処理をトリガすることを更に含む。
本願によれば、現在のフレームから抽出された特徴点の数が特徴マッチングのための所望閾値に合致するかどうかを判定することができる。合致した場合、現在のフレームから抽出された特徴点を直接的に利用する。合致しない場合、前記現在のフレームに対する特徴点補完処理をトリガする。
可能な実現形態において、前記第2端末により収集された現在のフレームに、前記現在のフレームに対する特徴点補完処理を行った後に得られた現在のフレームが含まれる。
本願によれば、第2端末により収集された現在のフレームについて、現在のフレームから抽出された特徴点を直接的に利用してもよく、現在のフレームに対する特徴点補完処理を行った後に得られた現在のフレームであってもよい。これにより、実際の需要に応じて、異なる特徴点抽出方式を用いる。
可能な実現形態において、前記現在のフレームに対する特徴点補完処理を行うことは、
現在のフレームに対して特徴点抽出を行うための第1選別閾値を取得することと、
参照情報に基づいて、前記第1選別閾値に対して自己適応的に調整を行い、第2選別閾値を得て、前記第2選別閾値に基づいて前記現在のフレームに特徴点を増やして補完し、特徴点の数を実際の収集により得られた特徴点の数より大きくすることと、を含む。
本願によれば、前記現在のフレームに対する特徴点補完処理をトリガした後、選別閾値に対して自己適応的に調整を行い、調整された選別閾値に基づいて前記現在のフレームに特徴点を増やして補完し、特徴点の数を実際の収集により得られた特徴点の数より大きくすることができる。これにより、より多くの特徴点を利用して特徴マッチングを行う。マッチング効果は、より正確になる。
可能な実現形態において、前記参照情報は、画像収集の環境情報、画像収集装置におけるパラメータ情報、現在のフレームの自らの画像情報のうちの少なくとも1つを含む。
本願によれば、如何なる外部情報又は現在のフレーム自己の情報は、選別閾値の自己適応的調整にも影響を与える。少なくとも1つの状況を考慮して、後続で調整された選別閾値に基づいて前記現在のフレームに特徴点を増やして補完し、特徴点の数を実際の収集により得られた特徴点の数より大きくする。これにより、より多くの特徴点を利用して特徴マッチングを行う。マッチング効果は、より正確になる。
可能な実現形態において、前記現在のフレームと前記局所的地図データに対して特徴マッチングを行い、マッチング結果に基づいて現在のフレームの測位結果を得ることは、
前記現在のフレームと前記局所的地図データにおける少なくとも1つのキーフレームに対して、特徴点の2D特徴マッチングを行い、2D特徴マッチング結果を得ることと、
前記2D特徴マッチング結果から、3D情報を含む2D特徴マッチング結果を選別し、前記3D情報を抽出することと、
前記3D情報に基づいて、前記現在のフレームの位置姿勢を得て、前記現在のフレームの位置姿勢を前記測位結果とすることと、を含む。
本願によれば、前記現在のフレームと前記局所的地図データにおける少なくとも1つのキーフレームに対して、特徴点の2D特徴マッチングを行う。つまり、二次元空間における位置を決定する。位置姿勢は、向き及び変位を含む。変位は、二次元空間における位置で記述されてもよいが、向きという形態を決定するために、3D情報を更に必要とする。従って、前記2D特徴マッチング結果から、3D情報を含む2D特徴マッチング結果を選別して前記3D情報を抽出する必要がある。これにより、前記3D情報に基づいて前記現在のフレームの位置姿勢を得て、前記現在のフレームの位置姿勢を前記測位結果とすることで、該測位結果に基づいて複数の端末に対して共有地図において運動及び測位を行い、相互の正確な測位を実現させることができる。
本願の一態様によれば、共有地図に基づいた測位方法を提供する。前記方法は、
第1端末が画像収集を行い、少なくとも1つのキーフレームを含むグローバル地図データを得ることと、
前記第1端末が前記グローバル地図データから、前記キーフレームに関連する局所的地図データを抽出することと、
前記第1端末が第2端末により収集された現在のフレームを受信し、前記現在のフレームと前記局所的地図データに対して特徴マッチングを行い、マッチング結果に基づいて現在のフレームの測位結果を得て、前記測位結果を送信することと、を含む。
本願によれば、第1端末により、少なくとも1つのキーフレームを含むグローバル地図データを収集する。第1端末側で測位を行う。具体的には、前記グローバル地図データから、前記キーフレームに関連する局所的地図データを抽出し、第2端末から取得された現在のフレームと前記局所的地図データに対して特徴マッチングを行い、マッチング結果に基づいて現在のフレームの測位結果を得て、測位結果を第2端末に送信する。少なくとも1つのキーフレームを含むグローバル地図データから前記キーフレームに関連する局所的地図データを抽出できるため、該測位結果に基づいて複数の端末に対して共有地図において運動及び測位を行い、相互の正確な測位を実現させることができる。
可能な実現形態において、前記第1端末が前記グローバル地図データから、前記キーフレームに関連する局所的地図データを抽出することは、
前記キーフレームを参照中心として、前記キーフレーム及び所定の抽出範囲に基づいて得られた地図データを前記局所的地図データとすることを含む。
本願によれば、前記キーフレームを参照中心として抽出された所定の範囲のデータは、必然的に、前記キーフレームに関連する局所的地図データである。キーフレームとそれに関連する局所的地図データを共同で現在のフレームにマッチングした情報とすることで、特徴点マッチングのデータ量を向上させ、より正確なマッチング効果を得ることができる。
可能な実現形態において、前記現在のフレームと前記局所的地図データに対して特徴マッチングを行い、マッチング結果に基づいて現在のフレームの測位結果を得ることは、
前記現在のフレームと前記局所的地図データにおける少なくとも1つのキーフレームに対して、特徴点の2D特徴マッチングを行い、2D特徴マッチング結果を得ることと、
前記2D特徴マッチング結果から、3D情報を含む2D特徴マッチング結果を選別し、前記3D情報を抽出することと、
前記3D情報に基づいて、前記現在のフレームの位置姿勢を得て、前記現在のフレームの位置姿勢を前記測位結果とすることと、を含む。
本願によれば、前記現在のフレームと前記局所的地図データにおける少なくとも1つのキーフレームに対して、特徴点の2D特徴マッチングを行う。つまり、二次元空間における位置を決定する。位置姿勢は、向き及び変位を含む。変位は、二次元空間における位置で記述されてもよいが、向きという形態を決定するために、3D情報を更に必要とする。従って、前記2D特徴マッチング結果から、3D情報を含む2D特徴マッチング結果を選別して前記3D情報を抽出する必要がある。これにより、前記3D情報に基づいて前記現在のフレームの位置姿勢を得て、前記現在のフレームの位置姿勢を前記測位結果とすることで、該測位結果に基づいて複数の端末に対して共有地図において運動及び測位を行い、相互の正確な測位を実現させることができる。
本願の一態様によれば、共有地図に基づいた測位方法を提供する。前記方法は、
第2端末が画像収集を行い、収集された画像における現在のフレームを得て、前記現在のフレームを送信することと、
前記第2端末が測位結果を受信することであって、前記測位結果は、第1端末が前記現在のフレームと前記キーフレームに関連する局所的地図データに対して特徴マッチングを行い、マッチング結果に基づいて得られた結果であることと、を含み、
グローバル地図データは、第1端末により収集された画像における少なくとも1つのキーフレームを含む地図データであって且つデータ量が前記局所的地図データより大きい。
本願によれば、第1端末側で測位を行い、該測位結果に基づいて複数の端末に対して共有地図に対して運動及び測位を行い、相互の正確な測位を実現させることができる。更に、第2端末で、現在のフレームの特徴点の補完処理を行い、現在のフレームの特徴点の補完処理により、特徴マッチングに用いられる特徴点データを増加させ、特徴マッチングの正確度も向上させる。
可能な実現形態において、前記第2端末が画像収集を行い、収集された画像における現在のフレームを得る前に、前記方法は、前記現在のフレームから抽出された特徴点の数が特徴マッチングのための所望閾値未満であるかどうかを判定し、所望閾値未満である場合、前記現在のフレームに対する特徴点補完処理をトリガすることを更に含む。
本願によれば、現在のフレームから抽出された特徴点の数が特徴マッチングのための所望閾値に合致するかどうかを判定することができる。合致した場合、現在のフレームから抽出された特徴点を直接的に利用する。合致しない場合、前記現在のフレームに対する特徴点補完処理をトリガする。
可能な実現形態において、前記第2端末により収集された現在のフレームに、前記現在のフレームに対する特徴点補完処理を行った後に得られた現在のフレームが含まれる。
本願によれば、第2端末により収集された現在のフレームについて、現在のフレームから抽出された特徴点を直接的に利用してもよく、現在のフレームに対する特徴点補完処理を行った後に得られた現在のフレームであってもよい。これにより、実際の需要に応じて、異なる特徴点抽出方式を用いる。
可能な実現形態において、前記現在のフレームに対する特徴点補完処理を行うことは、
現在のフレームに対して特徴点抽出を行うための第1選別閾値を取得することと、
参照情報に基づいて、前記第1選別閾値に対して自己適応的に調整を行い、第2選別閾値を得て、前記第2選別閾値に基づいて前記現在のフレームに特徴点を増やして補完し、特徴点の数を実際の収集により得られた特徴点の数より大きくすることと、を含む。
本願によれば、前記現在のフレームに対する特徴点補完処理をトリガした後、選別閾値に対して自己適応的に調整を行い、調整された選別閾値に基づいて前記現在のフレームに特徴点を増やして補完し、特徴点の数を実際の収集により得られた特徴点の数より大きくすることができる。これにより、より多くの特徴点を利用して特徴マッチングを行う。マッチング効果は、より正確になる。
可能な実現形態において、前記参照情報は、画像収集の環境情報、画像収集装置におけるパラメータ情報、現在のフレームの自らの画像情報のうちの少なくとも1つを含む。
本願によれば、如何なる外部情報又は現在のフレーム自己の情報は、選別閾値の自己適応的調整にも影響を与える。少なくとも1つの状況を考慮して、後続で調整された選別閾値に基づいて前記現在のフレームに特徴点を増やして補完し、特徴点の数を実際の収集により得られた特徴点の数より大きくする。これにより、より多くの特徴点を利用して特徴マッチングを行う。マッチング効果は、より正確になる。
本願の一態様によれば、共有地図に基づいた測位方法を提供する。前記方法は、
第2端末が、少なくとも1つのキーフレームを含むグローバル地図データを受信し、前記グローバル地図データから、前記キーフレームに関連する局所的地図データを抽出することと、
前記第2端末が画像収集を行い、収集された画像における現在のフレームを得ることと、
前記第2端末が前記現在のフレームと前記局所的地図データに対して特徴マッチングを行い、マッチング結果に基づいて現在のフレームの測位結果を得ることと、を含む。
本願によれば、第2端末側で測位を行う。具体的には、前記グローバル地図データから、前記キーフレームに関連する局所的地図データを抽出し、第2端末から取得された現在のフレームと前記局所的地図データに対して特徴マッチングを行い、マッチング結果に基づいて現在のフレームの測位結果を得る。少なくとも1つのキーフレームを含むグローバル地図データから前記キーフレームに関連する局所的地図データを抽出できるため、該測位結果に基づいて複数の端末に対して共有地図において運動及び測位を行い、相互の正確な測位を実現させることができる。
可能な実現形態において、前記第2端末が画像収集を行い、収集された画像における現在のフレームを取得する前に、前記方法は、前記現在のフレームから抽出された特徴点の数が特徴マッチングのための所望閾値未満であるかどうかを判定し、所望閾値未満である場合、前記現在のフレームに対する特徴点補完処理をトリガすることを更に含む。
本願によれば、現在のフレームから抽出された特徴点の数が特徴マッチングのための所望閾値に合致するかどうかを判定することができる。合致した場合、現在のフレームから抽出された特徴点を直接的に利用する。合致しない場合、前記現在のフレームに対する特徴点補完処理をトリガする。
可能な実現形態において、前記現在のフレームに、前記現在のフレームに対する特徴点補完処理を行った後に得られた現在のフレームが含まれる。
本願によれば、第2端末により収集された現在のフレームについて、現在のフレームから抽出された特徴点を直接的に利用してもよく、現在のフレームに対する特徴点補完処理を行った後に得られた現在のフレームであってもよい。これにより、実際の需要に応じて、異なる特徴点抽出方式を用いる。
可能な実現形態において、前記現在のフレームに対する特徴点補完処理を行うことは、
現在のフレームに対して特徴点抽出を行うための第1選別閾値を取得することと、
参照情報に基づいて、前記第1選別閾値に対して自己適応的に調整を行い、第2選別閾値を得て、前記第2選別閾値に基づいて前記現在のフレームに特徴点を増やして補完し、特徴点の数を実際の収集により得られた特徴点の数より大きくすることと、を含む。
本願によれば、前記現在のフレームに対する特徴点補完処理をトリガした後、選別閾値に対して自己適応的に調整を行い、調整された選別閾値に基づいて前記現在のフレームに特徴点を増やして補完し、特徴点の数を実際の収集により得られた特徴点の数より大きくすることができる。これにより、より多くの特徴点を利用して特徴マッチングを行う。マッチング効果は、より正確になる。
可能な実現形態において、前記参照情報は、画像収集の環境情報、画像収集装置におけるパラメータ情報、現在のフレームの自らの画像情報のうちの少なくとも1つを含む。
本願によれば、如何なる外部情報又は現在のフレーム自己の情報は、選別閾値の自己適応的調整にも影響を与える。少なくとも1つの状況を考慮して、後続で調整された選別閾値に基づいて前記現在のフレームに特徴点を増やして補完し、特徴点の数を実際の収集により得られた特徴点の数より大きくする。これにより、より多くの特徴点を利用して特徴マッチングを行う。マッチング効果は、より正確になる。
可能な実現形態において、前記現在のフレームと前記局所的地図データに対して特徴マッチングを行い、マッチング結果に基づいて現在のフレームの測位結果を得ることは、
前記現在のフレームと前記局所的地図データにおける少なくとも1つのキーフレームに対して、特徴点の2D特徴マッチングを行い、2D特徴マッチング結果を得ることと、
前記2D特徴マッチング結果から、3D情報を含む2D特徴マッチング結果を選別し、前記3D情報を抽出することと、
前記3D情報に基づいて、前記現在のフレームの位置姿勢を得て、前記現在のフレームの位置姿勢を前記測位結果とすることと、を含む。
本願によれば、前記現在のフレームと前記局所的地図データにおける少なくとも1つのキーフレームに対して、特徴点の2D特徴マッチングを行う。つまり、二次元空間における位置を決定する。位置姿勢は、向き及び変位を含む。変位は、二次元空間における位置で記述されてもよいが、向きという形態を決定するために、3D情報を更に必要とする。従って、前記2D特徴マッチング結果から、3D情報を含む2D特徴マッチング結果を選別して前記3D情報を抽出する必要がある。これにより、前記3D情報に基づいて前記現在のフレームの位置姿勢を得て、前記現在のフレームの位置姿勢を前記測位結果とすることで、該測位結果に基づいて複数の端末に対して共有地図において運動及び測位を行い、相互の正確な測位を実現させることができる。
本願の一態様によれば、共有地図に基づいた測位方法を提供する。前記方法は、
第1端末により収集された画像における、少なくとも1つのキーフレームを含むグローバル地図データを受信し、前記グローバル地図データから、前記キーフレームに関連する局所的地図データを抽出することと、
第2端末により収集された画像における現在のフレームを受信することと、
前記現在のフレームと前記局所的地図データに対して特徴マッチングを行い、マッチング結果に基づいて現在のフレームの測位結果を得ることと、
前記測位結果を送信することと、を含む。
本願によれば、クラウド側で測位を行い、測位結果を第2端末に送信する。少なくとも1つのキーフレームを含むグローバル地図データから、前記キーフレームに関連する局所的地図データを抽出できるため、該測位結果に基づいて複数の端末に対して共有地図において運動及び測位を行い、相互の正確な測位を実現させることができる。
本願の一態様によれば、共有地図に基づいた測位装置を提供する。前記装置は、
第1端末により収集された画像における、少なくとも1つのキーフレームを含むグローバル地図データから、前記キーフレームに関連する局所的地図データを抽出するように構成される第1抽出ユニットと、
第2端末により収集された画像における現在のフレームを取得するように構成される第1取得ユニットと、
前記現在のフレームと前記局所的地図データに対して特徴マッチングを行い、マッチング結果に基づいて、現在のフレームの測位結果を得るように構成される第1マッチングユニットと、を備える。
可能な実現形態において、前記装置は、
前記現在のフレームから抽出された特徴点の数が特徴マッチングのための所望閾値未満であるかどうかを判定し、所望閾値未満である場合、前記現在のフレームに対する特徴点補完処理をトリガするように構成されるトリガユニットを更に備える。
可能な実現形態において、前記装置は、
現在のフレームに対して特徴点抽出を行うための第1選別閾値を取得し、
参照情報に基づいて、前記第1選別閾値に対して自己適応的に調整を行い、第2選別閾値を得て、前記第2選別閾値に基づいて前記現在のフレームに特徴点を増やして補完し、特徴点の数を実際の収集により得られた特徴点の数より大きくするように構成される特徴点補完ユニットを更に備える。
本願の一態様によれば、共有地図に基づいた測位装置を提供する。前記装置は、
画像収集を行い、少なくとも1つのキーフレームを含むグローバル地図データを得るように構成される第1収集ユニットと、
前記グローバル地図データから、前記キーフレームに関連する局所的地図データを抽出するように構成される第1抽出ユニットと、
第2端末により収集された現在のフレームを受信し、前記現在のフレームと前記局所的地図データに対して特徴マッチングを行い、マッチング結果に基づいて現在のフレームの測位結果を得て、前記測位結果を送信するように構成される第1マッチングユニットと、を備える。
可能な実現形態において、前記第1マッチングユニットは、更に、
前記現在のフレームと前記局所的地図データにおける少なくとも1つのキーフレームに対して、特徴点の2D特徴マッチングを行い、2D特徴マッチング結果を得て、
前記2D特徴マッチング結果から、3D情報を含む2D特徴マッチング結果を選別し、前記3D情報を抽出し、
前記3D情報に基づいて、前記現在のフレームの位置姿勢を得て、前記現在のフレームの位置姿勢を前記測位結果とするように構成される。
本願の一態様によれば、共有地図に基づいた測位装置を提供する。前記装置は、
画像収集を行い、収集された画像における現在のフレームを得て、前記現在のフレームを送信するように構成される第2収集ユニットと、
測位結果を受信するように構成される第2マッチングユニットであって、前記測位結果は、第1端末が前記現在のフレームと前記キーフレームに関連する局所的地図データに対して特徴マッチングを行い、マッチング結果に基づいて得られた結果である第2マッチングユニットと、を備え、
グローバル地図データは、第1端末により収集された画像における少なくとも1つのキーフレームを含む地図データであって且つデータ量が前記局所的地図データより大きい。
可能な実現形態において、前記装置は、
現在のフレームに対して特徴点抽出を行うための第1選別閾値を取得し、
参照情報に基づいて、前記第1選別閾値に対して自己適応的に調整を行い、第2選別閾値を得て、前記第2選別閾値に基づいて前記現在のフレームに特徴点を増やして補完し、特徴点の数を実際の収集により得られた特徴点の数より大きくするように構成される特徴点補完ユニットを更に備える。
本願の一態様によれば、共有地図に基づいた測位装置を提供する。前記装置は、
少なくとも1つのキーフレームを含むグローバル地図データを受信し、前記グローバル地図データから、前記キーフレームに関連する局所的地図データを抽出するように構成される第2抽出ユニットと、
画像収集を行い、収集された画像における現在のフレームを得るように構成される第2収集ユニットと、
前記現在のフレームと前記局所的地図データに対して特徴マッチングを行い、マッチング結果に基づいて現在のフレームの測位結果を得るように構成される第2マッチングユニットと、を備える。
本願の一態様によれば、共有地図に基づいた測位装置を提供する。前記装置は、
第1端末により収集された画像における、少なくとも1つのキーフレームを含むグローバル地図データを受信し、前記グローバル地図データから、前記キーフレームに関連する局所的地図データを抽出するように構成される第1受信ユニットと、
第2端末により収集された画像における現在のフレームを受信するように構成される第2受信ユニットと、
前記現在のフレームと前記局所的地図データに対して特徴マッチングを行い、マッチング結果に基づいて現在のフレームの測位結果を得るように構成される第3マッチングユニットと、
前記測位結果を送信するように構成される第3測位ユニットと、を備える。
本願の一態様によれば、電子機器を提供する。前記電子機器は、
プロセッサと、
プロセッサによる実行可能な命令を記憶するためのメモリと、を備え、
前記プロセッサは、上記共有地図に基づいた測位方法を実行するように構成される。
本願の一態様によれば、コンピュータ可読記憶媒体を提供する。前記コンピュータ可読記憶媒体にはコンピュータプログラム命令が記憶されており、前記コンピュータプログラム命令がプロセッサにより実行される時、上記共有地図に基づいた測位方法を実現させる。
本願の一態様によれば、コンピュータプログラムを提供する。前記コンピュータプログラムは、コンピュータ可読コードを含み、前記コンピュータ可読コードが電子機器で実行される時、前記電子機器におけるプロセッサは、上記共有地図に基づいた測位方法を実行する。
例えば、本願は以下の項目を提供する。
(項目1)
共有地図に基づいた測位方法であって、
第1端末により収集された画像における、少なくとも1つのキーフレームを含むグローバル地図データから、前記キーフレームに関連する局所的地図データを抽出することと、
第2端末により収集された画像における現在のフレームを取得することと、
前記現在のフレームと前記局所的地図データに対して特徴マッチングを行い、マッチング結果に基づいて、現在のフレームの測位結果を得ることと、を含むことを特徴とする、共有地図に基づいた測位方法。
(項目2)
前記第2端末により収集された画像における現在のフレームを取得する前に、前記方法は、前記現在のフレームから抽出された特徴点の数が特徴マッチングのための所望閾値未満であるかどうかを判定し、所望閾値未満である場合、前記現在のフレームに対する特徴点補完処理をトリガすることを更に含むことを特徴とする
項目1に記載の方法。
(項目3)
前記第2端末により収集された現在のフレームに、前記現在のフレームに対する特徴点補完処理を行った後に得られた現在のフレームが含まれることを特徴とする
項目2に記載の方法。
(項目4)
前記現在のフレームに対する特徴点補完処理を行うことは、
現在のフレームに対して特徴点抽出を行うための第1選別閾値を取得することと、
参照情報に基づいて、前記第1選別閾値に対して自己適応的に調整を行い、第2選別閾値を得て、前記第2選別閾値に基づいて前記現在のフレームに特徴点を増やして補完し、特徴点の数を実際の収集により得られた特徴点の数より大きくすることと、を含むことを特徴とする
項目2又は3に記載の方法。
(項目5)
前記参照情報は、画像収集の環境情報、画像収集装置におけるパラメータ情報、現在のフレームの自らの画像情報のうちの少なくとも1つを含むことを特徴とする
項目4に記載の方法。
(項目6)
前記現在のフレームと前記局所的地図データに対して特徴マッチングを行い、マッチング結果に基づいて現在のフレームの測位結果を得ることは、
前記現在のフレームと前記局所的地図データにおける少なくとも1つのキーフレームに対して、特徴点の2D特徴マッチングを行い、2D特徴マッチング結果を得ることと、
前記2D特徴マッチング結果から、3D情報を含む2D特徴マッチング結果を選別し、前記3D情報を抽出することと、
前記3D情報に基づいて、前記現在のフレームの位置姿勢を得て、前記現在のフレームの位置姿勢を前記測位結果とすることと、を含むことを特徴とする
項目1-5のうちいずれか一項に記載の方法。
(項目7)
共有地図に基づいた測位方法であって、
第1端末が、画像収集を行い、少なくとも1つのキーフレームを含むグローバル地図データを得ることと、
前記第1端末が、前記グローバル地図データから、前記キーフレームに関連する局所的地図データを抽出することと、
前記第1端末が、第2端末により収集された現在のフレームを受信し、前記現在のフレームと前記局所的地図データに対して特徴マッチングを行い、マッチング結果に基づいて現在のフレームの測位結果を得て、前記測位結果を送信することと、を含むことを特徴とする、共有地図に基づいた測位方法。
(項目8)
前記第1端末が前記グローバル地図データから、前記キーフレームに関連する局所的地図データを抽出することは、
前記キーフレームを参照中心として、前記キーフレーム及び所定の抽出範囲に基づいて得られた地図データを前記局所的地図データとすることを含むことを特徴とする
項目7に記載の方法。
(項目9)
前記現在のフレームと前記局所的地図データに対して特徴マッチングを行い、マッチング結果に基づいて現在のフレームの測位結果を得ることは、
前記現在のフレームと前記局所的地図データにおける少なくとも1つのキーフレームに対して、特徴点の2D特徴マッチングを行い、2D特徴マッチング結果を得ることと、
前記2D特徴マッチング結果から、3D情報を含む2D特徴マッチング結果を選別し、前記3D情報を抽出することと、
前記3D情報に基づいて、前記現在のフレームの位置姿勢を得て、前記現在のフレームの位置姿勢を前記測位結果とすることと、を含むことを特徴とする
項目7又は8に記載の方法。
(項目10)
共有地図に基づいた測位方法であって、
第2端末が、少なくとも1つのキーフレームを含むグローバル地図データを受信し、前記グローバル地図データから、前記キーフレームに関連する局所的地図データを抽出することと、
前記第2端末が、画像収集を行い、収集された画像における現在のフレームを得ることと、
前記第2端末が、前記現在のフレームと前記局所的地図データに対して特徴マッチングを行い、マッチング結果に基づいて現在のフレームの測位結果を得ることと、を含むことを特徴とする、共有地図に基づいた測位方法。
(項目11)
前記第2端末が画像収集を行い、収集された画像における現在のフレームを取得する前に、前記方法は、前記現在のフレームから抽出された特徴点の数が特徴マッチングのための所望閾値未満であるかどうかを判定し、所望閾値未満である場合、前記現在のフレームに対する特徴点補完処理をトリガすることを更に含むことを特徴とする
項目10に記載の方法。
(項目12)
前記現在のフレームに、前記現在のフレームに対する特徴点補完処理を行った後に得られた現在のフレームが含まれることを特徴とする
項目11に記載の方法。
(項目13)
前記現在のフレームに対する特徴点補完処理を行うことは、
現在のフレームに対して特徴点抽出を行うための第1選別閾値を取得することと、
参照情報に基づいて、前記第1選別閾値に対して自己適応的に調整を行い、第2選別閾値を得て、前記第2選別閾値に基づいて前記現在のフレームに特徴点を増やして補完し、特徴点の数を実際の収集により得られた特徴点の数より大きくすることと、を含むことを特徴とする
項目11又は12に記載の方法。
(項目14)
前記参照情報は、画像収集の環境情報、画像収集装置におけるパラメータ情報、現在のフレームの自らの画像情報のうちの少なくとも1つを含むことを特徴とする
項目13に記載の方法。
(項目15)
前記現在のフレームと前記局所的地図データに対して特徴マッチングを行い、マッチング結果に基づいて現在のフレームの測位結果を得ることは、
前記現在のフレームと前記局所的地図データにおける少なくとも1つのキーフレームに対して、特徴点の2D特徴マッチングを行い、2D特徴マッチング結果を得ることと、
前記2D特徴マッチング結果から、3D情報を含む2D特徴マッチング結果を選別し、前記3D情報を抽出することと、
前記3D情報に基づいて、前記現在のフレームの位置姿勢を得て、前記現在のフレームの位置姿勢を前記測位結果とすることと、を含むことを特徴とする
項目10-14のうちいずれか一項に記載の方法。
(項目16)
共有地図に基づいた測位装置であって、
第1端末により収集された画像における、少なくとも1つのキーフレームを含むグローバル地図データから、前記キーフレームに関連する局所的地図データを抽出するように構成される第1抽出ユニットと、
第2端末により収集された画像における現在のフレームを取得するように構成される第1取得ユニットと、
前記現在のフレームと前記局所的地図データに対して特徴マッチングを行い、マッチング結果に基づいて、現在のフレームの測位結果を得るように構成される第1マッチングユニットと、を備えることを特徴とする、共有地図に基づいた測位装置。
(項目17)
前記装置は、
前記現在のフレームから抽出された特徴点の数が特徴マッチングのための所望閾値未満であるかどうかを判定し、所望閾値未満である場合、前記現在のフレームに対する特徴点補完処理をトリガするように構成されるトリガユニットを更に備えることを特徴とする
項目16に記載の装置。
(項目18)
前記装置は、
現在のフレームに対して特徴点抽出を行うための第1選別閾値を取得し、
参照情報に基づいて、前記第1選別閾値に対して自己適応的に調整を行い、第2選別閾値を得て、前記第2選別閾値に基づいて前記現在のフレームに特徴点を増やして補完し、特徴点の数を実際の収集により得られた特徴点の数より大きくするように構成される特徴点補完ユニットを更に備えることを特徴とする
項目16又は17に記載の装置。
(項目19)
共有地図に基づいた測位装置であって、
画像収集を行い、少なくとも1つのキーフレームを含むグローバル地図データを得るように構成される第1収集ユニットと、
前記グローバル地図データから、前記キーフレームに関連する局所的地図データを抽出するように構成される第1抽出ユニットと、
第2端末により収集された現在のフレームを受信し、前記現在のフレームと前記局所的地図データに対して特徴マッチングを行い、マッチング結果に基づいて現在のフレームの測位結果を得て、前記測位結果を送信するように構成される第1マッチングユニットと、を備えることを特徴とする、共有地図に基づいた測位装置。
(項目20)
前記第1マッチングユニットは、更に、
前記現在のフレームと前記局所的地図データにおける少なくとも1つのキーフレームに対して、特徴点の2D特徴マッチングを行い、2D特徴マッチング結果を得て、
前記2D特徴マッチング結果から、3D情報を含む2D特徴マッチング結果を選別し、前記3D情報を抽出し、
前記3D情報に基づいて、前記現在のフレームの位置姿勢を得て、前記現在のフレームの位置姿勢を前記測位結果とするように構成されることを特徴とする
項目19に記載の装置。
(項目21)
電子機器であって、前記電子機器は、
プロセッサと、
プロセッサによる実行可能な命令を記憶するためのメモリと備え、
前記プロセッサは、項目1から6、項目7から9、項目10から15のうちいずれか一項に記載の方法を実行するように構成されることを特徴とする、電子機器。
(項目22)
コンピュータ可読記憶媒体であって、前記コンピュータ可読記憶媒体にはコンピュータプログラム命令が記憶されており、前記コンピュータプログラム命令がプロセッサにより実行される時、項目1から6、項目7から9、項目10から15のうちいずれか一項に記載の方法を実現させることを特徴とする、コンピュータ可読記憶媒体。
(項目23)
コンピュータプログラムであって、前記コンピュータプログラムは、コンピュータ可読コードを含み、前記コンピュータ可読コードが電子機器で実行される時、前記電子機器におけるプロセッサは、項目1から6、項目7から9、項目10から15のうちいずれか一項に記載の方法を実行することを特徴とする、コンピュータプログラム。
本願の実施例において、第1端末により収集された画像における、少なくとも1つのキーフレームを含むグローバル地図データから、前記キーフレームに関連する局所的地図データを抽出し、第2端末により収集された画像における現在のフレームを取得し、前記現在のフレームと前記局所的地図データに対して特徴マッチングを行い、マッチング結果に基づいて現在のフレームの測位結果を得る。本願によれば、現在のフレームとキーフレームに対して特徴マッチングを行う過程において、少なくとも1つのキーフレームを含むグローバル地図データから、前記キーフレームに関連する局所的地図データを抽出することができる。前記キーフレームに関連する局所的地図データに、現在のフレームに最も類似した複数のキーフレームからなる候補フレームが含まれる。これにより、現在のフレームと特徴マッチングされたキーフレームのデータ量が多くなる。従って、特徴マッチングの正確度が向上する。該マッチング結果に基づいて現在のフレームの測位結果を得た後、該測位結果に基づいて複数の端末(第1端末及び第2端末は、1つの端末に限定されず、端末を指すものに過ぎない)に対して共有地図において運動及び測位を行い、相互の正確な測位を実現させることができる。
上記の一般的な説明及び後述する細部に関する説明は、例示及び説明のためのものに過ぎず、本願を限定するものではないことが理解されるべきである。
本発明の他の特徴及び態様は、下記の図面に基づく例示的な実施例の詳細な説明を参照すれば明らかになる。
本願の実施例による共有地図に基づいた測位方法を示すフローチャートである。 本願の実施例による共有地図に基づいた測位方法を示すフローチャートである。 本願の実施例による共有地図に基づいた測位方法を示すフローチャートである。 本願の実施例による共有地図に基づいた測位方法を示すフローチャートである。 本願の実施例による共有地図に基づいた測位方法を示すフローチャートである。 本願の実施例による現在のフレームの特徴点の補完過程を示す概略図である。 本願の実施例による現在のフレームの位置姿勢の測位過程を示す概略図である。 本願の実施例による共有地図に基づいた測位装置を示すブロック図である。 本願の実施例による電子機器を示すブロック図である。 本願の実施例による電子機器を示すブロック図である。
ここで添付した図面は、明細書に引き入れて本明細書の一部分を構成し、本発明に適合する実施例を示し、かつ、明細書とともに本願の技術的解決手段を解釈することに用いられる。
以下、図面を参照しながら本願の種々の例示的な実施例、特徴及び態様を詳しく説明する。図面における同一の符号は、同一または類似する機能を有する要素を示す。図面は、実施例の種々の態様を示しているが、特別な説明がない限り、必ずしも比率どおりの図面ではない。
ここで使用した「例示的」という用語は「例、実施例として用いられるか、または説明のためのものである」ことを意味する。ここで、「例示的なもの」として説明される如何なる実施例は、他の実施例より好適または有利であると必ずしも解釈されるべきではない。
本明細書において、用語「及び/又は」は、関連対象の関連関係を説明するためのものであり、3通りの関係が存在することを表す。例えば、A及び/又はBは、Aのみが存在すること、AとBが同時に存在すること、Bのみが存在するという3つの場合を表す。また、本明細書において、用語「少なくとも1つ」は、複数のうちのいずれか1つ又は複数のうちの少なくとも2つの任意の組み合わせを表す。例えば、A、B、Cのうちの少なくとも1つを含むことは、A、B及びCからなる集合から選ばれるいずれか1つ又は複数の要素を含むことを表す。
なお、本願をより良く説明するために、以下の具体的な実施形態において具体的な細部を多く記載した。当業者は、これら具体的な詳細に関わらず、本開示は同様に実施可能であると理解すべきである。本発明の主旨を明確にするために、一部の実例において、当業者に熟知されている方法、手段、素子及び回路については詳しく説明しないことにする。
自己位置推定とマッピングの同時実行(SLAM,simultaneous localization and mapping)を例として、SLAMは、ロボットが未知の環境において、未知の位置から移動し、移動過程において、位置推定及び地図に基づいて自己測位を行うと共に、自己測位を基礎として増分地図を作成し、ロボットの自律的測位及び地図共有を実現させる。異なるロボットが同一のシーンにおける相互の位置を共有する必要がある場合、地図により共有を行い、測位技術により共有地図における相互の位置を決定することで、真実の世界における相互の位置関係を決定する。ロボット、拡張現実(AR:Augmented Reality)、仮想現実(VR:Virtual Reality)において、共有地図に基づいた測位技術の適用シーンは広い。
地図構築方法が異なるため、得られた地図も異なる特性を有し、対応する測位技術も大きく相違している。例えば、レーザレーダのSLAMシステムに基づいて構築された地図は、密集のポイントクラウドである。ここで、ポイントクラウドは、同一の空間参照系でターゲット空間分布及びターゲット表面特性を表す大量の点の集合である。測位は、主に2つのポイントクラウドのマッチングに基づいたものであり、つまり、2枚のポイントクラウド画像に対応する特徴点の特徴マッチングに基づいたものである。しかしながら、レーザレーダの装置コストが高く、また、ポイントクラウドのアライメントに基づいた測位技術の演算量が大きい。ハードウェア装置として、カメラのコストは、レーザレーダのコストよりも低く、カメラを用いたビジョンベースの測位方法において、まず、画像検索を行い、最も類似したキーフレームを見出し、続いて現在のフレームとキーフレームに対して特徴マッチングを行い、マッチング結果に基づいて現在のフレームの位置姿勢を推算する。
しかしながら、上記測位技術を用いる場合、下記の問題がある。1つ目の問題として、演算性能又はSLAMフレームワークによって制限されるため、各フレームの画像から抽出された特徴点の数が限られている。特徴点の抽出にかかる時間が長すぎになると、SLAMアルゴリズムの性能を妨げてしまう。従って、視野角変動又はテクスチャが浅いシーンにおいて測位失敗が発生しやすい。2つ目の問題として、各フレームの画像に含まれる特徴点の数が少ない場合、2つのフレームの画像のマッチングに基づいて測位を行うと、画像特徴点が少なすぎることによる測位失敗を引き起こしやすい。本願によれば、下記いずれか1つのポリシーを用いてもよく、2つのポリシーを組み合わせて用いてもよい。その要旨は、特徴マッチングのためのデータ量を向上させることで、テクスチャが浅い場合の測位能力を向上させ、地図情報を十分に利用して測位の成功率を向上させることである。
ポリシー1:第1端末、第2端末及びクラウド側からなる測位フレームワーク内の測位用の測位ユニット(測位ユニットは、第1端末側、第2端末側又はクラウド側に位置してもよい)において、第1端末からの少なくとも1つのキーフレームを含む共有地図から、第2端末から送信された現在のフレームに最も類似した少なくとも1つのキーフレーム画像を検出した後、特徴マッチングに全てのポイントクラウド情報を使用せず、該少なくとも1つのキーフレームに関連する局所的ポイントクラウド情報を得て、それを用いて特徴マッチングを行い、それによって共有地図のビジョン情報を十分に利用することができる。つまり、現在のフレームとキーフレームとの特徴マッチングと異なっており、現在のフレームと該キーフレームに関連する局所的ポイントクラウド情報に対して特徴マッチングを行う。勿論、特徴マッチングのためのデータ量は増加し、それに伴って、測位の成功率も向上する。
ポリシー2:現在のフレームを用いて共有地図において測位を行う時に、環境に基づいて特徴点を自己適応的にに補完し、現在のフレームから抽出された特徴点の数を常に大きい数にする。例えば、現在のフレームから抽出された特徴点の数は、SLAMシステムを用いて自己追跡を行って得られた現在のフレームの実際の特徴点の数より大きい。勿論、特徴マッチングのためのデータ量は増加し、それに伴って、測位の成功率も向上する。
図1は本願の実施例による共有地図に基づいた測位方法を示すフローチャートである。該共有地図に基づいた測位方法は、共有地図に基づいた測位装置に適用可能である。例えば、共有地図に基づいた測位装置は、端末装置、サーバ又は他の処理装置により実行されてもよい。ここで、端末装置は、ユーザ装置(UE:User Equipment)、携帯機器、セルラ電話、コードレス電話、パーソナルデジタルアシスタント(PDA:Personal Digital Assistant)、ハンドヘルドデバイス、コンピューティングデバイス、車載機器、ウェアブル機器などであってもよい。幾つかの可能な実現形態において、該共有地図に基づいた測位方法は、プロセッサによりメモリに記憶されているコンピュータ可読命令を呼び出すことで実現することができる。図1に示すように、該プロセスは、以下を含む。
ステップS101において、第1端末により収集された画像における、少なくとも1つのキーフレームを含むグローバル地図データから、前記キーフレームに関連する局所的地図データを抽出する。
一例において、前記キーフレームに関連する局所的地図データは、キーフレームに関連する局所的ポイントクラウドデータであってもよく、前記局所的ポイントクラウドデータは、前記キーフレームを中心として選択することができる。キーフレームは、現在のフレームに最も類似した候補フレームを指す。
ステップS102において、第2端末により収集された画像における現在のフレームを取得する。
現在のフレームにおける特徴点の数が特徴マッチングのための所望閾値以上である場合、直接的に、現在のフレームと局所的地図データに対して特徴マッチングを行う。現在のフレームにおける特徴点の数が特徴マッチングのための所望閾値未満である場合、現在のフレームに対する特徴点補完処理をトリガする。
ステップS103において、前記現在のフレームと前記局所的地図データに対して特徴マッチングを行い、マッチング結果に基づいて、現在のフレームの測位結果を得る。
ステップS103を行った後、前記測位結果に基づいて、前記第1端末と前記第2端末が前記グローバル地図データを共有する場合における相互の位置関係を得ることを更に含んでもよい。
本願によれば、現在のフレームとキーフレームに対して特徴マッチングを行うことで測位を実現させることと異なっており、より多くの特徴点を特徴マッチングに利用している。例えば、現在のフレームとキーフレームを中心として形成された局所的ポイントクラウドデータとに対して特徴マッチングを行う。局所的ポイントクラウドデータを用いる場合、より多くの特徴が用いられ、つまり、局所的地図により現在のフレームとキーフレームとのマッチング関係を補完する。従って、より正確な処理効果を達成し、正確な測位を実現させる。
図2は本願の実施例による共有地図に基づいた測位方法を示すフローチャートである。該共有地図に基づいた測位方法は、共有地図に基づいた測位装置に適用可能である。例えば、共有地図に基づいた測位装置は、端末装置、サーバ又は他の処理装置により実行されてもよい。ここで、端末装置は、ユーザ装置(UE:User Equipment)、携帯機器、セルラ電話、コードレス電話、パーソナルデジタルアシスタント(PDA:Personal Digital Assistant)、ハンドヘルドデバイス、コンピューティングデバイス、車載機器、ウェアブル機器などであってもよい。幾つかの可能な実現形態において、該共有地図に基づいた測位方法は、プロセッサによりメモリに記憶されているコンピュータ可読命令を呼び出すことで実現することができる。図2に示すように、該プロセスは、以下を含む。
ステップS201において、第1端末により収集された画像における、少なくとも1つのキーフレームを含むグローバル地図データから、前記キーフレームに関連する局所的地図データを抽出する。
一例において、前記キーフレームに関連する局所的地図データは、キーフレームに関連する局所的ポイントクラウドデータであってもよく、前記局所的ポイントクラウドデータは、前記キーフレームを中心として選択することができる。キーフレームは、現在のフレームに最も類似した候補フレームを指す。
ステップS202において、現在のフレームから抽出された特徴点の数が特徴マッチングのための所望閾値未満であるかどうかを判定し、前記所望閾値未満である場合、ステップS203を実行し、そうでなければ、ステップS204を実行する。
収集された画像のテクスチャが浅い場合、又は各フレームの画像に含まれる特徴点の数が少ない場合、上記所望閾値を達成できないことを引き起こしてしまう。
ステップS203において、前記現在のフレームに対する特徴点補完処理をトリガし、現在のフレームに対する特徴点補完処理を実行する。
一例において、現在のフレームの特徴点を補完するための特徴点補完ユニットを用いて、現在のフレームに対する特徴点補完処理を実行することができる。特徴点補完ユニットは、現在のフレームを収集するための第2端末側に位置する。
ステップS204において、第2端末により収集された画像における現在のフレームを取得する。
現在のフレームにおける特徴点の数が特徴マッチングのための所望閾値以上である場合、現在のフレームを、画像収集により得られた現在のフレームとする。現在のフレームにおける特徴点の数が該所望閾値未満である場合、現在のフレームを、前記現在のフレームに対する特徴点補完処理を行った後に得られた現在のフレームとする。
ステップS205において、前記現在のフレームと前記局所的地図データに対して特徴マッチングを行い、マッチング結果に基づいて、現在のフレームの測位結果を得る。
ステップS206において、前記測位結果に基づいて、前記第1端末と前記第2端末が前記グローバル地図データを共有する場合における相互の位置関係を得る。
本願によれば、現在のフレームとキーフレームとの比較により測位を実現させることと異なっており、現在のフレームに対して特徴点補完を行うことができる。つまり、より多くの特徴点の比較により、より正確な処理効果を達成し、正確な測位を実現させる。関連技術において、現在のフレームにおける特徴点のデータ量は、SLAMシステムにより自己追跡を行うことで実際に得られた特徴点の数と一致する。テクスチャが浅い場合に抽出可能な特徴点の数は、急激に低減することがある。本願において、現在のフレームの特徴点を抽出する時に抽出された特徴点の数は、SLAMシステムにより自己追跡を行うことで実際に得られた特徴点の数よりも多い(SLAMシステムにより自己追跡を行うことで実際に得られた特徴点の二倍又は二倍以上であり得る)。テクスチャが浅い場合に特徴点を補完し、現在のフレームから抽出された特徴点の数を増加させ、測位成功率を向上させる。また、抽出された特徴点の数の閾値を自己適応的に修正することで、テクスチャが浅い場合の特徴点の抽出能力を向上させる。
一例において、2つの端末(携帯電話)が共有地図に基づいて測位を行うことを例として、2つのユーザは、それぞれ一台の携帯電話を手で持ち、同一のテーブルに向かって共同でARゲームを行う。ここで、2台の携帯電話は、同一のAR効果に対して観察及びインタラクションを行うことができる。これを実現させるために、2つの端末が1つの座標系に位置し、相手の位置姿勢を把握する必要がある。位置姿勢を共有するために、共有地図に基づいて相互の測位を実現させる必要がある。具体的には、第1端末(携帯電話1)により画像収集を行い、少なくとも1つのキーフレームを含むグローバル地図データを得る。グローバル地図データから、キーフレームに関連する局所的地図データ(例えば、局所的ポイントクラウドデータ)を抽出する。該局所的ポイントクラウドデータは、該キーフレーム(現在のフレームに最も類似した候補フレーム)を中心として選択されることができる。第2端末(携帯電話2)により画像収集を行い、現在のフレームを得る。現在のフレームにおける特徴点の数が特徴マッチングのための所望閾値以上である場合、直接的に、現在のフレームと局所的地図データに対して特徴マッチングを行う。現在のフレームにおける特徴点の数が特徴マッチングのための所望閾値未満である場合、現在のフレームに対する特徴点補完処理をトリガする。つまり、現在のフレームに対して特徴点補完(又は特徴点補充)を行うことができる。更に、特徴点の閾値を自己適応的に調整することで、より多くの特徴点を得ることができる。現在のフレーム(又は特徴点補完を行った後に得られた現在のフレーム)と局所的ポイントクラウドデータに対して特徴マッチングを行い、局所的地図を利用して現在のフレームとキーフレームとのマッチング関係を補完することで、測位成功率の向上を実現させる。マッチング結果に基づいて現在のフレームの測位結果を得て、測位結果に基づいて第1端末(携帯電話1)と第2端末(携帯電話2)がグローバル地図データを共有する場合における相互の位置関係を得る。ここで、共有は、第1端末(携帯電話1)と第2端末(携帯電話2)が該地図の所在する同一の座標系に位置し、該同一の座標系で相互の位置又は位置姿勢などの情報を測位できることを意味する。
本願の可能な実現形態において、前記現在のフレームに対する特徴点補完処理を行うことは、現在のフレームに対して特徴点抽出を行うための第1選別閾値を取得することと、参照情報に基づいて、前記第1選別閾値に対して自己適応的に調整を行い、第2選別閾値を得て、前記第2選別閾値に基づいて前記現在のフレームに特徴点を増やして補完し、特徴点の数を実際の収集により得られた特徴点の数より大きくすることと、を含む。ここで、参照情報は、画像収集の環境情報、画像収集装置におけるパラメータ情報、現在のフレームの自らの画像情報のうちの少なくとも1つを含む。具体的には、1)該環境情報は、抽出する特徴点の数の不足を引き起こせる外部影響要因の1つである。例えば、光照射状況、周辺の遮蔽物などの少なくとも1つの情報であり、特徴点の数が少ないか又は低下することを引き起こす少なくとも1つの場合の影響情報に限定されない。2)該画像収集装置におけるパラメータ情報は、センサパラメータ情報であってもよく、抽出する特徴点の数の不足を引き起こせる外部影響要因のうちのもう1つである。例えば、カメラのセンサの収集感度、精細度、露光、コントラストなどである。3)該現在のフレームの自らの画像情報は、抽出する特徴点の数の不足を引き起こせる自己の影響要因の1つである。例えば、画像自らのテクスチャが少なく、画像が簡単である場合、抽出可能な特徴点も少ない。
本願の可能な実現形態において、現在のフレームと局所的地図データに対して特徴マッチングを行い、マッチング結果に基づいて現在のフレームの測位結果を得ることは、現在のフレームと前記局所的地図データにおける少なくとも1つのキーフレームに対して、特徴点の2D特徴マッチングを行い、2D特徴マッチング結果を得ることと、2D特徴マッチング結果から、3D情報を含む2D特徴マッチング結果を選別し、3D情報を抽出することと、3D情報に基づいて、現在のフレームの位置姿勢を得て、現在のフレームの位置姿勢を前記測位結果とすることと、を含む。具体的には、特徴点の2D特徴マッチングを行った後、3D情報を含む2D特徴マッチング結果(選別結果と略称される)を選別して得ることができる。該選別結果に基づいて、現在のフレームの位置姿勢を求めることができる。
図3は本願の実施例による共有地図に基づいた測位方法を示すフローチャートである。該共有地図に基づいた測位方法は、共有地図に基づいた測位装置に適用可能である。例えば、共有地図に基づいた測位装置は、端末装置、サーバ又は他の処理装置により実行されてもよい。ここで、端末装置は、ユーザ装置(UE:User Equipment)、携帯機器、セルラ電話、コードレス電話、パーソナルデジタルアシスタント(PDA:Personal Digital Assistant)、ハンドヘルドデバイス、コンピューティングデバイス、車載機器、ウェアブル機器などであってもよい。幾つかの可能な実現形態において、該共有地図に基づいた測位方法は、プロセッサによりメモリに記憶されているコンピュータ可読命令を呼び出すことで実現することができる。図3に示すように、該プロセスは、以下を含む。
ステップS301において、第1端末が画像収集を行い、少なくとも1つのキーフレームを含むグローバル地図データを得る。
ステップS302において、第2端末が画像収集を行い、収集された画像における現在のフレームを得て、現在のフレームを第2端末に送信する。
ステップS303において、第1端末がグローバル地図データから、キーフレームに関連する局所的地図データを抽出する。
一例において、グローバル地図データは、第1端末により収集された画像における少なくとも1つのキーフレームを含む地図データであって且つデータ量が前記局所的地図データより大きい。
ステップS304において、第1端末が第2端末により収集された現在のフレームを受信し、現在のフレームと局所的地図データに対して特徴マッチングを行い、マッチング結果に基づいて現在のフレームの測位結果を得て、測位結果を第2端末に送信する。
ステップS305において、第2端末が測位結果に基づいて、第1端末と第2端末がグローバル地図データを共有する場合における相互の位置関係を得る。
本願の可能な実現形態において、第1端末が前記グローバル地図データから、前記キーフレームに関連する局所的地図データを抽出することは、前記キーフレームを参照中心として、前記キーフレーム及び所定の抽出範囲に基づいて得られた地図データを前記局所的地図データとすることを含む。
本願の可能な実現形態において、前記現在のフレームと前記局所的地図データに対して特徴マッチングを行い、マッチング結果に基づいて現在のフレームの測位結果を得ることは、前記現在のフレームと前記局所的地図データにおける少なくとも1つのキーフレームに対して、特徴点の2D特徴マッチングを行い、2D特徴マッチング結果を得ることと、前記2D特徴マッチング結果から、3D情報を含む2D特徴マッチング結果を選別し、前記3D情報を抽出することと、前記3D情報に基づいて、前記現在のフレームの位置姿勢を得て、前記現在のフレームの位置姿勢を前記測位結果とすることと、を含む。具体的には、特徴点の2D特徴マッチングを行った後、3D情報を含む2D特徴マッチング結果(選別結果と略称される)を選別して得ることができる。該選別結果に基づいて、現在のフレームの位置姿勢を求めることができる。
本願の可能な実現形態において、前記方法は、前記第2端末が画像収集を行い、収集された画像における現在のフレームを得る前に、前記現在のフレームから抽出された特徴点の数が特徴マッチングのための所望閾値未満であるかどうかを判定し、所望閾値未満である場合、前記現在のフレームに対する特徴点補完処理をトリガすることを更に含む。ここで、、第2端末により収集された現在のフレームに、前記現在のフレームに対する特徴点補完処理を行った後に得られた現在のフレームが含まれる。一例において、現在のフレームに対して特徴点抽出を行うための第1選別閾値を取得する。参照情報に基づいて、前記第1選別閾値に対して自己適応的に調整を行い、第2選別閾値を得て、前記第2選別閾値に基づいて前記現在のフレームに特徴点を増やして補完する。特徴点の数が実際の収集により得られた特徴点の数より大きい場合、現在のフレームに対する特徴点補完処理を終了する。
本願の可能な実現形態において、前記参照情報は、画像収集の環境情報、画像収集装置におけるパラメータ情報、現在のフレームの自らの画像情報のうちの少なくとも1つを含む。
図4は本願の実施例による共有地図に基づいた測位方法を示すフローチャートである。該共有地図に基づいた測位方法は、共有地図に基づいた測位装置に適用可能である。例えば、共有地図に基づいた測位装置は、端末装置、サーバ又は他の処理装置により実行されてもよい。ここで、端末装置は、ユーザ装置(UE:User Equipment)、携帯機器、セルラ電話、コードレス電話、パーソナルデジタルアシスタント(PDA:Personal Digital Assistant)、ハンドヘルドデバイス、コンピューティングデバイス、車載機器、ウェアブル機器などであってもよい。幾つかの可能な実現形態において、該共有地図に基づいた測位方法は、プロセッサによりメモリに記憶されているコンピュータ可読命令を呼び出すことで実現することができる。図4に示すように、該プロセスは、以下を含む。
ステップS401において、第2端末が、少なくとも1つのキーフレームを含むグローバル地図データを受信し、前記グローバル地図データから、前記キーフレームに関連する局所的地図データを抽出する。
ステップS402において、第2端末が画像収集を行い、収集された画像における現在のフレームを得る。
ステップS403において、第2端末が前記現在のフレームと前記局所的地図データに対して特徴マッチングを行い、マッチング結果に基づいて現在のフレームの測位結果を得る。
ステップS404において、前記第2端末が前記測位結果に基づいて、前記第1端末と前記第2端末が前記グローバル地図データを共有する場合における相互の位置関係を得る。
本願の可能な実現形態において、前記方法は、前記第2端末が画像収集を行い、収集された画像における現在のフレームを取得する前に、前記現在のフレームから抽出された特徴点の数が特徴マッチングのための所望閾値未満であるかどうかを判定し、所望閾値未満である場合、前記現在のフレームに対する特徴点補完処理をトリガすることを更に含む。ここで、前記現在のフレームに、前記現在のフレームに対する特徴点補完処理を行った後に得られた現在のフレームが含まれる。
本願の可能な実現形態において、前記現在のフレームに対する特徴点補完処理を行うことは、現在のフレームに対して特徴点抽出を行うための第1選別閾値を取得することと、参照情報に基づいて、前記第1選別閾値に対して自己適応的に調整を行い、第2選別閾値を得て、前記第2選別閾値に基づいて前記現在のフレームに特徴点を増やして補完し、特徴点の数を実際の収集により得られた特徴点の数より大きくすることと、を含む。ここで、前記参照情報は、画像収集の環境情報、画像収集装置におけるパラメータ情報、現在のフレームの自らの画像情報のうちの少なくとも1つを含む。
本願の可能な実現形態において、現在のフレームと局所的地図データに対して特徴マッチングを行い、マッチング結果に基づいて現在のフレームの測位結果を得ることは、現在のフレームと前記局所的地図データにおける少なくとも1つのキーフレームに対して、特徴点の2D特徴マッチングを行い、2D特徴マッチング結果を得ることと、前記2D特徴マッチング結果から、3D情報を含む2D特徴マッチング結果を選別し、3D情報を抽出することと、前記3D情報に基づいて、前記現在のフレームの位置姿勢を得て、前記現在のフレームの位置姿勢を前記測位結果とすることと、を含む。具体的には、特徴点の2D特徴マッチングを行った後、3D情報を含む2D特徴マッチング結果(選別結果と略称される)を選別して得ることができる。該選別結果に基づいて、現在のフレームの位置姿勢を求めることができる。
本願の実施例による共有地図に基づいた測位方法は、共有地図に基づいた測位装置に適用可能である。例えば、共有地図に基づいた測位装置は、端末装置、サーバ又は他の処理装置により実行されてもよい。ここで、端末装置は、ユーザ装置(UE:User Equipment)、携帯機器、セルラ電話、コードレス電話、パーソナルデジタルアシスタント(PDA:Personal Digital Assistant)、ハンドヘルドデバイス、コンピューティングデバイス、車載機器、ウェアブル機器などであってもよい。幾つかの可能な実現形態において、該共有地図に基づいた測位方法は、プロセッサによりメモリに記憶されているコンピュータ可読命令を呼び出すことで実現することができる。ここで、測位ユニットは、クラウド側に位置してもよい。該プロセスは、第1端末により収集された画像における、少なくとも1つのキーフレームを含むグローバル地図データを受信し、前記グローバル地図データから、前記キーフレームに関連する局所的地図データを抽出することと、第2端末により収集された画像における現在のフレームを受信することと、前記現在のフレームと前記局所的地図データに対して特徴マッチングを行い、マッチング結果に基づいて現在のフレームの測位結果を得ることと、前記測位結果を送信し、前記測位結果に基づいて、前記第1端末と前記第2端末が前記グローバル地図データを共有する場合における相互の位置関係を得ることと、を含む。
適用例
図5は、本願の実施例による共有地図に基づいた測位方法を示す。2つの端末装置(装置1及び装置2)を例として、示された2つの端末装置に限定されず、複数の端末装置も共有地図により測位を行うこともできる。図5に示すように、測位過程は以下を含む。装置1によりシーンを走査し、少なくとも1つのキーフレームを含む地図を生成し、該地図を共有地図と定義する。該共有地図は、装置1ローカルに記憶されてもよく、又は他の端末装置(例えば、装置2)にアップロードされてもよい。該共有地図は、クラウド側に記憶されてもよい。共有地図を必要とする1つ又は複数の装置(図面において、装置2と略称する)は、自体により収集された現在のフレームデータを測位ユニットに送信することができる。測位ユニットは、いずれか1つの装置で実行されてもよく、又はクラウド側に位置してもよい。装置2から伝送された現在のフレームデータに加えて、測位ユニットは、共有地図データを取得することもできる。測位ユニットは、現在のフレーム画像及び共有地図データに基づいて、現在のフレームの測位結果を得て、測位結果を装置2に返送することができる。このような方式により、装置2は、共有地図の座標系に対する自己の相対的位置姿勢を得ることができる。
図6は、本願の実施例による現在のフレームの特徴点の補完過程を示す概略図である。装置は、特徴点補完ユニットにより、現在のフレーム画像に対して自己適応的に調整を行い、より多くの特徴点を補完して生成することができる。図6に示すように、現在のフレームの特徴点の補完過程は、以下を含む。
入力は、現在のフレーム画像である。
出力は、特徴点及び記述子(又は特徴記述子とも言う)である。特徴記述子(Descriptor)は、特徴を表すためのデータ構造であり、1つの記述子の次元は、多次元であってもよい。
ステップ1において、デフォルトパラメータで、装置2により取得された現在のフレーム画像に対して特徴点抽出を行い、抽出された特徴点の数は、SLAMシステム自らにより実際に取得される特徴点の数の二倍であってもよい。
ステップ2において、ステップ1で抽出された特徴点の数をチェックし、特徴点の数が所定の所望閾値未満である場合、ステップ3へ進み、そうでなければ、ステップ4へ進む。
ステップ3において、特徴点の選別閾値を低下させ、特徴点補完(又は現在のフレームにおける特徴点の数の補完とも言う)を行う。
ステップ4において、抽出された特徴点に対して特徴記述子の抽出を行い、抽出結果を返送する。
図7は、本願の実施例による現在のフレームの位置姿勢の測位過程を示す概略図である。測位ユニットにより測位過程を実現させることができる。図7に示すように、測位過程は、以下を含む。
入力は、現在のフレームデータ及び共有地図である。
出力は、測位結果である。
ステップ1において、現在のフレームの特徴情報を利用して共有地図において画像検出を行い、現在のフレームに最も類似したキーフレームを見付けて候補フレームとする。
ステップ2において、現在のフレームと候補フレームに対して特徴マッチングを行い、候補フレームにおける特徴点が3D情報を持つため、一連の2Dと3Dのマッチング結果を得ることができる。
ステップ3において、ステップ2で得られた2D特徴点と3D点とのマッチング結果に基づいて、現在のフレームの位置姿勢を最適化して求めることができる。
ステップ4において、ステップ3で得られた位置姿勢に十分な内部点があるかどうかを判定し、内部点の数が所定の閾値未満である場合、ステップ5を継続して実行し、そうでなければ、ステップ7へ進む。
現在のフレームと局所的ポイントクラウドデータにおける少なくとも1つのキーフレームに対して、特徴点の2D特徴マッチングを行った後、3D情報を含む2D特徴マッチング結果(選別結果と略称される)を選別して得ることができる。該選別結果に基づいて、現在のフレームの位置姿勢を求めることができる。該選別結果の全ては、品質の高い特徴点であるとは限らず、品質の良否は、特徴マッチングの根拠として用いられ、品質の良否に基づいて特徴点を内部点と外部点に分けることができることに留意されたい。ここで、内部点は、品質の高い特徴点を指し、外部点は、品質が高くない特徴点を指す。
上記特徴マッチングは、マルチビジョン幾何(Multiple View Geometry)の概念に係ることに留意されたい。マルチビジョン幾何とは、幾何的方法で、複数枚の二次元画像により三次元物体を復元することを指し、つまり、三次元再構築の検討であり、主に、コンピュータビジョンに適用される。マルチビジョン幾何的技術により、コンピュータは、形状、位置、姿勢、運動などのような、三次元環境における幾何的情報を感知できるだけでなく、それらに対して記述、記憶、認識及び理解を行うこともできる。コンピュータビジョンにおいて、2つのフレームの画像の特徴マッチング点を見出す必要がある。例えば、2つのフレームの画像のうちの1つのフレームの画像から、画像品質及びテクスチャ情報に基づいて1000個の特徴点(二次元のもの)を抽出することができる。2つのフレームの画像のうちのもう1つのフレームの画像から、画像品質及びテクスチャ情報に基づいて1000個の特徴点(二次元のもの)を抽出することもできる。該2枚の画像の相関性を見出し、特徴点マッチングを行う必要がある。例えば、2つのフレームの画像に対して特徴点マッチングを行うことで、600個の特徴点に相関性があることが見出された。特徴点の最大の特徴は、画像情報を一意的に認識できる能力を持つことである。物体は、運動しているため、変位が発生する。従って、該2つのフレーム画像における特徴点により記述された情報(例えば、2D特徴点に含まれる3D情報)が異なることがある。又は、マルチビジョン幾何概念を利用して複数の視野角から観測を行う場合、視野角が変動した場合、角度が変動し、特徴点で記述された情報(例えば、2D特徴点に含まれる3D情報)が異なることがある。延いては、画像遮断又は歪みなどのような極端なケースを引き起こすことがある。全ての2D特徴点は、必ずしも3D情報又は適用可能な3D情報を含むものではないことを引き起こしてしまう。例えば、該600個の特徴点のうち、3D情報を含む2D特徴点は、300個に過ぎない。従って、3D情報を含む2D特徴マッチング結果(選別結果と略称される)を選別して得た後に、該選別結果に基づいて現在のフレームの位置姿勢を求める必要がある。これにより、より正確になる。
ステップ5において、ステップ1で得られた候補フレームを基礎として、該候補フレームと共通ビジョン関係にある少なくとも1つのフレームをキーフレームとして選択し、これらのキーフレームに含まれるポイントクラウド集合を局所的地図データ(又は局所的ポイントクラウドデータと呼ばれる)とし、ステップ3で得られた位置姿勢を初期位置姿勢として、補完及びマッチングを行う。
ステップ6において、ステップ5で得られたマッチング結果に基づいて、現在のフレームの位置姿勢を最適化して求め、測位結果を返送する。
具体的な実施形態の上記方法において、各ステップの記述順番は、厳しい実行順番として実施過程を限定するものではなく、各ステップの具体的な実行順番はその機能及び考えられる内在的論理により決まることは、当業者であれば理解すべきである。
本願で言及した上記各方法の実施例は、原理や論理から逸脱しない限り、互いに組み合わせることで組み合わせた実施例を構成することができ、紙数に限りがあるため、本願において逐一説明しないことが理解されるべきである。
なお、本願は、共有地図に基づいた測位装置、電子機器、コンピュータ可読記憶媒体、プログラムを更に提供する。上記はいずれも、本願で提供されるいずれか1つの共有地図に基づいた測位方法を実現させるためのものである。対応する技術的解決手段及び説明は、方法に関連する記述を参照されたい。ここで、詳細な説明を省略する。
図8は、本願の実施例による共有地図に基づいた測位装置を示すブロック図である。図8に示すように、本願の実施例による共有地図に基づいた測位装置は、第1端末により収集された画像における、少なくとも1つのキーフレームを含むグローバル地図データから、前記キーフレームに関連する局所的地図データを抽出するように構成される第1抽出ユニット31と、第2端末により収集された画像における現在のフレームを取得するように構成される第1取得ユニット32と、前記現在のフレームと前記局所的地図データに対して特徴マッチングを行い、マッチング結果に基づいて、現在のフレームの測位結果を得るように構成される第1マッチングユニット33と、を備える。該装置は、前記測位結果に基づいて、前記第1端末と前記第2端末が前記グローバル地図データを共有する場合における相互の位置関係を得るように構成される第1測位ユニットを更に備える。
本願の可能な実現形態において、前記装置は、前記現在のフレームから抽出された特徴点の数が特徴マッチングのための所望閾値未満であるかどうかを判定し、所望閾値未満である場合、前記現在のフレームに対する特徴点補完処理をトリガするように構成されるトリガユニットを更に備える。
本願の可能な実現形態において、前記第2端末により収集された現在のフレームに、前記現在のフレームに対する特徴点補完処理を行った後に得られた現在のフレームが含まれる。
本願の可能な実現形態において、前記装置は、現在のフレームに対して特徴点抽出を行うための第1選別閾値を取得し、参照情報に基づいて、前記第1選別閾値に対して自己適応的に調整を行い、第2選別閾値を得て、前記第2選別閾値に基づいて前記現在のフレームに特徴点を増やして補完し、特徴点の数を実際の収集により得られた特徴点の数より大きくするように構成される特徴点補完ユニットを更に備える。
本願の可能な実現形態において、前記参照情報は、画像収集の環境情報、画像収集装置におけるパラメータ情報、現在のフレームの自らの画像情報のうちの少なくとも1つを含む。
本願の可能な実現形態において、前記第1マッチングユニットは更に、前記現在のフレームと前記局所的地図データにおける少なくとも1つのキーフレームに対して、特徴点の2D特徴マッチングを行い、2D特徴マッチング結果を得て、前記2D特徴マッチング結果から、3D情報を含む2D特徴マッチング結果を選別し、前記3D情報を抽出し、前記3D情報に基づいて、前記現在のフレームの位置姿勢を得て、前記現在のフレームの位置姿勢を前記測位結果とするように構成される。
本願の実施例による共有地図に基づいた測位装置であって、前記装置は、画像収集を行い、少なくとも1つのキーフレームを含むグローバル地図データを得るように構成される第1収集ユニットと、前記グローバル地図データから、前記キーフレームに関連する局所的地図データを抽出するように構成される第1抽出ユニットと、第2端末により収集された現在のフレームを受信し、前記現在のフレームと前記局所的地図データに対して特徴マッチングを行い、マッチング結果に基づいて現在のフレームの測位結果を得て、前記測位結果を送信するように構成される第1マッチングユニットと、を備える。
本願の可能な実現形態において、前記第1抽出ユニットは更に、前記キーフレームを参照中心として、前記キーフレーム及び所定の抽出範囲に基づいて得られた地図データを前記局所的地図データとするように構成される。
本願の可能な実現形態において、前記第1マッチングユニットは更に、前記現在のフレームと前記局所的地図データにおける少なくとも1つのキーフレームに対して、特徴点の2D特徴マッチングを行い、2D特徴マッチング結果を得て、前記2D特徴マッチング結果から、3D情報を含む2D特徴マッチング結果を選別し、前記3D情報を抽出し、前記3D情報に基づいて、前記現在のフレームの位置姿勢を得て、前記現在のフレームの位置姿勢を前記測位結果とするように構成される。
本願の実施例による共有地図に基づいた測位装置であって、前記装置は、画像収集を行い、収集された画像における現在のフレームを得て、前記現在のフレームを送信するように構成される第2収集ユニットと、測位結果を受信するように構成される第2マッチングユニットであって、前記測位結果は、第1端末が前記現在のフレームと前記キーフレームに関連する局所的地図データに対して特徴マッチングを行い、マッチング結果に基づいて得られた結果である、第2マッチングユニットと、前記測位結果に基づいて、前記第1端末と前記第2端末がグローバル地図データを共有する場合における相互の位置関係を得るように構成される第2測位ユニットと、を備え、グローバル地図データは、第1端末により収集された画像における少なくとも1つのキーフレームを含む地図データであって且つデータ量が前記局所的地図データより大きい。
本願の可能な実現形態において、前記装置は、前記現在のフレームから抽出された特徴点の数が特徴マッチングのための所望閾値未満であるかどうかを判定し、所望閾値未満である場合、前記現在のフレームに対する特徴点補完処理をトリガするように構成されるトリガユニットを更に備える。
本願の可能な実現形態において、前記第2端末により収集された現在のフレームに、前記現在のフレームに対する特徴点補完処理を行った後に得られた現在のフレームが含まれる。
本願の可能な実現形態において、前記装置は、現在のフレームに対して特徴点抽出を行うための第1選別閾値を取得し、参照情報に基づいて、前記第1選別閾値に対して自己適応的に調整を行い、第2選別閾値を得て、前記第2選別閾値に基づいて前記現在のフレームに特徴点を増やして補完し、特徴点の数を実際の収集により得られた特徴点の数より大きくするように構成される特徴点補完ユニットを更に備える。
本願の可能な実現形態において、前記参照情報は、画像収集の環境情報、画像収集装置におけるパラメータ情報、現在のフレームの自らの画像情報のうちの少なくとも1つを含む。
本願の実施例による共有地図に基づいた測位装置であって、前記装置は、少なくとも1つのキーフレームを含むグローバル地図データを受信し、前記グローバル地図データから、前記キーフレームに関連する局所的地図データを抽出するように構成される第2抽出ユニットと、画像収集を行い、収集された画像における現在のフレームを得るように構成される第2収集ユニットと、前記現在のフレームと前記局所的地図データに対して特徴マッチングを行い、マッチング結果に基づいて現在のフレームの測位結果を得るように構成される第2マッチングユニットと、前記測位結果に基づいて、前記第1端末と前記第2端末がグローバル地図データを共有する場合における相互の位置関係を得るように構成される第2測位ユニットと、を備える。
本願の可能な実現形態において、前記装置は、前記現在のフレームから抽出された特徴点の数が特徴マッチングのための所望閾値未満であるかどうかを判定し、所望閾値未満である場合、前記現在のフレームに対する特徴点補完処理をトリガするように構成されるトリガユニットを更に備える。
本願の可能な実現形態において、前記現在のフレームに、前記現在のフレームに対する特徴点補完処理を行った後に得られた現在のフレームが含まれる。
本願の可能な実現形態において、前記装置は、現在のフレームに対して特徴点抽出を行うための第1選別閾値を取得し、参照情報に基づいて、前記第1選別閾値に対して自己適応的に調整を行い、第2選別閾値を得て、前記第2選別閾値に基づいて前記現在のフレームに特徴点を増やして補完し、特徴点の数を実際の収集により得られた特徴点の数より大きくするように構成される特徴点補完ユニットを更に備える。
本願の可能な実現形態において、前記参照情報は、画像収集の環境情報、画像収集装置におけるパラメータ情報、現在のフレームの自らの画像情報のうちの少なくとも1つを含む。
本願の実施例おいて、前記第2測位ユニットは更に、前記現在のフレームと前記局所的地図データにおける少なくとも1つのキーフレームに対して、特徴点の2D特徴マッチングを行い、2D特徴マッチング結果を得て、前記2D特徴マッチング結果から、3D情報を含む2D特徴マッチング結果を選別し、前記3D情報を抽出し、前記3D情報に基づいて、前記現在のフレームの位置姿勢を得て、前記現在のフレームの位置姿勢を前記測位結果とするように構成される。
本願の実施例による共有地図に基づいた測位装置であって、前記装置は、第1端末により収集された画像における、少なくとも1つのキーフレームを含むグローバル地図データを受信し、前記グローバル地図データから、前記キーフレームに関連する局所的地図データを抽出するように構成される第1受信ユニットと、第2端末により収集された画像における現在のフレームを受信するように構成される第2受信ユニットと、前記現在のフレームと前記局所的地図データに対して特徴マッチングを行い、マッチング結果に基づいて現在のフレームの測位結果を得るように構成される第3マッチングユニットと、前記測位結果を送信し、前記測位結果に基づいて、前記第1端末と前記第2端末が前記グローバル地図データを共有する場合における相互の位置関係を得るように構成される第3測位ユニットと、を備える。
幾つかの実施例において、本願の実施例で提供される装置における機能及びモジュールは、上記方法実施例に記載の方法を実行するために用いられ、具体的な実現形態は上記方法実施例の説明を参照されたい。簡潔化のために、ここで詳細な説明を省略する。
本願の実施例はコンピュータ可読記憶媒体を更に提供する。該コンピュータ可読記憶媒体にはコンピュータプログラム命令が記憶されており、前記コンピュータプログラム命令がプロセッサにより実行される時、上記共有地図に基づいた測位方法を実現させる。コンピュータ可読記憶媒体は不揮発性コンピュータ可読記憶媒体であってもよい。
本願の実施例は電子機器を更に提供する。該電子機器は、プロセッサと、プロセッサによる実行可能な命令を記憶するためのメモリとを備え、前記プロセッサは、上記共有地図に基づいた測位方法を実行するように構成される。
電子機器は、端末、サーバ又は他の形態の機器として提供されてもよい。
本願の実施例は、コンピュータプログラムを更に提供する。該コンピュータプログラムは、コンピュータ可読コードを含み、前記コンピュータ可読コードが電子機器で実行される時、前記電子機器におけるプロセッサは、上記共有地図に基づいた測位方法を実行する。
図9は一例示的な実施例による電子機器800を示すブロック図である。例えば、電子機器800は、携帯電話、コンピュータ、デジタル放送端末、メッセージング装置、ゲームコンソール、タブレットデバイス、医療機器、フィットネス機器、パーソナルデジタルアシスタントなどの端末であってもよい。この場合、測位ユニットは、いずれか1つの端末側に位置する。
図9を参照すると、電子機器800は、処理ユニット802、メモリ804、電源ユニット806、マルチメディアユニット808、オーディオユニット810、入力/出力(I/O)インタフェース812、センサユニット814及び通信ユニット816のうちの1つ又は複数を備えてもよい。
処理ユニット802は一般的には、電子機器800の全体操作を制御する。例えば、表示、通話呼、データ通信、カメラ操作及び記録操作に関連する操作を制御する。処理ユニット802は、指令を実行するための1つ又は複数のプロセッサ820を備えてもよい。それにより上記方法の全て又は一部のステップを実行する。なお、処理ユニット802は、他のユニットとのインタラクションのために、1つ又は複数のモジュールを備えてもよい。例えば、処理ユニット802はマルチメディアモジュールを備えることで、マルチメディアユニット808と処理ユニット802とのインタラクションに寄与する。
メモリ804は、各種のデータを記憶することで電子機器800における操作をサポートするように構成される。これらのデータの例として、電子機器800上で操作れる如何なるアプリケーション又は方法の命令、連絡先データ、電話帳データ、メッセージ、イメージ、ビデオ等を含む。メモリ804は任意のタイプの揮発性または不揮発性記憶装置、あるいはこれらの組み合わせにより実現される。例えば、スタティックランダムアクセスメモリ(SRAM)、電気的消去可能なプログラマブル読み出し専用メモリ(EEPROM)、電気的に消去可能なプログラマブル読出し専用メモリ(EPROM)、プログラマブル読出し専用メモリ(PROM)、読出し専用メモリ(ROM)、磁気メモリ、フラッシュメモリ、磁気もしくは光ディスクを含む。
電源ユニット806は電子機器800の様々なユニットに電力を提供する。電源ユニット806は、電源管理システム、1つ又は複数の電源、及び電子機器800のための電力生成、管理、分配に関連する他のユニットを備えてもよい。
マルチメディアユニット808は、上記電子機器800とユーザとの間に出力インタフェースを提供するためのスクリーンを備える。幾つかの実施例において、スクリーンは、液晶ディスプレイ(LCD)及びタッチパネル(TP)を含む。スクリーンは、タッチパネルを含むと、タッチパネルとして実現され、ユーザからの入力信号を受信する。タッチパネルは、タッチ、スライド及びパネル上のジェスチャを感知する1つ又は複数のタッチセンサを備える。上記タッチセンサは、タッチ又はスライド動作の境界を感知するだけでなく、上記タッチ又はスライド操作に関連する持続時間及び圧力を検出することもできる。幾つかの実施例において、マルチメディアユニット808は、フロントカメラ及び/又はリアカメラを備える。電子機器800が、撮影モード又は映像モードのような操作モードであれば、フロントカメラ及び/又はリアカメラは外部からのマルチメディアデータを受信することができる。各フロントカメラ及びリアカメラは固定した光学レンズシステム又は焦点及び光学ズーム能力を持つものであってもよい。
オーディオユニット810は、オーディオ信号を出力/入力するように構成される。例えば、オーディオユニット810は、マイクロホン(MIC)を備える。電子機器800が、通話モード、記録モード及び音声識別モードのような操作モードであれば、マイクロホンは、外部からのオーディオ信号を受信するように構成される。受信したオーディオ信号を更にメモリ804に記憶するか、又は通信ユニット816を経由して送信することができる。幾つかの実施例において、オーディオユニット810は、オーディオ信号を出力するように構成されるスピーカーを更に備える。
I/Oインタフェース812は、処理ユニット802と周辺インタフェースモジュールとの間のインタフェースを提供する。上記周辺インタフェースモジュールは、キーボード、クリックホイール、ボタン等であってもよい。これらのボタンは、ホームボダン、ボリュームボタン、スタートボタン及びロックボタンを含むが、これらに限定されない。
センサユニット814は、1つ又は複数のセンサを備え、電子機器800のために様々な状態の評価を行うように構成される。例えば、センサユニット814は、収音音量制御用装置のオン/オフ状態、ユニットの相対的な位置決めを検出することができる。例えば、上記ユニットが電子機器800のディスプレイ及びキーパッドである。センサユニット814は電子機器800又は電子機器800における1つのユニットの位置の変化、ユーザと電子機器800との接触の有無、電子機器800の方位又は加速/減速及び電子機器800の温度の変動を検出することもできる。センサユニット814は近接センサを備えてもよく、いかなる物理的接触もない場合に周囲の物体の存在を検出するように構成される。センサユニット814は、CMOS又はCCD画像センサのような光センサを備えてもよく、結像に適用されるように構成される。幾つかの実施例において、該センサユニット814は、加速度センサ、ジャイロセンサ、磁気センサ、圧力センサ又は温度センサを備えてもよい。
通信ユニット816は、電子機器800と他の機器との有線又は無線方式の通信に寄与するように構成される。電子機器800は、WiFi、2G又は3G又はそれらの組み合わせのような通信規格に基づいた無線ネットワークにアクセスできる。一例示的な実施例において、通信ユニット816は放送チャネルを経由して外部放送チャネル管理システムからの放送信号又は放送関連する情報を受信する。一例示的な実施例において、上記通信ユニット816は、近接場通信(NFC)モジュールを更に備えることで近距離通信を促進する。例えば、NFCモジュールは、無線周波数識別(RFID)技術、赤外線データ協会(IrDA)技術、超広帯域(UWB)技術、ブルートゥース(登録商標)(BT)技術及び他の技術に基づいて実現される。
例示的な実施例において、電子機器800は、1つ又は複数の特定用途向け集積回路(ASIC)、デジタル信号プロセッサ(DSP)、デジタル信号処理機器(DSPD)、プログラマブルロジックデバイス(PLD)、フィールドプログラマブルゲートアレイ(FPGA)、コントローラ、マイクロコントローラ、マイクロプロセッサ又は他の電子素子により実現され、上記方法を実行するように構成されてもよい。
例示的な実施例において、コンピュータプログラム命令を含むメモリ804のような不揮発性コンピュータ可読記憶媒体を更に提供する。上記コンピュータプログラム命令は、電子機器800のプロセッサ820により実行され上記方法を完了する。
図10は、一例示的な実施例による電子機器900を示すブロック図である。例えば、電子機器900は、サーバとして提供されてもよい。図10を参照すると、電子機器900は、処理ユニット922を備える。ぞれは1つ又は複数のプロセッサと、メモリ932で表されるメモリリソースを更に備える。該メモリリースは、アプリケーションプログラムのような、処理ユニット922により実行される命令を記憶するためのものである。メモリ932に記憶されているアプリケーションプログラムは、それぞれ一組の命令に対応する1つ又は1つ以上のモジュールを含んでもよい。なお、処理ユニット922は、命令を実行して、上記方法を実行するように構成される。
電子機器900は、電子機器900の電源管理を実行するように構成される電源ユニット926と、電子機器900をネットワークに接続するように構成される有線又は無線ネットワークインタフェース950と、入力出力(I/O)インタフェース958を更に備えてもよい。電子機器900は、Windows(登録商標) ServerTM、Mac OS XTM、Unix(登録商標), Linux(登録商標)、FreeBSDTM又は類似したものような、メモリ932に記憶されているオペレーティングシステムを実行することができる。
例示的な実施例において、例えば、コンピュータプログラム命令を含むメモリ932のような不揮発性コンピュータ可読記憶媒体を更に提供する。上記コンピュータプログラム命令は、電子機器900の処理ユニット922により実行されて上記方法を完了する。
本願は、システム、方法及び/又はコンピュータプログラム製品であってもよい。コンピュータプログラム製品は、コンピュータ可読記憶媒体を備えてもよく、プロセッサに本願の各態様を実現させるためのコンピュータ可読プログラム命令がそれに記憶されている。
コンピュータ可読記憶媒体は、命令実行装置に用いられる命令を保持又は記憶することができる有形装置であってもよい。コンピュータ可読記憶媒体は、例えば、電気記憶装置、磁気記憶装置、光記憶装置、電磁記憶装置、半導体記憶装置又は上記の任意の組み合わせであってもよいが、これらに限定されない。コンピュータ可読記憶媒体のより具体的な例(非網羅的なリスト)は、ポータブルコンピュータディスク、ハードディスク、ランダムアクセスメモリ(RAM)、読み出し専用メモリ(ROM)、消去可能なプログラマブル読み出し専用メモリ(EPROM又はフラッシュ)、スタティックランダムアクセスメモリ(SRAM)、ポータブルコンパクトディスク読み出し専用メモリ(CD-ROM)、デジタル多目的ディスク(DVD)、メモリスティック、フレキシブルディスク、命令が記憶されているパンチカード又は凹溝内における突起構造のような機械的符号化装置、及び上記任意の適切な組み合わせを含む。ここで用いられるコンピュータ可読記憶媒体は、電波もしくは他の自由に伝搬する電磁波、導波路もしくは他の伝送媒体を通って伝搬する電磁波(例えば、光ファイバケーブルを通過する光パルス)、または、電線を通して伝送される電気信号などの、一時的な信号それ自体であると解釈されるべきではない。
ここで説明されるコンピュータ可読プログラム命令を、コンピュータ可読記憶媒体から各コンピューティング/処理装置にダウンロードすることができるか、又は、インターネット、ローカルエリアネットワーク、ワイドエリアネットワーク及び/又は無線ネットワークのようなネットワークを経由して外部コンピュータ又は外部記憶装置にダウンロードすることができる。ネットワークは、伝送用銅線ケーブル、光ファイバー伝送、無線伝送、ルータ、ファイアウォール、交換機、ゲートウェイコンピュータ及び/又はエッジサーバを含んでもよい。各コンピューティング/処理装置におけるネットワークインターフェースカード又はネットワークインタフェースは、ネットワークからコンピュータ可読プログラム命令を受信し、該コンピュータ可読プログラム命令を転送し、各コンピューティング/処理装置におけるコンピュータ可読記憶媒体に記憶する。
本願の操作を実行するためのコンピュータ可読プログラム命令は、アセンブラ命令、命令セットアーキテクチャ(ISA)命令、マシン命令、マシン依存命令、マイクロコード、ファームウェア命令、状態設定データ、又は1つ又は複数のプログラミング言語で記述されたソースコード又はターゲットコードであってもよい。前記プログラミング言語は、Smalltalk、C++などのようなオブジェクト指向プログラミング言語と、「C」プログラミング言語又は類似したプログラミング言語などの従来の手続型プログラミング言語とを含む。コンピュータ可読プログラム命令は、ユーザコンピュータ上で完全に実行してもよいし、ユーザコンピュータ上で部分的に実行してもよいし、独立したソフトウェアパッケージとして実行してもよいし、ユーザコンピュータ上で部分的に実行してリモートコンピュータ上で部分的に実行してもよいし、又はリモートコンピュータ又はサーバ上で完全に実行してもよい。リモートコンピュータの場合に、リモートコンピュータは、ローカルエリアネットワーク(LAN)やワイドエリアネットワーク(WAN)を含む任意の種類のネットワークを通じてユーザのコンピュータに接続するか、または、外部のコンピュータに接続することができる(例えばインターネットサービスプロバイダを用いてインターネットを通じて接続する)。幾つかの実施例において、コンピュータ可読プログラム命令の状態情報を利用して、プログラマブル論理回路、フィールドプログラマブルゲートアレイ(FPGA)又はプログラマブル論理アレイ(PLA)のような電子回路をカスタマイズする。該電子回路は、コンピュータ可読プログラム命令を実行することで、本願の各態様を実現させることができる。
ここで、本願の実施例の方法、装置(システム)及びコンピュータプログラム製品のフローチャート及び/又はブロック図を参照しながら、本願の各態様を説明する。フローチャート及び/又はブロック図の各ブロック及びフローチャート及び/又はブロック図における各ブロックの組み合わせは、いずれもコンピュータ可読プログラム命令により実現できる。
これらのコンピュータ可読プログラム命令は、汎用コンピュータ、専用コンピュータまたはその他プログラマブルデータ処理装置のプロセッサに提供でき、それによって機器を生み出し、これら命令はコンピュータまたはその他プログラマブルデータ処理装置のプロセッサにより実行される時、フローチャート及び/又はブロック図における1つ又は複数のブロック中で規定している機能/操作を実現する装置を生み出した。これらのコンピュータ可読プログラム命令をコンピュータ可読記憶媒体に記憶してもよい。これらの命令によれば、コンピュータ、プログラマブルデータ処理装置及び/又は他の装置は特定の方式で動作する。従って、命令が記憶されているコンピュータ可読記憶媒体は、フローチャート及び/又はブロック図おける1つ又は複数のブロック中で規定している機能/操作を実現する各態様の命令を含む製品を備える。
コンピュータ可読プログラム命令をコンピュータ、他のプログラマブルデータ処理装置又は他の装置にロードしてもよい。これにより、コンピュータ、他のプログラマブルデータ処理装置又は他の装置で一連の操作の工程を実行して、コンピュータで実施されるプロセスを生成する。従って、コンピュータ、他のプログラマブルデータ処理装置又は他の装置で実行される命令により、フローチャート及び/又はブロック図における1つ又は複数のブロック中で規定している機能/操作を実現させる。
図面におけるフローチャート及びブック図は、本願の複数の実施例によるシステム、方法及びコンピュータプログラム製品の実現可能なアーキテクチャ、機能および操作を例示するものである。この点で、フローチャート又はブロック図における各ブロックは、1つのモジュール、プログラムセグメント又は命令の一部を表すことができる。前記モジュール、、プログラムセグメント又は命令の一部は、1つまたは複数の所定の論理機能を実現するための実行可能な命令を含む。いくつかの取り替えとしての実現中に、ブロックに表記される機能は図面中に表記される順序と異なる順序で発生することができる。例えば、二つの連続するブロックは実際には基本的に並行して実行でき、場合によっては反対の順序で実行することもでき、これは関係する機能から確定する。ブロック図及び/又はフローチャートにおける各ブロック、及びブロック図及び/又はフローチャートにおけるブロックの組み合わせは、所定の機能又は操作を実行するための専用ハードウェアベースシステムにより実現するか、又は専用ハードウェアとコンピュータ命令の組み合わせにより実現することができる。
以上は本発明の各実施例を説明したが、前記説明は例示的なものであり、網羅するものではなく、且つ開示した各実施例に限定されない。説明した各実施例の範囲と趣旨から脱逸しない場合、当業者にとって、多くの修正及び変更は容易に想到しえるものである。本明細書に用いられる用語の選択は、各実施例の原理、実際の応用、或いは市場における技術の改善を最もよく解釈すること、或いは他の当業者が本明細書に開示された各実施例を理解できることを目的とする。

Claims (18)

  1. 共有地図に基づいた測位方法であって、
    第1端末により収集された画像における少なくとも1つのキーフレームに関連するグローバル地図データから、前記キーフレームに関連する局所的地図データを抽出し、前記グローバル地図データを前記第1端末と第2端末との共有地図データとすることであって、前記グローバル地図データは、ポイントクラウドデータであり、前記キーフレームは、前記グローバル地図データ内の、前記第2端末により収集された画像における現在のフレームに最も類似した候補フレームである、ことと、
    前記第2端末により収集された画像における前記現在のフレームを取得することと、
    前記現在のフレームと前記局所的地図データに対して特徴マッチングを行い、マッチング結果に基づいて、前記グローバル地図データにおける、前記現在のフレーム内の前記第2端末の位置姿勢を測位結果とすること
    を含む共有地図に基づいた測位方法。
  2. 前記第2端末により収集された画像における現在のフレームを取得した後に、前記共有地図に基づいた測位方法は、前記現在のフレームから抽出された特徴点の数が特徴マッチングのための所望閾値未満であるかどうかを判定し、所望閾値未満である場合、前記現在のフレームに対する特徴点補完処理をトリガすることをさらに含む請求項1に記載の共有地図に基づいた測位方法。
  3. 前記第2端末により収集された現在のフレームに、前記現在のフレームに対する特徴点補完処理を行った後に得られた現在のフレームが含まれてい請求項2に記載の共有地図に基づいた測位方法。
  4. 前記現在のフレームに対する特徴点補完処理を行うことは、
    現在のフレームに対して特徴点抽出を行うための第1選別閾値を取得することと、
    参照情報に基づいて、前記第1選別閾値に対して自己適応的に調整を行い、第2選別閾値を得て、前記第2選別閾値に基づいて前記現在のフレームに特徴点を増やして補完し、特徴点の数を実際の収集により得られた特徴点の数より大きくすること
    を含み、
    前記参照情報は、画像収集の環境情報、画像収集装置におけるパラメータ情報、現在のフレームの自らの画像情報のうちの少なくとも1つを含む請求項2または請求項3に記載の共有地図に基づいた測位方法。
  5. 前記現在のフレームと前記局所的地図データに対して特徴マッチングを行い、マッチング結果に基づいて、前記グローバル地図データにおける、前記現在のフレーム内の前記第2端末の位置姿勢を測位結果とすることは、
    前記現在のフレームと前記局所的地図データにおける少なくとも1つのキーフレームに対して、特徴点の2D特徴マッチングを行い、2D特徴マッチング結果を得ることと、
    前記2D特徴マッチング結果から、3D情報を含む2D特徴マッチング結果を選別し、3D情報を含む前記2D特徴マッチング結果に基づいて、前記3D情報を抽出することと、
    前記3D情報に基づいて、前記現在のフレームの位置姿勢を得て、前記グローバル地図データにおける、前記現在のフレーム内の前記第2端末の位置姿勢を前記測位結果とすること
    を含む請求項14のうちいずれか一項に記載の共有地図に基づいた測位方法。
  6. 共有地図に基づいた測位方法であって、
    第1端末が、画像収集を行い、少なくとも1つのキーフレームに関連するグローバル地図データを得、前記グローバル地図データを前記第1端末と第2端末との共有地図データとすることであって、前記グローバル地図データは、ポイントクラウドデータであり、前記キーフレームは、前記グローバル地図データ内の、前記第2端末により収集された画像における現在のフレームに最も類似した候補フレームである、ことと、
    前記第1端末が、前記グローバル地図データから、前記キーフレームに関連する局所的地図データを抽出することと、
    前記第1端末が、前記第2端末により収集された前記現在のフレームを受信し、前記現在のフレームと前記局所的地図データに対して特徴マッチングを行い、マッチング結果に基づいて、前記グローバル地図データにおける、前記現在のフレーム内の前記第2端末の位置姿勢を測位結果とし、前記測位結果を送信すること
    を含む共有地図に基づいた測位方法。
  7. 前記第1端末が前記グローバル地図データから、前記キーフレームに関連する局所的地図データを抽出することは、
    前記キーフレームに対応するポイントクラウドデータを参照中心として、前記キーフレームおよび所定の抽出範囲に基づいて決定して得られたポイントクラウドデータを前記局所的地図データとすることを含む請求項6に記載の共有地図に基づいた測位方法。
  8. 前記現在のフレームと前記局所的地図データに対して特徴マッチングを行い、マッチング結果に基づいて、前記グローバル地図データにおける、前記現在のフレーム内の前記第2端末の位置姿勢を測位結果とすることは、
    前記現在のフレームと前記局所的地図データにおける少なくとも1つのキーフレームに対して、特徴点の2D特徴マッチングを行い、2D特徴マッチング結果を得ることと、
    前記2D特徴マッチング結果から、3D情報を含む2D特徴マッチング結果を選別し、3D情報を含む前記2D特徴マッチング結果に基づいて、前記3D情報を抽出することと、
    前記3D情報に基づいて、前記現在のフレームの位置姿勢を得て、前記グローバル地図データにおける、前記現在のフレーム内の前記第2端末の位置姿勢を前記測位結果とすること
    を含む請求項6または請求項7に記載の共有地図に基づいた測位方法。
  9. 共有地図に基づいた測位方法であって、
    第2端末が、少なくとも1つのキーフレームに関連するグローバル地図データを受信し、前記グローバル地図データから、前記キーフレームに関連する局所的地図データを抽出し、前記グローバル地図データを前記第1端末と第2端末との共有地図データとすることであって、前記グローバル地図データは、ポイントクラウドデータであり、前記キーフレームは、前記グローバル地図データ内の、前記第2端末により収集された画像における現在のフレームに最も類似した候補フレームである、ことと、
    前記第2端末が、画像収集を行い、収集された画像における前記現在のフレームを得ることと、
    前記第2端末が、前記現在のフレームと前記局所的地図データに対して特徴マッチングを行い、マッチング結果に基づいて、前記グローバル地図データにおける、前記現在のフレーム内の前記第2端末の位置姿勢を測位結果とすること
    を含む共有地図に基づいた測位方法。
  10. 前記第2端末が画像収集を行い、収集された画像における現在のフレームを取得した後に、前記共有地図に基づいた測位方法は、前記現在のフレームから抽出された特徴点の数が特徴マッチングのための所望閾値未満であるかどうかを判定し、所望閾値未満である場合、前記現在のフレームに対する特徴点補完処理をトリガすることをさらに含む請求項9に記載の共有地図に基づいた測位方法。
  11. 前記現在のフレームに、前記現在のフレームに対する特徴点補完処理を行った後に得られた現在のフレームが含まれてい請求項10に記載の共有地図に基づいた測位方法。
  12. 前記現在のフレームに対する特徴点補完処理を行うことは、
    現在のフレームに対して特徴点抽出を行うための第1選別閾値を取得することと、
    参照情報に基づいて、前記第1選別閾値に対して自己適応的に調整を行い、第2選別閾値を得て、前記第2選別閾値に基づいて前記現在のフレームに特徴点を増やして補完し、特徴点の数を実際の収集により得られた特徴点の数より大きくすること
    を含み、
    前記参照情報は、画像収集の環境情報、画像収集装置におけるパラメータ情報、現在のフレームの自らの画像情報のうちの少なくとも1つを含む請求項10または請求項11に記載の共有地図に基づいた測位方法。
  13. 前記現在のフレームと前記局所的地図データに対して特徴マッチングを行い、マッチング結果に基づいて、前記グローバル地図データにおける、前記現在のフレーム内の前記第2端末の位置姿勢を測位結果とすることは、
    前記現在のフレームと前記局所的地図データにおける少なくとも1つのキーフレームに対して、特徴点の2D特徴マッチングを行い、2D特徴マッチング結果を得ることと、
    前記2D特徴マッチング結果から、3D情報を含む2D特徴マッチング結果を選別し、3D情報を含む前記2D特徴マッチング結果に基づいて、前記3D情報を抽出することと、
    前記3D情報に基づいて、前記現在のフレームの位置姿勢を得て、前記グローバル地図データにおける、前記現在のフレーム内の前記第2端末の位置姿勢を前記測位結果とすること
    を含む請求項912のうちいずれか一項に記載の共有地図に基づいた測位方法。
  14. 共有地図に基づいた測位装置であって、
    第1端末により収集された画像における少なくとも1つのキーフレームに関連するグローバル地図データから、前記キーフレームに関連する局所的地図データを抽出し、前記グローバル地図データを前記第1端末と第2端末との共有地図データとするように構成されている第1抽出ユニットであって、前記グローバル地図データは、ポイントクラウドデータであり、前記キーフレームは、前記グローバル地図データ内の、前記第2端末により収集された画像における現在のフレームに最も類似した候補フレームである、第1抽出ユニットと、
    前記第2端末により収集された画像における前記現在のフレームを取得するように構成されている第1取得ユニットと、
    前記現在のフレームと前記局所的地図データに対して特徴マッチングを行い、マッチング結果に基づいて、前記グローバル地図データにおける、前記現在のフレーム内の前記第2端末の位置姿勢を測位結果とするように構成されている第1マッチングユニット
    を備える共有地図に基づいた測位装置。
  15. 共有地図に基づいた測位装置であって、
    画像収集を行い、少なくとも1つのキーフレームに関連するグローバル地図データを得るように構成されている第1収集ユニットであって、前記グローバル地図データはポイントクラウドデータであり、前記キーフレームは、前記グローバル地図データ内の、前記第2端末により収集された画像における現在のフレームに最も類似した候補フレームである、第1収集ユニットと、
    前記グローバル地図データから、前記キーフレームに関連する局所的地図データを抽出するように構成されている第1抽出ユニットと、
    前記第2端末により収集された前記現在のフレームを受信し、前記現在のフレームと前記局所的地図データに対して特徴マッチングを行い、マッチング結果に基づいて、前記グローバル地図データにおける、前記現在のフレーム内の前記第2端末の位置姿勢を測位結果とし、前記測位結果を送信するように構成されている第1マッチングユニット
    を備える共有地図に基づいた測位装置。
  16. 電子機器であって、前記電子機器は、
    プロセッサと、
    プロセッサによって実行可能な命令を記憶するためのメモリ
    備え、
    前記プロセッサは、前記命令を実行することにより、請求項15、請求項68、請求項913のうちいずれか一項に記載の共有地図に基づいた測位方法を実行するように構成されている、電子機器。
  17. コンピュータ読み取り可能な記憶媒体であって、前記コンピュータ読み取り可能な記憶媒体にはコンピュータプログラム命令が記憶されており、前記コンピュータプログラム命令は、電子機器のプロセッサによって実行されると、請求項15、請求項68、請求項913のうちいずれか一項に記載の共有地図に基づいた測位方法を実行することを前記プロセッサに行わせる、コンピュータ読み取り可能な記憶媒体。
  18. コンピュータプログラムであって、前記コンピュータプログラムは、電子機器のプロセッサによって実行されると、請求項15、請求項68、請求項913のうちいずれか一項に記載の共有地図に基づいた測位方法を実行することを前記プロセッサに行わせる、コンピュータプログラム。
JP2021543389A 2019-06-27 2020-03-20 共有地図に基づいた測位方法及び装置、電子機器並びに記憶媒体 Active JP7261889B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
CN201910569120.6 2019-06-27
CN201910569120.6A CN112148815B (zh) 2019-06-27 2019-06-27 一种基于共享地图的定位方法及装置、电子设备和存储介质
PCT/CN2020/080465 WO2020258936A1 (zh) 2019-06-27 2020-03-20 一种基于共享地图的定位方法及装置、电子设备和存储介质

Publications (2)

Publication Number Publication Date
JP2022518810A JP2022518810A (ja) 2022-03-16
JP7261889B2 true JP7261889B2 (ja) 2023-04-20

Family

ID=73868781

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021543389A Active JP7261889B2 (ja) 2019-06-27 2020-03-20 共有地図に基づいた測位方法及び装置、電子機器並びに記憶媒体

Country Status (6)

Country Link
US (1) US20210350170A1 (ja)
JP (1) JP7261889B2 (ja)
CN (1) CN112148815B (ja)
SG (1) SG11202108199YA (ja)
TW (1) TWI748439B (ja)
WO (1) WO2020258936A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113763475A (zh) * 2021-09-24 2021-12-07 北京百度网讯科技有限公司 定位方法、装置、设备、系统、介质和自动驾驶车辆

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109509230A (zh) 2018-11-13 2019-03-22 武汉大学 一种应用于多镜头组合式全景相机的slam方法
CN109615698A (zh) 2018-12-03 2019-04-12 哈尔滨工业大学(深圳) 基于互回环检测的多无人机slam地图融合算法

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104748736A (zh) * 2013-12-26 2015-07-01 电信科学技术研究院 一种定位方法及装置
US10068373B2 (en) * 2014-07-01 2018-09-04 Samsung Electronics Co., Ltd. Electronic device for providing map information
KR102332752B1 (ko) * 2014-11-24 2021-11-30 삼성전자주식회사 지도 서비스를 제공하는 전자 장치 및 방법
US10217221B2 (en) * 2016-09-29 2019-02-26 Intel Corporation Place recognition algorithm
CN107392964B (zh) * 2017-07-07 2019-09-17 武汉大学 基于室内特征点和结构线结合的室内slam方法
WO2019045711A1 (en) * 2017-08-31 2019-03-07 Sony Mobile Communications Inc. SIMULTANEOUS LOCALIZING AND MAPPING DEVICES (SLAM) WITH SCALE DETERMINATION AND METHODS OF OPERATION THEREOF
TWI657230B (zh) * 2017-09-18 2019-04-21 財團法人工業技術研究院 導航定位裝置及應用其之導航定位方法
CN107832331A (zh) * 2017-09-28 2018-03-23 阿里巴巴集团控股有限公司 可视化对象的生成方法、装置和设备
EP3474230B1 (en) * 2017-10-18 2020-07-22 Tata Consultancy Services Limited Systems and methods for edge points based monocular visual slam
CN107990899B (zh) * 2017-11-22 2020-06-30 驭势科技(北京)有限公司 一种基于slam的定位方法和系统
CN107818592B (zh) * 2017-11-24 2022-04-01 北京华捷艾米科技有限公司 协作式同步定位与地图构建的方法、系统及交互系统
TWI648556B (zh) * 2018-03-06 2019-01-21 仁寶電腦工業股份有限公司 同步定位與地圖建構及手勢辨識方法
CN108921893B (zh) * 2018-04-24 2022-03-25 华南理工大学 一种基于在线深度学习slam的图像云计算方法及系统
CN109559277B (zh) * 2018-11-28 2023-02-28 中国人民解放军国防科技大学 一种面向数据共享的多无人机协同地图构建方法

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109509230A (zh) 2018-11-13 2019-03-22 武汉大学 一种应用于多镜头组合式全景相机的slam方法
CN109615698A (zh) 2018-12-03 2019-04-12 哈尔滨工业大学(深圳) 基于互回环检测的多无人机slam地图融合算法

Also Published As

Publication number Publication date
CN112148815B (zh) 2022-09-27
US20210350170A1 (en) 2021-11-11
TW202100955A (zh) 2021-01-01
WO2020258936A1 (zh) 2020-12-30
TWI748439B (zh) 2021-12-01
CN112148815A (zh) 2020-12-29
SG11202108199YA (en) 2021-08-30
JP2022518810A (ja) 2022-03-16

Similar Documents

Publication Publication Date Title
WO2021164469A1 (zh) 目标对象的检测方法、装置、设备和存储介质
JP7262659B2 (ja) 目標対象物マッチング方法及び装置、電子機器並びに記憶媒体
TWI767596B (zh) 場景深度和相機運動預測方法、電子設備和電腦可讀儲存介質
CN106778773B (zh) 图片中目标物的定位方法及装置
WO2021035833A1 (zh) 姿态预测方法、模型训练方法及装置
CN109584362B (zh) 三维模型构建方法及装置、电子设备和存储介质
CN113643356B (zh) 相机位姿确定、虚拟物体显示方法、装置及电子设备
JP2022540072A (ja) 位置姿勢決定方法及び装置、電子機器並びに記憶媒体
US20210158560A1 (en) Method and device for obtaining localization information and storage medium
CN108776822B (zh) 目标区域检测方法、装置、终端及存储介质
CN111401230B (zh) 姿态估计方法及装置、电子设备和存储介质
CN109840917B (zh) 图像处理方法及装置、网络训练方法及装置
CN111563138B (zh) 定位方法及装置、电子设备和存储介质
JP2022546201A (ja) ターゲット検出方法および装置、電子機器並びに記憶媒体
WO2022179013A1 (zh) 目标定位方法、装置、电子设备、存储介质及程序
CN111311588B (zh) 重定位方法及装置、电子设备和存储介质
JP2023514724A (ja) 測位方法及びその装置、電子機器、記憶媒体、コンピュータプログラム製品、コンピュータプログラム
CN111325786B (zh) 图像处理方法及装置、电子设备和存储介质
JP7261889B2 (ja) 共有地図に基づいた測位方法及び装置、電子機器並びに記憶媒体
CN114581525A (zh) 姿态确定方法及装置、电子设备和存储介质
CN112837372A (zh) 数据生成方法及装置、电子设备和存储介质
CN112767541A (zh) 三维重建方法及装置、电子设备和存储介质
CN112330721B (zh) 三维坐标的恢复方法及装置、电子设备和存储介质
CN114549983A (zh) 计算机视觉模型训练方法及装置、电子设备和存储介质
CN112949568A (zh) 人脸和人体匹配的方法及装置、电子设备和存储介质

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210727

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210727

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220830

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221130

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230403

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230410

R150 Certificate of patent or registration of utility model

Ref document number: 7261889

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150