Nothing Special   »   [go: up one dir, main page]

JP5473304B2 - 遠隔地画像表示装置、遠隔操縦装置、車両制御装置、遠隔操縦システム、遠隔操縦方法、遠隔操縦プログラム、車両制御プログラム、遠隔地画像表示方法、遠隔地画像表示プログラム - Google Patents

遠隔地画像表示装置、遠隔操縦装置、車両制御装置、遠隔操縦システム、遠隔操縦方法、遠隔操縦プログラム、車両制御プログラム、遠隔地画像表示方法、遠隔地画像表示プログラム Download PDF

Info

Publication number
JP5473304B2
JP5473304B2 JP2008307006A JP2008307006A JP5473304B2 JP 5473304 B2 JP5473304 B2 JP 5473304B2 JP 2008307006 A JP2008307006 A JP 2008307006A JP 2008307006 A JP2008307006 A JP 2008307006A JP 5473304 B2 JP5473304 B2 JP 5473304B2
Authority
JP
Japan
Prior art keywords
vehicle
information
obstacle
unit
dimensional
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2008307006A
Other languages
English (en)
Other versions
JP2010134499A (ja
Inventor
久雄 曽根
純一 瀧口
匠 橋詰
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Waseda University
Mitsubishi Electric Corp
Original Assignee
Waseda University
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Waseda University, Mitsubishi Electric Corp filed Critical Waseda University
Priority to JP2008307006A priority Critical patent/JP5473304B2/ja
Publication of JP2010134499A publication Critical patent/JP2010134499A/ja
Application granted granted Critical
Publication of JP5473304B2 publication Critical patent/JP5473304B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
  • Traffic Control Systems (AREA)
  • Control Of Position, Course, Altitude, Or Attitude Of Moving Bodies (AREA)

Description

本発明は、例えば、無人車両を遠隔地で操作する遠隔地画像表示装置、遠隔操縦装置、車両制御装置、遠隔操縦システム、遠隔操縦方法、遠隔操縦プログラム、車両制御プログラム、遠隔地画像表示方法、遠隔地画像表示プログラムに関するものである。
従来の遠隔操縦装置は、無人車両に取り付けられたカメラにより撮影された映像を遠隔地にいる操縦端末に送り、操縦者がその送られて来た映像を見ながら操縦端末を操作して無人車両を遠隔操縦する構成である(特許文献1)。
特開平8−84375号公報
従来の遠隔操縦装置では、無人車両に取り付けられたカメラの撮影方向の映像しか遠隔地の操縦者は見ることができず、無人車両の周辺情報に死角がある状態で操縦者は無人車両を操縦しなければならないという課題があった。
本発明は、例えば、かかる課題を解決するためになされたもので、遠隔地の操縦者に無人車両の周辺情報を視覚的に提供できるようにすることを目的とする。
本発明の遠隔地画像表示装置は、遠隔地を走行する車両から送信される前記車両の位置情報を通信装置を用いて受信する車両情報受信部と、前記車両情報受信部により受信された前記車両の位置情報に基づいて、前記車両の周辺の地図データを前記車両の走行地域の地図データを記憶する地図データベース装置から取得する地図データ取得部と、前記地図データ取得部により取得された地図データに基づいて前記車両の周辺の地図を表す周辺画像をCPU(Central Proccessing Unit)を用いて生成する周辺画像生成部と、前記周辺画像生成部により生成された周辺画像をモニター装置に表示する周辺画像表示部とを備える。
本発明によれば、例えば、車両の周辺画像を生成して表示することにより、遠隔地の操縦者に無人車両の周辺情報を視覚的に提供することができる。
実施の形態1.
車両を遠隔地の操縦装置から操縦する遠隔操縦システムについて説明する。
図1は、実施の形態1における遠隔操縦システム100の概要図である。
実施の形態1における遠隔操縦システム100の概要について、図1に基づいて以下に説明する。
遠隔操縦システム100は、遠隔地から操縦命令を送信する遠隔操縦装置300と、遠隔操縦装置300から送信された操縦命令に基づいて車両を制御する車両制御装置209を搭載された車両とを備える。
車両は、無人でも有人でも構わず、車両制御装置209による自動操縦(自律運転)で走行する。
以下、車両制御装置209の搭載された車両を「無人車両200」という。
無人車両200にはGPS受信システム201(GPS:Global Positioning System)、アンテナ202およびジャイロ203が設置される。
GPS受信システム201は、測位衛星から測位信号を受信し、測位信号の受信結果に基づいて無人車両200の現在地点を測位する測位装置である。GPS受信システム201として、従来のGPS受信機を用いることができる。
アンテナ202は、GPS受信システム201の測位結果や遠隔操縦装置300からの操縦命令などを含んだ無線電波を送受信する通信装置である。
ジャイロ203は、無人車両200の進行方向を示す姿勢角(ロール角、ピッチ角、ヨー角)を計測するセンサ装置である。
まず、車両制御装置209は、GPS受信システム201を用いて測位した無人車両200の現在地点とジャイロ203を用いて計測した無人車両200の姿勢角とを示す位置姿勢情報210a(位置情報の一例)をアンテナ202を用いて送信する(S100:車両情報送信工程)。
次に、遠隔操縦装置300は、車両制御装置209により送信された位置姿勢情報210aに基づいて無人車両200の周辺の3次元地図を表す3次元周辺画像313a(周辺画像の一例)を生成して表示装置901(モニター装置ともいう)に表示する(S200:車両周辺画像表示工程)。
次に、遠隔操縦装置300は、表示装置901に表示された周辺画像を見た操縦者がキーボード902やマウス903などの入力装置を操作して指定した操縦命令を移動先位置情報322aとして通信装置を用いて送信する(S300:操縦命令送信工程)。
そして、車両制御装置209は、遠隔操縦装置300により送信された移動先位置情報322aに基づいて無人車両200をCPU(Central Proccessing
Unit)を用いて制御(操縦、運転)する(S400:自動操縦工程)。
各工程(S100〜S400)の詳細について後述する。
図2は、実施の形態1における車両制御装置209の機能構成図である。
実施の形態1における車両制御装置209の機能構成について、図2に基づいて以下に説明する。
車両制御装置209は、位置姿勢標定部210(位置情報生成部の一例)、車両送信部211(車両情報送信部の一例)、車両受信部212(操縦命令受信部の一例)、車両制御部213および車両記憶部290を備える。
位置姿勢標定部210は、無人車両200の現在地点をGPS受信システム201を用いて測位すると共に無人車両200の姿勢角をジャイロ203を用いて計測し、無人車両200の現在地点および姿勢角を示す位置姿勢情報210aをCPUを用いて生成する。
車両送信部211は、位置姿勢標定部210により生成された位置姿勢情報210aを遠隔操縦装置300へアンテナ202を用いて送信する。
車両受信部212は、遠隔操縦装置300により送信される移動先位置情報322aを通信装置を用いて受信する。
車両制御部213は、車両受信部212により受信された移動先位置情報322aに基づいて無人車両200をCPUを用いて制御(操縦、運転)する。
車両記憶部290は、車両制御装置209で使用されるデータを記憶媒体を用いて記憶する。例えば、車両記憶部290は、位置姿勢標定部210により生成された位置姿勢情報210aや車両受信部212により受信された移動先位置情報322aを記憶する。
図3は、実施の形態1における遠隔操縦装置300の機能構成図である。
実施の形態1における遠隔操縦装置300の機能構成について、図3に基づいて以下に説明する。
遠隔操縦装置300は、遠隔地画像表示装置310、車両操縦装置320および装置記憶部390を備える。
遠隔地画像表示装置310は、無人車両200の車両制御装置209により送信された位置姿勢情報210aに基づいて無人車両200の3次元周辺画像313aを生成し、生成した3次元周辺画像313aを表示装置901に表示する。
車両操縦装置320は、表示装置901に表示された3次元周辺画像313aを見た操縦者がキーボード902やマウス903などの入力装置を操作して指定した操縦命令を移動先位置情報322aとして送信アンテナ302を用いて送信する。
装置記憶部390は、遠隔地画像表示装置310および車両操縦装置320で使用されるデータを記憶媒体を用いて記憶する。例えば、装置記憶部390は、位置姿勢情報210a、3次元周辺画像313aや移動先位置情報322aを記憶する。
遠隔地画像表示装置310は、装置受信部311(車両情報受信部の一例)、地図データ取得部312、3次元周辺画像生成部313(周辺画像生成部の一例)、3次元周辺画像表示部314および3次元地図データベース391を備える。
3次元地図データベース391は、無人車両200の走行地域の3次元地図データ391aを記憶媒体を用いて記憶管理する装置である。3次元地図データ391aは、当該地域内に位置する道路の情報および道路以外の地物の情報を示す。例えば、道路の情報とは、道路、車線、白線、標識などの情報(3次元座標、形状、大きさ、色、種別など)であり、道路以外の地物の情報とは、建物、施設、トンネル、山、川などの情報である。例えば、形状や大きさは、地物の輪郭を形成する複数の端点それぞれの3次元座標で表される。3次元地図データベース391としてGIS(Geographical Information System)のデータベースを用いることができる。
装置受信部311は、遠隔地を走行する無人車両200の車両制御装置209から送信される無人車両200の位置姿勢情報210aを受信アンテナ301を用いて受信する。
地図データ取得部312は、装置受信部311により受信された無人車両200の位置姿勢情報210aに基づいて、無人車両200の周辺の3次元地図データ391aを3次元地図データベース391から取得する。
3次元周辺画像生成部313は、地図データ取得部312により取得された3次元地図データ391aに基づいて無人車両200の3次元周辺画像313aをCPUを用いて生成する。
3次元周辺画像表示部314は、3次元周辺画像生成部313により生成された3次元周辺画像313aを表示装置901に表示する。
車両操縦装置320は、操縦情報入力部321、移動位置生成部322(操縦命令生成部の一例)および装置送信部323(操縦命令送信部の一例)を備える。
操縦情報入力部321は、無人車両200を操縦する情報として遠隔操縦装置300の利用者(以下、「操縦者」または「遠隔操縦者」という)に指定された操縦情報321aをキーボード902やマウス903などの入力装置から入力する。
移動位置生成部322は、操縦情報入力部321により入力された操縦情報321aに基づいて移動先位置情報322aをCPUを用いて生成する。
装置送信部323は、移動位置生成部322により生成された移動先位置情報322aを送信アンテナ302を用いて無人車両200の車両制御装置209へ送信することにより無人車両200を操縦する。
図4は、実施の形態1における遠隔操縦装置300および車両制御装置209のハードウェア資源の一例を示す図である。
図4において、遠隔操縦装置300および車両制御装置209は、プログラムを実行するCPU911(Central・Processing・Unit、中央処理装置、処理装置、演算装置、マイクロプロセッサ、マイクロコンピュータ、プロセッサともいう)を備えている。CPU911は、バス912を介してROM913、RAM914、通信ボード915、磁気ディスク装置920と接続される。さらに、遠隔操縦装置300のCPU911は、表示装置901、キーボード902およびマウス903などの入出力装置と接続される。さらに、車両制御装置209のCPU911は、無人車両200の駆動装置(速度や進行方向を制御する装置)と接続される。CPU911は、これらのハードウェアデバイスを制御する。磁気ディスク装置920の代わりにその他の記憶装置(例えば、RAMやフラッシュメモリなどの半導体メモリ)を用いてもよい。
RAM914は、揮発性メモリの一例である。ROM913、磁気ディスク装置920の記憶媒体は、不揮発性メモリの一例である。これらは、記憶機器、記憶装置あるいは記憶部の一例である。また、入力データが記憶されている記憶機器は入力機器、入力装置あるいは入力部の一例であり、出力データが記憶される記憶機器は出力機器、出力装置あるいは出力部の一例である。
通信ボード915は、入出力機器、入出力装置あるいは入出力部の一例である。
通信ボード915は、有線または無線で、LAN(Local Area Network)、インターネット、ISDN等のWAN(ワイドエリアネットワーク)、電話回線などの通信網に接続されている。
磁気ディスク装置920には、OS921(オペレーティングシステム)、プログラム群923、ファイル群924が記憶されている。プログラム群923のプログラムは、CPU911、OS921により実行される。
上記プログラム群923には、実施の形態において「〜部」として説明する機能を実行するプログラムが記憶されている。プログラムは、CPU911により読み出され実行される。
ファイル群924には、実施の形態において、「〜部」の機能を実行した際の「〜の判定結果」、「〜の計算結果」、「〜の処理結果」などの結果データ、「〜部」の機能を実行するプログラム間で受け渡しするデータ、その他の情報やデータや信号値や変数値やパラメータが、「〜ファイル」や「〜データベース」の各項目として記憶されている。
「〜ファイル」や「〜データベース」は、ディスクやメモリなどの記録媒体に記憶される。ディスクやメモリなどの記憶媒体に記憶された情報やデータや信号値や変数値やパラメータは、読み書き回路を介してCPU911によりメインメモリやキャッシュメモリに読み出され、抽出・検索・参照・比較・演算・計算・処理・出力・印刷・表示などのCPUの動作に用いられる。抽出・検索・参照・比較・演算・計算・処理・出力・印刷・表示のCPUの動作の間、情報やデータや信号値や変数値やパラメータは、メインメモリやキャッシュメモリやバッファメモリに一時的に記憶される。
また、実施の形態において説明するフローチャートの矢印の部分は主としてデータや信号の入出力を示し、データや信号値は、RAM914のメモリ、磁気ディスク装置920の磁気ディスク、その他の記録媒体に記録される。また、データや信号値は、バス912や信号線やケーブルその他の伝送媒体によりオンライン伝送される。
また、実施の形態において「〜部」として説明するものは、「〜回路」、「〜装置」、「〜機器」であってもよく、また、「〜ステップ」、「〜手順」、「〜処理」であってもよい。すなわち、「〜部」として説明するものは、ROM913に記憶されたファームウェアで実現されていても構わない。或いは、ソフトウェアのみ、或いは、素子・デバイス・基板・配線などのハードウェアのみ、或いは、ソフトウェアとハードウェアとの組み合わせ、さらには、ファームウェアとの組み合わせで実施されても構わない。ファームウェアとソフトウェアは、プログラムとして、磁気ディスクやその他の記録媒体に記憶される。プログラムはCPU911により読み出され、CPU911により実行される。すなわち、プログラムは、「〜部」としてコンピュータを機能させるものである。あるいは、「〜部」の手順や方法をコンピュータに実行させるものである。
図5は、実施の形態1における遠隔操縦システム100の遠隔操縦方法を示すフローチャートである。
実施の形態1における遠隔操縦システム100の遠隔操縦方法について、図5に基づいて以下に説明する。
<S100:車両情報送信工程>
無人車両200の車両制御装置209は、無人車両200の現在地点を測位すると共に無人車両200の姿勢角を計測して無人車両200の現在地点および姿勢角を示す位置姿勢情報210aを遠隔操縦装置300に送信する。
<S200:車両周辺画像表示工程(遠隔地画像表示方法)>
遠隔操縦装置300は、車両制御装置209から位置姿勢情報210aを受信し、受信した位置姿勢情報210aに基づいて無人車両200の3次元周辺画像313aを生成し、生成した3次元周辺画像313aを表示装置901に表示する。
<S300:操縦命令送信工程>
遠隔操縦装置300は、表示装置901に表示された3次元周辺画像313aを見た操縦者がキーボード902やマウス903などの入力装置を操作して指定した操縦情報321aを入力し、入力した操縦情報321aに基づいて移動先位置情報322aを生成し、生成した移動先位置情報322aを無人車両200の車両制御装置209に送信する。
<S400:自動操縦工程>
無人車両200の車両制御装置209は、遠隔操縦装置300から移動先位置情報322aを受信し、受信した移動先位置情報322aに基づいて無人車両200を制御する。
以下に、各工程(S100〜S400)の詳細について説明する。
図6は、実施の形態1における車両情報送信工程(S100)のフローチャートである。
実施の形態1における車両情報送信工程(S100)の詳細について、図6に基づいて以下に説明する。
無人車両200の車両制御装置209の各「〜部」は、以下に説明する処理をCPUを用いて実行する。
<S110:位置情報生成処理>
位置姿勢標定部210は、GPS受信システム201を用いて無人車両200の現在地点を測位し、測位結果をGPS受信システム201から入力する。さらに、位置姿勢標定部210は、ジャイロ203を用いて無人車両200の姿勢角を計測し、計測結果をジャイロ203から入力する。位置姿勢標定部210は、GPS受信システム201から入力した測位結果とジャイロ203から入力した計測結果とを含めて位置姿勢情報210aを生成し、生成した位置姿勢情報210aを車両記憶部290に記憶する。
S110の後、処理はS120に進む。
<S120:車両情報送信処理>
車両送信部211は、S110において生成された位置姿勢情報210aを車両記憶部290から入力し、入力した位置姿勢情報210aをアンテナ202から無線電波で遠隔操縦装置300へ送信する。
S120の後、車両情報送信工程(S100)は終了する。
車両情報送信工程(S100)は、定期的(例えば、1秒毎)に繰り返し実行される。
図7は、実施の形態1における車両周辺画像表示工程(S200)のフローチャートである。
実施の形態1における車両周辺画像表示工程(S200)の詳細について、図7に基づいて以下に説明する。
遠隔操縦装置300の各「〜部」は、以下に説明する処理をCPUを用いて実行する。
<S210:車両情報受信処理>
装置受信部311は、無人車両200の車両制御装置209により送信された位置姿勢情報210aを受信アンテナ301を用いて受信し、受信した位置姿勢情報210aを装置記憶部390に記憶する。
S210の後、処理はS220に進む。
<S220:地図情報取得処理>
地図データ取得部312は、S210において受信された位置姿勢情報210aを装置記憶部390から入力し、入力した位置姿勢情報210aに基づいて無人車両200の周辺の地図を表す3次元地図データ391aを3次元地図データベース391から取得する。
例えば、地図データ取得部312は、位置姿勢情報210aから無人車両200の現在地点を特定し、無人車両200の現在地点を中心とする所定の範囲(例えば、半径30m)を算出し、算出した範囲内の座標値が設定されている地物(道路、建物など)の情報(3次元座標、形状、大きさ、色など)を示す3次元地図データ391aを3次元地図データベース391から取得する。
地図データ取得部312は、3次元地図データベース391から取得した3次元地図データ391aを装置記憶部390に記憶する。
S220の後、処理はS230に進む。
<S230:周辺画像生成処理>
3次元周辺画像生成部313は、S210において受信された位置姿勢情報210aとS220において取得された3次元地図データ391aとを装置記憶部390から入力し、入力した位置姿勢情報210aおよび3次元地図データ391aに基づいて無人車両200の3次元周辺画像313aを生成する。
例えば、3次元周辺画像生成部313は、3次元地図データ391aに示される各地物(道路、建物など)の3次元座標、形状、大きさ、色などの情報に基づいて、所定の視線方向から見た各地物の3次元の絵(形象)を示す3次元周辺画像313aを生成する。さらに、3次元周辺画像生成部313は、位置姿勢情報210aから無人車両200の姿勢角を特定し、特定した姿勢角に向いた無人車両200を3次元で表した絵を3次元周辺画像313aに含める。
図8は、実施の形態1における3次元周辺画像313aを示す図である。
周辺画像生成処理(S230)において、3次元周辺画像生成部313は、例えば、図8に示すように、無人車両200の後方上空から俯瞰して無人車両200の周辺を表す3次元周辺画像313aを生成する。
図7のS230において、3次元周辺画像生成部313は、生成した3次元周辺画像313aを装置記憶部390に記憶する。
S230の後、処理はS240に進む。
<S240:周辺画像表示処理>
3次元周辺画像表示部314は、S230において生成された3次元周辺画像313aを装置記憶部390から入力し、入力した3次元周辺画像313aを表示装置901に表示する。
例えば、3次元周辺画像表示部314は、図8に示すように3次元周辺画像313aを表示装置901に表示する。
S240の後、車両周辺画像表示工程(S200)は終了する。
車両周辺画像表示工程(S200)は、無人車両200の車両制御装置209から位置姿勢情報210aが送信される度に実行される。
これにより、遠隔操縦装置300の表示装置901には、無人車両200の移動に伴って更新される3次元周辺画像313aが動画のように表示される。
遠隔操縦装置300を操作して無人車両200を遠隔操縦する遠隔操縦者は、表示装置901に表示された3次元周辺画像313aを見て無人車両200の速度や進行方向を決定し、決定した速度や進行方向をキーボード902やマウス903を操作して操縦情報321aとして遠隔操縦装置300に入力する。
図9は、実施の形態1における操縦命令送信工程(S300)のフローチャートである。
実施の形態1における操縦命令送信工程(S300)の詳細について、図9に基づいて以下に説明する。
遠隔操縦装置300の各「〜部」は、以下に説明する処理をCPUを用いて実行する。
<S310:操縦情報入力処理>
操縦情報入力部321は、表示装置901に表示された3次元周辺画像313aを見た遠隔操縦者がキーボード902やマウス903などの入力装置を操作して入力した操縦情報321aを入力し、入力した操縦情報321aを装置記憶部390に記憶する。
S310の後、処理はS320に進む。
<S320:操縦命令生成処理>
移動位置生成部322は、S310において入力された操縦情報321aを装置記憶部390から入力し、入力した操縦情報321aに基づいて移動先位置情報322aを生成し、生成した移動先位置情報322aを装置記憶部390に記憶する。
例えば、移動先位置情報322aは、操縦情報321aに示される速度および進行方向に基づいて所定時間後(例えば、1秒後)に無人車両200が位置すべき地点の3次元座標を算出し、算出した3次元座標を含めて移動先位置情報322aを生成する。
S320の後、処理はS330に進む。
<S330:操縦命令送信処理>
装置送信部323は、S320において生成された移動先位置情報322aを装置記憶部390から入力し、入力した移動先位置情報322aを送信アンテナ302から無線電波で無人車両200の車両制御装置209に送信する。
S330の後、操縦命令送信工程(S300)は終了する。
操縦命令送信工程(S300)は、遠隔操縦者により操縦情報321aが遠隔操縦装置300に入力される度に実行される。
図10は、実施の形態1における自動操縦工程(S400)のフローチャートである。
実施の形態1における自動操縦工程(S400)の詳細について、図10に基づいて以下に説明する。
無人車両200の車両制御装置209の各「〜部」は、以下に説明する処理をCPUを用いて実行する。
<S410:操縦命令受信処理>
車両受信部212は、遠隔操縦装置300により送信された移動先位置情報322aをアンテナ202を用いて受信し、受信した移動先位置情報322aを車両記憶部290に記憶する。
S410の後、処理はS420に進む。
<S420:車両制御処理>
車両制御部213は、S410において受信された移動先位置情報322aを入力し、入力した移動先位置情報322aに基づいて無人車両200を制御する。
例えば、車両制御部213は、無人車両200が所定時間後に移動先位置情報322aに示される地点に位置するように、無人車両200の駆動装置を制御して加減速および進行方向の変更をし、無人車両200を走行させる。
S410の後、自動操縦工程(S400)は終了する。
自動操縦工程(S400)は、遠隔操縦装置300から移動先位置情報322aが送信される度に実行される。
これにより、無人車両200は、手動ではなく自動で走行する。
車両操縦プログラムは、車両情報送信工程(S100)および自動操縦工程(S400)を車両制御装置209(コンピュータの一例)に実行させる。
遠隔操縦プログラムは、車両周辺画像表示工程(S200)および操縦命令送信工程(S300)を遠隔操縦装置300(コンピュータの一例)に実行させる。
遠隔地画像表示プログラムは、車両周辺画像表示工程(S200)を遠隔操縦装置300に実行させる。
実施の形態1では、以下のような遠隔操縦システム100について説明した。
遠隔操縦装置300は、予め取得された無人車両周辺の3次元情報(3次元地図データ391a)をまとめた3次元地図データベース391を搭載し、その情報を元に無人車両200の自己位置姿勢に合わせて無人車両200の周辺情報を客観的に判り易く表示する。
遠隔操縦装置300において、地図データ取得部312は、無人車両200の周辺情報(3次元地図データ391a)を3次元地図データベース391から取得する。3次元周辺画像生成部313および3次元周辺画像表示部314は、周辺情報に基づいて地物を3次元的に任意の視点方向から見たように表示し、かつその表示上に無人車両200を重畳する処理をする。遠隔操作者は、この処理の結果を表示装置901で目視確認することで、無人車両200の周辺情報を客観的に見て取り、無人車両200への移動方向指示を明確に行うことができる。
図11は、無人車両200からカメラ撮影した場合のカメラ画像199のイメージ図である。
無人車両200に設置されたカメラにより撮影されたカメラ画像199が遠隔操縦装置300の表示装置901に表示された場合、図11に示すように、遠隔操縦者は、カメラの視線方向における無人車両200の周辺を確認することはできるが、カメラ画像が無人車両200を含めた俯瞰画像ではないため、前方の交差点の状況や無人車両200の左右の状況を把握することができない。このため、遠隔操縦者は、カメラ画像を見て操縦情報321aを決定することが容易でない。
一方、実施の形態1で説明したように無人車両200の位置姿勢情報210aと3次元地図データベース291とに基づいて無人車両200の3次元周辺画像313aが鳥瞰図的に無人車両200の後方上部からの視点で表示された場合(図8参照)、遠隔操縦者は、前方の交差点や無人車両200の左右の状況を確認し易いため、カメラ画像を見る場合と比べて容易に操縦情報321aを決定することができる。
また、カメラ画像はデータ量が大きいため、カメラ画像を無人車両200から遠隔操縦装置300へ送信する場合には大容量の通信帯域を設ける必要がある。
一方、実施の形態1は、無人車両200から遠隔操縦装置300へ送信するデータがデータ量の小さい位置姿勢情報210aであるため、大容量の通信帯域が不要であり、確保できる通信帯域が限られている場合にも使用できる。
遠隔操縦システム100を用いた車両の遠隔操縦により、乗客は車両を運転しないで目的地に到着することができる。例えば、遠隔操縦システム100は、タクシーや代行運転などの運転サービスの代わりに利用することができる。
また、遠隔操縦システム100は、遠隔操縦により、無人の車両を走行させることができる。例えば、遠隔操縦システム100は、各種センサを搭載した車両を災害地域・危険地域内で走行させて地域内の各種情報(画像、温度、有害物質濃度など)を取得するなど、復旧活動に利用することができる。
実施の形態で説明した無人車両200は、駆動制御できる移動体であればよく、四輪車、二輪車、大型車、小型車などどのような形態であっても構わない。
遠隔操縦装置300は3次元地図データベース391を備えず、地図データ取得部312は外部に設けられた3次元地図データベース391からネットワークを介して3次元地図データ391aを取得してもよい。
実施の形態2.
遠隔操縦者が指定する視線方向から見た3次元周辺画像313aを表示する形態について説明する。
以下、実施の形態1と異なる事項について主に説明し、説明を省略する事項については実施の形態1と同様であるものとする。
図12は、実施の形態2における遠隔操縦装置300の機能構成図である。
実施の形態2における遠隔操縦装置300の機能構成について、図12に基づいて以下に説明する。
実施の形態2における遠隔操縦装置300は、実施の形態1(図3参照)で説明した各「〜部」に加えて、視線方向入力部315を備える。
以下、視線方向入力部315について説明し、他の構成について説明を省略する。
視線方向入力部315は、3次元周辺画像313aにより表される地図の視線方向として遠隔操縦者に指定された視線方向315aを入力装置から入力する。
実施の形態2における車両制御装置209の機能構成は、実施の形態1(図2参照)と同じである。
図13は、実施の形態2における車両周辺画像表示工程(S200)のフローチャートである。
実施の形態2における車両周辺画像表示工程(S200)の詳細について、図13に基づいて以下に説明する。
実施の形態2における車両周辺画像表示工程(S200)は、実施の形態1(図7参照)で説明した処理に視線方向入力処理(S250)を加え、周辺画像生成処理(S230)を一部変更した処理(S231)にしたものである。
以下、視線方向入力処理(S250)および周辺画像生成処理(S231)について説明し、他の処理について説明を省略する。
<S250:視線方向入力処理>
視線方向入力部315は、遠隔操縦者がキーボード902やマウス903などの入力装置を操作して指定した視線方向315aを入力し、入力した視線方向315aを装置記憶部390に記憶する。
例えば、遠隔操縦者は、無人車両200の運転席から見た方向、無人車両200の後方上空から俯瞰する方向、無人車両200を真上から見た方向など、無人車両200を遠隔操縦し易い視線方向315aを決定して遠隔操縦装置300に入力する。
S250の後、処理はS231に進む。
<S231:周辺画像生成処理>
3次元周辺画像生成部313は、S210において受信された位置姿勢情報210a、S220において取得された3次元地図データ391aおよびS250において入力された視線方向315aを装置記憶部390から入力し、入力した位置姿勢情報210a、3次元地図データ391aおよび3次元周辺画像313aに基づいて無人車両200の3次元周辺画像313aを生成する。
例えば、3次元周辺画像生成部313は、視線方向315aが「無人車両200の運転席から見た方向」を示す場合、図11に示すような画像を3次元周辺画像313aとして生成し、視線方向315aが「無人車両200の後方上空から俯瞰した方向」を示す場合、図8に示すような画像を3次元周辺画像313aとして生成する。
S231の後、処理はS240に進み、S240において3次元周辺画像313aは表示装置901に表示される。
車両情報送信工程(S100)、操縦命令送信工程(S300)および自動操縦工程(S400)は、実施の形態1と同じである。
実施の形態2における遠隔操縦システム100は、遠隔操縦者が指定した視線方向から見た3次元周辺画像313aを表示することにより、遠隔操縦をより容易にすることができる。
また、遠隔操縦装置300は、異なる視線方向から見た複数の3次元周辺画像313aを表示装置901に分割表示してもよい。例えば、遠隔操縦装置300は、画面を上下左右に4分割して4方向から見た4つの3次元周辺画像313aを表示してもよい。
実施の形態3.
車両周辺に位置する障害物を含めて3次元周辺画像313aを表示する形態について説明する。
以下、実施の形態1と異なる事項について主に説明し、説明を省略する事項については実施の形態1と同様であるものとする。
図14は、実施の形態3における車両制御装置209の機能構成図である。
実施の形態3における車両制御装置209の機能構成について、図14に基づいて以下に説明する。
実施の形態3における車両制御装置209は、実施の形態1(図2参照)で説明した各「〜部」に加え、障害物センサ204および障害物検出部220を備える。
以下、障害物センサ204および障害物検出部220について説明し、他の構成について説明を省略する。
障害物センサ204は、ステレオカメラやLRF(レーザレンジファインダ)など、地物の検出に用いられるセンサ装置である。
LRFは、各方位・各高さに向けてレーザーを照射し、地物に反射して戻ってきたレーザーを観測する。そして、LRFは、レーザーが戻ってくるまでの時間に基づいて地物との距離を特定し、レーザーを照射した方向を地物が位置する方向として特定する。LRFは、レーザーレーダまたはレーザースキャナともいう。
ステレオカメラは、異なる二方向から同じ被写体を同時に撮影する。同時に撮影された二枚の画像それぞれから各画素の色や輝度などに基づいて被写体が写っている画素範囲が特定され、二枚の撮影方向および被写体の画素範囲に基づいて三角測量の原理で被写体との距離が特定される。また、被写体との距離および撮影方向に基づいて被写体の位置が特定され、被写体との距離および画素範囲に基づいて被写体の大きさが特定される。
障害物検出部220(障害物情報生成部の一例)は、前記車両の周辺に位置する障害物を障害物センサ204を用いて検出し、検出した障害物の情報(以下、「障害物情報220a」という)をCPUを用いて生成する。障害物情報220aは、障害物の情報として、障害物の位置(三次元座標)および大きさを示す。
例えば、障害物検出部220は、LRF(障害物センサ204の一例)により特定された地物との距離および地物が位置する方向に基づいて、地物の位置および大きさを算出し、算出した地物の位置および大きさを障害物の情報として障害物情報220aを生成する。障害物検出部220は、LRFから特定された方向へ特定された距離だけ離れた地点を地物(障害物)の位置として算出し、特定された距離および方向が近似するレーザーの照射範囲を地物の大きさとして算出する。
また例えば、障害物検出部220は、ステレオカメラ(障害物センサ204の一例)により同時に撮影された二枚の画像を画像処理して画像に写っている地物の位置および大きさを算出し、算出した地物の位置および大きさを障害物の情報として障害物情報220aを生成する。
図15は、実施の形態3における遠隔操縦装置300の機能構成図である。
実施の形態3における遠隔操縦装置300の機能構成について、図15に基づいて以下に説明する。
実施の形態3における遠隔操縦装置300は、実施の形態1(図3参照)で説明した3次元周辺画像生成部313が地図形成部313Aおよび障害物形成部313Bを備える。
以下、地図形成部313Aおよび障害物形成部313Bについて説明し、他の構成について説明を省略する。
地図形成部313Aは、実施の形態1で説明した3次元周辺画像生成部313のように、地図データ取得部312により取得された3次元地図データ391aに基づいて無人車両200の周辺の3次元地図を生成する。
障害物形成部313Bは、車両制御装置209から送信される障害物情報220aに基づいて、地図形成部313Aにより生成された3次元地図に障害物の絵を重畳させて3次元周辺画像313aを生成する。
図16は、実施の形態3における車両情報送信工程(S100)のフローチャートである。
実施の形態3における車両情報送信工程(S100)の詳細について、図16に基づいて以下に説明する。
実施の形態3における車両情報送信工程(S100)は、実施の形態1(図6参照)で説明した処理に障害物情報生成処理(S130)を加え、車両情報送信処理(S120)を一部変更した処理(S121)にしたものである。
以下、障害物情報生成処理(S130)および車両情報送信処理(S121)について説明し、他の処理について説明を省略する。
<S130:障害物情報生成処理>
障害物検出部220は、障害物センサ204を用いて無人車両200の周辺に位置する障害物を検出し、検出した障害物の情報(障害物情報220a)を生成し、生成した障害物情報220aを車両記憶部290に記憶する。
S130の後、処理は、S121に進む。
<S121:車両情報送信処理>
車両送信部211は、S110において生成された位置姿勢情報210aおよびS130において生成された障害物情報220aを車両記憶部290から入力し、入力した位置姿勢情報210aおよび障害物情報220aをアンテナ202から無線電波で遠隔操縦装置300へ送信する。
図17は、実施の形態3における車両周辺画像表示工程(S200)のフローチャートである。
実施の形態3における車両周辺画像表示工程(S200)の詳細について、図17に基づいて以下に説明する。
実施の形態3における車両周辺画像表示工程(S200)は、実施の形態1(図7参照)で説明した車両情報受信処理(S210)を一部変更した処理(S211)にし、周辺画像生成処理(S230)を周辺画像生成処理A(S232)および周辺画像生成処理B(S233)に変更したものである。
以下、車両情報受信処理(S211)、周辺画像生成処理A(S232)および周辺画像生成処理B(S233)について説明し、他の処理について説明を省略する。
<S211:車両情報受信処理>
装置受信部311は、無人車両200の車両制御装置209により送信された位置姿勢情報210aおよび障害物情報220aを受信アンテナ301を用いて受信し、受信した位置姿勢情報210aおよび障害物情報220aを装置記憶部390に記憶する。
<S232:周辺画像生成処理A>
地図形成部313Aは、S211において受信された位置姿勢情報210aとS220において取得された3次元地図データ391aとを装置記憶部390から入力し、実施の形態1(S230)と同様に、入力した位置姿勢情報210aおよび3次元地図データ391aに基づいて車両周辺の3次元地図を生成する。地図形成部313Aは、生成した3次元地図を装置記憶部390に記憶する。
S232の後、処理はS233に進む。
<S233:周辺画像生成処理B>
障害物形成部313Bは、S211において受信された障害物情報220aとS232において生成された3次元地図とを装置記憶部390から入力し、障害物情報220aに基づいて障害物の絵を3次元地図に重畳させて3次元周辺画像313aを生成する。
例えば、障害物形成部313Bは、障害物情報220aに示される障害物の位置および大きさに基づいて、障害物を表す四角形を作成し、作成した四角形を3次元地図に重畳して3次元周辺画像313aを生成する。
図18および図19は、実施の形態3における3次元周辺画像313aを示す図である。
周辺画像生成処理B(S233)において、障害物形成部313Bは、例えば、図18に示すように、四角形で表した障害物(313b1〜313b3)を3次元地図に重畳させて3次元周辺画像313aを生成する。
図18において、障害物313b1は3次元地図データ391aにも含まれる建物の壁面の存在を示し、障害物313b2および障害物313b3は3次元地図データ391aには含まれない移動体(歩行者、対向車)の存在を示している。
障害物形成部313Bは、各障害物との距離に応じて異なる色で各障害物の絵を3次元周辺画像313aに表してもよい。
例えば、図18において、無人車両200から最も近い障害物313b2は「赤」、次に近い障害物313b3は「黄」、それより遠い位置にある各障害物313b1は「青」で表される。
障害物形成部313Bは、図19に示すように、無人車両200の進行方向で且つ障害物313b1が存在しない方向を特定し、特定した方向をナビゲーション情報として示す表記313c(例えば、矢印)を3次元周辺画像313aに含めてもよい。
図17のS233において、障害物形成部313Bは、生成した3次元周辺画像313aを装置記憶部390に記憶する。
S233の後、処理はS240に進み、S240において3次元周辺画像313aは図18や図19に示されるように表示装置901に表示される。
操縦命令送信工程(S300)および自動操縦工程(S400)は、実施の形態1と同じである。
実施の形態3における遠隔操縦システム100は、車両周辺に位置する障害物を含めて3次元周辺画像313aを表示することにより、3次元地図データベース291には登録されない移動体の存在を遠隔操縦者に知らせ、より安全に遠隔操縦させることができる。
実施の形態3において、以下のような遠隔操縦システム100について説明した。
無人車両200が障害物センサ204を搭載し、障害物情報220aを検出した場合に車両制御装置209がその位置と大きさを遠隔操縦装置300に送り、遠隔操縦装置300が無人車両200の周辺情報を客観的に判り易く表示した内容に障害物を重畳して表示する。
遠隔操縦装置300において、地図データ取得部312は、無人車両200の周辺情報を3次元地図データベース391から取得する。3次元周辺画像生成部313および3次元周辺画像表示部314は、周辺情報に基づいて地物を3次元的に任意の視点方向から見たような表示をし、かつ無人車両200と無人車両200の周辺の障害物を重畳して表示装置901に表示する。遠隔操作者は、この表示を目視確認することで、無人車両200の周辺情報を客観的に見て取り、無人車両200への移動方向指示を明確に行うことができる。
実施の形態3における遠隔操縦装置300は、実施の形態2と同じく、遠隔操縦者に指定された視線方向315aを入力し、指定された視線方向315aから見た3次元周辺画像313aを生成して表示してもよい。
実施の形態4.
車両周辺の障害物のうち移動体のみを絵にして重畳させた3次元周辺画像313aを表示する形態について説明する。
以下、実施の形態3と異なる事項について主に説明し、説明を省略する事項については実施の形態3と同様であるものとする。
図20は、実施の形態4における車両制御装置209の機能構成図である。
実施の形態4における車両制御装置209の機能構成について、図20に基づいて以下に説明する。
実施の形態4における車両制御装置209は、実施の形態3(図14参照)で説明した各「〜部」に加え、地図データ取得部230(地図データ車両取得部の一例)、移動障害物選別部231(障害物車両特定部の一例)および3次元地図データベース291を備える。
以下、地図データ取得部230、移動障害物選別部231および3次元地図データベース291について説明し、他の構成について説明を省略する。
3次元地図データベース291は、遠隔操縦装置300に備わる3次元地図データベース391の3次元地図データ391aと同じデータ(3次元地図データ291a)を記憶媒体を用いて記憶管理する装置である。
地図データ取得部230は、位置姿勢情報210aに基づいて無人車両200の周辺に位置する地物の情報を含んだ3次元地図データ291aを3次元地図データベース291から取得する。
移動障害物選別部231は、障害物検出部220により生成された障害物情報220aから地図データ取得部230により取得された3次元地図データ291aに含まれる地物の情報と重複しない障害物の情報を移動障害物情報231aとして特定する。
実施の形態4における遠隔操縦装置300の機能構成は、実施の形態3(図15参照)と同じである。
図21は、実施の形態4における車両情報送信工程(S100)のフローチャートである。
実施の形態4における車両情報送信工程(S100)の詳細について、図21に基づいて以下に説明する。
実施の形態4における車両情報送信工程(S100)は、実施の形態3(図16参照)で説明した処理に地図情報取得処理(S140)および障害物特定処理(S150)を加え、車両情報送信処理(S121)を一部変更した処理(S122)にしたものである。
以下、地図情報取得処理(S140)、障害物特定処理(S150)および車両情報送信処理(S122)について説明し、他の処理について説明を省略する。
<S140:地図情報取得処理>
地図データ取得部230は、S110において生成された位置姿勢情報210aを車両記憶部290から入力し、遠隔操縦装置300の地図データ取得部312と同様に、入力した位置姿勢情報210aに基づいて車両周辺の3次元地図データ291aを3次元地図データベース291から取得する。地図データ取得部230は、取得した3次元地図データ291aを車両記憶部290に記憶する。
S140の後、処理はS150に進む。
<S150:障害物特定処理>
移動障害物選別部231は、S130において生成された障害物情報220aとS140において取得された3次元地図データ291aとを車両記憶部290から入力し、3次元地図データ291aと重複しない障害物情報220aを移動障害物情報231aとして特定する。
例えば、移動障害物選別部231は、障害物情報220aに示される各障害物の3次元座標と3次元地図データ291aに示される各地物の3次元座標とを比較し、3次元座標で示される存在範囲が3次元地図データ291aに示されるいずれの地物とも重複しない障害物情報220aを移動障害物情報231aとして特定する。
図18において、障害物313b1(建物の壁面)の情報は3次元地図データ291aに示される建物の壁面と重複する情報であるため移動障害物情報231aとして特定されず、障害物313b2(歩行者)の情報および障害物313b3(対向車)の情報は3次元地図データ291aに示されるいずれの地物(道路、歩道、建物)とも重複しない情報であるため移動障害物情報231aとして特定される。
移動障害物選別部231は、特定した移動障害物情報231aを車両記憶部290に記憶する。
S150の後、処理はS122に進む。
<S122:車両情報送信処理>
車両送信部211は、S110において生成された位置姿勢情報210aとS150において特定された移動障害物情報231aとを車両記憶部290から入力し、入力した位置姿勢情報210aおよび移動障害物情報231aをアンテナ202から無線電波で遠隔操縦装置300へ送信する。
図22は、実施の形態4における車両周辺画像表示工程(S200)のフローチャートである。
実施の形態4における車両周辺画像表示工程(S200)の詳細について、図22に基づいて以下に説明する。
実施の形態4における車両周辺画像表示工程(S200)は、実施の形態3(図17参照)で説明した車両情報受信処理(S211)および周辺画像生成処理B(S233)を一部変更した処理(S212、S234)にしたものである。
以下、車両情報受信処理(S212)および周辺画像生成処理B(S234)について説明し、他の処理について説明を省略する。
<S212:車両情報受信処理>
装置受信部311は、無人車両200の車両制御装置209により送信された位置姿勢情報210aおよび移動障害物情報231aを受信アンテナ301を用いて受信し、受信した位置姿勢情報210aおよび移動障害物情報231aを装置記憶部390に記憶する。
<S234:周辺画像生成処理B>
障害物形成部313Bは、S212において受信された移動障害物情報231aとS232において生成された3次元地図とを装置記憶部390から入力し、実施の形態3のS233と同様に、移動障害物情報231aに基づいて移動障害物の絵を3次元地図に重畳させて3次元周辺画像313aを生成する。
例えば、図18に示す3次元周辺画像313aから各障害物313b1を除いたデータが3次元周辺画像313aとして生成される。
障害物形成部313Bは、生成した3次元周辺画像313aを装置記憶部390に記憶する。
S234の後、処理はS240に進み、S240において3次元周辺画像313aは図18(各障害物313b1を除く)に示すように表示装置901に表示される。
操縦命令送信工程(S300)および自動操縦工程(S400)は、実施の形態3と同じである。
実施の形態4における遠隔操縦システム100は、車両周辺の障害物のうち移動体のみを絵にして重畳させた3次元周辺画像313aを表示することにより、移動体の存在を明確に遠隔操縦者に知らせ、より安全に遠隔操縦させることができる。
実施の形態4において、以下のような遠隔操縦システム100について説明した。
無人車両200は3次元地図データベース291を搭載し、車両制御装置209は障害物センサ204により検出した障害物が3次元地図データベース291に登録されている地物(電柱、標識あるいは建造物等)であるか比較し、未登録物であれば移動障害物として遠隔操縦装置300に送り、遠隔操縦装置300は無人車両200の周辺情報を客観的に判り易く表示した内容に移動障害物情報を重畳して表示する。
遠隔操縦装置300は、既に3次元地図データベース391に登録されている地物や障害物(建物等)を重畳して表示装置901に表示しない。未登録の障害物のみ重畳表示されるため、遠隔操縦者は、この表示を目視確認することで、無人車両200の周辺情報を客観的に見て取り、無人車両200への移動方向指示を明確に行うことができる。
実施の形態5.
遠隔操縦装置300が移動障害物を特定して移動障害物の絵を重畳させた3次元周辺画像313aを表示する形態について説明する。
以下、実施の形態3と異なる事項について主に説明し、説明を省略する事項については実施の形態3と同様であるものとする。
図23は、実施の形態5における遠隔操縦装置300の機能構成図である。
実施の形態5における遠隔操縦装置300の機能構成について、図23に基づいて以下に説明する。
実施の形態5における遠隔操縦装置300は、実施の形態3(図15参照)で説明した各「〜部」に加え、移動障害物選別部316(障害物特定部の一例)を備える。
以下、移動障害物選別部316について説明し、他の構成について説明を省略する。
移動障害物選別部316は、装置受信部311により受信された障害物情報220aから地図データ取得部312により取得された3次元地図データ391aに含まれる地物の情報と重複しない障害物の情報を移動障害物情報316aとして特定する。
実施の形態5における車両制御装置209の機能構成は、実施の形態3(図20参照)と同じである。
図24は、実施の形態5における車両周辺画像表示工程(S200)のフローチャートである。
実施の形態5における車両周辺画像表示工程(S200)の詳細について、図24に基づいて以下に説明する。
実施の形態5における車両周辺画像表示工程(S200)は、実施の形態3(図17参照)で説明した処理に障害物特定処理(S250)を加え、周辺画像生成処理B(S233)を一部変更した処理(S235)にしたものである。
以下、障害物特定処理(S250)および周辺画像生成処理B(S235)について説明し、他の処理について説明を省略する。
<S250:障害物特定処理>
移動障害物選別部316は、S211において受信された障害物情報220aとS220において取得された3次元地図データ391aとを装置記憶部390から入力し、実施の形態4(S150)の移動障害物選別部231と同様に、3次元地図データ391aと重複しない障害物情報220aを移動障害物情報316aとして特定する。
移動障害物選別部316は、特定した移動障害物情報316aを装置記憶部390に記憶する。
<S235:周辺画像生成処理B>
障害物形成部313Bは、S250において特定された移動障害物情報316aとS232において生成された3次元地図とを装置記憶部390から入力し、実施の形態3のS233と同様に、移動障害物情報316aに基づいて移動障害物の絵を3次元地図に重畳させて3次元周辺画像313aを生成する。
例えば、図18に示す3次元周辺画像313aから各障害物313b1を除いたデータが3次元周辺画像313aとして生成される。
障害物形成部313Bは、生成した3次元周辺画像313aを装置記憶部390に記憶する。
S235の後、処理はS240に進み、S240において3次元周辺画像313aは図18(各障害物313b1を除く)に示すように表示装置901に表示される。
操縦命令送信工程(S300)および自動操縦工程(S400)は、実施の形態3と同じである。
実施の形態5における遠隔操縦システム100は、車両周辺の障害物のうち移動体のみを絵にして重畳させた3次元周辺画像313aを表示することにより、移動体の存在を明確に遠隔操縦者に知らせ、より安全に遠隔操縦させることができる。
実施の形態1における遠隔操縦システム100の概要図。 実施の形態1における車両制御装置209の機能構成図。 実施の形態1における遠隔操縦装置300の機能構成図。 実施の形態1における遠隔操縦装置300および車両制御装置209のハードウェア資源の一例を示す図。 実施の形態1における遠隔操縦システム100の遠隔操縦方法を示すフローチャート。 実施の形態1における車両情報送信工程(S100)のフローチャート。 実施の形態1における車両周辺画像表示工程(S200)のフローチャート。 実施の形態1における3次元周辺画像313aを示す図。 実施の形態1における操縦命令送信工程(S300)のフローチャート。 実施の形態1における自動操縦工程(S400)のフローチャート。 無人車両200からカメラ撮影した場合のカメラ画像199のイメージ図。 実施の形態2における遠隔操縦装置300の機能構成図。 実施の形態2における車両周辺画像表示工程(S200)のフローチャート。 実施の形態3における車両制御装置209の機能構成図。 実施の形態3における遠隔操縦装置300の機能構成図。 実施の形態3における車両情報送信工程(S100)のフローチャート。 実施の形態3における車両周辺画像表示工程(S200)のフローチャート。 実施の形態3における3次元周辺画像313aを示す図。 実施の形態3における3次元周辺画像313aを示す図。 実施の形態4における車両制御装置209の機能構成図。 実施の形態4における車両情報送信工程(S100)のフローチャート。 実施の形態4における車両周辺画像表示工程(S200)のフローチャート。 実施の形態5における遠隔操縦装置300の機能構成図。 実施の形態5における車両周辺画像表示工程(S200)のフローチャート。
符号の説明
100 遠隔操縦システム、199 カメラ画像、200 無人車両、201 GPS受信システム、202 アンテナ、203 ジャイロ、204 障害物センサ、209 車両制御装置、210 位置姿勢標定部、210a 位置姿勢情報、211 車両送信部、212 車両受信部、213 車両制御部、220 障害物検出部、220a 障害物情報、230 地図データ取得部、231 移動障害物選別部、231a 移動障害物情報、290 車両記憶部、291 3次元地図データベース、291a 3次元地図データ、300 遠隔操縦装置、301 受信アンテナ、302 送信アンテナ、310 遠隔地画像表示装置、311 装置受信部、312 地図データ取得部、313 3次元周辺画像生成部、313a 3次元周辺画像、313b1,313b2,313b3 障害物、313c 表記、313A 地図形成部、313B 障害物形成部、314 3次元周辺画像表示部、315 視線方向入力部、315a 視線方向、316 移動障害物選別部、316a 移動障害物情報、320 車両操縦装置、321 操縦情報入力部、321a 操縦情報、322 移動位置生成部、322a 移動先位置情報、323 装置送信部、390 装置記憶部、391 3次元地図データベース、391a 3次元地図データ、901 表示装置、902 キーボード、903 マウス、911 CPU、912 バス、913 ROM、914 RAM、915 通信ボード、920 磁気ディスク装置、921 OS、923 プログラム群、924 ファイル群。

Claims (14)

  1. 遠隔地を走行する車両から送信される前記車両の位置情報を通信装置を用いて受信する車両情報受信部と、
    前記車両情報受信部により受信された前記車両の位置情報に基づいて、前記車両の周辺の3次元地図データを前記車両の走行地域の3次元地図データを記憶する地図データベース装置から取得する地図データ取得部と、
    前記地図データ取得部により取得された3次元地図データに基づいて前記車両の周辺の地図を表す3次元周辺画像をCPU(Central Proccessing Unit)を用いて生成する周辺画像生成部と、
    前記周辺画像生成部により生成された3次元周辺画像をモニター装置に表示する周辺画像表示部とを備え、
    前記車両情報受信部は、前記車両の位置情報の他に、前記車両に設置されるセンサにより検出された前記車両の周辺に位置する障害物の情報を前記車両から受信し、
    前記周辺画像生成部は、前記車両情報受信部により受信された障害物の情報に基づいて、前記地図に前記障害物を示す表記と前記障害物が存在しない方向を示す表記とを重畳させた3次元画像を前記3次元周辺画像として生成する
    ことを特徴とする遠隔地画像表示装置。
  2. 前記車両情報受信部は、前記車両と前記障害物との距離を含んだ情報を前記障害物の情報として受信し、
    前記周辺画像生成部は、前記障害物の情報に含まれる前記距離に応じて、前記障害物を示す表記に着色する
    ことを特徴とする請求項1記載の遠隔地画像表示装置。
  3. 遠隔地を走行する車両から送信される前記車両の位置情報を通信装置を用いて受信する車両情報受信部と、
    前記車両情報受信部により受信された前記車両の位置情報に基づいて、前記車両の周辺の3次元地図データを前記車両の走行地域の3次元地図データを記憶する地図データベース装置から取得する地図データ取得部と、
    前記地図データ取得部により取得された3次元地図データに基づいて前記車両の周辺の地図を表す3次元周辺画像をCPU(Central Proccessing Unit)を用いて生成する周辺画像生成部と、
    前記周辺画像生成部により生成された3次元周辺画像をモニター装置に表示する周辺画像表示部とを備え、
    前記車両情報受信部は、前記車両の位置情報の他に、前記車両と前記車両の周辺に位置する障害物との距離を含んだ情報を前記障害物の情報として前記車両から受信し、
    前記周辺画像生成部は、前記車両情報受信部により受信された前記障害物の情報に基づいて前記地図に前記障害物を示す表記を重畳させると共に、前記障害物の情報に含まれる前記距離に応じて前記障害物を示す表記に着色した画像を前記3次元周辺画像として生成する
    ことを特徴とする遠隔地画像表示装置。
  4. 前記地図データ取得部は、前記地図データベース装置から前記車両の周辺に位置する地物の情報を含んだ3次元地図データを取得し、
    前記遠隔地画像表示装置は、前記車両情報受信部により受信された障害物の情報から前記地図データ取得部により取得された3次元地図データに含まれる地物の情報と重複しない障害物の情報を特定する障害物特定部を備え、
    前記周辺画像生成部は、前記障害物特定部により特定された障害物の情報に基づいて前記地図に前記障害物を重畳させた画像を前記3次元周辺画像として生成する
    ことを特徴とする請求項1〜請求項3いずれかに記載の遠隔地画像表示装置。
  5. 前記周辺画像生成部は、前記車両を含めて前記車両の周辺の3次元の俯瞰地図を前記3次元周辺画像として生成する
    ことを特徴とする請求項1〜請求項4いずれかに記載の遠隔地画像表示装置。
  6. 前記遠隔地画像表示装置は、前記3次元周辺画像により表される前記地図の視線方向として利用者に指定された視線方向を入力装置から入力する視線方向入力部を備え、
    前記周辺画像生成部は、前記視線方向入力部により入力された視線方向から見た前記地図を表す画像を前記3次元周辺画像として生成する
    ことを特徴とする請求項1〜請求項5いずれかに記載の遠隔地画像表示装置。
  7. 請求項1〜請求項6いずれかに記載の遠隔地画像表示装置と、
    前記車両を操縦する操縦命令を前記車両へ送信して前記車両を操縦する車両操縦装置と
    を備えたことを特徴とする遠隔操縦装置。
  8. 前記車両操縦装置は、
    前記車両を操縦する情報として利用者に指定された操縦情報を入力装置から入力する操縦情報入力部と、
    前記操縦情報入力部により入力された操縦情報に基づいて前記操縦命令をCPUを用いて生成する操縦命令生成部と、
    前記操縦命令生成部により生成された操縦命令を通信装置を用いて前記車両へ送信することにより前記車両を操縦する操縦命令送信部とを備えることを特徴とする請求項7記載の遠隔操縦装置。
  9. 請求項7または請求項8に記載の遠隔操縦装置と、
    車両に搭載されて前記車両を制御する車両制御装置とを備え、
    前記車両制御装置は、
    前記車両の現在地点を測位装置を用いて測位し、測位した現在地点を示す位置情報をCPU(Central Proccessing Unit)を用いて生成する位置情報生成部と、
    前記車両の周辺に位置する障害物をセンサを用いて検出し、検出した障害物の情報をCPUを用いて生成する障害物情報生成部と、
    前記位置情報生成部により生成された位置情報と、前記障害物情報生成部により生成された障害物の情報とを、前記遠隔操縦装置へ、通信装置を用いて送信する車両情報送信部と、
    前記遠隔操縦装置により送信される前記操縦命令を通信装置を用いて受信する操縦命令受信部と、
    前記操縦命令受信部により受信された操縦命令に基づいて前記車両をCPUを用いて制御する車両制御部とを備える
    ことを特徴とする遠隔操縦システム。
  10. 車両に搭載される車両制御装置が、前記車両の現在地点を測位し、測位した現在地点を示す前記車両の位置情報を生成し、前記車両の周辺に位置する障害物を検出し、検出した障害物の情報を生成し、前記車両の位置情報と前記障害物の情報とを送信し、
    遠隔地に設置される遠隔操縦装置が、前記車両の位置情報と前記障害物の情報とを受信し、
    前記遠隔操縦装置が、前記車両の位置情報に基づいて前記車両の周辺の3次元地図データを取得し、取得した3次元地図データと前記障害物の情報とに基づいて前記車両の周辺の地図に前記障害物を示す表記と前記障害物が存在しない方向を示す表記とを重畳させた画像を前記車両の3次元周辺画像として生成し、生成した前記車両の3次元周辺画像を表示し、
    前記遠隔操縦装置が、前記車両を操縦する操縦命令を生成し、生成した操縦命令を送信し、
    前記車両制御装置が、前記操縦命令を受信し、受信した前記操縦命令に基づいて前記車両を制御する
    ことを特徴とする遠隔操縦方法。
  11. 遠隔地を走行する車両から送信される前記車両の位置情報と前記車両の周辺に位置する障害物の情報とを通信装置を用いて受信する車両情報受信処理と、
    前記車両情報受信処理により受信された前記車両の位置情報に基づいて、前記車両の周辺の3次元地図データを前記車両の走行地域の3次元地図データを記憶する地図データベース装置から取得する地図データ取得処理と、
    前記地図データ取得処理により取得された3次元地図データと前記車両情報受信処理により受信された前記障害物の情報とに基づいて、前記車両の周辺の地図に前記障害物を示す表記と前記障害物が存在しない方向を示す表記と重畳させた画像を3次元周辺画像としてCPU(Central Proccessing Unit)を用いて生成する周辺画像生成処理と、
    前記周辺画像生成処理により生成された3次元周辺画像をモニター装置に表示する周辺画像表示処理と、
    前記車両を操縦する情報として利用者に指定された操縦情報を入力装置から入力する操縦情報入力処理と、
    前記操縦情報入力処理により入力された操縦情報に基づいて前記車両を操縦する操縦命令をCPUを用いて生成する操縦命令生成処理と、
    前記操縦命令生成処理により生成された操縦命令を通信装置を用いて前記車両へ送信することにより前記車両を操縦する操縦命令送信処理と
    をコンピュータに実行させる遠隔操縦プログラム。
  12. 車両情報受信部が、遠隔地を走行する車両から送信される前記車両の位置情報と前記車両の周辺に位置する障害物の情報とを通信装置を用いて受信する車両情報受信処理を行い、
    地図データ取得部が、前記車両情報受信部により受信された前記車両の位置情報に基づいて、前記車両の周辺の3次元地図データを前記車両の走行地域の3次元地図データを記憶する地図データベース装置から取得する地図データ取得処理を行い、
    周辺画像生成部が、前記地図データ取得部により取得された3次元地図データと前記車両情報受信部により受信された前記障害物の情報とに基づいて、前記車両の周辺の地図に前記障害物を示す表記と前記障害物が存在しない方向を示す表記と重畳させた画像を3次元周辺画像としてCPU(Central Proccessing Unit)を用いて生成する周辺画像生成処理を行い、
    周辺画像表示部が、前記周辺画像生成部により生成された3次元周辺画像をモニター装置に表示する周辺画像表示処理を行う
    ことを特徴とする遠隔地画像表示装置の遠隔地画像表示方法。
  13. 車両情報受信部が、遠隔地を走行する車両から送信される前記車両の位置情報を通信装置を用いて受信すると共に、前記車両と前記車両の周辺に位置する障害物との距離を含んだ情報を前記障害物の情報として受信する車両情報受信処理を行い、
    地図データ取得部が、前記車両情報受信部により受信された前記車両の位置情報に基づいて、前記車両の周辺の3次元地図データを前記車両の走行地域の3次元地図データを記憶する地図データベース装置から取得する地図データ取得処理を行い、
    周辺画像生成部が、前記地図データ取得部により取得された3次元地図データに基づいて前記車両の周辺の地図に前記障害物を示す表記を重畳させると共に、前記障害物の情報に含まれる前記距離に応じて前記障害物を示す表記に着色した画像を3次元周辺画像としてCPU(Central Proccessing Unit)を用いて生成する周辺画像生成処理を行い、
    周辺画像表示部が、前記周辺画像生成部により生成された3次元周辺画像をモニター装置に表示する周辺画像表示処理を行う
    ことを特徴とする遠隔地画像表示装置の遠隔地画像表示方法。
  14. 請求項12または請求項13記載の遠隔地画像表示方法をコンピュータに実行させる遠隔地画像表示プログラム。
JP2008307006A 2008-12-02 2008-12-02 遠隔地画像表示装置、遠隔操縦装置、車両制御装置、遠隔操縦システム、遠隔操縦方法、遠隔操縦プログラム、車両制御プログラム、遠隔地画像表示方法、遠隔地画像表示プログラム Expired - Fee Related JP5473304B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2008307006A JP5473304B2 (ja) 2008-12-02 2008-12-02 遠隔地画像表示装置、遠隔操縦装置、車両制御装置、遠隔操縦システム、遠隔操縦方法、遠隔操縦プログラム、車両制御プログラム、遠隔地画像表示方法、遠隔地画像表示プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008307006A JP5473304B2 (ja) 2008-12-02 2008-12-02 遠隔地画像表示装置、遠隔操縦装置、車両制御装置、遠隔操縦システム、遠隔操縦方法、遠隔操縦プログラム、車両制御プログラム、遠隔地画像表示方法、遠隔地画像表示プログラム

Publications (2)

Publication Number Publication Date
JP2010134499A JP2010134499A (ja) 2010-06-17
JP5473304B2 true JP5473304B2 (ja) 2014-04-16

Family

ID=42345772

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008307006A Expired - Fee Related JP5473304B2 (ja) 2008-12-02 2008-12-02 遠隔地画像表示装置、遠隔操縦装置、車両制御装置、遠隔操縦システム、遠隔操縦方法、遠隔操縦プログラム、車両制御プログラム、遠隔地画像表示方法、遠隔地画像表示プログラム

Country Status (1)

Country Link
JP (1) JP5473304B2 (ja)

Families Citing this family (32)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9014848B2 (en) 2010-05-20 2015-04-21 Irobot Corporation Mobile robot system
CA2928262C (en) * 2010-12-30 2018-06-26 Irobot Corporation Mobile robot system
JP5868681B2 (ja) * 2011-12-01 2016-02-24 三菱重工業株式会社 遠隔操縦車両システム
JP5762320B2 (ja) * 2012-01-24 2015-08-12 三菱重工業株式会社 走行制御システム及び走行制御方法
JP2014048859A (ja) * 2012-08-31 2014-03-17 Ihi Aerospace Co Ltd 遠隔操縦システム
JP5968178B2 (ja) * 2012-09-28 2016-08-10 三菱重工業株式会社 遠隔操縦用画像処理装置、遠隔操縦システム、及び遠隔操縦用画像処理方法
EP3299920B1 (en) 2015-05-18 2021-06-23 SZ DJI Technology Co., Ltd. Unmanned aerial vehicle control method and device based on no-head mode
JP6331114B2 (ja) 2016-03-30 2018-05-30 パナソニックIpマネジメント株式会社 位置推定装置、位置推定方法及び制御プログラム
JPWO2018020680A1 (ja) * 2016-07-29 2019-05-16 パイオニア株式会社 測定装置、測定方法、及び、プログラム
US10261514B2 (en) * 2017-08-16 2019-04-16 Uber Technologies, Inc. Systems and methods for communicating autonomous vehicle scenario evaluation and intended vehicle actions
JP6839770B2 (ja) * 2017-10-20 2021-03-10 株式会社日立製作所 移動体制御システム、および、管制装置
JP6843779B2 (ja) * 2018-01-16 2021-03-17 エスゼット ディージェイアイ テクノロジー カンパニー リミテッドSz Dji Technology Co.,Ltd ヘッドレスモードに基づく無人機の制御方法とデバイス
US10942030B2 (en) 2018-08-17 2021-03-09 Lyft, Inc. Road segment similarity determination
US10479356B1 (en) 2018-08-17 2019-11-19 Lyft, Inc. Road segment similarity determination
JP7052652B2 (ja) * 2018-09-06 2022-04-12 トヨタ自動車株式会社 移動ロボット、遠隔端末、移動ロボットの制御プログラム、および遠隔端末の制御プログラム
KR102202743B1 (ko) * 2019-03-05 2021-01-12 조동욱 무인 원격 제어 자동차의 위치 파악을 위한 존 맵 생성 방법 및 이를 적용한 무인 원격 제어 자동차 제어 시스템
JP7242386B2 (ja) * 2019-03-29 2023-03-20 日産自動車株式会社 車両遠隔監視システム、車両遠隔監視装置、及び車両遠隔監視方法
JP7297055B2 (ja) * 2019-03-29 2023-06-23 本田技研工業株式会社 表示制御装置、表示制御方法及びプログラム
US11928557B2 (en) 2019-06-13 2024-03-12 Lyft, Inc. Systems and methods for routing vehicles to capture and evaluate targeted scenarios
US11157007B2 (en) 2019-06-28 2021-10-26 Lyft, Inc. Approaches for encoding environmental information
US10625748B1 (en) 2019-06-28 2020-04-21 Lyft, Inc. Approaches for encoding environmental information
US11449475B2 (en) 2019-06-28 2022-09-20 Lyft, Inc. Approaches for encoding environmental information
JP7238670B2 (ja) * 2019-07-23 2023-03-14 トヨタ自動車株式会社 画像表示装置
CN112445204B (zh) * 2019-08-15 2023-09-26 长沙智能驾驶研究院有限公司 工地中的物体移动导航方法、装置和计算机设备
JP7276023B2 (ja) * 2019-09-06 2023-05-18 トヨタ自動車株式会社 車両遠隔指示システム、及び自動運転車両
US11788846B2 (en) 2019-09-30 2023-10-17 Lyft, Inc. Mapping and determining scenarios for geographic regions
US11816900B2 (en) 2019-10-23 2023-11-14 Lyft, Inc. Approaches for encoding environmental information
US12039785B2 (en) 2019-10-23 2024-07-16 Lyft, Inc. Approaches for encoding environmental information
CN111959495B (zh) * 2020-06-29 2021-11-12 阿波罗智能技术(北京)有限公司 车辆的控制方法、装置及车辆
KR102407544B1 (ko) * 2020-09-25 2022-06-15 한국철도기술연구원 자율주행차량의 원격제어 시스템 및 그 제어 방법
WO2023095344A1 (ja) * 2021-11-29 2023-06-01 日本電気株式会社 障害物検出装置、障害物検出方法、及び非一時的なコンピュータ可読媒体
WO2023095345A1 (ja) * 2021-11-29 2023-06-01 日本電気株式会社 障害物検出装置、障害物検出方法、及び非一時的なコンピュータ可読媒体

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07104697B2 (ja) * 1987-07-29 1995-11-13 株式会社日立製作所 ロボット操作支援システム
JP3489746B2 (ja) * 1994-02-16 2004-01-26 株式会社フジタ 作業機械の運行管理システム
JP3474022B2 (ja) * 1995-04-20 2003-12-08 株式会社日立製作所 地図表示装置、地図表示方法、地図表示装置用演算処理部およびナビゲーションシステム
JPH0962179A (ja) * 1995-08-25 1997-03-07 Hitachi Ltd 移動体ナビゲーション装置
JP2000343468A (ja) * 1999-05-31 2000-12-12 Matsushita Electric Works Ltd ロボットの遠隔操作装置、これに使用される記録媒体、およびロボット遠隔操作システム
JP2002288637A (ja) * 2001-03-23 2002-10-04 Honda Motor Co Ltd 環境情報作成方法
JP4157731B2 (ja) * 2002-07-01 2008-10-01 日立アプライアンス株式会社 ロボット掃除機及びロボット掃除機制御プログラム
JP4381205B2 (ja) * 2003-12-16 2009-12-09 アルパイン株式会社 ナビゲーション装置およびその装置における地図表示方法
JP2006113858A (ja) * 2004-10-15 2006-04-27 Mitsubishi Heavy Ind Ltd 移動体の遠隔操作支援方法及びシステム
JP2007002429A (ja) * 2005-06-21 2007-01-11 Hitachi Constr Mach Co Ltd 自走式の作業機械及び自走式の作業機械の遠隔操縦システム
JP2007226322A (ja) * 2006-02-21 2007-09-06 Sharp Corp ロボットコントロールシステム

Also Published As

Publication number Publication date
JP2010134499A (ja) 2010-06-17

Similar Documents

Publication Publication Date Title
JP5473304B2 (ja) 遠隔地画像表示装置、遠隔操縦装置、車両制御装置、遠隔操縦システム、遠隔操縦方法、遠隔操縦プログラム、車両制御プログラム、遠隔地画像表示方法、遠隔地画像表示プログラム
US10789845B2 (en) Parking assistance method and parking assistance device
JP5057184B2 (ja) 画像処理システム及び車両制御システム
CN112189225B (zh) 车道线信息检测装置、方法以及存储被编程为执行该方法的计算机程序的计算机可读记录介质
EP3553752A1 (en) Information processing apparatus, information processing method, and computer-readable medium for generating an obstacle map
US20050209776A1 (en) Navigation apparatus and intersection guidance method
JP6886171B2 (ja) 地図情報作成装置、地図情報作成プログラム及び地図情報作成方法
CN117848356A (zh) 用于无人飞行器和地面载运工具之间的协作地图构建的技术
JP5182594B2 (ja) 画像処理システム
JP2008074275A (ja) 運転支援装置、運転支援システム、および運転支援方法
CN102208036A (zh) 车辆位置检测系统
JP5557472B2 (ja) 道路レーンデータ生成装置、道路レーンデータ生成方法および道路レーンデータ生成プログラム
JP6583840B1 (ja) 検査システム
JP2023067985A (ja) 情報処理装置、制御方法、プログラム及び記憶媒体
EP3799618B1 (en) Method of navigating a vehicle and system thereof
WO2023102911A1 (zh) 数据采集方法、数据展示方法、数据处理方法、飞行器的降落方法、数据展示系统及存储介质
JP2020065141A (ja) 車両の俯瞰映像生成システム及びその方法
WO2022165498A1 (en) Methods and system for generating a lane-level map for an area of interest for navigation of an autonomous vehicle
CN112461249A (zh) 根据外部源数据进行的传感器定位
JP2014211431A (ja) ナビゲーション装置、及び、表示制御方法
JP2023100642A (ja) 検査システム
JPWO2004048895A1 (ja) 移動体ナビゲート情報表示方法および移動体ナビゲート情報表示装置
US10568148B2 (en) Systems and methods for communicating notices within a vehicle using a mobile device
JP6681101B2 (ja) 検査システム
JP2011174748A (ja) 地図表示装置、方法およびプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20111107

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20111107

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20121218

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20121225

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130207

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130702

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130827

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140107

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140204

R150 Certificate of patent or registration of utility model

Ref document number: 5473304

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees