Nothing Special   »   [go: up one dir, main page]

JP2013034142A - Peripheral image display device - Google Patents

Peripheral image display device Download PDF

Info

Publication number
JP2013034142A
JP2013034142A JP2011169819A JP2011169819A JP2013034142A JP 2013034142 A JP2013034142 A JP 2013034142A JP 2011169819 A JP2011169819 A JP 2011169819A JP 2011169819 A JP2011169819 A JP 2011169819A JP 2013034142 A JP2013034142 A JP 2013034142A
Authority
JP
Japan
Prior art keywords
image
frame
display device
annular
cut
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2011169819A
Other languages
Japanese (ja)
Other versions
JP5974433B2 (en
Inventor
Hiroshi Iida
拓 飯田
Eiji Matsuzaki
英治 松崎
Takanori Yasuhara
孝規 安原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nippon Seiki Co Ltd
Original Assignee
Nippon Seiki Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Seiki Co Ltd filed Critical Nippon Seiki Co Ltd
Priority to JP2011169819A priority Critical patent/JP5974433B2/en
Publication of JP2013034142A publication Critical patent/JP2013034142A/en
Application granted granted Critical
Publication of JP5974433B2 publication Critical patent/JP5974433B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Component Parts Of Construction Machinery (AREA)
  • Closed-Circuit Television Systems (AREA)

Abstract

PROBLEM TO BE SOLVED: To provide a peripheral image display device capable of accurately acquiring information concerning a positional relation between captured images and a positional relation between an object whose image to be captured and a construction machine in a direction of an upper turning body or in a forward direction of a lower traveling body.SOLUTION: After capturing image of surroundings of a construction machine, display means 3 simultaneously displays an annular image 31 with a construction machine as a reference, a panoramic image 32, and a segmented image 33 obtained by cutting out a part of the panoramic image 32, displays frame-like images A1 and A2 for determining a segment position of the segmented image 33 while being overlapped on the annular image 31 and the panoramic image 32, and displays upper turning body indication images 311, 321, and 331 which indicate a direction of the upper turning body of the construction machine, and forward direction indication images 313, 323, and 333 which show a forward direction of the lower traveling body on at least any one of the annular image 31, the panoramic image 32, and the segmented image 33.

Description

本発明は、ショベルカー等の建設用機械に搭載され、建設用機械の周囲の画像を撮像し、周辺画像を表示する周辺画像表示装置に関するものである。   The present invention relates to a peripheral image display device that is mounted on a construction machine such as an excavator, captures an image around the construction machine, and displays a peripheral image.

本願発明の周辺画像表示装置が搭載されるような建設用機械は、無限軌道(以下、クローラと記す)等によって走行可能な下部走行体を有し、その下部走行体上に上部旋回体が旋回可能なように設置されている。上部旋回体は、操縦者が搭乗する運転室と、掘削作業などを行うフロント作業機とを備えている。運転室には、操縦者が周囲を確認できるように、大きな窓を設けているが、操縦者からの死角となる範囲が存在する。そこで、死角となる範囲の確認を行うため、上部旋回体に撮像カメラを設置し、この撮像カメラで撮像した画像を運転室内の表示器に表示させ、作業の障害となる物体を監視できるようにした画像表示装置が特許文献1に開示されている。   A construction machine on which the peripheral image display device of the present invention is mounted has a lower traveling body that can travel on an endless track (hereinafter referred to as a crawler) or the like, and the upper swing body turns on the lower traveling body. It is installed as possible. The upper-part turning body includes a driver's cab in which the operator is boarded and a front work machine that performs excavation work and the like. The driver's cab is provided with a large window so that the pilot can check the surroundings, but there is a range that is a blind spot from the pilot. Therefore, in order to check the range of blind spots, an imaging camera is installed on the upper revolving body, and images captured by this imaging camera are displayed on the display in the cab so that objects that obstruct work can be monitored. An image display apparatus that has been disclosed is disclosed in Patent Document 1.

しかしながら、上部旋回体の旋回角度に関係なく、下部走行体の前進/後進が操作されるため、操縦者が建設用機械内で作業していると、上部旋回体と下部走行体との相対的な位置関係がわからなくなり、例えば、下部走行体の前進方向に対して上部旋回体が180度旋回している場合、下部走行体を前進させるつもりが、実際は建設用機械が後進してしまうおそれがあった。   However, since the forward / reverse movement of the lower traveling body is operated regardless of the turning angle of the upper revolving body, when the operator is working in the construction machine, the relative relationship between the upper revolving body and the lower traveling body is large. For example, when the upper turning body is turning 180 degrees with respect to the advancing direction of the lower traveling body, the intention is to move the lower traveling body forward, but the construction machine may actually move backward. there were.

このような問題を鑑み、本願出願人は、特許文献2の監視装置を開示している。この監視装置は、建設用機械の周辺を撮像する撮像手段と、前記撮像手段で撮像した画像を表示する表示手段と、前記上部旋回体に対する前記下部走行体の角度を検出し、角度データを出力する角度検出手段と、前記角度データに基づいて前記下部走行体を模した画像を前記表示器に表示させる制御手段と、を有し、前記制御手段は、前記下部走行体の前進方向を示すマークを前記表示器に表示させるものである。   In view of such a problem, the applicant of the present application discloses a monitoring device of Patent Document 2. The monitoring device detects an angle of the lower traveling body with respect to the upper swing body, and outputs angle data, an imaging means for imaging the periphery of the construction machine, a display means for displaying an image captured by the imaging means, Angle detection means, and control means for displaying an image simulating the lower traveling body on the display based on the angle data, and the control means is a mark indicating the forward direction of the lower traveling body Is displayed on the display.

また、本願出願人は、全方位撮像手段の撮像素子が出力した環状画像からなる撮像画像を画像処理回路によって、全方位を示すパノラマ画像や全方位の一部を切り出してなる切出し画像等に変換し、表示器に表示させる全方位撮像装置を提案している(特許文献3)。   In addition, the applicant of the present application converts a captured image formed of an annular image output from the image sensor of the omnidirectional imaging means into a panoramic image indicating the omnidirectional or a cutout image obtained by cutting out a part of the omnidirectional by an image processing circuit. And the omnidirectional imaging device displayed on a display is proposed (patent document 3).

特開2005−163370号公報JP 2005-163370 A 特開2009−197456号公報JP 2009-197456 A 特開2007−81925号公報JP 2007-81925 A

しかしながら、建設用機械の全周囲の画像である環状画像またはパノラマ画像を表示し、その一部を切出し画像として表示する場合、切出し画像が環状画像またはパノラマ画像のどの方位のどの部分にあたるか認識できず、さらには切出し画像の方向と上部旋回体の向いている方向または下部走行体の前進方向との相対関係が認識しづらく、操縦者が得たい情報を直感的に得ることができなかった。   However, when a ring image or panorama image that is an image of the entire circumference of the construction machine is displayed and a part of the image is displayed as a cutout image, it is possible to recognize which part of the ring image or panorama image is in which direction. Furthermore, it is difficult to recognize the relative relationship between the direction of the cut-out image and the direction in which the upper swing body is facing or the forward direction of the lower traveling body, and the information that the operator wants to obtain cannot be obtained intuitively.

そこで本発明は、前述の問題点に着目し、撮像される画像同士の位置関係と、さらに、撮像される物体と建設用機械の上部旋回体の方向または下部走行体の前進方向との位置関係と、に関する情報を的確に得ることができる周辺画像表示装置を提供することを目的とする。   Therefore, the present invention pays attention to the above-mentioned problems, and the positional relationship between the captured images and the positional relationship between the imaged object and the direction of the upper turning body of the construction machine or the forward direction of the lower traveling body. An object of the present invention is to provide a peripheral image display device capable of accurately obtaining information related to the above.

本発明は、前記課題を解決するため、以下の手段を採用した。
すなわち、本発明は、建設用機械の周囲を撮像し、前記建設用機械を基準とした環状画像と、パノラマ画像と、前記パノラマ画像の一部分を切り出した切出し画像と、を同時に表示手段に表示し、切出し画像の切出し位置を定める枠状画像を前記環状画像上及び前記パノラマ画像上に重ねて表示させ、建設用機械の上部旋回体の方向を指示する上部旋回体指示画像と、前記下部走行体の前進方向を示す前進方向指示画像と、を前記環状画像または前記パノラマ画像または前記切出し画像のいずれかに表示させること、をその要旨とする。
The present invention employs the following means in order to solve the above problems.
That is, the present invention images the surroundings of the construction machine, and simultaneously displays on the display means an annular image based on the construction machine, a panoramic image, and a cutout image obtained by cutting out a part of the panoramic image. A frame-like image that defines a cut-out position of the cut-out image is displayed on the annular image and the panoramic image so as to indicate the direction of the upper turning body of the construction machine, and the lower traveling body The gist is to display a forward direction indicating image indicating the forward direction of the image on either the annular image, the panoramic image, or the cutout image.

本発明は、前述した課題を解決するため、第1の発明は、下部走行体及び上部旋回体を有する建設用機械に搭載され、前記建設用機械の周囲を撮像する撮像手段と、前記撮像手段により撮像された撮像データを前記建設用機械を基準とした環状画像及びパノラマ画像並びに前記パノラマ画像の一部分を切り出した切出し画像に変換する制御手段と、前記環状画像と前記パノラマ画像と前記切出し画像とを同時に表示する表示手段と、前記制御手段に操作信号を出力する操作手段と、を備え、前記制御手段は、前記切出し画像の切出し位置を定める枠状画像を前記環状画像上及び前記パノラマ画像上に重ねて表示させるとともに、前記操作手段の操作に基づいて、前記枠状画像を前記環状画像及び前記パノラマ画像の範囲内にて移動可能とし、前記枠状画像の移動に連動し、前記切出し画像を切替えるものであり、斯かる構成により、切出し画像が環状画像とパノラマ画像のどの部分に位置するのか認識でき、建設用機械と撮像される物体との位置関係に関する情報を的確に得ることができる。   In order to solve the above-described problems, the present invention provides a first invention in which an imaging unit is mounted on a construction machine having a lower traveling body and an upper turning body, and images the surroundings of the construction machine, and the imaging unit Control means for converting the imaging data captured by the above-described image into a circular image and a panoramic image based on the construction machine and a cut-out image obtained by cutting out a part of the panoramic image, the circular image, the panoramic image, and the cut-out image Display means for simultaneously displaying an operation signal, and an operation means for outputting an operation signal to the control means, wherein the control means displays a frame-like image defining a cut-out position of the cut-out image on the annular image and the panoramic image. And displaying the frame-like image within the range of the annular image and the panoramic image based on the operation of the operation means, The cut-out image is switched in conjunction with the movement of the frame-like image. With such a configuration, it is possible to recognize where the cut-out image is located between the annular image and the panoramic image, and the object to be imaged with the construction machine It is possible to accurately obtain information on the positional relationship between

また、第2の発明では、前記制御手段は、前記上部旋回体の旋回角度情報を入力し、前記環状画像に前記下部走行体の前進方向を示す第1前進方向指示画像を表示させる、または前記パノラマ画像に前記下部走行体の前進方向を示す第2前進方向指示画像を表示させる、または前記枠状画像が前記下部走行体の前進方向にあったとき、前記切出し画像に前記下部走行体の前進方向を示す第3前進方向指示画像を表示させるものであり、斯かる構成により、建設用機械の下部走行体の前進方向と切出し画像との位置関係に関する情報を的確に得ることができる。   In the second invention, the control means inputs turning angle information of the upper turning body, and displays a first forward direction instruction image indicating a forward direction of the lower traveling body on the annular image, or When a second forward direction instruction image indicating the forward direction of the lower traveling body is displayed on the panoramic image, or when the frame-like image is in the forward direction of the lower traveling body, the forward movement of the lower traveling body is displayed on the cut-out image. The third forward direction indicating image indicating the direction is displayed. With such a configuration, information regarding the positional relationship between the forward direction of the lower traveling body of the construction machine and the cut-out image can be accurately obtained.

また、第3の発明では、前記制御手段は、前記上部旋回体の方向を示す第1上部旋回体指示画像を前記環状画像に表示させるものであり、斯かる構成により、建設用機械の下部走行体の方向と上部旋回体の方向とを環状画像にて認識することができ、建設用機械と環状画像に表示される物体との方位関係に関する情報を的確に得ることができる。   In the third aspect of the invention, the control means displays a first upper swing body instruction image indicating the direction of the upper swing body in the annular image. The direction of the body and the direction of the upper-part turning body can be recognized by the annular image, and information related to the orientation relationship between the construction machine and the object displayed in the annular image can be obtained accurately.

また、第4の発明では、前記制御手段は、前記上部旋回体の方向を示す第2上部旋回体指示画像を前記パノラマ画像に表示させるものであり、斯かる構成により、建設用機械の下部走行体の方向と上部旋回体の方向とをパノラマ画像にて認識することができ、建設用機械とパノラマ画像に表示される物体との方位関係や距離関係に関する情報を的確に得ることができる。   In the fourth aspect of the invention, the control means displays a second upper swing body instruction image indicating the direction of the upper swing body on the panorama image. The direction of the body and the direction of the upper-part turning body can be recognized by the panoramic image, and information regarding the azimuth relationship and the distance relationship between the construction machine and the object displayed on the panoramic image can be obtained accurately.

また、第5の発明では、前記制御手段は、前記枠状画像が前記上部旋回体の方向にあったとき、前記切出し画像に前記上部旋回体の方向を示す第3上部旋回体指示画像を表示させるものであり、斯かる構成により、建設用機械の下部走行体の方向と上部旋回体の方向とを切出し画像にて詳細に認識することができ、建設用機械と切出し画像に表示される物体との方位関係に関する情報を的確に得ることができる。   In the fifth invention, when the frame-like image is in the direction of the upper swing body, the control means displays a third upper swing body instruction image indicating the direction of the upper swing body in the cut image. With such a configuration, the direction of the lower traveling body and the direction of the upper turning body of the construction machine can be recognized in detail in the cutout image, and the object displayed on the construction machine and the cutout image It is possible to accurately obtain information on the azimuth relationship.

また、第6の発明では、前記第2前進方向指示画像は、前記下部走行体の幅に基づく、奥行きのある画像からなるものであり、斯かる構成により、建設用機械とパノラマ画像に表示される物体との方位関係に加え、表示される物体との距離に関する情報を的確に得ることができ、下部走行体の幅に関連づけることで、物体の大きさや、物体同士の間隔の広さを認識することができる。   In the sixth invention, the second forward direction instruction image is a depth image based on the width of the lower traveling body, and is displayed on the construction machine and the panoramic image by such a configuration. In addition to the azimuth relationship with the object to be displayed, information on the distance to the displayed object can be obtained accurately, and by correlating with the width of the lower traveling body, the size of the object and the distance between the objects can be recognized. can do.

また、第7の発明では、前記第1上部旋回体指示画像は、前記環状画像の中心部に前記建設用機械を示す車両画像で表示されるものであり、斯かる構成により、建設用機械の上部旋回体の方向を環状画像にて認識することができ、建設用機械と環状画像に表示される物体との方位関係に関する情報を的確に得ることができる。   In the seventh invention, the first upper turning body instruction image is displayed as a vehicle image showing the construction machine at the center of the annular image. With such a configuration, the construction machine The direction of the upper-part turning body can be recognized from the annular image, and information related to the orientation relationship between the construction machine and the object displayed in the annular image can be obtained accurately.

また、第8の発明では、前記撮像手段は、全方位カメラであり、前記制御手段は、前記全方位カメラからの撮像データに基づいて、前記環状画像を生成するものである。   In the eighth invention, the imaging means is an omnidirectional camera, and the control means generates the annular image based on imaging data from the omnidirectional camera.

また、第9の発明では、前記撮像手段は、複数のカメラであり、前記制御手段は、前記複数のカメラからの撮像データに基づいて、前記環状画像を生成するものであり、第8,9の発明の構成により、建設用機械の周囲の画像を容易に撮像することができる。   In the ninth invention, the imaging means is a plurality of cameras, and the control means generates the annular image based on imaging data from the plurality of cameras. With the configuration of the invention, an image around the construction machine can be easily taken.

また、第10の発明では、前記制御手段は、前記枠上画像の内部もしくは前記枠状画像の周辺に上下左右のカーソル表示を表示し、前記操作手段にて前記枠状画像が移動されるとき、前記操作手段にて操作された方向の前記カーソル表示の色彩を変化させるものであり、斯かる構成により、操作が実行されたか、または操作がなされた方向を容易に認識することができ、枠状画像の移動操作性を向上させることができる。   In the tenth aspect of the invention, the control means displays an up / down / left / right cursor display in the frame image or in the vicinity of the frame image, and the operation means moves the frame image. The color of the cursor display in the direction operated by the operating means is changed. With such a configuration, the operation is performed or the direction in which the operation is performed can be easily recognized, and the frame The operability of moving the image can be improved.

また、第11の発明では、前記操作手段は、タッチパネル式入力手段からなるものであり、斯かる構成により、表示手段に同時に表示される環状画像やパノラマ画像に触れることで容易に枠状画像を移動することができる。   In the eleventh aspect of the invention, the operation means comprises a touch panel type input means. With such a configuration, a frame-like image can be easily obtained by touching an annular image or a panoramic image simultaneously displayed on the display means. Can move.

撮像される画像同士の位置関係と、さらに、撮像される物体と建設用機械の上部旋回体の方向または下部走行体の前進方向との位置関係と、に関する情報を的確に得ることができる周辺画像表示装置を提供する。   Peripheral images that can accurately obtain information about the positional relationship between the captured images and the positional relationship between the imaged object and the direction of the upper turning body or the forward traveling direction of the lower traveling body of the construction machine A display device is provided.

本発明における周辺画像表示装置のブロック図である。It is a block diagram of a peripheral image display device in the present invention. 上記発明における全方位カメラの構成図である。It is a block diagram of the omnidirectional camera in the said invention. 上記発明の周辺画像表示装置における表示手段の表示例を示す図である。It is a figure which shows the example of a display of the display means in the periphery image display apparatus of the said invention. 上記発明の周辺画像表示装置における表示の変形例を表した図であり、(a),(b)は、枠状画像の変形例を表す図であり、(c),(d)は、上部旋回体指示画像の変形例を表す図である。It is a figure showing the modification of the display in the peripheral image display apparatus of the said invention, (a), (b) is a figure showing the modification of a frame-shaped image, (c), (d) is upper part It is a figure showing the modification of the turning body instruction | indication image. 上記発明の周辺画像表示装置における第2前進方向指示画像の変形例を示す図である。It is a figure which shows the modification of the 2nd forward direction instruction image in the peripheral image display apparatus of the said invention. 上記発明の周辺画像表示装置における中心画像の変形例を示す図である。It is a figure which shows the modification of the center image in the periphery image display apparatus of the said invention. 上記発明の周辺画像表示装置における切出し画像の説明図であり、(a)は第3前進方向画像を表す図であり、(b)は上部旋回体方位情報画像と前進方向情報画像との表示例を示す図である。It is explanatory drawing of the cut-out image in the peripheral image display apparatus of the said invention, (a) is a figure showing a 3rd forward direction image, (b) is a display example of an upper turning body direction information image and a forward direction information image FIG. 上記発明の環状画像上を(a1)(a2)タッチ操作した際の枠状画像の移動を時系列に説明した図であり、(b1)(b2)はフリック操作した際の枠状画像の移動を時系列に説明した図である。It is the figure explaining the movement of the frame-shaped image at the time of (a1) (a2) touch operation on the ring image of the said invention in time series, (b1) (b2) is the movement of the frame-shaped image at the time of flick operation FIG. 上記発明のパノラマ画像上を(a1)(a2)タッチ操作した際の枠状画像の移動を時系列に説明した図であり、(b1)(b2)はピンチアウト操作した際の枠状画像の移動を時系列に説明した図である。It is the figure explaining the movement of the frame-shaped image at the time of (a1) (a2) touch operation on the panoramic image of the said invention in time series, (b1) (b2) is the frame-shaped image at the time of pinch-out operation. It is a figure explaining movement in time series. 上記発明の切出し画像上をフリック操作した際の枠状画像の移動を時系列に説明した図である。It is the figure explaining the movement of the frame-shaped image at the time of flicking on the cut-out image of the said invention in time series. 上記発明の切出し画像上をピンチアウト操作した際の切出し画像の拡大を時系列に説明した図である。It is the figure explaining expansion of the cutout image at the time of pinch out operation on the cutout image of the said invention in time series. 上記発明の表示手段における(a)各画像周縁部のカーソル表示の表示例を表す画像であり、(b)カーソル表示を操作した際のカーソル表示の色彩の変化を説明した図である。(A) It is an image showing the display example of the cursor display of each image peripheral part in the display means of the said invention, (b) It is the figure explaining the change of the color of a cursor display at the time of operating a cursor display. 上記発明の撮像手段が複数のカメラで行われた際の表示手段の画像表示例である。It is an image display example of the display means when the image pickup means of the invention is performed by a plurality of cameras.

以下に、本発明の周辺画像表示装置100の実施形態を図を用いて説明する。図1は、本実施形態における周辺画像表示装置100のブロック図である。本発明の周辺画像表示装置100は、撮像手段1と、制御手段2と、表示手段3と、操作手段4と、により構成され、建設用機械の上部旋回体と下部走行体のの旋回角度情報を示す角度データを、建設用機械に備えられた角度センサ5から入力するものである。   Hereinafter, embodiments of the peripheral image display device 100 of the present invention will be described with reference to the drawings. FIG. 1 is a block diagram of a peripheral image display device 100 in the present embodiment. The peripheral image display device 100 according to the present invention includes an imaging unit 1, a control unit 2, a display unit 3, and an operation unit 4, and information about the turning angles of the upper swing body and the lower traveling body of the construction machine. Is input from the angle sensor 5 provided in the construction machine.

撮像手段1は、例えば図2に示すような全方位カメラである。このような全方位カメラ(撮像手段)1は、反射ミラー11と、レンズ12と、撮像素子13と、全方位カメラ1の配設方向を指示する方向指示マークを有するケース体14と、を備え、反射ミラー11を中心とした全方位を撮像するものであり、建設用機械の上部旋回体の下部に方向指示マークが上部旋回体の方向に一致するように配設され、下部走行体のクローラが写り込む位置に配設される。   The imaging means 1 is an omnidirectional camera as shown in FIG. Such an omnidirectional camera (imaging means) 1 includes a reflection mirror 11, a lens 12, an image sensor 13, and a case body 14 having a direction indication mark that indicates the direction in which the omnidirectional camera 1 is disposed. The omnidirectional image centered on the reflecting mirror 11 is imaged, and is arranged at the lower part of the upper revolving structure of the construction machine so that the direction indicating mark coincides with the direction of the upper revolving structure. Is disposed at a position where the image appears.

反射ミラー11は、双曲面形状の光学部材であり、双曲面形状の頂点を下にして配置されており、反射ミラー11の頂点を中心とした全方位の周囲光Lを下方のレンズ13側に反射させるものである。
レンズ12は、反射ミラー11により反射された周囲光Lを集光し、集光した周囲光Lを撮像素子13側へ出射する。
撮像素子13は、CCD若しくはCMOSからなるものであり、レンズ12により集光された周囲光Lを受光し、制御手段2に全方位の撮像画像を撮像データDとして出力する。
ケース体14は、上面に周囲光Lを通す円形の開口部を有し、反射ミラー11とレンズ12と撮像素子13とを収納するものである。
The reflection mirror 11 is an optical member having a hyperboloid shape, and is arranged with the apex of the hyperboloid shape facing down. The omnidirectional ambient light L around the apex of the reflection mirror 11 is directed to the lower lens 13 side. It is to be reflected.
The lens 12 condenses the ambient light L reflected by the reflecting mirror 11 and emits the collected ambient light L to the image sensor 13 side.
The image sensor 13 is composed of a CCD or a CMOS, receives the ambient light L collected by the lens 12, and outputs an omnidirectional captured image as imaging data D to the control means 2.
The case body 14 has a circular opening through which the ambient light L passes on the upper surface, and houses the reflection mirror 11, the lens 12, and the image sensor 13.

制御手段2は、撮像手段1から出力された撮像データDに基づき、後述する環状画像31、パノラマ画像32、切出し画像33等の表示画像データを生成し、表示手段3に各画像を表示させるものである。
また、制御手段2は、操作手段4からの操作信号を入力し、周辺画像表示装置100の操作の処理を行うものである。
また、前述のように撮像手段1の方向指示マークを、上部旋回体の方向に一致するように配設しているため、建設用機械の角度センサ5から上部旋回体に対する下部走行体の角度情報を入力することで、制御手段2は、表示画像データと上部旋回体の方向と下部走行体の前進方向とを関連づけるものである。
このように、周辺画像表示装置100の設置時に、周辺画像表示装置100の方向指示マークを、上部旋回体に位置合わせすることで、表示画像データと上部旋回体の方向を関連づける以外に、周辺画像表示装置100の設置後に、表示される画像を見ながら、上部旋回体の方向と表示画像データとを関連づけてもよい。
The control unit 2 generates display image data such as an annular image 31, a panoramic image 32, and a cutout image 33, which will be described later, based on the imaging data D output from the imaging unit 1, and causes the display unit 3 to display each image. It is.
Further, the control unit 2 inputs an operation signal from the operation unit 4 and performs an operation process on the peripheral image display device 100.
Further, as described above, since the direction indication mark of the imaging means 1 is arranged so as to coincide with the direction of the upper turning body, the angle information of the lower traveling body with respect to the upper turning body from the angle sensor 5 of the construction machine. , The control means 2 associates the display image data, the direction of the upper turning body, and the forward direction of the lower traveling body.
As described above, when the peripheral image display device 100 is installed, the direction indication mark of the peripheral image display device 100 is aligned with the upper swing body, so that the display image data and the direction of the upper swing body are associated with each other. After the display device 100 is installed, the direction of the upper swing body may be associated with the display image data while viewing the displayed image.

表示手段3は、液晶ディスプレイ若しくは有機ELディスプレイ等であり、制御手段2にて生成された画像データに基づき、図3に示すように表示画面上に、環状画像31とパノラマ画像32と切出し画像33とを表示する。   The display means 3 is a liquid crystal display, an organic EL display, or the like, and based on the image data generated by the control means 2, an annular image 31, a panoramic image 32, and a cutout image 33 are displayed on the display screen as shown in FIG. Is displayed.

操作手段4は、例えば表示手段3の表示画面上に配置されるタッチパネルからなり、表示手段3に表示される表示画像に対するタッチ操作を検出して、制御手段3に操作信号を出力するものである。   The operation unit 4 is composed of, for example, a touch panel arranged on the display screen of the display unit 3, detects a touch operation on the display image displayed on the display unit 3, and outputs an operation signal to the control unit 3. .

以上が、本発明における周辺画像表示装置100の構成である。次に、表示手段3に表示される各画像(環状画像31、パノラマ画像32、切出し画像33)の生成方法について説明する。   The above is the configuration of the peripheral image display device 100 in the present invention. Next, a method for generating each image (annular image 31, panoramic image 32, and cutout image 33) displayed on the display means 3 will be described.

(画像生成方法)
撮像データDは、全方位を撮像した外円画像と、反射ミラー11に投影された撮像素子13自身を撮像した内円画像と、により構成される。
環状画像31は、図3(a)に示すように、全方位を撮像した外円画像を表示する外円領域S1aと、内円画像を取り除いた、或いは他画像等により内円画像を覆い隠した内円領域S1bと、により分類され、全方位の画像が外円領域S1aに環状に表示されるものである。
外円領域S1aは、全方位を撮像した外円画像に、後述する切出し画像33の切出し領域を示す第1枠状画像A1と、建設用機械の上部旋回体の方向を示す第1上部旋回体指示画像311と、建設用機械の上部旋回体の左右,背面方向を示す第1上部旋回体補助画像312と、建設用機械の下部走行体の前進方向を示す第1前進方向指示画像313と、を重畳させて表示した領域である。
(Image generation method)
The imaging data D is composed of an outer circle image obtained by imaging all directions and an inner circle image obtained by imaging the imaging element 13 itself projected on the reflection mirror 11.
As shown in FIG. 3A, the annular image 31 includes an outer circle region S1a that displays an outer circle image obtained by imaging all directions, and the inner circle image is covered or hidden by another image or the like. And an inner circle area S1b, and images in all directions are displayed in a ring shape in the outer circle area S1a.
The outer circle area S1a includes a first frame-shaped image A1 showing a cut-out area of a cut-out image 33, which will be described later, and a first upper-turn body showing the direction of the upper-turn body of the construction machine. An instruction image 311, a first upper turning body auxiliary image 312 showing the left and right and back directions of the upper turning body of the construction machine, a first forward direction instruction image 313 showing the forward direction of the lower traveling body of the construction machine, Is a region displayed by superimposing.

第1枠状画像A1は、切出し画像33に対応する領域を囲む扇状の枠として表示される。斯かる構成により、切出し画像33が環状画像31のどの部分を切り出したものか容易に認識することができる。
また、第1枠状画像A1は、切出し画像33の切出し位置が撮像画像の中心点に対し、どの方向であるかがわかればいいので、切出し画像33に厳密に対応する領域として扇状の枠を表示するのではなく、図4(a),(b)に示すように、四角形の枠(A1a)や、中心から伸びた扇状の枠(A1b)として表示してもよい。
The first frame-shaped image A1 is displayed as a fan-shaped frame surrounding the area corresponding to the cut-out image 33. With such a configuration, it is possible to easily recognize which part of the annular image 31 the cutout image 33 is cut out.
Further, the first frame-like image A1 only needs to know which direction the cut-out position of the cut-out image 33 is with respect to the center point of the picked-up image. Therefore, a fan-like frame is used as an area that exactly corresponds to the cut-out image 33. Instead of displaying, as shown in FIGS. 4A and 4B, it may be displayed as a rectangular frame (A1a) or a fan-shaped frame (A1b) extending from the center.

第1上部旋回体指示画像311は、図3(a)に示すように、上部旋回体の向く方向を指し示す矢印で表示される。制御手段2は、撮像手段1の方向指定マークの方向が上部旋回体の方向であると認識することから、この方向指示マークの方向に基づき、第1上部旋回体指示画像311は、環状画像31の外円領域S1aに表示される。
斯かる構成により、建設用機械の上部旋回体の方向を環状画像にて認識することができ、建設用機械と環状画像に表示される物体との方位関係に関する情報を的確に得ることができる。
As shown in FIG. 3A, the first upper swing body instruction image 311 is displayed with an arrow indicating the direction in which the upper swing body faces. Since the control means 2 recognizes that the direction of the direction designation mark of the imaging means 1 is the direction of the upper swing body, the first upper swing body instruction image 311 is based on the direction of the direction instruction mark. Are displayed in the outer circle area S1a.
With such a configuration, the direction of the upper turning body of the construction machine can be recognized by the annular image, and information regarding the azimuth relationship between the construction machine and the object displayed in the annular image can be obtained accurately.

また、第1上部旋回体指示画像311は、図4(c)に示すように、外円領域S1aではなく、内円領域S1bに建設用機械を模した第1上部旋回体指示機械画像311aを表示することにより、上部旋回体の指示する方向を認識させてもよい。
また、図4(d)に示すように、外円画像S1aや内円画像S1b以外の環状画像31の周縁部に、第1上部旋回体指示周縁画像311bを表示させてもよい。
また、上部旋回体体の指示方向のみではなく、この上部旋回体の指示方向を基準とした、上部旋回体の左右方向や背面方向を表す第1上部旋回体補助画像312を表示する。斯かる構成により、環状画像31にて、建設用機械の上部旋回体と周辺画像との位置関係をより認識しやすい。
これら、第1上部旋回体指示画像311と、第1上部旋回体指示機械画像311aと、第1上部旋回体周縁画像311bと、第1上部旋回体補助画像312とは、表示手段3に表示されるものではなく、表示手段3の表面ガラスなどに予め印刷されたものでもよい。
Further, as shown in FIG. 4C, the first upper-part turning body instruction image 311 is a first upper-part turning body instruction machine image 311a simulating a construction machine in the inner circle area S1b, not in the outer circle area S1a. By displaying, the direction instructed by the upper swing body may be recognized.
Further, as shown in FIG. 4D, the first upper-part turning body instruction peripheral image 311b may be displayed on the peripheral portion of the annular image 31 other than the outer circle image S1a and the inner circle image S1b.
In addition, the first upper swing body auxiliary image 312 is displayed that represents not only the direction of the upper swing body but also the left and right directions and the rear direction of the upper swing body based on the direction of the upper swing body. With such a configuration, it is easier to recognize the positional relationship between the upper turning body of the construction machine and the peripheral image in the annular image 31.
The first upper swing body instruction image 311, the first upper swing body instruction machine image 311 a, the first upper swing body peripheral image 311 b, and the first upper swing body auxiliary image 312 are displayed on the display unit 3. It may be printed on the surface glass of the display means 3 in advance.

第1前進方向指示画像313は、下部走行体の前進方向を示す画像であり、図3に示すように、外円領域S1aや内円領域S1bに矢印などの方向指示画像でより表示されるものである。
斯かる構成により、建設用機械の下部走行体の前進方向を環状画像にて認識することができ、建設用機械と環状画像に表示される物体との方位関係に関する情報を的確に得ることができる。
The first advancing direction instruction image 313 is an image showing the advancing direction of the lower traveling body, and as shown in FIG. 3, is displayed more in the outer circle area S1a and the inner circle area S1b as a direction instruction image such as an arrow. It is.
With such a configuration, the forward direction of the lower traveling body of the construction machine can be recognized by the annular image, and information related to the orientation relationship between the construction machine and the object displayed on the annular image can be accurately obtained. .

内円領域S1bは、撮像素子13自身を撮像した内円画像をそのまま表示する、もしくは内円画像を取り除く、或いは他画像等により内円画像を覆い隠した領域であり、例えば、図5(a)に示すように、クローラの模擬図(314a)を表示してもよく、図5(b)に示すように、下部走行体の旋回角度情報等の車両情報を、文字表示(314b)として表示してもよい。   The inner circle area S1b is an area in which an inner circle image obtained by imaging the image sensor 13 itself is displayed as it is, or an inner circle image is removed, or an inner circle image is obscured by another image or the like. For example, FIG. ), A crawler simulation diagram (314a) may be displayed. As shown in FIG. 5 (b), vehicle information such as turning angle information of the lower traveling body is displayed as a character display (314b). May be.

パノラマ画像32は、全方位を示す画像であり、撮像データDの外円画像を所定の切断線によって切り開き、歪みを補正した矩形画像であり、第2枠状画像A2と、第2上部旋回体指示画像321と、第2上部旋回体補助画像322と、第2前進方向指示画像323と、を全方位を示す矩形画像に重畳して表示させたものである。   The panoramic image 32 is an image indicating all directions, is a rectangular image obtained by cutting out the outer circle image of the imaging data D with a predetermined cutting line and correcting the distortion, and includes the second frame-shaped image A2 and the second upper revolving body. The instruction image 321, the second upper swing body auxiliary image 322, and the second forward direction instruction image 323 are displayed by being superimposed on a rectangular image indicating all directions.

第2枠状画像A2は、切出し画像33に対応する領域を囲む矩形の枠として表示される。斯かる構成により、切出し画像33がパノラマ画像32のどの部分を切り出したものか容易に認識することができる。   The second frame-like image A2 is displayed as a rectangular frame surrounding the area corresponding to the cut-out image 33. With such a configuration, it is possible to easily recognize which part of the panoramic image 32 the cut-out image 33 is cut out.

第2上部旋回体指示画像321は、図3(a)に示すように、上部旋回体の向く方向を指し示す矢印で表示される。
斯かる構成により、建設用機械の上部旋回体の方向をパノラマ画像にて認識することができ、建設用機械とパノラマ画像に表示される物体との方位関係に関する情報を的確に得ることができる。また、第2枠状画像A2と、第2上部旋回体指示画像321とにより、切出し画像33と、第2上部旋回体指示画像321との位置関係を的確に得ることが出来る。
また、第2上部旋回体指示画像321は、方向がわかればいいので矢印ではない、目印となる画像などでもよい。
第2上部旋回体指示画像321は、表示手段3の表面ガラスなどに予め印刷されたものであってもよい。
As shown in FIG. 3A, the second upper swing body instruction image 321 is displayed with an arrow indicating the direction in which the upper swing body is directed.
With such a configuration, the direction of the upper turning body of the construction machine can be recognized by the panoramic image, and information related to the orientation relationship between the construction machine and the object displayed on the panoramic image can be obtained accurately. Further, the positional relationship between the cut-out image 33 and the second upper swing body instruction image 321 can be accurately obtained from the second frame-shaped image A2 and the second upper swing body instruction image 321.
Further, the second upper-part turning body instruction image 321 may be an image or a mark that is not an arrow as long as the direction is known.
The second upper swing body instruction image 321 may be printed in advance on the surface glass of the display unit 3 or the like.

また、パノラマ画像32は、上部旋回体の左右方向や背面方向を表す第2上部旋回体補助画像322を表示する。斯かる構成により、パノラマ画像32にて、建設用機械の上部旋回体と周辺画像との位置関係をより認識しやすい。   In addition, the panoramic image 32 displays a second upper swing body auxiliary image 322 representing the left and right direction and the rear direction of the upper swing body. With such a configuration, it is easier to recognize the positional relationship between the upper turning body of the construction machine and the peripheral image in the panoramic image 32.

第2前進方向指示画像323は、下部走行体の前進方向を示す画像であり、図3に示すように、矢印などの方向指示画像でより表示されるものである。
斯かる構成により、建設用機械の下部走行体の前進方向をパノラマ画像にて認識することができ、建設用機械とパノラマ画像に表示される物体との方位関係に関する情報を的確に得ることができる。
The second forward direction instruction image 323 is an image indicating the forward direction of the lower traveling body, and is displayed as a direction instruction image such as an arrow as shown in FIG.
With such a configuration, the forward direction of the lower traveling body of the construction machine can be recognized by the panoramic image, and information regarding the orientation relationship between the construction machine and the object displayed on the panoramic image can be obtained accurately. .

また、第2前進方向指示画像323は、図6(a)に示すように、奥行きのある矢印である第2前進方向指示奥行き矢印画像323aでもよい。
また、図6(b)に示すように、下部走行体の幅を考慮した、第2前進方向指示走行体画像323bとしてもよい。斯かる構成により、建設用機械とパノラマ画像に表示される物体との方位関係に加え、表示される物体との距離に関する情報を的確に得ることができ、下部走行体の幅に関連づけることで、物体の大きさや、物体同士の間隔の広さを認識することができる。
Further, as shown in FIG. 6A, the second forward direction instruction image 323 may be a second forward direction instruction depth arrow image 323a that is an arrow having a depth.
Further, as shown in FIG. 6B, a second forward direction indicating traveling body image 323b may be used in consideration of the width of the lower traveling body. With such a configuration, in addition to the azimuth relationship between the construction machine and the object displayed in the panoramic image, it is possible to accurately obtain information regarding the distance between the displayed object and by associating with the width of the lower traveling body, It is possible to recognize the size of the object and the distance between the objects.

切出し画像33は、環状画像31に重畳表示される第1枠状画像A1とパノラマ画像32に重畳表示される第2枠状画像A2に対応する位置が切り出された画像で、歪みが補正された拡大画像であり、全方位のうち注視したい一部分を詳細に把握することができる。
また、切出し画像33は、上部旋回体の指示方向を示す第3上部旋回体指示画像331又は、この上部旋回体の指示方向を基準とした、上部旋回体の左右方向や背面方向を表す第3上部旋回体補助画像332又は、下部走行体の進行方向を示す第3前進方向指示画像333を、図7(a)に示すように、切出し画像33の切出し位置(第1枠状画像A1と第2枠状画像A2の位置)に応じて表示する。
斯かる構成により、建設用機械の下部走行体の方向と上部旋回体の方向とを切出し画像にて認識することができ、建設用機械と切出し画像に表示される物体との方位関係に関する情報を的確に得ることができる。
The cut-out image 33 is an image in which positions corresponding to the first frame-shaped image A1 superimposed and displayed on the annular image 31 and the second frame-shaped image A2 superimposed and displayed on the panoramic image 32 are cut out, and distortion is corrected. It is an enlarged image, and it is possible to grasp in detail a part of the omnidirectional portion that is desired to be watched.
In addition, the cut-out image 33 is a third upper swing body instruction image 331 that indicates an instruction direction of the upper swing body or a third direction that represents the left-right direction and the rear direction of the upper swing body with reference to the instruction direction of the upper swing body. As shown in FIG. 7A, the upper turning body auxiliary image 332 or the third forward direction instruction image 333 indicating the traveling direction of the lower traveling body is extracted from the cut position (the first frame-like image A1 and the first frame-like image A1). Display in accordance with the position of the two-frame image A2.
With such a configuration, the direction of the lower traveling body and the direction of the upper turning body of the construction machine can be recognized in the cutout image, and information on the orientation relationship between the construction machine and the object displayed in the cutout image can be obtained. It can be obtained accurately.

また、切出し画像33は、図7(b)に示すように、現在切出し画像33に表示している方向に対し、上部先行体の指示方向がどの位置にあるかを角度表示する上部旋回体方位情報画像Bを表示する。
また、切出し画像33は、現在切出し画像33に表示している方向に対し、下部走行体の前進方向はどの位置にあるかを角度表示する前進方向情報画像Cを表示する。
斯かる構成により、切出し画像33を視認するだけで、切出し画像33と、上部旋回体の指示方向又は下部走行体の前進方向と、の位置関係を容易に認識することができる。
上記の上部旋回体方位情報画像Bや前進方向情報画像Cは、切出し画像33の画像内でもよいが、切出し画像33の周縁外側に表示してもよい。
Further, as shown in FIG. 7 (b), the cutout image 33 is an upper turning body orientation that displays an angle indicating the position of the indicated direction of the upper preceding body with respect to the direction currently displayed in the cutout image 33. An information image B is displayed.
Further, the cut-out image 33 displays a forward direction information image C that displays an angle indicating which position the forward direction of the lower traveling body is with respect to the direction currently displayed in the cut-out image 33.
With such a configuration, it is possible to easily recognize the positional relationship between the cut-out image 33 and the indicated direction of the upper swing body or the forward direction of the lower traveling body simply by visually recognizing the cut-out image 33.
The upper turning body orientation information image B and the forward direction information image C described above may be displayed in the image of the cutout image 33, but may be displayed outside the periphery of the cutout image 33.

以上が、表示手段3に表示される環状画像31とパノラマ画像32と切出し画像33についての説明であるが、本願発明の周辺画像表示装置100は、斯かる構成により、撮像される環状画像31とパノラマ画像32と切出し画像33とのそれぞれの位置関係を明確にし、さらに、撮像される物体と建設用機械(下部走行体の前進方向または上部旋回体の指示方向)との位置関係に関する情報を的確に得ることができる。   The above is the description of the annular image 31, the panoramic image 32, and the cutout image 33 displayed on the display unit 3, but the peripheral image display device 100 of the present invention has the above-described annular image 31 and the captured image. The positional relationship between the panoramic image 32 and the cut-out image 33 is clarified, and information on the positional relationship between the object to be imaged and the construction machine (the forward traveling direction of the lower traveling body or the indicated direction of the upper turning body) is further accurately determined. Can get to.

次に、本願発明の周辺画像表示装置100の操作方法について、操作手段4がタッチパネルである場合を実施例として、図8乃至12を用いて説明する。   Next, an operation method of the peripheral image display device 100 of the present invention will be described with reference to FIGS. 8 to 12 as an example where the operation means 4 is a touch panel.

図8(a)は、環状画像31上を操作者Xがタッチした際の第1枠状画像A1の移動を時系列で表した図である。操作者Xが所望する箇所をタッチすることで、第1枠状画像A1の位置が移動し、この第1枠状画像A1に同期する切出し画像33を素早く切替えることができる。
図8(b)は、環状画像31上を操作者Xがフリック操作した際の第1枠状画像A1の移動を時系列で表した図である。操作者Xが環状画像31上をなぞるフリック操作をすることによって、操作者Xの動きに対応して、第1枠状画像A1が滑らかに移動し、それにより、第1枠状画像A1に同期する切出し画像33も滑らかにその表示領域を切替えることができる。
FIG. 8A is a diagram showing the movement of the first frame-shaped image A1 in time series when the operator X touches the annular image 31. FIG. When the operator X touches a desired location, the position of the first frame-like image A1 moves, and the cut-out image 33 synchronized with the first frame-like image A1 can be quickly switched.
FIG. 8B is a diagram showing the movement of the first frame-shaped image A1 in time series when the operator X performs a flick operation on the annular image 31. FIG. When the operator X performs a flick operation on the annular image 31, the first frame-like image A1 moves smoothly in response to the movement of the operator X, thereby synchronizing with the first frame-like image A1. The display area of the cut image 33 to be switched can be switched smoothly.

図9(a)は、パノラマ画像32上を操作者Xがタッチした際の第2枠状画像A2の移動を時系列で表した図である。操作者Xが所望の箇所をタッチすることで、第2枠状画像A2の位置が移動し、この第2枠状画像A2に同期する切出し画像33を素早く切替えることができる。
図9(b)は、パノラマ画像32上を操作者Xが2点以上操作点をピンチアウト操作した際の第2枠状画像A2の大きさ変更を時系列で表した図である。操作者Xが、第2枠状画像A2付近で、2点の接点を広げるようにピンチアウト操作した場合、第2枠状画像A2が拡がり、これにより切出し画像33の切出し領域が大きくなるため、切出し画像33は縮小表示される。また、操作者Xが第2枠状画像A2付近で、2点の接点を狭めるようにピンチイン操作した場合、第2枠状画像A2は狭まり、これにより切出し画像33の切出し領域が小さくなるため、切出し画像33は拡大表示される。
FIG. 9A is a diagram showing the movement of the second frame-shaped image A2 in time series when the operator X touches the panoramic image 32. FIG. When the operator X touches a desired location, the position of the second frame-shaped image A2 moves, and the cut-out image 33 synchronized with the second frame-shaped image A2 can be quickly switched.
FIG. 9B is a diagram showing the change in size of the second frame-like image A2 in time series when the operator X performs a pinch-out operation on two or more operation points on the panoramic image 32. When the operator X performs a pinch-out operation so as to widen the two contact points in the vicinity of the second frame-shaped image A2, the second frame-shaped image A2 expands, thereby increasing the cut-out area of the cut-out image 33. The cutout image 33 is reduced and displayed. Further, when the operator X performs a pinch-in operation so as to narrow the two contact points in the vicinity of the second frame-shaped image A2, the second frame-shaped image A2 is narrowed, and thus the cut-out area of the cut-out image 33 is reduced. The cutout image 33 is enlarged and displayed.

図10は、切出し画像33上を操作者Xがフリック操作した際の切出し位置の移動を時系列で表した図である。操作者Xが、図のように左から右方向へフリック操作すると、切出し画像33も左から右方向へスライドし、切出し位置が変更される。これに従い、第1枠状画像A1と第2枠状画像A2も切出し画像33に同期し、移動する。   FIG. 10 is a diagram showing the movement of the cutout position in time series when the operator X performs a flick operation on the cutout image 33. When the operator X performs a flick operation from left to right as shown in the figure, the cut image 33 is also slid from left to right, and the cut position is changed. Accordingly, the first frame-like image A1 and the second frame-like image A2 also move in synchronization with the cut-out image 33.

図11は、切出し画像33上を操作者Xが2点以上操作点をピンチアウト操作した際の切出し画像33の拡大を時系列で表した図である。操作者Xが、切出し画像33付近で、2点の接点を広げるようにピンチアウト操作した場合、切出し画像33は拡大表示され、切出し画像33の表示領域に同期し、第1枠状画像A1と第2枠状画像A2を変更させる。また、操作者Xが切出し画像33付近で、2点の接点を狭めるようにピンチイン操作した場合、切出し画像33縮小表示され、切出し画像33の表示領域に同期し、第1枠状画像A1と第2枠状画像A2を変更させる。   FIG. 11 is a diagram showing the enlargement of the cutout image 33 in time series when the operator X pinches out two or more operation points on the cutout image 33. When the operator X performs a pinch-out operation in the vicinity of the cut-out image 33 so as to widen two contact points, the cut-out image 33 is enlarged and displayed in synchronization with the display area of the cut-out image 33 and the first frame-like image A1. The second frame image A2 is changed. In addition, when the operator X performs a pinch-in operation in the vicinity of the cutout image 33 so as to narrow the contact point between the two points, the cutout image 33 is reduced and displayed in synchronization with the display area of the cutout image 33 and the first frame-like image A1 and the first frame image A1. The two-frame image A2 is changed.

また、図12(a)に示すように、第1枠状画像A1または第2枠状画像A2または切出し画像33の周縁部に上下左右などのカーソル表示Eを表示し、このカーソル表示E上を操作してもよい。
また、図12(b)のように、操作された方向のカーソル表示Eの色彩を一時的に変えることで、その方向の操作が行われたことを操作者Xに報知してもよい。
Also, as shown in FIG. 12A, a cursor display E such as up / down / left / right is displayed on the periphery of the first frame-shaped image A1, the second frame-shaped image A2 or the cut-out image 33, and the cursor display E is displayed on the cursor display E. You may operate.
Further, as shown in FIG. 12B, the operator X may be notified that the operation in the direction has been performed by temporarily changing the color of the cursor display E in the operated direction.

また、操作手段4は、直感的な操作が可能なマウス、ジョイスティック、タッチパッド、ペンタブレットあるいはトラックボールなどを用いてもよい。   The operation means 4 may be a mouse, joystick, touch pad, pen tablet, or trackball that can be operated intuitively.

このように、環状画像31と、パノラマ画像32と、切出し画像33と、を同時に表示させ、その画面上をタッチパネルで操作することにより、環状画像31上の操作では、特に方位を意識した第1枠状画像A1の移動ができ、パノラマ画像32上の操作では、特に上下(奥行き)方向を意識した第2枠状画像A2の移動ができ、切出し画像33上の操作では、拡大画像により、切出し画像33の詳細な切出し位置を微調整することができ、それぞれの画像を活かした直感的な操作ができる。   As described above, the annular image 31, the panoramic image 32, and the cutout image 33 are displayed at the same time, and the operation on the annular image 31 is operated with the touch panel. The frame-like image A1 can be moved. In the operation on the panorama image 32, the second frame-like image A2 can be moved in consideration of the vertical (depth) direction. The detailed cutout position of the image 33 can be finely adjusted, and an intuitive operation utilizing each image can be performed.

次に図13を用いて、撮像手段1が全方位カメラではなく、複数のカメラで構成された一実施形態を説明する。
具体的に例えば、撮像手段1は、CCDもしくはCMOSからなる撮像素子を有する第1,第2撮像カメラ1a,1bであり、ぞれぞれ視野角が重ならず、視野角同士に間ができない位置に設置される。第1,第2撮像カメラ1a,1bは視野角120°とすると、2つのカメラで240°の視野角を撮影することができ、それぞれ撮像した画像を環状画像31とパノラマ画像32および切出し画像33に表示する。
環状画像31は、第1撮像カメラ1aにより撮像された第1撮像カメラ画像U1aと、第2撮像カメラ1bにより撮像された第2撮像カメラ画像U1bと、複数の撮像カメラで撮像されない死角となる第1デッドスペースU1cにより構成されている。この第1デッドスペースU1cは、黒塗りや車両情報を文字などで表示するエリアである。
また、パノラマ画像32にも、環状画像31の第1デッドスペースU1cに対応する位置に第2デッドスペースU2cを設ける。
斯かる構成により、撮像手段1が全方位カメラではなく、複数のカメラであった場合も、撮像される画像同士の位置関係と、さらに撮像される物体と建設用機械との位置関係とに関する情報を的確に得ることができる。
Next, an embodiment in which the imaging unit 1 is configured by a plurality of cameras instead of an omnidirectional camera will be described with reference to FIG.
Specifically, for example, the imaging means 1 is a first and second imaging camera 1a, 1b having an imaging element made of CCD or CMOS, and the viewing angles do not overlap each other, and the viewing angles cannot be separated from each other. Installed in position. Assuming that the first and second imaging cameras 1a and 1b have a viewing angle of 120 °, the two cameras can capture a viewing angle of 240 °, and the captured images are respectively an annular image 31, a panoramic image 32, and a cutout image 33. To display.
The annular image 31 is a first imaging camera image U1a captured by the first imaging camera 1a, a second imaging camera image U1b captured by the second imaging camera 1b, and a blind spot that is not captured by a plurality of imaging cameras. One dead space U1c is used. The first dead space U1c is an area for displaying black paint or vehicle information in characters or the like.
The panoramic image 32 is also provided with a second dead space U2c at a position corresponding to the first dead space U1c of the annular image 31.
With such a configuration, even when the imaging unit 1 is not an omnidirectional camera but a plurality of cameras, information on the positional relationship between the captured images and the positional relationship between the captured object and the construction machine. Can be obtained accurately.

100 周辺画像表示装置
1 撮像手段
2 制御手段
3 表示手段
4 操作手段
5 角度センサ
1a 第1撮像カメラ
1b 第2撮像カメラ
11 反射ミラー
12 レンズ
13 撮像素子
14 ケース体
31 環状画像
311 第1上部旋回体指示画像
312 第1上部旋回体補助画像
313 第1前進方向指示画像
32 パノラマ画像
321 第2上部旋回体指示画像
322 第2上部旋回体補助画像
323 第2前進方向指示画像
33 切出し画像
331 第3上部旋回体指示画像
332 第3上部旋回体補助画像
333 第3前進方向指示画像
A1 第1枠状画像
A2 第2枠状画像
B 上部旋回体方位情報画像
C 前進方向情報画像
E カーソル表示
L 周囲光
S1a 外円領域
S1b 内円領域
U1a 第1カメラ画像
U1b 第2カメラ画像
U1c 第1デッドスペース
U2c 第2デッドスペース
DESCRIPTION OF SYMBOLS 100 Peripheral image display apparatus 1 Imaging means 2 Control means 3 Display means 4 Operation means 5 Angle sensor 1a 1st imaging camera 1b 2nd imaging camera 11 Reflection mirror 12 Lens 13 Imaging element 14 Case body 31 Ring image 311 1st upper revolving body Instruction image 312 First upper turning body auxiliary image 313 First forward direction instruction image 32 Panoramic image 321 Second upper turning body instruction image 322 Second upper turning body auxiliary image 323 Second forward direction instruction image 33 Cutout image 331 Third upper portion Revolving body instruction image 332 Third upper revolving body auxiliary image 333 Third forward direction instruction image A1 First frame image A2 Second frame image B Upper revolving body direction information image C Forward direction information image E Cursor display L Ambient light S1a Outer circle area S1b Inner circle area U1a First camera image U1b Second camera image U1c First Dead space U2c the second dead space

Claims (11)

下部走行体及び上部旋回体を有する建設用機械に搭載され、
前記建設用機械の周囲を撮像する撮像手段と、
前記撮像手段により撮像された撮像データを前記建設用機械を基準とした環状画像及びパノラマ画像並びに前記パノラマ画像の一部分を切り出した切出し画像に変換する制御手段と、
前記環状画像と前記パノラマ画像と前記切出し画像とを同時に表示する表示手段と、
前記制御手段に操作信号を出力する操作手段と、を備え、
前記制御手段は、前記切出し画像の切出し位置を定める枠状画像を前記環状画像上及び前記パノラマ画像上に重ねて表示させるとともに、
前記操作手段の操作に基づいて、前記枠状画像を前記環状画像及び前記パノラマ画像の範囲内にて移動可能とし、前記枠状画像の移動に連動し、前記切出し画像を切替えること、を特徴とする周辺画像表示装置。
It is mounted on a construction machine having a lower traveling body and an upper turning body,
Imaging means for imaging the surroundings of the construction machine;
Control means for converting the imaging data captured by the imaging means into a ring image and a panoramic image based on the construction machine and a cut-out image obtained by cutting out a part of the panoramic image;
Display means for simultaneously displaying the annular image, the panoramic image, and the cut-out image;
Operating means for outputting an operation signal to the control means,
The control unit displays a frame-like image that defines a cut-out position of the cut-out image so as to overlap the annular image and the panoramic image, and
Based on the operation of the operation means, the frame-like image can be moved within the range of the annular image and the panoramic image, and the cut-out image is switched in conjunction with the movement of the frame-like image. Peripheral image display device.
前記制御手段は、前記上部旋回体の旋回角度情報を入力し、
前記環状画像に前記下部走行体の前進方向を示す第1前進方向指示画像を表示させる、
または前記パノラマ画像に前記下部走行体の前進方向を示す第2前進方向指示画像を表示させる、
または前記枠状画像が前記下部走行体の前進方向にあったとき、前記切出し画像に前記下部走行体の前進方向を示す第3前進方向指示画像を表示させること、を特徴とする請求項1に記載の周辺画像表示装置。
The control means inputs turning angle information of the upper turning body,
Displaying a first forward direction instruction image indicating the forward direction of the lower traveling body on the annular image;
Alternatively, a second forward direction instruction image indicating the forward direction of the lower traveling body is displayed on the panoramic image.
Alternatively, when the frame-like image is in the forward direction of the lower traveling body, a third forward direction indicating image indicating the forward direction of the lower traveling body is displayed on the cut image. The peripheral image display device described.
前記制御手段は、前記上部旋回体の方向を示す第1上部旋回体指示画像を前記環状画像に表示させること、を特徴とする請求項1または請求項2に記載の周辺画像表示装置。   The peripheral image display device according to claim 1, wherein the control unit displays a first upper swing body instruction image indicating a direction of the upper swing body on the annular image. 前記制御手段は、前記上部旋回体の方向を示す第2上部旋回体指示画像を前記パノラマ画像に表示させること、を特徴とする請求項1乃至3のいずれかに記載の周辺画像表示装置。   4. The peripheral image display device according to claim 1, wherein the control unit displays a second upper swing body instruction image indicating a direction of the upper swing body on the panoramic image. 5. 前記制御手段は、前記枠状画像が前記上部旋回体の方向にあったとき、前記切出し画像に前記上部旋回体の方向を示す第3上部旋回体指示画像を表示させるものこと、を特徴とする請求項1乃至4のいずれかに記載の周辺画像表示装置。   When the frame-shaped image is in the direction of the upper swing body, the control means displays a third upper swing body instruction image indicating the direction of the upper swing body in the cut image. The peripheral image display device according to claim 1. 前記第2前進方向指示画像は、前記下部走行体の幅に基づく、奥行きのある画像からなること、を特徴とする請求項2乃至5のいずれかに記載の周辺画像表示装置。   The peripheral image display device according to any one of claims 2 to 5, wherein the second forward direction instruction image is a deep image based on a width of the lower traveling body. 前記第1上部旋回体指示画像は、前記環状画像の中心部に前記建設用機械を示す車両画像で表示されること、を特徴とする請求項1乃至6のいずれかに記載の周辺画像表示装置。   The peripheral image display device according to any one of claims 1 to 6, wherein the first upper-part turning body instruction image is displayed as a vehicle image showing the construction machine at a central portion of the annular image. . 前記撮像手段は、全方位カメラであり、前記制御手段は、前記全方位カメラからの撮像データに基づいて、前記環状画像を生成すること、を特徴とする請求項1乃至7のいずれかに記載の周辺画像表示装置。   The said imaging means is an omnidirectional camera, and the said control means produces | generates the said cyclic | annular image based on the imaging data from the said omnidirectional camera, The one in any one of Claim 1 thru | or 7 characterized by the above-mentioned. Peripheral image display device. 前記撮像手段は、複数のカメラであり、前記制御手段は、前記複数のカメラからの撮像データに基づいて、前記環状画像を生成すること、を特徴とする請求項1乃至7のいずれかに記載の周辺画像表示装置。   The said imaging means is a some camera, The said control means produces | generates the said cyclic | annular image based on the imaging data from the said some camera, The any one of Claim 1 thru | or 7 characterized by the above-mentioned. Peripheral image display device. 前記制御手段は、前記枠上画像の内部もしくは前記枠状画像の周辺に上下左右のカーソル表示を表示し、前記操作手段にて前記枠状画像が移動されるとき、前記操作手段にて操作された方向の前記カーソル表示の色彩を変化させること、を特徴とする請求項1乃至9のいずれかに記載の周辺画像表示装置。   The control means displays up / down / left / right cursor displays inside the frame image or around the frame image, and is operated by the operation means when the frame image is moved by the operation means. The peripheral image display device according to claim 1, wherein a color of the cursor display in a different direction is changed. 前記操作手段は、タッチパネル式入力手段からなること、を特徴とする請求項1乃至10のいずれかに記載の周辺画像表示装置。


The peripheral image display device according to claim 1, wherein the operation unit includes a touch panel type input unit.


JP2011169819A 2011-08-03 2011-08-03 Peripheral image display device Active JP5974433B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2011169819A JP5974433B2 (en) 2011-08-03 2011-08-03 Peripheral image display device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011169819A JP5974433B2 (en) 2011-08-03 2011-08-03 Peripheral image display device

Publications (2)

Publication Number Publication Date
JP2013034142A true JP2013034142A (en) 2013-02-14
JP5974433B2 JP5974433B2 (en) 2016-08-23

Family

ID=47789633

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011169819A Active JP5974433B2 (en) 2011-08-03 2011-08-03 Peripheral image display device

Country Status (1)

Country Link
JP (1) JP5974433B2 (en)

Cited By (24)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015004680A (en) * 2013-06-21 2015-01-08 シュタインビフラー オプトテヒニク ゲーエムベーハー Tire tester, tire testing facility, and tire testing method
JP2015119338A (en) * 2013-12-18 2015-06-25 キヤノン株式会社 Control device, imaging system, control method, and program
CN105227919A (en) * 2015-09-30 2016-01-06 贵州广思信息网络有限公司 A kind of method being improved work progress supervision by panoramic recorder
JP2016076853A (en) * 2014-10-07 2016-05-12 キヤノン株式会社 Image processing apparatus, image processing method, and imaging apparatus
WO2016159012A1 (en) * 2015-03-31 2016-10-06 株式会社小松製作所 Work-machine periphery monitoring device
JP2017017446A (en) * 2015-06-29 2017-01-19 キヤノン株式会社 Information processing device and control method thereof, and program
JP2017020922A (en) * 2015-07-13 2017-01-26 株式会社日立システムズ Work action support navigation system and method, and computer program for work action support navigation, memory medium storing program for work action support navigation, self-propelled robot loaded with work action support navigation system, and intelligent helmet used with work action support navigation system
JP2017069834A (en) * 2015-09-30 2017-04-06 アイシン精機株式会社 Display control device
WO2017094626A1 (en) * 2015-11-30 2017-06-08 住友重機械工業株式会社 Periphery monitoring system for work machine
JP2017101419A (en) * 2015-11-30 2017-06-08 住友重機械工業株式会社 Periphery monitoring system for work machine
JP2017102606A (en) * 2015-11-30 2017-06-08 住友重機械工業株式会社 Periphery monitoring system for work machine
JP2017102605A (en) * 2015-11-30 2017-06-08 住友重機械工業株式会社 Periphery monitoring system for work machine
JP2017101420A (en) * 2015-11-30 2017-06-08 住友重機械工業株式会社 Peripheral monitoring system for work machine
WO2017179389A1 (en) * 2016-04-15 2017-10-19 株式会社東海理化電機製作所 Viewing device for vehicle
JP6330089B1 (en) * 2017-06-30 2018-05-23 株式会社コロプラ Program executed on computer to provide virtual space, information processing apparatus, and method for providing virtual space
JP2018107583A (en) * 2016-12-26 2018-07-05 キヤノン株式会社 Information processing device, information processing method and program
JP2018121221A (en) * 2017-01-25 2018-08-02 住友重機械工業株式会社 Periphery monitoring system for work machine
JP2018142340A (en) * 2018-04-06 2018-09-13 株式会社デンソーテン Image creation device, image display system, and image creation method
JP2018174468A (en) * 2017-03-31 2018-11-08 キヤノン株式会社 Video display unit, and control method, and program therefor
JP2020017829A (en) * 2018-07-24 2020-01-30 株式会社リコー Communication terminal, program, display method, and recording medium
JP2020088511A (en) * 2018-11-20 2020-06-04 アルパイン株式会社 Display device, display method, and display program
JP2020195021A (en) * 2019-05-27 2020-12-03 沖電気工業株式会社 Information processing device, information processing method, and program
JP2021067174A (en) * 2016-03-24 2021-04-30 住友重機械工業株式会社 Shovel, and system of shovel
JP2021087037A (en) * 2019-11-25 2021-06-03 パイオニア株式会社 Display control device, display control method, and display control program

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005101720A (en) * 2003-09-22 2005-04-14 Kddi Corp Partial image coding device
JP2005167638A (en) * 2003-12-02 2005-06-23 Sharp Corp Mobile surrounding surveillance apparatus, vehicle, and image transforming method
JP2005167397A (en) * 2003-11-28 2005-06-23 Canon Inc Server apparatus and control method thereof, and storage medium
JP2006211105A (en) * 2005-01-26 2006-08-10 Konica Minolta Holdings Inc Image formation apparatus and system
JP2007282123A (en) * 2006-04-11 2007-10-25 Ricoh Co Ltd Image distribution system, terminal device, image distributing device, program, and recording medium
JP2008240362A (en) * 2007-03-27 2008-10-09 Komatsu Ltd Construction machine and method of guiding backward movement of construction machine
JP2010204821A (en) * 2009-03-02 2010-09-16 Hitachi Constr Mach Co Ltd Working machine equipped with periphery monitoring device
JP2010258878A (en) * 2009-04-27 2010-11-11 Mitsubishi Electric Corp Video monitoring system

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005101720A (en) * 2003-09-22 2005-04-14 Kddi Corp Partial image coding device
JP2005167397A (en) * 2003-11-28 2005-06-23 Canon Inc Server apparatus and control method thereof, and storage medium
JP2005167638A (en) * 2003-12-02 2005-06-23 Sharp Corp Mobile surrounding surveillance apparatus, vehicle, and image transforming method
JP2006211105A (en) * 2005-01-26 2006-08-10 Konica Minolta Holdings Inc Image formation apparatus and system
JP2007282123A (en) * 2006-04-11 2007-10-25 Ricoh Co Ltd Image distribution system, terminal device, image distributing device, program, and recording medium
JP2008240362A (en) * 2007-03-27 2008-10-09 Komatsu Ltd Construction machine and method of guiding backward movement of construction machine
JP2010204821A (en) * 2009-03-02 2010-09-16 Hitachi Constr Mach Co Ltd Working machine equipped with periphery monitoring device
JP2010258878A (en) * 2009-04-27 2010-11-11 Mitsubishi Electric Corp Video monitoring system

Cited By (37)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015004680A (en) * 2013-06-21 2015-01-08 シュタインビフラー オプトテヒニク ゲーエムベーハー Tire tester, tire testing facility, and tire testing method
JP2015119338A (en) * 2013-12-18 2015-06-25 キヤノン株式会社 Control device, imaging system, control method, and program
JP2016076853A (en) * 2014-10-07 2016-05-12 キヤノン株式会社 Image processing apparatus, image processing method, and imaging apparatus
JPWO2016159012A1 (en) * 2015-03-31 2017-06-15 株式会社小松製作所 Work machine periphery monitoring device
CN106716988B (en) * 2015-03-31 2019-01-22 株式会社小松制作所 The periphery monitoring apparatus of Work machine
WO2016159012A1 (en) * 2015-03-31 2016-10-06 株式会社小松製作所 Work-machine periphery monitoring device
WO2016157463A1 (en) * 2015-03-31 2016-10-06 株式会社小松製作所 Work-machine periphery monitoring device
DE112016000127B4 (en) 2015-03-31 2019-06-13 Komatsu Ltd. Environmental monitoring device for working machine
KR101895830B1 (en) * 2015-03-31 2018-09-07 가부시키가이샤 고마쓰 세이사쿠쇼 Work-machine periphery monitoring device
KR20170040349A (en) * 2015-03-31 2017-04-12 가부시키가이샤 고마쓰 세이사쿠쇼 Work-machine periphery monitoring device
CN106716988A (en) * 2015-03-31 2017-05-24 株式会社小松制作所 Work-machine periphery monitoring device
JP2017017446A (en) * 2015-06-29 2017-01-19 キヤノン株式会社 Information processing device and control method thereof, and program
JP2017020922A (en) * 2015-07-13 2017-01-26 株式会社日立システムズ Work action support navigation system and method, and computer program for work action support navigation, memory medium storing program for work action support navigation, self-propelled robot loaded with work action support navigation system, and intelligent helmet used with work action support navigation system
JP2017069834A (en) * 2015-09-30 2017-04-06 アイシン精機株式会社 Display control device
CN105227919A (en) * 2015-09-30 2016-01-06 贵州广思信息网络有限公司 A kind of method being improved work progress supervision by panoramic recorder
JP2017102605A (en) * 2015-11-30 2017-06-08 住友重機械工業株式会社 Periphery monitoring system for work machine
JP2017101420A (en) * 2015-11-30 2017-06-08 住友重機械工業株式会社 Peripheral monitoring system for work machine
WO2017094626A1 (en) * 2015-11-30 2017-06-08 住友重機械工業株式会社 Periphery monitoring system for work machine
JP2017101419A (en) * 2015-11-30 2017-06-08 住友重機械工業株式会社 Periphery monitoring system for work machine
JP2017102606A (en) * 2015-11-30 2017-06-08 住友重機械工業株式会社 Periphery monitoring system for work machine
US11697920B2 (en) 2015-11-30 2023-07-11 Sumitomo Heavy Industries, Ltd. Surroundings monitoring system for work machine
JP2021067174A (en) * 2016-03-24 2021-04-30 住友重機械工業株式会社 Shovel, and system of shovel
WO2017179389A1 (en) * 2016-04-15 2017-10-19 株式会社東海理化電機製作所 Viewing device for vehicle
JP2018107583A (en) * 2016-12-26 2018-07-05 キヤノン株式会社 Information processing device, information processing method and program
JP2018121221A (en) * 2017-01-25 2018-08-02 住友重機械工業株式会社 Periphery monitoring system for work machine
JP2018174468A (en) * 2017-03-31 2018-11-08 キヤノン株式会社 Video display unit, and control method, and program therefor
JP6330089B1 (en) * 2017-06-30 2018-05-23 株式会社コロプラ Program executed on computer to provide virtual space, information processing apparatus, and method for providing virtual space
JP2019012441A (en) * 2017-06-30 2019-01-24 株式会社コロプラ Program executed on computer for providing virtual space, information processing apparatus, and method for providing virtual space
JP2018142340A (en) * 2018-04-06 2018-09-13 株式会社デンソーテン Image creation device, image display system, and image creation method
JP2020017829A (en) * 2018-07-24 2020-01-30 株式会社リコー Communication terminal, program, display method, and recording medium
JP7115097B2 (en) 2018-07-24 2022-08-09 株式会社リコー Communication terminal, program, display method, recording medium
JP2020088511A (en) * 2018-11-20 2020-06-04 アルパイン株式会社 Display device, display method, and display program
JP7166725B2 (en) 2018-11-20 2022-11-08 アルパイン株式会社 Display device, display method and display program
JP2020195021A (en) * 2019-05-27 2020-12-03 沖電気工業株式会社 Information processing device, information processing method, and program
JP7322510B2 (en) 2019-05-27 2023-08-08 沖電気工業株式会社 Information processing device, information processing method and program
JP2021087037A (en) * 2019-11-25 2021-06-03 パイオニア株式会社 Display control device, display control method, and display control program
JP7332445B2 (en) 2019-11-25 2023-08-23 パイオニア株式会社 Display control device, display control method and display control program

Also Published As

Publication number Publication date
JP5974433B2 (en) 2016-08-23

Similar Documents

Publication Publication Date Title
JP5974433B2 (en) Peripheral image display device
JP5201999B2 (en) Input device and method thereof
JP4969269B2 (en) Image processing device
EP3335944B1 (en) Work vehicle
TWI517992B (en) Vehicular image system, and display control method for vehicular image thereof
JP2008148059A (en) Vehicle-surroundings monitor apparatus
JP5589644B2 (en) Peripheral image display device and display method thereof
JP5302766B2 (en) Surveillance image display device
WO2015198410A1 (en) Outside recognition device
CN102812704A (en) Vehicle periphery monitoring device
JP5593802B2 (en) POSITION DETECTION SYSTEM, ITS CONTROL METHOD, AND PROGRAM
WO2013038681A1 (en) Camera calibration device, camera, and camera calibration method
JP2011071919A (en) Surrounding image presenting apparatus and operation supporting system
JP5066198B2 (en) Work machine monitoring device
JP5926315B2 (en) Work vehicle periphery monitoring system and work vehicle
WO2017038123A1 (en) Device for monitoring area around vehicle
WO2022264556A1 (en) Method for controlling work assistance system, and program for controlling work assistance system
JP2018142884A (en) Bird's eye video creation device, bird's eye video creation system, bird's eye video creation method, and program
WO2006013783A1 (en) Input device
JP2012029180A (en) Peripheral image display device and display method thereof
JP2013062692A (en) Calibration device and method for on-vehicle camera
JP6901710B1 (en) Safety devices and work machines
JP2009077022A (en) Driving support system and vehicle
JP2016149094A (en) Vehicle information processing apparatus
JP6149379B2 (en) Image display control device

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20140613

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20150326

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150331

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150521

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20151203

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160621

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160704

R150 Certificate of patent or registration of utility model

Ref document number: 5974433

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150