Nothing Special   »   [go: up one dir, main page]

WO2021181578A1 - 表示制御装置、表示制御方法、及びプログラム - Google Patents

表示制御装置、表示制御方法、及びプログラム Download PDF

Info

Publication number
WO2021181578A1
WO2021181578A1 PCT/JP2020/010616 JP2020010616W WO2021181578A1 WO 2021181578 A1 WO2021181578 A1 WO 2021181578A1 JP 2020010616 W JP2020010616 W JP 2020010616W WO 2021181578 A1 WO2021181578 A1 WO 2021181578A1
Authority
WO
WIPO (PCT)
Prior art keywords
inspection target
display
image
control device
unit
Prior art date
Application number
PCT/JP2020/010616
Other languages
English (en)
French (fr)
Inventor
達彦 中林
Original Assignee
日本電気株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 日本電気株式会社 filed Critical 日本電気株式会社
Priority to PCT/JP2020/010616 priority Critical patent/WO2021181578A1/ja
Priority to US17/800,734 priority patent/US20230351574A1/en
Priority to JP2022507094A priority patent/JPWO2021181578A1/ja
Publication of WO2021181578A1 publication Critical patent/WO2021181578A1/ja

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/0002—Inspection of images, e.g. flaw detection
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84—Systems specially adapted for particular applications
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84—Systems specially adapted for particular applications
    • G01N21/88—Investigating the presence of flaws or contamination
    • G—PHYSICS
    • G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • H—ELECTRICITY
    • H02—GENERATION; CONVERSION OR DISTRIBUTION OF ELECTRIC POWER
    • H02G—INSTALLATION OF ELECTRIC CABLES OR LINES, OR OF COMBINED OPTICAL AND ELECTRIC CABLES OR LINES
    • H02G1/00—Methods or apparatus specially adapted for installing, maintaining, repairing or dismantling electric cables or lines
    • H02G1/02—Methods or apparatus specially adapted for installing, maintaining, repairing or dismantling electric cables or lines for overhead lines or cables
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B64—AIRCRAFT; AVIATION; COSMONAUTICS
    • B64U—UNMANNED AERIAL VEHICLES [UAV]; EQUIPMENT THEREFOR
    • B64U2101/00—UAVs specially adapted for particular uses or applications
    • B64U2101/30—UAVs specially adapted for particular uses or applications for imaging, photography or videography
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B64—AIRCRAFT; AVIATION; COSMONAUTICS
    • B64U—UNMANNED AERIAL VEHICLES [UAV]; EQUIPMENT THEREFOR
    • B64U2201/00—UAVs characterised by their flight controls
    • B64U2201/20—Remote controls
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/10—Image acquisition modality
    • G06T2207/10016—Video; Image sequence
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/10—Image acquisition modality
    • G06T2207/10024—Color image
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/10—Image acquisition modality
    • G06T2207/10032—Satellite or aerial image; Remote sensing
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/30—Subject of image; Context of image processing
    • G06T2207/30204—Marker

Definitions

  • the present invention relates to a display control device, a display control method, and a program.
  • Patent Document 1 describes inspecting a structure such as a steel tower using a drone.
  • the present inventor has considered inspecting an inspection target having a certain length, such as an electric wire or a pipe, using a flying object such as a drone.
  • a flying object such as a drone.
  • the inspector needs to specify the electric wires and pipes to be inspected.
  • the control device that controls the flying object may mistakenly recognize the inspection target. Therefore, it is necessary to inform the inspector of the inspection target recognized by the control device.
  • An example of an object of the present invention is to inform an inspector of an electric wire or a pipe recognized as an inspection target by a control device of the air vehicle when inspecting an electric wire or a pipe using a flying object.
  • An image acquisition means for acquiring an image including at least one electric wire or pipe that can be inspected
  • a display means for acquiring inspection target identification information for identifying the inspection target and displaying a marker indicating the inspection target in the image on a display using the inspection target identification information.
  • the display means provides a display control device that arranges at least two of the markers along the inspection target so that the inspection target is located between the two markers.
  • the computer Obtain an image containing at least one wire or pipe that can be inspected
  • the inspection target identification information for identifying the inspection target is acquired, and the marker indicating the inspection target is displayed on the display in the image using the inspection target identification information.
  • a display control method for arranging the marker at a position sandwiching the inspection target along the inspection target is provided.
  • An image acquisition function that acquires an image including at least one electric wire or pipe that can be inspected
  • a display function that acquires inspection target identification information that identifies the inspection target and displays a marker indicating the inspection target in the image on the display using the inspection target identification information.
  • the display function provides a program for arranging the marker at a position sandwiching the inspection target along the inspection target.
  • the electric wires and pipes recognized as inspection targets by the control device of the air vehicle can be transmitted to the inspector.
  • step S160 It is a figure which shows an example of the screen which the display is displaying in step S160. It is a figure which shows an example of the process when a selection part selects an inspection target. It is a flowchart which shows the detailed example of step S180 of FIG. It is a figure which shows an example of the screen displayed on the display in step S210.
  • FIG. 1 is a diagram illustrating a usage environment of the route setting device 10 and the flying object control device 20 (an example of the display control device) according to the embodiment.
  • the route setting device 10 and the flying object control device 20 are used when inspecting the inspection target using the flying object 30.
  • the route setting device 10 and the flying object control device 20 may be one device.
  • the inspection target is a continuously extending object such as an electric wire or a pipe.
  • the electric wire may be, for example, a transmission line or a transmission line for transmitting a signal.
  • the transmission line may be a high-voltage power line or an overhead line of a train.
  • the pipe may be, for example, a pipeline or a pipe installed on the premises of a factory.
  • the aircraft body 30 is, for example, a drone or an unmanned helicopter, and is operated from the outside using wireless communication.
  • the flying object 30 has an imaging unit 350 (see FIG. 4), and images an inspection target during flight to generate image data. When performing this imaging, the flying object 30 needs to fly away from the inspection target to some extent.
  • the inspection target is an electric wire for power transmission
  • electromagnetic waves generated from the electric wire may affect the flight of the flying object 30, so when setting the flight route, the distance between the flight route and the inspection target is determined. It is necessary to secure it.
  • the route setting device 10 is used when setting the flight route of the flying object 30. Then, the flying object control device 20 performs a process for flying the flying object 30 according to the flight route set by the route setting device 10.
  • the flying object control device 20 also controls the imaging direction and magnification of the imaging unit 350.
  • a plurality of electric wires and pipes may be installed in parallel with each other. In such a case, it is necessary to set the electric wires and pipes to be inspected from a plurality of electric wires and pipes.
  • the flying object control device 20 is also used when selecting an inspection target from a plurality of electric wires and pipes.
  • FIG. 2 is a diagram showing an example of the functional configuration of the route setting device 10.
  • the route setting device 10 includes a first acquisition unit 130 and a route setting unit 140.
  • the first acquisition unit 130 acquires designated information for designating a plurality of points. When setting these plurality of points, these inspectors make each of the plurality of points overlap with the inspection target.
  • the route setting unit 140 sets the line connecting the points moved in the same direction and the same distance from the plurality of points indicated by the designated information as the flight route of the flying object.
  • the route setting unit 140 sets a temporary flight route by connecting a plurality of points indicated by the designated information.
  • the route setting unit 140 sets the flight route by moving this temporary flight route.
  • the route setting unit 140 moves a plurality of points indicated by the designated information in the same direction and in the same distance. Then, the route setting unit 140 sets the flight route of the flying object by connecting a plurality of points after the movement.
  • the route setting device 10 further includes a display unit 110, a data storage unit 112, a display 120, and a second acquisition unit 150.
  • the data storage unit 112 stores map data or images taken from the sky (for example, aerial photographs and satellite photographs).
  • the display unit 110 reads out map data or an image of the inspection target and its surroundings and displays it on the display 120 according to an instruction from the user.
  • the position information (for example, latitude / longitude information) of the relevant point is associated with each point.
  • the first acquisition unit 130 acquires information for identifying a plurality of selected points on the map or image displayed on the display 120 as the above-mentioned designated information.
  • the route setting unit 140 acquires position information for each of the plurality of points designated by the designated information, and sets a temporary flight route using the position information.
  • the second acquisition unit 150 acquires information indicating the movement distances of a plurality of points indicated by the designated information (hereinafter referred to as movement instruction information).
  • the movement instruction information may include the movement direction of each of the plurality of points. Here, the same travel distance is applied to all of the plurality of points. Then, the route setting unit 140 sets the flight route using the movement instruction information.
  • the first acquisition unit 130 and the second acquisition unit 150 acquire necessary information via an input device such as a mouse.
  • an input device such as a mouse.
  • the display 120 is a touch panel
  • at least one of the first acquisition unit 130 and the second acquisition unit 150 may acquire necessary information via the display 120.
  • the first acquisition unit 130 acquires information indicating a point selected by the mouse and information indicating a point touch-input to the display 120 as designated information. Further, the second acquisition unit 150 acquires the slide input performed on the display 120 as movement instruction information. In this case, the slide amount indicates the moving distance. In some cases, the slide direction may indicate the moving direction.
  • FIG. 3 is a diagram showing an example of the functional configuration of the flying object control device 20.
  • the aircraft control device 20 includes a display unit 210, a display 220, an input unit 230, a selection unit 240, and a command generation unit 250.
  • the command generation unit 250 acquires the image generated by the image pickup unit 350 of the flying object 30.
  • the display unit 210 displays the image acquired by the command generation unit 250 on the display 220. This image contains at least one wire or pipe that can be inspected.
  • the input unit 230 displays a line in the image displayed on the display 220 according to the input from the user.
  • the selection unit 240 selects an electric wire or a pipe to be inspected by using the line displayed by the input unit 230. For example, when a plurality of electric wires or pipes are included in the image, the selection unit 240 selects an inspection target from the plurality of electric wires or pipes using the line displayed by the input unit 230.
  • the command generation unit 250 generates command information for photographing the inspection target while the flying object moves along the inspection target, and transmits the command information to the flying object 30.
  • the command generation unit 250 generates command information so that the flight body 30 flies according to the flight route generated by the route setting device 10.
  • the command generation unit 250 When the flight route generated by the route setting device 10 is two-dimensional information (for example, latitude / longitude information), the command generation unit 250 describes information indicating the flight height of the flying object 30 (hereinafter referred to as height information). ) Is obtained separately from the flight route. For example, a person who inspects an inspection target (hereinafter referred to as an inspector) inputs height information to the input unit 230.
  • the height information may be a fixed value or may change along the flight route.
  • the command generation unit 250 includes this height information in the command information.
  • the flying object 30 While flying, the flying object 30 repeatedly transmits the position information of the flying object 30 to the flying object control device 20. Then, the command generation unit 250 of the flight body control device 20 repeatedly generates command information so that the flight body 30 moves along the flight route using this position information, and transmits the generated command information to the flight body 30. do.
  • the imaging unit 350 of the flying object 30 repeatedly generates an image.
  • the command generation unit 250 repeatedly acquires the image generated by the imaging unit 350. Then, each time the command generation unit 250 acquires an image, the command generation unit 250 generates command information based on the position of the inspection target in the image. For example, the command generation unit 250 controls the height of the flying object 30 so that the inspection target comes to the center in the image.
  • the command information includes information for controlling the imaging unit 350 (hereinafter referred to as control information).
  • This control information is information for controlling at least one of the photographing direction and the magnification of the imaging unit 350.
  • the command generation unit 250 generates control information regarding the imaging direction of the imaging unit 350 so that the inspection target comes to the center in the image. Further, the command generation unit 250 generates control information regarding the magnification of the image pickup unit 350 so that the size of the object to be imaged is within the reference range.
  • the input unit 230 acquires necessary information via an input device such as a mouse.
  • the input unit 230 may acquire necessary information via the display 220.
  • the input unit 230 uses a line input (drawn) on the touch panel using a pen, a finger, or the like as information for selecting an inspection target.
  • the display unit 210 displays this image on the display 220 every time the command generation unit 250 acquires an image from the flying object 30. At this time, the display unit 210 identifies the position of the inspection target in the image, and then displays at least two markers indicating the inspection target. These two markers are arranged along the inspection target so that the inspection target is located between the two markers.
  • the marker is, for example, a solid line, but may be a dotted line or a alternate long and short dash line.
  • the display unit 210 acquires information for identifying the inspection target (hereinafter referred to as inspection target identification information).
  • the inspection target specific information indicates, for example, the position of the inspection target in the previous image.
  • the display unit 210 uses this inspection target identification information to specify the position of the inspection target in the next image and generate the next inspection target identification information.
  • the display unit 210 identifies the position of the inspection target in each of the plurality of images generated by the flying object 30.
  • the marker is preferably a predetermined color, for example, red.
  • red a predetermined color
  • FIG. 4 is a diagram showing an example of the functional configuration of the flying object 30.
  • the flying object 30 includes a communication unit 310, a flight control unit 320, a drive mechanism 330, an image pickup control unit 340, and an image pickup unit 350.
  • the communication unit 310 communicates with the flight object control device 20, receives command information from the flight object control device 20, and transmits the image generated by the image pickup unit 350 to the flight object control device 20.
  • the drive mechanism 330 has a motor for driving the propeller of the flying object 30 and a mechanism for controlling the angle of the propeller.
  • the flight control unit 320 controls the drive mechanism 330 according to the command information transmitted from the flight body control device 20. At this time, the flight control unit 320 grasps the current position of the flying object 30 by using GPS or the like. Then, the flight control unit 320 controls the movement of the flight body 30 by using the current position of the flight body 30 and the command information. As a result, the flight body 30 can fly according to the flight route set by the route setting device 10 while maintaining the height set by the flight body control device 20.
  • the image pickup control unit 340 controls the image pickup unit 350 according to the control information included in the command information. For example, the image pickup control unit 340 controls the image pickup direction of the image pickup unit 350 so that the inspection target comes to the center in the image. Further, the image pickup control unit 340 controls the magnification of the image pickup unit 350 so that the size of the image pickup target is within the reference range. Then, the image pickup control unit 340 transmits the image generated by the image pickup unit 350 to the flying object control device 20 via the communication unit 310.
  • FIG. 5 is a diagram showing a hardware configuration example of the route setting device 10.
  • the route setting device 10 includes a bus 1010, a processor 1020, a memory 1030, a storage device 1040, an input / output interface 1050, and a network interface 1060.
  • the bus 1010 is a data transmission path for the processor 1020, the memory 1030, the storage device 1040, the input / output interface 1050, and the network interface 1060 to transmit and receive data to and from each other.
  • the method of connecting the processors 1020 and the like to each other is not limited to the bus connection.
  • the processor 1020 is a processor realized by a CPU (Central Processing Unit), a GPU (Graphics Processing Unit), or the like.
  • the memory 1030 is a main storage device realized by a RAM (Random Access Memory) or the like.
  • the storage device 1040 is an auxiliary storage device realized by an HDD (Hard Disk Drive), an SSD (Solid State Drive), a memory card, a ROM (Read Only Memory), or the like.
  • the storage device 1040 stores a program module that realizes each function of the route setting device 10 (for example, a display unit 110, a first acquisition unit 130, a route setting unit 140, and a second acquisition unit 150).
  • the processor 1020 reads each of these program modules into the memory 1030 and executes them, each function corresponding to the program module is realized.
  • the storage device 1040 also functions as a data storage unit 112.
  • the input / output interface 1050 is an interface for connecting the main part of the route setting device 10 and various input / output devices.
  • the display 120 communicates with the processor 1020 via the input / output interface 1050.
  • the network interface 1060 is an interface for connecting the route setting device 10 to the network.
  • This network is, for example, LAN (Local Area Network) or WAN (Wide Area Network).
  • the method of connecting the network interface 1060 to the network may be a wireless connection or a wired connection.
  • the route setting device 10 may communicate with the aircraft control device 20 via the network interface 1060.
  • the hardware configuration of the flying object control device 20 is also the same as the example shown in FIG.
  • the storage device 1040 stores a program module that realizes each function of the flight object control device 20 (for example, a display unit 210, an input unit 230, a selection unit 240, and a command generation unit 250).
  • the display 220 also communicates with the processor 1020 via the input / output interface 1050.
  • the flying object control device 20 may communicate with the route setting device 10 and the flying object 30 via the network interface 1060.
  • FIG. 6 is a flowchart showing an example of processing performed by the route setting device 10.
  • the route setting device 10 sets the flight route of the flying object 30.
  • the display unit 110 of the route setting device 10 reads the map data or image data of the place where the inspection target exists from the data storage unit 112 according to the input from the inspector, and reads the map data or image data on the display 120. Display (step S10).
  • the inspector inputs designated information for designating a plurality of points into the first acquisition unit 130 (step S20). For example, when the inspection target is an electric wire, the inspector selects a point where a utility pole or a power transmission tower exists as designated information.
  • the route setting unit 140 generates a temporary route by connecting a plurality of points indicated by the designated information.
  • the display unit 110 superimposes this temporary route on the map or image displayed in step S10 and displays it on the display 120 (step S30).
  • This movement instruction information includes at least the distance to travel on the temporary route.
  • the route setting unit 140 generates a flight route by moving the temporary route according to the movement instruction information.
  • the moving direction of the temporary route may be, for example, a direction perpendicular to a straight line indicating the temporary route.
  • the route setting unit 140 moves each straight line constituting the polygonal line in a direction perpendicular to the straight line. In this way, the flight route can be made parallel to the temporary route.
  • the moving distance of each line at this time is the distance indicated by the moving instruction information.
  • the display unit 110 superimposes the flight route on the map or image displayed in step S10 and displays it on the display 120 (step S50).
  • step S60: Yes The inspector confirms the flight route displayed on the display 120. If this flight route is acceptable (step S60: Yes), the inspector inputs to the second acquisition unit 150 to determine the flight route. Then, the route setting unit 140 transmits the generated flight route to the flight object control device 20. On the other hand, when the flight route is modified (step S60: No), the process returns to step S40.
  • FIG. 7 shows an example of the screen displayed on the display 120 in step S50.
  • the display unit 110 causes the display 120 to display a map or an image taken from the sky.
  • the display unit 110 causes the display 120 to superimpose the temporary route on the map or the image.
  • the display unit 110 causes the display 120 to display the flight route on the map or the image.
  • the display unit 110 causes the display 120 to display the distance from the temporary route to the flight route, that is, the movement distance indicated by the movement instruction information.
  • the inspector can confirm the distance between the temporary route and the flight route, that is, the distance from the inspection target to the flying object 30, so that it becomes easy to confirm the validity of the flight route.
  • the inspection target is a high-voltage electric wire
  • the distance between the temporary route and the flight route is preferably 10 m or more and 15 m or less, for example.
  • FIG. 8 shows an example of a process in which the flying object control device 20 controls the flying object 30.
  • the image pickup unit 350 of the flying object 30 repeatedly generates an image while the flying object 30 is flying.
  • the image pickup control unit 340 of the image pickup unit 350 transmits the image to the flying object control device 20 each time the image pickup unit 350 generates an image.
  • the display unit 210 of the flight body control device 20 acquires the flight route from the route setting device 10 (step S110). Then, the command generation unit 250 of the flight body control device 20 generates command information indicating the start point of this flight route and transmits it to the flight body 30 (step S120).
  • the flight control unit 320 of the flight body 30 recognizes the start point of the flight route and flies the flight body 30 to this start point (step S130). At this time, the flying object 30 has a designated height. As a result, the imaging unit 350 of the flying object 30 can generate an image at the starting point. This image contains the subject to be inspected. Then, the image pickup control unit 340 of the flying object 30 transmits this image to the flying object control device 20 (step S140).
  • the command generation unit 250 of the flight body control device 20 receives the image transmitted from the flight body 30. Then, the display unit 210 displays this image on the display 220 (step S150). This image contains multiple wires and pipes that can be inspected. Therefore, the inspector draws a line along the wiring or piping to be inspected on the image via the input unit 230 of the flying object control device 20 (step S160). Then, the selection unit 240 of the aircraft control device 20 selects the wiring or piping closest to this line as the inspection target (step S170). Specific examples of the inspection target selection method will be described later with reference to other figures.
  • step S180 the flight control process of the flying object 30 is performed (step S180). A detailed example of this control process will be described with reference to other figures.
  • At least one utility pole or transmission tower may be included in the middle of one flight route. In this case, the processes from step S130 to step S180 are repeated every time the air vehicle 30 passes through the utility pole or the power transmission tower.
  • FIG. 9 shows an example of the screen displayed by the display 220 in step S160 of FIG.
  • the image taken by the imaging unit 350 of the flying object 30 may include a plurality of electric wires and pipes (electric wires in this figure). In many cases, these electric wires and pipes are provided in parallel with each other. Therefore, if the input method for selecting the inspection target is not devised, the possibility that the flying object control device 20 erroneously recognizes the inspection target increases.
  • the inspector inputs a line along the inspection target to the display 220 displaying the image. Then, the selection unit 240 of the flying object control device 20 selects the electric wire or the pipe closest to this line as the inspection target. Therefore, the inspector can easily select a desired electric wire or pipe as an inspection target.
  • FIG. 10 shows an example of processing when the selection unit 240 selects an inspection target.
  • the selection unit 240 approximates the electric wires and pipes that can be inspected by a straight line by processing the image, and calculates the slope and y-intercept of the straight line in the image. Further, the selection unit 240 performs the same processing on the line input by the inspector, and calculates the slope and y-intercept of this line. Then, the selection unit 240 selects the electric wire or pipe closest to the line input by the inspector as the inspection target in the two-dimensional plane composed of the inclination and the y-intercept.
  • FIG. 11 is a flowchart showing a detailed example of step S180 in FIG. The process shown in this figure is repeated while the flying object 30 is flying along the inspection target.
  • the display unit 210 of the flight object control device 20 displays the image transmitted from the flight object 30 on the display 220, and at least two markers indicating the inspection target are displayed on the display 220 (step S210). Further, the command generation unit 250 of the flight body control device 20 of the flight body control device 20 generates command information for photographing the inspection target while flying the flight body 30 along the inspection target (step S220), and this command Information is transmitted to the flying object 30 (step S230). As described above, this command information also includes control information for controlling at least one of the photographing direction and the magnification of the imaging unit 350.
  • the flight control unit 320 of the flight body 30 flies the flight body 30 according to the command information transmitted from the flight body control device 20 (step S240). Further, the image pickup control unit 340 of the flying object 30 controls at least one of the imaging direction and the magnification of the image pickup unit 350 according to the control information (step S250). Then, the image pickup control unit 340 transmits the image generated by the image pickup unit 350 to the flying object control device 20 (step S260).
  • the display unit 210 of the flight object control device 20 identifies the position of the inspection target in the newly acquired image, generates the inspection target identification information using this position (step S270), and returns to step S210.
  • the flight control unit 320 of the flying object 30 may perform the processing shown in steps S220 and S270 of FIG.
  • the command generation unit 250 of the flight object control device 20 first transmits specific information for identifying the inspection target to the flight object 30.
  • An example of this specific information is the coordinates of the inspection target in the two-dimensional plane shown in FIG.
  • the flying object 30 repeats the processes shown in steps S220, S240, S250, and S270 in order to follow the specified inspection target.
  • the image pickup control unit 340 of the flight object 30 repeatedly transmits the image generated by the image pickup unit 350 to the flight object control device 20 (step S260). Further, the flying object control device 20 performs the processes shown in steps S270 and S210 each time an image is acquired.
  • FIG. 12 shows an example of the screen displayed on the display 220 in step S210 of FIG.
  • the display 220 displays an image generated by the imaging unit 350 of the flying object 30, as well as two markers indicating electric wires and pipes recognized by the flying object control device 20 as inspection targets. There is. These two markers are arranged along the inspection target so that the inspection target is located between the two markers. Therefore, the inspector can easily recognize the electric wires and pipes that the flying object control device 20 recognizes as the inspection target.
  • the display unit 210 may detect an abnormality (for example, a scratch) occurring in the inspection target by performing image processing. In this case, it is preferable that the display unit 210 displays the detected abnormality on the display 220 so that it can be identified. As an example, the display unit 210 may display a mark at a place where an abnormality exists. This mark is, for example, a frame of a predetermined color (for example, red), but is not limited thereto.
  • a plurality of electric wires and pipes to be inspected may be located in parallel.
  • the inspector can easily select the electric wire or pipe desired as an inspection target from the plurality of electric wires or pipes.
  • two markers indicating electric wires and pipes recognized by the flight object control device 20 as inspection targets are also displayed. These two markers are arranged along the inspection target so that the inspection target is located between the two markers. Therefore, the inspector can easily recognize the electric wires and pipes that the flying object control device 20 recognizes as the inspection target. Then, when the flying object control device 20 recognizes an erroneous electric wire or pipe as an inspection target, the inspector can immediately deal with the erroneous wire or piping.
  • An image acquisition means for acquiring an image including at least one electric wire or pipe that can be inspected
  • a display means for acquiring inspection target identification information for identifying the inspection target and displaying a marker indicating the inspection target in the image on a display using the inspection target identification information.
  • the display means is a display control device that arranges at least two of the markers along the inspection target so that the inspection target is located between the two markers.
  • the marker is a display control device having a solid line.
  • the display means is a display control device that displays the marker in a predetermined color. 4.
  • the image acquisition means has an image pickup means and repeatedly acquires the image from an in-flight flying object.
  • the display means is a display control device that displays the newly acquired image together with the marker on the display each time the image is acquired. 5.
  • the computer Obtain an image containing at least one wire or pipe that can be inspected
  • the inspection target identification information for identifying the inspection target is acquired, and the marker indicating the inspection target is displayed on the display in the image using the inspection target identification information.
  • a display control method in which the marker is arranged along the inspection target at a position sandwiching the inspection target. 6.
  • the display control method in which the marker is a solid line. 7.
  • the computer is a display control method for displaying the marker in a predetermined color.
  • the computer has an imaging means and repeatedly acquires the image from an in-flight flying object to obtain the image.
  • An image acquisition function that acquires an image including at least one electric wire or pipe that can be inspected,
  • a display function that acquires inspection target identification information that identifies the inspection target and displays a marker indicating the inspection target in the image on the display using the inspection target identification information.
  • the display function is a program for arranging the marker at a position sandwiching the inspection target along the inspection target. 10.
  • the marker is a program that is a solid line.
  • the display function is a program that displays the marker in a predetermined color. 12.
  • the image acquisition function has an imaging means and repeatedly acquires the image from an in-flight flying object.
  • the display function is a program that displays the newly acquired image together with the marker on the display each time the image is acquired.
  • Route setting device 20
  • Aircraft control device 30
  • Aircraft 110 Display unit 112
  • Data storage unit 120
  • First acquisition unit 140
  • Route setting unit 150
  • Second acquisition unit 210
  • Display unit 220 Display 230
  • Input unit 240
  • Selection unit 250
  • Command generation unit 310
  • Communication unit 320
  • Flight control unit 330
  • Drive mechanism 340
  • Imaging control unit 350 Imaging unit

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Quality & Reliability (AREA)
  • Analytical Chemistry (AREA)
  • Chemical & Material Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biochemistry (AREA)
  • General Health & Medical Sciences (AREA)
  • Immunology (AREA)
  • Pathology (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Hardware Design (AREA)
  • Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
  • Traffic Control Systems (AREA)

Abstract

飛行体制御装置（２０）の表示部（２１０）は、指令生成部（２５０）が飛行体（３０）から画像を取得するたびに、この画像をディスプレイ（２２０）に表示させる。この際、表示部（２１０）は、その画像内における検査対象の位置を特定したうえで、この検査対象を示すマーカを少なくとも２つ表示させる。これら２つのマーカは、当該２つのマーカの間に検査対象が位置するように、当該検査対象に沿って配置される。マーカは、例えば実線であるが点線や一点鎖線であってもよい。またマーカは予め定められた色、例えば赤色であるのが好ましい。

Description

表示制御装置、表示制御方法、及びプログラム
　本発明は、表示制御装置、表示制御方法、及びプログラムに関する。
　近年は、ドローンなどの飛行体を用いて検査対象を検査することが行われている。例えば特許文献１には、ドローンを使って鉄塔などの構造物を検査することが記載されている。
特開２０１９－１９６９８０号公報
　本発明者は、電線や配管など、ある程度の長さを有する検査対象を、ドローンなどの飛行体を用いて検査することを検討した。ここで、複数の電線や配管が並列に配置されている場合、検査員は、検査対象となる電線や配管を指定する必要がある。一方、飛行体を制御する制御装置が、検査対象を誤って認識してしまう可能性がある。このため、制御装置が認識した検査対象を検査員に伝える必要がある。
　本発明の目的の一例は、飛行体を用いて電線や配管などを検査する際に、飛行体の制御装置が検査対象として認識した電線や配管を検査員に伝えることにある。
　本発明によれば、
　検査対象となり得る少なくとも一つの電線又は配管を含む画像を取得する画像取得手段と、
　前記検査対象を特定する検査対象特定情報を取得し、当該検査対象特定情報を用いて、前記画像内に前記検査対象を示すマーカをディスプレイに表示する表示手段と、
を備え、
　前記表示手段は、少なくとも２つの前記マーカを、当該２つのマーカの間に前記検査対象が位置するように、当該検査対象に沿って配置する表示制御装置が提供される。
　本発明によれば、
　コンピュータが、
　　検査対象となり得る少なくとも一つの電線又は配管を含む画像を取得し、
　　前記検査対象を特定する検査対象特定情報を取得し、当該検査対象特定情報を用いて、前記画像内に前記検査対象を示すマーカをディスプレイに表示し、
　　前記マーカを、前記検査対象を挟む位置に、当該検査対象に沿って配置する表示制御方法が提供される。
　本発明によれば、
　コンピュータに、
　　検査対象となり得る少なくとも一つの電線又は配管を含む画像を取得する画像取得機能と、
　前記検査対象を特定する検査対象特定情報を取得し、当該検査対象特定情報を用いて、前記画像内に前記検査対象を示すマーカをディスプレイに表示する表示機能と、
を持たせ、
　前記表示機能は、前記マーカを、前記検査対象を挟む位置に、当該検査対象に沿って配置するプログラムが提供される。
　本発明によれば、飛行体を用いて電線や配管などを検査する際に、飛行体の制御装置が検査対象として認識した電線や配管を検査員に伝えることができる。
　上述した目的、およびその他の目的、特徴および利点は、以下に述べる好適な実施の形態、およびそれに付随する以下の図面によってさらに明らかになる。
実施形態に係るルート設定装置及び飛行体制御装置（表示制御装置の一例）の使用環境を説明する図である。 ルート設定装置の機能構成の一例を示す図である。 飛行体制御装置の機能構成の一例を示す図である。 飛行体の機能構成の一例を示す図である。 ルート設定装置のハードウェア構成例を示す図である。 ルート設定装置が行う処理の一例を示すフローチャートである。 ステップＳ５０でディスプレイに表示される画面の一例を示す図である。 飛行体制御装置が飛行体を制御する処理の一例を示すフローチャートである。 ステップＳ１６０においてディスプレイが表示している画面の一例を示す図である。 選択部が検査対象を選択するときの処理の一例を示す図である。 図８のステップＳ１８０の詳細例を示すフローチャートである。 ステップＳ２１０においてディスプレイに表示される画面の一例を示す図である。
　以下、本発明の実施の形態について、図面を用いて説明する。尚、すべての図面において、同様な構成要素には同様の符号を付し、適宜説明を省略する。
　図１は、実施形態に係るルート設定装置１０及び飛行体制御装置２０（表示制御装置の一例）の使用環境を説明する図である。ルート設定装置１０及び飛行体制御装置２０は、飛行体３０を用いて検査対象を検査する際に用いられる。なお、ルート設定装置１０及び飛行体制御装置２０は一つの装置になっていてもよい。
　検査対象は、例えば電線や配管など、連続して延在している物である。電線は、例えば送電線であってもよいし、信号を送信する送信線であってもよい。送電線は高圧電線であってもよいし、電車の架線であってもよい。また、配管は、例えばパイプラインであってもよいし、工場の敷地内に設置された配管であってもよい。
　飛行体３０は、例えばドローンや無人ヘリコプターであり、無線通信を用いて外部から操作される。飛行体３０は撮像部３５０（図４参照）を有しており、飛行中に検査対象を撮像して画像データを生成する。この撮像を行う際、飛行体３０は、ある程度検査対象から離れて飛行する必要がある。特に検査対象が送電用の電線の場合、電線から生じる電磁波が飛行体３０の飛行に影響を与える可能性があるため、飛行ルートを設定する際に、当該飛行ルートと検査対象の間の距離を確保する必要がある。ルート設定装置１０は、飛行体３０の飛行ルートを設定する際に用いられる。そして飛行体制御装置２０は、ルート設定装置１０が設定した飛行ルートに従って飛行体３０を飛行させるための処理を行う。
　また、飛行体制御装置２０は、撮像部３５０の撮像方向や倍率の制御も行っている。ここで、複数の電線や配管が互いに並列に設置されていることがある。このような場合、複数の電線や配管から、検査対象となる電線や配管を設定する必要がある。飛行体制御装置２０は、複数の電線や配管から検査対象を選択するときにも用いられる。
　図２は、ルート設定装置１０の機能構成の一例を示す図である。ルート設定装置１０は、第１取得部１３０及びルート設定部１４０を備えている。第１取得部１３０は、複数の地点を指定する指定情報を取得する。これら検査員は、これら複数の地点を設定するときに、当該複数の地点のそれぞれが検査対象と重なるようにする。ルート設定部１４０は、指定情報が示す複数の地点を同一方向かつ同一距離に移動した地点を結んだ線を、飛行体の飛行ルートにする。第１の例において、ルート設定部１４０は、指定情報が示す複数の地点を結ぶことにより、仮の飛行ルートを設定する。そしてルート設定部１４０は、この仮の飛行ルートを移動させることにより、飛行ルートを設定する。第２の例において、ルート設定部１４０は、指定情報が示す複数の地点を同一方向かつ同一距離に移動に移動させる。そしてルート設定部１４０は、移動後の複数の地点を結ぶことにより、飛行体の飛行ルートを設定する。
　本図に示す例において、ルート設定装置１０は、さらに、表示部１１０、データ記憶部１１２、ディスプレイ１２０、及び第２取得部１５０を備えている。
　データ記憶部１１２は、地図データ又は上空から撮影された画像（例えば航空写真や衛星写真）を記憶している。表示部１１０は、ユーザからの指示に従って、検査対象及びその周囲の地図データ又は画像を読み出してディスプレイ１２０に表示させる。
　データ記憶部１１２が記憶している地図データ及び画像において、各地点には当該地点の位置情報（例えば緯度経度情報）が紐づけられている。そして、第１取得部１３０は、ディスプレイ１２０に表示された地図又は画像上で選択された複数の地点を特定する情報を、上記した指定情報として取得する。ルート設定部１４０は、これら指定情報によって指定された複数の地点それぞれについて、位置情報を取得し、これら位置情報を用いて仮の飛行ルートを設定する。
　第２取得部１５０は、指定情報が示す複数の地点の移動距離を示す情報（以下、移動指示情報と記載）を取得する。移動指示情報は、複数の地点それぞれの移動方向を含んでいてもよい。ここで、複数の地点のすべてに同じ移動距離が適用される。そしてルート設定部１４０は、移動指示情報を用いて飛行ルートを設定する。
　第１取得部１３０及び第２取得部１５０は、例えばマウスなどの入力デバイスを介して必要な情報を取得する。ただしディスプレイ１２０がタッチパネルである場合、第１取得部１３０及び第２取得部１５０の少なくとも一方は、ディスプレイ１２０を介して必要な情報を取得してもよい。
　例えば第１取得部１３０は、マウスによって選択された地点を示す情報や、ディスプレイ１２０に対してタッチ入力された地点を示す情報を、指定情報として取得する。また第２取得部１５０は、ディスプレイ１２０に対して行われたスライド入力を移動指示情報として取得する。この場合、スライド量が移動距離を示している。また場合によっては、スライド方向が移動方向を示すこともある。
　図３は、飛行体制御装置２０の機能構成の一例を示す図である。飛行体制御装置２０は、表示部２１０、ディスプレイ２２０、入力部２３０、選択部２４０、及び指令生成部２５０を備えている。
　指令生成部２５０は、飛行体３０の撮像部３５０が生成した画像を取得する。表示部２１０は、指令生成部２５０が取得した画像をディスプレイ２２０に表示する。この画像は、検査対象となり得る少なくとも一つの電線又は配管を含んでいる。入力部２３０は、ユーザからの入力に従って、ディスプレイ２２０に表示された画像内に、線を表示する。選択部２４０は、入力部２３０が表示した線を用いて、検査対象となる電線又は配管を選択する。例えば画像内に複数の電線又は配管が含まれている場合、選択部２４０は、入力部２３０が表示した線を用いて、複数の電線又は配管から検査対象を選択する。指令生成部２５０は、飛行体が検査対象に沿って移動しつつ当該検査対象を撮影するための指令情報を生成し、当該指令情報を飛行体３０に送信する。一例として指令生成部２５０は、ルート設定装置１０が生成した飛行ルートに従って飛行体３０を飛行させるように、指令情報を生成する。
　なお、ルート設定装置１０が生成した飛行ルートが２次元の情報（例えば緯度経度情報）である場合、指令生成部２５０は、飛行体３０の飛行高さを示す情報（以下、高さ情報と記載）を、飛行ルートとは別に取得する。例えば検査対象の検査を行う人（以下、検査員と記載）は、入力部２３０に高さ情報を入力する。高さ情報は固定値であってもよいし、飛行ルートに沿って変化してもよい。指令生成部２５０は、この高さ情報を指令情報に含める。
　飛行体３０は、飛行している間、当該飛行体３０の位置情報を、繰り返し飛行体制御装置２０に送信する。すると飛行体制御装置２０の指令生成部２５０は、この位置情報を用いて、飛行体３０が飛行ルートに沿って移動するように指令情報を繰り返し生成し、生成した指令情報を飛行体３０に送信する。
　さらに飛行体３０が飛行している間、飛行体３０の撮像部３５０は画像を繰り返し生成する。指令生成部２５０は、撮像部３５０が生成した画像を繰り返し取得する。そして指令生成部２５０は、画像を取得するたびに、当該画像内における検査対象の位置に基づいて指令情報を生成する。例えば指令生成部２５０は、画像内において検査対象が中心に来るように、飛行体３０の高さを制御する。
　また指令情報は、撮像部３５０を制御するための情報（以下、制御情報と記載）を含んでいる。この制御情報は、撮像部３５０の撮影方向及び倍率の少なくとも一方を制御するための情報である。例えば指令生成部２５０は、画像内において検査対象が中心に来るように、撮像部３５０の撮影方向に関する制御情報を生成する。また、指令生成部２５０は、撮影対象の大きさが基準の範囲内になるように、撮像部３５０の倍率に関する制御情報を生成する。
　なお、入力部２３０は、例えばマウスなどの入力デバイスを介して必要な情報を取得する。ただしディスプレイ２２０がタッチパネルである場合、入力部２３０は、ディスプレイ２２０を介して必要な情報を取得してもよい。例えば入力部２３０は、タッチパネルにペンや指などを用いて入力された（描かれた）線を、検査対象を選択するための情報とする。
　また表示部２１０は、指令生成部２５０が飛行体３０から画像を取得するたびに、この画像をディスプレイ２２０に表示させる。この際、表示部２１０は、その画像内における検査対象の位置を特定したうえで、この検査対象を示すマーカを少なくとも２つ表示させる。これら２つのマーカは、当該２つのマーカの間に検査対象が位置するように、当該検査対象に沿って配置される。マーカは、例えば実線であるが点線や一点鎖線であってもよい。
　この際、表示部２１０は、検査対象を特定する情報（以下、検査対象特定情報と記載）を取得する。検査対象特定情報は、例えば一つ前の画像における検査対象の位置を示している。この場合、まず、表示部２１０は、選択部２４０が検査対象を特定する際に用いた画像内での当該検査対象の位置を示す情報を用いて、検査対象特定情報を生成する。そして表示部２１０は、この検査対象特定情報を用いて、その次の画像での検査対象の位置を特定するとともに、次の検査対象特定情報を生成する。表示部２１０は、これらの処理を繰り返すことにより、飛行体３０が生成した複数の画像それぞれにおける、検査対象の位置を特定する。
　なお、マーカは予め定められた色、例えば赤色であるのが好ましい。このようにすると、検査員は、飛行体制御装置２０が検査対象として認識している電線や配管を容易に認識することができる。その結果、飛行体制御装置２０が誤った電線や配管を検査対象として認識していた場合、検査員は、その誤りに対してすぐに対処することができる。
　図４は、飛行体３０の機能構成の一例を示す図である。本図に示す例において、飛行体３０は通信部３１０、飛行制御部３２０、駆動機構３３０、撮像制御部３４０、及び撮像部３５０を備えている。
　通信部３１０は、飛行体制御装置２０と通信し、飛行体制御装置２０から指令情報を受信するとともに、撮像部３５０が生成した画像を飛行体制御装置２０に送信する。駆動機構３３０は飛行体３０のプロペラを駆動するモータ及び当該プロペラの角度を制御する機構を有している。飛行制御部３２０は、飛行体制御装置２０から送信された指令情報に従って駆動機構３３０制御する。この際、飛行制御部３２０は、ＧＰＳなどを用いて飛行体３０の現在位置を把握している。そして飛行制御部３２０は、飛行体３０の現在位置と指令情報を用いて、飛行体３０の移動を制御する。これにより、飛行体３０は、飛行体制御装置２０が設定した高さを維持した状態で、ルート設定装置１０が設定した飛行ルートに従って飛行することができる。
　また撮像制御部３４０は、指令情報に含まれる制御情報に従って、撮像部３５０を制御する。例えば撮像制御部３４０は、画像内において検査対象が中心に来るように、撮像部３５０の撮影方向を制御する。また、撮像制御部３４０は、撮影対象の大きさが基準の範囲内になるように、撮像部３５０の倍率を制御する。そして撮像制御部３４０は、撮像部３５０が生成した画像を、通信部３１０を介して飛行体制御装置２０に送信する。
　図５は、ルート設定装置１０のハードウェア構成例を示す図である。ルート設定装置１０は、バス１０１０、プロセッサ１０２０、メモリ１０３０、ストレージデバイス１０４０、入出力インタフェース１０５０、及びネットワークインタフェース１０６０を有する。
　バス１０１０は、プロセッサ１０２０、メモリ１０３０、ストレージデバイス１０４０、入出力インタフェース１０５０、及びネットワークインタフェース１０６０が、相互にデータを送受信するためのデータ伝送路である。ただし、プロセッサ１０２０などを互いに接続する方法は、バス接続に限定されない。
　プロセッサ１０２０は、ＣＰＵ（Central Processing Unit） やＧＰＵ（Graphics Processing Unit）などで実現されるプロセッサである。
　メモリ１０３０は、ＲＡＭ（Random Access Memory）などで実現される主記憶装置である。
　ストレージデバイス１０４０は、ＨＤＤ（Hard Disk Drive）、ＳＳＤ（Solid State Drive）、メモリカード、又はＲＯＭ（Read Only Memory）などで実現される補助記憶装置である。ストレージデバイス１０４０はルート設定装置１０の各機能（例えば表示部１１０、第１取得部１３０、ルート設定部１４０、及び第２取得部１５０）を実現するプログラムモジュールを記憶している。プロセッサ１０２０がこれら各プログラムモジュールをメモリ１０３０上に読み込んで実行することで、そのプログラムモジュールに対応する各機能が実現される。また、ストレージデバイス１０４０はデータ記憶部１１２としても機能する。
　入出力インタフェース１０５０は、ルート設定装置１０の主要部と各種入出力機器とを接続するためのインタフェースである。例えばディスプレイ１２０は、入出力インタフェース１０５０を介してプロセッサ１０２０と通信する。
　ネットワークインタフェース１０６０は、ルート設定装置１０をネットワークに接続するためのインタフェースである。このネットワークは、例えばＬＡＮ（Local Area Network）やＷＡＮ（Wide Area Network）である。ネットワークインタフェース１０６０がネットワークに接続する方法は、無線接続であってもよいし、有線接続であってもよい。ルート設定装置１０は、ネットワークインタフェース１０６０を介して飛行体制御装置２０と通信してもよい。
　なお、飛行体制御装置２０のハードウェア構成も、図５に示した例と同様である。この場合、ストレージデバイス１０４０は飛行体制御装置２０各機能（例えば表示部２１０、入力部２３０、選択部２４０、及び指令生成部２５０）を実現するプログラムモジュールを記憶している。またディスプレイ２２０は、入出力インタフェース１０５０を介してプロセッサ１０２０と通信する。そして飛行体制御装置２０は、ネットワークインタフェース１０６０を介してルート設定装置１０及び飛行体３０と通信してもよい。
　図６は、ルート設定装置１０が行う処理の一例を示すフローチャートである。本図に示す処理において、ルート設定装置１０は飛行体３０の飛行ルートを設定する。
　まずルート設定装置１０の表示部１１０は、検査員からの入力に従って、検査対象が存在している場所の地図データ又は画像データをデータ記憶部１１２から読み出し、当該地図データ又は画像データをディスプレイ１２０に表示させる（ステップＳ１０）。次いで検査員は、第１取得部１３０に、複数の地点を指定する指定情報を入力する（ステップＳ２０）。例えば検査対象が電線の場合、検査員は、電柱や送電塔が存在する地点を、指定情報として選択する。
　次いでルート設定部１４０は、指定情報が示す複数の地点を結ぶことにより、仮ルートを生成する。表示部１１０は、この仮ルートを、ステップＳ１０で表示した地図や画像に重ねてディスプレイ１２０に表示させる（ステップＳ３０）。
　次いで検査員は、第２取得部１５０に、移動指示情報を入力する。この移動指示情報は、少なくとも仮ルートを移動すべき距離を含んでいる。そしてルート設定部１４０は、移動指示情報に従って仮ルートを移動させることにより、飛行ルートを生成する。ここで仮ルートの移動方向は、例えば仮ルートを示す直線に対して垂直方向であってもよい。例えば仮ルートが折れ線で示されていた場合、ルート設定部１４０は、折れ線を構成する各直線を、当該直線に対して垂直な方向に移動させる。このようにすると、飛行ルートを仮ルートに対して平行にすることができる。この時の各線の移動距離は、いずれも、移動指示情報が示す距離である。そして表示部１１０は、飛行ルートを、ステップＳ１０で表示した地図や画像に重ねてディスプレイ１２０に表示させる（ステップＳ５０）。
　検査員は、ディスプレイ１２０に表示された飛行ルートを確認する。この飛行ルートでよい場合（ステップＳ６０：Ｙｅｓ）、検査員は、第２取得部１５０に、飛行ルートを確定するための入力を行う。するとルート設定部１４０は、生成した飛行ルートを飛行体制御装置２０に送信する。一方、飛行ルートを修正する場合（ステップＳ６０：Ｎｏ）、ステップＳ４０に戻る。
　図７は、ステップＳ５０でディスプレイ１２０に表示される画面の一例を示している。ステップＳ１０において、表示部１１０は、ディスプレイ１２０に、地図または上空から撮影された画像を表示させる。そしてステップＳ３０において、表示部１１０は、ディスプレイ１２０に、この地図又は画像に重ねて、仮ルートを表示させる。さらにステップＳ５０において、表示部１１０は、ディスプレイ１２０に、この地図又は画像に重ねて、飛行ルートを表示させる。この際、表示部１１０は、仮ルートから飛行ルートまでの距離、すなわち移動指示情報が示す移動距離をディスプレイ１２０に表示させる。このようにすると、検査員は、仮ルートと飛行ルートの間の距離、すなわち検査対象から飛行体３０までの距離を確認することができるため、飛行ルートの妥当性を確認しやすくなる。なお、検査対象が高圧電線の場合、仮ルートと飛行ルートの間の距離は、例えば１０ｍ以上１５ｍ以下であるのが好ましい。
　図８は、飛行体制御装置２０が飛行体３０を制御する処理の一例を示している。本図に示す処理において、飛行体３０が飛行している間、飛行体３０の撮像部３５０は繰り返し画像を生成する。そして撮像部３５０の撮像制御部３４０は、撮像部３５０が画像を生成するたびにその画像を飛行体制御装置２０に送信する。
　まず飛行体制御装置２０の表示部２１０は、ルート設定装置１０から飛行ルートを取得する（ステップＳ１１０）。すると飛行体制御装置２０の指令生成部２５０は、この飛行ルートのスタート地点を示す指令情報を生成し、飛行体３０に送信する（ステップＳ１２０）。
　すると飛行体３０の飛行制御部３２０は、飛行ルートのスタート地点を認識し、このスタート地点まで飛行体３０を飛行させる（ステップＳ１３０）。このとき、飛行体３０は、指定された高さになっている。これにより、飛行体３０の撮像部３５０は、スタート地点での画像を生成することができる。この画像は、検査対象を含んでいる。そして飛行体３０の撮像制御部３４０は、この画像を飛行体制御装置２０に送信する（ステップＳ１４０）。
　飛行体制御装置２０の指令生成部２５０は、飛行体３０から送信されてきた画像を受信する。そして表示部２１０は、この画像をディスプレイ２２０に表示させる（ステップＳ１５０）。この画像は、検査対象となり得る複数の電線や配管を含んでいる。そこで検査員は、飛行体制御装置２０の入力部２３０を介して、画像上に、検査対象とすべき配線又は配管に沿った線を描く（ステップＳ１６０）。すると飛行体制御装置２０の選択部２４０は、この線に最も近い配線又は配管を、検査対象として選択する（ステップＳ１７０）。検査対象の選択方法の具体例については、他の図を用いて後述する。
　その後、飛行体３０の飛行の制御処理が行われる（ステップＳ１８０）。この制御処理の詳細例については、他の図を用いて説明する。
　なお、検査対象が電線の場合、一つの飛行ルートの途中に少なくとも一つの電柱や送電塔が含まれることがある。この場合、飛行体３０が電柱又は送電塔を通り過ぎるたびに、ステップＳ１３０～ステップＳ１８０までの処理が繰り返される。
　図９は、図８のステップＳ１６０においてディスプレイ２２０が表示している画面の一例を示している。本図に示すように、飛行体３０の撮像部３５０が撮影した画像に、複数の電線や配管（本図では電線）が含まれていることがある。そしてこれらの電線や配管は、互いに並列に設けられている場合が多い。このため、検査対象を選択するための入力方法を工夫しないと、飛行体制御装置２０が検査対象を誤認識する可能性が高くなる。
　これに対して本図に示す例では、検査員は、画像を表示しているディスプレイ２２０に対し、検査対象に沿った線を入力する。すると飛行体制御装置２０の選択部２４０は、この線に最も近い電線又は配管を、検査対象として選択する。このため、検査員は、所望する電線や配管を検査対象として選択しやすくなる。
　図１０は、選択部２４０が検査対象を選択するときの処理の一例を示している。本図に示す例において、選択部２４０は、画像を処理することにより、検査対象となり得る電線や配管を直線で近似し、画像内における当該直線の傾き及びｙ切片を算出する。また選択部２４０は、検査員が入力した線に対しても同様の処理を行い、この線の傾き及びｙ切片を算出する。そして、選択部２４０は、傾き及びｙ切片からなる２次元平面において、検査員が入力した線に最も近い電線や配管を、検査対象として選択する。
　図１１は、図８のステップＳ１８０の詳細例を示すフローチャートである。本図に示す処理は、飛行体３０が検査対象に沿って飛行している間、繰り返し行われる。
　まず飛行体制御装置２０の表示部２１０は、飛行体３０から送信されてきた画像をディスプレイ２２０に表示するとともに、検査対象を示すマーカを少なくとも２つディスプレイ２２０に表示させる（ステップＳ２１０）。また飛行体制御装置２０の飛行体制御装置２０の指令生成部２５０は、検査対象に沿って飛行体３０を飛行させつつ検査対象を撮影するための指令情報を生成し（ステップＳ２２０）、この指令情報を飛行体３０に送信する（ステップＳ２３０）。この指令情報は、上記したように、撮像部３５０の撮影方向及び倍率の少なくとも一方を制御するための制御情報も含んでいる。
　飛行体３０の飛行制御部３２０は、飛行体制御装置２０から送信されてきた指令情報に従って飛行体３０を飛行させる（ステップＳ２４０）。また、飛行体３０の撮像制御部３４０は、制御情報に従って撮像部３５０の撮影方向及び倍率の少なくとも一方を制御する（ステップＳ２５０）。そして撮像制御部３４０は、撮像部３５０が生成した画像を飛行体制御装置２０に送信する（ステップＳ２６０）。
　その後、飛行体制御装置２０の表示部２１０は、新たに取得した画像における検査対象の位置を特定し、この位置を用いて検査対象特定情報を生成し（ステップＳ２７０）、ステップＳ２１０に戻る。
　なお、図１１のステップＳ２２０及びＳ２７０に示した処理を、飛行体３０の飛行制御部３２０が行うこともあり得る。この場合、飛行体制御装置２０の指令生成部２５０は、最初に、検査対象を特定するための特定情報を飛行体３０に送信する。この特定情報の一例は、図１０に示した２次元平面における検査対象の座標である。その後、飛行体３０は、特定された検査対象を追従するために、ステップＳ２２０、Ｓ２４０、Ｓ２５０、及びＳ２７０に示した処理を繰り返し行う。この場合も、飛行体３０の撮像制御部３４０は、撮像部３５０が生成した画像を繰り返し飛行体制御装置２０に送信する（ステップＳ２６０）。また、飛行体制御装置２０は、画像を取得するたびに、ステップＳ２７０及びＳ２１０に示した処理を行う。
　図１２は、図１１のステップＳ２１０においてディスプレイ２２０に表示される画面の一例を示している。本図に示すように、ディスプレイ２２０には、飛行体３０の撮像部３５０が生成した画像と共に、飛行体制御装置２０が検査対象として認識している電線や配管を示す２つのマーカも表示されている。これら２つのマーカは、当該２つのマーカの間に検査対象が位置するように、当該検査対象に沿って配置される。このため、検査員は、飛行体制御装置２０が検査対象として認識している電線や配管を容易に認識できる。
　なお、ステップＳ２１０において、表示部２１０は、画像処理を行うことにより、検査対象に発生している異常（例えば傷）を検出してもよい。この場合、表示部２１０は、検出した異常を識別可能にディスプレイ２２０に表示させるのが好ましい。一例として、表示部２１０は、異常が存在する場所にマークを表示してもよい。このマークは、例えば所定の色（例えば赤色）の枠であるが、これに限定されない。
　以上、飛行体３０を用いて電線や配管を検査する際に、検査対象となる電線や配管から一定距離離れた場所を飛行ルートとする必要がある。ここでルート設定装置１０を用いると、この飛行ルートを容易に設定することができる。
　また、飛行体３０が撮影した画像において、検査対象となる複数の電線や配管が並列に位置していることがある。ここで飛行体制御装置２０を用いると、これら複数の電線や配管から、検査員が検査対象として所望している電線や配管を容易に選択することができる。
　さらに、飛行体制御装置２０において、飛行体３０の撮像部３５０が生成した画像と共に、飛行体制御装置２０が検査対象として認識している電線や配管を示す２つのマーカも表示される。これら２つのマーカは、当該２つのマーカの間に検査対象が位置するように、当該検査対象に沿って配置される。このため、検査員は、飛行体制御装置２０が検査対象として認識している電線や配管を容易に認識できる。そして検査員は、飛行体制御装置２０が誤った電線や配管を検査対象として認識していた場合、その誤りに対してすぐに対処することができる。
　以上、図面を参照して本発明の実施形態について述べたが、これらは本発明の例示であり、上記以外の様々な構成を採用することもできる。
　また、上述の説明で用いた複数のフローチャートでは、複数の工程（処理）が順番に記載されているが、各実施形態で実行される工程の実行順序は、その記載の順番に制限されない。各実施形態では、図示される工程の順番を内容的に支障のない範囲で変更することができる。また、上述の各実施形態は、内容が相反しない範囲で組み合わせることができる。
　上記の実施形態の一部または全部は、以下の付記のようにも記載されうるが、以下に限られない。
　１．検査対象となり得る少なくとも一つの電線又は配管を含む画像を取得する画像取得手段と、
　前記検査対象を特定する検査対象特定情報を取得し、当該検査対象特定情報を用いて、前記画像内に前記検査対象を示すマーカをディスプレイに表示する表示手段と、
を備え、
　前記表示手段は、少なくとも２つの前記マーカを、当該２つのマーカの間に前記検査対象が位置するように、当該検査対象に沿って配置する表示制御装置。
２．上記１に記載の表示制御装置において、
　前記マーカは実線である表示制御装置。
３．上記１又は２に記載の表示制御装置において、
　前記表示手段は、前記マーカを予め定められた色で表示する表示制御装置。
４．上記１～３のいずれか一項に記載の表示制御装置において、
　前記画像取得手段は、撮像手段を有していて飛行中の飛行体から繰り返し前記画像を取得し、
　前記表示手段は、前記画像を取得するたびに、新たに取得した前記画像を前記マーカとともに前記ディスプレイに表示する表示制御装置。
５．コンピュータが、
　　検査対象となり得る少なくとも一つの電線又は配管を含む画像を取得し、
　　前記検査対象を特定する検査対象特定情報を取得し、当該検査対象特定情報を用いて、前記画像内に前記検査対象を示すマーカをディスプレイに表示し、
　　前記マーカを、前記検査対象を挟む位置に、当該検査対象に沿って配置する表示制御方法。
６．上記５に記載の表示制御方法において、
　前記マーカは実線である表示制御方法。
７．上記５又は６に記載の表示制御方法において、
　前記コンピュータは、前記マーカを予め定められた色で表示する表示制御方法。
８．上記５～７のいずれか一項に記載の表示制御方法において、
　前記コンピュータは、
　　撮像手段を有していて飛行中の飛行体から繰り返し前記画像を取得し、
　　前記画像を取得するたびに、新たに取得した前記画像を前記マーカとともに前記ディスプレイに表示する表示制御方法。
９．コンピュータに、
　　検査対象となり得る少なくとも一つの電線又は配管を含む画像を取得する画像取得機能と、
　前記検査対象を特定する検査対象特定情報を取得し、当該検査対象特定情報を用いて、前記画像内に前記検査対象を示すマーカをディスプレイに表示する表示機能と、
を持たせ、
　前記表示機能は、前記マーカを、前記検査対象を挟む位置に、当該検査対象に沿って配置するプログラム。
１０．上記９に記載のプログラムにおいて、
　前記マーカは実線であるプログラム。
１１．上記９又は１０に記載のプログラムにおいて、
　前記表示機能は、前記マーカを予め定められた色で表示するプログラム。
１２．上記９～１１のいずれか一項に記載のプログラムにおいて、
　前記画像取得機能は、撮像手段を有していて飛行中の飛行体から繰り返し前記画像を取得し、
　前記表示機能は、前記画像を取得するたびに、新たに取得した前記画像を前記マーカとともに前記ディスプレイに表示するプログラム。
１０ ルート設定装置
２０ 飛行体制御装置
３０ 飛行体
１１０ 表示部
１１２ データ記憶部
１２０ ディスプレイ
１３０ 第１取得部
１４０ ルート設定部
１５０ 第２取得部
２１０ 表示部
２２０ ディスプレイ
２３０ 入力部
２４０ 選択部
２５０ 指令生成部
３１０ 通信部
３２０ 飛行制御部
３３０ 駆動機構
３４０ 撮像制御部
３５０ 撮像部

Claims (6)

  1. 　検査対象となり得る少なくとも一つの電線又は配管を含む画像を取得する画像取得手段と、
    　前記検査対象を特定する検査対象特定情報を取得し、当該検査対象特定情報を用いて、前記画像内に前記検査対象を示すマーカをディスプレイに表示する表示手段と、
    を備え、
    　前記表示手段は、少なくとも２つの前記マーカを、当該２つのマーカの間に前記検査対象が位置するように、当該検査対象に沿って配置する表示制御装置。
  2. 　請求項１に記載の表示制御装置において、
    　前記マーカは実線である表示制御装置。
  3. 　請求項１又は２に記載の表示制御装置において、
    　前記表示手段は、前記マーカを予め定められた色で表示する表示制御装置。
  4. 　請求項１～３のいずれか一項に記載の表示制御装置において、
    　前記画像取得手段は、撮像手段を有していて飛行中の飛行体から繰り返し前記画像を取得し、
    　前記表示手段は、前記画像を取得するたびに、新たに取得した前記画像を前記マーカとともに前記ディスプレイに表示する表示制御装置。
  5. 　コンピュータが、
    　　検査対象となり得る少なくとも一つの電線又は配管を含む画像を取得し、
    　　前記検査対象を特定する検査対象特定情報を取得し、当該検査対象特定情報を用いて、前記画像内に前記検査対象を示すマーカをディスプレイに表示し、
    　　前記マーカを、前記検査対象を挟む位置に、当該検査対象に沿って配置する表示制御方法。
  6. 　コンピュータに、
    　　検査対象となり得る少なくとも一つの電線又は配管を含む画像を取得する画像取得機能と、
    　前記検査対象を特定する検査対象特定情報を取得し、当該検査対象特定情報を用いて、前記画像内に前記検査対象を示すマーカをディスプレイに表示する表示機能と、
    を持たせ、
    　前記表示機能は、前記マーカを、前記検査対象を挟む位置に、当該検査対象に沿って配置するプログラム。
PCT/JP2020/010616 2020-03-11 2020-03-11 表示制御装置、表示制御方法、及びプログラム WO2021181578A1 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
PCT/JP2020/010616 WO2021181578A1 (ja) 2020-03-11 2020-03-11 表示制御装置、表示制御方法、及びプログラム
US17/800,734 US20230351574A1 (en) 2020-03-11 2020-03-11 Display control apparatus, display control method, and non-transitory computer-readable medium
JP2022507094A JPWO2021181578A1 (ja) 2020-03-11 2020-03-11

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2020/010616 WO2021181578A1 (ja) 2020-03-11 2020-03-11 表示制御装置、表示制御方法、及びプログラム

Publications (1)

Publication Number Publication Date
WO2021181578A1 true WO2021181578A1 (ja) 2021-09-16

Family

ID=77670551

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2020/010616 WO2021181578A1 (ja) 2020-03-11 2020-03-11 表示制御装置、表示制御方法、及びプログラム

Country Status (3)

Country Link
US (1) US20230351574A1 (ja)
JP (1) JPWO2021181578A1 (ja)
WO (1) WO2021181578A1 (ja)

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1123712A (ja) * 1997-07-02 1999-01-29 Kawasaki Heavy Ind Ltd 航空機の障害物探知方法
JP2007041730A (ja) * 2005-08-01 2007-02-15 Central Res Inst Of Electric Power Ind 電線異常検出方法および装置およびプログラム
JP2008269264A (ja) * 2007-04-19 2008-11-06 Central Res Inst Of Electric Power Ind 画像処理による多導体電線の追跡方法、装置及びプログラム並びにこれを用いた多導体電線の異常検出方法、装置及びプログラム
JP2013117812A (ja) * 2011-12-02 2013-06-13 Toshiba Corp プラント監視情報表示システム、およびプラント監視情報表示装置、プラント監視情報表示方法
WO2015133158A1 (ja) * 2014-03-04 2015-09-11 株式会社日立ハイテクファインシステムズ 架空電線検査システム、架空電線検査装置、制御装置及び架空電線検査方法
WO2017169276A1 (ja) * 2016-03-30 2017-10-05 日本電気株式会社 プラント管理システム、プラント管理方法、プラント管理装置、および、プラント管理プログラム
JP2017219386A (ja) * 2016-06-06 2017-12-14 富士電機株式会社 放射線配管診断システム
WO2018138942A1 (ja) * 2017-01-25 2018-08-02 株式会社東芝 送電設備監視装置、送電設備監視ユニット及び送電設備監視システム
JP2019159775A (ja) * 2018-03-13 2019-09-19 アルパイン株式会社 飛行プラン変更方法及び飛行プラン変更装置

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6100868B1 (ja) * 2015-11-09 2017-03-22 株式会社プロドローン 無人移動体の操縦方法および無人移動体監視装置
KR101769718B1 (ko) * 2016-09-21 2017-08-18 한국전력공사 송전선로 전자계 및 순시 점검 영상 취득 장치 및 방법
EP3376213A1 (de) * 2017-03-15 2018-09-19 Siemens Aktiengesellschaft Verfahren und anordnung für eine zustandsüberwachung einer anlage mit betriebsmitteln
JP6555786B2 (ja) * 2017-07-10 2019-08-07 株式会社プロドローン 無人航空機の飛行高度設定方法および無人航空機システム

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1123712A (ja) * 1997-07-02 1999-01-29 Kawasaki Heavy Ind Ltd 航空機の障害物探知方法
JP2007041730A (ja) * 2005-08-01 2007-02-15 Central Res Inst Of Electric Power Ind 電線異常検出方法および装置およびプログラム
JP2008269264A (ja) * 2007-04-19 2008-11-06 Central Res Inst Of Electric Power Ind 画像処理による多導体電線の追跡方法、装置及びプログラム並びにこれを用いた多導体電線の異常検出方法、装置及びプログラム
JP2013117812A (ja) * 2011-12-02 2013-06-13 Toshiba Corp プラント監視情報表示システム、およびプラント監視情報表示装置、プラント監視情報表示方法
WO2015133158A1 (ja) * 2014-03-04 2015-09-11 株式会社日立ハイテクファインシステムズ 架空電線検査システム、架空電線検査装置、制御装置及び架空電線検査方法
WO2017169276A1 (ja) * 2016-03-30 2017-10-05 日本電気株式会社 プラント管理システム、プラント管理方法、プラント管理装置、および、プラント管理プログラム
JP2017219386A (ja) * 2016-06-06 2017-12-14 富士電機株式会社 放射線配管診断システム
WO2018138942A1 (ja) * 2017-01-25 2018-08-02 株式会社東芝 送電設備監視装置、送電設備監視ユニット及び送電設備監視システム
JP2019159775A (ja) * 2018-03-13 2019-09-19 アルパイン株式会社 飛行プラン変更方法及び飛行プラン変更装置

Also Published As

Publication number Publication date
US20230351574A1 (en) 2023-11-02
JPWO2021181578A1 (ja) 2021-09-16

Similar Documents

Publication Publication Date Title
JP7574899B2 (ja) 飛行体制御装置、飛行体制御方法、及びプログラム
US20240201240A1 (en) Unmanned Aerial Vehicle Electromagnetic Avoidance And Utilization System
US10585439B2 (en) Vehicle inspection
US20200143093A1 (en) Method and system for simulating movable object states
US9679406B2 (en) Systems and methods for providing a visualization of satellite sightline obstructions
JP7153306B2 (ja) 検出対象位置特定システム
JP2019211257A (ja) 検査システム
JP4874861B2 (ja) レーダ情報表示装置
JP6918110B2 (ja) 飛行体制御装置、飛行体制御システムおよび飛行体制御方法
JP2006270404A (ja) 撮影制御装置、撮影制御方法および撮影制御プログラム
JP2023100642A (ja) 検査システム
JP6335731B2 (ja) 管制システム、空域管理装置、管制方法、およびプログラム
WO2021181578A1 (ja) 表示制御装置、表示制御方法、及びプログラム
JP6929211B2 (ja) 航空機の飛行経路の安全性を判断するための方法、プログラムおよび装置
WO2021181553A1 (ja) ルート設定装置、ルート設定方法、及びプログラム
CN114137997A (zh) 一种电力巡检方法、装置、设备及存储介质
JP7004374B1 (ja) 移動体の移動経路生成方法及びプログラム、管理サーバ、管理システム
KR101440503B1 (ko) 위성영상 기반의 교관석 화면을 제공하는 비행시뮬레이터 장치
JP6940670B1 (ja) 無人飛行体の飛行経路作成方法及びシステム
CN114202706A (zh) 基于感知的飞行器自主着陆
US20220229433A1 (en) Maneuvering support apparatus, maneuvering support method, and computer-readable recording medium
EP3606030A1 (en) Information-processing device, information-processing method, and information-processing program
US11783575B2 (en) Perception-based autonomous landing for aircraft
WO2022202429A1 (ja) 情報処理装置、情報処理方法、プログラム及び情報処理システム
WO2024023953A1 (ja) 情報処理システム、情報処理方法、プログラム、サーバ

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 20924586

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 2022507094

Country of ref document: JP

Kind code of ref document: A

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 20924586

Country of ref document: EP

Kind code of ref document: A1