WO2018003406A1 - 車載処理装置 - Google Patents
車載処理装置 Download PDFInfo
- Publication number
- WO2018003406A1 WO2018003406A1 PCT/JP2017/020707 JP2017020707W WO2018003406A1 WO 2018003406 A1 WO2018003406 A1 WO 2018003406A1 JP 2017020707 W JP2017020707 W JP 2017020707W WO 2018003406 A1 WO2018003406 A1 WO 2018003406A1
- Authority
- WO
- WIPO (PCT)
- Prior art keywords
- vehicle
- coordinate system
- processing device
- point
- parking lot
- Prior art date
Links
- 238000012545 processing Methods 0.000 title claims abstract description 175
- 230000002093 peripheral effect Effects 0.000 claims description 68
- 238000006243 chemical reaction Methods 0.000 claims description 32
- 230000000737 periodic effect Effects 0.000 claims description 15
- 230000009466 transformation Effects 0.000 claims description 6
- 238000012937 correction Methods 0.000 claims description 2
- 238000000034 method Methods 0.000 description 70
- 230000008569 process Effects 0.000 description 62
- 238000010586 diagram Methods 0.000 description 21
- 238000004364 calculation method Methods 0.000 description 17
- 240000004050 Pentaglottis sempervirens Species 0.000 description 9
- 235000004522 Pentaglottis sempervirens Nutrition 0.000 description 9
- 238000004891 communication Methods 0.000 description 8
- 239000003973 paint Substances 0.000 description 7
- 230000000694 effects Effects 0.000 description 6
- 230000036544 posture Effects 0.000 description 6
- 230000004048 modification Effects 0.000 description 4
- 238000012986 modification Methods 0.000 description 4
- 239000007787 solid Substances 0.000 description 4
- 230000008859 change Effects 0.000 description 3
- 238000001514 detection method Methods 0.000 description 3
- 238000000605 extraction Methods 0.000 description 3
- 239000004973 liquid crystal related substance Substances 0.000 description 3
- 238000005259 measurement Methods 0.000 description 3
- 239000000284 extract Substances 0.000 description 2
- 238000003384 imaging method Methods 0.000 description 2
- 238000012804 iterative process Methods 0.000 description 2
- 238000004092 self-diagnosis Methods 0.000 description 2
- 241000282412 Homo Species 0.000 description 1
- 125000002066 L-histidyl group Chemical group [H]N1C([H])=NC(C([H])([H])[C@](C(=O)[*])([H])N([H])[H])=C1[H] 0.000 description 1
- 230000001154 acute effect Effects 0.000 description 1
- 230000012447 hatching Effects 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 230000008520 organization Effects 0.000 description 1
- 230000000630 rising effect Effects 0.000 description 1
- 239000000126 substance Substances 0.000 description 1
Images
Classifications
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W30/00—Purposes of road vehicle drive control systems not related to the control of a particular sub-unit, e.g. of systems using conjoint control of vehicle sub-units
- B60W30/06—Automatic manoeuvring for parking
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
- G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
- G01C21/26—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
- G01C21/28—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network with correlation of data from several navigational instruments
- G01C21/30—Map- or contour-matching
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R21/00—Arrangements or fittings on vehicles for protecting or preventing injuries to occupants or pedestrians in case of accidents or other traffic risks
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B62—LAND VEHICLES FOR TRAVELLING OTHERWISE THAN ON RAILS
- B62D—MOTOR VEHICLES; TRAILERS
- B62D15/00—Steering not otherwise provided for
- B62D15/02—Steering position indicators ; Steering position determination; Steering aids
- B62D15/027—Parking aids, e.g. instruction means
- B62D15/0285—Parking performed automatically
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
- G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
- G01C21/26—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
- G01C21/28—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network with correlation of data from several navigational instruments
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
- G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
- G01C21/26—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
- G01C21/34—Route searching; Route guidance
- G01C21/36—Input/output arrangements for on-board computers
- G01C21/3602—Input other than that of destination using image analysis, e.g. detection of road signs, lanes, buildings, real preceding vehicles using a camera
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
- G05D1/02—Control of position or course in two dimensions
- G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
- G05D1/0231—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means
- G05D1/0246—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using a video camera in combination with image processing means
- G05D1/0248—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using a video camera in combination with image processing means in combination with a laser
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
- G05D1/02—Control of position or course in two dimensions
- G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
- G05D1/0268—Control of position or course in two dimensions specially adapted to land vehicles using internal positioning means
- G05D1/0274—Control of position or course in two dimensions specially adapted to land vehicles using internal positioning means using mapping information stored in a memory device
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
- G06V20/58—Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/60—Type of objects
- G06V20/64—Three-dimensional objects
-
- G—PHYSICS
- G08—SIGNALLING
- G08G—TRAFFIC CONTROL SYSTEMS
- G08G1/00—Traffic control systems for road vehicles
- G08G1/16—Anti-collision systems
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W2554/00—Input parameters relating to objects
Definitions
- the present invention relates to an in-vehicle processing apparatus.
- Patent Document 1 discloses a position detection unit that measures the position of a vehicle, an imaging unit that captures an image of the periphery of the vehicle and generates image data, and a road component in the image data based on the position error of the road component.
- a position calculation unit that sets a search range, calculates the position of the road component by processing the search range, and the position detection unit based on the position of the road component calculated by the position calculation unit.
- an automatic traveling device comprising: a host vehicle position correcting unit that corrects a measured vehicle position; and a control command output unit that outputs a control command for automatic traveling based on the corrected vehicle position. Has been.
- Patent Document 1 does not mention any disturbance, but since various disturbances generally occur in an outdoor environment, position estimation that is strong against the disturbance is required.
- the in-vehicle processing device includes a storage unit that stores point cloud data including a plurality of coordinates in a first coordinate system of a point representing a part of an object, and a vehicle surrounding area. Based on information acquired by a sensor input unit that acquires an output of a sensor that acquires information, a movement information acquisition unit that acquires information related to movement of the vehicle, the sensor input unit, and the movement information acquisition unit A local peripheral information creating unit for generating local peripheral information including a plurality of coordinates in the second coordinate system of a point representing the position of the vehicle and a part of an object in the coordinate system; the point cloud data; and the local peripheral information; And a position estimating unit that estimates a relationship between the first coordinate system and the second coordinate system and estimates the position of the vehicle in the first coordinate system.
- the in-vehicle processing device can perform position estimation resistant to disturbance.
- FIG. 8A is a plan view showing an example of a parking lot 901
- FIG. 8B is a diagram visualizing a point cloud of landmarks stored in the RAM 122.
- FIG. 9A is a diagram showing an example in which the point cloud data of the parking lot point group 124A is visualized, and FIG.
- FIG. 9B is a diagram showing an example in which the newly detected point cloud data is visualized.
- the figure which shows the present position of the vehicle 1 in the parking lot 901 The figure which shows the data which converted the point cloud extracted from the image which the vehicle 1 image
- FIGS. 13A to 13C are views showing the relationship with the parking lot point group 124A when the local peripheral information 122B shown in FIG. 13 is moved by an integral multiple of the width of the parking frame.
- FIG. 16A is a diagram showing the local peripheral information 122B in the operation example
- FIG. 16B is a diagram showing the correspondence between the parking lot point group 124A and the local peripheral information 122B.
- Configuration diagram of automatic parking system 100B in the third embodiment FIGS. 18A to 18C are diagrams showing an operation example in the third embodiment.
- FIG. 1 is a configuration diagram of an automatic parking system 100 including an in-vehicle processing apparatus according to the present invention.
- the automatic parking system 100 is mounted on the vehicle 1.
- the automatic parking system 100 includes sensor groups 102, 107 to 109, input / output device groups 110, 111, and 114, control device groups 130 to 133 that control the vehicle 1, and an in-vehicle processing device 120.
- the sensor group, the input / output device group, and the control device group are connected to the in-vehicle processing device 120 through signal lines, and exchange various data with the in-vehicle processing device 120.
- the in-vehicle processing device 120 includes a calculation unit 121, a RAM 122, a ROM 123, a storage unit 124, and an interface 125.
- the calculation unit 121 is a CPU. You may comprise so that all or one part arithmetic processing may be performed with other arithmetic processing apparatuses, such as FPGA.
- the RAM 122 is a readable / writable storage area and operates as a main storage device of the in-vehicle processing device 120.
- the RAM 122 stores an outlier list 122A, which will be described later, and local peripheral information 122B, which will be described later.
- the ROM 123 is a read-only storage area and stores a program to be described later.
- the calculation unit 121 operates as a point cloud data acquisition unit 121A, a local peripheral information creation unit 121B, and a position estimation unit 121C by reading and executing a program.
- the storage unit 124 is a non-volatile storage device and operates as an auxiliary storage device of the in-vehicle processing device 120.
- the storage unit 124 stores a parking lot point group 124A.
- the parking lot point group 124A is one or a plurality of parking lot data.
- the parking lot data is a set of location information of a certain parking lot, that is, latitude / longitude, coordinates indicating a parking area, and coordinates of points constituting a landmark existing in the parking lot. The landmark will be described later.
- the interface 125 exchanges information between the in-vehicle processing device 120 and other devices constituting the automatic parking system 100.
- the sensor group includes a camera 102 that captures the surroundings of the vehicle 1, a GPS receiver 107, a vehicle speed sensor 108, and a rudder angle sensor 109.
- the camera 102 outputs an image obtained by photographing (hereinafter referred to as a photographed image) to the in-vehicle processing device 120.
- the in-vehicle processing device 120 performs landmark positioning described later using an image captured by the camera 102. Internal parameters such as the focal length of the camera 102 and the image sensor size and external parameters such as the mounting position and mounting posture of the camera 102 to the vehicle 1 are known and stored in the ROM 123 in advance.
- the in-vehicle processing device 120 can calculate the positional relationship between the subject and the camera 102 using the internal parameters and the external parameters stored in the ROM 123.
- the GPS receiver 107 receives signals from a plurality of satellites constituting the satellite navigation system, and calculates the position of the GPS receiver 107, that is, the latitude and longitude by calculation based on the received signals. Note that the accuracy of latitude and longitude calculated by the GPS receiver 107 does not have to be high accuracy, and may include an error of, for example, several m to 10 m.
- the GPS receiver 107 outputs the calculated latitude and longitude to the in-vehicle processing device 120.
- the vehicle speed sensor 108 and the rudder angle sensor 109 measure the vehicle speed and the rudder angle of the vehicle 1 and output them to the in-vehicle processing device 120.
- the in-vehicle processing device 120 calculates the amount of movement and the direction of movement of the vehicle 1 by a known dead reckoning technique using the outputs of the vehicle speed sensor 108 and the steering angle sensor 109.
- the operation command to the in-vehicle processing device 120 by the user is input to the input device 110.
- Input device 110 includes a recording start button 110A, a recording completion button 110B, and an automatic parking button 110C.
- the display device 111 is a liquid crystal display, for example, and displays information output from the in-vehicle processing device 120. Note that the input device 110 and the display device 111 may be integrated as, for example, a liquid crystal display corresponding to a touch operation. In this case, it may be determined that the recording start button 110A, the recording completion button 110B, or the automatic parking button 110C is pressed by touching a predetermined area of the liquid crystal display.
- the communication device 114 is used so that an external device of the vehicle 1 and the in-vehicle processing device 120 can exchange information wirelessly. For example, when the user is outside the vehicle 1, the user communicates with a mobile terminal worn by the user to exchange information.
- the target with which the communication device 114 communicates is not limited to the user's mobile terminal.
- the vehicle control device 130 controls the steering device 131, the drive device 132, and the braking device 133 based on the operation command of the in-vehicle processing device 120.
- the steering device 131 operates the steering of the vehicle 1.
- the driving device 132 gives driving force to the vehicle 1.
- the driving device 132 increases the driving force of the vehicle 1 by increasing the target rotational speed of the engine included in the vehicle 1.
- the braking device 133 gives a braking force to the vehicle 1.
- a landmark is an object having a feature that can be identified by a sensor, such as a parking frame line, which is a kind of road paint, and a building wall, which is an obstacle that hinders vehicle travel. In the present embodiment, vehicles and humans that are moving objects are not included in the landmark.
- the in-vehicle processing device 120 detects landmarks existing around the vehicle 1 based on information input from the camera 102, that is, points having features that can be identified by a sensor.
- detection of a landmark based on information input from the external sensor, that is, the camera 102 is referred to as “landmark positioning”.
- the in-vehicle processing device 120 detects a road surface paint such as a parking frame by operating an image recognition program as follows for a photographed image of the camera 102.
- a road surface paint such as a parking frame
- To detect a parking frame first, an edge is extracted from an input image by a Sobel filter or the like. Next, for example, a pair of an edge rising which is a change from white to black and an edge falling which is a change from black to white is extracted.
- a predetermined first predetermined distance that is, the thickness of the white line constituting the parking frame, the pair is determined as a parking frame candidate.
- a plurality of parking frame candidates are detected by the same process, and when the interval between the parking frame candidates is substantially the same as the predetermined second predetermined distance, that is, the white line interval of the parking frame, these are detected as parking frames.
- Road surface paint other than the parking frame is detected by an image recognition program that executes the following processing. First, an edge is extracted from the input image by a Sobel filter or the like. It can be detected by searching for a pixel whose edge strength is larger than a predetermined value and the distance between the edges is a predetermined distance corresponding to the width of the white line.
- the in-vehicle processing device 120 detects a vehicle or a human by known template matching, for example, and excludes it from the measurement result. Moreover, you may exclude the moving body detected as follows from a measurement result. That is, the in-vehicle processing device 120 calculates the positional relationship between the subject and the camera 102 in the captured image using the internal parameters and the external parameters. Next, the in-vehicle processing device 120 calculates the relative speed between the vehicle 1 and the subject by tracking the subject in the captured images continuously acquired by the camera 102.
- the in-vehicle processing device 120 calculates the speed of the vehicle 1 using the outputs of the vehicle speed sensor 108 and the steering angle sensor 109, and determines that the subject is a moving object if it does not match the relative speed with the subject. The information regarding this moving body is excluded from the measurement results.
- FIG. 2 is a diagram illustrating an example of the parking lot point group 124 ⁇ / b> A stored in the storage unit 124.
- FIG. 2 shows an example in which two parking lot data are stored as the parking lot point group 124A.
- One parking lot data is composed of the position of the parking lot, that is, latitude and longitude (hereinafter referred to as latitude and longitude), coordinates of the parking area, and coordinates on the two-dimensional plane of the points constituting the landmark.
- the position of the parking lot is, for example, the vicinity of the entrance of the parking lot, the vicinity of the center of the parking lot, or the latitude / longitude of the parking position.
- the coordinates of the parking area and the coordinates of the points constituting the landmark are coordinates in a coordinate system unique to the parking lot data.
- the coordinate system in the parking lot data is referred to as a “parking lot coordinate system”.
- the coordinates of the vehicle 1 at the start of recording are the origin
- the traveling direction of the vehicle 1 at the start of recording is the Y axis
- the right direction of the vehicle 1 at the start of recording is the X axis.
- the coordinates of the parking area are recorded as the coordinates of the four vertices of the rectangular area when the parking area is rectangular, for example.
- the parking area is not limited to a rectangle, but may be a polygon or an ellipse other than a rectangle.
- the outlier list 122A stores information on points of the local peripheral information 122B that the in-vehicle processing device 120 does not process.
- the outlier list 122A is appropriately updated by the in-vehicle processing device 120 as described later.
- the local peripheral information 122B stores the coordinates of points constituting landmarks detected by the in-vehicle processing device 120 in an automatic parking phase described later.
- the coordinates are based on the position and orientation of the vehicle 1 when the recording of the local peripheral information 122B is started, for example, with the position as the origin, the traveling direction of the vehicle 1 as the Y axis, and the traveling direction right as the X axis. It is a system.
- this coordinate system is referred to as a “local coordinate system”.
- the in-vehicle processing device 120 mainly has two operation phases, that is, a recording phase and an automatic parking phase.
- the in-vehicle processing device 120 operates in the automatic parking phase unless there is a special instruction from the user. That is, the recording phase is started by a user instruction.
- the vehicle 1 is driven by the user, and the in-vehicle processing device 120 collects parking lot data, that is, information on white lines and obstacles existing in the parking lot, and parking position information based on information from sensors provided in the vehicle 1. To do.
- the in-vehicle processing device 120 stores the collected information in the storage unit 124 as a parking lot point group 124A.
- the vehicle 1 is controlled by the in-vehicle processing device 120, and the vehicle 1 is placed at a predetermined parking position based on information from the parking lot point group 124 ⁇ / b> A stored in the storage unit 124 and sensors provided in the vehicle 1. Parked.
- the in-vehicle processing device 120 detects a white line or an obstacle present around the vehicle 1 based on information from the sensor, and estimates the current position by collating with the parking lot point group 124A. That is, the in-vehicle processing device 120 estimates the current position of the vehicle 1 in the parking lot coordinate system without using information obtained from the GPS receiver 107.
- the recording phase and the automatic parking phase will be described in detail below.
- (Recording phase) The user presses the recording start button 110A near the entrance of the parking lot, and causes the in-vehicle processing device 120 to start the operation of the recording phase. Thereafter, the user moves the vehicle 1 to the parking position by his / her own driving, presses the recording completion button 110B after stopping, and causes the in-vehicle processing device 120 to end the operation of the recording phase.
- the in-vehicle processing device 120 starts the operation of the recording phase when the user presses the recording start button 110A, and ends the operation of the recording phase when the user presses the recording completion button 110B.
- the operation of the recording phase by the in-vehicle processing device 120 can be divided into two processes, that is, extraction of the point group constituting the landmark and recording of the extracted point group.
- the point cloud extraction processing by the in-vehicle processing device 120 will be described.
- the in-vehicle processing device 120 secures a temporary recording area in the RAM 122 when the recording start button 110A is pressed by the user.
- the in-vehicle processing device 120 repeats the following processing until the recording completion button 110B is pressed. That is, the in-vehicle processing device 120 extracts a point group that constitutes a landmark based on an image captured by the camera 102.
- the in-vehicle processing device 120 calculates the amount and direction of movement of the vehicle 1 from the previous shooting by the camera 102 to the current shooting based on the outputs of the vehicle speed sensor 108 and the steering angle sensor 109.
- the in-vehicle processing device 120 records the point group extracted based on the positional relationship with the vehicle 1 and the amount and direction of movement of the vehicle 1 in the RAM 122. The in-vehicle processing device 120 repeats this process.
- the position of the vehicle 1 and the coordinates of the point cloud are recorded as coordinate values in the recording coordinate system.
- the “recording coordinate system” for example, the position of the vehicle 1 at the start of recording is the origin (0, 0), the traveling direction (posture) of the vehicle 1 at the start of recording is the Y axis, and the position of the vehicle 1 at the start of recording is Treated as coordinate values in the coordinate system with the right direction as the X axis. Therefore, even if the point cloud is recorded in the same parking lot, the recording coordinate system set differs depending on the position and posture of the vehicle 1 when the recording is started, so the point cloud constituting the landmark is recorded at different coordinates.
- the in-vehicle processing device 120 records the current position in the RAM 122 as a parking position.
- the parking positions are recorded, for example, as the coordinates of the four corners when the vehicle 1 is approximated to a rectangle.
- the in-vehicle processing device 120 records the latitude and longitude output from the GPS receiver 107 together as the coordinates of the parking lot.
- the in-vehicle processing device 120 performs point cloud recording processing as follows. However, the latitude and longitude output from the GPS receiver 107 when the recording start button 110A is pressed may be recorded as the coordinates of the parking lot.
- the in-vehicle processor 120 determines whether or not the coordinates of the parking lot recorded by the operation of the record completion button 110B, that is, the latitude and longitude substantially coincide with the coordinates of any parking lot already recorded in the parking lot point group 124A. Determine whether. When both do not substantially match, the in-vehicle processing device 120 records the information of the point group stored in the RAM 122 in the parking lot point group 124A as new parking lot data. When both are substantially coincident, the in-vehicle processing device 120 determines whether or not to merge the information of the point group where the coordinates of the parking lot substantially coincide as a point group of one parking lot.
- the in-vehicle processing device 120 first performs coordinate conversion so that the parking position included in the parking lot data matches the parking position recorded in the RAM, and then the point cloud of the parking lot point group 124A and the RAM 122.
- the point cloud coincidence which is the degree of coincidence with the point cloud stored in the above, is calculated.
- the in-vehicle processing device 120 determines that the two points are integrated if the calculated point cloud coincidence is greater than the threshold value, and determines that the two points are not integrated if the calculated value is equal to or less than the threshold value. The calculation of the point cloud coincidence will be described later.
- the in-vehicle processing device 120 determines not to integrate, the in-vehicle processing device 120 records the point cloud stored in the RAM 122 as new parking lot data in the parking lot point group 124A. If the in-vehicle processing device 120 determines to integrate, the in-vehicle processing device 120 adds the point group stored in the RAM 122 to the existing parking lot data of the parking lot point group 124A.
- FIG. 3 is a flowchart showing the operation of the recording phase of the in-vehicle processing device 120.
- the execution subject of each step described below is the calculation unit 121 of the in-vehicle processing device 120.
- the calculation unit 121 functions as the point cloud data acquisition unit 121A when performing the processing shown in FIG.
- step S501 it is determined whether or not the recording start button 110A has been pressed. If it is determined that the recording start button 110A has been pressed, the process proceeds to step S501A. If it is determined that the recording start button 110A has not been pressed, the process remains in step S501. In step S501A, a new recording area is secured in the RAM 122. In this storage area, the extracted point group and the current position of the vehicle 1 are recorded in the coordinates of the recording coordinate system described above.
- step S502 information is acquired from the sensor group, and the above-described landmark positioning, that is, extraction of a point group that constitutes a landmark using a photographed image of the camera 102 is performed.
- step S 503 the movement amount of the vehicle 1 in the time from when the camera 102 previously captured until the latest imaging is estimated is estimated, and the current position of the vehicle 1 in the recording coordinate system recorded in the RAM 122 is updated.
- the movement amount of the vehicle 1 can be estimated by a plurality of means. For example, as described above, the movement amount of the vehicle 1 can be estimated from the change in the position of the subject existing on the road surface in the captured image of the camera 102. Further, when a high-accuracy GPS receiver with a small error is mounted as the GPS receiver 107, the output thereof may be used.
- step S504 the point group extracted in step S502 is stored in the RAM 122 as coordinates in the recording coordinate system based on the current position updated in step S503.
- step S505 it is determined whether or not the recording completion button 110B has been pressed. If it is determined that the recording completion button 110B has been pressed, the process proceeds to step S505A, and if it is determined that the recording completion button 110B has not been pressed. The process returns to step S502.
- step S505A the current latitude and longitude of the vehicle 1 are acquired from the GPS receiver 107, and the parking position, that is, the current position of the vehicle 1 and the coordinates in the recording coordinate system of the four corners of the vehicle 1 are recorded. Next, the process proceeds to step S506.
- step S506 it is determined whether or not parking lot data having latitude and longitude substantially matching the current latitude and longitude of the vehicle 1 acquired in step S505A is recorded in the parking lot point group 124A. If it is determined that the current latitude / longitude of the vehicle 1 substantially matches the latitude / longitude of any of the parking lot data recorded in the parking lot point group 124A, the process proceeds to step S507. Otherwise, the process proceeds to step S510.
- the parking lot data of the parking lot point group 124 ⁇ / b> A that is determined that the current latitude / longitude of the vehicle 1 and the latitude / longitude substantially match is referred to as target parking lot data.
- step S507 the recording coordinate system, which is the coordinate system of the point cloud data stored in the RAM 122, is converted into the coordinate system of the point cloud data of the target parking lot data using the parking position as a reference. That is, a coordinate conversion formula between the recording coordinate system and the parking lot coordinate system is derived so that the parking position included in the target parking lot data matches the parking position recorded in step S505A. Then, using this coordinate conversion formula, the coordinates of the points constituting the landmark stored in the recording coordinate system in the RAM 122 are converted into the parking lot coordinate system of the target parking lot data.
- the point cloud coincidence rate IB between the point cloud data stored in the RAM 122 and the target parking lot data is calculated.
- “Din” is the number of points within a predetermined distance between each point of the point cloud data coordinate-converted in step S507 and each point of the point cloud data of the target parking lot data.
- “D1” is the number of points in the point cloud data stored in the RAM 122
- “D2” is the number of points in the point cloud data of the target parking lot data.
- step S508 it is determined whether the point cloud coincidence rate calculated in step S507A is greater than a predetermined threshold. If it is determined that the value is larger than the threshold value, the process proceeds to step S509. If it is determined that the value is equal to or less than the threshold value, the process proceeds to step S510.
- step S509 the point cloud data coordinate-converted in step S507 is added to the merge processing, that is, the target parking lot data of the parking lot point cloud 124A stored in the storage unit 124.
- step S510 executed when a negative determination is made in step S506 or step S508, the point cloud data stored in the RAM 122, the latitude and longitude of the vehicle 1 recorded in step S505A, and the parking position are parked as new parking lot data. Record in the parking point group 124A. This is the end of the flowchart of FIG.
- FIG. 4 is a flowchart showing the overall operation of the automatic parking phase of the in-vehicle processing device 120.
- the execution subject of each step described below is the calculation unit 121 of the in-vehicle processing device 120.
- the in-vehicle processing device 120 first measures the current latitude and longitude using the GPS receiver 107 (step S601), and the latitude and longitude substantially match the latitude and longitude of any parking lot data in the parking lot point group 124A. It is determined whether or not. In other words, it is determined whether or not there is a parking lot existing within a predetermined distance from the position of the vehicle 1 (step S602). If it is determined that the latitude / longitude of any parking lot data and the latitude / longitude of the vehicle 1 substantially match, the process proceeds to step S603, and if it is determined that the latitude / longitude of any parking lot data does not substantially match, the process returns to step S601. In the case of returning to step S601, there is a possibility that an affirmative determination may be made in step S602 when the vehicle 1 is moved by the user's driving.
- the vehicle-mounted processing apparatus 120 specifies the parking lot data which has the latitude longitude which substantially corresponds with the present position of the vehicle 1 among several parking lot data contained in the parking lot point group 124A (step S603).
- the in-vehicle processing device 120 initializes the local peripheral information 122B stored in the RAM 122 and initializes the current position of the vehicle 1 stored in the RAM 122 as initialization processing. Specifically, if the previous information is recorded, it is deleted and a new coordinate system is set. In the present embodiment, this coordinate system is called a local coordinate system. This local coordinate system is set based on the position and posture of the vehicle 1 when step S603A is executed.
- the position of the vehicle 1 when step S603A is executed is set as the origin of the local coordinate system, and the X axis and the Y axis are set according to the orientation when step S603A is executed.
- the initialization of the current position of the vehicle 1 is performed by setting the current position of the vehicle 1 to the origin (0, 0).
- step S604 self-position estimation according to the procedure shown in FIG. 5, that is, the position of the vehicle 1 in the parking lot coordinate system is estimated (step S604).
- step S605 it is determined whether the self-position has been estimated. If it is determined that the estimation is possible, the process proceeds to step S606. If it is determined that the estimation cannot be performed, the process returns to step S604.
- step S606 the in-vehicle processing device 120 displays on the display device 111 that automatic parking is possible, and in the subsequent step S607, it is determined whether or not the automatic parking button 110C has been pressed by the user. If it is determined that the automatic parking button 110C has been pressed, the process proceeds to step S608 to execute automatic parking processing according to the procedure shown in FIG. 7, and if it is determined that the automatic parking button 110C has not been pressed, the process returns to step S606.
- the calculation unit 121 functions as the local peripheral information creation unit 121B when performing the processing shown in steps S621 to S623 in FIG.
- step S621 The landmark positioning in step S621, the own vehicle movement amount estimation in step S622, and the recording of the local peripheral information 122B in step S623 are substantially the same as the processing in steps S502 to S504 in FIG. The difference is that data stored in the RAM 122 is recorded as the local peripheral information 122B.
- step S624 the in-vehicle processing device 120 performs matching processing shown in detail in FIG. 6 (step S624). In this matching process, a correspondence relationship between the parking lot coordinate system and the local coordinate system, that is, a coordinate conversion formula between the parking lot coordinate system and the local coordinate system is obtained.
- step S625 the in-vehicle processing device 120 uses the coordinates of the vehicle 1 in the local coordinate system updated in step S622 and the coordinate conversion formula obtained in step S625, that is, the coordinates of the vehicle 1 in the parking lot coordinate system, that is, self Calculate the position.
- step S626 the in-vehicle processing device 120 uses the coordinates of the vehicle 1 in the local coordinate system updated in step S622 and the coordinate conversion formula obtained in step S625, that is, the coordinates of the vehicle 1 in the parking lot coordinate system, that is, self Calculate the position.
- step S626 the in-vehicle processing device 120 uses the coordinates of the vehicle 1 in the local coordinate system updated in step S622 and the coordinate conversion formula obtained in step S625, that is, the coordinates of the vehicle 1 in the parking lot coordinate system, that is, self Calculate the position.
- step S626 the in-vehicle processing device 120 executes a self-diagnosis for determining the reliability of the position calculated in step S625.
- Self-diagnosis is determined using, for example, the following three indicators.
- the movement amount of the vehicle 1 estimated by a known dead reckoning technique using the outputs of the vehicle speed sensor 108 and the steering angle sensor 109 is compared with the movement amount in a predetermined period estimated by the self-position estimation. If the difference is larger than a predetermined threshold, it is determined that the reliability is low.
- the second index judgment is made based on the error amount of the corresponding point calculated at the time of matching.
- the error amount is larger than a predetermined threshold, it is determined that the reliability is low.
- the third index it is determined whether there is a similar solution.
- a similar solution is searched for, for example, by translating the width of the parking frame from the obtained solution, if the number of corresponding point errors is within a certain number, the reliability is determined to be low. If it is not determined that the reliability is low in all three indicators, it is determined that the self-position has been estimated.
- the calculation unit 121 functions as the position estimation unit 121C when performing the processing illustrated in FIG.
- step S641 the outlier list 122A stored in the RAM 122 is applied to the local peripheral information 122B, and the points described in the outlier list 122A among the points included in the local peripheral information 122B are temporarily excluded from processing. .
- This application range is steps S642 to S653, and the point previously included in the outlier list 122A in step S654 is also targeted.
- the steps S641 to S643 cannot be executed when the flowchart shown in FIG. 6 is executed for the first time, the execution is started from step S650. Next, the process proceeds to step S641A.
- step S641A the coordinates of the point group detected from the latest photographed image, that is, the coordinates of the point group constituting the landmark detected in step S621 in FIG. 5, are converted into the coordinates of the parking lot coordinate system. This conversion is realized by using the position in the local coordinate system of the vehicle 1 updated in step S622 and the coordinate conversion expression from the local coordinate system calculated in the previous time to the parking lot coordinate system.
- the instantaneous coincidence IC is calculated.
- “DIin” is determined in advance as a distance to a point constituting the nearest parking lot point group 124A among the point groups detected from the latest photographed image converted into the parking lot coordinate system in step S641A. The number of points below the threshold value.
- “DIall” is the number of point groups detected in step S621. Next, the process proceeds to step S643.
- step S643 it is determined whether or not the instantaneous coincidence IC calculated in step S642 is greater than a threshold value. If it is determined that the instantaneous coincidence IC is larger than the threshold, the process proceeds to step S650. If it is determined that the instantaneous coincidence IC is equal to or less than the threshold, the process proceeds to step S644.
- step S644 a periodic feature, for example, a plurality of parking frames arranged in the parking lot point cloud 124A, that is, point cloud data is detected.
- the parking frame line can be detected from the points arranged at intervals corresponding to the thickness of the white line.
- step S645 it is determined whether or not the periodic feature is detected in step S644. If it is determined that it has been detected, the process proceeds to step S646. If it is determined that it has not been detected, the process proceeds to step S650.
- step S646 a periodic feature period, for example, the width of the parking frame is calculated. The width of the parking frame here is an interval between white lines constituting the parking frame.
- step S647 a periodic feature period
- step S647 using the coordinate conversion formula calculated in the previous step S653 as a reference, the coordinate conversion formula is changed in a plurality of ways to calculate the overall matching degree IW.
- the coordinate conversion formula is changed in a plurality of ways so as to be shifted by an integral multiple of the periodic feature detected by the parking lot point group.
- DWin is the point from the point that configures the local peripheral information 122B to the parking lot coordinate system using the above-described coordinate transformation formula up to the point that constitutes the nearest parking lot point group 124A.
- DWall is the number of points detected in step S621. Next, the process proceeds to step S648.
- step S648 a coordinate conversion formula that gives the maximum overall matching degree IW among the plurality of overall matching degrees IW calculated in step S647 is stored in the RAM 122, and the process proceeds to step S650.
- the association process in step S650, the error minimization process in step S651, and the convergence determination process in step S625 can use an ICP (Iterative Closest Point) algorithm which is a known point cloud matching technique.
- ICP Intelligent Closest Point
- the setting of the initial value in step S650 is specific to the present embodiment and will be described in detail, and the rest will be described only in outline.
- step S643 If the determination in step S643 is affirmative, the determination in step S645 is negative, the execution of step S648 is completed, or the determination in step S652 is negative, in step S650, the parking lot point group 124A is displayed. The association between the point group included in the parking lot data and the point group included in the local peripheral information 122B is calculated.
- step S643 or step S648 the point cloud data of the local peripheral information 122B uses a value obtained by coordinate transformation using a coordinate transformation formula recorded in the RAM 122. In other words, when an affirmative determination is made in step S643 and step S650 is executed, the coordinate conversion formula calculated in step S653 executed previously is used. On the other hand, when step S650 is executed after step S648, the coordinate conversion formula stored in step S648 is used. Next, the process proceeds to step S651.
- step S651 the coordinate conversion formula is changed so that the error of the corresponding point is minimized.
- the coordinate conversion formula is changed so that the sum of the indices of the distances between the points associated in step S650 is minimized.
- the sum of the absolute values of the distances can be adopted as the sum of the distance indices between the associated points.
- step S652 it is determined whether or not the error has converged. If it is determined that the error has converged, the process proceeds to step S653. If it is determined that the error has not converged, the process returns to step S650.
- the coordinate transformation equation last changed in step S651 is stored in the RAM 122, and the process proceeds to step S654.
- step S654 the outlier list 122A is updated as follows. First, the existing outlier list 122A stored in the RAM 122 is cleared. Next, the point group of the local peripheral information 122B is converted into the parking lot coordinate system using the coordinate conversion formula recorded in step 653, and each point constituting the local peripheral information 122B and the parking lot point group 124A corresponding to that point are converted. The distance to the point that constitutes, that is, the Euclidean distance is calculated. If the calculated distance is longer than a predetermined distance, the point of the local peripheral information 122B is added to the outlier list 122A. However, at this time, it may be a further condition to add to the outlier list 122A to be spatially located at the end. A spatial end is a point that is far from another point, such as a point acquired when recording is started. The outlier list 122A is updated by the above processing. This is the end of the flowchart of FIG.
- step S608 of FIG. 4 Details of the automatic parking process executed in step S608 of FIG. 4 will be described with reference to FIG.
- the execution body of each step described below is the in-vehicle processing device 120.
- step S661 the position of the vehicle 1 in the parking lot coordinate system is estimated.
- the processing in this step is the same as that in step S604 in FIG.
- step S662 a travel route from the position estimated in step S661 to the parking position stored in parking lot point group 124A is generated by a known route generation method.
- step S663 the process proceeds to step S663.
- step S663 the steering device 131, the driving device 132, and the braking device 133 are controlled via the vehicle control device 130, and the vehicle 1 is moved to the parking position along the route generated in step S662.
- the operation command may be output to the drive device 132 only when the automatic parking button 110C is continuously pressed by the user.
- the braking device 133 is operated to stop the vehicle 1.
- step S664 the position of the vehicle 1 is estimated in the same manner as in step S661.
- step S665 it is determined whether or not parking is completed, that is, whether or not the vehicle 1 has reached the parking position. If it is determined that parking is not completed, the process returns to step S663, and it is determined that parking is completed. If so, the flowchart of FIG. 7 is terminated.
- FIG. 8A is a plan view showing an example of the parking lot 901.
- a parking lot 901 is provided around the building 902.
- the parking lot 901 has only one entrance at the lower left in the figure.
- a square shown in FIG. 8A represents a parking frame that is road surface paint, and a parking frame 903 indicated by hatching is a parking area of the vehicle 1 (an area that becomes a parking position when parking is completed).
- the description will be made assuming that the landmark is only the parking frame line.
- the vehicle 1 is indicated by a triangle, and the acute angle of the triangle indicates the traveling direction of the vehicle 1.
- FIG. 8B is a diagram visualizing the landmark point cloud stored in the RAM 122.
- a solid line represents a landmark point group stored in the RAM 122
- a broken line represents a landmark not stored in the RAM 122. Since the camera 102 of the vehicle 1 has a limit in the range that can be photographed, when the vehicle 1 is near the entrance of the parking lot 901 as shown in FIG. 8B, only the parking frame line near the entrance of the parking lot 901 is displayed. To be recorded. When the user moves the vehicle 1 to the back of the parking lot 901, the in-vehicle processing device 120 can record the landmark point cloud of the entire parking lot 901.
- Step S505 YES, S505A
- the point cloud stored in the RAM 122 is used as new data constituting the parking lot point group 124A. That is, it is recorded as new parking lot data.
- the point cloud data shown in FIG. 9A is recorded as the parking lot data of the parking lot point group 124A, and the point cloud data shown in FIG. 9B is newly obtained.
- the point cloud data shown in FIG. 9A is point cloud data obtained when, for example, the vehicle travels to the right from the entrance of the parking lot 901 shown in FIG. 8A and reaches the parking position. Since the vehicle traveled to the right as compared with FIG. 8A, the point cloud data of the parking frame indicated by the dotted line in FIG. 9A has not been acquired.
- the point cloud data shown in FIG. 9B is point cloud data obtained when, for example, the vehicle travels to the left from the entrance of the parking lot 901 and reaches the parking position. Since the vehicle traveled to the left as compared with FIG. 8A, the point cloud data of the parking frame indicated by the dotted line in FIG. 9B is not acquired. Further, the point cloud data shown in FIG. 9B shows that the parking lot 901 is compared to FIG. 9A because the vehicle 1 is not directly facing the parking lot 901 when the user presses the recording start button 110A. It is recorded as tilted.
- step S506 When the user presses the record completion button 110B in such a state, if it is determined that a latitude / longitude substantially matching the current latitude / longitude of the vehicle 1 is recorded in the parking lot point group 124A (S506: YES). Coordinate conversion is performed with reference to the parking positions in FIGS. 9A and 9B, that is, the parking frame 903 (step S507). Then, the point group coincidence rate IB is calculated (step S507A), and when it is determined that the point group coincidence rate IB is larger than a predetermined threshold (step S508: YES), the point group data shown in FIG. The point cloud data shown in FIG. 9B is integrated (step S509).
- FIG. 10 is a diagram showing the current position of the vehicle 1 in the parking lot 901 shown in FIG.
- the vehicle 1 faces upward in the figure. 11 to 12 show a parking frame line surrounded by a broken-line circle in FIG. 10 which is a front area of the vehicle 1.
- FIG. 11 is a diagram showing data obtained by converting a point cloud extracted from an image taken by the vehicle 1 at the position shown in FIG. 10 into parking lot coordinates. That is, the point group shown in FIG. 11 is the point group detected from the latest photographed image in the local peripheral information 122B, and is the data processed in step S641A in FIG. However, in FIG. 11, it represents as a broken line instead of a point.
- the vehicle 1 is also displayed for comparison with FIG. As shown in FIG. 11, the point frame data of the parking frame line is present on the left side of the vehicle 1, and the point group data of the parking frame line is present only on the front side on the right side of the vehicle 1.
- FIG. 12 is a diagram showing a comparison between the parking lot point group 124A and the local peripheral information 122B shown in FIG. 11 when the position estimation of the vehicle 1 in the parking lot coordinate system includes an error.
- the local peripheral information 122B existing on the right side of the vehicle 1 is shifted from the parking lot point group 124A.
- the instantaneous coincidence IC is calculated in such a state (step S642 in FIG. 6), the instantaneous coincidence IC becomes a low value due to the above-described deviation on the right side of the vehicle 1.
- step S643 NO
- step S644 the parking frame is detected as a periodic feature (steps S644, S645: YES), and the width of the parking frame is calculated from the parking lot point group 124A.
- step S646 the whole matching degree IW is calculated by moving the parking frame by an integral multiple of the width (Step S647).
- FIGS. 13A to 13C are diagrams showing the relationship with the parking lot point group 124A when the local peripheral information 122B shown in FIG. 13 is moved by an integral multiple of the width of the parking frame.
- the local peripheral information 122B shown in FIG. 13 has moved upward in the drawing by +1, 0, and ⁇ 1 times the width of the parking frame.
- the local peripheral information 122B has moved by one of the width of the parking frame to the upper side in the drawing, and the deviation between the local peripheral information 122B and the parking lot point group 124A has increased. For this reason, the overall matching degree IW in FIG. 13A is smaller than that in the case of not moving.
- FIG. 13A is smaller than that in the case of not moving.
- the local peripheral information 122B does not move, and the local peripheral information 122B and the parking lot point group 124A are shifted by one of the width of the parking frame as seen in FIG.
- the local periphery information 122B has moved to the bottom of the figure by one width of the parking frame, and the local periphery information 122B substantially coincides with the parking lot point group 124A.
- the overall matching degree IW in FIG. 13C is larger than that in the case of not moving.
- the in-vehicle processing device 120 improves the estimated position accuracy.
- the in-vehicle processing device 120 stores a storage unit 124 in which point group data (parking lot point group 124A) including a plurality of coordinates in a first coordinate system (parking lot coordinate system) of a point representing a part of an object is stored.
- point group data parking lot point group 124A
- first coordinate system parking lot coordinate system
- a sensor input unit that acquires the output of the camera 102 that acquires information around the vehicle 1
- a movement information acquisition unit that acquires information related to movement of the vehicle 1
- a sensor input unit And a local position including a plurality of coordinates in the second coordinate system (local coordinate system) of a point representing the position of the vehicle and a part of the object in the second coordinate system (local coordinate system) based on the information acquired by the movement information acquisition unit
- the local peripheral information creation unit 121B that generates the peripheral information 122B, the parking spot point group 124A, and the local peripheral information 122B
- the relationship between the parking lot coordinate system and the local coordinate system is estimated.
- a position estimation unit 121C for estimating the position of the vehicle 1 in the system.
- the in-vehicle processing device 120 estimates a coordinate conversion formula between the parking lot coordinate system and the local coordinate system based on the parking lot point group 124A and the local peripheral information 122B, and estimates the position of the vehicle 1 in the parking lot coordinate system.
- the parking lot point group 124 ⁇ / b> A is information stored in advance in the storage unit 124
- the local peripheral information 122 ⁇ / b> B is generated from the outputs of the camera 102, the vehicle speed sensor 108, and the rudder angle sensor 109. That is, the in-vehicle processing device 120 acquires information on a point group in a coordinate system different from the coordinate system of the recorded point group, and the position of the vehicle 1 in the recorded coordinate system based on the correspondence relationship between the different coordinate systems.
- the in-vehicle processing device 120 estimates the coordinate conversion formula between the parking lot coordinate system and the local coordinate system based on the parking lot point group 124A and the local peripheral information 122B, noise is included in a part of the point cloud data of the local peripheral information 122B. It is hard to be affected even if it is included. That is, the position estimation of the vehicle 1 by the in-vehicle processing device 120 is resistant to disturbance.
- the position estimation unit 121C searches the point cloud data for points corresponding to the respective points constituting the local peripheral information 122B (step S650 in FIG. 6), and the distance between the corresponding points is minimized. Thus, the coordinate conversion formula between the first coordinate system and the second coordinate system is estimated (step S651 in FIG. 6).
- the position estimation unit 121C excludes the point data of the local peripheral information whose distance to the point constituting the point cloud data or the local peripheral information 122B and the point corresponding to this point is farther than a predetermined threshold. That is, the outlier list 122A is applied (steps S641 and S653 in FIG. 6) to perform search and estimation. For this reason, point cloud data with a distance that can be regarded as a noise component is excluded from the calculation target, so that the accuracy of the coordinate conversion equation can be improved.
- the point group data and the points included in the local peripheral information are represented as coordinates in a two-dimensional space.
- the position estimation unit 121C performs a search and estimation by excluding points where the distance between corresponding points is longer than a predetermined threshold and is located spatially at the end in the local peripheral information 122B.
- the point cloud stored in the parking lot data of the parking lot point group 124A relates to the landmark near the parking position from the point where the user presses the recording start button 110A.
- the point that does not correspond to any point stored in the parking lot data is included in the local peripheral information 122B. If the ICP including such points, that is, the processing of steps S650 to S652 in FIG. 6, is performed, an appropriate solution cannot be obtained. Therefore, an appropriate solution can be obtained by eliminating them.
- Point cloud data includes periodic features.
- the position estimating unit 121C After estimating the coordinate conversion formula between the first coordinate system and the second coordinate system, the position estimating unit 121C performs the first operation based on the distance of one period of the periodic feature so that the distance between the corresponding points is shortened.
- the coordinate conversion formula between the first coordinate system and the second coordinate system is corrected (steps S646 to S648 in FIG. 6).
- the distance tends to be an integer multiple of the distance corresponding to the period, and matching tends to occur. Once such a misalignment is made, it is difficult to match to the correct position due to the nature of the iterative process. Therefore, after the solution of the iterative process has converged, this problem is solved by shifting by an integral multiple of the period. In other words, considering the possibility of having fallen into a local solution shifted by several periodic periods of periodic features from the global solution due to iterative calculation, the global solution or a local solution closer to the global solution by shifting by several cycles of the above-mentioned period Can be obtained.
- the in-vehicle processing device 120 has coordinates in the third coordinate system (recording coordinate system) of points representing a part of the object excluding the moving body based on information acquired by the sensor input unit and the movement information acquisition unit.
- a point cloud data acquisition unit 121A that creates a plurality of second point cloud data and stores the second point cloud data in the storage unit 124 as a parking lot point cloud 124A is provided. Therefore, the in-vehicle processing device 120 can create the parking lot point group 124A when the vehicle 1 on which the in-vehicle processing device 120 is mounted travels.
- the creation process of the parking lot point group 124A and the position estimation process of the vehicle 1 are common in terms of landmark positioning, and the program module can be used in common.
- the third coordinate system (recording coordinate system) is set based on the position and orientation of the vehicle when the creation of the second point cloud data is started.
- the point cloud data acquisition unit 121A obtains a plurality of second point cloud data having different coordinate systems due to different positions or postures of the vehicle when the creation of the second point cloud data is started, the parking position of the vehicle 1 is obtained.
- the in-vehicle processing device 120 drives the vehicle based on the output of the position estimation unit 121C and moves the vehicle to a parking position designated in advance in the first coordinate system, and information on the position of the vehicle 1
- a position information acquisition unit (interface 125) that acquires the latitude and longitude of the vehicle 1 from the GPS receiver 107 that receives (latitude and longitude).
- the points constituting the parking lot point group 124A are points that represent a part of the components of the parking lot.
- the storage unit 124 also stores the latitude and longitude of a parking lot made of a stationary object of point cloud data.
- the in-vehicle processing device 120 may be connected to a plurality of cameras.
- the in-vehicle processing device 120 can extract a point cloud from a wide range of landmarks existing around the vehicle 1 by using the images captured by a plurality of cameras.
- the in-vehicle processing device 120 may not receive a sensing result from the vehicle speed sensor 108 and the steering angle sensor 109. In this case, the in-vehicle processing device 120 estimates the movement of the vehicle 1 using the captured image of the camera 102. The in-vehicle processing device 120 calculates the positional relationship between the subject and the camera 102 using the internal parameters and external parameters stored in the ROM 123. The moving amount and moving direction of the vehicle 1 are estimated by tracking the subject in a plurality of captured images.
- Point cloud information such as parking lot point cloud 124A and local peripheral information 122B may be stored as three-dimensional information.
- the three-dimensional point group information may be compared with other point groups in two dimensions as in the first embodiment by projecting onto a two-dimensional plane, or may be compared between three dimensions.
- the in-vehicle processing device 120 can obtain a landmark three-dimensional point group as follows. That is, using the movement amount of the vehicle 1 calculated based on the outputs of the vehicle speed sensor 108 and the rudder angle sensor 109 and a plurality of captured images output from the camera 102, a known motion stereo technique and its motion estimation portion are incorporated. By using information corrected by a field sensor or a positioning sensor, a three-dimensional point group of a stationary solid object can be obtained.
- the in-vehicle processing apparatus 120 may proceed to step S644 when negative determination is made consecutively several times instead of proceeding to step S644 by negative determination only once in step S643 of FIG.
- the in-vehicle processing device 120 determines whether or not the percentage of points determined to be outliers in the local peripheral information 122B is greater than a predetermined threshold. Also good. If the ratio is greater than the threshold, the process proceeds to step S644, and if the ratio is equal to or less than the threshold, the process proceeds to step S650. Furthermore, in-vehicle processor 120 may advance to Step S644 only when the above-mentioned ratio is large in addition to the determination in Step S643 of FIG.
- the in-vehicle processing apparatus 120 may perform the processes in steps S644 and S646 in FIG. 6 in advance. Further, the processing result may be recorded in the storage unit 124.
- the in-vehicle processing device 120 may receive an operation command from the user not only from the input device 110 provided in the vehicle 1 but also from the communication device 114. For example, when the mobile terminal possessed by the user communicates with the communication device 114 and the user operates the mobile terminal, the in-vehicle processing device 120 may perform the same operation as when the automatic parking button 110C is pressed. In this case, the in-vehicle processing device 120 can perform automatic parking not only when the user is inside the vehicle 1 but also after the user gets off.
- the in-vehicle processing device 120 may perform parking not only at the parking position recorded in the parking lot point group 124A but also at a position designated by the user.
- the designation of the parking position by the user is performed, for example, when the in-vehicle processing device 120 displays a parking position candidate on the display device 111 and the user selects one of them using the input device 110.
- the in-vehicle processing device 120 may receive the parking lot point group 124A from the outside via the communication device 114, or transmit the created parking lot point group 124A to the outside via the communication device 114. May be. Further, the other party to which the in-vehicle processing device 120 transmits and receives the parking lot point group 124A may be another in-vehicle processing device 120 mounted on another vehicle, or a device managed by an organization that manages the parking lot.
- the automatic parking system 100 may include a mobile terminal instead of the GPS receiver 107, and record identification information of a base station with which the mobile terminal communicates instead of latitude and longitude. This is because the communication range of the base station is limited to about several hundred meters, so that the same parking lot is likely if the base stations performing communication are the same.
- the periodic feature included in the parking lot data is not limited to the parking frame.
- a plurality of straight lines constituting a pedestrian crossing which is one of road surface paints, is also a periodic feature.
- the parking lot data is made up of information on obstacles such as walls acquired by a laser radar or the like, regularly arranged columns are also periodic features.
- the vehicle or human being which is a moving object is not included in the landmark, but the moving object may be included in the landmark.
- a landmark that is a moving body and a landmark other than the moving body may be stored so as to be distinguishable.
- the in-vehicle processing device 120 may identify the detected landmark in the recording phase, and record the identification result of each landmark together with the parking lot point group 124A.
- landmark identification landmark shape information and color information obtained from a captured image, and landmark three-dimensional shape information by a known motion stereo technique are used.
- the landmark is identified as a parking frame, road surface paint other than the parking frame, curbstone, guardrail, wall, and the like.
- the in-vehicle processing device 120 may include a vehicle or a human being as a landmark in the landmark, and record the identification result together with the parking lot point group 124A in the same manner as other landmarks.
- the vehicle and the person may be combined and identified as a “moving body”, or the vehicle and the person may be individually identified and recorded.
- FIGS. 1-10 A second embodiment of the in-vehicle processing device according to the present invention will be described with reference to FIGS.
- the same components as those in the first embodiment are denoted by the same reference numerals, and different points will be mainly described. Points that are not particularly described are the same as those in the first embodiment.
- the present embodiment is different from the first embodiment mainly in that a laser radar is provided instead of the camera and point cloud data of a stationary solid object is acquired.
- FIG. 14 is a configuration diagram of an automatic parking system 100A in the second embodiment.
- the automatic parking system 100 ⁇ / b> A has a configuration in which the camera 102 is excluded from the configuration of the automatic parking system 100 in the first embodiment and a laser radar 106 is added.
- the configuration of the in-vehicle processing device 120 is the same as that of the first embodiment.
- Automatic parking system 100A is provided in vehicle 1A. In the present embodiment, the shape of a stationary solid object is used as a landmark.
- the laser radar 106 measures the distance to the object based on the time from launching the laser and observing the reflected wave, and outputs the measured distance to the in-vehicle processing device 120. Further, the three-dimensional information of the landmark can be acquired by changing the laser emission direction in the vertical direction and the horizontal direction. Furthermore, the in-vehicle processing device 120 can detect the paint on the road surface based on the difference in reflectance depending on the substance.
- the in-vehicle processor 120 can recognize a person and a vehicle by two-dimensional or three-dimensional template matching using a signal obtained from the laser radar 106, and can exclude the person and the vehicle in landmark positioning. Further, when the speed of changing the distance to the object and the moving speed of the vehicle 1 do not match, it may be determined that the object is a moving object, and data relating to the moving object may be excluded in landmark positioning.
- the operation of the in-vehicle processing device 120 is the same as that of the first embodiment.
- FIG. 15 is a diagram illustrating an example of a parking lot according to the second embodiment.
- the parking lot 920 is an area surrounded by a building 921, a building 922, a guard rail 923, and a guard rail 924 that are stationary solid objects.
- the parking area of the vehicle 1 in the parking lot 920 is an area denoted by reference numeral 930.
- the parking lot data of the parking lot 920 obtained by the laser radar 106 when the vehicle 1A travels in the recording phase in advance is stored as a parking lot point group 124A.
- the vehicle 1A travels the parking lot 920 a plurality of times in the recording phase, and dense point cloud data is obtained by the merge process described above (step S509 in FIG. 3).
- the in-vehicle processing device 120 displays the point cloud data shown in FIG. 122B is obtained. Then, the in-vehicle processing device 120 calculates a correspondence relationship between the local peripheral information 122B and the parking spot point group 124A by the matching process, that is, a coordinate conversion formula between the local coordinate system and the parking lot coordinate system, and the vehicle 1A in the parking lot coordinate system. The position is estimated.
- FIG. 16B is a diagram in which the local peripheral information 122B shown in FIG. 16A is superimposed on the point group of the parking lot point group 124A using the calculated coordinate transformation formula.
- the vehicle 1A includes the laser radar 106.
- the vehicle 1A may include an ultrasonic radar instead of the laser radar 106.
- the ultrasonic radar can measure the distance to the obstacle as with the laser radar 106.
- the vehicle 1A may include an ultrasonic radar in addition to the laser radar 106.
- FIGS. 1 and 2 A third embodiment of the in-vehicle processing apparatus according to the present invention will be described with reference to FIGS.
- the same components as those in the first embodiment are denoted by the same reference numerals, and different points will be mainly described. Points that are not particularly described are the same as those in the first embodiment.
- This embodiment is different from the first embodiment mainly in that the position is estimated using an overhead image.
- FIG. 17 is a configuration diagram of an automatic parking system 100B according to the third embodiment.
- the automatic parking system 100B is mounted on the vehicle 1B.
- three cameras are added to the configuration of the automatic parking system 100 in the first embodiment. That is, the automatic parking system 100B includes a front camera 101a that is attached in front of the vehicle 1B and photographs the front of the vehicle 1B, a left camera 101b that is attached to the left side of the vehicle 1B and photographs the left side of the vehicle 1B, and the vehicle 1B.
- a right camera 101c that is attached to the right side and photographs the right side of the vehicle 1B, and a rear camera 101d that is attached to the rear of the vehicle 1B and photographs the rear of the vehicle 1B.
- the front camera 101a, the left camera 101b, the right camera 101c, and the rear camera 101d are collectively referred to as the camera 101.
- the configuration of the in-vehicle processing device 120 is the same as that of the first embodiment.
- the processing executed by the program stored in the ROM 123 is partially different.
- the storage unit 124 stores a continuous overhead image, which will be described later, as a parking lot point group 124A and local peripheral information 122B.
- the ROM 123 stores internal parameters and external parameters of the camera 101.
- the landmark positioning process in the third embodiment is the creation of a continuous overhead image described below.
- the in-vehicle processing apparatus 120 creates a bird's-eye view of the vehicle 1B as viewed from directly above by performing viewpoint conversion processing on the image captured by the camera 101.
- This viewpoint conversion process uses internal parameters and external parameters.
- the in-vehicle processing device 120 creates a first bird's-eye view image using the shot image taken at the first point, and creates a second bird's-eye view image using the shot image taken at the second point.
- the in-vehicle processing device 120 synthesizes the first overhead image and the second overhead image based on the positional relationship between the first point and the second point calculated from the outputs of the vehicle speed sensor 108 and the steering angle sensor 109. . By performing this process continuously with the movement of the vehicle 1B, a continuous bird's-eye view image in which a number of bird's-eye view images are combined is created.
- the first bird's-eye view image and the second bird's-eye view image may be synthesized so that the bird's-eye view image taken from the photographed image with the latest photographing time is always given priority, or in a specific direction based on the vehicle 1B. For example, only a bird's-eye view image in a direction corresponding to right side or 45 degrees forward may be cut out and combined.
- FIG. 18A is a diagram illustrating a traveling road of the vehicle 1B and a continuous overhead image created by the in-vehicle processing device 120.
- the vehicle 1 ⁇ / b> B traveled from the point A to the point B along the illustrated alternate long and short dash line to create a continuous overhead image.
- this continuous overhead view image is stored in the storage unit 124 as the parking lot point group 124A, when the in-vehicle processing device 120 performs the operation of the automatic parking phase, the position of the map coordinate system is estimated as follows.
- the in-vehicle processing device 120 creates a continuous overhead view image based on the outputs of the camera 101, the vehicle speed sensor 108, and the rudder angle sensor 109, and stores it in the RAM 122 as local peripheral information 122B.
- the continuous overhead view image shown in FIG. 18B that is, local peripheral information 122B was obtained.
- the in-vehicle processing device 120 calculates a correspondence relationship between the local peripheral information 122B and the parking lot point group 124A, that is, a coordinate conversion formula between the local coordinate system and the parking lot coordinate system by matching processing. Thereby, as shown in FIG.18 (c), the position of the vehicle 1A in a parking lot coordinate system is estimated.
- the following functions and effects can be obtained in addition to the functions and effects of the first embodiment. That is, since the parking spot point group 124A and the local peripheral information 122B are composed of the captured images of the camera 101, it is easy for the user to confirm the position.
- the viewpoint conversion process is performed on the captured image to create the overhead image.
- the feature point is extracted from the captured image
- the viewpoint conversion process is performed only on the extracted feature point
- the overhead image is converted to the overhead image. You may create it.
- the continuous overhead view image is composed only of feature points.
Landscapes
- Engineering & Computer Science (AREA)
- Radar, Positioning & Navigation (AREA)
- Remote Sensing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Automation & Control Theory (AREA)
- Mechanical Engineering (AREA)
- Theoretical Computer Science (AREA)
- Transportation (AREA)
- Multimedia (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Combustion & Propulsion (AREA)
- Chemical & Material Sciences (AREA)
- Aviation & Aerospace Engineering (AREA)
- Optics & Photonics (AREA)
- Electromagnetism (AREA)
- Navigation (AREA)
- Traffic Control Systems (AREA)
Abstract
車載処理装置は外乱に強い位置推定を行うことができる。車載処理装置は、物体の一部を表す点の第1座標系における座標が複数含まれる点群データが格納される記憶部と、車両の周囲の情報を取得するセンサの出力を取得するセンサ入力部と、車両の移動に関する情報を取得する移動情報取得部と、センサ入力部、および移動情報取得部が取得する情報に基づき、第2座標系における車両の位置および物体の一部を表す点の第2座標系における座標が複数含まれる局所周辺情報を生成する局所周辺情報作成部と、点群データと局所周辺情報とに基づき第1座標系と第2座標系の関係を推定し、第1座標系における車両の位置を推定する位置推定部とを備える。
Description
本発明は、車載処理装置に関する。
近年、自動車の自動運転実現に向けた活動が盛んとなっている。自動運転とは、車両周囲をカメラや超音波レーダ、レーダなどの外界センサでセンシングし、センシング結果に基づいて判断を行い、ユーザの操作なしで車両が自律的に走行するものである。この自動運転には車両の位置推定が必要となる。
特許文献1には、車両の位置を計測する位置検出手段と、車両周辺を撮影して、画像データを生成する撮像手段と、道路構成物の位置誤差に基づいて、画像データにおける道路構成物の探索範囲を設定し、当該探索範囲内を処理して前記道路構成物の位置を算出する位置算出手段と、前記位置算出手段により算出された道路構成物の位置に基づいて、前記位置検出手段により計測された車両位置を補正する自車位置補正手段と、補正後の車両位置に基づいた自動走行用の制御指令を出力する制御指令出力手段と、を備えることを特徴とする自動走行装置が開示されている。
特許文献1には外乱に関する言及はされていないが、一般に屋外環境下では様々な外乱が発生するので、外乱に強い位置推定が求められている。
本発明の第1の実施の形態によると、車載処理装置は、物体の一部を表す点の第1座標系における座標が複数含まれる点群データが格納される記憶部と、車両の周囲の情報を取得するセンサの出力を取得するセンサ入力部と、前記車両の移動に関する情報を取得する移動情報取得部と、前記センサ入力部、および前記移動情報取得部が取得する情報に基づき、第2座標系における前記車両の位置および物体の一部を表す点の前記第2座標系における座標が複数含まれる局所周辺情報を生成する局所周辺情報作成部と、前記点群データと前記局所周辺情報とに基づき前記第1座標系と前記第2座標系の関係を推定し、前記第1座標系における前記車両の位置を推定する位置推定部とを備える。
本発明によれば、車載処理装置は外乱に強い位置推定を行うことができる。
(第1の実施の形態)
以下、図1~図13を参照して、本発明にかかる車載処理装置の第1の実施の形態を説明する。
以下、図1~図13を参照して、本発明にかかる車載処理装置の第1の実施の形態を説明する。
図1は、本発明にかかる車載処理装置を含む自動駐車システム100の構成図である。自動駐車システム100は、車両1に搭載される。自動駐車システム100は、センサ群102、107~109と、入出力装置群110、111、114と、車両1を制御する制御装置群130~133と、車載処理装置120とから構成される。センサ群、入出力装置群、および制御装置群は車載処理装置120と信号線で接続され、車載処理装置120と各種データを授受する。
車載処理装置120は、演算部121と、RAM122と、ROM123と、記憶部124と、インタフェース125とを備える。演算部121はCPUである。FPGAなど他の演算処理装置で全部または一部の演算処理を実行するように構成してもよい。RAM122は読み書き込み可能な記憶領域であり、車載処理装置120の主記憶装置として動作する。RAM122には、後述するアウトライアリスト122A、および後述する局所周辺情報122Bが格納される。ROM123は読み取り専用の記憶領域であり、後述するプログラムが格納される。このプログラムはRAM122で展開されて演算部121により実行される。演算部121は、プログラムを読み込んで実行することにより、点群データ取得部121A、局所周辺情報作成部121B、および位置推定部121Cとして動作する。
記憶部124は不揮発性の記憶装置であり、車載処理装置120の補助記憶装置として動作する。記憶部124には、駐車場点群124Aが格納される。駐車場点群124Aとは、1または複数の駐車場データである。駐車場データとは、ある駐車場の位置情報、すなわち緯度・経度、駐車領域を示す座標、およびその駐車場に存在するランドマークを構成する点の座標の集合である。ランドマークについては後述する。インタフェース125は、車載処理装置120と自動駐車システム100を構成する他の機器との情報の授受を行う。
センサ群は、車両1の周囲を撮影するカメラ102と、GPS受信機107と、車速センサ108と、舵角センサ109とを含む。
カメラ102は、撮影して得られた画像(以下、撮影画像)を車載処理装置120に出力する。車載処理装置120は、カメラ102の撮影画像を用いて後述するランドマークの測位を行う。カメラ102の焦点距離や撮像素子サイズなどの内部パラメータ、および車両1へのカメラ102の取り付け位置や取り付け姿勢である外部パラメータは既知であり、ROM123にあらかじめ保存されている。車載処理装置120は、ROM123に格納された内部パラメータおよび外部パラメータを用いて、被写体とカメラ102との位置関係を算出することができる。
GPS受信機107は、衛星航法システムを構成する複数の衛星から信号を受信し、受信した信号に基づく演算によりGPS受信機107の位置、すなわち緯度および経度を算出する。なおGPS受信機107により算出される緯度および経度の精度は高精度でなくてもよく、たとえば数m~10m程度の誤差が含まれてもよい。GPS受信機107は、算出した緯度および経度を車載処理装置120に出力する。
車速センサ108、および舵角センサ109はそれぞれ、車両1の車速と舵角を測定し車載処理装置120に出力する。車載処理装置120は、車速センサ108および舵角センサ109の出力を用いて公知のデッドレコニング技術によって、車両1の移動量および移動方向を算出する。
入力装置110には、ユーザによる車載処理装置120への動作指令が入力される。入力装置110は、記録開始ボタン110Aと、記録完了ボタン110Bと、自動駐車ボタン110Cとを含む。表示装置111はたとえば液晶ディスプレイであり、車載処理装置120から出力される情報が表示される。なお、入力装置110と表示装置111とが一体として、たとえばタッチ操作に対応する液晶ディスプレイとして構成されてもよい。この場合は、液晶ディスプレイの所定の領域がタッチされることにより、記録開始ボタン110A、記録完了ボタン110B、または自動駐車ボタン110Cが押されたと判断してもよい。
通信装置114は、車両1の外部の機器と車載処理装置120とが無線で情報を授受するために用いられる。例えば、ユーザが車両1の外にいるときに、ユーザが身に着けている携帯端末と通信を行い情報を授受する。通信装置114が通信を行う対象はユーザの携帯端末に限定されない。
車両制御装置130は、車載処理装置120の動作指令に基づき、操舵装置131、駆動装置132、および制動装置133を制御する。操舵装置131は、車両1のステアリングを操作する。駆動装置132は、車両1に駆動力を与える。駆動装置132はたとえば、車両1が備えるエンジンの目標回転数を増加させることにより車両1の駆動力を増加させる。制動装置133は、車両1に制動力を与える。
(ランドマーク測位)
ランドマークとはセンサにより識別可能な特徴を有する物体であり、たとえば路面ペイントの1種である駐車枠線や、車両の走行の妨げとなる障害物である建物の壁などである。本実施の形態では、移動体である車両や人間はランドマークに含めない。車載処理装置120は、カメラ102から入力される情報に基づき、車両1の周辺に存在するランドマーク、すなわちセンサにより識別可能な特徴を有する点を検出する。以下では、外界センサ、すなわちカメラ102から入力される情報に基づくランドマークの検出を「ランドマーク測位」と呼ぶ。
ランドマークとはセンサにより識別可能な特徴を有する物体であり、たとえば路面ペイントの1種である駐車枠線や、車両の走行の妨げとなる障害物である建物の壁などである。本実施の形態では、移動体である車両や人間はランドマークに含めない。車載処理装置120は、カメラ102から入力される情報に基づき、車両1の周辺に存在するランドマーク、すなわちセンサにより識別可能な特徴を有する点を検出する。以下では、外界センサ、すなわちカメラ102から入力される情報に基づくランドマークの検出を「ランドマーク測位」と呼ぶ。
車載処理装置120は、カメラ102の撮影画像を対象に、以下のように画像認識プログラムを動作させることで駐車枠などの路面ペイントなどを検出する。駐車枠の検出は、まず入力画像からソーベルフィルタなどでエッジを抽出する。次に、たとえば白から黒への変化であるエッジの立ち上がりと、黒から白への変化であるエッジの立ち下がりのペアを抽出する。そしてこのペアの間隔が、あらかじめ定めた第1の所定の距離、すなわち駐車枠を構成する白線の太さと略一致すると、このペアを駐車枠の候補とする。同様の処理により駐車枠の候補を複数検出し、駐車枠の候補同士の間隔があらかじめ定めた第2の所定の距離、すなわち駐車枠の白線の間隔と略一致すると、それらを駐車枠として検出する。駐車枠以外の路面ペイントは以下の処理を実行する画像認識プログラムで検出される。まず入力画像からソーベルフィルタなどでエッジを抽出する。エッジ強度があらかじめ定めた一定の値よりも大きく、エッジ同士の間隔が白線の幅に相当するあらかじめ定めた距離である画素を探索することにより検出できる。
車載処理装置120はたとえば既知のテンプレートマッチングにより車両や人間を検出し、測定結果から除外する。また、以下のようにして検出した移動体を測定結果から除外してもよい。すなわち車載処理装置120は、内部パラメータおよび外部パラメータを用いて撮影画像における被写体とカメラ102との位置関係を算出する。次に車載処理装置120は、カメラ102が連続して取得した撮影画像において被写体を追跡することで車両1と被写体の相対的な速度を算出する。最後に車載処理装置120は、車速センサ108および舵角センサ109の出力を用いて車両1の速度を算出し、被写体との相対的な速度と一致しなければ被写体が移動体であると判断し、この移動体に関する情報を測定結果から除外する。
(駐車場点群124A)
図2は、記憶部124に格納される駐車場点群124Aの一例を示す図である。図2では、駐車場点群124Aとして2つの駐車場データが格納されている例を示している。1つの駐車場データは、その駐車場の位置、すなわち緯度および経度(以下、緯度経度と呼ぶ)と、駐車領域の座標と、ランドマークを構成する点の二次元平面上の座標とから構成される。駐車場の位置とは、たとえば駐車場の入り口付近、駐車場の中央付近、または駐車位置の緯度経度である。駐車領域の座標、およびランドマークを構成する点の座標は、その駐車場データに固有の座標系における座標である。以下では駐車場データにおける座標系を「駐車場座標系」と呼ぶ。駐車場座標系は、たとえば記録開始時の車両1の座標が原点とされ、記録開始時の車両1の進行方向がY軸、記録開始時の車両1の右方向がX軸とされる。駐車領域の座標は、たとえば駐車領域を矩形とした場合にその矩形領域の4つの頂点の座標として記録される。ただし、駐車領域は矩形に限定されず矩形以外の多角形や楕円形状でもよい。
図2は、記憶部124に格納される駐車場点群124Aの一例を示す図である。図2では、駐車場点群124Aとして2つの駐車場データが格納されている例を示している。1つの駐車場データは、その駐車場の位置、すなわち緯度および経度(以下、緯度経度と呼ぶ)と、駐車領域の座標と、ランドマークを構成する点の二次元平面上の座標とから構成される。駐車場の位置とは、たとえば駐車場の入り口付近、駐車場の中央付近、または駐車位置の緯度経度である。駐車領域の座標、およびランドマークを構成する点の座標は、その駐車場データに固有の座標系における座標である。以下では駐車場データにおける座標系を「駐車場座標系」と呼ぶ。駐車場座標系は、たとえば記録開始時の車両1の座標が原点とされ、記録開始時の車両1の進行方向がY軸、記録開始時の車両1の右方向がX軸とされる。駐車領域の座標は、たとえば駐車領域を矩形とした場合にその矩形領域の4つの頂点の座標として記録される。ただし、駐車領域は矩形に限定されず矩形以外の多角形や楕円形状でもよい。
(アウトライアリスト122A)
アウトライアリスト122Aには、車載処理装置120が処理対象外とする局所周辺情報122Bの点の情報が格納される。アウトライアリスト122Aは、後述するように車載処理装置120により適宜更新される。
アウトライアリスト122Aには、車載処理装置120が処理対象外とする局所周辺情報122Bの点の情報が格納される。アウトライアリスト122Aは、後述するように車載処理装置120により適宜更新される。
(局所周辺情報122B)
局所周辺情報122Bには、車載処理装置120が後述する自動駐車フェーズにおいて検出したランドマークを構成する点の座標が格納される。この座標は局所周辺情報122Bの記録を開始した際の車両1の位置および姿勢を基準に、たとえばその位置を原点とし、車両1の進行方向をY軸とし、進行方向右をX軸とする座標系である。この座標系を以下では「局所座標系」と呼ぶ。
局所周辺情報122Bには、車載処理装置120が後述する自動駐車フェーズにおいて検出したランドマークを構成する点の座標が格納される。この座標は局所周辺情報122Bの記録を開始した際の車両1の位置および姿勢を基準に、たとえばその位置を原点とし、車両1の進行方向をY軸とし、進行方向右をX軸とする座標系である。この座標系を以下では「局所座標系」と呼ぶ。
(車載処理装置120の動作概要)
車載処理装置120は、主に2つの動作フェーズ、すなわち記録フェーズと自動駐車フェーズを有する。車載処理装置120はユーザからの特別の指示がなければ自動駐車フェーズで動作する。すなわち、記録フェーズはユーザの指示で開始される。
車載処理装置120は、主に2つの動作フェーズ、すなわち記録フェーズと自動駐車フェーズを有する。車載処理装置120はユーザからの特別の指示がなければ自動駐車フェーズで動作する。すなわち、記録フェーズはユーザの指示で開始される。
記録フェーズではユーザにより車両1が運転され、車載処理装置120は車両1が備えるセンサからの情報に基づき駐車場データ、すなわち駐車場に存在する白線や障害物の情報、および駐車位置の情報を収集する。車載処理装置120は、収集した情報を駐車場点群124Aとして記憶部124に格納する。
自動駐車フェーズでは車載処理装置120により車両1が制御され、記憶部124に格納された駐車場点群124A、および車両1が備えるセンサからの情報に基づき、あらかじめ定められた駐車位置に車両1が駐車される。車載処理装置120は、センサからの情報に基づき車両1の周囲に存在する白線や障害物を検出し、駐車場点群124Aと照合することにより現在位置を推定する。すなわち車載処理装置120はGPS受信機107から得られる情報を用いることなく、駐車場座標系における車両1の現在位置を推定する。以下では記録フェーズと自動駐車フェーズを詳しく説明する。
(記録フェーズ)
ユーザは駐車場の入り口付近で記録開始ボタン110Aを押し、車載処理装置120に記録フェーズの動作を開始させる。その後ユーザは自らの運転により車両1を駐車位置まで移動させ、停車後に記録完了ボタン110Bを押し、車載処理装置120に記録フェーズの動作を終了させる。
ユーザは駐車場の入り口付近で記録開始ボタン110Aを押し、車載処理装置120に記録フェーズの動作を開始させる。その後ユーザは自らの運転により車両1を駐車位置まで移動させ、停車後に記録完了ボタン110Bを押し、車載処理装置120に記録フェーズの動作を終了させる。
車載処理装置120は、ユーザにより記録開始ボタン110Aが押されると記録フェーズの動作を開始し、ユーザにより記録完了ボタン110Bが押されると記録フェーズの動作を終了する。車載処理装置120による記録フェーズの動作は、ランドマークを構成する点群の抽出と抽出した点群の記録の2つに分けられる。
車載処理装置120による点群の抽出処理を説明する。
車載処理装置120は、ユーザにより記録開始ボタン110Aが押されると、RAM122に一時的な記録領域を確保する。そして車載処理装置120は、記録完了ボタン110Bが押されるまで以下の処理を繰り返す。すなわち車載処理装置120は、カメラ102の撮影画像に基づきランドマークを構成する点群を抽出する。また車載処理装置120は、車速センサ108および舵角センサ109の出力に基づき、カメラ102が前回撮影してから今回撮影するまでに車両1が移動した移動量および移動方向を算出する。そして車載処理装置120は、車両1との位置関係、および車両1の移動量や移動方向に基づき抽出した点群をRAM122に記録する。車載処理装置120はこの処理を繰り返す。
車両1の位置、および点群の座標は、記録座標系の座標値として記録される。「記録座標系」は、たとえば記録を開始した際の車両1の位置を原点(0、0)とし、記録開始時の車両1の進行方向(姿勢)をY軸、記録開始時の車両1の右方向をX軸とした座標系の座標値として扱われる。そのため同一の駐車場において点群を記録しても、記録を開始した際の車両1の位置や姿勢により設定される記録座標系が異なるので、異なる座標にランドマークを構成する点群が記録される。
ユーザは車両を目的の駐車位置に駐車させて記録完了ボタン110Bを操作する。車載処理装置120は、記録完了ボタン110Bが押されると現在位置を駐車位置としてRAM122に記録する。駐車位置はたとえば車両1を矩形に近似した際の四隅の座標として記録される。さらに車載処理装置120は、GPS受信機107が出力する緯度経度を駐車場の座標としてあわせて記録する。次に車載処理装置120は以下のように点群の記録処理を行う。ただし記録開始ボタン110Aが押された際にGPS受信機107が出力する緯度経度を駐車場の座標として記録してもよい。
車載処理装置120は、記録完了ボタン110Bの操作によりに記録した駐車場の座標、すなわち緯度経度が、すでに駐車場点群124Aに記録されているいずれかの駐車場の座標と略一致するか否かを判断する。両者が略一致しない場合は、車載処理装置120はRAM122に保存した点群の情報を、新たな駐車場データとして駐車場点群124Aに記録する。両者が略一致する場合は、車載処理装置120は駐車場の座標が略一致する点群の情報を1つの駐車場の点群としてマージするか否かを判断する。この判断のために車載処理装置120はまず、駐車場データに含まれる駐車位置と、RAMに記録した駐車位置が一致するように座標変換を行い、次に駐車場点群124Aの点群とRAM122に保存した点群との一致度である点群一致度を算出する。そして車載処理装置120は、算出された点群一致度が閾値よりも大きければ両者を統合すると判断し、閾値以下であれば統合しないと判断する。点群一致度の算出については後述する。
車載処理装置120は、統合しないと判断した場合はRAM122に保存した点群を新たな駐車場データとして駐車場点群124Aに記録する。車載処理装置120は、統合すると判断した場合は、駐車場点群124Aの既存の駐車場データにRAM122に保存した点群を追加する。
(記録フェーズのフローチャート)
図3は、車載処理装置120の記録フェーズの動作を表すフローチャートである。以下に説明する各ステップの実行主体は車載処理装置120の演算部121である。演算部121は、図3に示す処理を行う場合に点群データ取得部121Aとして機能する。
図3は、車載処理装置120の記録フェーズの動作を表すフローチャートである。以下に説明する各ステップの実行主体は車載処理装置120の演算部121である。演算部121は、図3に示す処理を行う場合に点群データ取得部121Aとして機能する。
ステップS501では、記録開始ボタン110Aが押されたか否かが判断される。記録開始ボタン110Aが押されたと判断する場合はステップS501Aに進み、押されていないと判断する場合はステップS501に留まる。ステップS501Aでは、RAM122に新たな記録領域を確保する。この記憶領域には、抽出した点群と車両1の現在位置が前述の記録座標系の座標で記録される。
ステップS502では、センサ群から情報を取得して前述のランドマーク測位、すなわちカメラ102の撮影画像を用いたランドマークを構成する点群の抽出を行う。続くステップS503では、カメラ102が前回撮影してから最新の撮影を行うまでの時間における車両1の移動量を推定し、RAM122に記録した記録座標系における車両1の現在位置を更新する。車両1の移動量は複数の手段により推定可能であり、たとえば前述のようにカメラ102の撮影画像における路面に存在する被写体の位置の変化から車両1の移動量を推定できる。また、GPS受信機107として誤差が小さい高精度なGPS受信機が搭載されている場合には、その出力を利用してもよい。次にステップS504に進む。
ステップS504では、ステップS502において抽出した点群を、ステップS503において更新した現在位置に基づき、記録座標系の座標としてRAM122に保存する。続くステップS505では、記録完了ボタン110Bが押されたか否かを判断し、記録完了ボタン110Bが押されたと判断する場合はステップS505Aに進み、記録完了ボタン110Bが押されていないと判断する場合はステップS502に戻る。ステップS505Aでは、GPS受信機107から車両1の現在の緯度経度を取得するとともに、駐車位置、すなわち車両1の現在位置であって車両1の四隅の記録座標系における座標を記録する。次にステップS506に進む。
ステップS506では、ステップS505Aにおいて取得した車両1の現在の緯度経度と略一致する緯度経度を有する駐車場データが、駐車場点群124Aに記録されているか否かを判断する。車両1の現在の緯度経度が駐車場点群124Aに記録されているいずれかの駐車場データの緯度経度と略一致すると判断する場合はステップS507に進み、それ以外の場合はステップS510に進む。以下では、車両1の現在の緯度経度と緯度経度が略一致すると判断された駐車場点群124Aの駐車場データをターゲット駐車場データと呼ぶ。
ステップS507では、駐車位置を基準として、RAM122に保存した点群データの座標系である記録座標系をターゲット駐車場データの点群データの座標系に変換する。すなわち、ターゲット駐車場データに含まれる駐車位置と、ステップS505Aにおいて記録した駐車位置が一致するように記録座標系と駐車場座標系の座標変換式を導出する。そしてこの座標変換式を用いて、RAM122に記録座標系で保存されたランドマークを構成する点の座標をターゲット駐車場データの駐車場座標系に変換する。
続くステップS507Aでは、RAM122に保存された点群データとターゲット駐車場データの点群一致率IBを算出する。点群一致率IBは以下の式1により算出される。
IB= 2*Din/(D1+D2) ・・・式1
IB= 2*Din/(D1+D2) ・・・式1
ただし式1において「Din」は、ステップS507において座標変換した点群データの各点と、ターゲット駐車場データの点群データの各点の距離が所定の距離以内の点の数である。また式1において「D1」はRAM122に保存された点群データにおける点の数、「D2」はターゲット駐車場データの点群データにおける点の数である。次にステップS508に進む。
ステップS508では、ステップS507Aにおいて算出した点群一致率が所定の閾値よりも大きいか否かを判断する。閾値よりも大きいと判断する場合はステップS509に進み、閾値以下であると判断する場合はステップS510に進む。
ステップS509では、マージ処理、すなわち記憶部124に格納された駐車場点群124Aのターゲット駐車場データに、ステップS507において座標変換した点群データを追加する。ステップS506またはステップS508において否定判断された場合に実行されるステップS510では、RAM122に保存した点群データ、およびステップS505Aにおいて記録した車両1の緯度経度、および駐車位置を新たな駐車場データとして駐車場点群124Aに記録する。以上で図3のフローチャートを終了する。
(自動駐車フェーズ)
ユーザが車両1を運転して駐車場点群124Aに記録されているいずれかの駐車場の付近まで移動させると、表示装置111に自動駐車可能な旨が表示される。この際にユーザが自動駐車ボタン110Cを押すと、車載処理装置120による自動駐車処理が開始される。
ユーザが車両1を運転して駐車場点群124Aに記録されているいずれかの駐車場の付近まで移動させると、表示装置111に自動駐車可能な旨が表示される。この際にユーザが自動駐車ボタン110Cを押すと、車載処理装置120による自動駐車処理が開始される。
車載処理装置120の動作をフローチャートを用いて以下説明する。
(自動駐車処理の全体フロー)
図4は、車載処理装置120の自動駐車フェーズの全体動作を表すフローチャートである。以下に説明する各ステップの実行主体は車載処理装置120の演算部121である。
図4は、車載処理装置120の自動駐車フェーズの全体動作を表すフローチャートである。以下に説明する各ステップの実行主体は車載処理装置120の演算部121である。
車載処理装置120は、まずGPS受信機107を用いて現在の緯度経度を測位し(ステップS601)、その緯度経度が、駐車場点群124Aのいずれかの駐車場データの緯度経度と略一致するか否かを判定する。換言すると車両1の位置から所定の距離以内に存在する駐車場の有無を判断する(ステップS602)。いずれかの駐車場データの緯度経度と車両1の緯度経度が略一致すると判断する場合はステップS603に進み、いずれの駐車場データの緯度経度とも略一致しないと判断する場合はステップS601に戻る。なおステップS601に戻る場合は、ユーザの運転により車両1が移動することによりステップS602において肯定判断される可能性がある。
そして車載処理装置120は、駐車場点群124Aに含まれる複数の駐車場データのうち、車両1の現在位置と略一致する緯度経度を有する駐車場データを特定する(ステップS603)。次に車載処理装置120は、初期化処理としてRAM122に格納される局所周辺情報122Bの初期化、およびRAM122に保存される車両1の現在位置の初期化を行う。具体的には従前の情報が記録されていたら消去し、新たな座標系を設定する。本実施の形態では、この座標系を局所座標系と呼ぶ。この局所座標系はステップS603Aが実行された際の車両1の位置および姿勢に基づき設定される。たとえばステップS603Aが実行された際の車両1の位置が局所座標系の原点に設定され、ステップS603Aが実行された際の向きによりX軸およびY軸が設定される。また車両1の現在位置の初期化は、車両1の現在位置が原点(0、0)に設定される。
次に、図5に示す手順により自己位置推定、すなわち車両1の駐車場座標系における位置を推定し(ステップS604)、ステップS605では自己位置が推定できたか否かを判断する。推定できたと判断する場合はステップS606に進み、推定できないと判断する場合はステップS604に戻る。
ステップS606では、車載処理装置120は表示装置111に自動駐車が可能な旨を表示し、続くステップS607ではユーザにより自動駐車ボタン110Cが押されたか否かを判断する。自動駐車ボタン110Cが押されたと判断する場合はステップS608に進んで図7に示す手順により自動駐車処理を実行し、自動駐車ボタン110Cが押されていないと判断する場合はステップS606に戻る。
図5を参照して図4のステップS604において実行される自己位置推定処理の詳細を説明する。演算部121は、図5のステップS621~S623に示す処理を行う場合に局所周辺情報作成部121Bとして機能する。
ステップS621のランドマーク測位、ステップS622の自車移動量推定、およびステップS623の局所周辺情報122Bの記録はそれぞれ、図2のステップS502~S504の処理と概ね同じである。相違点はRAM122に記憶されるデータが局所周辺情報122Bとして記録される点である。ステップS623の実行が完了すると、車載処理装置120は図6に詳細を示すマッチング処理を行う(ステップS624)。このマッチング処理では、駐車場座標系と局所座標系との対応関係、すなわち駐車場座標系と局所座標系との座標変換式が得られる。続くステップS625では車載処理装置120は、ステップS622において更新した局所座標系における車両1の座標と、ステップS625において得られた座標変換式を用いて、駐車場座標系における車両1の座標、すなわち自己位置を算出する。次にステップS626に進む。
ステップS626において車載処理装置120は、ステップS625において算出した位置の信頼性を判断する自己診断を実行する。自己診断は、例えば以下の3つの指標を用いて判断される。
第1の指標では、車速センサ108および舵角センサ109の出力を用いて公知のデッドレコニング技術によって推定した車両1の移動量と、自己位置推定によって推定された所定期間における移動量を比較し、あらかじめ定めた閾値よりも差が大きい場合は信頼度が低いと判断する。
第2の指標では、マッチング時に計算される対応点の誤差量で判断する。誤差量があらかじめ定めた閾値よりも大きい場合は信頼度が低いと判断する。
第3の指標では、類似解があるか否かの判定を実施する。得られた解から駐車枠の幅分並進するなど、類似解を探索した場合に、対応点誤差が一定以内の点が同じくらいの数あった場合は、信頼度が低いと判断する。これら3つの指標のすべてで信頼度が低いと判断されなかった場合に自己位置が推定できたと判断する。
図6を参照して図5のステップS624において実行されるマッチング処理の詳細を説明する。演算部121は、図6に示す処理を行う場合に位置推定部121Cとして機能する。
ステップS641ではRAM122に格納されたアウトライアリスト122Aを局所周辺情報122Bに対して適用し、局所周辺情報122Bに含まれる点群のうちアウトライアリスト122Aに記載された点を一時的に処理対象外とする。この適用範囲はステップS642~S653であり、ステップS654では従前にアウトライアリスト122Aに含まれていた点も対象となる。ただし図6に示すフローチャートの初回実行時にはステップS641~S643が実行できないため、ステップS650から実行を開始する。次にステップS641Aに進む。
ステップS641Aでは、最新の撮影画像から検出した点群、すなわち図5のステップS621において検出したランドマークを構成する点群の座標を、駐車場座標系の座標に変換する。この変換は、ステップS622において更新された車両1の局所座標系における位置、および前回算出した局所座標系から駐車場座標系への座標変換式を用いることにより実現される。
続くステップS642では瞬間一致度ICが算出される。瞬間一致度ICは、以下の式2により算出される。
IC= DIin/DIall ・・・式2
IC= DIin/DIall ・・・式2
ただし式2において「DIin」は、ステップS641Aにおいて駐車場座標系に変換された最新の撮影画像から検出された点群のうち、最も近い駐車場点群124Aを構成する点までの距離があらかじめ定めた閾値以下の点の数である。また式2において「DIall」は、ステップS621において検出された点群の数である。次にステップS643に進む。
ステップS643では、ステップS642において算出した瞬間一致度ICが閾値よりも大きいか否かを判断する。瞬間一致度ICが閾値よりも大きいと判断する場合はステップS650に進み、瞬間一致度ICが閾値以下であると判断する場合はステップS644に進む。
ステップS644では、駐車場点群124Aの対象となる駐車場データ、すなわち点群データから周期的な特徴、たとえば複数並んだ駐車枠を検出する。前述のように、駐車場点群に含まれる点群は画像のエッジなどを抽出して得られるので、白線の太さに相当する間隔で並ぶ点から駐車枠線を検出できる。続くステップS645では、ステップS644において周期的特徴を検出したか否かを判断し、検出したと判断する場合はステップS646に進み、検出できなかったと判断する場合はステップS650に進む。ステップS646では周期的な特徴の周期、たとえば駐車枠の幅を算出する。ここでいう駐車枠の幅とは、駐車枠を構成する白線同士の間隔である。次にステップS647に進む。
ステップS647では、前回のステップS653において算出された座標変換式を基準として、この座標変換式を複数とおりに変化させて全体一致度IWをそれぞれ算出する。座標変換式は、駐車場点群が検出した周期的特徴の整数倍ずれるように複数とおりに変化させる。全体一致度IWは、以下の式3により算出される。
IW= DWin/DWall ・・・式3
IW= DWin/DWall ・・・式3
ただし式3において「DWin」は、前述の座標変換式を用いて局所周辺情報122Bを構成する点を駐車場座標系に変換した点のうち、最も近い駐車場点群124Aを構成する点までの距離があらかじめ定めた閾値以下の点の数である。また式2において「DWall」は、ステップS621において検出された点の数である。次にステップS648に進む。
ステップS648では、ステップS647において算出した複数の全体一致度IWのうち、最大の全体一致度IWを与える座標変換式をRAM122に記憶してステップS650に進む。
ステップS650における対応付け処理、ステップS651における誤差最小化処理、およびステップS625における収束判定処理は既知の点群マッチング技術であるICP(Iterative Closest Point)アルゴリズムを利用することができる。ただしステップS650における初期値の設定は本実施の形態に特有なので詳しく説明し、他は概略のみ説明する。
ステップS643において肯定判定された場合、ステップS645において否定判定された場合、ステップS648の実行が終わった場合、またはステップS652において否定判定された場合に実行されるステップS650では、駐車場点群124Aの駐車場データに含まれる点群と局所周辺情報122Bに含まれる点群との対応付けが算出される。ステップS643またはステップS648の次に実行される場合は、局所周辺情報122Bの点群データはRAM122に記録された座標変換式を用いて座標変換された値を用いる。すなわち、ステップS643において肯定判定されてステップS650が実行される場合には、前回実行されたステップS653において算出された座標変換式が使用される。一方、ステップS648の次にステップS650が実行される場合は、ステップS648において記憶された座標変換式が使用される。次にステップS651に進む。
ステップS651では、対応点の誤差が最小となるように座標変換式が変更される。たとえば、ステップS650において対応付けられた点同士の距離の指標の和が最小となるように座標変換式が変更される。対応付けられた点同士の距離の指標の和として距離の絶対値の和を採用することができる。続くステップS652では、誤差が収束したか否かを判断し、収束したと判断する場合はステップS653に進み、収束していないと判断する場合はステップS650に戻る。続くステップS653では、最後にステップS651において変更された座標変換式をRAM122に保存してステップS654に進む。
ステップS654では、次のようにアウトライアリスト122Aを更新する。まずRAM122に格納されている既存のアウトライアリスト122Aをクリアする。次に局所周辺情報122Bの点群をステップ653において記録した座標変換式を用いて駐車場座標系に変換し、局所周辺情報122Bを構成するそれぞれの点とその点が対応する駐車場点群124Aを構成する点までの距離、すなわちユークリッド距離を算出する。そして、算出された距離があらかじめ定められた距離よりも長い場合は、その局所周辺情報122Bの点をアウトライアリスト122Aに加える。ただしこのときに、空間的に端部に位置することをアウトライアリスト122Aに加えるさらなる条件としてもよい。空間的な端部とは、記録を開始した際に取得された点など、他の点までの距離が遠い点である。以上の処理によりアウトライアリスト122Aが更新される。以上で図6のフローチャートを終了する。
図7を参照して図4のステップS608において実行される自動駐車処理の詳細を説明する。以下に説明する各ステップの実行主体は車載処理装置120である。
ステップS661では、駐車場座標系における車両1の位置を推定する。本ステップにおける処理は図4のステップS604と同様なので説明を省略する。続くステップS662では、ステップS661において推定した位置から、駐車場点群124Aに格納されている駐車位置までの走行経路を既知の経路生成手法により生成する。次にステップS663に進む。
ステップS663では、車両制御装置130を介して操舵装置131、駆動装置132、および制動装置133を制御し、ステップS662において生成した経路に沿って車両1を駐車位置まで移動させる。ただし自動駐車ボタン110Cがユーザにより押され続けている場合だけ駆動装置132に動作指令を出力してもよい。また、カメラ102の撮影画像から人物や移動車両などが抽出されたら制動装置133を動作させて車両1を停止させる。続くステップS664ではステップS661と同様に車両1の位置を推定する。続くステップS665では駐車が完了したか否か、すなわち車両1が駐車位置に到達したか否かを判断し、駐車が完了していないと判断する場合はステップS663に戻り、駐車が完了したと判断する場合は図7のフローチャートを終了する。
(動作例)
図8~図13を参照して、記録フェーズ、および自動駐車フェーズの具体的な動作を説明する。
図8~図13を参照して、記録フェーズ、および自動駐車フェーズの具体的な動作を説明する。
図8(a)は、駐車場901の一例を示す平面図である。駐車場901は建物902の周囲に設けられる。駐車場901の出入り口は図示左下が1か所だけある。図8(a)に示す四角は路面ペイントである駐車枠を表しており、ハッチングで示す駐車枠903が車両1の駐車領域(駐車が完了した際に駐車位置となる領域)である。本動作例では、ランドマークは駐車枠線のみとして説明する。本動作例では図8(a)に示すように車両1を三角形で示し、三角形の鋭角が車両1の進行方向を示す。
(動作例|記録フェーズ その1)
ユーザが駐車場901の入り口付近で記録開始ボタン110Aを押すと、車載処理装置120はランドマーク測位を開始し、駐車枠線を構成する点の座標を記録する(図3のステップS501:YES、S502~S504)。そして車両1記録完了ボタン110Bが押されるまで、図3のステップS502~S504の処理を繰り返す。
ユーザが駐車場901の入り口付近で記録開始ボタン110Aを押すと、車載処理装置120はランドマーク測位を開始し、駐車枠線を構成する点の座標を記録する(図3のステップS501:YES、S502~S504)。そして車両1記録完了ボタン110Bが押されるまで、図3のステップS502~S504の処理を繰り返す。
図8(b)は、RAM122に保存されるランドマークの点群を可視化した図である。図8(b)において、実線はRAM122に保存されたランドマークの点群を表し、破線はRAM122に保存されていないランドマークを示す。車両1のカメラ102は撮影可能な範囲に限界があるため、図8(b)に示すように車両1が駐車場901の入り口付近にいる際は駐車場901の入り口付近の駐車枠線だけが記録される。ユーザが車両1を駐車場901の奥まで移動させると、車載処理装置120は駐車場901の全体のランドマークの点群を記録することができる。
ユーザが車両1を駐車枠903の中に停車させて記録完了ボタン110Bを押すと、車載処理装置120はGPS受信機107から車両1の緯度経度を取得するとともに、車両1の四隅の座標を記録する(ステップS505:YES、S505A)。駐車場点群124Aに車両1の現在の緯度経度と略一致する緯度経度が記録されていない場合は(S506:NO)、RAM122に保存した点群を駐車場点群124Aを構成する新たなデータ、すなわち新たな駐車場データとして記録する。
(動作例|記録フェーズ その2)
別な例として、図9(a)に示す点群データが駐車場点群124Aの駐車場データとして記録されており、新たに図9(b)に示す点群データが得られた場合を説明する。図9(a)に示す点群データは、たとえば図8(a)に示した駐車場901の入り口から右寄りを走行して駐車位置まで到達した場合に得られた点群データである。図8(a)に比べて右寄りを走行したので、図9(a)に点線で示した駐車枠の点群データが取得されていない。
別な例として、図9(a)に示す点群データが駐車場点群124Aの駐車場データとして記録されており、新たに図9(b)に示す点群データが得られた場合を説明する。図9(a)に示す点群データは、たとえば図8(a)に示した駐車場901の入り口から右寄りを走行して駐車位置まで到達した場合に得られた点群データである。図8(a)に比べて右寄りを走行したので、図9(a)に点線で示した駐車枠の点群データが取得されていない。
図9(b)に示す点群データは、たとえば駐車場901の入り口から左寄りを走行して駐車位置まで到達した場合に得られた点群データである。図8(a)に比べて左寄りを走行したので、図9(b)に点線で示した駐車枠の点群データが取得されていない。また図9(b)に示す点群データは、ユーザが記録開始ボタン110Aを押した際に車両1が駐車場901と正対していなかったので、図9(a)に比べて駐車場901が傾いているように記録されている。
このような状態においてユーザが記録完了ボタン110Bを押したとき、駐車場点群124Aに車両1の現在の緯度経度と略一致する緯度経度が記録されていると判断されると(S506:YES)、図9(a)と図9(b)の駐車位置、すなわち駐車枠903を基準に座標変換が行われる(ステップS507)。そして点群一致率IBを算出し(ステップS507A)、その点群一致率IBが所定の閾値よりも大きいと判断されると(ステップS508:YES)、図9(a)に示す点群データに図9(b)に示す点群データが統合される(ステップS509)。この統合により、図9(a)では記録されていなかった図示左側の駐車枠線の点群が新たに記録されるとともに、すでに記録されていた図示右側や図示上部の駐車枠線を構成する点群は記録される点群の密度が濃くなる。
(動作例|実行フェーズ)
実行フェーズにおけるマッチング処理の動作例を説明する。この動作例では、あらかじめ駐車場点群124Aには図8(a)に示した駐車場901の全体に相当する点群データが格納されている。
実行フェーズにおけるマッチング処理の動作例を説明する。この動作例では、あらかじめ駐車場点群124Aには図8(a)に示した駐車場901の全体に相当する点群データが格納されている。
図10は、図8(a)に示す駐車場901における車両1の現在位置を示す図である。車両1は図示上方を向いている。図11~図12では、車両1の前方領域である図10において破線の丸で囲む部分の駐車枠線を示す。
図11は、車両1が図10に示した位置において撮影した画像から抽出された点群を、駐車場座標に変換したデータを示す図である。すなわち、図11に示す点群は局所周辺情報122Bのうち、最新の撮影画像から検出された点群であり図6のステップS641Aにおいて処理されたデータである。ただし図11では点ではなく破線として表している。また図11では図10との対比のために車両1もあわせて表示している。図11に示すように、車両1の左側には駐車枠線の点群データが切れ目なく存在しており、車両1の右側では駐車枠線の点群データが手前側にのみ存在する。
図12は、車両1の駐車場座標系における位置の推定が誤差を含んでいた場合における、駐車場点群124Aと図11に示した局所周辺情報122Bとの対比を示す図である。図12では、従前の位置推定がおおよそ駐車枠の幅の1つ分ずれていたため、車両1の右側に存在する局所周辺情報122Bは、駐車場点群124Aとずれが生じている。このような状態で瞬間一致度ICが算出されると(図6のステップS642)、車両1の右側の前述のずれにより瞬間一致度ICは低い値となる。この値が閾値よりも低いと判断されると(ステップS643:NO)、駐車枠を周期的な特徴として検出し(ステップS644、S645:YES)、駐車場点群124Aから駐車枠の幅が算出され(ステップS646)、駐車枠の幅の整数倍移動させて全体一致度IWが算出される(ステップS647)。
図13(a)~(c)は、図13に示した局所周辺情報122Bを駐車枠の幅の整数倍移動させた場合の駐車場点群124Aとの関係を示す図である。図13(a)~(c)ではそれぞれ、図13に示した局所周辺情報122Bは駐車枠の幅の、+1倍、0倍、―1倍だけ図示上方に移動している。図13(a)では局所周辺情報122Bが図示上側に駐車枠の幅の1つ分移動しており、局所周辺情報122Bと駐車場点群124Aとのずれが拡大している。そのため図13(a)における全体一致度IWは、移動させない場合よりも小さくなる。図13(b)では局所周辺情報122Bは移動しておらず、図12でみたように局所周辺情報122Bと駐車場点群124Aは駐車枠の幅の1つ分ずれている。図13(c)では局所周辺情報122Bが図示下側に駐車枠の幅の1つ分移動しており、局所周辺情報122Bは駐車場点群124Aと略一致している。そのため図13(c)における全体一致度IWは、移動させない場合よりも大きくなる。
局所周辺情報122Bの移動量と全体一致度IWの増減は上述する関係にあるので、図13に示す例では図13(c)に対応する全体一致度IWが最大と判断され、この移動に対応する座標変換式がRAM122に記憶される(ステップS648)。このようにして車載処理装置120は推定する位置精度を向上させる。
上述した第1の実施の形態によれば、次の作用効果が得られる。
(1)車載処理装置120は、物体の一部を表す点の第1座標系(駐車場座標系)における座標が複数含まれる点群データ(駐車場点群124A)が格納される記憶部124と、車両1の周囲の情報を取得するカメラ102の出力を取得するセンサ入力部(インタフェース125)と、車両1の移動に関する情報を取得する移動情報取得部(インタフェース125)と、センサ入力部、および移動情報取得部が取得する情報に基づき、第2座標系(局所座標系)における車両の位置および物体の一部を表す点の第2座標系(局所座標系)における座標が複数含まれる局所周辺情報122Bを生成する局所周辺情報作成部121Bと、駐車場点群124Aおよび局所周辺情報122Bに基づき駐車場座標系と局所座標系の関係を推定し、第1座標系における車両1の位置を推定する位置推定部121Cとを備える。
(1)車載処理装置120は、物体の一部を表す点の第1座標系(駐車場座標系)における座標が複数含まれる点群データ(駐車場点群124A)が格納される記憶部124と、車両1の周囲の情報を取得するカメラ102の出力を取得するセンサ入力部(インタフェース125)と、車両1の移動に関する情報を取得する移動情報取得部(インタフェース125)と、センサ入力部、および移動情報取得部が取得する情報に基づき、第2座標系(局所座標系)における車両の位置および物体の一部を表す点の第2座標系(局所座標系)における座標が複数含まれる局所周辺情報122Bを生成する局所周辺情報作成部121Bと、駐車場点群124Aおよび局所周辺情報122Bに基づき駐車場座標系と局所座標系の関係を推定し、第1座標系における車両1の位置を推定する位置推定部121Cとを備える。
車載処理装置120は、駐車場点群124Aと局所周辺情報122Bとに基づき駐車場座標系と局所座標系の座標変換式を推定し、駐車場座標系における車両1の位置を推定する。駐車場点群124Aはあらかじめ記憶部124に記憶された情報であり、局所周辺情報122Bはカメラ102、車速センサ108、および舵角センサ109の出力から生成される。すなわち車載処理装置120は、記録された点群の座標系とは異なる座標系の点群の情報を取得し、異なる座標系間の対応関係に基づいて、記録された座標系における車両1の位置を推定することができる。また車載処理装置120は、駐車場点群124Aと局所周辺情報122Bとに基づき駐車場座標系と局所座標系の座標変換式を推定するので、局所周辺情報122Bの点群データの一部にノイズが含まれていても影響を受けにくい。すなわち、車載処理装置120による車両1の位置推定は外乱に強い。
(2)位置推定部121Cは、局所周辺情報122Bを構成するそれぞれの点に対応する点を点群データの中から探索し(図6のステップS650)、対応する点同士の距離が最小になるように第1座標系と第2座標系との座標変換式を推定する(図6のステップS651)。
(3)位置推定部121Cは、点群データまたは局所周辺情報122Bを構成する点と、この点と対応する点までの距離があらかじめ定められた閾値よりも遠い局所周辺情報の点データを除外して、すなわちアウトライアリスト122Aを適用して(図6のステップS641、S653)探索および推定を行う。そのため、ノイズ成分とみなすことのできる距離が離れた点群データを計算対象から除外するので、座標変換式の精度が向上することができる。
(4)点群データ、および局所周辺情報に含まれる点は二次元空間上の座標として表される。位置推定部121Cは、対応する点同士の距離があらかじめ定められた閾値よりも遠く、かつ局所周辺情報122Bにおける空間的に端部に位置する点を除外して探索および推定を行う。
駐車場点群124Aの駐車場データに格納される点群は、ユーザが記録開始ボタン110Aを押した地点よりも駐車位置の近くのランドマークに関するものである。その地点よりも駐車領域から遠い地点で図4に示すフローチャートの動作が開始されると、駐車場データに格納されるいずれの点とも対応しない点が局所周辺情報122Bに含まれる。そのような点を含めてICP、すなわち図6のステップS650~S652の処理を行うと適切な解が得られない。そこでこれらを排除することで適切な解が得られるようにする。
(5)点群データには周期的な特徴が含まれる。位置推定部121Cは、第1座標系と第2座標系との座標変換式を推定した後に、対応する点同士の距離が短くなるように、周期的な特徴の1周期分の距離に基づき第1座標系と第2座標系との座標変換式を補正する(図6のステップS646~S648)。
一般に、点群データに周期的な特徴が含まれると、その周期に相当する距離の整数倍ずれてマッチングしやすい傾向にある。一度そのようにずれてマッチングしてしまうと、繰り返し処理の性質から正しい位置へマッチングさせることが困難である。そこで繰り返し処理の解が収束した後にその周期の整数倍ずらすことでこの問題を解決する。換言すると、繰り返し計算により大域解から周期的な特徴の数周期分ずれた局所解に陥った可能性を考慮し、前述の周期の数周期分ずらすことにより大域解、または大域解により近い局所解を得ることができる。
(6)従前に推定した第1座標系における車両の位置、センサ入力部が取得する最新の情報、および移動情報取得部が取得する最新の情報に基づき作成される第1座標系における局所周辺情報と、第1座標系における点群データとの一致度を示す指標である瞬間一致度ICが、あらかじめ定められた閾値よりも小さい場合に、位置推定部は補正を行う(図6のステップS641A~ステップS643)。そのため、図6のステップS644~S648の処理を常時実行するのではなく、その処理の必要性を検討して必要と判断される場合のみ実行する。
(7)車載処理装置120は、センサ入力部、および移動情報取得部が取得する情報に基づき、移動体を除いた物体の一部を表す点の第3座標系(記録座標系)における座標が複数含まれる第2点群データを作成して、駐車場点群124Aとして記憶部124に格納する点群データ取得部121Aを備える。そのため車載処理装置120は、車載処理装置120を搭載する車両1が走行する際に駐車場点群124Aを作成することができる。駐車場点群124Aの作成処理と車両1の位置推定処理とはランドマーク測位の点で共通しており、プログラムモジュールを共通して使用することができる。
(8)第3座標系(記録座標系)は第2点群データの作成を開始した際の車両の位置および姿勢に基づいて設定される。点群データ取得部121Aは、第2点群データの作成を開始した際の車両の位置または姿勢が異なることにより座標系が異なる複数の第2点群データが得られると、車両1の駐車位置を基準として異なる座標系の関係を推定して複数の第2点群データを統合する(図3のステップS507、S509)。そのため、点群データを取得するたびに異なる記録座標系が設定されても、複数の点群データを統合することができる。これは点群データの取得を開始する位置やその際の車両1の姿勢は様々であるが、同じ駐車位置に車両1が駐車される点に注目している。
(9)車載処理装置120は、位置推定部121Cの出力に基づき車両を駆動し、第1座標系におけるあらかじめ指定された駐車位置に車両を移動させる車両制御装置130と、車両1の位置に関する情報(緯度経度)を受信するGPS受信機107から車両1の緯度経度を取得する位置情報取得部(インタフェース125)とを備える。駐車場点群124Aを構成する点は駐車場の構成物の一部を表す点である。記憶部124には点群データの静止物からなる駐車場の緯度経度もあわせて格納される。GPS受信機107が測定する位置と駐車場の位置との距離の差があらかじめ定めた距離よりも短い場合に、車両制御装置130を用いて車両1を駐車位置に移動させる制御部、すなわち演算部121を備える。そのため車載処理装置120は、車両1に搭載されるいずれのセンサも駐車位置を直接観測できない遠方をスタート地点として、駐車場点群124Aに含まれる駐車位置へ車両1を自動駐車することができる。
上述した第1の実施の形態は、以下のように変形してもよい。
(1)車載処理装置120は、複数のカメラと接続されてもよい。車載処理装置120は、複数のカメラの撮影画像を用いることで、車両1の周辺に存在する広範囲のランドマークから点群を抽出することができる。
(2)車載処理装置120は、車速センサ108および舵角センサ109からセンシング結果を受信しなくてもよい。この場合は車載処理装置120は、カメラ102の撮影画像を用いて車両1の移動を推定する。車載処理装置120は、ROM123に格納された内部パラメータおよび外部パラメータを用いて、被写体とカメラ102との位置関係を算出する。そして複数の撮影画像においてその被写体を追跡することにより、車両1の移動量および移動方向を推定する。
(3)駐車場点群124Aや局所周辺情報122Bなどの点群情報は3次元情報として格納されてもよい。3次元の点群情報は、2次元平面上に投影することにより第1の実施の形態と同様に2次元で他の点群と比較してもよいし、3次元同士で比較してもよい。この場合は車載処理装置120は、以下のようにランドマークの三次元点群を得ることができる。すなわち、車速センサ108および舵角センサ109の出力に基づき算出した車両1の移動量と、カメラ102が出力する複数の撮影画像とを用いて、公知のモーションステレオ技術や、そのモーション推定部分を内界センサや測位センサで補正した情報を用いることで、静止立体物の3次元点群を得ることができる。
(4)車載処理装置120は、図6のステップS643において、1回だけの否定判定によりステップS644に進むのではなく、数回連続で否定判定された場合にステップS644に進んでもよい。
(5)車載処理装置120は、図6のステップS643の判断に代えて、局所周辺情報122Bにおけるアウトライアと判断されている点の割合があらかじめ定めた閾値よりも大きいか否かを判断してもよい。その割合が閾値よりも大きい場合はステップS644に進み、その割合が閾値以下の場合はステップS650に進む。さらに車載処理装置120は、図6のステップS643の判断に加えて前述の割合が大きい場合のみステップS644に進んでもよい。
(6)車載処理装置120は、図6のステップS644、S646の処理をあらかじめ行ってもよい。さらにその処理結果を記憶部124に記録してもよい。
(7)車載処理装置120は、ユーザからの動作指令を車両1の内部に設けられた入力装置110からだけでなく、通信装置114から受信してもよい。たとえばユーザの所持する携帯端末と通信装置114が通信を行い、ユーザが携帯端末を操作することにより、車載処理装置120は自動駐車ボタン110Cが押された場合と同様の動作を行ってもよい。この場合は、車載処理装置120はユーザが車両1の内部に居る場合だけでなく、ユーザが降車した後にも自動駐車を行うことができる。
(8)車載処理装置120は、駐車場点群124Aに記録された駐車位置だけでなく、ユーザにより指定された位置に駐車を行ってもよい。ユーザによる駐車位置の指定は、たとえば車載処理装置120が表示装置111に駐車位置の候補を表示し、ユーザが入力装置110によりそのいずれかを選択することにより行われる。
(9)車載処理装置120は、通信装置114を経由して外部から駐車場点群124Aを受信してもよいし、作成した駐車場点群124Aを通信装置114を経由して外部に送信してもよい。また、車載処理装置120が駐車場点群124Aを送受信する相手は他の車両に搭載された別の車載処理装置120でもよいし、駐車場を管理する組織が管理する装置でもよい。
(10)自動駐車システム100は、GPS受信機107に代えて携帯端末を備え、携帯端末が通信を行う基地局の識別情報を緯度経度の代わりに記録してもよい。基地局の通信範囲は数百m程度に限られるので、通信を行う基地局が同一であれば同一の駐車場の可能性が高いからである。
(11)駐車場データに含まれる周期的な特徴は駐車枠に限定されない。たとえば路面ペイントの1つである横断歩道を構成する複数の直線なども周期的な特徴である。また、駐車場データがレーザレーダなどで取得した、壁などの障害物の情報から構成される場合は、規則的に並んだ柱も周期的な特徴である。
(12)上述した実施の形態では移動体である車両や人間はランドマークに含めなかったが、移動体をランドマークに含めてもよい。その場合は移動体であるランドマークと移動体以外のランドマークを識別可能に記憶してもよい。
(13)車載処理装置120は、記録フェーズにおいて、検出したランドマークを識別し、それぞれのランドマークの識別結果を駐車場点群124Aに併せて記録してもよい。ランドマークの識別には、撮影画像から得られるランドマークの形状情報や色情報、さらに公知のモーションステレオ技術によるランドマークの立体形状情報が用いられる。ランドマークはたとえば、駐車枠、駐車枠以外の路面ペイント、縁石、ガードレール、壁、などのように識別される。さらに車載処理装置120は、移動体である車両や人間をランドマークに含め、他のランドマークと同様に識別結果を駐車場点群124Aに併せて記録してもよい。この場合は車両と人間をあわせて「移動体」として識別および記録してもよいし、車両と人間を個別に識別および記録してもよい。
(第2の実施の形態)
図14~図16を参照して、本発明にかかる車載処理装置の第2の実施の形態を説明する。以下の説明では、第1の実施の形態と同じ構成要素には同じ符号を付して相違点を主に説明する。特に説明しない点については、第1の実施の形態と同じである。本実施の形態では、主に、カメラに代えてレーザレーダを備え、静止立体物の点群データを取得する点で、第1の実施の形態と異なる。
図14~図16を参照して、本発明にかかる車載処理装置の第2の実施の形態を説明する。以下の説明では、第1の実施の形態と同じ構成要素には同じ符号を付して相違点を主に説明する。特に説明しない点については、第1の実施の形態と同じである。本実施の形態では、主に、カメラに代えてレーザレーダを備え、静止立体物の点群データを取得する点で、第1の実施の形態と異なる。
(構成)
図14は、第2の実施の形態における自動駐車システム100Aの構成図である。自動駐車システム100Aは、第1の実施の形態における自動駐車システム100の構成からカメラ102を除外し、レーザレーダ106を加えた構成を有する。車載処理装置120の構成は第1の実施の形態と同様である。自動駐車システム100Aは、車両1Aに備えられる。本実施の形態では、静止立体物の形状をランドマークとして用いる。
図14は、第2の実施の形態における自動駐車システム100Aの構成図である。自動駐車システム100Aは、第1の実施の形態における自動駐車システム100の構成からカメラ102を除外し、レーザレーダ106を加えた構成を有する。車載処理装置120の構成は第1の実施の形態と同様である。自動駐車システム100Aは、車両1Aに備えられる。本実施の形態では、静止立体物の形状をランドマークとして用いる。
レーザレーダ106は、レーザを発射してその反射波を観測するまでの時間に基づき対象物までの距離を測定し、車載処理装置120に測定した距離を出力する。さらにそのレーザの出射方向を上下方向、左右方向に変化させることにより、ランドマークの三次元情報を取得できる。さらに物質による反射率の違いなどに基づき、車載処理装置120は路面のペイントを検出できる。
車載処理装置120は、レーザレーダ106から得られた信号を用いて、2次元、または3次元形状のテンプレートマッチングにより人および車両を認識し、ランドマーク測位において人および車両を除外することができる。また、物体までの距離の変化速度と車両1の移動速度が一致しない場合は移動物体であると判断して、ランドマーク測位においてその移動物体に関するデータを除外してもよい。車載処理装置120の動作は第1の実施の形態と同様である。
(動作例)
図15は、第2の実施の形態における駐車場の一例を示す図である。駐車場920は、静止立体物である建物921と、建物922と、ガードレール923と、ガードレール924とに囲まれた領域である。駐車場920における車両1の駐車領域は符号930で示す領域である。
図15は、第2の実施の形態における駐車場の一例を示す図である。駐車場920は、静止立体物である建物921と、建物922と、ガードレール923と、ガードレール924とに囲まれた領域である。駐車場920における車両1の駐車領域は符号930で示す領域である。
車載処理装置120の記憶部124には、車両1Aが予め記録フェーズで走行してレーザレーダ106により得られた駐車場920の駐車場データが駐車場点群124Aとして格納されている。車両1Aは駐車場920を記録フェーズで複数回走行しており、前述のマージ処理(図3のステップS509)により密な点群データが得られている。
このような前提において、車両1Aが駐車場920に図15の上方から進行し、図15に破線で示す位置まで到達すると車載処理装置120は図16(a)に示す点群データが局所周辺情報122Bとして得られる。そして、車載処理装置120はマッチング処理により局所周辺情報122Bと駐車場点群124Aとの対応関係、すなわち局所座標系と駐車場座標系の座標変換式が算出され、駐車場座標系における車両1Aの位置が推定される。図16(b)は、算出された座標変換式を用いて図16(a)に示す局所周辺情報122Bを駐車場点群124Aの点群に重ね合わせた図である。
上述した第2の実施の形態によれば、第1の実施の形態における作用効果に加えて次の作用効果が得られる。すなわち、レーザレーダ106はカメラよりも短い周期で情報を取得できるので車載処理装置120は位置推定をより頻繁に行うことができる。
(第2の実施の形態の変形例)
上述した第2の実施の形態では車両1Aはレーザレーダ106を備えたが、レーザレーダ106に代えて超音波レーダを備えてもよい。超音波レーダはレーザレーダ106と同様に障害物までの距離を測定することができる。また車両1Aは、レーザレーダ106に加えて超音波レーダを備えてもよい。
(第2の実施の形態の変形例)
上述した第2の実施の形態では車両1Aはレーザレーダ106を備えたが、レーザレーダ106に代えて超音波レーダを備えてもよい。超音波レーダはレーザレーダ106と同様に障害物までの距離を測定することができる。また車両1Aは、レーザレーダ106に加えて超音波レーダを備えてもよい。
(第3の実施の形態)
図17~図18を参照して、本発明にかかる車載処理装置の第3の実施の形態を説明する。以下の説明では、第1の実施の形態と同じ構成要素には同じ符号を付して相違点を主に説明する。特に説明しない点については、第1の実施の形態と同じである。本実施の形態では、主に、俯瞰画像を用いて位置を推定する点で、第1の実施の形態と異なる。
図17~図18を参照して、本発明にかかる車載処理装置の第3の実施の形態を説明する。以下の説明では、第1の実施の形態と同じ構成要素には同じ符号を付して相違点を主に説明する。特に説明しない点については、第1の実施の形態と同じである。本実施の形態では、主に、俯瞰画像を用いて位置を推定する点で、第1の実施の形態と異なる。
(構成)
図17は、第3の実施の形態における自動駐車システム100Bの構成図である。自動駐車システム100Bは車両1Bに搭載される。自動駐車システム100Bは、第1の実施の形態における自動駐車システム100の構成に3つのカメラが追加されている。すなわち自動駐車システム100Bは、車両1Bの前方に取り付けられ車両1Bの前方を撮影する前カメラ101aと、車両1Bの左側方に取り付けられ車両1Bの左側方を撮影する左カメラ101bと、車両1Bの右側方に取り付けられ車両1Bの右側方を撮影する右カメラ101cと、車両1Bの後方に取り付けられ車両1Bの後方を撮影する後カメラ101dとを備える。以下では、前カメラ101a、左カメラ101b、右カメラ101c、および後カメラ101dをまとめて、カメラ101と呼ぶ。
図17は、第3の実施の形態における自動駐車システム100Bの構成図である。自動駐車システム100Bは車両1Bに搭載される。自動駐車システム100Bは、第1の実施の形態における自動駐車システム100の構成に3つのカメラが追加されている。すなわち自動駐車システム100Bは、車両1Bの前方に取り付けられ車両1Bの前方を撮影する前カメラ101aと、車両1Bの左側方に取り付けられ車両1Bの左側方を撮影する左カメラ101bと、車両1Bの右側方に取り付けられ車両1Bの右側方を撮影する右カメラ101cと、車両1Bの後方に取り付けられ車両1Bの後方を撮影する後カメラ101dとを備える。以下では、前カメラ101a、左カメラ101b、右カメラ101c、および後カメラ101dをまとめて、カメラ101と呼ぶ。
車載処理装置120の構成は第1の実施の形態と同様である。本実施の形態ではROM123に格納されるプログラムにより実行される処理が一部異なる。記憶部124には、後述する連続俯瞰画像が駐車場点群124A、および局所周辺情報122Bとして格納される。ROM123には、カメラ101の内部パラメータおよび外部パラメータが格納される。
(ランドマーク測位)
第3の実施の形態におけるランドマーク測位処理は、以下に説明する連続俯瞰画像の作成である。
第3の実施の形態におけるランドマーク測位処理は、以下に説明する連続俯瞰画像の作成である。
車載処理装置120は、カメラ101の撮影画像に視点変換処理を行うことで、車両1Bを真上から見た俯瞰画像を作成する。この視点変換処理には、内部パラメータと外部パラメータとが用いられる。車載処理装置120は、第1の地点で撮影された撮影画像を用いて第1の俯瞰画像を作成し、第2の地点で撮影された撮影画像を用いて第2の俯瞰画像を作成する。そして車載処理装置120は、車速センサ108および舵角センサ109の出力から算出される第1の地点と第2の地点の位置関係に基づき、第1の俯瞰画像と第2の俯瞰画像を合成する。この処理を車両1Bの移動とともに連続して行うことにより、多数の俯瞰画像が合成された連続俯瞰画像が作成される。
第1の俯瞰画像と第2の俯瞰画像の合成は、撮影時刻が新しい撮影画像から撮影された俯瞰画像が常に優先されるように合成してもよいし、車両1Bを基準とした特定の方向、たとえば真横や前方45度に相当する方向の俯瞰画像だけを切り出して合成してもよい。
(動作例)
図18(a)は、車両1Bの走行路、および車載処理装置120が作成した連続俯瞰画像を示す図である。図18において車両1Bは、地点Aから地点Bまで図示一点鎖線の経路を走行して連続俯瞰画像を作成した。この連続俯瞰画像が駐車場点群124Aとして記憶部124に格納されている場合に、車載処理装置120が自動駐車フェーズの動作を行うと、以下のように地図座標系の位置が推定される。
図18(a)は、車両1Bの走行路、および車載処理装置120が作成した連続俯瞰画像を示す図である。図18において車両1Bは、地点Aから地点Bまで図示一点鎖線の経路を走行して連続俯瞰画像を作成した。この連続俯瞰画像が駐車場点群124Aとして記憶部124に格納されている場合に、車載処理装置120が自動駐車フェーズの動作を行うと、以下のように地図座標系の位置が推定される。
車載処理装置120は、カメラ101、車速センサ108および舵角センサ109の出力に基づき連続俯瞰画像を作成し、局所周辺情報122BとしてRAM122に保存する。車載処理装置120は、車両1Bがある地点まで走行した際に図18(b)に示す連続俯瞰画像、すなわち局所周辺情報122Bが得られた。車載処理装置120は、マッチング処理により局所周辺情報122Bと駐車場点群124Aとの対応関係、すなわち局所座標系と駐車場座標系の座標変換式を算出する。これにより、図18(c)に示すように駐車場座標系における車両1Aの位置が推定される。
上述した第3の実施の形態によれば、第1の実施の形態における作用効果に加えて次の作用効果が得られる。すなわち、駐車場点群124Aおよび局所周辺情報122Bはカメラ101の撮影画像から構成されるので、ユーザによる位置の確認が容易である。
(第3の実施の形態の変形例1)
第3の実施の形態では、撮影画像に視点変換処理を行い俯瞰画像を作成したが、撮影画像から特徴点を抽出し、抽出された特徴点だけを対象に視点変換処理を行い、俯瞰画像を作成してもよい。この場合は、連続俯瞰画像は特徴点のみで構成されることとなる。
第3の実施の形態では、撮影画像に視点変換処理を行い俯瞰画像を作成したが、撮影画像から特徴点を抽出し、抽出された特徴点だけを対象に視点変換処理を行い、俯瞰画像を作成してもよい。この場合は、連続俯瞰画像は特徴点のみで構成されることとなる。
上述した各実施の形態および変形例は、それぞれ組み合わせてもよい。
上記では、種々の実施の形態および変形例を説明したが、本発明はこれらの内容に限定されるものではない。本発明の技術的思想の範囲内で考えられるその他の態様も本発明の範囲内に含まれる。
1、1A、1B … 車両
100、100A、100B … 自動駐車システム
102 … カメラ
107 … GPS受信機
108 … 車速センサ
109 … 舵角センサ
120 … 車載処理装置
121 … 演算部
121A … 点群データ取得部
121B … 局所周辺情報作成部
121C … 位置推定部
122A … アウトライアリスト
122B … 局所周辺情報
124 … 記憶部
124A … 駐車場点群
125 … インタフェース
130 … 車両制御装置
IB … 点群一致率
IC … 瞬間一致度
IW … 全体一致度
100、100A、100B … 自動駐車システム
102 … カメラ
107 … GPS受信機
108 … 車速センサ
109 … 舵角センサ
120 … 車載処理装置
121 … 演算部
121A … 点群データ取得部
121B … 局所周辺情報作成部
121C … 位置推定部
122A … アウトライアリスト
122B … 局所周辺情報
124 … 記憶部
124A … 駐車場点群
125 … インタフェース
130 … 車両制御装置
IB … 点群一致率
IC … 瞬間一致度
IW … 全体一致度
Claims (9)
- 物体の一部を表す点の第1座標系における座標が複数含まれる点群データが格納される記憶部と、
車両の周囲の情報を取得するセンサの出力を取得するセンサ入力部と、
前記車両の移動に関する情報を取得する移動情報取得部と、
前記センサ入力部、および前記移動情報取得部が取得する情報に基づき、第2座標系における前記車両の位置および物体の一部を表す点の前記第2座標系における座標が複数含まれる局所周辺情報を生成する局所周辺情報作成部と、
前記点群データと前記局所周辺情報とに基づき前記第1座標系と前記第2座標系の関係を推定し、前記第1座標系における前記車両の位置を推定する位置推定部とを備える車載処理装置。 - 請求項1に記載の車載処理装置において、
前記位置推定部は、前記局所周辺情報を構成するそれぞれの点に対応する点を前記点群データの中から探索し、前記対応する点同士の距離が最小になるように前記第1座標系と前記第2座標系との座標変換式を推定する車載処理装置。 - 請求項2に記載の車載処理装置において、
前記位置推定部は、前記点群データまたは前記局所周辺情報の前記点と、この点と対応する点までの距離があらかじめ定められた閾値よりも遠い前記局所周辺情報の点データを除外して、前記探索および前記推定を行う車載処理装置。 - 請求項3に記載の車載処理装置において、
前記点群データ、および前記局所周辺情報に含まれる点は二次元空間上の座標、または三次元空間上の座標として表され、
前記位置推定部は、前記対応する点同士の距離があらかじめ定められた閾値よりも遠く、かつ前記局所周辺情報における空間的に端部に位置する点を除外して前記探索および前記推定を行う車載処理装置。 - 請求項3に記載の車載処理装置において、
前記点群データには周期的な特徴が含まれ、
前記位置推定部は、前記第1座標系と前記第2座標系との座標変換式を推定した後に、前記対応する点同士の距離が短くなるように、前記周期的な特徴の1周期分の距離に基づき前記第1座標系と前記第2座標系との座標変換式を補正する車載処理装置。 - 請求項5に記載の車載処理装置において、
従前に推定した前記第1座標系における前記車両の位置、前記センサ入力部が取得する最新の情報、および前記移動情報取得部が取得する最新の情報に基づき作成される前記第1座標系における前記局所周辺情報と、前記第1座標系における前記点群データとの一致度を示す指標である瞬間一致度が、あらかじめ定められた閾値よりも小さい場合に、前記位置推定部は前記補正を行う車載処理装置。 - 請求項1に記載の車載処理装置において、
前記センサ入力部、および前記移動情報取得部が取得する情報に基づき、移動体を除いた物体の一部を表す点の第3座標系における座標が複数含まれる第2点群データを作成して前記記憶部に格納する点群データ取得部をさらに備える車載処理装置。 - 請求項7に記載の車載処理装置において、
前記第3座標系は前記第2点群データの作成を開始した際の前記車両の位置および姿勢に基づいて設定され、
前記点群データ取得部は、前記第2点群データの作成を開始した際の前記車両の位置または姿勢が異なることにより座標系が異なる複数の前記第2点群データが得られると、前記車両の駐車位置を基準として前記異なる座標系の関係を推定して前記複数の前記第2点群データを統合する車載処理装置。 - 請求項1に記載の車載処理装置において、
前記位置推定部の出力に基づき前記車両を駆動し、前記第1座標系におけるあらかじめ指定された駐車位置に前記車両を移動させる車両制御部と、
前記車両の位置に関する情報を受信する受信機から車両の位置に関する情報を取得する位置情報取得部とをさらに備え、
前記点群データを構成する点は駐車場の構成物の一部を表す点であり、
前記記憶部には前記点群データの静止物からなる駐車場の位置もあわせて格納され、
前記位置情報取得部が取得する前記位置に関する情報が示す位置と前記駐車場の位置との距離の差があらかじめ定めた距離よりも短い場合に、前記車両制御部を用いて前記車両を前記駐車位置に移動させる制御部をさらに備える車載処理装置。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US16/304,899 US11433880B2 (en) | 2016-06-29 | 2017-06-02 | In-vehicle processing apparatus |
EP17819771.1A EP3480559A4 (en) | 2016-06-29 | 2017-06-02 | IN-VEHICLE PROCESSING DEVICE |
CN201780031226.XA CN109313031B (zh) | 2016-06-29 | 2017-06-02 | 车载处理装置 |
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016-128530 | 2016-06-29 | ||
JP2016128530A JP6649191B2 (ja) | 2016-06-29 | 2016-06-29 | 車載処理装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
WO2018003406A1 true WO2018003406A1 (ja) | 2018-01-04 |
Family
ID=60785383
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
PCT/JP2017/020707 WO2018003406A1 (ja) | 2016-06-29 | 2017-06-02 | 車載処理装置 |
Country Status (5)
Country | Link |
---|---|
US (1) | US11433880B2 (ja) |
EP (1) | EP3480559A4 (ja) |
JP (1) | JP6649191B2 (ja) |
CN (1) | CN109313031B (ja) |
WO (1) | WO2018003406A1 (ja) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111845716A (zh) * | 2019-04-26 | 2020-10-30 | 现代摩比斯株式会社 | 停车辅助装置和方法、及车辆 |
EP3805702A4 (en) * | 2018-05-30 | 2022-03-16 | Clarion Co., Ltd. | INFORMATION PROCESSING DEVICE |
EP3845424A4 (en) * | 2018-08-29 | 2022-06-15 | Faurecia Clarion Electronics Co., Ltd. | ON-BOARD PROCESSING DEVICE |
US11519736B2 (en) * | 2017-05-19 | 2022-12-06 | Pioneer Corporation | Measurement device, measurement method and program |
Families Citing this family (23)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6838522B2 (ja) * | 2017-08-10 | 2021-03-03 | トヨタ自動車株式会社 | 画像収集システム、画像収集方法、画像収集装置、および記録媒体 |
JP6997057B2 (ja) * | 2018-09-07 | 2022-01-17 | Kddi株式会社 | 不動物体情報から端末位置を推定する装置、プログラム及び方法 |
JP7212486B2 (ja) * | 2018-09-26 | 2023-01-25 | フォルシアクラリオン・エレクトロニクス株式会社 | 位置推定装置 |
JP7135690B2 (ja) * | 2018-10-04 | 2022-09-13 | ソニーグループ株式会社 | 情報処理装置および方法、プログラム、並びに移動体制御システム |
US11841437B2 (en) | 2018-10-12 | 2023-12-12 | Baidu Usa Llc | Automatic lidar calibration based on pre-collected static reflection map for autonomous driving |
US20200132473A1 (en) * | 2018-10-26 | 2020-04-30 | Ford Global Technologies, Llc | Systems and methods for determining vehicle location in parking structures |
JP7218172B2 (ja) * | 2018-12-25 | 2023-02-06 | フォルシアクラリオン・エレクトロニクス株式会社 | 車載処理装置、及び車載処理装置の制御方法 |
JP7227763B2 (ja) * | 2018-12-28 | 2023-02-22 | フォルシアクラリオン・エレクトロニクス株式会社 | 車載処理装置、位置推定方法、出庫システム |
JP7176421B2 (ja) * | 2019-01-25 | 2022-11-22 | トヨタ自動車株式会社 | 駐車支援装置 |
WO2020154964A1 (en) * | 2019-01-30 | 2020-08-06 | Baidu.Com Times Technology (Beijing) Co., Ltd. | A point clouds registration system for autonomous vehicles |
JP7393128B2 (ja) * | 2019-03-20 | 2023-12-06 | フォルシアクラリオン・エレクトロニクス株式会社 | 車載処理装置、移動支援システム |
CN112116654B (zh) * | 2019-06-20 | 2024-06-07 | 杭州海康威视数字技术股份有限公司 | 一种车辆位姿确定方法、装置及电子设备 |
JP7269804B2 (ja) * | 2019-07-02 | 2023-05-09 | 日立Astemo株式会社 | 自動駐車システムおよび自動駐車方法 |
JP7421923B2 (ja) * | 2019-12-23 | 2024-01-25 | フォルシアクラリオン・エレクトロニクス株式会社 | 位置推定装置、及び位置推定方法 |
JP7092741B2 (ja) * | 2019-12-25 | 2022-06-28 | 財団法人車輌研究測試中心 | 自己位置推定方法 |
US11590966B2 (en) * | 2019-12-31 | 2023-02-28 | Hyundai Motor Company | System and method for supporting automated valet parking, and infrastructure and vehicle therefor |
US11037328B1 (en) | 2019-12-31 | 2021-06-15 | Lyft, Inc. | Overhead view image generation |
JP7412234B2 (ja) | 2020-03-13 | 2024-01-12 | フォルシアクラリオン・エレクトロニクス株式会社 | 駐車情報管理サーバ、駐車支援装置及び駐車支援システム |
US11928406B2 (en) * | 2020-07-02 | 2024-03-12 | Ford Global Technologies, Llc | Systems and methods for creating infrastructure models |
CN111812698A (zh) * | 2020-07-03 | 2020-10-23 | 北京图森未来科技有限公司 | 一种定位方法、装置、介质和设备 |
CN112859088B (zh) * | 2021-01-04 | 2022-11-11 | 北京科技大学 | 一种基于三维雷达的车辆位置信息获取方法及系统 |
CN112863234B (zh) * | 2021-01-05 | 2022-07-01 | 广州小鹏自动驾驶科技有限公司 | 一种车位显示方法、装置、电子设备及存储介质 |
CN115235525B (zh) * | 2021-12-07 | 2023-05-23 | 上海仙途智能科技有限公司 | 传感器检测方法、装置、电子设备及可读储存介质 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005265494A (ja) * | 2004-03-17 | 2005-09-29 | Hitachi Ltd | 車両位置推定装置およびこれを用いた運転支援装置 |
JP2006072431A (ja) * | 2004-08-31 | 2006-03-16 | Matsushita Electric Ind Co Ltd | 自動駐車システム |
JP2007534041A (ja) * | 2003-09-23 | 2007-11-22 | ダイムラークライスラー・アクチェンゲゼルシャフト | 車両用の車線変更運転認識方法及び装置 |
JP2010070012A (ja) * | 2008-09-17 | 2010-04-02 | Toyota Motor Corp | 車線認識装置 |
Family Cites Families (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6321158B1 (en) * | 1994-06-24 | 2001-11-20 | Delorme Publishing Company | Integrated routing/mapping information |
CA2280677A1 (en) | 1998-08-31 | 2000-02-29 | Delorme Publishing Company, Inc. | Integrated routing/mapping information system |
JP5157067B2 (ja) | 2006-01-06 | 2013-03-06 | トヨタ自動車株式会社 | 自動走行用マップ作成装置、及び自動走行装置。 |
GB201116959D0 (en) * | 2011-09-30 | 2011-11-16 | Bae Systems Plc | Vehicle localisation with 2d laser scanner and 3d prior scans |
US8897826B2 (en) * | 2012-01-05 | 2014-11-25 | Tara Chand Singhal | System and method for a cellular communication networks originated 911 call emergency response system |
GB2501466A (en) * | 2012-04-02 | 2013-10-30 | Univ Oxford | Localising transportable apparatus |
US9062979B1 (en) * | 2013-07-08 | 2015-06-23 | Google Inc. | Pose estimation using long range features |
US8886387B1 (en) * | 2014-01-07 | 2014-11-11 | Google Inc. | Estimating multi-vehicle motion characteristics by finding stable reference points |
-
2016
- 2016-06-29 JP JP2016128530A patent/JP6649191B2/ja active Active
-
2017
- 2017-06-02 EP EP17819771.1A patent/EP3480559A4/en active Pending
- 2017-06-02 WO PCT/JP2017/020707 patent/WO2018003406A1/ja unknown
- 2017-06-02 US US16/304,899 patent/US11433880B2/en active Active
- 2017-06-02 CN CN201780031226.XA patent/CN109313031B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007534041A (ja) * | 2003-09-23 | 2007-11-22 | ダイムラークライスラー・アクチェンゲゼルシャフト | 車両用の車線変更運転認識方法及び装置 |
JP2005265494A (ja) * | 2004-03-17 | 2005-09-29 | Hitachi Ltd | 車両位置推定装置およびこれを用いた運転支援装置 |
JP2006072431A (ja) * | 2004-08-31 | 2006-03-16 | Matsushita Electric Ind Co Ltd | 自動駐車システム |
JP2010070012A (ja) * | 2008-09-17 | 2010-04-02 | Toyota Motor Corp | 車線認識装置 |
Non-Patent Citations (1)
Title |
---|
See also references of EP3480559A4 * |
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11519736B2 (en) * | 2017-05-19 | 2022-12-06 | Pioneer Corporation | Measurement device, measurement method and program |
US11828603B2 (en) | 2017-05-19 | 2023-11-28 | Pioneer Corporation | Measurement device, measurement method and program |
EP3805702A4 (en) * | 2018-05-30 | 2022-03-16 | Clarion Co., Ltd. | INFORMATION PROCESSING DEVICE |
US11560160B2 (en) | 2018-05-30 | 2023-01-24 | Faurecia Clarion Electronics Co., Ltd. | Information processing apparatus |
EP3845424A4 (en) * | 2018-08-29 | 2022-06-15 | Faurecia Clarion Electronics Co., Ltd. | ON-BOARD PROCESSING DEVICE |
CN111845716A (zh) * | 2019-04-26 | 2020-10-30 | 现代摩比斯株式会社 | 停车辅助装置和方法、及车辆 |
US11904939B2 (en) | 2019-04-26 | 2024-02-20 | Hyundai Mobis Co., Ltd. | Apparatus and method for supporting parking |
CN111845716B (zh) * | 2019-04-26 | 2024-04-05 | 现代摩比斯株式会社 | 停车辅助装置和方法、及车辆 |
Also Published As
Publication number | Publication date |
---|---|
CN109313031B (zh) | 2022-09-30 |
EP3480559A4 (en) | 2020-07-29 |
JP2018004343A (ja) | 2018-01-11 |
US20190291721A1 (en) | 2019-09-26 |
JP6649191B2 (ja) | 2020-02-19 |
EP3480559A1 (en) | 2019-05-08 |
CN109313031A (zh) | 2019-02-05 |
US11433880B2 (en) | 2022-09-06 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
WO2018003406A1 (ja) | 車載処理装置 | |
WO2018131258A1 (ja) | 車載処理装置 | |
CN112204348B (zh) | 信息处理装置 | |
CN110945578B (zh) | 车载处理装置 | |
US12103517B2 (en) | In-vehicle processing device and movement support system | |
JP7132037B2 (ja) | 車載処理装置 | |
JP7538640B2 (ja) | 俯瞰画像生成装置、俯瞰画像生成システム及び自動駐車装置 | |
JP7227763B2 (ja) | 車載処理装置、位置推定方法、出庫システム | |
JP2020073931A (ja) | 情報処理装置、制御方法、プログラム及び記憶媒体 | |
WO2023037570A1 (ja) | 車載処理装置、車両制御装置、及び自己位置推定方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
121 | Ep: the epo has been informed by wipo that ep was designated in this application |
Ref document number: 17819771 Country of ref document: EP Kind code of ref document: A1 |
|
NENP | Non-entry into the national phase |
Ref country code: DE |
|
ENP | Entry into the national phase |
Ref document number: 2017819771 Country of ref document: EP Effective date: 20190129 |