Nothing Special   »   [go: up one dir, main page]

CN107845104B - 一种检测超车车辆的方法、相关处理系统、超车车辆检测系统以及车辆 - Google Patents

一种检测超车车辆的方法、相关处理系统、超车车辆检测系统以及车辆 Download PDF

Info

Publication number
CN107845104B
CN107845104B CN201710170251.8A CN201710170251A CN107845104B CN 107845104 B CN107845104 B CN 107845104B CN 201710170251 A CN201710170251 A CN 201710170251A CN 107845104 B CN107845104 B CN 107845104B
Authority
CN
China
Prior art keywords
vehicle
distance
host vehicle
optical flow
flow data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201710170251.8A
Other languages
English (en)
Other versions
CN107845104A (zh
Inventor
N·I·瓜尔内里
A·R·布鲁纳
G·斯潘皮纳托
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
STMicroelectronics SRL
Original Assignee
STMicroelectronics SRL
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by STMicroelectronics SRL filed Critical STMicroelectronics SRL
Publication of CN107845104A publication Critical patent/CN107845104A/zh
Application granted granted Critical
Publication of CN107845104B publication Critical patent/CN107845104B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/215Motion-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • G06V20/584Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads of vehicle lights or traffic lights
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W30/00Purposes of road vehicle drive control systems not related to the control of a particular sub-unit, e.g. of systems using conjoint control of vehicle sub-units
    • B60W30/08Active safety systems predicting or avoiding probable or impending collision or attempting to minimise its consequences
    • B60W30/095Predicting travel path or likelihood of collision
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/246Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/60Analysis of geometric attributes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/588Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • G08G1/166Anti-collision systems for active traffic, e.g. moving vehicles, pedestrians, bikes
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • G08G1/167Driving aids for lane monitoring, lane changing, e.g. blind spot detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30244Camera pose
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Geometry (AREA)
  • Mechanical Engineering (AREA)
  • Transportation (AREA)
  • Automation & Control Theory (AREA)
  • Traffic Control Systems (AREA)
  • Image Analysis (AREA)
  • Walking Sticks, Umbrellas, And Fans (AREA)
  • Jib Cranes (AREA)

Abstract

本公开涉及一种检测超车车辆的方法、相关处理系统、超车车辆检测系统以及车辆,该方法包括以下步骤:‑接收来自安装在主车辆上的相机的图像序列;‑处理该图像序列以便生成光流数据,该光流数据包括与该图像序列中的对应特征相关联的运动向量的列表;‑分析该光流数据以便基于这些运动向量的方向对它们进行分组,由此确定第一光流数据集以及第二光流数据集;‑根据该第一光流数据集中的这些运动向量来计算消失点;‑确定这些图像的中心位置;‑根据该消失点到这些图像的该中心位置的距离来计算摇摄和倾斜信息。

Description

一种检测超车车辆的方法、相关处理系统、超车车辆检测系统 以及车辆
技术领域
本公开的实施例总体上涉及一种用于检测超车车辆的技术,更具体地,涉及检测超车车辆的方法、相关处理系统、超车车辆检测系统以及车辆。
背景技术
在最近十年中,汽车公司已经在与自动驾驶员辅助系统(ADAS)的许多方面相关的创新中进行了大量投资。由于对汽车智能系统的越来越多的关注,已经在新硬件和软件设备方面做出了许多努力。
例如,现代汽车出于不同目的可以使用后置、前置和/或侧置相机。一些最流行的应用是:交叉路口警报(CTA)、车道偏离警示(LDW)、碰撞避免(CA)以及盲点检测(BSD)。不同的ADAS解决方案在不同的道路场景中可能是有利地。例如,CTA可能在其中其他车辆可以穿过道路的城市道路环境中是有用的。相反,LDW或BSD可能在其中车辆达到高速并且驾驶员的短暂的分心就能导致事故的高速公路上是有用的。
通常,这些系统使用一个或多个用于监测车辆环境的传感器。例如,可以采用基于相机的系统来进行车辆监视、自动导航、交通标志识别和/或行人跟踪。可以使用基于雷达的系统来测量车辆间的距离以避免碰撞,并且基于远红外线的系统能够检测诸如动物和行人等有生命的对象。通常以不同的数量和组合来使用这些传感器以便实现各种系统。
图1示出了针对待使用的超车车辆检测系统(例如,在BSD系统中)的可能的解决方案。
在所考虑的示例中,至少一个相机10被放置在车辆2(比如,汽车、卡车或摩托车)的一个或两个侧视/后视镜20a和20b的附近(例如,其上)。安排相机10以监测相对于车辆2的后面和/或侧面的道路情况。
在这种背景下,一般的道路情境是车辆2超越前面的汽车,并且在这种情况下,即使已经存在超车车辆4,短暂地分心或注意力不集中可能导致驾驶员采取这个动作,从而导致严重的事故。
因此,由相机10提供的图像可以用于自动地分析道路情景的各个区域100a/100b,并且因此当另一辆车辆4超车时生成被适配成用于警告驾驶员的警告信号。
例如,如图2所示,典型的检测系统可以包括生成图像IMG的相机10、处理系统30以及警报设备12,比如,视觉、声音和/或触觉致动器。例如,通过分析图像IMG,处理系统30可以生成用于驱动致动器12的警告信号WARN,例如以便启动经由一些种类的显示装置(比如,一个或多个LED)所示的发光指示,该显示装置被安排在例如各个镜20a/20b的附近。
发明内容
考虑到上述情况,本公开的各个实施例的目标是提供用于检测超车车辆的解决方案。
根据一个或多个实施例,通过一种具有随后权利要求书中具体阐述的特征的检测超车车辆的方法来实现以上目标中的一个或多个。此外,实施例涉及一种相关处理系统、超车车辆检测系统以及车辆。
权利要求书是在此提供的公开的技术教导的整体部分。
如在前面所提到的,本公开的各个实施例涉及超车车辆检测系统。
在各个实施例中,该系统接收来自被适配成用于安装在主车辆上的相机的图像序列,其中,该相机具有给定焦距。
在各个实施例中,该系统处理该图像序列以便生成光流数据,该光流数据包括与该图像序列中的对应特征相关联的运动向量的列表。
在各个实施例中,该系统分析光流数据以便基于这些运动向量的方向对它们进行分组,由此确定:第一光流数据集,该第一光流数据集包括与偏离主车辆的特征相关的运动向量;以及第二光流数据集,该第二光流数据集包括与接近主车辆的特征相关的运动向量。
在各个实施例中,该系统根据第一光流数据集中的运动向量来计算消失点。
在各个实施例中,该系统确定图像的中心位置并且根据消失点到中心位置的距离来计算摇摄和倾斜信息。
在各个实施例中,该系统通过根据第二光流数据集中的运动向量的位置和它们的长度和/或方向对这些运动向量进行分组来确定接近主车辆的一个或多个对象,由此识别超车车辆。例如,在各个实施例中,通过对具有相似位置和相似长度和/或方向的运动向量进行聚类,确定接近主车辆的一个或多个对象。
在各个实施例中,该系统确定接近主车辆的对象中的每一个对象到主车辆的距离。具体地,在各个实施例中,该系统根据对应对象在该图像序列的最后一个图像中的位置、相机的焦距以及摇摄和倾斜信息来确定这些距离。在各个实施例中,该系统也可以考虑相机的安装高度。例如,在各个实施例中,该系统首先根据对应对象在最后一个图像中的位置、焦距和高度来确定接近主车辆的每个对象的距离。接下来,该系统基于摇摄和倾斜信息来校正这个距离。
在各个实施例中,该系统根据这些距离确定警告信号。例如,在各个实施例中,将这些距离与一个或多个阈值进行比较。更具体地,在各个实施例中,该系统还针对前一帧确定接近主车辆的每个对象的距离,并且针对这些对象中的每一个,根据对应对象的距离以及前一帧中对应对象的距离,确定至少一个对应阈值。
附图说明
现在将参照附图对本公开的实施例进行描述,这些实施例仅以非限制性示例的方式提供,并且其中:
-图1和图2在前面已被描述;
-图3示出了根据本公开用于检测超车车辆的系统的实施例;
-图4示出了基于光流数据用于检测超车车辆的方法的实施例;
-图5、图6、图7、图8、图9、图10、图11a、图11b和图11c示出了图4的方法的细节。
具体实施方式
在以下描述中,给出了很多特定细节,以提供对实施例的全面理解。在没有一个或几个特定细节或者利用其他方法、部件、材料等的情况下,可以实践这些实施例。在另一个实例中,没有详细示出或描述众所周知的结构、材料或操作,以避免混淆这些实施例的方面。
贯穿本说明书所提到的“一个实施例”或“实施例”是指与该实施例相关联地描述的具体特征、结构或特性被包括在至少一个实施例中。因此,贯穿本说明书,短语“在一个实施例中”或“在实施例中”在各种场合中的出现并不一定都是指相同的实施例。另外,特定特征、结构或特性可以以任何合适的方式组合在一个或多个实施例中。
在此给予的小标题仅为了方便起见,而并非解释这些实施例的范围或意义。
在以下图3至图11的部分,已经参照图1和图2所描述的元件或部件由之前在这些附图中使用的相同的参考号表示;下文将不会对这种之前所描述的元件进行重复描述,以便不使本具体实施方式的负担过重。
如在前面所提到的,本公开的各种实施例涉及用于通过固定到主车辆2的一个或多个相机10来检测超车车辆4的解决方案。相应地,在此所描述的解决方案可以用在图1中所示的系统中(例如,在盲点检测(BSD)系统中),并且将不再再次分别进行重复描述。
在各个实施例中,通过评估车辆4到主车辆2的距离来检测处于超车阶段的车辆4,并且根据估算距离来警告驾驶员。
在各个实施例中,处理由一个或多个相机提供的图像以提取运动向量,即,该系统可以基于从场景中所提取的运动向量来排他的确定超车车辆。
图3示出了被配置成用于检测超车车辆4的系统的实施例。
如在前面所提到的,这种系统包括适于采用以下方式被固定到车辆2的至少一个相机10,其方式为使得相机10可以监测车辆2的后面和/或侧面的道路情况。因而,在使用中,相机10将提供图像序列/帧IMG(即,视频流)以显示车辆2的后面和/或侧面的道路情况。例如,在各个实施例中,相机10可以是意法半导体有限公司的具有1.3兆像素的VG6640影像传感器。
在所考虑的实施例中,该系统还包括处理系统30a,该处理系统被配置成用于接收该图像序列IMG并处理该图像IMG以便检测超车车辆。
在所考虑的实施例中,处理系统30a还被配置成用于生成指示已经检测到超车车辆4的警告信号WARN。例如,信号WARN可以用于启动视觉和/或声音指示符12。通常,信号WARN还可以用于驱动其他致动器(比如,触觉致动器),例如以便在方向盘或驾驶员的座位上等生成震动。
如之前所提到的,在各个实施例中,处理系统30a仅基于图像IMG生成信号WARN并且不进一步使用传感器。然而,通常,在此公开的解决方案还可以结合其他数据(比如,来自超声波和/或雷达距离传感器的数据)以便改进检测。
在各个实施例中,利用图像信号处理器(ISP)(比如,意法半导体有限公司的STV0991处理器)来实现处理系统30a。例如,此图像处理器不仅具有用于来自拜耳图像的图像重建的经典管线,还包括例如用于嵌入式视频分析(包括光流(OF)和边缘数据提取)的硬件图像处理核。更具体地,此处理器包括嵌入式ARM CPU,由此允许执行附加软件代码,该附加软件代码用于在单个图像信号处理器内实现完整的处理系统30a。
相应地,系统30a可以独立于车辆2的引擎控制单元(ECU)而工作。然而,一些处理的结果(比如,信号WARN)还可以从处理系统30a被馈送到车辆2的ECU。出于这一目的,处理系统30a可以例如经由CAN(控制器局域网)总线连接到车辆2的ECU。
通常,多个相机10也可以被固定到同一车辆2,由此允许对车辆1周围的不同区域100a/100b进行监测。例如,通常至少两个相机10安装在车辆2的侧面,例如,在侧视/后视镜的附近。在这种情况下,可以使用单个处理系统30a,或者各个处理系统30a可以与每个相机10相关联。例如,后者情况是有利的,以便以直接提供信号WARN的集成智能相机的形式实现嵌入式系统,即,相机10和处理系统30a可以被集成在单个封装体内。
在各个实施例中,处理系统30a包括两个子模块。
第一模块302被配置成用于分析由相机10提供的图像IMG,以便生成光流数据OF。例如,在各个实施例中,数据OF包括运动向量(MV)的集合或列表,该运动向量指示与先前图像/帧相比的当前图像/帧中的对应特征的运动。如之前所提到的,在各个实施例中,在硬件中计算光流数据OF,由此允许具有30fps的实时处理。通常,光流数据OF的计算,尤其是运动向量的计算在本领域内众所周知,在此没必要进行更详细的描述。
第二模块304接收来自模块302的光流数据OF并且处理该数据OF。例如,模块302可以将数据OF存储在存储器(比如,双端口RAM)中,并且模块304可以访问相同的存储器位置以便读取数据OF。具体地,模块304被配置成用于处理光流数据OF以便确定信号WARN。
在各个实施例中,模块304是例如通过处理器来执行的软件模块,例如,该处理器还包括(硬件)模块302。
图4示出了在模块304内实现的用于检测超车车辆的方法的实施例。
在所考虑的实施例中,模块304接收已经由模块302估算的光流数据OF(例如,运动向量MV)。例如,如在前面所提到的,模块304可以访问双端口RAM中的给定位置。
例如,图5示出了从相机10获得的可能的IMG。在所考虑的示例中,图像IMG包含示出车辆2的侧部的非常固定的部分以及示出车辆2的周围环境的动态部分。具体地,此环境可以包括道路特征,比如,沿该道路的对象50a(例如,树、灌木丛、护栏、交通标志等)和/或车道标记50b。在示例性图像IMG中还显示了超车车辆4。
图6示出了在这种背景下的图像IMG’的放大视图IMG’,该放大视图可以例如通过裁剪图像IMG的一部分而获得。此外,图6示出了由模块302通过分析该图像序列IMG或IMG’所确定的一些可能的运动向量MV。
在各个实施例中,模块304在步骤或框3042过滤光流数据OF,以便确定光流数据OF的两个子集:
-光流数据OFZO的第一集合,该光流数据OFZO的第一集合涉及道路特征50a/50b,即,图像IMG中偏离主车辆2的特征,以及
-光流数据OFZI的第二集合,该光流数据OFZI的第二集合涉及比车辆2更快的对象(比如,超车车辆4),即,图像IMG中接近主车辆2的特征。
在各个实施例中,该过滤基于运动向量MV的方向。
例如,图7示出了用于选择光流数据的上述集合的第一实施例。
具体地,在所考虑的实施例中,基于运动向量MV的角度α,例如,相对于水平轴x(或替代的垂直轴y),对光流数据进行分组。
例如,在运动向量的角度在第一角度α1与第二角度α2之间的情况下,各个运动向量MVZI被分配到光流数据OFZI的第二集合。类似地,在运动向量的角度在第三角度α3与第四角度α4之间的情况下,各个运动向量MVZO被分配到光流数据OFZO的第一集合。
在各个实施例中,忽视其他运动向量MV并且在进一步处理中不再考虑。
例如,在各个实施例中,当运动向量的角度在α1=-45°(即,+315°)与α2=+45°之间时,运动向量指向远离主车辆2并且运动向量被分配到光流数据OFZI的第二集合。类似地,当运动向量的角度在α3=+135°与α4=+225°之间时,运动向量指向主车辆2并且运动向量被分配到光流数据OFZO的第一集合。
在各个实施例中,使用运动向量的梯度和方向(例如,相对于x方向)来替代角度。例如,在这种情况下,当梯度在-1与+1之间时,运动向量可以被分配到光流数据OFZI的第二集合,并且运动向量指向远离主车辆2,即在x方向具有正值。类似地,当梯度在-1与+1之间时,运动向量可以被分配到光流数据OFZO的第一集合,并且运动向量指向主车辆2,即在x方向具有负值。
通常,模块304还可以考虑运动向量MV的起始点,即,图像IMG/IMG’中各个特征的位置,例如以便进一步减小运动向量的角度/梯度的范围。
例如,图8示出了实施例,其中,模块304将对光流数据OFZO的第一集合的选择限制到图像IMG/IMG’中给定区域AZO中的运动向量。例如,在各个实施例中,这个区域AZO对应于图像IMG/IMG’的一部分,其中通常可以看到护栏和车道标记。在这种情况下,还可以进一步减小角度/梯度的范围,例如以便仅选择与区域AZO相关并且具有例如在α3=+135°与α4=+190°之间的角度的那些运动向量MV。
类似地,模块304可以将对光流数据OFZI的第二集合的选择限制到图像IMG/IMG’中给各个区域中的运动向量,期待该图像IMG/IMG’包括超车车辆。
本领域技术人员将理解,当相机安装在车辆2的另一侧时,以上行为必须被镜像。事实上,通常:
-光流数据OFZO的第一集合包括运动向量MVZO,该运动向量MVZO指向主车辆2的方向并且与道路特征50a/50b相关,即,图像IMG中偏离主车辆2的特征,并且
-光流数据OFZI的第二集合包括运动向量MVZI,该运动向量MVZI指向远离主车辆2并且与比车辆2更快的车辆4有关,即,图像IMG中接近主车辆2的特征。
在所考虑的各个实施例中,经过滤的光流数据被步骤或框3044使用,以便计算图像IMG/IMG’中的消失点(VP)。
具体地,在各个实施例中,根据属于光流数据OFZO的第一集合的运动向量MVZO来计算消失点VP。例如,可以参考文档2009年,CVPR,第96–103页,KONG,H.、AUDIBERT,J.-Y.和PONCE,J.的“Vanishing point detection for road detection(用于道路检测的消失点检测)”,或者文档DE 10 2014 209 137或US 5,777,690,出于计算消失点的目的这些文档通过引用结合于此。
例如,图9示出了实施例,其中,模块3044针对属于光流数据OFZO的第一集合的每个运动向量MVZO生成沿其方向的线。
在各个实施例中,模块3044确定这些线中的交点IP,并且该模块例如通过计算当前图像IMG中的交点IP的平均x位置和平均y位置,确定所有交点IP的平均位置。在各个实施例中,模块304将所有交点IP的这个平均位置用作当前消失点VP。
在各个实施例中,模块3044还可以在多个随后的图像/帧上执行时间平均位置,由此允许到达稳定的平均消失点VP位置。例如,时间平均方法允许处理可能被错误地包括在缩小集合中的离群点OF。
通常,例如在校准阶段期间当相机10和处理系统30a被首次固定到车辆2时,可以周期性地或甚至连续地执行一次(平均)消失点的计算。
在各个实施例中,(平均)消失点被两个步骤或框3046和3048使用,以便分别计算倾斜和摇摄信息。
整体上,图11a示出了用于相机10的可能的参考系统。
具体地,在所考虑的实施例中,x和y方向对应于图像IMG的图像平面,并且z方向是地轴。
相应地,通常,相机10可以相对于x轴(倾斜)旋转角度
Figure BDA0001250954600000101
并且相对于y轴(摇摄)旋转ψ,即,光轴相对于地轴(z)的竖直移动确定倾斜角度
Figure BDA0001250954600000106
而光轴相对于地轴(z)的水平移动确定摇摄角度ψ。
图11b示出了相机10的典型安装,其中,相机10的光轴OA与地轴(z轴)对准,即,倾斜
Figure BDA0001250954600000105
角度和摇摄(ψ)角度等于零。例如,这通常是当相机10安装在车辆的前面或后面时的情况。在这种情况下,由相机10获取的图像IMG的中心C对应于消失点VP,并且可以根据图像IMG中的投射点P、相机10的焦距f以及相对于地的安装高度h来计算对象到相机10的的距离d。例如,可以使用众所周知的针孔相机模型方程来计算距离d。
相反,图11b示出了具有任意倾斜
Figure BDA0001250954600000104
角度和摇摄(ψ)角度的相机10的一般安装,这通常是当相机10被安装在侧镜上的情况。在这种情况下,光轴OA不与地轴(z轴)平行。事实上,通过根据方向(不等于零的倾斜和摇摄)改变相机位置,该场景的透视图被改变,并且在此情景中,为了获得对象与相机10之间的距离d的真实的距离测量,了解校准相机设置(即,倾斜和摇摄)是有利的。
在各个实施例中,基于假设消失点VP位于(x,y,z)的z坐标接近无限大的位置,模块3046确定倾斜值。
相反,在各个实施例中,基于像素与相机坐标之间的针孔相机模型关系,模块3046计算摇摄值。具体地,一旦分别计算出具有在x方向和y方向上到中心坐标C的距离VPx和VPy的消失点VP,倾斜角
Figure BDA0001250954600000111
和摇摄角ψ可以根据以下公式计算:
Figure BDA0001250954600000112
Figure BDA0001250954600000113
相应地,在所考虑的实施例中,基于消失点VP在竖直(y)方向上到相机10的中心位置C和焦距f的距离VPy来计算倾斜信息
Figure BDA0001250954600000119
类似地,基于消失点VP在水平(x)方向上到相机10的中心位置C、倾斜信息
Figure BDA0001250954600000116
以及焦距f的距离VPx来计算摇摄信息ψ。
通常,类似于对(平均)消失点的计算,例如在校准阶段期间当相机10和处理系统30a被首次固定到车辆2时,也可以周期性地或甚至连续地执行一次对倾斜信息
Figure BDA0001250954600000117
和/或摇摄信息ψ的计算。
在各个实施例中,在像素域中直接执行该计算,即,值VPx和VPy被表示为像素的数量。在这种情况下,焦距f也在像素中表示并且执行例如从毫米到像素的转换,可以使用以下公式:
Figure BDA0001250954600000114
其中,转换转换因子因子Y对应于传感器高度(例如以毫米表示)与像素中所表示的帧的高度之间的比率。
相应地,在所考虑的实施例中,根据属于光流数据OFZO的第一集合的运动向量MVZO,步骤或框3044计算图像IMG/IMG’中的消失点VP。此外,在各个实施例中,根据在框3044的步骤处确定的消失点VP以及相机10的焦距f,步骤或框3046和3048分别计算倾斜角度
Figure BDA0001250954600000118
和摇摄角度ψ。
相反,在各个实施例中,根据属于光流数据OFZI的第二集合的运动向量MVZI,步骤或框3050用于确定图像IMG/IMG’中的超车车辆4。
例如,在各个实施例中,通过对运动向量MVZI进行聚类来识别对象。通常,聚类指的是将信息的集合采用以下方式进行分组的任务,该方式为相同组(称为聚类)中的信息彼此之间比在其他组中的信息更加类似。在本申请中,应该识别接近主车辆2的移动车辆4。相应地,通过计算附近的属于具有基本上相似特性的光流数据OFZI的第二集合的运动向量MVZI,可以识别比主车辆2更快的对象。
例如,运动向量MVZI明显属于同一对象,如果它们:
a)在空间上接近;
b)具有相似的速率,即,相似的长度;以及
c)具有相似的方向。
例如,在各个实施例中,在向量位置P1和P2处并且具有向量速率V1和V2的两个运动向量MV1和MV2被认为是空间上接近,如果:
SAD(P1,P2)<MPD
(4)
其中,SAD表明绝对差的和,以及MPD表示例如依据相机分辨率和光流数据的精确度而选择的给定阈值。
类似地,在各个实施例中,两个运动向量MV1和MV2被认为具有相似的速率,如果:
SAD(V1,V2)<MVD
(5)
其中,MVD表示根据相机分辨率和光流数据的精确度而再次选择的给定阈值。
最后,在各个实施例中,两个运动向量MV1和MV2被认为具有相似的方向,如果:
ABS((方向(V1)-方向(V2))<α;
(6)
其中,ABS表明绝对值,以及α表示给定阈值。
通常,也可以使用其它公式(比如,欧几里得距离等)来代替SAD。
在各个实施例中,步骤或框3050基于以上情况a)至c)中的至少两个将运动向量MVZI分配给不同的聚类CL。例如,在各个实施例中,步骤或框3050基于以上情况a)和b)并且优选地还基于情况c)将运动向量MVZI分配给不同的聚类CL。
例如,在各个实施例中,步骤或框3050可以使用在文档IT102015000082886中所描述的聚类方法,其通过引用结合在此。
例如,在各个实施例中,步骤或框3050包括或执行以下子步骤:贴标签、聚类以及选择性合并聚类。具体地,在贴标签步骤期间,根据运动向量的位置、速率以及可选地方向,将标签分配给每个运动向量MVZI。相应地,具有相同或基本上相似特性的运动向量MVZI将具有相同的标签,并且因此,具有相同标签的运动向量MVZI可以潜在地属于同一对象/聚类。接下来,聚类子步骤将具有相同标签的运动向量MVZI分到聚类中。
最后,选择性合并聚类步骤通过简单的矩形联合操作加入具有相似参数(例如,相似位置、速率(以及方向))的聚类。可以例如通过将运动向量MVZI的各个参数的介质放到聚类中来获得聚类参数。
例如,图10示出了由框3050执行的聚类操作的可能的结果,其中,已经基于运动向量MVZI识别出对应于车辆4的单个聚类CL。
在各个实施例中,在步骤或框3052处使用由模块3046和3048计算的倾斜角和摇摄角以及用于识别由模块3050确定的超车车辆的聚类CL,以便确定信号WARN。
具体地,在各个实施例中,模块3052计算由模块3050检测的聚类CL的距离。例如,在各个实施例中,在图像平面上,每个聚类CL的下侧的像素位置被认为是超车车辆的车轮位置。相应地,通过集合属性,根据各个聚类CL的最小竖直(y)位置(即,各个聚类CL的下侧),估算聚类CL/超车车辆4到主车辆2的距离是可能的。
在各个实施例中,可以再次使用针孔相机模型方程,以便基于由相机10提供的当前/上一图像IMG中的以上提到的像素位置来计算每个聚类CL的距离d。
例如,参照图11b中所示的设置,其中,光轴OA与地轴z对准,用于检测距离d的公式是:
Figure BDA0001250954600000141
其中,Py对应于各个聚类CL的下边界在竖直(y)方向上到中心坐标C的距离。
通常,代替使用相机的准确安装高度h,还可以使用近似值,例如,某个车辆类型的平均值。
相反,由于图11b中示出的理想情况通常不适用于真实环境中,可以根据由前述公式(7)计算的距离以及由模块3046和3048计算的倾斜角和摇摄角,计算经校正的距离值dcor
Figure BDA0001250954600000142
Figure BDA0001250954600000143
在各个实施例中,将经评估的距离d或经校正的距离dcor与预定阈值的集合进行比较,以便估算风险级别。例如,在各个实施例中,使用以米表示的三个距离阈值:
1)高风险阈值:d<TH1(例如,5m);
2)中风险阈值:TH1<d<TH2(例如,10m);以及
3)低风险阈值:d<TH3(例如,15m);
通常,根据系统的期望的敏感度,可以改变这些阈值。此外,例如根据主车辆2的速率和/或超车车辆4的速率,还可以针对每个超车车辆动态地确定这些阈值。
例如,在各个实施例中,根据超车车辆4的速率与主车辆2的速率之间的差,确定该一个或多个阈值。
例如,在各个实施例中,根据与超车车辆4的各个聚类CL相关联的运动向量MV,确定该一个或多个阈值。更具体地,在各个实施例中,针对当前帧和前一帧,与各个聚类CL相关联的运动向量MV中的至少一个用于根据前述内容计算超车车辆4到主车辆2的距离。接下来,在恒定帧率表示超车车辆4相对于主车辆2的相对速率的情况下,这些距离之间的差可以用于确定该一个或多个阈值。
相应地,在将距离值d与之前的阈值进行比较后,模块3052将多个风险级别之一分配给信号WARN:
1)无风险/低风险;
2)中风险;
3)高风险。
例如,在各个实施例中,通过基于信号WARN显示不同颜色的发光制动器,不同的风险级别可以是可视的。
在各个实施例中,通过其中在超车车辆的周围显示不同颜色的边界框的视频显示,警报可以是可视的:无风险的情况下是绿色,中风险的情况下是黄色以及高风险的情况下是红色。在这个实施例中,一旦检测到进入的车辆,在超车期间通过采用“绿色、黄色和红色”的顺序改变边界框的颜色,该系统跟随其轨迹,直到该汽车消失下场景中。
当然,在不损害本发明的原理的情况下,如所附权利要求所限定的,相对于在此描述和图解说明的内容,因此在不脱离本发明的范围的前提下,构造的细节和实施例可以是各种各样的。

Claims (7)

1.一种检测超车车辆(4)的方法,所述方法包括以下步骤:
-接收来自安装在主车辆(2)上的相机(10)的图像序列,所述相机(10)位于给定高度处并且具有给定焦距f;
-处理(302)所述图像序列以便生成光流数据(OF),所述光流数据包括与所述图像序列中的对应特征相关联的运动向量(MV)的列表;
-分析(3042)所述光流数据(OF)以便基于它们的方向对所述运动向量(MV)进行分组,由此确定:
a)第一光流数据集,所述第一光流数据集包括与偏离所述主车辆(2)的特征(50a/50b)相关的运动向量,以及
b)第二光流数据集,所述第二光流数据集包括与接近所述主车辆(2)的特征相关的运动向量;
-根据所述第一光流数据集中的所述运动向量来计算(3044)消失点(VP);
-确定所述图像的中心位置;
-根据所述消失点(VP)到所述图像的所述中心位置的距离来计算(3046,3048)摇摄信息ψ和倾斜信息
Figure FDA0003176743330000011
-根据所述第二光流数据集中的所述运动向量的位置以及它们的长度和/或方向对所述运动向量进行分组,确定(3050)接近所述主车辆(2)的一个或多个对象,由此识别超车车辆(4);
-根据以下各项,确定(3052)接近所述主车辆(2)的所述一个或多个对象到所述主车辆(2)的距离d:
i)所述图像序列的最后一个图像中的对应对象的位置,
ii)所述给定焦距f,以及
iii)所述给定高度;
其中使用如下等式确定距离:
Figure FDA0003176743330000012
其中Py对应于所述一个或多个对象的相应聚类的下边界在竖直方向上到中心坐标的距离,f是所述焦距并且h是所述给定高度;
-基于所述摇摄信息ψ和所述倾斜信息
Figure FDA0003176743330000021
来校正接近所述主车辆的所述一个或多个对象所确定的距离;
其中使用如下等式校正所确定的距离:
Figure FDA0003176743330000022
以及
Figure FDA0003176743330000023
其中ψ是所述摇摄信息并且
Figure FDA0003176743330000024
是所述倾斜信息;
-将经校正的所确定的距离与距离阈值进行比较;以及
-如果经校正的所确定的距离小于所述距离阈值,确定警告信号(WARN)。
2.根据权利要求1所述的方法,其中,利用以下等式计算(3046,3048)所述摇摄信息ψ和所述倾斜信息
Figure FDA0003176743330000025
Figure FDA0003176743330000026
Figure FDA0003176743330000027
其中,VPy与VPx分别对应于所述消失点(VP)相对于所述中心位置在竖直方向和水平方向上的距离。
3.根据以上权利要求中任一项所述的方法,其中,通过对所述第二光流数据集中具有相似位置和相似长度和/或方向的所述运动向量进行聚类,确定接近所述主车辆(2)的所述一个或多个对象。
4.根据权利要求1所述的方法,包括:
-确定在前一帧中接近所述主车辆(2)的所述一个或多个对象的距离;以及
-根据接近所述主车辆(2)的所述对应对象的所述距离d与在前一帧中接近所述主车辆(2)的所述对应对象的所述距离之间的差,设置所述距离阈值。
5.一种处理系统(30a),所述处理系统被配置成用于执行根据以上权利要求中任一项所述的方法。
6.一种超车车辆检测系统,包括相机(10)以及根据权利要求5所述的处理系统。
7.一种主车辆(2),包括根据权利要求6所述的超车车辆检测系统。
CN201710170251.8A 2016-09-20 2017-03-21 一种检测超车车辆的方法、相关处理系统、超车车辆检测系统以及车辆 Active CN107845104B (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
IT102016000094414 2016-09-20
IT102016000094414A IT201600094414A1 (it) 2016-09-20 2016-09-20 Un procedimento per rilevare un veicolo in sorpasso, relativo sistema di elaborazione, sistema di rilevazione di un veicolo in sorpasso e veicolo

Publications (2)

Publication Number Publication Date
CN107845104A CN107845104A (zh) 2018-03-27
CN107845104B true CN107845104B (zh) 2022-02-18

Family

ID=57796880

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201710170251.8A Active CN107845104B (zh) 2016-09-20 2017-03-21 一种检测超车车辆的方法、相关处理系统、超车车辆检测系统以及车辆

Country Status (4)

Country Link
US (1) US10380433B2 (zh)
EP (1) EP3296923B1 (zh)
CN (1) CN107845104B (zh)
IT (1) IT201600094414A1 (zh)

Families Citing this family (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
MY190056A (en) * 2015-05-21 2022-03-23 Huawei Tech Co Ltd Apparatus and method for video motion compensation
DE102018204451A1 (de) * 2018-03-22 2019-09-26 Conti Temic Microelectronic Gmbh Verfahren und Vorrichtung zur Autokalibrierung eines Fahrzeugkamerasystems
CN111045422A (zh) * 2018-10-11 2020-04-21 顾泽苍 一种自动驾驶导入“机智获得”模型的控制方法
IT201800021022A1 (it) 2018-12-24 2020-06-24 Comau Spa "Procedimento per monitorare la qualità di una saldatura, relativa stazione di saldatura e prodotto informatico"
CN109829393B (zh) * 2019-01-14 2022-09-13 北京鑫洋泉电子科技有限公司 一种移动物体探测方法、装置及存储介质
CN109919126B (zh) * 2019-03-19 2023-07-25 北京鑫洋泉电子科技有限公司 一种移动物体探测方法、装置及存储介质
US10818035B1 (en) * 2019-06-28 2020-10-27 Baidu Usa Llc Representing vanishing points using relative distances
CN110556025A (zh) * 2019-08-27 2019-12-10 浙江科技学院 一种基于车联网的汽车超车预警方法
US20210335007A1 (en) * 2020-04-27 2021-10-28 GM Global Technology Operations LLC Active targets for automatic optical sensor alignment
DE102020003199A1 (de) * 2020-05-28 2020-08-06 Daimler Ag Verfahren zur Erkennung von Bildartefakten, Steuereinrichtung zur Durchführung eines solchen Verfahrens, Erkennungsvorrichtung mit einer solchen Steuereinrichtung und Kraftfahrzeug mit einer solchen Erkennungsvorrichtung
US11321850B2 (en) * 2020-07-09 2022-05-03 Himax Imaging Limited Presence detection system
TWI794626B (zh) * 2020-07-24 2023-03-01 恆景科技股份有限公司 存在偵測系統
CN114089433B (zh) * 2020-08-05 2024-02-09 恒景科技股份有限公司 存在检测系统
US11631197B2 (en) 2020-10-01 2023-04-18 Ford Global Technologies, Llc Traffic camera calibration
CN112590984B (zh) * 2020-12-03 2022-07-29 江门市大长江集团有限公司 摩托车后视镜防撞报警装置、方法和计算机设备
IT202200006230A1 (it) 2022-03-30 2023-09-30 Alba Robot S R L Procedimento per localizzare un veicolo, e relativo sistema
CN114973208B (zh) * 2022-08-02 2022-11-29 所托(杭州)汽车智能设备有限公司 车辆盲区监测预警方法及相关设备
JP7512330B2 (ja) 2022-08-19 2024-07-08 株式会社デンソーテン 情報処理装置、情報処理方法およびプログラム
CN116149861B (zh) * 2023-03-07 2023-10-20 中科计算技术西部研究院 一种基于vpx结构的高速通信方法

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1033694A2 (en) * 1999-03-01 2000-09-06 Yazaki Corporation Rear-view monitoring system for vehicles
CN101469991A (zh) * 2007-12-26 2009-07-01 南京理工大学 全天时结构化道路多行道线检测方法
EP2128821A1 (en) * 2007-01-30 2009-12-02 Aisin Seiki Kabushiki Kaisha Moving object recognizing device
CN101894366A (zh) * 2009-05-21 2010-11-24 北京中星微电子有限公司 一种获取标定参数的方法、装置及一种视频监控系统
CN102270344A (zh) * 2010-06-04 2011-12-07 东芝阿尔派·汽车技术有限公司 移动体检测装置和移动体检测方法
CN102632839A (zh) * 2011-02-15 2012-08-15 汽车零部件研究及发展中心有限公司 一种基于后视图像认知的车载盲区预警系统及方法

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5777690A (en) 1995-01-20 1998-07-07 Kabushiki Kaisha Toshiba Device and method for detection of moving obstacles
US7009500B2 (en) * 2002-02-13 2006-03-07 Ford Global Technologies, Llc Method for operating a pre-crash sensing system in a vehicle having a countermeasure system using stereo cameras
US7266220B2 (en) * 2002-05-09 2007-09-04 Matsushita Electric Industrial Co., Ltd. Monitoring device, monitoring method and program for monitoring
DE102006027121A1 (de) * 2006-06-12 2007-12-13 Robert Bosch Gmbh Bildaufnahmesystem und Verfahren für die Entfernungsbestimmung mit einem Bildaufnahmesystem
WO2009076182A1 (en) * 2007-12-13 2009-06-18 Clemson University Vision based real time traffic monitoring
CN101281022A (zh) * 2008-04-08 2008-10-08 上海世科嘉车辆技术研发有限公司 基于单目机器视觉的车辆距离测量方法
JP5538411B2 (ja) * 2009-09-30 2014-07-02 パナソニック株式会社 車両周囲監視装置
JP5867273B2 (ja) * 2012-04-27 2016-02-24 富士通株式会社 接近物体検知装置、接近物体検知方法及び接近物体検知用コンピュータプログラム
ITTO20130405A1 (it) * 2013-05-21 2014-11-21 St Microelectronics Srl Dispositivo di filtraggio panning, procedimento e prodotto informatico corrispondenti
KR102124483B1 (ko) * 2014-05-12 2020-06-19 엘지전자 주식회사 비히클 및 그 제어 방법
DE102014209137B4 (de) 2014-05-14 2023-02-02 Volkswagen Aktiengesellschaft Verfahren und Vorrichtung zur Kalibrierung eines Kamerasystems eines Kraftfahrzeugs
US9369680B2 (en) * 2014-05-28 2016-06-14 Seth Teller Protecting roadside personnel using a camera and a projection system
US9620015B2 (en) * 2015-07-13 2017-04-11 Nissan North America, Inc. Kinematic path prediction of vehicles on curved paths
US9734717B1 (en) * 2015-10-16 2017-08-15 Lytx, Inc. Proximity event determination with lane change information
DE112016006081T5 (de) * 2015-12-28 2018-09-06 Intel Corporation Automatische Echtzeit-Fahrzeugkamerakalibrierung
US11385105B2 (en) * 2016-04-04 2022-07-12 Teledyne Flir, Llc Techniques for determining emitted radiation intensity

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1033694A2 (en) * 1999-03-01 2000-09-06 Yazaki Corporation Rear-view monitoring system for vehicles
EP2128821A1 (en) * 2007-01-30 2009-12-02 Aisin Seiki Kabushiki Kaisha Moving object recognizing device
CN101469991A (zh) * 2007-12-26 2009-07-01 南京理工大学 全天时结构化道路多行道线检测方法
CN101894366A (zh) * 2009-05-21 2010-11-24 北京中星微电子有限公司 一种获取标定参数的方法、装置及一种视频监控系统
CN102270344A (zh) * 2010-06-04 2011-12-07 东芝阿尔派·汽车技术有限公司 移动体检测装置和移动体检测方法
CN102632839A (zh) * 2011-02-15 2012-08-15 汽车零部件研究及发展中心有限公司 一种基于后视图像认知的车载盲区预警系统及方法

Also Published As

Publication number Publication date
CN107845104A (zh) 2018-03-27
EP3296923B1 (en) 2021-07-07
IT201600094414A1 (it) 2018-03-20
US20180082133A1 (en) 2018-03-22
US10380433B2 (en) 2019-08-13
EP3296923A1 (en) 2018-03-21

Similar Documents

Publication Publication Date Title
CN107845104B (zh) 一种检测超车车辆的方法、相关处理系统、超车车辆检测系统以及车辆
US11787338B2 (en) Vehicular vision system
EP3807128B1 (en) A rider assistance system and method
EP2463843B1 (en) Method and system for forward collision warning
JP5399027B2 (ja) 自動車の運転を支援するための、立体画像を捕捉することができるシステムを有するデバイス
US10318782B2 (en) Image processing device, image processing system, and image processing method
US10242272B2 (en) Method for advanced and low cost cross traffic alert, related processing system, cross traffic alert system and vehicle
CN111186432B (zh) 一种车辆盲区预警的方法及装置
WO2013081984A1 (en) Vision system for vehicle
EP2833096B1 (en) Method for determining a current distance and/or a current speed of a target object based on a reference point in a camera image, camera system and motor vehicle
JP7402753B2 (ja) 安全支援システム、および車載カメラ画像分析方法
JP2000315255A (ja) 車両用後側方監視装置及び車両用後側方監視警報装置
Nunn et al. A two stage detection module for traffic signs
Sharma et al. An optical flow and hough transform based approach to a lane departure warning system
CN111133439A (zh) 全景监视系统
JP3222638U (ja) 安全運転支援装置
Lane Obstacle detection and tracking in an urban environment using 3d lidar and a mobileye 560
Ingale et al. Lane Recognition Technique Using Hough Transform
Spampinato et al. Optical Flow Based System for Cross Traffic Alert
Dhotre et al. Advance Driver Assistance System for Indian Traffic Scenario: Literature Review

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant