Nothing Special   »   [go: up one dir, main page]

CN116186336B - 驾驶数据采集与标定方法、装置及存储介质 - Google Patents

驾驶数据采集与标定方法、装置及存储介质 Download PDF

Info

Publication number
CN116186336B
CN116186336B CN202310187644.5A CN202310187644A CN116186336B CN 116186336 B CN116186336 B CN 116186336B CN 202310187644 A CN202310187644 A CN 202310187644A CN 116186336 B CN116186336 B CN 116186336B
Authority
CN
China
Prior art keywords
data
driving
driver
vehicle
driving data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202310187644.5A
Other languages
English (en)
Other versions
CN116186336A (zh
Inventor
王建强
王裕宁
李尚怡
李若辰
李晋豪
许庆
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Tsinghua University
Toyota Motor Corp
Original Assignee
Tsinghua University
Toyota Motor Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tsinghua University, Toyota Motor Corp filed Critical Tsinghua University
Priority to CN202310187644.5A priority Critical patent/CN116186336B/zh
Publication of CN116186336A publication Critical patent/CN116186336A/zh
Application granted granted Critical
Publication of CN116186336B publication Critical patent/CN116186336B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/08Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to drivers or passengers
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/90Details of database functions independent of the retrieved data types
    • G06F16/901Indexing; Data structures therefor; Storage structures
    • G06F16/9027Trees

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Automation & Control Theory (AREA)
  • Mechanical Engineering (AREA)
  • Databases & Information Systems (AREA)
  • Transportation (AREA)
  • Mathematical Physics (AREA)
  • Theoretical Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Time Recorders, Dirve Recorders, Access Control (AREA)

Abstract

本申请提供一种驾驶数据采集与标定方法、装置及存储介质。所述方法包括:在车辆处于自然驾驶状态的情况下,实时采集驾驶数据;将所采集的驾驶数据进行按照时序进行对齐,并将对齐后的所述驾驶数据组织为树状结构;对所述驾驶数据进行人车路数据耦合标定,形成标定后的所述驾驶数据。本申请实施例通过对车辆处于自然驾驶状态下的驾驶数据进行耦合标定,形成人车路在环一体化数据标定后所述驾驶数据,而且这些驾驶数据具有统一的数据结构,具备兼容性和可拓展性。

Description

驾驶数据采集与标定方法、装置及存储介质
技术领域
本申请涉及智能车应用技术领域,特别涉及一种驾驶数据采集与标定方法、装置及存储介质。
背景技术
随着自动驾驶技术的发展,传统的基于规则的方法已经不再能够满足复杂动态耦合的交通场景需求,无法满足高级别自动驾驶的标准,而数据驱动的方法能够在复杂工况下依旧取得良好的性能。然而,数据驱动的方法在训练以及计算求解过程中,需要大量数据作为支撑,为了贴合实际驾驶条件,自然驾驶数据采集成为近几年各大自动驾驶算法公司的热点研究对象。这些数据集虽然有各自的优势,然而也存在一些共性问题:无法采集人-车-路一体化的数据结构。在高级别自动驾驶算法开发中,学习驾驶人智慧是相当重要的技术路线,然而现有数据或只有环境信息而没有驾驶员动态信息,或只有驾驶员位姿信息而没有与环境的对应关系,因此无法获得完整的人车路在环一体化数据。
发明内容
有鉴于现有技术中存在的上述至少一个技术问题而提了本申请。根据本申请一方面,提供了一种驾驶数据采集与标定方法,所述方法包括:
在车辆处于自然驾驶状态的情况下,实时采集驾驶数据;其中,所述驾驶数据包括驾驶员人因数据、环境数据、车辆控制数据;
将所采集的驾驶数据进行按照时序进行对齐,并将对齐后的所述驾驶数据组织为树状结构;
对所述驾驶数据进行人车路数据耦合标定,形成标定后的所述驾驶数据;
其中,在车辆处于自然驾驶状态的情况下,实时采集驾驶数据,包括:
实时采集驾驶员人因数据;
实时采集环境数据;以及
实时采集车辆控制数据。
在一些实施例中,所述驾驶员人因数据包括以下至少一种:驾驶员的注意力区域数据、驾驶员生理与脑电信号数据和驾驶员个人信息。
在一些实施例中,环境数据包括以下至少一种:环境图像数据、点云数据和路测设备采集的数据。
在一些实施例中,车辆控制数据包括以下至少一种:全球导航卫星系统定位数据、惯性组合导航数据和控制器域网底层控制信息数据。
在一些实施例中,将所采集的驾驶数据进行时序对齐,包括:
根据所述驾驶数据的时间戳将所述驾驶数据进行对齐处理。
在一些实施例中,所述树状结构包括数据采集日志、Python工具包和数据本体。
在一些实施例中,对所述驾驶数据进行人车路数据耦合标定,包括:
对注意力区域所包含的交互对象进行标定;和/或
影响自车决策的交互对象进行标定;和/或
对危险事件进行标定。
在一些实施例中,所述方法还包括:对驾驶员进行评估;
其中,所述对驾驶员进行评估,包括:
对所述驾驶员的历史驾驶行为进行评估;和/或
对驾驶事件的实时风险进行评估;和/或
对驾驶事件进行主观评价;和/或
对驾驶事件进行综合评估。
本申请实施例另一方面提供了一种驾驶数据采集与标定装置,所述装置包括:
存储器和处理器,所述存储器上存储有由所述处理器运行的计算机程序,所述计算机程序在被所述处理器运行时,使得所述处理器执行如上所述的驾驶数据采集与标定方法。
本申请实施例又一方面提供了一种存储介质,所述存储介质上存储有计算机程序,所述计算机程序在被处理器运行时使得所述处理器执行如上所述的驾驶数据采集与标定方法。
本申请实施例的驾驶数据采集与标定方法、装置及存储介质,通过对车辆处于自然驾驶状态下的驾驶数据进行耦合标定,形成人车路在环一体化数据标定后所述驾驶数据,而且这些驾驶数据具有统一的数据结构,具备兼容性和可拓展性。
附图说明
图1示出根据本申请实施例的驾驶数据采集与标定方法的示意性流程图;
图2示出根据本申请实施例的人车路数据采集模块的示意图;
图3示出根据本申请实施例的将驾驶数据组织成树状结构的示意图;
图4示出根据本申请实施例的驾驶员的注意力热图示意图;
图5示出根据本申请另一种实施例的驾驶数据采集与标定方法的示意性流程图;
图6示出根据本申请实施例的驾驶数据采集与标定装置的示意性框图。
具体实施方式
为使本领域技术人员更好的理解本申请实施例的技术方案,下面结合附图和具体实施方式对本申请作详细说明。
随着自动驾驶技术的发展,数据驱动的方法正在得到广泛关注。传统的基于规则的方法已经不再能够满足复杂动态耦合的交通场景需求,无法满足高级别自动驾驶的标准,而数据驱动的方法能够在复杂工况下依旧取得良好的性能。
然而,数据驱动的方法在训练以及计算求解过程中,需要大量数据作为支撑,为了贴合实际驾驶条件,自然驾驶数据采集成为近几年各大自动驾驶算法公司的热点研究对象,各类自然驾驶公开数据集也层出不穷,特点各异。
High D数据集以车路协同技术,通过鸟瞰视角记录高速公路上的全局自然驾驶数据,包括位置、速度、智能体类型等;Waymo motion则采集在城市道路中的强交互驾驶事件数据,例如超车、转向、穿行等,通过激光雷达等设备采集三位坐标并进而标注更多数据,例如行为标签等;另外有一些数据集则侧重于驾驶人行为数据采集,例如Driver&Act数据集通过车内摄像头采集了驾驶员在驾驶时的行为姿态以及眼神动作;CoCAtt数据集则通过眼动仪等设备采集了驾驶员的注意力区域,从而获得驾驶员对于驾驶环境的注视规律。
现有各类数据集虽然有各自的优势,然而也存在一些共性问题:
1)无法采集人-车-路一体化的数据结构。在高级别自动驾驶算法开发中,学习驾驶人智慧是相当重要的技术路线,然而现有数据或只有环境信息而没有驾驶员动态信息,或只有驾驶员位姿信息而没有与环境的对应关系,因此无法获得完整的人车路在环一体化数据;
2)缺乏对于驾驶行为的评价:现有的数据集往往记录所有自然驾驶行为,虽然输入决策控制模型进行统一学习,然而实际上人类驾驶员的行为并非总是正确或优秀的,算法希望学习的行为应当是优秀驾驶行为,因此亟需对自然驾驶行为进行评估从而筛选值得学习的子集;
3)缺乏统一的数据结构,从而不同数据集之间无法并行使用,缺乏可拓展性与兼容性。
基于前述的至少一个技术问题,本申请提供了一种驾驶数据采集与标定方法,所述方法包括:在车辆处于自然驾驶状态的情况下,实时采集驾驶数据;将所采集的驾驶数据进行按照时序进行对齐,并将对齐后的所述驾驶数据组织为树状结构;对所述驾驶数据进行人车路数据耦合标定,形成标定后所述驾驶数据。本申请实施例通过对车辆处于自然驾驶状态下的驾驶数据进行耦合标定,形成人车路在环一体化数据标定后所述驾驶数据,而且这些驾驶数据具有统一的数据结构,具备兼容性和可拓展性。
图1示出根据本申请实施例的驾驶数据采集与标定方法的示意性流程图;如图1所示,根据本申请实施例的驾驶数据采集与标定方法100可以包括如下步骤S101、步骤S102和步骤S103:
在步骤S101,在车辆处于自然驾驶状态的情况下,实时采集驾驶数据。
本申请实施例首先判断车辆是否处于自然驾驶状态。这里自然驾驶状态是指未开启任何主动驾驶辅助功能或自动驾驶功能的驾驶状态。
在开始数据采集时,由数据采集安全员(例如,驾驶员)和/或采集模块确认车辆是否开启任何诸如车道保持、ACC自适应巡航等主动驾驶辅助功能或自动驾驶功能,若未开启,则确认车辆处于自然驾驶状态,可以进行数据采集。
在本申请的一个实施例中,如图2所示,由人车路数据采集模块采集驾驶数据。这里驾驶数据包括驾驶员人因数据、环境数据、车辆控制数据;在车辆处于自然驾驶状态的情况下,实时采集驾驶数据,包括:
A1,实时采集驾驶员人因数据;
A2,实时采集环境数据;以及
A3,实时采集车辆控制数据。
其中,所述驾驶员人因数据包括以下至少一种:驾驶员的注意力区域数据、驾驶员生理与脑电信号数据和驾驶员个人信息。下面介绍这几种数据的采集过程和方式。
当采集驾驶员个人信息时,可以在驾驶行为开始前,由驾驶员先行填写标准的个人信息问卷调查表,来采集驾驶员历史特征,例如,驾龄、以往事故数量、驾驶风格等信息。
当采集驾驶员的注意力区域数据时,可以通过眼动仪进行采集。在一个具体的示例中,可以通过眼镜式眼动仪采集第一视角下的驾驶员的注意力分布,输出数据为注意力热图、注视区域坐标、注视时间等。
当采集驾驶员生理与脑电信号数据时,在一个具体的示例中,可以通过便携式多合一传感器采集五路生理信号,分别是:心率、肌电信号、皮电信号、血氧量以及皮温。由于生理信号能够反馈驾驶员在驾驶车辆时的生理反应,因此通过采集生理信号,能够捕捉驾驶员在特定时间或特定事件中的反应激烈程度。所采集的生理信息的数据形式为时序的曲线,并且在采集生理信号的同时还可以记录时间戳。由于脑电信号能够反馈驾驶员在进行特定操作时哪个脑部区域活动强度最高,因此可以根据脑电信号提炼驾驶员操作行为规律,脑电信号的数据形式为脑电极对应的时序强度序列。
其中,环境数据包括以下至少一种:环境图像数据、点云数据和路侧设备采集的数据。
本申请实施例中的环境数据是指用于描述车辆周围的真实道路信息的数据,主要包括车辆周围的基础道路信息和障碍物、其他交通参与者等。例如,行人、车道线、马路边沿等。
本申请实施例中在采集环境数据时使用了诸如摄像头、激光雷达、毫米波和路侧设备等多个感知设备,以实现共同采集多维度的、较为完整的驾驶环境数据。下面介绍各感知设备的工作过程和工作原理。
当采用激光雷达采集环境数据时,激光雷达可以设置于车辆顶部,主要用于采集车辆周围的障碍物信息。激光雷达采集的数据格式是点云数据,该点云数据经过处理后可以有效地获得目标级的障碍物信息,为后续的车辆的决策行为提供有效的信息支撑。
当采用摄像头采集环境数据时,摄像头可以设置于车辆顶部,且可以设置多个摄像头。为便于全方位采集环境数据,该多个摄像头可以分别朝向不同的方向。这些摄像头采集的不同方向的图经过分组融合后可以形成多个通道的图像信息。摄像头采集的环境数据为图像数据,可以采用神经网络算法等提取出图像数据中的各种交通参与者、交通标志、交通信号灯等重要交通要素,同样为后续的车辆决策行为提供信息支撑。
当采用毫米波雷达采集环境数据时,毫米波雷达可以设置于车辆中下部,且可以设置多个毫米波雷达。为便于全方位采集环境数据,可以将该多个毫米波雷达绕车辆一周分布。毫米波雷达的主要作用是感知近距离的障碍物信息,其感知范围远小于摄像头和激光雷达。毫米波雷达的采集的数据一般可以用于慢速场景,如自动泊车等;当然也可以用于复杂的交通场景,尤其是拥塞交通场景下的车辆决策问题。
当采用路侧设备采集环境数据时,路侧设备可以设置在道路周围。路侧设备是一种感知设备,这些路侧设备可以从不同的角度获取基础道路信息和交通参与者信息,并通过无线通信的方式将其采集的数据发送给车辆。路侧设备采集的数据种类多,灵活性大,格式丰富,可以有效弥补车载感知设备由于视角存在的视野盲区等问题。
其中,车辆控制数据包括以下至少一种:全球导航卫星系统(Global NavigationSatellite System,GNSS)定位数据、惯性组合导航数据和控制器域网(Controller AreaNetwork,CAN)底层控制信息数据。
本申请实施例采集的车辆控制数据是指主要用于后续决策控制模型训练中作为参考真值的车辆自身的各类数据。这里车辆控制数据可以包括车辆实时的地理位置信息,可以通过GNSS定位系统以及惯性测量单元(Inertial Measurement Unit,IMU)惯性导航组合,输出时序的自车全局三维坐标,精度为厘米级。
车辆控制数据还可以包括车辆底层控制信息,包括方向盘转角、油门开度、刹车开度、档位信息、发动机转速、车轮转速、转向灯信号灯等。这些信息在车辆中集成在CAN控制总线上,因此直接调用CAN总线信息即可获得。这些车辆控制数据的数据格式为时序数据。
在步骤S102,将所采集的驾驶数据进行按照时序进行对齐,并将对齐后的所述驾驶数据组织为树状结构。
本申请实施例由于所采集的驾驶数据存储在数据库中后,可能存在多种类型的数据,需要对驾驶数据进行对齐以及组织。
在本申请的一个实施例中,将所采集的驾驶数据进行时序对齐,包括:根据所述驾驶数据的时间戳将所述驾驶数据进行对齐处理。
具体地,首先,由于不同设备采集数据的时间戳精度、频率不同,因此需要进行降采样处理,例如,将采样频率降低至20hz。在一个具体的示例中,以0.05秒为间隔,对所有驾驶数据的时间戳进行近似,若采样频率较高,则取该0.05秒间隔内的所有量平均值作为该时间段标记值。以0.05秒为一帧,将驾驶数据按照时序排列,然后开始进行驾驶数据对齐。
随后,将驾驶数据组织为如图3所示的树状结构,以便后续需要使用驾驶数据的用户进行观察与调用。其中树状结构的第一层包括数据采集日志、Python工具包和数据本体。关于该树状结构的描述如下:
(1)数据采集日志中记录了如下信息:车辆描述的关键信息,包括车的尺寸、驱动形式等必要的参数信息;采集条件,即数据采集时刻的时空信息,包括采集地点、天气状况、行驶区域等信息;传感器描述文件,包含传感器的种类、厂商、型号和基本参数等补充信息。
(2)Python工具包存储了基本的预处理方法,实现前述的数据对齐与数据标定等功能。此外所采集的驾驶数据集中还提供有可视化工具,可依据特定时间信息或物体信息筛选相关数据并进行图像或点云可视化。
(3)数据本体部分依据数据类型将数据划分为JPEG图像部分、PCD点云文件部分、JSON时序索引文件部分和JSON目标信息存储部分。
其中,对于JPEG图像部分,可以按照采集图像的摄像头不同来分别进行存储,例如,前置摄像头、驾驶员摄像头、左置摄像头、右置摄像头等采集的图像分别作为一个分支进行存储,各分支内部分别存储对应的JPEG文件,并以捕捉时刻的简化时间戳命名各文件。
其中,对于PCD点云文件部分,可以采用简化时间戳命名各点云文件,且点云文件内各点存储有x、y、z和反射率等表征信息。
其中,对于JSON时序索引文件部分,其内部为采用简化时间戳命名的各JSON文件,每个文件内部均存储有对应时间戳下的车辆状态、驾驶人状态、摄像机数据和雷达数据。其中需要记录的车辆状态包括当前的油门开度、刹车、速度、GNSS位置信息等;驾驶员状态包括当前时刻驾驶员的皮电、心电等信号描述序列和人体姿态关节点描述信息。另外,对于摄像头采集的图像数据按照不同的摄像头单独存储对应图像的文件名索引信息。例如,对于驾驶员摄像头还需额外以矩阵形式存储注意力热图信息,而对于环境摄像头需额外存储图像中的目标检测信息。再例如,雷达数据存储了PCD点云文件索引信息和点云图像中的目标检测物体信息和检测到的物体总数。
其中,对于JSON目标信息存储文件部分,其内部各JSON文件以检测目标为单位分立存储,各检测目标被匹配通用唯一识别码(UUID)来确保索引有效性。各检测目标信息存储文件首先与被感知到的传感器相关联,例如,存储左置摄像头和激光雷达序号,并按照不同传感器分别按照时序记录目标物体在传感器中的相对位置、种类与参数。
本申请实施例通过数据对齐,使数据集中的数据具有统一的数据结构,从而不同数据集之间可以并行使用,提高了可拓展性与兼容性。
在步骤S103,对所述驾驶数据进行人车路数据耦合标定,形成标定后的所述驾驶数据。
本申请实施例中,在实施自动驾驶决策模型训练与求解时,往往需要将各类驾驶数据作为特征输入以提高决策性能,因此需要对上述驾驶员人因数据、环境数据、车辆控制数据进行耦合标定。
在本申请一个实施例中,对所述驾驶数据进行人车路数据耦合标定,包括步骤:
B1,对注意力区域所包含的交互对象进行标定;和/或
B2,影响自车决策的交互对象进行标定;和/或
B3,对危险事件进行标定。
其中,在步骤B1中,需要对注意力区域所包含的交互对象进行标定。由于眼动仪采集数据时为第一人称视角,输出的结果为注意力热力图,因此无法准确确定驾驶员在与环境中的哪个对象进行交互,因此需要进行耦合标定。具体地,如图4所示,为驾驶员的注意力热图示意图。结合驾驶环境数据,通过第一人称摄像头的图像记录,以其为输入进行对象感知识别,获得驾驶员视野中各个物体相对视野中心的相对坐标,以此获得对象实际的位置。随后,对注意力热图进行热点聚类,将注意力热图中的几个重点关注区域划定为离散的峰值块,求得峰值块的几何中心。最后,将交互对象实际相对坐标与注意力峰值块的几何中心对比,若误差小于5%的视野区域宽度,则认定为匹配成功,说明驾驶员在当时关注的是该对象。例如,图中的交通信号灯、行人、交通标志和其他车辆。
在步骤B2中,需要对影响自车决策的交互对象进行标定。在实际进行决策时,面对复杂耦合交互动态的交通场景,需要知道关心对自身决策影响最大的对象是哪一个。在本申请的一个具体的示例中可以采用控制干扰算法进行决策交互对象筛选,具体如下:
以环视摄像头采集到的图像u作为输入,则图像u可以作为一个二维矩阵,每个像素点由RGB三通道组成,用x(u)表示如下:
x(u)=[r,g,b] (1)
其中,R、G、B表示红、绿、蓝三个通道的颜色亮度。
定义干扰像素点μ,其为定值,作用为遮盖或者弱化原先的RGB值,使得图像对应位置模糊,则干扰像素点表示如下:
μ=[μ000] (2)
其中,μ0表示R、G、B的值。
定义m(u)为干扰像素点的分布,即在一张图像上有多少个干扰像素点以及其位置,则施加所有干扰像素点后的图像Φ(u)可以表示为:
Φ(u)=m(u)x(u)+(1-m(u))μ (3)
其中,m(u)表示干扰像素点的分布;μ表示干扰像素点;x(u)表示像素点。
此时,将施加干扰后的图像输入至决策评估算法,会得到决策的概率分布。将原始的图像u输入至决策评估算法,也能够得到一个决策概率分布。因此,可以计算施加干扰后的决策改变量:
fc(Φ)=-|D(Φ)-D0| (4)
其中,Φ表示施加所有干扰像素点后的图像。
寻找使得决策改变量最大的干扰像素点分布,随后该最佳分布所覆盖的区域即可认为是“关键决策区域”,其所覆盖区域中包含的交通对象即标定为决策交互关键对象。
值得注意的是,本申请实施例并非限定为采用控制干扰算法,在其他实施例也可以采用其他算法来筛选交互对象,均在本申请的保护范围之内。
在步骤B3中,需要对危险事件进行标定。在采集生理信号后,筛选生理信号高峰时段,若五类生理信号中大于等于三类信号同时处于异常高峰值,则由时间戳反向定位其对应的驾驶环境,通过行为分段(例如,危险事件发生时刻向前、向后各10秒的时间段),摘取驾驶事件并将其标记为“高风险”。将所有的高风险事件集中标注,可以作为强交互自然驾驶数据集,用于危险场景的决策模型训练与求解。
在本申请又一个实施例中,所述方法还包括:对驾驶员进行评估。
在一个示例中,所述对驾驶员进行评估,包括步骤:
C1,对驾驶员的历史驾驶行为进行评估;和/或
C2,对驾驶事件的实时风险进行评估;和/或
C3,对驾驶事件进行主观评价;和/或
C4,对驾驶事件进行综合评估。
传统技术中,在对驾驶数据进行采集与标定时,往往缺乏对于驾驶行为的评估。而自动驾驶模型希望学习的是优秀驾驶行为,然而并非所有自然驾驶数据都是优秀的,人类驾驶员也会存在非理性、不正确的驾驶操作,因此驾驶行为评价对于提升决策与控制性能十分重要。本申请可以通过三个维度评价驾驶行为是否优秀。
首先,在步骤C1中,对驾驶员的历史驾驶行为评估。例如,通过采集驾驶人历史问卷,筛选优秀驾驶员,将过去五年中事故数多于2件或驾龄未超过5年的驾驶员的所有驾驶行为标记为“一般”,反之则评价为“良好”。
在步骤C2中,对驾驶事件的实时风险评估。对每一个驾驶事件进行切分后,可以计算每一个事件内的高风险次数,具体计算方法如下:
自车与其他车辆的预期碰撞时间TTC定义如下:
其中,Δd表示自车与其他智能体的相对位置,Δv表示自车与其他智能体在连线方向上的相对速度。TTC表示一种常见的风险评估量,能够衡量该物体是否与自己有碰撞风险。
在识别得到当前事件中的所有智能体类别以及位置后,通过差分计算每个智能体的速度,随后计算其TTC。若某智能体与自车的TTC小于1秒,则标记一次“高风险”。
例如,在所有驾驶事件中,凡是标记大于等于一次“高风险”的事件,则都被定义为高风险驾驶行为。若该驾驶事件没有出现高风险对象,则其对应的驾驶操作被定义为优秀驾驶。
在步骤C3中,对驾驶事件进行主观评价。例如,对于每一个参与自然驾驶数据采集的驾驶员,邀请10位志愿者观看其20分钟的驾驶行为视频,观看完后对其驾驶进行打分,打分分为三个维度:舒适性C、高效性E以及危险性R。每个单项总分为10分,颗粒度为1分。单个驾驶员的驾驶综合表型D计算如下:
D=C+E+R (6)
其中,D表示单个驾驶员的驾驶综合表型;C表示舒适性;E表示高效性;R表示危险性。
获得所有10位志愿者的评分结果后,去掉一个最高分以及一个最低分,取剩余8人的平均值,若D大于等于25分且均方差小于10,则该驾驶员被定义为“优秀驾驶员”;若D大于等于25分且均方差大于10,则有数据采集人员进行单独判定是否为“优秀驾驶员”;若D小于25分大于等于20分,则将其标记为“普通驾驶员”。若D小于20分,则将其标记为“负面驾驶行为”。
在步骤C4中,对驾驶事件进行综合评估。在获得步骤C1-C3的评估后,可以对驾驶事件进行综合评价。例如,若某驾驶行为由“优秀驾驶员”驾驶产生,同时事件中无“高风险”,且历史驾驶评估为“良好”,则标记该驾驶事件为“优秀驾驶行为”,并记录至数据库。
传统的驾驶数据集往往记录所有自然驾驶行为,虽然驾驶数据会被输入决策控制模型进行统一学习,然而实际上驾驶员的行为并非总是正确或优秀的,决策控制模型希望学习的行为应当是优秀驾驶行为,因此亟需对自然驾驶行为进行评估从而筛选值得学习的子集,本申请实施例标注了优秀驾驶行为,可以为决策控制模型学习提供了参考。
如图5所示,为本申请的另一个实施例的驾驶数据采集与标定方法的示意性流程图。根据本申请实施例的驾驶数据采集与标定方法500可以包括如下步骤S501、S502、S503、S504、S505和S506;
在步骤S501,判断是否处于自然驾驶状态,如果是,则执行步骤S502;否则返回执行步骤S501。
在步骤S502,三模块数据采集。本申请实施例首先判断车辆是否处于自然驾驶状态。这里自然驾驶状态是指未开启任何主动驾驶辅助功能或自动驾驶功能的驾驶状态。例如,由驾驶员和/或采集模块确认车辆是否开启任何诸如车道保持、ACC自适应巡航等主动驾驶辅助功能或自动驾驶功能等。
其中,步骤S502包括步骤S5021、S5022和S5023。
在步骤S5021,驾驶人因模块。本申请实施例的驾驶人因模块用于采集驾驶员人因数据。其中,所述驾驶员人因数据包括以下至少一种:驾驶员的注意力区域数据、驾驶员生理与脑电信号数据和驾驶员个人信息。
在步骤S5022,驾驶环境模块。本申请实施例的驾驶环境模块用于采集环境数据。其中,环境数据包括以下至少一种:环境图像数据、点云数据和路侧设备采集的数据。
在步骤S5023,车辆控制模块。本申请实施例的车辆控制模块用于车辆控制数据
在步骤S503,数据对齐与组织。本申请实施例由于所采集的驾驶数据存储在数据库中后,可能存在多种类型的数据,需要对驾驶数据进行对齐以及组织。例如,可以将驾驶数据组织为树状结构,以方便后续车辆决策过程中,直接使用。
在步骤S504,数据耦合标定。本申请实施例中,在实施自动驾驶决策模型训练与求解时,往往需要将各类驾驶数据作为特征输入以提高决策性能,因此需要对上述驾驶员人因数据、环境数据、车辆控制数据进行耦合标定,获得完整的人车路在环一体化数据。
在步骤S505,驾驶行为评价与评估。本申请可以通过评价驾驶行为是否优秀,以提升决策与控制性能十分重要。
在步骤S506,是否结束采集;如果是,则结束本次采集;否则返回执行步骤S501。
本申请实施例通过对车辆处于自然驾驶状态下的驾驶数据进行耦合标定,形成人车路在环一体化数据标定后所述驾驶数据,而且这些驾驶数据具有统一的数据结构,具备兼容性和可拓展性。
下面结合图6对本申请的驾驶数据采集与标定装置进行描述,其中,图6示出根据本申请实施例的驾驶数据采集与标定装置的示意性框图。
如图6所示,驾驶数据采集与标定装置600包括:一个或多个存储器601和一个或多个处理器602,所述存储器601上存储有由所述处理器602运行的计算机程序,所述计算机程序在被所述处理器602运行时,使得所述处理器602执行前文所述的驾驶数据采集与标定方法。
驾驶数据采集与标定装置600可以是可以通过软件、硬件或者软硬件结合的方式实现驾驶数据采集与标定方法的计算机设备的部分或者全部。
如图6所示,驾驶数据采集与标定装置600包括一个或多个存储器601、一个或多个处理器602、显示器(未示出)和通信接口等,这些组件通过总线系统和/或其它形式的连接机构(未示出)互连。应当注意,图6所示的驾驶数据采集与标定装置600的组件和结构只是示例性的,而非限制性的,根据需要,驾驶数据采集与标定装置600也可以具有其他组件和结构。
存储器601用于存储相关列车运行过程中产生的各种数据和可执行程序指令,例如用于存储各种应用程序或实现各种具体功能的算法。可以包括一个或多个计算机程序产品,所述计算机程序产品可以包括各种形式的计算机可读存储介质,例如易失性存储器和/或非易失性存储器。所述易失性存储器例如可以包括随机存取存储器(RAM)和/或高速缓冲存储器(cache)等。所述非易失性存储器例如可以包括只读存储器(ROM)、硬盘、闪存等。
处理器602可以是中央处理单元(CPU)、图像处理单元(GPU)、专用集成电路(ASIC)、现场可编程门阵列(FPGA)或者具有数据处理能力和/或指令执行能力的其它形式的处理单元,并且可以是驾驶数据采集与标定装置600中的其它组件以执行期望的功能。
在一个示例中,驾驶数据采集与标定装置600还包括输出装置可以向外部(例如用户)输出各种信息(例如图像或声音),并且可以包括显示装置、扬声器等中的一个或多个。
通信接口是可以是目前已知的任意通信协议的接口,例如有线接口或无线接口,其中,通信接口可以包括一个或者多个串口、USB接口、以太网端口、WiFi、有线网络、DVI接口,设备集成互联模块或其他适合的各种端口、接口,或者连接。
此外,根据本申请实施例,还提供了一种存储介质,在所述存储介质上存储了程序指令,在所述程序指令被计算机或处理器运行时用于执行本申请实施例的驾驶数据采集与标定方法的相应步骤。所述存储介质例如可以包括智能电话的存储卡、平板电脑的存储部件、个人计算机的硬盘、只读存储器(ROM)、可擦除可编程只读存储器(EPROM)、便携式紧致盘只读存储器(CD-ROM)、USB存储器、或者上述存储介质的任意组合。
本申请实施例的驾驶数据采集与标定装置和存储介质,由于能够实现前述的驾驶数据采集与标定方法,因此具有和前述的驾驶数据采集与标定方法相同的优点。
尽管这里已经参考附图描述了示例实施例,应理解上述示例实施例仅仅是示例性的,并且不意图将本申请的范围限制于此。本领域普通技术人员可以在其中进行各种改变和修改,而不偏离本申请的范围和精神。所有这些改变和修改意在被包括在所附权利要求所要求的本申请的范围之内。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本申请的范围。
在本申请所提供的几个实施例中,应该理解到,所揭露的设备和方法,可以通过其它的方式实现。例如,以上所描述的设备实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个设备,或一些特征可以忽略,或不执行。
在此处所提供的说明书中,说明了大量具体细节。然而,能够理解,本申请的实施例可以在没有这些具体细节的情况下实践。在一些实例中,并未详细示出公知的方法、结构和技术,以便不模糊对本说明书的理解。
类似地,应当理解,为了精简本申请并帮助理解各个发明方面中的一个或多个,在对本申请的示例性实施例的描述中,本申请的各个特征有时被一起分组到单个实施例、图、或者对其的描述中。然而,并不应将该本申请的方法解释成反映如下意图:即所要求保护的本申请要求比在每个权利要求中所明确记载的特征更多的特征。更确切地说,如相应的权利要求书所反映的那样,其发明点在于可以用少于某个公开的单个实施例的所有特征的特征来解决相应的技术问题。因此,遵循具体实施方式的权利要求书由此明确地并入该具体实施方式,其中每个权利要求本身都作为本申请的单独实施例。
本领域的技术人员可以理解,除了特征之间相互排斥之外,可以采用任何组合对本说明书(包括伴随的权利要求、摘要和附图)中公开的所有特征以及如此公开的任何方法或者设备的所有过程或单元进行组合。除非另外明确陈述,本说明书(包括伴随的权利要求、摘要和附图)中公开的每个特征可以由提供相同、等同或相似目的的替代特征来代替。
此外,本领域的技术人员能够理解,尽管在此所述的一些实施例包括其它实施例中所包括的某些特征而不是其它特征,但是不同实施例的特征的组合意味着处于本申请的范围之内并且形成不同的实施例。例如,在权利要求书中,所要求保护的实施例的任意之一都可以以任意的组合方式来使用。
本申请的各个部件实施例可以以硬件实现,或者以在一个或者多个处理器上运行的软件模块实现,或者以它们的组合实现。本领域的技术人员应当理解,可以在实践中使用微处理器或者数字信号处理器(DSP)来实现根据本申请实施例的一些模块的一些或者全部功能。本申请还可以实现为用于执行这里所描述的方法的一部分或者全部的装置程序(例如,计算机程序和计算机程序产品)。这样的实现本申请的程序可以存储在计算机可读介质上,或者可以具有一个或者多个信号的形式。这样的信号可以从因特网网站上下载得到,或者在载体信号上提供,或者以任何其他形式提供。
应该注意的是上述实施例对本申请进行说明而不是对本申请进行限制,并且本领域技术人员在不脱离所附权利要求的范围的情况下可设计出替换实施例。在权利要求中,不应将位于括号之间的任何参考符号构造成对权利要求的限制。单词“包含”不排除存在未列在权利要求中的元件或步骤。位于元件之前的单词“一”或“一个”不排除存在多个这样的元件。本申请可以借助于包括有若干不同元件的硬件以及借助于适当编程的计算机来实现。在列举了若干装置的单元权利要求中,这些装置中的若干个可以是通过同一个硬件项来具体体现。单词第一、第二、以及第三等的使用不表示任何顺序。可将这些单词解释为名称。
以上所述,仅为本申请的具体实施方式或对具体实施方式的说明,本申请的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本申请揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本申请的保护范围之内。本申请的保护范围应以权利要求的保护范围为准。

Claims (8)

1.一种驾驶数据采集与标定方法,其特征在于,所述方法包括:
在车辆处于自然驾驶状态的情况下,实时采集驾驶数据;其中,所述驾驶数据包括驾驶员人因数据、环境数据、车辆控制数据;所述自然驾驶状态是指未开启任何主动驾驶辅助功能或自动驾驶功能的驾驶状态;
将所采集的驾驶数据进行按照时序进行对齐,并将对齐后的所述驾驶数据组织为树状结构;
对所述驾驶数据进行人车路数据耦合标定,形成标定后的所述驾驶数据;
其中,在车辆处于自然驾驶状态的情况下,实时采集驾驶数据,包括:
实时采集驾驶员人因数据;
实时采集环境数据;以及
实时采集车辆控制数据;
其中,对所述驾驶数据进行人车路数据耦合标定,包括:
对注意力区域所包含的交互对象进行标定;和/或
影响自车决策的交互对象进行标定;和/或
对危险事件进行标定;
其中,对注意力区域所包含的交互对象进行标定,至少包括:对注意力热力图进行热点聚类;确定交互交对象位于所述注意力热力图中的位置并进行标定;
其中,影响自车决策的交互对象进行标定,至少包括:采用控制干扰算法对影响所述自车决策的所述交互对象的筛选;
其中,对危险事件进行标定,至少包括:基于驾驶员的预设种类的生理信号处于异常高峰时段时对应的时间戳,定位所述异常高峰时段对应的驾驶环境,将所述驾驶环境下的驾驶事件标定为危险事件;
所述驾驶员人因数据包括以下至少一种:驾驶员的注意力区域数据、驾驶员生理与脑电信号数据和驾驶员个人信息。
2.根据权利要求1所述的方法,其特征在于,所述环境数据包括以下至少一种:环境图像数据、点云数据和路测设备采集的数据。
3.根据权利要求1所述的方法,其特征在于,所述车辆控制数据包括以下至少一种:全球导航卫星系统定位数据、惯性组合导航数据和控制器域网底层控制信息数据。
4.根据权利要求1所述的方法,其特征在于,将所采集的驾驶数据进行时序对齐,包括:
根据所述驾驶数据的时间戳将所述驾驶数据进行对齐处理。
5.根据权利要求1所述的方法,其特征在于,所述树状结构包括数据采集日志、Python工具包和数据本体。
6.根据权利要求1所述的方法,其特征在于,所述方法还包括:对驾驶员进行评估;
其中,所述对驾驶员进行评估,包括:
对所述驾驶员的历史驾驶行为进行评估;和/或
对驾驶事件的实时风险进行评估;和/或
对驾驶事件进行主观评价;和/或
对驾驶事件进行综合评估。
7.一种驾驶数据采集与标定装置,其特征在于,所述装置包括:
存储器和处理器,所述存储器上存储有由所述处理器运行的计算机程序,所述计算机程序在被所述处理器运行时,使得所述处理器执行如权利要求1至6任一项所述的驾驶数据采集与标定方法。
8.一种存储介质,其特征在于,所述存储介质上存储有计算机程序,所述计算机程序在被处理器运行时使得所述处理器执行如权利要求1至6任一项所述的驾驶数据采集与标定方法。
CN202310187644.5A 2023-03-01 2023-03-01 驾驶数据采集与标定方法、装置及存储介质 Active CN116186336B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202310187644.5A CN116186336B (zh) 2023-03-01 2023-03-01 驾驶数据采集与标定方法、装置及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202310187644.5A CN116186336B (zh) 2023-03-01 2023-03-01 驾驶数据采集与标定方法、装置及存储介质

Publications (2)

Publication Number Publication Date
CN116186336A CN116186336A (zh) 2023-05-30
CN116186336B true CN116186336B (zh) 2024-08-16

Family

ID=86440214

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202310187644.5A Active CN116186336B (zh) 2023-03-01 2023-03-01 驾驶数据采集与标定方法、装置及存储介质

Country Status (1)

Country Link
CN (1) CN116186336B (zh)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109816811A (zh) * 2018-10-31 2019-05-28 杭州云动智能汽车技术有限公司 一种自然驾驶数据采集装置
CN210574293U (zh) * 2019-08-01 2020-05-19 清华大学苏州汽车研究院(相城) 基于智能网联的匝道路段车辆防失稳车速预警系统

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101592728B1 (ko) * 2014-07-08 2016-02-15 현대자동차주식회사 차량의 주행 시뮬레이션 장치 및 그 방법
CN106128140B (zh) * 2016-08-11 2017-12-05 江苏大学 车联网环境下行车服务主动感知系统及方法
CN106428000B (zh) * 2016-09-07 2018-12-21 清华大学 一种车辆速度控制装置和方法
CN111047047A (zh) * 2019-11-15 2020-04-21 奇点汽车研发中心有限公司 驾驶模型的训练方法和装置、电子设备、计算机存储介质
CN113139446B (zh) * 2021-04-12 2024-02-06 长安大学 一种端到端自动驾驶行为决策方法、系统及终端设备
CN115140060B (zh) * 2022-07-29 2024-10-18 中汽创智科技有限公司 一种数据处理方法、装置、电子设备及存储介质

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109816811A (zh) * 2018-10-31 2019-05-28 杭州云动智能汽车技术有限公司 一种自然驾驶数据采集装置
CN210574293U (zh) * 2019-08-01 2020-05-19 清华大学苏州汽车研究院(相城) 基于智能网联的匝道路段车辆防失稳车速预警系统

Also Published As

Publication number Publication date
CN116186336A (zh) 2023-05-30

Similar Documents

Publication Publication Date Title
US11640174B2 (en) Smart vehicle
US10928830B1 (en) Smart vehicle
JP7332726B2 (ja) ヒートマップを使用したドライバーの注目の検出
CN103770733B (zh) 一种驾驶员安全驾驶状态检测方法及装置
WO2021231986A1 (en) Scenario identification for validation and training of machine learning based models for autonomous vehicles
Saffarian et al. Why do drivers maintain short headways in fog? A driving-simulator study evaluating feeling of risk and lateral control during automated and manual car following
CN110738150B (zh) 相机联动抓拍方法、装置以及计算机存储介质
DE112019000049T5 (de) Für autonomes fahren geeignete objekterfassung und erfassungssicherheit
EP3500975A1 (en) Systems and methods for providing visual allocation management
US20210354730A1 (en) Navigation of autonomous vehicles using turn aware machine learning based models for prediction of behavior of a traffic entity
WO2021227586A1 (zh) 交通事故分析方法、装置及设备
EP3372465B1 (en) Method and system for vehicle status based advanced driver assistance
US20200064912A1 (en) Eye gaze tracking of a vehicle passenger
Rezaei et al. Simultaneous analysis of driver behaviour and road condition for driver distraction detection
Ignatious et al. Analyzing factors influencing situation awareness in autonomous vehicles—a survey
Nidamanuri et al. Dual-V-sense-net (DVN): Multisensor recommendation engine for distraction analysis and chaotic driving conditions
Yang et al. Comprehensive assessment of artificial intelligence tools for driver monitoring and analyzing safety critical events in vehicles
CN116186336B (zh) 驾驶数据采集与标定方法、装置及存储介质
CN118343118B (zh) 一种考虑行人过街安全意识的车辆驾驶控制方法及系统
CN116595429B (zh) 驾驶员状态评估方法和系统
Shichkina et al. Analysis of driving style using self-organizing maps to analyze driver behavior.
TWI616851B (zh) 車況提示系統、車況提示方法及雲端伺服器
Yang et al. Using Artificial Intelligence/Machine Learning Tools to Analyze Safety, Road Scene, Near-Misses and Crashes
US20240317254A1 (en) Smart vehicle
Liu et al. Improving vehicle detection accuracy in complex traffic scenes through context attention and multi-scale feature fusion module

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant