CN115729229A - 用于运载工具的方法和运载工具系统 - Google Patents

Abstract

本发明涉及一种用于运载工具的方法以及运载工具系统。描述了用于通知并解释自主运载工具所进行的动作的技术等，这些技术包括但不限于：接收运载工具的计划路径、运载工具的状态和运载工具正在操作的环境的环境数据；接收偏离信号；确定偏离信号是由运载工具的第一系统还是第二系统报告的；作为响应，选择用于模拟环境中的运载工具的第一组模拟器或第二组模拟器；使用所选择的第一组模拟器或第二组模拟器来模拟环境中的运载工具；基于模拟的结果来生成消息；以及将该消息呈现给运载工具的至少一个乘员。

Description

用于运载工具的方法和运载工具系统

技术领域

本说明书涉及用于向自主运载工具附近的个人通知并解释该运载工具所进行的动作的系统、方法和计算机程序产品。

背景技术

自主运载工具(AV)可以使用路径规划来规划从起始地点到结束地点的路线。指定路线，并且运载工具沿着该路线前进。AV可以暂时或突然偏离该路线。例如，AV可以突然偏离计划路径以避免即将发生的碰撞或者维持与附近对象的预定义横向间距。这种意外偏离可能会在乘客之间或者对指挥中心的远程操作员造成困惑。

发明内容

一种用于运载工具的方法，包括：利用至少一个处理器，接收所述运载工具的计划路径、所述运载工具的状态以及所述运载工具正在操作的环境的环境数据；利用所述至少一个处理器，接收偏离信号；利用所述至少一个处理器，确定所述偏离信号是由所述运载工具的第一系统还是第二系统报告的；根据所述偏离信号是由所述运载工具的所述第一系统报告的，利用所述至少一个处理器，选择用于模拟所述环境中的所述运载工具的第一组模拟器；根据所述偏离信号是由所述运载工具的所述第二系统报告的，利用所述至少一个处理器，选择用于模拟所述环境中的所述运载工具的第二组模拟器；利用所述至少一个处理器，使用所选择的第一组模拟器或第二组模拟器来模拟所述环境中的所述运载工具，所述模拟包括模拟所述运载工具以及至少一个静态对象或动态对象；利用所述至少一个处理器，基于所述模拟的结果来生成消息；以及利用所述至少一个处理器，将所述消息呈现给所述运载工具的至少一个乘员。

一种用于运载工具的方法，包括：使用至少一个处理器，接收数据，所述数据指示所述运载工具的计划路径、所述运载工具的当前状态以及所述运载工具进行操作的环境；使用所述至少一个处理器，接收第一偏离信号或第二偏离信号；根据接收所述第一偏离信号，使用以所述数据作为输入的第一模拟器，模拟所述运载工具的运动以及对象，以确定所述对象是否引起了所述运载工具从所述计划路径偏离；根据接收所述第二偏离信号，使用以所述数据作为输入的第二模拟器，模拟所述运载工具的运动以及对象，以确定所述对象是否引起了所述运载工具从所述计划路径偏离；以及根据确定为所述对象引起了所述偏离，使用所述至少一个处理器，向所述运载工具中的乘员呈现消息，所述消息指示从所述计划路径的偏离以及被识别为所述偏离的原因的所述对象。

一种运载工具系统，包括：至少一个处理器；以及存储器，用于存储指令，所述指令在由所述至少一个处理器执行时，使得所述至少一个处理器进行上述方法。

附图说明

图1示出具有自主能力的自主运载工具(AV)的示例。

图2示出示例“云”计算环境。

图3示出计算机系统。

图4示出AV的示例架构。

图5示出感知系统可以使用的输入和输出的示例。

图6示出规划系统的输入和输出之间的关系的框图。

图7示出路径规划中所使用的有向图。

图8示出控制系统的输入和输出的框图。

图9示出控制器的输入、输出和组件的框图。

图10示出示例自主运载工具通知和动作后解释系统的框图。

图11示出在自主运载工具通知和动作后解释系统中使用的示例模拟系统的输入、输出和组件的框图。

图12示出用于通知并解释运载工具的动作的处理的流程图。

具体实施方式

在以下描述中，为了解释的目的，阐述了许多具体细节，以便提供对本发明的透彻理解。然而，本发明可以在没有这些具体细节的情况下实施将是明显的。在其它实例中，众所周知的构造和装置是以框图形式示出的，以避免不必要地使本发明模糊。

在附图中，为了便于描述，示出了示意要素(诸如表示装置、模块、系统、指令块和数据要素的那些要素)的具体排列或次序。然而，本领域技术人员应当理解，附图中示意要素的具体次序或排列并不意在意味着要求特定的处理次序或序列、或处理过程的分离。此外，在附图中包含示意要素并不意在意味着在所有实施例中都需要这种要素，也不意在意味着由这种要素表示的特征不能包括在一些实施例中或不能在一些实施例中与其它要素结合。

此外，在附图中，连接要素、诸如实线或虚线或箭头用于例示两个或多于两个其它示意要素之间的连接、关系或关联，没有任何此类连接要素并不意在意味着不能存在连接、关系或关联。换句话说，一些要素之间的连接、关系或关联未在附图中示出，以便不使本公开内容模糊。此外，为了便于例示，使用单个连接要素来表示要素之间的多个连接、关系或关联。例如，如果连接要素表示信号、数据或指令的通信，本领域技术人员应理解，这种要素表示影响通信可能需要的一个或多于一个信号路径(例如，总线)。

现在将详细参考实施例，其示例在附图中例示出。在以下的详细描述中，阐述了许多具体细节，以便提供对所描述的各种实施例的透彻理解。然而，对于本领域的普通技术人员来说将明显的是，可以在没有这些具体细节的情况下实施所描述的各种实施例。在其它情况下，没有详细描述众所周知的方法、程序、组件、电路和网络，以便不会不必要地使实施例的方面模糊。

下面描述的若干特征各自可以彼此独立地使用，也可以与其它特征的任何组合一起使用。然而，任何个别特征可能不能解决以上所讨论的任何问题，或者只能解决以上所讨论的问题之一。以上所讨论的一些问题可能不能通过本文所描述的任何一个特征得到充分解决。虽然提供了标题，但在本说明书的其它地方也可以找到与具体标题有关但在具有该标题的部分中未找到的信息。本文根据以下概要描述实施例：

1.总体概述

2.系统概述

3.自主运载工具架构

4.自主运载工具输入

5.自主运载工具规划

6.自主运载工具控制

7.自主运载工具通知和动作后解释系统

总体概述

自主运载工具(AV)可以进行机动动作，以避免即将发生的碰撞或者维持与附近对象的预定义距离。在示例中，AV进行机动动作，以避免与对象的即将发生的碰撞。在另一示例中，AV进行机动动作，以维持与进一步靠近AV或AV的计划路径的其它运载工具或对象的预定义距离。这种机动动作导致AV偏离计划路径。该偏离对于AV用户(例如，运载工具中的乘客或远程指挥中心中的操作员)而言可能是意外的或突然的(例如，速度或加速度的突然变化)。无适当通知或解释的重复偏离可能会导致用户对AV系统失去信心。可以识别造成这种事件的(一个或多于一个)对象，并且将通过视觉和/或音频消息向用户汇报(一个或多于一个)对象如何造成偏离的解释。实现了解释系统以向用户提供从计划路径偏离的解释。可以进行模拟以确定运载工具的偏离的(一个或多于一个)原因。例如，当运载工具减速以避免与穿过道路的动物碰撞时，生成碰撞避免信号。在该示例中，碰撞避免信号提示相应的模拟系统确定减速的原因。使用运载工具中的音频和/或视觉接口向运载工具的乘客广播运载工具偏离的解释(例如，运载工具减速以避免与穿过道路的动物碰撞)。

这些技术的一些优点包括：通过自主运载工具从计划路径偏离的解释来提升用户对AV运载工具的信任和信心。该解释是在AV偏离之后出现的，因此不需要用户干预。解释系统使用来自AV栈(例如，规划或控制电路)的数据，但不消耗AV栈的计算资源，因此将不会影响AV栈的处理速度。解释系统可以向远程操作员(在远程操作员存在或可用的情况下)发出警报以在必要时进行干预。备用模拟器在主模拟器发生故障时确保系统操作。将偏离事件及其各自的解释的历史保存在日志或数据库中，以允许将来检查或诊断。

系统概述

图1示出具有自主能力的AV 100的示例。

如本文所使用的，术语“自主能力”是指一种功能、特征或设施，该功能、特征或设施使运载工具能够部分地或完全地操作，而无需实时的人类干预，包括但不限于完全AV、高度AV和有条件AV。

如本文所使用的，自主运载工具(AV)是一种具有自主能力的运载工具。

如本文所使用的，“运载工具”包括货物或人员的运输方式。例如，小汽车、公共汽车、火车、飞机、无人机、卡车、船只、舰艇、潜水器、飞船等。无人驾驶的小汽车是运载工具的示例。

如本文所使用的，“轨迹”是指将AV从第一时空地点导航到第二时空地点的路径或路线。在实施例中，第一时空地点被称为初始地点或起始地点，第二时空地点被称为目的地、最终地点、目标、目标位置或目标地点。在一些示例中，轨迹由一个或多于一个路段(例如，道路的数段)组成，并且各路段由一个或多于一个块(例如，车道或交叉口的一部分)组成。在实施例中，时空地点对应于真实世界地点。例如，时空地点是上车或下车地点，以使人员或货物上车或下车。

如本文所使用的，“(一个或多于一个)传感器”包括一个或多于一个硬件组件，用于检测与传感器周围环境有关的信息。一些硬件组件可包括感测组件(例如，图像传感器、生物特征传感器)、传输和/或接收组件(例如，激光或射频波发射器和接收器)、电子组件(诸如，模数转换器)、数据存储装置(诸如，RAM和/或非易失性存储器)、软件或固件组件和数据处理组件(诸如，专用集成电路)、微处理器和/或微控制器。

如本文所使用的，“场景描述”是一种数据结构(例如，列表)或数据流，其包括由AV运载工具上的一个或多于一个传感器检测到的一个或多于一个分类或标记的对象，或由AV外部的源提供的一个或多于一个分类或标记的对象。

如本文所使用的，“道路”是一个可以被运载工具穿过的物理区域，并且可以对应于已命名的通道(例如，城市街道、州际高速公路等)或可对应于未命名的通道(例如，房屋或办公楼内的车行道、停车场的一段、空置停车场的一段、乡村区域的污物通道等)。因为有些运载工具(例如，四轮驱动的小卡车、越野车(SUV)等)能够穿过各种不特别适合运载工具行驶的物理区域，因此“道路”可以是任何市政当局或其它政府或行政机构没有正式定义为一条通道的物理区域。

如本文所使用的，“车道”是道路的可被运载工具穿过的部分。有时基于车道标记来识别车道。例如，车道可对应于车道标记之间的大部分或全部空间，或仅对应于车道标记之间的部分空间(例如，小于50％)。例如，具有相距很远的车道标记的道路可能容纳两个或多于两个运载工具，使得一个运载工具可以在不穿过车道标记的情况下超过另一个运载工具，因此可被解释为车道比车道标记之间的空间窄，或车道之间有两个车道。在没有车道标记的情况下，也可以对车道进行解释。例如，可以基于环境的物理特征(例如，农村地区的岩石和沿着大道的树木、或者例如在欠发达地区应避免的自然障碍物)来定义车道。也可以独立于车道标记或物理特征来解释车道。例如，可以基于原本缺少将会被解释为车道边界的特征的在区域中无障碍物的任意路径来解释车道。在示例情景中，AV可以解释通过田野或空地的无障碍物部分的车道。在另一示例情景中，AV可以解释通过不具有车道标记的宽(例如，足够两个或多于两个车道宽)道路的车道。在该情景中，AV可以将与车道有关的信息通信至其它AV，使得其它AV可以使用相同的车道信息来协调AV之间的路径规划。

术语“空中下载(OTA)客户端”包括任何AV，或者嵌入在AV中、耦接至AV或与AV进行通信的任何电子装置(例如，计算机、控制器、IoT装置、电子控制单元(ECU))。

术语“空中下载(OTA)更新”意味着对使用专有和/或标准化的无线通信技术递送至OTA客户端的软件、固件、数据或配置设置或者它们的任何组合的任何更新、改变、删除或添加，其中该专有和/或标准化的无线通信技术包括但不限于：蜂窝移动通信(例如，2G、3G、4G、5G)、无线电无线区域网络(例如，WiFi)和/或卫星因特网。

术语“边缘节点”是指耦接至网络的一个或多于一个边缘装置，这些装置提供与AV进行通信所用的门户并且可以与其它边缘节点和基于云的计算平台进行通信，以调度OTA更新并将OTA更新递送至OTA客户端。

术语“边缘装置”是指实现边缘节点并提供向企业或服务提供商(如VERIZON、AT&T)核心网的物理无线接入点(AP)的装置。边缘装置的示例包括但不限于：计算机、控制器、发送器、路由器、路由交换机、综合接入装置(IAD)、多路复用器、城域网(MAN)和广域网(WAN)接入装置。

“一个或多于一个”包括由一个要素执行的功能、由多个要素例如以分布式的方式执行的功能、由一个要素执行的若干功能、由若干要素执行的若干功能、或上述的任何组合。

还将理解的是，尽管在一些情况下，术语“第一”、“第二”等在本文中是用来描述各种要素的，但这些要素不应受到这些术语的限制。这些术语仅用于区分一个要素与另一个要素。例如，在未背离各种所描述的实施例的范围的情况下，第一触点可被称为第二触点，并且类似地，第二触点可被称为第一触点。第一触点和第二触点两者都是触点，但它们不是相同触点。

在本文所描述的各种实施例的说明书中使用的术语仅用于描述特定实施例的目的，而不是意在限制。如在所描述的各种实施例的说明书和所附权利要求书中所使用的，单数形式“a”、“an”和“the”也意在包括复数形式，除非上下文另有明确说明。还将理解的是，如本文所使用的“和/或”是指并且包括一个或多于一个相关清单项目的任何和所有可能的组合。还将理解的是，当在本说明书中使用术语“包括”、“包含”、“具备”和/或“具有”时，具体说明存在所陈述的特征、整数、步骤、操作、要素和/或组件，但并不排除存在或添加一个或多于一个其它特征、整数、步骤、操作、要素、组件、和/或其群组。

如本文所使用的，取决于上下文，术语“如果”可选地被理解为意指“当”或“在当时”或“响应于确定为”或“响应于检测到”。类似地，取决于上下文，短语“如果已确定”或“如果[所陈述的条件或事件]已被检测到”可选地被理解为意指“在确定时”或“响应于确定为“或”在检测到[所陈述的条件或事件]时”或“响应于检测到[所陈述的条件或事件]”。

如本文所使用的，AV系统是指AV以及支持AV操作的硬件、软件、存储的数据和实时生成的数据的阵列。在实施例中，AV系统并入在AV内。在实施例中，AV系统跨若干地点分布。例如，AV系统的一些软件是在类似于下面关于图2描述的云计算环境200的云计算环境上实现的。

一般而言，本文件描述了适用于任何具有一种或多种自主能力的运载工具的技术，包括完全AV、高度AV和有条件AV，诸如分别为所谓的第5级、第4级和第3级运载工具(见SAE国际标准J3016：道路上机动车自动驾驶系统相关术语的分类和定义，通过引用将其全部内容并入本文件，用于了解运载工具自主权等级的更多详细信息)。本文件所描述的技术也适用于部分AV和驾驶员辅助运载工具，诸如所谓的第2级和第1级运载工具(见SAE国际标准J3016：道路上机动车自动驾驶系统相关术语的分类和定义)。在实施例中，一个或多于一个第1级、第2级、第3级、第4级和第5级运载工具系统可基于对传感器输入的处理，在某些操作条件下自动执行某些运载工具操作(例如，转向、制动和使用地图)。本文件中所描述的技术可以使从完全AV到人类操作的运载工具范围内的任何级别的运载工具受益。

AV与需要人类驾驶员的运载工具相比存在优势。一个优势是安全性。例如，在2016年，美国经历了600万起汽车事故、240万人受伤、40000人死亡和1000万辆运载工具碰撞事故，估计社会成本为9100亿美元多。从1965年到2015年，每行驶1亿英里的美国交通事故死亡人数已从约6人减少到约1人，部分是由于运载工具中所部署的附加安全措施。例如，认为与将发生碰撞有关的额外半秒的警告减轻了60％的前后碰撞。然而，被动安全特征(例如，安全带、安全气囊)在改进该数字方面有可能已达到它们的极限。因而，诸如运载工具的自动控制等的主动安全措施是改进这些统计数据的可能的下一步。由于在95％的碰撞中认为人类驾驶员是造成严重碰撞前事件的原因，因此自动驾驶系统例如通过以下操作，有可能实现更好的安全结果：比人类更好地可靠地识别和避免紧急情况；做出比人类更好的决策，比人类更好地遵守交通法规，并且比人类更好地预测将来事件；并且比人类更好地可靠地控制运载工具。

参考图1，AV系统120使运载工具100沿着轨迹198操作，穿过环境190至目的地199(有时称为最终地点)，同时避开对象(例如，自然障碍物191、运载工具193、行人192、骑车者和其它障碍物)和遵守道路规则(例如，操作规则或驾驶偏好)。

在实施例中，AV系统120包括用于从计算机处理器146接收操作命令并对其进行操作的装置101。使用术语“操作命令”来表示使得运载工具进行动作(例如，驾驶机动动作)的可执行指令(或指令集)。操作命令可以非限制性地包括用于使运载工具开始向前移动、停止向前移动、开始向后移动、停止向后移动、加速、减速、进行左转和进行右转的指令。在实施例中，计算机处理器146与下面参考图3描述的处理器304相似。装置101的示例包括转向控制器102、制动器103、挡位、加速踏板或其它加速控制机构、挡风玻璃雨刮器、侧门锁、窗控器和转向指示器。

在实施例中，AV系统120包括用于测量或推断运载工具100的状态或条件的属性的传感器121，这些属性诸如是AV的位置、线速度和角速度及线加速度和角加速度、以及航向(例如，运载工具100的前端的方向)。传感器121的示例是GPS、测量运载工具线加速度和角速率两者的惯性测量单元(IMU)、用于测量或估计轮滑移率的轮速率传感器、轮制动压力或制动扭矩传感器、引擎扭矩或轮扭矩传感器以及转向角度和角速率传感器。

在实施例中，传感器121还包括用于感测或测量AV的环境的属性的传感器。例如，可见光、红外或热(或两者兼有)光谱的单目或立体摄像机122，LiDAR 123，RADAR，超声波传感器，飞行时间(TOF)深度传感器，速率传感器，温度传感器，湿度传感器和降水传感器。

在实施例中，AV系统120包括数据存储单元142和存储器144，用于存储与计算机处理器146相关联的机器指令或由传感器121收集的数据。在实施例中，数据存储单元142与以下关于图3描述的ROM 308或存储装置310类似。在实施例中，存储器144与下面描述的主存储器306类似。在实施例中，数据存储单元142和存储器144存储有关环境190的历史、实时和/或预测性信息。在实施例中，存储的信息包括地图、驾驶性能、交通拥堵更新或天气条件。在实施例中，与环境190有关的数据从远程数据库134通过通信信道传输到运载工具100。

在实施例中，AV系统120包括通信装置140，用于将对其它运载工具的状态和条件(诸如位置、线速度和角速度、线加速度和角加速度、以及线航向和角航向)测量或推断的属性传送到运载工具100。这些装置包括运载工具到运载工具(V2V)和运载工具到基础设施(V2I)通信装置以及用于通过点对点或自组织(ad hoc)网络或两者进行无线通信的装置。在实施例中，通信装置140跨电磁频谱(包括无线电和光通信)或其它介质(例如，空气和声介质)进行通信。运载工具对运载工具(V2V)和运载工具对基础设施(V2I)通信(以及在一些实施例中为一种或多种其它类型的通信)的组合有时被称为运载工具对所有事物(V2X)通信。V2X通信通常符合一个或多于一个通信标准，用于与AV进行的和在AV之间的通信。

在实施例中，通信装置140包括通信接口。例如，有线、无线、WiMAX、Wi-Fi、蓝牙、卫星、蜂窝、光、近场、红外或无线电接口。通信接口将数据从远程数据库134传输到AV系统120。在实施例中，远程数据库134嵌入在如图2中所描述的云计算环境200中。通信装置140将从传感器121收集的数据或与运载工具100操作有关的其它数据传输到远程数据库134。在实施例中，通信装置140向运载工具100传输与遥操作有关的信息。在一些实施例中，运载工具100与其它远程(例如，“云”)服务器136通信。

在实施例中，远程数据库134还存储和传输数字数据(例如，存储诸如道路和街道地点的数据)。这些数据存储在运载工具100上的存储器144中，或者通过通信信道从远程数据库134传输到运载工具100。

在实施例中，远程数据库134存储和传输与以前在一天中类似时间沿着轨迹198行驶的运载工具的驾驶属性有关的历史信息(例如，速率和加速度分布)。在一个实现中，这种数据可以存储在运载工具100上的存储器144中，或者通过通信信道从远程数据库134传输到运载工具100。

位于运载工具100上的计算机处理器146基于实时传感器数据和先验信息两者以算法方式生成控制动作，允许AV系统120执行其自主驾驶能力。

在实施例中，AV系统120包括耦接到计算机处理器146的计算机外围设备132，用于向运载工具100的用户(例如，乘员或远程用户)提供信息和提醒并接收来自该用户的输入。在实施例中，外围设备132类似于下面参考图3讨论的显示器312、输入装置314和光标控制器316。耦接是无线的或有线的。任意两个或多于两个接口装置可以集成到单个装置中。

在实施例中，AV系统120接收并强制执行例如由乘客指定的或者存储在与乘客相关联的简档中的乘客的隐私级别。乘客的隐私级别确定了如何许可使用存储在乘客简档中的以及/或者存储在云服务器136上且与乘客简档相关联的、与乘客相关联的特定信息(例如，乘客舒适度数据、生物测量数据等)。在实施例中，隐私级别指定了一旦搭乘完成则被删除的与乘客相关联的特定信息。在实施例中，隐私级别指定了与乘客相关联的特定信息，并且标识被授权访问该信息的一个或多于一个实体。被授权访问信息的所指定的实体的示例可以包括其它AV、第三方AV系统、或者可以潜在地访问该信息的任何实体。

可以在一个或多于一个粒度级别指定乘客的隐私级别。在实施例中，隐私级别标识要存储或共享的特定信息。在实施例中，隐私级别适用于与乘客相关联的所有信息，使得乘客可以指定不存储或共享她的个人信息。被许可访问特定信息的实体的指定也可以在各种粒度级别指定。被许可访问特定信息的各种实体集例如可以包括其它AV、云服务器136、特定第三方AV系统等。

在实施例中，AV系统120或云服务器136确定AV 100或另一实体是否可访问与乘客相关联的某些信息。例如，试图访问与特定时空地点有关的乘客输入的第三方AV系统必须例如从AV系统120或云服务器136获得授权，以访问与乘客相关联的信息。例如，AV系统120使用乘客的指定隐私级别来确定是否可以将与时空地点有关的乘客输入呈现给第三方AV系统、AV 100或另一AV。这使得乘客的隐私级别能够指定允许哪些其它实体接收与乘客的动作有关的数据或与乘客相关联的其它数据。

图2示出示例“云”计算环境。云计算是一种服务交付模式，用于使得能够方便、按需地在网络上访问可配置计算资源(例如网络、网络带宽、服务器、处理、内存、存储、应用程序、虚拟机和服务)的共享池。在典型的云计算系统中，一个或多于一个大型云数据中心容纳用于交付云所提供的服务的机器。现在参考图2，云计算环境200包括通过云202互连的云数据中心204a、204b和204c。数据中心204a、204b和204c为连接到云202的计算机系统206a、206b、206c、206d、206e和206f提供云计算服务。

云计算环境200包括一个或多于一个云数据中心。一般而言，云数据中心(例如图2中所示的云数据中心204a)是指构成云(例如图2中所示的云202或云的特定部分)的服务器的物理排列。例如，服务器在云数据中心中物理排列成房间、组、行和机架。云数据中心有一个或多于一个区域，其中包括一个或多于一个服务器房间。每个房间有一行或多行服务器，并且每行包括一个或多于一个机架。每个机架包括一个或多于一个单独的服务器节点。在一些实现中，区域、房间、机架和/或行中的服务器基于数据中心设施的物理基础设施要求(包括电力、能源、热力、热源和/或其它要求)被排列成若干组。在实施例中，服务器节点类似于图3中描述的计算机系统。数据中心204a具有许多分布在多个机架上的计算系统。

云202包括云数据中心204a、204b和204c以及用于连接云数据中心204a、204b和204c并有助于促进计算系统206a-f对云计算服务的访问的网络和网络资源(例如，网络设备、节点、路由器、交换机和网络电缆)。在实施例中，该网络表示一个或多于一个本地网络、广域网或通过使用地面或卫星连接部署的有线或无线链路耦接的网际网络的任意组合。通过网络交换的数据使用多种网络层协议(诸如，因特网协议(IP)、多协议标签交换(MPLS)、异步传输模式(ATM)、帧中继(Frame Relay)等)进行传输。此外，在网络表示多个子网络的组合的实施例中，在每个底层子网络上使用不同的网络层协议。在一些实施例中，网络表示一个或多于一个互连网际网络(诸如公共因特网等)。

计算系统206a-f或云计算服务消费者通过网络链路和网络适配器连接到云202。在实施例中，计算系统206a-f被实现为各种计算装置，例如服务器、台式机、膝上型计算机、平板电脑、智能手机、物联网(IoT)装置、AV(包括小汽车、无人机、航天飞机、火车、公共汽车等)和消费电子产品。在实施例中，计算系统206a-f在其它系统中实现或作为其它系统的一部分实现。

图3示出计算机系统300。在实现中，计算机系统300是一种专用计算装置。专用计算装置被硬连线以执行这些技术，或包括诸如一个或多于一个专用集成电路(ASIC)或现场可编程门阵列(FPGA)的被持久编程为执行上述技术的数字电子装置，或可包括一个或多于一个通用硬件处理器，这些硬件处理器经编程以根据固件、存储器、其它存储器、或者组合中的程序指令执行这些技术。这种专用的计算装置还可以将定制的硬线逻辑、ASIC或FPGA与定制的编程相结合来完成这些技术。在各种实施例中，专用计算装置是台式计算机系统、便携式计算机系统、手持装置、网络装置或包含硬线和/或程序逻辑以实现这些技术的任何其它装置。

在实施例中，计算机系统300包括总线302或用于传达信息的其它通信机制、以及与总线302耦接以处理信息的处理器304。处理器304是例如通用微处理器。计算机系统300还包括主存储器306，诸如随机存取存储器(RAM)或其它动态存储装置，该主存储器306耦接到总线302以存储信息和指令，该信息和指令由处理器304执行。在一个实现中，主存储器306用于在执行要由处理器304执行的指令期间存储临时变量或其它中间信息。当这些指令存储在处理器304可访问的非暂时性存储介质中时，使计算机系统300变成一个专用机器，该机器被定制以执行指令中指定的操作。

在实施例中，计算机系统300还包括只读存储器(ROM)308或耦接到总线302的其它静态存储装置，用于存储处理器304的静态信息和指令。提供诸如磁盘、光盘、固态驱动器或三维交叉点存储器的存储装置310，并且该存储装置310耦接到总线302以存储信息和指令。

在实施例中，计算机系统300通过总线302耦接到诸如阴极射线管(CRT)、液晶显示器(LCD)、等离子体显示器、发光二极管(LED)显示器或用于向计算机用户显示信息的有机发光二极管(OLED)显示器的显示器312。包括字母数字键和其它键的输入装置314耦接到总线302，用于向处理器304传送信息和命令选择。另一种类型的用户输入装置是光标控制器316，诸如松鼠、轨迹球、触控显示器或光标方向键，用于将方向信息和命令选择传送到处理器304，并用于控制光标在显示器312上的移动。这种输入装置通常具有两个轴(第一轴(例如，x轴)和第二轴(例如，y轴))上的两个自由度，这两个轴允许装置指定平面上的位置。

根据一个实施例，本文的技术由计算机系统300响应于处理器304执行主存储器306中包含的一个或多于一个指令的一个或多于一个序列而执行。这些指令从诸如存储装置310的另一存储介质读入主存储器306。执行主存储器306中包含的指令序列使处理器304执行本文所描述的过程步骤。在替代实施例中，使用硬连线电路代替或与软件指令结合使用。

如本文所使用的术语“存储介质”是指存储数据和/或指令的任何非暂时性介质，这些数据和/或指令使机器以特定方式操作。这种存储介质包括非易失性介质和/或易失性介质。非易失性介质例如包括诸如存储装置310的光盘、磁盘、固态驱动器或三维交叉点存储器。易失性介质包括动态存储器，诸如主存储器306。存储介质的常见形式包括例如软盘、软磁盘、硬盘、固态驱动器、磁带或任何其它磁数据存储介质、CD-ROM、任何其它光数据存储介质、任何具有孔型的物理介质、RAM、PROM和EPROM、FLASH-EPROM、NV-RAM、或任何其它存储芯片或存储盒。

存储介质有别于传输介质，但可以与传输介质相结合使用。传输介质参与存储介质之间的信息传输。例如，传输介质包括同轴电缆、铜线和光纤，其包括具备总线302的电线。传输介质也可以采取声波或光波的形式，诸如在无线电波和红外数据通信过程中产生的声波或光波。

在实施例中，各种形式的介质涉及将一个或多于一个指令的一个或多于一个序列承载到处理器304以供执行。例如，这些指令最初是在远程计算机的磁盘或固态驱动器上执行的。远程计算机将指令加载到其动态存储器中，并使用调制解调器通过电话线路发送指令。计算机系统300的本地调制解调器接收电话线路上的数据，并使用红外发射器将数据转换为红外信号。红外检测器接收红外信号中承载的数据，并且适当的电路将数据放置在总线302上。总线302将数据承载到主存储器306，处理器304从主存储器306检索并执行指令。主存储器306接收的指令可以可选地在处理器304执行之前或之后存储在存储装置310上。

计算机系统300还包括耦接到总线302的通信接口318。通信接口318提供耦接到连接至本地网络322的网络链路320的双向数据通信。例如，通信接口318是综合业务数字网(ISDN)卡、电缆调制解调器、卫星调制解调器或用以提供与相应类型电话线路的数据通信连接的调制解调器。作为另一示例，通信接口318是局域网(LAN)卡，用于提供与兼容LAN的数据通信连接。在一些实现中，无线链路也被实现。在任何这种实现中，通信接口318发送和接收承载表示各种类型的信息的数字数据流的电、电磁或光信号。

网络链路320通常通过一个或多于一个网络向其它数据装置提供数据通信。例如，网络链路320通过本地网络322提供与主计算机324或与由因特网服务提供商(ISP)326运营的云数据中心或设备的连接。ISP 326又通过现在通常称为“因特网”328的世界范围分组数据通信网络来提供数据通信服务。本地网络322和因特网328两者都使用承载数字数据流的电、电磁或光信号。通过各种网络的信号以及网络链路320上并通过通信接口318的信号是传输介质的示例形式，其中这些信号承载了进出计算机系统300的数字数据。在实施例中，网络320包含以上根据图2所述的云202或云202的一部分。

计算机系统300通过(一个或多于一个)网络、网络链路320和通信接口318发送消息和接收包括程序代码的数据。在实施例中，计算机系统300接收用于处理的代码。接收到的代码在接收到时由处理器304执行，和/或存储在存储装置310中，或存储在其它非易失性存储装置中以便以后执行。

自主运载工具架构

图4示出用于AV(例如，图1所示的运载工具100)的示例架构400。架构400包括感知系统402(有时称为感知电路)、规划系统404(有时称为规划电路)、控制系统406(有时称为控制电路)、定位系统408(有时称为定位电路)和数据库系统410(有时称为数据库电路)。各系统在运载工具100的操作中发挥作用。共同地，系统402、404、406、408和410可以是图1所示的AV系统120的一部分。在一些实施例中，系统402、404、406、408和410中的任何系统是计算机软件(例如，计算机可读介质上所存储的可执行代码)和计算机硬件(例如，一个或多于一个微处理器、微控制器、专用集成电路[ASIC]、硬件存储器装置、其它类型的集成电路、其它类型的计算机硬件、或者这些硬件中的任何或所有的组合)的组合。系统402、404、406、408和410各自有时被称为处理电路(例如，计算机硬件、计算机软件、或者这两者的组合)。系统402、404、406、408和410中的任何或全部的组合也是处理电路的示例。

在使用中，规划系统404接收表示目的地412的数据，并且确定表示运载工具100为了到达(例如，抵达)目的地412而可以行驶的轨迹414(有时称为路线)的数据。为了使规划系统404确定表示轨迹414的数据，规划系统404从感知系统402、定位系统408和数据库系统410接收数据。

感知系统402使用例如也如图1所示的一个或多于一个传感器121来识别附近的物理对象。将对象分类(例如，分组成诸如行人、自行车、汽车、交通标志等的类型)，并且将包括经分类的对象416的场景描述提供至规划系统404。

规划系统404还从定位系统408接收表示AV位置418的数据。定位系统408通过使用来自传感器121的数据和来自数据库系统410的数据(例如，地理数据)以计算位置来确定AV位置。例如，定位系统408使用来自GNSS(全球导航卫星系统)传感器的数据和地理数据来计算AV的经度和纬度。在实施例中，定位系统408所使用的数据包括具有行车道几何属性的高精度地图、描述道路网络连接属性的地图、描述行车道物理属性(诸如交通速率、交通量、运载工具和自行车车道的数量、车道宽度、车道交通方向、或车道标记类型和地点，或者它们的组合)的地图、以及描述道路特征(诸如人行横道、交通标志或各种类型的其它行驶信号等)的空间地点的地图。在实施例中，高精度地图是通过将数据经由自动或手动标注添加到低精度地图所构造的。

控制系统406接收表示轨迹414的数据和表示AV位置418的数据，并且以将使得运载工具100行驶轨迹414到达目的地412的方式来操作AV的控制功能420a～420c(例如，转向、油门、制动、点火)。例如，如果轨迹414包括左转，则控制系统406将以如下方式操作控制功能420a～420c：转向功能的转向角度将使得运载工具100左转，并且油门和制动将使得运载工具100在进行转弯之前暂停并等待经过的行人或运载工具。

自主运载工具输入

图5示出感知系统402(图4)所使用的输入502a-502d(例如，图1中所示的传感器121)和输出504a-504d(例如，传感器数据)的示例。一个输入502a是LiDAR(光检测和测距)系统(例如，图1所示的LiDAR 123)。LiDAR是使用光(例如，诸如红外光等的一道光)来获得与其视线中的物理对象有关的数据的技术。LiDAR系统产生LiDAR数据作为输出504a。例如，LiDAR数据是用于构造如图1所示的环境190的表示的3D或2D点(也称为点云)的集合。

另一输入502b是RADAR(雷达)系统。RADAR是使用无线电波来获得与附近的物理对象有关的数据的技术。RADAR可以获得与不在LiDAR系统的视线内的对象有关的数据。RADAR系统产生RADAR数据作为输出504b。例如，RADAR数据是用于构造如图1所示的环境190的表示的一个或多于一个射频电磁信号。

另一输入502c是照相机系统。照相机系统使用一个或多于一个照相机(例如，使用诸如电荷耦接器件[CCD]等的光传感器的数字照相机)来获取与附近的物理对象有关的信息。照相机系统产生照相机数据作为输出504c。照相机数据通常采用图像数据(例如，诸如RAW、JPEG、PNG等的图像数据格式的数据)的形式。在一些示例中，照相机系统具有例如为了立体影像(立体视觉)的目的的多个独立照相机，这使得照相机系统能够感知深度。尽管照相机系统所感知的对象在这里被描述为“附近”，但这是相对于AV而言的。在一些实施例中，照相机系统被配置为“看见”远处的(例如，AV前方的远至1公里或更远的)对象。因此，在一些实施例中，照相机系统具有为了感知遥远的对象而优化的诸如传感器和镜头等的特征。

另一输入502d是交通灯检测(TLD)系统。TLD系统使用一个或多于一个照相机来获得与交通灯、街道标志和提供视觉导航信息的其它物理对象有关的信息。TLD系统产生TLD数据作为输出504d。TLD数据经常采用图像数据(例如，诸如RAW、JPEG、PNG等的图像数据格式的数据)的形式。TLD系统与包含照相机的系统的不同之处在于：TLD系统使用具有宽视场(例如，使用广角镜头或鱼眼镜头)的照相机，以获得与尽可能多的提供视觉导航信息的物理对象有关的信息，使得运载工具100能够访问这些对象所提供的所有相关导航信息。例如，TLD系统的视角为约120度或更大。

在一些实施例中，使用传感器融合技术来组合输出504a-504d。因而，将个体输出504a-504d提供至运载工具100的其它系统(例如，提供至如图4所示的规划系统404)，或者可以采用相同类型的单个组合输出或多个组合输出(例如，使用相同组合技术或组合相同输出或者这两者)或不同类型的单个组合输出或多个组合输出(例如，使用不同的各个组合技术或组合不同的各个输出或者这两者)的形式，将组合输出提供至其它系统。在一些实施例中，使用早期融合技术。早期融合技术的特征在于：在将一个或多于一个数据处理步骤应用到组合输出之前，将输出组合。在一些实施例中，使用后期融合技术。后期融合技术的特征在于：在将一个或多于一个数据处理步骤应用到个体输出之后，将输出组合。

路径规划

图6示出(例如，如图4所示的)规划系统404的输入和输出之间的关系的框图600。一般而言，规划系统404的输出是从起点604(例如，源地点或初始地点)到终点606(例如，目的地或最终地点)的路线602。路线602通常由一个或多于一个路段定义。例如，路段是指要在街道、道路、公路、车行道或适合汽车行驶的其它物理区域的至少一部分上行驶的距离。在一些示例中，例如，如果运载工具100是诸如四轮驱动(4WD)或全轮驱动(AWD)小汽车、SUV或小卡车等的能够越野的运载工具，则路线602包括诸如未铺面路径或开阔田野等的“越野”路段。

除路线602之外，规划系统还输出车道级路线规划数据608。车道级路线规划数据608用于在特定时间基于路线602的路段的条件来驶过这些路段。例如，如果路线602包括多车道公路，则车道级路线规划数据608包括轨迹规划数据610，其中运载工具100可以使用该轨迹规划数据610以例如基于出口是否临近、多个车道中的一个或多于一个车道是否存在其它运载工具、或者在几分钟或更少时间的过程中变化的其它因素来从这多个车道中选择某车道。类似地，在一些实现中，车道级路线规划数据608包括路线602的某路段特有的速率约束612。例如，如果该路段包括行人或非预期交通，则速率约束612可以将运载工具100限制到比预期速率慢的行驶速率，例如基于该路段的限速数据的速率。

在实施例中，向规划系统404的输入包括(例如，来自图4所示的数据库系统410的)数据库数据614、当前地点数据616(例如，图4所示的AV位置418)、(例如，用于图4所示的目的地412的)目的地数据618和对象数据620(例如，如图4所示的感知系统402所感知的经分类的对象416)。在一些实施例中，数据库数据614包括规划时所使用的规则。规则是使用形式语言(例如，使用布尔逻辑)指定的。在运载工具100所遇到的任何给定情形中，这些规则中的至少一些规则将适用于该情形。如果规则具有基于运载工具100可用的信息(例如，与周围环境有关的信息)所满足的条件，则该规则适用于给定情形。规则可以具有优先级。例如，“如果公路是高速公路，则移动到最左侧车道”这一规则与“如果出口在一英里内临近，则移动到最右侧车道”相比可以具有更低的优先级。

图7示出在路径规划中(例如，由规划系统404(图4))使用的有向图700。一般而言，如图7所示的有向图那样的有向图700用于确定任何起点702和终点704之间的路径。在现实世界中，分隔起点702和终点704的距离可能相对较大(例如，在两个不同的都市区域中)，或者可能相对较小(例如，毗邻城市街区的两个交叉口或多车道道路的两条车道)。

在实施例中，有向图700具有表示起点702和终点704之间的运载工具100可能占用的不同地点的节点706a-706d。在一些示例中，例如，在起点702和终点704表示不同的都市区域时，节点706a-706d表示道路的路段。在一些示例中，例如，在起点702和终点704表示相同道路上的不同地点时，节点706a-706d表示该道路上的不同位置。这样，有向图700包括不同粒度级别的信息。在实施例中，具有高粒度的有向图也是具有更大规模的另一有向图的子图。例如，起点702和终点704相距远(例如，相距许多英里)的有向图的大部分信息处于低粒度，并且该有向图是基于所存储的数据，但该有向图还包括用于该有向图中的表示运载工具100的视场中的物理地点的一部分的一些高粒度信息。

节点706a-706d不同于无法与节点重叠的对象708a-708b。在实施例中，在粒度低时，对象708a-708b表示汽车不能穿过的地区，例如无街道或道路的区域。在粒度高时，对象708a-708b表示运载工具100的视场中的物理对象，例如其它汽车、行人、或运载工具100不能与之共用物理空间的其它实体。在实施例中，对象708a-708b的一部分或全部是静态对象(例如，不改变位置的对象，诸如街灯或电线杆等)或动态对象(例如，能够改变位置的对象，诸如行人或其它小汽车等)。

节点706a-706d通过边710a-710c连接。如果两个节点706a-706b通过边710a连接，则运载工具100可以在一个节点706a和另一节点706b之间行驶，例如，而不必在到达另一节点706b之前行驶到中间节点。(当提到运载工具100在节点之间行驶时，意味着运载工具100在由相应节点表示的两个物理位置之间行驶。)边710a-710c通常是双向的，从某种意义上，运载工具100从第一节点行驶到第二节点，或者从第二节点行驶到第一节点。在实施例中，边710a-710c是单向的，从某种意义上，运载工具100可以从第一节点行驶到第二节点，然而运载工具100不能从第二节点行驶到第一节点。在边710a-710c表示例如单向街道，街道、道路或公路的单独车道，或者由于法律或物理约束因而仅能沿一个方向穿过的其它特征的情况下，边710a-710c是单向的。

在实施例中，规划系统404使用有向图700来识别由起点702和终点704之间的节点和边组成的路径712。

边710a-710c具有关联成本714a-714b。成本714a-714b是表示在运载工具100选择该边的情况下将花费的资源的值。典型的资源是时间。例如，如果一个边710a所表示的物理距离是另一边710b所表示的物理距离的两倍，则第一边710a的关联成本714a可以是第二边710b的关联成本714b的两倍。影响时间的其它因素包括预期交通、交叉口的数量、限速等。另一典型的资源是燃料经济性。两个边710a-710b可以表示相同的物理距离，但例如由于道路条件、预期天气等，因此一个边710a与另一边710b相比需要更多的燃料。

在规划系统404识别起点702和终点704之间的路径712时，规划系统404通常选择针对成本优化的路径，例如，在将边的个体成本相加到一起时具有最小总成本的路径。

自主运载工具控制

图8示出(例如，如图4所示的)控制系统406的输入和输出的框图800。控制系统根据控制器802而操作，该控制器802例如包括：与处理器304类似的一个或多于一个处理器(例如，诸如微处理器或微控制器或这两者等的一个或多于一个计算机处理器)；与主存储器306、ROM 308和存储装置310类似的短期和/或长期数据存储装置(例如，存储区域随机存取存储器或闪速存储器或这两者)；以及存储器中所存储的指令，这些指令在(例如，由一个或多于一个处理器)执行时执行控制器802的操作。

在实施例中，控制器802接收表示期望输出804的数据。期望输出804通常包括速度，例如速率和航向。期望输出804例如可以基于从(例如，如图4所示的)规划系统404接收到的数据。根据期望输出804，控制器802产生可用作油门输入806和转向输入808的数据。油门输入806表示例如通过接合转向踏板或接合另一油门控件来接合运载工具100的油门(例如，加速控制)以实现期望输出804的大小。在一些示例中，油门输入806还包括可用于接合运载工具100的制动器(例如，减速控制)的数据。转向输入808表示转向角度，例如运载工具的转向控制(例如，方向盘、转向角致动器或用于控制转向角度的其它功能)应被定位成实现期望输出804的角度。

在实施例中，控制器802接收在调整提供至油门和转向的输入时使用的反馈。例如，如果运载工具100遇到诸如山丘等的干扰810，则运载工具100的测量速率812降至低于期望输出速率。在实施例中，任何测量输出814均被提供至控制器802，使得例如基于测量速率和期望输出之间的差分813来进行所需的调整。测量输出814包括测量位置816、测量速度818(包括速率和航向)、测量加速度820和运载工具100的传感器可测量的其它输出。

在实施例中，例如通过诸如照相机或LiDAR传感器等的传感器预先检测与干扰810有关的信息，并且该信息被提供至预测性反馈系统822。然后，预测性反馈系统822将控制器802可用于相应地调整的信息提供至控制器802。例如，如果运载工具100的传感器检测到(“看见”)山丘，则控制器802可以使用该信息来准备在适当时间接合油门，以避免显著减速。

图9示出控制器802的输入、输出和组件的框图900。控制器802具有影响油门/制动器控制器904的操作的速率分析器902。例如，速率分析器902根据例如由控制器802接收到并由速率分析器902处理后的反馈，来指示油门/制动器控制器904使用油门/制动器906进行加速或进行减速。

控制器802还具有影响方向盘控制器910的操作的横向跟踪控制器908。例如，横向跟踪控制器908根据例如由控制器802接收到并由横向跟踪控制器908处理后的反馈，来指示方向盘控制器910调整转向角致动器912的位置。

控制器802接收用于确定如何控制油门/制动器906和转向角致动器912的若干输入。规划系统404提供控制器802例如选择运载工具100开始操作时的航向并确定在运载工具100到达交叉口时穿过哪个道路路段所使用的信息。定位系统408例如将描述运载工具100的当前地点的信息提供至控制器802，使得控制器802可以确定运载工具100是否处于基于正控制油门/制动器906和转向角致动器912的方式而预期的地点。在实施例中，控制器802接收来自其它输入914的信息，例如从数据库、计算机网络等接收到的信息。

自主运载工具通知和动作后解释系统

图10示出示例自主运载工具通知和动作后解释系统1000的框图。在实施例中，自主运载工具通知和动作后解释系统1000是图3所示的处理器304的一部分。在实施例中，自主运载工具通知和动作后解释系统1000是图2所示的云202中的处理器的一部分。通常，自主运载工具通知和动作后解释系统1000识别运载工具从计划路径偏离的至少一个原因。通常，偏离可以是运载工具的任何意外运动或行为。在示例中，运载工具从计划路径偏离的原因是对象(例如，自然障碍物191、运载工具193、行人192、骑自行车者和其它障碍物)。将偏离的原因以视觉或听觉通知的形式报告给用户。

自主运载工具动作后解释系统1000采用偏离信号1011、规划数据1012、跟踪对象1013和环境数据1014作为输入。通常，偏离信号1011是指示运载工具偏离了计划路径的信号。偏离信号1011可以是在运载工具偏离计划路径之后生成的。示例偏离信号1011是由AV栈1016的碰撞避免子系统生成的碰撞避免信号。另一示例偏离信号1011是由安全系统1018生成的碰撞避免信号。附加示例偏离信号1011是由AV栈1016的漂移子系统生成的漂移信号。

碰撞避免子系统是AV栈1016的专用于进行运载工具机动动作以避免与运载工具附近的对象或障碍物碰撞的子系统。在实施例中，碰撞避免子系统是控制电路406的一部分。由碰撞避免子系统或安全系统1018生成的示例碰撞避免信号是减速以避免与突然出现的行人碰撞。

漂移子系统是AV栈1016的如下子系统，该子系统用于即使不存在与附近对象(例如，卡车)碰撞的当前或将来风险，也使运载工具转向以至少维持与该附近对象的预定义距离(例如，1米)。在实施例中，预定义距离是从运载工具(例如，从运载工具的一侧)到附近对象的横向距离。在实施例中，漂移子系统是规划系统404的一部分。在示例中，如果大型卡车占用车道的右侧，则漂移子系统使运载工具从车道的中央转向到车道的左侧。在该示例中，漂移子系统所生成的漂移信号是使运载工具向左转向以维持与大型卡车的横向距离。在实施例中，漂移信号使运载工具转向以进行车道改变从而维持与附近对象的预定义距离。在实施例中，在运载工具进行车道改变以维持与附近对象的预定义距离之后，漂移信号使运载工具转向以返回到该运载工具先前行驶的车道。

通常，规划数据1012表示与用于使运载工具从第一点朝向第二点导航的指令相关联的数据。规划数据1012的示例集合是由AV 100的规划电路404和/或控制电路406使用和/或生成的数据。在示例中，跟踪对象1013是环境中的已由自主驾驶系统101、AV栈1016、安全系统1018或其任何组合检测到并进行监视的对象。例如，跟踪对象是由感知系统(例如，图4的感知系统402)确定的，并且根据它们各自的分类进行标记。

环境数据1014表示与运载工具的周围环境相关联的数据。环境数据1014的示例集合包括基于从车载传感器获得的传感器数据所生成的语义可驾驶面和/或经标记的对象。在实施例中，环境数据1014是通过识别并标记传感器数据(诸如图5所示的输出504a-504d等)中的对象和/或面所生成的。在实施例中，识别和标记使用至少一个神经网络，诸如VoxNet、PointNet、SegNet和/或YOLO等。

根据图11来说明与基于偏离信号1011、规划数据1012、跟踪对象1013、环境数据1014和/或它们的分量的模拟有关的更多详情。

在实施例中，偏离信号1011、规划数据1012、跟踪对象1013和环境数据1014是由自主驾驶系统1010生成的。在实施例中，自主驾驶系统1010包括AV栈1016和安全系统1018。在实施例中，自主驾驶系统1010是图1所示的AV系统120的一部分。在实施例中，自主驾驶系统1010包括图4所示的感知系统402和/或定位系统408。在实施例中，AV栈1016包括图4所示的规划电路404和/或控制电路406。

在实施例中，安全系统1018是至少部分地独立于AV栈1016的一个或多个辅助系统，以确保自主驾驶系统1010的安全。在这样的实施例中，安全系统1018是监视AV附近的对象并对这些对象作出反应的子系统，该子系统独立于规划电路404而操作。在实施例中，安全系统1018将基础级控制命令(例如，制动和/或转弯等)直接应用于运载工具上。安全系统1018可以是与AV栈分开且独立于AV栈而运行的独立式系统。示例安全系统是自动紧急制动(AEB)系统。AEB系统使用传感器检测前方障碍物并评估是否有可能发生碰撞。如果有可能发生碰撞，则AEB系统将应用制动器。在实施例中，安全系统1018包括独立式传感器。在实施例中，安全系统1018使用自主运载工具的传感器，诸如如图5所示的LiDAR 502a、RADAR502b或照相机502c等。

在实施例中，规划数据1012是使用AV栈1016生成的，而偏离信号1011是从AV栈1016或安全系统1018生成的。在实施例中，规划数据1012是至少部分地使用如图4所示的规划电路404生成的。

在实施例中，环境数据1014表示运载工具进行操作的环境。在实施例中，环境数据1014是由自主驾驶系统1010生成的。在这样的实施例中，环境数据1014是至少部分地由感知系统402生成的。

将偏离信号1011、规划数据1012、跟踪对象1013和环境数据1014的(在一些情况下处理之后的)分量作为输入提供至模拟系统1020。模拟系统1020确定导致偏离的(一个或多于一个)责任对象1022。以下参考图11来说明与偏离信号1011、规划数据1012和环境数据1014的分量、模拟系统1020、以及确定责任对象1022有关的更多详情。

一旦确定了导致偏离的责任对象1022，则将责任对象1022作为输入提供至通知系统1030。通知系统1030接受负责对象1022并在传感器数据的最近历史中搜索负责对象1022。例如，如果责任对象1022是穿过运载工具所行驶的行驶车道的松鼠，则通知系统1030在照相机图像的最近历史(例如，在过去10秒内捕获到的图像)中搜索松鼠，并且生成示出松鼠的图像集合或视频。在实施例中，传感器数据未经处理(例如，未经标记)，并且通知系统1030使用诸如YOLO或PointNet等的神经网络在传感器数据中检测和识别责任对象1022。在实施例中，经处理(例如，经标记)的传感器数据可从对象检测神经网络获得，该对象检测神经网络被配置为接收传感器数据并处理该传感器数据，以检测传感器周围的3D空间中的至少一个对象(例如，图1的自然障碍物191、运载工具193和行人192；骑自行车者；以及其它障碍物)。在实施例中，对象检测神经网络是前馈卷积神经网络，该前馈卷积神经网络考虑到输出504a-504d(例如，传感器数据)，针对3D空间中的潜在对象生成边界框集合，并且针对在边界框内存在对象类实例(例如，小汽车、行人或自行车)生成置信度得分。在实施例中，对象检测网络是诸如SegNet等的语义分割神经网络。在示例中，SegNet采用图像集合作为输入，预测这些图像中的各像素的类，并且针对图像中的各像素输出语义分割数据(例如，标签)。

通知系统1030在经处理的传感器数据上搜索匹配标签。例如，如果对于照相机所捕获到的图像可利用语义分割掩码(例如，存储在数据库中)并且责任对象1022被标记为松鼠，则通知系统1030在所存储的分割掩码中搜索被标记为松鼠的区域，然后定位照相机所捕获到的示出松鼠的相应图像。在实施例中，造成偏离的责任对象1022是静态的，诸如倒下的树或停放的小汽车等。在实施例中，造成偏离的责任对象1022是动态的，例如松鼠或行人等。

通知系统1030生成经编译的消息1032。在实施例中，经编译的消息1032包括警告。在实施例中，经编译的消息1032识别造成偏离的责任对象1022。在实施例中，经编译的消息1032是音频消息。在实施例中，经编译的消息1032是视频消息。在实施例中，经编译的消息1032包括运载工具和责任对象1022之间的距离测量结果。例如，经编译的消息1032可以指示从运载工具到责任对象1022的以米为单位或以码为单位的距离。在实施例中，如果经编译的消息1032是视频消息，则经编译的消息1032可以包括示出运载工具从计划路径的偏离的动画。在实施例中，如果经编译的消息1032是视频消息，则经编译的消息1032包括具有经标注的增强现实(AR)叠加的由运载工具的至少一个摄像机捕获到的视频。

广播系统1040采用经编译的消息1032作为输入，并且将经编译的消息1032基于乘员的偏好经由一个或多个接口呈现给运载工具中的一个或多于一个乘员(诸如乘客等)。在实施例中，如果乘员偏好音频通知，则广播系统1040经由诸如车载扬声器或乘员的头戴式耳机等的可用音频接口递送经编译的消息1032。在实施例中，如果乘员偏好视觉通知，则广播系统1040经由诸如车载屏幕或乘员的个人智能电话等的可用视频接口递送经编译的消息1032。在实施例中，经编译的消息1032是通过音频警告或解释所增强的视频消息。在实施例中，乘员具有关闭广播系统1040的消息传递的选项，这防止广播系统向乘员递送消息。结果，乘员被阻止接收通过广播系统输出的消息所通信的任何通知。在实施例中，一旦检测到偏离，广播系统1040就将经编译的消息1032传输到远程操作员(例如，基于网络的操作员)。

在实施例中，在发生偏离之后，将经编译的消息1032保存到日志或数据库。在实施例中，经编译的消息1032包括时间戳、元数据(例如，报头或数据大小指示)和/或AV状态等。在实施例中，日志或数据库是图4所示的数据库系统410的一部分。

图11示出在图10所示的自主运载工具动作后解释系统1000中使用的示例性模拟系统1020的框图1100。模拟系统1020基于偏离信号1011、规划数据1012和/或环境数据1014来确定对偏离负有责任的至少一个对象。

在实施例中，偏离信号1011是指示运载工具正在进行机动动作以避免与责任对象1022碰撞的碰撞避免信号。在实施例中，偏离信号1011是指示运载工具正从计划路径1112漂移的漂移信号。在实施例中，偏离信号1011包含指示其起源或在何处生成(诸如图10所示的AV栈1016或安全系统1018等)的签名信息。在这样的实施例中，偏离信号1011的签名信息进一步指示偏离信号1011源自于的子系统，诸如AV栈1016的碰撞避免子系统或漂移子系统等。

在实施例中，规划数据1012包括AV状态1110(诸如AV姿态、或者AV的位置和朝向等)、以及计划路径1112(其是在偏离之前计划的路径)。

在实施例中，环境数据1014包括语义可驾驶面1114，该语义可驾驶面1114是指示环境中的可驾驶面(诸如经标记的行驶车道和/或交叉口等)的语义图。在实施例中，环境数据1014包括跟踪对象1118。在实施例中，跟踪对象1118与对象类(诸如小汽车、行人、松鼠和/或施工锥等)以及相对于运载工具的相对位置相关联。在实施例中，跟踪对象1118包括背景对象，诸如遥远的建筑物和/或植被等。在实施例中，语义可驾驶面1114和跟踪对象1118是通过识别并标记传感器数据(诸如图5的输出504a-504d等)中的对象所生成的。在实施例中，对象的识别和标记是由感知系统402使用神经网络(诸如VoxNet、PointNet、SegNet和/或YOLO等)进行的。

跟踪对象1118被提供到跟踪选择器和迭代器1120中，该跟踪选择器和迭代器1120被配置为迭代通过跟踪对象1118并且生成选定对象1122。在实施例中，跟踪对象1118在跟踪选择器和迭代器1120中形成队列，其中该队列是由对象和运载工具之间的距离(例如，2D欧几里德距离和/或2D曼哈顿距离等)确定的。在实施例中，该队列是使用标准数据结构(诸如队列、栈、堆、列表、数组和/或二叉搜索树等)来实现的。在实施例中，更接近运载工具的对象在队列中具有更高的优先级。在实施例中，附加地，跟踪选择器和迭代器1120可以使用跟踪对象1118的属性(例如，速率、速度、加速度、活动)，以通过移除不太可能是偏离的原因的对象(诸如不活动的(例如，静止的)和/或遥远的对象等)来减小队列的大小。在实施例中，选定对象1122是从队列中取出和移除的最高优先级对象。在实施例中，在队列耗尽并且没有找到责任对象1022的情况下，通过增加从运载工具起的搜索范围来构造新队列。例如，在运载工具的50米内的跟踪对象1118的队列耗尽的情况下，构造了离运载工具50到100米远的跟踪对象1118的新队列。在这样的实施例中，新队列中的对象可以由跟踪选择器和迭代器1120基于该对象的属性(例如，在对象具有0速度和0加速度的情况下)从新队列中移除。在实施例中，在基于属性从队列移除对象之前，该队列由所有的跟踪对象1118形成。

系统选择器1130根据偏离信号1011确定选择信号1132。在实施例中，系统选择器1130从偏离信号1011提取签名信息。在这样的实施例中，选择信号1132的签名信息指示偏离信号1011的起源(例如，在何处生成偏离信号1011)。在实施例中，来自AV栈1016的碰撞避免子系统或漂移子系统的偏离信号1011与来自安全系统1018的偏离信号1011具有不同数量和/或类型的分量。在这样的实施例中，偏离信号1011的分量的数量和/或类型是签名信息。在实施例中，系统选择器1130基于签名信息来确定偏离信号1011的起源，诸如AV栈1016的碰撞避免子系统或漂移子系统、或者安全系统1018等。在实施例中，选择信号1132用于激活模拟系统1020的相应子系统。

模拟系统1020包括诸如第一组模拟器1150和第二组模拟器1160等的子系统。在实施例中，第一组模拟器1150包括碰撞避免模拟器1152，该碰撞避免模拟器1152利用AV栈1016的碰撞避免子系统的功能来模拟运载工具的运动(例如，行为)。在实施例中，第一组模拟器1150包括漂移模拟器1154，该漂移模拟器1154利用AV堆1016的漂移子系统的功能来模拟运载工具的运动。在实施例中，第二组模拟器1160包括安全系统模拟器1162，该安全系统模拟器1162利用安全系统1018的至少一个功能来模拟运载工具的运动。基于模拟的结果，模拟系统1020确定责任对象1022。

模拟系统1020采用AV状态1110、计划路径1112、语义可驾驶面1114、选择信号1132和选定对象1122作为输入。选择信号1132基于所指示的偏离信号1011的类型和/或起源来确定要激活模拟系统1020的哪个子系统。在示例中，如果偏离信号1011是由AV栈1016的碰撞避免子系统生成的碰撞避免信号，则选择信号1132激活第一组模拟器1150中的碰撞避免模拟器1152。在另一示例中，如果偏离信号1011是由AV栈1016的漂移子系统生成的漂移信号，则选择信号1132激活第一组模拟器1150中的漂移模拟器1154。在又一示例中，如果偏离信号1011是由安全系统1018生成的碰撞避免信号，则选择信号1132激活第二组模拟器1160中的安全系统模拟器1162。在实施例中，各模拟器具有备用模拟器以在子系统故障的情况下确保主模拟系统1020操作。例如，如果选择信号1132激活漂移模拟器1154但漂移模拟器1154不可用，则代替地激活备用漂移模拟器，该备用漂移模拟器进行漂移模拟器1154的相同功能。

针对各选定对象1122，诸如模拟系统1020的第一组模拟器1150或第二组模拟器1160等的子系统基于选择信号1132而激活，并且基于AV状态1110、计划路径1112和语义可驾驶面1114来模拟运载工具的轨迹。基于语义可驾驶面1114来构建模拟环境。各模拟基于AV状态1110和当前选定对象1122来生成运载工具在模拟环境中的轨迹。各模拟中的模拟轨迹表示仿佛仅当前选定对象1122存在于模拟环境中一样的运载工具的运动。将在各模拟中生成的模拟轨迹与计划路径1112进行比较。如果模拟轨迹不同于计划路径1112，则报告模拟轨迹中的偏离。将造成偏离的选定对象1122确定为责任对象1022。

如果当前选定对象1122未能产生模拟轨迹中的偏离，则将由跟踪选择器和迭代器1120形成的队列中的下一对象选择为新选定对象1122。如果当前队列耗尽，则将由跟踪选择器和迭代器1120形成的新队列中的第一个对象选择为选定对象1122。系统进行迭代，直到将选定对象1122确定为造成运载工具的模拟轨迹中的偏离的责任对象1022为止。在实施例中，至少部分地利用运载工具外部的远程处理器(诸如图2所示的云202中的处理器等)来进行模拟。然后，将负责对象1022作为输入提供至通知系统1030。

在实施例中，在使用碰撞避免模拟器1152进行模拟时确定的责任对象1022是靠近运载工具或其计划路径的对象，诸如穿过街道的行人等。在实施例中，在使用漂移模拟器1154进行模拟时确定的负责对象1022是诸如放置在道路上的施工锥等的对象。

图12示出用于通知并解释运载工具的动作的处理1200的流程图。在实施例中，运载工具是图1所示的AV 100。在实现中，处理1200由诸如图3所示的处理器304等的处理器执行。在实现中，处理1200由图4所示的感知系统402、规划系统404、控制系统406或定位系统408执行。

在框1202，接收到运载工具的计划路径、运载工具的状态以及运载工具正在操作的环境的环境数据。在实现中，运载工具的计划路径是图11所示的计划路径1112。在实现中，运载工具的状态是图11所示的AV状态1110。在实现中，运载工具正在操作的环境的环境数据是图10和图11所示的环境数据1014。在实施例中，环境数据1014包括语义可驾驶面1114，该语义可驾驶面1114是指示环境中的可驾驶面的语义图。在实施例中，环境数据1014包括作为环境中的识别对象的跟踪对象1118。

在框1204，接收到偏离信号。在实现中，偏离信号是图10和图11所示的偏离信号1011。在实现中，偏离信号1011是指示运载工具正从计划路径漂移的漂移信号。在实现中，偏离信号1011是碰撞避免信号，该碰撞避免信号指示运载工具正在进行机动动作以避免与环境中的至少一个静态或动态对象碰撞。

在框1206，确定偏离信号是由运载工具的第一系统还是第二系统报告的。在实现中，运载工具的第一系统是图10所示的AV栈1016。在实现中，运载工具的第二系统是图10所示的安全系统1018。在实现中，该确定由图11所示的系统选择器1130进行。作为响应，在框1208，激活用于模拟环境中的运载工具的第一组模拟器或第二组模拟器。在实现中，该激活是基于图11所示的选择信号1132。在实现中，第一组模拟器是图11所示的第一组模拟器1150并且第二组模拟器是图11所示的第二组模拟器1160。在实现中，如图11所示，第一组模拟器包括用于模拟碰撞避免的碰撞避免模拟器1152和用于模拟运载工具从计划路径漂移的漂移模拟器1154。在实现中，如图11所示，第二组模拟器至少包括用于模拟安全系统的至少一个功能的安全系统模拟器1162。

在框1210，使用所选择的第一组模拟器或第二组模拟器来模拟环境中的运载工具。该模拟包括：模拟运载工具以及至少一个静态对象或动态对象。在实现中，该模拟由图10和图11所示的模拟系统1020进行。在实现中，该模拟至少部分地利用运载工具外部的远程处理器(诸如图2所示的云202等)进行。在实现中，至少一个静态对象或动态对象是从图11所示的对象选择器1120获得的。

在框1212，基于模拟的结果来生成消息。在实现中，该消息是图10所示的经编译的消息1032。在实现中，经编译的消息1032包含音频、具有或不具有识别导致偏离的责任对象1022的AR叠加的视频。在实现中，责任对象1022是诸如施工锥等的静态对象。在实现中，责任对象1022是诸如行人等的动态对象。

在框1214，将消息呈现给运载工具的至少一个乘员。在实现中，运载工具的至少一个乘员是乘客。在实现中，该消息是通过音频接口广播的音频消息。在实现中，该消息是视频消息并且该呈现是通过运载工具的显示系统。

在先前描述中，已经参考许多具体细节描述了本发明的实施例，这些具体细节可因实现而不同。因此，说明书和附图应被视为说明性的，而非限制性意义的。本发明范围的唯一且排他的指示、以及申请人期望是本发明范围的内容是以发布权利要求书的具体形式从本申请发布的权利要求书的字面和等同范围，包括任何后续修正。本文中明确阐述的用于被包括在此类权利要求中的术语的任何定义应当以此类术语如在权利要求书中所使用的意义为准。另外，当在先前的说明书或所附权利要求书使用术语“还包括”时，该短语的下文可以是附加的步骤或实体、或先前所述的步骤或实体的子步骤/子实体。

Claims (21)

1.一种用于运载工具的方法，包括：

利用至少一个处理器，接收所述运载工具的计划路径、所述运载工具的状态以及所述运载工具正在操作的环境的环境数据；

利用所述至少一个处理器，接收偏离信号；

利用所述至少一个处理器，确定所述偏离信号是由所述运载工具的第一系统还是第二系统报告的；

根据所述偏离信号是由所述运载工具的所述第一系统报告的，

利用所述至少一个处理器，选择用于模拟所述环境中的所述运载工具的第一组模拟器；

根据所述偏离信号是由所述运载工具的所述第二系统报告的，

利用所述至少一个处理器，选择用于模拟所述环境中的所述运载工具的第二组模拟器；

利用所述至少一个处理器，使用所选择的第一组模拟器或第二组模拟器来模拟所述环境中的所述运载工具，所述模拟包括模拟所述运载工具以及至少一个静态对象或动态对象；

利用所述至少一个处理器，基于所述模拟的结果来生成消息；以及

利用所述至少一个处理器，将所述消息呈现给所述运载工具的至少一个乘员。

2.根据权利要求1所述的方法，其中，所述偏离信号是指示所述运载工具正从所述计划路径漂移的漂移信号。

3.根据权利要求1或2所述的方法，其中，所述偏离信号是碰撞避免信号，所述碰撞避免信号指示所述运载工具正在进行机动动作，以避免与所述环境中的所述至少一个静态对象或动态对象碰撞。

4.根据权利要求1至3中任一项所述的方法，其中，所述环境数据包括指示所述环境中的可驾驶面的语义图。

5.根据权利要求1至4中任一项所述的方法，其中，所述消息是广播到所述运载工具的一个或多个乘员的音频消息。

6.根据权利要求1至5中任一项所述的方法，其中，所述消息是使用所述运载工具的显示系统向所述运载工具的所述至少一个乘员呈现的视频消息。

7.根据权利要求1至6中任一项所述的方法，其中，所述消息包含识别造成偏离的静态对象或动态对象的信息。

8.根据权利要求7所述的方法，其中，所述消息包括所述运载工具与所述静态对象或动态对象之间的距离测量结果。

9.根据权利要求1至8中任一项所述的方法，其中，所述消息被传输到远程操作员。

10.根据权利要求1至9中任一项所述的方法，其中，所述消息被保存在日志或数据库中。

11.根据权利要求1至10中任一项所述的方法，其中，所述第一组模拟器包括用于模拟碰撞避免的第一模拟器和用于模拟所述运载工具从所述计划路径漂移的第二模拟器。

12.根据权利要求1至11中任一项所述的方法，其中，所述第二组模拟器至少包括用于模拟安全系统的至少一个功能的第三模拟器。

13.根据权利要求1至12中任一项所述的方法，其中，所述模拟是至少部分地利用所述运载工具外部的远程处理器进行的。

14.根据权利要求6所述的方法，其中，所述视频消息包括示出所述运载工具从所述计划路径偏离的动画。

15.根据权利要求6所述的方法，其中，所述视频消息包括由所述运载工具的至少一个摄像机捕获到的具有经标注的增强现实叠加即经标注的AR叠加的视频。

16.根据权利要求1至15中任一项所述的方法，其中，在将所述消息呈现给所述至少一个乘员之前还包括：

确定为所述至少一个乘员没有选择用以关闭消息传递的选项。

17.根据权利要求1至16中任一项所述的方法，其中，所述第一系统是规划系统，并且所述第二系统是安全系统。

18.一种用于运载工具的方法，包括：

使用至少一个处理器，接收数据，所述数据指示所述运载工具的计划路径、所述运载工具的当前状态以及所述运载工具进行操作的环境；

使用所述至少一个处理器，接收第一偏离信号或第二偏离信号；

根据接收所述第一偏离信号，

使用以所述数据作为输入的第一模拟器，模拟所述运载工具的运动以及对象，以确定所述对象是否引起了所述运载工具从所述计划路径偏离；根据接收所述第二偏离信号，

使用以所述数据作为输入的第二模拟器，模拟所述运载工具的运动以及对象，以确定所述对象是否引起了所述运载工具从所述计划路径偏离；以及

根据确定为所述对象引起了所述偏离，

使用所述至少一个处理器，向所述运载工具中的乘员呈现消息，所述消息指示从所述计划路径的偏离以及被识别为所述偏离的原因的所述对象。

19.根据权利要求18所述的方法，还包括：

使用所述至少一个处理器，确定所述第一模拟器是否不可用；

根据所述第一模拟器不可用并且接收到所述第一偏离信号，

使用以所述数据作为输入的备用第一模拟器，模拟所述运载工具的运动以及对象，以确定所述对象是否引起了所述运载工具从所述计划路径偏离；以及

根据所述第二模拟器不可用并且接收到所述第二偏离信号，

使用以所述数据作为输入的备用第二模拟器，模拟所述运载工具的运动以及对象，以确定所述对象是否引起了所述运载工具从所述计划路径偏离。

20.根据权利要求18所述的方法，其中，所述第一模拟器模拟所述运载工具从所述计划路径漂移，并且所述第二模拟器模拟所述运载工具避免与所述对象的碰撞。

21.一种运载工具系统，包括：

至少一个处理器；以及

存储器，用于存储指令，所述指令在由所述至少一个处理器执行时，使得所述至少一个处理器进行根据权利要求1至20中任一项所述的方法。

Images