Nothing Special   »   [go: up one dir, main page]

CN113589685B - 一种基于深度神经网络的挪车机器人控制系统及其方法 - Google Patents

一种基于深度神经网络的挪车机器人控制系统及其方法 Download PDF

Info

Publication number
CN113589685B
CN113589685B CN202110648796.1A CN202110648796A CN113589685B CN 113589685 B CN113589685 B CN 113589685B CN 202110648796 A CN202110648796 A CN 202110648796A CN 113589685 B CN113589685 B CN 113589685B
Authority
CN
China
Prior art keywords
vehicle
robot
point
algorithm
chassis
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202110648796.1A
Other languages
English (en)
Other versions
CN113589685A (zh
Inventor
黄志宇
郭发勇
李玮
任梁阁
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Changzhou Vocational Institute of Engineering
Original Assignee
Changzhou Vocational Institute of Engineering
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Changzhou Vocational Institute of Engineering filed Critical Changzhou Vocational Institute of Engineering
Priority to CN202110648796.1A priority Critical patent/CN113589685B/zh
Publication of CN113589685A publication Critical patent/CN113589685A/zh
Application granted granted Critical
Publication of CN113589685B publication Critical patent/CN113589685B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B13/00Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion
    • G05B13/02Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion electric
    • G05B13/04Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion electric involving the use of models or simulators
    • G05B13/042Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion electric involving the use of models or simulators in which a parameter or coefficient is automatically adjusted to optimise the performance

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Computation (AREA)
  • Medical Informatics (AREA)
  • Software Systems (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Automation & Control Theory (AREA)
  • Control Of Position, Course, Altitude, Or Attitude Of Moving Bodies (AREA)
  • Feedback Control In General (AREA)

Abstract

本发明公开了一种基于深度神经网络的挪车机器人控制系统及其方法,其针对挪车机器人运动控制场合,用于控制其准确且快速地到达指定车辆底盘中心位置。所述控制方法首先建立挪车机器人控制系统与差速运动模型,然后建立地图模型与规划路径,并采用pure‑pursuit跟踪路径到达车辆底盘下方,之后采集RGB相机与二维激光雷达获取图像与点云信息,根据所述车辆中心定位网络输出准确的中心位置坐标,应用差速PID点到点位置跟踪算法控制机器人到达指定位置,从而实现挪车机器人的准确定位。

Description

一种基于深度神经网络的挪车机器人控制系统及其方法
技术领域
本发明涉及机器人底盘运动控制领域,特别是一种基于深度神经网络的挪车机器人控制系统及其方法。
背景技术
随着社会的发展,人们生活水平的不断上升,汽车的数量也在一直上升,而车辆的乱停乱放成为近些年来日益严重的问题。车辆的乱停乱放会带来许多问题,堵塞交通、消防通道或影响社会紧急事件,为有效解决该现象,许多社会机构发明了一款用于挪车的机器人,而该类机器人的运动控制是成功挪车的关键,其中的关键点在于如何准确到达车辆正中心位置,从而实现挪车。随着深度学习理论的发展,已被广泛应用于目标识别、人脸识别、运动目标检测与风格迁移等各个领域中,本发明结合深度神经网络善于检测图像特征的优点,提出了一种用于控制挪车机器人准确到达车辆中心的运动控制方法。
发明内容
针对现有技术中存在的问题,本发明提供了一种实现挪车机器人的准确定位、控制其准确且快速地到达指定车辆底盘中心位置的基于深度神经网络的挪车机器人控制系统及其方法。
本发明的目的通过以下技术方案实现。
一种基于深度神经网络的挪车机器人控制系统,包括单片机和工控机,所述单片机与工控机双向连接,所述单片机分别与行走电机和回转与抬升电机双向连接,所述工控机分别与RGB彩色相机、超声波传感器、遥控器和激光雷达双向连接。
进一步的,以工控机与单片机作为整个系统的主控部分,采用激光雷达与RGB彩色相机感知外界信息。单片机作为机器人的动力控制器,工控机处理各传感器数据,运行相应算法,并通过串口与单片机发送和接收数据,互相协同工作,完成对应的任务。
一种基于深度神经网络的挪车机器人控制方法,步骤包括:
1)根据挪车机器人实现功能,建立机器人整体控制系统与机器人运动数学模型;
2)基于机器人操作系统中Move_base软件包,采集二维激光雷达点云信息,规划机器人到车辆的路径,并采用pure-pursuit算法跟踪路径,实现机器人导航功能;
3)机器人到达车辆下方后,采集RGB相机彩色图像与激光雷达点云信息,通过车辆中心提取神经网络,获取车辆正中心的坐标信息;
4)根据车辆中心坐标信息,采取点对点PID算法控制机器人准确到达车辆下方正中心位置。
进一步的,所述挪车机器人使用差速履带式底盘,建立其运动学模型表示为
式中,x,y为大地坐标系下的机器人坐标,θ为机器人姿态角,vl为左轮速度,vr为右轮速度,l为左右轮间距。
进一步的,所述机器人导航功能基于机器人操作系统中Move_base软件包,采用pure-pursuit算法跟踪路径,所述机器人导航功能首先采用gmapping包构建二维地图,然后基于蒙特卡洛定位方法估计机器人在二维地图中的位置和姿态,并通过A※算法进行全局路径规划与本地实时规划,最后采用pure-pursuit算法跟踪路径,所述pure-pursuit算法是一种用几何关系确定曲率的方法,该曲率将驱动车辆到达选定的路径点,即为目标点,该目标点是轨迹上与当前车辆位置偏离一个视距ld的点;假设车辆中心点可以按照一定的转弯半径r行驶抵达该预瞄点,然后根据ld,转弯半径r,车辆坐标系下预瞄点的朝向角α之间的几何关系来确定前轮转角;根据上述几何关系,得出底盘瞬时曲率
根据该曲率,将底盘中心速度分解为两轮速度,从而使底盘实时跟踪路径,到达车辆下方位置。
进一步的,所述车辆中心提取神经网络采用卷积神经网络提取RGB彩色图像与点云特征信息,输出车辆正中心位置坐标;所述车辆中心提取神经网络输入二维点云彩色图像信息,经过卷积层提取特征,检测图片中轮胎所在位置,输出轮胎瞄框在图像上的坐标,并结合激光雷达点云信息,将提取轮胎图像坐标与点云输入全连接层,训练网络,从而输出车辆中心坐标。
进一步的,所述点对点PID算法准确控制机器人运动到车辆正中心位置,所述点对点PID算法以传统单输入单输出PID控制算法为基础,控制机器人由当前点移动到指定目标点,其核心是令机器人在控制器作用下持续地朝向目标点运动,针对差速移动底盘二输入三输出的数学模型,底盘实时位姿为[xt,ytt],目标位置为[xG,yGG],设定机器与目标点间实时的距离差为
式中e1为距离差,将e1作为PID控制算法的输入,PID控制算法的输出为线速度vc,即距离决定速度,距离远速度大,距离近速度小;
设定实时角度差为
式中e2为角度差,将e2作为PID控制算法的输入,PID控制算法的输出为角速度ωc,即偏角误差决定转速,正偏左转,负偏右转;偏多转快,偏少转慢,根据上述公式得出底盘中心线速度与角速度后,根据运动学模型,解出所需的左右轮转速,控制底盘跟踪相应轨迹。
相比于现有技术,本发明的优点在于:本发明提出了一种基于深度神经网络的挪车机器人控制方法,其针对挪车机器人运动控制场合,用于控制其准确且快速地到达指定车辆底盘中心位置。挪车机器人是否成功将车辆抬起而不出现偏移等事故,关键在于车辆底盘中心位置的提取,本发明基于目前流行的卷积神经网络,利用其善于提取图像特征的优点,结合激光雷达准确的点云数据识别各种不同类型车辆的中心位置,然后采用一种差速PID点到点位置跟踪算法实现精确控制,从而实现挪车机器人的准确定位。
附图说明
图1是挪车机器人整体控制系统。
图2是挪车机器人差速运动模型。
图3是基于深度神经网络的挪车机器人控制方法流程示意图。
图4是pure-pursuit跟踪算法示意图。
图5是车辆中心提取网络示意图。
图6是点对点PID控制算法示意图。
具体实施方式
下面结合说明书附图和具体的实施例,对本发明作详细描述。为了使本技术领域的人员更好地理解本申请中的技术方案,下面对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都应当属于本申请保护的范围。
首先根据挪车机器人实现功能,建立机器人整体控制系统与机器人运动数学模型。机器人整体控制系统如图1,包括单片机和工控机,所述单片机与工控机双向连接,所述单片机分别与行走电机和回转与抬升电机双向连接,所述工控机分别与RGB彩色相机、超声波传感器、遥控器和激光雷达双向连接。挪车机器人整体控制系统以工控机与单片机作为整个系统的主控部分,采用激光雷达与RGB彩色相机感知外界信息。单片机作为机器人的动力控制器,工控机处理各传感器数据,运行相应算法,并通过串口与单片机发送和接收数据,互相协同工作,完成对应的任务。所述挪车机器人使用差速履带式底盘,建立其运动学模型可以表示为
式中,x,y为大地坐标系下的机器人坐标,θ为机器人姿态角,vl为左轮速度,vr为右轮速度,l为左右轮间距。其运动模型示意为图2。
基于上述控制系统与运动学模型,建立挪车机器人控制方法流程如图3。机器人首先采集二维激光雷达点云信息,然后采用Move_base中gmapping软件包建立地图模型,然后基于蒙特卡洛定位方法估计机器人在二维地图中的位置和姿态,最后基于A※算法进行全局路径规划与本地实时规划,从而规划靠近汽车底盘的最优路径。在获取最最优路径后,用pure-pursuit算法跟踪路径,pure-pursuit跟踪算法是一种用几何关系确定曲率的方法,该曲率将驱动车辆到达选定的路径点(称为目标点)。该目标点是轨迹上与当前车辆位置偏离一个视距ld的点。假设车辆中心点可以按照一定的转弯半径r行驶抵达该预瞄点,然后根据ld,转弯半径r,车辆坐标系下预瞄点的朝向角α之间的几何关系来确定前轮转角。根据上述几何关系,可以得出底盘瞬时曲率
根据该曲率,将底盘中心速度分解为两轮速度,从而使底盘实时跟踪路径,到达车辆下方位置。如图4所示,从而到达车辆底盘下方位置。
而在到达车辆下方后,机器人会采集RGB相机彩色图像与激光雷达点云信息,将其输入车辆中心提取网络,如图5所示。图像经过卷积层提取特征,检测图片中轮胎所在位置,输出轮胎瞄框在图像上的坐标,并结合雷达点云信息,提取轮胎位置坐标输入全连接层,从而输出车辆中心坐标。之后根据车辆中心坐标信息,采取点对点PID算法控制机器人准确到达车辆下方正中心位置,如图6。所述点对点PID算法以传统单输入单输出PID控制算法为基础,控制机器人由当前点移动到指定目标点,其核心是令机器人在控制器作用下持续地朝向目标点运动,针对差速移动底盘二输入三输出的数学模型,底盘实时位姿为[xt,ytt],目标位置为[xG,yGG],设定机器与目标点间实时的距离差为
式中e1为距离差,将e1作为PID控制算法的输入,PID控制算法的输出为线速度vc,即距离决定速度,距离远速度大,距离近速度小。
设定实时角度差为
式中e2为角度差,将e2作为PID控制算法的输入,PID控制算法的输出为角速度ωc,即偏角误差决定转速,正偏左转,负偏右转;偏多转快,偏少转慢。从而根据上述公式得出底盘中心线速度与角速度后,根据运动学模型,解出所需的左右轮转速,从而控制底盘跟踪相应轨迹。
本实例基于目前流行的卷积神经网络,利用其善于提取图像特征的优点,结合激光雷达准确的点云数据识别各种不同类型车辆的中心位置,然后采用一种差速PID点到点位置跟踪算法实现精确控制,从而实现挪车机器人的准确定位。
以上所述仅是本发明的优选实施方式,应当指出:对于本技术领域的普通技术人员来说,在不脱离本发明原理的前提下,还可以做出若干改进和润饰,这些改进和润饰也应视为本发明的保护范围。

Claims (1)

1.一种基于深度神经网络的挪车机器人控制方法,其特征在于步骤包括:
1)根据挪车机器人实现功能,建立机器人整体控制系统与机器人运动数学模型;
2)基于机器人操作系统中Move_base软件包,采集二维激光雷达点云信息,规划机器人到车辆的路径,并采用pure-pursuit算法跟踪路径,实现机器人导航功能;
3)机器人到达车辆下方后,采集RGB相机彩色图像与激光雷达点云信息,通过车辆中心提取神经网络,获取车辆正中心的坐标信息;
4)根据车辆中心坐标信息,采取点对点PID算法控制机器人准确到达车辆下方正中心位置;所述机器人导航功能基于机器人操作系统中Move_base软件包,采用pure-pursuit算法跟踪路径,所述机器人导航功能首先采用gmapping包构建二维地图,然后基于蒙特卡洛定位方法估计机器人在二维地图中的位置和姿态,并通过A※算法进行全局路径规划与本地实时规划,最后采用pure-pursuit算法跟踪路径,所述pure-pursuit算法是一种用几何关系确定曲率的方法,该曲率将驱动车辆到达选定的路径点,即为目标点,该目标点是轨迹上与当前车辆位置偏离一个视距ld的点;车辆中心点按照一定的转弯半径r行驶抵达预瞄点,然后根据ld,转弯半径r,车辆坐标系下预瞄点的朝向角α之间的几何关系来确定前轮转角;根据上述几何关系,得出底盘瞬时曲率
根据该曲率,将底盘中心速度分解为两轮速度,从而使底盘实时跟踪路径,到达车辆下方位置;
所述挪车机器人使用差速履带式底盘,建立其运动学模型表示为
式中,x,y为大地坐标系下的机器人坐标,θ为机器人姿态角,vl为左轮速度,vr为右轮速度,l为左右轮间距;
所述车辆中心提取神经网络采用卷积神经网络提取RGB彩色图像与点云特征信息,输出车辆正中心位置坐标;所述车辆中心提取神经网络输入二维点云彩色图像信息,经过卷积层提取特征,检测图片中轮胎所在位置,输出轮胎瞄框在图像上的坐标,并结合激光雷达点云信息,将提取轮胎图像坐标与点云输入全连接层,训练网络,从而输出车辆中心坐标;
所述点对点PID算法准确控制机器人运动到车辆正中心位置,所述点对点PID算法以传统单输入单输出PID控制算法为基础,控制机器人由当前点移动到指定目标点,其核心是令机器人在控制器作用下持续地朝向目标点运动,针对差速移动底盘二输入三输出的数学模型,底盘实时位姿为[xt,ytt],目标位置为[xG,yGG],设定机器与目标点间实时的距离差为
式中e1为距离差,将e1作为PID控制算法的输入,PID控制算法的输出为线速度vc,即距离决定速度,距离远速度大,距离近速度小;
设定实时角度差为
式中e2为角度差,将e2作为PID控制算法的输入,PID控制算法的输出为角速度ωc,即偏角误差决定转速,正偏左转,负偏右转;偏多转快,偏少转慢,根据上述公式得出底盘中心线速度与角速度后,根据运动学模型,解出所需的左右轮转速,控制底盘跟踪相应轨迹;
上述步骤应用于一种基于深度神经网络的挪车机器人控制系统,包括单片机和工控机,所述单片机与工控机双向连接,所述单片机分别与行走电机和回转与抬升电机双向连接,所述工控机分别与RGB彩色相机、超声波传感器、遥控器和激光雷达双向连接;
以工控机与单片机作为整个系统的主控部分,采用激光雷达与RGB彩色相机感知外界信息,单片机作为机器人的动力控制器,工控机处理各传感器数据,运行相应算法,并通过串口与单片机发送和接收数据,互相协同工作,完成对应的任务。
CN202110648796.1A 2021-06-10 2021-06-10 一种基于深度神经网络的挪车机器人控制系统及其方法 Active CN113589685B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110648796.1A CN113589685B (zh) 2021-06-10 2021-06-10 一种基于深度神经网络的挪车机器人控制系统及其方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110648796.1A CN113589685B (zh) 2021-06-10 2021-06-10 一种基于深度神经网络的挪车机器人控制系统及其方法

Publications (2)

Publication Number Publication Date
CN113589685A CN113589685A (zh) 2021-11-02
CN113589685B true CN113589685B (zh) 2024-04-09

Family

ID=78243595

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110648796.1A Active CN113589685B (zh) 2021-06-10 2021-06-10 一种基于深度神经网络的挪车机器人控制系统及其方法

Country Status (1)

Country Link
CN (1) CN113589685B (zh)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114862957B (zh) * 2022-07-08 2022-09-27 西南交通大学 一种基于3d激光雷达的地铁车底定位方法
CN115265363B (zh) * 2022-07-29 2024-10-11 北京科信机电技术研究所有限公司 一种to光器件ld发光条焊接误差测量方法及装置
CN115649124A (zh) * 2022-12-22 2023-01-31 小米汽车科技有限公司 一种挪车自移动设备的控制方法、装置及电子设备

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106185151A (zh) * 2016-08-30 2016-12-07 北京建筑大学 一种智能仓储系统
CN108942946A (zh) * 2018-08-29 2018-12-07 中南大学 一种智慧物流环境机器人装载方法与装置
CN109823318A (zh) * 2019-03-25 2019-05-31 南京博内特信息科技有限公司 一种物联网挪车移动机器人装置及其定位方法
CN110262495A (zh) * 2019-06-26 2019-09-20 山东大学 可实现移动机器人自主导航与精确定位的控制系统及方法
WO2020056874A1 (zh) * 2018-09-17 2020-03-26 魔门塔(苏州)科技有限公司 一种基于视觉识别的自动泊车系统及方法
CN110920552A (zh) * 2019-11-15 2020-03-27 吉林大学 防止高速路上碰撞后发生连环事故的车辆安全系统及方法
CN112009927A (zh) * 2020-08-04 2020-12-01 中国烟草总公司重庆市公司 一种烟包自动化装车系统
CN112305911A (zh) * 2020-09-11 2021-02-02 重庆智行者信息科技有限公司 一种复杂环境下的反馈预测控制方法及其装置、车辆

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104912372A (zh) * 2015-06-10 2015-09-16 深圳怡丰机器人科技有限公司 一种agv梳型搬运机器人
DE102018221170B4 (de) * 2018-12-06 2021-01-28 Volkswagen Aktiengesellschaft Parkroboter für ein Kraftfahrzeug sowie Verfahren zum Betreiben eines derartigen Parkroboters

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106185151A (zh) * 2016-08-30 2016-12-07 北京建筑大学 一种智能仓储系统
CN108942946A (zh) * 2018-08-29 2018-12-07 中南大学 一种智慧物流环境机器人装载方法与装置
WO2020056874A1 (zh) * 2018-09-17 2020-03-26 魔门塔(苏州)科技有限公司 一种基于视觉识别的自动泊车系统及方法
CN109823318A (zh) * 2019-03-25 2019-05-31 南京博内特信息科技有限公司 一种物联网挪车移动机器人装置及其定位方法
CN110262495A (zh) * 2019-06-26 2019-09-20 山东大学 可实现移动机器人自主导航与精确定位的控制系统及方法
CN110920552A (zh) * 2019-11-15 2020-03-27 吉林大学 防止高速路上碰撞后发生连环事故的车辆安全系统及方法
CN112009927A (zh) * 2020-08-04 2020-12-01 中国烟草总公司重庆市公司 一种烟包自动化装车系统
CN112305911A (zh) * 2020-09-11 2021-02-02 重庆智行者信息科技有限公司 一种复杂环境下的反馈预测控制方法及其装置、车辆

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
基于视觉传感器的机器人路径跟踪摄像机模型及逆模型运算;杨杰 等;大庆石油学院学报;33(05);93-97 *
多旋翼无人机的超声波避障系统;李玮 等;用电与能效专题讲座暨智能用电及能效管理技术研讨会论文集;28-30 *
智能重载泊车 AGV 导航系统的研究;吴钟;中国优秀硕士学位论文全文数据库(信息科技辑);12-35 *

Also Published As

Publication number Publication date
CN113589685A (zh) 2021-11-02

Similar Documents

Publication Publication Date Title
CN113589685B (zh) 一种基于深度神经网络的挪车机器人控制系统及其方法
US10025317B2 (en) Methods and systems for camera-based autonomous parking
Ali et al. Path planning and control of mobile robot in road environments using sensor fusion and active force control
CN106515722B (zh) 一种垂直泊车轨迹规划方法
CN109849908B (zh) 基于相邻车道风险预测的车道保持辅助系统及控制方法
CN107085938B (zh) 基于车道线与gps跟随的智能驾驶局部轨迹容错规划方法
CN112101128B (zh) 一种基于多传感器信息融合的无人方程式赛车感知规划方法
CN107933548A (zh) 一种自动泊车的车位识别方法及系统
CN113895463B (zh) 一种适用于自动驾驶车辆掉头的路径规划方法
CN112068574A (zh) 一种无人车在动态复杂环境中的控制方法及系统
CN103454919A (zh) 智能空间中移动机器人的运动控制系统及方法
US11527028B2 (en) Systems and methods for monocular based object detection
CN114200945B (zh) 一种移动机器人的安全控制方法
CN108919810A (zh) 基于视觉示教的移动机器人定位与导航系统
Diab et al. Self-driving car lane-keeping assist using pid and pure pursuit control
Newman et al. Self-driving cars: A platform for learning and research
CN116069037A (zh) 无人车编队轨迹规划控制方法、装置、设备及存储介质
Mutz et al. Following the leader using a tracking system based on pre-trained deep neural networks
CN208061025U (zh) 一种基于Dubins路径的无人驾驶车辆避障控制装置
Zheng et al. Vision-based autonomous vehicle control using the two-point visual driver control model
CN112731944B (zh) 一种无人驾驶压路机自主避障方法
CN111547046B (zh) 一种平行车位预占式自动泊车方法及装置
Cui et al. AGV research based on inertial navigation and vision fusion
Tian et al. Autonomous formula racecar: Overall system design and experimental validation
Chang et al. Real-Time Visual-Servo Navigation for Map-Free Self-Driving in Unstructured Outdoor Environments

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant