Nothing Special   »   [go: up one dir, main page]

CN115484407A - 一种多路采集数据的同步输出方法、系统及rgbd相机 - Google Patents

一种多路采集数据的同步输出方法、系统及rgbd相机 Download PDF

Info

Publication number
CN115484407A
CN115484407A CN202211025199.4A CN202211025199A CN115484407A CN 115484407 A CN115484407 A CN 115484407A CN 202211025199 A CN202211025199 A CN 202211025199A CN 115484407 A CN115484407 A CN 115484407A
Authority
CN
China
Prior art keywords
data
data frame
queue
target
frame
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202211025199.4A
Other languages
English (en)
Other versions
CN115484407B (zh
Inventor
黄振昌
段鹏飞
吴梓华
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Orbbec Inc
Original Assignee
Orbbec Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Orbbec Inc filed Critical Orbbec Inc
Priority to CN202211025199.4A priority Critical patent/CN115484407B/zh
Publication of CN115484407A publication Critical patent/CN115484407A/zh
Application granted granted Critical
Publication of CN115484407B publication Critical patent/CN115484407B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02PCLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
    • Y02P90/00Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
    • Y02P90/02Total factory control, e.g. smart factories, flexible manufacturing systems [FMS] or integrated manufacturing systems [IMS]

Landscapes

  • Data Exchanges In Wide-Area Networks (AREA)

Abstract

本发明公开了一种多路采集数据的同步输出方法、系统及RGBD相机。方法包括:接收N路数据流中的数据帧,将每个数据帧加入至队列集中对应的队列,队列集包括N个队列,每个队列与每路数据流相对;从队列集的各个存有数据帧的队列中提取加入时刻最早的数据帧,得到待同步数据包;从待同步数据包中提取出时间戳最早的数据帧作为参考数据帧并输至缓存,将待同步数据包中剩余的数据帧中时间戳最早的数据帧作为目标数据帧;根据参考数据帧和目标数据帧之间的时间戳差值判断目标数据帧是否符合同步条件;若是,则将目标数据帧输至缓存,在待同步数据包中没有数据帧时将缓存中的数据帧标记为同步输出。本方法可以为多路数据流的同步输出提供有效保障。

Description

一种多路采集数据的同步输出方法、系统及RGBD相机
技术领域
本发明涉及数据处理领域,特别涉及一种多路采集数据的同步输出方法、系统及RGBD相机。
背景技术
在单个设备或多个设备组合使用的场景中,往往同一设备或者不同设备的各路数据流的帧采样时间点、帧数据处理延时和帧数据传输延时等条件都各不相同,导致同批次采样的各路数据流的数据帧输出到上位机时的时间不同步。
因此,为了使得采集到的多路数据能够同步输出,需要对数据的同步数据方法做出改进。
发明内容
针对现有技术的上述缺陷,本发明提供一种多路采集数据的同步输出方法,旨在解决现有技术中多路数据流的数据帧输出到上位机的时间不同步的问题。
为了解决上述技术问题,本发明所采用的技术方案如下:
本发明的第一方面,提供一种多路采集数据的同步输出方法,方法包括:接收N路数据流中的数据帧,将每个数据帧加入至队列集中对应的队列,其中,队列集包括N个队列,每个队列与每路数据流相对应,N为大于1的整数;分别提取队列集中存在数据帧的各个队列中加入时刻最早的数据帧,得到待同步数据包;从待同步数据包中提取出时间戳最早的数据帧作为参考数据帧并输至缓存,将待同步数据包中剩余的数据帧中时间戳最早的数据帧作为目标数据帧;根据参考数据帧和目标数据帧之间的时间戳差值,判断目标数据帧是否符合同步条件;若是,则将目标数据帧输至缓存,并在待同步数据包中没有剩余数据帧时将缓存中的数据帧标记为同步输出。
本发明的第二方面,提供一种多路采集数据的同步输出系统,包括:数据接收模块,用于接收多路数据流中的数据帧,将每个数据帧加入至队列集中对应的队列,其中,队列集中的每个队列与每路数据流相对应;第一数据提取模块,用于分别提取队列集中存在数据帧的各个队列中加入时刻最早的数据帧,得到待同步数据包;第二数据提取模块,用于从待同步数据包中提取出时间戳最早的数据帧作为参考数据帧并输出至缓存,将待同步数据包中剩余的数据帧中时间戳最早的数据帧作为目标数据帧;数据同步模块,用于根据参考数据帧和目标数据帧之间的时间戳差值,判断目标数据帧是否符合同步条件;若是,则将目标数据帧输至缓存,并在待同步数据包中没有剩余数据帧时将缓存中的数据帧标记为同步输出。
本发明的第三方面,提供一种RGBD相机,包括:发射器、RGB图像采集器、IR图像采集器、处理器和存储器;存储器,用于存储可在处理器上运行的同步输出程序,同步输出程序被处理器执行时实现如上述任一方面提供的多路采集数据的同步输出方法的步骤;发射器,用于向目标投射散斑图案;RGB图像采集器,用于采集RGB数据;IR图像采集器,用于采集目标反射回来的IR数据;处理器,用于获取RGB数据和IR数据,利用IR数据进行深度计算得到深度数据,并执行同步输出程序,以实现RGB数据、IR数据和深度数据同步输出。
本发明的第四方面,提供一种终端,终端包括处理器、与处理器通信连接的计算机可读存储介质,计算机可读存储介质适于存储多条指令,处理器适于调用计算机可读存储介质中的指令,以执行实现上述的多路采集数据的同步输出方法的步骤。
本发明的第五方面,提供一种计算机可读存储介质,计算机可读存储介质存储有一个或者多个程序,所述一个或者多个程序可被一个或者多个处理器执行,以实现上述任一项所述的多路采集数据的同步输出方法的步骤。
与现有技术相比,本发明提供了一种多路采集数据的同步输出方法、系统及RGBD相机,本发明提供的方法,通过为每路数据流设置对应的队列,每路数据流的数据帧先是暂存在队列中,将队列中加入时刻最早的数据帧提取出来作为待同步数据包,并在待同步数据包中提取时间戳最早的数据帧作为参考数据帧,将在待同步数据包中剩余的数据帧中时间戳最早的数据帧作为目标数据帧,根据参考数据帧和目标数据帧之间的时间戳差值确定目标数据帧是否满足同步条件,若满足,则目标数据帧为参考数据帧的同步数据帧,输至缓存,并在待同步数据包中没有剩余数据帧时将缓存中的数据帧标记为同步后输出,这样可以为多路数据流的同步输出提供有效保障。
附图说明
图1为本发明提供的RGBD相机的实施例的原理示意图;
图2为本发明提供的多路采集数据的同步输出方法的实施例的流程图;
图3为一种多路采集数据的同步输出方法的流程示意图;
图4为本发明提供的多路采集数据的同步输出方法的实施例中开始数据同步匹配的逻辑图;
图5为本发明提供的多路采集数据的同步输出方法的实施例中数据同步匹配的流程图;
图6为本发明提供的多路采集数据的同步输出系统的实施例的结构原理图;
图7为本发明提供的终端的实施例的原理示意图。
具体实施方式
为使本发明的目的、技术方案及效果更加清楚、明确,以下参照附图并举实施例对本发明进一步详细说明。应当理解,此处所描述的具体实施例仅用以解释本发明,并不用于限定本发明。
请参阅图1,图1是本发明某一实施例提供的RGBD相机的结构示意图。RGBD相机1包括:发射器11、采集器12、处理器13和存储器14。图1仅示出了RGBD相机的部分组件,但是应理解的是,并不要求实施所有示出的组件,可以替代的实施更多或者更少的组件。
发射器11,用于向目标投射散斑图案。采集器12包括RGB图像采集器和IR图像采集器,RGB图像采集器用于采集RGB数据,IR图像采集器用于采集目标反射回来的IR数据。由于RGB图像采集器和IR图像采集器的帧采样时间点、帧数据处理延时和帧数据传输延时等条件都各不相同,且深度图像由IR图像经过深度引擎处理得到,因此RGB图像、IR图像和深度图像等数据的传输如果不加以同步处理,则不同数据到达上位机的时间不能同步。
在本实施例中,存储器14,用于存储可在处理器13上运行的同步输出程序。处理器13,用于获取RGB数据和IR数据,利用IR数据进行深度计算得到深度数据,并执行同步输出程序,以实现RGB数据、IR数据和深度数据同步输出。
例如,对于在线上会议抠图场景中,需要RGBD相机同时输出4K分辨率RGB图像和VGA分辨率深度图像至上位机,上位机基于深度图像增强RGB抠图的效果,在该场景中,需要严格要求RGB图像和深度图像同步,才能保证抠图主体运动时的抠图准确性和连贯性。为了降低USB带宽和设备功耗,一般采用RGB图像30FPS、深度图像15FPS的采样频率组合,即RGB图像和深度图像采样频率不一致,并且在设备端RGB图像需要经过ISP处理后传输给上位机,而深度图像需要经过深度引擎处理后传输给上位机,并且二者单帧数据量不同,导致在最相近时间采样的RGB图像和深度图像,传输到达上位机的时间点相差比较大。此时,利用处理器13执行同步输出程序,实现RGB数据、IR数据和深度数据同步输出。
请参阅图2,图2是本发明某一实施例提供的多路采集数据的同步输出方法的流程示意图。同步输出程序被处理器执行时实现多路采集数据的同步输出方法的步骤,包括:
S100、接收N路数据流中的数据帧,将每个数据帧加入至队列集中对应的队列,其中,队列集包括N个队列,每个队列与每路数据流相对应,N为大于1的整数。
本实施例提供的方法,针对各数据流增加队列,每个数据流对应一个队列,上位机接收到的每个数据流的数据帧并不直接输出至处理程序进行处理,而是先存储到对应的队列中,对于队列中的数据,确定其中的同步数据,将同步数据同时输出至上位的处理程序进行处理。
如图3所示,在一种可能的实现方式中,可以设置每一路数据流对应的队列的预设最大存储数量为2,当所有数据流都缓存有数据帧时,将各队列中的首帧同步输出,当任意一路流存储数量大等于2时,将缓存数大于或等于2的队列的首帧标记为异常状态,输出给处理程序。但是,在实际应用中,数据帧传输可能会丢帧,这种方案可能会导致同步结果不可靠,并且误差会逐步累计,因此,在本实施例提供的方法中,包括步骤:
S200、从队列集的各个存有数据帧的队列中提取加入时刻最早的数据帧,得到待同步数据包。
在本实施例中,将队列中加入时刻最早的数据帧提取出来,作为待同步数据包,再从待同步数据包中进行数据帧的同步匹配,可以根据数据帧的数据帧的时间戳确定加入时刻,时间戳为数据帧的采样时间戳,多路数据流的采集设备可以随着数据帧输出采样时间戳,当多路数据流的采样设备为多个设备时,多个设备设置有统一的时间参考或有已同步的时间参考,即多路数据流的数据帧的时间戳与真实采样时刻是一致的,对应的时间戳越早,则对应的真实采样时刻越早。为了确定获取到数据帧的所有同步数据帧,在本实施例中,如图4所示,设置有触发条件,当满足触发条件时,开始执行基于时间戳的数据帧同步匹配来匹配数据帧的同步数据帧。具体地,提取队列集中的各个队列中加入时刻最早的数据帧,包括:
当队列集中的队列满足预设条件时,提取各个队列中加入时刻最早的数据帧。预设条件为:队列集中的全部队列中都匹配了数据帧,或者队列集中的任一队列匹配的数据帧数量超出该队列对应的最大缓存量。
在一种可能的实现方式中,队列对应的最大缓存量可以直接设置为1。而在本实施例中,考虑到数据采集后到传输到上位机的过程中存在延时,是根据对应的数据流的延时以及所有的数据流的延时中的最大延时得到队列集中每个队列对应的最大缓存量的。这里的延时包括数据帧处理延时和数据帧传输延时,具体地,采集设备采集到数据帧后,先要进行相应的处理,例如前文所举的例子中,RGB图像需要经过ISP处理,处理需要消耗的时候为处理延时,后再传输到上位机,传输的过程消耗的时间为传输延时。
最大缓存量的计算公式为:
queue_max_size_n=(delay_max-delay_n)*FPSn
其中,queue_max_size_n表示队列集中第n队列对应的最大缓存量,delay_max表示所有数据流的传输延时中的最大延时,delay_n表示队列集中第n队列对应的数据流的传输延时,FPSn表示队列集中第n队列对应的数据流的采样频率。
在根据上述计算公式计算最大缓存量时,若计算公式的计算结果小于1,那么对应的最大缓存量取1。
例如,数据a采样频率为FPSa=3、b采样频率FPSb=5、c采样频率FPSc=4,数据a的延时为delay_a=5,数据b的延时delay_b=10,数据c的延时为delay_c=15,得到最大延时为delay_max=delay_c=15。则队列A的最大缓存数queue_max_size_a=(delay_max-delay_a)*FPSa=(15-5)*3,队列B的最大缓存数queue_max_size_b=(delay_max-delay_b)*FPSb=(15-10)*5,队列C的最大缓存数为1,(最大缓存数的最小值为1)。
采用上式计算最大缓存量的过程中,用最大延时减去对应队列的延时,是因为,当数据帧a到达,理论上需要再等15-5就可以等到c了,如果超过这个时间都等不到,说明c丢帧了,也就没必要再继续等了,这样可以保证能够得到所有数据流的同步数据帧,同时也可以及时地进行同步数据帧输出。
S300、从待同步数据包中提取出时间戳最早的数据帧作为参考数据帧并输至缓存,将待同步数据包中剩余的数据帧中时间戳最早的数据帧作为目标数据帧。
如图5所示,进入数据帧同步匹配后,首先提取队列集中的各个队列中加入时刻最早的数据帧,得到待同步数据包,将待同步数据包中对应的时间戳最早的数据帧作为参考数据帧,并将参考数据帧输出至缓存,将待同步数据包中剩余的数据帧中对应的时间戳最早的数据帧作为目标数据帧,值得说明的是,目标数据帧先并不输出至缓存。在本实施例中,采用循环判断的方式来确定待同步数据包中的同步数据帧,具体地,在达到循环结束条件之前的每次循环中,都在待同步数据包中确定一个新的参考数据帧,再基于新的参考数据帧确定对应的目标数据帧,判断目标数据帧是否为参考数据帧的同步数据帧,基于判断结果进入下一次循环或者结束循环。
请再次参阅图2,本实施例提供的方法,还包括步骤:
S400、根据参考数据帧和目标数据帧之间的时间戳差值,判断目标数据帧是否符合同步条件。
S500、若是,则将目标数据帧输至缓存,并在待同步数据包中没有剩余数据帧时将缓存中的数据帧标记为同步输出。
根据参考数据帧和目标数据帧之间的时间戳差值,判断目标数据帧是否符合同步条件,包括:
根据参考数据帧和目标数据帧分别对应的帧间隔时长确定目标比较值;判断参考数据帧和目标数据帧之间的时间戳差值是否小于或等于目标比较值;若是,则确定目标数据帧符合同步条件;若否,则确定目标数据帧不符合同步条件。
目标比较值可以为参考数据帧和目标数据帧分别对应的数据流的帧间隔时长中的较小值的一半。目标比较值的设置可以减少各路数据流帧率不同或偶发丢帧对同步的影响。
在确定了参考数据帧和目标数据帧后,若参考数据帧和目标数据帧之间的时间戳差值不大于目标比较值,则确定目标数据帧为参考数据帧的同步数据帧,将目标数据帧输出至缓存,并将目标数据帧作为下次循环的参考数据帧,此时目标数据帧已经被输出至缓存,不在待同步数据包中,重新执行将待同步数据包中剩余的数据帧中时间戳最早的数据帧作为目标数据帧的步骤,即选择一个新的目标数据帧,再确定新的目标数据帧是否与同步数据帧同步,若待同步数据包中已经不存在数据帧,则结束循环。即,根据参考数据帧和目标数据帧之间的时间戳差值,判断目标数据帧是否符合同步条件之后,还包括步骤:
若是,则将目标数据帧输出至缓存,并在待同步数据包中还有剩余数据帧时将缓存中的目标数据帧作为新的参考数据帧,从待同步数据包剩余的数据帧中提取时间戳最早的数据帧作为新的目标数据帧,判断新的目标数据帧是否符合同步条件。
在确定了参考数据帧和目标数据帧后,若参考数据帧和目标数据帧之间的时间戳差值大于目标比较值,则确定目标数据帧不是参考数据帧的同步数据帧并结束循环。
通过上述步骤,可以确定待同步数据包中存在的同步数据帧,并均输出至缓存。
若目标数据帧不符合同步条件,即目标比较值大于参考数据帧和目标数据帧之间的时间戳差值,则将待同步数据包中剩余的数据帧归还给对应的队列,并将缓存中的数据帧标记为异常输出。
例如,有3路数据流a、b、c,数据采集的帧间隔时长分别为3、5、4,对应的队列分别为A、B、C,上位机在不同时刻接收到的这3路数据流的数据帧的情况如表1所示。
Figure BDA0003815341690000091
Figure BDA0003815341690000101
表1
在时刻10时,3路数据流分别对应的队列都匹配了数据帧,此时队列集中的队列满足预设条件,提取各个队列中加入时刻最早的数据帧,得到待同步数据包a10、b08、c09,按照时间戳早晚顺序进行排序为b08、c09、a10。那么将b08输出到缓存,并标记b08为参考数据帧,c09为目标数据帧,二者的时间戳差值为Tdiff=1,选择数据流帧间隔时长中较小的间隔时长(4)的一半作为目标比较值,即目标比较值halfgap=2,满足Tdiff≤halfgap,因此,输出c09到缓存,开始新的循环,标记c09为参考数据帧,a10为目标数据帧,则新的循环中,Tdiff=1,halfgap=2,满足Tdiff≤halfgap,那么输出a10到缓存,待同步数据包中没有多余的数据帧且缓存中的数据帧数量与数据流数量相等,将缓存中的数据标记为同步状态并打包输出。a13、b13、c13、a16、b18、c17依据同理也将被标记为“同步状态”输出。
假设理应到达的数据a10丢帧了,则在时刻13时队列集中的队列才能满足预设条件,提取各个队列中加入时刻最早的数据帧,得到待同步数据包a13、b08、c09,按照时间戳早晚顺序进行排序为b08、c09、a13。那么将b08输出到缓存,并标记b08为参考数据帧,c09为目标数据帧,二者的时间戳差值为Tdiff=1,选择数据流帧间隔时长中较小的间隔时长(4)的一半作为目标比较值,即目标比较值halfgap=2,满足Tdiff≤halfgap,因此,输出c09到缓存,开始新的循环,标记c09为参考数据帧,a13为目标数据帧,则新的循环中,Tdiff=4,halfgap=2,不满足满足Tdiff≤halfgap,因此将已经在缓存中b08和c09标记为异常状态输出,将目标数据帧a13返回队列A中。将a13返回队列集后,每个队列都有数据帧,因此提取各个队列中加入时刻最早的数据帧,得到待同步数据包a13、b13、c13,并进行同步输出。
在时刻22时,队列A中缓存了两个数据帧a19、a22,队列B中无数据帧,队列C中缓存了一个数据帧c21,由于队列A中的缓存量超过了预设值1,则触发同步,取出首帧数据得到待同步数据包a19、c21,最终输出的数据包为被标记为异常状态的a19和c21。
综上所述,本实施例提供一种多路采集数据的同步输出方法,通过为每路数据流设置对应的队列,每路数据流的数据帧先是暂存在队列中,将队列中加入时刻最早的数据帧提取出来作为待同步数据包,并在待同步数据包中提取时间戳最早的数据帧作为参考数据帧,将在待同步数据包中剩余的数据帧中时间戳最早的数据帧作为目标数据帧,根据参考数据帧和目标数据帧之间的时间戳差值确定目标数据帧是否满足同步条件,若满足,则目标数据帧为参考数据帧的同步数据帧,输至缓存,并在待同步数据包中没有剩余数据帧时将缓存中的数据帧标记为同步后输出,这样可以为多路数据流的同步输出提供有效保障。
应该理解的是,虽然本发明说明书附图中给出的的流程图中的各个步骤按照箭头的指示依次显示,但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明,这些步骤的执行并没有严格的顺序限制,这些步骤可以以其它的顺序执行。而且,流程图中的至少一部分步骤可以包括多个子步骤或者多个阶段,这些子步骤或者阶段并不必然是在同一时刻执行完成,而是可以在不同的时刻执行,这些子步骤或者阶段的执行顺序也不必然是依次进行,而是可以与其它步骤或者其它步骤的子步骤或者阶段的至少一部分轮流或者交替地执行。
基于上述实施例,本发明还相应提供一种多路采集数据的同步输出系统,该系统中未详细描述之处请详见前述多路采集数据的同步输出方法实施例中的描述,下述不再赘述。更具体地,如图6所示,该系统包括:
数据接收模块,用于接收多路数据流中的数据帧,将每个数据帧加入至队列集中对应的队列,其中,队列集中的每个队列与每路数据流相对应;
第一数据提取模块,用于从队列集的各个存有数据帧的队列中提取加入时刻最早的数据帧,得到待同步数据包;
第二数据提取模块,用于从待同步数据包中提取出时间戳最早的数据帧作为参考数据帧并输出至缓存,将待同步数据包中剩余的数据帧中时间戳最早的数据帧作为目标数据帧;
数据同步模块,用于根据参考数据帧和目标数据帧之间的时间戳差值,判断目标数据帧是否符合同步条件;若是,则将目标数据帧输至缓存,并在待同步数据包中没有剩余数据帧时将缓存中的数据帧标记为同步输出。
基于上述实施例,本发明提供的多路采集数据的同步输出方法,不仅应用于RGBD相机中,还可应用于具有计算能力的终端中,终端可以执行本发明提供的多路采集数据的同步输出方法以输出数据,终端可以但不限于是各种计算机、移动终端、智能家电、可穿戴式设备等。在一个实施例中,如图7所示,终端包括处理器71以及存储器72。图7仅示出了终端的部分组件,但是应理解的是,并不要求实施所有示出的组件,可以替代的实施更多或者更少的组件。
在一个实施例中,存储器72在一些实施例中可以是终端的内部存储单元,例如终端的硬盘或内存。存储器72在另一些实施例中也可以是终端的外部存储设备,例如终端上配备的插接式硬盘,智能存储卡(Smart Media Card,SMC),安全数字(Secure Digital,SD)卡,闪存卡(Flash Card)等。进一步地,存储器72还可以既包括终端的内部存储单元也包括外部存储设备。存储器72用于存储安装于终端的应用软件及各类数据。存储器72还可以用于暂时地存储已经输出或者将要输出的数据。在一实施例中,存储器72上存储有多路采集数据的同步输出程序,该多路采集数据的同步输出程序可被处理器71所执行,从而实现本申请中多路采集数据的同步输出方法。
在一个实施例中,处理器71在一些实施例中可以是一中央处理器(CentralProcessing Unit,CPU),微处理器或其他芯片,用于运行存储器72中存储的程序代码或处理数据,例如执行多路采集数据的同步输出方法等。执行多路采集数据的同步输出方法中,接收的N路数据流可以是来自于一个外部设备或者是多个外部设备,例如外部设备是RGBD相机,终端的处理器71接收如RGBD相机等外部设备采集的N路数据流。
在一个实施例中,当处理器71执行存储器72中多路采集数据的同步输出程序时实现以下步骤:
接收N路数据流中的数据帧,将每个数据帧加入至队列集中对应的队列,其中,队列集包括N个队列,每个队列与每路数据流相对应,N为大于1的整数;分别提取队列集中存在数据帧的各个队列中加入时刻最早的数据帧,得到待同步数据包;从待同步数据包中提取出时间戳最早的数据帧作为参考数据帧并输至缓存,将待同步数据包中剩余的数据帧中时间戳最早的数据帧作为目标数据帧;根据参考数据帧和目标数据帧之间的时间戳差值,判断目标数据帧是否符合同步条件;若是,则将目标数据帧输至缓存,并在待同步数据包中没有剩余数据帧时将缓存中的数据帧标记为同步输出。
本发明还提供一种计算机可读存储介质,其中存储有一个或者多个程序,一个或者多个程序可被一个或者多个处理器执行,以实现如上所述的多路采集数据的同步输出方法的步骤。
最后应说明的是:以上实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。

Claims (10)

1.一种多路采集数据的同步输出方法,其特征在于,所述方法包括:
接收N路数据流中的数据帧,将每个数据帧加入至队列集中对应的队列,其中,所述队列集包括N个队列,每个队列与每路数据流相对应,N为大于1的整数;
从所述队列集的各个存有数据帧的队列中提取加入时刻最早的数据帧,得到待同步数据包;
从所述待同步数据包中提取出时间戳最早的数据帧作为参考数据帧并输至缓存,将所述待同步数据包剩余的数据帧中时间戳最早的数据帧作为目标数据帧;
根据所述参考数据帧和所述目标数据帧之间的时间戳差值,判断所述目标数据帧是否符合同步条件;
若是,则将所述目标数据帧输至缓存,并在所述待同步数据包中没有剩余数据帧时将所述缓存中的数据帧标记为同步输出。
2.根据权利要求1所述的多路采集数据的同步输出方法,其特征在于,所述从所述队列集的各个存有数据帧的队列中提取加入时刻最早的数据帧,包括:
当所述队列集中的全部队列都匹配了数据帧,或者所述队列集中的任一队列匹配的数据帧数量超出该队列对应的最大缓存量时,提取所述各个队列中加入时刻最早的数据帧。
3.根据权利要求2所述的多路采集数据的同步输出方法,其特征在于,所述队列集中队列的最大缓存量是根据对应的数据流的延时以及所有的数据流的延时中的最大延时得到的;所述最大缓存量的计算公式为:
queue_max_size_n=(delay_max-delay_n)*FPSn
其中,queue_max_size_n表示所述队列集中第n队列对应的所述最大缓存量,delay_max表示所有数据流的传输延时中的最大延时,delay_n表示所述队列集中第n队列对应的数据流的传输延时,FPSn表示所述队列集中第n队列对应的数据流的采样频率。
4.根据权利要求3所述的多路采集数据的同步输出方法,其特征在于,所述根据所述参考数据帧和所述目标数据帧之间的时间戳差值,判断所述目标数据帧是否符合同步条件,包括:
根据所述参考数据帧和所述目标数据帧分别对应的帧间隔时长确定目标比较值;
判断所述参考数据帧和所述目标数据帧之间的时间戳差值是否小于或等于所述目标比较值;
若是,则确定所述目标数据帧符合同步条件;
若否,则确定所述目标数据帧不符合同步条件。
5.根据权利要求3所述的多路采集数据的同步输出方法,其特征在于,所述根据所述参考数据帧和所述目标数据帧分别对应的帧间隔时长确定目标比较值,包括:
确定所述参考数据帧和所述目标数据帧分别对应的帧间隔时长中的较小值作为目标时长;
将所述目标时长的一半作为所述目标比较值。
6.根据权利要求1所述的多路采集数据的同步输出方法,其特征在于,所述根据所述参考数据帧和所述目标数据帧之间的时间戳差值,判断所述目标数据帧是否符合同步条件之后,包括:
若否,则将所述待同步数据包中剩余的数据帧归还给对应的队列,并将所述缓存中的数据帧标记为异常输出。
7.根据权利要求1所述的多路采集数据的同步输出方法,其特征在于,所述根据所述参考数据帧和所述目标数据帧之间的时间戳差值,判断所述目标数据帧是否符合同步条件之后,包括:
若是,则将所述目标数据帧输至缓存,并在所述待同步数据包中还有剩余数据帧时将缓存中的目标数据帧作为新的参考数据帧;从所述待同步数据包剩余的数据帧中提取出时间戳最早的数据帧作为新的目标数据帧,判断所述新的目标数据帧是否符合同步条件。
8.一种多路采集数据的同步输出系统,其特征在于,包括:
数据接收模块,用于接收多路数据流中的数据帧,将每个数据帧加入至队列集中对应的队列,其中,所述队列集中的每个队列与每路数据流相对应;
第一数据提取模块,用于分别提取所述队列集中存在数据帧的各个队列中加入时刻最早的数据帧,得到待同步数据包;
第二数据提取模块,用于从所述待同步数据包中提取出时间戳最早的数据帧作为参考数据帧并输出至缓存,将所述待同步数据包中剩余的数据帧中时间戳最早的数据帧作为目标数据帧;
数据同步模块,用于根据所述参考数据帧和所述目标数据帧之间的时间戳差值,判断所述目标数据帧是否符合同步条件;若是,则将所述目标数据帧输至缓存,并在所述待同步数据包中没有剩余数据帧时将所述缓存中的数据帧标记为同步输出。
9.一种RGBD相机,其特征在于,包括:发射器、RGB图像采集器、IR图像采集器、处理器和存储器;
所述存储器,用于存储可在所述处理器上运行的同步输出程序,所述同步输出程序被所述处理器执行时实现如权利要求1-7任一项所述的多路采集数据的同步输出方法的步骤;
所述发射器,用于向目标投射散斑图案;
所述RGB图像采集器,用于采集RGB数据;
所述IR图像采集器,用于采集目标反射回来的IR数据;
所述处理器,用于获取所述RGB数据和所述IR数据,利用所述IR数据进行深度计算得到深度数据,并执行所述同步输出程序,以实现所述RGB数据、所述IR数据和所述深度数据同步输出。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有一个或者多个程序,所述一个或者多个程序可被一个或者多个处理器执行,以实现如权利要求1-7任一项所述的多路采集数据的同步输出方法的步骤。
CN202211025199.4A 2022-08-25 2022-08-25 一种多路采集数据的同步输出方法、系统及rgbd相机 Active CN115484407B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202211025199.4A CN115484407B (zh) 2022-08-25 2022-08-25 一种多路采集数据的同步输出方法、系统及rgbd相机

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202211025199.4A CN115484407B (zh) 2022-08-25 2022-08-25 一种多路采集数据的同步输出方法、系统及rgbd相机

Publications (2)

Publication Number Publication Date
CN115484407A true CN115484407A (zh) 2022-12-16
CN115484407B CN115484407B (zh) 2023-07-04

Family

ID=84422643

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202211025199.4A Active CN115484407B (zh) 2022-08-25 2022-08-25 一种多路采集数据的同步输出方法、系统及rgbd相机

Country Status (1)

Country Link
CN (1) CN115484407B (zh)

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CA2113600A1 (en) * 1993-09-30 1995-03-31 Sanford S. Lum Video Processing Unit
GB9930788D0 (en) * 1999-12-30 2000-02-16 Koninkl Philips Electronics Nv Method and apparatus for converting data streams
WO2013082965A1 (zh) * 2011-12-05 2013-06-13 优视科技有限公司 流媒体数据处理方法及装置、流媒体数据再现设备
CN103702013A (zh) * 2013-11-28 2014-04-02 北京航空航天大学 一种用于多路实时视频的帧同步方法
AU2015203639A1 (en) * 2011-09-18 2015-07-23 Touchtunes Music Corporation Digital jukebox device with karaoke and/or photo booth features, and associated methods
US20150271469A1 (en) * 2014-03-19 2015-09-24 Htc Corporation Image synchronization method for cameras and electronic apparatus with cameras
CN110602524A (zh) * 2019-08-19 2019-12-20 北京影谱科技股份有限公司 一种多路数字流同步方法、装置、系统及存储介质
CN111246178A (zh) * 2020-02-05 2020-06-05 浙江大华技术股份有限公司 视频处理方法和装置、存储介质及电子装置
CN113873345A (zh) * 2021-09-27 2021-12-31 中国电子科技集团公司第二十八研究所 一种分布式的超高清视频同步处理方法
WO2022022224A1 (zh) * 2020-07-31 2022-02-03 华为技术有限公司 调度数据包的方法和相关装置

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CA2113600A1 (en) * 1993-09-30 1995-03-31 Sanford S. Lum Video Processing Unit
GB9930788D0 (en) * 1999-12-30 2000-02-16 Koninkl Philips Electronics Nv Method and apparatus for converting data streams
AU2015203639A1 (en) * 2011-09-18 2015-07-23 Touchtunes Music Corporation Digital jukebox device with karaoke and/or photo booth features, and associated methods
WO2013082965A1 (zh) * 2011-12-05 2013-06-13 优视科技有限公司 流媒体数据处理方法及装置、流媒体数据再现设备
CN103702013A (zh) * 2013-11-28 2014-04-02 北京航空航天大学 一种用于多路实时视频的帧同步方法
US20150271469A1 (en) * 2014-03-19 2015-09-24 Htc Corporation Image synchronization method for cameras and electronic apparatus with cameras
CN110602524A (zh) * 2019-08-19 2019-12-20 北京影谱科技股份有限公司 一种多路数字流同步方法、装置、系统及存储介质
CN111246178A (zh) * 2020-02-05 2020-06-05 浙江大华技术股份有限公司 视频处理方法和装置、存储介质及电子装置
WO2022022224A1 (zh) * 2020-07-31 2022-02-03 华为技术有限公司 调度数据包的方法和相关装置
CN113873345A (zh) * 2021-09-27 2021-12-31 中国电子科技集团公司第二十八研究所 一种分布式的超高清视频同步处理方法

Also Published As

Publication number Publication date
CN115484407B (zh) 2023-07-04

Similar Documents

Publication Publication Date Title
CN111246178B (zh) 视频处理方法和装置、存储介质及电子装置
US8176366B2 (en) Trace synchronization
US10200291B2 (en) Packet analysis method, packet analysis device, and storage medium
CN108833366B (zh) 基于as6802协议的控制帧压缩方法
CN114554250B (zh) 一种无人机或无人车的视频和位置同步方法
CN115484407A (zh) 一种多路采集数据的同步输出方法、系统及rgbd相机
CN112995515B (zh) 数据处理方法及装置、存储介质、电子装置
CN113411499B (zh) 一种图像融合方法、装置、存储介质及电子装置
CN113225152A (zh) 一种相机同步的方法、装置及计算机可读介质
CN110636219B (zh) 一种视频数据流的传输方法及装置
WO2017036286A1 (zh) 测量远端时间戳单位的方法和装置
WO2019144872A1 (zh) 对视频信号进行复合以及对复合视频信号进行剥离
CN214101397U (zh) 信号同步的系统
US11947507B2 (en) Traffic monitoring device, traffic monitoring method, and traffic monitoring program
CN114302140B (zh) 一种预丢帧方法、系统、设备及计算机可读存储介质
US9367496B2 (en) DMA transfer device and method
CN105187688A (zh) 一种对手机采集的实时视频和音频进行同步的方法及系统
JP4419640B2 (ja) 監視カメラ及び監視システム
CN114025158B (zh) 延迟时间确定方法、装置、图像采集设备和存储介质
CN215268487U (zh) 一种图像防抖电路
CN115996229B (zh) 一种云化测控基带池的微服务数据同步方法
US20230354100A1 (en) Synchronous communication apparatus, method of controlling the same, and storage medium
CN113438385B (zh) 一种视频同步方法及无线图像传输系统
CN110958072B (zh) 一种多节点音视频信息同步共享展示方法
RU2703159C1 (ru) Способ и система измерения статистики трафика сети по n-секундным интервалам

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant