CN111598919B - 运动估计方法、运动估计装置、存储介质与电子设备 - Google Patents

Abstract

本公开提供一种运动估计方法、运动估计装置、计算机可读存储介质与电子设备，涉及图像与视频处理技术领域。该运动估计方法包括：确定待匹配块和候选块的误差，所述待匹配块为当前帧图像中的图像块，所述候选块为参考帧图像中的图像块；从所述候选块中选取与所述待匹配块误差最小的至少两个候选块；根据所述至少两个候选块的位置，在所述参考帧图像中确定搜索范围；在所述搜索范围内搜索所述待匹配块的全局最优块，通过所述全局最优块得到所述待匹配块的最优运动矢量。本公开能够在不同场景下进行运动估计，且具有较高的准确性和效率。

Description

运动估计方法、运动估计装置、存储介质与电子设备

技术领域

本公开涉及图像与视频处理技术领域，尤其涉及一种运动估计方法、运动估计装置、计算机可读存储介质与电子设备。

背景技术

运动估计(Motion Estimation)是指在视频中计算连续帧图像之间目标的相对偏移量，得到目标的运动矢量(Motion Vector)，在视频编码、运动补偿、视频插帧等领域有着广泛应用。

现有技术中，为了实现运动估计，通常将图像序列的每一帧分成许多互不重叠的块，并认为块内所有像素点的位移都相同，然后在参考帧某一给定范围内进行遍历，找出当前块的相似块，从而得到当前块与相似块之间的运动矢量。然而，上述算法对于不同的场景的适应性较差，且计算量较大，导致难以得到有效的运动矢量。

发明内容

本公开提供了一种运动估计方法、运动估计装置、计算机可读存储介质与电子设备，进而至少在一定程度上解决相关技术对于不同场景的适应性较差。

本公开的其他特性和优点将通过下面的详细描述变得显然，或部分地通过本公开的实践而习得。

根据本公开的第一方面，提供一种运动估计方法，包括：确定待匹配块和候选块的误差，所述待匹配块为当前帧图像中的图像块，所述候选块为参考帧图像中的图像块；从所述候选块中选取与所述待匹配块误差最小的至少两个候选块；根据所述至少两个候选块的位置，在所述参考帧图像中确定搜索范围；在所述搜索范围内搜索所述待匹配块的全局最优块，通过所述全局最优块得到所述待匹配块的最优运动矢量。

根据本公开的第二方面，提供一种运动估计装置，包括：误差确定模块，用于确定待匹配块和候选块的误差，所述待匹配块为当前帧图像中的图像块，所述候选块为参考帧图像中的图像块；候选块选取模块，用于从所述候选块中选取与所述待匹配块误差最小的至少两个候选块；范围确定模块，用于根据所述至少两个候选块的位置，在所述参考帧图像中确定搜索范围；最优块搜索模块，用于在所述搜索范围内搜索所述待匹配块的全局最优块，通过所述全局最优块得到所述待匹配块的最优运动矢量。

根据本公开的第三方面，提供一种计算机可读存储介质，其上存储有计算机程序，所述计算机程序被处理器执行时实现上述运动估计方法。

根据本公开的第四方面，提供一种电子设备，包括：处理器；以及存储器，用于存储所述处理器的可执行指令；其中，所述处理器配置为经由执行所述可执行指令来执行上述运动估计方法。

本公开的技术方案具有以下有益效果：

根据上述运动估计方法、运动估计装置、计算机可读存储介质与电子设备，确定待匹配块和候选块的误差，所述待匹配块为当前帧图像中的图像块，所述候选块为参考帧图像中的图像块；从所述候选块中选取与所述待匹配块误差最小的至少两个候选块；根据所述至少两个候选块的位置，在所述参考帧图像中确定搜索范围；在所述搜索范围内搜索所述待匹配块的全局最优块，通过所述全局最优块得到所述待匹配块的最优运动矢量。一方面，本示例性实施例在进行运动估计时，搜索范围的确定依赖于误差最小的候选块，该方式确定的搜索范围根据应用场景的不同，具有多样性，可以适用于不同的应用场景，从而能够提高运动估计的有效性和准确性；再一方面，通过确定搜索范围，在该搜索范围中进行搜索，实现了以多级结构的方式筛选最优块，确定运动矢量，无需向多个方向反复尝试，提高了运动矢量的针对性，在保证搜索精度的同时，减少了计算量，提高了搜索效率。

应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制本公开。

附图说明

此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本公开的实施例，并与说明书一起用于解释本公开的原理。显而易见地，下面描述中的附图仅仅是本公开的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1示出本示例性实施方式的一种系统架构的示意图；

图2示出本示例性实施方式的电子设备的示意图；

图3示出本示例性实施方式的一种运动估计方法的流程图；

图4示出本示例性实施方式的一种运动估计方法的子流程图；

图5示出本示例性实施方式的另一种运动估计方法的子流程图；

图6示出本示例性实施方式的一种运动估计装置的结构框图。

具体实施方式

现在将参考附图更全面地描述示例实施方式。然而，示例实施方式能够以多种形式实施，且不应被理解为限于在此阐述的范例；相反，提供这些实施方式使得本公开将更加全面和完整，并将示例实施方式的构思全面地传达给本领域的技术人员。所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施方式中。在下面的描述中，提供许多具体细节从而给出对本公开的实施方式的充分理解。然而，本领域技术人员将意识到，可以实践本公开的技术方案而省略特定细节中的一个或更多，或者可以采用其它的方法、组元、装置、步骤等。在其它情况下，不详细示出或描述公知技术方案以避免喧宾夺主而使得本公开的各方面变得模糊。

此外，附图仅为本公开的示意性图解，并非一定是按比例绘制。图中相同的附图标记表示相同或类似的部分，因而将省略对它们的重复描述。附图中所示的一些方框图是功能实体，不一定必须与物理或逻辑上独立的实体相对应。可以采用软件形式来实现这些功能实体，或在一个或多个硬件模块或集成电路中实现这些功能实体，或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。

本公开示例性实施方式提供一种运动估计方法和运动估计装置。图1示出该方法与装置运行环境的系统架构图。如图1所示，该系统架构100可以包括：终端110、网络120和服务器130。终端110可以是具有视频拍摄功能的各种电子设备，包括但不限于手机、平板电脑、数码相机、个人电脑等。网络120用以在终端110和服务器130之间提供通信链路的介质，可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等。应该理解，图1中的终端、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端、网络和服务器。比如服务器130可以是多个服务器组成的服务器集群等。

本示例性实施方式所提供的运动估计方法可以由终端110执行，例如在终端110拍摄视频后，直接对视频进行运动估计的处理；也可以由服务器130执行，例如终端110在拍摄视频后，将其通过网络120上传到服务器130后，使服务器130对视频中的图像帧进行运动估计处理。需要说明的是，如果由终端110执行上述运动估计方法，则终端110可以是单机设备(即无需具备网络连接功能)，或者工作在未联网状态下。

本公开的示例性实施方式还提供一种用于实现上述运动估计方法和运动估计装置的电子设备，可以是图1中的终端110或服务器130。该电子设备可以以各种形式来实施，例如可以包括智能手机、平板电脑、笔记本电脑、个人数字助理(Personal DigitalAssistant，PDA)、导航装置、可穿戴设备、无人机等移动设备，以及台式电脑、智能电视等固定设备。下面以图2中的移动终端200为例，对电子设备的构造进行示例性说明。本领域技术人员应当理解，除了特别用于移动目的的部件之外，图2中的构造也能够应用于固定类型的设备。在另一些实施方式中，移动终端200可以包括比图示更多或更少的部件，或者组合某些部件，或者拆分某些部件，或者不同的部件布置。图示的部件可以以硬件、软件或软件和硬件的组合实现。各部件间的接口连接关系只是示意性示出，并不构成对移动终端200的结构限定。在另一些实施方式中，移动终端200也可以采用与图2不同的接口连接方式，或多种接口连接方式的组合。

如图2所示，移动终端200具体可以包括：处理器210、内部存储器221、外部存储器接口222、通用串行总线(Universal Serial Bus，USB)接口230、充电管理模块240、电源管理模块241、电池242、天线1、天线2、移动通信模块250、无线通信模块260、音频模块270、扬声器271、受话器272、麦克风273、耳机接口274、传感器模块280、显示屏290、摄像模组291、指示器292、马达293、按键294以及用户标识模块(Subscriber Identification Module，SIM)卡接口295等。其中传感器模块280可以包括深度传感器2801、压力传感器2802、陀螺仪传感器2803、气压传感器2804等。

处理器210可以用于执行本示例性实施例中运动估计的处理过程，其包括一个或多个处理单元，例如：处理器210可以包括应用处理器(Application Processor，AP)、调制解调处理器、图形处理器(Graphics Processing Unit，GPU)、图像信号处理器(ImageSignal Processor，ISP)、控制器、视频编码器、视频解码器、数字信号处理器(DigitalSignal Processor，DSP)、基带处理器和/或神经网络处理器(Neural-Network ProcessingUnit，NPU)等。其中，不同的处理单元可以是独立的器件，也可以集成在一个或多个处理器中。

控制器可以根据指令操作码和时序信号，产生操作控制信号，完成读取指令和执行指令的控制。

处理器210中还可以设置存储器，用于存储指令和数据。存储器可以存储用于实现六个模块化功能的指令：检测指令、连接指令、信息管理指令、分析指令、数据传输指令和通知指令，并由处理器210来控制执行。在一些实施方式中，处理器210中的存储器为高速缓冲存储器。该存储器可以保存处理器210刚用过或循环使用的指令或数据。如果处理器210需要再次使用该指令或数据，可从存储器中直接调用。避免了重复存取，减少了处理器210的等待时间，因而提高了系统的效率。

在一些实施方式中，处理器210可以包括一个或多个接口。接口可以包括集成电路(Inter-Integrated Circuit，I2C)接口、集成电路内置音频(Inter-Integrated CircuitSound，I2S)接口、脉冲编码调制(Pulse Code Modulation，PCM)接口、通用异步收发传输器(Universal Asynchronous Receiver/Transmitter，UART)接口、移动产业处理器接口(Mobile Industry Processor Interface，MIPI)、通用输入输出(General-PurposeInput/Output，GPIO)接口、用户标识模块(Subscriber Identity Module，SIM)接口和/或通用串行总线(Universal Serial Bus，USB)接口等。通过不同的接口和移动终端200的其他部件形成连接。

USB接口230是符合USB标准规范的接口，具体可以是MiniUSB接口，MicroUSB接口，USBTypeC接口等。USB接口230可以用于连接充电器为移动终端200充电，也可以连接耳机，通过耳机播放音频，还可以用于移动终端200连接其他电子设备，例如连接电脑、外围设备等。

充电管理模块240用于从充电器接收充电输入。其中，充电器可以是无线充电器，也可以是有线充电器。在一些有线充电的实施方式中，充电管理模块240可以通过USB接口230接收有线充电器的充电输入。在一些无线充电的实施方式中，充电管理模块240可以通过移动终端200的无线充电线圈接收无线充电输入。充电管理模块240为电池242充电的同时，还可以通过电源管理模块241为电子设备供电。

电源管理模块241用于连接电池242、充电管理模块240与处理器210。电源管理模块241接收电池242和/或充电管理模块240的输入，为处理器210、内部存储器221、显示屏290、摄像模组291和无线通信模块260等供电，还可以用于监测电池容量，电池循环次数，电池健康状态(漏电，阻抗)等参数。

移动终端200的无线通信功能可以通过天线1、天线2、移动通信模块250、无线通信模块260、调制解调处理器以及基带处理器等实现。

天线1和天线2用于发射和接收电磁波信号。移动终端200中的每个天线可用于覆盖单个或多个通信频带。不同的天线还可以复用，以提高天线的利用率。例如：可以将天线1复用为无线局域网的分集天线。在另外一些实施方式中，天线可以和调谐开关结合使用。

移动通信模块250可以提供应用在移动终端200上的包括2G/3G/4G/5G等无线通信的解决方案。移动通信模块250可以包括至少一个滤波器，开关，功率放大器，低噪声放大器(Low Noise Amplifier，LNA)等。移动通信模块250可以由天线1接收电磁波，并对接收的电磁波进行滤波、放大等处理，传送至调制解调处理器进行解调。移动通信模块250还可以对经调制解调处理器调制后的信号放大，经天线1转为电磁波辐射出去。

无线通信模块260可以提供应用在移动终端200上的包括无线局域网(WirelessLocal Area Networks，WLAN)(如无线保真(Wireless Fidelity，Wi-Fi)网络)、蓝牙(Bluetooth，BT)、全球导航卫星系统(Global Navigation Satellite System，GNSS)、调频(Frequency Modulation，FM)、近距离无线通信技术(Near Field Communication，NFC)、红外技术(Infrared，IR)等无线通信的解决方案。无线通信模块260可以是集成至少一个通信处理模块的一个或多个器件。无线通信模块260经由天线2接收电磁波，将电磁波信号调频以及滤波处理，将处理后的信号发送到处理器210。无线通信模块260还可以从处理器210接收待发送的信号，对其进行调频，放大，经天线2转为电磁波辐射出去。

在一些实施方式中，移动终端200的天线1和移动通信模块250耦合，天线2和无线通信模块260耦合，使得移动终端200可以通过无线通信技术与网络以及其他设备通信。无线通信技术可以包括全球移动通讯系统(Global System for Mobile communications，GSM)，通用分组无线服务(General Packet Radio Service，GPRS)，码分多址接入(CodeDivision Multiple Access，CDMA)，宽带码分多址(Wideband Code Division MultipleAccess，WCDMA)，时分码分多址(Time Division-Synchronous Code Division MultipleAccess，TD-SCDMA)，长期演进(Long Term Evolution，LTE)，新空口(New Radio，NR)，BT，GNSS，WLAN，NFC，FM，和/或IR技术等。GNSS可以包括全球卫星定位系统(GlobalPositioning System，GPS)，全球导航卫星系统(Global Navigation Satellite System，GLONASS)，北斗卫星导航系统(Beidou Navigation Satellite System，BDS)，准天顶卫星系统(Quasi-Zenith Satellite System，QZSS)和/或星基增强系统(Satellite BasedAugmentation Systems，SBAS)。

移动终端200通过GPU、显示屏290及应用处理器等实现显示功能。GPU为的微处理器，连接显示屏290和应用处理器。GPU用于执行数学和几何计算，用于图形渲染。处理器210可包括一个或多个GPU，其执行程序指令以生成或改变显示信息。

移动终端200可以包括一个或多个显示屏290，用于显示图像，视频等。在本示例性实施例中，显示屏290可以从处理器210获取经过运动估计处理，并进行插帧后的视频，进行显示。显示屏290包括显示面板。显示面板可以采用液晶显示屏(Liquid Crystal Display，LCD)，有机发光二极管(Organic Light-Emitting Diode，OLED)，有源矩阵有机发光二极体或主动矩阵有机发光二极体(Active-Matrix Organic Light Emitting Diode，AMOLED)，柔性发光二极管(Flexlight-Emitting Diode，FLED)，Miniled，MicroLed，Micro-oLed，量子点发光二极管(Quantum dot Light Emitting Diodes，QLED)等。

移动终端200可以通过ISP、摄像模组291、视频编码器、视频解码器、GPU、显示屏290及应用处理器等实现拍摄功能。

ISP用于处理摄像模组291反馈的数据。例如，拍照时，打开快门，光线通过镜头被传递到摄像头感光元件上，光信号转换为电信号，摄像头感光元件将电信号传递给ISP处理，转化为肉眼可见的图像。在一些实施方式中，ISP可以设置在摄像模组291中。

移动终端200可以包括一个或多个摄像模组291，用于捕获静态图像或视频。物体通过镜头生成光学图像投射到感光元件。感光元件把光信号转换成电信号，之后将电信号传递给ISP转换成数字图像信号。ISP将数字图像信号输出到DSP加工处理。DSP将数字图像信号转换成标准的RGB，YUV等格式的图像信号。在本示例性实施例中，摄像模组291在拍摄视频后，可以将视频传输到处理器210，以使处理器210执行运动估计的处理。

视频编码器、视频解码器用于对数字视频压缩或解压缩。移动终端200可以支持一种或多种视频编解码器。这样，移动终端200可以播放或录制多种编码格式的视频，例如：动态图像专家组(Moving Picture Experts Group，MPEG)1，MPEG2，MPEG3，MPEG4等。

外部存储器接口222可以用于连接外部存储卡，例如Micro SD卡，实现扩展移动终端200的存储能力。外部存储卡通过外部存储器接口222与处理器210通信，实现数据存储功能。例如将音乐，视频等文件保存在外部存储卡中。

内部存储器221可以用于存储计算机可执行程序代码，可执行程序代码包括指令。内部存储器221可以包括存储程序区和存储数据区。其中，存储程序区可存储操作系统，至少一个功能所需的应用程序(比如声音播放功能，图像播放功能等)等。存储数据区可存储移动终端200使用过程中所创建的数据(比如音频数据，电话本等)等。此外，内部存储器221可以包括高速随机存取存储器，还可以包括非易失性存储器，例如至少一个磁盘存储器件，闪存器件，通用闪存存储器(Universal Flash Storage，UFS)等。处理器210通过运行存储在内部存储器221的指令和/或存储在设置于处理器中的存储器的指令，执行移动终端200的各种功能应用以及数据处理。

移动终端200可以通过音频模块270、扬声器271、受话器272、麦克风273、耳机接口274及应用处理器等实现音频功能。例如音乐播放、录音等。

音频模块270用于将数字音频信息转换成模拟音频信号输出，也用于将模拟音频输入转换为数字音频信号。音频模块270还可以用于对音频信号编码和解码。在一些实施方式中，音频模块270可以设置于处理器210中，或将音频模块270的部分功能模块设置于处理器210中。

扬声器271，也称“喇叭”，用于将音频电信号转换为声音信号。移动终端200可以通过扬声器271收听音乐，或收听免提通话。

受话器272，也称“听筒”，用于将音频电信号转换成声音信号。当移动终端200接听电话或语音信息时，可以通过将受话器272靠近人耳接听语音。

麦克风273，也称“话筒”，“传声器”，用于将声音信号转换为电信号。当拨打电话或发送语音信息时，用户可以通过人嘴靠近麦克风273发声，将声音信号输入到麦克风273。移动终端200可以设置多个麦克风273，以实现降噪、识别声音来源、定向录音等功能。

耳机接口274用于连接有线耳机。耳机接口274可以是USB接口230，也可以是3.5mm的开放移动电子设备平台(Open Mobile Terminal Platform，OMTP)标准接口，美国蜂窝电信工业协会(Cellular Telecommunications Industry Association of the USA，CTIA)标准接口。

深度传感器2801用于获取景物的深度信息。在一些实施方式中，深度传感器可以设置于摄像模组291。压力传感器2802用于感受压力信号，可以将压力信号转换成电信号，用于实现压力触控等功能。陀螺仪传感器2803可以用于确定移动终端200的运动姿态，可用于拍摄防抖、导航、体感游戏等场景。气压传感器2804用于测量气压，可通过计算海拔高度，辅助定位和导航。

此外，根据实际需要，还可以在传感器模块280中设置其他功能的传感器，例如磁传感器、加速度传感器、距离传感器、接近光传感器、指纹传感器、温度传感器、触摸传感器、环境光传感器、骨传导传感器等等。

指示器292可以是指示灯，可以用于指示充电状态，电量变化，也可以用于指示消息，未接来电，通知等。

马达293可以产生振动提示，例如来电、闹钟、接收信息等的振动提示，也可以用于触摸振动反馈等。

按键294包括开机键，音量键等。按键294可以是机械按键。也可以是触摸式按键。移动终端200可以接收按键输入，产生与移动终端200的用户设置以及功能控制有关的键信号输入。

移动终端200可以支持一个或多个SIM卡接口295，用于连接SIM卡，使移动终端200通过SIM卡和网络交互，实现通话以及数据通信等功能。

下面对本公开示例性实施方式的运动估计方法和运动估计装置进行具体说明。

图3示出了本示例性实施方式中一种运动估计方法的流程，包括以下步骤S310至S340：

步骤S310，确定待匹配块和候选块的误差，待匹配块为当前帧图像中的图像块，候选块为参考帧图像中的图像块。

其中，待匹配块为当前帧中的图像块，候选块为当前帧的参考帧中的图像块。当前帧是指视频中当前待处理的图像帧，如果在拍摄视频时，同步进行运动估计，则当前获取的最新一帧为当前帧；或者对视频进行逐帧解析，则当前待解析的图像帧为当前帧。参考帧可以选用视频中当前帧的相邻帧，例如前一帧图像。对于当前帧，可以按照预设尺寸的块(如16*16大小块)对图像进行分割，得到多个图像块，也可以通过目标检测、语义分割等多种方式分割图像块，本公开不做限定。在将当前帧分割为多个图像块后，可以分别以每个图像块为待匹配块，通过执行本示例性实施方式进行运动估计。

通常，参考帧图像中会包括大量的图像块，为了提高运动估计的效率和准确性，如何确定候选块是非常重要的。在一示例性实施例中，上述候选块可以包括以下任意一种或多种：

第一类候选块，为参考帧图像中，与待匹配块位置相同的图像块；

第二类候选块，为参考帧图像中，与待匹配块位置相邻的图像块；

第三类候选块，为参考帧图像中，对第一类候选块或第二类候选块的位置进行随机偏移后得到的图像块。

即本示例性实施例可以通过一种或多种方式确定候选块，具体而言，可以在参考帧图像中找到与待匹配块处于相同位置的图像块，即第一类候选块；或者在参考帧中找到与待匹配块位置处于相邻关系的图像块，即第二类候选块，其中，相邻关系可以根据实际需要进行设定，例如可以是待匹配块上、下、左、右等多种方向位置中已经完成运动估计的图像块；再或者还可以在上述第一类候选块和第二类候选块的位置，加入预设偏移量或随机偏移量确定图像块，即第三类候选块，其中，具体偏移量的设置可以根据需要进行自定义设置。此外，本示例性实施例还可以通过其他方式在参考帧图像中确定候选块，例如运动矢量在水平方向和竖直方向均为0的图像块等等，本公开对此不做具体限定。需要说明的是，候选块的数量可以根据实际需要进行确定，且可以包括上述多种类型的候选块。

运动估计的目的是为待匹配块找到最为匹配的图像块(本文称为最优块)。步骤S310中的候选块是初步确定的，其中包含最优块的概率较低。本示例性实施方式中，可以确定待匹配块与各候选块的误差，以得到待匹配块与各候选块匹配的情况。其中，待匹配块与任一候选块的误差，可以包括以下任意一项或多项：绝对差值和，惩罚值，欧式距离。

下面分别说明每种误差项的计算方法：

绝对差值和(Sum of Absolute Differences，简称SAD)。对待匹配块的每个像素点，计算其与候选块中对应像素点的像素绝对差值，累加每个像素点的绝对差值，得到待匹配块与候选块的绝对差值和。

惩罚值(Penalty)。惩罚值用于描述待匹配块与候选块之间匹配的可靠性，计算方式可以通过经验值和实验选取，本公开对此不做限定。例如，可以将待匹配块和候选块输入预先训练的神经网络，待匹配块输入第一通道，候选块输入第二通道，通过神经网络输出匹配度，匹配度越低，则惩罚值越高(如惩罚值＝1-匹配度)。

欧式距离。从待匹配块和候选块分别提取图像特征，形成两个特征向量，对两个特征向量计算欧式距离。

此外，还可以采用其他误差项，如基于互相关函数计算的互相关度，均方误差，基于最大像素匹配统计得到的匹配像素数或匹配像素比例等，本公开对此不做具体限定。

步骤S320，从候选块中选取与待匹配块误差最小的至少两个候选块。

通常可以根据误差由低到高排列各候选块，越靠前的候选块，其与待匹配块越匹配。本示例性实施例可以根据实际需求确定任意数量的候选块块，并按顺序计算候选块与待匹配块之间的误差。需要说明的是，首次计算的误差最小的至少两个候选块是较优的块(即当前与待匹配块较为匹配的块)，但不一定是最优块。

在排列候选块时，如果存在至少两个候选块，其与待匹配块的误差相同，则按照预设误差项确定该至少两个候选块之间的排列顺序。其中，预设误差项可以包括绝对差值和、梯度误差、惩罚值和欧式距离中任意一项或两项、三项的组合，换而言之，可以将预设误差项看成是误差的子集。如果误差同时包括绝对差值和、梯度误差、惩罚值和欧式距离这四项，则预设误差项可以是其中任意一项、两项、三项，具体采用哪些误差项作为预设误差项，视实际需求而定。

步骤S330，根据至少两个候选块的位置，在参考帧图像中确定搜索范围。

其中，搜索范围是指基于较优的至少两个候选块，确定的进行后续搜索的范围，其与候选块的数量和位置均具有关系，例如如果在步骤S320中确定了三个候选块，则可以根据这三个候选块的位置确定一搜索范围，如果确定了两个候选块，则可以根据这两个候选块的位置确定一搜索范围。具体的，在根据候选块的位置确定搜索范围时，可以根据候选块所在的中心位置坐标确定，例如将确定的三个候选块的中心位置相连接所确定的区域作为搜索范围，或者将确定的两个候选块的重点位置相连接作为矩形搜索范围的对角线等；也可以根据候选块的边缘位置确定搜索范围，例如以候选块左上角像素点的坐标为基准，确定一搜索范围等，本公开对此不做具体限定。

在一示例性实施例中，上述步骤S320可以包括以下步骤：

步骤S410，按照与待匹配块误差由小到大的顺序排列候选块，从中选取第一候选块和第二候选块；

进一步的，步骤S330可以包括以下步骤：

步骤S420，根据第一候选块的位置确定第一角点，以及根据第二候选块的位置确定第二角点；

步骤S430，以第一角点和第二角点的连线为对角线，生成矩形的搜索范围。

为了进行快速有效的运动估计，本示例性实施例可以按照各候选块与待匹配块的误差大小，从中选取误差最小的，作为第一候选块，以及误差次小，作为第二候选块，根据第一候选块和第二候选块来确定搜索范围。具体的，可以根据第一候选块的位置确定矩形搜索范围的第一角点，根据第二候选块的位置确定矩形搜索范围的第二角点，以第一角点和第二角点的连线作为矩形搜索范围的对角线。其中，第一候选块的位置与第二候选块的位置可以是相同的位置，例如可以以候选块左上角像素点的位置为基准，根据第一候选块左上角像素点的位置，以坐标(x₁，y₁)表示，与第二候选块左上角像素点的位置，以坐标(x₂，y₂)表示，确定矩形搜索范围，矩形搜索范围四个顶点的坐标以左上角为起始点，顺时针顺序分别表示为(x₁，y₁)、(x₂、y₁)、(x₂，y₂)、(x₁，y₂)。另外，第一候选块的位置与第二候选块的位置也可以是不相同的位置，例如根据第一候选块左上角像素点的位置，和第二候选块右下角像素点的位置，确定搜索范围等。

此外，在一示例性实施例中，还可以通过其他方式确定搜索范围，具体的，上述步骤S330可以包括以下步骤：

根据第一候选块的位置确定中心位置，根据其他候选块的位置确定边界位置；其中，第一候选块为至少两个候选块中与待匹配块误差最小的候选块，其他候选块为至少两个候选块中除第一候选块以外的候选块；

基于中心位置和边界位置在参考帧图像中确定搜索范围。

在本示例性实施例中，确定了至少两个候选块后，可以以误差最小的第一候选块最基准，确定中心位置，并根据其他候选块的边界位置确定搜索范围。例如确定了五个候选块a₁、a₂、a₃、a₄、a₅，当以误差最小的候选块a₁为中心时，候选块a₂、a₃、a₄、a₅分别位于候选块a₁的上、下、左、右位置，则可以以候选块a₁为基准，以候选块a₂、a₃、a₄、a₅的上、下、左、右的边界作为搜索范围的最大边界，确定一矩形搜索范围。需要说明的是，当以误差最小的第一候选块为中心时，如果其他候选块位于第一候选块的同一方向，则可以根据实际需要，对其他候选块进行筛选，确定搜索范围，例如确定了3个候选块a₁、a₂、a₃，其中，以误差最小的候选块a₁为中心时，候选块a₂、a₃均位于候选块a₁的左侧，且候选块a₂距离候选块a₁的位置相比于候选块a₃距离候选块a₁的位置更远，则此时，可以以候选块a₁为基准，以候选块a₃左侧边界确定搜索范围的边界位置等。

步骤S340，在搜索范围内搜索待匹配块的全局最优块，通过全局最优块得到待匹配块的最优运动矢量。

本示例性实施例通过计算初始确定的候选块与待匹配块之间的误差，并基于误差从候选块中确定出符合要求的候选块，建立搜索范围，根据该搜索范围进行多层级的搜索，最终搜索到与待匹配块误差最小、最匹配的图像块，即全局最优块。将全局最优块的运动矢量确定为待匹配块的最优运动矢量，从而完成待匹配块的运动估计。

在一示例性实施例中，上述步骤S340中，在搜索范围内搜索待匹配块的全局最优块，可以包括以下步骤：

步骤S510，根据搜索范围的尺寸确定当前搜索步长；

步骤S520，在搜索范围内，以当前搜索步长搜索得到多个新候选块；

步骤S530，判断当前搜索步长是否为单位步长；

步骤S540，如果当前搜索步长大于单位步长，则在新候选块中选取与待匹配块误差最小的至少两个新候选块；

步骤S550，根据至少两个新候选块的位置，在参考帧图像中确定下一级的搜索范围，并跳转至步骤S510；

步骤S560，如果当前搜索步长为单位步长，则将与待匹配块误差最小的新候选块，确定为待匹配块的全局最优块。

在搜索范围内进行搜索时，需要根据确定的搜索步长进行搜索，其中，搜索步长可以根据搜索精度和实际需求进行设置。在本示例性实施例中，上述步骤S510可以包括：

以搜索范围的尺寸的一半作为当前搜索步长；或者

计算搜索范围和待匹配块的尺寸差值，以尺寸差值的一半作为当前搜索步长。

即搜索步长可以根据以上任意一种方式确定，其一是根据搜索范围的大小确定，例如当前的搜索范围为16*16，则可以设置当前的搜索步长为8，然后逐级减小；其二是通过计算搜索范围与待匹配块的尺寸差值，以尺寸差值的一般作为当前搜索步长，例如当前的搜索范围为16*16，待匹配块的尺寸是4*4，则搜索步长可以是(16-4)/2，即以6作为搜索步长，然后逐级减小进行搜索。

在本示例性实施例中，以步骤S320中确定的误差最小的两个候选块，确定一初始的搜索范围后，可以以多级循环搜索的方式，确定全局最优块。在每一级的搜索中，具体步骤可以包括：先在初始的搜索范围内，确定当前搜索步长，并以该步长进行搜索，得到多个新候选块；然后判断当前搜索步长是否为单位步长，如果当前搜索步长大于单位步长，通常单位步长为1，则可以在得到的新候选块中，再次选取与待匹配块误差最小的至少两个新候选块，并根据该至少两个新候选块的位置，在参考帧图像中确定下一级的搜索范围，并跳转至步骤S510，根据搜索范围的尺寸确定搜索步长，并开始下一级的搜索。其中，下一级的搜索范围是指基于当前搜索范围的更小一级的搜索范围，针对不同的当前搜索范围，其下一级的搜索范围不同。另外，在逐级搜索时，每一级搜索所采用的搜索范围和搜索步长不同，通常是逐步缩小搜索范围和搜索步长，直到当前搜索步长为单位步长。

通过逐级缩小搜索范围的方式，搜索误差更小的候选块。其中，如果判断当前搜索步长为单位步长，则可以停止搜索，将与待匹配块误差最小的新候选块，确定为待匹配块的全局最优块。本示例性实施例通过不断确定与待匹配块误差最小的较优候选块，不断构建新的搜索范围，以在新的搜索范围中搜索出与待匹配块最匹配的候选块，相比于随机向各个方向进行误差计算，具有较强的针对性，且提高了运动估计的效率。

需要说明的是，上述单位步长可以设置为像素级，例如1个像素；也可以根据实际的精度需求进行自定义设置，例如精度要求较高时，设置亚像素级的单位步长，1/2像素、1/4像素等。当进行亚像素级搜索时，搜索范围的确定可以是，先以1个像素级单位步长确定一个较优的候选块后，以该候选块为基准，向周围扩大1个像素位置，形成亚像素级的搜索范围。基于上述搜索方式，在该亚像素级的搜索范围内继续进行搜索，直到步长为1个亚像素级单位步长时，确定最终的全局最优块。

综上，本示例性实施方式中，确定待匹配块和候选块的误差，待匹配块为当前帧图像中的图像块，候选块为参考帧图像中的图像块；从候选块中选取与待匹配块误差最小的至少两个候选块；根据至少两个候选块的位置，在参考帧图像中确定搜索范围；在搜索范围内搜索待匹配块的全局最优块，通过全局最优块得到待匹配块的最优运动矢量。一方面，本示例性实施例在进行运动估计时，搜索范围的确定依赖于误差最小的候选块，该方式确定的搜索范围根据应用场景的不同，具有多样性，可以适用于不同的应用场景，从而能够提高运动估计的有效性和准确性；再一方面，通过确定搜索范围，在该搜索范围中进行搜索，实现了以多级结构的方式筛选最优块，确定运动矢量，无需向多个方向反复尝试，提高了运动矢量的针对性，在保证搜索精度的同时，减少了计算量，提高了搜索效率。

本公开的示例性实施方式还提供一种运动估计装置。如图6所示，该运动估计装置600可以包括：误差确定模块610，用于确定待匹配块和候选块的误差，待匹配块为当前帧图像中的图像块，候选块为参考帧图像中的图像块；候选块选取模块620，用于从候选块中选取与待匹配块误差最小的至少两个候选块；范围确定模块630，用于根据至少两个候选块的位置，在参考帧图像中确定搜索范围；最优块搜索模块640，用于在搜索范围内搜索待匹配块的全局最优块，通过全局最优块得到待匹配块的最优运动矢量。

在一示例性实施例中，候选块选取模块包括：候选块选取单元，用于按照与待匹配块误差由小到大的顺序排列候选块，从中选取第一候选块和第二候选块；范围确定模块包括：角点确定单元，用于根据第一候选块的位置确定第一角点，以及根据第二候选块的位置确定第二角点；范围确定单元，用于以第一角点和第二角点的连线为对角线，生成矩形的搜索范围。

在一示例性实施例中，最优块搜索模块包括：步长确定单元，用于根据搜索范围的尺寸确定当前搜索步长；候选块更新单元，用于在搜索范围内，以当前搜索步长搜索得到多个新候选块；第一判断单元，用于如果当前搜索步长大于单位步长，则在新候选块中选取与待匹配块误差最小的至少两个新候选块；根据至少两个新候选块的位置，在参考帧图像中确定下一级的搜索范围，并跳转至根据搜索范围的尺寸确定当前搜索步长的步骤；第二判断单元，用于如果当前搜索步长为单位步长，则将与待匹配块误差最小的新候选块，确定为待匹配块的全局最优块

在一示例性实施例中，步长确定单元包括：第一确定子单元以搜索范围的尺寸的一半作为当前搜索步长；或者第二确定子单元，用于计算搜索范围和待匹配块的尺寸差值，以尺寸差值的一半作为当前搜索步长

在一示例性实施例中，范围确定模块包括：位置确定单元，用于根据第一候选块的位置确定中心位置，根据其他候选块的位置确定边界位置；其中，第一候选块为至少两个候选块中与待匹配块误差最小的候选块，其他候选块为至少两个候选块中除第一候选块以外的候选块；范围确定单元，用于基于中心位置和边界位置在参考帧图像中确定搜索范围。

在一示例性实施例中，候选块包括以下任意一种或多种：第一类候选块，为参考帧图像中，与待匹配块位置相同的图像块；第二类候选块，为参考帧图像中，与待匹配块位置相邻的图像块；第三类候选块，为参考帧图像中，对第一类候选块或第二类候选块的位置进行随机偏移后得到的图像块。

上述装置中各模块的具体细节在方法部分实施方式中已经详细说明，未披露的细节内容可以参见方法部分的实施方式内容，因而不再赘述。

所属技术领域的技术人员能够理解，本公开的各个方面可以实现为系统、方法或程序产品。因此，本公开的各个方面可以具体实现为以下形式，即：完全的硬件实施方式、完全的软件实施方式(包括固件、微代码等)，或硬件和软件方面结合的实施方式，这里可以统称为“电路”、“模块”或“系统”。

本公开的示例性实施方式还提供了一种计算机可读存储介质，其上存储有能够实现本说明书上述方法的程序产品。在一些可能的实施方式中，本公开的各个方面还可以实现为一种程序产品的形式，其包括程序代码，当程序产品在终端设备上运行时，程序代码用于使终端设备执行本说明书上述“示例性方法”部分中描述的根据本公开各种示例性实施方式的步骤，例如可以执行图3、图4或图5中任意一个或多个步骤。

本公开还描述了用于实现上述方法的程序产品，其可以采用便携式紧凑盘只读存储器(CD-ROM)并包括程序代码，并可以在终端设备，例如个人电脑上运行。然而，本公开的程序产品不限于此，在本文件中，可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。

程序产品可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以为但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。

计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了可读程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。可读信号介质还可以是可读存储介质以外的任何可读介质，该可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。

可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于无线、有线、光缆、RF等等，或者上述的任意合适的组合。

可以以一种或多种程序设计语言的任意组合来编写用于执行本公开操作的程序代码，程序设计语言包括面向对象的程序设计语言—诸如Java、C++等，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中，远程计算设备可以通过任意种类的网络，包括局域网(LAN)或广域网(WAN)，连接到用户计算设备，或者，可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。

本领域技术人员在考虑说明书及实践这里公开的发明后，将容易想到本公开的其他实施方式。本公开旨在涵盖本公开的任何变型、用途或者适应性变化，这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施方式仅被视为示例性的，本公开的真正范围和精神由权利要求指出。

应当理解的是，本公开并不局限于上面已经描述并在附图中示出的精确结构，并且可以在不脱离其范围进行各种修改和改变。本公开的范围仅由所附的权利要求来限。

Claims (9)

1.一种运动估计方法，其特征在于，包括：

确定待匹配块和候选块的误差，所述待匹配块为当前帧图像中的图像块，所述候选块为参考帧图像中的图像块；

从所述候选块中选取与所述待匹配块误差最小的至少两个候选块；

根据所述至少两个候选块的位置，在所述参考帧图像中确定搜索范围；

在所述搜索范围内搜索所述待匹配块的全局最优块，通过所述全局最优块得到所述待匹配块的最优运动矢量；

所述在所述搜索范围内搜索所述待匹配块的全局最优块，包括：

根据所述搜索范围的尺寸确定当前搜索步长；

在所述搜索范围内，以所述当前搜索步长搜索得到多个新候选块；

如果所述当前搜索步长大于单位步长，则在所述新候选块中选取与所述待匹配块误差最小的至少两个新候选块；

根据所述至少两个新候选块的位置，在所述参考帧图像中确定下一级的搜索范围，并跳转至根据所述搜索范围的尺寸确定当前搜索步长的步骤；

如果所述当前搜索步长为单位步长，则将与所述待匹配块误差最小的所述新候选块，确定为所述待匹配块的全局最优块。

2.根据权利要求1所述的方法，其特征在于，所述从所述候选块中选取与所述待匹配块误差最小的至少两个候选块，包括：

按照与所述待匹配块误差由小到大的顺序排列所述候选块，从中选取第一候选块和第二候选块；

所述根据所述至少两个候选块的位置，在所述参考帧图像中确定搜索范围，包括：

根据所述第一候选块的位置确定第一角点，以及根据所述第二候选块的位置确定第二角点；

以所述第一角点和所述第二角点的连线为对角线，生成矩形的搜索范围。

3.根据权利要求1所述的方法，其特征在于，所述根据所述搜索范围的尺寸确定当前搜索步长，包括：

以所述搜索范围的尺寸的一半作为当前搜索步长；或者

计算所述搜索范围和所述待匹配块的尺寸差值，以所述尺寸差值的一半作为当前搜索步长。

4.根据权利要求1所述的方法，其特征在于，所述根据所述至少两个候选块的位置，在所述参考帧图像中确定搜索范围，包括：

根据第一候选块的位置确定中心位置，根据其他候选块的位置确定边界位置；其中，所述第一候选块为所述至少两个候选块中与所述待匹配块误差最小的候选块，所述其他候选块为所述至少两个候选块中除所述第一候选块以外的候选块；

基于所述中心位置和所述边界位置在所述参考帧图像中确定所述搜索范围。

5.根据权利要求1所述的方法，其特征在于，所述候选块包括以下任意一种或多种：

第一类候选块，为所述参考帧图像中，与所述待匹配块位置相同的图像块；

第二类候选块，为所述参考帧图像中，与所述待匹配块位置相邻的图像块；

第三类候选块，为所述参考帧图像中，对所述第一类候选块或所述第二类候选块的位置进行随机偏移后得到的图像块。

6.根据权利要求1至5任一项所述的方法，其特征在于，所述待匹配块与参考帧图像中候选块的误差，包括以下任意一项或多项：

绝对差值和，惩罚值，欧式距离；

其中，所述绝对差值和的确定方式包括：对所述待匹配块的每个像素点，计算其与候选块中对应像素点的像素绝对差值，累加每个像素点的绝对差值，得到所述待匹配块与候选块的绝对差值和；

所述惩罚值，用于描述所述待匹配块与候选块之间匹配的可靠性，所述惩罚值通过以下公式确定：惩罚值=1-匹配度。

7.一种运动估计装置，其特征在于，包括：

误差确定模块，用于确定待匹配块和候选块的误差，所述待匹配块为当前帧图像中的图像块，所述候选块为参考帧图像中的图像块；

候选块选取模块，用于从所述候选块中选取与所述待匹配块误差最小的至少两个候选块；

范围确定模块，用于根据所述至少两个候选块的位置，在所述参考帧图像中确定搜索范围；

最优块搜索模块，用于在所述搜索范围内搜索所述待匹配块的全局最优块，通过所述全局最优块得到所述待匹配块的最优运动矢量；

所述最优块搜索模块，被配置为：

根据所述搜索范围的尺寸确定当前搜索步长；

在所述搜索范围内，以所述当前搜索步长搜索得到多个新候选块；

如果所述当前搜索步长大于单位步长，则在所述新候选块中选取与所述待匹配块误差最小的至少两个新候选块；

根据所述至少两个新候选块的位置，在所述参考帧图像中确定下一级的搜索范围，并跳转至根据所述搜索范围的尺寸确定当前搜索步长的步骤；

如果所述当前搜索步长为单位步长，则将与所述待匹配块误差最小的所述新候选块，确定为所述待匹配块的全局最优块。

8.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现权利要求1至6任一项所述的方法。

9.一种电子设备，其特征在于，包括：

处理器；以及

存储器，用于存储所述处理器的可执行指令；

其中，所述处理器配置为经由执行所述可执行指令来执行权利要求1至6任一项所述的方法。

Images