CN110062161B - 图像处理器、图像处理方法、拍摄装置和电子设备 - Google Patents
图像处理器、图像处理方法、拍摄装置和电子设备 Download PDFInfo
- Publication number
- CN110062161B CN110062161B CN201910285809.6A CN201910285809A CN110062161B CN 110062161 B CN110062161 B CN 110062161B CN 201910285809 A CN201910285809 A CN 201910285809A CN 110062161 B CN110062161 B CN 110062161B
- Authority
- CN
- China
- Prior art keywords
- module
- processing
- algorithm
- post
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/50—Constructional details
- H04N23/54—Mounting of pick-up tubes, electronic image sensors, deviation or focusing coils
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
- H04N23/81—Camera processing pipelines; Components thereof for suppressing or minimising disturbance in the image signal generation
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Studio Devices (AREA)
Abstract
本申请公开了一种图像处理器、图像处理方法、拍摄装置和电子设备。图像处理器包括硬件抽象模块和算法后处理模块。硬件抽象模块用于传输图像数据和与图像数据对应的元数据。算法后处理模块与硬件抽象模块连接,算法后处理模块内存储有至少一种图像处理算法,算法后处理模块用于采用图像处理算法并根据元数据处理图像数据以实现拍照后处理。本申请实施方式的图像处理器、图像处理方法、拍摄装置和电子设备中,硬件抽象模块不对图像数据进行拍照后处理,对图像数据进行拍照后处理可由算法后处理模块实现,拍照后处理的图像处理算法无需在硬件抽象模块本身的算法架构上做流程截断,只需在外部做兼容,设计难度减小。
Description
技术领域
本申请涉及图像处理技术领域,更具体而言,涉及一种图像处理器、图像处理方法、拍摄装置和电子设备。
背景技术
目前,拍照后处理,例如美颜处理、滤镜处理、旋转处理、水印处理、虚化处理、高动态范围(High-Dynamic Range,HDR)处理、及多帧处理等都是在硬件抽象模块(HardwareAbstract Layer,HAL)中处理,其中,硬件抽象模块通常是由一家厂商提供,进行拍照后处理的图像处理算法则由另一家厂商提供,二者在做兼容设计时,图像处理算法要在硬件抽象模块本身的算法架构上做流程截断,二者耦合导致设计难度大。
发明内容
本申请实施方式提供一种图像处理器、图像处理方法、拍摄装置和电子设备。
本申请实施方式的图像处理器包括硬件抽象模块和算法后处理模块。所述硬件抽象模块用于传输图像数据和与所述图像数据对应的元数据。所述算法后处理模块与所述硬件抽象模块连接,所述算法后处理模块内存储有至少一种图像处理算法,所述算法后处理模块用于采用所述图像处理算法并根据所述元数据处理所述图像数据以实现拍照后处理。
本申请实施方式的图像处理方法包括:硬件抽象模块传输图像数据和与所述图像数据对应的元数据;及算法后处理模块采用图像处理算法并根据所述元数据处理所述图像数据以实现拍照后处理。
本申请实施方式的拍摄装置包括上述图像处理器及图像传感器,所述图像传感器与所述图像处理器连接。
本申请实施方式的电子设备包括上述拍摄装置及壳体,所述拍摄装置与所述壳体结合。
本申请实施方式的图像处理器、图像处理方法、拍摄装置和电子设备中,硬件抽象模块不对图像数据进行拍照后处理,对图像数据进行拍照后处理可由算法后处理模块实现,拍照后处理的图像处理算法无需在硬件抽象模块本身的算法架构上做流程截断,只需在外部做兼容,设计难度减小。
本申请的实施方式的附加方面和优点将在下面的描述中部分给出,部分将从下面的描述中变得明显,或通过本申请的实施方式的实践了解到。
附图说明
本申请的上述和/或附加的方面和优点从结合下面附图对实施方式的描述中将变得明显和容易理解,其中:
图1和图2是本申请某些实施方式的拍摄装置的示意图;
图3是本申请某些实施方式的算法后处理模块的示意图;
图4是本申请某些实施方式的拍摄装置的示意图;
图5和图6是本申请某些实施方式的电子设备的结构示意图;
图7至图12是本申请某些实施方式的图像处理方法的流程示意图。
具体实施方式
下面详细描述本申请的实施方式,实施方式的示例在附图中示出,相同或类似的标号自始至终表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施方式是示例性的,仅用于解释本申请,而不能理解为对本申请的限制。
下文的公开提供了许多不同的实施方式或例子用来实现本申请的实施方式的不同结构。为了简化本申请的实施方式的公开,下文中对特定例子的部件和设置进行描述。当然,它们仅仅为示例,并且目的不在于限制本申请。
请参阅图1,拍摄装置100包括图像处理器10和图像传感器20。图像处理器10和图像传感器20连接。图像传感器20包括图像采集单元(sensor)22和RAW图像数据单元(ImageFront-end,IFE)24,图像采集单元22用于接收光线以采集获得RAW图像,RAW图像数据单元24用于将图像采集单元22采集的RAW图像传输至图像处理器10,其中,RAW图像数据单元24可以对图像采集单元22采集获得的RAW图像进行处理并输出处理后的RAW图像至图像处理器10。
图像处理器10包括硬件抽象模块12和算法后处理模块(Algo process service,APS)16。
硬件抽象模块12用于传输图像数据和与图像数据对应的元数据(metadata)。其中,图像数据可以包括RAW图像和/或YUV图像。具体地,硬件抽象模块12可以用于接收RAW图像、将RAW图像转换为YUV图像、及传输RAW图像和/或YUV图像。硬件抽象模块12可以与图像传感器20连接。硬件抽象模块12可以包括与图像传感器20连接的缓存单元(buffer queue)122、RAW转RGB处理单元(Bayer Process Segment,BPS)124和与应用程序模块14连接的降噪及YUV后处理单元(Image Process Engine,IPE)126。缓存单元122用于缓存来自图像传感器20的RAW图像并传输给算法后处理模块16。RAW转RGB处理单元124用于将来自缓存单元122的RAW图像转换为RGB图像。降噪及YUV后处理单元126用于处理RGB图像得到YUV图像并将YUV图像传输给算法后处理模块16。元数据包括3a(自动曝光控制AE、自动聚焦控制AF、自动白平衡控制AWB)信息、图片信息(例如图像宽度、高度)、曝光参数(光圈大小、快门速度和感光度光圈值)等,可以利用元数据辅助实现对RAW图像和/或YUV图像的拍照后处理(例如包括美颜处理、滤镜处理、旋转处理、水印处理、虚化处理、HDR处理、及多帧处理中的至少一种)。在一个实施例中,元数据包括感光度(ISO)信息,根据感光度信息可以辅助调节RAW图像和/或YUV图像的亮度,从而实现与调节亮度相关的拍照后处理。
由于硬件抽象模块12不对图像数据进行拍照后处理,拍照后处理的图像处理算法无需在硬件抽象模块12本身的算法架构上做流程截断,只需在外部做兼容,设计难度减小。
在相关技术中,应用程序接口(API)将硬件抽象模块建立成管道(pipeline)的方式,由于管道的创建需要大量的时间和内存,因此在相机启动时需要将相机对应的工作模式用到的所有管道均先创建好,而为了实现各种图像处理算法,一般需要创建大量管道(例如超过三条管道),这会导致相机的启动需要耗费大量的时间,并且占用大量的内存。本申请实施方式的硬件抽象模块12不对RAW图像和/或YUV图像进行拍照后处理,因此,硬件抽象模块12只需建立少量(例如一条或两条)管道即可,无需建立大量的管道,从而能够节约内存,并且可以使得相机的启动速度变快。
算法后处理模块16与硬件抽象模块12连接,算法后处理模块16内存储有至少一种图像处理算法(例如包括美颜处理算法、滤镜处理算法、旋转处理算法、水印处理算法、虚化处理算法、HDR处理算法、及多帧处理算法中的至少一种),算法后处理模块16用于采用图像处理算法并根据元数据处理图像数据(RAW图像和/或YUV图像)以实现拍照后处理。由于对RAW图像和/或YUV图像进行拍照后处理可由算法后处理模块16实现,从而无需在硬件抽象模块12本身的算法架构上做流程截断,只需在外部做兼容,设计难度减小。并且由于拍照后处理由算法后处理模块16实现,因此算法后处理模块16的功能更单一、更聚焦,从而可以达到移植快,扩展新的图像处理算法简单等效果。
在算法后处理模块16只处理RAW图像(例如图像处理算法针对RAW图像进行处理)时,硬件抽象模块12可以只传输RAW图像(此时可以不需要将RAW图像转换为YUV图像);在算法后处理模块16只处理YUV图像(例如图像处理算法针对YUV图像进行处理)时,硬件抽象模块12可以只传输YUV图像;在算法后处理模块16处理RAW图像和YUV图像时,硬件抽象模块12可以传输RAW图像和YUV图像。
图像处理器10还包括应用程序模块(APP)14。应用程序模块14用于分别连接硬件抽象模块12和算法后处理模块16。本申请实施方式的图像处理器10中,硬件抽象模块12将图像数据和元数据传输至算法后处理模块16时,不需要通过应用程序模块14,使得数据传输更加实时和高效,因此,能够在单位时间内传输更多帧的图像数据,从而可以使得图像预览和录像等功能(需要较高帧率的功能)也无需在硬件抽象模块12本身的算法架构上做流程截断,可以采用算法后处理模块16进行拍照后处理以实现图像预览和录像等功能,进而便于通过图像预览和录像实现场景检测、视频防抖等效果。
在某些实施方式中,图像处理器10还包括相机服务模块18,算法后处理模块16通过相机服务模块18与硬件抽象模块12连接。相机服务模块18对图像数据和元数据进行封装并将封装后的图像数据和元数据传输至算法后处理模块16。如此,通过相机服务模块18对图像进行封装,可以提高图像传输的效率,并且能够提高图像传输的安全性。具体地,可以在相机服务模块18的进程中创建两个队列,其中一个是图像数据队列,另一个是元数据队列,通过两个队列将图像数据和同一帧的元数据传输至算法后处理模块16。算法后处理模块16也同样存在两个对应的队列,在相机启动后就创建这两个队列并用于分别存储图像数据和元数据。另外,应用程序模块14也可以建立接收队列,接收队列用于接收算法后处理模块16处理后的图像数据。
应用程序模块14可以通过相机服务模块18与硬件抽象模块12连接,即应用程序模块14可以与相机服务模块18连接。应用程序模块14可以用于向相机服务模块18发起数据请求。具体地,应用程序模块14可以用于根据用户的输入产生数据请求并将该数据请求通过相机服务模块18发送给硬件抽象模块12,硬件抽象模块12再将数据请求发送给图像传感器20,从而以对图像传感器20的工作进行相应的控制。图像传感器20产生与数据请求相对应的RAW图像和元数据后,将RAW图像和元数据传输至硬件抽象模块12,硬件抽象模块12再根据数据请求传输对应的图像数据(RAW图像和/或YUV图像)和元数据至相机服务模块18,相机服务模块18根据数据请求对图像数据和元数据进行封装并将封装后的图像数据和元数据传输至算法后处理模块16。其中,应用程序模块14可以以64比特位(bit)运行,并且拍照后处理的图像处理算法的静态数据连接库(lib)可以配置为64比特位,以提高运算速度。相机服务模块18还可以用于向应用程序模块14反馈数据请求的结果。
在某些实施方式中,相机服务模块18可以根据感光度信息、陀螺仪的抖动情况、AR场景检测结果(检测场景类型,例如人物、动物、风景等)等向应用程序模块14发送帧数建议,例如,当陀螺仪检测到的抖动较大时,相机服务模块18向应用程序模块14发送的帧数建议可以是:建议较多帧,以更好地实现拍照后处理;当陀螺仪检测到的抖动较小时,相机服务模块18向应用程序模块14发送的帧数建议可以是:建议较少帧,以减少数据传输量。也即是说,相机服务模块18向应用程序模块14建议的帧数可以与陀螺仪检测到的抖动程度正相关。相机服务模块18还可以根据感光度信息、陀螺仪的抖动情况、AR场景检测结果等向应用程序模块14发送算法建议,例如,当陀螺仪检测到的抖动较大时,相机服务模块18向应用程序模块14发送的算法建议可以是多帧处理,以根据多帧处理消除抖动;当AR场景检测结果检测的场景类型为人物时,相机服务模块18向应用程序模块14发送的算法建议可以是美颜处理,以对人物进行美颜;当AR场景检测结果检测的场景类型为风景时,相机服务模块18向应用程序模块14发送的算法建议可以是HDR处理,以形成高动态范围的风景图像。应用程序模块14根据帧数建议和算法建议向相机服务模块18发出数据请求。当然,也可以是硬件抽象模块12根据感光度信息、陀螺仪的抖动情况、AR场景检测结果获得帧数建议和/或算法建议,再将帧数建议和/或算法建议通过相机服务模块18传输至应用程序模块14。
请参阅图2,应用程序模块14包括算法后处理客户端142,算法后处理模块16将处理后的图像数据传输至算法后处理客户端142。算法后处理模块16可以用于对经过算法后处理模块16处理后的图像数据进行进一步的拍照后处理,例如算法后处理模块16进行一些拍照后处理(例如HDR处理、多帧处理等),算法后处理客户端142进行另外一些拍照后处理(例如美颜处理、滤镜处理、旋转处理、水印处理、虚化处理等),在算法后处理客户端142对图像数据进行拍照后处理后,可以将图像数据传输至显示模块(SurfaceFlinger)30进行显示。当然,在算法后处理客户端142不需要对图像进行拍照后处理时,算法后处理客户端142也可以直接将经过算法后处理模块16处理后的图像数据传输至显示模块30进行显示。在图像数据为动态图像(例如视频)时,显示模块30包括视频编码单元(media server)32,视频编码单元32用于对图像数据进行编码以形成视频。
若是在算法后处理模块16进行一些拍照后处理(例如HDR处理、多帧处理等),算法后处理客户端142进行另外一些拍照后处理(例如美颜处理、滤镜处理、旋转处理、水印处理、虚化处理等),算法后处理客户端142内也可存储有至少一种图像处理算法(例如包括美颜处理算法、滤镜处理算法、旋转处理算法、水印处理算法、虚化处理算法、HDR处理算法、及多帧处理算法中的至少一种),算法后处理客户端142还用于采用图像处理算法处理图像数据以实现拍照后处理。由于对图像数据进行拍照后处理由算法后处理客户端142与算法后处理模块16实现,从而无需在硬件抽象模块12本身的算法架构上做流程截断,只需在外部做兼容,设计难度同样也是大大减小。
为了便于用户使用算法后处理模块16中的图像处理算法,可以将算法后处理客户端142做成一个软件开发工具包(SDK),从而便于第三方开发。
应用程序模块14和算法后处理模块16之间通信的数据除了图像数据外,还可以包括元数据、交互信息、图像内容等。例如用户点击了应用程序模块14的显示界面的某个区域,应用程序模块14可以将该区域的位置、被点击的方式(比如单击或者双击)等交互信息传输至算法后处理模块16,从而算法后处理模块16可以根据该交互信息进行运行。又例如算法后处理模块16通过处理图像数据获得图像内容(例如检测到人脸),则可以将图像数据中存在人脸的信息传输给应用程序模块14,从而应用程序模块14可以将信息告知用户(例如通过显示界面显示“存在人脸”)。
在某些实施方式中,算法后处理模块16可以直接将处理后的图像数据传输至显示模块30进行显示。具体地,应用程序模块14可以发送控制指令给算法后处理模块16,算法后处理模块16根据控制指令选择是直接将处理后的图像数据传输至显示模块30进行显示、或是将处理后的图像数据传输至应用程序模块14。如此,算法后处理模块16对图像数据的传输方式更加多样化。
图像传感器20进行一次拍摄(曝光成像)后,将RAW图像传输给硬件抽象模块12,在算法后处理模块16接收到与RAW对应的图像数据(RAW图像和/或YUV图像)后,图像传感器20能够进行下一次拍摄、或图像传感器20能够关闭、或应用程序模块14能够关闭、或应用程序模块14能够退出应用界面。由于拍照后处理由算法后处理模块16实现,因此在将拍摄数据传输给算法后处理模块16后,只需要算法后处理模块16就可实现拍照后处理,此时图像传感器20和应用程序模块14可以不参与拍照后处理,因此,图像传感器20能够关闭或执行下一次拍摄,应用程序模块14能够关闭或退出应用界面。如此,拍摄装置100能够实现快拍,并且在算法后处理模块16进行拍照后处理时可以关闭应用程序模块14或退出应用程序界面,从而在电子设备上进行一些其他操作(例如与拍摄装置100无关的操作,比如浏览网页、看视频、打电话等),从而用户无需花费大量的时间等待拍照后处理的完成,便于用户使用电子设备。
算法后处理模块16可以包括编码单元162,编码单元162用于将YUV图像转换为JPG图像(或者JPEG图像等)。具体地,在算法后处理模块14处理的是YUV图像时,编码单元162可以直接对YUV图像进行编码以形成JPG图像,从而提高图像的输出速度。在算法后处理模块14处理的是RAW图像时,算法后处理模块14可以将处理实现拍照后处理的RAW图像经应用程序模块14回传至相机服务模块18,再由相机服务模块18回传至硬件抽象模块12,例如回传至RAW转RGB处理单元124,RAW转RGB处理单元124可以用于将算法后处理模块14处理实现拍照后处理并经应用程序模块14回传的RAW图像转换为RGB图像,降噪及YUV后处理单元126可以将RGB图像转换为YUV图像,该YUV图像可以再次传输至算法后处理模块16的编码单元162中以将该YUV图像转换为JPG图像。在某些实施方式中,算法后处理模块14也可以将处理实现拍照后处理的RAW图像经应用程序模块14回传至相机服务模块18,再由相机服务模块18回传至缓存单元122,回传的RAW图像经过RAW转RGB处理单元124和降噪及YUV后处理单元126形成YUV图像,再传输至编码单元162以形成JPG图像。另外,算法后处理模块14还可以直接将处理实现拍照后处理的RAW图像经相机服务模块18(不经过应用程序模块14)回传至硬件抽象模块12。在形成JPG图像后,算法后处理模块16可以用于将JPG图像传输至存储器中保存。
请参阅图3,算法后处理模块16包括逻辑处理调用层164、算法模块接口层166和算法处理层168。逻辑处理调用层164用于与应用程序模块14通信。算法模块接口层166用于维护算法接口。算法处理层168包括至少一种图像处理算法。算法模块接口层166用于通过算法接口对算法处理层168的图像处理算法进行注册、注销、调用和回调中的至少一种操作。
逻辑处理调用层164可以包括线程队列,算法后处理模块16接收到RAW图像和/或YUV图像的拍照后处理任务后,可以将拍照后处理任务缓存在线程队列中处理,其中,线程队列可以缓存多个拍照后处理任务,如此,可以通过逻辑处理调用层164实现快拍(即快拍机制)。另外,逻辑处理调用层164也可以接收应用程序模块14发送的初始化(init)、进程(process)等指令,并将对应的指令和数据保存到线程队列中。逻辑处理调用层164根据线程队列中的任务进行具体逻辑的调用(即具体逻辑调用组合)。逻辑处理调用层164还可以将处理获得的缩略图(thumbnail)回传给应用程序模块14进行显示(即缩略图回显)。在本申请的实施方式的描述中,“多个”的含义是两个或两个以上,除非另有明确具体的限定。
算法模块接口层166用于调用算法接口,调用命令也可以保存到线程队列中,算法处理层168在接收到线程队列的调用命令时,即可解析调用命令的参数获得需要调用的图像处理算法。算法模块接口层166对图像处理算法进行注册时,可以在算法处理层168中新增一种图像处理算法;算法模块接口层166对图像处理算法进行注销时,可以删除算法处理层168中一种图像处理算法;算法模块接口层166对图像处理算法进行调用时,可以调用算法处理层168中一种图像处理算法;算法模块接口层166对图像处理算法进行回调时,可以将算法处理后的数据和状态回传给应用程序模块14。其中,可以采用统一接口实现图像处理算法的注册、注销、调用、回调等操作。算法处理层168中的每一种图像处理算法都是独立的,如此可以方便对图像处理算法实现注册、注销、调用、回调等操作。
请参阅图4,在某些实施方式中,硬件抽象模块12与算法后处理模块16直接连接,硬件抽象模块12直接将图像数据和元数据传输至算法后处理模块16。如此,能够以最短的传输路径传输图像数据和元数据,从而保证数据传输的实时性和高效性。此时,应用程序模块14可以与硬件抽象模块12直接连接。在图像处理器10不包括相机服务模块18时,图像处理器10中的数据(图像数据、元数据等)传输的路径可以进行适应性调整,即硬件抽象模块12与算法后处理模块16可以直接通信,硬件抽象模块12与应用程序模块14也可以直接通信。例如硬件抽象模块12直接将图像数据和元数据传输至算法后处理模块16。又例如硬件抽象模块12直接将帧数建议和/或算法建议发送给应用程序模块14,应用程序模块14直接将数据请求发送至硬件抽象模块12。又例如硬件抽象模块还可以用于向应用程序模块14反馈数据请求的结果。
请结合图2,硬件抽象模块12和算法后处理模块16可以设置在用户(vendor)分区,应用程序模块14、相机服务模块18和显示模块30可以设置在系统(system)分区。其中,用户分区和系统分区可以是指存储元件的分区。由于算法后处理模块16设置在用户分区,因此能够使得系统分区不做大的改动和变化,并且在系统分区中的模块(例如应用程序模块14、相机服务模块18或显示模块30等)进行升级或其他变动时,算法后处理模块16不会影响升级的正常进行,升级后的模块也不会对算法后处理模块16造成干扰。在硬件抽象模块12直接将图像数据和元数据传输至算法后处理模块16时,由于硬件抽象模块12和算法后处理模块16设置在同一分区,因此通信相对方便,能够提高数据传输的效率。
请参阅图5和图6,电子设备1000包括上述任意一种实施方式的拍摄装置100和壳体200,拍摄装置100与壳体200结合。壳体200可以作为电子设备1000的功能元件的安装载体。壳体200可以为功能元件提供防尘、防摔、防水等保护,功能元件可以是显示屏、拍摄装置100、受话器等。其中,在一个实施方式中,壳体200包括主体210和可动支架220,可动支架220在驱动装置的驱动下可以相对于主体210运动,例如可动支架220可以相对于主210体滑动,以滑入主体210(例如图5的状态)或从主体210滑出(例如图6的状态)。部分功能元件可以安装在主体210上,另一部分功能元件(例如拍摄装置100)可以安装在可动支架220上,可动支架220运动可带动该另一部分功能元件缩回主体210内或从主体210中伸出。在另一个实施方式中,壳体200上开设有采集窗口,拍摄装置100与采集窗口对准安装以使拍摄装置100能够通过采集窗口接收外界光线以形成图像。
在本申请的实施方式的描述中,需要说明的是,除非另有明确的规定和限定,术语“安装”应做广义理解,例如,可以是固定连接,也可以是可拆卸连接,或一体地连接;可以是机械连接,也可以是电连接或可以相互通讯;可以是直接相连,也可以通过中间媒介间接相连,可以是两个元件内部的连通或两个元件的相互作用关系。对于本领域的普通技术人员而言,可以根据具体情况理解上述术语在本申请的实施方式中的具体含义。
请参阅图1和图7,图像处理方法包括:
01:硬件抽象模块12传输图像数据和与图像数据对应的元数据;及
02:算法后处理模块16采用图像处理算法并根据元数据处理图像数据以实现拍照后处理。
本发明实施方式的图像处理方法可以用于本发明实施方式的图像处理器10,或者说,本发明实施方式的图像处理方法可以由本发明实施方式的图像处理器10实现,其中,步骤01可以由硬件抽象模块12实现,步骤02可以由算法后处理模块16实现。
请参阅图1和图8,图像处理方法还包括:
03:相机服务模块18对图像数据和元数据进行封装并将封装后的图像数据和元数据传输至算法后处理模块16。
其中,步骤03可以由相机服务模块18实现。
请参阅图1和图9,图像处理方法还包括:
04:应用程序模块14向相机服务模块18发起数据请求;
步骤03包括:
032:相机服务模块18根据数据请求对图像数据和元数据进行封装并将封装后的图像数据和元数据传输至算法后处理模块16。
其中,步骤04可以由应用程序模块14实现,步骤032可以由相机服务模块18实现。
请参阅图1和图10,图像处理方法还包括:
05:算法后处理模块16将处理后的图像数据传输至算法后处理客户端142;
06:算法后处理客户端142对处理后的图像数据进行处理。
其中,步骤05可以由算法后处理模块16实现,步骤06可以由算法后处理客户端142实现。
请参阅图2和图11,图像处理方法还包括:
05:算法后处理模块16将处理后的图像数据传输至算法后处理客户端142;
07:算法后处理客户端142将处理后的图像数据传输至显示模块30进行显示。
其中,步骤05可以由算法后处理模块16实现,步骤07可以由算法后处理客户端142实现。
请参阅图2和图12,图像处理方法还包括:
08:算法后处理模块16将处理后的图像数据传输至显示模块30进行显示。
其中,步骤08可以由算法后处理模块16实现。
上述实施方式中对图像处理器10的解释,也适用于本发明实施方式的图像处理方法,在此不再赘述。
流程图中或在此以其他方式描述的任何过程或方法描述可以被理解为,表示包括一个或更多个用于实现特定逻辑功能或过程的步骤的可执行指令的代码的模块、片段或部分,并且本申请的优选实施方式的范围包括另外的实现,其中可以不按所示出或讨论的顺序,包括根据所涉及的功能按基本同时的方式或按相反的顺序,来执行功能,这应被本申请的实施例所属技术领域的技术人员所理解。
在流程图中表示或在此以其他方式描述的逻辑和/或步骤,例如,可以被认为是用于实现逻辑功能的可执行指令的定序列表,可以具体实现在任何计算机可读介质中,以供指令执行系统、装置或设备(如基于计算机的系统、包括处理模块的系统或其他可以从指令执行系统、装置或设备取指令并执行指令的系统)使用,或结合这些指令执行系统、装置或设备而使用。就本说明书而言,"计算机可读介质"可以是任何可以包含、存储、通信、传播或传输程序以供指令执行系统、装置或设备或结合这些指令执行系统、装置或设备而使用的装置。计算机可读介质的更具体的示例(非穷尽性列表)包括以下:具有一个或多个布线的电连接部(控制方法),便携式计算机盘盒(磁装置),随机存取存储器(RAM),只读存储器(ROM),可擦除可编辑只读存储器(EPROM或闪速存储器),光纤装置,以及便携式光盘只读存储器(CDROM)。另外,计算机可读介质甚至可以是可在其上打印所述程序的纸或其他合适的介质,因为可以例如通过对纸或其他介质进行光学扫描,接着进行编辑、解译或必要时以其他合适方式进行处理来以电子方式获得所述程序,然后将其存储在计算机存储器中。
应当理解,本申请的实施方式的各部分可以用硬件、软件、固件或它们的组合来实现。在上述实施方式中,多个步骤或方法可以用存储在存储器中且由合适的指令执行系统执行的软件或固件来实现。例如,如果用硬件来实现,和在另一实施方式中一样,可用本领域公知的下列技术中的任一项或他们的组合来实现:具有用于对数据信号实现逻辑功能的逻辑门电路的离散逻辑电路,具有合适的组合逻辑门电路的专用集成电路,可编程门阵列(PGA),现场可编程门阵列(FPGA)等。
本技术领域的普通技术人员可以理解实现上述实施例方法携带的全部或部分步骤是可以通过程序来指令相关的硬件完成,所述的程序可以存储于一种计算机可读存储介质中,该程序在执行时,包括方法实施例的步骤之一或其组合。
此外,在本申请的各个实施例中的各功能单元可以集成在一个处理模块中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个模块中。上述集成的模块既可以采用硬件的形式实现,也可以采用软件功能模块的形式实现。所述集成的模块如果以软件功能模块的形式实现并作为独立的产品销售或使用时,也可以存储在一个计算机可读取存储介质中。
上述提到的存储介质可以是只读存储器,磁盘或光盘等。
在本说明书的描述中,参考术语“某些实施方式”等的描述意指结合所述实施方式或示例描述的具体特征、结构或者特点包含于本申请的至少一个实施方式中。在本说明书中,对上述术语的示意性表述不一定指的是相同的实施方式。而且,描述的具体特征、结构或者特点可以在任何的一个或多个实施方式中以合适的方式结合。
尽管上面已经示出和描述了本申请的实施方式,可以理解的是,上述实施方式是示例性的,不能理解为对本申请的限制,本领域的普通技术人员在本申请的范围内可以对上述实施方式进行变化、修改、替换和变型。
Claims (11)
1.一种图像处理器,其特征在于,所述图像处理器包括:
硬件抽象模块,所述硬件抽象模块用于传输图像数据和与所述图像数据对应的元数据;及
算法后处理模块,所述算法后处理模块与所述硬件抽象模块连接,所述算法后处理模块内存储有至少一种图像处理算法,所述算法后处理模块用于采用所述图像处理算法并根据所述元数据处理所述图像数据以实现拍照后处理;
所述图像处理器还包括应用程序模块,所述应用程序模块用于分别连接所述硬件抽象模块和所述算法后处理模块;所述硬件抽象模块将所述图像数据和所述元数据传输至所述算法后处理模块时,不通过所述应用程序模块;
所述图像处理器还包括相机服务模块,所述算法后处理模块通过所述相机服务模块与所述硬件抽象模块连接,所述相机服务模块用于对所述图像数据和所述元数据进行封装并将封装后的所述图像数据和所述元数据传输至所述算法后处理模块。
2.根据权利要求1所述的图像处理器,其特征在于,所述应用程序模块与所述相机服务模块连接,所述应用程序模块用于向所述相机服务模块发起数据请求,所述相机服务模块用于根据所述数据请求对所述图像数据和所述元数据进行封装并将封装后的所述图像数据和所述元数据传输至所述算法后处理模块。
3.根据权利要求1所述的图像处理器,其特征在于,所述应用程序模块包括算法后处理客户端,所述算法后处理模块用于将处理后的所述图像数据传输至所述算法后处理客户端;
所述算法后处理客户端用于对处理后的所述图像数据进行处理,或所述算法后处理客户端用于将处理后的所述图像数据传输至显示模块进行显示。
4.根据权利要求1所述的图像处理器,其特征在于,所述硬件抽象模块和所述算法后处理模块设置在用户分区。
5.根据权利要求1所述的图像处理器,其特征在于,所述算法后处理模块用于将处理后的所述图像数据传输至显示模块进行显示。
6.一种图像处理方法,其特征在于,所述图像处理方法包括:
硬件抽象模块传输图像数据和与所述图像数据对应的元数据;及
算法后处理模块采用图像处理算法并根据所述元数据处理所述图像数据以实现拍照后处理;所述硬件抽象模块将所述图像数据和所述元数据传输至所述算法后处理模块时,不通过应用程序模块;
所述图像处理方法还包括:
相机服务模块对所述图像数据和所述元数据进行封装并将封装后的所述图像数据和所述元数据传输至算法后处理模块。
7.根据权利要求6所述的图像处理方法,其特征在于,所述图像处理方法还包括:
应用程序模块向所述相机服务模块发起数据请求;
所述相机服务模块对所述图像数据和所述元数据进行封装并将封装后的所述图像数据和所述元数据传输至算法后处理模块的步骤,包括:
所述相机服务模块根据所述数据请求对所述图像数据和所述元数据进行封装并将封装后的所述图像数据和所述元数据传输至所述算法后处理模块。
8.根据权利要求6所述的图像处理方法,其特征在于,所述图像处理方法还包括:
所述算法后处理模块将处理后的所述图像数据传输至算法后处理客户端;
所述算法后处理客户端对处理后的所述图像数据进行处理,或所述算法后处理客户端将处理后的所述图像数据传输至显示模块进行显示。
9.根据权利要求6所述的图像处理方法,其特征在于,所述图像处理方法还包括:
所述算法后处理模块将处理后的所述图像数据传输至显示模块进行显示。
10.一种拍摄装置,其特征在于,所述拍摄装置包括:
权利要求1至5中任意一项所述的图像处理器;及
图像传感器,所述图像传感器与所述图像处理器连接。
11.一种电子设备,其特征在于,所述电子设备包括:
权利要求10所述的拍摄装置;及
壳体,所述拍摄装置与所述壳体结合。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910285809.6A CN110062161B (zh) | 2019-04-10 | 2019-04-10 | 图像处理器、图像处理方法、拍摄装置和电子设备 |
PCT/CN2020/079327 WO2020207192A1 (zh) | 2019-04-10 | 2020-03-13 | 图像处理器、图像处理方法、拍摄装置和电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910285809.6A CN110062161B (zh) | 2019-04-10 | 2019-04-10 | 图像处理器、图像处理方法、拍摄装置和电子设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110062161A CN110062161A (zh) | 2019-07-26 |
CN110062161B true CN110062161B (zh) | 2021-06-25 |
Family
ID=67317535
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910285809.6A Active CN110062161B (zh) | 2019-04-10 | 2019-04-10 | 图像处理器、图像处理方法、拍摄装置和电子设备 |
Country Status (2)
Country | Link |
---|---|
CN (1) | CN110062161B (zh) |
WO (1) | WO2020207192A1 (zh) |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110062161B (zh) * | 2019-04-10 | 2021-06-25 | Oppo广东移动通信有限公司 | 图像处理器、图像处理方法、拍摄装置和电子设备 |
CN109963083B (zh) | 2019-04-10 | 2021-09-24 | Oppo广东移动通信有限公司 | 图像处理器、图像处理方法、拍摄装置和电子设备 |
CN110602359B (zh) * | 2019-09-02 | 2022-01-18 | Oppo广东移动通信有限公司 | 图像处理方法、图像处理器、拍摄装置和电子设备 |
CN111314606B (zh) * | 2020-02-21 | 2021-06-18 | Oppo广东移动通信有限公司 | 拍照方法、装置、电子设备及存储介质 |
CN113645409B (zh) * | 2021-08-16 | 2022-08-19 | 展讯通信(上海)有限公司 | 拍照处理方法及装置、拍照方法、装置及系统、终端设备 |
CN113840091B (zh) * | 2021-10-29 | 2023-07-18 | Oppo广东移动通信有限公司 | 图像处理方法、装置、电子设备和计算机可读存储介质 |
Family Cites Families (29)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8392497B2 (en) * | 2009-11-25 | 2013-03-05 | Framehawk, LLC | Systems and algorithm for interfacing with a virtualized computing service over a network using a lightweight client |
JP6136086B2 (ja) * | 2011-12-28 | 2017-05-31 | ソニー株式会社 | 撮像装置および画像処理装置 |
CN102769740A (zh) * | 2012-07-02 | 2012-11-07 | 北京百纳威尔科技有限公司 | 移动终端、远程视频监控方法 |
WO2015088212A1 (en) * | 2013-12-09 | 2015-06-18 | Samsung Electronics Co., Ltd. | Digital photographing apparatus capable of reconfiguring image signal processor and method of controlling the same |
KR102149448B1 (ko) * | 2014-02-21 | 2020-08-28 | 삼성전자주식회사 | 이미지를 처리하기 위한 전자 장치 및 방법 |
US9591195B2 (en) * | 2014-07-10 | 2017-03-07 | Intel Corporation | Platform architecture for accelerated camera control algorithms |
WO2016149894A1 (en) * | 2015-03-23 | 2016-09-29 | Intel Corporation | Workload scheduler for computing devices with camera |
CN105516423A (zh) * | 2015-12-24 | 2016-04-20 | 努比亚技术有限公司 | 移动终端、数据传输系统及移动终端拍摄方法 |
CN105979235A (zh) * | 2016-05-30 | 2016-09-28 | 努比亚技术有限公司 | 一种图像处理方法及终端 |
KR102688614B1 (ko) * | 2016-09-30 | 2024-07-26 | 삼성전자주식회사 | 이미지 처리 방법 및 이를 지원하는 전자 장치 |
CN107066400A (zh) * | 2016-12-13 | 2017-08-18 | 深圳众思科技有限公司 | 电子设备的信号处理方法、装置及电子设备 |
CN107222686A (zh) * | 2017-06-30 | 2017-09-29 | 维沃移动通信有限公司 | 一种图像数据的处理方法和装置 |
CN108495043B (zh) * | 2018-04-28 | 2020-08-07 | Oppo广东移动通信有限公司 | 图像数据处理方法及相关装置 |
CN108965732B (zh) * | 2018-08-22 | 2020-04-14 | Oppo广东移动通信有限公司 | 图像处理方法、装置、计算机可读存储介质和电子设备 |
CN109040591B (zh) * | 2018-08-22 | 2020-08-04 | Oppo广东移动通信有限公司 | 图像处理方法、装置、计算机可读存储介质和电子设备 |
CN109101352B (zh) * | 2018-08-30 | 2021-08-06 | Oppo广东移动通信有限公司 | 图像处理算法架构、算法调用方法、装置、存储介质及移动终端 |
CN109167915A (zh) * | 2018-09-29 | 2019-01-08 | 南昌黑鲨科技有限公司 | 图像处理方法、系统及计算机可读存储介质 |
CN109167916A (zh) * | 2018-09-29 | 2019-01-08 | 南昌黑鲨科技有限公司 | 智能终端、图像处理方法及计算机可读存储介质 |
CN109963083B (zh) * | 2019-04-10 | 2021-09-24 | Oppo广东移动通信有限公司 | 图像处理器、图像处理方法、拍摄装置和电子设备 |
CN110062161B (zh) * | 2019-04-10 | 2021-06-25 | Oppo广东移动通信有限公司 | 图像处理器、图像处理方法、拍摄装置和电子设备 |
CN110086967B (zh) * | 2019-04-10 | 2021-02-05 | Oppo广东移动通信有限公司 | 图像处理方法、图像处理器、拍摄装置和电子设备 |
CN110290288B (zh) * | 2019-06-03 | 2022-01-04 | Oppo广东移动通信有限公司 | 图像处理器、图像处理方法、拍摄装置和电子设备 |
CN110278373A (zh) * | 2019-06-26 | 2019-09-24 | Oppo广东移动通信有限公司 | 图像处理器、图像处理方法、拍摄装置和电子设备 |
CN110276718A (zh) * | 2019-06-28 | 2019-09-24 | Oppo广东移动通信有限公司 | 图像处理方法、图像处理器、拍摄装置和电子设备 |
CN110177214B (zh) * | 2019-06-28 | 2021-09-24 | Oppo广东移动通信有限公司 | 图像处理器、图像处理方法、拍照装置及电子设备 |
CN110266951A (zh) * | 2019-06-28 | 2019-09-20 | Oppo广东移动通信有限公司 | 图像处理器、图像处理方法、拍摄装置和电子设备 |
CN110121022A (zh) * | 2019-06-28 | 2019-08-13 | Oppo广东移动通信有限公司 | 拍摄装置的控制方法、拍摄装置和电子设备 |
CN110300240B (zh) * | 2019-06-28 | 2021-08-13 | Oppo广东移动通信有限公司 | 图像处理器、图像处理方法、拍照装置及电子设备 |
CN110602359B (zh) * | 2019-09-02 | 2022-01-18 | Oppo广东移动通信有限公司 | 图像处理方法、图像处理器、拍摄装置和电子设备 |
-
2019
- 2019-04-10 CN CN201910285809.6A patent/CN110062161B/zh active Active
-
2020
- 2020-03-13 WO PCT/CN2020/079327 patent/WO2020207192A1/zh active Application Filing
Also Published As
Publication number | Publication date |
---|---|
CN110062161A (zh) | 2019-07-26 |
WO2020207192A1 (zh) | 2020-10-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109963083B (zh) | 图像处理器、图像处理方法、拍摄装置和电子设备 | |
CN110086967B (zh) | 图像处理方法、图像处理器、拍摄装置和电子设备 | |
CN110062161B (zh) | 图像处理器、图像处理方法、拍摄装置和电子设备 | |
CN110290288B (zh) | 图像处理器、图像处理方法、拍摄装置和电子设备 | |
US11588984B2 (en) | Optimized exposure temporal smoothing for time-lapse mode | |
CN111147695B (zh) | 图像处理方法、图像处理器、拍摄装置和电子设备 | |
CN110177214B (zh) | 图像处理器、图像处理方法、拍照装置及电子设备 | |
WO2020259250A1 (zh) | 图像处理方法、图像处理器、拍摄装置和电子设备 | |
CN110996012B (zh) | 连拍处理方法、图像处理器、拍摄装置和电子设备 | |
CN110278373A (zh) | 图像处理器、图像处理方法、拍摄装置和电子设备 | |
CN110300240B (zh) | 图像处理器、图像处理方法、拍照装置及电子设备 | |
CN111193866B (zh) | 图像处理方法、图像处理器、拍摄装置和电子设备 | |
WO2013184256A1 (en) | Dynamic camera mode switching | |
CN110753187A (zh) | 一种摄像头的控制方法及设备 | |
CN110418061B (zh) | 图像处理方法、图像处理器、拍照装置及电子设备 | |
CN115526787B (zh) | 视频处理方法和装置 | |
CN111193867B (zh) | 图像处理方法、图像处理器、拍摄装置和电子设备 | |
CN110121022A (zh) | 拍摄装置的控制方法、拍摄装置和电子设备 | |
CN111510629A (zh) | 数据显示方法、图像处理器、拍摄装置和电子设备 | |
JP2010016826A (ja) | 画像処理オペレーションを効率的に実行するためのシステム及び方法 | |
CN111491101B (zh) | 图像处理器、图像处理方法、拍摄装置和电子设备 | |
CN110401800B (zh) | 图像处理方法、图像处理器、拍摄装置和电子设备 | |
CN110602359B (zh) | 图像处理方法、图像处理器、拍摄装置和电子设备 | |
JP2013211724A (ja) | 撮像装置 | |
JP2013211715A (ja) | 撮像装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |