CN111752480A - 一种数据写方法、数据读方法及相关设备、系统 - Google Patents
一种数据写方法、数据读方法及相关设备、系统 Download PDFInfo
- Publication number
- CN111752480A CN111752480A CN202010420635.2A CN202010420635A CN111752480A CN 111752480 A CN111752480 A CN 111752480A CN 202010420635 A CN202010420635 A CN 202010420635A CN 111752480 A CN111752480 A CN 111752480A
- Authority
- CN
- China
- Prior art keywords
- data
- read
- storage node
- written
- remote storage
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 105
- 230000004044 response Effects 0.000 claims description 54
- 239000004744 fabric Substances 0.000 claims description 10
- 238000012545 processing Methods 0.000 claims description 8
- 230000005540 biological transmission Effects 0.000 claims description 4
- 230000008901 benefit Effects 0.000 abstract description 13
- 238000010586 diagram Methods 0.000 description 17
- 238000007726 management method Methods 0.000 description 6
- 230000006870 function Effects 0.000 description 4
- 238000010295 mobile communication Methods 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 3
- 238000013507 mapping Methods 0.000 description 3
- 230000008569 process Effects 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 230000006855 networking Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 238000013519 translation Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0602—Interfaces specially adapted for storage systems specifically adapted to achieve a particular effect
- G06F3/061—Improving I/O performance
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/25—Integrating or interfacing systems involving database management systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0628—Interfaces specially adapted for storage systems making use of a particular technique
- G06F3/0629—Configuration or reconfiguration of storage systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0628—Interfaces specially adapted for storage systems making use of a particular technique
- G06F3/0655—Vertical data movement, i.e. input-output transfer; data movement between one or more hosts and one or more storage devices
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0668—Interfaces specially adapted for storage systems adopting a particular infrastructure
- G06F3/067—Distributed or networked storage systems, e.g. storage area networks [SAN], network attached storage [NAS]
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Human Computer Interaction (AREA)
- Databases & Information Systems (AREA)
- Data Mining & Analysis (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明实施例公开一种数据写方法、数据读方法及相关设备、系统。该数据写方法包括:接收到应用程序调用用于写数据的键值存储接口所发起针对远端存储节点的写请求,写请求携带由键和值组成的键值对,其中,键用于指示待写入数据的目的地址,值用于指示待写入数据的源地址和待写入数据的大小;根据键值对,生成符合高速网络存储协议的写命令;写命令包括:用于指示待写入数据的目的地址的第一字段、用于指示待写入数据的源地址的第二字段,以及用于指示待写入数据的大小的第三字段;通过高速网络存储协议的接口向远端存储节点发送写命令。上述方案可兼容键值存储与所述高速网络存储协议各自的存储优势。
Description
技术领域
本发明涉及存储领域,尤其涉及一种数据写方法、数据读方法及相关设备、系统。
背景技术
随着信息技术的高速发展,数据海量存储对存储系统系统提出了新的需求和挑战。为了应对这种挑战,键值存储(即Key-Value储存,简称KV存储)的存储管理技术应运而生。KV存储能够满足对海量数据的高效率存储和访问的需求。另外,非易失性存储标准(Non-Volatile Memory Express,NVMe)作为一个高效的存储协议已经得到了众多闪存、服务器及存储厂商的支持,其生态日趋成熟。与此同时,更为高效的网络存储协议也随着闪存技术的演进呼之欲出,这就是NVMe Over Fabric。NVMe Over Fabric替换了以前的前端所使用的iSCSI(例如Linux下的iSER或者Windows下的SMB3),使得终端用户可以直接通过NVMe Over Fabric协议实现对远端NVMe设备快速、低延迟的访问。
基于NVMe Over Fabric支持远端存储的优点,以及KV存储管理技术支持高效率的海量数据存储管理的优点,KV接口与NVMe Over Fabric的兼容将在未来存储领域中发挥重要的作用,具有良好和广阔的市场前景。
发明内容
本发明实施例提供了一种数据写方法、数据读方法及相关设备、系统,可实现将键值存储接口承载在用于网络存储的所述高速网络存储协议上,兼容了键值存储与所述高速网络存储协议各自的存储优势。
第一方面,提供了一种数据写方法,应用于主机侧,包括:
接收到针对远端存储节点的写请求,所述写请求携带由键和值组成的键值对,并根据所述键值对生成符合高速网络存储协议的写命令,最后通过所述高速网络存储协议的接口向所述远端存储节点发送所述写命令,触发所述远端存储节点响应所述写命令,将存储于所述源地址处的所述待写入数据写入所述目的地址所映射的物理地址中。
具体的,所述写请求是应用程序通过调用用于写数据的键值存储接口,例如KV_write(),发起的请求;所述用于写数据的键值存储接口的输入参数包括所述键值对,其中,所述键用于指示待写入数据的目的地址,所述值用于指示所述待写入数据的源地址和所述待写入数据的大小。
具体的,所述写命令可包括:用于指示所述待写入数据的目的地址的第一字段、用于指示所述待写入数据的源地址的第二字段,以及用于指示所述待写入数据的大小的第三字段。
可以理解的,由于所述键值对包含有所述写命令中的第一字段、第二字段和第三字段的值,因此,主机能够根据所述写请求携带的键值对填充所述写命令的相应字段。
实施第一方面描述的数据写方法,可实现将用于写数据的键值存储接口承载在用于网络存储的所述高速网络存储协议上,使得应用程序可以通过键值存储接口实现对所述远端存储节点的数据写操作,兼容了所述键值存储接口与所述高速网络存储协议各自的存储优势。
第二方面,提供了一种数据写方法,应用于远端存储节点侧,包括:
通过高速网络存储协议的接口接收主机发送的符合所述高速网络存储协议的写命令,将所述待写入数据的目的地址与所述待写入数据的元数据一一对应的保存在目标缓存区内的目标数据库中,并分析出所述目的地址所映射的物理地址,然后响应所述写命令,将所述待写入数据写入所述目的地址所映射的物理地址中。
具体的,所述写命令可包括:用于指示待写入数据的目的地址的第一字段、用于指示所述待写入数据的源地址的第二字段,以及用于指示所述待写入数据的大小的第三字段、用于指示所述待写入数据的元数据的第四字段。所述目标数据库向所述主机提供元数据访问接口,例如增、删、改、查等接口。
与实施第一方面描述的数据写方法的有益效果相同,实施第二方面描述的数据写方法,同样地可实现将用于写数据的键值存储接口承载在用于网络存储的所述高速网络存储协议上,使得应用程序可以通过键值存储接口实现对所述远端存储节点的数据写操作,兼容了所述键值存储接口与所述高速网络存储协议各自的存储优势。
并且,可以理解的,本发明提供的所述目标数据库可实现:所述主机直接从远端存储节点的内存(即所述目标数据库)中访问所述待写入数据的元数据,而不必在存储硬盘上逐块的去查找所述待写入数据的元数据,实现了对已写入所述存储硬盘的数据的元数据的高效率访问和管理。
在一种实现方式中,在所述远端存储节点将所述待写入数据写入所述目的地址所映射的物理地址中之后,所述远端存储节点可以通过所述高速网络存储协议的接口向主机返回写响应。
相应的,所述主机可以通过所述高速网络存储协议的接口接收到远端存储节点返回的所述写响应。
具体实现中,在所述主机接收到所述写响应之后,所述主机可以将所述写响应的数据格式转换成用于接收写响应的键值存储接口,例如KV_Get_Response(),能够识别的写响应格式,使得所述应用程序通过调用该键值存储接口识别出所述写响应。
在一种实现方式中,在接收到主机发送的所述写命令之后,远端存储节点可以向主机发送针对所述待写入数据的获取请求,所述获取请求可包含所述待写入数据的源地址。
相应的,主机接可收远端存储节点发送的针对所述待写入数据的获取请求。
之后,主机可响应所述获取请求,通过所述高速网络存储协议的接口向远端存储节点发送存储于所述源地址处的所述待写入数据。
相应的,远端存储节点可通过所述高速网络存储协议的接口接收到主机发送的所述待写入数据。
第三方面,提供了一种数据读方法,应用于主机侧,包括:
接收到针对远端存储节点的读请求,所述读请求携带由键和值组成的键值对,并根据所述键值对生成符合高速网络存储协议的读命令,最后通过所述高速网络存储协议的接口向远端存储节点发送所述读命令,触发所述远端存储节点响应所述读命令,从所述源地址所映射的物理地址中读出所述待读取数据。
具体的,所述读请求是应用程序通过调用用于读数据的键值存储接口,例如KV_read(),发起的请求,所述用于读数据的键值存储接口的输入参数包括所述键值对;所述键用于指示待读取数据的源地址,所述值用于指示所述待读取数据的目的地址和所述待读取数据的大小;
具体的,所述读命令可包括:用于指示所述待读取数据的源地址的第一字段、用于指示所述待读取数据的目的地址的第二字段,以及用于指示所述待读取数据的大小的第三字段。
可以理解的,由于所述键值对包含有所述读命令中的第一字段、第二字段和第三字段的值,因此,主机能够根据所述读请求携带的键值对填充所述读命令的相应字段。
实施第一方面描述的数据读方法,可实现将用于读数据的键值存储接口承载在用于网络存储的所述高速网络存储协议上,使得应用程序可以通过键值存储接口实现对所述远端存储节点的数据读操作,兼容了所述键值存储接口与所述高速网络存储协议各自的存储优势。
第四方面,提供了一种数据读方法,应用于远端存储节点侧,包括:
通过高速网络存储协议的接口接收主机发送的符合所述高速网络存储协议的读命令,分析出所述源地址所映射的物理地址,然后响应所述读命令,从所述源地址所映射的物理地址中读取出所述待读取数据。
具体的,所述读命令可包括:用于指示所述待读取数据的源地址的第一字段、用于指示所述待读取数据的目的地址的第二字段,以及用于指示所述待读取数据的大小的第三字段。
与实施第三方面描述的数据读方法的有益效果相同,实施第四方面描述的数据读方法,同样地可实现将用于读数据的键值存储接口承载在用于网络存储的所述高速网络存储协议上,使得应用程序可以通过键值存储接口实现对所述远端存储节点的数据读操作,兼容了所述键值存储接口与所述高速网络存储协议各自的存储优势。
在一种实现方式中,在所述远端存储节点从所述源地址所映射的物理地址中读取出所述待读取数据之后,所述远端存储节点可以通过所述高速网络存储协议的接口向主机返回读响应。
相应的,所述主机可以通过所述高速网络存储协议的接口接收到远端存储节点返回的所述读响应。
具体实现中,在接收到所述读响应之后,所述主机可以将所述读响应的数据格式转换成用于接收读响应的键值存储接口,例如KV_Get_Response(),能够识别的读响应格式,使得所述应用程序通过调用该键值存储接口识别出所述读响应。
在一种实现方式中,在接收到所述主机发送的所述读命令之后,所述远端存储节点还可以向主机发送针对所述待读取数据的发送请求,所述发送请求包含所述待读取数据的目的地址。
相应的,所述主机接可收远端存储节点发送的所述发送请求,并向远端存储节点返回针对所述发送请求的应答。
之后,所述远端存储节点可以接收到所述主机返回的所述应答,并通过高速网络存储协议的接口向所述主机发送所述待读取数据。
相应的,所述主机可以通过所述高速网络存储协议的接口接收到所述远端存储节点发送的所述待读取数据,并将所述待读取数据存储到所述目的地址处。
第五方面,提供了一种数据写设备,包括用于执行第一方面所述的方法的单元。
第六方面,提供了一种存储节点,包括用于执行第二方面所述的方法的单元。
第七方面,提供了一种数据读设备,包括用于执行第三方面所述的方法的单元。
第八方面,提供了一种存储节点,包括用于执行第四方面所述的方法的单元。
第九方面,提供了一种数据写设备,用于执行第一方面描述的数据写方法。所述数据写设备站可包括:存储器以及与所述存储器耦合的处理器、发射器和接收器,其中:所述发射器用于与向远端存储节点发送移动通信信号,所述接收器用于接收所述远端存储节点发送的移动通信信号,所述存储器用于存储第一方面描述的数据写方法的实现代码,所述处理器用于执行所述存储器中存储的程序代码,即执行第一方面描述的数据写方法。
第十方面,提供了一种数据读设备,用于执行第三方面描述的数据读方法。所述数据读设备站可包括:存储器以及与所述存储器耦合的处理器、发射器和接收器,其中:所述发射器用于与向远端存储节点发送移动通信信号,所述接收器用于接收所述远端存储节点发送的移动通信信号,所述存储器用于存储第三方面描述的数据读方法的实现代码,所述处理器用于执行所述存储器中存储的程序代码,即执行第三方面描述的数据读方法。
第十一方面,提供了一种存储系统,包括:数据写设备和存储节点,其中:所述数据写设备是上述第五方面内容所述的数据写设备,所述存储节点是上述第六方面内容所述的存储节点。
在一些可能的实现方式中,所述数据写设备也可以是上述第九方面内容所述的存储节点。
第十二方面,提供了一种存储系统,包括:数据读设备和存储节点,其中:所述数据读设备是上述第七方面内容所述的数据读设备,所述存储节点是上述第八方面内容所述的存储节点。
在一些可能的实现方式中,所述数据读设备也可以是上述第十方面内容所述的数据读设备。
实施本发明实施例,主机可以根据应用程序发送的针对远端存储节点的读写请求所携带的键值对,生成符合高速网络存储协议的读写命令,所述读写请求是所述应用程序通过调用键值存储接口发起的请求;并且,所述主机可以通过所述符合高速网络存储协议的传输接口向所述远端存储节点发送所述符合高速网络存储协议的读写命令,以触发所述远端存储节点响应所述符合高速网络存储协议的读写命令,完成远端读写操作。上述方案可实现将键值存储接口承载在所述高速网络存储协议上,使得应用程序可以通过键值存储接口对所述远端存储节点进行读写操作,兼容了键值存储与所述高速网络存储协议各自的存储优势。
附图说明
为了更清楚地说明本发明实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍。
图1是本发明实施例提供的一种应用场景的示意图;
图2是本发明实施例提供的一种数据写方法的流程示意图;
图3是本发明实施例涉及的NVM命令的示意图;
图4是本发明实施例涉及的逻辑地址与物理地址相互映射的示意图;
图5是本发明实施例涉及的消息流的示意图;
图6是本发明实施例提供一种数据读方法的流程示意图;
图7是本发明实施例提供的一种数据写设备的结构示意图;
图8是本发明实施例提供的一种存储节点的结构示意图;
图9是本发明实施例提供的另一种数据写设备的结构示意图;
图10是本发明实施例提供的一种数据读设备的结构示意图;
图11是本发明实施例提供的一种存储节点的结构示意图;
图12是本发明实施例提供的另一种数据读设备的结构示意图。
具体实施方式
本发明的实施方式部分使用的术语仅用于对本发明的具体实施例进行解释,而非旨在限定本发明。
为了更好的理解本发明实施例,下面以NVMe Over Fabric协议为例来描述本发明实施例的应用场景。
参见图1,图1是本发明实施例公开的应用场景的示意图。在图1所示的应用场景中,主机(Host)和远端存储节点形成了一个网络存储系统,所述主机和所述远端存储节点均集成有NVMe Over Fabric(以下简称NOF)接口,二者通过NOF接口通信。其中,所述主机可用于生成标准的NVM命令,并通过集成在主机上的NOF接口向远端存储节点发送所述NVM命令;所述远端存储节点可用于通过NOF接口接收所述主机发送的NVM命令,并响应所述NVM命令,对所述远端存储节点对应的存储设备,例如附图所示的多个固态硬盘(Solid StateDrive,SSD)进行读写操作。
具体的,如图1所示,所述主机和所述远端存储节点之间的交互可主要包括:控制层面和数据层面。其中,所述控制层面可以主要负责:所述主机向所述远端存储节点发送NVM标准命令,以及所述远端存储节点向所述主机返回针对所述NVM标准命令的响应(Response);所述数据层面可以主要负责:所述主机向所述远端存储节点发送待写入数据,以及所述远端存储节点向所述主机发送待读取数据。
需要说明的,本发明实施例涉及的所述主机可以包括:兼容有NOF接口、能够访问所述远端存储节点的计算设备,例如服务器、存储管理设备等等。
需要说明的,本发明实施例涉及的所述远端存储节点可以是指集成有所述高速网络存储协议接口的存储节点。这里,所述远端存储节点可以是指相对于所述主机位于远端的网络存储系统中的存储节点,也可以是指位于分布式存储系统(例如云存储)中的存储节点。
需要说明的,本实施例涉及的高速网络存储协议是指用于网络存储并且存储带宽达到Gbps级别(例如1Gbps或更高)的存储协议,例如NVMe Over Fabric协议。本发明实施例不限制所述高速网络存储协议的具体形式,未来可能出现的用于网络存储的高速存储协议也属于本发明方案的实施对象。
需要说明的,图1所示的网络存储系统仅仅是本发明实施例提供的一种简单的示例,所述网络存储系统的具体组网形式可根据实际应用场景和需求而定,这里不作限制。
本发明实施例提供了一种数据写方法、数据读方法及相关设备、系统,主机可以根据应用程序发送的针对远端存储节点的读写请求所携带的键值对(key-value),生成符合高速网络存储协议的读写命令,所述读写请求是所述应用程序通过调用键值存储接口(以下简称KV接口)发起的请求;并且,所述主机可以通过所述符合高速网络存储协议的传输接口向所述远端存储节点发送所述符合高速网络存储协议的读写命令,以触发所述远端存储节点响应所述符合高速网络存储协议的读写命令,完成远端读写操作。本发明方案可实现将KV接口承载在用于网络存储的所述高速网络存储协议上,使得应用程序可以通过键值存储接口对所述远端存储节点进行读写操作,兼容了KV存储与所述高速网络存储协议(例如NVMe Over Fabric)各自的存储优势。以下分别进行详细说明。
参见图2,图2是本发明实施例提供的一种数据写方法的流程示意图。如图2所示,该方法包括:
S101,主机接收到针对远端存储节点的写请求,所述写请求携带由键和值组成的键值对,所述键用于指示待写入数据的目的地址,所述值用于指示所述待写入数据的源地址和所述待写入数据的大小。具体的,所述写请求可以是应用程序通过调用用于写数据的KV接口,例如KV_write(),发起的请求。实际应用中,所述写请求也可以是远端应用程序调用用于写数据的KV接口发起的请求,这里不作限制。
这里,所述待写入数据的源地址是指主机上的用于存储写之前的所述待写入数据的地址,该源地址通常位于主机的内存空间;所述待写入数据的目的地址是指远端存储节点上的用于写入所述待写入数据的逻辑地址。
S103,主机可以根据所述写请求包含的键值对,生成符合高速网络存储协议的写命令。具体的,符合高速网络存储协议的写命令可包括:用于指示所述待写入数据的目的地址的第一字段、用于指示所述待写入数据的源地址的第二字段,以及用于指示所述待写入数据的大小的第三字段。
S105,在生成所述写命令之后,主机可以通过所述高速网络存储协议的接口向远端存储节点发送所述写命令。所述写命令用于触发远端存储节点将存储于所述源地址处的所述待写入数据写入所述目的地址映射的物理地址中。相应的,远端存储节点可以通过所述高速网络存储协议的接口接收到主机发送的所述写命令。
S107,在接收到主机发送的所述写命令之后,远端存储节点可以分析出所述目的地址所映射的物理地址。
S109,远端存储节点响应所述写命令,将所述待写入数据写入所述目的地址所映射的物理地址中。
下面以NOF这一高速网络存储协议为例说明本发明实施例提供的数据写方法。
图3示出了本发明实施例涉及的NVM命令,主要包含:域名空间标识(NamespaceIdentifier,NSID)、起始逻辑块地址(Starting LBA)、逻辑块数量(Number of LogicalBlocks)以及散列表(Scatter Gather List,SGL)等字段。其中,NSID和Starting LBA结合可以指示出该命令在远端存储节点上涉及的逻辑地址,例如写入数据的目的地址,或者读取数据的源地址;逻辑块数量可以指示出该命令涉及的数据长度,例如待写入数据的长度,或者待读取数据的长度;SGL是内存地址空间中用于存储数据的缓存区,例如用于存储所述待写入数据的源地址,或者用于存储所述待读取数据的目的地址。
本发明实施例中,应用程序可以调用用于写数据的KV接口,例如KV_write(),发起所述写请求,用以请求主机向远端存储节点写入所述待写入数据。该写请求携带的键值对(key-value)可如表1所示:
Key | NSID | Starting LBA |
Value | SGL | Length |
表1
其中,键(key)可包括:NSID和Starting LBA,用于指示所述待写入数据的目的地址;值(value)可包括:SGL、Length,其中,SGL用于指示所述待写入数据的源地址,Length用于指示所述待写入数据的大小,相当于NVM命令中的逻辑块数量。
需要说明的,如果所述写请求是针对远端存储节点的整个域名空间的写入(如全盘写),则所述键(key)也可以仅包括NSID。
可以理解的,从图3示出的NVM命令和表1示出的键值对可知,由于所述键值对包含有所述写命令中的第一字段、第二字段和第三字段的值,因此,主机能够根据所述写请求携带的键值对填充NVM写命令的相应字段。这里,NVM写命令包含的其他字段可以由主机按照NVMe协议规定进行填充,具体请参考NVM Express Revision 1.2,这里不赘述。
需要说明的,表1仅仅是针对NVM写命令设计的键值对,对于其他类型的高速网络存储协议的写命令来说,本发明实施例涉及的所述写请求携带的键值对可不受表1限制,只要满足该键值对的键用于指示所述待写入数据的目的地址,并且该键值对的值用于指示所述待写入数据的源地址和所述待写入数据的大小即可。
本发明实施例中,在远端存储节点接收到主机发送的所述符合高速网络存储协议的写命令之后,远端存储节点可以分析出所述第一字段表示的目的地址所映射的物理地址。
具体的,如图4所示,远端存储节点对应的存储设备可集成有多个存储硬盘(如SSD),所述多个存储硬盘共同映射出一段连续的逻辑块地址。如图4所示,存储于该存储设备上的一份数据对应一个逻辑块地址,而该逻辑块地址可实际映射着多段离散的物理块地址(Physical Block Address,PBA)。例如,数据Data1对应逻辑块地址LBA-1,而LBA-1映射着PBA-11,PBA-12等多段PBA。具体实现中,远端存储节点可以通过闪存转换层(FlashTranslation Layer,FTL)分析出所述第一字段表示的目的地址所映射的物理地址,最后将所述待写入数据写入到该物理地址中。
可选的,本发明实施例提供所述数据写方法还可进一步包括图2中的S111,即:在将所述待写入数据写入所述目的地址所映射的物理地址中之后,远端存储节点可以通过所述高速网络存储协议的接口向主机返回写响应。相应的,主机可以通过所述高速网络存储协议的接口接收到远端存储节点返回的所述写响应。
下面以NOF这一高速网络存储协议为例,结合图5示出的消息流图,详细说明本发明实施例涉及的写数据的消息处理过程。
如图5所示,上述S101至S109所对应的消息处理过程可包括:1.应用程序(APP)通过调用用于写数据的KV接口,例如KV_write(),发起针对远端存储节点的写请求,并通过KV_write()向主机传入键值对key-value;2.主机根据应用程序传入的键值对生成标准的NVM写命令,即图中的NVM_Command;3.主机通过NOF接口向远端存储节点发送所述标准的NVM写命令。
如图5所示,上述S111所对应的消息处理过程可具体包括:4.主机通过NOF接口接收远端存储节点返回的写响应,即图中的NVM_Response;5.主机将所述写响应的数据格式转换成用于接收写响应的KV接口,例如KV_Get_Response(),能够识别的写响应格式,即图中KV_Response的数据格式;6.应用程序(APP)通过掉KV接口,例如KV_Get_Response(),接收远端存储节点返回的写响应。
上述内容从控制层面详细说明了本发明实施例提供的所述数据写方法。
从数据层面来讲,本发明实施例提供的所述数据写方法还可包括:
在接收到主机发送的所述写命令之后,远端存储节点可以向主机发送针对所述待写入数据的获取请求,所述获取请求可包含所述待写入数据的源地址;相应的,主机接可收远端存储节点发送的针对所述待写入数据的获取请求。之后,主机可响应所述获取请求,通过所述高速网络存储协议的接口向远端存储节点发送存储于所述源地址处的所述待写入数据;相应的,远端存储节点可通过所述高速网络存储协议的接口接收到主机发送的所述待写入数据。
进一步的,本发明实施例中,所述写请求携带的键值对中的值(Value)还可包括:所述待写入数据的元数据(Metadata),所述元数据是用于描述所述待写入数据的属性(例如业务类型、创建时间等)的一种数据。相应的,主机生成的符合所述高速网络存储协议的写命令还包括:用于指示所述待写入数据的元数据的第四字段。
也即是说,远端存储节点接收到的所述写命令还包括:用于指示所述待写入数据的元数据的第四字段。具体实现中,远端存储节点可以将所述待写入数据的目的地址与所述待写入数据的元数据一一对应的保存在目标缓存区内的目标数据库中,所述目标缓存区位于远端存储节点的内存地址空间,可向主机提供元数据访问接口。例如,所述目标数据库可如表2所示:
NSID | Starting LBA | Metadata |
01 | LBA-11 | metadata1 |
01 | LBA-12 | metadata2 |
02 | LBA-21 | metadata3 |
… | … | … |
表2
其中,“NSID”和“Starting LBA”相结合用于指示所述待写入数据的目的地址,“Metadata”用于指示所述待写入数据的元数据。需要说明的,表2仅仅是本发明实施例的一种实现方式,实际应用中还可以不同,不应构成限定。
具体的,在将所述待写入数据的目的地址与所述待写入数据的元数据一一对应的保存在目标缓存区内的目标数据库中时,远端存储节点可以:判断所述目标数据库中是否已经有所述目的地址,如果有,则将所述目标数据库中所述目的地址对应的元数据替换为所述待写入数据的元数据,否则,在所述目标数据库中新建映射关系,用于对应的存储所述待写入数据的目的地址与所述待写入数据的元数据。
具体实现中,所述目标数据库向主机提供数据访问接口可包括:增、删、改、查等接口,用于管理所述目标数据库中的元数据。
可以理解的,由于所述目标缓存区位于远端存储节点的内存地址空间,而不是存储节点对应的存储硬盘上的物理存储空间,因此,本发明提供的所述目标数据库可实现:主机直接从远端存储节点的内存(即所述目标数据库)中访问所述待写入数据的元数据,而不必在存储硬盘上逐块的去查找所述待写入数据的元数据,实现了对已写入所述存储硬盘的数据的元数据的高效率访问和管理。
实施本发明实施例,在接收到应用程序发送的针对远端存储节点的写请求(所述写请求携带键值对,所述键用于指示待写入数据的目的地址,所述值用于指示所述待写入数据的源地址和所述待写入数据的大小)之后,主机可以根据该键值对生成符合高速网络存储协议的写命令,并通过所述高速网络存储协议的接口向所述远端存储节点发送所述写命令,触发所述远端存储节点将待写入数据写入所述目的地址所映射的物理地址中。所述数据写方法可实现将用于写数据的KV接口承载在用于网络存储的所述高速网络存储协议上,使得应用程序可以通过用于写数据的KV接口实现对所述远端存储节点的数据写操作,兼容了KV存储与所述高速网络存储协议各自的存储优势。
参见图6,图6是本发明实施例提供的一种数据读方法的流程示意图。如图6所示,该方法包括:
S201,主机接收到针对远端存储节点的读请求,所述读请求携带由键和值组成的键值对,所述键用于指示待读取数据的源地址,所述值用于指示所述待读取数据的目的地址和所述待读取数据的大小。具体的,所述读请求可以是主机上的应用程序(APP)通过调用用于读数据的KV接口,例如KV_read(),发起的请求。实际应用中,所述读请求也可以是远端应用程序调用用于读数据的KV接口发起的请求,这里不作限制。
这里,所述待读取数据的源地址是指远端存储节点上的用于存储读之前的所述待读取数据的逻辑地址;所述待读取数据的目的地址是指主机上的用于存储读取出的所述待读取数据的地址,该目的地址通常位于主机的内存空间。
S203,主机根据所述读请求包含的键值对,可以生成符合高速网络存储协议的读命令。具体的,所述读命令可包括:用于指示所述待读取数据的源地址的第一字段、用于指示所述待读取数据的目的地址的第二字段,以及用于指示所述待读取数据的大小的第三字段。
S205,在生成所述读命令之后,主机可以通过所述高速网络存储协议的接口向远端存储节点发送所述读命令。相应的,远端存储节点可以通过所述高速网络存储协议的接口接收到主机发送的所述读命令。
S207,在接收到主机发送的所述读命令之后,远端存储节点可以分析出所述源地址所映射的物理地址。
具体的,关于分析出所述源地址所映射的物理地址的方法可参考图2方法实施例中的相关内容,这里不再赘述。
S209,远端存储节点响应所述读命令,从所述源地址所映射的物理地址中读取出所述待读取数据。
本发明实施例涉及的所述待读取数据可以是通过图2方法实施例提供的数据写方法写入到远端存储节点对应的存储设备上的。需要说明的,实际应用中,所述待读取数据还可以是通过其他途径写入到所述存储设备上的,这里不作限制。
下面以NOF这一高速网络存储协议为例说明本发明实施例提供的数据读方法。图3示出了NVM命令,具体格式可参考图2方法实施例中的相关内容,这里不再赘述。
本发明实施例中,应用程序可以调用用于读数据的KV接口,例如KV_read(),发起所述读请求,用以请求主机从远端存储节点中读取出所述待读取数据。该读请求携带的键值对(key-value)可如表3所示:
Key | NSID | Starting LBA |
Value | SGL | Length |
表3
其中,键(key)可包括:NSID和Starting LBA,用于指示所述待读取数据的源地址;值(value)可包括:SGL、Length,其中,SGL用于指示所述待读取数据的目的地址,Length用于指示所述待读取数据的大小,相当于NVM命令中的逻辑块数量。
需要说明的,如果所述读请求是针对远端存储节点的整个域名空间的写入(如全盘读),则所述键(key)也可以仅包括NSID。
可以理解的,从图3示出的NVM读写命令和表3示出的键值对可知,主机能够根据所述读请求携带的键值对填充NVM读命令的相应字段。这里,NVM读命令包含的其他字段可以由主机按照NVMe协议规定进行填充,具体请参考NVM Express Revision 1.2,这里不赘述。
需要说明的,表3仅仅是针对NVM读命令设计的键值对,对于其他类型的高速网络存储协议的读命令来说,本发明实施例涉及的所述读请求携带的键值对可不受表3限制,只要满足该键值对的键用于指示所述待读取数据的源地址,并且该键值对的值用于指示所述待读取数据的目的地址和所述待读取数据的大小即可。
可选的,本发明实施例提供所述数据读方法还可进一步包括图6中的S211,即:在从所述源地址所映射的物理地址中读取出所述待读取数据之后,远端存储节点可以通过所述高速网络存储协议的接口向主机返回读响应。相应的,主机可以通过所述高速网络存储协议的接口接收到远端存储节点返回的所述读响应。
下面以NOF这一高速网络存储协议为例,结合图5示出的消息流图,详细说明本发明实施例涉及的读数据的消息处理过程。
如图5所示,上述S201至S209所对应的消息处理过程可包括:1.应用程序(APP)通过调用用于读数据的KV接口,例如KV_read(),发起针对远端存储节点的读请求,并通过KV_read()向主机传入键值对key-value;2.主机根据应用程序传入的键值对生成标准的NVM读命令,即图中的NVM_Command;3.主机通过NOF接口向远端存储节点发送所述标准的NVM读命令。
如图5所示,上述S211所对应的消息处理过程可具体包括:4.主机通过NOF接口接收远端存储节点返回的读响应,即图中的NVM_Response;5.主机将所述读响应的数据格式转换成KV接口,例如KV_Get_Response(),能够识别的读响应格式,即图中KV_Response的数据格式;6.应用程序(APP)通过掉KV接口,例如KV_Get_Response(),接收远端存储节点返回的读响应。
上述内容从控制层面详细说明了本发明实施例提供的所述数据读方法。
从数据层面来讲,本发明实施例提供的所述数据读方法还可包括:
在接收到主机发送的所述读命令之后,远端存储节点可以向主机发送针对所述待读取数据的发送请求,所述发送请求包含所述待读取数据的目的地址;相应的,主机接可收远端存储节点发送的所述发送请求,并向远端存储节点返回针对所述发送请求的应答。之后,远端存储节点可以接收到所述主机返回的所述应答,并通过高速网络存储协议的接口向所述主机发送所述待读取数据;相应的,所述主机可以通过所述高速网络存储协议的接口接收到所述远端存储节点发送的所述待读取数据,并将所述待读取数据存储到所述目的地址处。
实施本发明实施例,在接收到应用程序发送的针对远端存储节点的读请求(所述读请求携带键值对,所述键用于指示待读取数据的源地址,所述值用于指示所述待读取数据的目的地址和所述待读取数据的大小)之后,主机可以根据该键值对生成符合高速网络存储协议的读命令,并通过所述高速网络存储协议的接口向所述远端存储节点发送所述读命令,触发所述远端存储节点从所述源地址所映射的物理地址中读取出所述待读取数。所述数据读方法可实现将用于据读数据的KV接口承载在用于网络存储的所述高速网络存储协议上,使得应用程序可以通过用于读数据的KV接口对远端存储节点进行读数据操作,兼容了KV存储与所述高速网络存储协议各自的存储优势。
参见图7,图7是本发明实施例提供的一种数据写设备的结构示意图。如图7所示,数据写设备10可包括:第一接收单元101、写命令生成单元103和写命令发送单元105。
其中:
第一接收单元101,用于接收到针对远端存储节点的写请求,所述写请求携带由键和值组成的键值对,其中,所述键用于指示待写入数据的目的地址,所述值用于指示所述待写入数据的源地址和所述待写入数据的大小;
写命令生成单元103,用于根据所述键值对,生成符合高速网络存储协议的写命令;所述写命令包括:用于指示所述待写入数据的目的地址的第一字段、用于指示所述待写入数据的源地址的第二字段,以及用于指示所述待写入数据的大小的第三字段;
写命令发送单元105,用于通过所述高速网络存储协议的接口向所述远端存储节点发送所述写命令,触发所述远端存储节点响应所述写命令,将存储于所述源地址处的所述待写入数据写入所述目的地址所映射的物理地址中。
如图7所示,数据写设备10还可进一步的包括:第二接收单元107和数据发送单元109,其中:
第二接收单元107,可用于在写命令发送单元105通过所述高速网络存储协议的接口向所述远端存储节点发送所述写命令之后,接收所述远端存储节点发送的针对所述待写入数据的获取请求,所述获取请求包含所述待写入数据的源地址;
数据发送单元109,可用于响应所述获取请求,通过所述高速网络存储协议的接口向所述远端存储节点发送存储于所述源地址处的所述待写入数据。
本发明实施例中,所述键值对中的值还可包括:所述待写入数据的元数据,则所述写命令相应的还可包括:用于指示所述待写入数据的元数据的第四字段。
可以理解的,数据写设备10包括的功能单元的具体实现可参考图2方法实施例中所述主机的功能,这里不再赘述。
参见图8,图8是本发明实施例提供的一种存储节点的结构示意图。存储节点20与图7所示的数据写设备10对应,用于接收数据写设备10发送的符合高速网络存储协议的写命令,执行写操作。如图8所示,存储节点20可包括:写命令接收单元201、保存单元203、分析单元205和写入单元207。其中:
写命令接收单元201,用于通过高速网络存储协议的接口接收主机发送的符合所述高速网络存储协议的写命令;所述写命令包括:用于指示待写入数据的目的地址的第一字段、用于指示所述待写入数据的源地址的第二字段,以及用于指示所述待写入数据的大小的第三字段、用于指示所述待写入数据的元数据的第四字段;
保存单元203,用于将所述待写入数据的目的地址与所述待写入数据的元数据一一对应的保存在目标缓存区内的目标数据库中,所述目标数据库向所述主机提供元数据访问接口
分析单元205,用于分析出所述目的地址所映射的物理地址;
写入单元207,用于响应所述写命令,将所述待写入数据写入所述目的地址所映射的物理地址中。
如图8所示,存储节点20还可进一步的包括:发送单元211和数据接收单元209,其中:
发送单元211,可用于在写命令接收单元201通过高速网络存储协议的接口接收主机发送的符合所述高速网络存储协议的写命令之后,向所述主机发送针对所述待写入数据的获取请求,所述获取请求包含所述待写入数据的源地址;
数据接收单元209,可用于通过所述高速网络存储协议的接口接收所述主机响应所述获取请求所发送的所述待写入数据。
具体实现中,所述保存单元可具体用于:判断所述目标数据库中是否已经有所述目的地址,如果有,则将所述目标数据库中所述目的地址对应的元数据替换为所述待写入数据的元数据,否则,在所述目标数据库中新建映射关系,用于对应的存储所述待写入数据的目的地址与所述待写入数据的元数据。
可以理解的,存储节点20包括的功能单元的具体实现可参考图2方法实施例中所述远端存储节点的功能,这里不再赘述。
为了便于实施本发明实施例,本发明提供了另一种数据写设备。参见图9,数据写设备90可包括:发射器903、接收器904、存储器902和与存储器902耦合的处理器901(数据写设备90中的处理器901的数量可以是一个或多个,图9中以一个处理器为例)。在本发明的一些实施例中,发射器903、接收器904、存储器902和处理器901可通过总线或者其它方式连接,其中,图9中以通过总线连接为例。
其中,发射器903用于向远端存储节点发送数据,接收器904用于向远端存储节点接收数据。具体实现中,发射器903与接收器904可集成为:无线收发模块、有线收发模块等收发器件。存储器902用于存储程序代码,具体实现中,存储器902可以采用只读存储器(Read Only Memory,ROM),可用于存储前述图2方法实施例中描述的数据写方法的实现代码。处理器901,例如CPU,用于调用存储于存储器902中程序代码执行如下步骤:
接收到针对远端存储节点的写请求,所述写请求携带由键和值组成的键值对,其中,所述键用于指示待写入数据的目的地址,所述值用于指示所述待写入数据的源地址和所述待写入数据的大小;所述写请求是应用程序调用用于写数据的键值存储接口发起的请求,所述用于写数据的键值存储接口的输入参数包括所述键值对;
根据所述键值对,生成符合高速网络存储协议的写命令;所述写命令包括:用于指示所述待写入数据的目的地址的第一字段、用于指示所述待写入数据的源地址的第二字段,以及用于指示所述待写入数据的大小的第三字段;
通过所述高速网络存储协议的接口利用发射器903向所述远端存储节点发送所述写命令,触发所述远端存储节点响应所述写命令,将存储于所述源地址处的所述待写入数据写入所述目的地址所映射的物理地址中。
本发明实施例中,在利用发射器903向所述远端存储节点发送所述写命令之后,处理器901还可以:
利用接收器904接收所述远端存储节点发送的针对所述待写入数据的获取请求,所述获取请求包含所述待写入数据的源地址;
响应所述获取请求,通过所述高速网络存储协议的接口利用发射器903向所述远端存储节点发送存储于所述源地址处的所述待写入数据。
进一步的,所述键值对中的所述值还可包括:所述待写入数据的元数据,则所述写命令还包括:用于指示所述待写入数据的元数据的第四字段。
可理解的是,处理器901的执行步骤还可参照图2方法实施例中所述主机涉及的内容,这里不再赘述。
参见图10,图10是本发明实施例提供的一种数据读设备的结构示意图。如图10所示,数据读设备30可包括:第一接收单元301、读命令生成单元303和读命令发送单元305。
其中:
第一接收单元301,用于接收到针对远端存储节点的读请求,所述读请求携带由键和值组成的键值对,其中,所述键用于指示待读取数据的源地址,所述值用于指示所述待读取数据的目的地址和所述待读取数据的大小;
读命令生成单元303,用于根据所述键值对,生成符合高速网络存储协议的读命令;所述读命令包括:用于指示所述待读取数据的源地址的第一字段、用于指示所述待读取数据的目的地址的第二字段,以及用于指示所述待读取数据的大小的第三字段;
读命令发送单元305,用于通过所述高速网络存储协议的接口向远端存储节点发送所述读命令,触发所述远端存储节点响应所述读命令,从所述源地址所映射的物理地址中读出所述待读取数据。
如图10所示,数据读设备30还可进一步的包括:第二接收单元307、应答单元309和数据接收单元311,其中:
第二接收单元307,可用于在所述读命令发送单元通过所述高速网络存储协议的接口向远端存储节点发送所述读命令之后,接收所述远端存储节点发送的针对所述待读取数据的发送请求,所述发送请求包含所述待读取数据的目的地址;
应答单元309,可用于响应所述发送请求,针对所述发送请求向远端存储节点返回应答;
数据接收单元311,可用于通过所述高速网络存储协议的接口接收所述远端存储节点发送的所述待读取数据,并将所述待读取数据存储到所述目的地址处。
可以理解的,数据读设备30包括的功能单元的具体实现可参考图6方法实施例中所述主机的功能,这里不再赘述。
参见图11,图11是本发明实施例提供的一种存储节点的结构示意图。存储节点40与图9所示的数据读设备30对应,用于接收数据读设备30发送的符合高速网络存储协议的读命令,执行读操作。如图11所示,存储节点40可包括:读命令接收单元401、分析单元403和读取单元405。其中:
读命令接收单元401,用于通过高速网络存储协议的接口接收主机发送的符合所述高速网络存储协议的读命令;所述读命令包括:用于指示所述待读取数据的源地址的第一字段、用于指示所述待读取数据的目的地址的第二字段,以及用于指示所述待读取数据的大小的第三字段;
分析单元403,用于分析出所述源地址所映射的物理地址;
读取单元405,用于响应所述读命令,从所述源地址所映射的物理地址中读取出所述待读取数据。
如图11所示,存储节点40还可进一步的包括:发送单元407、应答接收单元409和数据发送单元411,其中:
发送单元407,可用于在所述读取单元从所述源地址所映射的物理地址中读取出所述待读取数据之后,向所述主机发送针对所述待读取数据的发送请求,所述发送请求包含所述待读取数据的目的地址;
应答接收单元409,可用于接收到所述主机返回的针对所述发送请求的应答;
数据发送单元411,可用于通过高速网络存储协议的接口向所述主机发送所述待读取数据。
可以理解的,存储节点40包括的功能单元的具体实现可参考图6方法实施例中所述远端存储节点的功能,这里不再赘述。
为了便于实施本发明实施例,本发明提供了另一种数据读设备。参见图12,数据读设备100可包括:发射器1003、接收器1004、存储器1002和与存储器1002耦合的处理器1001(数据读设备100中的处理器1001的数量可以是一个或多个,图12中以一个处理器为例)。在本发明的一些实施例中,发射器1003、接收器1004、存储器1002和处理器1001可通过总线或者其它方式连接,其中,图12中以通过总线连接为例。
其中,发射器1003用于向远端存储节点发送数据,接收器1004用于向远端存储节点接收数据。具体实现中,发射器1003与接收器1004可集成为:无线收发模块、有线收发模块等收发器件。存储器1002用于存储程序代码,具体实现中,存储器1002可以采用只读存储器(Read Only Memory,ROM),可用于存储前述图6方法实施例中描述的数据读方法的实现代码。处理器1001,例如CPU,用于调用存储于存储器1002中程序代码执行如下步骤:
接收到针对远端存储节点的读请求,所述读请求携带由键和值组成的键值对,其中,所述键用于指示待读取数据的源地址,所述值用于指示所述待读取数据的目的地址和所述待读取数据的大小;所述读请求是应用程序调用用于读数据的键值存储接口发起的请求,所述用于读数据的键值存储接口的输入参数包括所述键值对;
根据所述键值对,生成符合高速网络存储协议的读命令;所述读命令包括:用于指示所述待读取数据的源地址的第一字段、用于指示所述待读取数据的目的地址的第二字段,以及用于指示所述待读取数据的大小的第三字段;
通过所述高速网络存储协议的接口利用发射器1003向远端存储节点发送所述读命令,触发所述远端存储节点响应所述读命令,从所述源地址所映射的物理地址中读出所述待读取数据。
本发明实施例中,在所述从所述源地址所映射的物理地址中读取出所述待读取数据之后,处理器1001还可以:
利用发射器1003向所述主机发送针对所述待读取数据的发送请求,所述发送请求包含所述待读取数据的目的地址;
利用接收器1004接收到所述主机返回的针对所述发送请求的应答,并通过高速网络存储协议的接口利用发射器1003向所述主机发送所述待读取数据。
可理解的是,处理器1001的执行步骤还可参考图6实施例中所述主机涉及的内容,这里不再赘述。
另外,本发明实施例提供了一种存储系统(如图1所示),所述存储系统包括:主机和远端存储节点。其中:所述主机可以是由图7描述的数据写设备10,所述远端存储节点可以是图8描述的存储节点20。
需要说明的,所述主机可以图2方法实施例提及的所述主机,所述远端存储节点可以图2方法实施例提及的所述远端存储节点,这里不再赘述。
本发明实施例还提供了一种存储系统(如图1所示),所述存储系统包括:主机和远端存储节点。其中:所述主机可以是由图10描述的数据读设备30,所述远端存储节点可以是图11描述的存储节点40。
需要说明的,所述主机可以图6方法实施例提及的所述主机,所述远端存储节点可以图6方法实施例提及的所述远端存储节点,这里不再赘述。
综上所述,实施本发明实施例,主机可以根据应用程序发送的针对远端存储节点的读写请求所携带的键值对,生成符合高速网络存储协议的读写命令,所述读写请求是所述应用程序通过调用键值存储接口发起的请求;并且,所述主机可以通过所述符合高速网络存储协议的传输接口向所述远端存储节点发送所述符合高速网络存储协议的读写命令,以触发所述远端存储节点响应所述符合高速网络存储协议的读写命令,完成远端读写操作。上述方案可实现将键值存储接口承载在所述高速网络存储协议上,使得应用程序可以通过键值存储接口对所述远端存储节点进行读写操作,兼容了键值存储与所述高速网络存储协议各自的存储优势。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,是可以通过计算机程序来指令相关的硬件来完成,所述的程序可存储于计算机可读取存储介质中,该程序在执行时,可包括如上述各方法的实施例的流程。其中,所述的存储介质可为磁碟、光盘、只读存储记忆体(Read-Only Memory,ROM)或随机存储记忆体(Random AccessMemory,RAM)等。
Claims (20)
1.一种数据处理方法,其特征在于,所述方法包括:
主机获取针对远端存储节点的读写请求所携带的键值对;
所述主机根据所述针对远端存储节点的读写请求所携带的键值对,生成符合高速网络存储协议的读写命令;
所述主机通过所述符合高速网络存储协议的传输接口向所述远端存储节点发送所述符合高速网络存储协议的读写命令,以触发所述远端存储节点响应所述符合高速网络存储协议的读写命令完成所述针对远端存储节点的读写请求的操作。
2.根据权利要求1所述方法,其特征在于,所述高速网络存储协议包括NVMe OverFabric协议。
3.根据权利要求1所述方法,其特征在于,所述针对远端存储节点的读写请求中携带键和值组成的键值对。
4.根据权利要求1所述方法,其特征在于,所述读写请求包括所述应用程序通过调用键值存储接口发起的请求。
5.根据权利要求1至4中任一所述方法,其特征在于,当所述针对远端存储节点的读写请求为写请求时,所述针对远端存储节点的读写请求中携带的键用于指示待写入数据的目的地址,所述值包括用于指示所述待写入数据的源地址,其中,所述待写入数据的目的地址用于指示所述远端存储节点中用于所述待写入数据的逻辑地址,所述待写入数据的源地址用于指示所述主机中用于存储所述待写入数据的地址。
6.根据权利要求5所述方法,其特征在于,所述值还包括用于指示所述待写入数据的大小。
7.根据权利要求5所述方法,其特征在于,所述主机生成的符合高速网络存储协议的读写命令包括:用于指示所述待写入数据的目的地址的第一字段、用于指示所述待写入数据的源地址的第二字段。
8.根据权利要求7所述方法,其特征在于,所述主机生成的符合高速网络存储协议的读写命令还包括:用于指示所述待写入数据的大小的第三字段。
9.根据权利要求7所述方法,其特征在于,所述针对远端存储节点的读写请求的所述值还包括:所述待写入数据的元数据,则所述针对远端存储节点的读写命令还包括:用于指示所述待写入数据的元数据的第四字段。
10.根据权利要求5所述方法,其特征在于,在所述通过所述高速网络存储协议的接口向所述远端存储节点发送所述写命令之后,所述方法还包括:
接收所述远端存储节点发送的针对所述待写入数据的获取请求,所述获取请求包含所述待写入数据的源地址;
响应所述获取请求,通过所述高速网络存储协议的接口向所述远端存储节点发送存储于所述源地址处的所述待写入数据。
11.根据权利要求1至4中任一所述方法,其特征在于,当所述针对远端存储节点的读写请求为读请求时,所述读请求携带键和值组成的键值对,其中,所述键用于指示待读取数据的源地址,所述值用于指示所述待读取数据的目的地址和所述待读取数据的大小;所述读请求是应用程序通过调用用于读数据的键值存储接口发起的请求。
12.根据权利要求11所述方法,其特征在于,所述生成符合高速网络存储协议的读命令包括:用于指示所述待读取数据的源地址的第一字段、用于指示所述待读取数据的目的地址的第二字段。
13.根据权利要求11所述方法,其特征在于,所述生成符合高速网络存储协议的读命令还包括:用于指示所述待读取数据的大小的第三字段。
14.根据权利要求11所述方法,其特征在于,在所述通过所述高速网络存储协议的接口向远端存储节点发送所述读命令之后,还包括:
接收所述远端存储节点发送的针对所述待读取数据的发送请求,所述发送请求包含所述待读取数据的目的地址;
响应所述发送请求,针对所述发送请求向远端存储节点返回应答;
通过所述高速网络存储协议的接口接收所述远端存储节点发送的所述待读取数据,并将所述待读取数据存储到所述目的地址处。
15.一种数据处理方法,其特征在于,所述方法包括:
远端存储节点通过高速网络存储协议的接口接收主机发送的符合所述高速网络存储协议的读写命令;
所述远端存储节点根据所述符合所述高速网络存储协议的读写命令分析所述符合所述高速网络存储协议的读写命令待操作的所述远端存储节点的地址;
所述远端存储节点完成所述符合所述高速网络存储协议的读写命令的操作。
16.根据权利要求15所述方法,其特征在于,当所述符合所述高速网络存储协议的读写命令为写命令时,所述写命令包括:用于指示待写入数据的目的地址的第一字段、用于指示所述待写入数据的源地址的第二字段,以及用于指示所述待写入数据的大小的第三字段、用于指示所述待写入数据的元数据的第四字段。
17.根据权利要求16所述方法,其特征在于,所述远端存储节点根据所述符合所述高速网络存储协议的读写命令分析所述符合所述高速网络存储协议的读写命令待操作的所述远端存储节点的地址,包括:
所述远端存储节点将所述待写入数据的目的地址与所述待写入数据的元数据一一对应的保存在目标缓存区内的目标数据库中,所述目标数据库向所述主机提供元数据访问接口;
所述远端存储节点分析出所述目的地址所映射的物理地址;
所述远端存储节点响应所述写命令,将所述待写入数据写入所述目的地址所映射的物理地址中。
18.根据权利要求15所述方法,其特征在于,当所述符合所述高速网络存储协议的读写命令为读命令时,所述读请求携带由键和值组成的键值对,其中,所述键用于指示待读取数据的源地址,所述值用于指示所述待读取数据的目的地址和所述待读取数据的大小;所述读请求是应用程序通过调用用于读数据的键值存储接口发起的请求。
19.根据权利要求18所述方法,其特征在于,所述远端存储节点根据所述符合所述高速网络存储协议的读写命令分析所述符合所述高速网络存储协议的读写命令待操作的所述远端存储节点的地址,包括:
根据所述键值对,生成符合高速网络存储协议的读命令;所述读命令包括:用于指示所述待读取数据的源地址的第一字段、用于指示所述待读取数据的目的地址的第二字段,以及用于指示所述待读取数据的大小的第三字段;
通过所述高速网络存储协议的接口向远端存储节点发送所述读命令,触发所述远端存储节点响应所述读命令,从所述源地址所映射的物理地址中读出所述待读取数据。
20.一种存储系统,其特征在于,所述存储系统包括主机和远端存储节点,所述主机用于实现上述方法权利要求1至14中任一项所述方法的操作步骤,所述远端存储节点用于实现15至19中任一项所述方法的操作步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010420635.2A CN111752480A (zh) | 2016-03-24 | 2016-03-24 | 一种数据写方法、数据读方法及相关设备、系统 |
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201610176106.6A CN107229415B (zh) | 2016-03-24 | 2016-03-24 | 一种数据写方法、数据读方法及相关设备、系统 |
CN202010420635.2A CN111752480A (zh) | 2016-03-24 | 2016-03-24 | 一种数据写方法、数据读方法及相关设备、系统 |
Related Parent Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201610176106.6A Division CN107229415B (zh) | 2016-03-24 | 2016-03-24 | 一种数据写方法、数据读方法及相关设备、系统 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN111752480A true CN111752480A (zh) | 2020-10-09 |
Family
ID=59931730
Family Applications (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201610176106.6A Active CN107229415B (zh) | 2016-03-24 | 2016-03-24 | 一种数据写方法、数据读方法及相关设备、系统 |
CN202010420635.2A Pending CN111752480A (zh) | 2016-03-24 | 2016-03-24 | 一种数据写方法、数据读方法及相关设备、系统 |
Family Applications Before (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201610176106.6A Active CN107229415B (zh) | 2016-03-24 | 2016-03-24 | 一种数据写方法、数据读方法及相关设备、系统 |
Country Status (1)
Country | Link |
---|---|
CN (2) | CN107229415B (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115292420A (zh) * | 2022-10-10 | 2022-11-04 | 天津南大通用数据技术股份有限公司 | 一种分布式数据库快速加载数据的方法及装置 |
WO2024037193A1 (zh) * | 2022-08-17 | 2024-02-22 | 北京超弦存储器研究院 | 网络存储处理设备、存储服务器、数据存储及读取方法 |
Families Citing this family (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108153682B (zh) * | 2017-12-12 | 2020-10-27 | 西安交通大学 | 一种利用闪存内部并行性进行闪存转换层地址映射的方法 |
EP3531666B1 (en) * | 2017-12-26 | 2021-09-01 | Huawei Technologies Co., Ltd. | Method for managing storage devices in a storage system, and storage system |
CN110110003A (zh) * | 2018-01-26 | 2019-08-09 | 广州中国科学院计算机网络信息中心 | M2m平台的数据存储控制方法及装置 |
WO2020185679A1 (en) * | 2019-03-11 | 2020-09-17 | Replixio Ltd. | System and method for optimizing write requests of a write queue |
CN110674106B (zh) * | 2019-08-30 | 2022-03-15 | 中国人民财产保险股份有限公司 | 保单数据的存储方法、装置、设备及计算机可读存储介质 |
CN111090869B (zh) * | 2019-12-16 | 2022-04-05 | 海光信息技术股份有限公司 | 一种数据加密方法、处理器及计算机设备 |
CN113037772B (zh) * | 2021-03-30 | 2023-05-02 | 苏州科达科技股份有限公司 | 数据处理方法、系统、设备及存储介质 |
CN112988681A (zh) * | 2021-04-07 | 2021-06-18 | 拉卡拉支付股份有限公司 | 文件处理方法、装置、电子设备、存储介质及程序产品 |
CN117675759A (zh) * | 2022-09-06 | 2024-03-08 | 成都华为技术有限公司 | 数据处理方法及装置 |
CN115766889B (zh) * | 2022-09-28 | 2024-06-21 | 重庆赛力斯凤凰智创科技有限公司 | 一种数据帧结构和数据通信方法 |
CN117234427B (zh) * | 2023-11-09 | 2024-02-09 | 苏州元脑智能科技有限公司 | 数据读写方法、装置、设备、系统、存储介质及存储系统 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20130042060A1 (en) * | 2011-08-08 | 2013-02-14 | Takao Marukame | Memory system including key-value store |
WO2014089828A1 (zh) * | 2012-12-14 | 2014-06-19 | 华为技术有限公司 | 访问存储设备的方法和存储设备 |
CN103973810A (zh) * | 2014-05-22 | 2014-08-06 | 华为技术有限公司 | 基于互联网协议ip盘的数据处理方法和装置 |
CN104007938A (zh) * | 2014-05-29 | 2014-08-27 | 华为技术有限公司 | 在存储网络中的键值生成方法及装置 |
CN104238963A (zh) * | 2014-09-30 | 2014-12-24 | 华为技术有限公司 | 一种数据存储方法、存储装置及存储系统 |
US20150370700A1 (en) * | 2014-06-23 | 2015-12-24 | Google Inc. | Managing storage devices |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8151323B2 (en) * | 2006-04-12 | 2012-04-03 | Citrix Systems, Inc. | Systems and methods for providing levels of access and action control via an SSL VPN appliance |
US9367346B2 (en) * | 2013-02-20 | 2016-06-14 | Nec Corporation | Accelerating distributed transactions on key-value stores through dynamic lock localization |
-
2016
- 2016-03-24 CN CN201610176106.6A patent/CN107229415B/zh active Active
- 2016-03-24 CN CN202010420635.2A patent/CN111752480A/zh active Pending
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20130042060A1 (en) * | 2011-08-08 | 2013-02-14 | Takao Marukame | Memory system including key-value store |
WO2014089828A1 (zh) * | 2012-12-14 | 2014-06-19 | 华为技术有限公司 | 访问存储设备的方法和存储设备 |
CN103973810A (zh) * | 2014-05-22 | 2014-08-06 | 华为技术有限公司 | 基于互联网协议ip盘的数据处理方法和装置 |
CN104007938A (zh) * | 2014-05-29 | 2014-08-27 | 华为技术有限公司 | 在存储网络中的键值生成方法及装置 |
US20150370700A1 (en) * | 2014-06-23 | 2015-12-24 | Google Inc. | Managing storage devices |
CN104238963A (zh) * | 2014-09-30 | 2014-12-24 | 华为技术有限公司 | 一种数据存储方法、存储装置及存储系统 |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2024037193A1 (zh) * | 2022-08-17 | 2024-02-22 | 北京超弦存储器研究院 | 网络存储处理设备、存储服务器、数据存储及读取方法 |
CN115292420A (zh) * | 2022-10-10 | 2022-11-04 | 天津南大通用数据技术股份有限公司 | 一种分布式数据库快速加载数据的方法及装置 |
Also Published As
Publication number | Publication date |
---|---|
CN107229415A (zh) | 2017-10-03 |
CN107229415B (zh) | 2020-06-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107229415B (zh) | 一种数据写方法、数据读方法及相关设备、系统 | |
US11467975B2 (en) | Data processing method and NVMe storage device | |
KR102104288B1 (ko) | 저장된 데이터에 액세스하기 위한 방법, 및 관련 컨트롤러, 장치, 호스트와 시스템 | |
EP2889780B1 (en) | Data processing system and data processing method | |
CN103607428B (zh) | 一种访问共享内存的方法和装置 | |
CN109791522B (zh) | 数据迁移的方法、系统及智能网卡 | |
US10365858B2 (en) | Thin provisioning in a storage device | |
CN110837479B (zh) | 数据处理方法、相关设备及计算机存储介质 | |
CN104951252A (zh) | 一种数据访问方法及PCIe存储设备 | |
CN103530066B (zh) | 一种数据存储方法、装置及系统 | |
KR102412978B1 (ko) | 이중 쓰기를 수행하는 스토리지 시스템 및 그것의 이중 쓰기 방법 | |
US20220222016A1 (en) | Method for accessing solid state disk and storage device | |
CN113032293A (zh) | 缓存管理器及控制部件 | |
CN109478171A (zh) | 提高openfabrics环境中的吞吐量 | |
CN104426965B (zh) | 自管理存储方法和系统 | |
CN115934002B (zh) | 固态硬盘的访问方法、固态硬盘、存储系统及云服务器 | |
US20230048813A1 (en) | Method of storing data and method of reading data | |
CN112783804B (zh) | 数据访问方法、装置及存储介质 | |
KR102623061B1 (ko) | 데이터베이스에서 이터레이터 연산을 수행하기 위한 장치 | |
KR102275706B1 (ko) | 데이터 저장 장치의 작동 방법과 이를 포함하는 데이터 처리 시스템의 작동 방법 | |
CN113031849A (zh) | 直接内存存取单元及控制部件 | |
CN110737396A (zh) | 数据复制的方法、设备和计算机程序产品 | |
CN116955228A (zh) | 一种处理写命令的加速器 | |
CN114610678A (zh) | 一种文件访问方法、存储节点以及网卡 | |
CN103914525A (zh) | Fat32格式的usb设备重定向后的数据读取方法和系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |