CN112506651B - 一种大数据量环境中数据运算的方法和设备 - Google Patents
一种大数据量环境中数据运算的方法和设备 Download PDFInfo
- Publication number
- CN112506651B CN112506651B CN202011363989.4A CN202011363989A CN112506651B CN 112506651 B CN112506651 B CN 112506651B CN 202011363989 A CN202011363989 A CN 202011363989A CN 112506651 B CN112506651 B CN 112506651B
- Authority
- CN
- China
- Prior art keywords
- data
- integer
- char
- bit
- memory space
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 41
- 238000013500 data storage Methods 0.000 claims abstract description 39
- 230000004044 response Effects 0.000 claims description 37
- 230000004048 modification Effects 0.000 claims description 5
- 238000012986 modification Methods 0.000 claims description 5
- 238000004590 computer program Methods 0.000 description 5
- 238000010586 diagram Methods 0.000 description 3
- 230000008569 process Effects 0.000 description 3
- 230000008901 benefit Effects 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000003672 processing method Methods 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 238000013499 data model Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 230000008030 elimination Effects 0.000 description 1
- 238000003379 elimination reaction Methods 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 230000005055 memory storage Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000012163 sequencing technique Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
- G06F9/5011—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resources being hardware resources other than CPUs, Servers and Terminals
- G06F9/5016—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resources being hardware resources other than CPUs, Servers and Terminals the resource being the memory
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0602—Interfaces specially adapted for storage systems specifically adapted to achieve a particular effect
- G06F3/0608—Saving storage space on storage systems
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Software Systems (AREA)
- Human Computer Interaction (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明提供了一种大数据量环境中数据运算的方法和设备，该方法包括：设定char类型内存空间存储数据的方式；基于存储数据的方式使用char类型内存空间中的每个char存储待运算数据中对应数量的整数；基于存储数据的方式对每个数据进行运算。通过使用本发明的方案，能够免除大数据在内存中存放的空间，极大的提升数据运算的效率。
Description
技术领域
本领域涉及计算机领域，并且更具体地涉及一种大数据量环境中数据运算的方法和设备。
背景技术
随着网络的发展，目前服务器需要处理的数据越来越多，对大量数据进行处理加工的情况越来越常见。相应的市场上涌现了越来越多的处理这些数据的方法。目前现有的处理方式有以下几种：1、内存存放全部处理法，将全部数据放入内存中，用排序或者查重的方式对数据进行处理；2、局部淘汰法，从数据中找出一部分进行数据运算然后剩下的数据与事先找好的数据进行对比处理；3、分治法，将整体数据按照一定比例分成相同的体量的n份对n份数据分别运算或者多次递归运算。最终得出所需数据。
内存存放全部处理法是目前应用最广的方法。缺点也很明显，大数据数量庞大，如果全部放于内存中运算需要占用大量内存空间。如果需要查找10亿个查询次(每个占8B)中出现频率最高的10个，考虑到每个查询词占8B，则10亿个查询次所需的内存大约是10^9*8B＝8GB内存。一般的计算机无法支撑这么大的内存使用。该方法与排序方法类似，单纯遍历完一亿个数所用的时间也非常庞大。此种方法时间复杂度为O(n+m^2)其中m为容器大小，n为剩余数据量大小。分治法介于第一和第二中方法之间，将大数据分割处理，减小内存使用，将内存分别分配与不通的计算机中，多台机器联合运算。这要借助多台计算机的算力降低了内存使用空间提高了计算效率。但是多台计算机协同运算牵扯到计算机之间协同运算的问题。需要考虑计算备份以及协同运作的问题导致架构比较复杂。
发明内容
有鉴于此，本发明实施例的目的在于提出一种大数据量环境中数据运算的方法和设备，通过使用本发明的技术方案，能够免除大数据在内存中存放的空间，极大的提升数据运算的效率。
基于上述目的，本发明的实施例的一个方面提供了一种大数据量环境中数据运算的方法，包括以下步骤：
设定char(用于C或C++中定义字符型变量)类型内存空间存储数据的方式；
基于所述存储数据的方式使用char类型内存空间中的每个char存储待运算数据中对应数量的整数；
基于所述存储数据的方式对每个数据进行运算。
根据本发明的一个实施例，设定char类型内存空间存储数据的方式包括：
将char类型内存空间存储数据的方式设定为1个整数位128个状态、2个整数位8个状态或者4个整数位2个状态中的一种。
根据本发明的一个实施例，基于所述存储数据的方式使用char类型内存空间中的每个char存储待运算数据中对应数量的整数包括：
判断char类型内存空间存储数据的方式；
响应于char类型内存空间存储数据的方式是1个整数位128个状态，使用每个char的第一Bit位存储整数是否保存在内存中的信息，第二至第八Bit位存储整数的状态位。
根据本发明的一个实施例，基于所述存储数据的方式使用char类型内存空间中的每个char存储待运算数据中对应数量的整数包括：
判断char类型内存空间存储数据的方式；
响应于char类型内存空间存储数据的方式是2个整数位8个状态，使用每个char的第一Bit位存储第一个整数是否保存在内存中的信息，第二至第四Bit位存储所述第一个整数的状态位，第五个Bit位存储第二个整数是否保存在内存中的信息，第六至第八Bit位存储所述第二个整数的状态位。
根据本发明的一个实施例，基于所述存储数据的方式使用char类型内存空间中的每个char存储待运算数据中对应数量的整数包括：
判断char类型内存空间存储数据的方式；
响应于char类型内存空间存储数据的方式是4个整数位2个状态，使用每个char的第一Bit位存储第一个整数是否保存在内存中的信息，第二Bit位存储所述第一个整数的状态位，第三Bit位存储第二个整数是否保存在内存中的信息，第四Bit位存储所述第二个整数的状态位，第五Bit位存储第三个整数是否保存在内存中的信息，第六Bit位存储所述第三个整数的状态位，第七Bit位存储第四个整数是否保存在内存中的信息，第八Bit位存储所述第四个整数的状态位。
根据本发明的一个实施例，基于所述存储数据的方式对每个数据进行运算包括：
判断char类型内存空间存储数据的方式；
响应于char类型内存空间存储数据的方式是2个整数位8个状态，判断对数据进行哪种运算；
响应于对数据进行增加运算，使用数据除以所述存储数据的方式中的整数位的个数以得到商和余数；
找到所述商和余数指向的Bit位，将所述指向的Bit位置1。
根据本发明的一个实施例，基于所述存储数据的方式对每个数据进行运算包括：
判断char类型内存空间存储数据的方式；
响应于char类型内存空间存储数据的方式是2个整数位8个状态，判断对数据进行哪种运算；
响应于对数据进行状态修改运算，使用数据除以所述存储数据的方式中的整数位的个数以得到商和余数；
找到所述商和余数指向代表状态的Bit位，将所述代表状态的Bit位置零后与新的状态位做或运算。
根据本发明的一个实施例，基于所述存储数据的方式对每个数据进行运算包括：
判断char类型内存空间存储数据的方式；
响应于char类型内存空间存储数据的方式是2个整数位8个状态，判断对数据进行哪种运算；
响应于对数据进行删除运算，使用数据除以所述存储数据的方式中的整数位的个数以得到商和余数；
将所述商和余数指向的Bit位以及代表状态的Bit位置零。
根据本发明的一个实施例，基于所述存储数据的方式对每个数据进行运算包括：
判断char类型内存空间存储数据的方式；
响应于char类型内存空间存储数据的方式是2个整数位8个状态，判断对数据进行哪种运算；
响应于对数据进行查询运算，使用数据除以所述存储数据的方式中的整数位的个数以得到商和余数；
判断所述商和余数指向的Bit位是否为0；
响应于所述指向的Bit位是0，返回查找的数据不存在。
本发明的实施例的另一个方面，还提供了一种大数据量环境中数据运算的设备，设备包括：
设定模块，所述设定模块配置为设定char类型内存空间存储数据的方式；
存储模块，所述存储模块配置为基于所述存储数据的方式使用char类型内存空间中的每个char存储待运算数据中对应数量的整数；
运算模块，所述运算模块配置为基于所述存储数据的方式对每个数据进行运算。
本发明具有以下有益技术效果：本发明实施例提供的大数据量环境中数据运算的方法，通过设定char类型内存空间存储数据的方式；基于所述存储数据的方式使用char类型内存空间中的每个char存储待运算数据中对应数量的整数；基于所述存储数据的方式对每个数据进行运算的技术方案，能够免除大数据在内存中存放的空间，极大的提升数据运算的效率。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的实施例。
图1为根据本发明一个实施例的大数据量环境中数据运算的方法的示意性流程图；
图2为根据本发明一个实施例的大数据量环境中数据运算的设备的示意图。
具体实施方式
为使本发明的目的、技术方案和优点更加清楚明白，以下结合具体实施例，并参照附图，对本发明实施例进一步详细说明。
基于上述目的，本发明的实施例的第一个方面，提出了一种大数据量环境中数据运算的方法的一个实施例。图1示出的是该方法的示意性流程图。
如图1中所示，该方法可以包括以下步骤：
S1设定char类型内存空间存储数据的方式，根据需要可以设定三种类型的存储方式；
S2基于所述存储数据的方式使用char类型内存空间中的每个char存储待运算数据中对应数量的整数，根据上述设定的存储方式，每个char可以存储1个数据或2个数据或4个数据，该数据不是真实的存储，而是把相应的状态进行存储，节省了大量的存储空间；
S3基于所述存储数据的方式对每个数据进行运算，该运算包括对数据的增加、修改、删除和查找运算。
以64位编译器的计算机为例：一个char类型的数据占用空间1个字节(8位Bit)。一个整数占用4个字节(32位Bit)。假设我们要计算的数据模型为对100个整数及其状态进行增删改查。传统运算方式为申请100个整数的数组空间进行存储这100个整数，需要100*4＝400字节。这100个整数的状态如果用整数来表示的话，比如一个整数有3种状态，1代表这个整数出现1次，2代表这个整数出现2次，3代表这个整数出现3次。100个整数的状态进行描述需要开辟内存空间为100*4＝400字节(3200Bit)。总的进行这个数据场景运算需要的空间为800字节。
以本发明的技术方案中的一种存储方式为例，需要开辟的空间如下：以char类型为申请单位申请内存空间1个char空间有8个Bit，每个Bit有两种状态0和1。我们可以用这8个连续的Bit空间来描述两个整数及其状态。Bit[0]代表某个数值是否存在于该整数数组中，Bit[1-3]用来描述这个整数的状态，Bit[4]用来描述下一个整数是否存在于该整数数组中，Bit[5-8]用来描述该整数的状态。这样一个char空间可以存储2个整数及其状态。100个整数及状态只需要50个char空间也就是50字节(400Bit)。如果描述100亿以内的整数，每个整数有100种状态的话，传统模式下需要申请10000000000*8(double类型存储整数值)*1(char类型存储状态情况)＝800亿字节空间(74G内存空间)，新的计算方式1个char的空间可以描述一个整数和该整数的状态需要申请10000000000*1(char类型存储整数和状态)＝9.3G内存空间。由此推出整数状态越少则内存空间计算方法优势越大。状态7位Bit空间可以节省8倍，3位空间可以节省16倍，1位空间可以节省32倍内存。
通过本发明的技术方案，能够免除大数据在内存中存放的空间，极大的提升数据运算的效率。
在本发明的一个优选实施例中，设定char类型内存空间存储数据的方式包括：
将char类型内存空间存储数据的方式设定为1个整数位128个状态、2个整数位8个状态或者4个整数位2个状态中的一种。这里的整数位指的是一个char中的8个Bit存储的整数的位数，而不是存储的整数有几位数。
在本发明的一个优选实施例中，基于所述存储数据的方式使用char类型内存空间中的每个char存储待运算数据中对应数量的整数包括：
判断char类型内存空间存储数据的方式；
响应于char类型内存空间存储数据的方式是1个整数位128个状态，使用每个char的第一Bit位存储整数是否保存在内存中的信息，第二至第八Bit位存储整数的状态位。
在本发明的一个优选实施例中，基于所述存储数据的方式使用char类型内存空间中的每个char存储待运算数据中对应数量的整数包括：
判断char类型内存空间存储数据的方式；
响应于char类型内存空间存储数据的方式是2个整数位8个状态，使用每个char的第一Bit位存储第一个整数是否保存在内存中的信息，第二至第四Bit位存储所述第一个整数的状态位，第五个Bit位存储第二个整数是否保存在内存中的信息，第六至第八Bit位存储所述第二个整数的状态位。
在本发明的一个优选实施例中，基于所述存储数据的方式使用char类型内存空间中的每个char存储待运算数据中对应数量的整数包括：
判断char类型内存空间存储数据的方式；
响应于char类型内存空间存储数据的方式是4个整数位2个状态，使用每个char的第一Bit位存储第一个整数是否保存在内存中的信息，第二Bit位存储所述第一个整数的状态位，第三Bit位存储第二个整数是否保存在内存中的信息，第四Bit位存储所述第二个整数的状态位，第五Bit位存储第三个整数是否保存在内存中的信息，第六Bit位存储所述第三个整数的状态位，第七Bit位存储第四个整数是否保存在内存中的信息，第八Bit位存储所述第四个整数的状态位。
在本发明的一个优选实施例中，基于所述存储数据的方式对每个数据进行运算包括：
判断char类型内存空间存储数据的方式；
响应于char类型内存空间存储数据的方式是2个整数位8个状态，判断对数据进行哪种运算；
响应于对数据进行增加运算，使用数据除以所述存储数据的方式中的整数位的个数以得到商和余数；
找到所述商和余数指向的Bit位，将所述指向的Bit位置1。例如要增加61这个数据，判断61在所申请的空间中的位置，用61/2＝30余1，说明61的身份位置在char数组的下标30位置的第4个Bit。运行位运算将指针p[30]的第4位与0x1进行或运算。这样这个Bit的值为1说明61已经进入该数组中。
在本发明的一个优选实施例中，基于所述存储数据的方式对每个数据进行运算包括：
判断char类型内存空间存储数据的方式；
响应于char类型内存空间存储数据的方式是2个整数位8个状态，判断对数据进行哪种运算；
响应于对数据进行状态修改运算，使用数据除以所述存储数据的方式中的整数位的个数以得到商和余数；
找到所述商和余数指向代表状态的Bit位，将所述代表状态的Bit位置零后与新的状态位做或运算。例如修改整数61的状态，用61/2＝30余1，说明61的身份位置在char数组的下标30位置的第4个Bit，即修改指针p[30]的5-7位Bit的值，3位值可以存储8个状态。依实际情况比如修状态为3则先将该状态置零然后用0x11与改三位进行位运算。
在本发明的一个优选实施例中，基于所述存储数据的方式对每个数据进行运算包括：
判断char类型内存空间存储数据的方式；
响应于char类型内存空间存储数据的方式是2个整数位8个状态，判断对数据进行哪种运算；
响应于对数据进行删除运算，使用数据除以所述存储数据的方式中的整数位的个数以得到商和余数；
将所述商和余数指向的Bit位以及代表状态的Bit位置零。例如删除整数61，用61/2＝30余1，说明61的身份位置在char数组的下标30位置的第4个Bit，则首先将指针p[30]的第四位下标Bit状态置零，然后用0x0与后续的5-7位进行位运算将状态空间置零。表示数字61已经从数组中删除完毕。
在本发明的一个优选实施例中，基于所述存储数据的方式对每个数据进行运算包括：
判断char类型内存空间存储数据的方式；
响应于char类型内存空间存储数据的方式是2个整数位8个状态，判断对数据进行哪种运算；
响应于对数据进行查询运算，使用数据除以所述存储数据的方式中的整数位的个数以得到商和余数；
判断所述商和余数指向的Bit位是否为0；
响应于所述指向的Bit位是0，返回查找的数据不存在。查询某个整数的状态方式，首先计算该整数在数组内存中身份位置下标，num/2得出位置余0则是该char空间的0号Bit，余1则是该char空间的4号Bit。然后用该下标与0x0进行位运算检测是0还是1，如果是0说明改内存数组中没有该整数，如果是1则对后续的3位Bit空间进行位运算得出该整数的状态。
通过本发明的技术方案，能够免除大数据在内存中存放的空间，极大的提升数据运算的效率。
需要说明的是，本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程，可以通过计算机程序来指令相关硬件来完成，上述的程序可存储于计算机可读取存储介质中，该程序在执行时，可包括如上述各方法的实施例的流程。其中存储介质可为磁碟、光盘、只读存储器(Read-Only Memory，ROM)或随机存取存储器(Random AccessMemory，RAM)等。上述计算机程序的实施例，可以达到与之对应的前述任意方法实施例相同或者相类似的效果。
此外，根据本发明实施例公开的方法还可以被实现为由CPU执行的计算机程序，该计算机程序可以存储在计算机可读存储介质中。在该计算机程序被CPU执行时，执行本发明实施例公开的方法中限定的上述功能。
基于上述目的，本发明的实施例的第二个方面，提出了一种大数据量环境中数据运算的设备，如图2所示，设备200包括：
设定模块，所述设定模块配置为设定char类型内存空间存储数据的方式；
存储模块，所述存储模块配置为基于所述存储数据的方式使用char类型内存空间中的每个char存储待运算数据中对应数量的整数；
运算模块，所述运算模块配置为基于所述存储数据的方式对每个数据进行运算。
上述实施例，特别是任何“优选”实施例是实现的可能示例，并且仅为了清楚地理解本发明的原理而提出。可以在不脱离本文所描述的技术的精神和原理的情况下对上述实施例进行许多变化和修改。所有修改旨在被包括在本公开的范围内并且由所附权利要求保护。
Claims (8)
1.一种大数据量环境中数据运算的方法，其特征在于，包括以下步骤：
设定char类型内存空间存储数据的方式；
基于所述存储数据的方式使用char类型内存空间中的每个char存储待运算数据中对应数量的整数；
基于所述存储数据的方式对每个数据进行运算，
其中，设定char类型内存空间存储数据的方式包括：将char类型内存空间存储数据的方式设定为1个整数位128个状态、2个整数位8个状态或者4个整数位2个状态中的一种，
基于所述存储数据的方式使用char类型内存空间中的每个char存储待运算数据中对应数量的整数包括：
判断char类型内存空间存储数据的方式；
响应于char类型内存空间存储数据的方式是2个整数位8个状态，使用每个char的第一Bit位存储第一个整数是否保存在内存中的信息，第二至第四Bit位存储所述第一个整数的状态位，第五个Bit位存储第二个整数是否保存在内存中的信息，第六至第八Bit位存储所述第二个整数的状态位。
2.根据权利要求1所述的方法，其特征在于，基于所述存储数据的方式使用char类型内存空间中的每个char存储待运算数据中对应数量的整数包括：
判断char类型内存空间存储数据的方式；
响应于char类型内存空间存储数据的方式是1个整数位128个状态，使用每个char的第一Bit位存储整数是否保存在内存中的信息，第二至第八Bit位存储整数的状态位。
3.根据权利要求1所述的方法，其特征在于，基于所述存储数据的方式使用char类型内存空间中的每个char存储待运算数据中对应数量的整数包括：
判断char类型内存空间存储数据的方式；
响应于char类型内存空间存储数据的方式是4个整数位2个状态，使用每个char的第一Bit位存储第一个整数是否保存在内存中的信息，第二Bit位存储所述第一个整数的状态位，第三Bit位存储第二个整数是否保存在内存中的信息，第四Bit位存储所述第二个整数的状态位，第五Bit位存储第三个整数是否保存在内存中的信息，第六Bit位存储所述第三个整数的状态位，第七Bit位存储第四个整数是否保存在内存中的信息，第八Bit位存储所述第四个整数的状态位。
4.根据权利要求1所述的方法，其特征在于，基于所述存储数据的方式对每个数据进行运算包括：
判断char类型内存空间存储数据的方式；
响应于char类型内存空间存储数据的方式是2个整数位8个状态，判断对数据进行哪种运算；
响应于对数据进行增加运算，使用数据除以所述存储数据的方式中的整数位的个数以得到商和余数；
找到所述商和余数指向的Bit位，将所述指向的Bit位置1。
5.根据权利要求1所述的方法，其特征在于，基于所述存储数据的方式对每个数据进行运算包括：
判断char类型内存空间存储数据的方式；
响应于char类型内存空间存储数据的方式是2个整数位8个状态，判断对数据进行哪种运算；
响应于对数据进行状态修改运算，使用数据除以所述存储数据的方式中的整数位的个数以得到商和余数；
找到所述商和余数指向代表状态的Bit位，将所述代表状态的Bit位置零后与新的状态位做或运算。
6.根据权利要求1所述的方法，其特征在于，基于所述存储数据的方式对每个数据进行运算包括：
判断char类型内存空间存储数据的方式；
响应于char类型内存空间存储数据的方式是2个整数位8个状态，判断对数据进行哪种运算；
响应于对数据进行删除运算，使用数据除以所述存储数据的方式中的整数位的个数以得到商和余数；
将所述商和余数指向的Bit位以及代表状态的Bit位置零。
7.根据权利要求1所述的方法，其特征在于，基于所述存储数据的方式对每个数据进行运算包括：
判断char类型内存空间存储数据的方式；
响应于char类型内存空间存储数据的方式是2个整数位8个状态，判断对数据进行哪种运算；
响应于对数据进行查询运算，使用数据除以所述存储数据的方式中的整数位的个数以得到商和余数；
判断所述商和余数指向的Bit位是否为0；
响应于所述指向的Bit位是0，返回查找的数据不存在。
8.一种大数据量环境中数据运算的设备，其特征在于，所述设备包括：
设定模块，所述设定模块配置为设定char类型内存空间存储数据的方式；
存储模块，所述存储模块配置为基于所述存储数据的方式使用char类型内存空间中的每个char存储待运算数据中对应数量的整数；
运算模块，所述运算模块配置为基于所述存储数据的方式对每个数据进行运算，
其中，所述设定模块进一步配置用于：将char类型内存空间存储数据的方式设定为1个整数位128个状态、2个整数位8个状态或者4个整数位2个状态中的一种，
所述存储模块进一步配置用于：
判断char类型内存空间存储数据的方式；
响应于char类型内存空间存储数据的方式是2个整数位8个状态，使用每个char的第一Bit位存储第一个整数是否保存在内存中的信息，第二至第四Bit位存储所述第一个整数的状态位，第五个Bit位存储第二个整数是否保存在内存中的信息，第六至第八Bit位存储所述第二个整数的状态位。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202011363989.4A CN112506651B (zh) | 2020-11-27 | 2020-11-27 | 一种大数据量环境中数据运算的方法和设备 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202011363989.4A CN112506651B (zh) | 2020-11-27 | 2020-11-27 | 一种大数据量环境中数据运算的方法和设备 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN112506651A CN112506651A (zh) | 2021-03-16 |
| CN112506651B true CN112506651B (zh) | 2022-06-17 |
Family
ID=74967231
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202011363989.4A Active CN112506651B (zh) | 2020-11-27 | 2020-11-27 | 一种大数据量环境中数据运算的方法和设备 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN112506651B (zh) |
Families Citing this family (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN115185981B (zh) * | 2022-09-14 | 2022-11-25 | 吉奥时空信息技术股份有限公司 | 一种顾及超大表的数据查重方法及装置 |
Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN101826054A (zh) * | 2009-03-04 | 2010-09-08 | 安凯（广州）软件技术有限公司 | 一种微内存系统的内存管理方法 |
| US20180101365A1 (en) * | 2016-10-07 | 2018-04-12 | International Business Machines Corporation | Reducing waste areas inside strings |
-
2020
- 2020-11-27 CN CN202011363989.4A patent/CN112506651B/zh active Active
Patent Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN101826054A (zh) * | 2009-03-04 | 2010-09-08 | 安凯（广州）软件技术有限公司 | 一种微内存系统的内存管理方法 |
| US20180101365A1 (en) * | 2016-10-07 | 2018-04-12 | International Business Machines Corporation | Reducing waste areas inside strings |
Also Published As
| Publication number | Publication date |
|---|---|
| CN112506651A (zh) | 2021-03-16 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US5659737A (en) | Methods and apparatus for data compression that preserves order by using failure greater than and failure less than tokens | |
| CN111949710B (zh) | 数据存储方法、装置、服务器及存储介质 | |
| US20060259448A1 (en) | Methods and apparatus to compress datasets using proxies | |
| CN111258966A (zh) | 一种数据去重方法、装置、设备及存储介质 | |
| US6396420B1 (en) | Delta compression of floating point coordinate data | |
| CN111881012A (zh) | 一种日志记录方法、装置、设备及存储介质 | |
| EP4154406A1 (en) | Compression/decompression using index correlating uncompressed/compressed content | |
| CN112579595A (zh) | 数据处理方法、装置、电子设备及可读存储介质 | |
| CN112506651B (zh) | 一种大数据量环境中数据运算的方法和设备 | |
| CN111274245B (zh) | 一种用于优化数据存储的方法和装置 | |
| CN109634983B (zh) | 召回兴趣点信息的确定方法、装置、设备和介质 | |
| CN112748866A (zh) | 一种增量索引数据的处理方法和装置 | |
| US6510499B1 (en) | Method, apparatus, and article of manufacture for providing access to data stored in compressed files | |
| US20130204839A1 (en) | Validating Files Using a Sliding Window to Access and Correlate Records in an Arbitrarily Large Dataset | |
| CN113760894A (zh) | 数据调取方法、装置、电子设备及存储介质 | |
| CN115080684B (zh) | 网盘文档索引方法、装置、网盘及存储介质 | |
| CN116610636A (zh) | 一种文件系统的数据处理方法、装置、电子设备及存储介质 | |
| CN114238250A (zh) | 程序文件压缩方法、装置及电子设备 | |
| CN112487111A (zh) | 基于kv数据库的数据表关联方法及装置 | |
| CN114065727A (zh) | 资讯去重方法、设备及计算机可读介质 | |
| CN113805787A (zh) | 数据写入方法、装置、设备及存储介质 | |
| CN109947775B (zh) | 数据处理方法、装置、电子设备及计算机可读介质 | |
| CN113535710B (zh) | 一种搜索方法、装置、终端设备及存储介质 | |
| CN116664129B (zh) | 区块链账本数据迭代方法、电子设备及可读存储介质 | |
| US20240302963A1 (en) | Method, electronic device, and computer program product for data detection |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |