专利摘要
本发明公开了一种大数据的分布式存储方法,包括:获取组数据和标记列表;将获取得到的组数据和标记列表存储在暂存空间中;根据标记列表中的标记符划分出若干个储存空间;复制标记列表中的标记符;在所述储存空间中分成三个储存仓,分别为第一储存仓、第二储存仓和第三储存仓;将复制得到的标记符存储到第一储存仓中;根据所述第一储存仓中的标记符,从所述暂存空间中寻找具有相同标记符的组数据,将寻找得到的组数据存储到第二储存仓中;建立存储地址与组数据编号之间的映射关系,并将所述映射关系制成映射表存储在第三储存仓中。本发明存储有序,避免了现有技术中存储混乱的情况。可用于大数据存储领域。
权利要求
1.一种大数据的分布式存储方法,其特征在于,包括:
步骤1、获取组数据和标记列表;
步骤2、将获取得到的组数据和标记列表存储在暂存空间中;
步骤3、根据标记列表中的标记符划分出若干个储存空间;
步骤4、复制标记列表中的标记符;
步骤5、在所述储存空间中分成三个储存仓,分别为第一储存仓、第二储存仓和第三储存仓;
步骤6、将复制得到的标记符存储到第一储存仓中;
步骤7、根据所述第一储存仓中的标记符,从所述暂存空间中寻找具有相同标记符的组数据,将寻找得到的组数据存储到第二储存仓中;
步骤8、建立存储地址与组数据编号之间的映射关系,并将所述映射关系制成映射表存储在第三储存仓中。
2.根据权利要求1所述的一种大数据的分布式存储方法,其特征在于,在步骤1中,所述组数据和标记列表的获取方法包括:
步骤1.1、从工业场景中采集数据,并对采集得到的数据按照采集源头进行分类,分类后的数据记为准类数据;
步骤1.2、设立描述不同采集源头的标记符;
步骤1.3、将标记符对应的加载到所述准类数据中,加载标记符后的准类数据记为类数据;
步骤1.4、将类数据中的标记符分离出来;
步骤1.5、将类数据按照顺序划分出若干个等数据量大小的子数据;
步骤1.6、给所述子数据分配描述子数据之间顺序关系的编号;
步骤1.7、复制两次所述标记符;
步骤1.8、将所述编号与第一次复制得到的标记符对应地附着在子数据中,附着标记符和编号的子数据记为组数据;
步骤1.9、将第二次复制得到的标记符汇集在表格文件中,得到标记列表;
步骤1.10、将所述组数据和标记列表上传至互联网;
步骤1.11、从互联网中获取得到组数据和标记列表。
3.根据权利要求1所述的一种大数据的分布式存储方法,其特征在于,所述储存空间包括数据库。
4.根据权利要求1所述的一种大数据的分布式存储方法,其特征在于,在步骤8后面还包括:
步骤9、删除所述暂存空间中的组数据和标记列表。
说明书
技术领域
本发明创造涉及数据存储技术领域,特别涉及一种大数据的分布式存储方法。
背景技术
随着行业应用系统的发展,各种信息系统应用数据快速增长,企业的信息化建设已逐步进入了大数据时代。
大数据的存储一般会将数据上传至互联网,通过互联网的储存空间对数据进行存储,现有的存储方法一般会直接将大数据存储在储存空间中,容易造成存储混乱,不利于后续整理。
发明内容
本发明的目的是提供一种有序的大数据存储方法。
本发明解决其技术问题的解决方案是:一种大数据的分布式存储方法,包括:
步骤1、获取组数据和标记列表;
步骤2、将获取得到的组数据和标记列表存储在暂存空间中;
步骤3、根据标记列表中的标记符划分出若干个储存空间;
步骤4、复制标记列表中的标记符;
步骤5、在所述储存空间中分成三个储存仓,分别为第一储存仓、第二储存仓和第三储存仓;
步骤6、将复制得到的标记符存储到第一储存仓中;
步骤7、根据所述第一储存仓中的标记符,从所述暂存空间中寻找具有相同标记符的组数据,将寻找得到的组数据存储到第二储存仓中;
步骤8、建立存储地址与组数据编号之间的映射关系,并将所述映射关系制成映射表存储在第三储存仓中。
进一步,在步骤1中,所述组数据和标记列表的获取方法包括:
步骤1.1、从工业场景中采集数据,并对采集得到的数据按照采集源头进行分类,分类后的数据记为准类数据;
步骤1.2、设立描述不同采集源头的标记符;
步骤1.3、将标记符对应的加载到所述准类数据中,加载标记符后的准类数据记为类数据;
步骤1.4、将类数据中的标记符分离出来;
步骤1.5、将类数据按照顺序划分出若干个等数据量大小的子数据;
步骤1.6、给所述子数据分配描述子数据之间顺序关系的编号;
步骤1.7、复制两次所述标记符;
步骤1.8、将所述编号与第一次复制得到的标记符对应地附着在子数据中,附着标记符和编号的子数据记为组数据;
步骤1.9、将第二次复制得到的标记符汇集在表格文件中,得到标记列表;
步骤1.10、将所述组数据和标记列表上传至互联网;
步骤1.11、从互联网中获取得到组数据和标记列表。
进一步,所述储存空间包括数据库。
进一步,在步骤8后面还包括:
步骤9、删除所述暂存空间中的组数据和标记列表。
本发明的有益效果是:本发明通过将储存空间划分为三个储存仓,并从组数据中提取编号和在标记列表中提取标记符,将标记符存储在第一储存仓中,根据所述编号将组数据有序的存储在第二储存仓中,并同时将记载组数据的存储地址与编号之间映射关系的映射表存储在第三储存仓中,存储有序,避免了现有技术中存储混乱的情况。
附图说明
为了更清楚地说明本发明实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单说明。显然,所描述的附图只是本发明的一部分实施例,而不是全部实施例,本领域的技术人员在不付出创造性劳动的前提下,还可以根据这些附图获得其他设计方案和附图。
图1是本发明方法的步骤流程图;
图2是组数据和标记列表的获取方法的步骤流程图。
具体实施方式
以下将结合实施例和附图对本发明的构思、具体结构及产生的技术效果进行清楚、完整地描述,以充分地理解本发明的目的、特征和效果。显然,所描述的实施例只是本发明的一部分实施例,而不是全部实施例,基于本发明的实施例,本领域的技术人员在不付出创造性劳动的前提下所获得的其他实施例,均属于本发明保护的范围。另外,文中所提到的所有联接/连接关系,并非单指构件直接相接,而是指可根据具体实施情况,通过添加或减少联接辅件,来组成更优的联接结构。本发明创造中的各个技术特征,在不互相矛盾冲突的前提下可以交互组合。
实施例1,参考图1和图2,一种大数据的分布式存储方法,包括:
步骤1、获取组数据和标记列表;
步骤2、将获取得到的组数据和标记列表存储在暂存空间中;利用暂存空间作为存储的缓冲。
步骤3、根据标记列表中的标记符划分出若干个储存空间;
步骤4、复制标记列表中的标记符;
步骤5、在所述储存空间中分成三个储存仓,分别为第一储存仓、第二储存仓和第三储存仓;
步骤6、将复制得到的标记符存储到第一储存仓中;
步骤7、根据所述第一储存仓中的标记符,从所述暂存空间中寻找具有相同标记符的组数据,将寻找得到的组数据存储到第二储存仓中;
步骤8、建立存储地址与组数据编号之间的映射关系,并将所述映射关系制成映射表存储在第三储存仓中;
步骤9、删除所述暂存空间中的组数据和标记列表。
本发明通过将储存空间划分为三个储存仓,并从组数据中提取编号和在标记列表中提取标记符,将标记符存储在第一储存仓中,根据所述编号将组数据有序的存储在第二储存仓中,并同时将记载组数据的存储地址与编号之间映射关系的映射表存储在第三储存仓中,存储有序,避免了现有技术中存储混乱的情况。
其中,在步骤1中,所述组数据和标记列表的获取方法包括:
步骤1.1、从工业场景中采集数据,并对采集得到的数据按照采集源头进行分类,分类后的数据记为准类数据;
其中,所述采集源头可以为不同的设备,可以对采集得到的数据按照不同设备进行分类,比如,将从A设备采集的数据为一类,从B设备采集的数据为另一类。
步骤1.2、设立描述不同采集源头的标记符;例如,从A设备采集的数据,则可设立标记符a,从B设备采集的数据则可设立标记符b。
步骤1.3、将标记符对应的加载到所述准类数据中,加载标记符后的准类数据记为类数据;
步骤1.4、将类数据中的标记符分离出来;
步骤1.5、将类数据按照顺序划分出若干个等数据量大小的子数据;具体的,将类数据按照数据量的大小划分出若干个等数据量大小的子数据,例如类数据的数据量为100KB,那么可以划分出5个子数据,每一个子数据的数据量为20KB。
步骤1.6、给所述子数据分配描述子数据之间顺序关系的编号;
步骤1.7、复制两次所述标记符;
步骤1.8、将所述编号与第一次复制得到的标记符对应地附着在子数据中,附着标记符和编号的子数据记为组数据;
步骤1.9、将第二次复制得到的标记符汇集在表格文件中,得到标记列表;
步骤1.10、将所述组数据和标记列表上传至互联网;
步骤1.11、从互联网中获取得到组数据和标记列表。
作为优化,所述储存空间包括数据库。
以上对本发明的较佳实施方式进行了具体说明,但本发明创造并不限于所述实施例,熟悉本领域的技术人员在不违背本发明精神的前提下还可做出种种的等同变型或替换,这些等同的变型或替换均包含在本申请权利要求所限定的范围内。
一种大数据的分布式存储方法专利购买费用说明
Q:办理专利转让的流程及所需资料
A:专利权人变更需要办理著录项目变更手续,有代理机构的,变更手续应当由代理机构办理。
1:专利变更应当使用专利局统一制作的“著录项目变更申报书”提出。
2:按规定缴纳著录项目变更手续费。
3:同时提交相关证明文件原件。
4:专利权转移的,变更后的专利权人委托新专利代理机构的,应当提交变更后的全体专利申请人签字或者盖章的委托书。
Q:专利著录项目变更费用如何缴交
A:(1)直接到国家知识产权局受理大厅收费窗口缴纳,(2)通过代办处缴纳,(3)通过邮局或者银行汇款,更多缴纳方式
Q:专利转让变更,多久能出结果
A:著录项目变更请求书递交后,一般1-2个月左右就会收到通知,国家知识产权局会下达《转让手续合格通知书》。
动态评分
0.0