专利转让平台_买专利_卖专利_中国高校专利技术交易-买卖发明专利上知查网

全部分类
全部分类
一种适用于大数据环境的数据流存储管理方法及系统

一种适用于大数据环境的数据流存储管理方法及系统

IPC分类号 : G06F12/08

申请号
CN201410228006.4
可选规格
  • 专利类型: 发明专利
  • 法律状态: 有权
  • 申请日: 2014-05-27
  • 公开号: CN104050100A
  • 公开日: 2014-09-17
  • 主分类号: G06F12/08
  • 专利权人: 重庆大学

专利摘要

本发明公开了一种适用于大数据环境的数据流存储管理方法和系统,首先建立数据服务器;然后获取存储数据;最后判断存储数据的数据量,数据量大时采用事件触发机制控制存储方式将存储数据存入数据服务器;数据量小时采用时钟频率控制存储方式将存储数据存入数据服务器。本发明提供一种适用于大数据环境的数据流存储管理系统的架构方法。采用分布式数据存储,提高信息服务的响应能力。采用步进控制和事件控制共同控制存储时间间隔,利用窗口大小可变的批量存储模块,采用由多个单个动态大小的缓冲器组成的缓冲器组。对数据进行简单的处理和索引更新。提高数据流存储效率,提高信息服务响应速度,兼顾检索过程,提高检索效率;从而提高企业的运作效率。

权利要求

1.一种适用于大数据环境的数据流存储管理方法,其特征在于:包括以下步骤:

S1:建立数据服务器;

S2:获取存储数据;

S3:判断存储数据的数据量是否超过预设阈值,如果是,则采用事件触发机制控制存储方式将存储数据存入数据服务器;

S4:如果否,则采用时钟频率控制存储方式将存储数据存入数据服务器。

2.根据权利要求1所述的适用于大数据环境的数据流存储管理方法,其特征在于:所述时钟频率控制存储过程采用以下步骤:

S31:获取数据量和数据类型;

S32:根据数据量和数据类型设置批量存储的动态窗口;

S33:设置存储时钟频率;

S34:按照动态窗口和存储时钟频率将数据存入存储缓冲器;

S35:检测存储缓冲器是否存满数据,如果是,则将存储缓冲器内的数据存储;

S36:如果否,则返回步骤S34。

3.根据权利要求1所述的适用于大数据环境的数据流存储管理方法,其特征在于:所述事件触发机制控制存储过程采用以下步骤:

S41:获取数据量和数据类型;

S42:按照数据量和数据类型设置存储缓冲器;

S43:将数据存入存储缓冲器;

S44:检测存储缓冲器是否存满数据,如果是,则将存储缓冲器内的数据存储;

S45:如果否,则返回步骤S43。

4.根据权利要求2所述的适用于大数据环境的数据流存储管理方法,其特征在于:所述时钟频率控制存储过程中的存储缓冲器采用以下步骤来调整:

S5:获取存储数据的数据量;

S6:判断数据量是否超过缓冲器预设值;如果是,则将缓冲器的大小按预设倍率增大;

S7:如果否,则将缓冲器的大小按预设倍率减小。

5.根据权利要求4所述的适用于大数据环境的数据流存储管理方法,其特征在于:所述存储缓冲器大小为动态多级存储缓冲器;所述事件触发机制控制存储过程中的存储缓冲器采用以下方式来调整:将缓冲器的大小调整到预设最大值。

6.根据权利要求2所述的适用于大数据环境的数据流存储管理方法,其特征在于:所述动态窗口采用以下步骤来调整:

首先获取数据量和数据类型;然后根据数据量和数据类型在预设存储窗口规则中选择相应的窗口大小值。

7.一种适用于大数据环境的数据流存储管理系统,其特征在于:包括数据服务器单元、数据采集单元和存储模式单元;

所述数据服务器单元,用于建立数据服务器;

所述数据采集单元,用于获取存储数据;

所述存储模式单元用于通过判断存储数据的数据量来确定数据存储模式,所述存储模式单元包括事件触发机制控制存储模式和时钟频率控制存储模式;

所述事件触发机制控制存储模式,用于当存储数据的数据量超过预设阈值,则采用事件触发机制控制存储方式将存储数据存入数据服务器;

所述时钟频率控制存储模式,用于当存储数据的数据量低于预设阈值,则采用时钟频率控制存储方式将存储数据存入数据服务器。

所述时钟频率控制存储模式采用以下步骤:

S31:获取数据量和数据类型;

S32:根据数据量和数据类型设置批量存储的动态窗口;

S33:设置存储时钟频率;

S34:按照动态窗口和存储时钟频率将数据存入存储缓冲器;

S35:检测存储缓冲器是否存满数据,如果是,则将存储缓冲器内的数据存储;

S36:如果否,则返回步骤S34;

所述事件触发机制控制存储模式采用以下步骤:

S41:获取数据量和数据类型;

S42:按照数据量和数据类型设置存储缓冲器;

S43:将数据存入存储缓冲器;

S44:检测存储缓冲器是否存满数据,如果是,则将存储缓冲器内的数据存储;

S45:如果否,则返回步骤S43。

8.根据权利要求7所述的适用于大数据环境的数据流存储管理系统,其特征在于:所述时钟频率控制存储过程中的存储缓冲器采用以下步骤来调整:

S5:获取存储数据的数据量;

S6:判断数据量是否超过缓冲器预设值;如果是,则将缓冲器的大小按预设倍率增大;

S7:如果否,则将缓冲器的大小按预设倍率减小。

9.根据权利要求7所述的适用于大数据环境的数据流存储管理系统,其特征在于:所述存储缓冲器大小为动态多级存储缓冲器;所述事件触发机制控制存储过程中的存储缓冲器采用以下方式来调整:将缓冲器的大小调整到预设最大值。

10.根据权利要求7所述的适用于大数据环境的数据流存储管理系统,其特征在于:所述动态窗口采用以下步骤来调整:

首先获取数据量和数据类型;然后根据数据量和数据类型在预设存储窗口规则中选择相应的窗口大小值。

说明书

技术领域

本发明涉及计算机信息数据存储,特别涉及一种适用于大数据环境的数据流存储管理方法及系统。 

背景技术

大数据环境下现有的数据记录体系大多采用固定窗口大小批量存储的方式来存储数据。随着数据规模的扩大,存储的效率不高。 

现有数据记录体系在对数据记录高并发性和数据的海量性的存储能力不足,并且数据记录对数据进行任何处理,后续查询就需要耗费更多的时间和资源来对数据进行检索。 

因此需要一种适用于大数据环境的数据流存储管理方法及系统。 

发明内容

有鉴于此,本发明所要解决的技术问题是提供一种适用于大数据环境的数据流存储管理方法及系统。 

本发明是通过以下技术方案来实现的: 

本发明的目的之一是提出一种适用于大数据环境的数据流存储管理方法;本发明的目的之二是提出一种适用于大数据环境的数据流存储管理系统。 

本发明的目的之一是通过以下技术方案来实现的: 

本发明提供的一种适用于大数据环境的数据流存储管理方法,包括以下步骤: 

S1:建立数据服务器; 

S2:获取存储数据; 

S3:判断存储数据的数据量是否超过预设阈值,如果是,则采用事件触发机制控制存储方式将存储数据存入数据服务器; 

S4:如果否,则采用时钟频率控制存储方式将存储数据存入数据服务器。 

进一步,所述时钟频率控制存储过程采用以下步骤: 

S31:获取数据量和数据类型; 

S32:根据数据量和数据类型设置批量存储的动态窗口; 

S33:设置存储时钟频率; 

S34:按照动态窗口和存储时钟频率将数据存入存储缓冲器; 

S35:检测存储缓冲器是否存满数据,如果是,则将存储缓冲器内的数据存储; 

S36:如果否,则返回步骤S34。 

进一步,所述事件触发机制控制存储过程采用以下步骤: 

S41:获取数据量和数据类型; 

S42:按照数据量和数据类型设置存储缓冲器; 

S43:将数据存入存储缓冲器; 

S44:检测存储缓冲器是否存满数据,如果是,则将存储缓冲器内的数据存储; 

S45:如果否,则返回步骤S43。 

进一步,所述时钟频率控制存储过程中的存储缓冲器采用以下步骤来调整: 

S5:获取存储数据的数据量; 

S6:判断数据量是否超过缓冲器预设值;如果是,则将缓冲器的大小按预设倍率增大; 

S7:如果否,则将缓冲器的大小按预设倍率减小。 

进一步,所述存储缓冲器大小为动态多级存储缓冲器;所述事件触发机制控制存储过程中的存储缓冲器采用以下方式来调整:将缓冲器的大小调整到预设最大值。 

进一步,所述动态窗口采用以下步骤来调整: 

首先获取数据量和数据类型;然后根据数据量和数据类型在预设存储窗口规则中选择相应的窗口大小值。 

本发明的目的之二是通过以下技术方案来实现的: 

本发明提供的一种适用于大数据环境的数据流存储管理系统,包括数据服务器单元、数据采集单元、存储模式单元; 

所述数据服务器单元,用于建立数据服务器; 

所述数据采集单元,用于获取存储数据; 

所述存储模式单元用于通过判断存储数据的数据量来确定数据存储模式,所述存储模式单元包括事件触发机制控制存储模式和时钟频率控制存储模式; 

所述事件触发机制控制存储模式,用于当存储数据的数据量超过预设阈值,则采用事件触发机制控制存储方式将存储数据存入数据服务器; 

所述时钟频率控制存储模式,用于当存储数据的数据量低于预设阈值,则采用时钟频率控制存储方式将存储数据存入数据服务器。 

所述时钟频率控制存储模式采用以下步骤: 

S31:获取数据量和数据类型; 

S32:根据数据量和数据类型设置批量存储的动态窗口; 

S33:设置存储时钟频率; 

S34:按照动态窗口和存储时钟频率将数据存入存储缓冲器; 

S35:检测存储缓冲器是否存满数据,如果是,则将存储缓冲器内的数据存储; 

S36:如果否,则返回步骤S34; 

所述事件触发机制控制存储模式采用以下步骤: 

S41:获取数据量和数据类型; 

S42:按照数据量和数据类型设置存储缓冲器; 

S43:将数据存入存储缓冲器; 

S44:检测存储缓冲器是否存满数据,如果是,则将存储缓冲器内的数据存储; 

S45:如果否,则返回步骤S43。 

进一步,所述时钟频率控制存储过程中的存储缓冲器采用以下步骤来调整: 

S5:获取存储数据的数据量; 

S6:判断数据量是否超过缓冲器预设值;如果是,则将缓冲器的大小按预设倍率增大; 

S7:如果否,则将缓冲器的大小按预设倍率减小。 

进一步,所述存储缓冲器大小为动态多级存储缓冲器;所述事件触发机制控制存储过程中的存储缓冲器采用以下方式来调整:将缓冲器的大小调整到预设最大值。 

进一步,所述动态窗口采用以下步骤来调整: 

首先获取数据量和数据类型;然后根据数据量和数据类型在预设存储窗口规则中选择相应的窗口大小值。 

本发明的有益效果在于:本发明提供了一种适用于大数据环境的数据流存储管理系统的架构方法。采用分布式数据存储,提高信息服务的响应能力。采用步进控制和事件控制共同控制存储时间间隔,利用窗口大小可变的批量存储模块,采用由多个单个动态大小的缓冲器组成的缓冲器组。并对数据进行简单的处理,进行索引更新。提高了数据流存储效率,提高了信息服务响应速度,并且兼顾后续的检索过程,为数据添加索引,提高检索效率;从而提高企业的运作效率。 

附图说明

为了使本发明的目的、技术方案和优点更加清楚,下面将结合附图对本发明作进一步的详细描述,其中: 

图1为本发明实施例提供的适用于大数据环境的数据流存储管理方法流程图; 

图2为本发明实施例提供的适用于大数据环境的数据流存储管理系统图。 

具体实施方式

以下将参照附图,对本发明的优选实施例进行详细的描述。应当理解,优选实施例仅为了说明本发明,而不是为了限制本发明的保护范围。 

图1为本发明实施例提供的适用于大数据环境的数据流存储管理方法流程图;图2为本发明实施例提供的适用于大数据环境的数据流存储管理系统图,如图所示:本发明提供的一种适用于大数据环境的数据流存储管理方法,包括以下步骤: 

S1:建立数据服务器; 

S2:获取存储数据; 

S3:判断存储数据的数据量是否超过预设阈值,如果是,则采用事件触发机制控制存储方式将存储数据存入数据服务器; 

S4:如果否,则采用时钟频率控制存储方式将存储数据存入数据服务器。 

所述时钟频率控制存储过程采用以下步骤: 

S31:获取数据量和数据类型; 

S32:根据数据量和数据类型设置批量存储的动态窗口; 

S33:设置存储时钟频率; 

S34:按照动态窗口和存储时钟频率将数据存入存储缓冲器; 

S35:检测存储缓冲器是否存满数据,如果是,则将存储缓冲器内的数据存储; 

S36:如果否,则返回步骤S34。 

所述事件触发机制控制存储过程采用以下步骤: 

S41:获取数据量和数据类型; 

S42:按照数据量和数据类型设置存储缓冲器; 

S43:将数据存入存储缓冲器; 

S44:检测存储缓冲器是否存满数据,如果是,则将存储缓冲器内的数据存储; 

S45:如果否,则返回步骤S43。 

所述时钟频率控制存储过程中的存储缓冲器采用以下步骤来调整: 

S5:获取存储数据的数据量; 

S6:判断数据量是否超过缓冲器预设值;如果是,则将缓冲器的大小按预设倍率增大; 

S7:如果否,则将缓冲器的大小按预设倍率减小。 

所述存储缓冲器大小为动态多级存储缓冲器;所述事件触发机制控制存储过程中的存储缓冲器采用以下方式来调整:将缓冲器的大小调整到预设最大值。 

所述动态窗口采用以下步骤来调整: 

首先获取数据量和数据类型;然后根据数据量和数据类型在预设存储窗口规则中选择相应的窗口大小值。 

本实施例还提供了一种适用于大数据环境的数据流存储管理系统,包括数据服务器单元、数据采集单元、存储模式单元; 

所述数据服务器单元,用于建立数据服务器; 

所述数据采集单元,用于获取存储数据; 

所述存储模式单元用于通过判断存储数据的数据量来确定数据存储模式,所述存储模式单元包括事件触发机制控制存储模式和时钟频率控制存储模式; 

所述事件触发机制控制存储模式,用于当存储数据的数据量超过预设阈值,则采用事件触发机制控制存储方式将存储数据存入数据服务器; 

所述时钟频率控制存储模式,用于当存储数据的数据量低于预设阈值,则采用时钟频率控制存储方式将存储数据存入数据服务器。 

所述时钟频率控制存储模式采用以下步骤: 

S31:获取数据量和数据类型; 

S32:根据数据量和数据类型设置批量存储的动态窗口; 

S33:设置存储时钟频率; 

S34:按照动态窗口和存储时钟频率将数据存入存储缓冲器; 

S35:检测存储缓冲器是否存满数据,如果是,则将存储缓冲器内的数据存储; 

S36:如果否,则返回步骤S34; 

所述事件触发机制控制存储模式采用以下步骤: 

S41:获取数据量和数据类型; 

S42:按照数据量和数据类型设置存储缓冲器; 

S43:将数据存入存储缓冲器; 

S44:检测存储缓冲器是否存满数据,如果是,则将存储缓冲器内的数据存储; 

S45:如果否,则返回步骤S43。 

所述时钟频率控制存储过程中的存储缓冲器采用以下步骤来调整: 

S5:获取存储数据的数据量; 

S6:判断数据量是否超过缓冲器预设值;如果是,则将缓冲器的大小按预设倍率增大; 

S7:如果否,则将缓冲器的大小按预设倍率减小。 

所述存储缓冲器大小为动态多级存储缓冲器;所述事件触发机制控制存储过程中的存储缓冲器采用以下方式来调整:将缓冲器的大小调整到预设最大值。 

所述动态窗口采用以下步骤来调整: 

首先获取数据量和数据类型;然后根据数据量和数据类型在预设存储窗口规则中选择相应的窗口大小值。 

用户或者管理者还可以根据自己系统的配置和运行的标准来进行设置。如当一个数据块大于5G时,则将缓冲器的大小增大一倍或者是增大到一个具体的空间。 

最后说明的是,以上实施例仅用以说明本发明的技术方案而非限制,尽管通过参照本发明的优选实施例已经对本发明进行了描述,但本领域的普通技术人员应当理解,可以在形式上和细节上对其作出各种各样的改变,而不偏离所附权利要求书所限定的本发明的精神和范围。 

一种适用于大数据环境的数据流存储管理方法及系统专利购买费用说明

专利买卖交易资料

Q:办理专利转让的流程及所需资料

A:专利权人变更需要办理著录项目变更手续,有代理机构的,变更手续应当由代理机构办理。

1:专利变更应当使用专利局统一制作的“著录项目变更申报书”提出。

2:按规定缴纳著录项目变更手续费。

3:同时提交相关证明文件原件。

4:专利权转移的,变更后的专利权人委托新专利代理机构的,应当提交变更后的全体专利申请人签字或者盖章的委托书。

Q:专利著录项目变更费用如何缴交

A:(1)直接到国家知识产权局受理大厅收费窗口缴纳,(2)通过代办处缴纳,(3)通过邮局或者银行汇款,更多缴纳方式

Q:专利转让变更,多久能出结果

A:著录项目变更请求书递交后,一般1-2个月左右就会收到通知,国家知识产权局会下达《转让手续合格通知书》。

动态评分

0.0

没有评分数据
没有评价数据
×

打开微信,点击底部的“发现”

使用“扫一扫”即可将网页分享至朋友圈

×
复制
用户中心
我的足迹
我的收藏

您的购物车还是空的,您可以

  • 微信公众号

    微信公众号
在线留言
返回顶部