主页 > 新闻资讯 > Hadoop数据库:Hadoop数据存储实现解析

Hadoop数据库:Hadoop数据存储实现解析

作者:张老师 浏览次数: 2020-02-20 18:30
大数据时代,行业催生出对大数据处理技术的需求,而要实现大数据处理,首先需要解决的是大数据存储的问题。以Hadoop框架来说,大规模的数据如何实现从存储到计算到结果输出的流程呢,这其中涉及到很关键的就是Hadoop数据库实现数据存储的逻辑的。

首先,大数据存储所面临的大数据,类型丰富多样。有结构化数据,比如说来自关系型数据库当中的数据;有半结构化数据,使用key-value方式存储,比如说来自NoSQL数据库当中的数据;还有非结构化数据:没有规则可言比如说图像,视频等。

Hadoop数据库

面对这样的数据存储对象,Hadoop数据库要如何把这些数据存储起来,并且支持高效检索、修改、增加和分析呢?

首先,Hbase,作为NoSql数据库,以key-value方式存储数据,最大化利用内存空间,方便科学计算。

其次,HDFS分布式文件系统,有效利用磁盘空间存储数据。基于分布式集群环境,可以实现可靠的存储PB级别的数据,使用datanode方式并行计算数据,支持数据检索分析。

在实际的数据分析处理任务当中,HBase提供对大规模数据的随机、实时读写访问。HBase是可以提供实时计算的分布式数据库,数据被保存在HDFS(分布式文件系统)上,由HDFS保证其高容错性。

HBase上的数据是以二进制流的形式存储在HDFS上的数据块中的,但是,HBase上的存储数据对于HDFS是透明的。

HBase可以直接使用本地文件系统,也可以使用Hadoop的HDFS。HBase中保存的数据可以使用MapReduce来处理,它将数据存储和并行计算有机地结合在一起。

HBase按列族进行数据存储的。每个列族会包括许多列,并且这些列是经常需要同时处理的属性。也就是说,HBase把经常需要一起处理的列构成列族一起存放,从而避免了需要对这些列进行重构的操作。

总的来说,Hadoop数据库在实际的数据存储任务当中的表现,基于Hadoop集群环境,能够为下一步的分布式计算提供稳定可靠的支持,而这也是Hadoop系统在数据处理上的优势之一。成都加米谷大数据,大数据知识分享,大数据培训班课程,课程详情可联系客服了解!
热点排行
推荐文章
立即申请>>