主页 > 新闻资讯 > Hadoop集群:Hadoop集群搭建注意事项

Hadoop集群:Hadoop集群搭建注意事项

作者:张老师 浏览次数: 2020-01-16 11:37
在Hadoop框架技术的学习当中,Hadoop集群搭建无疑是开启学习的第一步,在理论学习的同时,结合实际操作,这样对于技术的深度学习和掌握也是很有好处的。但是Hadoop集群搭建,也有需要注意的一些地方,下面我们就来为大家分享一些Hadoop集群搭建注意事项。

搭建Hadoop集群环境,一般有三种选择,本地模式、伪分布模式、完全分布模式,这三种模式当中,完全分布式模式是最接近Hadoop实际工作状态的,也是搭建起来比较耗费时间的。

Hadoop集群

一般Hadoop集群本地模式和伪分布式模式,在开发和测试环境当中用得比较多,搭建起来也比较简单,基本上只要会搭建完全分布式,本地模式和伪分布式就完全是小case了。

Hadoop集群搭建之前,一定要考虑的两个方面因素,一是硬件条件,二是软件条件。

硬件条件方面,首先需要考虑这个集群需要包含几个节点(Node),在分布式环节当中,一个节点需要一个服务器来承担,而节点越多,集群性能越高,但是相应地成本也在提高。一般来说,一个最低标准的Hadoop集群,需要三台服务器来搭建,也就是NameNode、Secondary NameNode和DataNode分别需要一个节点。

其次,还需要考虑集群环境中各个服务里该如何选择配置。配置选型的问题,其实主要就是内存、CPU、存储等的选择,在成本预算之内,当然是配置越高越好,但是如果预算有限,可以对Hadoop集群当中的各个节点,根据角色的划分有侧重点进行配置。NameNode运行的服务器,因为要调度和协调整个集群,所以服务器配置一定要高于其他节点。

软件条件方面,Hadoop集群需要考虑的包括OS操作系统,Hadoop版本,JDK版本,Hive版本、MySQL版本等。

操作系统,主流的选择就是Linux操作系统,优先建议CentOS,开源免费,且运行稳定。

Hadoop版本选择,Hadoop2.0这个系列是现在用得比较多的,JDK版本是和Hadoop版本相匹配的,自己去官网查询下载就可以了。

有了以上这些基础准备,下一步就可以正式开始Hadoop集群搭建了,不管是在学习阶段的自行练手也好,还是在实际工作当中去真正搭建一个集群环境,这些因素都是需要考虑到位的。成都加米谷大数据,大数据技术知识分享,专业大数据培训班,更多课程详情可联系客服了解!
热点排行
推荐文章
立即申请>>