主页 > 新闻资讯 > Spark Scala基础:Spark框架Scala编程的知识分享

Spark Scala基础:Spark框架Scala编程的知识分享

作者:张老师 浏览次数: 2020-02-11 18:15
在Spark入门阶段,大家都会了解到的一个事实就是,Spark是使用Scala语言进行编程的,而Scala语言的典型特征,就是简洁优雅,要知道,在早期的Spark版本当中,核心代码仅3万行搞定。那么学习Spark,Spark Scala基础需要掌握些什么呢?今天我们就来仔细聊一聊。

首先,我们必须要申明一点,Spark在实际使用上,是支持多种语言的,包括Scala、Java、Python等,但是从性能以及代码简洁性来说,Scala是最佳的选择。并且掌握了Scala语言,对于读懂Spark的源码也很有帮助。

Spark Scala基础

Scala是函数式编程,继承了很多其他语言的特点,同时也具有自己的特性。学习Scala语言,首先需要明白什么是函数式编程。

函数式编程,一般有两种指导概念:

第一种:函数式头等值

函数式头等值,意思就是函数式有值的,并且可以作为参数来传递。这与传统的语言中的函数是不同的,传统语言函数可以理解为一个操作或者功能,但是在Scala当中,函数式是可以作为参数传递的。

第二种理念:程序的操作应该把输入值映射为输出值而不是修改原先数据。

比如我们操作一个字符串,当我们执行replace操作后,形成的是一个新的字符串。而不是在原先的字符串的基础上修改而成。这一点在Spark框架当中的数据处理逻辑当中也是有所体现的。

在Scala当中,方法与环境的唯一交流方式是获取参数和返回结果。同样也是以字符串为例,Java的String,replace操作后,会返回一个新的字符串,这就是返回的结果。这里面参数是字符串本身,以及替换和被替换的字符。

总的来说,在Spark学习当中,掌握Spark Scala基础还是非常有必要的,尤其是在Spark源码研读上,Scala是必须要掌握的,也是Spark学习当中提升技术实力的有力工具。成都加米谷大数据,大数据技术知识分享,专业大数据培训班课程,课程详情可联系客服了解!
热点排行
推荐文章
立即申请>>