Windows上安装运行Spark

2021-05-23 12:30

阅读:563

标签:microsoft   shell   park   路径   必须   load   否则   ado   运行   

1.下载Scala: https://www.scala-lang.org/download/

①注意:必须下载官方要求的JDK版本,并设置JAVA_HOME,否则后面将出现很多麻烦!

技术图片

②Scala当前最新版本为

技术图片

 

2.安装后在cmd中输入scala出现如下提示表示成功

技术图片

 

3.下载Spark:http://spark.apache.org/downloads.html

技术图片

4.进入spark-2.3.3-bin-hadoop2.7\bin,cmd中输入spark-shell

①出现下面错误,表示需要安装python。安装时选择加到系统路径中,安装完cmd中输入python验证是否安装成功。

技术图片

②出现下面错误,表示找不到Hadoop。需要安装Hadoop并设置HADOOP_HOME的系统路径。关于Windows下的Hadoop安装,可以参考《Windows上安装运行Hadoop》。

技术图片

③出现下面的WARN可以不用理会,正常使用。

技术图片

如果实在受不了WARN的话,则在spark-2.3.3-bin-hadoop2.7\conf\log4j.properties(默认是有template后缀的,直接去掉这个后缀)中增加

log4j.logger.org.apache.hadoop.util.NativeCodeLoader=ERROR

④屏蔽后的显示

技术图片

 

以上。

Windows上安装运行Spark

标签:microsoft   shell   park   路径   必须   load   否则   ado   运行   

原文地址:https://www.cnblogs.com/chevin/p/11064854.html

上一篇:window.postmessage

下一篇:C#网页 截图


评论


亲,登录后才可以留言!