Windows10安装Hadoop3.0.0

2021-03-12 14:31

阅读:387

标签:miss   ecif   env   property   环境   ssi   img   bin   hdfs   

前言

准备:

7Zip下载:压缩工具,支持*.tar.gz格式的压缩文件解压

Hadoop下载:http://archive.apache.org/dist/hadoop/core/,笔者选择3.0.0版本下载,官网下载的网速如同断网。。。

winutils下载:https://github.com/steveloughran/winutils,Hadoop不直接支持Windows,使用工具集进行支持。

JDK1.8及其以上版本,自行安装,并配置JAVA_HOME环境变量。

1. 文件准备

hadoop3.0.0:

a. 将原始hadoop-3.0.0下bin目录备份;

 

技术图片

b. 使用winutils中的bin目录整个替换hadoop中的bin目录:

 

技术图片

c. 在hadoop-3.0.0下按目录创建如下文件夹:

技术图片

 JDK1.8:

技术图片 

 2. 配置准备

2.1 配置环境变量:

 技术图片

 

技术图片

 

2.2 编辑hadoop配置文件

a. hadoop配置文件目录:

技术图片

b. 配置hadoop-env.cmd, 这里将JAVA_HOME换成绝对目录(不确定不换可不可以)

技术图片

 

c. core-site.xml 添加如下配置

1 configuration>
2     property>
3        name>fs.default.namename>
4        value>hdfs://localhost:9000value>
5    property>
6 configuration>

d. hdfs-site.xml添加如下配置

 1 configuration>
 2     property>
 3         name>dfs.replicationname>
 4         value>1value>
 5     property>
 6     property> 
 7      name>dfs.permissionsname> 
 8      value>falsevalue> 
 9     property>
10    property>
11        name>dfs.namenode.name.dirname>
12        value>/D:/hadoop-3.0.0/data/namenodevalue>
13    property>
14    property>
15         name>fs.checkpoint.dirname>
16         value>/D:/hadoop-3.0.0/data/snnvalue>
17     property>
18     property>
19         name>fs.checkpoint.edits.dirname>
20         value>/D:/hadoop-3.0.0/data/snnvalue>
21     property>
22        property>
23        name>dfs.datanode.data.dirname>
24        value>/D:/hadoop-3.0.0/data/datanodevalue>
25    property>
26 
27 configuration>

e. mapred-site.xml添加如下配置

1 configuration>
2     property>
3        name>mapreduce.framework.namename>
4        value>yarnvalue>
5    property>
6 
7 configuration>

f. yarn-site.xml添加如下配置

 1 configuration>
 2 
 3    property>
 4         name>yarn.nodemanager.aux-servicesname>
 5         value>mapreduce_shufflevalue>
 6    property>
 7    property>
 8           name>yarn.nodemanager.auxservices.mapreduce.shuffle.classname>  
 9     value>org.apache.hadoop.mapred.ShuffleHandlervalue>
10    property>
11 configuration>

 3. 初始化与运行

使用管理员权限运行命令行

3.1 namenode格式化

使用如下命令进行格式化:

hdfs namenode -format

技术图片

 

 根据提示输入y,格式化成功结果如下:

技术图片

 

 3.2 运行hadoop

进入Hadoop的sbin目录,执行命令:

start-all

技术图片

 

 启动四个服务窗口:

技术图片

 

 四个服务如下图所示:

技术图片

 

启动成功。

 

本文结束。

Windows10安装Hadoop3.0.0

标签:miss   ecif   env   property   环境   ssi   img   bin   hdfs   

原文地址:https://www.cnblogs.com/yelao/p/12577412.html


评论


亲,登录后才可以留言!