　　在window系统开发程序时，远程linux服务器上的hadoop速度很慢，影响开发效率，能不能在本地搭建hadoop环境的？答案肯定的，且看下文如何在window上部署hadoop；

（源文地址：https://www.cnblogs.com/lfhappy/p/11482195.html）

1、下载hadoop(建议下载稳定版本):http://mirror.bit.edu.cn/apache/hadoop/common/stable/

2、hadoop需要JDK,如果已经安装，跳过此步骤，还没有，需要安装JDK-->配置JAVA_HOME

3、解压下载好的hadoop安装包到指定的位置。

==》没有JKD则会报异常: Caused by: java.io.FileNotFoundException: HADOOP_HOME and hadoop.home.dir are unset.

4、GitHub上下了个3.1的winutils.exe,链接https://github.com/s911415/apache-hadoop-3.1.0-winutils/blob/master/bin/hadoop.dll覆盖原bin目录下面的内容即可

5、配置信息

　　==>首先配置环境变量HADOOP_HOME：[安装位置]，再配置系统变量path中添加%HADOOP_HOME%\bin

5.1 hadoop-env.sh

修改JDK的路径

@rem The java implementation to use. Required.

set JAVA_HOME=D:\Java\JDK1.8

5.2 mapred-site.xml --配置调度框架名称

 <configuration>

   <property>

     <name>mapreduce.framework.name</name>

     <value>yarn</value>

   </property>

 </configuration>

5.3 core-site.xml--配置NameNode访问名字

 <configuration>

   <property>

     <name>fs.default.name</name>

     <value>hdfs://localhost:9001</value>

   </property>

 </configuration>

5.4 hdfs-site.xml--分布式系统高可用配置

 <configuration>

   <property>

     <name>dfs.replication</name>

     <value>1</value>

   </property>

   <property>

     <name>dfs.namenode.name.dir</name>

     <value>../dfs/name</value>

   </property>

   <property>

     <name>dfs.datanode.data.dir</name>

     <value>../dfs/data</value>

   </property>

 </configuration>

 <!--注释不用复制

 * dfs.namenode.name.dir，dfs.datanode.data.dir

 必须重新配置，否则搭建成功后，下次重新运行直接报错，因为默认数据文件都是放置在tmp目录下，这个目录中文件会在服务器关闭情况下删除

 * 路径从bin当前目录下开始算起.写先对路径，或者以“/”开头写绝对路径

 -->

5.5 yarn-site.xml

 <configuration>

 <!-- Site specific YARN configuration properties -->

   <property>

     <name>yarn.nodemanager.aux-services</name>

     <value>mapreduce_shuffle</value>

   </property>

 </configuration>

6、cmd运行hadoop

说明window下hadoop部署成功

注：在本地不需要启动hadoop。

7、本地如果需要启动hadoop

1.运行cmd窗口，切换到hadoop的bin目录执行hdfs namenode -format。

2.运行cmd窗口，切换到hadoop的sbin目录，执行start-all.cmd。

巴特西

windows上部署hadoop(单机版)

在window系统开发程序时，远程linux服务器上的hadoop速度很慢，影响开发效率，能不能在本地搭建hadoop环境的？答案肯定的，且看下文如何在window上部署hadoop；

1、下载hadoop(建议下载稳定版本):http://mirror.bit.edu.cn/apache/hadoop/common/stable/

最新文章

热门文章