Hadoop windows编译:

能够略过这一段,直接下载hadoo2.7.1 bin文件。我的资源里有终于生成的winutils.exe和一些native code,放在bin文件夹即可了

參考building.txt以及http://wiki.apache.org/hadoop/Hadoop2OnWindows,编译条件:

* Windows System - win8

* JDK 1.7+ - jdk1.8

* Maven 3.0 or later - maven 3.3

* Findbugs 1.3.9 (if running findbugs) - None

* ProtocolBuffer 2.5.0 - 2.5 build by vs2013

* CMake 2.6 or newer - cmake3.3

* Windows SDK 7.1 or Visual Studio 2010 Professional - vs2010

* Windows SDK 8.1 (if building CPU rate control for the container executor)

* zlib headers (if building native code bindings for zlib)

* Internet connection for first build (to fetch all Maven and Hadoop dependencies)

* Unix command-line tools from GnuWin32: sh, mkdir, rm, cp, tar, gzip. These

  tools must be present on your PATH.

1. Unix command-line tools: http://git-scm.com/download/win

PATH设置环境变量C:\Program Files (x86)\Git\cmd;C:\Program Files (x86)\Git\bin

想用gnuwin32的话,hosts文件须要加入(国内訪问不了)

216.34.181.96 getgnuwin32.sourceforge.net

2. protocolbuffer 2.5.0 能够用vs2010/vs2013编译,几个project须要加上 /FS

加上,#include <algorithm>

watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQv/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70/gravity/SouthEast">

编译好的protoc.exe / libprotobuf.lib / libprotobuf-lite.lib / libprotoc.lib 放到c:/windows,打开CMD输入protoc,

3. 拷贝zlib1.dll(网上能够下载到,最好用1.2.7版本号的)到C:/windows

4. 按编译过程中提示的错误信息。把C:\Java\jdk1.8.0_51\lib\tools.jar复制到C:\Java\jdk1.8.0_51\lib\

5. 打开CMD。注意JAVA_HOME文件夹中不要有Program file这样有空格

CALL "%VS100COMNTOOLS%..\..\VC\bin\vcvars32.bat"

set Platform=Win32

set JAVA_HOME=C:\Java\jdk1.8.0_51

cd e:/hadoop-2.7.1-src

mvn package -Pdist,native-win -DskipTests -Dtar

6. mvn能够多试几次,终于tar文件在hadoop-dist\target\

启动Hadoop:

配置hadoop能够全然參照linux下配置,须要注意的是:

1. 涉及到本机文件夹的地方,加上file:///。否则 hdfs namenode -format 会失败

file:///e:/nutch/hdfs/name

2. 可能会提示Error: missing `server' JVM at `C:\Java\jdk1.8.0_51\bin\server\jvm.dll'.

将C:\Java\jdk1.8.0_51\jre\bin\server 文件夹复制到C:\Java\jdk1.8.0_51\bin\

eclipse导入Nutch2.3:

1. windows下编译,ant runtime和linux区别不大

2. 导入nutch2.3,网上有例程。ant runtime以后再导入例程

打开eclipse。new - java project - ,基本就

能够finish了,还会有一些bug:

watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQv/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70/gravity/SouthEast">

3. Run as - java appliction, 选择InjectorJob

watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQv/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70/gravity/SouthEast">

4. 执行成功,先执行hadoop

5. InjectorJob: java.lang.NullPointerException

 at java.lang.ProcessBuilder.start(Unknown Source)

,同一时候HADOOP_HOME/bin增加到PATH能够解决

也许须要重新启动一下eclipse:)



最新文章

  1. deployment与Web应用程序部署
  2. UIPickerView的使用(二)
  3. ASP.Net的两种开发模式
  4. java web 之 SpringMVC4.x配置
  5. 20145330第八周《Java学习笔记》
  6. [转]解决vista和win7在windows服务中交互桌面权限问题:穿透Session 0 隔离
  7. java初学。加载图片
  8. bat定时执行,清除PHP缓存
  9. Mysql主从复制,读写分离
  10. 【网络流#6】POJ 3041 Asteroids 二分图最大匹配 - 《挑战程序设计竞赛》例题
  11. Oracle_Q&amp;A_04
  12. Silverlight Visifire控件 .net后台控制aspx页面控件的显示与隐藏,动态给控件赋值,选定默认值的设定
  13. Java中常见的几种类型转换
  14. Delphi 能不能从Ring 3进入Ring 0
  15. javascript 深入浅出 (未完成4-17)
  16. Github管理自己的代码-远程篇
  17. 12个必备的JavaScript装逼技巧
  18. NodeJS二进制包安装和快捷键配置(适用于U盘版安装配置)
  19. python函数之基础
  20. 【C++ 模板迭代器实例/半素数】

热门文章

  1. 图像分割loss集合
  2. Java的9种基本数据类型以及封装类
  3. PAT Basic 1049
  4. python基础学习笔记——包
  5. python27 mysqldb window install
  6. STM32F407 ADC 个人笔记
  7. 【LeetCode】Pancake Sorting(煎饼排序)
  8. TOJ 假题之 Cow Brainiacs
  9. ffmpeg的函数av_samples_get_buffer_size分析,对齐的意思
  10. Codeforces 545E. Paths and Trees[最短路+贪心]