温馨提示×

温馨提示×

您好,登录后才能下订单哦!

密码登录×
登录注册×
其他方式登录
点击 登录注册 即表示同意《亿速云用户服务条款》

windows上如何编译和安装hadoop2

发布时间:2021-11-16 10:19:39 来源:亿速云 阅读:162 作者:小新 栏目:云计算

小编给大家分享一下windows上如何编译和安装hadoop2,相信大部分人都还不怎么了解,因此分享这篇文章给大家参考一下,希望大家阅读完这篇文章后大有收获,下面让我们一起去了解一下吧!

一、编译Hadoop

1.1 部署编译环境

博主曾尝试使用官方提供的依赖软件最新版,被翻来覆去的打了好几次脸,所以,至少在本文成文的时候的各依赖软件的最新版本都基本无法正常编译,所以还是用官方推荐的版本

提供了网盘地址 点我下载各种环境软件 下面的依赖包基于网盘内的文件进行说明

  1. jdk-7u79-windows-x64.exe
    JDK不多说了,直接安装,注意不要把它安装在有空格的路径下面,对没错说的就是 Program Files,直接装到 D:\Java 吧,挺不错的(其实不是不能装,就是配置环境变量会有点麻烦,麻烦越少越好,你懂的)。 需要设置环境变量 JAVA_HOME=jdk的安装目录 另外需要把 %JAVA_HOME%\bin 加入PATH。

  2. apache-maven-3.3.9-bin.zip MAVEN java 的依赖包和编译工具,下载之后解压即可。 需要把 MAVEN的解压目录\bin 加入PATH。

  3. cmake-3.5.2-win32-x86.zip cmake 编译工具,下载后解压即可。 需要把 cmake的解压目录\bin 加入 PATH。

  4. cygwin64-downloaded.zip cygwin是windows下的linux命令行模拟工具。其实只是maven里面写的命令都是基于linux的,所以windows下执行脚本会报错,所以我提供了压缩包版本,直接解压即可。(当然,目录里有安装版,但我觉得应该没必要) 需要把 cygwin的解压目录\bin 加入PATH。

  5. protoc-2.5.0-win32.zip google提供的数据序列化包,压缩包里只有一个 protoc.exe,下载解压即可。 需要把 protoc的解压目录 加入PATH。

  6. zlib-1.2.7.3-binary.zip zlib压缩库,这个网上没有找到二进制版本,这个binary是我自己编译的,所以如果出了问题,咳咳,请下载 source版本自行另外编译。下载解压即可。 需要添加环境变量ZLIB_HOME=zlib的解压目录

  7. vs2010 / winsdk7.1 其实博主一开始是打算用winsdk的,后来发现zlib找不到编译版本只能编译,所以就装了vs2010。所有后来也是用的vs2010的cmd。PS.博主把vs的安装包(英文版)也放了进去(当然大家网上随便找找都可以啦)。

  8. hadoop-common.git.source.zip hadoop 的源码包,其实是博主git下来然后打包的,有条件的同学自行git吧。

    git clone git://git.apache.org/hadoop-common.git

1.2 测试编译环境

菜单里找到 Visual Studio Command Prompt (2010) 这个打开一个命令行窗口,然后输入以下命令进行测试:

java -version
mvn -version
tar
protoc
echo %ZLIB_HOME%

windows上如何编译和安装hadoop2

其实基本上都是PATH没有配置好,在cmd里直接重新设置一下就可以了。验证完不要关哦,我们还在在这个命令行里进行编译。

1.3 编译喽~ 编译之前还要设置一个环境变量,只是编译的平台:

set Platform=x64

哦,忘记了,还要把目录切换到hadoop的源码目录: ##直接输入盘符:可以切换磁盘,如 P:,切到对应磁盘下面才能进行cd操作 cd P:\Code\hadoop-common 然后就可以输入maven命令编译hadoop了。

mvn package -Pdist,native-win -DskipTests -Dtar

好了,运气好的话,等等就可以收编译好的包啦。

windows上如何编译和安装hadoop2

细心的同学可以看一下上面图片有一个“彩蛋”哦*

对了,编译完成之后的文件在 hadoop-common\hadoop-dist\target\hadoop-3.0.0-SNAPSHOT.tar.gz

以上是“windows上如何编译和安装hadoop2”这篇文章的所有内容,感谢各位的阅读!相信大家都有了一定的了解,希望分享的内容对大家有所帮助,如果还想学习更多知识,欢迎关注亿速云行业资讯频道!

向AI问一下细节

免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。

AI