先下载linux版本的SPARK的源码版,以及maven,然后用tar命令解压spark,maven的tgz包
添加环境变量中添加maven的路径:
使用vi /etc/profile,
然后
export M2_HOME=/usr/soft/maven3.3.9 (根据实际安装目录而定)
export PATH=$PATH:$M2_HOME/bin
然后将maven镜像源改为中国的,这里使用的是开源中国的源,使用cd命令进入maven安装目录下的conf下 ,然后
vi settings.xml
加入如下镜像:
<mirror>
<id>nexus-osc</id>
<mirrorOf>*</mirrorOf>
<name>Nexus osc</name>
<url>http://maven.oschina.net/content/groups/public/</url>
</mirror>
之后进入spark安装目录
使用命令 mvn -Dhadoop.version=2.7.2 -Phadoop-2.6 -DskipTests clean package
命令根据使用不同版本的hadoop有所改变,我用的是2.7.2版本
免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。