温馨提示×

温馨提示×

您好,登录后才能下订单哦!

密码登录×
登录注册×
其他方式登录
点击 登录注册 即表示同意《亿速云用户服务条款》

sqoop2安装启动

发布时间:2020-06-08 15:28:50 来源:网络 阅读:568 作者:王上京小伙 栏目:大数据

(1)安装环境

         操作系统:Linux(centos6.5)

         JDK版本:1.7.0_45

         Hadoop版本:hadoop2.6.0

         Sqoop2版本:sqoop-1.99.4-bin-hadoop200

         hadoop安装目录:/usr/local/hadoop/hadoop-2.2.0

         Sqoop2安装目录:/usr/local/sqoop/sqoop-1.99.4-bin-hadoop200

         Hadoop和Sqoop都是同一个用户hadoop下面,hadoop用户的的家目录:/home/hadoop


       (2)修改Sqoop2的配置文件

          1、首先修改配置文件/home/hadoop/sqoop-1.99.4-bin-hadoop200/server/conf/sqoop.properties指定hadoop的配置文件所属路径。

          将原来的如下配置:

  1. # Hadoop configuration directory  

  2. org.apache.sqoop.submission.engine.mapreduce.configuration.directory=/etc/hadoop/conf/  

             修改为:

  1. # Hadoop configuration directory  

  2. org.apache.sqoop.submission.engine.mapreduce.configuration.directory=/usr/local/hadoop/hadoop-2.6.0/etc/hadoop/  

               2、修改配置文件/home/hadoop/sqoop-1.99.4-bin-hadoop200/server/conf/catalina.properties。

              这里即时把/home/hadoop/hadoop-2.2.0/share/hadoop下全部的*.jar包加入到sqoop2的类路径中去。

          将原来的如下配置:


  1. common.loader=${catalina.base}/lib,${catalina.base}/lib/*.jar,${catalina.home}/lib,${catalina.home}/lib/*.jar,${catalina.home}/../lib/*.jar,/usr/lib/hadoop/*.jar,/usr/lib/hadoop/lib/*.jar,/usr/lib/hadoop-hdfs/*.jar,/usr/lib/hadoop-hdfs/lib/*.jar,/usr/lib/hadoop-mapreduce/*.jar,/usr/lib/hadoop-mapreduce/lib/*.jar,/usr/lib/hadoop-yarn/*.jar,/usr/lib/hadoop-yarn/lib/*.jar  

             修改为:


  1. common.loader=${catalina.base}/lib,${catalina.base}/lib/*.jar,${catalina.home}/lib,${catalina.home}/lib/*.jar,${catalina.home}/../lib/*.jar,/usr/local/hadoop/hadoop-2.6.0/share/hadoop/common/*.jar,/usr/local/hadoop/hadoop-2.6.0/share/hadoop/common/lib/*.jar,/usr/local/hadoop/hadoop-2.6.0/share/hadoop/hdfs/*.jar,/usr/local/hadoop/hadoop-2.6.0/share/hadoop/hdfs/lib/*.jar,/usr/local/hadoop/hadoop-2.6.0/share/hadoop/mapreduce/*.jar,/usr/local/hadoop/hadoop-2.6.0/share/hadoop/mapreduce/lib/*.jar,/usr/local/hadoop/hadoop-2.6.0/share/hadoop/tools/*.jar,/usr/local/hadoop/hadoop-2.6.0/share/hadoop/tools/lib/*.jar,/usr/local/hadoop/hadoop-2.6.0/share/hadoop/yarn/*.jar,/usr/local/hadoop/hadoop-2.6.0/share/hadoop/yarn/lib/*.jar,/usr/local/hadoop/hadoop-2.6.0/share/hadoop/httpfs/tomcat/lib/*.jar


       (3)修改环境变量

直接修改~/.bashrc在文件末尾追加如下内容即可:   

  1. export SQOOP_HOME=/usr/local/sqoop/sqoop-1.99.4-bin-hadoop200    

  2. export PATH=$SQOOP_HOME/bin:$PATH    

  3. export CATALINA_HOME=$SQOOP_HOME/server    

  4. export LOGDIR=$SQOOP_HOME/logs  


  当然完成上述修改后需要在hadoop用户下执行命令来让配置即可生效:


启停sqoop-server:

$SQOOP2_HOME/bin/sqoop.sh server start
$SQOOP2_HOME/bin/sqoop.sh server stop
或者
$SQOOP2_HOME/bin/sqoop2-server start
$SQOOP2_HOME/bin/sqoop2-server stop

验证是否启动成功:

方式一:jps查看进程: Bootstrap 
方式二:http://hadoop000:12000/sqoop/version

方式三:wget -qO - hadoop000:12000/sqoop/version

启动sqoop客户端:

$SQOOP2_HOME/bin/sqoop.sh client
或者
$SQOOP2_HOME/bin/sqoop2-shell

 

为客户端配置服务器

sqoop:000> set server --host hadoop000 --port 12000 --webapp sqoop

查看服务器端信息:

sqoop:000> show server --all




向AI问一下细节

免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。

AI