温馨提示×

温馨提示×

您好,登录后才能下订单哦!

密码登录×
登录注册×
其他方式登录
点击 登录注册 即表示同意《亿速云用户服务条款》

常见Hadoop命令使用方法是怎样的

发布时间:2021-11-11 21:57:40 来源:亿速云 阅读:187 作者:柒染 栏目:开发技术

这篇文章将为大家详细讲解有关常见Hadoop命令使用方法是怎样的,文章内容质量较高,因此小编分享给大家做个参考,希望大家阅读完这篇文章后对相关知识有一定的了解。

在学习Hadoop时只有了解了Hadoop命令如何使用,才能更好的对Hadoop进行操作,下面让我们一起来学习Hadoop命令吧。

version

此Hadoop命令用来打印版本信息。
用法:hadoopversion
CLASSNAME

hadoop脚本可用于调调用任何类。
用法:hadoopCLASSNAME
运行名字为CLASSNAME的类。

管理命令
hadoop集群管理员常用的命令。

balancer

运行集群平衡工具。管理员可以简单的按Ctrl-C来停止平衡过程。参考Rebalancer了解更多。
用法:hadoopbalancer[-threshold<threshold>]

命令选项描述
-threshold<threshold>磁盘容量的百分比。这会覆盖缺省的阀值。

daemonlog

此Hadoop命令用来获取或设置每个守护进程的日志级别。
用法:hadoopdaemonlog-getlevel<host:port><name>
用法:hadoopdaemonlog-setlevel<host:port><name><level>

命令选项描述
-getlevel<host:port><name>打印运行在<host:port>的守护进程的日志级别。这个命令内部会连接http://<host:port>/logLevel?log=<name>
-setlevel<host:port><name><level>设置运行在<host:port>的守护进程的日志级别。这个命令内部会连接http://<host:port>/logLevel?log=<name>

datanode

运行一个HDFS的datanode。
用法:hadoopdatanode[-rollback]

命令选项描述
-rollback将datanode回滚到前一个版本。这需要在停止datanode,分发老的hadoop版本之后使用。

dfsadmin

此Hadoop命令用来运行一个HDFS的dfsadmin客户端。
用法:hadoopdfsadmin[GENERIC_OPTIONS][-report][-safemodeenter|leave|get|wait][-refreshNodes][-finalizeUpgrade][-upgradeProgressstatus|details|force][-metasavefilename][-setQuota<quota><dirname>...<dirname>][-clrQuota<dirname>...<dirname>][-help[cmd]]

命令选项描述
-report报告文件系统的基本信息和统计信息。
-safemodeenter|leave|get|wait安全模式维护命令。安全模式是Namenode的一个状态,这种状态下,Namenode
1.不接受对名字空间的更改(只读)
2.不复制或删除块

Namenode会在启动时自动进入安全模式,当配置的块最小百分比数满足最小的副本数条件时,会自动离开安全模式。安全模式可以手动进入,但是这样的话也必须手动关闭安全模式。
-refreshNodes重新读取hosts和exclude文件,更新允许连到Namenode的或那些需要退出或入编的Datanode的集合。
-finalizeUpgrade终结HDFS的升级操作。Datanode删除前一个版本的工作目录,之后Namenode也这样做。这个操作完结整个升级过程。
-upgradeProgressstatus|details|force请求当前系统的升级状态,状态的细节,或者强制升级操作进行。
-metasavefilename保存Namenode的主要数据结构到hadoop.log.dir属性指定的目录下的<filename>文件。

对于下面的每一项,<filename>中都会一行内容与之对应
1.Namenode收到的Datanode的心跳信号
2.等待被复制的块
3.正在被复制的块
4.等待被删除的块
-setQuota<quota><dirname>...<dirname>为每个目录<dirname>设定配额<quota>。

目录配额是一个长整型整数,强制限定了目录树下的名字个数。
命令会在这个目录上工作良好,以下情况会报错:
1.N不是一个正整数,或者
2.用户不是管理员,或者
3.这个目录不存在或是文件,或者
4.目录会马上超出新设定的配额。
-clrQuota<dirname>...<dirname>为每一个目录<dirname>清除配额设定。
命令会在这个目录上工作良好,以下情况会报错:
1.这个目录不存在或是文件,或者
2.用户不是管理员。
如果目录原来没有配额不会报错。
-help[cmd]显示给定命令的帮助信息,如果没有给定命令,则显示所有命令的帮助信息。

jobtracker
此Hadoop命令用来运行MapReducejobTracker节点。
用法:hadoopjobtracker

namenode
运行namenode。有关升级,回滚,升级终结的更多信息请参考升级和回滚。
用法:hadoopnamenode[-format]|[-upgrade]|[-rollback]|[-finalize]|[-importCheckpoint]

命令选项描述
-format格式化namenode。它启动namenode,格式化namenode,之后关闭namenode。
-upgrade分发新版本的hadoop后,namenode应以upgrade选项启动。
-rollback将namenode回滚到前一版本。这个选项要在停止集群,分发老的hadoop版本后使用。
-finalizefinalize会删除文件系统的前一状态。最近的升级会被持久化,rollback选项将再不可用,升级终结操作之后,它会停掉namenode。
-importCheckpoint从检查点目录装载镜像并保存到当前检查点目录,检查点目录由fs.checkpoint.dir指定。

secondarynamenode
运行HDFS的secondarynamenode。参考SecondaryNamenode了解更多。
用法:hadoopsecondarynamenode[-checkpoint[force]]|[-geteditsize]

命令选项描述
-checkpoint[force]如果EditLog的大小>=fs.checkpoint.size,启动Secondarynamenode的检查点过程。如果使用了-force,将不考虑EditLog的大小。
-geteditsize打印EditLog大小。
tasktracker
运行MapReduce的taskTracker节点。
用法:hadooptasktracker。

关于常见Hadoop命令使用方法是怎样的就分享到这里了,希望以上内容可以对大家有一定的帮助,可以学到更多知识。如果觉得文章不错,可以把它分享出去让更多的人看到。

向AI问一下细节

免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。

AI