温馨提示×

温馨提示×

您好,登录后才能下订单哦!

密码登录×
登录注册×
其他方式登录
点击 登录注册 即表示同意《亿速云用户服务条款》

hadoop3 Java client客户端认证的方法是什么

发布时间:2021-12-09 15:31:35 来源:亿速云 阅读:153 作者:iii 栏目:大数据

这篇文章主要介绍“hadoop3 Java client客户端认证的方法是什么”,在日常操作中,相信很多人在hadoop3 Java client客户端认证的方法是什么问题上存在疑惑,小编查阅了各式资料,整理出简单好用的操作方法,希望对大家解答”hadoop3 Java client客户端认证的方法是什么”的疑惑有所帮助!接下来,请跟着小编一起来学习吧!

hadoop集群升级hadoop3,并需要Kerberos认证,hadoop3代码包做了合并,引用jar包如下:

<dependency>
	<groupId>org.apache.hadoop</groupId>
	<artifactId>hadoop-hdfs</artifactId>
	<version>3.1.1</version>
</dependency>
<dependency>
	<groupId>org.apache.hadoop</groupId>
	<artifactId>hadoop-common</artifactId>
	<version>3.1.1</version>
</dependency>

<dependency>
	<groupId>org.apache.hadoop</groupId>
	<artifactId>hadoop-client</artifactId>
	<version>3.1.1</version>
</dependency>

认证方法

Configuration config = new Configuration();
config.set("fs.hdfs.impl", "org.apache.hadoop.hdfs.DistributedFileSystem");
config.set("dfs.client.block.write.replace-datanode-on-failure.policy", "NEVER");

//开始Kerberos认证
String krb5File = "/etc/krb5.conf";
System.setProperty("java.security.krb5.conf", krb5File);
config.set("hadoop.security.authentication", "kerberos");

//添加集群默认配置(非必须)
configuration.addResource(new Path("/etc/hadoop/conf/hdfs-site.xml"));
configuration.addResource(new Path("/etc/hadoop/conf/core-site.xml"));

UserGroupInformation.setConfiguration(config);
try {
	UserGroupInformation.loginUserFromKeytab(kerUser, keyPath);
} catch (IOException e) {
	e.printStackTrace();
}
//结束Kerberos认证

URI uri = new URI("hdfs://集群名或namenode ip地址");
/**
* 代码指定集群名和namenode节点
*conf.set("fs.defaultFS", "hdfs://yiie");
*conf.set("dfs.nameservices","yiie");
*conf.set("dfs.ha.namenodes.yiie", "nn1,nn2");
*conf.set("dfs.namenode.rpc-address.yiie.nn1", "192.168.116.116:8020");
*conf.set("dfs.namenode.rpc-address.yiie.nn2", "192.168.116.116:8020");
*conf.set("dfs.client.failover.proxy.provider.yiie","org.apache.hadoop.hdfs.server.namenode.ha.ConfiguredFailoverProxyProvider");
*conf.setBoolean("dfs.ha.automatic-failover.enabled",true);
*
*/
FileSystem.get(uri, config);

到此,关于“hadoop3 Java client客户端认证的方法是什么”的学习就结束了,希望能够解决大家的疑惑。理论与实践的搭配能更好的帮助大家学习,快去试试吧!若想继续学习更多相关知识,请继续关注亿速云网站,小编会继续努力为大家带来更多实用的文章!

向AI问一下细节

免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。

AI