温馨提示×

温馨提示×

您好,登录后才能下订单哦!

密码登录×
登录注册×
其他方式登录
点击 登录注册 即表示同意《亿速云用户服务条款》

Hadoop学习--上传文件指定复制因子--day04

发布时间:2020-07-23 12:29:20 来源:网络 阅读:1130 作者:zhicx 栏目:大数据

import java.io.ByteArrayOutputStream;

import java.io.FileInputStream;

import java.io.FileOutputStream;

import java.io.InputStream;

import java.net.URL;


import org.apache.hadoop.conf.Configuration;

import org.apache.hadoop.fs.FSDataInputStream;

import org.apache.hadoop.fs.FSDataOutputStream;

import org.apache.hadoop.fs.FileStatus;

import org.apache.hadoop.fs.FileSystem;

import org.apache.hadoop.fs.FileUtil;

import org.apache.hadoop.fs.FsUrlStreamHandlerFactory;

import org.apache.hadoop.fs.Path;

import org.apache.hadoop.io.IOUtils;

import org.junit.Test;


public class modify_replication {

@Test

public void modirepli() throws Exception {

// 创建configuration对象,有个默认的加载顺序,先从core-default.xml,再到src目录中的文件,这

//里我们给定了

Configuration conf = new Configuration();

        //修改当前文件的块大小

        conf.set("dfs.blocksize", "20480");

// 从配置文件中得到该分布式文件系统的对象

FileSystem fs = FileSystem.get(conf);

//修改复制因子,其实是通过创建新的流,在上传新的数据的过程中指定了新的文件副本数的意思,并不

//是真正修改了原有的文件副本数

FSDataOutputStream out = fs.create(new Path("/user/hadoop/data2/kaola-copy2.jpg"), (short)2);

IOUtils.copyBytes(new FileInputStream("E:/zhaopian.jpg"), out, 1024);

out.close();

}

}


向AI问一下细节

免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。

AI