import java.io.ByteArrayOutputStream;
import java.io.InputStream;
import java.net.URL;
import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.FSDataInputStream;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.fs.FsUrlStreamHandlerFactory;
import org.apache.hadoop.fs.Path;
import org.apache.hadoop.io.IOUtils;
import org.junit.Test;
/**
* 测试hadoop文件系统的API
* @author Administrator
*
*/
public class TestFileSystemAPI {
/**
* 通过filesystem对象API读取HDFS文件数据
*
* @author Administrator
*
* 1.创建configuration对象,注意这里如果涉及到某些参数,需要自己书写指定在src目录下
* 2.利用filesystem的get方法来获取filesystem对象,get方法一共有三种(关键)
* 3.利用filesystem的open方法打开一个数据输入流,方法过程中需要一个path对象的参数传递(关键)
* 4.利用ioutils工具类实现文件的输出
*
*
*
*/
@Test
public void read() throws Exception {
//创建configuration对象,有个默认的加载顺序,先从core-default.xml,再到src目录中的文件,这里
//我们给定了
Configuration conf = new Configuration();
//通过conf的configuration对象创建了该分布式文件系统fs,默认如果不指定文件的话为本地文件系统
FileSystem fs = FileSystem.get(conf);
//定义一个URL的字符串
String file = "hdfs://hadoop01:9000/user/hadoop/data/hello.txt";
//通过一个URL的字符串构建一个path对象
Path path = new Path(file);
//调用fs的open方法创建fsdata输入流可以去读数据
FSDataInputStream in = fs.open(path);
//第一个参数是输入流,第二个参数是输出流,第三个参数是缓冲区大小,第四个参数是复制结束后是
//否关闭数据流
// IOUtils.copyBytes(in, System.out, 1024, true);
byte[] bys = new byte[1024];
int len =0;
while((len=in.read(bys))!=-1){
System.out.print(new String(bys,0,len));
}
}
}
免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。