温馨提示×

温馨提示×

您好,登录后才能下订单哦!

密码登录×
登录注册×
其他方式登录
点击 登录注册 即表示同意《亿速云用户服务条款》

SequenceFile如何实现读写

发布时间:2022-01-05 14:51:53 来源:亿速云 阅读:108 作者:小新 栏目:云计算

小编给大家分享一下SequenceFile如何实现读写,希望大家阅读完这篇文章之后都有所收获,下面让我们一起去探讨吧!

SequenceFile 读

public static void main(String[] args) throws IOException {
		 Configuration conf = new Configuration();
		 FileSystem fs = FileSystem.get(conf);
		 
		 Path seqFile = new Path("/user/hive/warehouse/abc/seqfile.seq");
		 	 
		 SequenceFile.Reader reader = new SequenceFile.Reader(fs, seqFile, conf);
		 
		 
		 IntWritable key = new IntWritable();
		 Text value = new Text();
		 
		 
		 while(reader.next(key, value)){
			System.out.println(key);
			System.out.println(value);
		 }
		 IOUtils.closeStream(reader);
	}

声明顺序文件的Reader实例后,调用next() 方法迭代读取记录。最后需要关闭reader实例。

如果键值对读取成功,则返回true;如果已经读到文件末尾,则返回false。

SequenceFile 写

public static void main(String[] args) throws IOException {
	
		Configuration conf = new Configuration();
		FileSystem fs = FileSystem.get(conf);
		Path targetPath = new Path("/user/hive/warehouse/test_url");
		
		final Option optPath = SequenceFile.Writer.file(targetPath);
		final Option optKeyClass = SequenceFile.Writer.keyClass(Text.class);
		final Option optValueClass = SequenceFile.Writer.valueClass(BytesWritable.class);
		final SequenceFile.Writer writer = SequenceFile.createWriter(conf, optPath, optKeyClass, optValueClass);
		final Collection<File> listFiles = FileUtils.listFiles(new File("/data1/url/"), new String[]{"log"}, false);
		
		Text key = null;
		BytesWritable value = null;
		for (File file : listFiles) {
			key = new Text(file.getPath());
			value = new BytesWritable(FileUtils.readFileToByteArray(file));
			writer.append(key, value);
		     }
        IOUtils.closeStream(writer);

	}

通过CreateWriter() 静态方法创建SequenceFile 对象,并返回SequenceFile.Writer 实例。

拥有SequenceFile.Writer 实例后,就可以通过 append() 方法在文件末尾追加数据。

最后关闭实例。

看完了这篇文章,相信你对“SequenceFile如何实现读写”有了一定的了解,如果想了解更多相关知识,欢迎关注亿速云行业资讯频道,感谢各位的阅读!

向AI问一下细节

免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。

AI