这篇文章给大家分享的是有关Hadoop如何实现HelloWorld的内容。小编觉得挺实用的,因此分享给大家做个参考,一起跟随小编过来看看吧。
目的:将输入文件的中的Hello,World输出到文件为World Hello.
输入文件内容:
代码实例:
import java.io.IOException;
import java.text.SimpleDateFormat;
import java.util.Date;
import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.Path;
import org.apache.hadoop.io.LongWritable;
import org.apache.hadoop.io.Text;
import org.apache.hadoop.mapreduce.Job;
import org.apache.hadoop.mapreduce.Mapper;
import org.apache.hadoop.mapreduce.Reducer;
import org.apache.hadoop.mapreduce.lib.input.FileInputFormat;
import org.apache.hadoop.mapreduce.lib.input.TextInputFormat;
import org.apache.hadoop.mapreduce.lib.output.FileOutputFormat;
/**
* HelloWorld Job
* 将输入文件中的Hello,World, 以World Hello输出到文件
*/
public class HelloWorld {
/**
* 映射器
* 用于将我们的数据进行预处理
*/
private static class MyMapper extends Mapper<LongWritable, Text, Text, Text>{
@Override
protected void map(LongWritable key, Text value, Context context)
throws IOException, InterruptedException {
System.out.println("mapper running...");
System.out.println("key=" + key.get());
System.out.println("value=" + value.toString());
String[] strValue = value.toString().split(",");
context.write(new Text(strValue[1]), new Text(strValue[0]));
}
}
/**
* 处理器
* 用于将mapper预处理的数据记录进行业务计算,然后输出
*/
private static class MyReducer extends Reducer<Text, Text, Text, Text>{
@Override
protected void reduce(Text key, Iterable<Text> values,
Context context)
throws IOException, InterruptedException {
System.out.println("reducer running...");
System.out.println("key=" + key.toString());
String val = values.iterator().next().toString();
System.out.println("value=" + val);
context.write(key, new Text(val));
}
}
public static void main(String[] args) throws IOException, ClassNotFoundException, InterruptedException {
Configuration configuration = new Configuration();
Job job = new Job(configuration, "helloworld_job");
job.setJarByClass(HelloWorld.class);
job.setMapperClass(MyMapper.class);
job.setReducerClass(MyReducer.class);
job.setInputFormatClass(TextInputFormat.class);
job.setOutputKeyClass(Text.class);
job.setOutputValueClass(Text.class);
FileInputFormat.addInputPath(job, new Path("hdfs://hadoopmaster:9000/in/helloworld.txt"));
String outFileExt = "_" + new SimpleDateFormat("yyyyMMddHHmmss").format(new Date());
FileOutputFormat.setOutputPath(job, new Path("hdfs://hadoopmaster:9000/out/helloworld"+outFileExt));
System.out.println(job.waitForCompletion(true));
}
}
将代码打包, 拷贝到hadoopmaster上:
执行jar包:
hadoop jar helloworld.jar
得到输出文件:
感谢各位的阅读!关于“Hadoop如何实现HelloWorld”这篇文章就分享到这里了,希望以上内容可以对大家有一定的帮助,让大家可以学到更多知识,如果觉得文章不错,可以把它分享出去让更多的人看到吧!
亿速云「云服务器」,即开即用、新一代英特尔至强铂金CPU、三副本存储NVMe SSD云盘,价格低至29元/月。点击查看>>
免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。
原文链接:https://my.oschina.net/indestiny/blog/196254