温馨提示×

温馨提示×

您好,登录后才能下订单哦!

密码登录×
登录注册×
其他方式登录
点击 登录注册 即表示同意《亿速云用户服务条款》

SpringBatch批处理框架怎么用

发布时间:2021-09-23 14:45:29 来源:亿速云 阅读:162 作者:小新 栏目:编程语言

这篇文章主要介绍SpringBatch批处理框架怎么用,文中介绍的非常详细,具有一定的参考价值,感兴趣的小伙伴们一定要看完!

使用Spring Batch做为批处理框架,可以完成常规的数据量不是特别大的离线计算。

现在写一个简单的入门版示例。

这里默认大家已经掌握了Spring Batch的基本知识,示例只是为了快速上手实践

目标1:程序随机生成字符串,经过Spring Batch后,统一在字符串后加入“----PROCESSED”,并输出

目标2:程序读取txt文件,经过Spring Batch后,统一加入如上字段,并输出

Spring Batch的流程

读取数据----itemReader  处理数据----itemProcess  数据写入----itemWrite

分析目标可知,两个目标的输入数据源不同,处理方式基本一致,数据完成后的写入规则一致

由此可以分段完成代码

itemReader

目标一

这里没有使用Spring Batch自带的集中reader,所以自定义了随机生成字符串的reader

这里代码并不完善,reader会无线循环生成随机字符串,但不影响本次学习的目的

public class MyItemReader implements ItemReader<String> {  @Override  public String read() throws Exception, UnexpectedInputException, ParseException, NonTransientResourceException {    return RandomStringUtils.randomAlphabetic(10);  }}

目标二

由于是读取文件中的内容,所以不用自定义reader实现,可直接使用FlatFileItemReader,在Batch的config中配置即可

@Bean  public ItemReader<String> textReader(){     FlatFileItemReader<String> reader=new FlatFileItemReader<>();    File file = new File("D:\\FTP\\ttest.txt");    reader.setResource(new FileSystemResource(file));    reader.setLineMapper(new LineMapper<String>() {      @Override      public String mapLine(String line, int lineNumber) throws Exception {        return line;      }    });    return reader;   }

itemProcess

这里采用同一种处理方式即可

public class MyItemProcessor implements ItemProcessor<String,String> {   @Override  public String process(String s) throws Exception {    return s+"---------PROCESSED";  }}

itemWriter

也采用同一种即可

public class MyItemWriter implements ItemWriter<String> {  @Override  public void write(List<? extends String> items) throws Exception {    for (String item : items) {      System.out.println(item);    }  }}

配置完成Batch Config

@Configuration@EnableBatchProcessingpublic class BatchConfiguration extends DefaultBatchConfigurer {   @Autowired  public StepBuilderFactory stepBuilderFactory;  @Autowired  public JobBuilderFactory jobBuilderFactory;   @Bean  public MyItemProcessor processor(){    return new MyItemProcessor();  }   @Bean  public ItemWriter<String> writer(){    return new MyItemWriter();  }   @Bean  public ItemReader<String> textReader(){    FlatFileItemReader<String> reader=new FlatFileItemReader<>();    File file = new File("D:\\FTP\\ttest.txt");    reader.setResource(new FileSystemResource(file));    reader.setLineMapper(new LineMapper<String>() {      @Override      public String mapLine(String line, int lineNumber) throws Exception {        return line;      }    });    return reader;  }   @Bean  public ItemReader<String> stringReader(){    return new MyItemReader();  }   @Override  public void setDataSource(DataSource dataSource) {    super.setDataSource(dataSource);  }   @Bean  public Step myStep(){    return stepBuilderFactory        .get("step1")        //这个chunk size是最后调用写入的时候,一次性写入多少条已处理的数据        .<String,String>chunk(10)//        .reader(textReader())        .reader(stringReader())        .processor(processor())        .writer(writer())        .build();   }   @Bean  public Job MyJob(){    return jobBuilderFactory        .get("MyJOB")        .listener(new JobExecutionListenerSupport(){          //所有处理结束后调用          @Override          public void afterJob(JobExecution jobExecution) {            if(jobExecution.getStatus() == BatchStatus.COMPLETED){              System.out.println("OK");            }          }        })        .flow(myStep())        .end()        .build();  }}

以上是“SpringBatch批处理框架怎么用”这篇文章的所有内容,感谢各位的阅读!希望分享的内容对大家有帮助,更多相关知识,欢迎关注亿速云行业资讯频道!

向AI问一下细节

免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。

AI