本篇文章给大家分享的是有关Spark2.3.1使用技巧是什么样的，小编觉得挺实用的，因此分享给大家学习，希望大家阅读完这篇文章后可以有所收获，话不多说，跟着小编一起来看看吧。
计算
安全
数据库
网络和加速
企业服务
Spark 2.3.1 使用技巧Spark-SQL 读取JSON文件时反射表头case class StudentInfo(id:Long,name:String,age:Int)
val example = spark.read.json("/data/result.json").as(StudentInfo)
example.show()schema 在需要根据不同数据定义不同schema
val schemaInfo = "name age"
val fields = schemaInfo.map(item=> item.split(" ")
.map(item=>StructField(item,StringType,nullable=true))
val schema = StructType(fields)
val rowRDD = peopleRDD.map(_.split(" ").map(attributes=>Row(attributes(0),attributes(1))
val peopleDF = spark.createDataFrame(rowRDD,schema)
peopleDF.show()Spark 2.3.1 on YARNspark-submit 限制参数未生效因为在spark-submit时配置的executor-memory 2g等没有生效，后来问同事说他也碰到这样的问题，解决方案就是动态的分配executor
--conf spark.yarn.maxAppAttempts=1 --conf spark.dynamicAllocation.minExecutors=2 --conf spark.dynamicAllocation.maxExecutors=4 --conf spark.dynamicAllocation.initialExecutors=4以上就是Spark2.3.1使用技巧是什么样的，小编相信有部分知识点可能是我们日常工作会见到或用到的。希望你能通过这篇文章学到更多知识。更多详情敬请关注亿速云行业资讯频道。
亿速云「云服务器」，即开即用、新一代英特尔至强铂金CPU、三副本存储NVMe SSD云盘，价格低至29元/月。点击查看>>
免责声明：本站发布的内容（图片、视频和文字）以原创、转载和分享为主，文章观点不代表本网站立场，如果涉及侵权请联系站长邮箱：is@yisu.com进行举报，并提供相关证据，一经查实，将立刻删除涉嫌侵权内容。
原文链接：https://my.oschina.net/u/4725115/blog/4930405
