这篇文章主要介绍Spark如何动态定义schema,文中介绍的非常详细,具有一定的参考价值,感兴趣的小伙伴们一定要看完!
schema
在需要根据不同数据定义不同schema
val schemaInfo = "name age" val fields = schemaInfo.map(item=> item.split(" ") .map(item=>StructField(item,StringType,nullable=true)) val schema = StructType(fields) val rowRDD = peopleRDD.map(_.split(" ").map(attributes=>Row(attributes(0),attributes(1)) val peopleDF = spark.createDataFrame(rowRDD,schema) peopleDF.show()
以上是“Spark如何动态定义schema”这篇文章的所有内容,感谢各位的阅读!希望分享的内容对大家有帮助,更多相关知识,欢迎关注亿速云行业资讯频道!
免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。