这篇文章主要介绍“怎么通过spark将数据存储到elasticsearch”,在日常操作中,相信很多人在怎么通过spark将数据存储到elasticsearch问题上存在疑惑,小编查阅了各式资料,整理出简单好用的操作方法,希望对大家解答”怎么通过spark将数据存储到elasticsearch”的疑惑有所帮助!接下来,请跟着小编一起来学习吧!
maven依赖
<dependency>
<groupId>org.elasticsearch</groupId>
<artifactId>elasticsearch-spark-20_2.11</artifactId>
<version>6.6.0</version>
</dependency>
package hgs.spark.es
import org.apache.spark.SparkConf
import org.apache.spark.SparkContext
import org.apache.spark.SparkContext._
import org.elasticsearch.spark._
import org.apache.spark.sql.SQLContext
object ViaSparkLoadDataToES {
def main(args: Array[String]): Unit = {
val conf = new SparkConf().setAppName("toEs").setMaster("local")
conf.set("es.resource", "mtest/IT")
conf.set("es.nodes", "bigdata00,bigdata01")
conf.set("es.port", "9200")
val context = new SparkContext(conf)
val sqlContext = new SQLContext(context)
import sqlContext.implicits._
val rdd = context.textFile( "d:\\person",1)
//val jsonrddDF = sqlContext.read.json(rdd)
rdd.saveJsonToEs("mtest/IT")
context.stop()
}
}
到此,关于“怎么通过spark将数据存储到elasticsearch”的学习就结束了,希望能够解决大家的疑惑。理论与实践的搭配能更好的帮助大家学习,快去试试吧!若想继续学习更多相关知识,请继续关注亿速云网站,小编会继续努力为大家带来更多实用的文章!
亿速云「云服务器」,即开即用、新一代英特尔至强铂金CPU、三副本存储NVMe SSD云盘,价格低至29元/月。点击查看>>
免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。
原文链接:http://blog.itpub.net/31506529/viewspace-2637249/