小编给大家分享一下spark mllib中数据降维之如何实现主成分分析,希望大家阅读完这篇文章之后都有所收获,下面让我们一起去探讨吧!
package spark.DataDimensionReduction
import org.apache.spark.mllib.linalg.Vectors
import org.apache.spark.mllib.linalg.distributed.RowMatrix
import org.apache.spark.{SparkConf, SparkContext}
/**
* 数据降维
* 主成分分析PCA
* 设法将原来具有一定相关行(比如 P个指标)的指标
* 重新组合成一组新的互相无关的综合指标来代替原来的指标,从而实现数据降维的目的
* Created by eric on 16-7-24.
*/
object PCA {
val conf = new SparkConf() //创建环境变量
.setMaster("local") //设置本地化处理
.setAppName("PCA") //设定名称
val sc = new SparkContext(conf)
def main(args: Array[String]) {
val data = sc.textFile("./src/main/spark/DataDimensionReduction/a.txt")
.map(_.split(" ").map(_.toDouble))
.map(line => Vectors.dense(line))
val rm = new RowMatrix(data)
val pc = rm.computePrincipalComponents(3)//提取主成分,设置主成分个数为3
val mx = rm.multiply(pc)//创建主成分矩阵
mx.rows.foreach(println)
}
}
a.txt
1 2 3 4 5 6 7 8 9 0 8 7 6 4 2 1
看完了这篇文章,相信你对“spark mllib中数据降维之如何实现主成分分析”有了一定的了解,如果想了解更多相关知识,欢迎关注亿速云行业资讯频道,感谢各位的阅读!
亿速云「云服务器」,即开即用、新一代英特尔至强铂金CPU、三副本存储NVMe SSD云盘,价格低至29元/月。点击查看>>
免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。
原文链接:https://my.oschina.net/sunmin/blog/723854