温馨提示×

温馨提示×

您好,登录后才能下订单哦!

密码登录×
登录注册×
其他方式登录
点击 登录注册 即表示同意《亿速云用户服务条款》

如何进行SparkContext核心源码的解析

发布时间:2022-01-14 16:30:11 来源:亿速云 阅读:129 作者:柒染 栏目:云计算

今天就跟大家聊聊有关如何进行SparkContext核心源码的解析,可能很多人都不太了解,为了让大家更加了解,小编给大家总结了以下内容,希望大家根据这篇文章可以有所收获。

SparkContext在获得了一系列的初始化信息后开始创建并启动TaskScheduler实例:

如何进行SparkContext核心源码的解析

进入createTaskScheduler方法:

如何进行SparkContext核心源码的解析

在上述代码中首先实例化一个TaskSchedulerImpl:

如何进行SparkContext核心源码的解析

接着创建出关键的backend:

如何进行SparkContext核心源码的解析

如何进行SparkContext核心源码的解析

如何进行SparkContext核心源码的解析

回到SparkContext的Standalone的方式的代码处:

如何进行SparkContext核心源码的解析

在上述代码中显示处理调度模式 例如FIFO和Fair的模式。

在代码块的最后返回实例化后的backend, scheduler:

看完上述内容,你们对如何进行SparkContext核心源码的解析有进一步的了解吗?如果还想了解更多知识或者相关内容,请关注亿速云行业资讯频道,感谢大家的支持。

向AI问一下细节

免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。

AI