在线精品99_中国九九盗摄偷拍偷看_91免费版在线观看_91.app_91高清视频在线_99热最新网站

如何进行JobScheduler内幕实现

131次阅读
没有评论

共计 1107 个字符,预计需要花费 3 分钟才能阅读完成。

本篇文章给大家分享的是有关如何进行 JobScheduler 内幕实现,丸趣 TV 小编觉得挺实用的,因此分享给大家学习,希望大家阅读完这篇文章后可以有所收获,话不多说,跟着丸趣 TV 小编一起来看看吧。

在 spark stream 程序中的一条关键的语句就是:ssc.start()

1,跟踪进入 StreamingContext 的 start 方法,有一句非常关键的语句 scheduler.start(),是个 JobScheduler(spark stream 用来 job 调度的)

进行 job 调度的入口!

2,计入 JobScheduler 的 start 方法。

在这个方法中几个关键的点是:

eventLoop.start() 一个事件循环器,用于响应其它组件发来的事件 ( 包括 job 的启动,完成,以及错误报告)。

receiverTracker.start() 控制了整个 receiver 的生成,与数据的接受

jobGenerator.start() 真正开始进行 job 的生成
 

在这个方法中也维护了一个事件处理的循环器 eventLoop,用于处理各种事件

其中最为关键的事件是 GenerateJobs(time),这个事件是进行生成 job 的事件!!

跟踪计入 generateJobs(time)

jobScheduler.receiverTracker.allocateBlocksToBatch(time) 为当前的 bath 分发收到的数据 Blocks。

graph.generateJobs(time):根据当前编写的程序的 output 动作生成相应的 job 并封装进入集合中。

最终通过

提交作业到 executor

在回去看看 jobGenerator.start() 中的 startFirstTime()

private def startFirstTime() { val startTime = new Time(timer.getStartTime())
 graph.start(startTime - graph.batchDuration)
 timer.start(startTime.milliseconds)
 logInfo(Started JobGenerator at   + startTime)
}

第一次启动会启动一个定时器,该定时器会根基 duration bath 不断的的给 jobGenerator 中的消息循环体!


在 jobGenerator 中的消息循环体就会不断的去除消息进行处理

以上就是如何进行 JobScheduler 内幕实现,丸趣 TV 小编相信有部分知识点可能是我们日常工作会见到或用到的。希望你能通过这篇文章学到更多知识。更多详情敬请关注丸趣 TV 行业资讯频道。

正文完
 
丸趣
版权声明:本站原创文章,由 丸趣 2023-08-25发表,共计1107字。
转载说明:除特殊说明外本站除技术相关以外文章皆由网络搜集发布,转载请注明出处。
评论(没有评论)
主站蜘蛛池模板: 亚洲最大色网站 | 国产综合精品一区二区 | 成人特级毛片69免费观看 | www.夜夜撸.com| 久久99精品国产免费观看 | 四虎永久网址影院 | 国产日本三级 | 精品无人码麻豆乱码1区2区 | 亚洲天堂伊人 | 成年人网站在线 | 成人啪啪免费视频 | 丰满少妇人妻无码专区 | 一级做a爰片性色毛片新版的 | 拍拍拍免费视频 | 青青草福利 | 在线成人播放毛片 | 护士精品一区二区三区 | 四虎影视免费永久在线观看 | 永久天堂网 av手机版 | 自拍偷拍亚洲 | 美美女高清毛片视频黄的一免费 | 欧美人与动人物牲交免费观看久久 | 亚洲日本va午夜在线电影 | h无码精品3d动漫在线观看 | 亚洲人成网站在线播放观看 | 特级淫片大乳女子高清视频 | 美女视频黄频a免费高清不卡软件 | 欧美日韩视频在线 | 久久久噜噜噜久久 | 精品三级久久久久电影网1 精品三区 | 手机看片久久高清国产日韩 | 欧美亚洲综合一区 | 久久亚洲色www成人欧美 | 特黄一级视频 | 久草新视觉 | 亚洲啪在线 | 人妻少妇精品视频专区 | 国产熟人av一二三区 | 久久这里只有精品66 | 中文字幕日本不卡 | 日本α级毛片视频免费观看 |